(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】
(24)【登録日】2024-11-18
(45)【発行日】2024-11-26
(54)【発明の名称】撮像制御装置、撮像制御方法、プログラム、撮像装置
(51)【国際特許分類】
H04N 23/611 20230101AFI20241119BHJP
H04N 23/63 20230101ALI20241119BHJP
H04N 23/60 20230101ALI20241119BHJP
H04N 5/77 20060101ALI20241119BHJP
H04N 5/92 20060101ALI20241119BHJP
G03B 15/00 20210101ALI20241119BHJP
G02B 7/34 20210101ALI20241119BHJP
G02B 7/36 20210101ALI20241119BHJP
G03B 13/36 20210101ALI20241119BHJP
【FI】
H04N23/611
H04N23/63
H04N23/60 300
H04N5/77
H04N5/92 010
G03B15/00 Q
G02B7/34
G02B7/36
G03B13/36
(21)【出願番号】P 2021543957
(86)(22)【出願日】2020-06-12
(86)【国際出願番号】 JP2020023241
(87)【国際公開番号】W WO2021044692
(87)【国際公開日】2021-03-11
【審査請求日】2023-05-16
(31)【優先権主張番号】P 2019160511
(32)【優先日】2019-09-03
(33)【優先権主張国・地域又は機関】JP
(73)【特許権者】
【識別番号】000002185
【氏名又は名称】ソニーグループ株式会社
(74)【代理人】
【識別番号】110003410
【氏名又は名称】弁理士法人テクノピア国際特許事務所
(74)【代理人】
【識別番号】100116942
【氏名又は名称】岩田 雅信
(74)【代理人】
【識別番号】100167704
【氏名又は名称】中川 裕人
(72)【発明者】
【氏名】齋藤 太一
【審査官】高野 美帆子
(56)【参考文献】
【文献】特表2003-520528(JP,A)
【文献】特開2011-087183(JP,A)
【文献】特開2003-168021(JP,A)
(58)【調査した分野】(Int.Cl.,DB名)
H04N 23/611
H04N 23/63
H04N 23/60
H04N 5/77
H04N 5/92
G03B 15/00
G02B 7/34
G02B 7/36
G03B 13/36
(57)【特許請求の範囲】
【請求項1】
撮像装置の撮像部により得られる撮像画像データに基づいて、
画像内で人によって紹介されている物品である紹介対象、及び
画像内で前記紹介対象を紹介する
人である対象紹介者をそれぞれ被写体として特定する特定部と、
前記紹介対象と、前記対象紹介者と、前記撮像装置のうちの少なくともいずれか2つの位置関係に基づいて、前記紹介対象と前記対象紹介者の一方を対象被写体として選択する選択部と、
前記選択部で前記対象被写体として選択された被写体に対応した撮像制御を行う撮像制御部と、を備えた
撮像制御装置。
【請求項2】
前記選択部は、前記紹介対象と前記対象紹介者の位置関係に基づいて、前記紹介対象と前記対象紹介者の一方を前記対象被写体として選択する
請求項1に記載の撮像制御装置。
【請求項3】
前記選択部は、前記紹介対象と前記撮像装置の位置関係に基づいて、前記紹介対象と前記対象紹介者の一方を前記対象被写体として選択する
請求項1に記載の撮像制御装置。
【請求項4】
前記特定部は、前記撮像画像データに基づいて前記紹介対象を認識することで前記紹介対象を特定する
請求項1に記載の撮像制御装置。
【請求項5】
前記特定部は、前記撮像画像データに基づいて前記対象紹介者の手を認識し、前記手の認識結果に基づいて、前記紹介対象を特定する
請求項1に記載の撮像制御装置。
【請求項6】
前記特定部は、前記手を本来の紹介対象の代替として仮想的に前記紹介対象として特定する
請求項5に記載の撮像制御装置。
【請求項7】
前記特定部は、前記手の状態に基づいて前記紹介対象を特定する
請求項5に記載の撮像制御装置。
【請求項8】
前記選択部は、前記紹介対象と、前記対象紹介者の手の状態による前記紹介対象と前記対象紹介者の位置関係に基づいて、前記紹介対象と前記対象紹介者の一方を前記対象被写体として選択する
請求項5に記載の撮像制御装置。
【請求項9】
前記手の状態とは、前記対象紹介者の手が紹介対象に触れている状態である
請求項7に記載の撮像制御装置。
【請求項10】
前記手の状態とは、前記対象紹介者の手が紹介対象を指し示している状態である
請求項7に記載の撮像制御装置。
【請求項11】
前記選択部は、前記位置関係である、前記紹介対象、前記対象紹介者及び前記撮像装置のうちの少なくともいずれか2つの間の距離関係に基づいて、前記紹介対象と前記対象紹介者の一方を対象被写体として選択する
請求項1に記載の撮像制御装置。
【請求項12】
前記距離関係は、前記紹介対象と前記撮像装置の間の距離である
請求項11に記載の撮像制御装置。
【請求項13】
前記距離関係は、前記対象紹介者と前記紹介対象との間の距離である
請求項11に記載の撮像制御装置。
【請求項14】
前記距離関係は、前記対象紹介者と前記紹介対象と前記撮像装置の間の距離である
請求項11に記載の撮像制御装置。
【請求項15】
前記選択部は、前記紹介対象又は前記対象紹介者の少なくとも一方の領域が前記撮像画像データのフレーム全体に対して占める比率に基づいて前記距離関係を検出する
請求項11に記載の撮像制御装置。
【請求項16】
前記撮像装置と前記紹介対象との距離が所定の値より短い場合に、前記撮像制御が困難である制御困難状態であることを前記対象紹介者へ提示する提示制御を行う提示制御部をさらに備える
請求項1に記載の撮像制御装置。
【請求項17】
前記選択部による選択結果に関連するメタデータを前記撮像画像データに関連付ける関連付け制御を行う関連付け制御部をさらに有する
請求項1に記載の撮像制御装置。
【請求項18】
撮像部と、
前記撮像部により得られる撮像画像データに基づいて、
画像内で人によって紹介されている物品である紹介対象及び
画像内で前記紹介対象を紹介する
人である対象紹介者を特定する特定部と、
前記紹介対象と、前記対象紹介者と、撮像装置のうちの少なくともいずれか2つの位置関係に基づいて、前記紹介対象と前記対象紹介者の一方を対象被写体として選択する選択部と、
前記選択部で前記対象被写体として選択された被写体に対して撮像制御を行う撮像制御部と、を備えた
撮像装置。
【請求項19】
撮像装置の撮像部により得られる撮像画像データに基づいて、
画像内で人によって紹介されている物品である紹介対象及び
画像内で前記紹介対象を紹介する
人である対象紹介者をそれぞれ被写体として特定する特定処理と、
前記紹介対象と、前記対象紹介者と、前記撮像装置のうちの少なくともいずれか2つの位置関係に基づいて、前記紹介対象と前記対象紹介者の一方を対象被写体として選択する選択処理と、
前記選択処理で前記対象被写体として選択された被写体に対応した撮像制御を行う撮像制御処理とを含む
撮像制御方法。
【請求項20】
撮像装置の撮像部により得られる撮像画像データに基づいて、
画像内で人によって紹介されている物品である紹介対象及び
画像内で前記紹介対象を紹介する
人である対象紹介者をそれぞれ被写体として特定する特定処理と、
前記紹介対象と、前記対象紹介者と、前記撮像装置のうちの少なくともいずれか2つの位置関係に基づいて、前記紹介対象と前記対象紹介者の一方を対象被写体として選択する選択処理と、
前記選択処理で前記対象被写体として選択された被写体に対応した撮像制御を行う撮像制御処理と、
を撮像制御装置に実行させるプログラム。
【発明の詳細な説明】
【技術分野】
【0001】
本技術は撮像制御装置、撮像制御方法、プログラム、撮像装置に関し、特に被写体に応じた撮像制御についての技術に関する。
【背景技術】
【0002】
撮像装置で撮像した動画についてのフォーカス制御など、各種の撮像に関する処理を行う技術が知られている。
【先行技術文献】
【特許文献】
【0003】
【発明の概要】
【発明が解決しようとする課題】
【0004】
ところで昨今は、ユーザがデジタルビデオカメラ、或いはスマートフォンなどの撮像装置により、自身で撮像した動画を動画投稿サイトやSNS(Social Networking Service)などへ投稿することが盛んに行われている。
このような環境下では、ユーザ自身が被写体となることが多く、ユーザ自身が撮像装置の操作をすることが難しいため、撮像装置の動作を適切に調整できないことがある。そこで、オートフォーカス等の自動機能を用いることが多いが、適切に動作させることが難しい場合があった。
そこで本開示では、撮像に関する機能を適切に動作させることができるようにする技術を提案する。
【課題を解決するための手段】
【0005】
本技術に係る撮像制御装置は、撮像装置の撮像部により得られる撮像画像データに基づいて、画像内で人によって紹介されている物品である紹介対象及び画像内で前記紹介対象を紹介する人である対象紹介者をそれぞれ被写体として特定する特定部と、前記紹介対象と、前記対象紹介者と、前記撮像装置のうちの少なくともいずれか2つの位置関係に基づいて、前記紹介対象と前記対象紹介者の一方を対象被写体として選択する選択部と、前記選択部で前記対象被写体として選択された被写体に対応した撮像制御を行う撮像制御部とを備える。
紹介対象とは例えば被写体となっている物品、商品等であり、対象紹介者とは例えば被写体となっている人物などである。そして紹介対象と対象紹介者と撮像装置のうちのいずれか2つの位置関係によって紹介対象と対象紹介者のどちらが主たる被写体となっているかを推定して撮像制御を決める。
撮像制御としては、撮像部の撮像動作に関する制御として、例えばオートフォーカス制御、AE(Auto Exposure)制御(絞り制御、SS(Shutter Speed)制御、ゲイン制御)などが想定される。また撮像制御としては、撮像画像データに対する画像処理の制御も考えられ、例えばホワイトバランス処理、コントラスト調整処理などの信号処理制御も想定される。
なお、紹介対象と、対象紹介者と、撮像装置のうちの少なくともいずれか2つの位置関係とは、対象紹介者と紹介対象の位置関係、紹介対象と撮像装置の位置関係、撮像装置と対象紹介者の位置関係、又は対象紹介者と紹介対象と撮像装置の位置関係などが想定される。
【0006】
上記した本技術に係る撮像制御装置においては、前記選択部は、前記紹介対象と前記対象紹介者の位置関係に基づいて、前記紹介対象と前記対象紹介者の一方を前記対象被写体として選択することが考えられる。
紹介対象と対象紹介者の位置関係によって、シーンや状況が推定できる場合があるためそれを利用して対象被写体を選択する。
【0007】
上記した本技術に係る撮像制御装置においては、前記選択部は、前記紹介対象と前記撮像装置の位置関係に基づいて、前記紹介対象と前記対象紹介者の一方を前記対象被写体として選択することが考えられる。
紹介対象と撮像装置の位置関係によって、シーンや状況が推定できる場合があるためそれを利用して対象被写体を選択する。
【0008】
上記した本技術に係る撮像制御装置においては、前記特定部は、前記撮像画像データに基づいて前記紹介対象を認識することで前記紹介対象を特定することが考えられる。
つまり紹介対象となる物品等を画像認識により直接特定する。
【0009】
上記した本技術に係る撮像制御装置においては、前記特定部は、前記撮像画像データに基づいて前記対象紹介者の手を認識し、前記手の認識結果に基づいて、前記紹介対象を特定することが考えられる。
例えば紹介対象が直接特定できなくとも、或いは直接特定しないで、手の認識結果に基づいて間接的に紹介対象を特定することができる。
【0010】
上記した本技術に係る撮像制御装置においては、前記特定部は、前記手を本来の紹介対象の代替として仮想的に前記紹介対象として特定することが考えられる。
例えば手で紹介対象を持っている場合などを想定する場合、手の認識により紹介対象を特定できる。
【0011】
上記した本技術に係る撮像制御装置においては、前記特定部は、前記手の状態に基づいて前記紹介対象を特定することが考えられる。
例えば対象紹介者の身体の一部である手が物品等を持つ、つまむ、掴む等の状態となることで紹介対象を特定する。
【0012】
上記した本技術に係る撮像制御装置においては、前記選択部は、前記紹介対象と、前記対象紹介者の手の状態による前記紹介対象と前記対象紹介者の位置関係に基づいて、前記紹介対象と前記対象紹介者の一方を前記対象被写体として選択することが考えられる。
この場合も手の状態とは、例えば対象紹介者の身体の一部である手が物品等を持つ、つまむ、掴む等の状態であり、これらの状態に伴う位置関係に基づいて対象被写体の選択を行う。
【0013】
上記した本技術に係る撮像制御装置においては、前記手の状態とは、前記対象紹介者の手が紹介対象に触れている状態であることが考えられる。
物品等に手で触れていることで、その物品等を紹介対象として特定する。
【0014】
上記した本技術に係る撮像制御装置においては、前記手の状態とは、前記対象紹介者の手が紹介対象を指し示している状態であることが考えられる。
物品等に対して手で指し示していることで、その物品等を紹介対象として特定する。
【0015】
上記した本技術に係る撮像制御装置においては、前記選択部は、前記位置関係である、前記紹介対象、前記対象紹介者及び前記撮像装置のうちの少なくともいずれか2つの間の距離関係に基づいて、前記紹介対象と前記対象紹介者の一方を対象被写体として選択することが考えられる。
位置関係は、それぞれの間の距離関係と考えることができる。この場合、距離関係やその変化などにより、紹介対象と対象紹介者のどちらが主たる被写体となっているかを推定して撮像制御を決める。
【0016】
上記した本技術に係る撮像制御装置においては、前記距離関係は、前記紹介対象と前記撮像装置の間の距離であることが考えられる。
紹介対象と撮像装置の距離関係によって、シーンや状況が推定できる場合があるためそれを利用して対象被写体を選択する。
【0017】
上記した本技術に係る撮像制御装置においては、前記距離関係は、前記対象紹介者と前記紹介対象との間の距離であることが考えられる。
紹介対象と対象紹介者の距離関係によって、シーンや状況が推定できる場合があるためそれを利用して対象被写体を選択する。
【0018】
上記した本技術に係る撮像制御装置においては、前記距離関係は、前記対象紹介者と前記紹介対象と前記撮像装置の間の距離であることが考えられる。
紹介対象と対象紹介者と撮像装置のそれぞれの距離関係によっても、シーンや状況が推定できる場合があるため、それを利用して対象被写体を選択する。
【0019】
上記した本技術に係る撮像制御装置においては、前記選択部は、前記紹介対象又は前記対象紹介者の少なくとも一方の領域が前記撮像画像データのフレーム全体に対して占める比率に基づいて前記距離関係を検出することが考えられる。
例えば、紹介対象の撮像画像上で占める比率が所定よりも大きい状態となることをもって、紹介対象を対象被写体と判定し、撮像制御を実行する。
【0020】
上記した本技術に係る撮像制御装置においては、前記撮像装置と前記紹介対象との距離が所定の値より短い場合に、前記撮像制御が困難である制御困難状態であることを前記対象紹介者へ提示する提示制御を行う提示制御部をさらに備えることが考えられる。
例えば被写体が近すぎて適切に撮像できない状態をユーザに通知できるようにする。
【0021】
上記した本技術に係る撮像制御装置においては、前記選択部による選択結果に関連するメタデータを前記撮像画像データに関連付ける関連付け制御を行う関連付け制御部をさらに有することが考えられる。
例えばメタデータにより撮像制御の対象として対象被写体がいずれであるかが、後の再生時等の時点でも確認できるようにする。
【0022】
本技術の撮像装置は撮像部と以上の撮像制御装置を有する。例えば撮像装置内の情報処理装置が撮像制御装置として機能する。
【0023】
本技術の撮像方法は、撮像装置の撮像部により得られる撮像画像データに基づいて、画像内で人によって紹介されている物品である紹介対象及び画像内で前記紹介対象を紹介する人である対象紹介者をそれぞれ被写体として特定する特定処理と、前記紹介対象と、前記対象紹介者と、前記撮像装置のうちの少なくともいずれか2つの位置関係に基づいて、前記紹介対象と前記対象紹介者の一方を対象被写体として選択する選択処理と、前記選択部で前記対象被写体として選択された被写体に対応した撮像制御を行う撮像制御処理とを含む撮像方法である。これにより撮像時に撮像制御の対象とすべき被写体を適切に設定できるようにする。
【0024】
本技術に係るプログラムは、このような撮像制御方法に相当する処理を撮像制御装置に実行させるプログラムである。これにより情報処理装置、マイクロコンピュータ等により上述の撮像制御装置の実現を可能とする。
【図面の簡単な説明】
【0025】
【
図1】本技術の実施の形態で用いられる機器の説明図である。
【
図3】実施の形態のコンピュータ装置のブロック図である。
【
図4】第1の実施の形態のシーン判定の第1の説明図である。
【
図5】第1の実施の形態のシーン判定の第2の説明図である。
【
図6】第2の実施の形態のシーン判定の第1の説明図である。
【
図7】第2の実施の形態のシーン判定の第2の説明図である。
【
図8】第3の実施の形態のシーン判定の第1の説明図である。
【
図9】第3の実施の形態のシーン判定の第2の説明図である。
【
図10】第3の実施の形態のシーン判定の第3の説明図である。
【
図11】第3の実施の形態のシーン判定の第4の説明図である。
【
図12】第4の実施の形態のシーン判定の第1の説明図である。
【
図13】第4の実施の形態のシーン判定の第2の説明図である。
【
図14】各実施の形態の処理例のフローチャートである。
【
図15】実施の形態の撮像制御の一例を示す図である。
【
図16】実施の形態の撮像制御の一例を示す図である。
【
図17】第1の実施の形態の処理例のフローチャートである。
【
図18】第2の実施の形態の処理例のフローチャートである。
【
図19】第3の実施の形態の処理例のフローチャートである。
【
図20】第3の実施の形態の変型例の処理例のフローチャートである。
【
図21】第4の実施の形態の処理例のフローチャートである。
【発明を実施するための形態】
【0026】
以下、実施の形態を次の順序で説明する。
<1.撮像制御装置として適用できる機器の構成>
<2.撮像装置の構成>
<3.シーン判定及び撮像に関する制御の概要>
<4.各実施の形態を実現するための処理>
<5.まとめ及び変形例>
なお、一度説明した内容、構造については、以下同一符号を付し、説明を省略するものとする。
【0027】
本技術は、動画の撮像により得られる撮像画像データに基づいて紹介対象及び当該紹介対象を紹介する対象紹介者を特定する。そして例えば、紹介対象と、対象紹介者と、撮像装置のうちの、少なくともいずれか2つの位置関係に基づいて、紹介対象と対象紹介者の一方を対象被写体として選択する。この対象被写体として選択された被写体の領域に適した撮像制御を行うものである。
本実施の形態では、一例として動画投稿サイトやSNS等に投稿される動画の撮像において、紹介対象又は対象紹介者の画像領域について適切な撮像制御を行う撮像装置について説明する。
ここでは、投稿される動画の一例として、動画投稿者が商品を紹介する商品レビュー動画を例に挙げて説明する。
【0028】
そして商品レビュー動画においては、撮像装置により、紹介対象となる商品と当該商品を紹介する対象紹介者が撮像される。対象紹介者は、主に動画投稿者であり、商品レビュー動画において自身で商品を紹介する者である。
本実施の形態では、撮像装置を固定した状態で対象紹介者が自分撮りにより商品レビュー動画の撮像を行う場面が想定されている。
ここで紹介対象とは物品をいい、本実施の形態では物品の一例として商品について説明する。なお、ここでいう物品は商取引の対象とならないものであってもよく、例えば自身で創作した著作物等であってもよい。
【0029】
また実施の形態では、商品レビュー動画は、パフォーマンスシーンと商品紹介シーンから構成されることを想定する。
パフォーマンスシーンは、対象紹介者の自己紹介や商品概要の説明等、対象紹介者のパフォーマンスの撮像を目的とするシーンであり、商品紹介シーンは、商品の形状や動作、商品の実際の使用方法等の撮像を目的とするシーンである。
本実施の形態の撮像装置は、商品レビュー動画がパフォーマンスシーン又は商品紹介シーンの何れであるかを、例えば紹介対象と対象紹介者と撮像装置のうちの少なくともいずれか2つの位置関係に基づいて判定し、各シーンに応じて対象被写体を選択する。そして選択した対象被写体に応じた撮像制御を行う。
【0030】
<1.撮像制御装置として適用できる機器の構成>
以下では、主に撮像装置により本開示に係る撮像制御装置が実現される例を説明する。本開示の実施の形態の撮像制御装置は、各種の機器、特に撮像装置に内蔵される形態をとる。
【0031】
図1は、撮像装置1となりうる機器の例を示している。
撮像装置1となりうる機器は、動画の撮像機能を有する機器であり、デジタルビデオカメラ1Aやデジタルスチルカメラ1B、或いはスマートフォン等の携帯端末1Cなどが想定される。例えば上記に挙げた撮像装置1に撮像制御装置が組み込まれている。
なお、撮像装置1は上記に挙げた例に限られることはなく、撮像制御装置を含みうる機器や撮像制御装置の制御対象となる機器であればよく、他にも各種考えられる。また、撮像制御装置は、撮像装置1に組み込まれている他、別体として設けられていてもよい。
【0032】
撮像装置1では、当該撮像装置1の内部のマイクロコンピュータ等が撮像制御を行う。
撮像制御とは、撮像装置1の撮像に関する制御をいい、例えば被写体光を撮像部のイメージセンサ(撮像素子)に集光させるための光学系や受光動作に関する制御である撮像動作制御や、撮像画像データに対する信号処理に対する制御である撮像画像処理制御のことである。
撮像動作制御には、例えばオートフォーカス制御、AE制御(絞り制御、SS制御、ゲイン制御)、ズーム制御などが想定される。
また撮像画像処理制御には、例えばホワイトバランス処理制御、コントラスト調整処理制御、画像エフェクト処理制御などが想定される。
撮像装置1では、これらの撮像動作制御、撮像画像処理制御に応じて受光・撮像動作や画像信号処理が行われ、撮像画像が出力される。すなわち撮像画像は記録媒体に記録されたり、表示部で表示されたりする。
【0033】
以上のように実施の形態の撮像制御装置として機能する装置は多様であるが、以下では、デジタルビデオカメラ1Aとしての撮像装置1が、本開示の撮像制御装置として実現される例について説明する。
【0034】
<2.撮像装置の構成>
撮像装置1としてのデジタルビデオカメラ1Aの構成例を
図2を参照して説明する。
図2に示すように撮像装置1は、光学系11、ドライバ部12、撮像部13、カメラ信号処理部16、記録制御部17、提示部18、出力部19、操作部20、カメラ制御部21、メモリ部23、センサ部24を有する。
【0035】
光学系11は、ズームレンズ、フォーカスレンズ等のレンズや絞り機構などを備える。この光学系11により、被写体からの光(入射光)が導かれ撮像部13に集光される。
【0036】
ドライバ部12には、例えばズームレンズ駆動モータに対するモータドライバ、フォーカスレンズ駆動モータに対するモータドライバ、絞り機構駆動モータに対するモータドライバ、シャッター駆動モータに対するシャッタードライバ等が設けられている。
ドライバ部12は、カメラ制御部21やカメラ信号処理部16からの指示に応じて駆動電流を対応するドライバに印加し、フォーカスレンズやズームレンズの移動、絞り機構の絞り羽根の開閉、シャッター動作等を実行させる。
【0037】
絞り機構は絞り機構駆動モータによって駆動され、後述する撮像部13への入射光量を制御する。フォーカスレンズはフォーカスレンズ駆動モータによって駆動され、焦点調節に用いられる。ズームレンズはズームレンズ駆動モータによって駆動され、ズームの調節に用いられる。シャッター機構はシャッター駆動モータによって駆動され、シャッター動作が行われる。
【0038】
撮像部13は、例えば、CMOS(Complementary Metal Oxide Semiconductor)型やCCD(Charge Coupled Device)型などのイメージセンサ14(撮像素子)を有して構成される。イメージセンサ14は、被写体の画像を撮像するための撮像画素と、被写体の光像の位相差を検出するための像面位相差画素とから構成される。なお、イメージセンサ14は位相差画素を含んでいなくてもよい。
【0039】
撮像部13では、イメージセンサ14で受光した光を光電変換して得た電気信号について、例えばCDS(Correlated Double Sampling)処理、AGC(Automatic Gain Control)処理などを実行し、さらにA/D(Analog/Digital)変換処理を行う。撮像部13は、デジタルデータとしての撮像信号を、カメラ信号処理部16やカメラ制御部21に出力する。
【0040】
イメージセンサ14は複数の撮像画素を含み、それぞれの撮像画素は受光した光の強度に応じた電荷を蓄える。
イメージセンサ14は、例えばベイヤー配列のカラーフィルタにより覆われていてもよい。これらの撮像画素群が受光した光を光電変換して得た電気信号から撮像信号を読み出すことができる。
イメージセンサ14は、撮像信号をカメラ信号処理部16やカメラ制御部21に出力する。
【0041】
イメージセンサ14は像面位相差画素を含んでいてもよく、像面位相差画素は位相差情報を検出する。像面位相差画素は一対の位相差信号を検出し、撮像部13は、像面位相差画素により検出した一対の位相差信号を出力する。当該位相差信号は例えば撮像装置1から紹介対象や対象紹介者までの距離を算出するための相関演算に用いられる。
なお、必ずしもイメージセンサ14に像面位相差画素を設ける必要はない。撮像装置1から紹介対象である商品や対象紹介者までの距離を算出するためにはイメージセンサ14とは別に配置した専用位相差センサやTOF(Time of Flight)センサなどを用いてもよい。また撮像装置1から商品や対象紹介者までの距離については、距離そのものを検出するだけでなく、距離に相当する値を求めるようにしてもよい。例えば撮像された画像内での商品や対象紹介者の領域サイズ(領域に含まれる画素数)や、フォーカスレンズの位置情報などは、撮像装置1からの距離を間接的に表す情報となる。
【0042】
撮像部13は、位相差信号をカメラ信号処理部16やカメラ制御部21に出力する。
カメラ信号処理部16は、例えばDSP(Digital Signal Processor)等により画像処理プロセッサとして構成される。
カメラ信号処理部16は、撮像部13からのデジタル信号(撮像画像信号)に対して、各種の信号処理を施す。例えばカメラ信号処理部16は、前処理、同時化処理、YC生成処理、各種補正処理、解像度変換処理、コーデック処理等を行う。
【0043】
前処理では、撮像部13からの撮像画像信号に対して、R,G,Bの黒レベルを所定の信号レベルにクランプするクランプ処理や、R,G,Bの色チャンネル間の補正処理等を行う。
同時化処理では、各画素についての画像データが、R,G,B全ての色成分を有するようにする色分離処理を施す。例えば、ベイヤー配列のカラーフィルタを用いた撮像素子の場合は、色分離処理としてデモザイク処理が行われる。
YC生成処理では、R,G,Bの画像データから、輝度(Y)信号および色(C)信号を生成(分離)する。
解像度変換処理では、各種の信号処理をする前又は信号処理が施された画像データに対して、解像度変換処理を実行する。
【0044】
カメラ信号処理部16におけるコーデック処理では、以上の各種処理が施された画像データについて、例えば記録用や通信用の符号化処理、ファイル生成を行う。例えばMPEG-4準拠の動画・音声の記録に用いられているMP4フォーマットなどとしての画像ファイルMFの生成を行う。また静止画ファイルとしてJPEG(Joint Photographic Experts Group)、TIFF(Tagged Image File Format)、GIF(Graphics Interchange Format)等の形式のファイル生成を行うことも考えられる。
【0045】
なお、カメラ信号処理部16は、カメラ制御部21から送信されたメタデータを画像ファイルに付加する処理を行う。
メタデータとしては、カメラ信号処理部16における各種処理のパラメータや後述するセンサ部24で得られた検出情報が含まれ、例えば動画を構成する各フレームに対応して付加されたり、動画全体に対応して付加されたり、或いはシーン単位などの所定の単に対応して付加されたりする。
本実施の形態の場合、カメラ制御部21(撮像制御装置22)は、後述のように商品紹介シーンとパフォーマンスシーンの識別に応じた制御を行うことになるが、それに関連するメタデータも生成され、画像ファイルに付加されることが想定される。
具体的には、各フレームについて商品紹介シーンとパフォーマンスシーンのいずれであるかを示す情報、シーンの識別が成功しているか未識別かを示す情報、紹介対象や対象紹介者の特定の有無の情報、特定された紹介対象や対象紹介者の画像内の領域を示す情報、エラーフラグ(
図18等で後述)などがメタデータとして付加されることが考えられる。
なお、ここではカメラ信号処理部16でメタデータ付加の処理を行う例で説明しているが、メタデータ付加の処理を記録制御部17や出力部19で行う例も考えられる。
【0046】
また
図2では音声処理系については図示を省略しているが、実際には音声収録系、音声処理系を有し、画像ファイルには動画としての画像データとともに音声データが含まれていてもよい。
音声収録を行う場合には、図示しないマイクロフォン等の音声入力部より入力された音声信号が音声処理系においてデジタル音声信号に変換された後、カメラ制御部21に送られる。カメラ制御部21は、該デジタル音声信号を画像信号と対応付けて例えば不揮発性メモリによる記録媒体に記録させる制御を行う。
【0047】
記録制御部17は、例えば不揮発性メモリによる記録媒体に対して記録再生を行う。記録制御部17は例えば記録媒体に対し動画データや静止画データ等の画像ファイルやサムネイル画像等を記録する処理を行う。
なお、記録制御部17は、撮像制御装置22に設けられていてもよい。
【0048】
記録制御部17の実際の形態は多様に考えられる。例えば記録制御部17は、撮像装置1に内蔵されるフラッシュメモリとその書込/読出回路として構成されてもよいし、撮像装置1に着脱できる記録媒体、例えばメモリカード(可搬型のフラッシュメモリ等)に対して記録再生アクセスを行うカード記録再生部による形態でもよい。また撮像装置1に内蔵されている形態としてHDD(Hard Disk Drive)などとして実現されることもある。
【0049】
提示部18は撮像者に対して各種表示を行う表示部を有し、表示部は、例えば撮像装置1の筐体に配置される液晶パネル(LCD:Liquid Crystal Display)や有機EL(Electro-Luminescence)ディスプレイ等のディスプレイデバイスによる表示パネルやビューファインダーとされる。
また提示部18はスピーカー等の音声出力部を有し、カメラ制御部21により読み出されたデジタル音声信号は、カメラ信号処理部16により音声信号に変換した後、音声出力部により出力される。
【0050】
提示部18における表示部は、カメラ制御部21の指示に基づいて表示画面上に各種表示を実行させる。例えば、カメラ信号処理部16で表示用に解像度変換された撮像画像データが供給され、表示部はカメラ制御部21の指示に応じて、当該撮像画像データに基づいて表示を行う。これによりスタンバイ中や記録中の撮像画像である、いわゆるスルー画(被写体のモニタリング画像)が表示される。
また表示部は、記録制御部17において記録媒体から読み出された撮像画像データの再生画像を表示させる。
表示部はカメラ制御部21の指示に基づいて、各種操作メニュー、アイコン、メッセージ等、即ちGUI(Graphical User Interface)としての表示を画面上に実行させる。
【0051】
出力部19は、外部機器との間のデータ通信やネットワーク通信を有線又は無線で行う。
例えば外部の表示装置、記録装置、再生装置等に対して撮像画像データ(静止画ファイルや動画ファイル)の送信出力を行う。
また出力部19はネットワーク通信部であるとして、例えばインターネット、ホームネットワーク、LAN(Local Area Network)等の各種のネットワークによる通信を行い、ネットワーク上のサーバ、端末等との間で各種データ送受信を行うようにしてもよい。
【0052】
操作部20は、ユーザが各種操作入力を行うための入力デバイスを総括して示している。具体的には操作部20は撮像装置1の筐体に設けられた各種の操作子(キー、ダイヤル、タッチパネル、タッチパッド等)を示している。
操作部20によりユーザの操作が検出され、入力された操作に応じた信号はカメラ制御部21へ送られる。
【0053】
カメラ制御部21はCPU(Central Processing Unit)を備えたマイクロコンピュータ(演算処理装置)により構成される。
メモリ部23は、カメラ制御部21が処理に用いる情報等を記憶する。図示するメモリ部23としては、例えばROM(Read Only Memory)、RAM(Random Access Memory)、フラッシュメモリなど包括的に示している。
メモリ部23はカメラ制御部21としてのマイクロコンピュータチップに内蔵されるメモリ領域であってもよいし、別体のメモリチップにより構成されてもよい。
カメラ制御部21はメモリ部23のROMやフラッシュメモリ等に記憶されたプログラムを実行することで、この撮像装置1の全体を制御する。
例えばカメラ制御部21は、撮像部13のシャッタースピードの制御、カメラ信号処理部16における各種信号処理の指示、レンズ情報の取得、ユーザの操作に応じた撮像動作や記録動作、動画記録の開始/終了制御、記録した画像ファイルの再生動作、レンズ鏡筒におけるズーム、フォーカス、露光調整等のカメラ動作、ユーザインタフェース動作等について、必要各部の動作を制御する。
【0054】
メモリ部23におけるRAMは、カメラ制御部21のCPUの各種データ処理の際の作業領域として、データやプログラム等の一時的な格納に用いられる。
メモリ部23におけるROMやフラッシュメモリ(不揮発性メモリ)は、CPUが各部を制御するためのOS(Operating System)や、画像ファイル等のコンテンツファイルの他、各種動作のためのアプリケーションプログラムや、ファームウエア等の記憶に用いられる。
【0055】
カメラ制御部21は撮像制御装置22としての機能を有する。撮像制御装置22は例えば特定部22a、選択部22b、撮像制御部22c、提示制御部22d、関連付け制御部22eとしての機能を有するものとされる。これらの機能はマイクロコンピュータ等としてのカメラ制御部21においてソフトウエア(アプリケーションプログラム)によって実現される。
【0056】
特定部22aは、撮像装置1の撮像部13により得られる撮像画像データに基づいて、被写体である商品及び当該紹介対象を紹介する対象紹介者を特定する処理を行う。例えば特定部22aは、取得した撮像画像データの解析処理を行うことにより商品や対象紹介者の顔を特定する。
ここでいう商品の特定には、撮像画像データ内に映っている被写体から検出された商品から紹介対象となる商品を選択するものだけでなく、例えば、対象紹介者の手の位置や状態等により、商品の位置を推定することも含まれる。
【0057】
選択部22bは、紹介対象である商品と、対象紹介者と、撮像装置1について、例えばいずれか2つの位置関係に基づいて商品と対象紹介者の一方を対象被写体として選択する。より具体的には選択部22bは、この対象被写体の選択のためにシーン判定、即ち現在動画撮像中のシーンがパフォーマンスシーンと商品紹介シーンのいずれであるかの判定を行い、判定したシーンに応じて商品と対象紹介者の一方を対象被写体として選択する。
本開示では、商品、対象紹介者及び撮像装置1の間の位置関係を被写体位置関係と呼ぶが、被写体位置関係は、例えば撮像装置1と商品の距離、商品と対象紹介者の距離、撮像装置1と対象紹介者の距離などに基づいて決定される。
なお、距離は距離そのものでなくともよく、距離と相関のある値を用いても良い。例えば、商品又は対象紹介者の領域が撮像画像のフレーム全体に対して占める比率を距離に相当する値として用いても良い。また、フォーカスレンズの位置情報等を距離に相当する情報として用いても良い。
【0058】
撮像制御部22cは、選択部22bで対象被写体として選択された被写体の領域に適した撮像制御を行う。例えば撮像制御部22cは、対象被写体の領域に適したオートフォーカス制御等の撮像動作制御やホワイトバランス処理制御等の撮像画像処理制御を行う。
【0059】
提示制御部22dは、撮像装置1と商品との距離が所定の値より短い場合に、撮像制御が困難である制御困難状態であることを対象紹介者へ提示する提示制御を行う。例えば提示制御部22dは、状況に応じて、提示部18における表示部でのメッセージ、アイコン等の出力、警告ランプの点灯や点滅などの実行制御を行うことが想定される。
【0060】
関連付け制御部22eは、選択部22bによる選択結果に関連するメタデータを撮像画像データに関連付ける関連付け制御を行う。
選択部22bによる選択結果に関連するメタデータとは、例えば商品紹介シーンとパフォーマンスシーンのいずれであるかを示す情報、シーンの識別が成功しているか未識別かを示す情報、紹介対象や対象紹介者の特定の有無の情報、特定された紹介対象や対象紹介者の画像内の領域を示す情報、対象被写体の情報(対象紹介者60と商品70のいずれが選択されたかの情報)、紹介対象や対象被写体が何か(物品の種類など)の情報、判定不能状態を示すエラーフラグ(
図18等で後述)などが想定される。
【0061】
例えば関連付け制御部22eは、このような選択部22bによる選択結果に関連するメタデータをカメラ信号処理部16に送信することで、カメラ信号処理部16において選択部22bによる選択結果に関連するメタデータが画像ファイルに含まれるようにする。
即ち関連付け制御部22eは、選択部22bのシーン判定や対象被写体選択の結果に応じて、例えばフレーム単位で当該情報をカメラ信号処理部16に提供する。
関連付け制御部22eがこのようにメタデータを提供し、カメラ信号処理部16においてメタデータを画像ファイルに付加する処理を実行させることで、結果的に選択部22bによる選択結果に関連するメタデータが、撮像画像データと同じ記録媒体に記録されたり、同じファイルに入れられて記録、送信等がなされたりするようになる。もちろん画像ファイルとは別のメタデータファイルとして構成され、各メタデータが、画像ファイル及び画像ファイル内の撮像画像データのフレームに関連づけられてもよい。
結果として、商品紹介シーンとパフォーマンスシーンを示すメタデータなど、選択部22bによる選択結果に関連するメタデータについては、撮像画像データに対してフレーム単位で関連づけられる状態となる。
なお選択部22bによる選択結果に関連するメタデータは、撮像画像データのフレームに関連づけられるのではなく、例えばシーン単位で関連づけられてもよい。
【0062】
センサ部24は、撮像装置1に搭載される各種のセンサを包括的に示している。センサ部24としては、例えば位置情報センサ、照度センサ、加速度センサ等が搭載されている。
【0063】
以上の機能を備えた撮像制御装置22を有するデジタルビデオカメラ1Aにより、本技術を実現するための処理が行われる。
【0064】
ところで後述するような撮像制御装置22による制御処理は、デジタルビデオカメラ1Aに限らず、
図1に示したスマートフォン等の携帯端末1Cにおいても実現できる。そこで携帯端末1Cの構成例についても説明しておく。
携帯端末1Cは、例えば
図3に示す構成を備えたコンピュータ装置30として実現できる。
【0065】
図3において、コンピュータ装置30のCPU(Central Processing Unit)31は、ROM( Read Only Memory)32に記憶されているプログラム、または記憶部39からRAM( Random Access Memory )33にロードされたプログラムに従って各種の処理を実行する。RAM33にはまた、CPU31が各種の処理を実行する上において必要なデータなども適宜記憶される。CPU31には、例えばアプリケーションプログラムにより、上述の撮像制御装置22としての機能構成が設けられる。
【0066】
CPU31、ROM32、及びRAM33は、バス34を介して相互に接続されている。このバス34には、入出力インタフェース35も接続されている。
入出力インタフェース35には入力部36、撮像部37、出力部38、記憶部39、通信部40が接続されている。
入力部36はキーボード、マウス、タッチパネルなどよりなる。
撮像部37は、撮像レンズや、絞り、ズームレンズ、フォーカスレンズなどを備えて構成されるレンズ系や、レンズ系に対してフォーカス動作やズーム動作を行わせるための駆動系、さらにレンズ系で得られる撮像光を検出し、光電変換を行うことで撮像信号を生成する固体撮像素子アレイなどから成る。
【0067】
出力部38は、LCD(Liquid Crystal Display)、CRT(Cathode Ray Tube)、有機EL(Electroluminescence)パネルなどよりなるディスプレイ、並びにスピーカーなどよりなる。
例えば出力部38は、CPU31の指示に基づいて表示画面上に各種の画像処理のための画像や処理対象の動画等の表示を実行する。また出力部38はCPU31の指示に基づいて、各種操作メニュー、アイコン、メッセージ等、即ちGUI(Graphical User Interface)としての表示を行う。
記憶部39はHDD(Hard Disk Drive)や固体メモリなどより構成され、各種の情報記憶が行われる。
通信部40は、インターネット等の伝送路を介しての通信処理を行ったり、各種機器との有線/無線通信、バス通信などによる通信を行ったりする。
【0068】
入出力インタフェース35にはまた、必要に応じてドライブ41が接続され、磁気ディスク、光ディスク、光磁気ディスク、或いは半導体メモリなどのリムーバブル記録媒体42が適宜装着される。
ドライブ41により、リムーバブル記録媒体42からは画像ファイル等のデータファイルや、各種のコンピュータプログラムなどを読み出すことができる。読み出されたデータファイルは記憶部39に記憶されたり、データファイルに含まれる画像や音声が出力部38で出力されたりする。またリムーバブル記録媒体42から読み出されたコンピュータプログラム等は必要に応じて記憶部39にインストールされる。
【0069】
このコンピュータ装置30では、例えば本開示の撮像制御装置としての処理を実行するためのソフトウエアを、通信部40によるネットワーク通信やリムーバブル記録媒体42を介してインストールすることができる。或いは当該ソフトウエアは予めROM32や記憶部39等に記憶されていてもよい。
【0070】
なお、コンピュータ装置30は、
図3のように単一で構成されることに限らず、複数のコンピュータ装置がシステム化されて構成されてもよい。複数のコンピュータ装置には、クラウドコンピューティングサービスによって利用可能なサーバ群(クラウド)としてのコンピュータ装置が含まれてもよい。
【0071】
<3.シーン判定の概要>
以下、本技術におけるシーン判定の概要について説明する。ここでは、各シーンに応じて撮像装置1による撮像に対して異なる撮像制御が行われる。本実施の形態では、撮像制御の一例として、主にフォーカス制御対象の切り替えについて説明する。
近年、動画投稿サイトやSNSの普及により個人でも気軽に撮像した動画を投稿することが可能となり、それに伴い、個人で撮像した動画により商品を紹介する商品レビュー動画の投稿者が増加している。
【0072】
このような商品レビュー動画は、主に対象紹介者の自己紹介や商品概要の説明等、対象紹介者のパフォーマンスの撮像を目的とし、商品紹介シーンの前や後に行われることが多いパフォーマンスシーンと、商品の形状や動作、商品の実際の使用方法等の撮像を目的とする商品紹介シーンとから構成されることが多い。
パフォーマンスシーンにおいては、商品を紹介する対象紹介者を対象としてフォーカス制御が行われることが望ましいが、具体的な商品を説明する商品紹介シーンにおいては、商品の形状等が見やすいように、商品を対象としてフォーカス制御が行われることが望ましい。
【0073】
しかしながら、個人で商品レビュー動画を撮像する場合には、商品を紹介する対象紹介者自身で動画の撮像のための操作を行う、つまり自分撮りをすることが多く、撮像装置1は据え置きで撮像されることになる。そのため、対象紹介者が、撮像中に撮像シーンに応じてフォーカス制御の対象を変更する操作を行い、フォーカス制御の対象を切り換えることが難しかった。
また、実際の動画の撮像においては商品に加えて対象紹介者等が映り込むため、どれが紹介する商品かを撮像装置1側で認識することができず、商品紹介シーンにおいてフォーカス制御の対象とすべき商品に合焦させるようなフォーカス制御がされないという問題もある。
【0074】
そこで本技術では、撮像中の撮像画像について、現在、パフォーマンスシーンと商品紹介シーンのどちらのシーンであるかを判定し、各シーンに適した被写体を特定したうえでフォーカス制御等の撮像制御を行う。
【0075】
具体的なフォーカス制御の概要について、
図4から
図13を参照して説明する。
図4と
図5、及び
図6と
図7は、紹介対象、対象紹介者、撮像装置の距離関係を示している。また、
図8から
図13は、商品レビュー動画の撮像において、表示部にスルー画として表示される撮像表示画面50を示している。撮像表示画面50には、商品70を紹介する対象紹介者60と紹介対象である商品70が表示されている。対象紹介者60は、身体の一部として手61と顔62とを有している。
また
図4から
図13では、手61、顔62、商品70を示す部分を説明の便宜上破線で囲まれた領域として示している。
【0076】
まず第1の実施の形態について、
図4及び
図5を参照して説明する。第1の実施の形態では、被写体位置関係から生じる距離関係に応じてシーン判定を行う。
この第1の実施の形態は、撮像装置1から商品70までの距離に基づいてシーンを判定し、各シーンに応じた対象被写体を選択し、撮像制御を行う例である。
なお、商品レビュー動画の撮像時に、商品紹介者は撮像装置1の前に位置して移動することなく一定の位置にいて撮像を行うことが多いが、本実施の形態は、このような場合に適用することができる。
【0077】
撮像装置1から商品70までの距離Locはシーンに応じて変化すると考えることができる。例えば商品レビュー動画の撮像時に、対象紹介者60は、手61に持った商品70を撮像装置1に近付けることで、商品70を目立たせながら説明することがある。
そこで、シーン判定による被写体選択は、商品70と撮像装置1との位置関係、特には距離Locに表れる距離関係に基づいて行うものとする。
なお、ここでいう商品70は撮像制御装置22により特定した紹介対象である。また、商品70が認識できていない場合において、対象紹介者60の手61を商品70に代替して特定する場合も含まれる。即ち本来の紹介対象が商品70であるが、それに代替して対象紹介者60の手61を紹介対象として特定する場合である。これは例えば商品70が小さすぎて画像内で特定できない場合などについて、手61で商品70を持っている状況を想定し、手を商品70とみなして商品70の画像内での位置を特定するということである。
【0078】
図4は商品70から撮像装置1までの距離Locの値が、所定値Lthよりも大きい値である場合を示している。これは撮像装置1から商品70までの距離が比較的離れている状態であるとする。そしてこれは対象紹介者60が商品70を目立たせるように商品70を撮像装置1に近づけるということはしていない状態であることから、対象紹介者60がパフォーマンスを行うパフォーマンスシーンであると考えられる。
そのため、撮像制御装置22は、パフォーマンスを行っている対象紹介者60の顔62を対象被写体として選択し、顔62をターゲットとしてフォーカス制御を行うようにする。これによりパフォーマンスシーンにおいては、視聴者を、話をしている対象紹介者60に注目させるような動画撮像を行うことができる。
なお、対象紹介者60の顔62を対象被写体としてフォーカス制御を行っているが、対象紹介者60の目等を対象被写体としてフォーカス制御を行うこととしてもよい。
【0079】
一方で
図5のように、商品70から撮像装置1までの距離Locの値が、所定値Lth1よりも小さい値である場合、対象紹介者60が撮像装置1に商品70を近づけている状態であると推定でき、対象紹介者60が商品70を紹介している商品紹介シーンであると考えられる。
このような商品紹介シーンでは、撮像制御装置22は商品70を対象被写体として選択し、商品70をターゲットとしてフォーカス制御を行う。これにより、対象紹介者60が紹介しようとしている商品70を合焦させるフォーカス制御が行われることとなり、視聴者を商品70に注目させるような動画撮像を行うことができる。
【0080】
このように、第1の実施の形態では、撮像装置1から商品70までの距離に基づいてシーンを判定し、各シーンに応じた対象被写体を合焦させるフォーカス制御を行う。
【0081】
第2の実施の形態について、
図6及び
図7を参照して説明する。第2の実施の形態も被写体位置関係から生じる距離関係に応じてシーン判定を行うが、この第2の実施の形態は、対象紹介者60と商品70の間の距離に基づいてシーンを判定し、各シーンに応じた対象被写体を選択し、撮像制御を行う例とする。
【0082】
上記
図4,
図5と同じように、例えば商品レビュー動画の撮像時に、対象紹介者60は、手61に持った商品70を撮像装置1に近付けることで、商品70を目立たせながら説明することを想定する。これは、
図6、
図7に示す距離Lhoの変化としてとらえることもできる。つまり対象紹介者60と商品70の間の距離Lhoはシーンに応じて変化すると考えることができる。
そこで、シーン判定による被写体選択は、対象紹介者60と商品70との位置関係、特には距離Lhoに表れる距離関係に基づいて行うものとする。
【0083】
図6は距離Lhoが比較的小さい場合を示している。
撮像装置1においては、撮像装置1から対象紹介者60の距離Lhc、撮像装置1から商品70の距離Locを測定することができ、これにより対象紹介者60と商品70との距離Lhoを求めることができる(Lho=Lhc-Loc)。
この
図6の場合、距離Lhoは所定値Lth2よりも小さい値である場合を示している。これは対象紹介者60から商品70までの距離が比較的近い状態である。
そしてこれは対象紹介者60が、商品70を目立たせるように撮像装置1に近づけるということはしていない状態であることから、対象紹介者60がパフォーマンスを行うパフォーマンスシーンであると考えられる。
そのため、撮像制御装置22は、パフォーマンスを行っている対象紹介者60の顔62を対象被写体として選択し、顔62(又は目等)をターゲットとしてフォーカス制御を行うようにする。これによりパフォーマンスシーンにおいては、視聴者を、話をしている対象紹介者60に注目させるような動画撮像を行うことができる。
【0084】
一方で
図7は、距離Lhoは所定値Lth2よりも大きい値である場合を示している。これは対象紹介者60から商品70までの距離が比較的遠くなった状態である。
そしてこれは対象紹介者60が、商品70を目立たせるように撮像装置1に近づけている状態であることから、対象紹介者60が商品70を紹介している商品紹介シーンであると考えられる。
このような商品紹介シーンでは、撮像制御装置22は商品70を対象被写体として選択し、商品70をターゲットとしてフォーカス制御を行う。これにより、対象紹介者60が紹介しようとしている商品70を合焦させるフォーカス制御が行われることとなり、視聴者を商品70に注目させるような動画撮像を行うことができる。
【0085】
このように、第2の実施の形態では、対象紹介者60から商品70までの距離に基づいてシーンを判定し、各シーンに応じた対象被写体に対応するフォーカス制御を行う。
この第2の実施の形態と第1の実施の形態は、同じく距離関係によってシーン判定を行うものであるが、第2の実施の形態のようにあくまでも対象紹介者60と商品70の距離Lhoで判定する場合、対象紹介者60の動き(位置)に関わらず判定ができるという利点が生ずる。
つまり、第1の実施の形態のシーン判定では、対象紹介者60が撮像装置1に対して動かない(同一距離を保つ)ことが必要となる。対象紹介者60が商品70を手に持って前後に動いたような場合、シーン判定が不正確になる可能性がある。
一方第2の実施の形態の場合、あくまでも対象紹介者60と商品70の距離Lhoに注目して判定することで、対象紹介者60が前後に動く場合でもシーン判定の正確性が維持できる。
【0086】
ところで以上では、距離Lhoに注目し、距離Lhoと所定値Lth2を比較するという例としたが、距離Lhoと距離Locの差分値の変化に注目してシーン判定を行うようにしてもよい。即ち距離Lhoと距離Locの差(又は比)が所定値以上/未満によりパフォーマンスシーンと商品紹介シーンを判定するものである。
【0087】
また以上の例は、商品紹介シーンでは商品70を撮像装置1に近づけるという挙動を想定したが、逆の挙動を想定した方がよい場合もある。
即ちパフォーマンスシーンでは、対象紹介者60は商品70を自分から離しておき、商品紹介シーンでは、対象紹介者60が商品70を手に持つなどして自分に近づけるという挙動をとることも考えられる。
そのような挙動に対処できるように、シーン判定の論理を逆にすることも考えられる。例えば距離Lhoが所定値Lth2より長ければパフォーマンスシーン、距離Lhoが所定値Lth2以下であれば商品紹介シーンなどとする例である。
例えばユーザがいずれのシーン判定の論理を用いるかを選択できるようにしてもよい。
また各距離については撮像装置1からの奥行き方向の距離(深度)に注目したが、対象紹介者60と商品の上下左右方向の距離を加味してもよい。
【0088】
第3の実施の形態について、
図8から
図11を参照して説明する。第3の実施の形態は、対象紹介者60の手61の状態、特には手61と商品70の関係により商品70を特定するとともに、シーン判定を行う例である。
図8及び
図9は、対象紹介者60の手61で商品70を持つ等の状態に基づく対象紹介者60と商品70の位置関係によりシーン判定を行い、各シーンに応じて選択した対象被写体に応じたフォーカス制御を行うことを示している。
ここでの対象紹介者60の手61の状態には、商品70を持った状態だけでなく、商品70をつまむ、掴む、手に乗せる等、商品70に手61が触れる様々な状態が含まれる。
【0089】
図8のように対象紹介者60が商品70を持っていない状態では、対象紹介者60がパフォーマンスを行うパフォーマンスシーンであると考えられる。
そのため対象紹介者60の顔62を対象被写体として、フォーカス制御を行う。これにより、パフォーマンスシーンにおいては、視聴者が、話をしている対象紹介者60に注目するような動画撮像を行うことができる。
【0090】
一方、
図9のように、対象紹介者60が商品70を持っている状態では、商品70を特定できるとともに、対象紹介者60が商品70の具体的な紹介を行う場面、即ち商品紹介シーンであると考えられる。
商品紹介シーンでは、商品70の形状等、商品70の具体的な態様を説明することになるため、商品70を対象被写体としてフォーカス制御等を行う。
これにより、対象紹介者60が紹介しようとしている商品70に合焦させるフォーカス制御が行われることとなり、視聴者が商品70に注目するような動画撮像を行うことができる。
【0091】
このように、第3の実施の形態では、商品70を持つといった対象紹介者60の手61の状態に基づいてシーンを判定し、各シーンに応じた対象被写体に合焦させるフォーカス制御を行う。
【0092】
また第3の実施の形態では、商品70を指さす等の対象紹介者60の手61のジェスチャに基づいて商品70を特定するとともにシーンを判定し、各シーンに応じて選択した対象被写体に適した撮像制御を行うことも考えられる。
ここでいうジェスチャは、対象紹介者60の手61の状態であり、手61の一瞬の状態として静的に検出されるものであってもよいし、手61の動作として動的に検出されるものであってもよい。
【0093】
図10のように対象紹介者60が商品70を指さすといったジェスチャを行っていない状態では、対象紹介者60がパフォーマンスを行うパフォーマンスシーンであると考えられる。
そのため、対象紹介者60の顔62を対象被写体として、フォーカス制御等の撮像制御を行う。これにより、視聴者が、話をしている対象紹介者60に注目するような動画撮像を行うことができる。
【0094】
一方、
図11のように、対象紹介者60が商品70を指さすといったジェスチャを行っている状態は、対象紹介者60が商品70を紹介している商品紹介シーンであると考えられる。
商品紹介シーンでは、特定した商品70を対象被写体とし、商品70に合焦させるフォーカス制御を行う。これにより、視聴者に、対象紹介者60が紹介しようとしている商品70に注目させるような動画撮像を行うことができる。
【0095】
この例では、対象紹介者60が商品70を指さすといったジェスチャに基づいてシーン判定を行い、各シーンに応じて選択した対象被写体にフォーカス制御を行うことで、各シーンに適したフォーカス制御を行うことができる。
手61がジェスチャにより商品70を指し示す状態から、対象被写体60の商品70との相対的な位置関係が規定されるため、このシーン判定による被写体選択は、商品70と対象紹介者60の被写体位置関係に基づいて行われるものといえる。
本例は、例えば商品70が手61で持てない場合や、対象紹介者60が離れた位置にある商品70を紹介する場合等に適している。
【0096】
なお以上の説明では、対象紹介者60が商品70を手に持ったり、指し示したりすることで、紹介対象たる商品70の特定と、シーン判定を行うものとしたが、既に画像内で商品70が特定できている場合もあるし、手の状態により初めて商品70を特定できる場合もあり、これらいずれであってもよい。
例えば商品70が特定できていなくても、対象紹介者60が或る物体を持ったり指し示したりする状態を認識することで、商品70を特定しつつ、シーン判定を行うことができる。
また商品70が特定できている状態であれは、対象紹介者60が、その商品70を持ったり指し示したりする状態を認識することでシーン判定を行うことができる。
【0097】
第4の実施の形態について、
図12及び
図13を参照して説明する。第4の実施の形態は、被写体位置関係により生じる、商品70の領域が撮像画像のフレーム全体に対して占める比率に基づいてシーンを判定し、各シーンに応じた対象被写体に対しフォーカス制御を行う例である。
【0098】
図12のように対象紹介者60が商品70を撮像装置1に近づけていない状態では、撮像表示画面50に占める商品70の比率は大きくない。従って、対象紹介者60が商品70を紹介している状態でないパフォーマンスシーンであると考えられる。
従って、撮像表示画面50に占める商品70の比率が所定値よりも小さいことをもってパフォーマンスシーンと判定し、対象紹介者60の顔62等を対象被写体とするフォーカス制御を行う。これにより、視聴者に、話をしている対象紹介者60に注目させるような動画撮像を行うことができる。
【0099】
一方で
図13のように、対象紹介者60が商品70を手に持つなどして、商品70を撮像装置1に近づけた場合は、撮像表示画面50に占める商品70の比率は大きくなる。この場合は、対象紹介者60が商品70を説明しようとしていることが想定される。
そこで撮像表示画面50に占める商品70の比率が所定値よりも大きくなることをもって商品紹介シーンと判定し、商品70を対象被写体とするフォーカス制御を行う。これにより、視聴者に、商品70に注目させるような動画撮像を行うことができる。
【0100】
このように、第4の実施の形態では、撮像画像の面積に対して占める商品70の面積の比率に基づいてシーンを判定し、各シーンに応じた対象被写体に適したフォーカス制御等の撮像制御を行うことができる。
撮像画像のフレーム全体に対して占める商品70の面積の比率の変化は、商品70と撮像装置1の距離の変化、即ち撮像装置1と商品70との位置関係の変化に応じて生ずる。従ってこのシーン判定による被写体選択は撮像装置1と商品70の被写体位置関係に基づいて行われるものといえる。なお、この場合、対象紹介者60と商品70の被写体位置関係の変化ととらえるようにしてもよい。
【0101】
以上のように、本技術におけるシーン判定及び各シーンに応じた撮像制御には、様々な態様が考えられる。
【0102】
<4.各実施の形態を実現するための処理>
上記の各実施の形態の撮像制御を実現するために行われる撮像制御装置の処理を、
図14から
図21を参照して説明する。
【0103】
まず各実施の形態における処理の全体手順について
図14を参照して説明する。
各実施の形態では、撮像装置1の撮像制御装置22が、撮像画像データ内における紹介対象である商品70及び対象紹介者60を特定し、被写体位置関係に基づいてシーン判定を行う。そして判定したシーンに応じて紹介対象と対象紹介者の一方を対象被写体として選択し、選択した対象被写体に対応するフォーカス制御を行う。
即ち、撮像制御装置22は、撮像画像データから検出される被写体位置関係に基づいて、商品70と対象紹介者60の一方を対象被写体として選択し、当該選択された対象被写体に適した撮像制御を行う。
【0104】
なお、本実施の形態における撮像装置1の撮像モードには、上記した判定したシーンに応じて選択した対象被写体にフォーカス制御を行う紹介動画モードが設けられている。撮像モードが紹介動画モードに設定された状態で、動画の記録が開始された場合に、撮像制御装置22は
図14の処理を実行するものとする。
紹介動画モードは、例えば動画の記録を開始する前に、対象紹介者60の撮像装置1へのモード設定操作に応じて設定される。
以下、撮像制御装置22が実行する
図14の処理について説明する。
【0105】
まず撮像制御装置22は、ステップS101において被写体の認識を行う。撮像制御装置22は、撮像部13から1フレームの画像データ又は複数フレームの画像データを取得し、取得したフレームの画像信号を用いて画像解析処理等を行うことで、例えば
図4から
図13に示したような対象紹介者60の手61や顔62、商品70を認識する。
【0106】
具体的には、撮像制御装置22は、例えば対象紹介者60の姿勢推定や、画像データにおける肌色抽出により、対象紹介者60の手61や顔62を認識することが想定される。
また撮像制御装置22は、紹介対象となる商品70については、形状認識、パターン認識などにより画像内で物体部分を認識し、対象紹介者60や背景等と区別して紹介対象たる商品70を特定する。
【0107】
また例えば撮像制御装置22は、認識した手61の状態に基づいて紹介対象となる商品70を特定することもできる。撮像制御装置22は、商品70を持つ、つまむ、掴むなど、手61が商品70と触れている状態を認識した場合に、手61と触れている商品70を紹介対象となる商品70として特定する。これにより、撮像場所に配置された様々な商品等が映り込んだ状態において、手61で触れている商品70が、商品レビュー動画において紹介される商品70であることが特定できる。つまり商品70が手61と触れているという位置関係に基づいて紹介対象となる商品が特定される。
【0108】
さらに撮像制御装置22は、対象紹介者60の手61により商品70を特定するためのジェスチャが行われている状態を認識し、当該ジェスチャに基づいて紹介対象となる商品70を特定することもできる。例えば商品70を指さす手61のジェスチャを認識した場合、当該手61で指し示す方向の延長線上にある商品70を、紹介対象となる商品70として特定することができる。つまり商品70が手61で指し示す方向に存在するという位置関係に基づいて紹介対象となる商品が特定される。
これらのように撮像制御装置22は、対象紹介者60と商品70の位置関係により紹介対象となる商品70を特定することができる。
【0109】
なお、ここでの紹介対象となる商品70の特定は、認識した商品70から紹介対象を特定するのみならず、対象紹介者60の手61の位置に基づいて紹介対象となる商品70の位置を推定することにより特定することも含まれる。
この場合、撮像制御装置22は、対象紹介者60の手61を特定することで、手61の位置に紹介対象となる商品70があると推定し、紹介対象となる商品70の位置を特定する。例えば商品70が小さく、画像上での認識が困難な場合などは、手61を仮想的に商品70とみなし(商品70が手に持たれていると仮定し)、本来の紹介対象たる商品70の代替的に手61を認識することで商品70を特定できる。
【0110】
このように、撮像制御装置22が検出した対象紹介者60の手61の状態から紹介対象となる商品70を特定したり、手61を本来の紹介対象の商品70の代替として特定したりすることで、撮像場所に配置された様々な商品等が映り込んだ状態であっても商品レビュー動画において紹介される商品70を特定することができる。
【0111】
続いてステップS102で撮像制御装置22は、取得した各被写体の認識結果を用いてシーン判定処理を行う。
撮像制御装置22は、認識された各被写体や撮像装置1との間の被写体位置関係に基づいて、現在のシーンがパフォーマンスシーンであるか、商品紹介シーンであるかを判定する。具体的なシーン判定処理としては、上述の第1から第4の実施の形態の例が想定される。それぞれの実施の形態に相当するシーン判定処理例については後に
図17から
図21で順次説明する。
【0112】
撮像制御装置22はステップS103で、シーン判定処理の結果に応じて処理を分岐する。
シーン判定処理において商品紹介シーンと判定した場合、撮像制御装置22は、ステップS103からステップS104に処理を進め、ステップS101で特定した商品70を対象被写体として選択する。
そして、撮像制御装置22は、ステップS105において、対象被写体である商品70の領域に適した撮像制御を実行する。例えば撮像制御の一例として商品70をターゲットとしてフォーカス制御が行われるように制御する。なお、以下の説明では、撮像制御の例としてフォーカス制御を用いて説明する。
【0113】
これにより、撮像装置1は、商品紹介シーンにおいては商品70にフォーカスを合わせた撮像を行う状態となる。撮像制御装置22は、フレーム中の商品70の領域の検波情報を用いた画面(フレーム)全体におけるフォーカス制御がされた撮像画像を撮像装置1の表示部に提示制御する。
なお、撮像制御装置22は、撮像動作制御として、商品70へのフォーカス制御に合わせてF値を小さくするような絞り制御を行うことで、被写界深度を狭くし、商品70の前景や背景をぼやけさせることを合わせて行っても良い。
【0114】
一方、シーン判定処理においてパフォーマンスシーンと判定した場合、撮像制御装置22は、ステップS103からステップS108に処理を進め、ステップS101で特定した対象紹介者60を対象被写体として選択する。
そして、撮像制御装置22は、ステップS109において、対象被写体である対象紹介者60の顔62を合焦させるフォーカス制御を実行する。これにより、パフォーマンスシーンにおいては対象紹介者60の顔62にフォーカスを合わせた撮像を行う状態となる。撮像制御装置22は、フレーム中の顔62の領域の検波情報を用いた画面(フレーム)全体におけるフォーカス制御がされた撮像画像を撮像装置1の表示部に提示制御する。
【0115】
以上のステップS105又はステップS109も処理の後、撮像制御装置22は、ステップS106に処理を進め、現在判定しているシーンが何であるかや、フォーカス制御の対象である商品70を示す情報を、オンスクリーン表示や、LED等の特定の表示部のオンオフや、音声等で示す提示を行うための提示制御を行う。
例えば撮像制御装置22は、商品紹介シーン或いはパフォーマンスシーンであることを示すアイコンやメッセージを表示してもよい。
また撮像制御装置22は、商品紹介シーンであれば商品70を対象にフォーカス制御を行っていることを示すために、商品部分を囲うようなフォーカス枠を撮像画像に重畳表示させたり、パフォーマンスシーンであれば顔62を対象にフォーカス制御を行っていることを示すために、顔部分を囲うようなフォーカス枠を撮像画像に重畳表示させたりするようにしてもよい。
【0116】
そして、撮像制御装置22は、ステップS107において、メタデータの関連付けを行う。例えば撮像制御装置22は、現在のフレームについてのシーン情報、エラーフラグ、撮像制御のパラメータ等についてのメタデータを生成する。
シーン情報とはパフォーマンスシーンか商品紹介シーンかを示す情報である。エラーフラグは後述の
図14で説明する情報である。撮像制御のパラメータとは、上述した撮像動作制御や撮像画像処理制御に関するパラメータである。
そして撮像制御装置22は生成したメタデータを現フレームに対応するメタデータとしてカメラ信号処理部16に送信することで、メタデータを撮像画像データに関連づけるようにする。その後、撮像制御装置22は、ステップS101に戻り処理を実行する。
【0117】
なおメタデータについては、例えばカメラ信号処理部16の処理により、対応するフレームに関連づけられて画像ファイルに組み込まれることで、撮像画像データとの関連付けが行われるが、それに限られない。例えば撮像画像データ(画像ファイル)と関連づけられるIDや対応するフレームが示されたメタデータファイルが撮像画像データとは別に形成されて記録されたり送信されたりしてもよい。どのような形であれ、後の時点で撮像画像データとメタデータの対応付けできる状態とされればよい。
【0118】
また
図12では動画の記録処理については示していないが、この
図12の処理が実行されている期間、カメラ信号処理部16では、撮像部13から得られる各フレームについての動画記録のための処理を実行している。撮像制御装置22が
図12のステップS107で生成したメタデータは、撮像画像データのフレームに対応づけられて記録媒体に記録されることになる。これにより、シーン判定情報やそれに応じた撮像制御のパラメータなどが撮像画像データに関連づけられることになる。
【0119】
撮像制御装置22は、例えば対象紹介者60により動画の記録の終了操作がされるか、対象紹介者60により撮像モードが紹介動画モード以外のモードに変更されるまで、
図14の処理を繰り返し実行する。
【0120】
以上の処理により、各実施の形態における撮像制御装置22によるシーンに応じた対象被写体に対するフォーカス制御が実現される。
これにより、紹介する商品70に注目させたい商品紹介シーンにおいては紹介対象となる商品70にフォーカスを合わせ、対象紹介者60のパフォーマンスに注目させたいパフォーマンスシーンにおいては対象紹介者60にフォーカスを合わせた撮像を行うことで、各シーンにおいて視聴者に注目させたい対象に対して効果的にフォーカス制御を行うことができる。
【0121】
なお、本実施の形態では、一例として紹介動画モードが対象紹介者60による撮像装置1へのモード設定操作に応じて設定されることとしたが、紹介動画モードの設定は様々な態様が考えられる。
例えば、
図1のデジタルビデオカメラ1Aは、撮像装置本体2と表示部を有する表示筐体3を備え、撮像装置本体2に対して表示筐体3を移動させることで撮像レンズと同じ側に表示筐体3の表示部を向けた状態とすることが可能であるとする。このような撮像装置1であれば、当該状態にすることをもって、自分撮りをしているものと判断することができるため、これをもって、紹介動画モードに設定することができる。即ち撮像制御装置22は、撮像レンズと同じ側に表示筐体3の表示部を向けた状態を検知すると、撮像モードを紹介動画モードに設定する。
【0122】
なお、商品レビュー動画の撮像においては、
図4のように対象紹介者60自身が動画の撮像を行うことが一般的である。従って、商品レビュー動画の記録中に対象紹介者60が表示部に表示される内容によって、現在の撮像制御の状態を確認できる状態にしておくことで、対象紹介者60自身が商品レビュー動画の記録中に動画の取り直し、又は続行などを判断することができる。
【0123】
また本実施の形態では、撮像制御装置22は、ステップS101の処理において、認識した手61の状態に基づいて紹介対象となる商品70を特定する例を述べたが、音声入力部により得られる音声データに基づいて紹介対象となる商品70を特定することもできる。
例えば、あらかじめ商品70と名称を対応付けておくことにより、撮像制御装置22は、撮像装置1から集音した音声から音声データを取得し、取得した音声データについて言語解析を行い、当該言語解析により取得した名称に該当する商品70を特定することができる。
【0124】
また撮像制御装置22は、対象紹介者60の視線方向に基づいて紹介対象となる商品70を特定することもできる。
例えば、撮像制御装置22は、ステップS101において、取得したフレーム情報を用いて画像解析処理を行うことで対象紹介者60の視線方向を認識し、当該認識した視線方向の延長線上にある商品70を紹介対象の商品70として特定することができる。
【0125】
また紹介動画モードにおいて商品レビュー動画の記録を開始する前に、対象紹介者60の操作を介して紹介対象の商品70を登録することとしてもよい。例えば、撮像制御装置22は、撮像画像データから商品70を認識し、認識した商品70を表示部に表示させる。対象紹介者60は、表示された商品70から紹介対象とする商品70を選択する操作を行う。撮像制御装置22は、認識した商品70から紹介対象となる商品70を当該選択操作に応じて登録する。
または、撮像制御装置22は、認識した商品70を対象紹介者60に選択させずにそのまま登録しても良い。
この場合、商品レビュー動画の記録中において、撮像制御装置22は、ステップS101において認識した商品70のうち、記録前に登録しておいた商品70を紹介対象として特定する。
【0126】
また本実施の形態では、対象被写体への撮像制御をフォーカス制御として説明したが、対象被写体への撮像制御は、他にも様々な処理が考えられる。
例えば、撮像制御装置22は、ステップS102で商品紹介シーンと判定するとステップS103,S104,S105の順に処理を進め、選択した商品70の領域の露光が適切となるようにAE制御を行い、ステップS102でパフォーマンスシーンと判定するとステップS103,S108,S109の順に処理を進め、選択した対象被写体60の顔62の領域の露光が適切となるようにAE制御を行う。
【0127】
また撮像制御装置22は、ステップS105、S109の撮像制御として、対象被写体に対応する撮像画像処理制御を行うこともできる。具体的には、ホワイトバランス処理制御やコントラスト調整制御などが考えられる。
撮像制御装置22は、フレーム中の対象被写体の領域における検波情報を用いて、対象被写体の領域のホワイトバランスが適切となるようにオートホワイトバランス制御を行ったり、対象被写体の領域のコントラストが適切となるようにコントラスト調整として画質補正処理等を行う。
例えば、撮像制御装置22は、ステップS102で商品紹介シーンと判定するとステップS103,S104,S105の順に処理を進め、選択した商品70に対して撮像画像処理制御を行い、ステップS102でパフォーマンスシーンと判定するとステップS103,S108,S109の順に処理を進め、選択した対象被写体60の顔62に対して撮像画像処理制御を行う。
【0128】
また撮像制御装置22は、現在のシーンが商品紹介シーンであると判定した場合、商品70を効果的に注目させるための処理を行うこともできる。
例えば、撮像制御装置22は、ステップS102で商品紹介シーンであると判定すると、ステップS103,S104,S105の順に処理を進め、対象被写体に対応する撮像画像処理制御として、選択した商品70以外の背景部分をぼやけさせるような画像処理を行うことができる。
例えば
図15の撮像表示画面50において、商品70以外の部分がぼやけて表示される。
図15では、ぼやけて表示される被写体について一点鎖線で示している。
【0129】
また
図16に示すように、選択した商品70の周りに複数の集中線を配置することで、商品70を目立たせることもできる。ここで集中線とは、ある領域を中心とし、その中心から放射状に配置された複数の線のことをいう。
例えば撮像制御装置22は、ステップS102で商品紹介シーンであると判定すると、ステップS103,S104,S105の順に処理を進め、対象被写体に対応する撮像画像処理制御として、取得した撮像画像データと集中線エフェクトのデータを合成することで、商品70の周りに複数の集中線が配置された集中線エフェクト画像を生成する。
【0130】
また、商品紹介シーンにおける対象被写体である商品70について、商品70の種別に応じた撮像制御を行うことも可能である。
このとき、撮像制御装置22は、ステップS101で商品70を特定する際に、画像解析処理などにより商品70の種別を判定しておく。そして撮像制御装置22は、ステップS102のシーン判定処理で現在のシーンが商品紹介シーンであると判定すると、ステップS103,S104の順に処理を進め、商品70を対象被写体として選択する。
その後、撮像制御装置22は、ステップS101で判定した商品70の種別情報を、商品70の種別に対応する撮像制御情報が記憶されたクラウドサーバに送信し、クラウドサーバから商品70に応じた撮像制御情報を取得する。
撮像制御装置22は、ステップS105において、クラウドサーバから取得した撮像制御情報に基づいて、商品70に応じた撮像制御を行う。
なお、商品70の種別に対応する撮像制御情報は、あらかじめ撮像装置1に記憶されていてもよい。
【0131】
商品70の種別、及び当該種別に対応する撮像制御には様々な例が考えられる。例えば、商品70の種別が、フリッカ現象が生じるおそれのある表示部を備えるテレビジョン装置やデジタルカメラ装置などである場合に、フリッカ現象の生じないシャッタースピードに変更するSS制御が考えられる。
【0132】
なお、商品紹介シーンの場合にこれらの制御処理を行う一方、現在のシーンが商品紹介シーンでなくパフォーマンスシーンであると判定した場合は、撮像制御装置22は、上記した実施の形態と同様に、ステップS103,S108,S109の順に処理を進め、対象紹介者60の顔62を合焦させるフォーカス制御を行うことが考えられる。例えば他の部分のぼかし、集中線エフェクト、商品種別に応じた制御等は行わないとする。
【0133】
以下、各実施の形態におけるシーン判定処理について説明する。
図17は第1の実施の形態のシーン判定処理例を示している。第1の実施の形態は、
図4,
図5に示したように撮像装置1から商品70までの距離Locを用いてシーン判定が行われる例である。
【0134】
まず撮像制御装置22は、ステップS201において、撮像装置1から紹介対象の商品70までの距離Locを算出する。例えば、撮像画像データのフレームを取得する際に位相差信号を取得し、当該取得した位相差信号を用いて相関演算を行うことで、撮像装置1から紹介対象の商品70までの距離Locを算出する。
なお、撮像制御装置22は、コントラストAFにおけるフォーカスレンズの位置に基づいて撮像装置1から商品70までの距離Locを算出してもよいし、位相差センサや赤外線センサ等を用いた専用の測距センサの検出情報を用いて撮像装置1から商品70までの距離Locを算出してもよい。
【0135】
撮像制御装置22は、ステップS202において、撮像装置1から商品70までの距離Locが、最短撮像距離以上であるか否かを判定する。
最短撮像距離とは、撮像装置1から被写体までの距離のうち、被写体をぼけることなくフォーカス制御することができる最短の距離をいう。従って距離Locがここでいう最短撮像距離より短い場合は、商品70を対象としてフォーカス制御を行ってもぼけた状態となってしまう。例えば対象紹介者60が商品70を強調しようとして、過度に撮像装置1に近づけたような場合、距離Locが最短撮像距離より短くなる。
【0136】
このような場合は、適切な撮像ができなくなるため、距離Locが最短撮像距離よりも短い場合には、撮像制御装置22は、ステップS202からステップS203に処理を進め、エラーフラグをONに設定する。
ここでエラーフラグは、シーン判定を行うことができる適切な撮像状態か否かを示すフラグである。エラーフラグがONであることは、フォーカス制御可能範囲を越え、ぼけない状態での動画撮像が行えず、シーン判定による対象被写体選択を実行することができない判定不能状態であることを示している。
【0137】
ステップS203でエラーフラグをオンとした場合、撮像制御装置22は、ステップS204から
図14のステップS106に処理を進め、判定不能状態であることの提示制御を行う。例えば判定不能状態であることを示すアイコンやメッセージのオンスクリーン表示や、LED等の特定の表示部のオンオフや、エラー音或いは音声等で判定不能状態を提示するための提示制御を行う。
なお、撮像画像を表示する表示部が対象紹介者60側に向いていない場合は、この表示部以外の表示部や音声等を用いて対象紹介者60に提示制御を行うことが好ましい。
【0138】
そして、撮像制御装置22は、
図14のステップS107において、エラーフラグがオンであることを示すメタデータを生成する。生成したメタデータは、カメラ信号処理部16に送信され、例えば撮像画像データの対応するフレームに関連付けられて記録媒体に記録される。その後、撮像制御装置22は、
図14のステップS101に戻り、既述の処理を実行する。
【0139】
図15のステップS202において距離Locが最短撮像距離よりも長い場合は、特に以上のようなエラーとしての対処を行う必要がない場合である。
撮像制御装置22は、ステップS210において、エラーフラグがONであるかを判定し、エラーフラグがONである場合は、ステップS205でエラーフラグをOFFとしたうえでステップS206に処理を進める。
また、ステップS210において、エラーフラグがOFFと確認した場合、撮像制御装置22はステップS205の処理を行うことなくステップS206に処理を進める。
【0140】
撮像制御装置22は、ステップS206において、算出した距離Locが所定値Lth1よりも短いか否かを判定する。
先の
図4,
図5の説明から理解されるように、所定値Lth1とは、現在のシーンがパフォーマンスシーンか、商品紹介シーンかを判断するための基準となる値である。例えば距離Locが所定値Lth1よりも短い場合、商品紹介シーンと判定され、距離Locが所定値Lth1以上であればパフォーマンスシーンと判定される。
所定値Lth1は撮像を行う者が任意に設定してもよいし、あらかじめ撮像装置1に設定されていてもよい。或いは、撮像開始前、或いは撮像中などに実際の測距データから今回の撮像に係る所定値Lth1を設定するような処理を行ってもよい。例えば対象紹介者60までの距離を測定し、その距離から適切な距離の減算等をして所定値Lth1を求めることが考えられる。
【0141】
撮像制御装置22は、ステップS206において、距離Locが所定値Lth1よりも短いと判定すると、ステップS207において現在のシーンが商品紹介シーンであると判定する。
すると撮像制御装置22は、ステップS204,
図14のステップS103,S104の順に処理を進め、ステップS101で特定した商品70を対象被写体として選択し、ステップS105において、対象被写体である商品70に対して撮像制御として、例えばフォーカス制御を実行する。もちろん上述のように撮像制御装置22は、撮像制御として、フォーカス制御とは別に、または、フォーカス制御に加えてフリッカ現象の生じないSS制御や輝度処理、画像効果処理など様々な制御を行うようにしてもよい。
その後、撮像制御装置22は、ステップS106,S107の処理を行う。
【0142】
撮像制御装置22は、
図17のステップS206において、距離Locが所定値Lth1よりも短いと判定しなかった場合は、ステップS208において現在のシーンがパフォーマンスシーンであると判定する。
その後、撮像制御装置22は、ステップS204,
図14のステップS103,S108の順に処理を進め、ステップS101で特定した対象紹介者60を対象被写体として選択し、ステップS109において、対象被写体である対象紹介者60の顔62に対して撮像制御として、例えばフォーカス制御等を実行する。そして撮像制御装置22は、ステップS106,S107の処理を行う。
【0143】
以上のように第1の実施の形態によれば、撮像装置1から商品70までの距離Locに基づいてシーン判定を行うことで、対象紹介者60と紹介対象である商品70との被写体位置関係に基づいたシーン判定を行うこととなる。
【0144】
第2の実施の形態のシーン判定処理について
図18を参照して説明する。第2の実施の形態は、
図6,
図7に示したように対象紹介者60から商品70までの距離Lhoを用いてシーン判定が行われる例である。
【0145】
撮像制御装置22は、ステップS251において、撮像装置1から商品70までの距離Loc、及び撮像装置1から対象紹介者60までの距離Lhcを算出する。また距離Lhc-距離Locの演算により対象紹介者60と商品70との距離Lhoを求める。
【0146】
撮像制御装置22は、ステップS252において、撮像装置1から商品70までの距離Loc、又は撮像装置1から対象紹介者60までの距離Lhcのいずれかが、最短撮像距離以上であるか否かを判定する。
【0147】
距離Loc,距離Lhcのいずれかが最短撮像距離よりも短い場合は、適切な撮像ができなくなるため、撮像制御装置22は、ステップS252からステップS258に処理を進め、エラーフラグをONに設定し、判定不能状態であるとする。
この場合、撮像制御装置22は、ステップS259から
図14のステップS106に処理を進め、判定不能状態であることの提示制御を行う。
そして、撮像制御装置22は、
図14のステップS107において、エラーフラグがオンであることを示すメタデータを生成し、その後、ステップS101に戻り、既述の処理を実行する。以上は
図17で説明した第1の実施の形態と同様である。
【0148】
図18のステップS252において距離Locが最短撮像距離以上の場合は、撮像制御装置22は、ステップS253において、エラーフラグがONであるかを判定し、エラーフラグがONである場合は、ステップS254でエラーフラグをOFFとした上でステップS255に処理を進める。
また、ステップS253において、エラーフラグがOFFと確認した場合、撮像制御装置22はステップS254の処理を行うことなくステップS255に処理を進める。
【0149】
撮像制御装置22は、ステップS255において、算出した距離Lhoが所定値Lth2よりも短いか否かを判定する。
先の
図6,
図7の説明から理解されるように、所定値Lth2は、現在のシーンがパフォーマンスシーンか、商品紹介シーンかを判断するための基準となる値である。例えば距離Lhoが所定値Lth2よりも短い場合、パフォーマンスシーンと判定され、距離Lhoが所定値Lth2以上であれば商品紹介シーンと判定される。
所定値Lth2は撮像を行う者が任意に設定してもよいし、あらかじめ撮像装置1に設定されていてもよい。或いは、撮像開始前、撮像中などに実際の測距データから今回の撮像に係る所定値Lth2を設定するような処理を行ってもよい。例えばまだ商品紹介に至る前の時点(例えば撮像開始時など)で計測されるシーン距離Lhcと距離Locに基づいて、適切な所定値Lth2を求めることが考えられる。
【0150】
撮像制御装置22は、ステップS255において、距離Lhoが所定値Lth2よりも短いと判定すると、ステップS257において現在のシーンがパフォーマンスシーンであると判定する。
すると撮像制御装置22は、ステップS259,
図14のステップS103,S108の順に処理を進め、ステップS101で特定した対象紹介者60を対象被写体として選択し、ステップS109において、対象被写体である対象紹介者60の顔62に対して撮像制御として、例えばフォーカス制御等を実行する。そして撮像制御装置22は、ステップS106,S107の処理を行う。
【0151】
撮像制御装置22は、
図18のステップS255において、距離Lhoが所定値Lth2よりも短いと判定しなかった場合は、ステップS256において現在のシーンが商品紹介シーンであると判定する。
すると撮像制御装置22は、ステップS259,
図14のステップS103,S104の順に処理を進め、ステップS101で特定した商品70を対象被写体として選択し、ステップS105において、対象被写体である商品70に対して撮像制御として、例えばフォーカス制御等を実行する。その後、撮像制御装置22は、ステップS106,S107の処理を行う。
【0152】
以上のように第2の実施の形態によれば、対象紹介者60から商品70までの距離Lhoに基づいてシーン判定を行うことで、対象紹介者60と紹介対象である商品70との被写体位置関係に基づいたシーン判定を行うこととなる。
【0153】
なお先にも言及したが、対象紹介者60が商品70を紹介するシーンでは、対象紹介者60は手61により商品70を自身に近づけて紹介することが考えられる。そのような挙動を想定する場合は、ステップS255の論理を逆にすればよい。
即ち、撮像制御装置22は、距離Lhoが所定の値よりも短くなったことをもって、現在のシーンを商品紹介シーンと判定し、距離Lhoが所定の値以上であれば現在のシーンをパフォーマンスシーンと判定するようにする。
【0154】
なお、第1、第2の実施の形態では、撮像制御装置22は、撮像装置1から商品70までの距離Loc、或いは対象紹介者60と商品70の間の距離Lhoに基づいてシーン判定を行うこととしたが、撮像装置1から対象紹介者60までの距離に基づいてシーン判定を行うことも考えられる。
【0155】
第3の実施の形態のシーン判定処理について
図19を参照して説明する。第3の実施の形態は、対象紹介者60の身体の一部の状態に応じてシーン判定が行われる例である。ここでは一例として、対象紹介者60の手61の状態に応じてシーン判定が行われる例を説明する。
【0156】
撮像制御装置22は、ステップS301において、対象紹介者60の手61の状態を判定する。即ち、撮像制御装置22は、
図14のステップS101で取得したフレームの画像データを用いて画像解析処理を行うことで、手61が対象特定状態であるか否かを判定する。
ここで対象特定状態とは、紹介対象である商品70が対象紹介者60の手61により特定可能な状態をいい、例えば、手61で商品70を持つ、つまむ、掴む等の手61が商品70に触れている状態や、対象紹介者60の手61で商品70を指さすといった手61により商品70を特定するためのジェスチャをしている状態などのことである。
なお、撮像制御装置22は、取得した1フレームの画像データを用いて画像解析処理を行うことで、手61が対象特定状態であるか否かを判定することが考えられるが、複数フレームの画像データを取得して画像解析処理等を行うことで、フレーム間における画像データの変化から手61の動きを検出し、当該動きに基づいて手61が対象特定状態であるか否かを判定することとしてもよい。
【0157】
撮像制御装置22は、ステップS302において、手61が対象特定状態であると判定すると、ステップS303において現在のシーンが商品紹介シーンであると判定する。
その後、撮像制御装置22は、
図14のようにステップS103,S104の順に処理を進め、ステップS101で特定した商品70を対象被写体として選択し、ステップS105において、対象被写体である商品70が合焦するようにフォーカス制御を実行する。そして撮像制御装置22は、ステップS106,S107の処理を行う。
【0158】
なお、手61が商品70を持つなど、手61が商品70に触れている対象特定状態である場合、撮像制御装置22は、ステップS105において、商品70に触れている手61の領域に適したフォーカス制御等を行うこととしてもよい。
対象紹介者60の手61の領域を対象としてフォーカス制御を行うことで、手61と触れている商品70にもフォーカスを合わせた動画撮像を行うことができる。これは特に、商品70が小さすぎて商品70自体に対するフォーカス制御が困難である場合に有効である。
【0159】
一方、撮像制御装置22は、ステップS302において手61が対象特定状態でないと判定すると、ステップS304において現在のシーンがパフォーマンスシーンであると判定する。
その後、撮像制御装置22は、
図14のステップS103,S108の順に処理を進め、ステップS101で特定した対象紹介者60を対象被写体として選択し、ステップS109において、対象被写体である対象紹介者60の顔62に対してフォーカス制御を実行する。そして撮像制御装置22は、ステップS106,S107の処理を行う。
【0160】
このように第3の実施の形態によれば、対象紹介者60の手61が対象特定状態であるか否かに基づいてシーン判定を行うことで、対象紹介者60の手61と紹介対象である商品70との被写体位置関係に基づいたシーン判定を行っていることになる。
【0161】
なお第3の実施の形態は以下の形態をとることもできる。第3の実施の形態の変型例について
図20を参照して説明する。
本例は、被写体位置関係に基づいて、対象紹介者60の身体の一部である手61の状態、及び被写体位置関係に基づく撮像装置1から商品70までの距離を用いてシーン判定が行われる例である。
【0162】
まず撮像制御装置22は、ステップS401において、対象紹介者60の手61の状態を判定する。即ち、撮像制御装置22は、
図14のステップS101で取得したフレームの画像データを用いて画像解析処理を行うことで、手61が例えば商品70を持つ等の対象特定状態であるか否かを判定する。
【0163】
撮像制御装置22は、ステップS402において、手61が対象特定状態でないと判定すると、ステップS403において現在のシーンがパフォーマンスシーンであると判定する。
その後、撮像制御装置22は、
図20の処理を終え、
図14のステップS103,S108の順に処理を進め、ステップS101で特定した対象紹介者60を対象被写体として選択し、ステップS109において、対象被写体である対象紹介者60の顔62の領域を対象としたフォーカス制御を実行する。そして撮像制御装置22は、ステップS106,S107の処理を行う。
【0164】
撮像制御装置22は、
図20のステップS402において、手61が対象特定状態であると判定すると、ステップS404に処理を進め、撮像装置1から紹介対象の商品70までの距離Locを算出する。
【0165】
撮像制御装置22は、ステップS405において、算出した距離Locが所定値よりも短いか否かを判定する。
撮像制御装置22は、ステップS405において距離Locが所定値Lth1よりも短いと判定すると、ステップS406において現在のシーンが商品紹介シーンであると判定する。
その後、撮像制御装置22は、
図20の処理を終え、
図14のステップS103,S104の順に処理を進め、ステップS101で特定した商品70を対象被写体として選択し、ステップS105において、対象被写体である商品70に対してフォーカス制御を実行する。そして撮像制御装置22は、ステップS106,S107の処理を行う。
【0166】
撮像制御装置22は、ステップS405において、距離Locが所定値Lth1以上と判定すると、ステップS403において現在のシーンがパフォーマンスシーンであると判定する。
その後、撮像制御装置22は、
図20の処理を終え、
図14のステップS103,S108の順に処理を進め、ステップS101で特定した対象紹介者60を対象被写体として選択し、ステップS109において、対象被写体である対象紹介者60の顔62に対してフォーカス制御を実行する。そして撮像制御装置22は、ステップS106,S107の処理を行う。
【0167】
以上のように、対象紹介者60の手61の状態、及び商品70から撮像装置1までの距離Locに基づいてシーン判定を行うことで、対象紹介者60と紹介対象である商品70との被写体位置関係に基づいたシーン判定を行うことになる。
例えば商品レビュー動画において、対象紹介者60は、商品70を映して紹介していない時であっても商品70を手61で持つこと(即ち、対象特定状態となること)がある。このような場合、対象紹介者60の手61の持つ等の状態に基づいて手61に対してフォーカス制御を行うこととすると、実際はパフォーマンスシーンであるにも関わらず商品70に対してフォーカス制御が行われてしまうおそれがある。
そこで、対象紹介者60の手61の状態に加えて、撮像装置1から商品70までの距離Locの状態を加味してシーン判定を行うことで、対象紹介者の意図をより反映させたフォーカス制御等の撮像制御を行うことが可能となる。即ち、撮像制御装置22によるシーン判定の精度を向上させることができる。
【0168】
なお、本例における撮像制御装置22は、シーン判定にあたりステップS404において撮像装置1から紹介対象の商品70までの距離Locを算出することとしたが、例えば手61が商品70を持つといった対象特定状態である場合には、撮像装置1から対象紹介者60の手61までの距離を算出することとしてもよい。
手61が商品70を持つ等、手61が商品70に触れている状態においては、撮像装置1から手61までの距離をもって、撮像装置1から商品70までの距離を推定することができるためである。
またこのとき、撮像制御装置22は、ステップS105において、商品70に触れている手61に対してフォーカス制御を行うことも可能である。これによっても商品70にフォーカスを合わせた動画撮像を実現できる。
【0169】
また本例では説明を省略したが、撮像装置1から商品70までの距離Locが最短撮像距離よりも短い場合には、撮像制御装置22は、判定不能状態であることを示すエラーフラグをONに設定し、撮像装置1の表示部にエラー表示を行うこととしてもよい。
【0170】
第4の実施の形態のシーン判定処理について
図21を参照して説明する。第4の実施の形態は、紹介対象である商品70の領域が撮像画像のフレーム全体に対して占める比率に基づいてシーン判定が行われる例である。この場合の比率は被写体位置関係に相当するものとなる。
【0171】
まず撮像制御装置22は、ステップS501において、撮像画像のフレーム全体における紹介対象の商品70の占める比率を算出する。即ち、撮像制御装置22は、撮像画像のフレーム全体の面積に対して占める商品70の面積の比率Pを算出する。
【0172】
その後、撮像制御装置22は、ステップS502において、撮像画像のフレーム全体の面積に対して占める商品70の面積の比率Pが所定値thPより大きいか否かを判定する。ここでいう所定値thPとは、現在のシーンがパフォーマンスシーンか、商品紹介シーンかを判断するための基準となる値であり、比率Pが所定値thPより大きいことをもって商品紹介シーンと判定するものである。
【0173】
撮像画像のフレーム全体の面積に対して占める商品70の面積の比率Pが所定値thPより大きくなる場合、撮像制御装置22は、ステップS503において、現在のシーンが商品紹介シーンであると判定する。
撮像画像のフレーム全体の面積に対して、商品70の面積の占める比率Pが増加するということは、商品70と撮像装置1の距離が近づいているといえるため、対象紹介者60が商品70を撮像装置1に近づけて商品70を紹介しようとしていることが推定できるためである。
このように、本実施の形態のように商品70の面積の占める比率Pに基づいてシーン判定を行うことは、間接的に商品70と撮像装置1の距離関係に基づいてシーン判定を行っているともいえる。つまり、本実施の形態では、商品70と撮像装置1の位置関係を距離とは異なる物理量で検出している。
【0174】
その後、撮像制御装置22は、ステップS503,
図14のステップS103,S104の順に処理を進め、ステップS101で特定した商品70を対象被写体として選択し、ステップS105において、対象被写体である商品70に対してフォーカス制御を実行する。そして撮像制御装置22は、ステップS106,S107の処理を行う。
【0175】
図21のステップS502で撮像画像のフレーム全体の面積に対して占める商品70の面積の比率Pが所定値thP以下である場合、撮像制御装置22は、ステップS504において、現在のシーンがパフォーマンスシーンであると判定する。
その後、撮像制御装置22は、ステップS504,
図14のステップS103,S108の順に処理を進め、ステップS101で特定した対象紹介者60を対象被写体として選択し、ステップS109において、対象被写体である対象紹介者60の顔62に対してフォーカス制御を実行する。そして撮像制御装置22は、ステップS106,S107の処理を行う。
【0176】
以上の第4の実施の形態によれば、紹介対象である商品70が撮像画像のフレーム全体に対して占める比率に基づいてシーン判定を行うことで、対象紹介者60の手61と紹介対象である商品70との被写体位置関係に基づいたシーン判定を行うことになる。
【0177】
なお、本実施の形態では、撮像制御装置22は、紹介対象である商品70が撮像画像のフレーム全体に対して占める比率に基づいてシーン判定を行ったが、対象紹介者60の領域が撮像画像のフレーム全体に対して占める比率に基づいてシーン判定を行うこととしてもよい。
例えば、撮像制御装置22は、ステップS501において撮像画像の面積に対して占める対象紹介者60の領域の面積の比率P1を算出し、ステップS502で比率P1が所定値thP’よりも小さいか否かを判定する。ここでいう所定値thP’とは、現在のシーンがパフォーマンスシーンか、商品紹介シーンかを判断するための基準となる値であり、比率P1が所定値thP’より小さいことをもって商品紹介シーンと判定するものである。
【0178】
撮像画像の面積に対して占める対象紹介者60の面積の比率P1が所定値thP’より小さくなる場合、撮像制御装置22は、ステップS503において、現在のシーンが商品紹介シーンであると判定する。
また、比率P1が所定値thP’以上の場合、撮像制御装置22は、ステップS504において、現在のシーンがパフォーマンスシーンであると判定する。
撮像画像の面積に対して対象紹介者60の面積の占める比率P1が所定値thP’以上となるということは、対象紹介者60がパフォーマンスを行うために撮像装置1に近づいていることが推定できるためである。
【0179】
また撮像制御装置22は、紹介対象である商品70が撮像画像上で占める比率Pと対象紹介者60が撮像画像上で占める比率P1の両方に基づいてシーン判定を行うこともできる。
例えば、撮像制御装置22は、撮像画像の面積に対して占める商品70の面積の比率Pが所定値thPより大きくなり、かつ撮像画像の面積に対して占める対象紹介者60の面積の比率P1が所定値thP’より小さくなる場合に、現在のシーンを商品紹介シーンと判定し、それ以外をパフォーマンスシーンと判定することができる。
【0180】
また撮像制御装置22は、商品70や対象紹介者60の撮像画像上に占める比率のみならず、商品70と対象紹介者60の面積の比率に基づいてシーン判定を行うことも可能である。
【0181】
<5.まとめ及び変形例>
以上の実施の形態の撮像装置1に搭載された撮像制御装置22は、撮像装置1の撮像部13により得られる撮像画像データ内における被写体である紹介対象(商品70)及び紹介対象(商品70)を紹介する対象紹介者60を特定する特定部22aと、紹介対象(商品70)と、対象紹介者60と、撮像装置1のうちの少なくともいずれか2つの位置関係に基づいて、紹介対象(商品70)と対象紹介者60の一方を対象被写体として選択する選択部22bと、選択部22bで対象被写体として選択された被写体に対して撮像制御を行う撮像制御部22cと、を備える(
図14、
図17から
図21参照)。
従って、例えば対象紹介者60が、当該撮像制御装置22が搭載された撮像装置1から離れて商品レビュー動画等のパフォーマンスを行うなど、撮像装置1を操作できない状態であっても、例えば商品を動かしたり、持ったり、指し示したりする手61の動きに応じて自動的に撮像制御装置22がシーンに適した撮像制御を行うようになる。これにより、パフォーマンスの撮像中に対象紹介者60が撮像装置1を操作することなく、対象紹介者60の意図を反映させた撮像制御がなされた動画を撮像することができる。
なお、紹介対象と、対象紹介者と、撮像装置1のうちの少なくともいずれか2つの位置関係とは、第2、第3の実施の形態のような対象紹介者60と紹介対象の位置関係、第1、第4の実施の形態のような紹介対象と撮像装置1の位置関係の他、撮像装置1と対象紹介者60の位置関係もある。撮像装置1と対象紹介者60の位置関係に該当する例としては、例えば第4の実施の形態で言及した撮像画像の面積に対して占める対象紹介者60の面積の比率P1が所定値thP’より小さくなるか否かでシーン判定(対象被写体の選択)を行う例がある。もちろん
図6の距離Lhcを適切な閾値と比較してシーン判定(対象被写体の選択)をすることも考えられる。
また位置関係の例としては、対象紹介者と紹介対象と撮像装置の3者の位置関係も想定される。
【0182】
各実施の形態の撮像制御装置22において、選択部22bは、被写体位置関係に基づいて撮像画像におけるシーン判定処理を行い、当該シーン判定処理で判定したシーンに応じて、紹介対象である商品70と対象紹介者60の一方を対象被写体として選択することができる(
図14のステップS102参照)。
これにより、各シーンに適した対象被写体に対応してフォーカス制御等の撮像制御を行うことができる。従って、動画の撮像中に撮像装置1を直接操作することなしに対象紹介者60の意図を反映させた動画撮像を実現できる。
例えば、商品レビュー動画において、商品70を紹介する場面である商品紹介シーンでは商品70を対象被写体としてフォーカス制御等を行い、対象紹介者60がパフォーマンスを行う場面であるパフォーマンスシーンでは対象紹介者60を対象被写体としてフォーカス制御等を行うことができる。これにより、現在のシーンで注目されるべき被写体に適したフォーカス制御等を行うことができる。
【0183】
第1の実施の形態の撮像制御装置22において、選択部22bは、紹介対象(商品70)と撮像装置1の位置関係に基づいて、紹介対象(商品70)と対象紹介者60の一方を対象被写体として選択する。即ち、撮像制御装置22は、商品70と撮像装置1の位置関係に基づいて、シーン判定処理を行う(
図14のS102,
図17参照)。
例えば選択部22bは、撮像装置1に対する商品70の位置関係に基づいて、紹介対象(商品70)と対象紹介者60の一方を対象被写体として選択する。
このようにすることで、撮像中に対象紹介者60が撮像装置1を操作することなく、対象紹介者60の意図を反映させた撮像制御がなされた動画を撮像することができる。
【0184】
特に第1の実施の形態では、選択部22bは、紹介対象(商品70)と撮像装置1の位置関係により生ずる、紹介対象(商品70)に対する撮像装置1からの距離Locに基づいて、紹介対象(商品70)と対象紹介者60の一方を対象被写体として選択する。
例えば商品レビュー動画において、対象紹介者60は、紹介する商品70を視聴者に注目させるために、商品70を撮像装置1の撮像レンズに近づけることがある。このような場合に、例えば紹介対象の商品70から撮像装置1までの距離が所定の値よりも近づいたことをもって現在のシーンを商品紹介シーンと判定し、商品紹介シーンにおいて対象被写体として選択される商品70の領域に対応したフォーカス制御等の撮像制御を実行することができる。特に距離測定によりシーン判定及びそれに応じた制御が可能となり、制御が容易となる。
【0185】
第2の実施の形態の撮像制御装置22において、選択部22bは、紹介対象(商品70)と対象紹介者60の位置関係に基づいて、紹介対象(商品70)と対象紹介者60の一方を対象被写体として選択する。即ち、撮像制御装置22は、商品70と対象紹介者60の位置関係に基づいて、シーン判定処理を行う(
図14のステップS102,
図17参照)。
商品70と対象紹介者60の位置関係は、撮像装置1からの商品70、対象紹介者60のそれぞれの距離に基づいて判定できる。
このように、 商品70と対象紹介者60の位置関係により対象被写体を選択することで、撮像中に対象紹介者60が撮像装置1を操作することなく、対象紹介者60の意図を反映させた撮像制御がなされた動画を撮像することができる。
また紹介対象(商品70)と対象紹介者60の位置関係に基づいてシーン判定、及び対象被写体の選択を行うことは、対象紹介者60の前後の動きにも左右されにくく、シーン判定、ひいては対象被写体選択の正確性を維持できることにもなる。
【0186】
特に第2の実施の形態では、選択部22bは、紹介対象(商品70)と撮像装置1の位置関係により生ずる、紹介対象(商品70)に対する対象紹介者60からの距離Lhoに基づいて、紹介対象(商品70)と対象紹介者60の一方を対象被写体として選択する。
これにより対象紹介者60と商品70の位置関係を容易に把握してシーン判定ができ、シーンに適した対象被写体を設定して制御を行うことができる。
【0187】
第3の実施の形態の撮像制御装置22において、選択部22bは、対象紹介者60の身体の一部の状態に基づいて、紹介対象(商品70)と対象紹介者60の一方を対象被写体として選択し、当該選択した対象被写体に適したフォーカス制御等の撮像制御を行う(
図19参照)。特には、対象紹介者60の手61の状態による紹介対象(商品70)と対象紹介者60の位置関係に基づいて、紹介対象と対象紹介者の一方を対象被写体として選択する。
例えば、選択部22bは、対象紹介者60の手61が紹介対象(商品70)に触れている状態に基づいて、紹介対象(商品70)と対象紹介者60の一方を対象被写体として選択し、当該選択した対象被写体の領域に適したフォーカス制御等の撮像制御を行う。
対象紹介者60の手61が商品70に触れていない状態は、対象紹介者60が始まりのあいさつ等のパフォーマンスを行っているパフォーマンスシーンであると考えられる。この場合は、対象紹介者60を対象被写体として顔62にフォーカス制御を行う。これにより、パフォーマンスシーンにおいては、パフォーマンスを行っている対象紹介者60を目立たせることができる。
また一方で、対象紹介者60の手61が商品70を持つ等の商品70に触れている状態は、撮像中のシーンは商品70を紹介する商品紹介シーンである考えられる。そのため、紹介対象の商品70を対象としてフォーカス制御を行い、紹介する商品70を目立たせることができる。
このように、対象紹介者60の手61の状態に基づいて、商品70と対象紹介者60の一方を対象被写体と判定することで、各シーンに応じて各被写体に適した撮像制御を実行することができる。従って、より対象紹介者60の意図を反映させた動画の撮像が可能となる。
【0188】
また第3の実施の形態において選択部22bは、対象紹介者60の手61が紹介対象(商品70)を指し示している状態に基づいて、紹介対象(商品70)と対象紹介者60の一方を対象被写体として選択し、当該選択した対象被写体にフォーカス制御等の撮像制御を行う(
図20参照)。
例えば、対象紹介者60の手61が指をさす等のジェスチャをしていない状態は、対象紹介者60がパフォーマンスを行っているパフォーマンスシーンであると考えられる。この場合は、対象紹介者60を対象被写体として顔62にフォーカス制御を行う。これにより、パフォーマンスを行っている対象紹介者60を目立たせることができる。
また一方で、対象紹介者60の手61が商品70を指さす等のジェスチャをしている状態は、対象紹介者60が商品70を紹介する商品紹介シーンである考えられる。そのため、紹介対象の商品70を対象としてフォーカス制御を行うことで、紹介する商品70を目立たせることができる。
このように、対象紹介者60の手61が指をさす等のジェスチャの状態によってもシーン判定を行うことが可能であり、各シーンに応じて各被写体に適した撮像制御を実行することができる。従って、より対象紹介者60の意図を反映させた動画の撮像が可能となる。
【0189】
第4の実施の形態の撮像制御装置22において、選択部22bは、位置関係である、紹介対象(商品70)の領域が撮像画像のフレーム全体に対して占める比率と対象紹介者60の領域が撮像画像のフレーム全体に対して占める比率の一方又は両方に基づいて、紹介対象(商品70)と対象紹介者60の一方を対象被写体として選択する(
図21参照)。
例えば商品レビュー動画において、対象紹介者60は、紹介する商品70を視聴者に注目させるために、商品70を撮像装置1の撮像レンズに近づけることがある。このとき、被写体位置関係が変化することで、紹介対象の商品70が撮像画像上で占める比率は大きくなる。
そこで、例えば紹介対象の商品70が撮像画像上で占める比率が所定の値よりも大きくなったことをもって現在のシーンを商品紹介シーンと判定し、商品紹介シーンにおいて対象被写体として選択される商品70に対してフォーカス制御等の撮像制御を実行することができる。
【0190】
第1,第2の実施の形態においては、対象紹介者60、紹介対象(商品70)、撮像装置1の間の位置関係は距離関係としてとらえる例を述べた。距離関係を判定することで、距離同士の比較や距離と所定値(閾値)の比較などにより比較的容易にシーン判定及び対象被写体の選択が可能となる。
また、距離関係としては、対象紹介者60と紹介対象(商品70)と撮像装置1の間の距離であることもある。即ち対象紹介者60と紹介対象の距離Lho、紹介対象と撮像装置1の距離Loc、撮像装置1と対象紹介者60の距離Lhcのうちの2つ、又は全てに基づいてシーン判定及び対象被写体の選択を行うことも考えられる。
この3者間のそれぞれの距離に基づくシーン判定の例としては、商品70と撮像装置1の距離Locが所定値Lth1以下であっても、対象紹介者60と商品70の距離Lhcが離れすぎていたら紹介シーンではない(別の商品を取りに行っている等)と判断することが考えられる。
或いはさらにパフォーマンスシーンについて、対象紹介者60と撮像装置1の距離Lhcがある範囲内であることを条件とすることも考えられる。
【0191】
各実施の形態の撮像制御装置22において、特定部22aは、撮像画像データに基づいて紹介対象(商品70)を特定する(
図14のS101参照)。即ち、特定部22aは、例えば撮像部13から取得した撮像画像データの画像解析処理等を行うことで、画像データ内に映っている被写体から紹介対象となる商品70を特定する。これにより撮像されている被写体に応じた商品70に特定が行われる。
【0192】
各実施の形態では、撮像制御装置22は、撮像画像データに基づいて対象紹介者60の手61を検出し、当該検出した手61の位置に基づいて紹介対象(商品70)を特定する場合もある。これにより、画像データに基づいて商品70が検出できない場合であっても、手61の位置から商品70の位置を推定することで、紹介対象となる商品70を特定することができる。
【0193】
各実施の形態の撮像制御装置22においては、特定部22aが、対象紹介者60の身体の一部(手61)の状態に基づいて紹介対象(商品70)を特定する例を述べた(
図14のS101参照)。
これにより、例えば対象紹介者60の身体の一部である手61の、商品70を持つ、掴む、つまむ、指さす等の状態から紹介対象である商品70を特定することができる。従って、撮像画像データ内に複数の商品70が映り込んでいた場合であっても、手61の状態に基づいて紹介対象となる商品70を特定することができる。
また各実施の形態の撮像制御装置22においては、特定部22aが、手61を本来の紹介対象の代替として、仮想的に紹介対象として特定する場合もある。紹介対象とする商品70を特定するときに、手を代替的に紹介対象として特定することで、特定処理を容易化する。
【0194】
撮像においては、撮像画面に様々な被写体が映り込むため、例えば商品レビュー動画において、どの商品70が紹介対象であるかを判定することは難しい。そこで、画像解析処理等により検出が容易な対象紹介者60の手61の状態から紹介対象である商品70を特定することで、撮像画像に映り込んだ商品70の中から紹介対象を容易に特定することができる。
【0195】
各実施の形態の撮像制御装置22において、撮像制御とは、撮像動作制御、即ち被写体光を撮像部13のイメージセンサ14に集光させるための光学系及び撮像部13による撮像動作の制御である例を述べた(
図14のステップS105,S109参照)。
例えば対象被写体に対応したオートフォーカス制御、AE制御(絞り制御、SS制御、ゲイン制御)などが行われる。よって、動画の撮像中に撮像装置1を直接操作しなくても対象紹介者60の意図を反映させた撮像動作を実現できる。
例えば現在のシーンに応じた対象被写体にオートフォーカス制御を行うことで、商品レビュー動画において、商品紹介シーンでは商品70に、パフォーマンスシーンでは対象紹介者60にフォーカスを合わせた撮像をすることができる。
【0196】
実施の形態の撮像制御装置22において、撮像制御とは、撮像画像処理制御、即ち撮像画像データに対する画像処理の制御である例を述べた(
図12のS105,S109参照)。例えば撮像画像データに対して、対象被写体の領域に適合するホワイトバランス処理制御、コントラスト調整処理制御、画像エフェクト処理制御などが行われる。
従って、現在のシーンに応じて適した画像信号処理が実行されるようになり、動画の撮像中に撮像装置1を直接操作しなくても対象紹介者60の意図を反映させた信号処理が実現される。
【0197】
各実施の形態の撮像制御装置22は、選択部22bの選択結果に関連するメタデータを撮像画像データに関連づけるようにしている(
図14参照)。
これにより、動画としての撮像画像データについて、再生や編集の際に、パフォーマンスシーンを抽出したり、商品紹介シーンを抽出したりすることが容易となる。
またメタデータとして撮像画像データに関連づける情報としては、選択部22bが判定不能状態であることを示すエラーフラグの情報も含まれる。従って、例えば録画後においてはエラーフラグが付されたフレームを削除するなどにより、適切な動画撮像ができなかった区間を効率的に削除することができる。
つまり選択部22bの選択結果に関連するメタデータにより、動画としての撮像画像データの編集効率を向上させたり、確認のための再生作業が容易になったりする。
【0198】
また実施の形態の撮像装置1は、以上の撮像制御装置22を備えることで、上記の効果を奏する撮像装置として実現される。
その撮像装置1は、提示部18を有し、提示部18は、選択部22bが判定不能状態であることを提示する(
図14のステップS106、
図17のステップS202,S203,S204等参照)。
これにより、提示部18の表示部に判定不能状態であることが表示される。また、提示部18の音声出力から判定不能状態であることを通知する音が発せられる場合もある。
従って、撮像装置1が判定不能状態であることを対象紹介者60が知ることができる。例えば、撮像中に撮像装置1が判定不能状態になっていたことを対象紹介者60が気づかなかった場合、撮像した動画が対象紹介者60の意図が反映された撮像制御になっていないことがある。この場合、対象紹介者60はまた一から動画を撮像する必要があり、余計な労力や時間を消費することになってしまう。そのため、対象紹介者60が途中で気がつくように判定不能状態であることを通知することで、対象紹介者60の利便性の向上を図ることができる。
なお、提示部18のスピーカーからの音により判定不能状態であることを通知することで、撮像装置1の表示部が対象紹介者60側を向いていないときであっても対象紹介者60にエラーであることを気付かせることができる。
【0199】
より具体的には、提示部18では、撮像装置1からの紹介対象(商品70)までの距離Locが最短撮像処理未満のときに制御不能状態であることを提示する。
例えば、紹介対象の商品70が最短撮像距離より近い距離にある場合、商品70にフォーカスを合わせるようにフォーカスレンズを動かすことができず、商品70にぼけが生じてしまう。そこで対象紹介者60が途中で気がつくように判定不能状態であることを通知することで、対象紹介者60の利便性の向上を図る。
特に制御不能状態であることを対象紹介者60に対して表示することで(
図14のステップS106等参照)、対象紹介者60が視認して判定不能状態であることを知ることができる。また、音による通知ではなく撮像装置1の表示部での表示により通知することで、撮像中に余計な音が録音されることを防止することができる。
【0200】
実施の形態のプログラムは、
図14、
図17から
図21の処理を、例えばCPU、DSP等、或いはこれらを含むデバイスに実行させるプログラムである。
即ち実施の形態のプログラムは、撮像装置1の撮像部13により得られる撮像画像データに基づいて、紹介対象(例えば商品70)及び紹介対象を紹介する対象紹介者60をそれぞれ被写体として特定する特定処理と、紹介対象(商品70)と対象紹介者60と撮像装置1のうちの少なくともいずれか2つの位置関係に基づいて、前記紹介対象と前記対象紹介者の一方を対象被写体として選択する選択処理と、選択処理で対象被写体として選択された被写体に対応した撮像制御を行う撮像制御処理と、を撮像制御装置に実行させるプログラムである。
このようなプログラムにより、上述した撮像制御装置22を、例えばデジタルビデオカメラ1Aや動画の撮像機能を有するデジタルスチルカメラ1B、スマートフォン等の携帯端末1Cなどの撮像装置1において実現できる。
【0201】
このようなプログラムはコンピュータ装置等の機器に内蔵されている記録媒体としてのHDDや、CPUを有するマイクロコンピュータ内のROM等に予め記録しておくことができる。
あるいはまた、フレキシブルディスク、CD-ROM(Compact Disc Read Only Memory)、MO(Magnet optical)ディスク、DVD(Digital Versatile Disc)、ブルーレイディスク(Blu-ray Disc(登録商標))、磁気ディスク、半導体メモリ、メモリカードなどのリムーバブル記録媒体に、一時的あるいは永続的に格納(記録)しておくことができる。このようなリムーバブル記録媒体は、いわゆるパッケージソフトウェアとして提供することができる。
また、このようなプログラムは、リムーバブル記録媒体からパーソナルコンピュータ等にインストールする他、ダウンロードサイトから、LAN(Local Area Network)、インターネットなどのネットワークを介してダウンロードすることもできる。
【0202】
またこのようなプログラムによれば、実施の形態の撮像制御装置の広範な提供に適している。例えばパーソナルコンピュータ、携帯型情報処理装置、携帯電話機、ゲーム機器、ビデオ機器、PDA(Personal Digital Assistant)等にプログラムをダウンロードすることで、当該パーソナルコンピュータ等を、本開示の撮像制御装置として機能させることができる。
【0203】
なお、本明細書に記載された効果はあくまでも例示であって限定されるものではなく、また他の効果があってもよい。
また、本明細書に記載された実施の形態の説明はあくまでも一例であり、本技術が上述の実施の形態に限定されることはない。従って、上述した実施の形態以外であっても、本技術の技術的思想を逸脱しない範囲であれば、設計などに応じて種々の変更が可能なことはもちろんである。
【0204】
本技術は以下のような構成も採ることができる。
(1)
撮像装置の撮像部により得られる撮像画像データに基づいて、紹介対象及び前記紹介対象を紹介する対象紹介者をそれぞれ被写体として特定する特定部と、
前記紹介対象と、前記対象紹介者と、前記撮像装置のうちの少なくともいずれか2つの位置関係に基づいて、前記紹介対象と前記対象紹介者の一方を対象被写体として選択する選択部と、
前記選択部で前記対象被写体として選択された被写体に対応した撮像制御を行う撮像制御部と、を備えた
撮像制御装置。
(2)
前記選択部は、前記紹介対象と前記対象紹介者の位置関係に基づいて、前記紹介対象と前記対象紹介者の一方を前記対象被写体として選択する
上記(1)に記載の撮像制御装置。
(3)
前記選択部は、前記紹介対象と前記撮像装置の位置関係に基づいて、前記紹介対象と前記対象紹介者の一方を前記対象被写体として選択する
上記(1)に記載の撮像制御装置。
(4)
前記特定部は、前記撮像画像データに基づいて前記紹介対象を認識することで前記紹介対象を特定する
上記(1)から(3)の何れかに記載の撮像制御装置。
(5)
前記特定部は、前記撮像画像データに基づいて前記対象紹介者の手を認識し、前記手の認識結果に基づいて、前記紹介対象を特定する
上記(1)から(4)の何れかに記載の撮像制御装置。
(6)
前記特定部は、前記手を本来の紹介対象の代替として仮想的に前記紹介対象として特定する
上記(5)に記載の撮像制御装置。
(7)
前記特定部は、前記手の状態に基づいて前記紹介対象を特定する
上記(5)又は(6)に記載の撮像制御装置。
(8)
前記選択部は、前記紹介対象と、前記対象紹介者の手の状態による前記紹介対象と前記対象紹介者の位置関係に基づいて、前記紹介対象と前記対象紹介者の一方を前記対象被写体として選択する
上記(5)から(7)のいずれかに記載の撮像制御装置。
(9)
前記手の状態とは、前記対象紹介者の手が紹介対象に触れている状態である
上記(7)又は(8)に記載の撮像制御装置。
(10)
前記手の状態とは、前記対象紹介者の手が紹介対象を指し示している状態である
上記(7)又は(8)に記載の撮像制御装置。
(11)
前記選択部は、前記位置関係である、前記紹介対象、前記対象紹介者及び前記撮像装置のうちの少なくともいずれか2つの間の距離関係に基づいて、前記紹介対象と前記対象紹介者の一方を対象被写体として選択する
上記(1)に記載の撮像制御装置。
(12)
前記距離関係は、前記紹介対象と前記撮像装置の間の距離である
上記(11)に記載の撮像制御装置。
(13)
前記距離関係は、前記対象紹介者と前記紹介対象との間の距離である
上記(11)に記載の撮像制御装置。
(14)
前記距離関係は、前記対象紹介者と前記紹介対象と前記撮像装置の間の距離である
上記(11)に記載の撮像制御装置。
(15)
前記選択部は、前記紹介対象又は前記対象紹介者の少なくとも一方の領域が前記撮像画像データのフレーム全体に対して占める比率に基づいて前記距離関係を検出する
上記(11)に記載の撮像制御装置。
(16)
前記撮像装置と前記紹介対象との距離が所定の値より短い場合に、前記撮像制御が困難である制御困難状態であることを前記対象紹介者へ提示する提示制御を行う提示制御部をさらに備える
上記(1)から(15)の何れかに記載の撮像制御装置。
(17)
前記選択部による選択結果に関連するメタデータを前記撮像画像データに関連付ける関連付け制御を行う関連付け制御部をさらに有する
上記(1)から(16)の何れかに記載の撮像制御装置。
(18)
撮像部と、
前記撮像部により得られる撮像画像データに基づいて、紹介対象及び前記紹介対象を紹介する対象紹介者を特定する特定部と、
前記紹介対象と、前記対象紹介者と、撮像装置のうちの少なくともいずれか2つの位置関係に基づいて、前記紹介対象と前記対象紹介者の一方を対象被写体として選択する選択部と、
前記選択部で前記対象被写体として選択された被写体に対して撮像制御を行う撮像制御部と、を備えた
撮像装置。
(19)
撮像装置の撮像部により得られる撮像画像データに基づいて、紹介対象及び前記紹介対象を紹介する対象紹介者をそれぞれ被写体として特定する特定処理と、
前記紹介対象と、前記対象紹介者と、前記撮像装置のうちの少なくともいずれか2つの位置関係に基づいて、前記紹介対象と前記対象紹介者の一方を対象被写体として選択する選択処理と、
前記選択部で前記対象被写体として選択された被写体に対応した撮像制御を行う撮像制御処理とを含む
撮像制御方法。
(20)
撮像装置の撮像部により得られる撮像画像データに基づいて、紹介対象及び前記紹介対象を紹介する対象紹介者をそれぞれ被写体として特定する特定処理と、
前記紹介対象と、前記対象紹介者と、前記撮像装置のうちの少なくともいずれか2つの位置関係に基づいて、前記紹介対象と前記対象紹介者の一方を対象被写体として選択する選択処理と、
前記選択部で前記対象被写体として選択された被写体に対応した撮像制御を行う撮像制御処理と、
を撮像制御装置に実行させるプログラム。
【符号の説明】
【0205】
1 撮像装置、11 光学系、13 撮像部、14 イメージセンサ、18 提示部、22 撮像制御装置、22a 特定部、22b 選択部、22c 撮像制御部、22d 提示制御部、22e 関連付け制御部、61 手、62 顔、70 商品