特許第6249596号(P6249596)IP Force 特許公報掲載プロジェクト 2022.1.31 β版

知財求人 - 知財ポータルサイト「IP Force」

▶ 三星電子株式会社の特許一覧

<>
  • 特許6249596-撮像装置および撮像方法 図000002
  • 特許6249596-撮像装置および撮像方法 図000003
  • 特許6249596-撮像装置および撮像方法 図000004
  • 特許6249596-撮像装置および撮像方法 図000005
  • 特許6249596-撮像装置および撮像方法 図000006
  • 特許6249596-撮像装置および撮像方法 図000007
  • 特許6249596-撮像装置および撮像方法 図000008
  • 特許6249596-撮像装置および撮像方法 図000009
  • 特許6249596-撮像装置および撮像方法 図000010
  • 特許6249596-撮像装置および撮像方法 図000011
< >
(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】6249596
(24)【登録日】2017年12月1日
(45)【発行日】2017年12月20日
(54)【発明の名称】撮像装置および撮像方法
(51)【国際特許分類】
   H04N 5/232 20060101AFI20171211BHJP
   G03B 37/00 20060101ALI20171211BHJP
【FI】
   H04N5/232 380
   G03B37/00 A
【請求項の数】10
【全頁数】18
(21)【出願番号】特願2012-266506(P2012-266506)
(22)【出願日】2012年12月5日
(65)【公開番号】特開2014-112796(P2014-112796A)
(43)【公開日】2014年6月19日
【審査請求日】2015年12月4日
(73)【特許権者】
【識別番号】390019839
【氏名又は名称】三星電子株式会社
【氏名又は名称原語表記】Samsung Electronics Co.,Ltd.
(74)【代理人】
【識別番号】110000671
【氏名又は名称】八田国際特許業務法人
(72)【発明者】
【氏名】奥田 克
(72)【発明者】
【氏名】松尾 壮
【審査官】 鹿野 博嗣
(56)【参考文献】
【文献】 特許第4120677(JP,B2)
【文献】 特開2010−049313(JP,A)
【文献】 特開2012−105122(JP,A)
【文献】 特開2010−278587(JP,A)
【文献】 特開2005−252739(JP,A)
【文献】 特開平11−289447(JP,A)
(58)【調査した分野】(Int.Cl.,DB名)
H04N 5/232
G03B 37/00
(57)【特許請求の範囲】
【請求項1】
パノラマ画像の生成のために、一定の方向に沿って連続する複数のフレーム画像を撮像する撮像部と、
前記撮像部により撮像中の前記フレーム画像について、前記一定の方向に交差する高さ方向の上下を一定の割合により削除して、表示用画像として表示する表示部と、
前記撮像部による連続撮像中に、ユーザーからの指示を受け付ける受付部と、
前記受付部がユーザーからの指示を受け付けた際に、前記撮像部により撮像されている前記フレーム画像を基準画像として設定する基準画像設定部と、
前記基準画像設定部により設定された前記基準画像の周辺に、他のフレーム画像を合成して、パノラマ画像を生成する画像合成部と、
を有し、
前記表示部は、被写体までの距離が小さいほど、前記一定の割合を大きくし、
前記画像合成部は、前記基準画像について前記表示部が表示した部分を部分基準画像とし、前記部分基準画像の周辺に、前記部分基準画像の高さに限定した他のフレーム画像の一部を合成して前記パノラマ画像を生成するものであり、かつ、前記基準画像の周辺に他のフレーム画像を合成する際に重なる部分がある場合は、前記基準画像の画像が残るように前記基準画像を優先して合成する撮像装置。
【請求項2】
パノラマ画像の生成のために、一定の方向に沿って連続する複数のフレーム画像を撮像する撮像部と、
前記撮像部により撮像中の前記フレーム画像について、前記一定の方向に交差する高さ方向の上下を一定の割合により削除して、表示用画像として表示する表示部と、
前記撮像部による連続撮像中に、ユーザーからの指示を受け付ける受付部と、
前記受付部がユーザーからの指示を受け付けた際に、前記撮像部により撮像されている前記フレーム画像を基準画像として設定する基準画像設定部と、
前記基準画像設定部により設定された前記基準画像の周辺に、他のフレーム画像を合成して、パノラマ画像を生成する画像合成部と、
を有し、
前記表示部は、被写体までの距離が小さいほど前記一定の割合を大きくし、
前記画像合成部は、前記基準画像について前記表示部が表示した部分を部分基準画像とし、前記部分基準画像の周辺に、前記部分基準画像の高さに限定した他のフレーム画像の一部を合成して前記パノラマ画像を生成する撮像装置。
【請求項3】
前記基準画像以外の前記フレーム画像を、前記部分基準画像の高さに限定すると、前記部分基準画像に合成できない場合、前記一定の割合を大きくし、当該一定の割合を記憶する割合記憶部をさらに有する請求項1または2に記載の撮像装置。
【請求項4】
前記撮像部は、前記基準画像を含む一連のフレーム画像とは別に、一定の方向に沿って連続する他の一連のフレーム画像をさらに撮像し、
前記画像合成部は、前記一連のフレーム画像および前記他の一連のフレーム画像に含まれる任意の前記フレーム画像を、前記基準画像と合成する請求項1〜のいずれか一項に記載の撮像装置。
【請求項5】
前記基準画像設定部は、前記画像合成部により撮像された前記一連のフレーム画像および前記他の一連のフレーム画像に含まれる任意の前記フレーム画像の中から、一つのフレーム画像の選択を受け付け、選択されたフレーム画像を新たな基準画像に設定し、
前記画像合成部は、前記一連のフレーム画像および前記他の一連のフレーム画像に含まれる任意の前記フレーム画像を、前記新たな基準画像と合成する請求項に記載の撮像装置。
【請求項6】
パノラマ画像の生成のために、一定の方向に沿って連続する複数のフレーム画像を撮像する撮像ステップと、
前記撮像ステップにおいて撮像中の前記フレーム画像について、前記一定の方向に交差する高さ方向の上下を一定の割合により削除して、表示用画像として表示する表示ステップと、
前記撮像ステップにおける連続撮像中に、ユーザーからの指示を受け付ける受付ステップと、
前記受付ステップにおいてユーザーからの指示を受け付けた際に、前記撮像ステップにおいて撮像されている前記フレーム画像を基準画像として設定する基準画像設定ステップと、
前記基準画像設定ステップにおいて設定された前記基準画像の周辺に、他のフレーム画像を合成して、パノラマ画像を生成する画像合成ステップと、
を有し、
前記表示ステップは、被写体までの距離が小さいほど、前記一定の割合を大きくし、
前記画像合成ステップは、前記基準画像について前記表示ステップにおいて表示された部分を部分基準画像とし、前記部分基準画像の周辺に、前記部分基準画像の高さに限定した他のフレーム画像の一部を合成して前記パノラマ画像を生成するステップであり、かつ、前記基準画像の周辺に他のフレーム画像を合成する際に重なる部分がある場合は、前記基準画像の画像が残るように前記基準画像を優先して合成する撮像方法。
【請求項7】
パノラマ画像の生成のために、一定の方向に沿って連続する複数のフレーム画像を撮像する撮像ステップと、
前記撮像ステップにおいて撮像中の前記フレーム画像について、前記一定の方向に交差する高さ方向の上下を一定の割合により削除して、表示用画像として表示する表示ステップと、
前記撮像ステップにおける連続撮像中に、ユーザーからの指示を受け付ける受付ステップと、
前記受付ステップにおいてユーザーからの指示を受け付けた際に、前記撮像ステップにおいて撮像されている前記フレーム画像を基準画像として設定する基準画像設定ステップと、
前記基準画像設定ステップにおいて設定された前記基準画像の周辺に、他のフレーム画像を合成して、パノラマ画像を生成する画像合成ステップと、
を有し、
前記表示ステップは、被写体までの距離が小さいほど、前記一定の割合を大きくし、
前記画像合成ステップは、前記基準画像について前記表示ステップにおいて表示された部分を部分基準画像とし、前記部分基準画像の周辺に、前記部分基準画像の高さに限定した他のフレーム画像の一部を合成して前記パノラマ画像を生成する撮像方法。
【請求項8】
前記基準画像以外の前記フレーム画像を、前記部分基準画像の高さに限定すると、前記部分基準画像に合成できない場合、前記一定の割合を大きくし、当該一定の割合を記憶する割合記憶ステップをさらに有する請求項6または7に記載の撮像方法。
【請求項9】
前記撮像ステップは、前記基準画像を含む一連のフレーム画像とは別に、一定の方向に沿って連続する他の一連のフレーム画像をさらに撮像し、
前記画像合成ステップは、前記一連のフレーム画像および前記他の一連のフレーム画像に含まれる任意の前記フレーム画像を、前記基準画像と合成する請求項6〜8のいずれか一項に記載の撮像方法。
【請求項10】
前記基準画像設定ステップは、前記画像合成ステップにおいて撮像された前記一連のフレーム画像および前記他の一連のフレーム画像に含まれる任意の前記フレーム画像の中から、一つのフレーム画像の選択を受け付け、選択されたフレーム画像を新たな基準画像に設定し、
前記画像合成ステップは、前記一連のフレーム画像および前記他の一連のフレーム画像に含まれる任意の前記フレーム画像を、前記新たな基準画像と合成する請求項に記載の撮像方法。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、パノラマ画像を生成する撮像装置および撮像方法に関する。
【背景技術】
【0002】
近年、通常の写真よりも幅広な撮影、いわゆるパノラマ撮影を行えるカメラがある。パノラマ撮影の際には、たとえば、カメラをスイングし、スイング中に撮影した画像を合成して、通常の写真よりもスイング方向に幅があるパノラマ画像が得られる。パノラマ画像に関しては、種々の改良がされている。パノラマ画像の撮影に際して、ユーザーが意図した被写体を、パノラマ画像中の幅方向の任意の位置に収めることは難しい。たとえば、パノラマ画像において、意図した被写体を画面の中央に収めるためには、当該被写体の側方からカメラのスイングを始めて、被写体を視野に収めた後、スイング開始から同じ量だけスイングする必要がある。
【0003】
意図した被写体をパノラマ画像の任意の位置に収めるために、スイング量を示すカメラが提案されている(たとえば、特許文献1参照)。特許文献1記載の発明によれば、ユーザーは、予め、パノラマ画像のどの位置に意図した被写体を収めるかを指定できる。ユーザーがパノラマ画像の撮影のためにスイングを始め、意図した被写体が視野に入ったところで所定のボタンを押下すると、カメラは、ボタン押下された時点で被写体が撮影されたことを検知する。カメラは、スイング開始からボタン押下までの画像の幅と、予め指定された被写体の所望の位置とを考慮して、残りのスイング量を計算し、ディスプレイ等を通じてユーザーに示す。
【先行技術文献】
【特許文献】
【0004】
【特許文献1】特開2012−105122号公報
【発明の概要】
【発明が解決しようとする課題】
【0005】
しかしながら、上記特許文献1記載の発明では、所望の位置に意図した被写体が配置されたパノラマ画像が得られるものの、意図した被写体が綺麗に表示されるとは限らない。なぜなら、パノラマ画像を形成する際には、カメラスイング中に撮影した複数のフレーム画像を合成するからである。当然、意図した被写体も、複数のフレーム画像を合成することにより形成されるので、フレーム画像間のつなぎ合わせより生じる歪が意図した被写体にも表れてしまう場合がある。これでは、折角意図した被写体を所望の位置に撮影できても、肝心の意図した被写体が綺麗ではない。
【0006】
本発明は上記事情に鑑みてなされたものであり、ユーザーが意図した被写体を、綺麗にパノラマ画像の中に残す撮像装置および撮像方法を提供することを目的とする。
【課題を解決するための手段】
【0007】
上記目的は、下記の手段によって達成される。
【0008】
撮像装置は、撮像部と、表示部と、受付部と、基準画像設定部と、画像合成部とを有する。撮像部は、パノラマ画像の生成のために、一定の方向に沿って連続する複数のフレーム画像を撮像する。受付部は、撮像部による連続撮像中に、ユーザーからの指示を受け付ける。基準画像設定部は、受付部がユーザーからの指示を受け付けた際に、撮像部により撮像されているフレーム画像を基準画像として設定する。表示部は、撮像部により撮像中のフレーム画像について、一定の方向に交差する高さ方向の上下を一定の割合により削除して、表示用画像として表示する。また表示部は、被写体までの距離が小さいほど、一定の割合を大きくする。画像合成部は、基準画像設定部により設定された基準画像の周辺に、他のフレーム画像を合成して、パノラマ画像を生成する。パノラマ画像を生成する際に画像合成部は、基準画像の周辺に他のフレーム画像を合成する際に重なる部分がある場合は、基準画像の画像が残るように基準画像を優先して合成し、基準画像について表示部が表示した部分を部分基準画像とし、部分基準画像の周辺に、部分基準画像の高さに限定した他のフレーム画像の一部を合成してパノラマ画像を生成する。
また、撮像装置は、撮像部と、表示部と、受付部と、基準画像設定部と、画像合成部とを有する。撮像部は、パノラマ画像の生成のために、一定の方向に沿って連続する複数のフレーム画像を撮像する。表示部は撮像部により撮像中のフレーム画像について、一定の方向に交差する高さ方向の上下を一定の割合により削除して、表示用画像として表示する。受付部は、撮像部による連続撮像中に、ユーザーからの指示を受け付ける。基準画像設定部は、受付部がユーザーからの指示を受け付けた際に、撮像部により撮像されているフレーム画像を基準画像として設定する。画像合成部は、基準画像設定部により設定された基準画像の周辺に、他のフレーム画像を合成して、パノラマ画像を生成する。そして、表示部は、被写体までの距離が小さいほど一定の割合を大きくし、画像合成部は、基準画像について表示部が表示した部分を部分基準画像とし、部分基準画像の周辺に、部分基準画像の高さに限定した他のフレーム画像の一部を合成してパノラマ画像を生成する。
【0009】
撮像方法は、撮像ステップと、表示ステップと、受付ステップと、基準画像設定ステップと、画像合成ステップとを有する。撮像ステップは、パノラマ画像の生成のために、一定の方向に沿って連続する複数のフレーム画像を撮像する。表示ステップは、撮像ステップにおいて撮像中のフレーム画像について、一定の方向に交差する高さ方向の上下を一定の割合により削除して、表示用画像として表示する。受付ステップは、撮像ステップにおける連続撮像中に、ユーザーからの指示を受け付ける。基準画像設定ステップは、受付ステップにおいてユーザーからの指示が受け付けられた際に、撮像ステップにおいて撮像されているフレーム画像を基準画像として設定する。画像合成ステップは、基準画像設定ステップにおいて設定された基準画像の周辺に、他のフレーム画像を合成して、パノラマ画像を生成する。そして表示ステップは、被写体までの距離が小さいほど、一定の割合を大きくし、画像合成ステップにおいて、基準画像の周辺に他のフレーム画像を合成する際に重なる部分がある場合は、基準画像の画像が残るように基準画像を優先して合成し、基準画像について表示ステップにおいて表示された部分を部分基準画像とし、部分基準画像の周辺に、部分基準画像の高さに限定した他のフレーム画像の一部を合成してパノラマ画像を生成する。
また、撮像方法は、撮像ステップと、表示ステップと、受付ステップと、基準画像設定ステップと、画像合成ステップとを有する。撮像ステップは、パノラマ画像の生成のために、一定の方向に沿って連続する複数のフレーム画像を撮像する。表示ステップは、撮像ステップにおいて撮像中のフレーム画像について、一定の方向に交差する高さ方向の上下を一定の割合により削除して、表示用画像として表示する。受付ステップは、撮像ステップにおける連続撮像中に、ユーザーからの指示を受け付ける。基準画像設定ステップは、受付ステップにおいてユーザーからの指示が受け付けられた際に、撮像ステップにおいて撮像されているフレーム画像を基準画像として設定する。画像合成ステップは、基準画像設定ステップにおいて設定された基準画像の周辺に、他のフレーム画像を合成して、パノラマ画像を生成する。そして表示ステップは、被写体までの距離が小さいほど、一定の割合を大きくし、画像合成ステップは、基準画像について表示ステップにおいて表示された部分を部分基準画像とし、部分基準画像の周辺に、部分基準画像の高さに限定した他のフレーム画像の一部を合成してパノラマ画像を生成する。
【発明の効果】
【0010】
撮像装置および撮像方法によれば、一定の方向に連続する複数のフレーム画像の撮像中に、ユーザーから基準画像の指定を受け付け、指定された基準画像の周辺に他のフレーム画像を合成してパノラマ画像生成処理を行う。これにより、ユーザーが意図した被写体を綺麗に残してパノラマ画像を生成できる。
【図面の簡単な説明】
【0011】
図1】本発明の実施形態に係るカメラの概略構成を示すブロック図である。
図2】第1実施形態のカメラにより実行される処理の手順を示すフローチャートである。
図3】パノラマ画像の生成処理を行う様子を示す概念図である。
図4】パノラマ画像の生成処理を行う様子を示す概念図である。
図5】撮像部により撮像されるフレーム画像および表示部に表示される表示用画像の一例を示す図である。
図6】基準画像の表示領域に基づきパノラマ画像を合成する様子を模式的に示す図である。
図7】第2実施形態のカメラにより実行される処理の手順を示すフローチャートである。
図8】測距位置に基づいて表示用画像における表示領域を決定する様子を模式的に示す図である。
図9】パノラマ画像の合成に失敗した様子を示す図である。
図10】パノラマ画像の基準画像および合成範囲を変更する様子を示す図である。
【発明を実施するための形態】
【0012】
以下、添付した図面を参照して、本発明の実施形態を説明する。なお、図面の説明において同一の要素には同一の符号を付し、重複する説明を省略する。また、図面の寸法比率は、説明の都合上誇張されており、実際の比率とは異なる場合がある。
【0013】
(第1実施形態)
図1は、本発明の実施形態に係るカメラの概略構成を示すブロック図である。
【0014】
図1に示すとおり、撮像装置としてのカメラ1は、撮像部10、表示部20、操作部30、姿勢検出部40、記録メディア50および制御部60を有する。
【0015】
撮像部10は、被写体を撮像し、画像(画像データ)を生成する。撮像部10は、パノラマ画像を生成するために、連続した複数の画像(フレーム画像)を生成する。撮像部10は、被写体を結像する光学系11と、光学系11により結像された被写体を撮像するCMOSセンサー12とを有する。光学系11は、ズーム用光学素子、絞りおよびフォーカス用光学素子を有し、これらは、ドライバ13、14、15を介して制御部60により制御される。CMOSセンサー12は、TG(タイミングコントローラ)16を介して制御部60により制御される。
【0016】
表示部20は、たとえば、液晶ディスプレイ(LCD)や有機ELディスプレイであり、画像や各種情報を表示する。表示部20は、カメラ1の筐体(不図示)の背面に設けられ、撮像部10により被写体を撮像して得られる画像データに基づく画像を表示する。表示部20は、表示部ドライバ68を介して制御部60により制御される。
【0017】
操作部30は、シャッターボタン、上下左右キー、電源スイッチ、モードダイアル等であり、ユーザーからの各種指示の入力に使用される。また、操作部30は、表示部20のディスプレイにおいて、タッチパネル方式により実現されてもよい。
【0018】
姿勢検出部40は、カメラ1の動き、傾き等の姿勢の変化を検出する。姿勢検出部40は、たとえば、ジャイロセンサー等の角速度センサーが用いられる。また、姿勢検出部40として、加速度センサーや地磁気センサーが用いられてもよい。姿勢検出部40は、カメラ1の姿勢変化の検出結果を示す信号を制御部60に供給する。
【0019】
記録メディア50は、画像データを記録する。記録メディア50は、カメラ1に挿脱可能に設けられ、撮像部10により被写体を撮像して得られる画像データを記録する。記録メディア50への画像データの記録および記録メディア50からの画像データの消去は、メディアコントローラ69を介して制御部60により制御される。
【0020】
制御部60は、CPU61、VRAM62、SDRAM63、EEPROM64、画像入力コントローラ65、画像信号処理回路66、圧縮処理回路67、表示部ドライバ68、およびメディアコントローラ69を有し、これらは、バスを介して相互に通信可能に接続されている。
【0021】
CPU61は、プログラムにしたがって上記各部の制御や各種の演算処理を行う。VRAM62およびSDRAM63は、作業領域として一時的にプログラムやデータを記憶する。EEPROM64は、各種プログラムや各種データを格納する。
【0022】
画像入力コントローラ65は、CMOSセンサー12からの出力信号を取り込んで、SDRAM63に書き込む。画像信号処理回路66は、撮像中のフレーム画像データから表示用画像データを生成する表示用画像生成処理等の各種画像処理を実行する。
【0023】
圧縮処理回路67は、画像データの圧縮処理を実行する。表示部ドライバ68は、表示部20を制御する。メディアコントローラ69は、記録メディア50に対する画像データの記録や消去を制御する。
【0024】
また、CPU61は、EEPROM64に記憶されているプログラムを実行することによって、受付部、基準画像設定部、画像合成部、割合記憶部として機能する。ここで、受付部は、撮像中にユーザーからの基準画像を指定するための指示を受け付ける。基準画像設定部は、操作部30においてユーザーからの指示を受け付けた際に、撮像部10により撮像されているフレーム画像を基準画像として設定する。画像合成部は、基準画像の周辺に他のフレーム画像を合成してパノラマ画像を生成する。割合記憶部は、表示用画像を生成する際に撮像中のフレーム画像から削除する一定の割合を記憶する。各部の具体的な処理内容については後述する。
【0025】
なお、カメラ1は、上述した構成要素以外の構成要素を含んでいてもよく、あるいは、上述した構成要素のうちの一部が含まれていなくてもよい。
【0026】
次に、本実施形態におけるカメラ1の動作について説明する。
【0027】
カメラ1は、パノラマ画像生成のための複数のフレーム画像の連続撮像中に、ユーザーから基準画像の指定を受け付け、指定された基準画像の周辺に他のフレーム画像を合成してパノラマ画像生成処理を行う。
【0028】
図2は、第1実施形態のカメラにより実行される処理の手順を示すフローチャートである。図2のフローチャートに示されるアルゴリズムは、カメラ1のEEPROM64にプログラムとして記憶されており、CPU61により実行される。
【0029】
図2に示すように、カメラ1は、ユーザーによる操作部30のシャッターボタン押下等の操作に従い、パノラマ画像の生成を開始する(ステップS101)。
【0030】
カメラ1は、撮像部10を制御することにより、複数のフレーム画像を連続して生成しつつ、撮像部10が撮像して得た画像データに基づく表示用画像を表示部20に表示する(ステップS102)。ここで、ユーザーがカメラ1をスイングしたり直線移動させたりすることにより、カメラ1は、一定の方向に沿って連続した複数のフレーム画像を撮像できる。カメラ1は、ユーザーが適切にカメラを移動させられるように、表示部20に移動方向等を示すガイドを表示してもよい。カメラ1は、連続撮像を行うために、たとえば、時系列で一定間隔毎にフレーム画像を撮像する。あるいは、カメラ1は、姿勢検出部40から取得する信号に基づいて、カメラ1の姿勢や位置が一定量変化する毎に撮像してもよい。また、カメラ1は、撮像されたフレーム画像を解析することによりカメラ1の姿勢や位置の変化を検出し、カメラ1の姿勢や位置が一定量変化する毎に撮像してもよい。カメラ1は、撮像されたフレーム画像をSDRAM63に記憶する。連続撮像処理について、詳細は後述する。
【0031】
続いて、カメラ1は、受付部として、ユーザーによる基準画像を設定するための指示を受け付けたか否かを判断する(ステップS103)。ユーザーによる指示は、たとえば、撮像前のピント合わせに用いられる操作であるシャッターボタンの半押しや、タッチパネルへのタッチにより行われる。あるいは、ユーザーによる指示は、撮像中のカメラ1に振動を与えて撮像の妨げとならないように、音声認識による操作として行われてもよい。
【0032】
ユーザーからの指示が受け付けられていない場合(ステップS103:NO)、カメラ1は、ステップS105の処理に進む。ユーザーからの指示が受け付けられた場合(ステップS103:YES)、カメラ1は、基準画像設定部として、指示を受け付けた時点で撮像部10により撮像されているフレーム画像を、基準画像として設定する(ステップS104)。ここで、カメラ1は、ステップS104において、撮像部10によって新たにフレーム画像を撮像し、新たに撮像したフレーム画像を基準画像として設定してもよい。カメラ1は、設定した基準画像をSDRAM63に記憶する。基準画像設定処理について、詳細は後述する。
【0033】
続いて、カメラ1は、フレーム画像の連続撮像が終了したか否かを判断する(ステップS105)。連続撮像の終了は、ユーザーによる操作部30のシャッターボタン等の押下により判断される。あるいは、連続撮像の終了は、連続撮像の開始時からの経過時間が所定の時間に到達したことにより判断されてもよく、カメラ1の姿勢や位置の変化量が所定の量に到達したことにより判断されてもよい。連続撮像が終了していない場合(ステップS105:NO)、カメラ1は、ステップS102に戻り、フレーム画像の撮像を継続する。連続撮像が終了した場合(ステップS105:YES)、カメラ1はステップS106の処理に進む。
【0034】
カメラ1は、画像合成部として、ステップS102において撮像された複数のフレーム画像と、ステップS104において設定された基準画像とに基づいて、パノラマ画像を生成する(ステップS106)。カメラ1は、基準画像をパノラマ画像生成の起点として、その周囲に複数のフレーム画像を合成することによりパノラマ画像を生成する。パノラマ画像生成処理について、詳細は後述する。
【0035】
カメラ1は、ステップS106において生成したパノラマ画像を、表示部20のディスプレイに表示する(ステップS107)。カメラ1は、生成したパノラマ画像を、SDRAM63または、記録メディア50に保存して処理を終了する(ステップS108)。
【0036】
次に、図2のフローチャートに示す各処理について、具体的な動作の例を説明する。
【0037】
図3および図4は、パノラマ画像の生成処理を行う様子を示す概念図である。
【0038】
図3および図4において、(A)〜(C)はパノラマ画像の連続撮像処理を行う様子を上方から見た概略図である。(A)はフレーム画像の連続撮像を開始する様子を示し、(B)は連続撮像中に基準画像を設定する様子を示し、(C)は連続撮像を終了する様子を示す。また、(D)は、基準画像の周辺に他のフレーム画像を合成してパノラマ画像を生成する様子を示す。
【0039】
[連続撮像処理および基準画像設定処理]
まず、図2のステップS102およびステップS104に示す、連続撮像処理および基準画像設定処理について説明する。
【0040】
図3(A)に示すように、ユーザーU1は、パノラマ画像を生成するために、たとえば、カメラ1のシャッターボタンを押下してフレーム画像の撮像を開始する。撮像が開始されると、カメラ1は、フレーム画像F1を撮像し、SDRAM63に記憶する。
【0041】
続いて、図3(B)に示すように、ユーザーU1はカメラ1を矢印の方向にスイングしながら連続撮像を行い、たとえば、人物等の最も撮像したい被写体がフレーム画像に収まる位置で、シャッターボタンを半分押下する。カメラ1は、フレーム画像F1に続いて、フレーム画像F2、F3を撮像し、SDRAM63に記憶する。また、カメラ1は、フレーム画像F3を撮像した時点でユーザーによる指示を受け付けているため、フレーム画像F3を基準画像KFとして設定する。カメラ1は、F3が基準画像KFである旨をSDRAM63に記憶する。
【0042】
続いて、図3(C)に示すように、ユーザーU1は、引き続きカメラ1を矢印の方向にスイングし、たとえば、撮像を終了したい位置でシャッターボタンを押下して連続撮像を終了する。カメラ1は、撮像終了までに撮像したフレーム画像F4、F5をSDRAM63に記憶する。
【0043】
[パノラマ画像合成処理]
次に、図2のステップS106に示すパノラマ画像合成処理について説明する。
【0044】
図3(D)に示すように、カメラ1は、図(A)〜(C)の工程においてSDRAM63に記憶された基準画像KF(F3)と、フレーム画像F1、F2、F4、F5とに基づいて、パノラマ画像P1の合成を行う。
【0045】
まず、カメラ1は、ステップ(1)として、基準画像KF(F3)をパノラマ画像の元となる原画像として設定する。次に、カメラ1は、ステップ(2)として、基準画像KFを撮像する直前に撮像されたフレーム画像F2を、原画像として設定した基準画像KFの左側に合成する。基準画像KFとフレーム画像F2が重なる部分については、基準画像KFの画像が残るように基準画像KFを優先して合成を行う。続いて、カメラ1は、ステップ(3)として、ステップ(2)において合成された画像の左側に、フレーム画像F1をさらに合成する。ここでも、基準画像KFとフレーム画像F1が重なる部分があれば、基準画像KFの画像が残るように基準画像KFを優先して合成を行う。
【0046】
基準画像KFの撮像前に撮像されたフレーム画像の合成が終了すると、カメラ1は、ステップ(4)として、基準画像KFを撮像した直後に撮像されたフレーム画像F4を、ステップ(3)において合成された画像の右側(基準画像KFの右側)に合成する。基準画像KFとフレーム画像F4が重なる部分については、基準画像KFの画像が残るように基準画像KFを優先して合成を行う。続いて、カメラ1は、ステップ(5)として、ステップ(4)において合成された画像の右側に、フレーム画像F4をさらに合成する。ここでも、基準画像KFとフレーム画像F5が重なる部分があれば、基準画像KFの画像が残るように基準画像KFを優先して合成を行う。ステップ(5)の処理が終了すると、パノラマ画像P1が完成する。カメラ1は、パノラマ画像P1を表示部20に表示し、SDRAM63または記録メディア50に記憶する。
【0047】
図4は、図3と同様のパノラマ画像生成処理が行われる様子を示しており、基準画像KFが指定される位置のみが異なる。
【0048】
図3においては、撮像範囲の中央に相当するフレーム画像F3を基準画像KFとして設定したが、図4においては、撮像範囲の中央ではないフレーム画像F4を基準画像KFとして設定している。この場合において、カメラ1は、図3の場合と同様に、基準画像KFとして設定されたフレーム画像F4を基準として、パノラマ画像の合成を行う。具体的には、図4(D)に示すように、ステップ(1)において、カメラ1は、基準画像KF(F4)をパノラマ画像の元となる原画像として設定する。次に、ステップ(2)〜(5)において、図3の場合と同様に、フレーム画像F3、F2、F1、F5の順番で合成処理を行う。これにより、パノラマ画像P2が完成する。カメラ1は、パノラマ画像P2を表示部20に表示し、SDRAM63または記録メディア50に記憶する。
【0049】
[表示用画像]
上記において、たとえば、ユーザーU1が手に持ったカメラ1を横にスイングして連続撮像を行う場合、撮像されるフレーム画像は、手振れにより縦方向にずれている可能性が高い。その結果、図3(D)に示す処理により、基準画像を残しつつ、一定の方向に沿って連続したパノラマ画像を生成しようとすると、フレーム画像がずれた部分については画像が撮像されていないため、当該ずれた部分が欠けたパノラマ画像が生成されることになる。この場合、ユーザーが意図した被写体をパノラマ画像の中に残すことはできるが、一定の方向に沿って連続した綺麗なパノラマ画像を生成することはできず、好ましくない。
【0050】
そこで、本実施形態においては、一定の方向に沿って連続して撮像されるフレーム画像について、一定の方向に交差する高さ方向の上下を一定の割合により削除した画像を、表示用画像として表示部20に表示する。このような表示用画像を用いることにより、ユーザーが意図した被写体を残しつつ、一定の方向に沿って連続した綺麗なパノラマ画像を生成できる。以下、詳細について説明する。
【0051】
まず、表示用画像について詳細に説明する。
【0052】
図5は、撮像部により撮像されるフレーム画像および表示部に表示される表示用画像の一例を示す図である。図5において、(A)は撮像部10により撮像されるフレーム画像100を示し、(B)は撮像されたフレーム画像100と表示領域110との関係を示す。
【0053】
図5(A)、(B)に示すように、一定の方向に沿って連続して撮像されるフレーム画像100は、一定の方向に交差する高さ方向の上下を一定の割合により削除した表示領域110と、当該表示領域110に含まれず削除される非表示領域120とから構成される。表示領域110は、表示用画像として表示部20に表示される。非表示領域120は、表示部20には表示されないが、フレーム画像100の一部としてSDRAM63に記憶される。
【0054】
次に、表示用画像と生成されるパノラマ画像との関係について詳細に説明する。
【0055】
図6は、基準画像の表示領域に基づきパノラマ画像を合成する様子を模式的に示す図である。図6において、(A)は連続撮像されたフレーム画像F61〜F65と各フレーム画像の表示領域110を示し、(B)は基準画像KF(F63)の表示領域110に基づいてパノラマ画像の合成範囲130を決定する様子を示す。また、(C)は合成範囲130に従って生成されたパノラマ画像P3を示す。
【0056】
図6(A)に示すように、連続撮像されたフレーム画像F61〜F65は、撮像範囲が上下にずれている。また、フレーム画像F63が基準画像KFとして設定されている。撮像範囲のずれは、画像解析によって得られる各フレーム画像における特徴点同士の位置比較や、姿勢検出部40から得られる撮像中のカメラ1の姿勢や位置の変化に関する情報の解析といった一般的なパノラマ画像合成方法によって判断される。
【0057】
ここで、連続撮像時において、ユーザーU1が撮像される画像を確認するために見ている表示部20には、フレーム画像の表示領域110が表示用画像として表示されている。当然、ユーザーU1は、基準画像KFを指定する際においても、表示部20に表示された表示領域110を見ながら指定する。すなわち、ユーザーがパノラマ画像に残したい画像は、基準画像KFの表示領域110に表示される画像のことである。したがって、基準画像KFの表示領域110を残して、一定の方向に沿って連続した切れ目のないパノラマ画像を生成できれば、ユーザーが意図した被写体を残しつつ、一定の方向に沿って連続した綺麗なパノラマ画像を生成できることになる。
【0058】
上記より、カメラ1は、図6(A)に示すように、基準画像KFの表示領域110を残しつつ、一定の方向に沿って連続した綺麗なパノラマ画像を生成するために、基準画像KFの高さに合わせてパノラマ画像合成範囲130を決定する。ここで、フレーム画像F62の上部やフレーム画像F64の下部は、パノラマ画像合成範囲130に含まれているが、撮像範囲のずれにより、表示領域110においては途中で切れてしまっている。しかし、図6(B)に示すように、フレーム画像100は、表示領域110だけでなく非表示領域120も記憶しているため、パノラマ画像合成範囲130に含まれる画像は、全てフレーム画像100の一部として記憶されている。したがって、カメラ1は、基準画像KFの表示領域110を部分基準画像KFaとして設定し、フレーム画像100においてパノラマ画像合成範囲130に含まれる部分を、図3(D)と同様の方法を用いて合成できる。
【0059】
以上のように、第1実施形態のカメラ1によれば、一定の方向に沿って連続する複数のフレーム画像の撮像中に、ユーザーから基準画像KFの指定を受け付け、指定された基準画像KFの周辺に他のフレーム画像を合成してパノラマ画像生成処理を行う。これにより、ユーザーが意図した被写体を確実に残してパノラマ画像を生成できる。
【0060】
また、カメラ1は、基準画像KFについて、一定の方向に交差する高さ方向の上下を削除して表示部20に表示された部分を部分基準画像KFaとし、部分基準画像KFaの周辺に、高さを合わせた他のフレーム画像の一部を合成してパノラマ画像を生成する。これにより、ユーザーが意図した被写体を確実に残しつつ(図6(C)の点線部分)、一定の方向に沿って連続した綺麗なパノラマ画像を生成できる。ユーザーが表示部20において確認した部分基準画像KFaは全体が残るので、パノラマ画像においてユーザーが最も注目する部分が、ユーザーが撮像時に確認した通りとなるので、ユーザーにとって満足のパノラマ画像が得られる。
【0061】
なお、本実施形態において、基準画像KFの周辺にフレーム画像を合成する際、基準画像KFとフレーム画像が重なる部分については、基準画像KFの画像が残るように基準画像KFを優先して合成を行うものとして説明したが、これに限定されない。基準画像KFの中心部については基準画像KFの画像が残るように優先して合成し、基準画像KFの周縁部については一般的なパノラマ画像の合成方法により、自然なパノラマとなるように他のフレーム画像と合成してもよい。あるいは、画像解析による顔認識等に基づいて基準画像KFの中で主要部分を抽出し、当該主要部分の画像が残るように優先して他のフレーム画像と合成してもよい。
【0062】
また、本実施形態において、撮像されたフレーム画像は全てパノラマ画像として合成されるものとして説明したが、これに限定されない。カメラ1は、たとえば、撮像のタイミングや撮像時の姿勢といった様々な条件に基づいて、撮像された全てのフレーム画像の中からパノラマ画像生成に必要なフレーム画像を選択できる。この場合、ユーザーから基準画像の設定を受け付けた時点で撮像していたフレーム画像については、基準画像KFとなるためフレーム画像として選択される。また、連続撮像の間隔が大きい場合等において、ユーザーから基準画像の指示を受け付けた時点で撮像していたフレーム画像に相当するものがなければ、カメラ1は、指示を受け付けた時点でフレーム画像の撮像を行ってもよい。カメラ1は、撮像されたフレーム画像を基準画像KFに設定する。
【0063】
また、本実施形態において、一定の方向に沿って連続するフレーム画像を撮像するために、ユーザーがカメラ1をスイングするものとして説明したが、これに限定されない。カメラ1自身が移動するための機構を備えて、一定の方向に沿って移動しながら連続するフレーム画像を撮像してもよく、あるいは、カメラ1を一定の方向に沿って移動する車両等に搭載して、一定の方向に沿って連続するフレーム画像を撮像してもよい。
【0064】
また、本実施形態において、連続するフレーム画像の撮像は、左から右の方向に沿って行うものとして説明したが、これに限定されない。連続するフレーム画像の撮像は、右から左、下から上、上から下、あるいは斜めの方向等、一定の方向であればいかなる方向に沿って行われてもよい。
【0065】
(第2実施形態)
次に、第2実施形態のカメラ1について説明する。
【0066】
第1実施形態においては、一定の方向に連続して撮像されるフレーム画像について、高さ方向の上下を一定の割合により削除して表示用画像として表示部20に表示することにより、手振れの影響を抑えてユーザーの意図するパノラマ画像を生成している。しかし、撮像する被写体との距離やズーム倍率の設定状態等によって、手振れが画像に与える影響の度合いは異なる。たとえば、近距離に位置する人物を撮像するときは、表示用画像において被写体である人物が占める割合が大きいため、手振れにより撮像したい被写体が表示用画像の範囲外にずれやすく、手振れが画像に与える影響の度合いが大きくなる。一方、遠距離に位置する人物を撮像するときは、表示用画像において被写体である人物が占める割合が小さいため、手振れがあっても、撮像したい被写体が表示用画像の範囲外にずれにくく、手振れが画像に与える影響の度合いが小さくなる。このように、被写体との距離によって、手振れが画像に与える影響の度合いは異なり、表示用画像を生成する際にフレーム画像の高さ方向の上下を削除する一定の割合も、適切な値が異なる。そこで、第2実施形態においては、カメラ1は、被写体との距離やズーム倍率の設定状態等の撮像条件に応じて、表示用画像を生成する際のフレーム画像の高さ方向の上下を削除する割合を変更する。
【0067】
以下においては、第1実施形態と重複する部分の説明は省略し、第1実施形態と異なる部分を中心に説明する。
【0068】
第2実施形態に係るカメラ1の構成は、第1実施形態と同様である。
【0069】
次に、第2実施形態におけるカメラ1の動作について説明する。
【0070】
図7は、第2実施形態のカメラにより実行される処理の手順を示すフローチャートであり、図8は、測距位置に基づいて表示用画像における表示領域を決定する様子を模式的に示す図であり、図9は、パノラマ画像の合成に失敗した様子を示す図である。
【0071】
図7のフローチャートに示されるアルゴリズムは、カメラ1のEEPROM64にプログラムとして記憶されており、CPU61により実行される。図8において、(A)は測距位置が遠い場合の表示領域を示し、(B)は測距位置が近い場合の表示領域を示す。図9において、(A)は連続撮像されたフレーム画像F91〜F95と各フレーム画像の表示領域110を示し、(B)は基準画像KF(F93)の表示領域110に基づいてパノラマ画像の合成範囲130を決定する様子を示す。また、(C)は合成範囲130に従って生成されたパノラマ画像P4を示す。
【0072】
図7に示すように、カメラ1は、撮像部10を制御して、オートフォーカス機能によるピント合わせ時等に取得されるカメラと被写体との距離を表す測距情報と、ズームの倍率を表すズーム倍率情報とを取得する(ステップS201)。
【0073】
続いて、カメラ1は、ステップS201において取得した測距情報とズーム倍率情報とに基づいて、表示用画像を生成する際にフレーム画像の高さ方向の上下を削除する一定の割合を決定する(ステップS202)。ここで、カメラ1は、図8(A)に示すように、測距情報により示される被写体との距離が大きいほど、一定の割合を小さくする。また、図8(B)に示すように、測距情報により示される被写体との距離が小さいほど、一定の割合を大きくする。同様に、カメラ1は、ズーム倍率情報により示されるズーム倍率が小さいほど、手振れの影響が小さいと考えられるため、一定の割合を小さくする。また、ズーム倍率情報により示されるズーム倍率が大きいほど、手振れの影響が大きいと考えられるため、一定の割合を大きくする。測距情報およびズーム倍率情報に応じた一定に割合の値は、たとえば、5%〜40%程度の範囲で適切な値を設定できる。カメラ1は、決定した一定の割合に従って、表示用画像を生成して表示部20に表示し、ステップS203の処理に進む。
【0074】
続いて、ステップS203〜ステップS208の処理は、図2における、ステップS102〜ステップS106の処理と同様である。したがって、説明は省略する。
【0075】
ステップS208においてパノラマ画像合成を行った後、カメラ1は、パノラマ画像の合成が成功したか否かを判断する(ステップS209)。成否判断は、図6に示すように、フレーム画像の上下におけるぶれが少なく、ユーザーが意図した被写体である部分基準画像KFaを残しつつ、一定の方向に連続した綺麗なパノラマ画像P3を生成できていれば成功と判断する。一方、図9(A)に示すように、フレーム画像の上下におけるぶれが大きく、図9(B)、(C)に示すように、パノラマ画像を生成した際に、撮像されていない領域E1が生じてしまう場合は、失敗と判断する。
【0076】
合成が失敗と判断された場合(ステップS209:NO)、カメラ1は、割合記憶部として、ステップS202で決定した一定の割合を、大きくするように修正する(ステップS210)。カメラ1は、修正された一定の割合に従って表示用画像を生成して表示部20に表示し、ステップS203の処理に戻る。合成が成功と判断された場合(ステップS209:YES)、カメラ1は、ステップS208において生成したパノラマ画像を、表示部20のディスプレイに表示する(ステップS211)。カメラ1は、生成したパノラマ画像を、SDRAM63または、記録メディア50に保存して処理を終了する(ステップS212)。
【0077】
以上のように、第2実施形態のカメラ1によれば、被写体までの距離が小さいほど、表示用画像を生成する際にフレーム画像の高さ方向の上下を削除する一定の割合を大きくする。これにより、被写体までの距離が小さく、手振れがパノラマ画像に与える影響の度合いが大きい場合には、表示用画像として表示される狭い範囲と、フレーム画像として撮像される広い範囲との差が大きくなる。したがって、手振れにより撮像したい被写体が表示用画像の範囲外にずれた場合でも、フレーム画像として当該被写体を撮像しておくことができ、パノラマ画像の合成が失敗することを抑止できる。
【0078】
また、カメラ1は、基準画像KF以外のフレーム画像を、部分基準画像KFaの高さに限定すると、一定の方向に連続した綺麗なパノラマ画像を生成できない場合、表示用画像を生成する際にフレーム画像の高さ方向の上下を削除する一定の割合を大きくする。これにより、手振れにより撮像したい被写体が表示用画像の範囲外にずれた場合でも、より確実にフレーム画像として当該被写体を撮像しておくことができ、パノラマ画像の合成が繰り返し失敗することを抑止できる。
【0079】
(第3実施形態)
次に、第3実施形態のカメラ1について説明する。
【0080】
第1および第2実施形態においては、パノラマ画像の生成は、一続きの連続撮像によって撮像された一定の方向に連続する一連のフレーム画像を合成することにより行われている。しかし、カメラの種類によっては、一続きの連続撮像によって撮像できる幅に制限があり、ユーザーが意図するパノラマ画像を生成できないことがある。そこで、第3実施形態においては、カメラ1は、一定の方向に沿って連続する一連のフレーム画像とは別に、同じ一定の方向に沿って連続する他の一連のフレーム画像をさらに撮像し、一連のフレーム画像および他の一連のフレーム画像からパノラマ画像を生成する。
【0081】
以下においては、第1および第2実施形態と重複する部分の説明は省略し、第1実施形態と異なる部分を中心に説明する。
【0082】
第3実施形態に係るカメラ1の構成は、第1および第2実施形態と同様である。
【0083】
次に、第3実施形態におけるカメラ1の動作について説明する。
【0084】
図10は、パノラマ画像の基準画像および合成範囲を変更する様子を示す図である。
【0085】
図10において、(A)は、フレーム画像F4が基準画像KFに設定され、一連のフレーム画像F1〜F5の撮像が終了した様子を示す。(B)は、他の一連のフレーム画像F6〜F8の撮像が終了した様子を示す。(C)は、一連のフレーム画像F1〜F5からパノラマ画像P5を生成し、他のフレーム画像F6〜F8を記憶する様子を示す。(D)は、パノラマ画像P5に他のフレーム画像F6〜F8を合成し、新たなパノラマ画像P6を生成する様子を示す。(E)は、フレーム画像F7を基準画像KFに設定し、フレーム画像F3〜F8から新たなパノラマ画像P7を生成する様子を示す。
【0086】
図10(A)〜(C)に示すように、カメラ1は、一連のフレーム画像F1〜F5と他の一連のフレーム画像F6〜F8の撮像が終了すると、一連のフレーム画像F1〜F5からパノラマ画像P5を生成し、SDRAM63に記憶する。このとき、他の一連のフレーム画像F6〜F8は、一連のフレーム画像F1〜F5およびパノラマ画像P5とともに、SDRAM63に記憶される。
【0087】
続いて、図10(D)に示すように、カメラ1は、ユーザーからの指示に基づいて、一連のフレーム画像F1〜F5から生成したパノラマ画像P5に、他の一連のフレーム画像F6〜F8を合成し、新たなパノラマ画像P6を生成する。
【0088】
また、図10(E)に示すように、パノラマ画像P6の生成後、ユーザーからのさらなる指示に基づいて、一連のフレーム画像F1〜F5の一部であるフレーム画像F3〜F5と、他のフレーム画像F6〜F8とから、新たなパノラマ画像P7を生成する。その際、フレーム画像F7を基準画像KFとして設定することにより、図3の場合と同様に、基準画像KFとして設定されたフレーム画像F7を基準として、パノラマ画像の合成を行う。具体的には、図10(E)に示すように、ステップ(1)において、カメラ1は、基準画像KF(F7)をパノラマ画像の元となる原画像として設定する。次に、ステップ(2)〜(6)において、図3の場合と同様に、フレーム画像F6、F5、F4、F3、F8の順番で合成処理を行う。これにより、パノラマ画像P7が完成する。カメラ1は、パノラマ画像P7を表示部20に表示し、SDRAM63または記録メディア50に記憶する。
【0089】
以上のように、第3実施形態のカメラ1によれば、基準画像を含む一連のフレーム画像とは別に、他の一連のフレーム画像をさらに撮像し、一連のフレーム画像および他の一連のフレーム画像に含まれる任意のフレーム画像を基準画像と合成する。これにより、一続きの連続撮像によって撮像できる範囲に制限がある環境においても、ユーザーの希望どおりの範囲を有するパノラマ画像を生成できる。
【0090】
また、カメラ1は、一連のフレーム画像および他の一連のフレーム画像に含まれる任意のフレーム画像の中から、新たな基準画像KFを設定し、一連のフレーム画像および他の一連のフレーム画像に含まれる任意のフレーム画像を新たな基準画像KFと合成する。これにより、カメラ1は、任意のフレーム画像を基準画像KFとした、任意の範囲のフレーム画像を含むパノラマ画像を生成できる。したがって、ユーザーは、所望の被写体を綺麗に残した意図した範囲を含むパノラマ画像を、撮像後にいつでも生成できる。
【符号の説明】
【0091】
1 カメラ、
10 撮像部、
20 表示部、
30 操作部、
40 姿勢検出部、
50 記録メディア、
60 制御部。
図1
図2
図3
図4
図5
図6
図7
図8
図9
図10