特表-17150238IP Force 特許公報掲載プロジェクト 2015.5.11 β版

知財求人 - 知財ポータルサイト「IP Force」

▶ ソニー株式会社の特許一覧
再表2017-150238表示制御装置、表示制御方法、及び、プログラム
<>
  • 再表WO2017150238-表示制御装置、表示制御方法、及び、プログラム 図000003
  • 再表WO2017150238-表示制御装置、表示制御方法、及び、プログラム 図000004
  • 再表WO2017150238-表示制御装置、表示制御方法、及び、プログラム 図000005
  • 再表WO2017150238-表示制御装置、表示制御方法、及び、プログラム 図000006
  • 再表WO2017150238-表示制御装置、表示制御方法、及び、プログラム 図000007
  • 再表WO2017150238-表示制御装置、表示制御方法、及び、プログラム 図000008
  • 再表WO2017150238-表示制御装置、表示制御方法、及び、プログラム 図000009
  • 再表WO2017150238-表示制御装置、表示制御方法、及び、プログラム 図000010
  • 再表WO2017150238-表示制御装置、表示制御方法、及び、プログラム 図000011
  • 再表WO2017150238-表示制御装置、表示制御方法、及び、プログラム 図000012
  • 再表WO2017150238-表示制御装置、表示制御方法、及び、プログラム 図000013
  • 再表WO2017150238-表示制御装置、表示制御方法、及び、プログラム 図000014
  • 再表WO2017150238-表示制御装置、表示制御方法、及び、プログラム 図000015
  • 再表WO2017150238-表示制御装置、表示制御方法、及び、プログラム 図000016
  • 再表WO2017150238-表示制御装置、表示制御方法、及び、プログラム 図000017
  • 再表WO2017150238-表示制御装置、表示制御方法、及び、プログラム 図000018
< >
(19)【発行国】日本国特許庁(JP)
【公報種別】再公表特許(A1)
(11)【国際公開番号】WO/0
(43)【国際公開日】2017年9月8日
【発行日】2018年12月27日
(54)【発明の名称】表示制御装置、表示制御方法、及び、プログラム
(51)【国際特許分類】
   H04N 5/232 20060101AFI20181130BHJP
   G09G 5/00 20060101ALI20181130BHJP
   G09G 5/391 20060101ALI20181130BHJP
   G09G 5/36 20060101ALI20181130BHJP
   G09G 5/377 20060101ALI20181130BHJP
【FI】
   H04N5/232 935
   H04N5/232 220
   G09G5/00 520W
   G09G5/00 510X
   G09G5/00 520V
   G09G5/00 510H
   G09G5/00 530T
   G09G5/36 520F
   G09G5/36 520P
   G09G5/36 520M
   G09G5/36 510C
   G09G5/00 550B
   G09G5/36 510M
   G09G5/00 550H
   G09G5/00 510M
   G09G5/00 530M
【審査請求】未請求
【予備審査請求】未請求
【全頁数】39
【出願番号】特願2018-503038(P2018-503038)
(21)【国際出願番号】PCT/0/0
(22)【国際出願日】2017年2月20日
(31)【優先権主張番号】特願2016-41438(P2016-41438)
(32)【優先日】2016年3月3日
(33)【優先権主張国】JP
(81)【指定国】 AP(BW,GH,GM,KE,LR,LS,MW,MZ,NA,RW,SD,SL,ST,SZ,TZ,UG,ZM,ZW),EA(AM,AZ,BY,KG,KZ,RU,TJ,TM),EP(AL,AT,BE,BG,CH,CY,CZ,DE,DK,EE,ES,FI,FR,GB,GR,HR,HU,IE,IS,IT,LT,LU,LV,MC,MK,MT,NL,NO,PL,PT,RO,RS,SE,SI,SK,SM,TR),OA(BF,BJ,CF,CG,CI,CM,GA,GN,GQ,GW,KM,ML,MR,NE,SN,TD,TG),AE,AG,AL,AM,AO,AT,AU,AZ,BA,BB,BG,BH,BN,BR,BW,BY,BZ,CA,CH,CL,CN,CO,CR,CU,CZ,DE,DJ,DK,DM,DO,DZ,EC,EE,EG,ES,FI,GB,GD,GE,GH,GM,GT,HN,HR,HU,ID,IL,IN,IR,IS,JP,KE,KG,KH,KN,KP,KR,KW,KZ,LA,LC,LK,LR,LS,LU,LY,MA,MD,ME,MG,MK,MN,MW,MX,MY,MZ,NA,NG,NI,NO,NZ,OM,PA,PE,PG,PH,PL,PT,QA,RO,RS,RU,RW,SA,SC,SD,SE,SG,SK,SL,SM,ST,SV,SY,TH,TJ,TM,TN,TR,TT,TZ
(71)【出願人】
【識別番号】000002185
【氏名又は名称】ソニー株式会社
(74)【代理人】
【識別番号】100121131
【弁理士】
【氏名又は名称】西川 孝
(74)【代理人】
【識別番号】100082131
【弁理士】
【氏名又は名称】稲本 義雄
(72)【発明者】
【氏名】中山 大輔
(72)【発明者】
【氏名】山本 耕司
【テーマコード(参考)】
5C122
5C182
【Fターム(参考)】
5C122DA03
5C122EA42
5C122FA14
5C122FC08
5C122FH13
5C122FK08
5C122FK24
5C122FL01
5C122FL06
5C122HA86
5C122HA89
5C122HB01
5C122HB05
5C182AA02
5C182AA03
5C182AB21
5C182AC03
5C182AC43
5C182BA01
5C182BA03
5C182BA14
5C182BA29
5C182BA35
5C182BA66
5C182BC03
5C182BC26
5C182BC43
5C182CB13
5C182CB42
5C182CB44
5C182CB54
5C182CC21
5C182CC24
5C182CC27
5C182DA25
5C182DA54
5C182DA64
(57)【要約】
本技術は、ユーザが最適なフレームレートを容易に決定するために有用なインターフェースを提供することができるようにする表示制御装置、表示制御方法、及び、プログラムに関する。
フレームレートが異なる、又は、同一時刻のフレームの画質が異なる、少なくとも第1の画像及び第2の画像が、表示装置の表示領域の同一位置に表示される。本技術は、例えば、複数のフレームレートの画像を撮像することができるディジタルカメラ等に適用することができる。
【特許請求の範囲】
【請求項1】
フレームレートが異なる、又は、同一時刻のフレームの画質が異なる、少なくとも第1の画像及び第2の画像を、表示装置の表示領域の同一位置に表示させる表示制御を行う表示制御部を備える
表示制御装置。
【請求項2】
前記第1の画像及び前記第2の画像のうちの一方の画像のフレームレートが、ユーザの1回の操作に応じて変更される
請求項1に記載の表示制御装置。
【請求項3】
前記第1の画像及び前記第2の画像のうちの前記表示装置に表示されている画像のフレームレートが変更される
請求項2に記載の表示制御装置。
【請求項4】
前記表示制御部は、前記表示装置に表示させる表示対象を、前記第1の画像及び前記第2の画像のうちの、前記表示装置に表示されている方の画像から、他方の画像に切り替える
請求項1に記載の表示制御装置。
【請求項5】
前記表示制御部は、ユーザの1回の操作に応じて、前記表示対象を切り替える
請求項4に記載の表示制御装置。
【請求項6】
前記表示制御部は、前記表示対象の画像の一部を拡大して表示させる
請求項4に記載の表示制御装置。
【請求項7】
前記表示制御部は、ユーザの1回の操作に応じて、前記表示対象の画像の一部を拡大する
請求項6に記載の表示制御装置。
【請求項8】
前記表示制御部は、前記表示対象の画像を、その画像の画素数に応じたサイズで表示させる
請求項4に記載の表示制御装置。
【請求項9】
前記表示制御部は、前記第1の画像及び前記第2の画像を、リアルタイムで表示装置に表示させる
請求項1に記載の表示制御装置。
【請求項10】
前記表示制御部は、前記第1の画像及び前記第2の画像のうちの一方の画像のフレームレートに等しい表示レートで、他方の画像を表示させる
請求項1に記載の表示制御装置。
【請求項11】
前記表示制御部は、前記第1の画像及び前記第2の画像を重畳表示させる
請求項10に記載の表示制御装置。
【請求項12】
前記表示制御部は、ユーザの1回の操作に応じて、前記第1の画像及び前記第2の画像を重畳表示させる
請求項11に記載の表示制御装置。
【請求項13】
前記表示制御部は、前記第1の画像及び前記第2の画像が重畳表示された後、前記第1の画像及び前記第2の画像のうちの、フレームレートの小さい一方の画像の、前記表示装置での再生を停止し、前記一方の画像の再生が停止されたフレームと同一時刻のフレームまで、他方の画像の、前記表示装置での再生を続行してから、前記他方の画像の、前記表示装置での再生を停止する
請求項11に記載の表示制御装置。
【請求項14】
前記表示制御部は、
ユーザの1回の操作に応じて、前記第1の画像及び前記第2の画像の重畳表示を解除し、
前記第1の画像及び前記第2の画像の重畳表示を解除するときに、前記一方の画像の、前記表示装置での再生を停止し、前記一方の画像の再生が停止されたフレームと同一時刻のフレームまで、前記他方の画像の、前記表示装置での再生を続行してから、前記他方の画像の、前記表示装置での再生を停止する
請求項13に記載の表示制御装置。
【請求項15】
前記表示制御部は、前記第1の画像及び前記第2の画像に映る被写体のずれを補正した補正後の、前記第1の画像及び前記第2の画像を重畳表示させる
請求項11に記載の表示制御装置。
【請求項16】
前記表示制御部は、前記表示装置に表示させる表示対象を、前記第1の画像及び前記第2の画像のうちの、前記表示装置に表示されている画像から、他の画像に切り替える
請求項10に記載の表示制御装置。
【請求項17】
前記表示制御部は、ユーザの1回の操作に応じて、前記表示対象を切り替える
請求項16に記載の表示制御装置。
【請求項18】
前記第1の画像及び前記第2の画像は、所定のフレームレートの1ストリームの画像から生成された、前記所定のフレームレート以下のフレームレートの画像である
請求項1に記載の表示制御装置。
【請求項19】
フレームレートが異なる、又は、同一時刻のフレームの画質が異なる、少なくとも第1の画像及び第2の画像を、表示装置の表示領域の同一位置に表示させる表示制御を行う
ステップを含む表示制御方法。
【請求項20】
フレームレートが異なる、又は、同一時刻のフレームの画質が異なる、少なくとも第1の画像及び第2の画像を、表示装置の表示領域の同一位置に表示させる表示制御を行う表示制御部
として、コンピュータを機能させるためのプログラム。
【発明の詳細な説明】
【技術分野】
【0001】
本技術は、表示制御装置、表示制御方法、及び、プログラムに関し、特に、例えば、ユーザが最適なフレームレートを容易に決定するために有用なインターフェースを提供することができるようにする表示制御装置、表示制御方法、及び、プログラムに関する。
【背景技術】
【0002】
例えば、(動)画像を、マルチウインドウに、異なるフレームレートで表示させるディジタルカメラが提案されている(例えば、特許文献1を参照)。
【先行技術文献】
【特許文献】
【0003】
【特許文献1】特開2007-336522号公報
【発明の概要】
【発明が解決しようとする課題】
【0004】
デバイスの進化や処理性能の向上等により、イメージセンサは、マルチストリームの出力、すなわち、複数のフレームレートの画像のストリームの出力が可能になると予想される。さらに、かかるイメージセンサを搭載したディジタルカメラでは、イメージセンサが出力する複数のフレームレートの画像を同時に処理することや、画像のフレームレートを動的に切り替えて、画像を記録することが可能になると予想される。
【0005】
かかるディジタルカメラにおいて、高速なフレームレートの画像(以下、高フレームレート画像ともいう)を撮像した場合、その高フレームレート画像は、動きが滑らかな画像として利用することができる他、スローモーション画像として利用することができる。
【0006】
ところで、高フレームレート画像を撮像する場合には、動きが滑らかな画像等が得られる反面、例えば、露光時間が短時間になることにより、画像の画質が劣化するトレードオフが生じることがある。さらに、例えば、各種の処理の対象となるデータのデータ量が増加することにより、画像の画素数が小さくなることや、一部の処理が省略されること等のトレードオフが生じることがある。
【0007】
ディジタルカメラでは、いわゆるスルー画(ライブビュー画像)が表示されるが、スルー画では、高フレームレート画像について、画質や、スローモーション画像として利用した場合の印象を、ユーザが確認することは困難である。
【0008】
すなわち、高フレームレート画像の画質や、スローモーション画像として利用した場合の印象は、例えば、高フレームレート画像の撮像(記録)後、その高フレームレート画像を再生し、鑑賞してみて、初めて気がつくと予想される。
【0009】
ユーザが、高フレームレート画像の鑑賞後に、画質や、スローモーション画像として利用した場合の印象が気に入らなければ、ユーザは、フレームレートを変更して、高フレームレート画像を撮像し直す必要がある。
【0010】
したがって、ユーザは、最適なフレームレートを決定するために、フレームレートを変更して、高フレームレート画像を記録し直すことを繰り返さなければならないことがあり、面倒である。
【0011】
以上から、ユーザが、撮像時(記録前)に、高フレームレート画像の画質や、スローモーション画像として利用した場合の印象を、直感的に認識し、最適なフレームレートを容易に決定することができる方法の提案が要請される。
【0012】
本技術は、このような状況に鑑みてなされたものであり、ユーザが最適なフレームレートを容易に決定するために有用なインターフェースを提供することができるようにするものである。
【課題を解決するための手段】
【0013】
本技術の表示制御装置、又は、プログラムは、フレームレートが異なる、又は、同一時刻のフレームの画質が異なる、少なくとも第1の画像及び第2の画像を、表示装置の表示領域の同一位置に表示させる表示制御を行う表示制御部を備える表示制御装置、又は、そのような表示制御装置として、コンピュータを機能させるためのプログラムである。
【0014】
本技術の表示制御方法は、フレームレートが異なる、又は、同一時刻のフレームの画質が異なる、少なくとも第1の画像及び第2の画像を、表示装置の表示領域の同一位置に表示させる表示制御を行うステップを含む表示制御方法である。
【0015】
本技術の表示制御装置、表示制御方法、及び、プログラムにおいては、フレームレートが異なる、又は、同一時刻のフレームの画質が異なる、少なくとも第1の画像及び第2の画像が、表示装置の表示領域の同一位置に表示される。
【0016】
なお、表示制御装置は、独立した装置であっても良いし、1つの装置を構成している内部ブロックであっても良い。
【0017】
また、プログラムは、伝送媒体を介して伝送することにより、又は、記録媒体に記録して、提供することができる。
【発明の効果】
【0018】
本技術によれば、ユーザが最適なフレームレートを容易に決定するために有用なインターフェースを提供することができる。
【0019】
なお、ここに記載された効果は必ずしも限定されるものではなく、本開示中に記載されたいずれかの効果であってもよい。
【図面の簡単な説明】
【0020】
図1】本技術を適用したディジタルカメラの一実施の形態の構成例を示すブロック図である。
図2】撮像装置12が出力する第1及び第2の画像の例を示す図である。
図3】ディジタルカメラの処理の例を説明するフローチャートである。
図4】変更操作に従った、第2の画像のフレームレートの変更の例を説明する図である。
図5】変更操作に従った、第2の画像のフレームレートの変更の他の例を説明する図である。
図6】切り替え操作に従ったフリップ切り替えの例を説明する図である。
図7】切り替え操作に従ったフリップ切り替えの他の例を説明する図である。
図8】第1及び第2の画像のフリップ切り替えを模式的に示す図である。
図9】第1及び第2の画像のフリップ切り替えを行う場合と、第1及び第2の画像を並べて表示する場合とを説明する図である。
図10】基準レート表示制御処理の例を説明するフローチャートである。
図11】基準レート表示制御処理を説明する図である。
図12】基準レート表示制御処理での第1及び第2の画像の表示の表示例を説明する図である。
図13】追っかけ表示の例を説明する図である。
図14】第1及び第2の画像を模式的に示す図である。
図15】補正変換処理の例を説明する図である。
図16】本技術を適用したコンピュータの一実施の形態の構成例を示すブロック図である。
【発明を実施するための形態】
【0021】
<本技術を適用したディジタルカメラの一実施の形態>
【0022】
図1は、本技術を適用したディジタルカメラの一実施の形態の構成例を示すブロック図である。
【0023】
なお、ディジタルカメラは、静止画、及び、動画のいずれも撮像することができる。
【0024】
図1において、ディジタルカメラは、光学系11、撮像装置12、ディジタル信号処理部13、表示装置14及び15、メモリ16、入力装置17、制御部18、センサ部19、並びに、ドライバIC(Integrated Circuit)20を有する。
【0025】
光学系11は、例えば、図示せぬズームレンズや、フォーカスレンズ、絞り等を有し、外部からの光を、撮像装置12に入射させる。
【0026】
撮像装置12は、例えば、CMOS(Complementary Metal Oxide Semiconductor)イメージセンサで構成され、撮像を行う。すなわち、撮像装置12は、光学系11からの入射光を受光し、光電変換を行って、光学系11からの入射光に対応する電気信号としての画像(信号)を得る。そして、撮像装置12は、撮像により得られる画像を出力する。
【0027】
ここで、撮像装置12は、例えば、マルチストリームを出力すること、すなわち、複数のフレームレートの画像のストリームを同時に出力することが可能なイメージセンサで構成され、撮像により得られる1又は複数の画像のストリームを出力する。
【0028】
例えば、撮像装置12は、あらかじめ決められたデフォルトのフレームレート、及び、デフォルトのフレームレートよりも高速又は低速のフレームレート等の複数のフレームレートで撮像を行い、フレームレートが異なる複数の画像(のストリーム)を出力することができる。
【0029】
また、撮像装置12では、極めて高速なフレームレートをデフォルトのフレームレートとして、そのデフォルトのフレームレートで撮像を行い、その撮像により得られるデフォルトのフレームレートの画像のフレームを必要に応じて間引くことにより、デフォルトのフレームレート以下の、複数のフレームレートの画像を出力することができる。フレームを間引く方法としては、例えば、フレームを単純に間引く方法や、複数のフレームを加算することでフレームを間引く方法等を採用することができる。
【0030】
さらに、撮像装置12は、1個のイメージセンサで構成する他、複数のイメージセンサで構成し、複数のイメージセンサそれぞれにおいて、異なるフレームレートで撮像を行い、その撮像により得られる複数のフレームレートの画像を出力することができる。
【0031】
また、撮像装置12では、出力可能な複数のフレームレートの画像のうちの、1以上の画像について、外部からの指示等に応じて、フレームレートを、例えば、1[fps](frame per second)等の単位でシームレスに変更することができる。
【0032】
以上のように、撮像装置12は、複数のフレームレートの画像を出力することができ、かつ、その複数のフレームレートの画像のうちの1以上の画像について、フレームレートを変更する機能を有すれば、その構成は、特に限定されるものではない。
【0033】
なお、以下では、説明を簡単にするため、撮像装置12は、デフォルトのフレームレート、及び、デフォルトのフレームレートとは異なるフレームレートで撮像を行い、その撮像により得られるデフォルトのフレームレートの第1の画像、及び、デフォルトのフレームレートとは異なるフレームレートの第2の画像を出力することが可能であることとする。
【0034】
さらに、撮像装置12は、少なくとも、第2の画像のフレームレートの変更が可能であることとする。
【0035】
撮像装置12が出力する第1及び第2の画像は、ディジタル信号処理部13に供給される。なお、ディジタル信号処理部13には、撮像装置12が出力する第1及び第2の画像の他、例えば、サーバからダウンロードされた、異なるフレームレートの複数の画像や、記録媒体から再生された、異なるフレームレートの複数の画像を供給することができる。
【0036】
ディジタル信号処理部13は、撮像装置12からの第1及び第2の画像(のストリーム)に、必要な信号処理を施し、表示装置14や15、メモリ16に供給する。
【0037】
ディジタル信号処理部13は、現像処理部31及び32、画像解析部33、記録再生処理部34、並びに、表示制御部35を有する。
【0038】
現像処理部31には、撮像装置12からの第1の画像が供給される。現像処理部31は、撮像装置12からの第1の画像に現像処理を施し、現像処理後の第1の画像を出力する。現像処理部31が出力する現像処理後の第1の画像は、表示制御部35に供給される。
【0039】
ここで、現像処理には、いわゆるRAWデータの画像から、例えば、R(red),G(green)、及び、B(blue)の各色成分のデータを有する画像を生成する処理の他、ノイズ除去等の高画質化の処理を含めることができる。
【0040】
現像処理部32には、撮像装置12からの第2の画像が供給される。現像処理部32は、撮像装置12からの第2の画像に現像処理を施し、現像処理後の第2の画像を出力する。現像処理部32が出力する現像処理後の第2の画像は、表示制御部35に供給される。
【0041】
画像解析部33には、撮像装置12が出力する第1及び第2の画像が供給されるとともに、現像処理部31が出力する現像処理後の第1の画像、及び、現像処理部32が出力する現像処理後の第2の画像が供給される。
【0042】
画像解析部33は、撮像装置12からの第1及び第2の画像、又は、現像処理部31からの現像処理後の第1の画像、及び、現像処理部32からの現像処理後の第2の画像を解析する。さらに、画像解析部33は、第1及び第2の画像の解析により得られる解析結果に基づいて、第1及び第2の画像について、イベントポイントを検出する。画像解析部33は、イベントポイントを、第1及び第2の画像(撮像装置12からの第1及び第2の画像のセット、並びに、現像処理後の第1及び第2の画像のセットのうちの一方、又は、両方)とともに、記録再生処理部34に供給する。
【0043】
ここで、イベントポイントとは、シーンチェンジのフレームや、ハイライトシーンの(開始、終了)フレーム、所定の被写体が動き出したフレーム、第1及び第2の画像に映る人等の動物の表情が変化したフレーム等の、所定のイベントが生じたフレームを表す。所定のイベントは、例えば、あらかじめ設定することができる。
【0044】
記録再生処理部34は、画像解析部33からの第1及び第2の画像を対象として、記録(記憶)媒体に対する記録や再生を行う。すなわち、記録再生処理部34は、画像解析部33からの第1及び第2の画像を、必要に応じて符号化し、メモリ16に記録する(記憶させる)。また、記録再生処理部34は、メモリ16から第1及び第2の画像を読み出し、必要に応じて復号することで、第1及び第2の画像を再生し、表示制御部35や図示せぬ外部出力端子に供給する。
【0045】
なお、記録再生処理部34は、第1及び第2の画像を、メモリ16に記録するときに、その第1及び第2の画像について検出されたイベントポイントも、メモリ16に記録することができる。メモリ16に記録されたイベントポイントは、例えば、メモリ16に記録された第1及び第2の画像を再生するときに、イベントポイントが表すフレームからの頭出し等に使用することができる。
【0046】
表示制御部35は、現像処理部31及び32から供給される第1及び第2の画像それぞれを、表示装置14や15に表示させる表示制御を行う。さらに、表示制御部35は、アイコン等の、第1及び第2の画像以外の画像を、表示装置14や15に表示させる表示制御を行う。
【0047】
表示装置14及び15は、例えば、LCD(Liquid Crystal Display)や有機EL(Electro Luminescence)等で構成され、表示制御部35の制御に従い、第1の画像や第2の画像、その他の画像を表示する。
【0048】
なお、表示装置14は、例えば、ディジタルカメラの背面に設けられた表示パネルを構成し、表示装置15は、例えば、ディジタルカメラのEVF(Electric Viewfinder)を構成する。
【0049】
メモリ16は、記録再生制御部34の制御に従い、第1及び第2の画像等のデータを記憶する。
【0050】
入力装置17は、ユーザが操作可能な操作手段である。入力装置17は、シャッタ(録画)ボタンやダイヤル等の機械的に操作可能な物理的な操作手段や、表示装置14に表示される、ボタン等としてのアイコン等の、仮想的な操作手段で構成することができる。入力装置17は、ユーザの操作に応じた操作信号を、制御部18に供給する。
【0051】
制御部18は、例えば、マイクロコンピュータで構成され、ディジタルカメラを構成する各ブロックを制御する。
【0052】
すなわち、制御部18は、撮像装置12から得られる情報や、入力装置17からの操作信号、ディジタル信号処理部13から得られる情報、センサ部19が出力するセンサ情報、ドライバIC20から得られる情報等に応じて、撮像装置12や、ディジタル信号処理部13、入力装置17、センサ部19、ドライバIC20等を制御する。
【0053】
例えば、撮像装置12は、制御部18の制御に従い、第1の画像の撮像や、第2の画像の撮像、第2の画像のフレームレートの変更等を行う。
【0054】
センサ部19は、例えば、マイク等の音を検知するセンサや、加速度を検知するセンサ、時間を検知(計時)するセンサ、その他の任意の物理量を検知するセンサで構成することができる。センサ部19は、所定の物理量を検知し、その物理量を表すセンサ情報を出力する。センサ部19が出力するセンサ情報は、制御部18に供給される。
【0055】
ここで、制御部18では、センサ部19からのセンサ情報に基づき、第1及び第2の画像について、イベントポイントを検出することができる。
【0056】
例えば、制御部18では、センサ部19からのセンサ情報としての音の検知結果に基づき、第1及び第2の画像について、大きな音が発生した(開始、終了)フレーム等を、イベントポイントとして検出することができる。また、例えば、制御部18では、センサ部19からのセンサ情報としての加速度の検知結果に基づき、第1及び第2の画像について、ディジタルカメラがパンされている(開始、終了)フレーム等を、イベントポイントとして検出することができる。
【0057】
ドライバIC20は、制御部18の制御に従い、光学系11の絞りや、フォーカス、ズームを制御(駆動)する。
【0058】
以上のように構成されるディジタルカメラでは、撮像装置12が、光学系11からの入射光を受光し、その入射光に応じて、第1の画像や第2の画像を出力する。
【0059】
撮像装置12が出力する第1の画像や第2の画像は、ディジタル信号処理部13に供給される。
【0060】
ディジタル信号処理部13では、現像処理部31が、撮像装置12からの第1の画像に現像処理を施し、表示制御部35に供給する。また、現像処理部32が、撮像装置12からの第2の画像に現像処理を施し、表示制御部35に供給する。
【0061】
表示制御部35は、現像処理部31からの第1の画像や、現像処理部32からの第2の画像を、表示装置14及び15に表示させ、これにより、表示装置14及び15には、第1の画像や第2の画像が、スルー画として表示される。
【0062】
また、ディジタルカメラでは、ユーザが、入力装置17を構成する録画ボタンを操作した場合、ディジタル信号処理部13において、記録再生処理部34は、例えば、録画ボタンが再度操作されるまで、撮像装置12が出力する第1の画像や第2の画像を録画する(第1の画像や第2の画像をメモリ16に記録する)。
【0063】
なお、以下では、説明を簡単にするため、第1及び第2の画像が、表示装置14及び15のうちの、表示装置14に表示される場合に注目して、説明を行う。
【0064】
<第1及び第2の画像の例>
【0065】
図2は、撮像装置12が出力する第1及び第2の画像の例を示す図である。
【0066】
撮像装置12は、異なるフレームレートで、同一の被写体の撮像を行うことで、フレームレートが異なり、同一被写体が映る第1及び第2の画像(のストリーム)を同時に出力することができる。
【0067】
第1の画像のフレームレートとしては、例えば、60[fps]等の、あらかじめ決められたデフォルトのフレームレートを採用することができる。
【0068】
第2の画像のフレームレートは、ユーザの指定に従って、任意のフレームレートX[fps]に変更することができる。
【0069】
なお、図2では、デフォルトのフレームレートとして、60[fps]を採用するが、デフォルトのフレームレートは、60[fps]に限定されるものではない。
【0070】
また、第1の画像のフレームレートは、デフォルトのフレームレートに固定することもできるし、第2の画像フレームレートと同様に、ユーザの指定に従って変更可能なようにすることもできる。
【0071】
図2では、第2の画像のフレームレートXの方が、デフォルトのフレームレート(第1の画像のフレームレート)よりも高速になっている。
【0072】
この場合、フレームレートの相違に応じて、第1及び第2の画像の(撮像時の)露光時間に相違が生じることがある。第1及び第2の画像の露光時間に相違がない場合には、第1の画像と第2の画像は、同一時刻のフレームの画質が同一の画像になり得るが、第1及び第2の画像の露光時間に相違がある場合には、第1の画像と第2の画像は、露光時間の相違により、同一時刻のフレームの画質が異なる画像になる。
【0073】
すなわち、第2の画像のフレームレートXの方が、デフォルトのフレームレートよりも高速であるために、第2の画像の露光時間が、第1の画像の露光時間よりも短いときには、第1の画像と第2の画像の、同一時刻のフレームの画質については、第1の画像のS/N(Signal to Noise Ratio)の方が、第2の画像のS/Nよりも良くなる。
【0074】
また、第2の画像のフレームレートXの方が、デフォルトのフレームレート(第1の画像のフレームレート)よりも高速である場合には、第2の画像の処理の負荷が大となるために、撮像装置12が、第2の画像として、第1の画像よりも画素数(解像度)が小さい画像を出力することや、ディジタル信号処理部13において、第2の画像に対する一部の処理が省略されることがある。
【0075】
この場合、同一時刻のフレームについては、第2の画像は、第1の画像よりも画質が劣化した画像になる。
【0076】
以上のように、第1及び第2の画像は、同一時刻のフレームの画質が異なる画像になることがある。
【0077】
ここで、撮像装置12で、1秒あたりに撮像されるフレーム数を撮像レートともいい、表示装置14で、1秒あたりに表示されるフレーム数を表示レートともいうこととする。
【0078】
第1の画像や第2の画像のフレームレートとは、フレームの間引きや補間がされない限り、撮像レートを意味する。
【0079】
また、画像を、その画像のフレームレート(撮像レート)と等しい表示レートで表示する場合には、画像は、リアルタイムで表示(リアルタイム再生)(1倍速再生)されるが、画像を、その画像のフレームレート未満の表示レートで表示する場合には、画像は、スローで表示(スロー再生)される。
【0080】
さらに、画像を、その画像のフレームレートより大の表示レートで表示する場合には、画像は、早送りで表示(早送り再生)される。
【0081】
<ディジタルカメラの処理>
【0082】
図3は、図1のディジタルカメラの処理の例を説明するフローチャートである。
【0083】
ステップS11において、ユーザが、電源をオンにするように、入力装置17を操作するのを待って、制御部18は、ディジタルカメラの電源をオン状態にし、処理は、ステップS12に進む。
【0084】
ステップS12では、ユーザが、ディジタルカメラの動作モードをマルチストリームモードにするように、入力装置17を操作するのを待って、制御部18は、動作モードを、マルチストリームモードに設定する。
【0085】
ここで、マルチストリームモードとは、撮像装置12がマルチストリームの出力、すなわち、ここでは、フレームレートが異なる第1及び第2の画像の出力を行い、ディジタル信号処理部13が、その第1及び第2の画像の処理を行うことが可能なモードである。さらに、マルチストリームモードでは、後述する基準レート表示制御処理を行うことが可能になる。
【0086】
また、動作モードがマルチストリームモードに設定されると、入力装置17を構成する所定の操作部の操作に対して、マルチストリームモードに特有の機能が割り当てられる。この点については、後述する。
【0087】
動作モードがマルチストリームモードに設定されると、制御部18は、第1の画像のフレームレート(撮像レート)をデフォルトのフレームレートに設定し、そのデフォルトのフレームレートの第1の画像を出力するように、撮像装置12を制御する。
【0088】
撮像装置12は、制御部18の制御に従って、デフォルトのフレームレートの第1の画像の出力を開始し、ディジタル信号処理部13は、その第1の画像の処理を開始する。
【0089】
以上のように、第1の画像の処理が開始されると、処理は、ステップS12からステップS13に進む。
【0090】
ステップS13では、ディジタル信号処理部13において、表示制御部35が、表示装置14の表示領域(表示画面)の所定の位置としての、例えば、表示領域の中心を中心とする矩形の領域(例えば、表示領域の全体等)に表示する表示対象として、第1の画像を設定し、表示対象を、表示装置14に表示させる表示制御を開始する。これにより、表示装置14では、表示対象としての第1の画像を、表示領域の所定の位置に表示することが開始される。
【0091】
その後、処理は、ステップS13からステップS14に進み、制御部18は、ユーザが、入力装置17の操作として、画像のフレームレート(撮像レート)を変更する変更操作を行ったかどうかを判定する。
【0092】
ステップS14において、変更操作が行われていないと判定された場合、処理は、ステップS15及びS16をスキップして、ステップS17に進む。
【0093】
また、ステップS14において、変更操作が行われたと判定された場合、処理は、ステップS15に進む。
【0094】
ステップS15では、制御部18は、第2の画像のフレームレート(撮像レート)を、変更操作に従って設定し、その変更操作に従ったフレームレートの第2の画像を出力するように、撮像装置12を制御する。
【0095】
撮像装置12は、制御部18の制御に従って、変更操作に従ったフレームレートの第2の画像の出力を開始し、ディジタル信号処理部13は、その第2の画像の処理を開始する。
【0096】
以上のように、第2の画像の処理が開始されると、処理は、ステップS15からステップS16に進む。
【0097】
ステップS16では、ディジタル信号処理部13において、表示制御部35が、表示装置14の表示領域の所定の位置に表示する表示対象として、第2の画像を設定し、表示対象を、いままで表示されていた画像に代えて、表示装置14に表示させる表示制御を開始する。これにより、表示装置14では、表示対象としての第2の画像を、表示領域の所定の位置に表示することが開始される。
【0098】
その後、処理は、ステップS16からステップS17に進み、制御部18は、ユーザが、入力装置17の操作として、表示対象を切り替える切り替え操作を行ったかどうかを判定する。
【0099】
ステップS17において、切り替え操作が行われていないと判定された場合、処理は、ステップS18をスキップして、ステップS14に戻る。
【0100】
また、ステップS17において、切り替え操作が行われたと判定された場合、処理は、ステップS18に進む。
【0101】
ステップS18では、表示制御部35は、表示対象を、第1及び第2の画像のうちの、表示対象になっていなかった方に切り替え(設定し)、表示対象を、表示装置14に表示させる表示制御を開始する。これにより、表示装置14では、第1及び第2の画像のうちの、切り替え操作直前に、表示対象になっていなかった方の画像を、いままで表示されていた画像に代えて、表示領域の所定の位置に表示することが開始される。
【0102】
そして、処理は、ステップS18からステップS14に戻り、以下、同様の処理が繰り返される。
【0103】
以上のように、マルチストリームモードでは、ユーザが変更操作を行うと、その変更操作に従ったフレームレートの第2の画像が、表示装置14の所定の位置に表示される。
【0104】
したがって、ユーザは、変更操作を行うだけで、その変更操作に従ったフレームレートの第2の画像を確認することができる。
【0105】
また、マルチストリームモードでは、ユーザが切り替え操作を行うと、表示対象が、第1及び第2の画像のうちの、表示対象になっていなかった方の画像に切り替えられ、その切り替え後の表示対象が、表示装置14に表示される。
【0106】
また、マルチストリームモードでは、表示対象が、第1及び第2の画像のうちのいずれに設定されても、表示装置14の表示領域の所定の位置に表示される。
【0107】
したがって、表示対象が、第1及び第2の画像のうちのいずれに設定されても、表示装置14の表示領域の同一位置に表示される。
【0108】
以上のように、表示装置14の表示領域の同一位置に表示される表示対象は、切り替え操作によって、第1の画像と第2の画像とに交互に切り替えられる。
【0109】
いま、ある画像が表示されていた位置と同一位置に、その画像に代えて、他の画像を表示することで、画像を切り替えることをフリップ切り替えということとすると、第1及び第2の画像を対象に、フリップ切り替えを行うことで、第1及び第2の画像それぞれに映る同一の被写体が同一の位置に映るので、第1及び第2の画像の、S/Nや解像度等の画質の相違、すなわち、例えば、デフォルトのフレームレートの第1の画像を基準とする、変更操作に従ったフレームレートの第2の画像の画質の程度を、容易に把握することができる。なお、フリップ切り替えでは、第1及び第2の画像の画角が異なる場合には、第1及び第2の画像のうちの一方又は両方の拡大や縮小を行い、画角を一致させることで、第1及び第2の画像それぞれに映る同一の被写体を同一の位置に表示させることができる。
【0110】
以上のように、ユーザは、変更操作及び切り替え操作を行うことで、第1の画像を基準とする、第2の画像の画質を容易に確認しつつ、第2の画像のフレームレートを容易に変更することができる。
【0111】
したがって、図1のディジタルカメラによれば、例えば、ユーザが許容することができる画質を維持することができる第2の画像のフレームレート等の、ユーザが最適なフレームレートを容易に決定するために有用なインターフェースを提供することができる。
【0112】
なお、ユーザが、第1及び第2の画像の、S/Nや解像度等の画質の相違を把握することができる画像の表示方法としては、上述したように、フリップ切り替えを行って、第1及び第2の画像を、表示装置14の表示領域の同一位置に表示する方法(以下、フリップ切り替え法ともいう)の他、第1及び第2の画像を、縦や横に並べて同時に表示する方法(以下、並列表示法ともいう)が考えられる。
【0113】
しかしながら、並列表示法では、表示装置14の他に、表示装置14と同様の表示装置を新たに設け、例えば、表示装置14に第1の画像を表示するとともに、新たに設けた表示装置に第2の画像を表示する必要がある。又は、並列表示法では、表示装置14の表示領域を2つの小領域に分割し、一方の小領域に第1の画像を表示するとともに、他方の表示領域に第2の画像を表示する必要がある。
【0114】
表示装置14の他に、表示装置14と同様の表示装置を新たに設けるのでは、ディジタルカメラが大型化する。表示装置14の表示領域を2つの小領域に分割するのでは、第1及び第2の画像を表示するときのサイズが小になり、第1及び第2の画像の画質の相違を把握することが困難となる。
【0115】
これに対して、フリップ切り替え法によれば、以上のようなディジタルカメラを大型化することなく、かつ、第1及び第2の画像を表示するときのサイズを小にすることなく、第1及び第2の画像の画質の相違を、直感的に(容易に)把握することができる。
【0116】
なお、同一の被写体が映り、S/N又は解像度が異なる2枚の画像を、PC(Personal Computer)の表示画面としてのLCDに表示する場合には、2枚の画像を並べて表示したときよりも、フリップ切り替えを行って、2枚の画像を同一位置に表示した方が、同一位置の画質の相違が目に付き、僅かな画質の相違であっても、極めて容易に把握することを、実際に確認することができる。
【0117】
ここで、図3では、フリップ切り替えを、ユーザの切り替え操作に応じて行うこととしたが、フリップ切り替えは、切り替え操作に応じて行う他、例えば、周期的に行うことや、イベントポイントで行うことが可能である。
【0118】
また、マルチストリームモードでは、後述する基準レート表示制御処理以外では、第1及び第2の画像は、リアルタイムで表示される。
【0119】
例えば、いま、説明を簡単にするため、表示装置14の表示レートが、固定のレートであり、第1の画像のフレームレート(撮像レート)に等しいこととする。
【0120】
第1の画像の、リアルタイムでの表示では、第1の画像は、そのまま、表示装置14に表示レートで表示される。
【0121】
第2の画像の、リアルタイムでの表示では、第2の画像は、フレームレートが表示レートに等しくなるように間引かれてから、表示装置14に表示レートで表示される。例えば、第1の画像のフレームレートが60[fps]であり、第2の画像のフレームレートXが240[fps]であれば、第2の画像は、フレーム数を1/4=60/240に間引くことにより、フレームレートを、表示レートである60[fps]にしてから、表示装置14に表示レートで表示される。
【0122】
なお、第2の画像のフレームレートXが、第1の画像のフレームレートよりも大である場合には、上述のように、フレームの間引きを行うことによって、第2の画像がリアルタイムで表示されるが、第2の画像のフレームレートXが、第1の画像のフレームレートよりも小である場合には、フレームの補間を行うことによって、第2の画像をリアルタイムで表示することができる。
【0123】
また、表示装置14の表示レートが可変である場合には、第1の画像を、その第1の画像のフレームレートに等しい表示レートで表示し、第2の画像を、その第2の画像のフレームレートに等しい表示レートで表示することで、上述のようなフレームの間引きや補間を行うことなく、リアルタイムでの表示を行うことができる。以上のように、第2の画像を、その第2の画像のフレームレートに等しい表示レートで表示する場合、第2の画像のフレームレート(操作装置12で第2の画像を撮像する撮像レート)を変更することにより、各フレームレートでの第2の画像の滑らかさを、視覚的に容易に確認することができる。
【0124】
さらに、図3では、説明を簡単にするため、変更操作によって、第1及び第2の画像のうちの、第2の画像のフレームレートを変更することとしたが、変更操作に応じたフレームレートの変更は、第1及び第2の画像のうちの、変更操作がされたときに表示対象になっている方の画像を対象に行うことができる。
【0125】
また、図3では(以下でも同様)、第1及び第2の画像の2ストリームの画像を対象に、フレームレートの変更や、フリップ切り替えを行うこととしたが、フレームレートの変更や、フリップ切り替えは、3ストリーム以上の画像を対象に行うことができる。
【0126】
3ストリーム以上の画像を対象とするフレームレートの変更では、その3ストリーム以上の画像のうちの、例えば、表示対象になっている1つのストリームの画像を対象に、フレームレートを変更することができる。
【0127】
また、3ストリーム以上の画像を対象とするフリップ切り替えでは、例えば、その3ストリーム以上の画像をループ状に順序づけ、切り替え操作が行われるごとに、3ストリーム以上の画像を、順序づけに従った順番で、表示対象に設定することができる。3ストリーム以上の画像の順序づける順番は、例えば、あらかじめディジタルカメラに設定しておくことや、ユーザによる入力装置17の操作に従って設定することができる。
【0128】
<フレームレートの変更>
【0129】
図4は、変更操作に従った、第2の画像のフレームレートの変更の例を説明する図である。
【0130】
図4では、ディジタルカメラの背面に、表示パネルとしての表示装置14が設けられている。
【0131】
さらに、ディジタルカメラでは、表示装置14の右下側に、ダイヤル41が設けられており、上面の右端に、シャッタ(録画)ボタン42が設けられている。
【0132】
マルチストリームモード以外の動作モードでは、例えば、ダイヤル41の回転操作は、フレームレートの変更以外の機能に割り当てられる。マルチストリームモードでは、例えば、ダイヤル41の回転操作は、フレームレートの変更に割り当てられる。
【0133】
シャッタボタン42は、動画の録画を開始するときや終了するとき、写真としての静止画を撮影(記録)するとき等に押圧操作される。
【0134】
図4では、ディジタルカメラの動作モードがマルチストリームモードになっている。そして、第1及び第2の画像のうちの、第2の画像が表示対象に設定され、ディジタルカメラの背面に設けられた表示装置14の表示領域の所定の位置に、表示対象としての第2の画像が表示されている。
【0135】
ユーザが、ダイヤル41を回転操作すると、その回転操作を変更操作として、表示装置14に表示対象としてリアルタイムで表示されている第2の画像のフレームレート(撮像レート)が変更される。
【0136】
すなわち、変更操作としてのダイヤル41の回転操作の回転方向及び回転量に応じて、撮像装置12で撮像されている第2の画像のフレームレートが、例えば、1[fps]単位等で連続的に増減される。図4では、第2の画像のフレームレートが、ダイヤル41の回転操作に応じて、60[fps]から240[fps]に、連続的に変更されている。
【0137】
したがって、ユーザは、変更操作としてのダイヤル41の回転操作を行うことで、フレームレートを変更した場合の第2の画像の画質の変化、すなわち、例えば、フレームレートが大になるほど、輝度が低下して、S/Nが悪くなることを、視覚的に容易に確認することができる。
【0138】
ここで、図4では、表示装置14の表示レートが60[fps]になっており、そのため、表示制御部35において、フレームレートが60[fps]の第2の画像は、フレームの補間や間引きを行わずに、リアルタイムで表示される。一方、変更操作後の第2の画像、すなわち、フレームレートが240[fps]の第2の画像は、フレーム数を1/4に間引くことで、リアルタイムで表示される。
【0139】
図4では、表示制御部35において、フレームレートが240[fps]の第2の画像のフレームを間引くことで、例えば、フレームレートが60[fps]の第2の画像のフレームと同一時刻のフレームだけが、表示装置14に表示される。
【0140】
なお、変更操作としては、ダイヤル41の回転操作の他、任意の1回の操作を採用することができる。
【0141】
ここで、「1回の操作」とは、所定の操作を、他の操作を経由することなく、いわば直接的に行うことができる場合の、その所定の操作を意味する。
【0142】
例えば、所定の項目を選択する場合に、メニューを表示させる操作を行い、その操作によって表示されるメニューから所定の項目を選択する操作を行う必要があるときには、所定の項目を選択する操作は、「1回の操作」に該当しない。この場合、所定の項目を選択する操作を行うのに、メニューを表示させる操作を経由する必要があるからである。
【0143】
本実施の形態では、ダイヤル41の回転操作が、フレームレートの変更に割り当てられ、ダイヤル41は、ディジタルカメラの背面に露出しているので、ダイヤル41の回転操作は、1回の操作に該当する。
【0144】
以上のように、1回の操作であるダイヤル41の回転操作を、変更操作として採用することで、ユーザは、思い立ったときに、即座に、変更操作を行い、第2の画像のフレームレートを変更して、フレームレートの変更後の第2の画像の画質を確認することができる。
【0145】
なお、図4では、変更操作に応じて、表示装置14に表示対象として表示されている第2の画像のフレームレートを変更することとしたが、第1の画像が表示対象として表示装置14に表示されている場合には、例えば、表示対象である第1の画像のフレームレートを変更すること、又は、表示対象を第1の画像から、第1の画像と同一のフレームレートの第2の画像に変更し、変更後の表示対象である第2の画像のフレームレートを変更することができる。
【0146】
図5は、変更操作に従った、第2の画像のフレームレートの変更の他の例を説明する図である。
【0147】
図4で説明したように、マルチストリームモードでは、変更操作としてのダイヤル41の回転操作に応じて、撮像装置12で撮像されている第2の画像のフレームレートが連続的に変更(増減)される。
【0148】
以上のように、撮像装置12において、第2の画像のフレームレートが変更される場合、特に、フレームレートが大に変更される場合、撮像装置12での処理量が増加するため、その処理量の増加を抑制するために、高フレームレートの第2の画像になるほど、画素数が少なくされることがある。
【0149】
すなわち、例えば、撮像装置12では、第2の画像のフレームレートが高フレームレートであるほど、イメージセンサで撮像する画像の画角を小さくすることや、イメージセンサでの撮像に用いる画素(画像を構成する画素値を得る画素)を間引くことで、第2の画像の横及び縦の画素数を小にすることができる。
【0150】
この場合、表示制御部35では、第2の画像を、その第2の画像の画素数に応じたサイズで、表示装置14に表示させることができる。
【0151】
以上のように、第2の画像が、その画素数に応じたサイズで表示されることで、ユーザは、変更操作により、第2の画像のフレームレートを変更しながら、そのフレームレートの変更に伴う第2の画像の画素数の変化を、直感的に認識することができる。
【0152】
ここで、図5では、図4の場合と同様に、第2の画像のフレームレートが、ダイヤル41の回転操作に応じて、60[fps]から240[fps]に、連続的に変更されている。
【0153】
例えば、撮像装置12において、第2の画像のフレームレートが高フレームレートになるほど、その第2の画像の横及び縦の画素数が小にされる場合には、第2の画像のフレームレートが、ダイヤル41の回転操作に応じて、60[fps]から240[fps]に、連続的に変更されると、表示装置14に表示される第2の画像のサイズは、図5に示すように、第2の画像のフレームレートが60[fps]から240[fps]に連続的に変更されることに応じて、徐々に小になる。
【0154】
<フリップ切り替え>
【0155】
図6は、切り替え操作に従ったフリップ切り替えの例を説明する図である。
【0156】
マルチストリームモードでは、例えば、ダイヤル41の押圧操作が可能である場合には、ダイヤル41の押圧操作が、フリップ切り替えに割り当てられる。又は、例えば、表示装置14の表示領域の任意の位置のタップや、表示領域の周辺部のタップ等の1回の操作が、フリップ切り替えに割り当てられる。
【0157】
図6では、ディジタルカメラの動作モードがマルチストリームモードになっている。そして、撮像装置12において、フレームレートが60[fps]の第1の画像と、フレームレートが240[fpf]の第2の画像との撮像が行われ、その第1及び第2の画像が出力されている。
【0158】
ディジタルカメラにおいて、第1及び第2の画像については、そのうちの一方の画像を、表示対象として、その表示対象が、表示装置14の表示領域の所定の位置(図6では、表示領域の全体)に表示される。
【0159】
ユーザが、切り替え操作としての、例えば、ダイヤル41の押圧操作や、表示装置14の表示領域のタップを行うと、その切り替え操作が行われるごとに、表示制御部35において、表示対象が、第1及び第2の画像のうちの、いま表示装置14に表示されている方の画像から、他方の画像に切り替えられ、その切り替え後の表示対象が、表示装置14の表示領域の所定の位置に表示されるフリップ切り替えが行われる。
【0160】
したがって、ユーザは、切り替え操作を行うことで、60[fps]の第1の画像と、240[fpf]の第2の画像との画質の差、すなわち、例えば、60[fps]の第1の画像に対して、240[fpf]の第2の画像のS/Nの悪さがどの程度であるかを、視覚的に容易に確認することができる。
【0161】
ここで、図6では、表示装置14の表示レートが60[fps]になっており、そのため、(フレームレートが)60[fps]の第1の画像は、フレームの補間や間引きを行わずに、リアルタイムで表示される。一方、240[fps]の第2の画像は、フレーム数を1/4に間引くことで、リアルタイムで表示される。
【0162】
図6では、240[fps]の第2の画像のフレームを間引くことで、例えば、フレームレートが60[fps]の第2の画像のフレームと同一時刻のフレームだけが、表示装置14に表示される。
【0163】
なお、切り替え操作としては、ダイヤル41の押圧操作や、表示装置14の表示領域のタップの他、任意の1回の操作を採用することができる。
【0164】
1回の操作であるダイヤル41の押圧操作や、表示装置14の表示領域のタップを、切り替え操作として採用することで、ユーザは、思い立ったときに、即座に、切り替え操作を行い、表示装置14の表示を、第1及び第2の画像のうちの一方の画像から他方の画像に即座に切り替え、その第1及び第2の画像の画質の差を確認することができる。
【0165】
図7は、切り替え操作に従ったフリップ切り替えの他の例を説明する図である。
【0166】
マルチストリームモードでは、例えば、表示装置14の表示領域の任意の位置のダブルタップ等が、表示装置14に表示された画像を拡大する拡大操作として、表示装置14に表示された画像の拡大に割り当てられる。
【0167】
図7では、図6と同様に、ディジタルカメラの動作モードがマルチストリームモードになっている。そして、撮像装置12において、フレームレートが60[fps]の第1の画像と、フレームレートが240[fpf]の第2の画像との撮像が行われ、その第1及び第2の画像が出力されている。
【0168】
ディジタルカメラにおいて、第1及び第2の画像のうちの一方の画像を、表示対象として、その表示対象が、表示装置14の表示領域に表示されている場合において、ユーザが、拡大操作としての、例えば、表示装置14の表示領域のダブルタップを行うと、表示制御部35において、表示装置14に表示されている画像の一部が拡大される。すなわち、表示装置14の表示領域のダブルタップが行われた位置を中心とする所定の範囲Rが、拡大画像に拡大されて、表示装置14に表示される。
【0169】
そして、表示装置14に拡大画像が表示されている状態で、ユーザが、切り替え操作を行うと、画像の拡大を維持したまま、切り替え操作が行われるごとに、図6の場合と同様の、第1及び第2の画像のフリップ切り替えが行われる。
【0170】
したがって、ユーザは、拡大操作後に切り替え操作を行うことで、第1及び第2の画像の細部の画質の差を、視覚的に容易に確認することができる。
【0171】
なお、拡大操作としては、ダブルタップのタップの他、任意の1回の操作を採用することができる。
【0172】
1回の操作であるダブルタップを、拡大操作として採用することで、ユーザは、思い立ったときに、即座に、拡大操作を行い、表示装置14に表示された画像の所望の部分を拡大して、その所望の部分について、第1及び第2の画像の画質の差を確認することができる。
【0173】
図8は、第1及び第2の画像のフリップ切り替えを模式的に示す図である。
【0174】
フリップ切り替えでは、表示装置14の所定の位置の表示が、第1及び第2の画像のうちの一方の画像から他方の画像に切り替えられる。
【0175】
したがって、第1及び第2の画像が同一の位置に表示されるため、フリップ切り替えを繰り返すことにより、ユーザは、第1及び第2の画像どうしの差分を、極めて容易に確認することができる。
【0176】
ここで、図8では(後述する図9でも同様)、第1及び第2の画像として、撮像時の画素数として、横×縦が1920×1080画素の画像が採用されている。第1及び第2の画像のフレームレートは、それぞれ、60[fps]及び480[fps]であり、フレームレートが低い第1の画像の方が、フレームレートが高い第2の画像よりも、高S/Nであることを僅かに確認することができる。
【0177】
図9は、第1及び第2の画像のフリップ切り替えを行う場合と、第1及び第2の画像を並列表示法で表示する場合とを説明する図である。
【0178】
図9のAは、第1及び第2の画像のフリップ切り替えを説明する図である。
【0179】
フリップ切り替えでは、第1及び第2の画像が交互に同一位置に表示される。図19のAの第1の画像と第2の画像とを上下に重ねて、上側の画像を捲ること、及び、戻すことを繰り返すことにより、フリップ切り替えを擬似的に体験することができる。
【0180】
フリップ切り替えによれば、第1及び第2の画像に映る同一の被写体が同一位置に表示されることにより、第1及び第2の画像どうしの差、特に、S/Nや、解像度、色むら、明るさ等の画質の差が、極めて分かりやすい。
【0181】
また、例えば、映画制作者等の映像のプロフェッショナルのユーザからは、画素単位や画素単位に近い微小単位での画質の違いを見分けやすいことが要請されることが多くなっている。フリップ切り替えによれば、かかるユーザの要請に応えることができる。
【0182】
図9のBは、第1及び第2の画像を、並列表示法で表示した様子を示している。
【0183】
いま、画像を、所定のサイズの表示領域に表示することとすると、フリップ切り替えでは、第1及び第2の画像それぞれを、表示領域の全体に表示することができる。しかしながら、並列表示法において、第1及び第2の画像を横に並べて表示する場合には、第1及び第2の画像との横と縦の表示サイズは、最大でも、表示領域のサイズの1/2になる。
【0184】
以上のように、並列表示法では、第1及び第2の画像が小になるため、フリップ切り替えに比較して、第1及び第2の画像どうしの差が分かりにくくなる。
【0185】
さらに、並列表示法では、第1及び第2の画像に映る同一の被写体が異なる位置に表示されるため、フリップ切り替えに比較して、第1及び第2の画像どうしの差が分かりにくくなる。
【0186】
<基準レート表示制御処理>
【0187】
図10は、基準レート表示制御処理の例を説明するフローチャートである。
【0188】
マルチストリームモードでは、図4ないし図9で説明した、表示装置14に表示される画像のフレームレートの変更やフリップ切り替えの他、基準レート表示制御処理が行われる。
【0189】
基準レート表示制御処理では、第1の画像及び第2の画像のうちの一方の画像のフレームレートに等しい表示レートで、他方の画像が表示される。
【0190】
いま、説明を簡単にするため、第1の画像のフレームレートを基準レートということとする。基準レート表示制御処理では、表示装置14の表示レートが基準レートに固定され(又は、第1の画像のフレームレートが、表示装置14の表示レートに固定され)、第1及び第2の画像は、基準レートで表示される。
【0191】
この場合、第1の画像は、リアルタイムで表示(リアルタイム再生)される。
【0192】
一方、第2の画像は、第1の画像よりもフレームレートが大である場合には、スローで表示(スロー再生)される。また、第2の画像は、第1の画像よりもフレームレートが小である場合には、早送りで表示(早送り再生)される。
【0193】
基準レート表示制御処理では、ステップS31において、表示制御部35は、ディジタルカメラで、第1及び第2の画像の処理が行われているかどうか、すなわち、ディジタルカメラが、第1及び第2の画像を表示することが可能な状態にあるかどうかを判定する。
【0194】
ステップS31において、第1及び第2の画像の処理が行われていると判定された場合、処理は、ステップS32に進み、表示制御部35は、第1及び第2の画像の重畳表示を開始する操作である重畳開始操作が行われたかどうかを判定する。
【0195】
ここで、重畳開始操作としては、例えば、シャッタボタン42の半押し操作や、その他の1回の操作を採用することができる。重畳開始操作として、シャッタボタン42の半押し操作を採用する場合には、マルチストリームモードの設定時において、シャッタボタン42の半押し操作が、重畳開始操作に割り当てられる。
【0196】
ステップS32において、重畳開始操作が行われていないと判定された場合、処理は、ステップS31に戻り、以下、同様の処理が繰り返される。
【0197】
また、ステップS32において、重畳開始操作が行われたと判定された場合、処理は、ステップS33に進み、表示制御部35は、表示対象を、第1及び第2の画像の両方に設定する。そして、表示制御部35は、第1の画像のフレームレートを基準レートとして、表示対象である第1及び第2の画像の、基準レートでの重畳表示を開始させる。これにより、表示装置14では、第1及び第2の画像が、基準レートで、表示領域の同一位置に重畳表示される。
【0198】
ここで、第1及び第2の画像の重畳表示は、例えば、第1及び第2の画像を、アルファブレンディングにより合成し、その合成により得られる合成画像を表示することによって行うことができる。第1及び第2の画像をアルファブレンディングにより合成するときのブレンド率(いわゆるα)は、例えば、あらかじめ設定しておくことや、ユーザの操作に応じて設定することができる。
【0199】
その後、処理は、ステップS33からステップS34に進み、表示制御部35は、第1及び第2の画像の重畳表示の終了を指定する操作である重畳終了操作が行われたかどうかを判定する。
【0200】
ここで、重畳終了操作としては、例えば、シャッタボタン42の半押し操作の解除や、その他の1回の操作を採用することができる。重畳終了操作として、シャッタボタン42の半押し操作の解除を採用する場合には、マルチストリームモードの設定時において、シャッタボタン42の半押し操作の解除が、重畳終了操作に割り当てられる。
【0201】
ステップS34において、重畳終了操作が行われていないと判定された場合、処理は、ステップS34に戻り、以下、同様の処理が繰り返される。
【0202】
また、ステップS34において、重畳終了操作が行われたと判定された場合、処理は、ステップS35に進み、表示制御部35は、第1及び第2の画像の重畳表示を終了する終了処理を行う。
【0203】
終了処理では、例えば、表示対象が、第1及び第2の画像から、重畳開始操作が行われる直前に表示対象であった第1の画像に切り替えられ(設定され)、表示装置14に表示される。
【0204】
その後、処理は、ステップS35からステップS31に戻り、以下、同様の処理が繰り返される。
【0205】
以上のように、基準レート表示制御処理では、第1及び第2の画像が、基準レートで表示されるので、第2の画像のスローや早送りでの表示が、どの程度のスローや早送りになるのかを、第1の画像のリアルタイムでの表示との対比で、視覚的に、容易に把握することができる。
【0206】
なお、図10では、重畳開始操作が行われた場合に、第1及び第2の画像の両方を表示対象として、基準レートで重畳表示することとしたが、基準レート表示制御処理において、基準レートでの第1及び第2の画像の表示としては、重畳表示ではなく、上述のフリップ切り替えでの表示を採用することができる。
【0207】
また、基準レート表示制御処理については、同一時刻のフレームの画質に差がある第1及び第2の画像を対象とする場合は勿論、同一時刻のフレームの画質に差がない第1及び第2の画像を対象とする場合であっても、第2の画像のスローや早送りの程度を確認することができる。
【0208】
さらに、重畳開始操作や重畳終了操作としては、1回の操作ではない操作を採用することができる。但し、重畳開始操作や重畳終了操作として、シャッタボタン42の半押しやその半押しの解除等の1回の操作を採用することにより、ユーザは、思い立ったときに、即座に、重畳開始操作や重畳終了操作を行い、ストレスなく(待ち時間なく)、第2の画像のスローや早送りの程度を確認することができる。
【0209】
図11は、基準レート表示制御処理を説明する図である。
【0210】
図11では、撮像装置12において、60[fps]の第1の画像と、240[fps]の第2の画像とが撮像されて出力されている。
【0211】
以上のような、60[fps]の第1の画像と、240[fps]の第2の画像とを対象として、基準レート表示制御処理が行われる場合、第1の画像のフレームレートを基準レートとして、第1及び第2の画像が表示される。したがって、第1の画像は、リアルタイムで表示され、第2の画像は、スローで表示される。
【0212】
なお、基準レート表示制御処理では、第1の画像のフレームレートではなく、第2の画像フレームレートを基準レートとして、第1及び第2の画像を表示することができる。この場合、上述のように、60[fps]の第1の画像と、240[fps]の第2の画像とを対象として、基準レート表示制御処理が行われるときには、第1の画像は、早送りで表示され、第2の画像は、リアルタイムで表示される。
【0213】
ここで、第1の画像を早送りで表示する場合には、第1の画像のフレームを、早送りに必要な分だけバッファリングしてから、第1の画像を表示する必要がある。そのため、早送りでの表示を行う場合には、バッファリングを行う分の遅延が生じる。
【0214】
図12は、基準レート表示制御処理での第1及び第2の画像の表示の表示例を説明する図である。
【0215】
図12では、図11の場合と同様に、撮像装置12において、60[fps]の第1の画像と、240[fps]の第2の画像とが撮像されて出力されている。さらに、第1及び第2の画像のうちの、第1の画像が、表示対象に設定され、表示装置14に表示されている。
【0216】
第1及び第2の画像には、左から右に歩いて行く人が、被写体として映っている。
【0217】
ここで、第1及び第2の画像のそれぞれに映る被写体は、同一の被写体であるが、第1の画像に映る被写体を、被写体obj1とも記載し、第2の画像に映る被写体を、被写体obj2とも記載する。
【0218】
図12のAは、撮像装置12において、60[fps]の第1の画像と、240[fps]の第2の画像とが撮像され、第1の画像が、表示対象に設定されて、表示装置14に表示されている場合に、特に操作が行われなかったときの、表示装置14の表示例を示している。
【0219】
この場合、第1の画像は、表示対象とされたまま、第1の画像のフレームレートを表示レートとして表示される。したがって、表示装置14には、第1の画像がリアルタムで表示されるので、その表示は、第1の画像に映る被写体obj1がリアルタイムで歩くシーンになる。
【0220】
図12のBは、撮像装置12において、60[fps]の第1の画像と、240[fps]の第2の画像とが撮像され、第1の画像が、表示対象に設定されて、表示装置14に表示されている場合に、重畳開始操作が行われた場合の、表示装置14の表示例を示している。
【0221】
この場合、第1及び第2の画像が、表示対象とされ、第1の画像のフレームレートを表示レートとして重畳表示される。したがって、表示装置14には、第1の画像がリアルタムで表示されるとともに、第2の画像がスローで表示されるので、その表示は、第1の画像に映る被写体obj1がリアルタイムで歩くシーンと、第2の画像に映る被写体obj2がスローで歩くシーンとが重畳された表示になる。
【0222】
ユーザは、かかる表示を見ることにより、第1の画像に映る被写体obj1のリアルタイムの動きと、第2の画像に映る被写体obj2のスローの動きとを比較し、第2に画像に映る被写体obj2の動きのスローの程度を、直感的に把握することができる。
【0223】
重畳開始操作が行われた後のN(>0)秒後に、重畳終了操作が行われると、図10で説明したように、表示制御部35による終了処理が行われる。終了処理では、重畳開始操作が行われる直前に表示対象であった第1の画像が、再び、表示対象に設定され、表示装置14に表示される。
【0224】
ここで、終了処理では、即座に、第1の画像を表示対象に設定して、表示装置14に表示することができる。
【0225】
この場合、重畳終了操作が行われた直後に、表示装置14の表示は、第1の画像に映る被写体obj1がリアルタイムで歩くシーンと、第2の画像に映る被写体obj2がスローで歩くシーンとが重畳された表示から、第1の画像に映る被写体obj1がリアルタイムで歩くシーンに変化する。
【0226】
また、終了処理では、第1及び第2の画像のうちの、フレームレートの小さい一方の画像の、表示装置14での再生を停止し、その一方の画像の再生が停止されたフレームと同一時刻のフレームまで、他方の画像の、表示装置14での再生を続行してから、その他方の画像の、表示装置14での再生を停止することができる。
【0227】
すなわち、終了処理では、第1の画像の、表示装置14での再生を停止し、第1の画像の再生が停止されたフレームと同一時刻のフレームまで、第2の画像の、表示装置14での再生を続行してから、第2の画像の、表示装置14での再生を停止することができる。
【0228】
そして、その後、第1の画像を表示対象に設定して、表示装置14に表示することができる。
【0229】
この場合、重畳終了操作が行われた直後に、第1の画像の、表示装置14での再生が停止されるので、第1の画像については、重畳終了操作が行われたときのフレームが、静止画として表示され続ける。
【0230】
一方、第2の画像の、表示装置14での再生は続行されるので、第2の画像については、被写体obj2がスローで歩くシーンが表示され続ける。
【0231】
そして、第2の画像の、表示装置14での再生は、第1の画像の再生が停止されたフレームと同一時刻のフレームまで続行されて停止され、その後、第1の画像が表示対象に設定されて、表示装置14に表示される。
【0232】
したがって、第2の画像の、表示装置14での再生は、その第2の画像に映る被写体obj2が、静止画として表示されている第1の画像に映る被写体obj1と重なるまで続行される。その後、表示装置14の表示は、第1の画像に切り替わる。この場合、表示装置14に表示される第1の画像に映るシーンは、重畳終了操作が行われた時のシーンから、いま現在、撮像装置12が撮像している第1の画像に映るシーンに切り替わる。
【0233】
ここで、以上のような終了処理によれば、表示装置14では、第2の画像に映る被写体obj2が、静止画として表示されている第1の画像に映る被写体obj1に追いつくようなシーンか表示される。かかる表示を、以下、追っかけ表示ともいう。
【0234】
図13は、追っかけ表示の例を説明する図である。
【0235】
図13では、図12の場合と同様に、撮像装置12において、60[fps]の第1の画像と、240[fps]の第2の画像とが撮像されている。そして、第1の画像が、表示対象に設定され、表示装置14に表示されている。
【0236】
さらに、図13では、図12の場合と同様に、第1及び第2の画像には、左から右に歩いて行く人が、被写体obj1及びobj2としてそれぞれ映っている。
【0237】
図13のAは、第1の画像が、表示対象に設定され、表示装置14に表示されている場合に、特に操作が行われなかったときの、表示装置14の表示例を示している。
【0238】
この場合、図12のAで説明したように、表示装置14には、第1の画像がリアルタムで表示され、表示装置14の表示は、第1の画像に映る被写体obj1がリアルタイムで歩くシーンになる。
【0239】
図13のBは、第1の画像が、表示対象に設定されて、表示装置14に表示されている場合に、重畳開始操作が行われ、さらに、その後、重畳終了操作が行われた場合の、表示装置14の表示例を示している。
【0240】
この場合、図12のBで説明したように、重畳開始操作が行われた後、表示装置14には、第1の画像がリアルタムで表示されるとともに、第2の画像がスローで表示され、表示装置14の表示は、第1の画像に映る被写体obj1がリアルタイムで歩くシーンと、第2の画像に映る被写体obj2がスローで歩くシーンとが重畳された表示になる。
【0241】
図13のBでは、重畳開始操作が行われた時刻を基準(0)として、その5秒後に、重畳終了操作が行われている。
【0242】
重畳終了操作が行われると、終了処理が行われる。終了処理において、追っかけ表示が行われる場合、第1の画像の、表示装置14での再生が停止され、重畳終了操作が行われたときに再生されていた第1の画像のフレームが、静止画として表示され続ける。
【0243】
一方、第2の画像の、表示装置14での再生は続行され、第2の画像に映る被写体obj2がスローで歩くシーンが表示され続ける。
【0244】
図13のBでは、重畳開始操作が行われた時刻を基準として5秒後に行われた重畳終了操作の後、重畳終了操作が行われたときに再生されていた第1の画像のフレームと、スローで再生されている第2の画像のフレームとの重畳表示が開始されている。
【0245】
そして、その重畳表示は、重畳開始操作が行われた時刻から10秒を経過した後(重畳終了操作が行われてから5秒を経過した後)も、続行されている。
【0246】
第2の画像の、表示装置14での再生は、第1の画像の再生が停止されたフレームと同一時刻のフレームまで続行されて停止される。
【0247】
図13のBでは、重畳開始操作が行われてから、5秒後に、重畳終了操作が行われている。したがって、第2の画像の、表示装置14での再生は、重畳開始操作が行われた時刻から5秒分のフレームまで行われる。
【0248】
240[fps]の第2の画像の5秒分のフレーム数は、240×5フレームであり、追っかけ表示では、この240×5フレームが、第1の画像のフレームレートである60[fps]を表示レートとして表示される。
【0249】
したがって、第2の画像の5秒分のフレーム(240×5フレーム)の、表示装置14での再生には、20秒=240×5/60を要する。
【0250】
以上から、重畳終了操作が行われたときに再生されていた第1の画像のフレームと、スローで再生されている第2の画像のフレームとの重畳表示は、重畳開始操作が行われた時刻から20秒間(重畳終了操作が行われてから15秒間)行われる。
【0251】
そして、重畳開始操作が行われた時刻から20秒間が経過すると、第2の画像に映る被写体obj2が、静止画として表示されている第1の画像に映る被写体obj1と重なり、その後、表示装置14の表示は、第1の画像に切り替えられる。
【0252】
以上のような追っかけ表示によれば、ユーザは、リアルタイムでの表示と、スローでの表示との間に、どの程度の時間の乖離があるのかを、直感的に把握することができる。
【0253】
なお、上述の追っかけ表示では、第2の画像に映る被写体obj2が、静止画として表示されている第1の画像に映る被写体obj1と重なった後、表示装置14の表示を、第1の画像に切り替えることとしたが、その他、例えば、第2の画像に映る被写体obj2が第1の画像に映る被写体obj1と重なった状態の表示を、ユーザの操作等の所定のベントが生じるまで維持し、所定のイベントが生じた場合に、表示装置14の表示を、第1の画像に切り替えることができる。
【0254】
また、上述の追っかけ表示では、第2の画像に映る被写体obj2が、静止画として表示されている第1の画像に映る被写体obj1と重なるまで、第2の画像の、表示装置14での再生を続行することとしたが、その他、例えば、第2の画像の、表示装置14での再生中に、ユーザの操作等の所定のベントが生じた場合には、第2の画像の、表示装置14での再生を停止し、表示装置14の表示を、第1の画像に切り替えることができる。
【0255】
図14は、第1及び第2の画像を模式的に示す図である。
【0256】
図14では、図12の場合と同様に、撮像装置12において、60[fps]の第1の画像と、240[fps]の第2の画像とが撮像され、第1及び第2の画像には、左から右に歩いて行く人が、被写体obj1及びobj2としてそれぞれ映っている。
【0257】
ここで、重畳開始操作後に行われる、第1及び第2の画像の、基準レートでの重畳表示を、単に、第1及び第2の画像の重畳表示ともいう。第1及び第2の画像の重畳表示には、重畳終了操作後に行われる追っかけ表示で行われる第1及び第2の画像の重畳表示が、必要に応じて含まれる。
【0258】
第1及び第2の画像の重畳表示では、第1及び第2の画像の、異なる時刻のフレームが重畳されることがある。
【0259】
一方、ディジタルカメラでの画像の撮像時には、手ぶれが生じることや、ディジタルカメラをパンする等して撮像が行われることがあり、ディジタルカメラが動くことがある。
【0260】
ディジタルカメラでの画像の撮像時に、ディジタルカメラに動きがあると、第1及び第2の画像の、異なる時刻のフレームに映る被写体に回転ずれ(姿勢のずれ)が生じることや、例えば、背景等の、動いていない被写体に位置ずれが生じることがある。
【0261】
図14では、第1の画像の時刻t=Tのフレームに映る被写体obj1と、第2の画像の、時刻t=Tとは異なる時刻t=T'のフレームに映る被写体obj2とに、回転ずれが生じている。
【0262】
回転ずれや位置ずれが生じている第1及び第2の画像のフレームを、そのまま用いて重畳表示を行う場合、その重畳表示のために行われる、第1及び第2の画像のフレームの合成により得られる合成画像は、ユーザに違和感を感じさせる画像になるおそれがある。
【0263】
すなわち、合成画像は、例えば、被写体obj1及びobj2の姿勢に不自然なずれがある画像や、背景に不自然な位置ずれがある画像になることがある。
【0264】
そこで、第1及び第2の画像の重畳表示では、表示制御部35において、重畳表示の対象の第1及び第2の画像のフレームの位置ずれや回転ずれ等の、ディジタルカメラが動くことに起因して生じるずれ(以下、動きずれともいう)を補正する変換処理(以下、補正変換処理ともいう)を、第1及び第2の画像のフレームの一方、又は、両方に施してから、第1及び第2の画像のフレームの合成を行うことができる。
【0265】
図15は、補正変換処理の例を説明する図である。
【0266】
図15では、第2の画像のフレームに補正変換処理が施され、補正変換処理後の第2の画像のフレームとして、元の第2の画像のフレームを、僅かに時計回りに回転したフレームが得られている。
【0267】
これにより、補正変換処理後の第2の画像のフレームは、第1の画像のフレームとの間の動きずれが軽減されたフレームになっている。かかるフレーム(補正変換処理後の第2の画像のフレーム)と、第1の画像のフレームとが合成されることにより、違和感(不自然さ)が軽減された合成画像を得ることができる。
【0268】
なお、補正変換処理では、例えば、重畳表示の対象の第1及び第2の画像のフレームに映る主要被写体の回転ずれに起因する、第1及び第2の画像のフレームの画素値どうしの差分をなくすように、第2の画像のフレームを変換することができる。
【0269】
表示制御部35では、主要被写体として、例えば、第1及び第2の画像のフレームに映る被写体の中から、サイズが閾値以上の被写体や、動き量が閾値以上の被写体等を選択することができる。その他、主要被写体としては、ユーザが入力装置17を操作することにより指定する被写体を選択することができる。
【0270】
また、補正変換処理では、例えば、背景や、水平方向、あおり具合のずれに起因する、第1及び第2の画像のフレームの画素値どうしの差分をなくすように、第2の画像のフレームを変換することができる。
【0271】
さらに、補正変換処理では、例えば、第1及び第2の画像のフレームのうちの一方のフレームを基準とする、他方のフレーム全体のずれを表すグローバルベクトルを求め、そのグローバルベクトルを0にするように、第2の画像のフレームを変換することができる
【0272】
以上のような補正変換処理を行うことにより、動きずれに起因する影響を軽減した、第1及び第2の画像の重畳表示を行うことができる。
【0273】
以上のように、図1のディジタルカメラによれば、撮像装置12で撮像される画像について、フレームレートを自在に変更し、表示装置14に、リアルタイムで表示することができる。したがって、ユーザが最適なフレームレートを容易に決定するために有用なインターフェースを提供することができる。
【0274】
さらに、図1のディジタルカメラによれば、撮像装置12において、フレームレートが異なる複数の画像としての、例えば、第1及び第2の画像を撮像して出力し、フリップ切り替えで、表示装置14の表示領域の同一位置に表示することができる。したがって、ユーザが、撮影現場において、フレームレートが異なる第1及び第2の画像の画質の違いを直感的に認識し、最適なフレームレートを容易に決定するために有用なインターフェースを提供することができる。
【0275】
また、図1のディジタルカメラによれば、基準レート表示制御処理において、第1の画像のフレームレートを基準レートとして、表示装置14の表示レートが基準レートに固定され、第1及び第2の画像が、基準レートで表示される。この場合、第1の画像は、リアルタイムで表示され、第2の画像は、スロー又は早送りで表示される。したがって、ユーザが、撮影現場において、スローや早送りの表示の効果を直感的に認識し、最適なフレームレートを容易に決定するために有用なインターフェースを提供することができる。
【0276】
<本技術を適用したコンピュータの説明>
【0277】
次に、上述した一連の処理は、ハードウェアにより行うこともできるし、ソフトウェアにより行うこともできる。一連の処理をソフトウェアによって行う場合には、そのソフトウェアを構成するプログラムが、汎用のコンピュータ等にインストールされる。
【0278】
図16は、上述した一連の処理を実行するプログラムがインストールされるコンピュータの一実施の形態の構成例を示すブロック図である。
【0279】
プログラムは、コンピュータに内蔵されている記録媒体としてのハードディスク105やROM103に予め記録しておくことができる。
【0280】
あるいはまた、プログラムは、リムーバブル記録媒体111に格納(記録)しておくことができる。このようなリムーバブル記録媒体111は、いわゆるパッケージソフトウエアとして提供することができる。ここで、リムーバブル記録媒体111としては、例えば、フレキシブルディスク、CD-ROM(Compact Disc Read Only Memory),MO(Magneto Optical)ディスク,DVD(Digital Versatile Disc)、磁気ディスク、半導体メモリ等がある。
【0281】
なお、プログラムは、上述したようなリムーバブル記録媒体111からコンピュータにインストールする他、通信網や放送網を介して、コンピュータにダウンロードし、内蔵するハードディスク105にインストールすることができる。すなわち、プログラムは、例えば、ダウンロードサイトから、ディジタル衛星放送用の人工衛星を介して、コンピュータに無線で転送したり、LAN(Local Area Network)、インターネットといったネットワークを介して、コンピュータに有線で転送することができる。
【0282】
コンピュータは、CPU(Central Processing Unit)102を内蔵しており、CPU102には、バス101を介して、入出力インタフェース110が接続されている。
【0283】
CPU102は、入出力インタフェース110を介して、ユーザによって、入力部107が操作等されることにより指令が入力されると、それに従って、ROM(Read Only Memory)103に格納されているプログラムを実行する。あるいは、CPU102は、ハードディスク105に格納されたプログラムを、RAM(Random Access Memory)104にロードして実行する。
【0284】
これにより、CPU102は、上述したフローチャートにしたがった処理、あるいは上述したブロック図の構成により行われる処理を行う。そして、CPU102は、その処理結果を、必要に応じて、例えば、入出力インタフェース110を介して、出力部106から出力、あるいは、通信部108から送信、さらには、ハードディスク105に記録等させる。
【0285】
なお、入力部107は、キーボードや、マウス、マイク等で構成される。また、出力部106は、LCD(Liquid Crystal Display)やスピーカ等で構成される。
【0286】
ここで、本明細書において、コンピュータがプログラムに従って行う処理は、必ずしもフローチャートとして記載された順序に沿って時系列に行われる必要はない。すなわち、コンピュータがプログラムに従って行う処理は、並列的あるいは個別に実行される処理(例えば、並列処理あるいはオブジェクトによる処理)も含む。
【0287】
また、プログラムは、1のコンピュータ(プロセッサ)により処理されるものであっても良いし、複数のコンピュータによって分散処理されるものであっても良い。さらに、プログラムは、遠方のコンピュータに転送されて実行されるものであっても良い。
【0288】
さらに、本明細書において、システムとは、複数の構成要素(装置、モジュール(部品)等)の集合を意味し、すべての構成要素が同一筐体中にあるか否かは問わない。したがって、別個の筐体に収納され、ネットワークを介して接続されている複数の装置、及び、1つの筐体の中に複数のモジュールが収納されている1つの装置は、いずれも、システムである。
【0289】
なお、本技術の実施の形態は、上述した実施の形態に限定されるものではなく、本技術の要旨を逸脱しない範囲において種々の変更が可能である。例えば、本技術は、フレームレートが異なり、かつ、同一時刻のフレームの画質が異なる第1の画像及び第2の画像の他、フレームレートが異なる、又は、同一時刻のフレームの画質が異なる第1の画像及び第2の画像、すなわち、フレームレートが異なり、同一時刻のフレームの画質が同一の第1の画像及び第2の画像、又は、フレームレートが同一で、同一時刻のフレームの画質が異なる第1の画像及び第2の画像に適用することができる。
【0290】
さらに、例えば、本技術は、1つの機能をネットワークを介して複数の装置で分担、共同して処理するクラウドコンピューティングの構成をとることができる。
【0291】
また、上述のフローチャートで説明した各ステップは、1つの装置で実行する他、複数の装置で分担して実行することができる。
【0292】
さらに、1つのステップに複数の処理が含まれる場合には、その1つのステップに含まれる複数の処理は、1つの装置で実行する他、複数の装置で分担して実行することができる。
【0293】
また、本明細書に記載された効果はあくまで例示であって限定されるものではなく、他の効果があってもよい。
【0294】
なお、本技術は、以下の構成をとることができる。
【0295】
<1>
フレームレートが異なる、又は、同一時刻のフレームの画質が異なる、少なくとも第1の画像及び第2の画像を、表示装置の表示領域の同一位置に表示させる表示制御を行う表示制御部を備える
表示制御装置。
<2>
前記第1の画像及び前記第2の画像のうちの一方の画像のフレームレートが、ユーザの1回の操作に応じて変更される
<1>に記載の表示制御装置。
<3>
前記第1の画像及び前記第2の画像のうちの前記表示装置に表示されている画像のフレームレートが変更される
<2>に記載の表示制御装置。
<4>
前記表示制御部は、前記表示装置に表示させる表示対象を、前記第1の画像及び前記第2の画像のうちの、前記表示装置に表示されている方の画像から、他方の画像に切り替える
<1>ないし<3>のいずれかに記載の表示制御装置。
<5>
前記表示制御部は、ユーザの1回の操作に応じて、前記表示対象を切り替える
<4>に記載の表示制御装置。
<6>
前記表示制御部は、前記表示対象の画像の一部を拡大して表示させる
<4>又は<5>に記載の表示制御装置。
<7>
前記表示制御部は、ユーザの1回の操作に応じて、前記表示対象の画像の一部を拡大する
<6>に記載の表示制御装置。
<8>
前記表示制御部は、前記表示対象の画像を、その画像の画素数に応じたサイズで表示させる
<4>又は<5>に記載の表示制御装置。
<9>
前記表示制御部は、前記第1の画像及び前記第2の画像を、リアルタイムで表示装置に表示させる
<1>ないし<8>のいずれかに記載の表示制御装置。
<10>
前記表示制御部は、前記第1の画像及び前記第2の画像のうちの一方の画像のフレームレートに等しい表示レートで、他方の画像を表示させる
<1>に記載の表示制御装置。
<11>
前記表示制御部は、前記第1の画像及び前記第2の画像を重畳表示させる
<10>に記載の表示制御装置。
<12>
前記表示制御部は、ユーザの1回の操作に応じて、前記第1の画像及び前記第2の画像を重畳表示させる
<11>に記載の表示制御装置。
<13>
前記表示制御部は、前記第1の画像及び前記第2の画像が重畳表示された後、前記第1の画像及び前記第2の画像のうちの、フレームレートの小さい一方の画像の、前記表示装置での再生を停止し、前記一方の画像の再生が停止されたフレームと同一時刻のフレームまで、他方の画像の、前記表示装置での再生を続行してから、前記他方の画像の、前記表示装置での再生を停止する
<11>又は<12>に記載の表示制御装置。
<14>
前記表示制御部は、
ユーザの1回の操作に応じて、前記第1の画像及び前記第2の画像の重畳表示を解除し、
前記第1の画像及び前記第2の画像の重畳表示を解除するときに、前記一方の画像の、前記表示装置での再生を停止し、前記一方の画像の再生が停止されたフレームと同一時刻のフレームまで、前記他方の画像の、前記表示装置での再生を続行してから、前記他方の画像の、前記表示装置での再生を停止する
<13>に記載の表示制御装置。
<15>
前記表示制御部は、前記第1の画像及び前記第2の画像に映る被写体のずれを補正した補正後の、前記第1の画像及び前記第2の画像を重畳表示させる
<11>ないし<14>のいずれかに記載の表示制御装置。
<16>
前記表示制御部は、前記表示装置に表示させる表示対象を、前記第1の画像及び前記第2の画像のうちの、前記表示装置に表示されている画像から、他の画像に切り替える
<10>に記載の表示制御装置。
<17>
前記表示制御部は、ユーザの1回の操作に応じて、前記表示対象を切り替える
<16>に記載の表示制御装置。
<18>
前記第1の画像及び前記第2の画像は、所定のフレームレートの1ストリームの画像から生成された、前記所定のフレームレート以下のフレームレートの画像である
<1>ないし<17>のいずれかに記載の表示制御装置。
<19>
フレームレートが異なる、又は、同一時刻のフレームの画質が異なる、少なくとも第1の画像及び第2の画像を、表示装置の表示領域の同一位置に表示させる表示制御を行う
ステップを含む表示制御方法。
<20>
フレームレートが異なる、又は、同一時刻のフレームの画質が異なる、少なくとも第1の画像及び第2の画像を、表示装置の表示領域の同一位置に表示させる表示制御を行う表示制御部
として、コンピュータを機能させるためのプログラム。
【符号の説明】
【0296】
11 光学系, 12 撮像装置, 13 ディジタル信号処理部, 14,15 表示装置, 16 メモリ, 17 入力装置, 18 制御部, 19 センサ部, 20 ドライバIC, 31,32 現像処理部, 33 画像解析部, 34 記録再生処理部, 35 表示制御部, 41 ダイヤル, 42 シャッタボタン, 101 バス, 102 CPU, 103 ROM, 104 RAM, 105 ハードディスク, 106 出力部, 107 入力部, 108 通信部, 109 ドライブ, 110 入出力インターフェース, 111 リムーバブル記録媒体
図1
図2
図3
図4
図5
図6
図7
図8
図9
図10
図11
図12
図13
図14
図15
図16
【国際調査報告】