IP Force 特許公報掲載プロジェクト 2022.1.31 β版

知財求人 - 知財ポータルサイト「IP Force」

▶ キヤノン株式会社の特許一覧

<>
  • 特開-撮像装置、制御方法、プログラム 図1
  • 特開-撮像装置、制御方法、プログラム 図2
  • 特開-撮像装置、制御方法、プログラム 図3
  • 特開-撮像装置、制御方法、プログラム 図4
  • 特開-撮像装置、制御方法、プログラム 図5
  • 特開-撮像装置、制御方法、プログラム 図6
  • 特開-撮像装置、制御方法、プログラム 図7
  • 特開-撮像装置、制御方法、プログラム 図8
  • 特開-撮像装置、制御方法、プログラム 図9
  • 特開-撮像装置、制御方法、プログラム 図10
< >
(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公開特許公報(A)
(11)【公開番号】P2022187301
(43)【公開日】2022-12-19
(54)【発明の名称】撮像装置、制御方法、プログラム
(51)【国際特許分類】
   H04N 5/232 20060101AFI20221212BHJP
【FI】
H04N5/232 220
H04N5/232 300
H04N5/232 930
【審査請求】未請求
【請求項の数】9
【出願形態】OL
(21)【出願番号】P 2021095271
(22)【出願日】2021-06-07
(71)【出願人】
【識別番号】000001007
【氏名又は名称】キヤノン株式会社
(74)【代理人】
【識別番号】110003281
【氏名又は名称】弁理士法人大塚国際特許事務所
(72)【発明者】
【氏名】大谷内 貴彦
【テーマコード(参考)】
5C122
【Fターム(参考)】
5C122EA42
5C122FA08
5C122FH11
5C122FK38
5C122FK39
5C122GA34
5C122GC14
5C122GC52
5C122HA01
5C122HB01
5C122HB02
5C122HB05
(57)【要約】
【課題】外部で抽出された所定の条件を満たす画像と撮像装置で抽出された代表画像とが異なる場合にユーザが所望の画像を選択できるようにする。
【解決手段】画像処理装置と通信可能な撮像装置であって、撮像手段により連続的に撮影して取得された複数枚のRAW画像を前記画像処理装置に送信する送信手段と、前記画像処理装置において、前記撮像装置から受信した複数枚のRAW画像から所定の条件を満たす所定のRAW画像を抽出すると共に、前記所定のRAW画像を現像した画像または抽出された結果を受信する受信手段と、前記撮像手段により取得した複数枚のRAW画像の中の所定の代表画像と、前記画像処理装置により抽出された所定のRAW画像とが相違している場合に、前記所定の代表画像を、前記所定のRAW画像に置き換えるか否かを判定する判定手段と、を有する。
【選択図】図8
【特許請求の範囲】
【請求項1】
画像処理装置と通信可能な撮像装置であって、
撮像手段により連続的に撮影して取得された複数枚のRAW画像を前記画像処理装置に送信する送信手段と、
前記画像処理装置において、前記撮像装置から受信した複数枚のRAW画像から所定の条件を満たす所定のRAW画像を抽出すると共に、前記所定のRAW画像を現像した画像または抽出された結果を受信する受信手段と、
前記撮像手段により取得した複数枚のRAW画像の中の所定の代表画像と、前記画像処理装置により抽出された所定のRAW画像とが相違している場合に、前記所定の代表画像を、前記所定のRAW画像に置き換えるか否かを判定する判定手段と、を有することを特徴とする撮像装置。
【請求項2】
前記所定の代表画像と前記所定のRAW画像とが相違している場合に、前記所定の代表画像を、前記所定のRAW画像に置き換えるか否かをユーザに通知する通知手段をさらに有することを特徴とする請求項1に記載の撮像装置。
【請求項3】
複数枚のRAW画像を再生する再生手段をさらに有し、
前記所定の代表画像を、前記所定のRAW画像に置き換えた場合、前記再生手段は画像の再生を開始する位置を前記所定の代表画像から前記所定のRAW画像に変更することを特徴とする請求項1または2に記載の撮像装置。
【請求項4】
前記所定の代表画像を、前記所定のRAW画像に置き換えない場合、前記所定のRAW画像に関する情報を記憶する記憶手段をさらに有することを特徴とする請求項1から3のいずれか1項に記載の撮像装置。
【請求項5】
前記所定のRAW画像は、前記画像処理装置で抽出されたRAW画像ではなく、前記複数枚のRAW画像の中からユーザが選択したRAW画像であることを特徴とする請求項1に記載の撮像装置。
【請求項6】
前記再生手段は、前記複数枚のRAW画像の中の前記所定の代表画像の位置および/または前記所定のRAW画像の位置を表示することを特徴とする請求項3に記載の撮像装置。
【請求項7】
前記所定のRAW画像は、前記撮像装置から受信した複数枚のRAW画像の中から前記画像処理装置により抽出されたベストショットの画像であることを特徴とする請求項1から6のいずれか1項に記載の撮像装置。
【請求項8】
画像処理装置と通信可能な撮像装置の制御方法であって、
撮像手段により連続的に撮影して取得された複数枚のRAW画像を前記画像処理装置に送信するステップと、
前記画像処理装置において、前記撮像装置から受信した複数枚のRAW画像から所定の条件を満たす所定のRAW画像を抽出すると共に、前記所定のRAW画像を現像した画像または抽出された結果を受信するステップと、
前記撮像手段により取得した複数枚のRAW画像の中の所定の代表画像と、前記画像処理装置により抽出された所定のRAW画像とが相違している場合に、前記所定の代表画像を、前記所定のRAW画像に置き換えるか否かを判定するステップと、を有することを特徴とする制御方法。
【請求項9】
コンピュータを、請求項1から7のいずれか1項に記載された撮像装置として機能させるためのプログラム。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、複数枚のRAW画像から所定の条件を満たすRAW画像を抽出し再生を行うシステムに関する。
【背景技術】
【0002】
撮像素子の性能向上により、シャッターを機械的に作動させて画像を撮像するメカニカルシャッター方式に代えて、撮像素子による電荷の蓄積および読み出しタイミングを制御して撮像を行う電子シャッター方式が主流となっている。電子シャッター方式はメカニカルシャッター方式とは異なり撮影時にシャッター音が出ないため、例えば静穏な環境下での撮影シーンに好適である。また、電子シャッター方式では、撮像素子の電荷の読み出し速度の向上により、1秒間に数10コマの撮影を行うことも可能である。
【0003】
このように、1秒間に数10コマ(例えば、30コマ)を撮像可能な撮像装置では、撮像後の比較的時間のかかる圧縮処理やファイル化処理などは省略し、次の撮影が可能な状態へ移行する必要がある。そのため、1秒間に数1コマの各フレームをRAW画像データとして撮影直後に現像処理は行わずに記録している。また、RAW画像データであっても表示用のサムネイルデータは必要であるため、撮像時のデータサイズよりも小さくしたサムネイルデータを各フレームに埋め込む。このようにして撮影全体の処理時間を節約している。
【0004】
また、従来のRAW画像データの現像処理はデジタルカメラやパーソナルコンピュータ(PC)などの現像アプリケーションを用いて行われていたが、近年の通信環境の向上により、ネットワークを介してクラウドサーバにより現像処理が行えるようなっている。このようにクラウドサーバで現像処理を行うことで、新たなサービスやアルゴリズムをいち早く取り入れ、高品質な現像画像を実現できる。また、高性能なサーバを利用することで現像処理に要する時間を短縮できる。
【0005】
さらに、高性能なサーバは、ユーザが自分で好みのシーンを選択する操作よりも高速に画像のピントが合っているか、構図が適切であるか、被写体が人物である場合は人物の表情が良いかなどを判定し、複数の画像からベストショットを抽出可能となっている。特許文献1には、動画ファイルから複数のシーンに対応する複数の代表画像を抽出して一覧表示し、ユーザが好みのシーンを選択すると、選択されたシーンの代表画像を再生可能にするビデオ再生システムが記載されている。
【先行技術文献】
【特許文献】
【0006】
【特許文献1】特開2006-197566号公報
【発明の概要】
【発明が解決しようとする課題】
【0007】
ユーザが撮像装置により撮像した複数のRAW画像データをクラウドサーバに送信し、クラウドサーバが複数のRAW画像データの中からベストショットを抽出するシステムでは、クラウドサーバが複数のRAW画像データの中から抽出したベストショットの画像と、撮像装置が保有しているRAW画像データの中から抽出される代表画像とが異なる可能性がある。また、撮像装置がクラウドサーバで抽出されたベストショットの画像を受信することにより、撮像装置が抽出した代表画像が、ユーザが意図していないクラウドサーバが抽出したベストショットの画像に置き換えられて再生されてしまう可能性がある。
【0008】
本発明は、上記課題を鑑みてなされ、その目的は、外部で抽出された所定の条件を満たす画像と撮像装置で抽出された代表画像とが異なる場合にユーザが所望の画像を選択できるようにする技術を実現することである。
【課題を解決するための手段】
【0009】
上記課題を解決し、目的を達成するために、本発明は、画像処理装置と通信可能な撮像装置であって、撮像手段により連続的に撮影して取得された複数枚のRAW画像を前記画像処理装置に送信する送信手段と、前記画像処理装置において、前記撮像装置から受信した複数枚のRAW画像から所定の条件を満たす所定のRAW画像を抽出すると共に、前記所定のRAW画像を現像した画像または抽出された結果を受信する受信手段と、前記撮像手段により取得した複数枚のRAW画像の中の所定の代表画像と、前記画像処理装置により抽出された所定のRAW画像とが相違している場合に、前記所定の代表画像を、前記所定のRAW画像に置き換えるか否かを判定する判定手段と、を有する。
【発明の効果】
【0010】
本発明によれば、外部で抽出された所定の条件を満たす画像と撮像装置で抽出された代表画像とが異なる場合にユーザが所望の画像を選択できるようになる。
【図面の簡単な説明】
【0011】
図1】本実施形態のシステム構成図。
図2】本実施形態のデジタルカメラの構成を示すブロック図。
図3】本実施形態のサーバの構成を示すブロック図。
図4】(a)は本実施形態におけるバンドルRAW画像ファイルとベストショット判定の説明図、(b)は本実施形態におけるプリ撮影「切」の場合のRAWバースト撮影の説明図、(c)は本実施形態におけるプリ撮影「入」の場合のRAWバースト撮影の説明図、(d)は本実施形態におけるバンドルRAW画像ファイルのデータ構成図。
図5】本実施形態のデジタルカメラが保有する複数の画像ファイルを一覧表示した画面を例示する図。
図6】本実施形態におけるサーバの処理を示すフローチャート。
図7】本実施形態におけるベストショット抽出結果の通知処理を説明する図。
図8】本実施形態におけるデジタルカメラの処理を示すフローチャート。
図9】本実施形態における代表画像とベストショット画像とが相違する場合の再生時の処理の説明図。
図10】ユーザがベストショット画像を選択した場合のデジタルカメラの処理を示すフローチャート。
【発明を実施するための形態】
【0012】
以下、添付図面を参照して実施形態を詳しく説明する。尚、以下の実施形態は特許請求の範囲に係る発明を限定するものではない。実施形態には複数の特徴が記載されているが、これらの複数の特徴の全てが発明に必須のものとは限らず、また、複数の特徴は任意に組み合わせられてもよい。さらに、添付図面においては、同一若しくは同様の構成に同一の参照番号を付し、重複した説明は省略する。
【0013】
本実施形態においては、画像生成装置および画像処理装置としてデジタルカメラ(以下、カメラ)200およびサーバコンピュータ300が通信ネットワーク100により接続されたシステムの例を説明する。
【0014】
なお、本実施形態のシステムは、カメラ200で生成されたRAW画像データの現像処理を、現像処理機能を提供するネットワーク上のクラウドサーバ(以下、サーバ)300で実行する。なお、本実施形態では、サーバ300がRAW画像データの現像処理を実行する例を説明するが、サーバ300において現像処理以外の画像処理を行うようにしてもよい。
【0015】
<システム構成>まず、図1を参照して、本実施形態のシステム構成について説明する。
【0016】
カメラ200には、サーバ300の現像処理機能を利用するための画像処理アプリケーションがインストールされている。カメラ200はWAN(Wide Area Network)、インターネット、公衆回線などの通信ネットワーク100を介してサーバ300と通信可能に接続される。
【0017】
カメラ200は、連写撮影(RAWバースト撮影)により連続的に撮影して生成された複数のRAW画像データから構成されるバンドルRAW画像ファイル50を生成し、バンドルRAW画像ファイル50をサーバ300に送信する。カメラ200で生成されるRAW画像データは、デジタルカメラなどで撮影される静止画や動画など画像データであって、現像処理を行わずにファイル化されたものである。
【0018】
カメラ200は、カメラ200で生成されたRAW画像データをサーバ300に送信し、サーバ300がカメラ200から受信したRAW画像データに対して現像処理を実行し、現像済みの画像データをカメラ200に送信する。
【0019】
サーバ300は、カメラ200から受信した複数枚のRAW画像データからベストショットと判定したRAW画像データを抽出する。そして、サーバ300は、ベストショットと判定したRAW画像データに関する情報またはベストショットと判定したRAW画像データを現像した画像データ51をカメラ200に送信する。
【0020】
<カメラ200の構成>次に、図2を参照して、カメラ200のハードウェア構成について説明する。
【0021】
なお、本実施形態では、画像生成装置をデジタルカメラなどの撮像装置に適用した例を説明するが、これに限定されるものではない。例えば、携帯電話の一種であるスマートフォン、タブレットデバイス、時計型端末や眼鏡型端末などの情報処理装置であってもよい。
【0022】
制御部201は、カメラ200の全体を統括して制御する演算処理装置(CPU)であって、後述する不揮発性メモリ202に格納されたプログラムを実行することで、後述するフローチャートの処理を実現する。なお、制御部201が装置全体を制御する代わりに、複数のハードウェアが処理を分担することで、装置全体を制御してもよい。
【0023】
不揮発性メモリ202には、制御部201の動作用の定数、プログラム等が格納される。ここでいう、プログラムとは、本実施形態にて後述するサーバ300との通信処理を実行するためのプログラムを含む。また、不揮発性メモリ202には、制御部201が実行する基本的なソフトウェアであるOS(オペレーティングシステム)や、このOSと協働して応用的な機能を実現する画像処理アプリケーションが格納されている。本実施形態のカメラ200の処理は、画像処理アプリケーションにより提供されるソフトウェアを読み込むことにより実現される。なお、画像処理アプリケーションはカメラ200にインストールされたOSの基本的な機能を利用するためのソフトウェアを有しているものとする。なお、カメラ200のOSが本実施形態における処理を実現するためのソフトウェアを有していてもよい。不揮発性メモリ202は、例えば、EEPROMである。
【0024】
作業用メモリ203は、制御部201の動作用の定数、変数、不揮発性メモリ202から読み出したプログラム等を展開する作業領域として使用される。また、作業用メモリ203は、撮像部204で撮像された画像データを一時的に保持するバッファメモリや、表示部106の画像表示用メモリとして使用される。
【0025】
撮像部204は、ズームレンズやフォーカスレンズを含むレンズ群、絞り機能を備えるシャッターを含む。また、撮像部204は、被写体像を電気信号に変換するCCDやCMOS素子等で構成される撮像素子、撮像素子から出力されるアナログ画像信号をデジタル信号に変換するA/D変換器を有する。撮像部204は、制御部201の制御により、撮像部204に含まれるレンズにより結像された被写体像光を、撮像素子により電気信号に変換し、ノイズ低減処理などを行って、デジタル信号からなる画像データを出力する。
【0026】
制御部201は、撮像部204により撮像されたRAW画像データに対して現像処理を除く各種の画像処理を行い、画像ファイルを生成し、記録媒体208に記録する。本実施形態のカメラ200では、RAW画像データはDCF(Design Rule for Camera File system)規格に従って、記録媒体208に記録される。また、制御部201は、撮像した画像データを用いて所定の演算処理を行い、得られた演算結果に基づき制御部201が撮像部204のフォーカスレンズや絞り、シャッターを制御することで、AF(オートフォーカス)処理やAE(自動露出)処理を行う。
【0027】
操作部105は、ユーザからの各種操作を受け付ける各種スイッチ、ボタン、タッチパネル等の操作部材からなる。操作部105は、例えば、電源のオンまたはオフにする電源ボタンや画像の撮影を行うシャッターボタン、カメラ200の動作モードを設定するモード設定ボタンなどを含む。また、後述する表示部106に一体的に形成されるタッチパネルも操作部105に含まれる。また、操作部105は、後述の通信部207を介して外部装置との通信を開始するための専用の接続ボタンなどの操作部材を含む。また、操作部105は、カメラ200と一体化された構成であっても、カメラ200に接続された外部装置であってもよい。カメラ200は、操作部105と接続することができればよい。
【0028】
シャッターボタンは、ユーザによる撮影時の操作として操作途中、いわゆる半押し(撮影準備指示)でオンとなり第1シャッタースイッチ信号SW1を発生する。第1シャッタースイッチ信号SW1オンを受けて、制御部201は撮像部204を制御することによりAF(オートフォーカス)処理やAE(自動露出)処理、AWB(オートホワイトバランス)処理、EF(フラッシュプリ発光)処理等の撮影準備動作を開始する。また、シャッターボタンは、ユーザによる撮影時の操作として操作完了、いわゆる全押し(撮影開始指示)でオンとなり、第2シャッタースイッチ信号SW2を発生する。制御部201は、第2シャッタースイッチ信号SW2オンを受けて、撮像部204からの信号読み出しから記録媒体208に画像データを書き込むまでの一連の撮影動作を開始し、第2シャッタースイッチ信号SW2オフ(撮影終了指示)を受けて撮影動作を終了する。
【0029】
モード設定ボタンは、カメラ200の動作モードを、静止画や動画を撮影するための撮影モード、画像を再生するための再生モード、後述するRAWバースト撮影モードを含む複数の動作モードのいずれかに設定可能である。なお、RAWバースト撮影では、撮影時の設定として後述するプリ撮影「切」またはプリ撮影「入」に設定可能である。
【0030】
表示部106は、撮像部204で撮像された画像データ(ライブビューを含む)やサーバ300で画像処理が実行された画像データなどの表示を行う。また、表示部106は、画像処理アプリケーションのGUI(Graphical User Interface)など、対話的な操作のための文字表示等を行う。表示部106は、例えば、液晶ディスプレイ、有機ELディスプレイ等の表示デバイスである。表示部106は、カメラ200と一体化された構成であっても、カメラ200に接続された外部装置であってもよい。カメラ200は、表示部106と接続することができ、表示部106の表示を制御する機能を有していればよい。
【0031】
通信部207は、サーバ300などの外部装置と接続するためのインターフェースである。本実施形態のカメラ200は、通信部207を介して、外部装置とデータの授受を行うことができる。例えば、カメラ200で生成されたRAW画像データを、通信部207を介して外部装置に送信することができる。なお、本実施形態では、通信部207は、USBケーブルやHDMI(登録商標)、IEEE1394などの有線接続インターフェースを含む。また、通信部207は、IEEE802.11の規格による無線LAN(Local Area Network)、IEEE802.15の規格によるBluetooth(登録商標)などの無線接続インターフェースを含む。制御部201は、通信部207を制御することで外部装置との通信を実現する。
【0032】
記録媒体208は、撮像部204から出力された画像データが書き込まれたり、既に記録されている画像ファイルが読み出されたりする。記録媒体208は、カメラ200に装着されるメモリカードやハードディスクドライブ等であってもよいし、カメラ200に内蔵されたフラッシュメモリやハードディスクドライブであってもよい。カメラ200は少なくとも記録媒体208にアクセスする機能を有していればよい。
【0033】
<サーバ300の構成>次に、図3を参照して、サーバ300のハードウェア構成について説明する。
【0034】
本実施形態のサーバ300は、制御部301、不揮発性メモリ302、作業用メモリ303、画像処理部304、通信部305、記憶部306、画像判定部307を備える。
【0035】
制御部301は、サーバ300の全体を統括して制御する演算処理装置(CPU)であって、後述する不揮発性メモリ302に格納されたプログラムを実行することで、後述するフローチャートの処理を実現する。なお、制御部301が装置全体を制御する代わりに、複数のハードウェアが処理を分担することで、装置全体を制御してもよい。
【0036】
不揮発性メモリ302には、制御部301の動作用の定数、プログラム等が格納される。ここでいう、プログラムとは、カメラ200との通信処理を実行するためのプログラムを含む。また、不揮発性メモリ302には、制御部301が実行する基本的なソフトウェアであるOS(オペレーティングシステム)や、このOSと協働して応用的な機能を実現する画像処理プログラムが格納されている。本実施形態のサーバ300の処理は、画像処理プログラムにより提供されるソフトウェアを読み込むことにより実現される。なお、画像処理プログラムはサーバ300にインストールされたOSの基本的な機能を利用するためのソフトウェアを有しているものとする。なお、サーバ300のOSが本実施形態における処理を実現するためのソフトウェアを有していてもよい。不揮発性メモリ302は、例えば、ハードディスクドライブ(HDD)、フラッシュメモリで構成されるソリッドステートドライブ(SSD)、EEPROM、フラッシュメモリ、光ディスクなどである。
【0037】
作業用メモリ303は、制御部301の動作用の定数、変数、不揮発性メモリ302から読み出したプログラム等を展開する作業領域として使用される。また、作業用メモリ303は、カメラ200から受信したRAW画像データを一時的に保持するバッファメモリとして使用される。
【0038】
画像処理部304は、カメラ200から受信したRAW画像データに対して、画素補間処理、輝度信号処理、および色信号処理などの現像処理を施した現像済み画像データを生成するGPU(Graphics Processing Unit)である。
【0039】
通信部305は、HTTP通信等によって外部装置と通信を行うソフトウェアや回路を含む。本実施形態のサーバ300は、通信部305を介して、カメラ200とデータの授受を行うことができる。例えば、サーバ300は、画像処理部304で現像済みの画像データを、通信部305を介して外部装置に送信することができる。なお、本実施形態では、通信部305は外部装置と無線方式や有線方式で通信するためのインターフェースを含む。制御部301は、通信部305を制御することで外部装置との通信を実現する。本実施形態では、通信部305は、GET/HEADメソッドを用いてカメラ200と接続することができる。なお、GET/HEADメソッドに限らず、POSTメソッドやPUTメソッド等の方法を使用してもよい。ユーザが外出時にカメラ200とサーバ300を接続させる場合は、公衆回線やWi-Fi等を使用して接続を行い、帰宅時は自宅のアクセスポイント等を介して接続してもよい。なお、カメラ200との通信はこれに限られるものではなく、また、現像済みの画像データをカメラ200に送信しなくてもよい。
【0040】
記憶部306は、カメラ200から受信した画像データその他のデータを記憶するSSDやハードディスクなどの記憶装置である。なお、サーバ300が通信を行う対象はカメラ200に限らず、他の通信機器であってもよい。
【0041】
画像判定部307は、カメラ200から受信し、記憶部306に格納されているRAW画像データの中からベストショットを判定し、ベストショットと判定したRAW画像データを抽出するソフトウェアや回路を含む。
【0042】
画像処理部304は、画像判定部307においてベストショットと判定されたRAW画像データに対して現像処理を行う。現像済みの画像データは、通信部305によりカメラ200に送信される。
【0043】
<バンドルRAW画像とベストショット判定>
図4(a)は複数のRAW画像データからベストショットと判定した画像を抽出する方法を説明する図である。
【0044】
本実施形態において、ベストショットとは、RAWバースト撮影により所定の撮影操作に応じて同一の被写体を連写して複数のRAW画像データを生成し、複数のRAW画像の中で最適と判定されるRAW画像データである。ベストショットとしては、ピントが合っている、被写体が大きく写っている、決定的瞬間を捉えている、など複数の判定条件がある。本実施形態では、図4(a)を用いて、一人の人物を連写して複数(例えば、6枚)の画像401~406を撮影した例を説明する。この場合、画像404が最も笑顔となっており、画像401~406の中のベストショットとして判定される。
【0045】
図4(b)、(c)はRAWバースト撮影について説明する図である。
【0046】
RAWバースト撮影とは、複数のRAW画像データを連写で撮影する方法であり、所定の撮影設定としてプリ撮影「切」とプリ撮影「入」がある。図4(b)はプリ撮影「切」の場合の撮影動作の例を示し、図4(c)はプリ撮影「入」の場合の撮影動作の例を示している。図4(b)、(c)の横軸は時間を示している。
【0047】
図4(b)のプリ撮影「切」の状態では、第2シャッタースイッチ信号SW2オン(撮影開始)から第2シャッタースイッチ信号SW2オフ(撮影終了)までの間に連写撮影を行い、連写撮影された複数のRAW画像データを1つのバンドルRAW画像ファイル410として記録される。
【0048】
図4(c)のプリ撮影「入」の状態では、第1シャッタースイッチ信号SW1オン後であって第2シャッタースイッチ信号SW2オンから所定の時間前の時点から第2シャッタースイッチ信号SW2オフまでの間に連写撮影を行い、連写撮影された複数のRAW画像データを1つのバンドルRAW画像ファイル411として記録される。この場合、第2シャッタースイッチ信号SW2オンとなる所定の時間前(最大0.5秒前)から第2シャッタースイッチ信号SW2オフまでの間に連写されたRAW画像データが記録される。
【0049】
図4(d)はRAWバースト撮影により生成されるバンドルRAW画像ファイルのデータ構成を例示する図である。
【0050】
バンドルRAW画像ファイル420は、メタ情報421、代表画像422、各画像フレーム423~426を含む。
【0051】
メタ情報421には撮影情報や代表画像情報、フレーム数、ベストショット情報が含まれる。
【0052】
代表画像情報は、後述する代表画像422に対応するRAW画像データのフレーム番号や撮影日時、代表画像の解像度などを含む情報である。フレーム数はRAW画像データ数である。ベストショット情報は、ベストショットと判定されたフレームの情報である。本実施形態ではサーバ300の画像判定部307がベストショットを判定し、判定結果をサーバ300の通信部305を介してカメラ200に送信するが、これに限らず、ユーザ自身でベストショットを判定したり、カメラ200で自動判定したりしてもよい。
【0053】
代表画像422には、バンドルRAW画像ファイル全体の代表画像の表示用JPEGデータが含まれている。例えば、図4(b)や図4(c)で第2シャッタースイッチ信号SW2オン時のフレームの表示用画像が代表画像として記録され、図5で後述する選択画面や再生画面に表示される画像として利用される。
【0054】
各画像フレーム423~426はバンドルRAW画像ファイル420に含まれる複数のRAW画像データである。画像フレーム423は1フレーム目のフレーム情報と表示用JPEG(サイズ:小)とRAWデータを含む。画像フレーム424は2フレーム目のフレーム情報と表示用JPEG(サイズ:小)とRAWデータを含む。画像フレーム425は3フレーム目のフレーム情報と表示用JPEG(サイズ:小)とRAWデータを含む。画像フレーム426は最後のフレームNのフレーム情報と表示用JPEG(サイズ:小)とRAWデータを含む。
【0055】
カメラ200を用いてRAWバースト撮影を行うことで、連写撮影されたRAW画像データの束である1つのバンドルRAW画像ファイル420が生成される。サーバ300では、カメラ200から受信したバンドルRAW画像ファイル420からベストショットと判定される1枚のRAW画像データを抽出することで、ベストショット画像を取得することができる。
【0056】
図5は、本実施形態のカメラ200が保有する複数の画像ファイルを一覧表示した画面を例示する図である。
【0057】
以下では、カメラ200の表示部206に表示される選択画面430に、記録媒体208に記憶されている複数の画像ファイルが一覧表示されている画面例について説明する。
【0058】
図5(a)の選択画面430は、記録媒体208に4個の画像ファイル431~434が記憶されている状態を表示している。画像ファイル431、432、433はJPEGファイルであり、画像ファイル434はバンドルRAW画像ファイルである。JPEGファイルは、メタ情報に付加されているサムネイルが表示される。バンドルRAW画像ファイルは、代表画像422に保持されている表示用JPEG小が表示される。
【0059】
図5(a)の選択画面430においてバンドルRAW画像ファイル434が再生対象として選択されると、表示部206に図5(b)に示す再生画面440が表示される。再生画面440には、バンドルRAW画像ファイル434の中から抽出された代表画像434aとスライダーバー441が表示される。スライダーバー441の長さは、バンドルRAW画像ファイル434に含まれる複数のRAW画像データを時系列に並べたときの長さに対応する。代表画像434aはスライダーバー441のマーク442に対応する位置に表示され、マーク442をスライダーバー441上でスライドさせることで代表画像434aの前後の画像を確認したり、代表画像を変更したりすることが可能である。
【0060】
<サーバ300の処理>次に、図6を参照して、サーバ300により実行されるベストショット抽出処理および現像処理について説明する。
【0061】
なお、図6の処理は、サーバ300の制御部301が不揮発性メモリ302に格納されているプログラムを作業用メモリ303に展開して実行し、各構成要素を制御することにより実現される。また、図6の処理は、サーバ300がカメラ200からバンドルRAW画像ファイルを受信すると開始される。
【0062】
ステップS601では、制御部301は、カメラ200から送信されるバンドルRAW画像ファイルに含まれる全てのRAW画像データが受信済みであるか否かを判定する。制御部301は、全て受信済みであると判定した場合は処理をステップS604へ進め、全て受信済みはでないと判定した場合は処理をステップS602に進める。受信済みか否かの判定は、制御部301が受信したバンドルRAW画像ファイル420のメタ情報421にあるフレーム数を参照して行う。
【0063】
ステップS602では、制御部301は、カメラ200から受信した一部のRAW画像データを用いてベストショット判定が可能か否かを判定する。制御部301は、ベストショット判定可能と判定した場合は処理をステップS604へ進め、ベストショット判定不能と判定した場合は処理をステップS603に進める。ベストショット判定可能か否かの判定は、例えば、所定枚数以上のRAW画像データを受信済みであるか否か、受信済みのRAW画像データから被写体の傾向が判定できるか否かを判定する。また、これ以上のRAW画像データは不要と判定した場合など、制御部301がバンドルRAW画像ファイルの一部のRAW画像データからベストショットを抽出可能であるか否かで判定される。
【0064】
ステップS603では、制御部301は、カメラ200から残りのRAW画像データが送信されるまで待機し、処理をステップS601へ戻す。
【0065】
ステップS604では、制御部301は、画像判定部307によりベストショット判定を行い、処理をステップS605へ進める。ベストショット判定は、ピントが合っている、被写体が大きく写っている、決定的瞬間をとらえている等の複数の条件が用いられ、被写体認識結果により条件を変更したり組み合わせたりすることで行うことができる。なお、ベストショット判定方法はこれに限らず、どのような方法を用いてもよい。例えば、人工知能(AI)を利用して様々なアルゴリズムを組み合わせたり、ユーザの撮影傾向を学習してベストショット判定に反映させたりしてもよい。
【0066】
ステップS605では、制御部301は、ベストショットと判定されたRAW画像データに対し、画像処理部304により現像処理を行い、処理をステップS606に進める。なお、画像処理部304で実行される現像処理のパラメータは、ユーザが任意に設定したり、サーバ300が人工知能(AI)を利用して自動で決定したりすることが可能である。また、現像処理は行わずRAW画像データのまま保持することも可能である。
【0067】
ステップS606では、制御部301は、ステップS605で現像処理を行ったRAW画像データに対して現像済み状態を示す現像済みフラグをセットし、処理をステップS607に進める。なお、現像済みフラグは、不揮発性メモリ302や作業用メモリ303の専用の記憶領域に記憶されてもよい。
【0068】
ステップS607では、制御部301は、現像処理が終了したか否かを判定し、現像処理が終了したと判定した場合は処理をステップS608に進め、現像処理が終了していないと判定した場合は処理をステップS604へ戻す。現像処理を終了するか否かは1つのバンドルRAW画像ファイルからベストショットと判定し現像するRAW画像データの枚数の上限の設定に基づき、設定された枚数分のRAW画像データの現像が完了したか否かにより判定される。ベストショットと判定し現像するRAW画像データの枚数の上限は、予めサーバ300に設定されていてもよいし、何らかの方法でサーバに設定可能であればよい。
【0069】
ステップS608では、制御部301は、ベストショット抽出結果をカメラ200へ通知し、現像済みの画像データをカメラ200に送信して処理を終了する。なお、ステップS608の処理の詳細は図7で後述する。サーバ300からカメラ200へのベストショット抽出結果の通知は、サーバ300の画像判定部307で判定されたRAW画像データのフレーム番号等のベストショット情報だけを通知してもよい。また、ベストショットと判定されたRAW画像データを現像した現像済み画像データを送信してもよいし、それらの両方を送信してもよい。
【0070】
<ベストショット抽出結果の通知>
次に、図7を参照して、サーバ300からカメラ200にベストショット抽出結果を通知する処理について説明する。
【0071】
図7(a)は、ベストショット抽出結果の通知処理を説明する図である。カメラ200は、サーバ300にベストショット抽出状態問い合せ701を送信することにより、サーバ300に送信したバンドルRAW画像ファイルのいずれのフレームがベストショットと判定されたかを問い合せる。問い合わせを送信するトリガは、例えばカメラ200での画像再生時である。カメラ200が常時サーバ300に接続されている場合、接続のタイミングは考慮する必要はないが、サーバ300と接続状態でない場合はベストショット抽出状態問い合わせ701を行う場合にサーバ300と接続する必要がある。サーバ300はカメラ200からベストショット抽出状態問い合わせ701を受信した場合、その応答としてサーバ300におけるベストショット抽出状態702をカメラ200に送信する。
【0072】
図7(b)は、サーバ300のベストショット抽出状態の遷移を例示する図である。サーバ300がバンドルRAW画像ファイルを受信し、まだベストショット抽出処理を開始していない状態を未処理705とする。ベストショット抽出処理中の状態をベストショット判定中706とする。ベストショット抽出処理が終了した状態をベストショット抽出完了707とする。なお、図7の例では3つの状態を例示しているが、他の状態があってもよい。
【0073】
ベストショット抽出状態問い合わせ701に対する応答であるベストショット抽出状態702が未処理705またはベストショット判定中706の場合、サーバ300に対してはベストショット抽出完了707になるまでベストショット抽出状態問い合わせ701を繰り返し送信する。カメラ200はサーバ300のベストショット抽出状態702がベストショット抽出完了707になったと判定した場合、サーバ300にベストショット情報取得要求703を送信し、サーバ300に対してベストショットとして抽出されたフレームを問い合わせる。サーバ300はベストショット情報取得要求703に対する応答として、バンドルRAW画像ファイルからベストショットと判定されたRAW画像データのフレーム番号等のベストショット情報704を送信する。
【0074】
<カメラ200の処理>次に、図8を参照して、カメラ200により実行される処理について説明する。
【0075】
図8は、サーバ300で抽出されたベストショット画像とカメラ200で抽出された代表画像とが異なる場合のカメラ200の処理を示すフローチャートである。
【0076】
図8の処理は、カメラ200の制御部201が不揮発性メモリ202に格納されているプログラムを作業用メモリ203に展開して実行し、各構成要素を制御することにより実現される。また、図8の処理は、図5(a)に示す選択画面430においてユーザが再生対象としてバンドルRAW画像ファイル434を選択したことに応じて開始される。また、図8の処理は、サーバ300がカメラ200から予めバンドルRAW画像を受信し、図7で説明したベストショット抽出完了状態707であることを前提とする。後述する図10も同様である。
【0077】
ステップS801では、制御部201は、記録媒体208からバンドルRAW画像ファイルを読み出し再生する処理を開始する。ここで、カメラ200がサーバ300と接続されていない場合は、ステップS802で、制御部201は、サーバ300との接続処理を開始する。
【0078】
ステップS803では、制御部201は、ステップS801で再生処理を開始したバンドルRAW画像ファイルの代表画像と、サーバ300により抽出されたベストショット画像とを比較する。そして、制御部201は、ステップS801で再生処理を開始したバンドルRAW画像ファイルの代表画像と、サーバ300により抽出されたベストショット画像とが相違していると判定した場合は、処理をステップS804に進める。また、制御部201は、ステップS801で再生処理を開始したバンドルRAW画像ファイルの代表画像と、サーバ300により抽出されたベストショット画像が同一であると判定した場合は、処理を終了する。
【0079】
ステップS804では、制御部201は、記録媒体208に格納されているバンドルRAW画像ファイルの代表画像を、サーバ300により抽出されたベストショット画像に置き換えるか否かを判定する。この場合、例えば、再生開始前に警告画面を表示することにより、カメラ200に記憶されているバンドルRAW画像ファイルの代表画像と、サーバ300により抽出されたベストショット画像とに差異があることをユーザに通知し、代表画像の置き換えをユーザに選択させるようにすればよい。
【0080】
ステップS804で、制御部201は、記録媒体208に格納されているバンドルRAW画像ファイルの代表画像を、サーバ300により抽出されたベストショット画像に置き換えると判定した場合は、処理をステップS805に進め、置き換えないと判定した場合は、処理をステップS806に進める。
【0081】
ステップS805では、制御部201は、記録媒体208に格納されているバンドルRAW画像ファイルの代表画像を、サーバ300により抽出されたベストショット画像に置き換える。置き換えは、図4(d)で説明したバンドルRAW画像ファイル420のメタ情報421の代表画像情報をサーバ300が抽出したベストショット画像のフレーム番号を置き換え、代表画像422の表示用JPEGサイズ小をサーバ300により抽出されたベストショット画像に置き換える。
【0082】
ステップS806では、制御部201は、サーバ300により抽出されたベストショット画像のフレーム番号を、バンドルRAW画像ファイル420のメタ情報421の中にあるベストショット情報に記録する。
【0083】
図9は、カメラ200に記憶されているバンドルRAW画像ファイルの代表画像とサーバ300により抽出されたベストショット画像とが相違している場合の再生時の処理の説明図である。
【0084】
カメラ200に記憶されているバンドルRAW画像ファイルの代表画像とサーバ300により抽出されたベストショット画像とが同じ場合は、図9(a)に示すように、カメラ200に記憶されているバンドルRAW画像ファイルの代表画像に対応する、スライダーバー441のマーク901に対応する位置の画像が表示される。一方で、カメラ200に記憶されているバンドルRAW画像ファイルの代表画像とサーバ300により抽出されたベストショット画像とが相違している場合は、再生時に代表画像情報とベストショット画像情報に差異がある場合、図9(b)に示すように表示部206に警告画面903を表示し、ベストショット画像を表示するか否かをユーザに選択させる。ユーザが警告画面903において「はい」904を選択した場合は、図9(a)に示すスライダーバー441のマーク902に対応する位置のベストショット画像が表示される。また、ユーザが警告画面903において「いいえ」905を選択した場合は、スライダーバー441のマーク901に対応する位置の代表画像を表示する。
【0085】
このように、カメラ200に記憶されているバンドルRAW画像ファイルの代表画像とサーバ300により抽出されたベストショット画像とが相違している場合に、ユーザが再生対象の画像として、カメラ200に記憶されているバンドルRAW画像ファイルの代表画像とサーバ300により抽出されたベストショット画像のいずれかを選択でき、カメラ200に記憶されているバンドルRAW画像ファイルの代表画像をサーバ300により抽出されたベストショット画像に置き換えることができるので、バンドルRAW画像ファイルの再生開始時にユーザの意図する画像を表示対象にすることが可能となる。
【0086】
[変形例]
上述した実施形態では、サーバ300においてバンドルRAW画像の中からベストショット画像の抽出を行い、ベストショット情報をデジタルカメラ200に通知する例を説明した。しかしながら、サーバ300でベストショット判定を行わずに、ユーザがベストショット判定を行う可能性もある。このため、以下では、バンドルRAW画像ファイルからユーザがベストショット画像を選択した場合の処理について説明する。
【0087】
図10は、ユーザがベストショット画像を選択した場合のカメラ200の処理を示すフローチャートである。
【0088】
ステップS1001では、制御部201は、記録媒体208からバンドルRAW画像ファイルを読み出し再生する処理を開始する。
【0089】
ステップS1002では、制御部201は、図5(b)の再生画面440において、ユーザがスラーだーバー441のマーク442の位置を移動させることにより、バンドルRAW画像ファイルの中から選択したベストショット画像の位置を記憶する。
【0090】
ステップS1003では、制御部201は、ステップS1002で選択された再生処理を開始したバンドルRAW画像ファイルの代表画像と、サーバ300により抽出されたベストショット画像とを比較する。そして、制御部201は、ステップS801で再生処理を開始したバンドルRAW画像ファイルの代表画像と、サーバ300により抽出されたベストショット画像とが相違していると判定した場合は、処理をステップS804に進める。また、制御部201は、ステップS801で再生処理を開始したバンドルRAW画像ファイルの代表画像と、サーバ300により抽出されたベストショット画像が同一であると判定した場合は、処理を終了する。
【0091】
ステップS1003では、カメラ200に記憶されているバンドルRAW画像ファイルの代表画像と、ステップS1002でユーザが選択したベストショット画像とを比較する。そして、制御部201は、デジタルカメラ200に記憶されているバンドルRAW画像の代表画像と、ステップS1002で選択されたベストショット画像が相違していると判定した場合は、処理をステップS1004に進め、同一であると判定した場合は、処理を終了する。
【0092】
ステップS1004では、制御部201は、カメラ200に記憶されているバンドルRAW画像ファイルの代表画像を、ステップS1002で選択されたベストショット画像に置き換える。また、再生画面440のスライダーバー441にマークの位置もカメラ200に記憶されているバンドルRAW画像ファイルの代表画像から、ユーザが選択したベストショット画像の位置に変更される。
【0093】
このように、サーバ300でベストショット判定を行わずに、ユーザがベストショット画像を選択した場合は、カメラ200に記憶されているバンドルRAW画像ファイルの代表画像を、ユーザが選択したベストショット画像に置き換え、再生画面440のスライダーバー441にマークの位置も変更することで、バンドルRAW画像ファイルの再生開始時にユーザの意図する画像を表示対象として即座に表示できるようになる。
【0094】
[他の実施形態]
本発明は、各実施形態の1以上の機能を実現するプログラムを、ネットワークや記憶媒体を介してシステムや装置に供給し、そのシステム又は装置のコンピュータの1つ以上のプロセッサがプログラムを読み出して実行する処理でも実現可能である。また、本発明は、1以上の機能を実現する回路(例えば、ASIC)によっても実現可能である。
【0095】
発明は上記実施形態に制限されるものではなく、発明の精神及び範囲から離脱することなく、様々な変更及び変形が可能である。従って、発明の範囲を公にするために請求項を添付する。
【符号の説明】
【0096】
100…通信ネットワーク、200…カメラ、201…制御部、204…撮像部、207…通信部、300…サーバ、301…制御部、304…画像処理部、305…通信部、307…画像判定部
図1
図2
図3
図4
図5
図6
図7
図8
図9
図10