特許第6444198号(P6444198)IP Force 特許公報掲載プロジェクト 2022.1.31 β版

知財求人 - 知財ポータルサイト「IP Force」

▶ キヤノン株式会社の特許一覧

<>
  • 特許6444198-画像処理装置及び画像処理方法 図000004
  • 特許6444198-画像処理装置及び画像処理方法 図000005
  • 特許6444198-画像処理装置及び画像処理方法 図000006
  • 特許6444198-画像処理装置及び画像処理方法 図000007
  • 特許6444198-画像処理装置及び画像処理方法 図000008
  • 特許6444198-画像処理装置及び画像処理方法 図000009
  • 特許6444198-画像処理装置及び画像処理方法 図000010
  • 特許6444198-画像処理装置及び画像処理方法 図000011
  • 特許6444198-画像処理装置及び画像処理方法 図000012
  • 特許6444198-画像処理装置及び画像処理方法 図000013
  • 特許6444198-画像処理装置及び画像処理方法 図000014
  • 特許6444198-画像処理装置及び画像処理方法 図000015
  • 特許6444198-画像処理装置及び画像処理方法 図000016
  • 特許6444198-画像処理装置及び画像処理方法 図000017
< >
(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】6444198
(24)【登録日】2018年12月7日
(45)【発行日】2018年12月26日
(54)【発明の名称】画像処理装置及び画像処理方法
(51)【国際特許分類】
   H04N 5/232 20060101AFI20181217BHJP
【FI】
   H04N5/232 290
   H04N5/232 300
【請求項の数】15
【全頁数】20
(21)【出願番号】特願2015-23624(P2015-23624)
(22)【出願日】2015年2月9日
(65)【公開番号】特開2016-146607(P2016-146607A)
(43)【公開日】2016年8月12日
【審査請求日】2018年1月16日
(73)【特許権者】
【識別番号】000001007
【氏名又は名称】キヤノン株式会社
(74)【代理人】
【識別番号】100126240
【弁理士】
【氏名又は名称】阿部 琢磨
(74)【代理人】
【識別番号】100124442
【弁理士】
【氏名又は名称】黒岩 創吾
(72)【発明者】
【氏名】森 智和
【審査官】 大西 宏
(56)【参考文献】
【文献】 特開2014−014071(JP,A)
【文献】 特開2014−135680(JP,A)
【文献】 特開2014−016687(JP,A)
【文献】 特開2015−015633(JP,A)
【文献】 米国特許出願公開第2014/0218593(US,A1)
(58)【調査した分野】(Int.Cl.,DB名)
H04N 5/222−5/257
(57)【特許請求の範囲】
【請求項1】
フォーカスが合った奥行き方向の位置であるフォーカス位置を撮影後に変更可能な画像を取得する画像取得手段と、
前記画像を閲覧するユーザに対応する識別情報を取得する情報取得手段と、
前記画像において前記識別情報に対応するユーザの画像が含まれている第1領域を特定する特定手段と、
前記第1領域における前記フォーカス位置が前記ユーザの奥行き方向の位置である第1位置に設定され、かつ前記第1領域以外の第2領域におけるフォーカス位置が前記第1位置とは異なる第2位置に設定されたリフォーカス画像データを生成する生成手段と、
前記生成手段により生成された前記リフォーカス画像データを出力する出力手段と、
を有することを特徴とする画像処理装置。
【請求項2】
前記画像取得手段は、前記フォーカス位置のデフォルト位置を示すデフォルト位置情報をさらに取得し、
前記生成手段は、前記特定手段が特定した前記第1領域における前記フォーカス位置を、前記デフォルト位置から前記ユーザの奥行き方向の位置に変更し、かつ前記第2領域における前記フォーカス位置を、前記第2位置としての前記デフォルト位置に維持することにより前記リフォーカス画像データを生成することを特徴とする、
請求項1に記載の画像処理装置。
【請求項3】
前記生成手段は、前記第2領域においてフォーカスが合っている被写体が含まれる領域における前記フォーカス位置を前記デフォルト位置に維持することを特徴とする、
請求項2に記載の画像処理装置。
【請求項4】
前記生成手段は、前記特定手段が、前記ユーザの画像が含まれている前記第1領域を特定できない場合、前記デフォルト位置を前記フォーカス位置とする前記リフォーカス画像データを生成することを特徴とする、
請求項2又は3に記載の画像処理装置。
【請求項5】
前記情報取得手段は、前記出力手段が、前記フォーカス位置を前記デフォルト位置とした状態の前記画像を前記ユーザの端末へと出力した後に、前記ユーザの端末から、前記第1領域における前記フォーカス位置を前記第1位置に変更する指示を取得し、
前記生成手段は、前記指示に基づいて前記リフォーカス画像データを生成することを特徴とする、
請求項2から4のいずれか1項に記載の画像処理装置。
【請求項6】
前記情報取得手段は、前記画像取得手段が取得した前記画像の全体の前記フォーカス位置を前記デフォルト位置から前記ユーザの位置に変更するか、前記第1領域の前記フォーカス位置を選択的に前記ユーザの位置に変更するかの指示を取得し、
前記生成手段は、当該指示に基づいて前記フォーカス位置が変更された前記リフォーカス画像データを生成することを特徴とする、
請求項2から5のいずれか1項に記載の画像処理装置。
【請求項7】
前記特定手段は、前記ユーザと所定の関係がある被写体の画像が含まれている前記第2領域を特定し、
前記生成手段は、前記特定手段により特定された前記第2領域における前記フォーカス位置が前記ユーザと所定の関係がある被写体の奥行き方向の前記第2位置に設定されたリフォーカス画像データを生成することを特徴とする、
請求項2から6のいずれか1項に記載の画像処理装置。
【請求項8】
フォーカスが合った奥行き方向の位置であるフォーカス位置を撮影後に変更可能な画像を取得する画像取得ステップと、
前記画像を閲覧するユーザに対応する識別情報を取得する情報取得ステップと、
前記画像において前記識別情報に対応するユーザの画像が含まれている第1領域を特定する特定ステップと、
特定した前記第1領域における前記フォーカス位置が前記ユーザの奥行き方向の位置である第1位置に設定され、かつ前記第1領域以外の第2領域におけるフォーカス位置が前記第1位置とは異なる第2位置に設定されたリフォーカス画像データを生成する生成ステップと、
生成された前記リフォーカス画像データを出力する第1出力ステップと、
を有することを特徴とする画像処理方法。
【請求項9】
前記情報取得ステップにおいて、前記フォーカス位置のデフォルト位置を示すデフォルト位置情報をさらに取得し、
前記生成ステップにおいて、前記第1領域における前記フォーカス位置を、前記デフォルト位置から前記ユーザの奥行き方向の位置に変更し、かつ前記第2領域における前記フォーカス位置を、前記第2位置としての前記デフォルト位置に維持することにより前記リフォーカス画像データを生成することを特徴とする、
請求項8に記載の画像処理方法。
【請求項10】
前記生成ステップにおいて、前記第2領域においてフォーカスが合っている被写体が含まれる領域における前記フォーカス位置を前記デフォルト位置に維持することを特徴とする、
請求項9に記載の画像処理方法。
【請求項11】
前記特定ステップにおいて、前記ユーザの画像が含まれている前記第1領域を特定できない場合、前記生成ステップにおいて、前記デフォルト位置を前記フォーカス位置とする前記リフォーカス画像データを生成することを特徴とする、
請求項9又は10に記載の画像処理方法。
【請求項12】
前記フォーカス位置を前記デフォルト位置とした状態の前記画像を前記ユーザの端末へと出力する第2出力ステップと、
前記第2出力ステップの後に、前記ユーザの端末から、前記第1領域における前記フォーカス位置を前記第1位置に変更する指示を取得する第1指示取得ステップと、
を有し、
前記生成ステップにおいて、前記指示に基づいて前記リフォーカス画像データを生成することを特徴とする、
請求項9から11のいずれか1項に記載の画像処理方法。
【請求項13】
前記画像取得ステップにおいて取得した前記画像の全体の前記フォーカス位置を前記デフォルト位置から前記ユーザの位置に変更するか、前記第1領域の前記フォーカス位置を選択的に前記ユーザの位置に変更するかの指示を取得する第2指示取得ステップと、
前記生成するステップにおいて、前記第2指示取得ステップにおいて取得した指示に基づいて前記フォーカス位置が変更された前記リフォーカス画像データを生成することを特徴とする、
請求項9から12のいずれか1項に記載の画像処理方法。
【請求項14】
前記特定するステップにおいて、前記ユーザと所定の関係がある被写体の画像が含まれている前記第2領域を特定し、
前記生成するステップにおいて、前記特定するステップにおいて特定された前記第2領域における前記フォーカス位置が前記ユーザと所定の関係がある被写体の奥行き方向の前記第2位置に設定されたリフォーカス画像データを生成することを特徴とする、
請求項8から13のいずれか1項に記載の画像処理方法。
【請求項15】
コンピュータに、
フォーカスが合った奥行き方向の位置であるフォーカス位置を撮影後に変更可能な画像を取得する画像取得ステップと、
前記画像を閲覧するユーザに対応する識別情報を取得する情報取得ステップと、
前記画像において前記識別情報に対応するユーザの画像が含まれている第1領域を特定する特定ステップと、
特定した前記第1領域における前記フォーカス位置が前記ユーザの奥行き方向の位置である第1位置に設定され、かつ前記第1領域以外の第2領域におけるフォーカス位置が前記第1位置とは異なる第2位置に設定されたリフォーカス画像データを生成する生成ステップと、
生成された前記リフォーカス画像データを出力する第1出力ステップと、
を実行させることを特徴とする画像処理用プログラム。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、フォーカスが合っている位置を撮影後に変更可能な画像データを処理するための画像処理装置及び画像処理方法に関するものである。
【背景技術】
【0002】
近年、ライトフィールド(以下、「LF」と略記する)カメラと呼ばれる撮像装置が実用化されている。この撮像装置は、イメージセンサ上にマイクロレンズアレイが配置され、撮像装置に入射した光をマイクロレンズによって分割することにより、複数の方向から到来する光線の強度を示す光線情報及び入射方向を示す方向情報を含むLF画像データを生成する。特許文献1には、光線情報及び方向情報に基づく演算処理をすることにより、LF画像を閲覧する人にフォーカスが合ったリフォーカス画像を表示する方法が開示されている。
【先行技術文献】
【特許文献】
【0003】
【特許文献1】特開2014−135680号公報
【発明の概要】
【発明が解決しようとする課題】
【0004】
従来の方法を用いることにより、例えばSNS(Social Network Service)において表示されているLF画像に、画像を閲覧するユーザが写っている場合、ユーザにフォーカスが合ったリフォーカス画像を表示することができる。しかしながら、このような場合、画像を閲覧するユーザ以外の人にフォーカスが合っていない状態になってしまう。したがって、例えば、ユーザが友達と写っている写真の場合、ユーザとしては、自分自身だけではなく、親しい友達にもフォーカスが合った状態の画像を閲覧したいにもかかわらず、友達にフォーカスが合っていない状態の画像が表示されてしまう場合があるという問題があった。
【0005】
そこで、本発明は上述した点に鑑みてなされたものであり、画像を閲覧するユーザと、当該ユーザ以外の被写体とにフォーカスが合った画像を閲覧できるようにすることを目的とする。
【課題を解決するための手段】
【0006】
上記の課題を解決するために、本発明の画像処理装置は、フォーカスが合った奥行き方向の位置であるフォーカス位置を撮影後に変更可能な画像を取得する画像取得手段と、前記画像を閲覧するユーザに対応する識別情報を取得する情報取得手段と、前記画像において前記識別情報に対応するユーザの画像が含まれている第1領域を特定する特定手段と、前記第1領域における前記フォーカス位置が前記ユーザの奥行き方向の位置である第1位置に設定され、かつ前記第1領域以外の第2領域におけるフォーカス位置が前記第1位置とは異なる第2位置に設定されたリフォーカス画像データを生成する生成手段と、前記生成手段により生成されたリフォーカス画像データを出力する出力手段と、を有することを特徴とする。
【発明の効果】
【0007】
本発明によれば、画像を閲覧するユーザと、当該ユーザ以外の被写体とにフォーカスが合った画像を閲覧できるという効果を奏する。
【図面の簡単な説明】
【0008】
図1】LFカメラとしての撮像装置10の構成の模式図である。
図2】マイクロレンズアレイ12とイメージセンサ13の各画素との位置関係を示す模式図である。
図3】マイクロレンズアレイ12のマイクロレンズへの入射光線の進行方向と、イメージセンサ13の記録領域との関係を説明するための模式図である。
図4】イメージセンサ13に入射する光線の情報について説明するための模式図である。
図5】リフォーカス演算処理を説明するための模式図である。
図6】マイクロレンズへの入射角の違いと、イメージセンサ13の記録領域との関係を説明する模式図である。
図7】被写界深度の調整処理を説明するための模式図である。
図8】第1の実施形態に係る情報共有システム1の構成を示す図である。
図9】第1の実施形態に係る画像処理装置100の構成を示す図である。
図10】ユーザ端末300の構成を示す図である。
図11】ユーザ端末300及び画像処理装置100の動作手順を示すフローチャートである。
図12】ユーザ端末300において再生される画像の例を示す図である。
図13】第2の実施形態に係るユーザ端末400の構成を示す図である。
図14】第2の実施形態に係るユーザ端末300における動作手順を示すフローチャートである。
【発明を実施するための形態】
【0009】
[LFカメラの概要]
本実施形態に係る画像処理装置の説明に先立ち、LFカメラの概要について説明する。
図1は、LFカメラとしての撮像装置10の構成の模式図である。撮像装置10は、撮像レンズ11と、マイクロレンズアレイ12と、イメージセンサ13とを有する。被写体からの光は、撮像光学系を構成する撮像レンズ11及びマイクロレンズアレイ12を通過した後に、イメージセンサ13に入射する。イメージセンサ13は、入射した光を電気信号に変換して、変換後の電気信号を出力する。撮像装置10は、イメージセンサ13が出力する電気信号に基づいて、フォーカスが合った位置であるフォーカス位置を変更可能なLF画像データを生成する。
【0010】
撮像レンズ11は、被写体からの光をマイクロレンズアレイ12に投射する。撮像レンズ11は、撮像装置10の本体部に装着して使用される、交換可能なレンズである。撮像装置10のユーザは、撮像レンズ11のズーム操作により撮像倍率を変更することができる。
【0011】
マイクロレンズアレイ12は、格子状に配列された複数の微小レンズ(マイクロレンズ)を有しており、撮像レンズ11とイメージセンサ13の間に位置する。マイクロレンズアレイ12が有する各マイクロレンズは、撮像レンズ11からの入射光を分割し、分割後の複数の光をイメージセンサ13の複数の画素に入射する。
【0012】
イメージセンサ13は、複数の画素を有する撮像素子であり、各画素において光の強度を検出する。被写体からの光を受光するイメージセンサ13の各画素には、各画素に対応するマイクロレンズによって分割された、夫々異なる方向の光が入射する。
【0013】
図2は、マイクロレンズアレイ12とイメージセンサ13の各画素との位置関係を示す模式図である。マイクロレンズアレイ12の各マイクロレンズは、イメージセンサ13における複数の画素に対応するように配置される。イメージセンサ13の各画素には、各画素に対応するマイクロレンズが分割した光が入射し、イメージセンサ13は、画素ごとに異なる方向からの光の強度を検出する。撮像装置10は、イメージセンサ13の各画素において検出された光の強度を示す光線情報を生成する。
【0014】
マイクロレンズを介してイメージセンサ13の各画素に入射した光線の入射方向は、各マイクロレンズに対応する複数の画素の配置によって決まる。したがって、入射方向は、各マイクロレンズとイメージセンサ13の各画素との位置関係に応じて特定され、撮像装置10は、特定した入射方向を示す方向情報として、例えば、画素を特定するための座標情報を生成する。
【0015】
被写体からの光は、被写体と撮像レンズ11との間の距離に応じて定まる方向でマイクロレンズアレイ12に入射する。そして、被写体からの光は、被写体と撮像レンズ11との間の距離に応じて定まる複数のマイクロレンズを通過して、イメージセンサ13に入射する。その結果、マイクロレンズアレイ12のレンズ頂点面からの距離が異なる面にフォーカスが合った像は、各マイクロレンズの光軸からの偏心量に対応した位置にあるイメージセンサ13の複数の画素の各出力を合成することで得られる。したがって、撮像装置10は、光線情報と方向情報に基づいて光線の並べ替えと計算処理(以下、再構築という)を行うことにより、任意のフォーカス位置に対応する画像データを生成できる。ここで、フォーカス位置は、フォーカスが合った位置であり、ユーザは、撮影後に、LF画像データに基づいて、所望のフォーカス位置に対応するリフォーカス画像データを得ることができる。
【0016】
図3は、マイクロレンズアレイ12のマイクロレンズへの入射光線の進行方向と、イメージセンサ13の記録領域との関係を説明するための模式図である。
撮像レンズ11による被写体の像は、マイクロレンズアレイ12上に結像し、マイクロレンズアレイ12への入射光線はマイクロレンズアレイ12を介してイメージセンサ13で受光される。このとき、図3に示すように、マイクロレンズアレイ12への入射光線は、フォーカス位置ごとに定まる進行方向に応じてイメージセンサ13上の異なる位置で受光され、被写体の像がマイクロレンズごとに結像する。
【0017】
図4は、イメージセンサ13に入射する光線の情報について説明するための模式図である。
イメージセンサ13で受光される光線について図4を用いて説明する。ここで、撮像レンズ11のレンズ面上における直交座標系を(u,v)とし、イメージセンサ13の撮像面上における直交座標系(x,y)とする。さらに、撮像レンズ11のレンズ面とイメージセンサ13の撮像面との距離をFとする。この場合、撮像レンズ11およびイメージセンサ13を通る光線の強度は、図中で示す4次元関数L(u,v,x,y)で表すことができる。各マイクロレンズに入射する光線は、進行方向に応じて異なる画素に入射されることから、イメージセンサ13では、光線の位置情報に加えて、光線の進行方向を保持する上記の4次元関数L(u,v,x,y)で表される光線の強度に対応する情報が記録される。
【0018】
次に、撮像後のリフォーカス演算処理について説明する。リフォーカス演算処理は、異なるフォーカス位置に対応する画素で受光した光の強度に基づいて、画像を再構築することによりリフォーカス画像データを生成する処理である。本明細書において、リフォーカス画像においてフォーカスが合っている位置の面を、リフォーカス面という。
【0019】
図5は、リフォーカス演算処理を説明するための模式図である。
図5に示すように、撮像レンズ面、撮像面、リフォーカス面の位置関係を設定した場合、リフォーカス面上の直交座標系(s,t)における光線の強度L’(u,v,s,t)は、以下の(1)式のように表される。
【数1】
また、リフォーカス面で得られるイメージE’(s,t)は、上記強度L’(u,v,s,t)をレンズ口径に関して積分したものとなるので、以下の(2)式のように表される。
【数2】
したがって、この(2)式に基づいてリフォーカス演算処理を行うことで、任意のフォーカス位置におけるリフォーカス面に対応する画像データを再構築することができる。
【0020】
続いて、撮像後の被写界深度の調整処理、すなわち奥行き方向のフォーカス位置の調整処理について説明する。被写界深度を調整する場合、上記のリフォーカス演算処理の前に、各マイクロレンズに割り当てられた画像領域を形成する画像データごとに重み係数を乗じて重み付けを行う。例えば、被写界深度の深い画像を生成する場合には、イメージセンサ13の受光面に対して相対的に小さな角度で入射する光線の情報のみを用いて積分処理を行う。言い換えると、イメージセンサ13への入射角が相対的に大きい光線に関しては、重み係数0(ゼロ)を乗じることにより積分処理に含めない。
【0021】
図6は、マイクロレンズへの入射角の違いと、イメージセンサ13の記録領域との関係を説明する模式図であり、図7は、被写界深度の調整処理を説明するための模式図である。
図6に示すように、イメージセンサ13への入射角が相対的に小さい光線は、より中央の領域に位置することになる。したがって、被写界深度の深い画像を生成する場合には、図7に示すように、領域の中央部(図中の斜線部)で取得された画素データのみを用いて積分処理が行われる。
【0022】
このような処理を行うことで、撮像装置10は、一般的な撮像装置などに具備される開口絞りをあたかも絞ったかのように、被写界深度の深い画像を表現することができる。撮像装置10は、使用する中央部の画素データを更に少なくすることで、被写界深度のより深いパンフォーカス画像データの生成も可能となる。また、撮像装置10は、LF画像データの領域ごとに、使用する画素データの位置を変えることにより、領域ごとに異なる被写界深度に調整することもできる。以上のように、撮像装置10は、LF画像データに含まれる各画素の重み係数を含むフォーカス情報、並びに光線情報及び方向情報に基づいて、撮影後に画像の被写界深度を調整し、所望のフォーカス位置に設定することができる。
以下、LF画像データを処理する画像処理装置及び画像処理方法の実施形態について説明する。
【0023】
<第1の実施形態>
[情報共有システム1の構成]
図8は、第1の実施形態に係る情報共有システム1の構成を示す図である。情報共有システム1は、例えばSNSであり、画像処理装置100と、データベース200と、複数のユーザ端末300とを含んで構成されている。画像処理装置100は、情報共有システム1におけるクラウド上のサーバ装置として機能し、データベース200に格納されたLF画像データを、インターネット及び携帯電話網等の通信回線を介して接続されたユーザ端末300に提供する。LF画像データには、各画素の画素値及びデフォルトのフォーカス位置に対応するデフォルトフォーカス情報が含まれている。情報共有システム1においては、画像処理装置100を介して提供されるLF画像データに基づく画像を、複数のユーザ端末300のユーザが共有して閲覧することができる。
【0024】
画像処理装置100は、ユーザ端末300からの要求に応じて、LF画像データのフォーカス位置を変更したリフォーカス画像データを生成することができる。リフォーカス画像データには、デフォルトフォーカス情報が示すデフォルトのフォーカス位置から他の位置にフォーカス位置を変更した後の、各画素の重み係数を示すフォーカス情報が含まれている。画像処理装置100は、LF画像データに含まれる複数の画像領域の夫々のフォーカス位置を、奥行き方向における異なる位置に設定することができる。
【0025】
画像処理装置100は、フォーカス位置の設定方法が異なる複数のモードに対応している。画像処理装置100は、第1モードにおいて、全領域のフォーカス位置が、LF画像データにアクセスするユーザ端末300のユーザの位置に設定されたリフォーカス画像データを生成する。また、画像処理装置100は、第2モードにおいて、LF画像データにアクセスするユーザ端末300のユーザが含まれている領域のフォーカス位置が、当該ユーザの奥行き方向の位置に設定され、当該ユーザ以外の被写体が写っている領域のフォーカス位置が、当該被写体の奥行き方向の位置に設定されたリフォーカス画像データを生成する。このようにすることで、画像処理装置100は、ユーザが、自分自身だけでなく、友達等の他の被写体にフォーカスが合ったリフォーカス画像を閲覧することが可能になる。
以下、画像処理装置100の構成の詳細について説明する。
【0026】
[画像処理装置100の構成]
図9は、第1の実施形態に係る画像処理装置100の構成を示す図である。画像処理装置100は、ユーザ端末300からの要求に応じて、データベース200に格納されたLF画像データを読み出して、読み出したLF画像データをユーザ端末300に提供する。また、画像処理装置100は、ユーザ端末300からの要求に応じて、ユーザ端末300に提供するLF画像データのフォーカス位置を変更する。
【0027】
画像処理装置100は、通信部110と、記憶部120と、制御部130とを有する。
通信部110は、データベース200及びユーザ端末300との間でLF画像データ及び各種情報を送受信するための通信インターフェイスである。通信部110は、後述の画像生成部135において生成されたリフォーカス画像データを、ユーザ端末300に出力する。
【0028】
記憶部120は、不揮発性メモリ(例えばROM)を含んでおり、制御部130が実行する画像処理用プログラムを記憶している。記憶部120は、揮発性メモリ(例えばRAM)を含んでおり、制御部130が画像処理用プログラムを実行することにより生成される各種データを一時的に記憶する。また、記憶部120は、ユーザ端末300のユーザの識別情報に関連付けられた顔画像データを記憶する。
【0029】
制御部130は、例えばCPUであり、記憶部120に記憶された画像処理用プログラムを実行することにより、画像処理装置100の各部を制御する。制御部130は、画像取得部131、情報取得部132、特定部133、フォーカス位置決定部134及び画像生成部135として機能する。以下、制御部130により提供される各機能部の構成について説明する。
【0030】
画像取得部131は、通信部110を介して、フォーカス位置を撮影後に変更可能なLF画像データをデータベース200から取得する。LF画像データには、デフォルトのフォーカス位置を示すデフォルトフォーカス情報が含まれている。デフォルトフォーカス情報は、例えば、リフォーカス画像データの生成に用いられる、LF画像データを構成する各画素の重み係数である。なお、デフォルトフォーカス情報がLF画像データに含まれていない場合、画像取得部131は、LF画像データとは別にデフォルトフォーカス情報を取得してもよい。
【0031】
画像取得部131は、取得したLF画像データを記憶部120に記憶させる。画像取得部131は、取得したLF画像データを特定部133に出力する。また、画像取得部131は、LF画像データから抽出したデフォルトフォーカス情報を画像生成部135に出力する。
【0032】
情報取得部132は、通信部110を介して、ユーザ端末300のユーザが選択したLF画像データを特定するための画像特定情報と、LF画像を閲覧するユーザに対応するユーザ識別情報とをユーザ端末300から取得する。情報取得部132は、取得したユーザ識別情報を特定部133に出力する。ユーザ識別情報は、例えばSNSのユーザIDのように、ユーザ端末300を操作しているユーザを識別するための情報である。ユーザは、SNSにログインする際にユーザIDを入力することにより、LF画像データにアクセスできるようになる。ユーザ端末300は、ユーザにより入力されたユーザ識別情報を画像処理装置100に送信することにより、画像処理装置100を介して、データベース200に格納されているLF画像データにアクセスして閲覧することができる。
【0033】
情報取得部132は、データベース200から、ユーザ識別情報に対応するユーザプロファイル情報を取得する。ユーザプロファイル情報には、例えばユーザの顔画像データが含まれている。情報取得部132は、ユーザプロファイル情報に含まれている顔画像データを抽出し、抽出した顔画像データを特定部133に出力する。なお、ユーザプロファイル情報が記憶部120に記憶されている場合、情報取得部132は、ユーザプロファイル情報を記憶部120から取得してもよい。
【0034】
また、情報取得部132は、画像取得部131が取得したLF画像データの全体のフォーカス位置をデフォルト位置からユーザの位置に変更するか、ユーザの画像が含まれる領域のフォーカス位置を選択的にユーザの位置に変更するかの指示を取得する。すなわち、情報取得部132は、第1モードでリフォーカス画像データを生成するか、第2モードでリフォーカス画像データを生成するかの指示を取得する。
【0035】
特定部133は、情報取得部132から入力された顔画像データに基づいて、LF画像データにおいて、ユーザ識別情報に対応するユーザの顔画像データが含まれている領域(すなわち、ユーザが被写体として写っている領域)を特定する。具体的には、特定部133は、ユーザが選択したLF画像データにおいて、情報取得部132から取得した顔画像データと類似する画像データを含む領域を特定する。特定部133は、特定した領域をフォーカス位置決定部134に通知する。なお、特定部133は、LF画像データにユーザの顔画像データと類似する画像データを含む領域が存在しない場合、ユーザの画像が含まれていない旨をフォーカス位置決定部134に通知する。
【0036】
特定部133は、ユーザ識別情報に対応するユーザの画像が含まれている領域(以下、「第1領域」ともいう)を特定するとともに、当該ユーザと所定の関係がある被写体の画像が含まれている領域(以下、「第2領域」ともいう)をさらに特定してもよい。例えば、記憶部120に、ユーザの友達又は家族として登録されている人の顔画像が記憶されている場合、特定部133は、ユーザの友達又は家族として登録されている人の顔画像が含まれている第2領域を特定する。
【0037】
フォーカス位置決定部134は、特定部133が特定した領域におけるフォーカス位置を決定する。フォーカス位置決定部134は、第1モードにおいて、全領域のフォーカス位置を、特定部133が特定した領域に含まれるユーザの奥行き方向の位置に決定する。また、フォーカス位置決定部134は、第2モードにおいて、特定部133が特定した第1領域のフォーカス位置を、第1領域に含まれるユーザの奥行き方向の位置(第1位置)に決定し、第1領域以外の第2領域におけるフォーカス位置を、所定の被写体の奥行き方向の位置(第2位置)に決定する。フォーカス位置決定部134は、例えば、光線情報に基づいて、フォーカス位置を決定する対象となる領域に対応する各画素における光の強度が最も強くなるように、フォーカス位置を決定する。
【0038】
フォーカス位置決定部134は、例えばデフォルトのフォーカス位置を第2位置に決定する。フォーカス位置決定部134は、第1位置に写っているユーザの友達及び家族等の、ユーザと所定の関係がある人が写っている位置を第2位置に決定してもよい。
【0039】
フォーカス位置決定部134は、決定したフォーカス位置を画像生成部135に通知する。フォーカス位置決定部134は、第2モードにおいて、夫々の領域に対応するフォーカス位置を画像生成部135に通知する。なお、フォーカス位置決定部134は、特定部133から、LF画像データにユーザの画像に対応する画像データが含まれていない旨を通知された場合、デフォルトフォーカス情報が示すデフォルトフォーカス位置を画像生成部135に通知する。
【0040】
画像生成部135は、フォーカス位置決定部134が決定したフォーカス位置に対応するリフォーカス画像データを生成する。具体的には、画像生成部135は、フォーカス位置決定部134が決定したフォーカス位置に対応する被写界深度の画像を再構築するために必要な、各画素の重み係数、並びに各画素の光線情報及び方向情報を含むフォーカス情報を生成する。画像生成部135は、デフォルトフォーカス情報の代わりに、生成したフォーカス情報を含むリフォーカス画像データを生成する。
【0041】
例えば、LF画像データのデフォルトのフォーカス位置が、画像を閲覧するユーザ以外の被写体にフォーカスが合った第2位置であることを示しており、フォーカス位置が第2位置の状態では画像を閲覧するユーザの顔にフォーカスが合っていないものとする。画像生成部135は、情報取得部132が取得した指示が第1モードでの動作を示している場合、デフォルトのフォーカス位置から、フォーカス位置決定部134が決定した、ユーザの顔にフォーカスが合う第1位置にフォーカス位置を変更し、変更後のフォーカス位置に対応するフォーカス情報を含むリフォーカス画像データを生成する。
【0042】
画像生成部135は、情報取得部132が取得した指示が第2モードでの動作を示している場合、ユーザの顔が含まれている第1領域におけるフォーカス位置が、ユーザの顔にフォーカスが合う第1位置に設定され、かつ、第2領域におけるフォーカス位置が第2位置に設定されたリフォーカス画像データを生成する。例えば、画像生成部135は、第1領域におけるフォーカス位置が、デフォルト位置からユーザの奥行き方向の位置に変更され、かつ第2領域におけるフォーカス位置が、デフォルト位置に維持された状態に対応するフォーカス情報を含むリフォーカス画像データを生成する。
【0043】
第2モードにおいて画像生成部135が生成するリフォーカス画像データの第2領域におけるフォーカス位置が、どの被写体の位置に設定されるかは任意である。画像生成部135は、例えば、画像を閲覧するユーザと所定の関係がある被写体が含まれる第2領域において、当該被写体の奥行き方向の位置にフォーカス位置が設定されたリフォーカス画像データを生成する。画像生成部135は、例えば、ユーザにフォーカスが合っているとともに、画像を閲覧するユーザの友達として登録され、記憶部120に顔画像データが登録されている人の位置にもフォーカスが合ったリフォーカス画像データを生成する。
【0044】
画像生成部135は、特定部133が、ユーザの画像が含まれている領域を特定できず、LF画像データにユーザの画像に対応する画像データが含まれていないと判定し、フォーカス位置決定部134が、デフォルトフォーカス位置をフォーカス位置に決定した場合、デフォルト位置をフォーカス位置とするリフォーカス画像データを生成する。すなわち、この場合、画像生成部135は、ユーザ端末300のユーザにフォーカスが合っていない、デフォルト状態のLF画像データと同一のリフォーカス画像データを生成する。
【0045】
画像生成部135は、生成したリフォーカス画像データを、通信部110を介してユーザ端末300に送信する。画像生成部135は、生成したリフォーカス画像データにおけるフォーカス位置がデフォルト位置に維持されている場合、画像ファイルを送信することなく、フォーカス位置を変更しなかった旨の情報をユーザ端末300に送信してもよい。
【0046】
[ユーザ端末300の構成]
続いて、ユーザ端末300の構成について説明する。
図10は、ユーザ端末300の構成を示す図である。ユーザ端末300は、通信部310と、操作部320と、表示部330と、記憶部340と、制御部350とを有する。
【0047】
通信部310は、画像処理装置100にユーザ識別情報を送信したり、画像処理装置100からLF画像データを受信したりするための通信インターフェイスである。
操作部320は、ユーザがユーザ識別情報を入力したり、再生するLF画像データを指定するための情報を入力したりするためのユーザインターフェイスであり、例えば、表示部330に重ねて設けられたタッチパネルである。
【0048】
表示部330は、画像処理装置100から送信されたLF画像データ又はリフォーカス画像データに基づく画像を表示するためのディスプレイである。
記憶部340は、ROM及びRAMを含んでおり、制御部350が実行するプログラムを記憶している。また、記憶部340は、ユーザ端末300のユーザのユーザ識別情報を記憶している。制御部350は、記憶部340に記憶されたプログラムを実行することにより、ユーザ端末300の各部を制御し、再生制御部351、画像取得部352、現像部353及び表示制御部354として機能する。
【0049】
再生制御部351は、操作部320を介してユーザが入力した、再生を希望するLF画像データを選択するための再生画像選択情報を、操作部320から取得する。再生制御部351は、例えば、ユーザ識別情報の入力エリア、再生画像選択ボタン及び再生開始ボタンを含む操作画面を、後述の表示制御部354を介して表示部330に表示する。
【0050】
再生制御部351は、再生画像選択ボタンを押したユーザにより入力された、LF画像データを特定するための画像特定情報(例えば、画像ファイル番号)、及びユーザが再生開始指示ボタンを押したことを示す再生開始指示情報を取得する。再生制御部351は、再生開始指示情報を取得したことに応じて、記憶部340に記憶されているユーザ識別情報を読み出し、読み出したユーザ識別情報と画像特定情報とを、通信部310を介して画像処理装置100に送信する。なお、ユーザ識別情報が記憶部340に記憶されていない場合、再生制御部351は、操作部320において入力されたユーザ識別情報を画像処理装置100に送信してもよい。
【0051】
画像取得部352は、通信部310を介して、画像処理装置100から送信されるLF画像データ又はリフォーカス画像データを受信する。画像取得部352は、受信したLF画像データ又はリフォーカス画像データを現像部353に出力する。
【0052】
現像部353は、画像取得部352から入力されたLF画像データ又はリフォーカス画像データとフォーカス情報とに基づいて、画像を再構築する現像処理を行う。具体的には、現像部353は、フォーカス情報が示すフォーカス位置にフォーカスが合った画像を生成する。現像部353は、生成した画像を表示制御部354に出力する。
表示制御部354は、現像部353により生成された現像後の画像を表示部330に表示させる。
【0053】
[情報共有システム1における動作手順を示すフローチャート]
図11は、ユーザ端末300及び画像処理装置100の動作手順を示すフローチャートである。図11は、第2モードにおける動作手順を示している。
まず、ユーザ端末300においては、再生制御部351が、ユーザが再生開始ボタンを押したことを検出すると、ユーザにより選択されたLF画像データを特定するための画像特定情報を含む、LF画像再生指示を画像処理装置100に送信する(S101)。画像処理装置100においては、情報取得部132が、ユーザ端末300から画像特定情報を含むLF画像再生指示を受信すると、画像取得部131が、受信された画像特定情報に対応するLF画像データをデータベース200から取得する(S102)。
【0054】
続いて、ユーザ端末300においては、再生制御部351が、記憶部340から読み出したユーザ識別情報を画像処理装置100に送信する(S103)。画像処理装置100においては、情報取得部132が、ユーザ識別情報を受信し(S104)、ユーザ識別情報に対応するユーザプロファイル情報をデータベース200から取得する(S105)。続いて、情報取得部132は、ユーザプロファイル情報から、ユーザの顔画像データを抽出する(S106)。
【0055】
続いて、特定部133は、S102において取得されたLF画像データに、S106において抽出された顔画像データと類似する画像データを含む領域が存在するか否かを判定する(S107)。特定部133が、顔画像データと類似する画像データを含む領域が存在すると判定した場合(S107においてYes)、フォーカス位置決定部134は、顔画像データと類似する画像データを含む領域のフォーカス位置を、顔画像データに対応するユーザの奥行き方向の位置に変更し、その他の領域のフォーカス位置を変更しないで維持する(S108)。S107において、特定部133が、顔画像データと類似するデータを含む領域が存在しないと判定した場合(S107においてNo)、フォーカス位置決定部134は、デフォルトフォーカス位置を変更しない状態で維持する(S109)。
【0056】
続いて、画像生成部135は、S108又はS109において決定されたフォーカス位置に対応するフォーカス情報を含むリフォーカス画像データを生成し(S110)、通信部110を介してユーザ端末300に送信する(S111)。
【0057】
ユーザ端末300は、画像処理装置100から送信されたリフォーカス画像データを受信すると(S112)、現像部353において、受信したリフォーカス画像データを現像する(S113)。続いて、表示制御部354が、現像部353が現像したリフォーカス画像データに基づく画像を表示部330に表示させる(S114)。以上の手順により、ユーザ端末300のユーザは、ユーザ自身とその他の被写体とにフォーカスが合った画像を閲覧することができる。
【0058】
図12は、ユーザ端末300において再生される画像の例を示す図である。図12(a)は、データベース200に格納されているLF画像データが、初期のデフォルトフォーカス情報に基づいて再生された場合の画像を示している。図12(a)に示す画像においては、「B氏」にフォーカスが合っておらず、隣に写っている「A氏」にフォーカスが合っている。
【0059】
図12(b)は、「B氏」のユーザ端末300において第1モードで再生されたリフォーカス画像を示している。図12(b)に示す画像においては、デフォルトフォーカス情報が示す初期のフォーカス位置から、「B氏」にフォーカスが合う位置にフォーカス位置が変更されており、「B氏」にフォーカスが合っている。図12(c)は、「B氏」のユーザ端末300において第2モードで再生されたリフォーカス画像を示している。図12(c)に示す画像においては、「A氏」が写っている領域においては「A氏」にフォーカスが合った状態になっており、「B氏」が写っている領域においては「B氏」にフォーカスが合った状態になっている。
【0060】
図12(d)は、「A氏」のユーザ端末300において再生された場合のリフォーカス画像を示している。図12(d)に示す画像においては、デフォルトフォーカス情報が示すフォーカス位置が初期の状態から変更されておらず、「A氏」にフォーカスが合っている。
【0061】
図12(e)は、「A氏」及び「B氏」と異なる「C氏」のユーザ端末300において再生された場合のLF画像を示している。図12(a)に示すLF画像にはユーザ端末300のユーザである「C氏」の画像が含まれていないので、「C氏」のユーザ端末300でリフォーカス画像を再生する場合には、デフォルトフォーカス情報が変更されない。その結果、図12(e)に示す画像においては、「A氏」にフォーカスが合ったデフォルト状態が維持されている。
【0062】
(変形例)
上記の説明においては、ユーザがLF画像データの再生を指示したことに応じて、画像処理装置100が、ユーザにフォーカスが合ったリフォーカス画像データを自動的に生成し、ユーザ端末300には、ユーザにフォーカスが合ったリフォーカス画像が表示される場合について説明した。画像処理装置100は、ユーザ端末300からLF画像の再生指示を受けると、ユーザにフォーカスが合ったリフォーカス画像データを生成する前に、ユーザの確認用として、データベース200から取得したLF画像データに含まれるデフォルトフォーカス情報が示すデフォルトのフォーカス位置を維持した状態のLF画像データをユーザ端末300に送信してもよい。
【0063】
この場合、ユーザ端末300は、デフォルトのフォーカス位置に設定されたLF画像データに基づく画像と、フォーカス位置の変更をする指示を取得するための画像とを表示する。ユーザ端末300は、ユーザ端末300のユーザから、フォーカス位置を変更する指示を取得したことに応じて、フォーカス位置を変更する指示を画像処理装置100に送信する。情報取得部132が、フォーカス位置を変更する指示を取得すると、図11に示したフローチャートのS103以降の処理を実行することにより、ユーザは、自身にフォーカスが合ったLF画像を閲覧することが可能になる。このような処理手順にすることにより、ユーザが、自身にフォーカスが合った画像を閲覧したいと思った場合にのみフォーカス位置を変更する処理を実行することができる。したがって、ユーザ端末300に画像が表示されるまでの時間を短縮できるので、大量のLF画像データがある場合に好適である。
【0064】
また、ユーザ端末300においては、ユーザの指示に応じて、ユーザにフォーカスが合ったLF画像を再生するモードと、ユーザにフォーカスが合ったLF画像を自動的に再生するモードとを選択できるようにしてもよい。このようにすることで、オリジナルの画像を見たいという嗜好を持つユーザにも、自分自身にフォーカスが合った画像を見たいという嗜好を持つユーザにも好適なシステムを提供することが可能になる。
【0065】
[第1の実施形態における効果]
以上説明したように、第1の実施形態に係る情報共有システム1においては、LF画像の再生の指示が行われたユーザ端末300のユーザの識別情報が画像処理装置100に送信されると、画像処理装置100が、ユーザ端末300のユーザの画像が含まれる第1領域のフォーカス位置がユーザの位置に設定され、第2領域のフォーカス位置が他の被写体の位置に設定されたリフォーカス画像データを生成する。このようにすることで、ユーザがユーザ端末300においてLF画像を閲覧する際に、ユーザ自身だけでなく他の被写体にもフォーカスが合った画像を閲覧することが可能になる。
【0066】
<第2の実施形態>
第1の実施形態においては、画像処理装置100がフォーカス位置を決定したが、第2の実施形態においては、ユーザ端末400がフォーカス位置を決定する点で第1の実施形態と異なる。ユーザ端末400は、画像処理装置100と通信することなく動作可能な画像処理装置として機能する。
【0067】
図13は、第2の実施形態に係るユーザ端末400の構成を示す図である。ユーザ端末400は、メモリカード等の記録メディアに格納されたLF画像データを読み込んで、読み込んだLF画像データのフォーカス位置を、ユーザ端末400のユーザにフォーカスが合った位置に変更することができる。ユーザ端末400は、ユーザ端末300と同様に、データベース200に格納されたLF画像データを、通信回線を介して画像処理装置100から取得して、取得したLF画像データのフォーカス位置を、ユーザ端末400のユーザにフォーカスが合った位置に変更してもよい。
【0068】
ユーザ端末400は、画像入力部410と、操作部420と、ユーザ検知部430と、表示部440と、記憶部450と、制御部460とを有する。
画像入力部410は、再生対象となるLF画像データを記憶している記憶メディアを接続するためのインターフェイスである。画像入力部410は、例えば、メモリカードインターフェイス又はUSB(Universal Serial Bus)インターフェイスである。
【0069】
ユーザ検知部430は、例えばカメラを含んで構成されており、ユーザ端末400を使用しているユーザの顔画像を撮像することにより、ユーザを検知する。ユーザ検知部430は、撮像により得られた顔画像データをユーザ認識部463に出力する。ユーザ検知部430は、ユーザ識別情報の入力を受けることにより、ユーザを検知してもよい。この場合、ユーザ検知部430は、ユーザ識別情報をユーザ認識部463に出力する。
操作部420、表示部440及び記憶部450は、図10に示したユーザ端末300における操作部320、表示部330及び記憶部340の夫々に対応する。
【0070】
制御部460は、図10に示したユーザ端末300における制御部350に対応し、再生制御部461、画像取得部462、ユーザ認識部463、特定部464、フォーカス位置決定部465、現像部466及び表示制御部467として機能する。
【0071】
再生制御部461は、操作部420を介してユーザが入力した、再生を希望するLF画像データを選択するための再生画像選択情報を、操作部420から取得する。
画像取得部462は、画像入力部410を介して入力されたLF画像データを取得する。
【0072】
ユーザ認識部463は、ユーザ検知部430から入力された情報に基づいて、ユーザを認識する。ユーザ認識部463は、ユーザ検知部430から顔画像データが入力された場合、入力された顔画像データが予め登録された顔画像データと一致するか否かを判定し、予め登録された顔画像データと一致する場合、顔画像データを特定部464に出力する。ユーザ認識部463は、ユーザ検知部430からユーザ識別情報が入力された場合、ユーザ識別情報に対応する顔画像データを記憶部450又は外部装置から取得し、取得した顔画像データを特定部464に出力する。ユーザ認識部463は、ユーザ検知部430から入力された顔画像データ又はユーザ識別情報が、予め登録された顔画像データ又はユーザ識別情報に一致しない場合、表示制御部467を介して表示部440にエラーメッセージを表示してもよい。
【0073】
特定部464は、ユーザ認識部463から入力された顔画像データが、画像取得部462が取得したLF画像データに含まれる第1領域を特定する。
フォーカス位置決定部465は、特定部464が特定した第1領域におけるフォーカス位置を決定する。具体的には、フォーカス位置決定部465は、第1モードにおいて、全領域のフォーカス位置を、特定部464が特定した領域に含まれるユーザの位置に決定する。また、フォーカス位置決定部465は、第2モードにおいて、特定部464が特定した第1領域のフォーカス位置を、第1領域に含まれるユーザの位置に決定し、第1領域以外の第2領域におけるフォーカス位置を、第2領域に含まれる所定の被写体の位置に決定する。
【0074】
現像部466は、フォーカス位置決定部465が決定したフォーカス位置に基づいて、LF画像データを再構築する現像処理を行う。表示制御部467は、現像部466が現像処理をすることにより得られたリフォーカス画像を表示部440に表示させる。
【0075】
図14は、第2の実施形態に係るユーザ端末300における動作手順を示すフローチャートである。
まず、再生制御部461は、操作部420を介してユーザが入力した、LF画像データに基づく画像を表示する指示を取得する(S201)。再生制御部461は、指示を取得したことに応じて、画像取得部462に対して、記録メディアからLF画像データを取得するように指示する。画像取得部462は、画像入力部410を介してLF画像データを取得する(S202)。画像取得部462は、取得したLF画像データを特定部464に出力する。
【0076】
続いて、ユーザ認識部463は、ユーザ検知部430から入力されたユーザプロファイル情報を解析し、ユーザの顔画像データを取得する(S203)。ユーザ認識部463は、取得した顔画像データを特定部464に出力する。
【0077】
特定部464は、ユーザ認識部463から取得した顔画像データと類似するデータを含む領域が、画像取得部462から入力されたLF画像データに含まれているかどうかを判定する(S204)。特定部464が、LF画像データにユーザ画像データと類似するデータを含む領域が存在すると判定した場合(S204においてYes)、フォーカス位置決定部465は、ユーザ画像データと類似するデータを含む領域のフォーカス位置を、ユーザの奥行き方向の位置に変更し、その他の領域のフォーカス位置を変更しないで維持する(S205)。特定部464が、LF画像データにユーザ画像データと類似するデータを含む領域が存在しないと判定した場合(S204においてNo)、フォーカス位置決定部465は、画像取得部462から取得したLF画像データのデフォルトフォーカス位置を変更しない状態で維持する(S206)。
【0078】
続いて、現像部466は、S205又はS206でフォーカス位置決定部465が変更又は維持したフォーカス位置に基づいて、LF画像データを再構築することにより現像する(S207)。表示制御部467は、現像されたLF画像データに基づく画像を表示部440に表示させる。
【0079】
[第2の実施形態における効果]
以上説明したように、第2の実施形態に係るユーザ端末400は、通信回線を介してSNS等の提供者が管理する画像処理装置100に接続されていない状態においても、スタンドアローンの端末としてLF画像データを取得し、取得したLF画像データにユーザが写っている場合、ユーザが写っている領域のフォーカス位置を変更する。このようにすることで、ユーザが、ユーザ端末400にLF画像データを取り込んだ後にネットワークからユーザ端末400を切り離した場合であっても、ユーザは、自分自身にフォーカスが合った画像を閲覧することができる。
【0080】
以上、本発明を実施の形態を用いて説明したが、本発明の技術的範囲は上記実施の形態に記載の範囲には限定されず、その要旨の範囲内で種々の変形及び変更が可能である。
【符号の説明】
【0081】
100・・・画像処理装置
110・・・通信部
131・・・画像取得部
133・・・特定部
135・・・画像生成部

図1
図2
図3
図4
図5
図6
図7
図8
図9
図10
図11
図12
図13
図14