IP Force 特許公報掲載プロジェクト 2022.1.31 β版

知財求人 - 知財ポータルサイト「IP Force」

▶ グローリー株式会社の特許一覧

特開2024-86227画像処理装置、画像処理方法およびプログラム
<>
  • 特開-画像処理装置、画像処理方法およびプログラム 図1
  • 特開-画像処理装置、画像処理方法およびプログラム 図2
  • 特開-画像処理装置、画像処理方法およびプログラム 図3
  • 特開-画像処理装置、画像処理方法およびプログラム 図4
  • 特開-画像処理装置、画像処理方法およびプログラム 図5
  • 特開-画像処理装置、画像処理方法およびプログラム 図6
  • 特開-画像処理装置、画像処理方法およびプログラム 図7
  • 特開-画像処理装置、画像処理方法およびプログラム 図8
  • 特開-画像処理装置、画像処理方法およびプログラム 図9
  • 特開-画像処理装置、画像処理方法およびプログラム 図10
  • 特開-画像処理装置、画像処理方法およびプログラム 図11
  • 特開-画像処理装置、画像処理方法およびプログラム 図12
  • 特開-画像処理装置、画像処理方法およびプログラム 図13
  • 特開-画像処理装置、画像処理方法およびプログラム 図14
  • 特開-画像処理装置、画像処理方法およびプログラム 図15
  • 特開-画像処理装置、画像処理方法およびプログラム 図16
  • 特開-画像処理装置、画像処理方法およびプログラム 図17
  • 特開-画像処理装置、画像処理方法およびプログラム 図18
  • 特開-画像処理装置、画像処理方法およびプログラム 図19
< >
(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公開特許公報(A)
(11)【公開番号】P2024086227
(43)【公開日】2024-06-27
(54)【発明の名称】画像処理装置、画像処理方法およびプログラム
(51)【国際特許分類】
   G09G 5/00 20060101AFI20240620BHJP
   G09G 5/37 20060101ALI20240620BHJP
   G09G 5/377 20060101ALI20240620BHJP
   G03B 21/00 20060101ALI20240620BHJP
   G03B 21/14 20060101ALI20240620BHJP
   H04N 5/74 20060101ALI20240620BHJP
   G06T 5/73 20240101ALI20240620BHJP
【FI】
G09G5/00 510B
G09G5/00 550C
G09G5/37 320
G09G5/377
G09G5/377 100
G09G5/00 510V
G09G5/37 200
G03B21/00 D
G03B21/14 Z
H04N5/74 D
G06T5/00 710
【審査請求】未請求
【請求項の数】12
【出願形態】OL
(21)【出願番号】P 2022201251
(22)【出願日】2022-12-16
(71)【出願人】
【識別番号】000001432
【氏名又は名称】グローリー株式会社
(74)【代理人】
【識別番号】100117673
【弁理士】
【氏名又は名称】中島 了
(72)【発明者】
【氏名】栗林 英範
【テーマコード(参考)】
2K203
5B057
5C058
5C182
【Fターム(参考)】
2K203FA02
2K203FA62
2K203FA80
2K203FB05
2K203GC39
2K203GC40
2K203HB14
2K203KA56
2K203KA83
2K203MA10
5B057CA08
5B057CA12
5B057CA16
5B057CB08
5B057CB12
5B057CB16
5B057CC01
5B057CE03
5C058BA35
5C058EA02
5C182AA03
5C182AA04
5C182AA14
5C182AC02
5C182AC03
5C182AC31
5C182BA14
5C182BB04
5C182BB12
5C182CA02
5C182CB03
5C182CB44
5C182CB47
5C182CB52
5C182CB54
5C182CB61
5C182CC24
(57)【要約】
【課題】投影面が部分的な凹凸を有する場合であっても、当該投影面にプロジェクタによって投影される画像の解像感の低下を抑制することが可能な技術を提供する。
【解決手段】画像処理装置は、基準画像210をプロジェクタで投影することにより投影面90に形成された基準投影画像240を撮影した撮影画像250を取得し、投影面90における基準投影画像240のボケ位置を示すボケマップ290を、撮影画像250に基づいて生成する。画像処理装置は、基準画像210とは別の投影用画像のボケ位置に対応する部分に対して鮮鋭化処理とエッジ抽出処理との少なくとも一方を施した補正画像を、ボケマップ290に基づいて生成し、投影用画像と補正画像とを合成あるいは重畳して投影面に投影する。
【選択図】図7
【特許請求の範囲】
【請求項1】
基準画像をプロジェクタで投影面に投影することにより前記投影面に形成された基準投影画像を撮像部で撮影した撮影画像を取得する取得部と、
前記投影面における前記基準投影画像のボケ位置を示すボケマップを、前記撮影画像に基づいて生成するマップ生成部と、
前記基準画像とは別の投影用画像の前記ボケ位置に対応する部分に対して鮮鋭化処理とエッジ抽出処理との少なくとも一方を施した補正画像を、前記ボケマップに基づいて生成する画像生成部と、
前記投影用画像と前記補正画像とを合成あるいは重畳して前記投影面に投影する投影制御部と、
を備えることを特徴とする画像処理装置。
【請求項2】
前記マップ生成部は、前記プロジェクタによる本来の前記投影用画像の投影環境が整った状態で、前記投影用画像の投影前に前記ボケマップを生成することを特徴とする、請求項1に記載の画像処理装置。
【請求項3】
前記マップ生成部は、前記プロジェクタによる本来の投影用画像群の投影期間内において、前記基準画像を前記投影面に投影して前記ボケマップを生成し、
前記画像生成部は、前記投影用画像群の前記投影期間内に生成された前記ボケマップに基づいて、前記投影用画像群の一の投影用画像についての前記補正画像を生成し、
前記投影制御部は、前記投影期間内において前記一の投影用画像についての当該補正画像と前記一の投影用画像とを合成あるいは重畳して前記投影面に投影することを特徴とする、請求項1に記載の画像処理装置。
【請求項4】
前記画像生成部は、前記投影用画像の前記ボケ位置に対応する部分のみで構成される前記補正画像を生成し、
前記投影制御部は、前記補正画像と前記投影用画像とを重畳して投影することを特徴とする、請求項1に記載の画像処理装置。
【請求項5】
前記画像生成部は、前記投影用画像の前記ボケ位置に対応する部分のみで構成される前記補正画像を生成し、
前記投影制御部は、前記補正画像と前記投影用画像とを合成して投影することを特徴とする、請求項1に記載の画像処理装置。
【請求項6】
前記投影制御部は、前記投影用画像と前記補正画像とを時分割で重畳して投影することを特徴とする、請求項1に記載の画像処理装置。
【請求項7】
前記投影用画像と前記補正画像とは別個のプロジェクタで前記投影面に投影されることを特徴とする、請求項1に記載の画像処理装置。
【請求項8】
前記マップ生成部は、前記ボケマップとして、前記基準投影画像におけるボケ量の分布状況をも示すマップを生成し、
前記画像生成部は、前記基準投影画像内の各ボケ位置におけるボケ量に応じて、前記補正画像内の前記各ボケ位置に対応する部分の補正度合いを変更することを特徴とする、請求項1に記載の画像処理装置。
【請求項9】
前記補正画像は、前記投影用画像の前記ボケ位置に対応する部分のシャープネスを強調したシャープネス強調画像であることを特徴とする、請求項1に記載の画像処理装置。
【請求項10】
前記補正画像は、前記投影用画像の前記ボケ位置に対応する部分のエッジを抽出したエッジ抽出画像であることを特徴とする、請求項1に記載の画像処理装置。
【請求項11】
a)基準画像をプロジェクタで投影面に投影することにより前記投影面に形成された基準投影画像を撮像部で撮影した撮影画像を取得するステップと、
b)前記投影面における前記基準投影画像のボケ位置を示すボケマップを、前記撮影画像に基づいて生成するステップと、
c)前記基準画像とは別の投影用画像の前記ボケ位置に対応する部分に対して鮮鋭化処理とエッジ抽出処理との少なくとも一方を施した補正画像を、前記ボケマップに基づいて生成するステップと、
d)前記投影用画像と前記補正画像とを合成あるいは重畳して前記投影面に投影するステップと、
を備えることを特徴とする画像処理方法。
【請求項12】
a)基準画像をプロジェクタで投影面に投影することにより前記投影面に形成された基準投影画像を撮像部で撮影した撮影画像を取得するステップと、
b)前記投影面における前記基準投影画像のボケ位置を示すボケマップを、前記撮影画像に基づいて生成するステップと、
c)前記基準画像とは別の投影用画像の前記ボケ位置に対応する部分に対して鮮鋭化処理とエッジ抽出処理との少なくとも一方を施した補正画像を、前記ボケマップに基づいて生成するステップと、
d)前記投影用画像と前記補正画像とを合成あるいは重畳して前記投影面に投影するステップと、
をコンピュータに実行させるためのプログラム。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、画像処理装置およびそれに関連する技術に関し、特にプロジェクタによる投影画像に関する画像処理技術に関する。
【背景技術】
【0002】
投影用画像を投影面に投影し当該投影面に投影画像を形成するプロジェクタに関して、当該投影面に形成された投影画像のボケ(焦点ボケ)を低減する技術が存在する。
【0003】
たとえば、特許文献1においては、平面スクリーン(投影面)に対して投影用画像(プロジェクタからの出力画像)を投影する場合において、当該投影面に形成された投影画像に生じるボケをプロジェクタのレンズ状態等に基づいて補正する技術が記載されている。詳細には、プロジェクタの設置環境状態の値(レンズの状態を表す値(ズーム値、シフト値およびフォーカス値)あるいはプロジェクタの設置位置を表す値(投影面までの距離、パン角度、およびチルト角度)等)を投影時のボケ量に変換し、当該ボケ量に応じて補正画像を生成する技術が記載されている。当該技術によれば、平面スクリーン上の画像に生じ得るボケを抑制することが可能である。
【先行技術文献】
【特許文献】
【0004】
【特許文献1】国際公開第2018/159287号
【発明の概要】
【発明が解決しようとする課題】
【0005】
ところで、プロジェクタの投影面は、必ずしも平坦な面(平面)ではなく、部分的な凹凸を有する非平面等であり得る。そのような部分的な凹凸を有する非平面等の投影面に対してプロジェクタによって画像が投影される場合、投影面における部分的な凹凸に起因して部分的にボケが発生することがある。換言すれば、プロジェクタによって投影される画像の解像感が投影面の一部において低下することがある。
【0006】
しかしながら、特許文献1の技術では、投影面における部分的な凹凸に起因して部分的に発生するボケは考慮されておらず、特許文献1の技術では上記の問題を解消することはできない。
【0007】
そこで、この発明は、投影面が部分的な凹凸を有する場合であっても、当該投影面にプロジェクタによって投影される画像の解像感の低下を抑制することが可能な技術を提供することを課題とする。
【課題を解決するための手段】
【0008】
上記課題を解決すべく、本発明に係る画像処理装置は、基準画像をプロジェクタで投影面に投影することにより前記投影面に形成された基準投影画像を撮像部で撮影した撮影画像を取得する取得部と、前記投影面における前記基準投影画像のボケ位置を示すボケマップを、前記撮影画像に基づいて生成するマップ生成部と、前記基準画像とは別の投影用画像の前記ボケ位置に対応する部分に対して鮮鋭化処理とエッジ抽出処理との少なくとも一方を施した補正画像を、前記ボケマップに基づいて生成する画像生成部と、前記投影用画像と前記補正画像とを合成あるいは重畳して前記投影面に投影する投影制御部と、を備えることを特徴とする。
【0009】
前記マップ生成部は、前記プロジェクタによる本来の前記投影用画像の投影環境が整った状態で、前記投影用画像の投影前に前記ボケマップを生成してもよい。
【0010】
前記マップ生成部は、前記プロジェクタによる本来の投影用画像群の投影期間内において、前記基準画像を前記投影面に投影して前記ボケマップを生成し、前記画像生成部は、前記投影用画像群の前記投影期間内に生成された前記ボケマップに基づいて、前記投影用画像群の一の投影用画像についての前記補正画像を生成し、前記投影制御部は、前記投影期間内において前記一の投影用画像についての当該補正画像と前記一の投影用画像とを合成あるいは重畳して前記投影面に投影してもよい。
【0011】
前記画像生成部は、前記投影用画像の前記ボケ位置に対応する部分のみで構成される前記補正画像を生成し、前記投影制御部は、前記補正画像と前記投影用画像とを重畳して投影してもよい。
【0012】
前記画像生成部は、前記投影用画像の前記ボケ位置に対応する部分のみで構成される前記補正画像を生成し、前記投影制御部は、前記補正画像と前記投影用画像とを合成して投影してもよい。
【0013】
前記投影制御部は、前記投影用画像と前記補正画像とを時分割で重畳して投影してもよい。
【0014】
前記投影用画像と前記補正画像とは別個のプロジェクタで前記投影面に投影されてもよい。
【0015】
前記マップ生成部は、前記ボケマップとして、前記基準投影画像におけるボケ量の分布状況をも示すマップを生成し、前記画像生成部は、前記基準投影画像内の各ボケ位置におけるボケ量に応じて、前記補正画像内の前記各ボケ位置に対応する部分の補正度合いを変更してもよい。
【0016】
前記補正画像は、前記投影用画像の前記ボケ位置に対応する部分のシャープネスを強調したシャープネス強調画像であってもよい。
【0017】
前記補正画像は、前記投影用画像の前記ボケ位置に対応する部分のエッジを抽出したエッジ抽出画像であってもよい。
【0018】
上記課題を解決すべく、本発明に係る画像処理方法は、a)基準画像をプロジェクタで投影面に投影することにより前記投影面に形成された基準投影画像を撮像部で撮影した撮影画像を取得するステップと、b)前記投影面における前記基準投影画像のボケ位置を示すボケマップを、前記撮影画像に基づいて生成するステップと、c)前記基準画像とは別の投影用画像の前記ボケ位置に対応する部分に対して鮮鋭化処理とエッジ抽出処理との少なくとも一方を施した補正画像を、前記ボケマップに基づいて生成するステップと、d)前記投影用画像と前記補正画像とを合成あるいは重畳して前記投影面に投影するステップと、を備えることを特徴とする。
【0019】
上記課題を解決すべく、本発明に係るプログラムは、a)基準画像をプロジェクタで投影面に投影することにより前記投影面に形成された基準投影画像を撮像部で撮影した撮影画像を取得するステップと、b)前記投影面における前記基準投影画像のボケ位置を示すボケマップを、前記撮影画像に基づいて生成するステップと、c)前記基準画像とは別の投影用画像の前記ボケ位置に対応する部分に対して鮮鋭化処理とエッジ抽出処理との少なくとも一方を施した補正画像を、前記ボケマップに基づいて生成するステップと、d)前記投影用画像と前記補正画像とを合成あるいは重畳して前記投影面に投影するステップと、をコンピュータに実行させるためのプログラムであることを特徴とする。
【発明の効果】
【0020】
本発明によれば、投影面が部分的な凹凸を有する場合であっても、当該投影面にプロジェクタによって投影される画像の解像感の低下を抑制することが可能である。
【図面の簡単な説明】
【0021】
図1】第1実施形態に係るプロジェクタシステムの機能ブロック図である。
図2】投影面の断面を示す図である。
図3】ロッカー装置の概略外観図である。
図4図3の一部を拡大して示す斜視図である。
図5】把手部付近の断面図である。
図6】プロジェクタの投影範囲とカメラの撮影範囲との関係等を示す図である。
図7】基準画像を利用してボケマップが生成されることを示す概念図である。
図8】基準投影画像の所定方向における画素値の変化を示す図である。
図9】様々なボケマップを示す図である。
図10】補正画像(鮮鋭化画像)の生成処理等を概念的に示す図である。
図11】比較例と本実施形態とを比較して示す図である。
図12】補正画像(エッジ抽出画像)の生成処理等を概念的に示す図である。
図13】比較例と本実施形態とを比較して示す図である。
図14】プロジェクタシステムにおける処理の流れを示すフローチャートである。
図15】第2実施形態に係るプロジェクタシステムの機能ブロック図である。
図16】投影用画像と補正画像とが重畳表示されることを示す概念図である。
図17】2つのプロジェクタの投影範囲の相互関係等を示す図である。
図18】投影用画像と補正画像とが時分割で重畳して投影されることを示す概念図である(第3実施形態)。
図19】ボケが発生し得る他の状況を示す図である。
【発明を実施するための形態】
【0022】
以下、本発明の実施形態を図面に基づいて説明する。
【0023】
<1.第1実施形態>
<1-1.装置概要>
図1は、第1実施形態に係るプロジェクタシステム1(1Aとも称する)の機能ブロックを示す図である。
【0024】
図1に示されるように、プロジェクタシステム1は、プロジェクタ20と情報処理装置30とカメラ50とを備える。プロジェクタ20は、投影装置あるいは投影部とも称され、カメラ50は、撮像装置あるいは撮像部とも称される。
【0025】
プロジェクタ20と情報処理装置30とが有線接続され、カメラ50と情報処理装置30とが有線接続される。装置間を接続する各接続ケーブルを介して、プロジェクタ20と情報処理装置30との間、およびカメラ50と情報処理装置30との間で各種の情報が授受される。なお、これに限定されず、プロジェクタ20および/またはカメラ50は、情報処理装置30に対して無線接続されてもよい。
【0026】
プロジェクタ20は、投影光源と、投影画像形成部(液晶パネル(透過型あるいは反射型等)またはデジタルミラーデバイス等)と、投影光学系(レンズ等)とを備える。プロジェクタ20は、投影面90に各種の投影用画像(静止画像および動画像)を投影することが可能である。また、プロジェクタ20は、本来の投影用画像310を投影面90に対して投影することが可能であるとともに、調整用の基準画像210(図7参照(後述))を投影面90に対して投影することが可能である。
【0027】
カメラ50は、撮像素子(CCD等)と撮影光学系(レンズ等)とを備える。カメラ50は、プロジェクタ20により投影面90に投影された画像を撮影することが可能である。詳細には、カメラ50は、投影面90上にプロジェクタ20によって表示された状態の投影用画像(換言すれば、投影面90に形成された投影画像)の撮影画像を生成することが可能である。特に、カメラ50は、プロジェクタ20により投影面90に投影され投影面90に表示された状態の(調整用の)基準画像210(換言すれば、投影面90に形成された基準投影画像240)を撮影して撮影画像250(基準投影画像240を撮影した画像)を生成することが可能である。
【0028】
なお、カメラ50は、プロジェクタ20による投影画像と同様の画像を(同様の角度および同様の範囲で)撮影できるように構成されることが好ましい。具体的には、図6に示されるように、プロジェクタ20とカメラ50とは互いに近い位置に配置され且つプロジェクタ20の投影光学系の光軸とカメラ50の撮影光学系の光軸とは互いに平行に近い状態を有することが好ましい。
【0029】
情報処理装置30は、プロジェクタ20およびカメラ50を制御する。詳細には、情報処理装置30は、プロジェクタ20の画像投影処理等、およびカメラ50の画像撮影処理等を制御する。なお、情報処理装置30は、画像を処理する装置であることから、画像処理装置とも称される。同様に、プロジェクタシステム1も画像処理装置(あるいは画像処理システム)とも称される。
【0030】
図1に示されるように、情報処理装置30は、コントローラ(制御部とも称する)31と記憶部32と操作部35とを備える。
【0031】
コントローラ31は、1又は複数のハードウェアプロセッサ(例えば、CPU(Central Processing Unit)およびGPU(Graphics Processing Unit))等を備えるコンピュータシステムとして構成される。コントローラ31は、CPU等において、記憶部(ROMおよび/またはハードディスクなどの不揮発性記憶部)32内に格納されている所定のソフトウエアプログラム(以下、単にプログラムとも称する)を実行することによって、各種の処理部(取得部31a、マップ生成部31b、画像生成部31c、および投影制御部31d等)を実現する。
【0032】
取得部31aは、各種の情報を取得する処理部である。取得部31aは、調整用の基準画像210をプロジェクタ20で投影面90に投影することにより投影面90に形成された基準投影画像240(投影面90上に表示された状態の基準画像210)をカメラ50で撮影した撮影画像250等を取得する(図7参照)。
【0033】
マップ生成部31bは、投影面90における基準投影画像240のボケ位置(投影面90における各ボケ領域293(基準投影画像240に部分的に存在するボケ領域)の位置)を示すボケマップ290(後述)を、撮影画像250等に基づいて生成する。なお、後述するように、ボケマップ290は、投影面における各ボケ領域293の位置のみならず、当該各ボケ領域のボケ量をも示すマップであってもよい。ボケマップ290は、ボケ位置の分布(およびボケ量の分布)を示すマップであり、ボケ分布マップとも称される。
【0034】
画像生成部31cは、基準画像210とは別の(本来の)投影用画像310(投影前の元画像)のボケ位置に対応する部分(領域)311に対して鮮鋭化処理とエッジ抽出処理との少なくとも一方を施した補正画像320を、ボケマップ290に基づいて生成する。
【0035】
投影制御部31dは、投影用画像310と補正画像320とを合成あるいは重畳して投影面に投影する処理を制御する。
【0036】
なお、当該プログラム(詳細にはプログラムモジュール群)は、USBメモリなどの可搬性の記録媒体に記録され、当該記録媒体から読み出されて情報処理装置30にインストールされてもよい。あるいは、当該プログラムは、通信ネットワーク等を経由してダウンロードされて情報処理装置30にインストールされてもよい。
【0037】
また、ここでは、各種処理(画像処理等)は、コントローラ31によるソフトウエア処理によって実行されるが、これに限定されず、専用のハードウエア(ASIC)等を用いて実行されてもよい。
【0038】
記憶部32は、画像メモリ(RAM等)32aおよび不揮発性記憶装置32b(ROM、ハードディスクドライブ(HDD)、ソリッドステートドライブ(SSD)等)で構成される。不揮発性記憶装置32bには、基準画像210(詳細にはその画像データ)が記憶されている。また、不揮発性記憶装置32bには、本来の投影対象の画像(投影用画像)も記憶される。画像メモリ32aは、RAM等の高速アクセス可能な半導体メモリ(主に揮発性メモリ)で構成される。画像メモリ32aにおいては、処理対象画像の画像データに対する各種の画像処理の前後の画像等が格納される。
【0039】
操作部35は、情報処理装置30に対する操作入力を受け付ける操作入力部35aと、各種情報の表示出力を行う表示部35bとを備えている。操作入力部35a(受付部とも称される)は、投影対象画像の指定操作(指定入力)および投影開始指令等を受け付け、表示部35bは、各種の設定画面等を表示する。
【0040】
たとえば、操作入力部35aとしてはマウス、キーボード等が用いられ、表示部35bとしてはディスプレイ(液晶ディスプレイ等)が用いられる。操作入力部35aの一部としても機能し且つ表示部35bの一部としても機能するタッチパネルが設けられてもよい。
【0041】
なお、ここでは、カメラ50(撮像部)がプロジェクタ20および情報処理装置30とは別に設けられているが、これに限定されない。たとえば、カメラ50(撮像部)は、プロジェクタ20および/または情報処理装置30の内部に設けられてもよい。また、情報処理装置30は、プロジェクタ20とは別に設けられてもよく、プロジェクタ20の内部に設けられてもよい。
【0042】
<1-2.投影面90>
図2は、投影面90の断面を示す図である。
【0043】
投影面90は、必ずしも全面に亘って平坦ではない。投影面90は、部分的に凹凸を有していることがある。換言すれば、投影面90には様々な凹凸部93が存在し得る。
【0044】
図2の断面図には、そのような凹凸部93の例(93a~93f)が示されている。図2に示されるように、たとえば、断面視において矩形状の凸部(突出部)93a、断面視において曲面状(凸曲面状)の凸部93b、断面視においてV字形状の凸部93cが存在し得る。また、断面視において矩形状の凹部93d、断面視において曲面状(凹曲面状)の凹部93e、断面視においてV字形状の凹部93f等も存在し得る。なお、図2においては、各種の凹凸部93が纏めて示されているが、実際には各種の凹凸部93のうちの1又は幾つかの凹凸部93が投影面90に存在することが多い。
【0045】
図3図5は、投影面90に関する更に具体的な一例を示す図である。図3および図4は、駅などに配置されるロッカー装置70を示す図である。図3は、ロッカー装置70の概略外観図であり、図4は、その一部(把手部73付近)を拡大して示す斜視図である。また、図5は、把手部73付近を拡大して示す断面図である。
【0046】
図3に示されるように、ロッカー装置70は、複数の収納部(収納室ないしロッカーとも称する)71を備える。各収納部71は、略直方体形状の内部空間を有するとともに、その前面側に扉72を有している。また、扉の開閉のための把手部73が設けられている。
【0047】
図3等に示されるように、たとえば、このようなロッカー装置70の前面79が投影面90として利用される。図3では、プロジェクタ20による投影範囲(投影面90における投影範囲)が破線矩形で示されている。
【0048】
詳細には、この投影面90は、収納部71の扉72の前面72f(図4参照)と、把手部73の前面73f(図5も参照)と、収納部71の筐体74の前面74fとを備えて構成される。プロジェクタ20は、主に前面72fに画像を投影するとともに、把手部73の前面73f等に対しても画像を投影する。
【0049】
このような投影面90における把手部73は、図5の断面図を参照すると判るように、図2の矩形状の凸部93aに概ね相当する。当該投影面90は、部分的な凹凸を有する非平面(その一部に平坦でない部分(凹凸部93)を有する面)である。なお、ここでは、基準位置P1(図2参照)からプロジェクタ20側に突出した把手部73(凸部)が凹凸部93(凸部93a)として例示されているが、これに限定されず、凹凸部93としては、上述したような凹部も存在し得る。たとえば、基準位置P1からプロジェクタ20の反対側に凹んだ把手部(不図示)が凹凸部93(特に凹部93d,93e等)として存在し得る。
【0050】
なお、投影面90は、ロッカー装置70の前面79に限定されず、各種の構造物の平面等であってもよい。また、投影面90は、平面ないし平面に近い面に限定されず、部分的に凹凸面を有する各種形状の立体形状物(マネキン等)の表面(ひょうめん)(曲面等)であってもよい。
【0051】
上述したように、このような投影面90に対してプロジェクタによって画像が投影される場合、投影面90における部分的な凹凸に起因して部分的にボケが発生することがある。具体的には、基準位置P1(図2参照)に対する比較的大きな変位を伴う凹凸部93の影響により、プロジェクタ20から投影面90(特に凹凸部93)に到達する光像の光学距離は、投影面90内において部分的に被写界深度を超える程度にまで変化する。その結果、プロジェクタ20からの光像が光軸方向の基準位置P1にて合焦状態となるように調整されたとしても、光像(画像)の「ボケ」が投影面90内において部分的に発生する。詳細には、投影面90内の凹凸部93(のみ)において光像(画像)の「ボケ」が発生する。換言すれば、プロジェクタによって投影される画像の解像感が投影面の一部において低下する。
【0052】
この実施形態では、投影面90が部分的な凹凸を有する場合であっても、当該投影面90にプロジェクタによって投影される画像の解像感の低下を抑制することが可能な技術について説明する。
【0053】
より具体的には、情報処理装置30(プロジェクタシステム1)によって、基準画像210(図7等参照)を用いてボケマップ290が生成される(図14のステップS10)。そして、投影用画像310(図10等参照)に対する補正画像320がボケマップ290に基づき生成され、投影用画像310と当該補正画像320とが合成等されて投影面90に投影される(図14のステップS20)。なお、図14は、プロジェクタシステム1における処理の流れを示すフローチャートである。
【0054】
以下、このような技術等について図14等を参照しつつ詳細に説明する。
【0055】
<1-3.基準画像210を用いたボケマップ生成>
まず、ステップS10において、ボケマップ290の生成処理が実行される。換言すれば、ボケマップ290が、本来の投影用画像310の投影(ステップS20)の前に生成される。
【0056】
また、このボケマップ290の生成処理は、プロジェクタ20による本来の投影用画像(調整用でない投影用画像)310の投影環境(投影準備)が整った状態で行われる。より詳細には、本来の投影用画像の投影時(ステップS20)と同じボケが発生し得る状態(投影面90の状態、投影面90とプロジェクタ20との位置関係、プロジェクタ20の投影光学系の状態等が投影時と同じ状態)でステップS10の処理が実行される。
【0057】
図7は、基準画像210等を示す図である。基準画像210は、調整用の画像(パターン画像)である。基準画像210は、本来の投影用画像310(ユーザが投影したい画像)(図10等参照)とは別の画像として、記憶部32に予め記憶されている。
【0058】
図7の基準画像210(図7の最上段参照)は、白色ブロック(明部)と黒色ブロック(暗部)とが交互に配置された白黒のチェッカーパターンで構成されている。図7では、8×8のチェッカーパターンが例示されている。矩形形状の白色ブロック内の各画素は、いずれも同じ明るい値(たとえば、「255」)の画素値を有し、矩形形状の黒色ブロック内の各画素は、いずれも同じ暗い値(たとえば、「0」)の画素値を有する。
【0059】
コントローラ31は、このような基準画像210を用いてボケマップ290を生成する。
【0060】
具体的には、ステップS11において、コントローラ31は、プロジェクタ20およびカメラ50を制御して、撮影画像250を取得する。詳細には、コントローラ31の制御下において、プロジェクタ20は、調整用の基準画像210(図7)を投影面90に対して投影する。詳細には、本来の投影用画像310の投影範囲と同じ範囲(あるいは当該投影範囲を含む範囲)に対して、基準画像210が投影される。次に、コントローラ31の制御下において、カメラ50は、プロジェクタ20により投影面90に投影された基準画像210を撮影し、当該投影面90上に表示された状態の基準画像210(換言すれば、投影面90に形成された基準投影画像240)の撮影画像250(図7参照)を生成する。そして、コントローラ31は、生成された撮影画像250(図7参照)を取得する。なお、撮影画像250は、投影面90内の基準位置(平面内の基準位置)の画像を合焦状態とするようにカメラ50のレンズ位置等が調整(フォーカス調整)されて撮影される。その結果、撮影画像250は、その全体に亘って、基準投影画像240と同じ合焦状態(ボケ状態)を有する画像として撮影(取得)される。その後、ステップS12において、コントローラ31は、当該撮影画像250に基づきボケマップ290を生成する。
【0061】
基準画像210が投影面90上にて鮮鋭な状態で投影されている部分(基準投影画像240が投影面90のボケを有していない部分)においては、撮影画像250内の黒色ブロックと白色ブロックとの両ブロックの境界部分において、当該両ブロックは明瞭に区別される。図8の上段は、基準投影画像240における当該状況を模式的に示す図である。理想的には、たとえば、当該境界部分の左側には画素値「0」の画素が並び、当該境界部分の右側には画素値「255」の画素が並ぶ。すなわち、当該境界部分において、画素値が非常に急峻に変化する。
【0062】
一方、基準画像210が投影面90上にて「ボケ」を有するように投影されている部分(基準投影画像240内のボケ部分)においては、撮影画像250内の白色ブロックと黒色ブロックとの両ブロックの境界部分において、その画素値が比較的緩やかに変化する。図8の下段は、基準投影画像240における当該状況を模式的に示す図である。当該境界部分において、その画素値が「0」から「255」へと徐々に(段階的に)変化する数画素程度(~数十画素程度)の幅Wの画素群が存在する。すなわち、当該境界部分において、画素値が比較的緩やかに変化しており、「ボケ」が発生している。また、当該幅Wが大きいほど、ボケの程度が大きい。
【0063】
したがって、当該幅W(当該境界部分において、その画素値が「0」から「255」へと(あるいはその逆向きに)変化するのに要する画素の個数(所定方向における画素の個数))は、ボケの度合いを反映している。当該幅Wは、ボケ量(換言すれば、デフォーカス量)を表す指標値である。
【0064】
ここでは、そのような特性を利用して、当該個数(幅W)が所定数(たとえば「5」)を超えている境界位置(黒色ブロックと白色ブロックとの両ブロックの理論上の境界位置)は、ボケが生じている位置(ボケ位置)であると判定される。たとえば、チェッカーパターン内の両ブロックの角部が互いに接触する各位置(各角部)について、ボケ位置であるか否かが判定される。具体的には、当該各位置(各角部)を含む部分(部分領域)ごとに、ボケ位置を含む領域(ボケ領域)であるか否かが判定される。
【0065】
より具体的には、当該角部を中心として、所定範囲の部分領域R(図7の上から3段目参照)を単位として、当該ボケが生じているか否かが判定される。この部分領域Rは、当該角部に対して左右上下方向それぞれに各ブロックの単位幅B(たとえば、240画素)の1/2の幅を有する矩形領域である。より詳細には、当該部分領域R内に含まれる境界部分(縦方向および横方向に伸びる境界部分)でのボケ量の平均値に基づいて、当該部分領域Rのボケ量が算出される。そして、部分領域におけるボケの発生の有無等が、当該部分領域Rのボケ量の平均値等に基づいて判定される。
【0066】
このような判定結果がボケマップ290に保存される。詳細には、部分領域Rごとの判定結果(ボケの発生の有無等)を示すデータがボケマップ290内に保存される。
【0067】
あるいは、ブロック(黒色ブロックあるいは白色ブロック)を単位として、当該ボケが生じているか否かが判定されてもよい。たとえば、各ブロックの境界部分(他の色のブロックと接する4辺の境界部分)でのボケ量の平均値に基づいて、当該各ブロック(部分領域)のボケ量が算出されてもよい。そして、各ブロック(部分領域)におけるボケの発生の有無等が、当該部分領域のボケ量の平均値等に基づいて判定されてもよい。
【0068】
また、図7では、8×8のチェッカーパターンが基準画像210として例示されているが、これに限定されず、さらに細かく区切った16×16(あるいは32×32等)のチェッカーパターン等が基準画像210として利用されてもよい。これによれば、ボケマップ290におけるボケ位置等の分布を細かく検出することが可能である。ただし、チェッカーパターンにおけるブロック自体(1つのブロックの単位幅B)を小さくし過ぎると、ボケの幅Wを適切に検出することが困難になる。それ故、ボケの幅Wを適切に検出することができるように、ブロック自体の大きさが適宜決定されることが好ましい。
【0069】
なお、図7では、説明の都合上、プロジェクタ20の投影範囲の形状が正方形である場合が示されている。プロジェクタ20の投影範囲の形状が正方形以外の場合(図3等参照)には、投影範囲の形状に合わせて基準画像210の形状等が変更されればよい。たとえば、投影範囲の形状が横長の矩形形状である場合には、同じ形状(横長の矩形形状)を有し且つ32×24のチェッカーパターン等で構成される画像が基準画像210として利用されればよい。
【0070】
また、所定方向(縦方向および/または縦方向)にて各ブロックの単位幅Bの「1/N」のずれ(位相ずれ)を生じさせつつ基準画像210を投影面90に投影してボケ位置等を検出する動作をN回(ただし、Nは2以上の自然数)繰り返し、投影面90内の異なる位置でのボケ具合等が検出されてもよい。この場合、部分領域の大きさは、単位幅Bの1/N等に定められればよい。
【0071】
このような位相ずれを用いることによっても、ボケマップ290におけるボケ位置等の分布を細かく検出することが可能である。特に、位相ずれを伴う処理によれば、一定程度の幅Wを適切に検出しつつ、ボケ位置等の分布を細かく検出することが可能である。たとえば、32×32のチェッカーパターン(単位幅B=60画素)を投影面90に投影してボケ位置等を検出する動作が、その単位幅Bの1/4の位相ずれを順次伴いつつ縦方向および横方向にそれぞれ4回ずつ繰り返されてもよい。これによれば、60画素程度までの幅Wのボケを適切に検出しつつ、投影面90内のボケ位置等の分布を15画素幅の単位領域ごとに(細かく)検出することが可能である。
【0072】
あるいは、基準画像210は、チェッカーパターンではなく、ドットパターン等で構成されてもよい。より詳細には、チェッカーパターン内の各ブロックの角部(あるいは中央等)に相当する位置にドット(点状図形)がそれぞれ配置されたドットパターン等で基準画像210が構成されてもよい。
【0073】
以上のようにして部分領域(単位領域)ごとにボケの発生の有無が判定されると、その判定結果に基づいてボケマップ290が生成される。ここでは、ボケが発生していると判定された部分領域は、白色領域(非黒色領域)として示されている。
【0074】
たとえば、図7の上から2段目(右側最上段)に示すように、投影面90内の中央部付近に凹凸部93が存在する場合を想定する。この場合、基準画像210(図7最上段参照)が当該投影面90に投影されると、図7の上から3段目(左側最下段)の撮影画像250が取得される。なお、当該2段目の投影面90においては、基準投影画像240は図示されていない。また、上述のように、撮影画像250は、その全体に亘って、基準投影画像240(投影面90上に形成された光像)と同様の合焦状態(ボケ状態)を有する画像として取得される。
【0075】
撮影画像250においては、凹凸部93以外の部分では合焦状態の光像(鮮鋭な画像)が得られているのに対して、(中央部付近の)当該凹凸部93に投影された部分に像(画像)のボケが生じている。このような撮影画像250に基づき、上述のようにしてボケマップ290が生成される。図7の上から4段目(右側最下段)のボケマップ290では、当該中央部付近の多数の部分領域が纏めて白色領域として示されている。ボケマップ290における白色領域(非黒色領域)は、ボケが発生している領域を示している。換言すれば、白色領域に含まれる各位置は、ボケが発生している部分領域の位置(ボケ位置)である。
【0076】
このようにして、基準画像210内のボケ位置(換言すれば、投影面90におけるボケ領域293の位置)を示すボケマップ290が生成(取得)される。ボケマップ290にいては、所定程度以上のボケが存在する部分領域(ボケ位置を含む部分領域)(詳細には当該部分領域の集合体)がボケ領域293として求められる。別の見方をすれば、当該ボケ領域293の位置(詳細には、ボケ領域293を構成する各部分領域の位置)がボケ位置として求められる。このボケマップ290は、投影面90の全体(詳細には、プロジェクタ20による投影対象領域の全体)に亘るボケ位置等の分布を示している。換言すれば、ボケマップ290は、投影面90の全面に亘る凹凸を反映(および検出)したマップである。
【0077】
なお、図9は、様々なボケマップ290を示す図である。図9の最上段に示されるように、投影面90内の凹凸状況によっては、図7とは異なる位置および異なる範囲にボケ領域293が検出される。以下では、主に、図9の最上段に示すようなボケマップ290が取得されたものとして説明を続ける。
【0078】
<1-4.投影処理等>
次に、ステップS20(図14)において、本来の投影用画像310に関する投影処理等が実行される。ただし、投影用画像310がそのまま投影されるのではなく、投影用画像310と当該投影用画像310に関する補正画像320とが合成等されて投影面90に投影される。
【0079】
具体的には、まずステップS21において、コントローラ31は、投影用画像310の補正画像320(図10参照)をボケマップ290に基づき生成する。投影用画像310は、投影前(補正前)の元の画像(元画像)とも表現される。また、補正画像320は、投影用画像310(元画像)に対して補正処理を施した補正画像である。詳細には、補正画像320は、投影用画像310(元画像)において、ボケ位置に対応する部分(部分領域)Qに対して補正処理を施した補正画像である。ボケ位置に対応する部分Qは、ボケマップ290に基づいて特定されればよい。投影用画像310の部分Qは、ボケマップ290内のボケ領域293の位置(ボケ位置)に対応する部分である。また、当該補正処理は、鮮鋭化処理とエッジ抽出処理との少なくとも一方を含む処理である。
【0080】
次に、ステップS22において、コントローラ31は、プロジェクタ20を用いて、投影用画像310と補正画像320との両画像を合成(あるいは重畳)して投影面90に投影する。なお、この第1実施形態では、両画像が合成されて投影される態様を例示し、第2実施形態および第3実施形態において、両画像が重畳されて投影される態様を例示する。
【0081】
以下では、まず、図10および図11を参照しつつ、投影処理等の一例について説明する。なお、図10は、補正画像320の生成処理等を概念的に判り易く示す図であり、図11は、比較例と本実施形態との相違を判り易く示す図である。
【0082】
図10等では、補正処理として鮮鋭化処理が施されるとともに、投影用画像310と補正画像320とを合成した合成画像330が生成され、当該合成画像330が投影面90に投影される場合について例示する。
【0083】
ステップS21において、コントローラ31は、投影用画像310の補正画像320をボケマップ290に基づき生成する。補正画像320は、投影用画像310(元画像)に対して鮮鋭化処理を施した画像である。ここでは、補正画像320は、投影用画像310(元画像)において、ボケ位置に対応する部分(部分領域)Qのみに対して鮮鋭化処理を施した補正画像である。投影用画像310の「ボケ位置に対応する部分Q」は、ボケマップ290に基づいて特定される。具体的には、「ボケ位置に対応する部分Q」は、ボケマップ290におけるボケ領域293の位置および範囲によって特定される。換言すれば、投影用画像310において、ボケ位置に対応する部分Qは、ボケマップ290におけるボケ領域293の存在位置に対応する部分である。
【0084】
なお、画像323(図10の最下段参照)は、投影用画像310の全体に対して鮮鋭化処理を施した画像である。ただし、ここでは、画像323のうちの一部の画像(詳細には、ボケ位置(ボケマップ290にて示される)に対応する部分領域Qのみの鮮鋭化画像)が補正画像320として生成される。すなわち、当該補正画像320は、画像323の部分(部分領域)Qのみ(画像323全体の画素数よりも少ない画素数)で構成され、当該部分Q以外の領域を含まない。
【0085】
次に、ステップS22において、コントローラ31は、投影用画像310と補正画像320との合成画像330を生成する。たとえば、合成画像330は、投影用画像310における「ボケ位置に対応する部分Q」を補正画像320に置き換えて合成した画像である(図10の上から2段目(右側)参照)。
【0086】
さらに、ステップS22において、コントローラ31は、プロジェクタ20を用いて、合成画像330(新たな投影用画像とも称される)を投影面90に投影する。
【0087】
図11は、比較例に係る投影処理と上記実施形態に係る投影処理とを比較する図である。
【0088】
図11の上段には、比較例に係る投影処理(上述のような補正処理を伴わない投影処理)が示されている。当該上段に示されるように、仮に投影用画像(元画像)310がそのまま投影されると、投影面90に形成された投影画像(見えている状態の画像)390には、凹凸部93に対応する部分Q(破線で囲まれた矩形領域)においてボケが発生する。すなわち、投影画像390において部分的にボケが発生する。
【0089】
一方、図11の下段には、上記実施形態に係る投影処理(上述のような補正処理を伴う投影処理)が示されている。上記実施形態においては、当該下段に示されるように、投影用画像310と補正画像320とが合成されて投影される(合成画像330が投影される)。この場合、投影面90に形成された投影画像(見えている状態の画像)340においては、投影用画像310に対する部分的な補正処理(鮮鋭化処理)によって、凹凸部93に対応する部分Qにおけるボケが抑制される。すなわち、投影画像340にて部分的なボケが抑制される。
【0090】
なお、鮮鋭化処理は、シャープネス強調処理(シャープネスを強調する処理)、エッジ強調処理(エッジ成分を強調する処理)、アンシャープマスク処理、あるいは高周波成分強調処理(高周波成分を強調する処理)などとも称される。また、鮮鋭化処理が施された画像は、鮮鋭化画像、シャープネス強調画像、アンシャープマスク画像、あるいは高周波成分強調画像などとも称される。また、鮮鋭化処理は画像超解像処理(画像の画素数を増加させるとともに高周波成分を復元する(鮮鋭化する)処理)であってもよく、鮮鋭化処理が施された画像は、超解像画像(画像超解像処理が施された画像)などであってもよい。
【0091】
また、補正処理は、鮮鋭化処理のみならず、エッジ抽出処理(元画像からエッジを抽出する処理)であってもよい。また、鮮鋭化画像は、元画像のエッジが強調された画像等であり、元画像のエッジのみならずエッジ以外の要素(画素)をも含む画像である。これに対して、エッジ抽出画像は、元画像からエッジが抽出された画像であり、抽出されたエッジ(抽出エッジ)要素で構成される画像である。
【0092】
次に、図12および図13を参照しつつ、投影処理等の他の一例について説明する。なお、図12は、補正画像320の生成処理等を概念的に判り易く示す図であり、図13は、比較例と本実施形態との相違を判り易く示す図である。図12および図13は、図10および図11とそれぞれ同様の図である。ただし、図12等では、補正処理としてエッジ抽出処理が施されて、エッジ抽出画像が補正画像320として生成される。この点において、図10等と相違する。
【0093】
ステップS21において、コントローラ31は、投影用画像310の補正画像320(図12)をボケマップ290に基づき生成する。この補正画像320は、投影用画像310(元画像)に対してエッジ抽出処理を施した画像である。ここでは、補正画像320は、投影用画像310(元画像)において、ボケ位置に対応する部分(部分領域)Qのみに対してエッジ抽出処理を施した補正画像である。なお、図12の画像323は、投影用画像310の全体に対してエッジ抽出処理を施した画像である。ただし、ここでは、画像323のうち、ボケ位置(ボケマップ290にて示される)に対応する部分領域Qのみのエッジ抽出画像が補正画像320として生成される。当該補正画像320は、画像323の部分(部分領域)Qのみで構成され、当該部分Q以外の領域を含まない。
【0094】
なお、補正画像320は、抽出エッジに対する太らせ処理により得られた新たなエッジで構成される画像であってもよい。より具体的には、元画像310から(エッジ抽出処理により)抽出されたエッジ(抽出エッジ)に対して更に太らせ処理が施され、当該太らせ処理により得られた新たなエッジで構成される画像が、補正画像320として生成されてもよい。換言すれば、エッジ抽出画像(補正画像320)におけるエッジは、元画像310から抽出されたエッジに対して太らせ処理を施して得られた新たなエッジであってもよい。
【0095】
また、補正画像320内のエッジ(元画像310から抽出されたエッジ等)上の画素(エッジ画素)の画素値としては、たとえば、元画像310内にて当該エッジに対応する位置の画素値(明るさ等)を増大(あるいは減少)してエッジ隣接部分とのコントラスト等を強調した値が用いられればよい。また、補正画像320内のエッジ以外の画素の画素値は、たとえば、ゼロ(あるいは透過指定値)に設定されればよい。
【0096】
次に、ステップS22において、コントローラ31は、投影用画像310と補正画像320との合成画像330を生成する。
【0097】
たとえば、「ボケ位置に対応する部分Q」では元の画像310と補正画像320とが透過合成され、当該部分Q以外の部分では元の画像310が維持されて、合成画像330が生成される。部分Qの透過合成においては、エッジ上の画素の合成後の画素値としてエッジ抽出画像(補正画像320)の値が用いられ、エッジ以外の画素の合成後の画素値として元画像310の画素値が用いられる。換言すれば、エッジ以外の部分が透過された状態で補正画像320が投影用画像310に対して合成されることにより、合成画像330が生成される。
【0098】
さらに、ステップS22において、コントローラ31は、プロジェクタ20を用いて、合成画像330を投影面90に投影する。
【0099】
図13は、比較例に係る投影処理と上記実施形態に係る投影処理とを比較する図である。
【0100】
図13の上段には、比較例に係る投影処理が示されている。具体的には、投影面90に形成された投影画像390内の部分Q(凹凸部93に対応する部分)において、ボケが発生する様子が示されている。
【0101】
一方、図13の下段には、上記実施形態に係る投影処理(上述のような補正処理を伴う投影処理)が示されている。当該投影処理では、投影用画像310と補正画像(エッジ抽出画像)320とが合成されて投影される(合成画像330が投影される)。この場合、投影面90に形成された投影画像(見えている状態の画像)340においては、投影用画像310に対する部分的な補正処理(エッジ抽出処理)によって、凹凸部93に対応する部分Qにおけるボケが抑制される。
【0102】
なお、ここでは、文字列を含む投影用画像310に対してエッジ抽出処理等が施されているが、これに限定されず、文字列を含まない投影用画像310(自然画像等)に対してエッジ抽出処理等が施されてもよい。
【0103】
また、鮮鋭化処理とエッジ抽出処理との一方ではなく、鮮鋭化処理とエッジ抽出処理との双方が施されても良い。たとえば、投影用画像310に対して鮮鋭化処理を施して鮮鋭化画像(シャープネス強調画像)を生成するとともに、当該鮮鋭化画像からエッジを抽出するエッジ抽出処理を施した画像が補正画像320として生成(取得)されてもよい。
【0104】
<1-5.実施形態の効果>
以上のように、上記実施形態によれば、基準投影画像240のボケ位置を示すボケマップ290が生成される。当該ボケマップ290には、投影面90の部分的な凹凸に起因してボケが発生した位置(ボケ位置)が反映される。そして、投影用画像310のボケ位置に対応する部分Qに対して補正処理(鮮鋭化処理等)を施した補正画像320が当該ボケマップ290に基づいて生成され、当該補正画像320と投影用画像310とが合成されて投影される。ボケ位置に対応する部分Qに関して当該補正画像320が投影用画像310に対して合成されて投影されるので、ボケ位置に対応する部分Qでの解像感の低下を抑制することが可能である。したがって、投影面90が部分的な凹凸を有する場合であっても、当該投影面90にプロジェクタ20によって投影される画像の解像感の低下を抑制することが可能である。
【0105】
特に、光学的な要因に限定されない様々な要因に起因するボケ(投影面の凹凸等に起因するボケ)を抑制して、投影画像の解像感の低下を抑制することが可能である。
【0106】
また、画像323(図10および図12参照)の全体が補正画像320として生成されるのではなく、投影用画像(元画像)310のうちボケ位置に対応する部分領域のみの鮮鋭化画像(あるいはエッジ抽出画像等)が補正画像320として生成される。すなわち、補正画像320は、投影用画像310のうちボケ位置に対応する部分のみで構成される。これによれば、投影用画像310の全体について補正画像が生成される場合に比べて、補正画像320の生成処理の負荷を抑制すること(ひいては補正画像320の生成時間を低減すること等)が可能である。ボケマップ290の全体に占めるボケ領域293の割合が小さい場合(ロッカー装置70の前面79の全体のうち把手部73のみでボケが生じている場合等)、特に有用である。
【0107】
<1-6.変形例等>
<投影用画像310等>
上記実施形態における投影用画像310は、単一の(個別の)静止画像であってもよいが、これに限定されず、動画像を構成する各フレーム画像等であってもよい。換言すれば、投影用画像310は、投影用画像群410(投影用動画像あるいは投影用静止画像群)を構成する一連の複数の投影用画像のそれぞれであってもよい。
【0108】
投影用画像群410(投影用動画像等)を構成する一連の複数の投影用画像310が所定の時間間隔で順次に投影される場合、たとえば、投影用画像群410のうちの先頭の投影用画像310が投影される前に(事前に)ボケマップ290が生成されればよい。
【0109】
その場合、当該複数の投影用画像310のそれぞれに対する各補正画像320は、たとえば、投影用画像群410の投影開始前(先頭の投影用画像310の投影開始前)に(まとめて)予め生成されればよい。あるいは、当該各補正画像320は、投影用画像群410の投影期間内にリアルタイムで生成されてもよい。より詳細には、投影用画像群410を構成する第nフレーム画像(n番目の投影用画像310)に対する補正画像320は、投影用画像群410の先頭フレーム画像の投影開始後且つ当該第nフレーム画像の投影直前までに生成されてもよい。
【0110】
<ボケマップ290および補正画像320の別の生成タイミング等>
また、ボケマップ290は、本来の投影用画像群410の投影前ではなく、プロジェクタ20による投影用画像群410の投影期間内(詳細には、投影用画像群410の投影開始指令受付後、あるいは投影用画像群410の先頭フレーム画像の投影開始後)において、生成されてもよい。具体的には、投影用画像群410の投影期間内に基準画像210が投影面90に投影され、当該基準画像210の投影により投影面90に形成される基準投影画像240(投影期間内における基準投影画像)を用いてボケマップ290が生成されてもよい。
【0111】
より詳細には、投影用画像群410を構成する一連の複数の投影用画像310の投影タイミングの合間に(各投影用画像310の非投影時に)基準画像210が投影面90に投影されてもよい。そして、当該基準画像210の投影により投影面90に形成される基準投影画像240を撮影した撮影画像250に基づきボケマップ290が生成されてもよい。
【0112】
あるいは、投影用画像群410を構成する一連の複数の投影用画像310のうちの或る投影用画像310の投影に並行して(概ね同時に)基準画像210が投影面90に投影されてもよい。そして、当該基準画像210の投影により投影面90に形成される基準投影画像240等を用いてボケマップ290が生成されてもよい。たとえば、プロジェクタ20によって或る投影用画像310が可視光を用いて投影されると同時に、非可視光発光部(不図示)によって可視光以外の光(プロジェクタ20の投影光(投影画像340)の波長域とは異なる波長域の光(赤外光等))を用いて基準画像210が投影されてもよい。そして、当該基準画像210の投影により形成された基準投影画像240が赤外線カメラ等で撮影されて撮影画像250が生成され、当該撮影画像250に基づきボケマップ290が生成されてもよい。
【0113】
このようにプロジェクタ20による投影用画像群410の投影期間内にボケマップ290が生成されることによれば、投影面90の凹凸状態をリアルタイムで反映したボケマップ290が生成され得る。特に、投影面90の凹凸状態が時々刻々と変化する状況に対して有用である。たとえば、ロッカー装置70の複数の収納部71のうち「非使用中」の収納部71の扉72が、「使用中」の収納部71の扉72よりも手前側に若干浮くように(完全には閉まらずに若干開いた状態で)意図的に構成されることがある。この場合において、各収納部71の使用状態の変化(「使用中」から「非使用中」への変化等)に応じて発生するボケ(非使用中の扉72の前面72fに生じるボケ)を反映したボケマップ290がリアルタイムに生成され得る。あるいは、画像が建造物の壁面に投影される際に当該壁面の前に一時的に置かれた箱にも当該画像(詳細にはその一部)が投影される場合、当該箱に投影される画像のボケをも反映したボケマップ290がリアルタイムに生成され得る。また、店舗内での投影状況(プロジェクタ20の投影範囲、投影角度、投影位置等)が変化する場合、当該投影状況の変化に伴うボケの分布状況の変化を反映したボケマップ290がリアルタイムに生成され得る。
【0114】
さらに、投影用画像群410の投影期間内に生成されたボケマップ290に基づいて、補正画像320が当該投影期間内に(リアルタイムで)生成されてもよい。具体的には、投影用画像群410の投影処理に並行して、投影用画像群410を構成する一連の複数の投影用画像310のそれぞれが投影される直前等において当該複数の投影用画像310のそれぞれについての補正画像320がリアルタイムで生成されてもよい。詳細には、投影用画像群410の一の投影用画像310についての補正画像320が、投影用画像群410の投影期間内且つ当該一の投影用画像310の投影前に生成されたボケマップ290に基づき、生成されてもよい。そして、当該投影期間内において、当該一の投影用画像310についての当該補正画像320と当該一の投影用画像310とが合成あるいは重畳されて投影面90に投影されてもよい。
【0115】
これによれば、投影用画像群410の投影処理に対して並列的に補正画像320が生成される。それ故、投影用画像群410をリアルタイムで補正することが可能である。また、投影用画像群410の投影処理に対して並列的に(リアルタイムで)ボケマップ290が生成され且つ当該ボケマップ290に基づきリアルタイムで補正画像320が生成される。したがって、時々刻々と変化する投影面90の凹凸状態に応じた補正画像320(リアルタイムで更新されるボケマップ290に基づく補正画像320)をリアルタイムで生成することが可能である。ひいては、投影面にプロジェクタによって投影される画像の解像感の低下をリアルタイムで抑制することが可能である。また、プロジェクタ20の配置等が変更された直後の投影用画像群410の投影期間においても、ボケマップ290および補正画像320がリアルタイムで自動的に生成される。それ故、プロジェクタ20の配置を変更するたびに、プロジェクタ20の配置を変更するごとに、ユーザが調整モード(ボケマップ290の生成モード)への変更操作を逐一行うことを要しない。ユーザは、通常の投影動作を装置に実行させれば済む。
【0116】
また、投影用画像群410の投影期間内に生成されたボケマップ290に基づいて、補正画像320が当該投影期間内に生成される場合において、投影用画像310のうちボケ位置に対応する部分領域のみの鮮鋭化画像(あるいはエッジ抽出画像等)が補正画像320として生成されてもよい。これによれば、投影用画像310の全体について補正画像が生成される場合に比べて、補正画像320の生成処理の負荷を抑制すること(ひいては補正画像の生成時間を低減すること等)が可能である。特に、比較的低い処理能力を有するコントローラ31においても、補正画像320をリアルタイムで生成することが可能である。
【0117】
<2.第2実施形態>
第2実施形態は、第1実施形態等の変形例である。以下では、第1実施形態との相違点を中心に説明する。
【0118】
上記第1実施形態においては、投影用画像310と補正画像320との両画像が合成されて投影面90に投影されている。一方、この第2実施形態では、当該両画像が重畳されて投影される。より具体的には、投影用画像310と補正画像320とが別個のプロジェクタ20で投影面90に重畳投影される。
【0119】
図15は、第2実施形態に係るプロジェクタシステム1(1Bとも称する)の機能ブロックを示す図である。図1の第1実施形態に係るプロジェクタシステム1Aと比較すると判るように、図15のプロジェクタシステム1Bは、さらに1台のプロジェクタ20(すなわち合計2台のプロジェクタ20(20a,20b))を備えている。プロジェクタ20aとプロジェクタ20bとは、投影面90上の同じ位置(同じ範囲)に画像を投影することが可能である(図17参照)。
【0120】
第2実施形態においては、図16に示すように、2台のプロジェクタ20a,20bのうち、一方のプロジェクタ20aは、投影用画像(元画像)310を(そのまま)投影面90に投影し、他方のプロジェクタ20bは、補正画像320を投影面90に投影する。
【0121】
補正画像320が、ボケ位置に対応する部分(部分領域)Qのみで構成される場合には、投影面90上において当該補正画像320が投影用画像310の部分Qに重畳するように投影される。換言すれば、投影用画像310と同じサイズの透明画像内の部分Qに元の補正画像320を配置した新たな補正画像320が生成され、当該新たな補正画像320が投影用画像310に対して(投影用画像310と同じ位置に)重畳投影される。
【0122】
このような処理によっても第1実施形態と同様の効果を得ることが可能である。また、第2実施形態においては補正画像320と投影用画像310とを合成する合成処理を要しない。それ故、処理負荷の増大が抑制される。
【0123】
なお、補正画像320は、図16中段の補正画像320bとして示されるように、ボケ位置に対応する部分(部分領域)Q以外をも含んで構成されてもよい。具体的には、補正画像320bの部分Qは、投影用画像310に対して鮮鋭化処理(および/またはエッジ抽出処理)を施した後の画素で構成され、補正画像320bの部分Q以外の部分は、投影用画像310の画素自体で構成されてもよい。そして、補正画像320b内の部分Qと投影用画像310の部分Qとが投影面90上にて同じ位置に重畳されるように両画像310,320が投影されてもよい。
【0124】
<3.第3実施形態>
第3実施形態は、第2実施形態等の変形例である。以下では、第2実施形態との相違点を中心に説明する。
【0125】
第3実施形態に係るプロジェクタシステム1(1Cとも称する)は、第1実施形態に係るプロジェクタシステム1Aと同様のハードウエア構成を有する。第3実施形態においては、複数ではなく単一のプロジェクタ20(20a)が用いられる点等において、第1実施形態に類似し、第2実施形態と相違する。また、第3実施形態では、投影用画像310と補正画像320とが同時に重畳して投影されるのではなく、投影用画像310と補正画像320とが時分割で重畳して投影される。この点においても、第2実施形態等と相違する。
【0126】
図18は、投影用画像310と補正画像320とが時分割で重畳して投影される様子を示す概念図である。なお、補正画像320は、ボケ位置に対応する部分(部分領域)Qのみで構成されるものでもよく、当該部分Q以外をも含むもの(補正画像320b)でもよい。
【0127】
たとえば、静止画像である投影用画像310と当該投影用画像310の補正画像320とが微少期間ΔT(たとえば1/60秒)ずつ交互に投影面90に投影される。詳細には、n番目(n組目)の微少期間ΔTの投影用画像310(第nフレーム画像310nとも称する(nは自然数))とn番目(n組目)の微少期間ΔTの補正画像320(第nフレーム画像320nとも称する)とが微少期間ΔT(たとえば1/60秒)ずつ投影される処理が、値nをインクリメントしつつ繰り返し実行される。換言すれば、投影用画像310と補正画像320とが「1:1」の比率にて時分割で重畳される。
【0128】
なお、これに限定されず、第nフレーム画像310nの微少投影期間ΔT(ΔT1とも称する)と第nフレーム画像320nの微少投影期間ΔT(ΔT2とも称する)とは、異なる値であってもよい。すなわち、ΔT1>ΔT2、あるいは、ΔT1<ΔT2であってもよい。謂わば、投影用画像310と補正画像320とが、「1:1」以外の所定比率(たとえば「2:1」、「3:1」等)にて時分割で重畳されて投影されてもよい。換言すれば、複数のフレーム画像(投影用画像310)が順次に投影される際に、当該複数のフレーム画像の投影の合間を縫って、所定枚数おきに補正画像320が投影されてもよい。
【0129】
また、投影用画像群410(投影用の動画像)を構成する一連の複数の投影用画像310が順次に投影される際にも第3実施形態に係る思想を適用することが可能である。たとえば、動画像の第nフレーム画像310n(nは自然数)と当該第nフレーム画像310
nに対する補正画像320nとが微少期間ΔT(たとえば1/60秒)ずつ投影される処理が、値nをインクリメントしつつ繰り返し実行されればよい。あるいは、動画像を構成する当該複数の投影用画像310のうち所定枚数おきの投影用画像310に対してのみ補正画像320が投影されてもよい。
【0130】
この第3実施形態によれば、第2実施形態と同様の効果を得ることが可能である。特に、第3実施形態においても、補正画像320と投影用画像310とを合成する合成処理を要しない。それ故、処理負荷の増大が抑制される。また、第3実施形態のプロジェクタシステム1Cは、単一のプロジェクタ20を用いて構成される。複数のプロジェクタ20を要しないので、コストの低減を図ることが可能である。
【0131】
<4.その他>
以上、この発明の実施の形態について説明したが、この発明は上記説明した内容のものに限定されるものではない。以下のような改変等、様々な改変が可能である。
【0132】
<ボケマップ290等>
図9は、様々なボケマップ290を示す図である。
【0133】
上記各実施形態等では、ボケマップ290において、ボケが発生している領域(ボケ領域)293が白色領域(非黒色領域)で示され、ボケが発生していない領域(非ボケ領域)292が黒色領域で示されている。このように、各部分領域が、ボケの発生の有無に応じて2つに分類されている。特に、上記のボケマップ290においては、ボケの程度(ボケ量の多寡)に関する情報は削除されている。謂わば、ボケマップ290は、投影面90における各ボケ領域293の位置のみを示している。
【0134】
しかしながら、これに限定されず、ボケマップ290は、投影面における各ボケ領域293の位置のみならず、当該各ボケ領域のボケ量(ボケ量の分布状況)をも示すマップであってもよい。具体的には、基準投影画像240における各部分領域のボケ量(ボケの程度)もがボケマップ290内に保存されてもよい。図9の2段目~4段目のボケマップ290では、各部分領域のボケ量(ボケの程度)もがボケマップ290内に保存される態様が示されている。
【0135】
図9の2段目~4段目のボケマップ290においては、値「0」以外の様々なボケ量を部分領域ごとに有するボケ領域293は、部分領域ごとのボケ量に応じた異なる濃度(濃淡)で示されている。詳細には、当該ボケ領域293は、そのボケ量が「0」に近いときには黒に近い色(暗い灰色等)で示され、そのボケ量(ボケの程度)が大きくなるにつれて徐々に白色に近づく色(明るい灰色あるいは白色等)で示されている。なお、ボケ量「0」を有する非ボケ領域292は、上記と同様に黒色領域として示されている。
【0136】
図9の上から2段目のボケマップ290は、2つのボケ領域(非黒色領域)293を検出した状況を示している。ただし、図9の上から2段目のボケマップ290内の2つの非黒色領域293のうち、灰色で示される一方の領域は、白色で示される他方の領域よりもボケの程度が小さな領域である。たとえば、投影面90にて2つの凹凸部93(詳細には、2つの凸部93a(図2参照))が存在する場合において、2つの凹凸部に対応する各領域で、その程度が異なるボケが生じている状況が示されている。当該2つの凹凸部93(93a)は、平面視にて正方形状を有し且つ断面視にて(細長い)矩形形状をそれぞれ有している。特に、当該2つの凹凸部93の突出の程度(基準位置P1(図2参照)からの高さ)が互いに異なっている。その結果、2つの凹凸部93におけるボケの程度が互いに異なる。ボケマップ290においては、2つの凹凸部93の互いに異なるボケの程度を示す別異の値が凹凸部93ごとに(詳細には部分領域ごとに)保存される。図9の上から2段目のボケマップ290においては、比較的低い突出部を有する矩形領域が灰色で示され、比較的高い突出部を有する矩形領域が白色で示されている。
【0137】
図9の上から3段目のボケマップ290は、投影面90における2つの凹凸部93(詳細には、凸部93b,93c(図2参照))に対応する各領域内にて、その程度が徐々に変化するボケが生じている状況を示している。なお、図示の都合上、きめ細やかなグラデーションで色が変化するように描かれているが、実際には部分領域ごとに段階的に色が変化する。
【0138】
たとえば、凸部93bは、略凸曲面形状を有しており、凸部93bの中央部から周縁部にかけて突出の程度が徐々に小さくなっている。当該凸部93bに起因するボケは、図9の上から3段目の右側のボケ領域293に現れている。凸部93bにおけるボケの程度は、略円形部分の中心部で最も大きく、当該中心部から周縁部中心にかけて徐々に小さくなる。
【0139】
また、凸部93cは、平面視にて正方形状を有し且つ断面視にて略V字型形状を有している。凸部93cの突出の程度は、凸部93cの中央部から上端部にかけて徐々に小さくなるとともに、凸部93cの中央部から下端部にかけて徐々に小さくなる。当該凸部93cに起因するボケは、図9の上から3段目の左上側のボケ領域293に現れている。凸部93cにおけるボケの程度は、凸部93cの中央部で最も大きく(白色に近い色で表示)、当該中央部から離れるにつれて徐々に小さくなる(黒色に近い色で表示)。
【0140】
凸部93bおよび凸部93cに関するボケの分布(ボケ位置およびボケ量の分布)がボケマップ290に保存される。
【0141】
<補正画像320の補正度合い>
さらに、補正画像320を生成する際の補正処理(鮮鋭化処理等)の補正度合い(シャープネスの強調度合い(鮮鋭化の度合い)、あるいは抽出エッジの明度等)が、部分ごとのボケ量(各ボケ位置におけるボケ量)に応じて変更されてもよい。換言すれば、基準投影画像240内の各ボケ位置におけるボケ量に応じて、補正画像320内の各ボケ位置に対応する部分の補正度合いが変更されてもよい。より詳細には、比較的大きなボケが発生している部分には、比較的強いシャープネス強調補正等(比較的小さなボケが発生している部分よりも強い補正処理)が施されればよい。たとえば、図9の上から2段目、3段目(および4段目(後述))の各ボケマップ290の部分領域ごとのボケ量に応じて、補正画像320内の各ボケ位置に対応する部分の補正度合いが変更されてもよい。
【0142】
<凹凸部93を有しない投影面90等>
また、上記各実施形態等においては、凹凸部93を有する投影面90が例示されているが、これに限定されない。
【0143】
たとえば、図19および図9の上から4段目に示すように、投影面90自体は平面である(凹凸部93を有しない)ものの投影面90の傾斜角度θの影響により投影面90内にて部分的にボケが発生する場合にも、本発明の思想を適用することが可能である。傾斜角度θは、投影面90とプロジェクタ20の光軸Lに垂直な面とがなす角度である。
【0144】
詳細には、当該傾斜角度θが一定程度以上である場合(図19参照)等において、(レンズ構成等を考慮した別途の補正を行っても補正しきれずに)投影面90の所定方向における一方端と他方端との少なくとも一方付近において、ボケが残る(発生する)ことがある。図9の上から4段目(最下段)のボケマップ290は、上下方向の中央部においては、ボケが発生しておらず、上端付近と下端付近との双方においてボケが発生している状況を示している。また、投影面90の上端に近付くにつれてボケの程度が徐々に大きくなっており(徐々に白く表示されており)、且つ、投影面90の下端に近付くにつれてボケの程度が徐々に大きくなっている(徐々に白く表示されている)。
【0145】
このような場合においても本発明を適用し、ボケマップ290を用いた上述のような処理を行うことによって、当該ボケに起因する解像感の低下を抑制することが可能である。
【0146】
<補正画像320等>
また、上記各実施形態等においては、補正画像320は、主に、投影用画像310の全体のうちボケ位置に対応する部分についてのみ(端的に言えば、投影用画像310の一部領域についてのみ)生成されているが、これに限定されない。また、補正画像320は、ボケ位置に対応する部分(部分領域)がボケマップ290に基づいて特定された上で生成されることを要さず、結果的に、ボケ位置に対応する部分に対して補正処理が施されて補正画像320が生成されてもよい。
【0147】
たとえば、投影用画像310の全体に亘る範囲の補正画像320が生成されてもよい。すなわち、補正画像320は投影用画像310の全領域について生成されてもよい。具体的には、当該補正画像320は、ボケマップ290の部分領域ごとのボケ量に応じた補正強度で元の投影用画像310に対して所定の補正処理(鮮鋭化処理およびエッジ抽出補正等)が施されて生成されてもよい。詳細には、ボケマップ290の非ボケ位置の部分領域の画素値は「ゼロ」であり、補正処理における補正強度は「ゼロ」である。すなわち、元の投影用画像310における当該非ボケ位置の対応領域(非ボケ位置対応領域)に対しては補正処理(鮮鋭化処理等)が実質的に施されない。一方、ボケマップ290のボケ位置の部分領域の画素値はボケ量(たとえば「1」~「100」)を有している。元の投影用画像310における当該ボケ位置の対応領域(ボケ位置対応領域)に対しては、当該対応領域でのボケ量に応じた強度(たとえば「1」~「100」)で元の投影用画像310に対して所定の補正処理(鮮鋭化処理およびエッジ抽出補正等)が施される。その結果、ボケ位置対応領域においてのみ元画像310に対して補正処理(鮮鋭化処理等)が施され、非ボケ位置対応領域においては補正処理(鮮鋭化処理等)が実質的に施されずそのままの状態の元画像310が維持される。このように、結果的に、ボケ位置に対応する部分に対して補正処理が施されて投影用画像310の全域に亘る補正画像320が生成されてもよい。
【0148】
また、上記各実施形態等において、補正画像320は必ずしも投影用画像310と同じ解像度を有することを要しない。
【0149】
たとえば、補正画像320(の全域)の解像度は、投影用画像310(の全域)の解像度「1980×1080画素」よりも低い解像度「960×540画素」であってもよい。その上で、両画像310,320は、当該両画像の投影範囲が同じになるように、合成あるいは重畳して投影されればよい。
【0150】
これによれば、比較的低い解像度の補正画像320を生成すれば済むので、補正画像320の生成処理の負荷が軽減される。その結果、比較的低スペックのコントローラによっても補正画像320をリアルタイムで生成することが可能になる。このような改変は、第2実施形態および第3実施形態(補正画像320が投影用画像310に対して(合成ではなく)重畳されて投影される態様)において特に有用である。たとえば、第2実施形態のプロジェクタ20bで表示される補正画像320が比較的低解像度の画像として高速に生成され得る。
【0151】
また特に、補正画像320としてエッジ抽出画像が生成される場合、低解像度であってもエッジが強調された部分画像が補正画像320として投影用画像310に対して合成あるいは重畳される。それ故、合成ないし重畳して投影された画像において、解像感の低下が適切に抑制され得る。
【0152】
また、上記各実施形態等において、投影用画像310の全領域のうち一部の領域(マスク領域とも称する)については補正画像320(および/またはボケマップ290)は常に生成されないように改変されてもよい。たとえば、2次元コードの表示領域が当該マスク領域として取り扱われ、2次元コードの表示領域にボケが発生していても当該表示領域には補正処理(鮮鋭化処理等)が施されないようにしてもよい。
【符号の説明】
【0153】
1 プロジェクタシステム
20,20a,20b プロジェクタ
30 情報処理装置
50 カメラ
70 ロッカー装置
71 収納部
72 扉
73 把手部
90 投影面
93 凹凸部
210 基準画像
240 基準投影画像
250 撮影画像
290 ボケマップ
310 投影用画像
320 補正画像
340 投影画像
図1
図2
図3
図4
図5
図6
図7
図8
図9
図10
図11
図12
図13
図14
図15
図16
図17
図18
図19