(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公開特許公報(A)
(11)【公開番号】P2023177422
(43)【公開日】2023-12-14
(54)【発明の名称】画像処理装置、画像処理方法及びプログラム
(51)【国際特許分類】
G09G 5/14 20060101AFI20231207BHJP
G09G 5/08 20060101ALI20231207BHJP
G09G 5/36 20060101ALI20231207BHJP
G06F 3/04845 20220101ALI20231207BHJP
G06F 3/04812 20220101ALI20231207BHJP
H04N 13/239 20180101ALN20231207BHJP
H04N 13/344 20180101ALN20231207BHJP
G02B 27/02 20060101ALN20231207BHJP
【FI】
G09G5/14 A
G09G5/08 K
G09G5/36 520P
G06F3/04845
G06F3/04812
H04N13/239
H04N13/344
G02B27/02 Z
【審査請求】未請求
【請求項の数】11
【出願形態】OL
(21)【出願番号】P 2022090068
(22)【出願日】2022-06-02
【公序良俗違反の表示】
(特許庁注:以下のものは登録商標)
1.BLUETOOTH
(71)【出願人】
【識別番号】000001007
【氏名又は名称】キヤノン株式会社
(74)【代理人】
【識別番号】100090273
【弁理士】
【氏名又は名称】國分 孝悦
(72)【発明者】
【氏名】石井 正俊
【テーマコード(参考)】
2H199
5C061
5C182
5E555
【Fターム(参考)】
2H199CA23
2H199CA25
2H199CA42
2H199CA92
2H199CA94
5C061AA01
5C061AB12
5C061AB24
5C182AA02
5C182AA03
5C182AB34
5C182AC03
5C182AC38
5C182BA14
5C182BB04
5C182BB12
5C182BC01
5C182BC22
5C182CA01
5C182CB14
5C182CB44
5C182CB54
5C182CC11
5E555AA06
5E555BA04
5E555BA83
5E555BB04
5E555BC04
5E555BC17
5E555CB36
5E555CC03
5E555DA08
5E555DA09
5E555DB06
5E555DB52
5E555FA00
(57)【要約】
【課題】画像ファイルを開いて主画像を確認することなく、観察者が観察していた表示画角の外側の情報を素早く確認できる仕組みを提供する。
【解決手段】画像ファイルに記録された第1の画角をもつ第1のサムネイル画像を取得する画像取得部403と、第1の画角とは異なる第2の画角をもつ第2のサムネイル画像を生成する画像生成部404と、ユーザが操作するカーソルの位置が画面のサムネイル表示領域上に位置するか否かに応じてサムネイル表示領域に表示するサムネイル画像を設定する画像設定部405と、画像設定部405によって設定されたサムネイル画像を画面のサムネイル表示領域に表示する表示部406と、を備え、画像設定部405は、カーソルの位置が画面のサムネイル表示領域上に位置する場合に、第2のサムネイル画像をサムネイル表示領域に表示するサムネイル画像として設定する。
【選択図】
図4
【特許請求の範囲】
【請求項1】
サムネイル画像を画面に表示するための処理を行う画像処理装置であって、
前記サムネイル画像よりも画角の広い主画像を含む画像ファイルを入力する入力手段と、
カーソルが前記画面上のサムネイル表示領域上に位置する場合、前記主画像をサムネイル画像として前記画面上に表示させる制御を行う制御手段と、
を有することを特徴とする画像処理装置。
【請求項2】
前記制御手段は、
前記カーソルの位置を取得する位置取得手段と、
前記画像ファイルに記録された第1の画角をもつ第1のサムネイル画像を取得する画像取得手段と、
前記第1の画角とは異なる第2の画角をもつ第2のサムネイル画像を生成する画像生成手段と、
前記カーソルの位置が前記サムネイル表示領域上に位置するか否かに応じて、前記サムネイル表示領域に表示するサムネイル画像を設定する画像設定手段と、
を有し、
前記制御手段は、前記設定されたサムネイル画像を前記画面上に表示させる制御を行うことを特徴とする請求項1に記載の画像処理装置。
【請求項3】
前記第2の画角は、前記第1の画角よりも広い画角であることを特徴とする請求項2に記載の画像処理装置。
【請求項4】
前記第2の画角は、前記画像ファイルに記録された前記主画像の画角と同じ画角であることを特徴とする請求項2に記載の画像処理装置。
【請求項5】
前記画像生成手段は、前記第1のサムネイル画像よりも大きい前記第2のサムネイル画像を生成することを特徴とする請求項2に記載の画像処理装置。
【請求項6】
前記画像生成手段は、前記第1のサムネイル画像の領域を識別する情報を付した前記第2のサムネイル画像を生成することを特徴とする請求項5に記載の画像処理装置。
【請求項7】
前記画像生成手段は、前記第1のサムネイル画像と同じ大きさの前記第2のサムネイル画像を生成することを特徴とする請求項2に記載の画像処理装置。
【請求項8】
前記第1のサムネイル画像に対応する前記主画像の部分領域における大きさを示す表示領域情報を前記画像ファイルのメタデータから取得する情報取得手段を更に有し、
前記画像生成手段は、前記表示領域情報に基づいて前記主画像の中央部を前記部分領域における大きさで切り出した画角の画像を前記第2のサムネイル画像として生成することを特徴とする請求項2に記載の画像処理装置。
【請求項9】
前記表示領域情報は、前記部分領域における幅と高さの情報を含むことを特徴とする請求項8に記載の画像処理装置。
【請求項10】
サムネイル画像を画面に表示するための処理を行う画像処理方法であって、
前記サムネイル画像よりも画角の広い主画像を含む画像ファイルを入力する入力ステップと、
カーソルが前記画面上のサムネイル表示領域上に位置する場合、前記主画像をサムネイル画像として前記画面上に表示させる制御を行う制御ステップと、
を有することを特徴とする画像処理方法。
【請求項11】
コンピュータを、請求項1に記載の画像処理装置の各手段として機能させるためのプログラム。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、ディスプレイ上のサムネイル画像を処理する画像処理に関する。
【背景技術】
【0002】
従来、ビデオシースルー型のヘッドマウントディスプレイ(HMD)は、現実の被写体を撮像して取得した実写画像(撮像画像)にCG(コンピュータグラフィクス)画像を重畳した表示画像をLCD等の表示素子に表示し、当該表示素子からの光を表示光学系により観察者の眼に導く。このようなビデオシースルー型のHMDは、撮像画像と表示画像との位置合わせを容易にする等の理由から、一般的に撮像する画角(以下、「撮像画角」と記載する)が表示素子に表示する画角(以下、「表示画角」と記載する)よりも広い。また、このようなHMDにおいて、観察者が観察している表示画像を画像ファイルとして記録するためにスクリーンショット機能が用いられるが、一般的にスクリーンショットでは、表示画角の表示画像をそのまま画像ファイルとして記録する。そのため、画像ファイルに記録されたスクリーンショット画像を後で外部ディスプレイにより再生して観察した際に、表示画角の周囲の状況を確認することはできない。
【0003】
このようなビデオシースルー型のHMDにおいて、HMDに表示する表示画像よりも広い画角に相当する画像を生成する技術が特許文献1に開示されている。特許文献1には、表示画像よりも広い画角に相当する画像を外部ディスプレイに表示することが記載されている。スクリーンショット画像ファイルを生成する際に、表示画角の画像を主画像として設定する代わりに、特許文献1に開示された方法により表示画角よりも広画角な画像を生成し、これを主画像として設定する。一方で、サムネイル画像には、従来通り表示画角の画像を設定する。そして、この主画像とサムネイル画像を併せて画像ファイルに記録する。これにより、サムネイル画像を表示することで観察者が実際観察していた画像の確認を行うことができ、さらに主画像を表示することでその周囲の状況の確認を行うことが可能となる。
【先行技術文献】
【特許文献】
【0004】
【発明の概要】
【発明が解決しようとする課題】
【0005】
しかしながら、上述した従来の技術では、スクリーンショット保存時にHMDの観察者が観察していた表示画角よりも外側の情報をサムネイル画像のみからは確認できないため、画像ファイルを一度開いて主画像を確認する必要があった。そのため、この主画像の表示処理に時間がかかるという課題があった。
【0006】
本発明は、このような課題に鑑みてなされたものであり、画像ファイルを開いて主画像を確認することなく、観察者が観察していた表示画角の外側の情報を素早く確認できるようにすることを目的とする。
【課題を解決するための手段】
【0007】
本発明の画像処理装置は、サムネイル画像を画面に表示するための処理を行う画像処理装置であって、前記サムネイル画像よりも画角の広い主画像を含む画像ファイルを入力する入力手段と、カーソルが前記画面上のサムネイル表示領域上に位置する場合、前記主画像をサムネイル画像として前記画面上に表示させる制御を行う制御手段と、を有する。
【発明の効果】
【0008】
本発明によれば、画像ファイルを開いて主画像を確認することなく、観察者が観察していた表示画角の外側の情報を素早く確認することができる。
【図面の簡単な説明】
【0009】
【
図1】第1の実施形態に係る画像表示システム(ビデオシースルー型のHMDシステム)の概略構成の一例を示す図である。
【
図2】
図1に示すHMDの内部構成の一例を示す図である。
【
図3】
図1に示す画像処理装置のシステム構成の一例を示す図である。
【
図4】第1の実施形態を示し、
図1及び
図3に示す画像処理装置の構成の一例を示す図である。
【
図5】第1の実施形態を示し、
図3及び
図4に示す画像処理装置による画像処理方法の処理手順の一例を示すフローチャートである。
【
図6】第1の実施形態を示し、カーソルの位置が画面における画像ファイルのサムネイル表示領域上に位置するか否かに応じて変化するサムネイル画像表示方法を説明するための図である。
【
図7】第3の実施形態を示し、カーソルの位置が画面における画像ファイルのサムネイル表示領域上に位置する場合のサムネイル画像表示方法を説明するための図である。
【
図8】第2の実施形態を示し、
図1及び
図3に示す画像処理装置の機能構成の一例を示す図である。
【
図9】第2の実施形態を示し、
図3及び
図8に示す画像処理装置による画像処理方法の処理手順の一例を示すフローチャートである。
【
図10】第2の実施形態を示し、カーソルの位置が画面における画像ファイルのサムネイル表示領域上に位置するか否かに応じて変化するサムネイル画像表示方法を説明するための図である。
【発明を実施するための形態】
【0010】
以下に、図面を参照しながら、本発明を実施するための形態(実施形態)について説明する。この際、以下に説明する実施形態は、本発明を限定するものではなく、また、実施形態で説明されている特徴の組み合わせの全てが本発明の解決手段に必須のものとは限らない。なお、同一の構成については、同じ符号を付して説明する。
【0011】
(第1の実施形態)
まず、第1の実施形態について説明する。
【0012】
第1の実施形態では、サムネイル画像よりも画角の広い主画像を含む画像ファイルに対して、サムネイル画像を使ったファイル一覧を画面に表示する際に、以下の処理を行う。具体的に、第1の実施形態では、観察者であるユーザが操作するカーソルの位置に応じて表示するサムネイル画像の画角を変更する処理を行う。
【0013】
図1は、第1の実施形態に係る画像表示システム(ビデオシースルー型のHMDシステム)100の概略構成の一例を示す図である。画像表示システム100は、
図1に示すように、ビデオシースルー型のHMD101、画像処理装置102、及び、ユーザ入力装置103を有して構成されている。
【0014】
HMD101は、観察者の頭部に装着され、撮像により取得した左眼用及び右眼用の撮像画像をそれぞれ観察者の左眼及び右眼を通して観察させるヘッドマウントディスプレイである。このHMD101は、ビデオシースルー型のHMDである。
【0015】
画像処理装置102は、HMD101で得られた画像を処理する装置である。本実施形態においては、画像処理装置102とHMD101とは、例えばHDMI(登録商標)ケーブルなどの映像信号線やUSBケーブルなどのデータ信号線で接続され、画像データや制御信号などの通信を行う。
【0016】
ユーザ入力装置103は、画像処理装置102に対して、HMD101を頭部に装着する観察者であるユーザからの入力を行う装置である。このユーザ入力装置103は、例えば、キーボード、マウス、コントローラなどで構成されている。
【0017】
図2は、
図1に示すHMD101の内部構成の一例を示す図である。
HMD101は、
図2に示すように、観察者の左眼Elと右眼Erに対応して設けられ、現実世界を実写画像として取得するための左眼用背景カメラ201と右眼用背景カメラ202を有している。これらの背景カメラ201及び202の撮像画角は、それぞれ、左眼用撮像画角209及び右眼用撮像画角210である。なお、本実施形態では、説明の簡略化のために、左眼用撮像画角209及び右眼用撮像画角210は等しいものとし、これらを称して単に「撮像画角」という表現も用いる。また、HMD101は、
図2に示すように、観察者の左眼Elと右眼Erに対応して設けられ、観察者に画像を観察させるために、液晶パネルや有機ELパネルなどの表示用パネルで構成される左眼用ディスプレイ203と右眼用ディスプレイ206を有している。さらに、HMD101は、
図2に示すように、これらのディスプレイ203及び206の前に、左眼用接眼レンズ204と右眼用接眼レンズ207が配置されている。観察者は、これらの接眼レンズ204及び207を通して、それぞれ、ディスプレイ203及び206に表示された表示画像の拡大虚像を観察する。これらのディスプレイ203及び206と接眼レンズ204及び207で構成される表示部の表示画角は、それぞれ、左眼用表示画角205及び右眼用表示画角208である。なお、本実施形態では、説明の簡略化のために、左眼用表示画角205及び右眼用表示画角208は等しいものとし、これらを称して単に「表示画角」という表現も用いる。また、HMD101は、観察者の位置姿勢を取得するための不図示の各種のセンサ類を有している。ここで、背景カメラ201及び202の撮像画角である左眼用撮像画角209及び右眼用撮像画角210は、それぞれ、表示部の表示画角である左眼用表示画角205及び右眼用表示画角208よりも広く設計されているものとする。
【0018】
HMD101は、不図示の観察者の頭部に装着され、観察者の左眼El及び右眼Erのそれぞれに左眼用表示画像及び右眼用表示画像(の拡大虚像)を観察させる。
【0019】
画像処理装置102は、HMD101の左眼用背景カメラ201及び右眼用背景カメラ202から取得した実写画像にCGレンダリング画像を重畳することで第1画像を生成する。そして、画像処理装置102は、HMD101の表示画角に相当する画像領域を第1画像から取得し、左眼用表示画像及び右眼用表示画像として生成する。そして、画像処理装置102は、これらの表示画像をHMD101の左眼用ディスプレイ203及び右眼用ディスプレイ206に表示する。
【0020】
本実施形態では、画像処理装置102がHMD101から独立したシステム構成として説明を行うが、HMD101の内部に画像処理装置102を含んだ一体型のHMDシステムのような構成をとってもよい。また、ユーザ入力装置103が、画像処理装置102に有線接続されたシステム構成として説明を行うが、画像処理装置102にBluetoothなどの公知の無線技術により接続されたシステム構成をとってもよい。
【0021】
図3は、
図1に示す画像処理装置102のシステム構成の一例を示す図である。
画像処理装置102は、
図3に示すように、CPU301、RAM302、ROM303、HDD304、汎用I/F305、映像出力I/F306、及び、メインバス307のシステム構成を有する。
【0022】
CPU301は、画像処理装置102内の各部を統括的に制御するプロセッサーである。RAM302は、CPU301の主メモリ、ワークエリア等として機能する。ROM303は、CPU301によって実行されるプログラム群を格納している。HDD304は、CPU301によって実行されるアプリケーションや、画像処理に用いられるデータ等を記憶する。汎用I/F305は、USBやIEEE1394等のシリアルバスインターフェースであり、ユーザ入力装置103と接続されている。観察者であるユーザは、ユーザ入力装置103を通じて、スクリーンショットなどのコマンドを画像処理装置102に伝えることができる。また、汎用I/F305は、HMD101とも接続され、左眼用背景カメラ201及び右眼用背景カメラ202の撮像画像の取得や位置姿勢情報などの取得に使用される。本実施形態においては、この汎用I/F305は、画像処理装置102において、サムネイル画像よりも画角の広い主画像を含む画像ファイルをCPU301等(RAM302やHDD304を含む)に入力する入力手段として構成される。映像出力I/F306は、HDMIやディスプレイポートなどのI/Fであり、HMD101に表示画像を表示させるために使用される。メインバス307は、CPU301、RAM302、ROM303、HDD304、汎用I/F305及び映像出力I/F306を通信可能に接続するバスである。
【0023】
図4は、第1の実施形態を示し、
図1及び
図3に示す画像処理装置102の構成の一例を示す図である。
図4の画像処理装置102は、カーソル位置取得部401、カーソル位置判定部402、第1のサムネイル画像取得部403、第2のサムネイル画像生成部404、サムネイル画像設定部405、及び、表示部406の構成を有する。例えば、
図3に示すCPU301がROM303に格納されているプログラムを実行することにより、
図4に示す各構成部401~406が実現される。
【0024】
画像処理装置102は、第1の画角をもつサムネイル画像よりも画角の広い主画像を含む画像ファイルに対して、サムネイル画像を使ったファイル一覧を左眼用ディスプレイ203及び右眼用ディスプレイ206の画面に表示する処理を行う。
【0025】
カーソル位置取得部401は、HMD101を頭部に装着する観察者であるユーザが画像ファイルを選択するために操作するカーソルの位置を取得する位置取得手段である。そして、カーソル位置取得部401は、取得したカーソルの位置をカーソル位置判定部402に出力する。
【0026】
カーソル位置判定部402は、カーソル位置取得部401で取得したカーソルの位置が、画面における画像ファイルのサムネイル表示領域上(サムネイル画像上)に位置するか否かを判定する位置判定手段である。そして、カーソル位置判定部402は、この判定結果をサムネイル画像設定部405に出力する。
【0027】
第1のサムネイル画像取得部403は、画像ファイルに記録された第1の画角をもつサムネイル画像を第1のサムネイル画像として取得する画像取得手段である。そして、第1のサムネイル画像取得部403は、取得した第1のサムネイル画像をサムネイル画像設定部405に出力する。
【0028】
第2のサムネイル画像生成部404は、上述した第1のサムネイル画像における第1の画角とは異なる第2の画角をもつ第2のサムネイル画像を生成する画像生成手段である。本実施形態においては、第2のサムネイル画像生成部404は、画像ファイルに記録された主画像の画角と同じ画角である第2の画角(第1の画角よりも広い画角)をもつサムネイル画像を第2のサムネイル画像として生成する。すなわち、主画像を入力して第2のサムネイル画像とする。そして、第2のサムネイル画像生成部404は、生成した第2のサムネイル画像をサムネイル画像設定部405に出力する。
【0029】
サムネイル画像設定部405は、カーソル位置判定部402による、カーソルの位置が画面の画像ファイルのサムネイル表示領域上に位置するか否かの判定結果に応じて、サムネイル表示領域に表示するサムネイル画像を設定する画像設定手段である。具体的に、サムネイル画像設定部405は、カーソルの位置が画面における画像ファイルのサムネイル表示領域上に位置する場合に、第2のサムネイル画像を上述したサムネイル表示領域に表示するサムネイル画像として設定する。また、サムネイル画像設定部405は、カーソルの位置が画面における画像ファイルのサムネイル表示領域上に位置しない場合に、第1のサムネイル画像を上述したサムネイル表示領域に表示するサムネイル画像として設定する。そして、サムネイル画像設定部405は、設定したサムネイル画像を表示部406に出力する。あるいは、サムネイル画像設定部405は、設定したサムネイル画像を表示部406に表示させるよう、表示部を制御するための制御信号を出力してもよい。この場合、サムネイル画像設定部405は、画像処理装置102において制御手段として構成される。また、この制御手段には、サムネイル画像設定部405に加えて、カーソル位置取得部401、カーソル位置判定部402、第1のサムネイル画像取得部403及び第2のサムネイル画像生成部404を含めるようにしてもよい。
【0030】
表示部406は、サムネイル画像設定部405によって設定されたサムネイル画像を、左眼用ディスプレイ203及び右眼用ディスプレイ206の画面における画像ファイルのサムネイル表示領域に表示する表示手段である。
【0031】
次に、本実施形態の画像処理装置102が、HMD101を頭部に装着する観察者であるユーザによるカーソルの操作に基づいて実行する処理手順について説明する。
図5は、第1の実施形態を示し、
図3及び
図4に示す画像処理装置102による画像処理方法の処理手順の一例を示すフローチャートである。
図3に示すCPU301は、ROM303又はHDD304に格納された
図5に示すフローチャートの処理を実行するためのプログラムを読み出して、RAM302をワークエリアとして処理を実行する。これにより、
図3に示すCPU301は、
図4に示す各機能構成としての役割を果たす。なお、
図5のフローチャートにおいては、各工程(ステップ)を「S」と表記することとする。
【0032】
S501において、カーソル位置取得部401は、画像ファイルを選択するためにユーザ入力装置103によって入力されたユーザ操作によるカーソルの位置を取得する。この際、カーソル位置取得部401は、例えば左眼用ディスプレイ203及び右眼用ディスプレイ206の画面の左上を原点とする直交座標系における座標値として、カーソルの位置を取得する。
【0033】
S502において、カーソル位置判定部402は、S501で取得されたカーソルの位置が、画面における画像ファイルのサムネイル表示領域上に位置するか否かを判定する。この502の処理について、
図6を用いて説明する。
【0034】
図6は、第1の実施形態を示し、カーソルの位置が画面600における画像ファイルのサムネイル表示領域上に位置するか否かに応じて変化するサムネイル画像表示方法を説明するための図である。
図6(a)は、左眼用ディスプレイ203及び右眼用ディスプレイ206の画面600において、カーソル601の位置がサムネイル表示領域上にない場合の例を示している。また、
図6(b)は、左眼用ディスプレイ203及び右眼用ディスプレイ206の画面600において、カーソル601の位置がサムネイル表示領域上にある場合の例を示している。
図5のS502において、カーソル601の位置の判定は、カーソル601の位置を示す座標値とサムネイル画像が表示されているサムネイル表示領域を示す座標値(例えば、サムネイル表示領域の左上座標と右下座標)とを比較することで行えばよい。
【0035】
ここで再び、
図5の説明に戻る。
S502の判定の結果、S501で取得されたカーソルの位置が、画面における画像ファイルのサムネイル表示領域上に位置する場合には(S502/Yes)、S503に進む。
S503に進むと、第2のサムネイル画像生成部404は、カーソルで指示された画像ファイルに含まれる主画像をバイリニア補間などの公知の方法により縮小処理することによって、主画像の画角に相当する第2の画角をもつ第2のサムネイル画像を生成する。このS503で生成された第2のサムネイル画像は、
図3に示すRAM302にキャッシュされる。なお、第2のサムネイル画像のキャッシュが既に生成されている場合には、この画像データを読み出すことによって第2のサムネイル画像の生成処理を代替することができ、上述した主画像の縮小処理をその都度行う必要はない。
【0036】
続いて、S504において、サムネイル画像設定部405は、画面における画像ファイルのサムネイル表示領域に表示するサムネイル画像を、S503で生成した第2のサムネイル画像に設定する。
【0037】
また、S502の判定の結果、S501で取得されたカーソルの位置が、画面における画像ファイルのサムネイル表示領域上に位置しない場合には(S502/No)、S505に進む。
S505に進むと、第1のサムネイル画像取得部403は、画像ファイルに記録された第1の画角をもつサムネイル画像を第1のサムネイル画像として取得する。第1のサムネイル画像における第1の画角は、主画像及び第2のサムネイル画像における第2の画角よりも狭い画角である。
【0038】
続いて、S506において、サムネイル画像設定部405は、画面における画像ファイルのサムネイル表示領域に表示するサムネイル画像を、S505で取得した第1のサムネイル画像に設定する。
【0039】
S504の処理が終了した場合、或いは、S506の処理が終了した場合には、S507に進む。
S507に進むと、表示部406は、S504又はS506で設定されたサムネイル画像を、左眼用ディスプレイ203及び右眼用ディスプレイ206の画面における該当する画像ファイルのサムネイル表示領域に表示する。
図6(a)では、カーソル601の位置が画面600におけるサムネイル画像602の表示領域の外側に位置しているため、画像ファイルに記録されている第1のサムネイル画像602が表示されている。一方、
図6(b)では、カーソル601の位置がサムネイル画像603の表示領域の内側に位置しているため、第1のサムネイル画像602よりも画角の広い第2のサムネイル画像603が表示されている。ここで、
図6(b)に示す例では、第2のサムネイル画像生成部404は、第1のサムネイル画像602よりも大きい第2のサムネイル画像603を生成する形態を採る。また、本実施形態では、上述したように、第2のサムネイル画像603の画角(第2の画角)は、画像ファイルに記録されている主画像の画角と一致する(同じ)画角となっている。
【0040】
そして、S507の処理が終了すると、
図5のフローチャートの処理が終了する。
【0041】
以上説明した第1の実施形態に係る画像処理装置102は、サムネイル画像よりも画角の広い主画像を含む画像ファイルに対して、サムネイル画像を使ったファイル一覧を画面に表示する際に、以下の処理を行う。具体的に、カーソル位置取得部401は、HMD101を頭部に装着する観察者であるユーザが操作するカーソルの位置を取得する。第1のサムネイル画像取得部403は、画像ファイルに記録された第1の画角をもつ第1のサムネイル画像を取得する。また、第2のサムネイル画像生成部404は、第1のサムネイル画像における第1の画角とは異なる第2の画角(本実施形態では、第1の画角よりも広い画角)をもつ第2のサムネイル画像を生成する。そして、サムネイル画像設定部405は、カーソル位置取得部401で取得したカーソルの位置が画面の画像ファイルのサムネイル表示領域上に位置するか否かに応じて、サムネイル表示領域に表示するサムネイル画像を設定する。具体的に、サムネイル画像設定部405は、カーソルの位置が画面における画像ファイルのサムネイル表示領域上に位置する場合に、第2のサムネイル画像をサムネイル表示領域に表示するサムネイル画像として設定する。そして、表示部406は、サムネイル画像設定部405によって設定されたサムネイル画像を、左眼用ディスプレイ203及び右眼用ディスプレイ206の画面における画像ファイルのサムネイル表示領域に表示する。
かかる構成によれば、サムネイル画像よりも画角の広い主画像を含む画像ファイルに対して、サムネイル画像を使ったファイル一覧を画面に表示する際に、ユーザが操作するカーソルの位置に応じて表示するサムネイル画像の画角を変更することができる。これにより、画像ファイルを開いて主画像を確認することなく、観察者が観察していた表示画角の外側の情報を素早く確認することができる。
【0042】
(第2の実施形態)
次に、第2の実施形態について説明する。なお、以下に記載する第2の実施形態の説明では、上述した第1の実施形態と共通する事項については説明を省略し、上述した第1の実施形態と異なる事項について説明を行う。
【0043】
第2の実施形態では、サムネイル画像よりも画角の広い主画像を含む画像ファイルに対して、サムネイル画像を使ったファイル一覧を画面に表示する際に、以下の処理を行う。具体的に、第2の実施形態では、観察者であるユーザが操作するカーソル位置が画面における画像ファイルのサムネイル表示領域上に位置する場合に、表示するサムネイル画像の画角を主画像の中央部を切り出した画角に変更する処理を行う。
【0044】
第2の実施形態に係る画像表示システム(ビデオシースルー型のHMDシステム)の概略構成は、
図1に示す第1の実施形態に係る画像表示システム(ビデオシースルー型のHMDシステム)100の概略構成と同様である。また、第2の実施形態に係るHMD101の内部構成は、
図2に示す第1の実施形態に係るHMD101の内部構成と同様である。さらに、第2の実施形態に係る画像処理装置102のシステム構成は、
図3に示す第1の実施形態に係る画像処理装置102のシステム構成と同様である。
【0045】
図8は、第2の実施形態を示し、
図1及び
図3に示す画像処理装置102の機能構成の一例を示す図である。
図8の画像処理装置102は、カーソル位置取得部801、カーソル位置判定部802、第1のサムネイル画像取得部803、第2のサムネイル画像生成部804、サムネイル画像設定部805、表示部806、及び、表示領域情報取得部807を有する。
【0046】
カーソル位置取得部801は、
図4のカーソル位置取得部401と同様の機能を有する。即ち、カーソル位置取得部801は、HMD101を頭部に装着する観察者であるユーザが画像ファイルを選択するために操作するカーソルの位置を取得する位置取得手段である。そして、カーソル位置取得部801は、取得したカーソルの位置をカーソル位置判定部802に出力する。
【0047】
カーソル位置判定部802は、
図4のカーソル位置判定部402と同様の機能を有する。即ち、カーソル位置判定部802は、カーソル位置取得部801で取得したカーソルの位置が、画面における画像ファイルのサムネイル表示領域上(サムネイル画像上)に位置するか否かを判定する位置判定手段である。そして、カーソル位置判定部802は、この判定結果をサムネイル画像設定部805に出力する。
【0048】
第1のサムネイル画像取得部803は、
図4の第1のサムネイル画像取得部403と同様の機能を有する。即ち、第1のサムネイル画像取得部803は、画像ファイルに記録された第1の画角をもつサムネイル画像を第1のサムネイル画像として取得する画像取得手段である。そして、第1のサムネイル画像取得部803は、取得した第1のサムネイル画像をサムネイル画像設定部805に出力する。
【0049】
表示領域情報取得部807は、第1のサムネイル画像に対応する主画像の部分領域(画像領域)における大きさを示す表示領域情報を画像ファイルのメタデータから取得する情報取得手段である。ここで、本実施形態においては、表示領域情報は、第1のサムネイル画像に対応する主画像の部分領域における幅と高さの情報を含むものである。そして、表示領域情報取得部807は、取得した表示領域情報を第2のサムネイル画像生成部804に出力する。
【0050】
第2のサムネイル画像生成部804は、
図4の第2のサムネイル画像生成部404と同様の機能を有する。即ち、第2のサムネイル画像生成部804は、上述した第1のサムネイル画像における第1の画角とは異なる第2の画角をもつ第2のサムネイル画像を生成する画像生成手段である。具体的に、第2のサムネイル画像生成部804は、表示領域情報取得部807からの表示領域情報に基づき、主画像の中央部を第1のサムネイル画像に対応する主画像の部分領域における大きさで切り出した画角の画像を第2のサムネイル画像として生成する。そして、第2のサムネイル画像生成部804は、生成した第2のサムネイル画像をサムネイル画像設定部805に出力する。
【0051】
サムネイル画像設定部805は、
図4のサムネイル画像設定部405と同様の機能を有する。即ち、サムネイル画像設定部805は、カーソル位置判定部802による、カーソルの位置が画面の画像ファイルのサムネイル表示領域上に位置するか否かの判定結果に応じて、サムネイル表示領域に表示するサムネイル画像を設定する画像設定手段である。具体的に、サムネイル画像設定部805は、カーソルの位置が画面における画像ファイルのサムネイル表示領域上に位置する場合に、第2のサムネイル画像を上述したサムネイル表示領域に表示するサムネイル画像として設定する。また、サムネイル画像設定部805は、カーソルの位置が画面における画像ファイルのサムネイル表示領域上に位置しない場合に、第1のサムネイル画像を上述したサムネイル表示領域に表示するサムネイル画像として設定する。そして、サムネイル画像設定部805は、設定したサムネイル画像を表示部806に出力する。
【0052】
表示部806は、
図4の表示部406と同様の機能を有する。即ち、表示部806は、サムネイル画像設定部805によって設定されたサムネイル画像を、左眼用ディスプレイ203及び右眼用ディスプレイ206の画面における画像ファイルのサムネイル表示領域に表示する表示手段である。
【0053】
次に、本実施形態の画像処理装置102が、HMD101を頭部に装着する観察者であるユーザによるカーソルの操作に基づいて実行する処理手順について説明する。
図9は、第2の実施形態を示し、
図3及び
図8に示す画像処理装置102による画像処理方法の処理手順の一例を示すフローチャートである。
図3に示すCPU301は、ROM303又はHDD304に格納された
図9に示すフローチャートの処理を実行するためのプログラムを読み出して、RAM302をワークエリアとして処理を実行する。これにより、
図3に示すCPU301は、
図4に示す各機能構成としての役割を果たす。なお、
図9のフローチャートにおいては、各工程(ステップ)を「S」と表記することとする。
【0054】
S901において、カーソル位置取得部801は、画像ファイルを選択するためにユーザ入力装置103によって入力されたユーザ操作によるカーソルの位置を取得する。この際、カーソル位置取得部801は、例えば左眼用ディスプレイ203及び右眼用ディスプレイ206の画面の左上を原点とする直交座標系における座標値として、カーソルの位置を取得する。
【0055】
S902において、カーソル位置判定部802は、S901で取得されたカーソルの位置が、画面における画像ファイルのサムネイル表示領域上に位置するか否かを判定する。この902の処理について、
図10を用いて説明する。
【0056】
図10は、第2の実施形態を示し、カーソルの位置が画面における画像ファイルのサムネイル表示領域上に位置するか否かに応じて変化するサムネイル画像表示方法を説明するための図である。
図10(a)は、左眼用ディスプレイ203及び右眼用ディスプレイ206の画面において、カーソル1001の位置がサムネイル表示領域上にない場合の例を示している。また、
図10(b)は、左眼用ディスプレイ203及び右眼用ディスプレイ206の画面において、カーソル1001の位置がサムネイル表示領域上にある場合の例を示している。
図9のS902において、カーソル1001の位置の判定は、カーソル1001の位置を示す座標値とサムネイル画像が表示されているサムネイル表示領域を示す座標値(例えば、サムネイル表示領域の左上座標と右下座標)とを比較することで行えばよい。
【0057】
ここで再び、
図9の説明に戻る。
S902の判定の結果、S901で取得されたカーソルの位置が、画面における画像ファイルのサムネイル表示領域上に位置する場合には(S902/Yes)、S903に進む。
S903において、表示領域情報取得部807は、第1のサムネイル画像に対応する主画像の部分領域における大きさを示す表示領域情報を画像ファイルのメタデータから取得する。ここで、
図10(a)に示す第1のサムネイル画像1002は、主画像1003に比べて画角が狭いため、主画像1003の部分領域に相当する画像となっている。つまり、S903で取得される表示領域情報は、この第1のサムネイル画像1002に対応する主画像1003の部分領域における大きさを特定するための情報である。この表示領域情報としては、第1のサムネイル画像1002に対応する主画像1003の部分領域における幅と高さの情報を含むものを取得する。なお、表示領域情報としては、第1のサムネイル画像1002に対応する主画像1003の部分領域における左上座標と右下座標の情報や、主画像1003の水平垂直画角に対する部分領域の水平垂直画角のような情報などを取得してもよい。即ち、表示領域情報としては、第1のサムネイル画像1002に対応する主画像1003の部分領域における大きさ(幅と高さ)を特定することができれば、どのような情報を取得してもよい。
【0058】
続いて、S904において、第2のサムネイル画像生成部804は、S903で取得された表示領域情報に基づき、第1のサムネイル画像における第1の画角とは異なる第2の画角をもつ第2のサムネイル画像を生成する。具体的に、第2のサムネイル画像生成部804は、カーソルで指示された画像ファイルに含まれる主画像の中央部を第1のサムネイル画像に対応する主画像の部分領域における大きさで切り出した画角の画像を縮小処理して第2のサムネイル画像を生成する。このS904で生成された第2のサムネイル画像は、
図3に示すRAM302にキャッシュされる。なお、第2のサムネイル画像のキャッシュが既に生成されている場合には、この画像データを読み出すことによって第2のサムネイル画像の生成処理を代替することができ、上述した主画像の縮小処理をその都度行う必要はない。
【0059】
続いて、S905において、サムネイル画像設定部805は、画面における画像ファイルのサムネイル表示領域に表示するサムネイル画像を、S904で生成した第2のサムネイル画像に設定する。
【0060】
また、S902の判定の結果、S901で取得されたカーソルの位置が、画面における画像ファイルのサムネイル表示領域上に位置しない場合には(S902/No)、S906に進む。
S906に進むと、第1のサムネイル画像取得部803は、画像ファイルに記録された第1の画角をもつサムネイル画像を第1のサムネイル画像として取得する。第1のサムネイル画像における第1の画角は、主画像よりも画角の狭い画像である。
【0061】
続いて、S907において、サムネイル画像設定部805は、画面における画像ファイルのサムネイル表示領域に表示するサムネイル画像を、S906で取得した第1のサムネイル画像に設定する。
【0062】
S905の処理が終了した場合、或いは、S907の処理が終了した場合には、S908に進む。
S908に進むと、表示部806は、S905又はS907で設定されたサムネイル画像を、左眼用ディスプレイ203及び右眼用ディスプレイ206の画面における該当する画像ファイルのサムネイル表示領域に表示する。
図10(a)では、カーソル1001がサムネイル画像1002の表示領域の外側に位置しているため、画像ファイルに記録されている第1のサムネイル画像1002が表示されている。この
図10(a)に示す例では、主画像1003の中央部からやや左に寄った部分領域が第1のサムネイル画像1002の画角として使用されていることを示している。一方、
図10(b)では、カーソル1001がサムネイル画像1004の表示領域の内側に位置している。このため、
図10(b)では、主画像1003の中央部を切り出した、第1のサムネイル画像1002の第1の画角とは異なる第2の画角で生成された第2のサムネイル画像1004が表示されている。ここで、
図10(b)に示すように、第2のサムネイル画像1004を生成して表示する理由としては、一般的に主被写体が主画像1003の中央部にあることが多いためである。
【0063】
以上説明した第2の実施形態に係る画像処理装置102は、サムネイル画像よりも画角の広い主画像を含む画像ファイルに対して、サムネイル画像を使ったファイル一覧を画面に表示する際に、以下の処理を行う。具体的に、表示領域情報取得部807は、第1のサムネイル画像に対応する主画像の部分領域における大きさを示す表示領域情報を画像ファイルのメタデータから取得する。そして、第2のサムネイル画像生成部804は、表示領域情報取得部807からの表示領域情報に基づき、主画像の中央部を第1のサムネイル画像に対応する主画像の部分領域における大きさで切り出した画角の画像を第2のサムネイル画像として生成する。
かかる構成によれば、ユーザが操作するカーソルの位置が、画面における画像ファイルのサムネイル表示領域上に位置する場合には(S902/Yes)、サムネイル画像の画角を主画像の中央領域を切り出した画角に変更して表示することができる。これにより、画像ファイルを開いて主画像を確認することなく、観察者が観察していた表示画角の外側の情報(
図10に示す例では、第1のサムネイル画像1002には映っていない第2のサムネイル画像1004の右端の情報)を素早く確認することができる。
【0064】
(第3の実施形態)
次に、第3の実施形態について説明する。なお、以下に記載する第3の実施形態の説明では、上述した第1及び第2の実施形態と共通する事項については説明を省略し、上述した第1及び第2の実施形態と異なる事項について説明を行う。
【0065】
第3の実施形態に係る画像表示システム(ビデオシースルー型のHMDシステム)の概略構成は、
図1に示す第1の実施形態に係る画像表示システム(ビデオシースルー型のHMDシステム)100の概略構成と同様である。また、第3の実施形態に係るHMD101の内部構成は、
図2に示す第1の実施形態に係るHMD101の内部構成と同様である。さらに、第3の実施形態に係る画像処理装置102のシステム構成は、
図3に示す第1の実施形態に係る画像処理装置102のシステム構成と同様である。さらに、第3の実施形態に係る画像処理装置102の機能構成は、例えば、
図8に示す第2の実施形態に係る画像処理装置102の機能構成と同様である。
【0066】
図7は、第3の実施形態を示し、カーソル701の位置が画面700における画像ファイルのサムネイル表示領域上に位置する場合のサムネイル画像表示方法を説明するための図である。具体的に、
図7は、
図6(b)に示す第1の実施形態におけるサムネイル画像表示方法の変形例を示す図である。
【0067】
図7(a)及び
図7(b)は、それぞれ、第2のサムネイル画像生成部804が、
図6(a)に示す第1のサムネイル画像602よりも大きい第2のサムネイル画像703及び705を生成する場合を示している。この際、
図7(a)では、第2のサムネイル画像生成部804は、
図6(a)に示す第1のサムネイル画像602の領域(第1のサムネイル画像602の画角に相当する領域)を識別する情報として矩形702を付した第2のサムネイル画像703を生成している。また、
図7(b)では、第2のサムネイル画像生成部804は、上述した識別する情報として
図6(a)に示す第1のサムネイル画像602の画角の外側に相当する領域704の輝度を落とした第2のサムネイル画像705を生成している。これらの
図7(a)及び
図7(b)における2つの処理において、第1のサムネイル画像602の画角に相当する領域を計算するためには、画像処理装置102の機能構成として、第2の実施形態で示した表示領域情報取得部807を含む形態を採る。そして、第2のサムネイル画像生成部804は、表示領域情報取得部807で取得される、第1のサムネイル画像602の画角に対応する主画像の部分領域(画像領域)における大きさを示す表示領域情報を用いて、第2のサムネイル画像703を生成すればよい。
【0068】
また、
図7(c)は、第2のサムネイル画像生成部804が、画面に表示されるサムネイル画像の表示領域のサイズは変更せずに、画角を変更した第2のサムネイル画像706を生成する場合を示している。即ち、
図7(c)では、第2のサムネイル画像生成部804は、
図6(a)に示す第1のサムネイル画像602と同じ大きさの第2のサムネイル画像706を生成している。なお、
図7(c)に示す第2のサムネイル画像706においても、
図6(a)に示す第1のサムネイル画像602の領域を識別する情報として、
図7(a)に示す矩形702を付す処理や、
図7(b)に示す領域704の輝度を落とす処理を行ってもよい。また、上述では、第1のサムネイル画像を表示する領域に第2のサムネイル画像を表示する例について説明したが、第2のサムネイル画像は第1のサムネイル画像を表示する領域とは異なる領域に表示してもよい。例えば、第2のサムネイル画像を、第1のサムネイル画像を表示する領域からずらしたり、ずらしてポップアップ表示したりしてもよい。
【0069】
図7(a)~
図7(c)の何れの例でも、サムネイル画像よりも画角の広い主画像を含む画像ファイルに対して、サムネイル画像を使ったファイル一覧を画面に表示する際に、以下の効果を奏することができる。具体的に、観察者であるユーザが操作するカーソルの位置に応じて、画面に表示するサムネイル画像の画角を変更することができる。これにより、画像ファイルを開いて主画像を確認することなく、観察者が観察していた表示画角の外側の情報を素早く確認することができる。
【0070】
(その他の実施形態)
本発明は、上述の実施形態の1以上の機能を実現するプログラムを、ネットワーク又は記憶媒体を介してシステム又は装置に供給し、そのシステム又は装置のコンピュータにおける1つ以上のプロセッサーがプログラムを読出し実行する処理でも実現可能である。また、1以上の機能を実現する回路(例えば、ASIC)によっても実現可能である。
このプログラム及び当該プログラムを記憶したコンピュータ読み取り可能な記憶媒体は、本発明に含まれる。
【0071】
なお、上述した本発明の実施形態は、いずれも本発明を実施するにあたっての具体化の例を示したものに過ぎず、これらによって本発明の技術的範囲が限定的に解釈されてはならないものである。即ち、本発明はその技術思想、又はその主要な特徴から逸脱することなく、様々な形で実施することができる。
【0072】
本実施形態の開示は、以下の構成、方法及びプログラムを含む。
[構成1]
サムネイル画像を画面に表示するための処理を行う画像処理装置であって、
前記サムネイル画像よりも画角の広い主画像を含む画像ファイルを入力する入力手段と、
カーソルが前記画面上のサムネイル表示領域上に位置する場合、前記主画像をサムネイル画像として前記画面上に表示させる制御を行う制御手段と、
を有することを特徴とする画像処理装置。
[構成2]
前記制御手段は、
前記カーソルの位置を取得する位置取得手段と、
前記画像ファイルに記録された第1の画角をもつ第1のサムネイル画像を取得する画像取得手段と、
前記第1の画角とは異なる第2の画角をもつ第2のサムネイル画像を生成する画像生成手段と、
前記カーソルの位置が前記サムネイル表示領域上に位置するか否かに応じて、前記サムネイル表示領域に表示するサムネイル画像を設定する画像設定手段と、
を有し、
前記制御手段は、前記設定されたサムネイル画像を前記画面上に表示させる制御を行うことを特徴とする構成1に記載の画像処理装置。
[構成3]
前記第2の画角は、前記第1の画角よりも広い画角であることを特徴とする構成2に記載の画像処理装置。
[構成4]
前記第2の画角は、前記画像ファイルに記録された前記主画像の画角と同じ画角であることを特徴とする構成2または3に記載の画像処理装置。
[構成5]
前記画像生成手段は、前記第1のサムネイル画像よりも大きい前記第2のサムネイル画像を生成することを特徴とする構成2乃至4のいずれか1項に記載の画像処理装置。
[構成6]
前記画像生成手段は、前記第1のサムネイル画像の領域を識別する情報を付した前記第2のサムネイル画像を生成することを特徴とする構成5に記載の画像処理装置。
[構成7]
前記画像生成手段は、前記第1のサムネイル画像と同じ大きさの前記第2のサムネイル画像を生成することを特徴とする構成2乃至4のいずれか1項に記載の画像処理装置。
[構成8]
前記第1のサムネイル画像に対応する前記主画像の部分領域における大きさを示す表示領域情報を前記画像ファイルのメタデータから取得する情報取得手段を更に有し、
前記画像生成手段は、前記表示領域情報に基づいて前記主画像の中央部を前記部分領域における大きさで切り出した画角の画像を前記第2のサムネイル画像として生成することを特徴とする構成2に記載の画像処理装置。
[構成9]
前記表示領域情報は、前記部分領域における幅と高さの情報を含むことを特徴とする構成8に記載の画像処理装置。
[方法1]
サムネイル画像を画面に表示するための処理を行う画像処理方法であって、
前記サムネイル画像よりも画角の広い主画像を含む画像ファイルを入力する入力ステップと、
カーソルが前記画面上のサムネイル表示領域上に位置する場合、前記主画像をサムネイル画像として前記画面上に表示させる制御を行う制御ステップと、
を有することを特徴とする画像処理方法。
[プログラム1]
コンピュータを、構成1乃至9のいずれか1項に記載の画像処理装置の各手段として機能させるためのプログラム。
【符号の説明】
【0073】
100:画像表示システム(ビデオシースルー型のHMDシステム)、101:HMD、102:画像処理装置、103:ユーザ入力装置、201:左眼用背景カメラ、202:右眼用背景カメラ、203:左眼用ディスプレイ、204:左眼用接眼レンズ、205:左眼用表示画角、206:右眼用ディスプレイ、207:右眼用接眼レンズ、208:右眼用表示画角、209:左眼用撮像画角、210:右眼用撮像画角、301:CPU、302:RAM、303:ROM、304:HDD、305:汎用I/F、306:映像出力I/F、307:メインバス、401,801:カーソル位置取得部、402,802:カーソル位置判定部、403,803:第1のサムネイル画像取得部、404,804:第2のサムネイル画像生成部、405,805:サムネイル画像設定部、406,806:表示部、807:表示領域情報取得部