(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】
(24)【登録日】2022-08-05
(45)【発行日】2022-08-16
(54)【発明の名称】表示装置、表示方法及びプログラム
(51)【国際特許分類】
H04N 13/359 20180101AFI20220808BHJP
H04N 13/344 20180101ALI20220808BHJP
H04N 13/361 20180101ALI20220808BHJP
G09G 5/00 20060101ALI20220808BHJP
G09G 5/36 20060101ALI20220808BHJP
G02B 27/02 20060101ALI20220808BHJP
H04N 5/64 20060101ALI20220808BHJP
【FI】
H04N13/359
H04N13/344
H04N13/361
G09G5/00 510G
G09G5/00 530T
G09G5/00 555A
G09G5/36 510V
G09G5/00 530M
G02B27/02 Z
H04N5/64 511A
(21)【出願番号】P 2019046975
(22)【出願日】2019-03-14
【審査請求日】2021-01-20
(73)【特許権者】
【識別番号】000208891
【氏名又は名称】KDDI株式会社
(74)【代理人】
【識別番号】100166006
【氏名又は名称】泉 通博
(74)【代理人】
【識別番号】100124084
【氏名又は名称】黒岩 久人
(74)【代理人】
【識別番号】100153280
【氏名又は名称】寺川 賢祐
(72)【発明者】
【氏名】今野 智明
【審査官】秦野 孝一郎
(56)【参考文献】
【文献】特開2012-235218(JP,A)
【文献】特開2019-12537(JP,A)
【文献】特開2013-258705(JP,A)
【文献】国際公開第2012/147276(WO,A1)
【文献】特開2012-83412(JP,A)
(58)【調査した分野】(Int.Cl.,DB名)
H04N 13/00-13/398
G09G 5/00-5/40
G02B 27/00-30/60
H04N 5/64
(57)【特許請求の範囲】
【請求項1】
ユーザの両目それぞれに画像を提示するための表示部と、
前記表示部に表示させる被写体と、前記表示部に表示させない透過領域とを含む画像データを生成する画像生成装置から前記画像データを取得する取得部と、
前記画像データに基づいて、前記被写体の奥行きを示す奥行指標を算出する算出部と、
前記表示部が前記両目に同一の画像を提示するモノラル表示モードと、前記表示部が前記両目に視差画像を提示するステレオ表示モードとのいずれかの表示モードを
決定するために定められた所定の閾値よりも前記奥行指標
が遠いことを示す場合、前記表示モードを前記モノラル表示モードに決定
し、前記所定の閾値よりも前記奥行指標が近いことを示す場合、前記表示モードを前記ステレオ表示モードに決定し、決定した前記表示モードに応じて異なる前記所定の閾値を設定する決定部と、
前記決定部が決定した前記表示モードに基づいて、前記画像データを前記表示部に表示させる表示制御部と、
を有する表示装置。
【請求項2】
ユーザの両目それぞれに画像を提示するための表示部と、
前記表示部に表示させる被写体と、前記表示部に表示させない透過領域とを含む画像データを生成する画像生成装置から前記画像データを取得する取得部と、
圧縮された前記画像データのサイズに基づいて、
前記被写体の奥行きを示す奥行指標を算出する
算出部と、
前記表示部が前記両目に同一の画像を提示するモノラル表示モードと、前記表示部が前記両目に視差画像を提示するステレオ表示モードとのいずれかの表示モードを、前記奥行指標に基づいて決定する決定部と、
前記決定部が決定した前記表示モードに基づいて、前記画像データを前記表示部に表示させる表示制御部と、
を有する表示装置。
【請求項3】
前記取得部は、圧縮された前記画像データを前記画像生成装置から取得し、
前記算出部は、圧縮された前記画像データを伸張した後に、伸張した前記画像データを所定の形式で圧縮した前記画像データのサイズに基づいて、前記奥行指標を算出する、
請求項
2に記載の表示装置。
【請求項4】
前記決定部が決定した前記表示モードを示すモード情報を前記画像生成装置に通知する通知部をさらに有し、
前記表示制御部は、通知された前記モード情報が前記モノラル表示モードを示す場合に、前記画像生成装置が生成した単一画像を前記画像データとして前記表示部に表示させ、通知された前記モード情報が前記ステレオ表示モードを示す場合に、前記画像生成装置が生成した視差画像を前記画像データとして前記表示部に表示させる、
請求項1
から3のいずれか一項に記載の表示装置。
【請求項5】
前記算出部は、前記画像データに含まれる前記透過領域以外の画素の数に基づいて、前記奥行指標を算出する、
請求項1から
4のいずれか一項に記載の表示装置。
【請求項6】
前記算出部は、前記被写体の外接矩形のサイズに基づいて、奥行指標を算出する、
請求項1から
5のいずれか一項に記載の表示装置。
【請求項7】
前記算出部は、複数の前記被写体のうち、外接矩形のサイズが大きい前記被写体に基づいて、前記奥行指標を算出する、
請求項
6に記載の表示装置。
【請求項8】
前記表示部に前記画像データを表示させるためのリソースの負荷状況を推定する負荷状況推定部をさらに有し、
前記決定部は、前記負荷状況推定部が推定した結果が前記リソースの負荷状況が高いことを示す場合に、前記表示モードを前記モノラル表示モードに決定し、前記負荷状況推定部が推定した結果が前記リソースの負荷状況が高くないことを示す場合に、前記表示モードを前記ステレオ表示モードに決定する、
請求項1から
7のいずれか一項に記載の表示装置。
【請求項9】
前記決定部は、前記被写体の奥行きに関するアラートを表示しないアラート非表示モードと、前記アラートを表示するアラート表示モードとのいずれかのアラートモードを、前記奥行指標に基づいてさらに決定し、
前記表示制御部は、前記決定部が決定した前記アラートモードに基づく情報を前記画像データに重畳して前記表示部に表示させる、
請求項1から
8のいずれか一項に記載の表示装置。
【請求項10】
前記アラート表示モードは、前記被写体の奥行きが短いことを警告する近距離用アラート表示モードと、前記被写体の奥行きが長いことを警告する遠距離用アラート表示モードとを含み、
前記決定部は、前記アラート非表示モードと前記近距離用アラート表示モードとの境界値である第1閾値よりも前記奥行指標が近いことを示す場合、前記アラートモードを前記近距離用アラート表示モードに決定し、前記アラート非表示モードと前記遠距離用アラート表示モードとの境界値である閾値であって、前記第1閾値と異なる第2閾値よりも前記奥行指標が遠いことを示す場合、前記アラートモードを前記遠距離用アラート表示モードに決定する、
請求項
9に記載の表示装置。
【請求項11】
コンピュータが実行する、
ユーザの両目それぞれに画像を提示するための表示部に表示させる被写体と、前記表示部に表示させないことを示す透過領域とを含む画像データを生成する画像生成装置から前記画像データを取得するステップと、
前記画像データに基づいて、前記被写体の奥行きを示す奥行指標を算出するステップと、
前記表示部が前記両目に同一の画像を提示するモノラル表示モードと、前記表示部が前記両目に視差画像を提示するステレオ表示モードとのいずれかの表示モードを
決定するために定められた所定の閾値よりも前記奥行指標
が遠いことを示す場合、前記表示モードを前記モノラル表示モードに決定
し、前記所定の閾値よりも前記奥行指標が近いことを示す場合、前記表示モードを前記ステレオ表示モードに決定する
ステップと、
決定した前記表示モードに応じて異なる前記所定の閾値を設定するステップと、
決定した前記表示モードに基づいて、前記画像データを前記表示部に表示させるステップと、
を有する表示方法。
【請求項12】
コンピュータを、
ユーザの両目それぞれに画像を提示するための表示部に表示させる被写体と、前記表示部に表示させないことを示す透過領域とを含む画像データを生成する画像生成装置から前記画像データを取得する取得部、
前記画像データに基づいて、前記被写体の奥行きを示す奥行指標を算出する算出部、
前記表示部が前記両目に同一の画像を提示するモノラル表示モードと、前記表示部が前記両目に視差画像を提示するステレオ表示モードとのいずれかの表示モードを
決定するために定められた所定の閾値よりも前記奥行指標
が遠いことを示す場合、前記表示モードを前記モノラル表示モードに決定
し、前記所定の閾値よりも前記奥行指標が近いことを示す場合、前記表示モードを前記ステレオ表示モードに決定し、決定した前記表示モードに応じて異なる前記所定の閾値を設定する決定部、及び
前記決定部が決定した前記表示モードに基づいて、前記画像データを前記表示部に表示させる表示制御部、
として機能させるプログラム。
【請求項13】
コンピュータが実行する、
ユーザの両目それぞれに画像を提示するための表示部に表示させる被写体と、前記表示部に表示させないことを示す透過領域とを含む画像データを生成する画像生成装置から前記画像データを取得するステップと、
圧縮された前記画像データのサイズに基づいて、前記被写体の奥行きを示す奥行指標を算出するステップと、
前記表示部が前記両目に同一の画像を提示するモノラル表示モードと、前記表示部が前記両目に視差画像を提示するステレオ表示モードとのいずれかの表示モードを、前記奥行指標に基づいて決定するステップと、
決定した前記表示モードに基づいて、前記画像データを前記表示部に表示させるステップと、
を有する表示方法。
【請求項14】
コンピュータを、
ユーザの両目それぞれに画像を提示するための表示部に表示させる被写体と、前記表示部に表示させないことを示す透過領域とを含む画像データを生成する画像生成装置から前記画像データを取得する取得部、
圧縮された前記画像データのサイズに基づいて、前記被写体の奥行きを示す奥行指標を算出する算出部、
前記表示部が前記両目に同一の画像を提示するモノラル表示モードと、前記表示部が前記両目に視差画像を提示するステレオ表示モードとのいずれかの表示モードを、前記奥行指標に基づいて決定する決定部、及び
前記決定部が決定した前記表示モードに基づいて、前記画像データを前記表示部に表示させる表示制御部、
として機能させるプログラム。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、画像データを表示する表示装置、表示方法及びプログラムに関する。
【背景技術】
【0002】
近年、現実空間に仮想情報を重畳してユーザに提示するAR(Augmented Reality、拡張現実)技術に関する研究及び開発が進められている。特許文献1には、AR表示が可能なHDM(Head Mounted Display)型のデバイスが開示されている。
【先行技術文献】
【特許文献】
【0003】
【発明の概要】
【発明が解決しようとする課題】
【0004】
ところで、AR表示には、ユーザの両目に視差画像を提示するステレオ表示と、ユーザの両目に単一画像を提示するモノラル表示とがある。ステレオ表示は、視差画像を表示することにより、画像に表示される被写体に奥行き感が得られるため、ユーザの体感品質がモノラル表示より高いが、2つの画像を処理するため、画像を表示するために用いられるリソースの負荷がモノラル表示より高くなる。一方、モノラル表示は、単一画像を表示することにより、1つの画像を処理するためのリソースの負荷がステレオ表示より低くなるが、視差画像の提示による被写体の奥行き感が失われるためユーザの体感品質がステレオ表示より低くなる。
【0005】
このように、体感品質の観点からはAR表示としてステレオ表示を採用するのが好ましいが、リソース負荷の観点からはモノラル表示を採用するのが好ましい。そのため、ユーザの体感品質の低減を抑えつつ、リソースの負荷を低減させるように、AR表示を制御することが要求されている。
【0006】
そこで、本発明はこれらの点に鑑みてなされたものであり、AR表示においてユーザの体感品質の低減を抑えつつ、リソースの負荷を低減させることができる表示装置、表示方法及びプログラムを提供することを目的とする。
【課題を解決するための手段】
【0007】
本発明の第1の態様に係る表示装置は、ユーザの両目それぞれに画像を提示するための表示部と、前記表示部に表示させる被写体と、前記表示部に表示させない透過領域とを含む画像データを生成する画像生成装置から前記画像データを取得する取得部と、前記画像データに基づいて、前記被写体の奥行きを示す奥行指標を算出する算出部と、前記表示部が前記両目に同一の画像を提示するモノラル表示モードと、前記表示部が前記両目に視差画像を提示するステレオ表示モードとのいずれかの表示モードを、前記奥行指標に基づいて決定する決定部と、前記決定部が決定した前記表示モードに基づいて、前記画像データを前記表示部に表示させる表示制御部と、を有する。
【0008】
前記表示装置は、前記決定部が決定した前記表示モードを示すモード情報を前記画像生成装置に通知する通知部をさらに有してもよいし、前記表示制御部は、通知された前記モード情報が前記モノラル表示モードを示す場合に、前記画像生成装置が生成した単一画像を前記画像データとして前記表示部に表示させ、通知された前記モード情報が前記ステレオ表示モードを示す場合に、前記画像生成装置が生成した視差画像を前記画像データとして前記表示部に表示させてもよい。
【0009】
前記決定部は、前記モノラル表示モードと前記ステレオ表示モードとのいずれかの前記表示モードを決定するために定められた所定の閾値よりも前記奥行指標が遠いことを示す場合、前記表示モードを前記モノラル表示モードに決定し、前記所定の閾値よりも前記奥行指標が近いことを示す場合、前記表示モードを前記ステレオ表示モードに決定してもよい。
【0010】
前記決定部は、決定した前記表示モードに応じて異なる前記所定の閾値を設定してもよい。
前記算出部は、圧縮された前記画像データのサイズに基づいて、前記奥行指標を算出してもよい。
【0011】
前記取得部は、圧縮された前記画像データを前記画像生成装置から取得してもよいし、前記算出部は、圧縮された前記画像データを伸張した後に、伸張した前記画像データを所定の形式で圧縮した前記画像データのサイズに基づいて、前記奥行指標を算出してもよい。
【0012】
前記算出部は、前記画像データに含まれる前記透過領域以外の画素の数に基づいて、前記奥行指標を算出してもよい。
前記算出部は、前記被写体の外接矩形のサイズに基づいて、奥行指標を算出してもよい。
前記算出部は、複数の前記被写体のうち、外接矩形のサイズが大きい前記被写体に基づいて、前記奥行指標を算出してもよい。
【0013】
前記表示装置は、前記表示部に前記画像データを表示させるためのリソースの負荷状況を推定する負荷状況推定部をさらに有してもよいし、前記決定部は、前記負荷状況推定部が推定した結果が前記リソースの負荷状況が高いことを示す場合に、前記表示モードを前記モノラル表示モードに決定し、前記負荷状況推定部が推定した結果が前記リソースの負荷状況が高くないことを示す場合に、前記表示モードを前記ステレオ表示モードに決定してもよい。
【0014】
前記決定部は、前記被写体の奥行きに関するアラートを表示しないアラート非表示モードと、前記アラートを表示するアラート表示モードとのいずれかのアラートモードを、前記奥行指標に基づいてさらに決定してもよいし、前記表示制御部は、前記決定部が決定した前記アラートモードに基づく情報を前記画像データに重畳して前記表示部に表示させてもよい。
【0015】
前記アラート表示モードは、前記被写体の奥行きが短いことを警告する近距離用アラート表示モードと、前記被写体の奥行きが長いことを警告する遠距離用アラート表示モードとを含んでもよいし、前記決定部は、前記アラート非表示モードと前記近距離用アラート表示モードとの境界値である第1閾値よりも前記奥行指標が近いことを示す場合、前記アラートモードを前記近距離用アラート表示モードに決定し、前記アラート非表示モードと前記遠距離用アラート表示モードとの境界値である閾値であって、前記第1閾値と異なる第2閾値よりも前記奥行指標が遠いことを示す場合、前記アラートモードを前記遠距離用アラート表示モードに決定してもよい。
【0016】
本発明の第2の態様に係る表示方法は、コンピュータが実行する、ユーザの両目それぞれに画像を提示するための表示部に表示させる被写体と、前記表示部に表示させないことを示す透過領域とを含む画像データを生成する画像生成装置から前記画像データを取得するステップと、前記画像データに基づいて、前記被写体の奥行きを示す奥行指標を算出するステップと、前記表示部が前記両目に同一の画像を提示するモノラル表示モードと、前記表示部が前記両目に視差画像を提示するステレオ表示モードとのいずれかの表示モードを、前記奥行指標に基づいて決定するステップと、決定した前記表示モードに基づいて、前記画像データを前記表示部に表示させるステップと、を有する。
【0017】
本発明の第3の態様に係るプログラムは、コンピュータを、ユーザの両目それぞれに画像を提示するための表示部に表示させる被写体と、前記表示部に表示させないことを示す透過領域とを含む画像データを生成する画像生成装置から前記画像データを取得する取得部、前記画像データに基づいて、前記被写体の奥行きを示す奥行指標を算出する算出部、前記表示部が前記両目に同一の画像を提示するモノラル表示モードと、前記表示部が前記両目に視差画像を提示するステレオ表示モードとのいずれかの表示モードを、前記奥行指標に基づいて決定する決定部、及び前記決定部が決定した前記表示モードに基づいて、前記画像データを前記表示部に表示させる表示制御部、として機能させる。
【発明の効果】
【0018】
本発明によれば、AR表示においてユーザの体感品質の低減を抑えつつ、リソースの負荷を低減させることができるという効果を奏する。
【図面の簡単な説明】
【0019】
【
図1】表示システムの概要を説明するための図である。
【
図2】表示装置及び画像生成装置の構成を示す図である。
【
図4】画像データのサイズと奥行指標との関係を模式的に示す図である。
【
図5】被写体の外径矩形のサイズと奥行指標との関係を模式的に示す図である。
【
図6】表示システムの処理の流れを示すシーケンス図である。
【発明を実施するための形態】
【0020】
[表示システムSの概要]
図1は、表示システムSの概要を説明するための図である。表示システムSは、表示装置1と、画像生成装置2とを有する。
【0021】
表示装置1は、現実空間に重畳した仮想情報をユーザに提示するAR表示が可能なデバイスであり、例えば、スマートグラスをはじめとするHMD型のデバイス又はスマートフォン等である。仮想情報は、例えば、3次元コンピュータグラフィックス(以下、3DCG(3-Dimensions Computer Graphics)という)空間内に配置されたオブジェクト(被写体A)にレンダリング等のグラフィック処理を施したCG画像である。表示装置1は、3DCG空間内に配置された仮想カメラが撮像した2Dの画像データを仮想情報として表示する。
【0022】
表示装置1は、当該表示装置1が備えるカメラで撮影した現実空間の画像に仮想情報を重畳した合成画像を非透過型のディスプレイに表示するビデオシースルー方式のデバイスであってもよいし、透過型のディスプレイに仮想情報を表示することにより、ユーザの目を通して現実空間と仮想空間とを合成する光学シースルー方式のデバイスであってもよい。
【0023】
画像生成装置2は、表示装置1に表示させる被写体Aと、表示装置1に表示させない透過領域(例えば背景)とを含む画像データを生成する装置であり、例えばサーバである。画像データは、例えば、動画像における1つのフレーム画像である。被写体Aは、表示装置1が画像データを表示する際に透過せずに表示される領域であり、例えば、複数の画素値で表された領域である。透過領域は、表示装置1が画像データを表示する際に透過して表示される領域であり、例えば、同一の画素値(例えば黒色)で表された領域である。透過領域は、例えば、黒色に近い色の画素が分布した領域であってもよい。
【0024】
図1に示す例において、まず、画像生成装置2は、画像データを生成する(
図1の(1))。画像生成装置2は、生成した画像データを表示装置1に送信する(
図1の(2))。
【0025】
表示装置1は、画像生成装置2が生成した画像データを取得すると、取得した画像データに基づいて、被写体Aの奥行きを示す奥行指標を算出する(
図1の(3))。被写体Aの奥行きは、ユーザから被写体Aまでの距離、すなわち仮想空間における仮想カメラから被写体Aまでの距離である。表示装置1は、算出した奥行指標に基づいて、表示モードを決定する(
図1の(4))。
【0026】
表示モードは、モノラル表示モードと、ステレオ表示モードとを有する。モノラル表示モードは、ユーザの両目に単一画像を提示する表示モードである。ステレオ表示モードは、ユーザの両目に視差画像を提示する表示モードである。モノラル表示モード及びステレオ表示モードを比較すると、ユーザによる体感品質の高さにおいては、ステレオ表示モードの方が優れており、画像を表示させるために用いられるリソースの負荷の低さにおいては、モノラル表示モードの方が優れている。そこで、表示システムSは、被写体Aの奥行きが長く、視差の影響が小さい場合に、モノラル表示モードに基づく画像データを表示させ、被写体Aの奥行きが短く、視差の影響が大きい場合に、ステレオ表示モードに基づく画像データを表示させる。
【0027】
表示装置1は、算出した奥行指標が、被写体Aの奥行きが短いことを示す場合、すなわち仮想カメラから被写体Aまでの距離が近いことを示す場合、表示モードをステレオ表示モードに決定する。一方、表示装置1は、算出した奥行指標が、被写体Aの奥行きが長いことを示す場合、すなわち仮想カメラから被写体Aまでの距離が遠いことを示す場合、表示モードをモノラル表示モードに決定する。
【0028】
そして、表示装置1は、決定した表示モードに基づいて、画像データを表示する(
図1の(5))。
図1に示すように、表示装置1は、表示モードがモノラル表示モードである場合、単一画像として、画像G1をユーザの左目に提示し、画像G1と同じ画像である画像G2をユーザの右目に提示する。この場合、ユーザは、表示装置1に表示された被写体Aを、視差画像の提示による奥行き感が失われた物体として認識する。一方、表示装置1は、表示モードがステレオ表示モードである場合、視差画像として、画像G3をユーザの左目に提示し、画像G3とは異なる地点で撮像された画像G4をユーザの右目に提示する。この場合、ユーザは、表示装置1に表示された被写体Aを、視差画像の提示による奥行き感が得られる物体として認識する。
【0029】
表示システムSは、フレーム画像ごとに、
図1の(1)から(5)までの処理を実行する。このようにすることで、表示装置1は、被写体Aの奥行きを推定することができる。これにより、表示装置1は、被写体Aの奥行きに応じて表示モードを制御することができる。その結果、表示システムSは、AR表示においてユーザの体感品質の低減を抑えつつ、リソースの負荷を低減させることができる。
以下、表示装置1及び画像生成装置2の構成について説明する。
【0030】
[表示装置1及び画像生成装置2の構成]
まず、表示装置1の構成について説明する。
図2は、表示装置1及び画像生成装置2の構成を示す図である。表示装置1は、通信部11と、表示部12と、記憶部13と、制御部14とを有する。
【0031】
通信部11は、ネットワークに接続するためのインターフェイスであり、例えば無線LANコントローラを含んで構成されている。表示部12は、ユーザの両目それぞれに画像を提示するためのディスプレイである。表示部12は、透過型のディスプレイであってもよいし、非透過型のディスプレイであってもよい。
【0032】
記憶部13は、ROM(Read Only Memory)、RAM(Random Access Memory)及びハードディスク等の記憶媒体である。記憶部13は、制御部14が実行するプログラムを記憶している。
【0033】
制御部14は、例えば、CPU(Central Processing Unit)又はGPU(Graphics Processing Unit)等である。制御部14は、記憶部13に記憶されたプログラムを実行することにより、取得部141、算出部142、決定部143、負荷状況推定部144、通知部145及び表示制御部146として機能する。
【0034】
取得部141は、通信部11を介して、表示部12に表示させる被写体Aと、表示部12に表示させない透過領域とを含む画像データを画像生成装置2から取得する。取得部141は、例えば、動画像におけるフレーム画像ごとに、通信部11を介して、当該フレーム画像を画像データとして画像生成装置2から取得する。取得部141は、圧縮された画像データを画像生成装置2から取得してもよい。
【0035】
算出部142は、取得部141が取得した画像データに基づいて、被写体Aの奥行きを示す奥行指標を算出する。奥行指標の算出方法の詳細については後述する。
【0036】
決定部143は、表示部12がユーザの両目に同一の画像を提示するモノラル表示モードと、表示部12がユーザの両目に視差画像を提示するステレオ表示モードとのいずれかの表示モードを、奥行指標に基づいて決定する。具体的には、決定部143は、所定の閾値よりも奥行指標が遠いことを示す場合、表示モードをモノラル表示モードに決定し、所定の閾値よりも奥行指標が近いことを示す場合、表示モードをステレオ表示モードに決定する。所定の閾値は、モノラル表示モードとステレオ表示モードとのいずれかの表示モードを決定するために定められた値である。所定の閾値は、例えば、表示装置1に予め設定されている。
【0037】
このように、決定部143は、被写体Aの奥行きが長い場合に表示モードをモノラル表示モードに決定して表示部12に単一画像を表示させることにより、ユーザの体感品質の低減を抑えつつ、画像データを表示させるために用いられるリソースの負荷を低減させることができる。また、決定部143は、被写体Aの奥行きが短い場合に表示モードをステレオ表示モードに決定して表示部12に視差画像を表示させることにより、ユーザの体感品質を向上させることができる。
【0038】
決定部143は、決定した表示モードに応じて異なる所定の閾値を設定してもよい。決定部143は、例えば、決定部143が表示モードをモノラル表示モードに決定した場合、モノラル表示モードに対応する所定の閾値である表示モード用の第1閾値を設定し、決定部143が表示モードをステレオ表示モードに決定した場合、ステレオ表示モードに対応する所定の閾値であって、表示モード用の第1閾値と異なる表示モード用の第2閾値を設定する。このようにすることで、決定部143は、表示モードが頻繁に切り替わることによってユーザの体感品質が低下することを防ぐことができる。
【0039】
決定部143は、奥行指標とリソースの負荷状況とに基づいて表示モードを決定してもよい。リソースの負荷状況に基づいて表示モードを決定する処理の詳細については後述する。
【0040】
表示制御部146は、決定部143が決定した表示モードに基づいて、画像データを表示部12に表示させる。具体的には、表示制御部146は、決定された表示モードに基づいて画像生成装置2が生成した画像データを表示部12に表示させる。
【0041】
より具体的には、まず、決定部143が表示モードを決定すると、通知部145は、決定部143が決定した表示モードを示すモード情報を画像生成装置2に通知することにより、決定部143が決定した表示モードに基づく画像データを画像生成装置2に生成させる。そして、取得部141が、画像生成装置2によって生成された画像データを取得すると、表示制御部146は、取得された画像データを表示部12に表示させる。
【0042】
表示制御部146は、例えば、通知されたモード情報がモノラル表示モードを示す場合に、画像生成装置2が生成した単一画像を画像データとして表示部12に表示させる。一方、表示制御部146は、通知されたモード情報がステレオ表示モードを示す場合に、画像生成装置2が生成した視差画像を画像データとして表示部12に表示させる。
【0043】
通知部145は、画像生成装置2にモード情報を通知するとともに、現実空間における表示装置1の位置を示す位置情報を通知してもよい。この場合、表示装置1は、現実空間における表示装置1の位置を推定する不図示の位置推定部をさらに有してもよい。なお、表示システムSは、位置推定部と同等の機能を有する外部装置を有してもよい。
【0044】
位置推定部は、公知の技術を用いて表示装置1の位置を推定することができる。位置推定部は、例えば、不図示のレーザ装置又は3Dカメラ等を用いて現実空間における周囲の環境を測定することによって表示装置1の位置を推定する。また、例えば、位置推定部は、カメラによって撮像された2つのフレーム画像間に基づいて自己位置認識(例えばVisual Odometry)を行うことによって表示装置1の位置を推定してもよい。また、位置推定部は、表示装置1の位置とともに、表示装置1の向きを推定してもよい。このように、表示装置1は、推定した表示装置1の位置を示す位置情報、及び推定した表示装置1の向きを示す向き情報を画像生成装置2に通知することにより、表示装置1の動きに連動した仮想カメラによって撮像された画像データを生成させることができる。
【0045】
表示制御部146は、決定部143が表示モードの決定に用いた画像データを、当該表示モードに基づく態様で表示部12に表示させてもよい。表示制御部146は、例えば、決定部143が決定した表示モードがモノラル表示モードである場合において、取得部141が取得した画像データが視差画像である場合、2つの画像のうちのいずれかの画像を単一画像として表示部12に表示させてもよい。また、表示制御部146は、例えば、決定部143が決定した表示モードがステレオ表示モードである場合において、取得部141が取得した画像データが単一画像である場合、単一画像に基づいて生成した視差画像を表示部12に表示させてもよい。表示制御部146は、公知の技術を用いて単一画像から視差画像を生成することができる。
【0046】
表示制御部146は、被写体Aの奥行きが長すぎたり短すぎたりする場合、ユーザの体感品質を向上させるためのアラートを表示部12に表示させてもよい。この場合、表示装置1は、表示モードとは異なるモードであるアラートモードをさらに設けてもよい。
【0047】
アラートモードは、アラート非表示モードと、アラート表示モードとを含む。アラート非表示モードは、被写体Aの奥行きに関するアラートを表示しないアラートモードであり、被写体Aの奥行きが適正である場合(例えば、被写体Aの奥行きが短くない場合)に決定されるアラートモードである。アラート表示モードは、アラートを表示するアラートモードであり、例えば、被写体Aの奥行きが短い場合に決定されるアラートモードである。
【0048】
具体的には、まず、決定部143は、アラート非表示モードと、アラート表示モードとのいずれかのアラートモードを、奥行指標に基づいてさらに決定する。そして、表示制御部146は、決定部143が決定したアラートモードに基づく情報を画像データに重畳して表示部12に表示させる。表示制御部146は、例えば、決定部143が決定したアラートモードがアラート表示モードである場合、被写体Aの奥行きが近いことを示すメッセージをアラートモードに基づく情報として、画像データに重畳して表示部12に表示させる。このようにすることで、ユーザは、被写体Aが適切に表示されていないことを認識することができる。
【0049】
アラート表示モードは、被写体Aの奥行きが短いことを警告する近距離用アラート表示モードと、被写体Aの奥行きが長いことを警告する遠距離用アラート表示モードとを含んでもよい。この場合、決定部143は、奥行指標とアラートモード用の第1閾値とアラートモード用の第2閾値との関係に基づいて、アラートモードをアラート非表示モード、近距離用アラート表示モード及び遠距離用アラート表示モードのうちのいずれかに決定してもよい。アラートモード用の第1閾値は、アラート非表示モードと近距離用アラート表示モードとの境界値である。アラートモード用の第2閾値は、アラート非表示モードと遠距離用アラート表示モードとの境界値である閾値であって、アラートモード用の第1閾値と異なる閾値である。
【0050】
具体的には、決定部143は、アラートモード用の第1閾値よりも奥行指標が近いことを示す場合、アラートモードを近距離用アラート表示モードに決定し、アラートモード用の第2閾値よりも奥行指標が遠いことを示す場合、アラートモードを遠距離用アラート表示モードに決定してもよい。
【0051】
図3は、アラートモードを説明するための図である。
図3(1)に示す画像には、奥行きが短い被写体Aが表示されており、
図3(2)に示す画像には、奥行きが長い被写体Aが表示されている。この場合において、決定部143が、アラートモードを近距離用アラート表示モードに決定した場合、表示制御部146は、近距離用アラート表示モードに対応する
図3(1)に示すようなメッセージM1を、画像データに重畳して表示部12に表示させる。一方、決定部143が、アラートモードを遠距離用アラート表示モードに決定した場合、表示制御部146は、遠距離用アラート表示モードに対応する
図3(2)に示すようなメッセージM2を、画像データに重畳して表示部12に表示させる。このようにすることで、ユーザは、被写体Aが適切に表示されていないことを認識することができる。
【0052】
続いて、画像生成装置2の構成について説明する。画像生成装置2は、通信部21と、記憶部22、制御部23とを有する。通信部21は、ネットワークに接続するためのインターフェイスであり、例えば無線LANコントローラを含んで構成されている。
【0053】
記憶部22は、ROM、RAM及びハードディスク等の記憶媒体である。記憶部22は、制御部23が実行するプログラムを記憶している。制御部23は、例えばCPUである。制御部23は、記憶部22に記憶されたプログラムを実行することにより、生成部231及び送信部232として機能する。
【0054】
生成部231は、表示モードに基づいて画像データを生成する。具体的には、生成部231は、表示モードがステレオ表示モードである場合、視差画像を画像データとして生成し、表示モードがモノラル表示モードである場合、単一画像を画像データとして生成する。生成部231は、例えば、通信部21を介して表示装置1から受信した表示モードに基づいて、画像データを生成する。また、生成部231は、例えば、予め設定された表示モードに基づいて画像データを生成してもよい。
【0055】
生成部231は、例えば、動画像におけるフレーム画像ごとに、当該フレーム画像を画像データとして生成する。生成部231は、生成した画像データを所定の形式で圧縮してもよい。生成部231は、AVC(Advanced Video Coding)又はHEVC(High Efficiency Video Coding)等を所定の形式として画像データを圧縮してもよいし、ランレングス法等を所定の形式として画像データを圧縮してもよい。
【0056】
生成部231は、表示装置1からモード情報とともに、表示装置1の位置を示す位置情報及び表示装置1の向きを示す向き情報が通知された場合、位置情報が示す位置及び向き情報が示す向きから仮想カメラが撮像した画像データを生成してもよい。
【0057】
送信部232は、通信部21を介して、生成部231が生成した画像データを表示装置1に送信する。送信部232は、例えば、フレーム画像ごとに、生成部231が生成した画像データを表示装置1に送信する。
【0058】
[奥行指標の算出方法]
続いて、奥行指標の算出方法について説明する。上述のとおり、表示装置1の算出部142は、画像データに基づいて、被写体Aの奥行きを示す奥行指標を算出する。算出部142は、様々な方法で奥行指標を算出することができる。
【0059】
(画像データのサイズ)
算出部142は、圧縮された画像データのサイズに基づいて、奥行指標を算出する。具体的には、算出部142は、取得部141が取得した画像データを所定の形式で圧縮した画像データのサイズに基づいて、奥行指標を算出する。所定の形式は、LZSS(Lempel-Ziv-Storer-Szymanski)法をはじめとするデータ圧縮アルゴリズムであり、例えば、ランレングス法、PNG(Portable Network Graphics)又はZIP等である。
【0060】
図4は、画像データのサイズと奥行指標との関係を模式的に示す図である。
図4に示す画像は、画像生成装置2が生成した画像データである。
図4(1)に示す画像には、奥行が遠い被写体Aが表示されており、被写体Aの面積より、被写体A以外の領域である透過領域の面積の方が大きい。
図4(2)に示す画像には、奥行きが短い被写体Aが表示されており、透過領域の面積より被写体Aの面積の方が大きい。
【0061】
所定の形式として例示したランレングス法は、データ系列中に繰り返し現れるパターンを、繰り返し現れたパターンの回数に置き換えることによりデータを圧縮する。算出部142が、ランレングス法を用いて
図4に示す2つの画像それぞれを圧縮した場合、透過領域の面積が小さい画像である
図4(2)に示す画像の圧縮率より、同一の画素値で表された透過領域の面積が大きい画像である
図4(1)に示す画像の圧縮率の方が高くなる。したがって、
図4(1)に示す画像を圧縮した画像データは、
図4(2)に示す画像を圧縮した画像データより小さくなる。このように、算出部142は、被写体Aの奥行きに応じて変動する所定の形式で圧縮した画像データのサイズに基づいて奥行指標を算出することにより、被写体Aの奥行きを推定することができる。なお、算出部142は、例えば、画像データの透過領域に黒色に近い色の画素が分布している場合、2値化して黒色を示す画素値に変換した後に、奥行指標を算出してもよい。
【0062】
取得部141が取得した画像データが画像生成装置2によって圧縮されている場合、算出部142は、所定の形式で圧縮し直した画像データのサイズに基づいて、奥行指標を算出してもよい。具体的には、算出部142は、取得部141が圧縮された画像データを取得した場合、圧縮された画像データを伸張した後に、伸張した画像データを所定の形式で圧縮した画像データのサイズに基づいて、奥行指標を算出してもよい。なお、画像生成装置2が画像データを圧縮する形式と、算出部142が画像データを圧縮する形式とが同じ形式である場合、算出部142は、所定の形式で圧縮し直さずに、取得部141が取得した画像データのサイズに基づいて奥行指標を算出してもよい。
【0063】
算出部142は、例えば、画像データのサイズを奥行指標として算出する。また、算出部142は、例えば、伸張した画像データのサイズと圧縮した画像データのサイズとの割合、すなわち画像データの圧縮率を奥行指標として算出してもよい。また、算出部142は、例えば、画像データのサイズ又は画像データの圧縮率の逆数を奥行指標として算出してもよい。
【0064】
ここで、取得部141が取得した画像データをfとした場合、算出部142は、奥行指標dを、データ系列のサイズを取得する関数であるSize及び入力データを所定の形式で圧縮して出力する関数であるCompressionを用いたd=1/Size(Compression(f))の式を用いて算出することができる。この場合における奥行指標は、仮想カメラから被写体Aまでの距離が遠くなるほど、すなわち被写体Aの奥行きが長くなるほど値が大きくなり、仮想カメラから被写体Aまでの距離が近くなるほど、すなわち被写体Aの奥行きが短くなるほど値が小さくなる。このように、算出部142は、簡易な方法で被写体Aの奥行きを推定することにより、算出処理の負荷を低減することができる。
【0065】
(透過領域以外の画素の数)
算出部142は、画像データに含まれる透過領域以外の画素の数に基づいて、奥行指標を算出してもよい。算出部142は、例えば、画像データに含まれる透過領域以外の画素をカウントし、カウントした画素の数を奥行指標として算出してもよい。また、算出部142は、カウントした画像データに含まれる透過領域以外の画素の数の逆数を奥行指標として算出してもよい。
【0066】
ここで、透過領域の画素をBLACK(例えば、RGB値が(0,0,0)である黒画素)とし、透過領域以外の画素を<>BLACKとした場合、算出部142は、奥行指標dを、データ系列内において検索条件に該当する画素の数をカウントする関数であるCountIFを用いたd=1/CountIF(f,<>BLACK)の式を用いて算出することができる。このようにすることで、算出部142は、画像データを所定の形式で圧縮しなくても、被写体Aの奥行きを推定することができる。なお、算出部142は、画像データに含まれる透過領域の画素の数に基づいて、奥行指標を算出してもよい。
【0067】
(被写体Aの外接矩形のサイズ)
算出部142は、被写体Aの外接矩形のサイズに基づいて、奥行指標を算出してもよい。算出部142は、例えば、被写体Aの外接矩形のサイズを奥行指標として算出してもよい。
【0068】
図5は、被写体Aの外径矩形のサイズと奥行指標との関係を模式的に示す図である。
図5の破線で示す領域Rは、被写体Aの外接矩形を示す領域である。なお、
図5においては、不明瞭とならないように、被写体Aと領域Rとの間にスペースを設けている。
図5(1)に示すように、被写体Aの奥行きが長くなると、領域R1が示す被写体Aの外接矩形のサイズが小さくなる。一方、
図5(2)に示すように、被写体Aの奥行きが短くなると、領域R2が示す被写体Aの外接矩形のサイズが大きくなる。このように、算出部142は、被写体Aの奥行きに応じて変動する被写体Aの外接矩形のサイズに基づいて奥行指標を算出することにより、被写体Aの奥行きを推定することができる。
【0069】
ここで、算出部142は、奥行指標dを、対象領域の面積を算出する関数であるAreaと、データ系列内の前景領域(被写体A)の外径矩形を求める関数であるMinAreaRectとを用いたd=1/Area(MinAreaRect(f))の式を用いて算出することができる。
【0070】
ところで、
図5(3)に示すように、画像データに複数の被写体Aが含まれる場合がある。このように、画像データに複数の被写体Aが含まれる場合、算出部142は、複数の被写体Aのうち、外接矩形のサイズが大きい被写体Aに基づいて、奥行指標を算出してもよい。
図5(3)に示す例において、算出部142は、被写体A1、A2のうち、外接矩形のサイズが最も大きい被写体A2の外径矩形である領域R4のサイズに基づいて、奥行指標を算出してもよい。また、算出部142は、画像データに含まれる被写体A1の外接矩形である領域R3のサイズと、被写体A2の外接矩形である領域R4のサイズとを合計した合計サイズに基づいて、奥行指標を算出してもよい。
【0071】
[リソースの負荷状況に基づいて表示モードを決定する処理]
続いて、負荷状況に基づいて表示モードを決定する処理について説明する。上述したとおり、モノラル表示モードでは単一画像が表示され、ステレオ表示モードでは視差画像が表示される。両者を比較すると、ステレオ表示モードの方がCPUをはじめとするリソースに負荷がかかるため、リソースの負荷が高い状況でステレオ表示モードに基づく処理が実行されると、画像データが表示部12に表示されるまでに時間がかかってしまい、ユーザの体感品質が低下し得る。そこで、表示装置1の決定部143は、奥行指標とリソースの負荷状況とに基づいて表示モードを決定してもよい。リソースは、表示部12に画像データを表示させるために用いられる資源であり、例えば、表示装置1のCPU、GPU、電池又はネットワーク等である。
【0072】
この場合において、負荷状況推定部144は、リソースの負荷状況を推定する。具体的には、負荷状況推定部144は、CPUの使用率、GPUの使用率、電池残量及びネットワークの状態それぞれを測定し、測定した結果に基づいてリソースの負荷状況を推定する。負荷状況推定部144は、測定した結果である各リソースの測定値を正規化した後に、リソースの負荷状況を推定してもよい。例えば、ネットワークの状態を測定する場合、負荷状況推定部144は、通信部11が受信した電波強度をネットワークの状態として測定し、測定したネットワークの測定値を他のリソースの単位(例えばCPUの使用率)と同じ単位になるように正規化する。負荷状況推定部144は、各リソースの測定値それぞれを各リソースに対応する重み係数(例えば0から1までを範囲とする数値)で重み付けした後に、リソースの負荷状況を推定してもよい。
【0073】
ここで、表示装置1の電池残量をL_Power(値が低いほど負荷が高い)とし、表示装置1のCPUの稼働率をL_CPU(値が高いほど負荷が高い)とし、表示装置1のGPUの稼働率をL_GPU(値が高いほど負荷が高い)とし、ネットワークの状態をL_NETWORK(値が高いほど負荷が高い)とし、各リソースに対応する重み係数をa、b、c、dとした場合、負荷状況推定部144は、リソースの負荷状況lを、l=1/(a・L_Power+b・(1-L_CPU)+c・(1-L_GPU)+d・(1-L_NETWORK))の式を用いて算出することができる。この場合、リソースの負荷状況l(以下、「推定値」という。)は、値が高いほどリソースの負荷状況が高いことを示し、値が低いほどリソースの負荷状況が低いことを示す。
【0074】
決定部143は、負荷状況推定部144がリソースの負荷状況を推定すると、負荷状況推定部144が推定した結果がリソースの負荷状況が高いことを示す場合に、表示モードをモノラル表示モードに決定し、負荷状況推定部144が推定した結果がリソースの負荷状況が高くないことを示す場合に、表示モードをステレオ表示モードに決定する。
【0075】
具体的には、決定部143は、負荷状況推定部144が推定した推定値が所定の閾値以上である場合、表示モードをモノラル表示モードに決定し、推定値が所定の閾値未満である場合、表示モードをステレオ表示モードに決定する。
【0076】
より具体的には、決定部143は、奥行指標に対応する所定の閾値よりも奥行指標が遠いことを示す場合、又は奥行指標に対応する所定の閾値よりも奥行指標が近いことを示し、かつ推定値が当該推定値に対応する所定の閾値以上である場合、表示モードをモノラル表示モードに決定する。一方、決定部143は、奥行指標に対応する所定の閾値よりも奥行指標が近いことを示し、かつ推定値が当該推定値に対応する所定の閾値未満である場合、表示モードをステレオ表示モードに決定する。
【0077】
決定部143は、奥行指標と推定値とを統合した統合パラメータに基づいて、表示モードを決定してもよい。決定部143は、第1パラメータで重み付けした奥行指標と、第1パラメータとは異なる第2パラメータで重み付けした推定値とに基づいて、統合パラメータを算出する。第1パラメータ及び第2パラメータは、例えば、0から1までを範囲とする数値であり、予め設定されたパラメータである。
【0078】
ここで、第1パラメータをαとし、第2パラメータをβとした場合、決定部143は、統合パラメータpを、p=α・d+β・lの式を用いて算出することができる。この場合における統合パラメータpは、被写体Aの奥行きが長くなるほど、またリソースの負荷状況が高くなるほど値が大きくなり、被写体Aの奥行きが短くなるほど、またリソースの負荷状況が低くなるほど値が小さくなる。
【0079】
決定部143は、統合パラメータを算出すると、算出した統合パラメータが、統合パラメータに対応する所定の閾値を超える場合、表示モードをモノラル表示モードに決定し、算出した統合パラメータが所定の閾値以下である場合、表示モードをステレオ表示モードに決定する。このように、決定部143は、リソースの負荷状況が高い場合に、表示モードをリソースの負荷が小さいモノラル表示モードに決定することにより、リソースが逼迫することによりユーザの体感品質が低下することを防ぐことができる。
【0080】
[表示システムSの処理]
続いて、表示システムSの処理の流れについて説明する。
図6は、表示システムSの処理の流れを示すシーケンス図である。
図6に示すS6の処理は、S2とS3の間に実行されてもよいし、S3からS5までの処理と並列に実行されてもよい。
【0081】
本処理は、画像生成装置2の生成部231が、設定された表示モードに基づいて、画像データを生成したことを契機として開始する(S1)。画像生成装置2の送信部232は、通信部21を介して、生成部231が生成した画像データを表示装置1に送信する(S2)。
【0082】
表示装置1の算出部142は、取得部141が通信部11を介して画像データを取得すると、取得された画像データに基づいて、被写体Aの奥行指標を算出する(S3)。算出部142は、例えば、画像データのサイズに基づいて、奥行指標を算出する。
【0083】
表示装置1の決定部143は、奥行指標に基づいて、モノラル表示モードとステレオ表示モードとのいずれかの表示モードを決定する(S4)。具体的には、決定部143は、所定の閾値よりも奥行指標が遠いことを示す場合、表示モードをモノラル表示モードに決定し、所定の閾値よりも奥行指標が近いことを示す場合、表示モードをステレオ表示モードに決定する。
【0084】
表示装置1の通知部145は、決定部143が決定した表示モードを示すモード情報を画像生成装置2に通知する(S5)。そして、表示制御部146は、決定部143が決定した表示モードに基づいて、画像データを表示部12に表示させる(S6)。具体的には、表示制御部146は、取得部141が取得した画像データを表示部12に表示させる。
【0085】
[変形例]
上記において、表示装置1が、奥行指標に基づいて、表示モードとともにアラートモードを設定する例を説明したがこれに限らない。例えば、表示装置1は、奥行指標に基づいて、表示モードを設定せずに、アラートモードを設定してもよい。この場合、表示装置1は、奥行指標に基づいて、アラートモードとともに表示モードを設定してもよい。
【0086】
[本実施の形態における効果]
以上説明したとおり、表示システムSは、表示装置1が、画像生成装置2によって生成された画像データに基づいて奥行指標を算出し、算出した奥行指標に基づいて表示モードを決定する。そして、表示装置1が、決定した表示モードに基づいて、画像データを表示する。このようにすることで、表示装置1は、画像データに基づいて被写体Aの奥行きを推定することができる。これにより、表示装置1は、被写体Aの奥行きに応じて表示モードを制御することができる。その結果、表示システムSは、AR表示においてユーザの体感品質の低減を抑えつつ、リソースの負荷を低減させることができる。
【0087】
以上、本発明を実施の形態を用いて説明したが、本発明の技術的範囲は上記実施の形態に記載の範囲には限定されず、その要旨の範囲内で種々の変形及び変更が可能である。例えば、装置の全部又は一部は、任意の単位で機能的又は物理的に分散・統合して構成することができる。また、複数の実施の形態の任意の組み合わせによって生じる新たな実施の形態も、本発明の実施の形態に含まれる。組み合わせによって生じる新たな実施の形態の効果は、もとの実施の形態の効果を併せ持つ。
【符号の説明】
【0088】
1 表示装置
11 通信部
12 表示部
13 記憶部
14 制御部
141 取得部
142 算出部
143 決定部
144 負荷状況推定部
145 通知部
146 表示制御部
2 画像生成装置
21 通信部
22 記憶部
23 制御部
231 生成部
232 送信部
S 表示システム