IP Force 特許公報掲載プロジェクト 2022.1.31 β版

知財求人 - 知財ポータルサイト「IP Force」

▶ 三菱電機エンジニアリング株式会社の特許一覧

<>
  • 特開-表示制御装置および表示制御方法 図1
  • 特開-表示制御装置および表示制御方法 図2
  • 特開-表示制御装置および表示制御方法 図3
  • 特開-表示制御装置および表示制御方法 図4
  • 特開-表示制御装置および表示制御方法 図5
  • 特開-表示制御装置および表示制御方法 図6
  • 特開-表示制御装置および表示制御方法 図7
  • 特開-表示制御装置および表示制御方法 図8
  • 特開-表示制御装置および表示制御方法 図9
  • 特開-表示制御装置および表示制御方法 図10
  • 特開-表示制御装置および表示制御方法 図11
< >
(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公開特許公報(A)
(11)【公開番号】P2025011349
(43)【公開日】2025-01-24
(54)【発明の名称】表示制御装置および表示制御方法
(51)【国際特許分類】
   G06F 3/01 20060101AFI20250117BHJP
   G06F 3/04815 20220101ALI20250117BHJP
【FI】
G06F3/01 510
G06F3/04815
【審査請求】未請求
【請求項の数】5
【出願形態】OL
(21)【出願番号】P 2023113378
(22)【出願日】2023-07-11
(71)【出願人】
【識別番号】591036457
【氏名又は名称】三菱電機エンジニアリング株式会社
(74)【代理人】
【識別番号】110003166
【氏名又は名称】弁理士法人山王内外特許事務所
(72)【発明者】
【氏名】山崎 亮平
【テーマコード(参考)】
5E555
【Fターム(参考)】
5E555AA22
5E555AA23
5E555AA27
5E555BA08
5E555BB08
5E555BC17
5E555BE16
5E555BE17
5E555CA28
5E555CA42
5E555DA08
5E555DA09
5E555DB53
5E555DB57
5E555DC10
5E555DC11
5E555DD01
5E555DD08
5E555FA00
(57)【要約】
【課題】従来に対し、物体が近づいてきたとしても、その存在を認識しやすくする。
【解決手段】現実空間への表示対象であるUI要素を示すUI要素情報を取得するUI要素情報取得部201と、UI要素情報取得部201により取得されたUI要素情報が示すUI要素を表示する領域に近づく物体の有無を示す物体情報を取得する物体情報取得部202と、UI要素情報取得部201により取得されたUI要素情報が示すUI要素に対し、物体情報取得部202により取得された物体情報に基づいて、透明度を補正する透明度補正部203とを備えた。
【選択図】図2
【特許請求の範囲】
【請求項1】
現実空間への表示対象であるユーザインタフェース要素を示すユーザインタフェース要素情報を取得するユーザインタフェース要素情報取得部と、
前記ユーザインタフェース要素情報取得部により取得されたユーザインタフェース要素情報が示すユーザインタフェース要素を表示する領域に近づく物体の有無を示す物体情報を取得する物体情報取得部と、
前記ユーザインタフェース要素情報取得部により取得されたユーザインタフェース要素情報が示すユーザインタフェース要素に対し、前記物体情報取得部により取得された物体情報に基づいて、透明度を補正する透明度補正部と
を備えた表示制御装置。
【請求項2】
前記ユーザインタフェース要素情報取得部により取得されたユーザインタフェース要素情報が示すユーザインタフェース要素を表示する領域における背景の色相および彩度のうちの少なくとも一方を示す第1の背景情報を取得する第1の背景情報取得部と、
前記ユーザインタフェース要素情報取得部により取得されたユーザインタフェース要素情報が示すユーザインタフェース要素に対し、前記第1の背景情報取得部により取得された第1の背景情報に基づいて、色相および彩度のうちの少なくとも一方を補正する第1の色補正部とを備えた
ことを特徴とする請求項1記載の表示制御装置。
【請求項3】
前記ユーザインタフェース要素情報取得部により取得されたユーザインタフェース要素情報が示すユーザインタフェース要素を表示する領域における背景の明度を示す第2の背景情報を取得する第2の背景情報取得部と、
前記ユーザインタフェース要素情報取得部により取得されたユーザインタフェース要素情報が示すユーザインタフェース要素に対し、前記第2の背景情報取得部により取得された第2の背景情報に基づいて、明度を補正する第2の色補正部とを備えた
ことを特徴とする請求項1または請求項2記載の表示制御装置。
【請求項4】
ユーザの視線方向を示す視線方向情報を取得する視線方向情報取得部と、
前記視線方向情報取得部により取得された視線方向情報に基づいて、ユーザがユーザインタフェース要素を表示する領域内の微小領域を注視しているかを判定する注視状態判定部と、
前記視線方向情報取得部により取得された視線方向情報および前記注視状態判定部による判定結果に基づいて、前記ユーザインタフェース要素情報取得部により取得されたユーザインタフェース要素情報が示すユーザインタフェース要素のうちの一部を拡大した画面を作成する拡大画面作成部とを備えた
ことを特徴とする請求項1記載の表示制御装置。
【請求項5】
ユーザインタフェース要素情報取得部が、現実空間への表示対象であるユーザインタフェース要素を示すユーザインタフェース要素情報を取得するステップと、
物体情報取得部が、前記ユーザインタフェース要素情報取得部により取得されたユーザインタフェース要素情報が示すユーザインタフェース要素を表示する領域に近づく物体の有無を示す物体情報を取得するステップと、
透明度補正部が、前記ユーザインタフェース要素情報取得部により取得されたユーザインタフェース要素情報が示すユーザインタフェース要素に対し、前記物体情報取得部により取得された物体情報に基づいて、透明度を補正するステップと
を有する表示制御方法。
【発明の詳細な説明】
【技術分野】
【0001】
本開示は、現実空間にユーザインタフェース要素をホログラム投影するための表示制御装置および表示制御方法に関する。
【背景技術】
【0002】
一般的に、MR(Mixed Reality)技術では、現実空間にホログラム投影したウィンドウまたはボタンなどのユーザインタフェース要素(以降、UI要素と記述)をグラス越しに見ながら、ウィンドウの移動、拡大またはボタン押下などの操作を行う(例えば特許文献1参照)。
基本的な操作方法としては、ハンドジェスチャー、ハンドレイ、音声入力、または、視線入力などが存在する。そして、ユーザは、上記の何れかの操作方法を用いて、UI要素に対して何らかの操作を行う。
【先行技術文献】
【特許文献】
【0003】
【特許文献1】特開2015-57659号公報
【発明の概要】
【発明が解決しようとする課題】
【0004】
しかしながら、従来のデバイスでは、現実空間にUI要素をホログラム投影するため、物体(人またはその他の動く物体)が近づいてきたとしてもその存在を認識しにくい場合が考えられる。
また、従来のデバイスでは、現実空間にUI要素をホログラム投影するため、その現実空間の明るさによっては、UI要素の視認性が悪くなり、作業効率の低下が考えられる。すなわち、従来のデバイスでは、屋外など明るい場所で利用すると、ホログラム投影したUI要素が薄く見えて認識しにくい。
また、従来のデバイスでは、UI要素は基本的にユーザ自身ですべて操作する必要がある。そのため、表示するUI要素が多い場合にはユーザの負担が大きくなる。
【0005】
本開示は、上記のような課題を解決するためになされたもので、従来に対し、物体が近づいてきたとしても、その存在を認識しやすくなる表示制御装置を提供することを目的としている。
【課題を解決するための手段】
【0006】
本開示に係る表示制御装置は、現実空間への表示対象であるユーザインタフェース要素を示すユーザインタフェース要素情報を取得するユーザインタフェース要素情報取得部と、ユーザインタフェース要素情報取得部により取得されたユーザインタフェース要素情報が示すユーザインタフェース要素を表示する領域に近づく物体の有無を示す物体情報を取得する物体情報取得部と、ユーザインタフェース要素情報取得部により取得されたユーザインタフェース要素情報が示すユーザインタフェース要素に対し、物体情報取得部により取得された物体情報に基づいて、透明度を補正する透明度補正部とを備えたことを特徴とする。
【発明の効果】
【0007】
本開示によれば、上記のように構成したので、従来に対し、物体が近づいてきたとしても、その存在を認識しやすくなる。
【図面の簡単な説明】
【0008】
図1】実施の形態1に係る表示システムの構成例を示す図である。
図2】実施の形態1に係る表示制御装置の構成例を示す図である。
図3】実施の形態1に係る表示制御装置の動作例を示すフローチャートである。
図4図4A図4Bは、実施の形態1に係る表示制御装置の動作例を示す図であって、図4Aは表示制御装置による透明度の補正前の状態の一例を示す図であって、図4Bは表示制御装置による透明度の補正後の状態の一例を示す図である。
図5】実施の形態2に係る表示制御装置の構成例を示す図である。
図6】実施の形態2に係る表示制御装置の動作例を示すフローチャートである。
図7図7A図7Bは、実施の形態2に係る表示制御装置の動作例を示す図であって、図7Aは表示制御装置による色相および彩度のうちの少なくとも一方ならびに明度の補正前の状態の一例を示す図であって、図7Bは表示制御装置による色相および彩度のうちの少なくとも一方ならびに明度の補正後の状態の一例を示す図である。
図8】実施の形態3に係る表示制御装置の構成例を示す図である。
図9】実施の形態3に係る表示制御装置の動作例を示すフローチャートである。
図10図10A図10Bは、実施の形態3に係る表示制御装置の動作例を示す図あって、図10Aは表示制御装置による拡大画面の作成前の状態の一例を示す図であって、図10Bは表示制御装置による拡大画面の作成後の状態の一例を示す図である。
図11図11A図11Bは、実施の形態1-3に係る表示制御装置のハードウェア構成例を示す図である。
【発明を実施するための形態】
【0009】
以下、実施の形態について図面を参照しながら詳細に説明する。
実施の形態1.
図1は実施の形態1に係る表示システムの構成例を示す図である。
表示システムは、現実空間にユーザインタフェース要素(以降、UI要素と記述)をホログラム投影するシステムである。UI要素としては、例えばウィンドウまたはボタンなどが挙げられる。この表示システムは、ヘッドマウントディスプレイ型のデバイス1、および、表示制御装置2を備えている。
【0010】
なお、図1では、表示制御装置2が、デバイス1の外部に設けられた場合を示している。しかしながら、これに限らず、表示制御装置2は、デバイス1の内部に設けられていてもよい。
【0011】
デバイス1は、ユーザが頭部に装着して使用するデバイスである。このデバイス1は、距離情報取得部および表示部を有している。距離情報取得部は、距離情報を取得する。この距離情報は、デバイス1から、UI要素を表示する領域を含む外部の領域に存在する物体までの距離を示す情報である。この距離情報取得部としては、例えば深度センサまたは空間スキャン機能を有するセンサが挙げられる。また、表示部は、表示制御装置2から得られたUI要素をホログラム投影することで表示する。
このデバイス1としては、既存のデバイスを用いることが可能である。
【0012】
表示制御装置2は、現実空間への表示対象であるUI要素の制御を行う。
この表示制御装置2は、図2に示すように、UI要素情報取得部201、物体情報取得部202、および、透明度補正部203を備えている。
【0013】
UI要素情報取得部201は、UI要素情報を取得する。UI要素情報は、現実空間への表示対象であるUI要素を示す情報である。
【0014】
物体情報取得部202は、物体情報を取得する。物体情報は、UI要素情報取得部201により取得されたUI要素情報が示すUI要素を表示する領域に近づく物体の有無を示す情報、すなわち、当該領域からの距離が閾値より短く、かつ、当該領域に向かってくる物体の有無を示す情報である。物体としては、人、または、その他の動く物体が挙げられる。また、閾値は適宜設定可能である。
この際、物体情報取得部202は、距離情報取得部により取得された距離情報に基づいて、UI要素を表示する領域に近づく物体の有無を検出することで、物体情報を取得してもよい。また、例えば、物体の移動を監視する位置測位システムなどと連携し、当該位置測位システムにより得られた物体の移動を示す情報に基づいて、UI要素を表示する領域に近づく物体の有無を検出することで、物体情報を取得してもよい。
また、物体情報取得部202は、外部から入力された物体情報そのものを取得してもよい。
【0015】
また、物体情報取得部202により取得される物体情報には、UI要素情報取得部201により取得されたUI要素情報が示すUI要素を表示する領域に近づく物体の当該領域からの距離、および、当該物体の移動速度を示す情報のうちの少なくとも一方が含まれていてもよい。
【0016】
透明度補正部203は、UI要素情報取得部201により取得されたUI要素情報が示すUI要素に対し、物体情報取得部202により取得された物体情報に基づいて、透明度を補正する。
この際、例えば、透明度補正部203は、物体情報取得部202により取得された物体情報がUI要素を表示する領域に近づく物体が有ることを示す場合、当該UI要素の透明度を通常の場合よりも高く補正する。また、その後、透明度補正部203は、物体情報取得部202により取得された物体情報がUI要素を表示する領域に近づく物体が無くなったことを示した場合、当該UI要素の透明度を通常の場合に戻す。
【0017】
また、物体情報に、物体の領域からの距離および移動速度を示す情報のうちの少なくとも一方が含まれている場合、透明度補正部203は、それらのパラメータも考慮してUI要素の透明度を補正してもよい。
この際、例えば、透明度補正部203は、物体の領域からの距離が短いほどまたは物体の移動速度が速いほど、UI要素の透明度を連続的または段階的に高くするように補正する。
【0018】
また、表示制御装置2が所定の領域内における物体の移動を監視可能な位置測位システムとの連携が可能である場合、透明度補正部203は、この位置測位システムによる移動情報も考慮してUI要素の透明度を補正してもよい。
【0019】
そして、デバイス1は、透明度補正部203によりUI要素の透明度が補正された場合には、当該補正後のUI要素を表示する。
【0020】
次に、図1,2に示す実施の形態1に係る表示制御装置2の動作例について、図3を参照しながら説明する。
なお、UI要素情報取得部201は、現実空間への表示対象であるUI要素を示すUI要素情報を取得している。
【0021】
図1,2に示す実施の形態1に係る表示制御装置2の動作例では、図3に示すように、まず、物体情報取得部202は、UI要素情報取得部201により取得されたUI要素情報が示すUI要素を表示する領域に近づく物体の有無を示す物体情報を取得する(ステップST101)。この際、物体情報取得部202は、距離情報取得部により取得された距離情報に基づいて、UI要素を表示する領域に近づく物体の有無を検出することで、物体情報を取得してもよい。また、例えば、物体の移動を監視する位置測位システムなどと連携し、当該位置測位システムにより得られた物体の移動を示す情報に基づいて、UI要素を表示する領域に近づく物体の有無を検出することで、物体情報を取得してもよい。また、物体情報取得部202は、外部から入力された物体情報そのものを取得してもよい。
【0022】
また、物体情報取得部202が取得する物体情報には、UI要素情報取得部201により取得されたUI要素情報が示すUI要素を表示する領域に近づく物体の当該領域からの距離、および、当該物体の移動速度を示す情報のうちの少なくとも一方が含まれていてもよい。
【0023】
次いで、透明度補正部203は、物体情報取得部202により取得された物体情報に基づいて、UI要素情報取得部201により取得されたUI要素情報が示すUI要素に対する透明度の補正が必要であるかを判定する(ステップST102)。すなわち、透明度補正部203は、上記物体情報が、上記UI要素を表示する領域に近づく物体が有ることを示しているかを判定することで、当該UI要素に対する透明度の補正が必要であるかを判定する。
【0024】
この際、ステップST102において、透明度補正部203が、上記UI要素に対する透明度の補正が不要であると判定した場合、シーケンスは終了する。
【0025】
一方、ステップST102において、透明度補正部203は、上記UI要素に対する透明度の補正が必要であると判定した場合、当該UI要素に対して透明度を補正する(ステップST103)。この際、例えば図4に示すように、透明度補正部203は、UI要素の透明度を通常の場合よりも高く補正する。なお、図4Aは、通常の場合、すなわち、透明度補正部203による透明度の補正前の状態の一例を示す図である。図4Aにおいて、符号41aは補正前のUI要素を示している。また、図4Bの図は、透明度補正部203による透明度の補正後の状態の一例を示す図である。図4Bにおいて、符号41bは補正後のUI要素を示している。図4Bでは、UI要素を表示する領域に対して人が近づいてきた場合を示している。
【0026】
また、物体情報に、物体の領域からの距離および移動速度を示す情報のうちの少なくとも一方が含まれている場合、透明度補正部203は、それらのパラメータも考慮してUI要素の透明度を補正してもよい。
この際、例えば、透明度補正部203は、物体の領域からの距離が短いほどまたは物体の移動速度が速いほど、UI要素の透明度を連続的または段階的に高くするように補正する。
【0027】
また、表示制御装置2が所定の領域内における物体の移動を監視可能な位置測位システムとの連携が可能である場合、透明度補正部203は、この位置測位システムによる移動情報も考慮してUI要素の透明度を補正してもよい。
【0028】
なお、その後、透明度補正部203は、物体情報取得部202により取得された物体情報がUI要素を表示する領域に近づく物体が無くなったことを示した場合、当該UI要素の透明度を通常の場合に戻す。
【0029】
このように実施の形態1に係る表示制御装置2では、ユーザの視野上に表示されているUI要素の裏側から近づいてくる物体の有無に基づいて、UI要素の透明度を調整する。これにより、実施の形態1に係る表示制御装置2では、ホログラム投影しているUI要素の裏側に近づく物体が存在する場合にも、ユーザが当該物体を認識しやすくなる。その結果、ユーザは、上記物体との衝突を回避しやすくなり、安全性を高めることが可能となる。
【0030】
以上のように、この実施の形態1によれば、表示制御装置2は、現実空間への表示対象であるUI要素を示すUI要素情報を取得するUI要素情報取得部201と、UI要素情報取得部201により取得されたUI要素情報が示すUI要素を表示する領域に近づく物体の有無を示す物体情報を取得する物体情報取得部202と、UI要素情報取得部201により取得されたUI要素情報が示すUI要素に対し、物体情報取得部202により取得された物体情報に基づいて、透明度を補正する透明度補正部203とを備えた。これにより、実施の形態1に係る表示制御装置2は、従来に対し、物体が近づいてきたとしても、その存在を認識しやすくなる。
【0031】
実施の形態2.
実施の形態1に係る表示制御装置2では、UI要素を表示する領域に近づく物体の有無に応じてUI要素の透明度を補正する場合を示した。これに対し、実施の形態2に係る表示制御装置2では、上記に加え、UI要素を表示する領域における背景の色相および彩度のうちの少なくとも一方ならびに明度に応じてUI要素の色相および彩度のうちの少なくとも一方ならびに明度を補正する構成について示す。
【0032】
図5は実施の形態2に係る表示制御装置2の構成例を示す図である。この図5に示す実施の形態2に係る表示制御装置2は、図2に示す実施の形態1に係る表示制御装置2に対し、第1の背景情報取得部204、第2の背景情報取得部205、第1の色補正部206および第2の色補正部207が追加されている。図5に示す実施の形態2に係る表示制御装置2におけるその他の構成例は、図2に示す実施の形態1に係る表示制御装置2の構成例と同様であり、同一の符号を付して異なる部分についてのみ説明を行う。
【0033】
なお、デバイス1は、外部画像取得部を有している。外部画像取得部は、外部画像を取得する。この外部画像は、UI要素を表示する領域を含む外部の領域を撮影することで得られる画像である。
【0034】
第1の背景情報取得部204は、第1の背景情報を取得する。第1の背景情報は、UI要素情報取得部201により取得されたUI要素情報が示すUI要素を表示する領域における背景の色相および彩度のうちの少なくとも一方を示す情報である。なお、ここでいう背景の範囲は、例えば、ユーザが視覚可能な領域である視野領域全体でもよいし、当該視野領域のうちの一部の領域、例えばUI要素を表示する領域と重なる領域のみでもよい。
この際、第1の背景情報取得部204は、外部画像取得部により取得された外部画像に基づいて、UI要素を表示する領域における背景の色相および彩度のうちの少なくとも一方を検出することで、第1の背景情報を取得してもよい。
また、第1の背景情報取得部204は、外部から入力された第1の背景情報そのものを取得してもよい。例えば、デバイス1の内部または外部に、上記第1の背景情報を取得可能なセンサが設けられている場合、第1の背景情報取得部204はこのセンサから第1の背景情報を取得してもよい。このセンサとしては、例えば、光センサ(カラーセンサ)が挙げられる。
【0035】
第2の背景情報取得部205は、第2の背景情報を取得する。第2の背景情報は、UI要素情報取得部201により取得されたUI要素情報が示すUI要素を表示する領域における背景の明度を示す情報である。なお、ここでいう背景の範囲は、例えば、ユーザが視覚可能な領域である視野領域全体でもよいし、当該視野領域のうちの一部の領域、例えばUI要素を表示する領域と重なる領域のみでもよい。
この際、第2の背景情報取得部205は、外部画像取得部により取得された外部画像に基づいて、UI要素を表示する領域における背景の明度を検出することで、第2の背景情報を取得してもよい。
また、第2の背景情報取得部205は、外部から入力された第2の背景情報そのものを取得してもよい。
【0036】
第1の色補正部206は、UI要素情報取得部201により取得されたUI要素情報が示すUI要素に対し、第1の背景情報取得部204により取得された第1の背景情報に基づいて、色相および彩度のうちの少なくとも一方を補正する。
この際、例えば、第1の色補正部206は、背景の色相とUI要素の色相、および、背景の彩度の値またはその平均値などの彩度の代表値とUI要素の彩度の値またはその平均値などの彩度の代表値のうちの少なくとも一方を比較する。そして、第1の色補正部206は、上記色相の差および上記彩度の代表値の差のうちの少なくとも一方に応じて、UI要素の色相および彩度のうちの少なくとも一方を補正する。
この際、例えば、第1の色補正部206は、背景の彩度の代表値がUI要素の彩度の代表値に対して高い場合にはUI要素の彩度をより高くするように補正し、背景の彩度の代表値がUI要素の彩度の代表値に対して低い場合にはUI要素の彩度の高さを抑えるように補正してもよい。また、例えば、第1の色補正部206は、背景の色相とUI要素の色相とが同系色である場合に、UI要素の色相を背景の色相の補色となるように補正してコントラストを高くしてもよい。
【0037】
第2の色補正部207は、UI要素情報取得部201により取得されたUI要素情報が示すUI要素に対し、第2の背景情報取得部205により取得された第2の背景情報に基づいて、明度を補正する。
この際、例えば、第2の色補正部207は、背景の明度が閾値より高い場合、UI要素の明度を通常の場合よりも低く補正する。なお、閾値は適宜設定可能である。
【0038】
そして、デバイス1は、第1の色補正部206によりUI要素の色相および彩度のうちの少なくとも一方が補正された場合または第2の色補正部207によりUI要素の明度が補正された場合には、当該補正後のUI要素を表示する。
【0039】
次に、図5に示す実施の形態2に係る表示制御装置2の動作例について、図6を参照しながら説明する。図6では、実施の形態2に係る表示制御装置2による背景の色相および彩度のうちの少なくとも一方に基づく第1の色補正および背景の明度に基づく第2の色補正に関する動作についてのみ説明を行う。
【0040】
図5に示す実施の形態2に係る表示制御装置2の動作例では、図6に示すように、まず、第1の背景情報取得部204は、UI要素情報取得部201により取得されたUI要素情報が示すUI要素を表示する領域における背景の色相および彩度のうちの少なくとも一方を示す第1の背景情報を取得する(ステップST201)。なお、ここでいう背景の範囲は、例えば、ユーザが視覚可能な領域である視野領域全体でもよいし、当該視野領域のうちの一部の領域、例えばUI要素を表示する領域と重なる領域のみでもよい。
この際、第1の背景情報取得部204は、外部画像取得部により取得された外部画像に基づいて、UI要素を表示する領域における背景の色相および彩度のうちの少なくとも一方を検出することで、第1の背景情報を取得してもよい。また、第1の背景情報取得部204は、外部から入力された第1の背景情報そのものを取得してもよい。
【0041】
また、第2の背景情報取得部205は、UI要素情報取得部201により取得されたUI要素情報が示すUI要素を表示する領域における背景の明度を示す第2の背景情報を取得する(ステップST202)。なお、ここでいう背景の範囲は、例えば、ユーザが視覚可能な領域である視野領域全体でもよいし、当該視野領域のうちの一部の領域、例えばUI要素を表示する領域と重なる領域のみでもよい。
この際、第2の背景情報取得部205は、外部画像取得部により取得された外部画像に基づいて、UI要素を表示する領域における背景の明度を検出することで、第2の背景情報を取得してもよい。また、第2の背景情報取得部205は、外部から入力された第2の背景情報そのものを取得してもよい。
【0042】
次いで、第1の色補正部206は、第1の背景情報取得部204により取得された第1の背景情報に基づいて、UI要素情報取得部201により取得されたUI要素情報が示すUI要素に対する色相および彩度のうちの少なくとも一方の補正が必要であるかを判定する(ステップST203)。すなわち、例えば、第1の色補正部206は、上記第1の背景情報が示す背景の色相と上記UI要素の色相、および、上記第1の背景情報が示す背景の彩度の値またはその平均値などの彩度の代表値と上記UI要素の彩度の値またはその平均値などの彩度の代表値のうちの少なくとも一方を比較する。そして、第1の色補正部206は、上記色相の差の判定および上記彩度の代表値の差が閾値以上であるかの判定のうちの少なくとも一方を行うことで、当該UI要素に対する色相および彩度のうちの少なくとも一方の補正が必要であるかを判定する。
【0043】
このステップST203において、第1の色補正部206が、上記UI要素に対する色相および彩度のうちの少なくとも一方の補正が不要であると判定した場合、シーケンスはステップST205に進む。
【0044】
一方、ステップST203において、第1の色補正部206は、上記UI要素に対する色相および彩度のうちの少なくとも一方の補正が必要であると判定した場合、当該UI要素に対して色相および彩度のうちの少なくとも一方を補正する(ステップST204)。この際、例えば、第1の色補正部206は、上記色相の差および上記彩度の代表値の差のうちの少なくとも一方に応じて、UI要素の色相および彩度のうちの少なくとも一方を補正する。この際、例えば、第1の色補正部206は、背景の彩度の代表値がUI要素の彩度の代表値に対して高い場合にはUI要素の彩度をより高くするように補正し、背景の彩度の代表値がUI要素の彩度の代表値に対して低い場合にはUI要素の彩度の高さを抑えるように補正してもよい。また、例えば、第1の色補正部206は、背景の色相とUI要素の色相とが同系色である場合に、UI要素の色相を背景の色相の補色となるように補正してコントラストを高くしてもよい。
【0045】
また、第2の色補正部207は、第2の背景情報取得部205により取得された第2の背景情報に基づいて、UI要素情報取得部201により取得されたUI要素情報が示すUI要素に対する明度の補正が必要であるかを判定する(ステップST205)。すなわち、例えば、第2の色補正部207は、上記第2の背景情報が示す背景の明度の値が閾値であるかを判定することで、当該UI要素に対する明度の補正が必要であるかを判定する。
【0046】
このステップST205において、第2の色補正部207が、上記UI要素に対する明度の補正が不要であると判定した場合、シーケンスは終了する。
【0047】
一方、ステップST205において、第2の色補正部207は、上記UI要素に対する明度の補正が必要であると判定した場合、当該UI要素に対して明度を補正する(ステップST206)。この際、第2の色補正部207は、上記値に応じて、UI要素の明度を補正する。例えば、第2の色補正部207は、背景の明度が高い場合にはUI要素の明度を低くするよう補正する。
【0048】
図7は、実施の形態2に係る表示制御装置2による背景の色相および彩度のうちの少なくとも一方ならびに明度に基づくUI要素の色相および彩度のうちの少なくとも一方ならびに明度の補正を説明するための図である。なお、図7Aは、第1の色補正部206および第2の色補正部207による補正前の状態の一例を示す図である。図7Aにおいて、符号71aは補正前のUI要素を示している。また、図7Bは、第1の色補正部206および第2の色補正部207による補正後の状態の一例を示す図である。図7Bにおいて、符号71bは補正後のUI要素を示している。
【0049】
このように実施の形態2に係る表示制御装置2では、ユーザの視野上に表示されているUI要素の背景の色相および彩度のうちの少なくとも一方ならびに明度に基づいて、UI要素の色相および彩度のうちの少なくとも一方ならびに明度を調整する。これにより、実施の形態2に係る表示制御装置2では、ホログラム投影しているUI要素の背景の色相および彩度のうちの少なくとも一方ならびに明度にかかわらず、当該UI要素を視認しやすくなる。
【0050】
また、実施の形態2に係る表示制御装置2では、背景の色相および彩度のうちの少なくとも一方として、視野領域全体での背景の色相および彩度のうちの少なくとも一方ではなく、UI要素が表示される領域と重なる領域部分での背景の色相および彩度のうちの少なくとも一方を用いることで、UI要素が表示される領域の場所に応じた第1の色補正が可能となる。
同様に、実施の形態2に係る表示制御装置2では、背景の明度として、視野領域全体での背景の明度ではなく、UI要素が表示される領域と重なる領域部分での背景の明度を用いることで、UI要素が表示される領域の場所に応じた第2の色補正が可能となる。
【0051】
以上のように、この実施の形態2によれば、表示制御装置2は、UI要素情報取得部201により取得されたUI要素情報が示すUI要素を表示する領域における背景の色相および彩度のうちの少なくとも一方を示す第1の背景情報を取得する第1の背景情報取得部204と、UI要素情報取得部201により取得されたUI要素情報が示すUI要素を表示する領域における背景の明度を示す第2の背景情報を取得する第2の背景情報取得部205と、UI要素情報取得部201により取得されたUI要素情報が示すUI要素に対し、第1の背景情報取得部204により取得された第1の背景情報に基づいて、色相および彩度のうちの少なくとも一方を補正する第1の色補正部206と、UI要素情報取得部201により取得されたUI要素情報が示すUI要素に対し、第2の背景情報取得部205により取得された第2の背景情報に基づいて、明度を補正する第2の色補正部207とを備えた。これにより、実施の形態2に係る表示制御装置2は、従来に対してUI要素の視認性を向上可能となる。すなわち、実施の形態2に係る表示制御装置2は、従来に対し、現実空間の明るさにかかわらず、UI要素の視認性を向上可能となり、作業効率の低下を抑制可能となる。例えば、実施の形態2に係る表示制御装置2は、屋外など明るい場所で利用したとしても、ホログラム投影したUI要素が薄く見えて認識しにくいといったことを抑制可能となる。
【0052】
なお、上記では、実施の形態2に係る表示制御装置2が、背景の色相および彩度のうちの少なくとも一方ならびに明度に基づいて、UI要素の色相および彩度のうちの少なくとも一方ならびに明度を補正する場合について示した。しかしながら、これに限らず、表示制御装置2は、背景の色相および彩度のうちの少なくとも一方あるいは明度に基づいて、UI要素の色相および彩度のうちの少なくとも一方あるいは明度を補正してもよく、上記と同様の効果が得られる。
【0053】
例えば、表示制御装置2が、背景の色相および彩度のうちの少なくとも一方に基づいてUI要素の色相および彩度のうちの少なくとも一方のみを補正する場合には、図5に示す第2の背景情報取得部205および第2の色補正部207は不要である。この場合、表示制御装置2は、図2に示す実施の形態1に係る表示制御装置2に対し、UI要素情報取得部201により取得されたUI要素情報が示すUI要素を表示する領域における背景の色相および彩度のうちの少なくとも一方を示す第1の背景情報を取得する第1の背景情報取得部204と、UI要素情報取得部201により取得されたUI要素情報が示すUI要素に対し、第1の背景情報取得部204により取得された第1の背景情報に基づいて、色相および彩度のうちの少なくとも一方を補正する第1の色補正部206とが追加される。
【0054】
また、例えば、表示制御装置2が、背景の明度に基づいてUI要素の明度のみを補正する場合には、図5に示す第1の背景情報取得部204および第1の色補正部206は不要である。この場合、表示制御装置2は、図2に示す実施の形態1に係る表示制御装置2に対し、UI要素情報取得部201により取得されたUI要素情報が示すUI要素を表示する領域における背景の明度を示す第2の背景情報を取得する第2の背景情報取得部205と、UI要素情報取得部201により取得されたUI要素情報が示すUI要素に対し、第2の背景情報取得部205により取得された第2の背景情報に基づいて、明度を補正する第2の色補正部207とが追加される。
【0055】
実施の形態3.
実施の形態2に係る表示制御装置2では、UI要素を表示する領域に近づく物体の有無に応じてUI要素の透明度を補正するとともに、UI要素を表示する領域における背景の色相および彩度のうちの少なくとも一方ならびに明度に応じてUI要素の色相および彩度のうちの少なくとも一方ならびに明度を補正する場合について示した。これに対し、実施の形態3に係る表示制御装置2では、上記に加え、UI要素のうちのユーザが注視する領域を拡大した拡大画面を作成する構成について示す。
【0056】
図8は実施の形態3に係る表示制御装置2の構成例を示す図である。この図8に示す実施の形態3に係る表示制御装置2は、図5に示す実施の形態2に係る表示制御装置2に対し、視線方向情報取得部208、注視状態判定部209、および、拡大画面作成部210が追加されている。図8に示す実施の形態3に係る表示制御装置2におけるその他の構成例は、図5に示す実施の形態2に係る表示制御装置2の構成例と同様であり、同一の符号を付して異なる部分についてのみ説明を行う。
【0057】
なお、デバイス1は、視線方向検出部を有している。この視線方向検出部は、アイトラッキングなどにより、ユーザの視線方向を検出する。
【0058】
視線方向情報取得部208は、視線方向情報を取得する。視線方向情報は、ユーザの視線方向を示す情報である。
この際、視線方向情報取得部208は、視線方向検出部により検出された視線方向を示す情報である視線方向情報を取得する。
【0059】
注視状態判定部209は、視線方向情報取得部208により取得された視線方向情報に基づいて、ユーザがUI要素を表示する領域内の微小領域を注視しているかを判定する。この際、注視状態判定部209は、UI要素を表示する領域内において、ユーザの視線が微小領域に所定時間留まっていると判定した場合に、当該微小領域を注視していると判定する。なお、微小領域は、UI要素を表示する領域より小さい領域である。微小領域として、例えば、半径5cmの円状の領域などを設定可能である。また、所定時間として、例えば、3秒などを設定可能である。
【0060】
拡大画面作成部210は、視線方向情報取得部208により取得された視線方向情報および注視状態判定部209による判定結果に基づいて、UI要素情報取得部201により取得されたUI要素情報が示すUI要素のうちの一部を拡大した画面を作成する。この際、拡大画面作成部210は、注視状態判定部209により微小領域を注視していると判定された場合、ユーザの視線上の点である注視点を含む特定の領域を切り取って拡大した画面を作成する。なお、特定の領域は、UI要素を表示する領域より小さく、かつ、微小領域より大きい領域である。特定の領域として、例えば、注視点を中心とした400cm程度の正方形の領域などを設定可能である。
【0061】
そして、デバイス1は、拡大画面作成部210により拡大画面が作成された場合には、UI要素に加えて当該拡大画面も表示する。
【0062】
次に、図8に示す実施の形態3に係る表示制御装置2の動作例について、図9を参照しながら説明する。図8では、実施の形態3に係る表示制御装置2による視線に基づく拡大画面作成に関する動作についてのみ説明を行う。
【0063】
図8に示す実施の形態3に係る表示制御装置2の動作例では、図9に示すように、まず、視線方向情報取得部208は、ユーザの視線方向を示す視線方向情報を取得する(ステップST301)。この際、視線方向情報取得部208は、視線方向検出部により検出された視線方向を示す情報である視線方向情報を取得する。
【0064】
次いで、注視状態判定部209は、視線方向情報取得部208により取得された視線方向情報に基づいて、ユーザがUI要素を表示する領域内の微小領域を注視しているかを判定する(ステップST302)。この際、注視状態判定部209は、UI要素を表示する領域内において、ユーザの視線が微小領域に所定時間留まっていると判定した場合に、当該微小領域を注視していると判定する。
【0065】
このステップST302において、注視状態判定部209は、ユーザが微小領域を注視していないと判定した場合、シーケンスは終了する。
【0066】
一方、注視状態判定部209がユーザが微小領域を注視していると判定した場合、拡大画面作成部210は、視線方向情報取得部208により取得された視線方向情報に基づいて、UI要素情報取得部201により取得されたUI要素情報が示すUI要素のうちの一部を拡大した画面を作成する(ステップST303)。この際、例えば図10に示すように、拡大画面作成部210は、注視状態判定部209により微小領域を注視していると判定された場合、ユーザの視線である注視点を含む特定の領域を切り取って拡大した画面を作成する。なお、図10Aは、拡大画面作成部210による画面作成前の状態の一例を示す図であって、UI要素のみが表示された状態を示す図である。図10Aにおいて、符号101はUI要素を示し、符号102は注視点を示し、符号103は切り取り対象である特定の領域を示している。また、図10Bは、拡大画面作成部210による画面作成後の状態の一例を示す図であって、UI要素および拡大された画面が表示された状態を示す図である。図10Bにおいて、符号104は拡大された画面を示している。
【0067】
このように実施の形態3に係る表示制御装置2では、ユーザの注視点を中心にした所定領域を拡大した画面を自動で作成する。これにより、実施の形態3に係る表示制御装置2では、従来に対し、操作性が改善し、表示するUI要素が多い場合であってもユーザの負担を軽減可能となる。
【0068】
なお、上記では、実施の形態2に係る表示制御装置2に対して、視線方向情報取得部208、注視状態判定部209および拡大画面作成部210が追加された場合を示した。しかしながら、これに限らず、実施の形態1に係る表示制御装置2、あるいは、実施の形態2に係る表示制御装置2のうちの背景の色相および彩度のうちの少なくとも一方に基づくUI要素の第1の色補正のみを行う構成または背景の明度に基づくUI要素の第2の色補正のみを行う構成に対して、視線方向情報取得部208、注視状態判定部209および拡大画面作成部210が追加されてもよい。
【0069】
以上のように、この実施の形態3によれば、表示制御装置2は、ユーザの視線方向を示す視線方向情報を取得する視線方向情報取得部208と、視線方向情報取得部208により取得された視線方向情報に基づいて、ユーザがUI要素を表示する領域内の微小領域を注視しているかを判定する注視状態判定部209と、視線方向情報取得部208により取得された視線方向情報および注視状態判定部209による判定結果に基づいて、UI要素情報取得部201により取得されたUI要素情報が示すUI要素のうちの一部を拡大した画面を作成する拡大画面作成部210とを備えた。これにより、実施の形態3に係る表示制御装置2は、従来に対してUI要素の操作性および視認性を向上可能となる。
【0070】
最後に、図11を参照して、実施の形態1-3に係る表示制御装置2のハードウェア構成例を説明する。以下では、実施の形態1に係る表示制御装置2のハードウェア構成例について説明するが、実施の形態2,3に係る表示制御装置2のハードウェア構成例についても同様である。
表示制御装置2におけるUI要素情報取得部201、物体情報取得部202、および、透明度補正部203の各機能は、処理回路51により実現される。処理回路51は、図11Aに示すように、専用のハードウェアであってもよいし、図11Bに示すように、メモリ53に格納されるプログラムを実行するCPU(Central Processing Unit、中央処理装置、処理装置、演算装置、マイクロプロセッサ、マイクロコンピュータ、プロセッサ、またはDSP(Digital Signal Processor)ともいう)52であってもよい。
【0071】
処理回路51が専用のハードウェアである場合、処理回路51は、例えば、単一回路、複合回路、プログラム化したプロセッサ、並列プログラム化したプロセッサ、ASIC(Application Specific Integrated Circuit)、FPGA(Field Programmable Gate Array)、またはこれらを組み合わせたものが該当する。UI要素情報取得部201、物体情報取得部202、および、透明度補正部203の各部の機能それぞれを処理回路51で実現してもよいし、各部の機能をまとめて処理回路51で実現してもよい。
【0072】
処理回路51がCPU52の場合、UI要素情報取得部201、物体情報取得部202、および、透明度補正部203の機能は、ソフトウェア、ファームウェア、またはソフトウェアとファームウェアとの組み合わせにより実現される。ソフトウェアおよびファームウェアはプログラムとして記述され、メモリ53に格納される。処理回路51は、メモリ53に記憶されたプログラムを読み出して実行することにより、各部の機能を実現する。すなわち、表示制御装置2は、処理回路51により実行されるときに、例えば図3に示した各ステップが結果的に実行されることになるプログラムを格納するためのメモリ53を備える。また、これらのプログラムは、UI要素情報取得部201、物体情報取得部202、および、透明度補正部203の手順および方法をコンピュータに実行させるものであるともいえる。ここで、メモリ53としては、例えば、RAM(Random Access Memory)、ROM(Read Only Memory)、フラッシュメモリ、EPROM(Erasable Programmable ROM)、EEPROM(Electrically EPROM)などの不揮発性または揮発性の半導体メモリ、磁気ディスク、フレキシブルディスク、光ディスク、コンパクトディスク、ミニディスク、またはDVD(Digital Versatile Disc)などが該当する。
【0073】
なお、UI要素情報取得部201、物体情報取得部202、および、透明度補正部203の各機能について、一部を専用のハードウェアで実現し、一部をソフトウェアまたはファームウェアで実現するようにしてもよい。例えば、UI要素情報取得部201については専用のハードウェアとしての処理回路51でその機能を実現し、物体情報取得部202、および、透明度補正部203については処理回路51がメモリ53に格納されたプログラムを読み出して実行することによってその機能を実現することが可能である。
【0074】
このように、処理回路51は、ハードウェア、ソフトウェア、ファームウェア、またはこれらの組み合わせによって、上述の各機能を実現することができる。
【0075】
なお、各実施の形態の自由な組合わせ、或いは各実施の形態の任意の構成要素の変形、若しくは各実施の形態において任意の構成要素の省略が可能である。
【0076】
以下、本開示の諸態様を付記としてまとめて記載する。
【0077】
(付記1)
現実空間への表示対象であるユーザインタフェース要素を示すユーザインタフェース要素情報を取得するユーザインタフェース要素情報取得部と、
前記ユーザインタフェース要素情報取得部により取得されたユーザインタフェース要素情報が示すユーザインタフェース要素を表示する領域に近づく物体の有無を示す物体情報を取得する物体情報取得部と、
前記ユーザインタフェース要素情報取得部により取得されたユーザインタフェース要素情報が示すユーザインタフェース要素に対し、前記物体情報取得部により取得された物体情報に基づいて、透明度を補正する透明度補正部と
を備えた表示制御装置。
(付記2)
前記ユーザインタフェース要素情報取得部により取得されたユーザインタフェース要素情報が示すユーザインタフェース要素を表示する領域における背景の色相および彩度のうちの少なくとも一方を示す第1の背景情報を取得する第1の背景情報取得部と、
前記ユーザインタフェース要素情報取得部により取得されたユーザインタフェース要素情報が示すユーザインタフェース要素に対し、前記第1の背景情報取得部により取得された第1の背景情報に基づいて、色相および彩度のうちの少なくとも一方を補正する第1の色補正部とを備えた
ことを特徴とする付記1記載の表示制御装置。
(付記3)
前記ユーザインタフェース要素情報取得部により取得されたユーザインタフェース要素情報が示すユーザインタフェース要素を表示する領域における背景の明度を示す第2の背景情報を取得する第2の背景情報取得部と、
前記ユーザインタフェース要素情報取得部により取得されたユーザインタフェース要素情報が示すユーザインタフェース要素に対し、前記第2の背景情報取得部により取得された第2の背景情報に基づいて、明度を補正する第2の色補正部とを備えた
ことを特徴とする付記1または付記2記載の表示制御装置。
(付記4)
ユーザの視線方向を示す視線方向情報を取得する視線方向情報取得部と、
前記視線方向情報取得部により取得された視線方向情報に基づいて、ユーザがユーザインタフェース要素を表示する領域内の微小領域を注視しているかを判定する注視状態判定部と、
前記視線方向情報取得部により取得された視線方向情報および前記注視状態判定部による判定結果に基づいて、前記ユーザインタフェース要素情報取得部により取得されたユーザインタフェース要素情報が示すユーザインタフェース要素のうちの一部を拡大した画面を作成する拡大画面作成部とを備えた
ことを特徴とする付記1から付記3のうちの何れか1項記載の表示制御装置。
(付記5)
ユーザインタフェース要素情報取得部が、現実空間への表示対象であるユーザインタフェース要素を示すユーザインタフェース要素情報を取得するステップと、
物体情報取得部が、前記ユーザインタフェース要素情報取得部により取得されたユーザインタフェース要素情報が示すユーザインタフェース要素を表示する領域に近づく物体の有無を示す物体情報を取得するステップと、
透明度補正部が、前記ユーザインタフェース要素情報取得部により取得されたユーザインタフェース要素情報が示すユーザインタフェース要素に対し、前記物体情報取得部により取得された物体情報に基づいて、透明度を補正するステップと
を有する表示制御方法。
【符号の説明】
【0078】
1 デバイス、2 表示制御装置、51 処理回路、52 CPU、53 メモリ、201 UI要素情報取得部、202 物体情報取得部、203 透明度補正部、204 第1の背景情報取得部、205 第2の背景情報取得部、206 第1の色補正部、207 第2の色補正部、208 視線方向情報取得部、209 注視状態判定部、210 拡大画面作成部。
図1
図2
図3
図4
図5
図6
図7
図8
図9
図10
図11