(58)【調査した分野】(Int.Cl.,DB名)
【発明を実施するための形態】
【0011】
[表示制御システムSの概要]
図1は、本実施形態に係る表示制御システムSの概要を示す図である。表示制御システムSは、ディスプレイ装置3に仮想オブジェクトを表示させるシステムである。仮想オブジェクトは、例えば、仮想空間上に配置される仮想の人物、動物、車等の各種物体の三次元モデル、又は映像や仮想デスクトップ等のリモートワークを行うための仮想の二次元画面である。以下の説明において、仮想の二次元画面を仮想画面という。本実施形態では、ディスプレイ装置3に仮想オブジェクトとして仮想画面を表示させる例を説明する。
【0012】
図1に示すように、表示制御システムSは、情報処理装置1と、携帯端末2と、ディスプレイ装置3とを有する。情報処理装置1は、仮想画面を提供するサーバやパーソナルコンピュータである。情報処理装置1は、インターネット回線や携帯電話網等の通信ネットワークを介して携帯端末2と通信可能に接続されており、携帯端末2に仮想画面を示す画面データを送信する。
【0013】
携帯端末2は、例えばユーザが所持するスマートフォン、タブレット等の端末である。携帯端末2は、Bluetooth(登録商標)等の近距離無線通信や無線LAN等の無線通信、USB(登録商標)、HDMI(登録商標)/MHL(登録商標)、Ethernet(登録商標)等の有線通信を介して、ディスプレイ装置3と通信可能に接続されている。
【0014】
携帯端末2は、情報処理装置1から受信した画面データが示す仮想画面をディスプレイ装置3に表示させる。ディスプレイ装置3は、例えばユーザの頭部に装着されるスマートグラス等の端末である。ディスプレイ装置3は、携帯端末2の制御により仮想画面を表示する。本実施形態において、ディスプレイ装置3は、ユーザがディスプレイ装置3の表示部を介して視認可能な風景の状態に基づいて、ユーザによる仮想オブジェクトの視認が困難な状況であるか否かを判定する。ディスプレイ装置3は、仮想オブジェクトの視認が困難な状況であると判定すると、仮想オブジェクトの視認性を高める制御を行う。
【0015】
図2は、本実施形態に係るディスプレイ装置3が、仮想オブジェクトの視認性を高める制御を行う例を説明する図である。
図2には、ディスプレイ装置3に表示される仮想画面Ovを示している。
図2(a)に示すように、ユーザがディスプレイ装置3を介して視認可能な風景が単純である場合、ユーザは仮想画面Ovを容易に視認できる。これに対し、
図2(b)に示すように、ユーザがディスプレイ装置3を介して視認可能な風景が複雑であると、ユーザは仮想画面Ovを視認するのが困難になる。そこで、ディスプレイ装置3は、ユーザによる仮想オブジェクトの視認が困難な状況であると判定すると、仮想オブジェクトの視認性を高める制御を行う。
【0016】
図2(c)には、ディスプレイ装置3が視認性を高める制御として仮想画面Ovの輝度を高めた例を示している。
図2(c)に示す仮想画面Ovは、
図2(b)に示す仮想画面Ovに比べて視認しやすいことが確認できる。このように、ディスプレイ装置3は、仮想オブジェクトの視認性を向上させることができる。
【0017】
[情報処理装置1の構成]
続いて、表示制御システムSの構成について説明する。まず、情報処理装置1の構成を説明する。
図3は、本実施形態に係る情報処理装置1の構成を示す図である。
図3に示すように、情報処理装置1は、通信部11と、記憶部12と、制御部13とを備える。
【0018】
通信部11は、インターネット回線や携帯電話網等の通信ネットワークに接続するためのインターフェースである。
記憶部12は、ROM(Read Only Memory)及びRAM(Random Access Memory)等を含む記憶媒体である。記憶部12は、制御部13が実行するプログラムを記憶している。例えば、記憶部12は、制御部13を、画面データ生成部131及び送信制御部132として機能させるプログラムを記憶している。
【0019】
制御部13は、例えばCPU(Central Processing Unit)である。制御部13は、記憶部12に記憶されたプログラムを実行することにより、画面データ生成部131及び送信制御部132として機能する。
【0020】
画面データ生成部131は、携帯端末2から仮想画面の取得要求を取得すると、仮想画面の画面データを生成する。
送信制御部132は、画面データ生成部131が画面データを生成すると、当該画面データを携帯端末2に送信する。
【0021】
[携帯端末2の機能構成]
続いて、携帯端末2の構成を説明する。
図4は、本実施形態に係る携帯端末2の構成を示す図である。
図4に示すように、携帯端末2は、操作部21と、表示部22と、通信部23と、記憶部24と、制御部25とを備える。
【0022】
操作部21は、ユーザの操作を受け付ける操作デバイスであり、例えば表示部22の表面に設けられたタッチパネルである。なお、操作部21には、携帯端末2に優先又は無線で接続されるマウスやキーボードが含まれていてもよい。
【0023】
表示部22は、各種の情報を表示するディスプレイである。
通信部23は、例えば携帯電話網の基地局との間でデータを送受信するための無線通信インターフェースである。通信部23は、携帯電話網の基地局を介して、情報処理装置1と無線通信を行う。また、通信部23は、ディスプレイ装置3との間でデータを送受信するための通信インターフェースである。通信部23は、ディスプレイ装置3と無線通信又は有線通信を行う。
【0024】
記憶部24は、ROM及びRAM等を含む記憶媒体である。記憶部24は、制御部25が実行するプログラムを記憶している。記憶部24は、制御部25を、オブジェクト要求部251、オブジェクト取得部252及び送信制御部253として機能させるオブジェクト表示プログラムを記憶する。
【0025】
制御部25は、例えばCPUであり、記憶部24に記憶されたオブジェクト表示プログラムを実行することにより、オブジェクト要求部251、オブジェクト取得部252及び送信制御部253として機能する。
【0026】
オブジェクト要求部251は、情報処理装置1に仮想画面を示す画面データの取得要求を送信する。オブジェクト要求部251は、例えば、オブジェクト表示プログラムが実行されたことに応じて、情報処理装置1に仮想画面を示す画面データの取得要求の送信を開始する。オブジェクト要求部251は、仮想画面を示す画面データの取得要求を所定時間おきに情報処理装置1に送信する。
オブジェクト取得部252は、情報処理装置1から仮想画面を示す画面データを取得する。オブジェクト取得部252は、例えば、仮想画面の実空間の座標系に対応する位置を示す画面位置情報が関連付けられた画面データを生成する。
【0027】
送信制御部253は、オブジェクト取得部252が取得した画面データをディスプレイ装置3に送信することにより、当該画面データが示す仮想画面をディスプレイ装置3に表示させる。具体的には、送信制御部253は、オブジェクト取得部252が取得した画面位置情報を、ディスプレイ装置3における座標系に対応する位置情報であるスクリーン位置情報に変換する座標変換処理を実行する。送信制御部253は、スクリーン位置情報と、画面データとをディスプレイ装置3に送信する。
【0028】
[ディスプレイ装置3の機能構成]
続いて、ディスプレイ装置3の構成を説明する。
図5は、本実施形態に係るディスプレイ装置3の構成を示す図である。
図5に示すように、ディスプレイ装置3は、通信部31と、撮像部32と、照度センサ33と、表示部34と、記憶部35と、制御部36とを備える。
【0029】
通信部31は、携帯端末2との間でデータを送受信するための無線通信インターフェースである。通信部31は、制御部36の制御により、携帯端末2と無線通信又は有線通信を行う。
撮像部32は、ユーザがディスプレイ装置3を装着した場合におけるユーザの前方を撮像し、撮像画像を生成する。撮像部32は、生成した撮像画像を制御部36に出力する。
照度センサ33は、ディスプレイ装置3の周囲の照度を検出する。照度センサ33は、検出した照度を示す照度情報を制御部36に出力する。
【0030】
表示部34は、導光板と、導光板に光を照射する照射部とを含んでいる。照射部は、制御部36の制御に応じて、画面データが示す仮想画面に対応する色の光を導光板に照射することにより、導光板に仮想画面を結像させる。
【0031】
記憶部35は、ROM及びRAM等を含む記憶媒体である。記憶部35は、制御部36が実行するプログラムを記憶している。記憶部35は、制御部36を、取得部361、注視検出部362、特定部363、判定部364及び表示制御部365として機能させるプログラムを記憶する。
【0032】
制御部36は、例えばCPUであり、記憶部35に記憶されたプログラムを実行することにより、取得部361、注視検出部362、特定部363、判定部364及び表示制御部365として機能する。
【0033】
取得部361は、携帯端末2から仮想画面を示す画面データと、スクリーン位置情報とを取得する。例えば、取得部361は、携帯端末2から所定時間おきに仮想画面を示す画面データと、スクリーン位置情報とを取得する。
【0034】
注視検出部362は、ユーザが仮想画面を注視していることを検出する。具体的には、注視検出部362は、取得部361が取得したスクリーン位置情報に基づいてディスプレイ装置3に対する仮想画面の位置を特定し、ディスプレイ装置3の表示部34の中心から仮想画面に向かうベクトルを特定する。また、注視検出部362は、ディスプレイ装置3の表示部34の中心から正面方向に向かうベクトル、すなわち正面視線方向に向かうベクトルを特定する。注視検出部362は、特定した2つのベクトルのなす角度が所定の角度以下である場合に、ユーザが仮想画面を注視していることを検出する。注視検出部362は、特定した2つのベクトルのなす角度が所定時間連続して所定の角度以下である場合に、ユーザが仮想画面を注視していることを検出するようにしてもよい。
【0035】
特定部363は、ユーザが表示部34を介して視認可能な風景の状態を特定する。特定部363は、ユーザが仮想画面を注視していることを注視検出部362が検出している場合に、撮像部32が撮像した撮像画像に基づいて、ユーザが表示部34を介して視認可能な風景の状態を特定する。
【0036】
特定部363は、風景の状態として、風景の色を特定する。例えば、特定部363は、撮像部32が撮像した撮像画像を構成する複数の画素の画素値の平均値が示す色を、風景の色として特定する。特定部363は、複数の画素値を複数の画素値の範囲のいずれかに分類して、複数の画素値の範囲のそれぞれに含まれる画素値の数を集計し、最も画素値の数が多い画素値の範囲を特定してもよい。そして、最も画素値の数が多い画素値の範囲に対応する色を、風景の色として特定してもよい。
【0037】
また、特定部363は、風景の状態として、風景の照度を特定する。例えば、特定部363は、照度センサ33が検出した照度を示す照度情報を取得することにより、風景の照度を特定する。
【0038】
また、特定部363は、風景の状態として、風景の複雑さを示す複雑度を特定する。例えば、特定部363は、撮像部32が撮像した撮像画像に対し、高速フーリエ変換(FFT:Fast Fourier Transform)を行うことにより、撮像画像の周波数スペクトルを算出し、周波数スペクトルのピーク値に基づいて複雑度を特定する。
【0039】
判定部364は、特定部363が特定した風景の状態に基づいて、ユーザによる仮想画面の視認が困難な状況であるか否かを判定する。
【0040】
例えば、判定部364は、風景の色と、仮想画面の色とが類似している場合に、ユーザによる仮想画面の視認が困難な状況であると判定する。この場合、判定部364は、仮想画面の色の平均値と、特定部363が特定した色との類似度を算出する。判定部364は、類似度が第1の閾値を超えると、ユーザによる仮想画面の視認が困難な状況であると判定する。
【0041】
また、判定部364は、特定部363が特定した風景の照度に基づいて、仮想画面の視認が困難な状況であるか否かを判定する。例えば、判定部364は、特定部363が特定した風景の照度が第2の閾値を超えると、ユーザによる仮想画面の視認が困難な状況であると判定する。
【0042】
また、判定部364は、特定部363が特定した風景の複雑度に基づいて、仮想画面の視認が困難な状況であるか否かを判定する。例えば、判定部364は、特定部363が特定した風景の複雑度が第3の閾値を超えると、ユーザによる仮想画面の視認が困難な状況であると判定する。
【0043】
表示制御部365は、取得部361が取得した画面データに基づいて仮想画面を表示部34に表示させる。表示制御部365は、取得部361が取得したスクリーン位置情報が示すディスプレイ装置3の表示部34の位置に、取得部361が取得した画面データに基づいて仮想画面を表示部34に表示させる。
【0044】
表示制御部365は、仮想画面の視認が困難な状況であると判定部364が判定すると、仮想画面の視認性を高める制御を行う。具体的には、表示制御部365は、ユーザが仮想画面を注視していることを注視検出部362が検出している場合において、仮想画面の視認が困難な状況であると前記判定部が判定すると、仮想画面の視認性を高める制御を行う。
【0045】
例えば、表示制御部365は、仮想画面の視認が困難な状況であると判定部364が判定すると、仮想画面の視認性を高める制御として、
図2(c)に示すように、仮想画面の輝度を上昇させる制御を行う。この場合、記憶部35は、複数の照度と、当該照度に対して適切な表示部34の輝度とを関連付けた関係情報を記憶しているものとする。そして、表示制御部365は、表示部34の輝度を、当該関係情報において、指示情報に含まれる照度情報が示すディスプレイ装置3の周囲の照度に関連付けられている輝度となるように調整することにより、仮想画面の輝度を上昇させる。このようにすることで、ディスプレイ装置3の周囲の照度に対して、表示部34の輝度を適切な値に調整することができる。
【0046】
また、表示制御部365は、仮想画面の視認が困難な状況であると判定部364が判定すると、仮想画面の視認性を高める制御として、仮想画面の色を、特定部363が特定した風景の色に基づいて変化させる。表示制御部365は、仮想画面の色を、特定部363が特定した風景の色に対して見やすい色に変化させる。例えば、表示制御部365は、仮想画面の背景色を、特定部363が特定した風景の色の補色に変化させる。このようにすることで、仮想画面を風景の色に対して見やすい状態に変化させることができる。
【0047】
また、表示制御部365は、仮想画面の視認が困難な状況であると判定部364が判定すると、仮想画面の視認が相対的に容易である領域に仮想画面を移動させるようにしてもよい。この場合、特定部363は、ユーザが表示部34を介して視認可能な風景の領域、すなわち、表示部34の領域のうち、仮想オブジェクトの視認が相対的に容易である領域を特定する。例えば、特定部363は、撮像部32が撮像した撮像画像に基づいて、明度が相対的に低い領域を特定する。そして、表示制御部365は、明度が相対的に低い領域が仮想画面の表示領域よりも大きい場合、明度が相対的に低い領域に仮想画面を移動させる。このようにすることで、仮想画面の背後が暗くなるため、仮想画面を見やすい状態にすることができる。
【0048】
[視認性向上に係る処理の流れ]
続いて、視認性向上に係る処理の流れを説明する。ここでは、視認性向上に係る処理として、輝度を調整する例を説明する。
図6は、ディスプレイ装置3が実行する視認性向上に係る処理の流れを示すフローチャートである。
【0049】
まず、取得部361は、携帯端末2から仮想画面を示す画面データ及びスクリーン位置情報を取得する(S1)。
表示制御部365は、取得部361が取得したスクリーン位置情報が示すディスプレイ装置3の表示部34の位置に、取得部361が取得した画面データに基づいて仮想画面を表示部34に表示させる(S2)。
【0050】
特定部363は、ユーザが仮想画面を注視していることを注視検出部362が検出しているか否かを判定する(S3)。特定部363は、ユーザが仮想画面を注視していることを検出していると判定すると、S4に処理を移し、ユーザが仮想画面を注視していることを検出していないと判定すると、本フローチャートに係る処理を終了する。
【0051】
特定部363は、ユーザが表示部34を介して視認可能な風景の状態を特定する(S4)。
判定部364は、特定部363が特定した風景の状態に基づいて、ユーザによる仮想画面の視認が困難な状況であるか否かを判定する(S5)。判定部364は、ユーザによる仮想画面の視認が困難な状況であると判定すると、S6に処理を移し、ユーザによる仮想画面の視認が困難な状況ではないと判定すると、本フローチャートに係る処理を終了する。
【0052】
表示制御部365は、S5において、ユーザによる仮想画面の視認が困難な状況であると判定部364が判定すると、ディスプレイ装置3の表示部34の輝度を上昇させる(S6)。
【0053】
[本実施形態における効果]
以上説明したように、本実施形態に係るディスプレイ装置3は、ユーザが表示部34を介して視認可能な風景の状態を特定し、当該風景の状態に基づいて、ユーザによる仮想オブジェクトの視認が困難な状況か否かを判定する。ディスプレイ装置3は、仮想オブジェクトの視認が困難な状況であると判定すると、仮想オブジェクトの視認性を高める制御を行う。このようにすることで、ディスプレイ装置3は、仮想オブジェクトの視認性を向上させる。
【0054】
以上、本発明を実施の形態を用いて説明したが、本発明の技術的範囲は上記実施の形態に記載の範囲には限定されず、その要旨の範囲内で種々の変形及び変更が可能である。例えば、上述の実施の形態では、ディスプレイ装置3の制御部36が注視検出部362、特定部363、判定部364、及び表示制御部365として機能したが、これに限らない。例えば、情報処理装置1の制御部13又は携帯端末2の制御部25が、注視検出部362、特定部363、判定部364、及び表示制御部365として機能するようにしてもよい。
【0055】
この場合、ディスプレイ装置3は、情報処理装置1又は携帯端末2がユーザが仮想画面を注視しているかの検出、及びユーザによる仮想画面の視認が困難な状況であるかの判定をできるようにするために、撮像部32が撮像した画像を情報処理装置1又は携帯端末2に送信してもよい。
【0056】
また、上述の実施の形態では、表示制御部365は、ユーザが仮想画面を注視していることを注視検出部362が検出している場合において、仮想画面の視認が困難な状況であると判定部364が判定すると、仮想画面の視認性を高める制御を行ったが、これに限らない。表示制御部365は、注視検出部362による注視の検出状況に関わらず、仮想画面の視認が困難な状況であると判定部364が判定すると、仮想画面の視認性を高める制御を行うようにしてもよい。
【0057】
また、例えば、装置の全部又は一部は、任意の単位で機能的又は物理的に分散・統合して構成することができる。また、複数の実施の形態の任意の組み合わせによって生じる新たな実施の形態も、本発明の実施の形態に含まれる。組み合わせによって生じる新たな実施の形態の効果は、もとの実施の形態の効果を併せ持つ。
【解決手段】ディスプレイ装置3は、仮想オブジェクトの表示部34への表示を制御する表示制御部365と、ユーザが表示部34を介して視認可能な風景の状態を特定する特定部363と、特定部363が特定した風景の状態に基づいて、ユーザによる仮想オブジェクトの視認が困難な状況か否かを判定する判定部364と、を有し、表示制御部365は、仮想オブジェクトの視認が困難な状況であると判定部364が判定すると、仮想オブジェクトの視認性を高める制御を行う。