IP Force 特許公報掲載プロジェクト 2022.1.31 β版

知財求人 - 知財ポータルサイト「IP Force」

▶ 富士フイルム株式会社の特許一覧

特開2023-143438制御装置、制御方法、及び制御プログラム
(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公開特許公報(A)
(11)【公開番号】P2023143438
(43)【公開日】2023-10-06
(54)【発明の名称】制御装置、制御方法、及び制御プログラム
(51)【国際特許分類】
   G09G 5/00 20060101AFI20230928BHJP
   G09G 5/10 20060101ALI20230928BHJP
   A61B 3/11 20060101ALI20230928BHJP
   H04N 5/74 20060101ALI20230928BHJP
   H04N 5/64 20060101ALI20230928BHJP
【FI】
G09G5/00 550C
G09G5/00 510B
G09G5/10 B
A61B3/11
H04N5/74 Z
H04N5/64 511A
【審査請求】未請求
【請求項の数】18
【出願形態】OL
(21)【出願番号】P 2022050809
(22)【出願日】2022-03-25
(71)【出願人】
【識別番号】306037311
【氏名又は名称】富士フイルム株式会社
(74)【代理人】
【識別番号】110001519
【氏名又は名称】弁理士法人太陽国際特許事務所
(72)【発明者】
【氏名】藤原 慎也
【テーマコード(参考)】
4C316
5C058
5C182
【Fターム(参考)】
4C316AA28
4C316AB16
4C316FA01
4C316FC28
4C316FZ01
5C058AA18
5C058BA05
5C058BA35
5C058EA54
5C182AA02
5C182AA03
5C182AA04
5C182AA31
5C182AB35
5C182AC46
5C182BA03
5C182BA06
5C182BA14
5C182BA57
5C182BB01
5C182BB11
5C182BB21
5C182CA01
5C182CA21
5C182DA02
5C182DA04
5C182DA14
(57)【要約】
【課題】投影画像の視認性を良好に保ち、かつユーザの眼にかかる負担を軽減することができる制御装置、制御方法、及び制御プログラムを提供する。
【解決手段】ユーザの眼に現実像を提供する透過部と、前記透過部に前記ユーザの眼により視認が可能な状態に投影画像を投影する投影部と、を備えた眼鏡型表示装置に対して、投影画像の投影を制御するプロセッサを備えた制御装置であって、前記プロセッサが、前記ユーザの眼の瞳孔の大きさについて、前記投影部が前記投影画像を第1の明るさで投影している場合の前記瞳孔の第1の大きさを取得し、前記投影部が前記投影画像を前記第1の明るさよりも明るい、第2の明るさで投影している場合の前記瞳孔の第2の大きさを取得し、前記第1の大きさと前記第2の大きさとの比較結果に応じて、前記透過部に投影する前記投影画像の明るさを制御する制御装置。
【選択図】図8
【特許請求の範囲】
【請求項1】
ユーザの眼に現実像を提供する透過部と、前記透過部に前記ユーザの眼により視認が可能な状態に投影画像を投影する投影部と、を備えた眼鏡型表示装置に対して、投影画像の投影を制御するプロセッサを備えた制御装置であって、
前記プロセッサが、
前記ユーザの眼の瞳孔の大きさについて、前記投影部が前記投影画像を第1の明るさで投影している場合の前記瞳孔の第1の大きさを取得し、
前記投影部が前記投影画像を前記第1の明るさよりも明るい、第2の明るさで投影している場合の前記瞳孔の第2の大きさを取得し、
前記第1の大きさと前記第2の大きさとの比較結果に応じて、前記透過部に投影する前記投影画像の明るさを制御する
制御装置。
【請求項2】
前記プロセッサは、
前記第1の大きさが前記第2の大きさよりも大きく、かつ前記第1の大きさと前記第2の大きさとの差が予め定められた閾値以下の場合、前記投影画像の明るさを維持する制御を行う
請求項1に記載の制御装置。
【請求項3】
前記プロセッサは、
前記第1の大きさが前記第2の大きさよりも大きく、かつ前記第1の大きさと前記第2の大きさとの差が予め定められた閾値よりも大きい場合、前記投影画像を暗くする制御を行う
請求項1に記載の制御装置。
【請求項4】
前記プロセッサは、
前記第1の大きさが前記第2の大きさと同じ場合、前記投影画像を明るくする制御を行う
請求項1から請求項3のいずれか1項に記載の制御装置。
【請求項5】
前記プロセッサは、
前記第1の大きさが前記第2の大きさよりも小さい場合、前記投影画像を明るくする制御を行う
請求項1から請求項4のいずれか1項に記載の制御装置。
【請求項6】
前記プロセッサは、
視認する像の明るさと視認する眼の瞳孔の大きさとの対応関係を表す基準対応関係情報に基づいて、
前記第1の大きさに対応する前記視認する像の明るさを、前記第2の大きさを取得するために投影する前記投影画像の明るさとして導出する
請求項1から請求項5のいずれか1項に記載の制御装置。
【請求項7】
前記プロセッサは、
前記基準対応関係情報として、明るさを異ならせて前記投影画像を投影することにより得られた、前記投影画像の明るさと、前記ユーザの瞳孔の大きさとの対応関係を表す情報を用いる
請求項6に記載の制御装置。
【請求項8】
前記プロセッサは、
前記第1の大きさと前記第2の大きさとの比較結果に応じた制御後の前記投影画像の明るさを前記視認する像の明るさとし、前記第1の大きさを前記視認する眼の瞳孔の大きさとした制御後対応関係を表す値により、前記基準対応関係情報を更新する
請求項6または請求項7に記載の制御装置。
【請求項9】
前記プロセッサは、
更新タイミングが古い前記制御後対応関係を前記基準対応関係情報から順次除外することで、前記基準対応関係情報に含まれる前記制御後対応関係を表す値の数を予め定められた数以下に制御する
請求項8に記載の制御装置。
【請求項10】
前記プロセッサは、
前記基準対応関係情報における前記視認する眼の瞳孔の大きさに応じて定められる所定の範囲毎に、前記基準対応関係情報に含まれる前記制御後対応関係を表す値の数を第1所定数以下に制御する
請求項8または請求項9に記載の制御装置。
【請求項11】
前記プロセッサは、
前記基準対応関係情報における前記視認する像の明るさに応じて定められる所定の範囲毎に、前記基準対応関係情報に含まれる前記制御後対応関係を表す値の数を第2所定数以下に制御する
請求項8または請求項9に記載の制御装置。
【請求項12】
前記プロセッサは、
前記基準対応関係情報における前記視認する眼の瞳孔の大きさに応じて定められる所定の範囲毎、前記基準対応関係情報における前記視認する像の明るさに応じて定められる所定の範囲毎、または前記基準対応関係情報における前記視認する眼の瞳孔の大きさ及び前記視認する像の大きさに応じて定められる所定の範囲毎に、前記視認する像の明るさと前記視認する眼の瞳孔の大きさとの対応関係を表す値の代表値を決定し、
前記代表値により前記基準対応関係情報を導出する
請求項6または請求項7に記載の制御装置。
【請求項13】
前記プロセッサは、
前記第1の大きさと前記第2の大きさとの比較結果に応じた制御後の前記投影画像の明るさを前記視認する像の明るさとし、前記第1の大きさを前記視認する眼の瞳孔の大きさとした制御後対応関係を表す値により、前記代表値を更新する
請求項12に記載の制御装置。
【請求項14】
前記プロセッサは、
前記制御後対応関係を表す値に重み付けを行った、前記代表値を更新する
請求項13に記載の制御装置。
【請求項15】
ユーザの眼に現実像を提供する透過部と、前記透過部に前記ユーザの眼により視認が可能な状態に投影画像を投影する投影部と、を備えた眼鏡型表示装置に対して、投影画像の投影を制御するプロセッサを備えた制御装置の前記プロセッサによる制御方法であって、
前記ユーザの眼の瞳孔の大きさについて、前記投影部が前記投影画像を第1の明るさで投影している場合の前記瞳孔の第1の大きさを取得し、
前記投影部が前記投影画像を前記第1の明るさよりも明るい、第2の明るさで投影している場合の前記瞳孔の第2の大きさを取得し、
前記第1の大きさと前記第2の大きさとの比較結果に応じて、前記透過部に投影する前記投影画像の明るさを制御する
制御方法。
【請求項16】
前記第1の大きさが前記第2の大きさよりも大きく、かつ前記第1の大きさと前記第2の大きさとの差が予め定められた閾値以下の場合、前記投影画像の明るさを維持する制御を行う
請求項15に記載の制御方法。
【請求項17】
ユーザの眼に現実像を提供する透過部と、前記透過部に前記ユーザの眼により視認が可能な状態に投影画像を投影する投影部と、を備えた眼鏡型表示装置に対して、投影画像の投影を制御するプロセッサを備えた制御装置の前記プロセッサが実行する制御プログラムであって、
前記ユーザの眼の瞳孔の大きさについて、前記投影部が前記投影画像を第1の明るさで投影している場合の前記瞳孔の第1の大きさを取得し、
前記投影部が前記投影画像を前記第1の明るさよりも明るい、第2の明るさで投影している場合の前記瞳孔の第2の大きさを取得し、
前記第1の大きさと前記第2の大きさとの比較結果に応じて、前記透過部に投影する前記投影画像の明るさを制御する
制御プログラム。
【請求項18】
前記第1の大きさが前記第2の大きさよりも大きく、かつ前記第1の大きさと前記第2の大きさとの差が予め定められた閾値以下の場合、前記投影画像の明るさを維持する制御を行う
請求項17に記載の制御プログラム。
【発明の詳細な説明】
【技術分野】
【0001】
本開示は、制御装置、制御方法、及び制御プログラムに関する。
【背景技術】
【0002】
従来、立体的な映像を表示する表示装置として、現実の世界に、画像を重ね合わせた状態で表示する、拡張現実(AR:Augmented Reality)機器等の眼鏡型情報表示装置が知られている。
【0003】
眼鏡型情報表示装置として、ユーザの眼に現実像を提供する透過部と、透過部にユーザの眼によって視認が可能な状態に投影画像を投影する投影部とを備えた眼鏡型情報表示装置がある。眼鏡型情報表示装置を使用することにより、ユーザは、投影画像を視認することで眼に負担がかかり、眼が疲労状態になることがある。
【0004】
そこで、ユーザの眼の疲労状態を軽減するために、例えば、特許文献1に記載の技術がある。特許文献1には、ユーザの瞳孔の大きさを測定し、瞳孔の大きさからユーザの眼の疲労状態を推定する技術が記載されている。
【先行技術文献】
【特許文献】
【0005】
【特許文献1】特開2013-114123号公報
【発明の概要】
【発明が解決しようとする課題】
【0006】
特許文献1に記載の技術によれば、ユーザの眼の疲労状態を推定して、疲労状態に対応して投影画像の投影を制御することができるが、ユーザの眼にかかる負担そのものを軽減するには十分ではなかった。また、投影画像の視認性については考慮されておらず、投影画像の視認性が低下してしまう場合があった。
【0007】
本開示は、以上の事情を鑑みて成されたものであり、投影画像の視認性を良好に保ち、かつユーザの眼にかかる負担を軽減することができる制御装置、制御方法、及び制御プログラムを提供することを目的とする。
【課題を解決するための手段】
【0008】
上記目的を達成するために、本開示の第1の態様の制御装置は、ユーザの眼に現実像を提供する透過部と、透過部にユーザの眼により視認が可能な状態に投影画像を投影する投影部と、を備えた眼鏡型表示装置に対して、投影画像の投影を制御するプロセッサを備えた制御装置であって、プロセッサが、ユーザの眼の瞳孔の大きさについて、投影部が投影画像を第1の明るさで投影している場合の瞳孔の第1の大きさを取得し、投影部が投影画像を第1の明るさよりも明るい、第2の明るさで投影している場合の瞳孔の第2の大きさを取得し、第1の大きさと第2の大きさとの比較結果に応じて、透過部に投影する投影画像の明るさを制御する制御装置。
【0009】
本開示の第2の態様の制御装置は、第1の態様の制御装置において、プロセッサは、第1の大きさが第2の大きさよりも大きく、かつ第1の大きさと第2の大きさとの差が予め定められた閾値以下の場合、投影画像の明るさを維持する制御を行う。
【0010】
本開示の第3の態様の制御装置は、第1の態様の制御装置において、プロセッサは、第1の大きさが第2の大きさよりも大きく、かつ第1の大きさと第2の大きさとの差が予め定められた閾値よりも大きい場合、投影画像を暗くする制御を行う。
【0011】
本開示の第4の態様の制御装置は、第1の態様から第3の態様のいずれか1態様の制御装置において、プロセッサは、第1の大きさが第2の大きさと同じ場合、投影画像を明るくする制御を行う。
【0012】
本開示の第5の態様の制御装置は、第1の態様から第4の態様のいずれか1態様の制御装置において、プロセッサは、第1の大きさが第2の大きさよりも小さい場合、投影画像を明るくする制御を行う。
【0013】
本開示の第6の態様の制御装置は、第1の態様から第5の態様のいずれか1態様の制御装置において、プロセッサは、視認する像の明るさと視認する眼の瞳孔の大きさとの対応関係を表す基準対応関係情報に基づいて、第1の大きさに対応する視認する像の明るさを、第2の大きさを取得するために投影する投影画像の明るさとして導出する。
【0014】
本開示の第7の態様の制御装置は、第6の態様の制御装置において、プロセッサは、基準対応関係情報として、明るさを異ならせて投影画像を投影することにより得られた、投影画像の明るさと、ユーザの瞳孔の大きさとの対応関係を表す情報を用いる。
【0015】
本開示の第8の態様の制御装置は、第6の態様または第7の態様の制御装置において、プロセッサは、第1の大きさと第2の大きさとの比較結果に応じた制御後の投影画像の明るさを視認する像の明るさとし、第1の大きさを視認する眼の瞳孔の大きさとした制御後対応関係を表す値により、基準対応関係情報を更新する。
【0016】
本開示の第9の態様の制御装置は、第8の態様の制御装置において、プロセッサは、更新タイミングが古い制御後対応関係を基準対応関係情報から順次除外することで、基準対応関係情報に含まれる制御後対応関係を表す値の数を予め定められた数以下に制御する。
【0017】
本開示の第10の態様の制御装置は、第8の態様または第9の態様の制御装置において、プロセッサは、基準対応関係情報における視認する眼の瞳孔の大きさに応じて定められる所定の範囲毎に、基準対応関係情報に含まれる制御後対応関係を表す値の数を第1所定数以下に制御する。
【0018】
本開示の第11の態様の制御装置は、第8の態様または第9の態様の制御装置において、プロセッサは、基準対応関係情報における視認する像の明るさに応じて定められる所定の範囲毎に、基準対応関係情報に含まれる制御後対応関係を表す値の数を第2所定数以下に制御する。
【0019】
本開示の第12の態様の制御装置は、第6の態様または第7の態様の制御装置において、プロセッサは、基準対応関係情報における視認する眼の瞳孔の大きさに応じて定められる所定の範囲毎、基準対応関係情報における視認する像の明るさに応じて定められる所定の範囲毎、または基準対応関係情報における視認する眼の瞳孔の大きさ及び視認する像の大きさに応じて定められる所定の範囲毎に、視認する像の明るさと視認する眼の瞳孔の大きさとの対応関係を表す値の代表値を決定し、代表値により基準対応関係情報を導出する。
【0020】
本開示の第13の態様の制御装置は、第12の態様の制御装置において、プロセッサは、第1の大きさと第2の大きさとの比較結果に応じた制御後の投影画像の明るさを視認する像の明るさとし、第1の大きさを視認する眼の瞳孔の大きさとした制御後対応関係を表す値により、代表値を更新する。
【0021】
本開示の第14の態様の制御装置は、第13の態様の制御装置において、プロセッサは、制御後対応関係を表す値に重み付けを行った、代表値を更新する。
【0022】
上記目的を達成するために、本開示の第15の態様の制御方法は、ユーザの眼に現実像を提供する透過部と、透過部にユーザの眼により視認が可能な状態に投影画像を投影する投影部と、を備えた眼鏡型表示装置に対して、投影画像の投影を制御するプロセッサを備えた制御装置のプロセッサによる制御方法であって、ユーザの眼の瞳孔の大きさについて、投影部が投影画像を第1の明るさで投影している場合の瞳孔の第1の大きさを取得し、投影部が投影画像を第1の明るさよりも明るい、第2の明るさで投影している場合の瞳孔の第2の大きさを取得し、第1の大きさと第2の大きさとの比較結果に応じて、透過部に投影する投影画像の明るさを制御する方法である。
【0023】
本開示の第16の態様の制御方法は、第15の態様の制御方法において、第1の大きさが第2の大きさよりも大きく、かつ第1の大きさと第2の大きさとの差が予め定められた閾値以下の場合、投影画像の明るさを維持する制御を行う。
【0024】
上記目的を達成するために、本開示の第17の態様の制御プログラムは、ユーザの眼に現実像を提供する透過部と、透過部にユーザの眼により視認が可能な状態に投影画像を投影する投影部と、を備えた眼鏡型表示装置に対して、投影画像の投影を制御するプロセッサを備えた制御装置のプロセッサが実行する制御プログラムであって、ユーザの眼の瞳孔の大きさについて、投影部が投影画像を第1の明るさで投影している場合の瞳孔の第1の大きさを取得し、投影部が投影画像を第1の明るさよりも明るい、第2の明るさで投影している場合の瞳孔の第2の大きさを取得し、第1の大きさと第2の大きさとの比較結果に応じて、透過部に投影する投影画像の明るさを制御するためのものである。
【0025】
本開示の第18の態様の制御プログラムは、第17の態様の制御プログラムにおいて、第1の大きさが第2の大きさよりも大きく、かつ第1の大きさと第2の大きさとの差が予め定められた閾値以下の場合、投影画像の明るさを維持する制御を行うためのものである。
【発明の効果】
【0026】
本開示によれば、投影画像の視認性を良好に保ち、かつユーザの眼にかかる負担を軽減することができる。
【図面の簡単な説明】
【0027】
図1】実施形態の眼鏡型情報表示装置の構成の一例を示す構成図である。
図2】実施形態のARグラスの一例を示す斜視図である。
図3】瞳孔センサが検出する瞳孔の大きさについて説明するための図である。
図4】第1実施形態のスマートフォンの構成の一例を示すブロック図である。
図5】現実像に対する投影画像の明るさと、投影画像を視認する眼にかかる負担との関係を説明するための図である。
図6A】現実像を視認する眼の瞳孔の大きさと、現実像に重畳された投影画像を視認する眼の瞳孔の大きさと、投影画像の明るさとの関係を説明するための図である。
図6B】現実像を視認する眼の瞳孔の大きさと、現実像に重畳された投影画像を視認する眼の瞳孔の大きさと、投影画像の明るさとの関係を説明するための図である。
図6C】現実像を視認する眼の瞳孔の大きさと、現実像に重畳された投影画像を視認する眼の瞳孔の大きさと、投影画像の明るさとの関係を説明するための図である。
図6D】現実像を視認する眼の瞳孔の大きさと、現実像に重畳された投影画像を視認する眼の瞳孔の大きさと、投影画像の明るさとの関係を説明するための図である。
図7】第1実施形態のスマートフォンのハードウェア構成の一例を示すブロック図である。
図8】第1実施形態のスマートフォンで実行される投影制御処理の一例を示すフローチャートである。
図9】第2実施形態のスマートフォンの構成の一例を示すブロック図である。
図10】基準対応関係情報の一例を示す図である。
図11】第2実施形態のスマートフォンのハードウェア構成の一例を示すブロック図である。
図12】第2実施形態のスマートフォンで実行される投影制御処理の一例を示すフローチャートである。
図13】制御後対応関係による基準対応関係情報の一例を示す図である。
図14】変形例1のスマートフォンで実行される投影制御処理の一例を示すフローチャートである。
図15】変形例2の基準対応関係情報の一例を示す図である。
図16】変形例3の基準対応関係情報の一例を示す図である。
図17】変形例4の基準対応関係情報の一例を示す図である。
図18】変形例5における基準対応関係情報の導出の一例を説明するための図である。
図19】第3実施形態のスマートフォンで実行される重み付け取得処理の一例を示すフローチャートである。
【発明を実施するための形態】
【0028】
以下、図面を参照して、本開示の技術を実施するための形態例を詳細に説明する。
【0029】
[第1実施形態]
図1を参照して、本実施形態の表示システム1の構成を説明する。図1に示すように、本実施形態の表示システム1は、AR(Augmented Reality)グラス10及びスマートフォン12を備える。本実施形態のARグラス10が、本開示の眼鏡型情報表示装置の一例であり、本実施形態のスマートフォン12が、本開示の制御装置の一例である。
【0030】
ARグラス10は、OLED(Organic Light Emitting Diode)26から投影された投影画像を現実像に重畳させた状態でユーザによる視認を可能にする装置である。図2には、本実施形態のARグラス10の一例の斜視図が示されている。図1及び図2に示すように、ARグラス10は、一対の左眼用透過部20L及び右眼用透過部20Rと、OLED26と、瞳孔センサ27と、を備える。本実施形態の右眼用透過部20Rが、本開示の透過部の一例である。また、本実施形態のOLED26が本開示の投影部の一例である。
【0031】
OLED26は、右眼用透過部20Rを通じてユーザの右眼によって視認される現実像に重畳した状態で投影画像が表示されるために、導光板24に投影画像を投影する。
【0032】
右眼用透過部20Rは、右眼用レンズ22R及び導光板24を含む。導光板24の一端には、OLED26から投影された投影画像に応じた光が入射される。導光板24の中を伝播した光は、出射部(図示省略)において向きを変えて、ユーザの眼の方向に出射される。導光板24から出射された投影画像に応じた光は、右眼用レンズ22Rを透過し、ユーザの右眼に導かれる。また、ユーザは、右眼用レンズ22Rを通した現実の世界を現実像として右目で視認する。
【0033】
そのため、OLED26から投影画像が投影されている間は、ユーザの右眼によって視認される視認像は、右眼用レンズ22Rを通した現実の世界を表す現実像と、導光板24に投影された投影画像とが重畳された状態となる。また、OLED26から投影画像が投影されていない間は、ユーザによって視認される視認像は、右眼用レンズ22R及び導光板24を通した現実の世界を表す現実像となる。
【0034】
一方、左眼用透過部20Lは、左眼用レンズ22Lを含む。ユーザは、左眼用レンズ22Lを通した現実の世界を左眼で視認する。
【0035】
瞳孔センサ27は、ユーザの右眼の瞳孔の大きさを検出する機能を有するセンサである。図3に示すように、人間の眼には、いわゆる、黒目と呼ばれる瞳孔92が存在する。瞳孔92は、眼90の中に入る光量を調節するために、大きさが変化(散大及び縮小)する。瞳孔センサ27は、瞳孔92の大きさとして瞳孔92の直径Sを検出するセンサである。瞳孔センサ27は、特に限定されず、一例として本実施形態の瞳孔センサ27は、眼90を撮影した撮影画像をスマートフォン12に出力するカメラを採用している。なお、瞳孔センサ27が、眼90を撮影するタイミングは特に限定されず、例えば、後述する第1取得部50及び第2取得部52の各々が撮影画像を取得するタイミングとしてもよい。
【0036】
一方、スマートフォン12は、プロセッサ40を備える。本実施形態のプロセッサ40は、OLED26から導光板24に投影画像を投影させる制御を、OLED26に対して行う。
【0037】
図4には、スマートフォン12における、投影画像の投影の制御に係わる機能に関する構成の一例を表したブロック図が示されている。図4に示すように、スマートフォン12は、プロセッサ40、メモリ42、I/F(InterFace)部43、記憶部44、ディスプレイ46、及び入力装置48を備える。プロセッサ40、メモリ42、I/F部43、記憶部44、ディスプレイ46、及び入力装置48は、システムバスやコントロールバス等のバス49を介して相互に各種情報の授受が可能に接続されている。
【0038】
プロセッサ40は、記憶部44に記憶された投影制御プログラム45を含む各種のプログラムをメモリ42へ読み出し、読み出したプログラムにしたがった処理を実行する。これにより、プロセッサ40は、OLED26による投影画像の投影の制御を行う。メモリ42は、プロセッサ40が処理を実行するためのワークメモリである。
【0039】
記憶部44には、投影制御プログラム45、及びOLED26から投影する投影画像の画像データ(図示省略)や、その他の各種情報等が記憶される。記憶部44の具体例としては、HDD(Hard Disk Drive)やSSD(Solid State Drive)等が挙げられる。
【0040】
I/F部43は、無線通信または有線通信により、OLED26及び瞳孔センサ27各々との間で各種情報の通信を行う。ディスプレイ46及び入力装置48はユーザインタフェースとして機能する。ディスプレイ46は、ユーザに対して、投影画像の投影に関する各種の情報を提供する。ディスプレイ46は特に限定されるものではなく、液晶モニタ及びLED(Light Emitting Diode)モニタ等が挙げられる。また、入力装置48は、投影画像の投影に関する各種の指示を入力するためにユーザによって操作される。入力装置48は特に限定されるものではなく、例えば、キーボード、タッチペン、及びマウス等が挙げられる。なお、スマートフォン12では、ディスプレイ46と入力装置48とを一体化したタッチパネルディスプレイを採用している。
【0041】
また、本実施形態のスマートフォン12の機能について説明する。本実施形態のスマートフォン12のプロセッサ40は、投影画像の投影の制御として、OLED26に投影する投影画像の明るさを制御する機能を有する。具体的には、本実施形態のスマートフォン12は、投影画像を視認するユーザの眼90の瞳孔92の大きさSに基づいて、OLED26に投影する投影画像の明るさを制御する。
【0042】
ここで、投影画像の明るさと、投影画像を視認する眼90の瞳孔92の大きさ及び眼90にかかる負担との関係について説明する。
一般に、明るすぎる場合、眼90にかかる負担は大きいとされている。例えば、周囲の環境に対して投影画像が明るすぎると、眼90にかかる負担が大きくなる。一方、投影画像は、明るい方が、視認し易くなり、視認性が高い。そのため、ARグラス10を使用する場合のように、ユーザが現実像を視認する場合と、現実像に重畳された投影画像を視認する場合とでは、現実像に対する投影画像の明るさと、投影画像を視認する眼90にかかる負担との間には、図5に示す関係がある。図5に示すように、現実像に対して投影画像が非常に暗い場合、投影画像の視認性は悪くなるが、眼90にかかる負担は小さい。一方、現実像に対して投影画像が非常に明るい場合、投影画像の視認性は良いものの、眼90にかかる負担は大きくなる。このように、投影画像の視認性と投影画像を視認する眼90にかかる負担とは、相反関係にある。
【0043】
一方、上述したように、眼90の瞳孔92の大きさSは、眼に入る光量に応じて伸縮する。一般的に、周囲が明るい場合、眼90の中に入る光量を減少させるために瞳孔92は小さくなり、周囲が暗い場合、眼90の中に入る光量を増加させるために瞳孔92は大きくなる。そこで、本実施形態のスマートフォン12は、眼90の瞳孔92の大きさに応じて投影画像の明るさを制御する。
【0044】
図6Aには、現実像60を視認する眼90の瞳孔92の大きさS1に比べて、現実像60に重畳された投影画像62を視認する眼90の瞳孔92の大きさS2が大きい(S1<S2)場合が示されている。図6Aに示した場合では、投影画像62が現実像60に比べて比較的、暗く、投影画像62の光量が少ないため、投影画像62を視認する眼90の瞳孔92が散大している。この場合、眼90にかかる負担は小さいものの、投影画像62の視認性が悪い。従って、スマートフォン12は、投影画像62の明るさを明るくする制御を行う。
【0045】
また、図6Bには、現実像60を視認する眼90の瞳孔92の大きさS1と、現実像60に重畳された投影画像62を視認する眼90の瞳孔92の大きさS2とが同じ(S1=S2)場合が示されている。なお、ここで、「同じ」とは、許容される程度の誤差は無視している。投影画像62が暗すぎる場合、例えば、図6Aに示した場合よりも暗い場合、現実像60の明るさに眼90の瞳孔92の大きさが依存しやすくなり、投影画像62の明るさに対して反応しなくなることがある。そのため、図6Bに示した場合では、投影画像62が現実像60に比べて非常に暗いことが推定される。この場合、眼90にかかる負担は小さいものの、投影画像62の視認性が悪い。従って、スマートフォン12は、投影画像62の明るさを明るくする制御を行う。
【0046】
また、図6Cには、現実像60を視認する眼90の瞳孔92の大きさS1に比べて、現実像60に重畳された投影画像62を視認する眼90の瞳孔92の大きさS2が小さく、かつ大きさS1と大きさS2との差が予め定められた閾値thよりも大きい(S1>S2、S1-S2>th)場合が示されている。図6Cに示した場合では、投影画像62が現実像60に比べて比較的、明るく、投影画像62の光量が多いため、投影画像62を視認する眼90の瞳孔92が縮小している。この場合、投影画像62の視認性は良いものの、眼90にかかる負担は大きい。従って、スマートフォン12は、投影画像62の明るさを暗くする制御を行う。
【0047】
また、図6Dには、現実像60を視認する眼90の瞳孔92の大きさS1に比べて、現実像60に重畳された投影画像62を視認する眼90の瞳孔92の大きさS2が小さく、かつ大きさS1と大きさS2との差が予め定められた閾値th以下(S1>S2、S1-S2≦th)場合が示されている。図6Dに示した場合では、投影画像62が現実像60に比べて若干明るく、投影画像62の光量が若干多いため、投影画像62を視認する眼90の瞳孔92が若干縮小している。この場合、投影画像62の視認性が良く、かつ、眼90にかかる負担も小さい。従って、投影画像62の明るさは適切であるため、スマートフォン12は、投影画像62の明るさを維持する制御を行う。
【0048】
なお、上述した投影画像62の明るさが適切であるか否かを判断するために用いられる閾値thは、例えば、現実像60及び投影画像62の明るさと眼90の疲労度との関係に基づいて実験的に導出して得られた値を設定したりすればよい。
【0049】
図7には、本実施形態のスマートフォン12の機能に係る構成の一例を表す機能ブロック図が示されている。図4に示すようにスマートフォン12は、第1取得部50、第2取得部52、及び投影制御部54を備える。一例として本実施形態のスマートフォン12は、プロセッサ40が記憶部44に記憶されている投影制御プログラム45を実行することにより、プロセッサ40が第1取得部50、第2取得部52、及び投影制御部54として機能する。
【0050】
第1取得部50は、瞳孔センサ27の検出結果に基づいて、瞳孔92の大きさS1を取得する機能を有する。具体的には、取得部52は、ユーザの眼90の瞳孔92の大きさについて、OLED26が投影画像を投影していない場合の瞳孔92の大きさS1を取得する。換言すると、第2取得部52は、ユーザの眼90の瞳孔92の大きさについて、OLED26が投影画像を明るさ「ゼロ」で投影している場合の瞳孔92の大きさS1を取得する。本実施形態の大きさS1が、本開示の第1の大きさの一例である。取得部52は、取得した瞳孔92の大きさS1を、投影制御部54に出力する。
【0051】
第2取得部52は、瞳孔センサ27の検出結果に基づいて、瞳孔92の大きさS2を取得する機能を有する。具体的には、取得部52は、ユーザの眼90の瞳孔92の大きさについて、OLED26が投影画像を投影している場合の瞳孔92の大きさS2を取得する。換言すると、第2取得部52は、OLED26が投影画像を「ゼロ」以上の明るさで投影している場合の瞳孔92の大きさS2を取得する。本実施形態の大きさS2が、本開示の第2の大きさの一例である。取得部52は、取得した瞳孔92の大きさS2を、投影制御部54に出力する。
【0052】
投影制御部54は、瞳孔92の大きさS1と大きさS2との比較結果に応じて、右眼用透過部20Rに投影する投影画像の明るさを制御する機能を有する。本実施形態の投影制御部54は、図6Aを参照して上述したように、瞳孔92の大きさS1に比べて、瞳孔92の大きさS2が大きい場合、OLED26から投影する投影画像の明るさを明るくする制御を行う。また、投影制御部54は、図6Bを参照して上述したように、瞳孔92の大きさS1と、瞳孔92の大きさS2とが同じ場合、OLED26から投影する投影画像の明るさを明るくする制御を行う。また、投影制御部54は、図6Cを参照して上述したように、瞳孔92の大きさS1に比べて、瞳孔92の大きさS2が小さく、かつ大きさS1と大きさS2との差が閾値thよりも大きい場合、OLED26から投影する投影画像の明るさを暗くする制御を行う。また、投影制御部54は、図6Dを参照して上述したように、瞳孔92の大きさS1に比べて、瞳孔92の大きさS2が小さく、かつ大きさS1と大きさS2との差が閾値th以下の場合、OLED26から投影する投影画像の明るさを維持する制御を行う。
【0053】
なお、投影画像62の明るさを制御する方法は、投影画像62を投影する装置等に応じた方法を適宜採用すればよい。本実施形態では、投影画像62を投影する装置として、OLED26を採用しているため、OLED26の画素にかかる駆動電流の大きさを調整する。投影画像62の明るさを明るくする場合、駆動電流の大きさを大きくし、投影画像62の明るさを暗くする場合、駆動電流の大きさを小さくする。
【0054】
次に、本実施形態のスマートフォン12の作用を説明する。図8には、本実施形態のスマートフォン12のプロセッサ40による投影制御処理の流れの一例を表したフローチャートが示されている。一例として本実施形態のスマートフォン12では、ユーザが入力装置48を用いて入力した投影開始の指示を受けた場合、プロセッサ40が、記憶部44に記憶されている投影制御プログラム45を実行することにより、図8に一例を示した投影制御処理を実行する。なお、図8に示し投影制御処理を開始した時点では、ユーザは、左右の眼共に、左眼用透過部20L及び右眼用透過部20Rを通じて、現実像を視認している。
【0055】
図8のステップS100で第1取得部50は、瞳孔92の大きさS1を取得する。上述したように、第1取得部50は、瞳孔センサ27がユーザの眼90を撮影した撮影画像から、瞳孔92の大きさS1を取得する。
【0056】
次のステップS102で投影制御部54は、投影画像62を投影する。具体的には、投影制御部54は、投影画像62を導光板24に投影させるようOLED26に投影画像62の画像データを出力する。OLED26は、スマートフォン12から投影画像62の画像データが入力されると、入力された画像データに応じた投影画像62を導光板24に投影する。なお、図8に示した投影制御処理を開始して最初に実行されるステップS102の処理において投影制御部54がOLED26に投影させる投影画像62の明るさは、特に限定されず、予め定められた明るさとすることができる。予め定められた明るさとしては、例えば、ARグラス10の設計的に得られた汎用的な投影画像の明るさとしてもよい。
【0057】
次のステップS104で第2取得部52は、瞳孔92の大きさS2を取得する。上述したように、第2取得部52は、瞳孔センサ27がユーザの眼90を撮影した撮影画像から、瞳孔92の大きさS2を取得する。
【0058】
次のステップS106で投影制御部54は、上記ステップS100で取得した大きさS1が、上記ステップS104で取得した大きさS2よりも大きい(S1>S2)であるか否かを判定する。大きさS1が大きさS2よりも大きくない場合、換言すると、大きさS2が大きさS2以下(S1≦S2)の場合、ステップS106の判定が否定判定となり、ステップS108へ移行する。
【0059】
ステップS108で投影制御部54は、大きさS1が大きさS2よりも小さい(S1<S2)か否かを判定する。大きさS1が大きさS2よりも小さくない場合、換言すると、大きさS1と大きさS2とが同じ(S1=S2)場合、ステップS108の判定が否定判定となり、ステップS110へ移行する。この場合、図6Bを参照して上述した場合に該当する。そこで、ステップS110で投影制御部54は、投影している投影画像62の明るさを明るくする制御を行った後、ステップS102に戻る。
【0060】
一方、ステップS108において、大きさS1が大きさS2よりも小さい(S1<S2)場合、判定が肯定判定となり、ステップS112へ移行する。この場合、図6Aを参照して上述した場合に該当する。そこで、ステップS112で投影制御部54は、投影している投影画像62の明るさを明るくする制御を行った後、ステップS102に戻る。
【0061】
また、上記ステップS106において大きさS1が大きさS2よりも大きい(S1>S2)場合、判定が肯定判定となり、ステップS114へ移行する。
【0062】
ステップS114で投影制御部54は、大きさS1と大きさS2との差が、閾値th以下((S1-S2)≦th)であるか否かを判定する。大きさS1と大きさS2との差が、閾値th以下ではない場合、換言すると、大きさS1と大きさS2との差が、閾値thよりも大きい((S1-S2)>th)場合、ステップS114の判定が否定判定となり、ステップS116へ移行する。この場合、図6Cを参照して上述した場合に該当する。そこで、ステップS116で投影制御部54は、投影している投影画像62の明るさを暗くする制御を行った後、ステップS102に戻る。
【0063】
一方、ステップS114において、大きさS1と大きさS2との差が、閾値th以下((S1-S2)≦th)の場合、肯定判定となる。この場合、図6Dを参照して上述した場合に該当する。そこで、投影制御部54は、投影画像62の明るさを現在の明るさに維持する。そのため、ステップS114の判定が肯定判定となると、図8に示した投影制御処理が終了する。
【0064】
このように本実施形態のスマートフォン12の投影制御部54は、ユーザの眼90の瞳孔92の大きさについて、OLED26が投影画像62を投影していない場合の瞳孔92の大きさS1と、OLED26が投影画像62を投影している場合の瞳孔92の大きさS2との比較結果に応じて、投影する投影画像62の明るさを制御する。これにより、本実施形態のスマートフォン12によれば、投影画像62の視認性を良好に保ち、かつユーザの眼90にかかる負担を軽減することができる。
【0065】
[第2実施形態]
本実施形態のARグラス10の構成は、第1実施形態の ARグラス10の構成(図1及び図2参照)と同様であるため説明は省略する。一方、本実施形態のスマートフォン12は、図9に示すように、記憶部44に記憶されているデータが、第1実施形態の記憶部44(図4参照)と異なる。図9に示すように、本実施形態の記憶部44は、基準対応関係情報41をさらに記憶する。
【0066】
基準対応関係情報41は、視認する投影画像62の明るさ(輝度L)と、視認する眼90の瞳孔92の大きさとの対応関係を表す情報である。図10には、基準対応関係情報41の一例が示されている。図10に示した基準対応関係情報41は、例えば、統計的に得ることができる。なお、基準対応関係情報41をどのような形態とするかは限定されない。図10には、影画像の明るさ(輝度L)と、瞳孔92の大きさSとの対応関係をグラフ(テーブル)形式で表した基準対応関係情報41を示しているが、基準対応関係情報41の形式は特に限定されない。例えば、基準対応関係情報41は、投影画像62の明るさ(輝度L)と、瞳孔92の大きさSとの対応関係を表す式で表現されていてもよい。
【0067】
また、本実施形態のスマートフォン12は、図11に示すように、投影制御部54の構成が第1実施形態の投影制御部54(図7参照)と異なっている。本実施形態の投影制御部54は、瞳孔92の大きさS2を取得するために投影する投影画像62の明るさを、基準対応関係情報41に基づいて決定する機能を有する。
【0068】
また、本実施形態の投影制御部54は、基準対応関係情報更新部55を有する。基準対応関係情報更新部55は、大きさS1と大きさS2との比較結果に応じた制御後の投影画像62の明るさと、大きさS1との対応関係により、基準対応関係情報41を更新する機能を有する。換言すると、投影制御部54は、適切とされた投影画像62の明るさと、明るさS1との対応関係により基準対応関係情報41を更新する。
【0069】
図12には、本実施形態のスマートフォン12で実行される投影制御処理の流れの一例を表したフローチャートが示されている。図12に示すように本実施形態の投影制御処理は、ステップS100とステップS102との間にステップS101を備え、また、ステップS118を備える点で、第1実施形態の投影制御処理(図8参照)と異なっている。
【0070】
図12のステップS101で投影制御部54は、基準対応関係情報41を参照し、瞳孔92の大きさSを、上記ステップS100で取得した大きさS1とした場合に対応する投影画像62の明るさを、OLED26から投影する投影画像62の明るさの初期値L0として導出する。これにより、図12に示した投影制御処理を開始して最初に実行されるステップS102の処理では、投影制御部54は、初期値L0の明るさの投影画像62をOLED26に投影させる。
【0071】
また、図12に示すように、本実施形態の投影制御処理では、ステップS114で肯定判定となった場合、ステップS118へ移行する。すなわち、本実施形態では、投影画像62の明るさを適切な明るさに制御した後、ステップS118の処理を実行する。
【0072】
ステップS118で基準対応関係情報更新部55は、制御後の最終的な投影画像62の明るさLzと、上記ステップS100で取得した大きさS1とにより、基準対応関係情報41を更新する。なお、制御後の最終的な投影画像62の明るさLzと、上記ステップS100で取得した大きさS1との対応関係を、「制御後対応関係」という。また、以下では、制御後対応関係を表す値について、簡略化して「制御後対応関係値」という。ステップS118の処理が終了すると、図12に示した本実施形態の投影制御処理が終了する。なお、本実施形態では、基準対応関係情報41の更新方法として、投影制御処理を実行する毎に、図13に示すように、制御後対応関係値を蓄積していき、蓄積した複数の制御後対応関係値を元に、対応関係を表す近似曲線、もしくは近似式を導出して、基準対応関係情報41として用いてもよい。
【0073】
このように本実施形態のスマートフォン12の投影制御部54によれば、基準対応関係情報41を用いて、投影画像62の明るさの初期値L0を導出する。これにより、本実施形態のスマートフォン12によれば、投影画像62の明るさを適切な明るさにするための制御に要する時間を短縮することができる。
【0074】
また、基準対応関係情報更新部55は、大きさS1と大きさS2との比較結果に応じた制御後対応関係値により、基準対応関係情報41を更新し、投影制御部54は、更新された基準対応関係情報41を用いて、投影画像62の明るさの初期値L0を導出する。瞳孔92の大きさの変化は、個人差があるが、本実施形態では、ユーザに最適な投影画像62の明るさに基づいた基準対応関係情報41を得ることができるため、ユーザ個人に応じた適切な投影画像62の明るさの初期値L0を導出することができる。従って、本実施形態のスマートフォン12によれば、投影画像62の明るさを適切な明るさにするための制御に要する時間をより短縮することができる。
【0075】
(変形例1)
なお、基準対応関係情報更新部55は、更新タイミングが古い制御後対応関係値を基準対応関係情報41から順次除外することで、基準対応関係情報41に含まれる制御後対応関係値の数を予め定められた数以下に制御してもよい。図14には、本変形例のスマートフォン12で実行される投影制御処理の流れの一例を表したフローチャートが示されている。図14に示すように本変形例の投影制御処理は、ステップS118の前にステップS107A及びS107Bを備える点で、第2実施形態の投影制御処理(図13参照)と異なっている。
【0076】
図14のステップS107Aで基準対応関係情報更新部55は、今回の投影制御処理により得られた制御後対応関係値も含め、蓄積されている制御後対応関係値の総数が所定数以下であるか否かを判定する。制御後対応関係値の総数が所定数以下ではない場合、換言すると、制御後対応関係値の総数が所定数を超える場合、ステップS107Aの判定が否定判定となり、ステップS107Bへ移行する。ステップS107Bで基準対応関係情報更新部55は、更新タイミングが最も古い制御後対応関係値を基準対応関係情報41から除外した後、ステップS118へ移行する。
【0077】
一方、ステップS107Aにおいて制御後対応関係値の総数が所定数以下である場合、肯定判定となり、ステップS118へ移行する。
【0078】
これらの処理により、本実施形態では、基準対応関係情報41を、更新タイミングが新しい所定数の制御後対応関係値に基づいた、近似曲線(図13参照)等とすることができる。これにより、本実施形態のスマートフォン12の基準対応関係情報更新部55によれば、記憶する制御後対応関係値の数を抑制することができるため、基準対応関係情報41を記憶することによる記憶容量の圧迫を抑制することができる。また、基準対応関係情報更新部55が近似曲線の導出に要する処理量を抑制し、処理に要する時間を短縮することができる。
【0079】
なお、基準対応関係情報41に用いる基準対応関係情報の所定数は、特に限定されず、統計的に有意な近似曲線等を導出することが可能であるか否か、蓄積に要する記憶容量の制限、及び投影画像62の明るさの初期値L0の精度等に応じて、適宜、設定することができる。
【0080】
(変形例2)
本変形例では、基準対応関係情報41に含まれる制御後対応関係値の数の制御の変形例について説明する。本変形例の基準対応関係情報更新部55は、基準対応関係情報41における眼90の瞳孔92の大きさに応じて定められる所定の範囲毎に、基準対応関係情報41に含まれる制御後対応関係を表す値の数を所定数以下に制御する。なお、本変形例の所定数が、本開示の第1所定数の一例である。
【0081】
図15には、眼90の瞳孔92の大きさに応じて、領域1~領域7にわけて、領域毎に、制御後対応関係値の数を「3」以下に基準対応関係情報更新部55が制御した場合の基準対応関係情報41の一例を示している。
【0082】
このように、更新タイミングが古い制御後対応関係値を基準対応関係情報41から除外することで、瞳孔92の大きさについて、特定の大きさの制御後対応関係値だけに偏ってしまうのを防止することができる。これにより、本変形例の基準対応関係情報更新部55によれば、基準対応関係情報41の精度を維持することができる。
【0083】
(変形例3)
本変形例では、基準対応関係情報41に含まれる制御後対応関係値の数の制御の変形例について説明する。本変形例の基準対応関係情報更新部55は、基準対応関係情報41における視認する像の明るさに応じて定められる所定の範囲毎に、基準対応関係情報41に含まれる制御後対応関係を表す値の数を所定数以下に制御する。なお、本変形例の所定数が、本開示の第2所定数の一例である。
【0084】
図16には、視認する像の明るさ(輝度)に応じて、領域1~領域9にわけて、領域毎に、制御後対応関係値の数を「2」以下に基準対応関係情報更新部55が制御した場合の基準対応関係情報41の一例を示している。
【0085】
このように、更新タイミングが古い制御後対応関係値を基準対応関係情報41から除外することで、視認する像の明るさについて、特定の明るさの制御後対応関係値だけに偏ってしまうのを防止することができる。これにより、本変形例の基準対応関係情報更新部55によれば、基準対応関係情報41の精度を維持することができる。
【0086】
(変形例4)
本変形例では、基準対応関係情報41に含まれる制御後対応関係値の数の制御の変形例について説明する。本変形例の基準対応関係情報更新部55は、基準対応関係情報41における眼90の瞳孔92の大きさに応じて定められる所定の範囲毎に、制御後対応関係値により代表値を決定し、代表値により基準対応関係情報41を導出する。
【0087】
図17には、眼90の瞳孔92の大きさに応じて、領域1~領域7にわけて、領域毎に、制御後対応関係値から代表値を決定した場合の基準対応関係情報41の一例を示している。図17に示した場合、基準対応関係情報更新部55は、領域1~領域7の各々において、複数の制御後対応関係値が得られている場合、複数の制御後対応関係値から、1つの代表値を決定する。
【0088】
そのため、基準対応関係情報更新部55は、新たな制御後対応関係値を取得した場合、新たな制御後対応関係値を含めた複数の制御後対応関係値から、新代表値を決定することで、代表値を更新する。図17には、領域4に含まれる新制御後対応関係値を取得したことにより、基準対応関係情報更新部55が、新代表値を決定した場合が示されている。
【0089】
なお、代表値を決定する場合、制御後対応関係値に重み付けを行って新代表値を決定することが好ましい。例えば、基準対応関係情報更新部55は、下記(1)式により、新代表値を算出する。なお、重みWは、予め設定しておいてもよいし、適宜変化させてもよい。例えば、Wの値を小さくすることにより、代表値を決定するに当たり、更新タイミングが古い制御後対応関係値が重視されることになるため、データの連続性を重視した新代表値を決定することができる。
Dn_new=W×D+Dn_old×(1-W) ・・・(1)
Dn_new:領域n(図17では、n=1~7)の新代表値
Dn_old:領域nの旧代表値
D:新制御後対応関係値
W:新制御後対応関係値の重み、W=0~1
【0090】
また、基準対応関係情報更新部55は、代表値を用いて近似曲線導出する。基準対応関係情報更新部55は、新代表値を決定した場合、新代表値に基づいて近似曲線を導出し直す。図17に示した例では、領域4において決定した新代表値に基づいて新近似曲線を導出した場合が示されている。
【0091】
このように、制御後対応関係値そのものではなく、制御後対応関係値から決定された代表値を用いることで、基準対応関係情報41の精度を維持しつつ、基準対応関係情報41(図17に示した例では、近似曲線)の導出に要する処理を軽減することができる。
【0092】
なお、上記の例では、基準対応関係情報更新部55が、基準対応関係情報41における眼90の瞳孔92の大きさに応じて定められる所定の範囲毎に、制御後対応関係値により代表値を決定したが、代表値を決定する方法は、本形態に限定されない。例えば、基準対応関係情報更新部55が、基準対応関係情報41における視認する像の明るさに応じて定められる所定の範囲毎に、制御後対応関係値により代表値を決定してもよい。また例えば、基準対応関係情報更新部55が、基準対応関係情報41における眼90の瞳孔92の大きさ、及び基準対応関係情報41における視認する像の明るさに応じて定められる所定の範囲毎に、制御後対応関係値により代表値を決定してもよい。
【0093】
(変形例5)
上記各形態では、投影制御処理を実行する初期段階では、統計的に得られた基準対応関係情報41を用い、統計的に得られた基準対応関係情報41を更新する場合について説明した。本変形例では、統計的に得られた基準対応関係情報41に代わり、明るさを異ならせて投影画像62を投影することにより得られた、投影画像62の明るさと、ユーザの眼90の瞳孔92の大きさS1との対応関係を表す情報を用いる。
【0094】
瞳孔92の大きさの変化は、個人差があり、例えば、加齢によっても変化の程度等が異なる。そのため、本変形例では、ARグラス10を使用するユーザ個人に特化した基準対応関係情報41を用いる。
【0095】
本変形例では、ARグラス10の使用を開始する際や、投影制御処理を実行する前等、予め定められたタイミングで、基準対応関係情報更新部55が、明るさ(輝度)が異なる複数の投影画像62を順次、OLED26によって投影させる。第1取得部50は、各投影画像62を視認したユーザの眼90の瞳孔92の大きさSを取得し、基準対応関係情報更新部55は、各投影画像62を視認したユーザの眼90の瞳孔92の大きさSに基づいて、基準対応関係情報41を導出する。例えば、図18に示した例では、明るさが暗い(1cd/m)投影画像62から、明るい(10000cd/m)投影画像62まで、9枚の投影画像62(62~62)を順次、投影することにより得られた大きさSにより基準対応関係情報41を導出した例を示している。
【0096】
瞳孔92の大きさの変化は、個人差があり、例えば、加齢によっても変化の程度等が異なる。そこで、本変形例では、上述のようにARグラス10を使用するユーザが実際に視認した投影画像62の明るさと瞳孔92の大きさSとの関係により得られた基準対応関係情報41を用いる。このように、本変形例では、ユーザ個人に最適化した基準対応関係情報41を用いるため、精度がより良い初期値L0を得ることができる。
【0097】
[第3実施形態]
一般的に色によって、明るさの感じ易さ、すなわち分光感度特性が異なる。具体的には、視認する投影画像62の色によって、瞳孔92の大きさの変化の仕方が異なる。そのため、投影画像62に用いられる色毎に、ユーザの瞳孔92の分光感度特性に応じた重み付けによってユーザに合わせて色味を調整した投影画像62を用いて投影制御処理を行うことが好ましい。
【0098】
図19には、分高感度特性に応じた重み付けを得るためにスマートフォン12のプロセッサ40により実行される重み付け取得処理の流れの一例を表したフローチャートが示されている。一例として本実施形態のスマートフォン12では、ユーザがARグラス10を初めて使用する場合や、所定の使用期間が経過する毎等、予め定められたタイイングで図19に示した重み付け取得処理を実行する。なお、本実施形態では、一例として投影画像62がRGBのカラー画像でる場合について説明する。また、重み付け取得処理は、周辺環境の影響を極力排除するために、周辺環境が暗い状態で行うことが好ましい。
【0099】
図19のステップS10で投影制御部54は、R単色の投影画像62を投影する。具体的には、投影制御部54は、R単色の投影画像62を導光板24に投影させるようOLED26に投影画像62の画像データを出力する。OLED26は、スマートフォン12からR単色の投影画像62の画像データが入力されると、入力された画像データに応じたR単色の投影画像62を導光板24に投影する。
【0100】
次のステップS12で第2取得部52は、瞳孔92の大きさS_rを取得する。上述したように、第2取得部52は、瞳孔センサ27がユーザの眼90を撮影した撮影画像から、瞳孔92の大きさS_rを取得する。
【0101】
次のステップS14で投影制御部54は、上記ステップS12で取得した大きさS_rに対応する輝度値を取得する。本実施形態の投影制御部54は、上述した基準対応関係情報41(図10等参照)を参照し、大きさS_rに対応する輝度値を、R単色の投影画像62の輝度値L_rとして取得する。
【0102】
次のステップS16で投影制御部54は、G単色の投影画像62を投影する。具体的には、投影制御部54は、G単色の投影画像62を導光板24に投影させるようOLED26に投影画像62の画像データを出力する。OLED26は、スマートフォン12からG単色の投影画像62の画像データが入力されると、入力された画像データに応じたG単色の投影画像62を導光板24に投影する。
【0103】
次のステップS18で第2取得部52は、瞳孔92の大きさS_rを取得する。上述したように、第2取得部52は、瞳孔センサ27がユーザの眼90を撮影した撮影画像から、瞳孔92の大きさS_gを取得する。
【0104】
次のステップS20で投影制御部54は、上記ステップS18で取得した大きさS_gに対応する輝度値を取得する。本実施形態の投影制御部54は、上述した基準対応関係情報41(図10等参照)を参照し、大きさS_gに対応する輝度値を、G単色の投影画像62の輝度値L_gとして取得する。
【0105】
次のステップS22で投影制御部54は、B単色の投影画像62を投影する。具体的には、投影制御部54は、B単色の投影画像62を導光板24に投影させるようOLED26に投影画像62の画像データを出力する。OLED26は、スマートフォン12からB単色の投影画像62の画像データが入力されると、入力された画像データに応じたB単色の投影画像62を導光板24に投影する。
【0106】
次のステップS24で第2取得部52は、瞳孔92の大きさS_bを取得する。上述したように、第2取得部52は、瞳孔センサ27がユーザの眼90を撮影した撮影画像から、瞳孔92の大きさS_bを取得する。
【0107】
次のステップS26で投影制御部54は、上記ステップS20で取得した大きさS_bに対応する輝度値を取得する。本実施形態の投影制御部54は、上述した基準対応関係情報41(図10等参照)を参照し、大きさS_bに対応する輝度値を、B単色の投影画像62の輝度値L_bとして取得する。
【0108】
次のステップS28で投影制御部54は、R色に対応する重みW_r、G色に対応する重みW_g、及びB色に対応する重みW_bを導出し、記憶部44に記憶させる。投影制御部54は、上記ステップS14で取得した輝度値L_r、上記ステップS20で取得した輝度値L_g、及び上記ステップS26で取得した輝度値L_bを正規化することにより、R色に対応する重みW_r、G色に対応する重みW_g、及びB色に対応する重みW_bを導出する。一例として、本実施形態の投影制御部54は、下記(2)式~(4)式により、重みW_r、W_g、及びW_bを導出する。
W_r=(L_r)/(L_r+L_g+L_b) ・・・(2)
W_g=(L_g)/(L_r+L_g+L_b) ・・・(3)
W_b=(L_b)/(L_r+L_g+L_b) ・・・(4)
なお、W_r+W_g+W_b=1である。
【0109】
上記(2)式~(4)式により、例えば、ユーザが赤色を明るく感じやすい分光特性を有する場合、重みW_rの値が、重みW_g及びW_bの各々の値よりも大きくなる。
【0110】
ステップS28の処理が終了すると、図19に示した重み付け取得処理が終了する。
【0111】
本実施形態のスマートフォン12では、このようにして得られたユーザの瞳孔92の分光感度特性に応じた重み付けW_r、W_g、及びW_bによってユーザに合わせて色味を調整した投影画像62を用いて投影制御処理を行う。
【0112】
これにより、本実施形態のスマートフォン12によれば、ユーザが明るく感じやすい色については暗く、明るさを感じにくい色については明るく調整した投影画像62を用いて投影制御処理を行う。これにより、本実施形態のスマートフォン12によれば、投影画像62の明るさをより適切な明るさに制御することができる。
【0113】
以上説明したように、本実施形態のスマートフォン12は、ユーザの眼90に現実像を提供する右眼用透過部20Rと、右眼用透過部20Rにユーザの眼90により視認が可能な状態に投影画像62を投影するOLED26と、を備えたARグラス10に対して、投影画像62の投影を制御するプロセッサ40を備える。プロセッサ40は、ユーザの眼90の瞳孔92の大きさSについて、OLED26が投影画像62を例えば、明るさ「ゼロ」等、第1の明るさで投影している場合の瞳孔92の大きさS1を取得する。また、プロセッサ40は、OLED26が投影画像62を第1の明るさよりも明るい、第2の明るさで投影している場合の瞳孔92の大きさS2を取得する。さらに、プロセッサ40は、大きさS1と大きさS2との比較結果に応じて、右眼用OLED26Rに投影する投影画像62の明るさを制御する。
【0114】
このように、上記各形態のスマートフォン12によれば、ユーザの瞳孔92の大きさS1と大きさS2との比較結果に応じて投影画像62の明るさを適切な明るさに制御する。従って、上記各形態のスマートフォン12によれば、投影画像62の視認性を良好に保ち、かつユーザの眼90にかかる負担を軽減することができる。
【0115】
なお、上記各形態では、ユーザの瞳孔92の大きさS1を取得する場合、投影画像62の明るさを「ゼロ」として投影画像62を表示させない状態としていたが、投影画像62を表示させる形態としてもよい。また、上記各形態では、投影画像が静止画像である場合について説明したが、投影画像は動画像であってもよい。
【0116】
また、ARグラス10は、現実像60の透過率を調整する調光機能を有していてもよい。例えば、周辺環境が明るすぎ、瞳孔92の大きさS1が小さすぎる場合、大きさS1が予め定められた大きさ以上となるように、調光機能により現実像60の透過率を調整してもよく、上記各形態においては、右眼用透過部20Rの透過率を下げてもよい。このように現実像60の透過率を調整することで、投影画像62の明るさを明るくする上限値を低く抑えることができる。これにより、消費電力の増加や、OLED26の大型化及び重量の増加等を抑制することができる。
【0117】
また、上記形態では、ユーザの右の眼90で投影画像62を視認する形態のARグラス10について説明したが、ARグラス10は、本形態に限定されず、ユーザの左の眼90で投影画像62を視認する形態のARグラス10であってもよい。また、ユーザの左右の眼90の各々で投影画像62を視認する形態のARグラス10であってもよい。なお、この場合、左右の眼90の各々について、スマートフォン12が、投影制御処理を行うことが好ましい。
【0118】
また、上記第2実施形態では、スマートフォン12の記憶部44に基準対応関係情報41が記憶されている形態について説明したが、基準対応関係情報41が記憶されている場所は、スマートフォン12に限定されない。例えば、ARグラス10が基準対応関係情報41を記憶する形態であってもよい。
【0119】
また、上記各形態では、第1取得部50、第2取得部52、及び投影制御部54の各機能をスマートフォン12が備える形態としたが、これら各部の機能の一部または全部を他の装置が備える形態としてもよい。他の装置としては、例えば、ARグラス10であってもよいし、クラウド上に設けられたサーバコンピュータ等であってもよい。
【0120】
また、上記各形態において、例えば、第1取得部50、第2取得部52、及び投影制御部54といった各種の処理を実行する処理部(processing unit)のハードウェア的な構造としては、次に示す各種のプロセッサ(processor)を用いることができる。上記各種のプロセッサには、前述したように、ソフトウェア(プログラム)を実行して各種の処理部として機能する汎用的なプロセッサであるCPUに加えて、FPGA(Field Programmable Gate Array)等の製造後に回路構成を変更可能なプロセッサであるプログラマブルロジックデバイス(Programmable Logic Device:PLD)、ASIC(Application Specific Integrated Circuit)等の特定の処理を実行させるために専用に設計された回路構成を有するプロセッサである専用電気回路等が含まれる。
【0121】
1つの処理部は、これらの各種のプロセッサのうちの1つで構成されてもよいし、同種又は異種の2つ以上のプロセッサの組み合わせ(例えば、複数のFPGAの組み合わせや、CPUとFPGAとの組み合わせ)で構成されてもよい。また、複数の処理部を1つのプロセッサで構成してもよい。
【0122】
複数の処理部を1つのプロセッサで構成する例としては、第1に、クライアント及びサーバ等のコンピュータに代表されるように、1つ以上のCPUとソフトウェアの組み合わせで1つのプロセッサを構成し、このプロセッサが複数の処理部として機能する形態がある。第2に、システムオンチップ(System On Chip:SoC)等に代表されるように、複数の処理部を含むシステム全体の機能を1つのIC(Integrated Circuit)チップで実現するプロセッサを使用する形態がある。このように、各種の処理部は、ハードウェア的な構造として、上記各種のプロセッサの1つ以上を用いて構成される。
【0123】
更に、これらの各種のプロセッサのハードウェア的な構造としては、より具体的には、半導体素子などの回路素子を組み合わせた電気回路(circuitry)を用いることができる。
【0124】
また、上記各形態では、投影制御プログラム45が記憶部44に予め記憶(インストール)されている態様を説明したが、これに限定されない。投影制御プログラム45は、CD-ROM(Compact Disc Read Only Memory)、DVD-ROM(Digital Versatile Disc Read Only Memory)、及びUSB(Universal Serial Bus)メモリ等の記録媒体に記録された形態で提供されてもよい。また、投影制御プログラム45は、ネットワークを介して外部装置からダウンロードされる形態としてもよい。
【符号の説明】
【0125】
1 表示システム
10 ARグラス
12 スマートフォン
20L 左眼用透過部、20R 右眼用透過部
22L 左眼用レンズ、22R 右眼用レンズ
24 導光板
26 OLED
27 瞳孔センサ
40 プロセッサ
41 基準対応関係情報
42 メモリ
43 I/F部
44 記憶部
45 投影制御プログラム
46 ディスプレイ
48 入力装置
49 バス
50 第1取得部
52 第2取得部
54 投影制御部
55 基準対応関係情報更新部
60 現実像
62、62~62 投影画像
90 眼
92 瞳孔
S、S1、S2 (瞳孔の)大きさ
図1
図2
図3
図4
図5
図6A
図6B
図6C
図6D
図7
図8
図9
図10
図11
図12
図13
図14
図15
図16
図17
図18
図19