(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】6693656
(24)【登録日】2020年4月20日
(45)【発行日】2020年5月13日
(54)【発明の名称】瞳孔間のキャリブレーションプログラム、前記プログラムを用いたWebサーバ、及び、瞳孔間のキャリブレーション方法
(51)【国際特許分類】
H04N 13/344 20180101AFI20200427BHJP
H04N 13/371 20180101ALI20200427BHJP
H04N 13/327 20180101ALI20200427BHJP
G02B 27/02 20060101ALI20200427BHJP
G09G 5/00 20060101ALI20200427BHJP
G09G 5/36 20060101ALI20200427BHJP
G09G 5/34 20060101ALI20200427BHJP
G09G 5/38 20060101ALI20200427BHJP
【FI】
H04N13/344
H04N13/371
H04N13/327
G02B27/02 Z
G09G5/00 X
G09G5/00 550C
G09G5/00 555D
G09G5/36 510V
G09G5/34 Z
G09G5/00 510H
G09G5/38 Z
【請求項の数】2
【全頁数】15
(21)【出願番号】特願2017-232151(P2017-232151)
(22)【出願日】2017年11月14日
(65)【公開番号】特開2019-92140(P2019-92140A)
(43)【公開日】2019年6月13日
【審査請求日】2019年2月4日
(73)【特許権者】
【識別番号】517422249
【氏名又は名称】株式会社B.b.designLab
(74)【代理人】
【識別番号】110001841
【氏名又は名称】特許業務法人梶・須原特許事務所
(72)【発明者】
【氏名】湯浅 史丈
(72)【発明者】
【氏名】朝倉 一浩
(72)【発明者】
【氏名】安田 裕治
(72)【発明者】
【氏名】宇都木 仁
(72)【発明者】
【氏名】田村 睦明
【審査官】
秦野 孝一郎
(56)【参考文献】
【文献】
特開2013−232744(JP,A)
【文献】
特開平5−344450(JP,A)
【文献】
国際公開第2014/077046(WO,A1)
【文献】
米国特許出願公開第2015/0293362(US,A1)
【文献】
特開平8−191419(JP,A)
【文献】
特開2010−96864(JP,A)
【文献】
特表2018−501498(JP,A)
(58)【調査した分野】(Int.Cl.,DB名)
H04N 13/00−13/398
G02B 27/00−27/64
G09G 5/00−5/40
(57)【特許請求の範囲】
【請求項1】
人体のヘッド部に装着されて使用されるVRゴーグルに設けられ、ヘッドトラッキング機能を行うためのセンサ及びディスプレイとを備えた画像処理装置で、個人差のある瞳孔間距離のキャリブレーションを実行する瞳孔間のキャリブレーションプログラムであって、
360度VR空間に右目用と左目用でそれぞれ僅かに位置をずらして配置された、キャリブレーション用の複数のマーカ画像を、前記ディスプレイに対して、右目用画像と左目用画像を表示する画像表示手段と、
前記センサの移動検知信号に基づいて、前記右目用画像と左目用画像を前記ディスプレイに対して前記360度VR空間にスクロール表示する処理を実行するスクロール表示手段と、
前記センサの移動検知信号に基づいて、前記画像処理装置の静止状態を検知し、前記静止状態が、予め設定された条件を満たした場合に、前記ディスプレイに表示される中央の前記複数のマーカ画像の一つをキャリブレーション設定用のマーカ画像に設定し、この設定されたキャリブレーション設定用のマーカ画像に基づいた瞳孔間距離のキャリブレーションデータをセットするキャリブレーションデータの設定手段と、
前記画像表示手段は、
前記キャリブレーションデータの設定手段の設定後に、その設定されたキャリブレーションデータに基づいた、再生用の右目用画像と左目用画像を前記ディスプレイに表示することを特徴とするキャリブレーションプログラム。
【請求項2】
ヘッドトラッキング機能を行うためのセンサ及びディスプレイとを備え、画像処理機能を具備した端末装置との双方向通信によって、その端末装置を操作する使用者の瞳孔間距離のキャリブレーションデータを得るために、瞳孔間のキャリブレーションプログラムを実行するWebサーバのコントローラであって、
前記コントローラは、以下の処理を実行する。
(a)360度VR空間に右目用と左目用でそれぞれ僅かに位置をずらして配置された、キャリブレーション用の複数のマーカ画像を、前記ディスプレイに対して、右目用画像と左目用画像を表示する処理と、
(b)前記センサの移動検知信号に基づいて、前記右目用画像と左目用画像を前記ディスプレイに対して前記360度VR空間にスクロール表示する処理と、
(c)前記センサの移動検知信号に基づいて、前記画像処理装置の静止状態を検知し、前記静止状態が、予め設定された条件を満たしたか否かを判定する処理と、
(f)前記ディスプレイに表示される中央の前記複数のマーカ画像の一つをキャリブレーション設定用のマーカ画像に設定する処理と、
(g)前記設定されたキャリブレーション設定用のマーカ画像に基づいた瞳孔間距離のキャリブレーションデータをセットする処理と、
(h)前記キャリブレーションデータを、その後のVR動画再生時における、再生用の右目用画像と左目用画像の調整に用いるために、前記端末装置又は使用者のIDと関連付けて格納する処理。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、VR(バーチャル・リアリティ=仮想現実感)に好適な個人差のある瞳間距離のキャリブレーションをおこなうためのキャリブレーションシステム及びキャブテーション方法に関する。このようなキャリブレーションシステム及び方法は、ゲーム、映画、遠隔地からの遠隔操作等のVR(バーチャル・リアリティ)に関連する技術分野に属する。
【背景技術】
【0002】
従来、例えば、特許文献1の請求項4には、瞳孔間距離調整機構が開示されており、使用者の頭からヘッドセットを取り外さずに調整されるようにされ得るとの記載がある。
【0003】
このような瞳孔間距離のキャリブレーションシステムは、人体への影響もいろいろと議論になってきている。本発明者は、キャリブレーションの以下のような様々な問題の考察を経て、本発明を想到するに至った。
<開発背景>
「多くの人にVRの体験をしてもらいたい」と発明者は考えたが、VRには構造上「斜視リスク」が存在し法規制と安全面の考慮から13歳以下の2眼VRヘッドセットの使用は非推奨となっている。
ちなみに、VR映像は常に同じ距離のスクリーンにピントを合わせ、左右に違う映像を見せる事で遠近感を表現し脳を騙す技術になる。
実際には3Dではないもの(平面の映像)を3D(立体)に見せかける錯覚なわけであるので、目に負担がかり、VRコンテンツを体験する際、「視界が少しぼやける」、「すぐに疲れる」、「見え方が歪んで見えて酔いやすい」という現象が起こる。
【0004】
人の網膜の中には光を取込む「視細胞」という物があり、そこから視神経を通じて脳に信号を送り「視覚」となり、その中の「立体視細胞」が物を立体視する際に使われる。
そしてこの「立体視細胞」は人間の体が成長するのと同じようにこの視細胞も時間が経つにつれて徐々に発達していくことで物を立体的にとらえられるようになる。
つまり幼少期は「目の使い方」を学んでいる段階なので、その発達をVRや3Dの映像で妨げる可能性があり、目に負担のかかるものは避けた方がいいというのが医療関係者の意見となっている。
両眼視差による立体視はおおよそ生後2ヶ月から2歳頃までで形成され、身体能力に個人差があるように立体視する力も個人によって強弱があり、この立体視細胞の発達は大体6歳くらいまでに完成すると言われている。
【0005】
また、13歳以下非推奨の要因として、以下理由があげられる。
・幼少期(6歳くらいまで)は斜視リスクが高い
・瞳孔間距離の増大によるリスク(調節出来れば問題なし)
・COPPAによる13歳未満の年齢制限
・規制や反対運動を回避するための保守的な年齢設定
【先行技術文献】
【特許文献】
【0006】
【特許文献1】WO2016/069398
【発明の概要】
【発明が解決しようとする課題】
【0007】
以上のような、13歳以下非推奨の要因を総括すると、瞳孔間距離が調節出来て「斜視リスク」を回避出来る仕組みが出来れば、7歳以上であれば安全に2眼VRヘッドセット楽しむことが出来るようになると考え、一般的には難しい瞳孔間視差のキャリリブレーションを簡単に行えるアプリケーション開発の着手に至った。
そして、その開発にあたって、本発明者が着目したのは、右目用の画面と左目用の画面を表示させて、右目左目の2眼でVR映像を使用者に視認させる、VRヘッドマウントディスプレイを使用したコンテンツを、安全に観賞・体験するには次の点に留意すべきということである。すなわち、「眼球を含めた空間認知の発達に影響を及ぼさないように、HMDは瞳孔間距離を考慮したものにすべき」であり、瞳孔間距離の異なる女性・男性から子供に至るまで、すべての人の目に合わせて、VR視聴時の視差や歪の補正作業(瞳孔間距離補正)を行う必要があると考えた。
そして、本発明に関わるソフトウエアプログラム及びシステムは、利用者の個人差による瞳孔間距離に加え、ゴーグルのレンズ間距離、スマートフォンの画面サイズ、ゴーグルレンズとスマートフォン液晶までの距離など複雑な要素の絡まりを、利用者は意識すること無く簡単なステップを行うだけで自動的にキャリブレーションを行う事の出来るアプリケーションツールであることが肝要であると、本発明者は考えた。
【0008】
また、本発明を開発するにあたり、着目する点として、スマートフォンのようなジャイロ付きのフラットディスプレイ付きのモバイルを用いたVR表示装置(VRゴーグルと同義である)についての現状の調査を行った。
【0009】
VRゴーグルは、VRヘッドマウントディスプレイとは異なるもので、スマートフォンを用いて簡易にVR映像を視聴できるものとなっている。因みに、VRヘッドマウントディスプレイには次のような機能が備わっている。
・ディスプレイ
・立体視のためのレンズ
・頭の位置を読み取るヘッドトラッキング機能を行うために必要なセンサ(ジャイロセンサ、加速度センサ)である。
【0010】
これに対して、VRゴーグルの場合、スマートフォンの機能として、ディスプレイや上記センサを元々搭載している。そのため、スマートフォンはVRを体験するために必要なほとんどの機能を持っているが、ディスプレイに描き出す描画能力は、強力なグラフィック性能を持つPCやゲーム機には劣るが必要十分な処理能力を備えている。しかし、グラフィック性能を補うために、VRゴーグルには、立体視をするためのレンズが搭載されるのが一般的である。
図1に示すのが、前記スマートフォンAをセットしヘッドマウントディプレイとして使用するための、VRゴーグルBの原理図である。
図において、A1は、スマートフォンAの液晶画面を示し、B1は、左目用レンズ、B2は右目用レンズである。
また、同図において、aは、左右レンズB1とB2の外側間距離、bは、左右レンズB1とB2の内側間距離、cは、レンズB1とB2の直径、dは、レンズB1とB2との半径、eは、左右レンズB1とB2の中心間距離、fは、レンズとスマートフォンAの表示面としての液晶面A1との距離を表しており、現在市場に出回っている各種のスマートフォン用のゴーグルにおいては、前記a〜fがそれぞれ次のような寸法のものが存在する。α社ゴーグル製品:a=85mm、b=36.5mm、c=24.25、d=12.125mm、e=60.75mm、f=37mmであった。
β社ゴーグル製品:a=98mm、b=26mm、c=36mm、d=18mm、e=62mm,f=37mmであった。
γ社ゴーグル製品:a=90mm、b=42mm、c=24mm、d=12mm、e=66mm,f=43mmであった。
そして、α社製品には年齢制限が記されていないが、β社製品は13歳以下は不可、γ社製品には15歳以上との記載がそれぞれされている。
上述した、α、β、γ社のVR用のゴーグルのレンズ間距離差は、前述したように、α社(Cardboard)60.75mm、β社(HOMIDO 62mm)、γ社(100円均一ノーブランド66mm)と3個体のみの計測でレンズの中心間距離差が5.25mmもある事が確認出来た。つまり、ゴーグルによって、レンズの中心間距離がまちまちである。
一方、瞳孔間距離差に関しては、日本人頭部データベース2001によると、瞳孔間距離差は最少値55mm、最大値71mm、平均値62.8mmとなっており、瞳孔間距離差は16mm以上ある事が確認されている。(メガネ協会では最少値55mm、最大値78mm、平均値63.5mm※非公式)このデータからすると、ゴーグルの製造メーカは、瞳孔間距離gに関して、日本人の平均的な寸法を採用しているものの、個人差があるので、左右の目とレンズ中心とディスプレイの左右目用の表示中心が一致するような汎用性のあるゴーグルを設計できないという制約がある。
この要因は、スマートフォンの画面サイズがメーカや製品ごとに異なることも原因となっている。例えば、スマートフォンガイド.netによる2018年1月末までに発売のスマートフォン132機種の画面サイズは最小3.5インチ(アスペクト比5:3)、最大6.3インチ(アスペクト比18.5:9)となっており、2眼表示画面中心距離は最小値38.1mm、最大値72mmとなり、画面中心距離差は33.9mmもある事が確認できた。
【0011】
そこで、本発明は、上述したようにゴーグル製品の各種寸法差異やスマートフォンの画面サイズの多様化に対しても個人差のある瞳孔間距離gにマッチング可能な瞳孔間のキャリブレーションプログラム及び、その方法、並びに、前記プログラムを用いたシステムを提供することを目的とする。
【0012】
なお、
図2は、NTTドコモ社から提供されるMO−01Jのスマートフォンを用いてVRゴーグルの人体の頭部に装着した場合の各種寸法比較した図であって、左右目用の表示ディスプレイの中央位置間距離h1と、レンズと液晶ディスプレイとの距離f1、VRゴーグルのレンズ間距離e1、目の間の距離g1を示している。
図1における符号に「1」が付加された符号は、寸法は異なるが同一の箇所寸法を意味する。
また、
図3は、NTTドコモ社から提供されるGalaxy(登録商標)S7のスマートフォンを用いて、VRゴーグルの人体の頭部に装着した場合の各種寸法比較した図であって、左右目用の表示ディスプレイの中央位置間距離h2と、レンズと液晶ディスプレイとの距離f2、VRゴーグルのレンズ間距離e2、目の間の距離g2を示している。
図1における符号に「1」が付加された符号は、寸法は異なるが同一の箇所寸法を意味する。
【0013】
なお、
図2と
図3とは、前記α社(Cardboard)を用いての原理説明としている。この段ボールで作られたVRゴーグルは、Googleから購入可能である。
そして、このVRゴーグルの機能概要は次のようになっていると本発明者は分析した。
瞳孔間距離(IPD)をミリメートル(mm)で設定
垂直視野(度)
レンズの歪みの強さ
値:0.0〜5.0,0.0=歪みなし
この歪みは、1パスレンダリングステップで内部魚眼ビュー歪みを使用してレンダリングされます。
これは、第2パス後処理レンズ歪みステップです。
用するために使用できます。
歪みパラメータがズームを引き起こしているとき、画像品質は、スケーリングおよび補間のためにわずかに縮退する可能性があります。
4つの歪みパラメータがあります:
r=r*(1.0/k1)*(1.0+k2*r2+k3*r4+k4*r6)
この歪みは追加のGPU処理能力を必要とし、フレームレートを低下させる可能性があり
す。
【課題を解決するための手段】
【0014】
本発明は、人体のヘッド部に装着されて使用されるVRゴーグルに設けられ、ヘッドトラッキング機能を行うためのセンサ及びディスプレイとを備えた画像処理装置で、個人差のある瞳孔間距離のキャリブレーションを実行する瞳孔間のキャリブレーションプログラムであって、
360度VR空間に右目用と左目用でそれぞれ僅かに位置をずらして配置された、キャリブレーション用の複数のマーカ画像を、前記ディスプレイに対して、右目用画像と左目用画像を表示する画像表示手段と、
前記センサの移動検知信号に基づいて、前記右目用画像と左目用画像を前記ディスプレイに対して前記360度VR空間にスクロール表示する実行するスクロール表示手段と、
前記センサの移動検知信号に基づいて、前記画像処理装置の静止状態を検知し、前記静止状態が、予め設定された条件(注視時間)を満たした場合に、前記ディスプレイに表示される中央の前記複数のマーカ画像の一つをキャリブレーション設定用のマーカ画像に設定し、この設定されたキャリブレーション設定用のマーカ画像に基づいた瞳孔間距離のキャリブレーションデータをセットするキャリブレーションデータの設定手段と、
前記画像表示手段は、
前記キャリブレーションデータの設定手段の設定後に、その設定されたキャリブレーションデータに基づいた、再生用の右目用画像と左目用画像を前記ディスプレイに表示ことを特徴とするキャリブレーションプログラム。
【0015】
この発明によれば、右目用と左目用でそれぞれ僅かに位置をずらして配置された、キャリブレーション用の複数のマーカ画像を前記ディスプレイに表示し、前記VRゴーグルを装着した使用者が、前記360度VR空間に表示される前記複数のマーカ画像の重なりを視認して、右目用と左目用のマーカ画像が重なったところを見つけて静止状態が検知され、その静止状態が予め定められた条件を満たした場合、その状態で前記ディスプレイに表示された中央の前記複数のマーカ画像の一つをキャリブレーション設定用のマーカ画像に設定し、この設定されたキャリブレーション設定用のマーカ画像に基づいた瞳孔間距離のキャリブレーションデータを取得し、その後の再生時のキャビテーションデータとしてセットする。これによって、個人差がある瞳孔間距離の調整をソフト的に実現することができる。
【0016】
また、上述したキャリブレーションデータプログラムは、スマートフォンのアプリではなく、Webサーバにおいて実行されることが、細かい調整等やVRゴーグルや新たな端末装置に適用する迅速な対応を観点から好ましい。
【0017】
すなわち、ヘッドトラッキング機能を行うためのセンサ及びディスプレイとを備えた画像処理機能を備えた端末装置との双方向通信によって、その端末装置を操作する使用者の瞳孔間距離のキャリブレーションデータを得るために、瞳孔間のキャリブレーションプログラムを実行することで以下の処理を実行するWebサーバのコントローラを提供する。
【0018】
前記コントローラは、
(a)360度VR空間に右目用と左目用でそれぞれ僅かに位置をずらして配置された、キャリブレーション用の複数のマーカ画像を、前記ディスプレイに対して、右目用画像と左目用画像を表示する処理と、
(b)前記センサの移動検知信号に基づいて、前記右目用画像と左目用画像を前記ディスプレイに対して前記360度VR空間にスクロール表示する処理と、
(c)前記センサの移動検知信号に基づいて、前記画像処理装置の静止状態を検知し、前記静止状態が、予め設定された条件を満たしたか否かを判定する処理と、
(f)前記ディスプレイに表示される中央の前記複数のマーカ画像の一つをキャリブレーション設定用のマーカ画像に設定する処理と、
(g)前記設定されたキャリブレーション設定用のマーカ画像に基づいた瞳孔間距離のキャリブレーションデータをセットする処理と、
(h)前記キャリブレーションデータを、その後のVR動画再生時における、再生用の右目用画像と左目用画像の調整に用いるために、前記端末装置又は使用者のIDと関連付けて格納する処理。
【発明の効果】
【0019】
この発明によれば、右目用と左目用でそれぞれ僅かに位置をずらして配置された、キャリブレーション用の複数のマーカ画像を前記ディスプレイに表示し、前記ヘッドトラッキング機能によって頭部の360度回転方向への回転に応じて、使用者が、前記ディスプレイの中央に表示される前記マーカ画像の内、重なりがより明確になるマーカを探すと、その中央に配置された状態のマーカ画像が調整用のキャリブレーションデータとして設定され、その後のVR空間に表示される映像は、このキャリブレーションデータに基づいて、個人差や年齢により変化するような瞳孔間距離の調整をソフト的に実現することができる。
【図面の簡単な説明】
【0020】
【
図1】スマートフォンAをセットしヘッドマウントディプレイとして使用するための、従来品VRゴーグルBの視聴のための原理図である。
【
図2】NTTドコモ社から提供されるMO−01Jのスマートフォンを用いてVRゴーグルの人体の頭部に装着した場合の各種寸法比較した図であって、左右目用の表示ディスプレイの中央位置間距離h1と、レンズと液晶ディスプレイとの距離f1、VRゴーグルのレンズ間距離e1、目の間の距離gを示している。
【
図3】NTTドコモ社から提供されるGalaxy(登録商標)S7のスマートフォンを用いて、VRゴーグルの人体の頭部に装着した場合の各種寸法比較した図であって、左右目用の表示ディスプレイの中央位置間距離h1と、レンズと液晶ディスプレイとの距離f1、VRゴーグルのレンズ間距離e1、目の間の距離gを示している。
【
図4】(A)に示すのは、VRゴーグルの周りにキャリブレーション設定用のマーカ画像の複数が配置されている状態を示している概念図である。この(A)の複数のマーカ画像は、(B)の左目用のマーカ画像と、(C)の右目用マーカ画像が使用者の脳内で視差により立体視して認識された状態を示している。
【
図5】
図4に示した概念図を、2次元的に図示した概念図である。
【
図6】スマートフォンのディスプレイである液晶ディスプレイを示している。
【
図7】瞳孔間距離のキャリブレーションデータを得るために、WEB上のWEBサーバ1から前述した左右目用の複数のマーカ画像を端末であるスマートフォンAのディスプレイA1に表示するための概念図である。
【
図10】VRゴーグルごとに同じスマートフォンをセットした場合でも、左右中心間距離hが異なることを示す図である。
【発明を実施するための形態】
【0021】
(VRゴーグルを用いた瞳孔間距離のキャリブレーション概念)
図4(A)に示すのは、VRゴーグルの周りにキャリブレーション設定用のマーカ画像の複数が配置されている状態を示している概念図である。この(A)の複数のマーカ画像は、(B)の左目用のマーカ画像と、(C)の右目用マーカ画像が使用者の脳内で視差により立体視して認識された状態を示している。つまり、(A)のマーカ画像Mは、M1とM2が脳内で合成されて認識される仮想の現実画像である。
図5は、
図4を2次元で表示した状態を示したものであり、左右用のマーカ画像は、瞳孔間距離を割り出して、瞳孔間距離(IPD/Interpupillary distanceの略)のキャリブレーションを行うためのキャリブレーションデータを取得するために、左右のマーカ画像を脳内で重ねて視認する際に、個人差や年齢によって変化するIPDによって見え方、つまり、重なるマーカ画像が異なるように、前記複数のマーカ画像が左右で少しずつズレて視認されるように配置されている。このズレた左右目用のマーカ画像を視認しつつ、左右のマーカ画像が重なってはっきりと視認できるようになったところで、後述するスマートフォン内に内蔵されたタイマーで予め設定された時間の間、静止状態が継続されたことを検知すると、中央に表示されるマーカ画像(図の場合は、「0」のマーカ画像)が選択されたと検知し、この検知されたマーカ画像に対して予め用意された瞳孔間距離のキャリブレーションデータを、後のVR画像を表示するための基準データとして、VR映像コントローラが設定する。VR映像コントローラは、スマートフォンが内蔵するCPUを含むコントローラがその役割を担う場合も想定されるが、本実施形態のように、スマートフォンが通信回線を通じて接続されるサーバのコントローラがその役割を担うように構成することができる。後者の場合には、スマートフォンのディスプレイに表示される左右目用の複数のマーカ画像は、ブラウザー上で生成されて前記スマートフォンのディスプレイに対して表示される。
【0022】
左目用のマーカ画像が符号M1、右目用のマーカ画像が符号M2で表されており、両者を上位で符号Mで図に表している。「0」のマーカ画像は、M1とM2が完全に重なった状態であって、ズレが生じていない状態に表示される場合、両者が交互に表示されているような表示形態を採用している。これは、M1とM2が色などで異なった表示形態として表示するようにした場合、使用者が完全に重なっているのか、優先されて表示されるマーカMのみが表示されているのかが判定できないような恐れを解消するために、交互に左右用のマーカ画像M1とM2が表示されるように構成しているのである。
【0023】
図6に示すのは、スマートフォンのディスプレイであって、幅方向の液晶サイズをH、長さ方向の液晶サイズをV、左目用の複数のマーカ画像を表示する左目用画像をLD、左目用の複数のマーカ画像を表示する左目用画像をRDとし、左右目画像の中心間距離h等の
図1と同様の意味を示す符号は
図1と同一の符号を用いている。
【0024】
(システム概念図)
図7に示すのが、本発明の瞳孔間距離のキャリブレーションデータを得るために、WEB上のWEBサーバ1から前述した左右目用の複数のマーカ画像を端末であるスマートフォンAのディスプレイA1に表示するための概念図である。
この図において、端末機器としてのスマートフォンAよりQRコード及びURLをリクエストし、インターネット2を経由してWebサーバーへアクセス。
Webサーバ1より、HTML形式で端末機器Aのブラウザに、端末機器Aのメモリに格納されるようなアプリケーションを介さず、IPDキャリブレーションデータを得るための前述した複数のマーカ画像、及び、瞳孔間距離のキャリブレーションデータを得て、そのキャリブレーションデータを用いてキャリブレーションデータを実行した360度VR動画を直接表示する。
【0025】
前記端末機器としては、スマートフォンに限らず、タブレット端末など、本実施形態に示すように、使用者に対して左右用のキャリブレーションデータを得るための操作に使用可能なものであれば本発明を適用できるのは勿論である。
【0026】
(処理フロー)
図8及び
図9は、画面の変遷によって示す処理フローである。
(A)スマートフォンなどの端末装置Aを用いて、QRコード及びURLを介して、Webサーバー1へアクセス。
図8(A)において、ディスプレイA1に表示するのは、スマートフォンのカメラ機能を用いて撮影されたQRコードである。
(B)Webサーバ1よりHTMLで端末機器AのディスプレイA1によって、端末装置AのブラウザにTOP画面(後述する
図8(B)の選択画面)を表示。動画及びIPDキャリブレーションの選択ボタンでIPDを選択。この選択画面によって、使用者は、VR動画を視聴するか、キャリブレーションデータを得るための処理を行うかを選択できる。VR動画を視聴する場合には、使用者の識別情報の入力データを得ることで、Webサーバ1内のデータベースに予め格納された当該使用者のキャリブレーションデータに基づいた調整後のVR動画を視聴することが可能となる。
(C)IPDキャリブレーション画面に移動。画面上にウィザードで操作方法を表示。所謂、操作案内画面を表示する。
(D)IPDキャリブレーション画面−1:スマートフォン選択(端末情報を読み込んで機種を自動選択するが、適切な機種が選択されない場合は画面のインチサイズ情報をマニュアルで入力する)
(E)IPDキャリブレーション画面−2:ゴーグル選択(予め用意したゴーグルデータベースより、使用するゴーグルを選択。使用するゴーグルの該当機種が無い場合はカスタム画面にてマニュアル調整を行う)このゴーグルデータベースは、Webサーバのデータベースに備わっている。
図10には、同じスマートフォンとしての端末装置AをVRゴーグルにセットしても、ディスプレイA1における左右目用の画像の中心間距離hが異なることを示しているが、このように同じ端末装置A1であっても中心間距離hが異なるので、これを事前に設定できる工程を経ることで、より使用者に合致した瞳孔間距離のキャリブレーションデータを実行することができるようになる。
(F)IPDキャリブレーション画面−3:オブジェクト選択画面に移動、360度空間に左目用・右目用に配置されたオブジェクトより、最もズレの少ないオブジェクトを選択。選択方法は様々であろうが、本発明の場合には、前述した従来の汎用品であるVRゴーグルにスマートフォンを設け、このスマートフォンを備えたVRゴーグルを人体の頭部に装着して使用され、スマートフォンAに一般的に備わっているジャイロ機能を有するセンサと、時間の経過を検知することが可能なタイマーとして計時装置を用いて、複数のマーカ画像が鮮明に表示されているマーカ画像を、頭部の回転によって中央に持ってきて、その状態を保持(計時装置である所定の時間の経過を測定することで静止したと判定するとともに、使用者が選択したと判定する)することで、中央位置に配置されているマーカ画像に基づいてキャリブレーションデータを得るようにしている。より詳しくは、以下の(G)で説明する。
(G)IPDキャリブレーション画面−3:左右一致しているオブジェクト(左右のマーカ画像が重なった状態の画像、左右目のマーカ画像が重なった状態であるが、視認されるのはマーカ画像となる)を画面A1中心で一定時間注視(視点操作)することで瞳孔間距離を割り出し、自分に合ったIPDキャリブレーションデータを取得するのである。瞳孔間距離を数値として割り出すようにして、その後のVR動画の再生に用いた方が、キャリブレーションデータとして汎用性があるが、ある特定のVR動画の良好に視聴するだけの場合には、数値としてのキャリブレーションデータを得ることなく、前記画面A1の中央で一定時間注視したマーカ画像(上記オブジェクト)に対するキャリブレーションの処理を完了したVR再生画像を用意しておき、そのVR動画を再生するように構成することもできる。
(H)IPDキャリブレーション画面−4:IPDキャリブレーション完了画面で、左右の画像が一致していることを確認し、問題が無ければ「OK」を選択して動画選択画面へ移動。ズレていた場合は再度キャリブレーション画面に戻り選択操作を行う。
【0027】
この処理は、本実施形態のように、一定時間注視で操作させ、且つ、その注視対象が多数存在ずるような場合には好適な処理となる。つまり、瞳孔間距離のキャリブレーションデータを細かく設定しようとすると、少しずつズレた前記マーカ画像Mを左右用の画像LDとRDに対して、前記マーカ画像M1・・・M1,M2・・・M2でのM1とM1との距離及びM2とM2間の距離をより短い距離にした画像を用意することになる。この場合、キャリブレーションデータを得ようとする使用者が、画面A1の中央位置に注視した操作を行ったつもりが、他のマーカ画像に注視したと、キャリブレーションデータを得る役割を担う前記コントローラが判定してしまう恐れがある。このような問題を解消するために、(H)の工程は好適となるのである。
(I)IPDキャリブレーション完了後、動画選択画面へ
以上のような処理フローを実行することによって、次のような特徴のある発明を実行できる。
【0028】
すなわち、人体のヘッド部に装着されて使用されるVRゴーグルに設けられ、ヘッドトラッキング機能を行うためのセンサ及びディスプレイとを備えた画像処理装置で、個人差のある瞳孔間距離のキャリブレーションを実行する瞳孔間のキャリブレーションプログラムであって、
360度VR空間に右目用と左目用でそれぞれ僅かに位置をずらして配置された、キャリブレーション用の複数のマーカ画像を、前記ディスプレイに対して、右目用画像と左目用画像を表示する画像表示手段と、
前記センサの移動検知信号に基づいて、前記右目用画像と左目用画像を前記ディスプレイに対して前記360度VR空間にスクロール表示する実行するスクロール表示手段と、
前記センサの移動検知信号に基づいて、前記画像処理装置の静止状態を検知し、前記静止状態が、予め設定された条件(注視時間)を満たした場合に、前記ディスプレイに表示される中央の前記複数のマーカ画像の一つをキャリブレーション設定用のマーカ画像に設定し、この設定されたキャリブレーション設定用のマーカ画像に基づいた瞳孔間距離のキャリブレーションデータをセットするキャリブレーションデータの設定手段と、
前記画像表示手段は、
前記キャリブレーションデータの設定手段の設定後に、その設定されたキャリブレーションデータに基づいた、再生用の右目用画像と左目用画像を前記ディスプレイに表示ことを特徴とするキャリブレーションプログラム。
【0029】
ここで
図8と
図9で前記キャリブレーションプログラムのフローを示しているが、処理ステップとして、前記画像表示手段→スクロール表示手段→キャリブレーションデータの設定手段の処理を経て、前記キャリブレーションデータの設定手段によって設定された設定値を、動画再生の場合に使用して動画再生を実行するようにしている。
【0030】
また、サーバとしては次のような発明を本実施例では含んでいる。すなわち、ヘッドトラッキング機能を行うためのセンサ及びディスプレイとを備え、且つ、画像処理機能を具備した端末装置との双方向通信によって、その端末装置を操作する使用者の瞳孔間距離のキャリブレーションデータを得るために、瞳孔間のキャリブレーションプログラムを実行するWebサーバのコントローラであって、
前記コントローラは、以下の処理を実行する。
(a)360度VR空間に右目用と左目用でそれぞれ僅かに位置をずらして配置された、キャリブレーション用の複数のマーカ画像を、前記ディスプレイに対して、右目用画像と左目用画像を表示する処理と、
(b)前記センサの移動検知信号に基づいて、前記右目用画像と左目用画像を前記ディスプレイに対して前記360度VR空間にスクロール表示する処理と、
(c)前記センサの移動検知信号に基づいて、前記画像処理装置の静止状態を検知し、前記静止状態が、予め設定された条件を満たしたか否かを判定する処理と、
(f)前記ディスプレイに表示される中央の前記複数のマーカ画像の一つをキャリブレーション設定用のマーカ画像に設定する処理と、
(g)前記設定されたキャリブレーション設定用のマーカ画像に基づいた瞳孔間距離のキャリブレーションデータをセットする処理と、
(h)前記キャリブレーションデータを、その後のVR動画再生時における、再生用の右目用画像と左目用画像の調整に用いるために、前記端末装置又は使用者のIDと関連付けて格納する処理。
以上、本発明の実施形態を説明したが、具体例を例示したに過ぎず、特に本発明を限定するものではなく、各手段等の具体的構成は、適宜設計変更可能である。また、本発明の実施形態に記載された効果は、本発明から生じる最も好適な効果を列挙したに過ぎず、本発明による効果は、本発明の実施形態に記載されたものに限定されるものではない。
【0031】
また、上述した詳細な説明では、本発明をより容易に理解できるように、特徴的部分を中心に説明した。本発明は、上述した詳細な説明に記載する実施形態に限定されず、その他の実施形態にも適用することができ、その適用範囲は多様である。また、本明細書において用いた用語及び語法は、本発明を的確に説明するために用いたものであり、本発明の解釈を制限するために用いたものではない。また、当業者であれば、本明細書に記載された発明の概念から、本発明の概念に含まれる他の構成、システム、方法等を推考することは容易であると思われる。従って、請求の範囲の記載は、本発明の技術的思想の範囲を逸脱しない範囲で均等な構成を含むものであるとみなされなければならない。また、要約書の目的は、特許庁及び一般的公共機関や、特許、法律用語又は専門用語に精通していない本技術分野に属する技術者等が本出願の技術的な内容及びその本質を簡易な調査で速やかに判定し得るようにするものである。従って、要約書は、請求の範囲の記載により評価されるべき発明の範囲を限定することを意図したものではない。また、本発明の目的及び本発明の特有の効果を十分に理解するために、すでに開示されている文献等を充分に参酌して解釈されることが望まれる。
【0032】
上述した詳細な説明は、コンピュータで実行される処理を含むものである。以上での説明及び表現は、当業者が最も効率的に理解することを目的として記載している。本明細書では、1の結果を導き出すために用いられる各処理は、自己矛盾がない処理として理解されるべきである。また、各処理では、電気的又は磁気的な信号の送受信、記録等が行われる。各処理における処理では、このような信号を、ビット、値、シンボル、文字、用語、数字等で表現しているが、これらは単に説明上便利であるために用いたものであることに留意する必要がある。また、各処理における処理は、人間の行動と共通する表現で記載される場合があるが、本明細書で説明する処理は、原則的に各種の装置により実行されるものである。また、各処理を行うために要求されるその他の構成は、以上の説明から自明になるものである。
【産業上の利用可能性】
【0033】
本発明は、個人差や年齢による変化が生じ得る瞳孔間距離のキャリブレーションをソフト的に実行し、その個人に合った左右目用の画像をディスプレイ上に表示することで、視差によって立体映像を人に視認させる際に生じるような、様々な弊害を低減することが可能となる。特に、スマートフォンのディスプレイやジャイロ機能を用いて簡易にVRを楽しむためのVRゴーグル用のキャリブレーションデータ取得プログラムとして好適なものとなり、産業上で利用できるものである。
【符号の説明】
【0034】
1・・・サーバ、LD・・・左目用画像、RD・・・右目用画像、Aスマートフォン、M・・・マーカ画像。