(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】
(24)【登録日】2024-04-02
(45)【発行日】2024-04-10
(54)【発明の名称】表示装置及び表示システム
(51)【国際特許分類】
G06F 3/01 20060101AFI20240403BHJP
【FI】
G06F3/01 510
(21)【出願番号】P 2021166422
(22)【出願日】2021-10-08
【審査請求日】2023-04-11
(73)【特許権者】
【識別番号】506386837
【氏名又は名称】株式会社日本ブレーン
(73)【特許権者】
【識別番号】521445801
【氏名又は名称】株式会社Goten
(74)【代理人】
【識別番号】110000338
【氏名又は名称】弁理士法人 HARAKENZO WORLD PATENT & TRADEMARK
(72)【発明者】
【氏名】小野寺 一孝
(72)【発明者】
【氏名】肥田木 康彦
(72)【発明者】
【氏名】伊藤 久裕
【審査官】▲高▼瀬 健太郎
(56)【参考文献】
【文献】特開2018-182570(JP,A)
【文献】特開2017-033299(JP,A)
【文献】国際公開第2020/049838(WO,A1)
【文献】特開2021-010101(JP,A)
【文献】特開2018-124907(JP,A)
(58)【調査した分野】(Int.Cl.,DB名)
G06F 3/01
(57)【特許請求の範囲】
【請求項1】
透過性を有する1又は複数の表示パネルを備え、
当該表示パネルから見て使用者とは反対側に位置する対象空間における1又は複数の
実オブジェクトと、前記表示パネルに表示された1又は複数の
表示用オブジェクトとを重畳して視認可能に
前記使用者に提示する頭部装着型の表示装置において、
前記使用者の視線によって特定される前記対象空間中の視認先座標を取得する座標取得部と、
前記座標取得部が取得する視認先座標が、所定の第1の時間幅において所定の変動幅に収まることを契機として、当該視認先座標を注目先座標として特定する特定部と、
前記注目先座標を、前記注目先座標に応じた座標情報に変換する変換部と、
前記使用者の視野に含まれる前記対象空間中の領域を表す画像上の位置であって前記座標情報に対応する位置に表示用オブジェクトを表示する表示部を備えた他の表示装置に対して、前記座標情報を出力する出力部と、
を備えている
ことを特徴とする表示装置。
【請求項2】
前記視認先座標に応じて定まる前記1又は複数の表示パネル上の位置にポインタを表示させ、
前記視認先座標が、前記所定の第1の時間幅よりも短い第2の時間幅において、所定の変動幅に収まることを契機として、使用者による注視が開始されたことを示す第1のオブジェクトを
、前記表示用オブジェクトとして前記1又は複数の表示パネル上に表示させる表示制御部を更に備えている
ことを特徴とする請求項1に記載の表示装置。
【請求項3】
前記表示制御部は、
前記視認先座標が、前記第2の時間幅を経過後にも、前記所定の変動幅に収まり続けた場合に、前記第1のオブジェクトの形状を変化させる
ことを特徴とする請求項2に記載の表示装置。
【請求項4】
前記第1のオブジェクトの形状は、前記視認先座標が前記所定の変動幅に収まっている時間の長さに応じた長さの弧を有する円弧状である
ことを特徴とする請求項2または3に記載の表示装置。
【請求項5】
第1の使用者が使用する第1の表示装置と第2の使用者が使用する第2の表示装置とを含む表示システムであって、
前記第1の表示装置は、
透過性を有する1又は複数の
第1の表示パネルを備え、
当該第1の表示パネルから見て前記第1の使用者とは反対側に位置する対象空間における1又は複数の
実オブジェクトと、前記
第1の表示パネルに表示された1又は複数の
表示用オブジェクトとを重畳して視認可能に
前記第1の使用者に提示する頭部装着型の表示部と、
前記第1の使用者の視線によって特定される前記対象空間中の視認先座標を取得する座標取得部と、
前記座標取得部が取得する視認先座標が、所定の第1の時間幅において所定の変動幅に収まることを契機として、当該視認先座標を注目先座標として特定する特定部と、
前記注目先座標を、前記注目先座標に応じた座標情報に変換する変換部と、
前記座標情報を出力する出力部と、
を備え、
前記第2の表示装置は、
前記
第1の使用者の視野に含まれる前記対象空間中の領域を表す画像情報を取得する画像取得部と、
前記第1の表示装置の前記出力部が出力す
る前記座標情報に対応する位置であって、前記画像情報が表す画像上の位置に
表示用オブジェクトを表示する表
示部と、を備えている
ことを特徴とする表示システム。
【請求項6】
請求項1に記載の表示装置としてコンピュータを機能させるためのプログラムであって、上記座標取得部、上記特定部、
上記変換部、及び上記出力部としてコンピュータを機能させるためのプログラム。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、表示装置及び表示システムに関する。
【背景技術】
【0002】
近年、透過型の表示パネルを備え、実在のオブジェクトと表示オブジェクトとを重畳して使用者に提示可能な頭部装着型の表示装置(HMD: Head-Mounted Display)が知られている(例えば特許文献1)。このような技術は、AR(Augmented Reality)又はMR(Mixed Reality)と呼ばれ、上記のような表示装置は、ARグラス、又はMRグラスなどと呼ばれることもある。
【0003】
また、このような表示装置の中には、使用者の視線方向の空間を画角とするカメラを搭載し、当該カメラにおいて撮像した撮像画像を他の装置において共有可能に構成されているものもある。
【先行技術文献】
【特許文献】
【0004】
【発明の概要】
【発明が解決しようとする課題】
【0005】
一般に、ある端末装置において撮像した画像を、他の装置との間で共有しつつ、当該画像中の位置を指し示すことができれば、単なる画像の共有以上の情報を共有することができる。例えば、ある端末装置がタッチパネルを備えている場合、当該ある端末装置において撮像した画像をタッチパネルに表示し、当該画像中のある位置をタッチによって特定することができる。そして、特定した位置情報を他の装置に送信し、当該他の装置で上記画像と共に、当該位置情報が示す位置を表示すれば、当該他の装置において、当該位置情報を共有することができる。
【0006】
一方、頭部装着型の端末装置の場合、表示パネルがユーザの目前に存在するため、タッチにより位置を特定することは難しい。このため、ユーザの視線方向を特定し、特定した視線方向に応じた位置情報を他の端末装置と共有することが考えられるが、ユーザの視線は、通常、視野中の様々な箇所に移動するため、他の装置のユーザが混乱しないように位置情報を共有することは容易ではない。
本発明の一態様は、上記の課題に鑑みてなされたものであり、その目的は、頭部装着型の端末装置を含む表示システムにおいて、視野中の位置情報を、ユーザの混乱を招来することなく共有することができる技術を実現することにある。
【課題を解決するための手段】
【0007】
上記の課題を解決するために、本発明の一態様に係る表示装置は、透過性を有する1又は複数の表示パネルを備え、対象空間における1又は複数のオブジェクトと、前記表示パネルに表示された1又は複数のオブジェクトとを重畳して視認可能に提示する頭部装着型の表示装置において、使用者の視線によって特定される前記対象空間中の視認先座標を取得する座標取得部と、前記座標取得部が取得する視認先座標が、所定の第1の時間幅において所定の変動幅に収まることを契機として、当該視認先座標を注目先座標として特定する特定部と、前記注目先座標、又は前記注目先座標に応じて定まる座標情報を出力する出力部と、を備えている。
【0008】
上記の課題を解決するために、本発明の一態様に係る表示装置は、透過性を有する1又は複数の表示パネルを備え、対象空間における1又は複数のオブジェクトと、前記表示パネルに表示された1又は複数のオブジェクトとを重畳して視認可能に提示する頭部装着型の表示装置において、他の装置において特定された注目先座標を取得する座標取得部と、前記座標取得部が取得した注目先座標に応じて定まる前記1又は複数の表示パネル上の位置にオブジェクトを表示させる表示制御部と、を備えている。
【0009】
上記の課題を解決するために、本発明の一態様に係る表示システムは、透過性を有する1又は複数の表示パネルを備え、対象空間における1又は複数のオブジェクトと、前記表示パネルに表示された1又は複数のオブジェクトとを重畳して視認可能に提示する頭部装着型の表示部と、使用者の視線によって特定される前記対象空間中の視認先座標を取得する座標取得部と、前記座標取得部が取得する視認先座標が、所定の第1の時間幅において所定の変動幅に収まることを契機として、当該視認先座標を注目先座標として特定する特定部と、前記注目先座標、又は前記注目先座標に応じて定まる座標情報を出力する出力部と、前記使用者の視野に含まれる前記対象空間中の領域を表す画像情報を取得する画像取得部と、前記出力部が出力する前記注目先座標又は前記座標情報に対応する位置であって、前記画像情報が表す画像上の位置にオブジェクトを表示する表示制御部と、を備えている。
【0010】
上記の課題を解決するために、本発明の一態様に係る表示システムは、透過性を有する1又は複数の表示パネルを備え、対象空間における1又は複数のオブジェクトと、前記表示パネルに表示された1又は複数のオブジェクトとを重畳して視認可能に提示する頭部装着型の第1の表示部と、前記第1の表示部の使用者とは異なる他の使用者に対して、前記第1の表示部の使用者の視野に含まれる前記対象空間中の領域を表す画像を表示する第2の表示部と、前記他の使用者による注目先を示す注目先座標であって、前記第2の表示部による表示画像上の注目先座標を取得する座標取得部と、前記座標取得部が取得した注目先座標に応じて定まる前記1又は複数の表示パネル上の位置にオブジェクトを表示させる表示制御部と、を備えている。
【発明の効果】
【0011】
本発明の一態様によれば、頭部装着型の端末装置を含む表示システムにおいて、視野中の位置情報を、ユーザの混乱を招来することなく共有することができる。
【図面の簡単な説明】
【0012】
【
図1】本発明の実施形態1に係る表示システムの要部構成を示すブロック図である。
【
図2】本発明の実施形態1に係る表示システムの概要を示す模式図である。
【
図3】本発明の実施形態1に係る表示装置に表示されるオブジェクトを、対象空間に存在するオブジェクトと共に示す図である。
【
図4】本発明の実施形態1に係るポインタの形状変化の例を示す図である。
【
図5】本発明の実施形態1に係る他の表示装置(情報処理装置)に表示される画面の一例である。
【
図6】本発明の実施形態1に係る表示システムによる第1の処理の流れを示すシーケンス図である。
【
図7】本発明の実施形態1に係る他のポインタ、及び当該他のポインタの形状変化の例を示す図である。
【
図8】本発明の実施形態1に係る他のポインタ、及び当該他のポインタの形状変化の例を示す図である。
【
図9】本発明の実施形態1に係る他の表示装置(情報処理装置)に表示される画面の一例である。
【
図10】本発明の実施形態1に係る表示装置に表示されるオブジェクトを、対象空間に存在するオブジェクトと共に示す図である。
【
図11】本発明の実施形態に係る表示システムによる第2の処理の流れを示すシーケンス図である。
【
図12】本発明の実施形態2に係る表示システムの要部構成を示すブロック図である。
【
図13】本発明の各実施形態に係る表示システムのハードウェア構成の一例を示す図である。
【発明を実施するための形態】
【0013】
〔実施形態1〕
以下、本発明の一実施形態について、図面を参照しながら詳細に説明する。
【0014】
<表示システムの概要>
まず、
図2を参照して、本実施形態に係る表示システム10の概要について説明する。
図2は、本実施形態に係る表示システム10の概要を示す模式図である。
図2に示すように、表示システム10は、頭部装着型の表示装置(端末装置)1と、情報処理装置30とを備えている。
【0015】
表示装置1は、
図2に示すように、透過性を有する表示パネル7を備え、対象空間における1又は複数の実オブジェクトと、前記表示パネルに表示された1又は複数の表示用オブジェクトとを重畳して視認可能に提示できるように構成されている。
【0016】
ここで、対象空間における1又は複数の実オブジェクトとは、例えば、対象空間である実空間に存在する物や人のことを指す。一方、表示パネルに表示された1又は複数の表示用オブジェクトとは、当該表示パネルに表示された画像や文字等の表示用データのことを指す。当該1又は複数の表示用オブジェクトには、後述するポインタや第1のオブジェクトが含まれる。
【0017】
一方、情報処理装置30は、
図2に示すように、表示パネル36を備えて構成されている。なお、
図2では、ラップトップ型のPC(Personal Computer)を情報処理装置30の例として挙げているが、これは本例示的実施形態を限定するものではない。例えば、情報処理装置30は、VR(Virtual Reality)ゴーグル等の頭部装着型の情報処理装置であってもよい。
【0018】
図2に示すように、表示システム10では、表示装置1と、情報処理装置30とがネットワークNを介して互いに通信可能に接続されている。ここで、ネットワークNの具体的構成は本実施形態を限定するものではないが、一例として、無線LAN(Local Area Network)、有線LAN、WAN(Wide Area Network)、公衆回線網、モバイルデータ通信網、又は、これらのネットワークの組み合わせを用いることができる。
【0019】
表示システム10では、一例として、頭部装着型の表示装置1において、
当該表示装置1を装着する使用者の視線によって特定される対象空間中の視認先座標を取得し、
当該視認先情報が所定の条件を満たすことを契機として、当該視認先座標を注目先座標として特定し、
前記注目先座標、又は前記注目先座標に応じて定まる座標情報を、情報処理装置30に出力する。
【0020】
そして、情報処理装置30において、
前記使用者の視野に含まれる前記対象空間中の領域を表す画像情報を取得し、
前記注目先座標又は前記座標情報に対応する位置であって、前記画像情報が表す画像上の位置にオブジェクトを表示する。
【0021】
ここで、上述した所定の条件としては、一例として、
・前記視認先座標が、所定の第1の時間幅において所定の変動幅に収まること
が挙げられるが、当該表現は本実施形態に記載の事項を限定するものではない。
【0022】
表示システム10は、上記の処理を行うことによって、表示装置1において特定した前記注目先座標又は前記座標情報を、情報処理装置30の使用者と共有することができる。また、上述の条件を採用することによって、表示装置1において特定した前記注目先座標又は前記座標情報を、情報処理装置30の使用者の混乱を招来することなく共有することができる。
【0023】
また、表示システム10では、他の例として、
情報処理装置30において、
頭部装着型の表示装置1の使用者の視野に含まれる対象空間中の領域を表す画像情報を取得し、
取得した画像情報が示す画像を表示し、
情報処理装置30の使用者による注目先を示す注目先座標であって、前記画像情報が示す表示画像上の注目先座標を取得し、
取得した注目先座標を表示装置1に提供し、
表示装置1において、
前記注目先座標を取得し、
取得した注目先座標に応じて定まる位置であって、表示パネル7上の位置にオブジェクトを表示させる。
【0024】
表示システム10は、上記の処理を行うことによって、情報処理装置30において特定した、情報処理装置30の使用者による注目座標であって、情報処理装置30の表示画面上の注目先座標を、表示装置1の使用者と共有することができる。
【0025】
このように、本実施形態に係る表示システム10によれば、頭部装着型の表示装置1において特定した注目先座標、又は、情報処理装置30において特定した注目先座標を使用者の混乱を招来することなく共有することができる。
【0026】
また、上記のように構成された本実施形態に係る表示システム10は、例えば以下のような状況に好適に適用することができる。
【0027】
(例1)
表示装置1を装着した医師と、情報処理装置30を使用する医師又はアドバイザとによる視野の共有、及び当該視野中の位置情報を共有することによる共同作業。
【0028】
(例2)
表示装置1を装着した作業者と、情報処理装置30を使用する監督者又はアドバイザとによる視野の共有、及び当該視野中の位置情報を共有することによる共同作業。
【0029】
<表示システムの詳細>
続いて、
図1を参照して、本実施形態に係る表示システム10の構成についてより詳細に説明する。
図1は、本実施形態に係る表示システム10の要部構成を示すブロック図である。
【0030】
(表示装置1の構成)
図1に示すように、表示システム10が備える表示装置1は、制御部2と、視線特定部3と、記憶部4と、通信部5と、カメラ6と、表示パネル7と、姿勢検知部8とを備えている。
図2を参照して説明したように、表示装置1は、一例として、使用者の頭部に装着される頭部装着型の表示装置である。
【0031】
(視線特定部)
視線特定部3は、表示装置1を装着する使用者の視線を特定する。更に、当該視線の先にある、使用者の視認先の座標を特定する。そして、当該使用者の視認先の座標を示す視認先情報を制御部2に供給する。
【0032】
視線特定部3の具体的な構成は本実施形態を限定するものではないが、一例として、
使用者の眼球を画角に含む画像を撮像する撮像装置、
前記撮像画像を参照して視線方向を算出する視線方向算出装置、
表示装置1から、視線方向の延長先に存在する対象空間(実空間)中のオブジェクトまでの距離を示す距離情報を取得する距離取得部
対象空間における表示装置1の姿勢を示す姿勢情報を取得する姿勢情報取得部、及び、
表示装置1の上記姿勢、上記視線方向、及び上記視線方向の先に存在するオブジェクトまでの距離から、上記視認先の座標を算出する視認先座標算出部を更に備える構成とすることができる。
【0033】
ここで、上記姿勢情報は、一例として表示装置1のロール、ピッチ、及びヨーを示すパラメータを用いて表現され得るがこれは本実施形態を限定するものではない。また、上記姿勢情報取得部は、表示装置1の姿勢情報に加えて、対象空間における表示装置1の並進位置(X、Y、Z)を示す位置情報を更に取得することが好ましい。この場合、視認先情報算出部は、上記並進位置を更に参照して、上記視認先の座標を算出する。
【0034】
なお、視線特定部3が特定する視認先情報は、一例として、対象空間における視認先の並進位置(x、y、z)を用いて表現することができるが、これは本実施形態を限定するものではない。例えば、視認先情報は、表示装置1の並進位置(X、Y、Z)、表示装置1の姿勢情報、使用者の視線方向、及び視線方向の先に存在するオブジェクトまでの距離の組として表現してもよいし、他の表現の仕方を採用してもよい。
【0035】
なお、視線特定部3は、上述したオブジェクトまでの距離、姿勢、及び並進位置を計測する計測部を備え、当該計測部からこれらの情報を取得する構成としてもよいし、後述するカメラ6から距離を取得し、姿勢検知部8から姿勢及び並進位置を取得する構成としてもよい。
【0036】
(記憶部)
記憶部4には、制御部2が参照する各種のデータが格納されている。一例として、記憶部4には、制御部2が備える各部が実行する各種のプログラム、及びこれらのプログラムによって参照される各種のデータが格納されている。
【0037】
(通信部)
通信部5は、表示装置1の外部の装置と通信を行う。一例として通信部5は、表示システム10が備える情報処理装置30と通信を行う。通信部5は、制御部2から供給されたデータを情報処理装置30に送信したり、情報処理装置30から受信したデータを制御部2に供給したりする。
【0038】
一例として、通信部5は、後述する特定部21が特定した注目先座標、又は当該注目先座標に応じて定まる座標情報を、情報処理装置30に対して送信する。また、一例として、通信部5は、情報処理装置30の使用者による注目先を示す注目先座標を受信し、受信した注目先座標を制御部2に供給する。
【0039】
なお、表示装置1と、情報処理装置30との通信は、一例として、上述したネットワークNを介して行われる。なお、ネットワークNには、図示しない1又は複数のサーバ装置が更に接続されている構成としてもよい。そして、表示装置1が送信したデータに対して当該サーバ装置が加工や変換などの処理を施し、当該処理後のデータを情報処理装置30に供給する構成としてもよい。同様に、情報処理装置30が送信したデータに対して当該サーバ装置が加工や変換などの処理を施し、当該処理後のデータを表示装置1に供給する構成としてもよい。
【0040】
(カメラ)
カメラ6は、表示装置1の周辺の対象空間を撮像する。カメラ6が撮像する画像は動画像である。換言すれば、カメラ6は、複数の画像を所定の時間間隔で逐次的に撮像する。一例として、カメラ6は、RGB画像を撮像するRGB画像撮像部を備え、当該RGB画像撮像部で撮像したRGB画像を示すRGB画像情報を、制御部2に供給する。カメラ6は、使用者の視線方向(より具体的には使用者の眼球の動きに応じて変化する視線方向の範囲)を画角に含むよう、表示装置1の筐体に対して向き付けられて固定されている。
【0041】
また、カメラ6は、ステレオカメラを更に備え、画角内のオブジェクトまでの距離を示す距離情報を逐次的に更に出力する構成としてもよいし、LiDAR(Light Detecting And Ranging)センサを更に備え、当該LiDARセンサによってセンシング範囲内を測距した結果を示す距離情報を逐次的に更に出力する構成としてもよい。
【0042】
(表示パネル)
表示パネル7は、透過性を有する表示パネルである。表示パネル7は、透過性を有しているため、対象空間中のオブジェクトから発せられる光又は対象空間中のオブジェクトによって反射される光を透過し、使用者の眼球まで届けることができる。また、表示パネル7は、一例として、透過性を有する液晶パネルや透過性を有する有機ELパネルによって構成することができる。そして、これらのパネルの任意の位置に表示用のオブジェクトを表示させることができる。
【0043】
したがって、表示パネル7を備えることにより、表示装置1は、対象空間における1又は複数のオブジェクト(実オブジェクト)と、当該表示パネル7に表示された1又は複数のオブジェクト(表示用オブジェクト)とを重畳して、使用者に視認可能に提示する。
【0044】
例えば、表示パネル7は、表示用オブジェクトとしての後述するポインタを、対象空間における1又は複数の実オブジェクトに重畳して表示することができる。
【0045】
また、表示パネル7が表示する1又は複数のオブジェクトの、表示パネル7上での位置は、固定的に設定されてもよいし、動的に設定されてもよい。後者の場合、表示パネル7は、後述する姿勢検知部8から表示装置1の姿勢情報を逐次的に取得し、当該姿勢情報を参照して表示用オブジェクトの表示位置を決定する構成とすることができる。例えば、上記姿勢情報が、表示装置1が右方向に回転することを示している場合には、表示パネル7上で、当該方向とは反対方向に表示用オブジェクトを移動させる。これにより、あたかも、当該表示用オブジェクトが、対象空間中の実オブジェクト上に留まっているかのような視覚的効果を使用者に提供することができる。
【0046】
また、表示パネル7は、対象空間中の実オブジェクトまでの距離を示す距離情報を逐次的に取得し、当該距離情報に応じて、表示用オブジェクトの大きさを変更する構成としてもよい。例えば、上記距離情報が、使用者が対象空間中の実オブジェクトに近づいていることを示している場合、表示パネル7は、表示用オブジェクトの大きさを徐々に大きくしながら表示してもよい。これにより、あたかも、当該表示用オブジェクトが、対象空間中の実オブジェクトと共に、手前に近づいているかのような視覚的効果を使用者に提供することができる。
【0047】
なお、上述した表示用オブジェクトの表示位置や大きさの制御は、表示パネル7自体が行ってもよいし、制御部2が備える表示制御部24が行ってもよい。
【0048】
また、表示パネル7は、1枚の表示パネルによって構成されていてもよいし、複数の表示パネルによって構成されていてもよい。一例として、表示パネル7は、右目用の表示パネルと左目用の表示パネルとによって構成されていてもよい。
【0049】
(姿勢検知部)
姿勢検知部8は、表示装置1の姿勢を検知し、検知した姿勢を示す姿勢情報を制御部2に供給する。姿勢検知部8は、一例として、ジャイロセンサ(角速度センサ)及び加速度センサの少なくとも何れかを備える構成とすることができるが、これは本実施形態を限定するものではない。
【0050】
また、姿勢検知部8は、対象空間中における表示装置1の並進位置((X、Y、Z)を更に検出し、当該並進位置を示す位置情報を制御部2に更に供給する構成としてもよい。
【0051】
(制御部)
図1に示すように、制御部2は、座標取得部20、特定部21、変換部22、出力部23、表示制御部24、画像取得部25を備えている。
【0052】
(座標取得部)
座標取得部20は、使用者の視線によって特定される対象空間中の視認先座標を取得する。一例として、座標取得部20は、上述した視線特定部3が特定した視認先座標を取得する。ここで、座標取得部20が取得する視認先座標は、一例として上述した視認先の3次元並進位置(x、y、z)であるがこれは本実施形態を限定するものではない。
【0053】
また、座標取得部20は、情報処理装置30において特定された注目先座標であって、情報処理装置30の使用者による注目先を示す注目先座標を取得してもよい。
【0054】
(特定部)
特定部21は、座標取得部20が取得する視認先座標が、所定の第1の時間幅において所定の変動幅に収まることを契機として、当該視認先座標を注目先座標として特定する。ここで、上記第1の時間幅の具体的な値は本実施形態を限定するものではないが、例えば1~5秒程度の範囲で適宜設定可能である。また、上記所定の変動幅の設定の仕方は本実施形態を限定するものではないが、一例として、使用者の眼球を始点とした視線の変動角を用いて表現することができる。例えば、上記所定の変動幅は、視線の変動角が任意の方向に3度以内となるような変動幅としてもよいし、視線の変動角が任意の方向に5度以内となるような変動幅としてもよいし、その他の変動角の範囲に対応する変動幅としてもよい。
【0055】
なお、座標取得部20が取得した視認先情報が視認先の3次元並進位置(x、y、z)によって表現される場合、特定部21が特定する注目先座標も3次元並進位置として表される。
【0056】
(変換部)
変換部22は、特定部21が特定した視認先情報を、表示パネル7上の2次元座標情報に変換する。
【0057】
変換部22は、一例として、使用者の眼球から上記視認先情報が示す視認先まで延びる直線(視線)と、表示パネル7との交点の位置を、当該表示パネル7上の2次元座標として特定し、特定した2次元座標を出力する構成とすることがでる。
【0058】
ここで、当該2次元座標情報は、表示パネル7を構成する画素の位置として表現してもよい。例えば、2次元座標情報は、表示パネル7における基準点(例えば表示パネル7の左上の点)から見て、横方向に何画素、縦方向に何画素といった画素位置で表現してもよい。
【0059】
(出力部)
出力部23は、前記注目先座標、又は前記注目先座標に応じて定まる前記2次元座標情報を出力する。出力部23が出力した前記注目先座標、又は前記2次元座標情報は、通信部5を介して情報処理装置30に送信される。
【0060】
(表示制御部)
表示制御部24は、上述した座標取得部20が取得した視認先座標に応じて定まる表示パネル7上の位置にポインタを表示させる。ここで、表示制御部24は、一例として、表示パネル7上の当該位置を、使用者の眼球から視認先情報が示す視認先まで延びる直線(視線)と、表示パネル7との交点の位置として特定する。
【0061】
表示制御部24が表示させるポインタの形状は本実施形態を限定するものではないが、一例として、点状のポインタであってもよいし、菱形形状のポインタであってもよいし、他の形状であってもよい。
【0062】
また、表示制御部24は、視認先座標が、前記所定の第1の時間幅よりも短い第2の時間幅において、所定の変動幅に収まることを契機として、使用者による注視が開始されたことを示す第1のオブジェクトを表示パネル7上に表示させる。ここで、上記第2の時間幅の具体的な値は本実施形態を限定するものではないが、例えば、0.5~1秒程度の範囲で適宜設定可能である。
【0063】
また、表示制御部24は、視認先座標が、前記第2の時間幅を経過後にも、前記所定の変動幅に収まり続けた場合に、前記第1のオブジェクトの形状を変化させる。後述する
図4に示すように、一例として、前記第1のオブジェクトの形状は、前記視認先座標が前記所定の変動幅に収まっている時間の長さに応じた長さの弧を有する円弧状または円状であってもよい。
【0064】
また、表示制御部24は、座標取得部20が取得した、情報処理装置30の使用者による注目先を示す注目先座標が示す位置に、表示用オブジェクトとしてのポインタを表示させる構成としてもよい。
【0065】
(画像取得部)
画像取得部25は、カメラ6による撮像画像(一例としてRGB画像)を取得し、取得した撮像画像を、制御部2が備える出力部23に提供する。出力部23は、当該撮像画像を、通信部5を介して情報処理装置30に供給する。
【0066】
以上のように、表示装置1は、透過性を有する1又は複数の表示パネル7を備え、対象空間における1又は複数の実オブジェクトと、前記表示パネル7に表示された1又は複数の表示オブジェクトとを重畳して視認可能に提示する頭部装着型の表示装置である。
【0067】
そして、表示装置1は、上述のように、
使用者の視線によって特定される前記対象空間中の視認先座標を取得する座標取得部20と、
座標取得部20が取得する視認先座標が、所定の第1の時間幅において所定の変動幅に収まることを契機として、当該視認先座標を注目先座標として特定する特定部21と、
前記注目先座標、又は前記注目先座標に応じて定まる座標情報を出力する出力部23と、を備えている。
【0068】
そして、出力部23が出力する前記注目先座標、又は前記座標情報は、他の装置(一例として情報処理装置30)に送信され、情報処理装置30において共有される。
【0069】
上記のように構成された表示装置1によれば、上記視認先座標が、所定の第1の時間幅において所定の変動幅に収まることを契機として、当該視認先座標を注目先座標として特定し、前記注目先座標、又は前記注目先座標に応じて定まる座標情報を他の装置と共有することができる。
【0070】
一般に、人間の視線にはふらつきがあるため、視認先情報を他の装置でリアルタイムで共有しようとしても、当該他の装置の使用者を混乱させてしまう可能性がある。上記のように構成された表示装置1によれば、上記視認先座標が、所定の第1の時間幅において所定の変動幅に収まることを契機として、当該視認先座標を注目先座標として特定し、前記注目先座標、又は前記注目先座標に応じて定まる座標情報を他の装置と共有するので、当該表示装置1の使用者の視野中の位置情報を、他の装置の使用者の混乱を招来することなく共有することができる。
【0071】
また、以上のように、表示装置1は、
他の装置(情報処理装置30)において特定された注目先座標を取得する座標取得部20と、
座標取得部20が取得した注目先座標に応じて定まる表示パネル7上の位置にオブジェクトを表示させる表示制御部と、を備えている。
【0072】
上記のように構成された表示装置1によれば、他の装置で特定された注目先座標に応じた定まる位置にオブジェクトを表示させるので、当該他の装置で特定された注目先座標を、表示装置1において共有することができる。
【0073】
(情報処理装置30の構成)
続いて、
図1を参照して情報処理装置30の構成例について説明する。
図1に示すように、情報処理装置30は、制御部31と、記憶部38と、操作受付部39と、通信部37と、表示パネル36とを備えている。情報処理装置30は、一例として、例えば使用者が操作可能なコンピュータである。
【0074】
(記憶部)
記憶部38には、制御部31が参照する各種のデータが格納されている。一例として、記憶部38には、制御部31が備える各部が実行する各種のプログラム、及びこれらのプログラムによって参照される各種のデータが格納されている。
【0075】
(通信部)
通信部37は、情報処理装置30の外部の装置と通信を行う。一例として通信部37は、表示システム10が備える表示装置1と通信を行う。通信部37は、制御部31から供給されたデータを表示装置1に送信したり、表示装置1から受信したデータを制御部31に供給したりする。
【0076】
一例として、通信部37は、後述する特定部33が特定した注目先座標を表示装置1に対して送信する。また、一例として、通信部37は、表示装置1の使用者による注目先を示す注目先座標、又は、当該注目先座標に応じて定まる2次元座標情報を受信し、受信した注目先座標を制御部31に供給する。
【0077】
なお、情報処理装置30と、表示装置1との通信は、一例として、上述したネットワークNを介して行われる。ここで、ネットワークNの構成については上述したため説明を省略する。
【0078】
(操作受付部)
操作受付部39は、情報処理装置30の使用者による操作を受け付ける。操作受付部39は、一例として、キーボード、マウス、タッチパッド、又はマイク等を備えて構成される。操作受付部39は、一例として、マウスによる操作又はタッチパネルによるタッチ操作を介して、情報処理装置30の使用者の注目先を示す注目先座標(注目先情報)を取得する。
【0079】
(表示パネル)
表示パネル36は、各種の表示用データを表示する。ここで、表示パネル36は、一例として、液晶パネルや有機ELパネルによって構成することができる。これらの液晶パネルや有機ELパネルは非透過型のパネルであってもよい。
【0080】
表示パネル36は、一例として、表示装置1のカメラ6が撮像したRGB画像であって通信部37を介して受信したRGB画像を表示する。また、表示パネル36は、表示装置1から取得した2次元座標情報(又は表示装置1から取得した注目先座標に応じて定まる2次元座標情報)に応じた表示パネル36上の位置に、前記RGB画像に重畳して、ポインタを表示させる。
【0081】
ここで、表示パネル36が表示する当該ポインタは、表示装置1の表示パネル7が表示するポインタと同じポインタであってもよいし、異なるポインタであってもよい。後者の場合、表示パネル36が表示するポインタは、表示パネル7が表示するポインタとは、形状、大きさ、及び色の少なくとも何れかが異なったポインタである。
【0082】
また、表示パネル36は、情報処理装置30の使用者の操作に応じた位置に、当該情報処理装置30の使用者による注目先を示すポインタを表示させることもできる。例えば、操作受付部39が取得した注目先座標が示す表示パネル36上の位置に、情報処理装置30の使用者による注目先を示すポインタを表示させる。
【0083】
なお、上述したポインタの表示位置や大きさの制御は、表示パネル36自体が行ってもよいし、制御部31が備える表示制御部35が行ってもよい。
【0084】
(制御部)
図1に示すように、制御部31は、座標取得部32と、特定部33と、出力部34と、表示制御部35とを備えている。
【0085】
(座標取得部)
座標取得部32は、各種の座標情報を取得する。例えば、座標取得部32は、通信部37を介して、表示装置1から、表示装置1の使用者の注目先座標、又は当該注目先座標に応じて定まる座標情報を取得する。また、座標取得部32は、操作受付部39を介して、情報処理装置30の使用者の注目先を示す注目先座標(注目先情報)を取得してもよい。 座標取得部32が取得した座標情報は、一例として表示制御部35に供給され、表示パネル36に表示するポインタ等の表示用オブジェクトの表示位置として用いられる。
【0086】
出力部34は、座標取得部32が取得した、情報処理装置30の使用者の注目先を示す注目先座標(注目先情報)を出力する。一例として、当該注目先座標は、通信部37を介して表示装置1に送信され、表示パネル7に表示されるオブジェクトの位置情報として用いられる。
【0087】
(特定部)
特定部33は、情報処理装置30の使用者の注目先を、操作受付部39が取得した注目先座標(注目先情報)に基づいて特定する。
【0088】
(表示制御部)
表示制御部35は、表示装置1から取得した2次元座標情報(又は表示装置1から取得した注目先座標に応じて定まる2次元座標情報)に応じた表示パネル36上の位置に、前記RGB画像に重畳して、ポインタを表示させる。また、表示制御部35は、情報処理装置30の使用者の操作に応じた位置に、当該情報処理装置30の使用者による注目先を示すポインタを表示させることもできる。
【0089】
(出力部)
出力部34は、操作受付部39が取得した注目先座標(注目先情報)を出力する。出力部34が出力した注目先座標は、通信部37を介して表示装置1に送信される。
【0090】
以上説明したように、本実施形態に係る表示システム10は、
透過性を有する1又は複数の表示パネル7を備え、対象空間における1又は複数のオブジェクトと、前記表示パネル7に表示された1又は複数のオブジェクトとを重畳して視認可能に提示する頭部装着型の表示部(表示装置1)と、
前記表示部の使用者の視線によって特定される前記対象空間中の視認先座標を取得する座標取得部20と、
前記座標取得部20が取得する視認先座標が、所定の第1の時間幅において所定の変動幅に収まることを契機として、当該視認先座標を注目先座標として特定する特定部21と、
前記注目先座標、又は前記注目先座標に応じて定まる座標情報を出力する出力部23と、
前記使用者の視野に含まれる前記対象空間中の領域を表す画像情報を取得する画像取得部25(制御部31)と、
前記出力部23が出力する前記注目先座標又は前記座標情報に対応する位置であって、前記画像情報が表す画像上の位置にオブジェクトを表示する表示制御部(24、35)と、を備えている。
【0091】
また、本実施形態に係る表示システム10は、以上説明したように、
透過性を有する1又は複数の表示パネル7を備え、対象空間における1又は複数のオブジェクトと、前記表示パネル7に表示された1又は複数のオブジェクトとを重畳して視認可能に提示する頭部装着型の第1の表示部(表示装置1)と、
前記第1の表示部の使用者とは異なる他の使用者(情報処理装置30の使用者)に対して、前記第1の表示部の使用者の視野に含まれる前記対象空間中の領域を表す画像を表示する第2の表示部(表示パネル36)と、
前記他の使用者による注目先を示す注目先座標であって、前記第2の表示部による表示画像上の注目先座標を取得する座標取得部(20、32)と、
前記座標取得部(20、32)が取得した注目先座標に応じて定まる前記1又は複数の表示パネル7上の位置にオブジェクトを表示させる表示制御部35と、を備えている。
【0092】
以上のように構成された表示システム10によれば、頭部装着型の端末装置1を含む表示システム10において、視野中の位置情報を、ユーザの混乱を招来することなく共有することができる。
【0093】
(表示システムによる表示処理例)
以下では、
図3~
図11を参照しながら表示システム10における表示処理例を説明する。以下の例では、表示システム10を、表示装置1を装着した医師と、情報処理装置30を使用する医師又はアドバイザとによる視野の共有、及び当該視野中の位置情報を共有することによる共同作業に適用した場合を例に説明する。
【0094】
(表示システムの表示処理例1)
まず、
図3~
図8を参照しながら表示システム10における第1の表示処理例を説明する。
図3は、本実施形態に係る表示装置1に表示される表示用オブジェクトである第1のオブジェクトを、対象空間に存在する実オブジェクトと共に示す図である。
図4は、表示装置1が表示する第1のオブジェクトの形状変化を示す図である。
図5は、情報処理装置30の備える表示パネル36が表示する画像の例を示す図である。
図6は、第1の表示処理例の流れを示すシーケンス図である。
【0095】
(ステップS11)
図6に示すように、ステップS11において、座標取得部20は、表示装置1を装着した医師の視線によって特定される対象空間中の視認先座標を取得する。表示パネル7は、当該視認先座標が示す表示パネル7上の位置に、ポインタを表示させる。
【0096】
(ステップS12)
そして、ステップS12において、特定部21は、座標取得部20が取得する視認先座標が、所定の第1の時間幅、一例として例えば5秒間において所定の変動幅に収まることを契機として、当該視認先座標を注目先座標として特定する。特定された注目先座標、又は当該注目先座標に応じて定まる2次元座標情報は、情報処理装置30に送信される。
【0097】
ステップS12において、更に、表示制御部24は、当該視認先座標が、前記所定の第1の時間幅よりも短い第2の時間幅において、所定の変動幅に収まることを契機として、使用者による注視が開始されたことを示す第1のオブジェクト40を表示パネル7上に表示させる。
【0098】
また、表示制御部24は、視認先座標が、前記第2の時間幅を経過後にも、前記所定の変動幅に収まり続けた場合に、前記第1のオブジェクト40の形状を変化させる。
【0099】
図4は、時間の経過に応じた、第1のオブジェクト40の形状変化を示す図である。
図4に示すように、一例として、前記第1のオブジェクト40の形状は、前記視認先座標が前記所定の変動幅に収まっている時間の長さに応じた長さの弧を有する円弧状または円状である。
【0100】
図3は、最終的な形状である円形状を有する第1のオブジェクトを、対象空間に存在する実オブジェクトと共に示す図である。
【0101】
(ステップS21)
一方、情報処理装置30は、ステップS12において送信された前記注目先座標、又は前記2次元座標情報を取得し、当該注目先座標に対応する表示パネル36上の位置に表示用オブジェクトとしてのポインタを表示させる。
【0102】
図5は、情報処理装置30の備える表示パネル36が表示する画像の例を示す図である。
図5に示すように、表示パネル36は、表示装置1が撮像した撮像画像に重畳して、ステップS12において送信された注目先座標に対応する表示パネル36上の位置にポインタ41を表示させる。
【0103】
(切替ボタン)
なお、表示装置1の表示制御部24は、
図3に示すように、表示用オブジェクトとして、切替ボタン60を表示する構成としてもよい。この場合、使用者が一定の時間、切替ボタン60に視線を留めると、制御部2は、以下の2つのモードの一方から他方へと切り替えを行う。
【0104】
第1のモード:特定部21が、座標取得部20が取得する視認先座標が、所定の第1の時間幅において所定の変動幅に収まることを契機として、当該視認先座標を注目先座標として特定するモード。
【0105】
第2のモード:特定部が上記注目先座標を特定しないモード。
【0106】
ここで、第1のモードでは、表示制御部24は、当該視認先座標が、前記所定の第1の時間幅よりも短い第2の時間幅において、所定の変動幅に収まることを契機として、使用者による注視が開始されたことを示す第1のオブジェクト40を表示パネル7上に表示させる。また、第1のモードでは、表示制御部24は、視認先座標が、前記第2の時間幅を経過後にも、前記所定の変動幅に収まり続けた場合に、前記第1のオブジェクト40の形状を変化させる。
【0107】
すなわち、現在状態が第2のモードであった場合に、一定の時間、使用者が切替ボタン60に視線を留めると、第1のモードに切り替わり、注目先座標を特定するモードとなり、上述の条件が満たされれば第1のオブジェクトが表示される。
【0108】
一方、現在状態が第1のモードであった場合に、一定の時間、使用者が切替ボタン60に視線を留めると、第2のモードに切り替わり、注目先座標を特定しないモードとなり、上述の条件が満たされたとしても第1のオブジェクトが表示されない。
【0109】
このように、表示制御部24が切替ボタン60を備えることによって、使用者の利便性が向上する。
【0110】
(第1のオブジェクトの他の例)
図7は、上述した第1のオブジェクト40の他の例を示す図である。
図7に示すように、第1のオブジェクト40は、四角形状であってもよい。この場合、
図7に示すように、前記第1のオブジェクト40の形状は、前記視認先座標が前記所定の変動幅に収まっている時間の長さに応じた辺の数を有する枠状、又は四角形状である。
【0111】
図8は、上述した第1のオブジェクト40の更なる他の例を示す図である。
図8に示すように、第1のオブジェクト40は、三角形状であってもよい。この場合、
図8に示すように、前記第1のオブジェクト40の形状は、前記視認先座標が前記所定の変動幅に収まっている時間の長さに応じた辺の数を有する枠状、又は三角形状である。
【0112】
(表示システムの表示処理例2)
続いて、
図9~
図11を参照しながら表示システム10における第2の表示処理例を説明する。
図9は、情報処理装置30による表示例を示す図である。
図10は、表示装置1
に表示される表示用オブジェクトであるポインタを、対象空間に存在する実オブジェクトと共に示す図である。
図11は、第2の表示処理例の流れを示すシーケンス図である。
【0113】
(ステップS31)
まず、ステップS31において、情報処理装置30の特定部33は、情報処理装置30の使用者の注目先を、操作受付部39が取得した注目先座標(注目先情報)に基づいて特定する。
【0114】
そして、情報処理装置30の表示制御部35は、特定された注目先座標に応じた、表示パネル36上の位置に、ポインタを表示させる。
図9は、本ステップにおいて、表示制御部35が表示させるポインタ50を示す図である。
図9に示すように、ポインタ50は、一例として、表示装置1のカメラ6によって撮像された撮像画像に重畳して表示される。
【0115】
(ステップS32)
続いて、ステップS32において、情報処理装置30の出力部34は、操作受付部39が取得した注目先座標(注目先情報)を出力する。出力部34が出力した注目先座標は、通信部37を介して表示装置1に送信される。
【0116】
(ステップS41)
続いて、ステップS41において、表示装置1の座標取得部20は、ステップS32において出力された注目先座標(注目先情報)を取得する。この注目先座標は、情報処理装置30の使用者による注目先を示す座標情報である。
【0117】
(ステップS42)
続いて、ステップS42において、表示装置1の表示制御部24は、ステップS41において取得した注目先座標に対応する表示パネル7上の位置に、ポインタを表示させる。
図10は、本ステップにおいて、表示制御部24が表示させるポインタ51を示す図である。
図10に示すように、ポインタ51は、一例として、表示装置1のカメラ6によって撮像された撮像画像に重畳して表示される。
【0118】
(実施形態1の付記事項1)
上記の説明では、表示装置1が、各時点において、注目先座標を0個または1個特定する構成を例に挙げたが、これは本実施形態を限定するものではない。表示装置1は、時点において、複数の注目先座標を特定可能に構成してもよい。例えば、表示装置1は、第1の注目先座標を特定した後、当該注目先座標を保持しつつ、第2の注目先座標を特定する構成としてもよい。
【0119】
また、表示装置1の制御部2は、複数の注目先座標を参照した各種の処理を実行する構成としてもよい。例えば、制御部2は、第1の注目先座標と第2の注目先座標との間の距離を算出し、算出した距離を表示パネル7に表示する構成としてもよい。
【0120】
(実施形態1の付記事項2)
また、上記の説明では、表示システム10が、1台の表示装置1と1台の情報処理装置30を備える構成について例を挙げたが、これは本実施形態を限定するものではない。表示システム10は、複数台の表示装置1と複数台の情報処理装置30とを備える構成としてもよい。
【0121】
このような構成の場合、ある情報処理装置30において、複数の表示装置1の各々から注目先座標を取得した場合、情報処理装置30は、互いに異なる色又は形状のポインタを表示する構成とすればよい。
【0122】
また、ある表示装置1において、複数の情報処理装置30の各々から注目先座標を取得した場合、表示装置1は、互いに異なる色又は形状のポインタを表示する構成とすればよい。
【0123】
上記の構成によれば、異なる装置に対応するポインタの色や形状が異なっているので、使用者は混乱なく、これらのポインタを参照することができる。
【0124】
〔実施形態2〕
本発明の他の実施形態について、以下に説明する。なお、説明の便宜上、上記実施形態にて説明した部材と同じ機能を有する部材については、同じ符号を付記し、その説明を繰り返さない。
【0125】
実施形態1において、頭部装着型の表示装置(端末装置)1と、情報処理装置30とを備えている表示システム10を説明したが、表示システムはさらに他の装置を備えてもよい。
【0126】
本実施形態では、表示システム10aが頭部装着型の表示装置(端末装置)1と、情報処理装置30とに加え、サーバ装置9および検査装置11をさらに備える構成例について説明する。以下実施形態1と異なる点を重点的に説明する。
【0127】
図12は、本実施形態に係る表示システム10aの要部構成を示すブロック図である。
図12に示すように、表示システム10aは、表示装置1、情報処理装置30、サーバ装置9、及び検査装置11を備えている。
【0128】
また、
図12に示すように、サーバ装置9は、ネットワークNを介して表示装置1及び情報処理装置30と通信可能に接続されている。また、検査装置11は、表示装置1と通信可能に構成されている。ここで、検査装置11と表示装置1との接続態様は本実施形態を限定するものではなく、無線接続であってもよいし、有線接続であってもよい。
【0129】
(検査装置)
表示システム10aが医療現場に用いられる場合、検査装置11は、一例として、患者の血圧、脈拍、又は呼吸数等のバイタルデータを取得する検査装置であり得る。また、表示システム10aが作業現場に用いられる場合、検査装置11は、対象物に関する各種のセンシングデータを取得する検査装置であり得る。検査装置11は、取得した各種のデータを、表示装置1に送信する。
【0130】
(サーバ装置)
サーバ装置9は、表示装置1から取得した各種のデータに対して加工や変換などの処理を施し、当該処理後のデータを情報処理装置30に供給する。また、サーバ装置9は、情報処理装置30から取得した各種のデータに対して加工や変換などの処理を施し、当該処理後のデータを表示装置1に供給する構成としてもよい。
【0131】
また、サーバ装置9は、表示装置1が備える各部の処理の一部又は全部を行うよう構成されていてもよい。一例として、サーバ装置9は、表示装置1が備える変換部22の一部又は全部の機能を実行可能に構成されていてもよい。
【0132】
より具体的には、サーバ装置9は、表示装置1から取得した、当該表示装置1の使用者による注目先を示す注目先座標に対して変換処理を施すことによって、2次元座標情報を導出し。導出した2次元座標情報を、情報処理装置30に供給する構成としてもよい。
【0133】
また、表示システム10aが医療現場に用いられる場合、サーバ装置9は、患者のカルテ情報、各種の撮像データ(レントゲン画像、MRI画像等)、各種の検査データ(血液検査結果、心電図結果等)を取得し、記憶しておく構成とすることができる。
【0134】
また、サーバ装置9は、図示しない表示装置1の音声取得部(マイク)を介して取得した使用者の音声データを受信する構成としてもよい。同様に、図示しない情報処理装置30の音声取得部(マイク)を介して取得した使用者の音声データを受信する構成としてもよい。
【0135】
上記の構成の場合、サーバ装置9は、上記音声データを文字データに変換し、返還後の文字データを議事録として記憶する構成としてもよい。
【0136】
また、上記の構成の場合、サーバ装置9は、表示装置1から取得した音声データを翻訳する翻訳部を更に備え、翻訳後の音声データ又は文字データを、情報処理装置30に供給する構成としてもよい。翻訳後のデータは情報処理装置30において、当該情報処理装置30の使用者に提示される。
【0137】
同様に、サーバ装置9は、情報処理装置30から取得した音声データを翻訳部で翻訳し、翻訳後の音声データ又は文字データを、表示装置1に供給する構成としてもよい。翻訳後のデータは表示装置1において、当該表示装置1の使用者に提示される。
【0138】
また、サーバ装置9は、表示装置1の使用者又は情報処理装置30の使用者による手書きのメモやマーキングなどのデータを、表示装置1、情報処理装置30又は他の装置から取得し、記憶しておく構成としてもよい。
【0139】
また、サーバ装置9は、表示装置1が撮像した1又は複数の画像を取得し、取得した画像を、上述した使用者によるメモやマーキングなどのデータに関連付けて記憶する構成としてもよい。
【0140】
サーバ装置9は、記憶された各種のデータを、表示装置1又は情報処理装置30からのリクエストに応じて、表示装置1又は情報処理装置30に提供することができる。
【0141】
(表示装置)
上記のように構成された検査装置及びサーバ装置を含む表示システム10aにおいて、表示装置1の表示制御部24は、検査装置11又はサーバ装置9から取得した各種のデータを、表示用オブジェクトとして表示パネル7に表示することが可能である。
【0142】
例えば、患者の手術中に、表示パネル7に当該患者のバイタルデータを表示したり、当該患者の過去の検査データを表示したりすれば、表示装置1を装着する医師は、これらの有用なデータを好適に参照しつつ、手術を行うことができる。
【0143】
また、サーバ装置9が上述した翻訳部を備える構成の場合、表示装置1の表示制御部24は、翻訳後の文字データを表示パネル7に表示する構成としてもよい。
【0144】
また、上述したように、サーバ装置9が撮像画像を保存する構成の場合、表示装置1は、表示パネル7に、表示用オブジェクトとして「録画開始ボタン」や「スナップショットボタン」を表示し、当該ボタンに使用者の視線が一定時間留まった場合に、カメラ6が撮像する画像の録画の開始やスナップショットの取得を行う構成としてもよい。この場合、録画された撮像画像やスナップショットは、サーバ装置9に送信される。
【0145】
また、表示装置1は、表示装置1を装着する使用者による現在又は過去における注目先を示す注目先座標をマーキングデータとしてサーバ装置9に送信してもよい。また、情報処理装置30は、情報処理装置30の使用者による現在又は過去における注目先を示す注目先座標をマーキングデータとしてサーバ装置9に送信してもよい。この場合、サーバ装置9は、当該マーキングデータと、上記録画された撮像画像やスナップショットとを関連付けて記憶する。
【0146】
このような構成を採用することにより、表示システム10aは、過去の撮像画像を、注目先座標を示すマーキングデータと共に提示することができるので、使用者によるスキルアップや改善点特定等に役立てることができる。
【0147】
〔ソフトウェアによる実現例〕
表示装置1および情報処理装置30の制御ブロック(特に、座標取得部(20、32)、特定部(21、33)、変換部22、出力部(23、34)、および表示制御部(24、35))は、集積回路(ICチップ)等に形成された論理回路(ハードウェア)によって実現してもよいし、ソフトウェアによって実現してもよい。後者の場合、表示装置1および情報処理装置30の各々は、例えば、コンピュータ(電子計算機)を用いて構成される。
【0148】
(情報処理装置30の物理的構成)
図13は、表示装置1および情報処理装置30として用いられるコンピュータの物理的構成を例示したブロック図である。情報処理装置30は、
図13に示すように、バス110と、プロセッサ101と、主メモリ102と、補助メモリ103と、通信インタフェース104と、入力装置106と、出力装置107とを備えたコンピュータによって構成可能である。プロセッサ101、主メモリ102、補助メモリ103、および通信インタフェース104、入力装置106と、出力装置107は、バス110を介して互いに接続されている。
【0149】
プロセッサ101としては、例えば、CPU(Central Processing Unit)、マイクロプロセッサ、デジタルシグナルプロセッサ、マイクロコントローラ、またはこれらの組み合わせ等が用いられる。主メモリ102としては、例えば、半導体RAM(random access memory)等が用いられる。
【0150】
補助メモリ103としては、例えば、フラッシュメモリ、HDD(Hard Disk Drive)、SSD(Solid State Drive)、またはこれらの組み合わせ等が用いられる。補助メモリ103には、上述した情報処理装置30の動作をプロセッサ101に実行させるためのプログラムが格納されている。プロセッサ101は、補助メモリ103に格納されたプログラムを主メモリ102上に展開し、展開したプログラムに含まれる各命令を実行する。
【0151】
通信インタフェース104は、ネットワークN1に接続するインタフェースである。
【0152】
この例で、プロセッサ101および通信インタフェース104は、座標取得部(32)、特定部(33)、出力部(34)、表示制御部(35)および通信部(37)を実現するハードウェア要素の一例である。また、主メモリ102および補助メモリ103は、記憶部(38)を実現するハードウェア要素の一例である。
【0153】
入力装置106としては、例えば、キーボード、マウス、タッチパッド、マイク、又はこれらの組み合わせ等が用いられる。出力装置107としては、例えば、ディスプレイ、プリンタ、スピーカ、又はこれらの組み合わせが用いられる。
【0154】
(表示装置1の物理的構成)
表示装置1は、
図13に示すように、バス210と、プロセッサ201と、主メモリ202と、補助メモリ203と、通信インタフェース204と、入力装置206と、出力装置207とを備えたコンピュータによって構成可能である。プロセッサ201、主メモリ202、補助メモリ203、通信インタフェース204、入力装置206および出力装置207は、バス210を介して互いに接続されている。
【0155】
プロセッサ201としては、例えば、CPU、マイクロプロセッサ、デジタルシグナルプロセッサ、マイクロコントローラ、またはこれらの組み合わせ等が用いられる。
【0156】
主メモリ202としては、例えば、半導体RAM等が用いられる。
【0157】
補助メモリ203としては、例えば、フラッシュメモリ、HDD、SSD、またはこれらの組み合わせ等が用いられる。補助メモリ203には、当該コンピュータを表示装置1として動作させるためのプログラムが格納されている。プロセッサ201は、補助メモリ203に格納されたプログラムを主メモリ202上に展開し、展開したプログラムに含まれる各命令を実行する。また、補助メモリ203には、当該コンピュータを表示装置1として動作させるためにプロセッサ201が参照する各種データが格納されている。
【0158】
通信インタフェース204は、ネットワークN1に接続するインタフェースである。
【0159】
入力装置206としては、例えば、キーボード、マウス、タッチパッド、マイク、又はこれらの組み合わせ等が用いられる。出力装置207としては、例えば、ディスプレイ、プリンタ、スピーカ、又はこれらの組み合わせが用いられる。
【0160】
この例で、プロセッサ201および通信インタフェース204は、制御部(2)を実現するハードウェア要素の一例である。また、主メモリ202および補助メモリ203は、記憶部(4)を実現するハードウェア要素の一例である。
【0161】
なお、上述した各プログラムは、補助メモリ103、および203にそれぞれ記憶される代わりに、外部記録媒体に記録され、外部記録媒体から読み込まれることにより該当するコンピュータに供給されてもよい。外部記録媒体としては、コンピュータ読み取り可能な「一時的でない有形の媒体」、例えば、テープ、ディスク、カード、半導体メモリ、プログラマブル論理回路等を用いることができる。また、上述した各プログラムは、伝送可能な任意の伝送媒体(通信ネットワークや放送波等)を介してコンピュータに供給されてもよい。また、本発明の一態様は、各プログラムが電子的な伝送によって具現化された、搬送波に埋め込まれたデータ信号の形態でも実現され得る。
【0162】
また、上記各制御ブロックの機能の一部または全部は、論理回路により実現することも可能である。例えば、上記各制御ブロックとして機能する論理回路が形成された集積回路も本発明の範疇に含まれる。この他にも、例えば量子コンピュータにより上記各制御ブロックの機能を実現することも可能である。
【0163】
また、上記各実施形態で説明した各処理は、AI(Artificial Intelligence:人工知能)に実行させてもよい。この場合、AIは上記制御装置で動作するものであってもよいし、他の装置(例えばエッジコンピュータまたはクラウドサーバ等)で動作するものであってもよい。
【0164】
〔付記事項〕
(付記1)
本発明の態様1に係る表示装置は、透過性を有する1又は複数の表示パネルを備え、対象空間における1又は複数のオブジェクトと、前記表示パネルに表示された1又は複数のオブジェクトとを重畳して視認可能に提示する頭部装着型の表示装置において、使用者の視線によって特定される前記対象空間中の視認先座標を取得する座標取得部と、前記座標取得部が取得する視認先座標が、所定の第1の時間幅において所定の変動幅に収まることを契機として、当該視認先座標を注目先座標として特定する特定部と、前記注目先座標、又は前記注目先座標に応じて定まる座標情報を出力する出力部と、を備えている。
【0165】
(付記2)
本発明の態様2に係る表示装置は、上記態様1において、前記視認先座標に応じて定まる前記1又は複数の表示パネル上の位置にポインタを表示させ、前記視認先座標が、前記所定の第1の時間幅よりも短い第2の時間幅において、所定の変動幅に収まることを契機として、使用者による注視が開始されたことを示す第1のオブジェクトを前記1又は複数の表示パネル上に表示させる表示制御部を更に備えていてもよい。
【0166】
(付記3)
本発明の態様3に係る表示装置は、上記態様2において、前記表示制御部は、前記視認先座標が、前記第2の時間幅を経過後にも、前記所定の変動幅に収まり続けた場合に、前記第1のオブジェクトの形状を変化させてもよい。
【0167】
(付記4)
本発明の態様4に係る表示装置は、上記態様2または3において、前記第1のオブジェクトの形状は、前記視認先座標が前記所定の変動幅に収まっている時間の長さに応じた長さの弧を有する円弧状であってもよい。
【0168】
(付記5)
本発明の態様5に係る表示装置は、上記態様1から3の何れかにおいて、前記注目先座標を、前記座標情報に変換する変換部を更に備えていてもよい。
【0169】
(付記6)
本発明の態様6に係る表示装置は、透過性を有する1又は複数の表示パネルを備え、対象空間における1又は複数のオブジェクトと、前記表示パネルに表示された1又は複数のオブジェクトとを重畳して視認可能に提示する頭部装着型の表示装置において、他の装置において特定された注目先座標を取得する座標取得部と、前記座標取得部が取得した注目先座標に応じて定まる前記1又は複数の表示パネル上の位置にオブジェクトを表示させる表示制御部と、を備えている。
【0170】
(付記7)
本発明の態様7に係る表示システムは、透過性を有する1又は複数の表示パネルを備え、対象空間における1又は複数のオブジェクトと、前記表示パネルに表示された1又は複数のオブジェクトとを重畳して視認可能に提示する頭部装着型の表示部と、使用者の視線によって特定される前記対象空間中の視認先座標を取得する座標取得部と、前記座標取得部が取得する視認先座標が、所定の第1の時間幅において所定の変動幅に収まることを契機として、当該視認先座標を注目先座標として特定する特定部と、前記注目先座標、又は前記注目先座標に応じて定まる座標情報を出力する出力部と、前記使用者の視野に含まれる前記対象空間中の領域を表す画像情報を取得する画像取得部と、前記出力部が出力する前記注目先座標又は前記座標情報に対応する位置であって、前記画像情報が表す画像上の位置にオブジェクトを表示する表示制御部と、を備えている。
【0171】
(付記8)
本発明の態様8に係る表示システムは、透過性を有する1又は複数の表示パネルを備え、対象空間における1又は複数のオブジェクトと、前記表示パネルに表示された1又は複数のオブジェクトとを重畳して視認可能に提示する頭部装着型の第1の表示部と、前記第1の表示部の使用者とは異なる他の使用者に対して、前記第1の表示部の使用者の視野に含まれる前記対象空間中の領域を表す画像を表示する第2の表示部と、前記他の使用者による注目先を示す注目先座標であって、前記第2の表示部による表示画像上の注目先座標を取得する座標取得部と、前記座標取得部が取得した注目先座標に応じて定まる前記1又は複数の表示パネル上の位置にオブジェクトを表示させる表示制御部と、を備えている。
【0172】
本発明は上述した各実施形態に限定されるものではなく、請求項に示した範囲で種々の変更が可能であり、異なる実施形態にそれぞれ開示された技術的手段を適宜組み合わせて得られる実施形態についても本発明の技術的範囲に含まれる。
【符号の説明】
【0173】
1 表示装置
2、31 制御部
3 視線特定部
4、38 記憶部
5、37 通信部
6 カメラ
7、36 表示パネル
8 姿勢検知部
9 サーバ装置
10、10a 表示システム
11 検査装置
20、32 座標取得部
21、33 特定部
22 変換部
23、34 出力部
24、35 表示制御部
25 画像取得部
30 情報処理装置