ホーム > 特許ランキング > ミラマ サービス インク
知財求人 - 知財ポータルサイト「IP Force」
特開2017-191546医療用ヘッドマウントディスプレイ、医療用ヘッドマウントディスプレイのプログラムおよび医療用ヘッドマウントディスプレイの制御方法
(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公開特許公報(A)
(11)【公開番号】特開2017-191546(P2017-191546A)
(43)【公開日】2017年10月19日
(54)【発明の名称】医療用ヘッドマウントディスプレイ、医療用ヘッドマウントディスプレイのプログラムおよび医療用ヘッドマウントディスプレイの制御方法
(51)【国際特許分類】
G06F 3/01 20060101AFI20170922BHJP
G02C 11/00 20060101ALI20170922BHJP
G02B 27/02 20060101ALI20170922BHJP
G02B 27/22 20060101ALI20170922BHJP
A61B 90/30 20160101ALI20170922BHJP
H04N 5/64 20060101ALI20170922BHJP
H04N 13/04 20060101ALI20170922BHJP
H04N 13/02 20060101ALI20170922BHJP
H04N 13/00 20060101ALI20170922BHJP
【ＦＩ】
G06F3/01 570
G02C11/00
G02B27/02 Z
G02B27/22
A61B90/30
H04N5/64 511A
H04N13/04 400
H04N13/02 780
H04N13/00 550
【審査請求】未請求
【請求項の数】9
【出願形態】ＯＬ
【全頁数】28
(21)【出願番号】特願2016-81890(P2016-81890)
(22)【出願日】2016年4月15日
(71)【出願人】
【識別番号】517065688
【氏名又は名称】ミラマ サービス インク
(74)【代理人】
【識別番号】110000844
【氏名又は名称】特許業務法人 クレイア特許事務所
(72)【発明者】
【氏名】杉本 礼彦
(72)【発明者】
【氏名】越智 隆弘
(72)【発明者】
【氏名】小牟田 清
(72)【発明者】
【氏名】種村 匡弘
(72)【発明者】
【氏名】川口 真嗣
【テーマコード（参考）】
2H006
2H199
5C061
5E555
【Ｆターム（参考）】
2H006CA00
2H199BA03
2H199BA06
2H199BA08
2H199BA09
2H199BA17
2H199BA49
2H199CA02
2H199CA92
2H199CA94
2H199CA97
5C061AA01
5C061AB20
5E555AA12
5E555AA27
5E555BA22
5E555BB22
5E555BC01
5E555BC13
5E555BE16
5E555CA42
5E555CA44
5E555CB66
5E555CC01
5E555CC24
5E555CC25
5E555CC27
5E555DA08
5E555DA09
5E555DA11
5E555DA31
5E555DB03
5E555DB53
5E555DB56
5E555DB57
5E555DC13
5E555DC24
5E555DC26
5E555DC27
5E555DC43
5E555DC73
5E555EA22
5E555FA00
(57)【要約】
【課題】本発明の主な目的は、自由に医療機器の操作または情報を得ることができる医療用ヘッドマウントディスプレイ、医療用ヘッドマウントディスプレイのプログラムおよび医療用ヘッドマウントディスプレイの制御方法を提供することである。【解決手段】本発明に係る医療用ヘッドマウントディスプレイ１００は、立体視像を生成可能な半透過ディスプレイ２２０と、手Ｈ１までの距離を測定する赤外線検知ユニット４１０と、機器９０１，〜，９１１と通信を行う通信ユニット３００と、赤外線検知ユニット４１０により測定された手Ｈ１の動作に応じて半透過ディスプレイ２２０の表示を制御する制御ユニット４５０と、を含む。
【選択図】図２４
【特許請求の範囲】
【請求項1】
立体視像を生成可能な表示装置と、
手までの距離を測定する深度センサと、
機器と通信を行う通信部と、
前記深度センサにより測定された前記手の動作に応じて前記表示装置の表示を制御する制御部と、を含み、
前記制御部は、前記深度センサにより測定された前記手の動作に応じて前記通信部から機器に操作情報を送信し、前記機器の動作を制御する、医療用ヘッドマウントディスプレイ。
手までの距離を測定する深度センサと、
機器と通信を行う通信部と、
前記深度センサにより測定された前記手の動作に応じて前記表示装置の表示を制御する制御部と、を含み、
前記制御部は、前記深度センサにより測定された前記手の動作に応じて前記通信部から機器に操作情報を送信し、前記機器の動作を制御する、医療用ヘッドマウントディスプレイ。
【請求項2】
前記機器は、手術用照明器具であり、
前記制御部は、前記手の動作に応じて前記手術用照明器具の照度、方向、および焦点の大小を制御する、請求項１記載の医療用ヘッドマウントディスプレイ。
前記制御部は、前記手の動作に応じて前記手術用照明器具の照度、方向、および焦点の大小を制御する、請求項１記載の医療用ヘッドマウントディスプレイ。
【請求項3】
外部記録装置をさらに含み、
前記制御部は、前記深度センサにより測定された前記手の動作に応じて前記外部記録装置に記録された３次元モデルを前記表示装置に表示し、前記手の動作に応じて、前記三次元モデルの拡大縮小、回転および断面表示を行う、請求項１または２記載の医療用ヘッドマウントディスプレイ。
前記制御部は、前記深度センサにより測定された前記手の動作に応じて前記外部記録装置に記録された３次元モデルを前記表示装置に表示し、前記手の動作に応じて、前記三次元モデルの拡大縮小、回転および断面表示を行う、請求項１または２記載の医療用ヘッドマウントディスプレイ。
【請求項4】
前記通信部は、生体情報モニタ装置と通信可能であり、
前記制御部は、前記生体情報モニタ装置からの生体情報を前記表示装置に表示する、請求項１乃至３のいずれか１項に記載の医療用ヘッドマウントディスプレイ。
前記制御部は、前記生体情報モニタ装置からの生体情報を前記表示装置に表示する、請求項１乃至３のいずれか１項に記載の医療用ヘッドマウントディスプレイ。
【請求項5】
前記通信部は、ＭＲＩ、エコー装置、超音波診断装置、超音波血流測定装置、レントゲン装置、神経機能検査装置、色素希釈心拍出量装置、誘発電位検査装置、およびパルスオキシメータの少なくとも一つと通信可能であり、
前記制御部は、前記ＭＲＩ、前記エコー装置、前記超音波診断装置、前記超音波血流測定装置、前記レントゲン装置、前記神経機能検査装置、前記色素希釈心拍出量装置、前記誘発電位検査装置、および前記パルスオキシメータの少なくとも一つからの情報を前記表示装置に表示する、請求項１乃至４のいずれか１項に記載の医療用ヘッドマウントディスプレイ。
前記制御部は、前記ＭＲＩ、前記エコー装置、前記超音波診断装置、前記超音波血流測定装置、前記レントゲン装置、前記神経機能検査装置、前記色素希釈心拍出量装置、前記誘発電位検査装置、および前記パルスオキシメータの少なくとも一つからの情報を前記表示装置に表示する、請求項１乃至４のいずれか１項に記載の医療用ヘッドマウントディスプレイ。
【請求項6】
前記制御部は、前記表示装置に表示された動画の早送り、一時停止、巻き戻しを表示させる、請求項１乃至５のいずれか１項に記載の医療用ヘッドマウントディスプレイ。
【請求項7】
撮像装置をさらに含み、
前記制御部は、前記通信部を介して前記撮像装置により撮像された情報を外部記録部または外部モニタへ送信する、請求項１乃至６のいずれか１項に記載の医療用ヘッドマウントディスプレイ。
前記制御部は、前記通信部を介して前記撮像装置により撮像された情報を外部記録部または外部モニタへ送信する、請求項１乃至６のいずれか１項に記載の医療用ヘッドマウントディスプレイ。
【請求項8】
立体視像を生成可能な表示処理と、
手までの距離を測定する深度センサ処理と、
機器と通信を行う通信処理と、
前記深度センサ処理により測定された前記手の動作に応じて前記表示処理の表示を制御する制御処理と、を含み、
前記制御処理は、前記深度センサ処理により測定された前記手の動作に応じて前記通信処理から機器に操作情報が送信され、前記機器の動作が制御される、医療用ヘッドマウントディスプレイのプログラム。
手までの距離を測定する深度センサ処理と、
機器と通信を行う通信処理と、
前記深度センサ処理により測定された前記手の動作に応じて前記表示処理の表示を制御する制御処理と、を含み、
前記制御処理は、前記深度センサ処理により測定された前記手の動作に応じて前記通信処理から機器に操作情報が送信され、前記機器の動作が制御される、医療用ヘッドマウントディスプレイのプログラム。
【請求項9】
立体視像を生成可能な表示工程と、
手までの距離を測定する深度センサ工程と、
機器と通信を行う通信工程と、
前記深度センサ工程により測定された前記手の動作に応じて前記表示工程の表示を制御する制御工程と、を含み、
前記制御工程は、前記深度センサ工程により測定された前記手の動作に応じて前記通信工程から機器に操作情報が送信され、前記機器の動作が制御される、医療用ヘッドマウントディスプレイの制御方法。
手までの距離を測定する深度センサ工程と、
機器と通信を行う通信工程と、
前記深度センサ工程により測定された前記手の動作に応じて前記表示工程の表示を制御する制御工程と、を含み、
前記制御工程は、前記深度センサ工程により測定された前記手の動作に応じて前記通信工程から機器に操作情報が送信され、前記機器の動作が制御される、医療用ヘッドマウントディスプレイの制御方法。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、医療用ヘッドマウントディスプレイ、医療用ヘッドマウントディスプレイのプログラムおよび医療用ヘッドマウントディスプレイの制御方法に関する。
【背景技術】
【0002】
従来から、電子眼鏡および電子眼鏡の制御方法について種々開発研究されている。例えば、特許文献１（特開２００８−３１０２７５号公報）には、デジタルビデオムービー、デジタルカメラ、携帯電話の機能を搭載したデジタル眼鏡システムについて開示されている。
【0003】
また、特許文献２（特開２００７−３２８０７１号公報）には、一見して従来の眼鏡と形状が変わらず、さらに利用時に切り換え操作が不要である弱視者用眼鏡について開示されている。特許文献２記載の弱視者用眼鏡は、フレーム部に固定され、当該フレーム部装着時に装着者の顔前に位置する矯正レンズと、フレーム部又は矯正レンズに設けられ、顔前方向を近接撮影可能な撮像カメラと、撮像カメラより得られた撮像を映像出力する液晶表示部と、液晶表示部に着設された非球面拡大レンズと、を備えたものである。
【0004】
また、特許文献３（特開２０１０−５５０３８号公報）には、従来の眼鏡型ディスプレイに比べ違和感がない、弱視者への視力を補う機器について開示されている。特許文献３記載のサングラス型デジタル眼鏡システムは、使用する人の目の先に置いて映像を表示する小型の電子ディスプレイ、この電子ディスプレイに表示される映像を見る人の目の網膜に拡大して表示する光学装置、この電子ディスプレイと光学装置を取付けるサングラス、電子ディスプレイに映像を取り込むカメラ及びその映像制御装置から構成され、このシステムを利用する人が、使用する場所、好み、目的などに応じたデザイン性のあるサングラスの眼鏡フレームに、電子ディスプレイ及び光学装置を着脱式で簡単に取付けることが出来るものである。
【0005】
また、特許文献４（特開平９−１９２１６４号公報）には、一対の矯正レンズと、少なくとも一対のＴＶカメラと、眼前に提示される液晶ディスプレイと、一対のＴＶカメラにより撮影されたステレオ画像を一時的に保存するフレームバッファメモリと、該フレームバッファメモリに保存されたステレオ画像を三次元画像解析処理により稜線を抽出して強調する画像処理手段と、画像処理手段により処理された稜線強調図形を前記液晶ディスプレイに表示させる表示制御手段とを備えている弱視者用眼鏡装置について開示されている。
【0006】
さらに、特許文献５（特開２００３−１３４４２０号公報）は、眼鏡を掛け肉眼で見える領域の一部に小型液晶表示装置を内蔵する暗室を設け、上記小型液晶表示装置に表示される映像を見る手段と、他の部分は外界を見る手段を特徴とするハイブリッド電子眼鏡について開示されている。
【0007】
また、特許文献６（特開２０１４−１５５２０７号公報）は、使用者が視線を移動させることなく、視界方向の物体の実像と、物体の外観に現れない情報とを同時に視認可能な頭部装着型表示装置について開示されている。特許文献６記載の頭部装着型表示装置は、使用者が映像と外景を同時に視認可能な頭部装着型表示装置であって、外景に含まれる物体に対して物体の外観に現れない情報である不可視情報を重畳表示させるための情報である重畳情報を生成する重畳情報生成部と、重畳情報を前記映像として使用者に視認させる画像表示部と、を備えるものである。
【0008】
また、特許文献７（特開２０１２−５８７３３号公報）は、簡易な照明で特殊効果を利用できる特殊照明手術用ビデオ立体顕微鏡について開示されている。特許文献７記載の特殊照明手術用ビデオ立体顕微鏡は、特殊な照明、特に励起光を含む照明、のもとで検体を観察するための、特に検体を蛍光観察するための、ビデオ撮像ユニットを有する２つの部分光束からなる立体部分光束を有するビデオ立体観察光束を少なくとも１つ有する特殊照明手術用ビデオ立体顕微鏡であって、該ビデオ撮像ユニットは、ビデオ立体画像を取得するための、チップの半分を２つ組み合わせたビデオチップを少なくとも１つ含み、それぞれの該半分は、それぞれ１つの部分光束が割り当てられ、それぞれスペクトル感度が異なっており、複数の光電子センサ（ピクセル）から構成されているものである。
【先行技術文献】
【特許文献】
【0009】
【特許文献1】特開２００８−３１０２７５号公報
【特許文献2】特開２００７−３２８０７１号公報
【特許文献3】特開２０１０−５５０３８号公報
【特許文献4】特開平９−１９２１６４号公報
【特許文献5】特開２００３−１３４４２０号公報
【特許文献6】特開２０１４−１５５２０７号公報
【特許文献7】特開２０１２−５８７３３号公報
【発明の概要】
【発明が解決しようとする課題】
【0010】
しかしながら、上記特許文献１から特許文献７のいずれにおいても、操作性が低く、利便性に欠けるという問題点がある。
【0011】
本発明の主な目的は、自由に医療機器の操作または情報を得ることができる医療用ヘッドマウントディスプレイ、医療用ヘッドマウントディスプレイのプログラムおよび医療用ヘッドマウントディスプレイの制御方法を提供することである。
【課題を解決するための手段】
【0012】
（１）一局面に従う医療用ヘッドマウントディスプレイは、立体視像を生成可能な表示装置と、手までの距離を測定する深度センサと、機器と通信を行う通信部と、深度センサにより測定された手の動作に応じて表示装置の表示を制御する制御部と、を含み、制御部は、深度センサにより測定された手の動作に応じて通信部から機器に操作情報を送信し、機器の動作を制御するものである。
【0013】
この場合、制御部は、手の動作に応じて機器の操作を行うことができる。特に、手術中において、医師が自ら機器の操作を行うことができる。その結果、意図する機器の操作を容易に行うことができる。
【0014】
（２）第２の発明にかかる医療用ヘッドマウントディスプレイは、一局面に従う医療用ヘッドマウントディスプレイにおいて、機器は、手術用照明器具であり、制御部は、手の動作に応じて手術用照明器具の照度、方向、および焦点の大小を制御してもよい。
【0015】
この場合、制御部は、手術用照明器具の照度、方向、および焦点の大小を制御することができる。その結果、医師の意図するように患部に対して照明を当てることができる。特に、深度カメラにより手の動作を検知して機器の操作を行うため、雑菌の侵入または雑菌による感染を防止することができる。
なお、本発明における手術用照明器具は、一般的に無影灯と呼ばれる装置も含む。
【0016】
（３）第３の発明にかかる医療用ヘッドマウントディスプレイは、一局面または第２の発明にかかる医療用ヘッドマウントディスプレイにおいて、外部記録装置をさらに含み、制御部は、深度センサにより測定された手の動作に応じて外部記録装置に記録された３次元モデルを表示装置に表示し、手の動作に応じて、三次元モデルの拡大縮小、回転および断面表示を行ってもよい。
【0017】
この場合、制御部は、表示装置に、三次元モデルを拡大縮小、回転、断面表示を行うことができる。その結果、医師は、手術中であっても、容易に三次元モデルを表示させることができる。
【0018】
（４）第４の発明にかかる医療用ヘッドマウントディスプレイは、一局面から第３の発明にかかる医療用ヘッドマウントディスプレイにおいて、通信部は、生体情報モニタ装置と通信可能であり、制御部は、生体情報モニタ装置からの生体情報を表示装置に表示してもよい。
【0019】
この場合、制御部は、表示装置に生体情報を表示することができる。その結果、医師は看護師から生体情報を得ることなく、容易に生体情報を確認することができる。
【0020】
（５）第５の発明にかかる医療用ヘッドマウントディスプレイは、一局面から第４の発明にかかる医療用ヘッドマウントディスプレイにおいて、通信部は、ＭＲＩ、エコー装置、超音波診断装置、超音波血流測定装置、レントゲン装置、神経機能検査装置、色素希釈心拍出量装置、誘発電位検査装置、脳波スペクトル分析装置、およびパルスオキシメータの少なくとも一つと通信可能であり、制御部は、ＭＲＩ、エコー装置、超音波診断装置、超音波血流測定装置、レントゲン装置、神経機能検査装置、色素希釈心拍出量装置、誘発電位検査装置、脳波スペクトル分析装置およびパルスオキシメータの少なくとも一つからの情報を表示装置に表示してもよい。
【0021】
この場合、制御部は、ＭＲＩ、エコー装置、超音波診断装置、超音波血流測定装置、レントゲン装置、神経機能検査装置、色素希釈心拍出量装置、誘発電位検査装置、およびパルスオキシメータの少なくとも一つの情報を表示することができる。その結果、医師は看護師から情報を得ることなく、容易に各情報を確認することができる。
【0022】
（６）第６の発明にかかる医療用ヘッドマウントディスプレイは、一局面から第５の発明にかかる医療用ヘッドマウントディスプレイにおいて、制御部は、表示装置に表示された動画の早送り、一時停止、巻き戻しを表示させてもよい。
【0023】
この場合、制御部は、表示装置に表示された動画の早送り、一時停止、巻き戻しを制御することができる。その結果、医師は、動画を確認しつつ、手術を実施することができる。
【0024】
（７）第７の発明にかかる医療用ヘッドマウントディスプレイは、一局面から第６の発明にかかる医療用ヘッドマウントディスプレイにおいて、撮像装置をさらに含み、制御部は、通信部を介して撮像装置により撮像された情報を外部記録部または外部モニタへ送信してもよい。
【0025】
この場合、制御部は、通信部を介して撮像装置により撮像された情報を外部記録部または外部モニタへ送信する。その結果、医師は他の医師のための教育のため、または患者の家族に術式を説明することができる。
【0026】
（８）他の局面に従う医療用ヘッドマウントディスプレイのプログラムは、立体視像を生成可能な表示処理と、手までの距離を測定する深度センサ処理と、機器と通信を行う通信処理と、深度センサ処理により測定された手の動作に応じて表示処理の表示を制御する制御処理と、を含み、制御処理は、深度センサ処理により測定された手の動作に応じて通信処理から機器に操作情報が送信され、機器の動作が制御されるものである。
【0027】
この場合、制御処理は、手の動作に応じて機器の操作を行うことができる。特に、手術中において、医師が医療用ヘッドマウントディスプレイのプログラムを用いて、自ら機器の操作を行うことができる。その結果、意図する機器の操作を容易に行うことができる。
【0028】
（９）さらに他の局面に従う医療用ヘッドマウントディスプレイの制御方法は、立体視像を生成可能な表示工程と、手までの距離を測定する深度センサ工程と、機器と通信を行う通信工程と、深度センサ工程により測定された手の動作に応じて表示工程の表示を制御する制御工程と、を含み、制御工程は、深度センサ工程により測定された手の動作に応じて通信工程から機器に操作情報が送信され、機器の動作が制御されるものである。
【0029】
この場合、制御工程は、手の動作に応じて機器の操作を行うことができる。特に、手術中において、医師が自ら機器の操作を行うことができる。その結果、意図する機器の操作を容易に行うことができる。
【図面の簡単な説明】
【0030】
【図1】一実施の形態にかかる眼鏡表示装置の基本構成の一例を示す模式的外観正面図である。
【図2】眼鏡表示装置の一例を示す模式的外観斜視図である。
【図3】操作システムの制御ユニットの構成の一例を示す模式図である。
【図4】操作システムにおける処理の流れを示すフローチャートである。
【図6】赤外線検知ユニットの検知領域と、一対の半透過ディスプレイの仮想表示領域とを説明するための模式的斜視図である。
【図9】検知領域と仮想表示領域との他の例を示す模式図である。
【図10】検知領域と仮想表示領域との他の例を示す模式図である。
【図11】検知領域と仮想表示領域との他の例を示す模式図である。
【図12】検知領域における操作領域とジェスチャ領域との一例を示す模式図である。
【図13】検知領域における操作領域とジェスチャ領域との一例を示す模式図である。
【図14】キャリブレーション処理の説明を行なうためのフローチャートである。
【図15】指認識の一例を示す模式図である。
【図16】指認識の処理の一例を示すフローチャートである。
【図17】掌認識の一例を示す模式図である。
【図18】親指認識の一例を示す模式図である。
【図19】眼鏡表示装置の半透過ディスプレイの表示の一例を示す模式図である。
【図24】医療用ヘッドマウントディスプレイの制御ユニットの動作の一例を示すフローチャートである。
【図25】医療用ヘッドマウントディスプレイと通信を行う機器の一例を示す模式図である。
【図26】半透過ディスプレイの表示の一例を示す模式図である。
【図27】生体情報モニタ装置と通信し、半透過ディスプレイに生体情報を表示した状態の一例を示す模式図である。
【図28】３次元モデルを半透過ディスプレイに表示した状態の一例を示す模式図である。
【図29】３次元モデルを半透過ディスプレイに表示した状態の一例を示す模式図である。
【図30】３次元モデルを半透過ディスプレイに表示した状態の一例を示す模式図である。
【図31】３次元モデルを半透過ディスプレイに表示した状態の一例を示す模式図である。
【図32】半透過ディスプレイに予め撮像した撮像データを表示する一例を示す模式図である。
【図33】医療用ヘッドマウントディスプレイのカメラユニットにより撮像した撮像データの処理の一例を示すフローチャートである。
【発明を実施するための形態】
【0031】
以下、図面を参照しつつ、本発明の実施の形態について説明する。以下の説明では、同一の部品には同一の符号を付してある。それらの名称および機能も同じである。したがって、それらについての詳細な説明は繰り返さない。また、本発明は、以下に説明する眼鏡表示装置に限定されるものではなく、他の入出力装置、表示装置、テレビジョン、モニタ、プロジェクタ等にも適用することができる。
【0035】
（眼鏡ユニット２００）図１および図２に示すように、眼鏡ユニット２００は、眼鏡フレーム２１０、一対の半透過ディスプレイ２２０および一対の表示調整機構６００からなる。眼鏡フレーム２１０は、主にリムユニット２１１、テンプルユニット２１２を含む。
眼鏡フレーム２１０のリムユニット２１１により一対の半透過ディスプレイ２２０が支持される。また、リムユニット２１１には、一対の表示調整機構６００が設けられる。さらに、リムユニット２１１には、赤外線検知ユニット４１０およびユニット調整機構５００が設けられる。ユニット調整機構５００の詳細については後述する。
一対の表示調整機構６００は、後述するように一対の半透過ディスプレイ２２０の角度および位置を調整することができる。一対の表示調整機構６００の詳細については、後述する。
【0036】
本実施の形態においては、眼鏡表示装置１００には、リムユニット２１１の一対の表示調整機構６００に一対の半透過ディスプレイ２２０を設けることとしているが、これに限定されず、眼鏡表示装置１００のリムユニット２１１の一対の表示調整機構６００に通常のサングラスレンズ、紫外線カットレンズ、または眼鏡レンズなどのレンズ類を設け、別に１個の半透過ディスプレイ２２０または一対の半透過ディスプレイ２２０を設けてもよい。また、当該レンズ類の一部に、半透過ディスプレイ２２０を埋め込んで設けてもよい。
また、一対の表示調整機構６００を半透過ディスプレイ２２０の側部に設けているが、これに限定されず、半透過ディスプレイ２２０の周囲または内部に設けてもよい。
【0037】
さらに、本実施の形態は、眼鏡タイプに限定するものではなく、人体に装着し、装着者の視野に配設できるタイプであれば、帽子タイプその他任意のヘッドマウントディスプレイ装置に使用することができる。
【0038】
（通信システム３００）次に、通信システム３００について説明を行なう。
通信システム３００は、バッテリーユニット３０１、アンテナモジュール３０２、カメラユニット３０３、スピーカユニット３０４、ＧＰＳ（Ｇｌｏｂａｌ Ｐｏｓｉｔｉｏｎｉｎｇ Ｓｙｓｔｅｍ）ユニット３０７、マイクユニット３０８、ＳＩＭ（Ｓｕｂｓｃｒｉｂｅｒ Ｉｄｅｎｔｉｔｙ Ｍｏｄｕｌｅ Ｃａｒｄ）ユニット３０９およびメインユニット３１０を含む。
なお、カメラユニット３０３にはＣＣＤセンサが備えられてもよい。スピーカユニット３０４は、ノーマルイヤホンであってもよいし、骨伝導イヤホンであってもよい。ＳＩＭユニット３０９には、ＮＦＣ（Ｎｅａｒ Ｆｉｅｌｄ Ｃｏｍｍｕｎｉｃａｔｉｏｎ：近距離無線通信）ユニットおよび他の接触式ＩＣカードユニット、ならびに非接触式ＩＣカードユニットを含んでもよい。
【0039】
以上のように、本実施の形態にかかる通信システム３００は、少なくとも携帯電話、スマートフォンおよびタブレット端末のいずれかの機能を含むものである。具体的には、電話機能、インターネット機能、ブラウザ機能、メール機能、および撮像機能（録画機能を含む）等を含むものである。したがって、ユーザは、眼鏡表示装置１００を用いて、通信装置、スピーカおよびマイクにより、携帯電話と同様の通話機能を使用することができる。また、眼鏡型であるので、両手を利用せず、通話を行なうことができる。
【0040】
（操作システム４００）続いて、操作システム４００は、赤外線検知ユニット４１０、ジャイロセンサユニット４２０、加速度検知ユニット４３０および制御ユニット４５０からなる。赤外線検知ユニット４１０は、主に赤外線照射素子４１１および赤外線検知カメラ４１２からなる。
【0041】
（ユニット調整機構５００）図２に示すように、ユニット調整機構５００は、赤外線検知ユニット４１０の角度を調整することができる。具体的には、ユニット調整機構５００は、矢印Ｖ５の水平軸周り、および、矢印Ｈ５の垂直軸周り、に赤外線検知ユニット４１０の角度を調整可能な構造である。
【0042】
ユニット調整機構５００は、制御ユニット４５０からの指示により矢印Ｖ５および矢印Ｈ５の方向に移動調整する。例えば、制御ユニット４５０により所定のジェスチャを認識した場合に、ユニット調整機構５００を所定の角度で動作させてもよい。その場合、ユーザは、所定のジェスチャを行うことにより赤外線検知ユニット４１０の角度の調整を行うことができる。
【0043】
なお、本実施の形態においては制御ユニット４５０によりユニット調整機構５００が動作することとしているが、これに限定されず、手動により図１の調整部５２０を操作して、矢印Ｖ５の方向および矢印Ｈ５の方向に移動調整できることとしてもよい。
【0044】
続いて、操作システム４００の構成、処理の流れおよび概念について説明を行なう。図３は、操作システム４００の制御ユニット４５０の構成の一例を示す模式図である。
【0045】
図３に示すように、制御ユニット４５０は、イメージセンサ演算ユニット４５１、デプスマップ演算ユニット４５２、イメージ処理ユニット４５３、解剖学的認識ユニット４５４、ジェスチャデータ記録ユニット４５５、ジェスチャ識別ユニット４５６、キャリブレーションデータ記録ユニット４５７、合成演算ユニット４５８、アプリケーションソフトユニット４５９、イベントサービスユニット４６０、キャリブレーションサービスユニット４６１、表示サービスユニット４６２、グラフィック演算ユニット４６３、ディスプレイ演算ユニット４６４、および６軸駆動ドライバユニット４６５を含む。
【0046】
なお、制御ユニット４５０は、上記の全てを含む必要はなく、適宜必要な１または複数のユニットを含んでもよい。たとえば、ジェスチャデータ記録ユニット４５５およびキャリブレーションデータ記録ユニット４５７は、クラウド上に配置してもよく、合成演算ユニット４５８を特に設けなくてもよい。
【0048】
まず、図４に示すように、赤外線検知ユニット４１０から対象のデータを取得し、デプスマップ演算ユニット４５２により深さ演算を行なう（ステップＳ１）。次に、イメージ処理ユニット４５３により外形イメージデータを処理する（ステップＳ２）。
【0049】
次いで、解剖学的認識ユニット４５４により、標準的な人体の構造に基づき、ステップＳ２において処理された外形イメージデータから、解剖学的特徴を識別する。これにより、外形が認識される（ステップＳ３）。
【0050】
さらに、ジェスチャ識別ユニット４５６により、ステップＳ３で得た解剖学的特徴に基づいてジェスチャを識別する（ステップＳ４）。ジェスチャ識別ユニット４５６は、ジェスチャデータ記録ユニット４５５に記録されたジェスチャデータを参照し、解剖学的特徴が識別された外形からジェスチャの識別を行なう。なお、ジェスチャ識別ユニット４５６は、ジェスチャデータ記録ユニット４５５からのジェスチャデータを参照することとしているが、参照することに限定されず、他の任意のデータを参照してもよく、全く参照することなく処理してもよい。
以上により、図５（ａ）に示すように、手のジェスチャを認識する。
【0051】
続いて、アプリケーションソフトユニット４５９およびイベントサービスユニット４６０は、ジェスチャ識別ユニット４５６により判定されたジェスチャに応じて所定のイベントを実施する（ステップＳ５）。これによって、図５（ｂ）に示すように、たとえば写真アプリによる画像が表示される。この際、当該画面には、カメラユニット３０３からの撮像データが表示されてよい。
【0052】
最後に、表示サービスユニット４６２、キャリブレーションサービスユニット４６１、グラフィック演算ユニット４６３、ディスプレイ演算ユニット４６４および合成演算ユニット４５８により、半透過ディスプレイ２２０に、イメージの表示、またはイメージの仮想表示が行なわれる（ステップＳ６）。これによって、図５（ｃ）に示すようにジェスチャを示す手のスケルトンの表示が行われ、図５（ｄ）に示すように、当該スケルトンの形状および大きさに写真の形状および大きさが合致するように合成されたイメージが表示される。
【0053】
なお、６軸駆動ドライバユニット４６５は、常にジャイロセンサユニット４２０、加速度検知ユニット４３０からの信号を検知し、ディスプレイ演算ユニット４６４に姿勢状況を伝達する。
【0054】
眼鏡表示装置１００を装着したユーザが眼鏡表示装置１００を傾斜させた場合には、６軸駆動ドライバユニット４６５は、常にジャイロセンサユニット４２０、加速度検知ユニット４３０からの信号を受信し、イメージの表示の制御を行なう。当該制御においては、イメージの表示を水平に維持させてもよいし、イメージの表示を傾斜にあわせて調整してもよい。
【0055】
（検知領域と仮想表示領域との一例）次に、操作システム４００の赤外線検知ユニット４１０の検知領域と、一対の半透過ディスプレイ２２０の仮想表示領域との関係について説明を行なう。
図６は、赤外線検知ユニット４１０の検知領域と、一対の半透過ディスプレイ２２０の仮想表示領域とを説明するための模式的斜視図であり、図７は図６の上面図であり、図８は、図６の側面図である。
【0056】
以下において、説明の便宜上、図６に示すように、ｘ軸、ｙ軸およびｚ軸からなる三次元直交座標系が定義される。以下の図におけるｘ軸の矢印は、水平方向を指す。ｙ軸の矢印は、鉛直方向またはユーザの体の長軸方向を指す。ｚ軸の矢印は、深度方向を指す。ｚ軸正方向は、より大きい深度の方向を指す。それぞれの矢印の向きは、他の図においても同じである。
【0057】
図６から図８に示すように、眼鏡表示装置１００は操作システム４００の赤外線検知ユニット４１０により検知可能な三次元空間検知領域（３Ｄスペース）４１０３Ｄを有する。三次元空間検知領域４１０３Ｄは、赤外線検知ユニット４１０からの円錐状または角錐状の三次元空間からなる。
【0058】
すなわち、赤外線検知ユニット４１０は、赤外線照射素子４１１から、照射された赤外線を、赤外線検知カメラ４１２により検知できるので、三次元空間検知領域４１０３Ｄ内のジェスチャを認識することができる。また、本実施の形態においては、赤外線検知ユニット４１０を１個設けることとしているが、これに限定されず、赤外線検知ユニット４１０を複数個設けてもよいし、赤外線照射素子４１１を１個、赤外線検知カメラ４１２を複数個設けてもよい。
【0059】
続いて、図６から図８に示すように一対の半透過ディスプレイ２２０は、ユーザに、実際に設けられた眼鏡表示装置１００の部分ではなく、眼鏡表示装置１００から離れた場所となる仮想イメージ表示領域２２０３Ｄに、奥行きを持って仮想表示されたものとして視認させる。当該奥行きは、仮想イメージ表示領域２２０３Ｄが有する仮想立体形状の深度方向（ｚ軸方向）の厚みに対応する。したがって、当該仮想立体形状の深度方向（ｚ軸方向）の厚みに応じて奥行きが設けられる。すなわち、実際には眼鏡表示装置１００の半透過ディスプレイ２２０に表示されるものの、ユーザは、右目のイメージは右目側の半透過ディスプレイ２２０を透過し三次元空間領域２２０３ＤＲで認識し、左目のイメージは左目側の半透過ディスプレイ２２０を透過し三次元空間領域２２０３ＤＬで認識する。その結果、認識された両イメージがユーザの脳内で合成されることにより、仮想イメージ表示領域２２０３Ｄで仮想イメージとして認識することができる。
【0060】
また、仮想イメージ表示領域２２０３Ｄは、フレーム・シーケンシャル方式、偏光方式、直線偏光方式、円偏光方式、トップ・アンド・ボトム方式、サイド・バイ・サイド方式、アナグリフ方式、レンチキュラ方式、パララックス・バリア方式、液晶パララックス・バリア方式、２視差方式および３視差以上を利用する多視差方式のいずれかを利用して表示されてもよい。
【0061】
また、本実施の形態においては、仮想イメージ表示領域２２０３Ｄは、三次元空間検知領域４１０３Ｄと共有する空間領域を有する。特に、図６および図７に示すように、三次元空間検知領域４１０３Ｄの内部に、仮想イメージ表示領域２２０３Ｄが存在するため、仮想イメージ表示領域２２０３Ｄが共有領域となる。
【0062】
なお、仮想イメージ表示領域２２０３Ｄの形状およびサイズについては、一対の半透過ディスプレイ２２０への表示方法により任意に調整することができる。また、図８に示すように、一対の半透過ディスプレイ２２０よりも赤外線検知ユニット４１０が上方（ｙ軸正方向）に配設されている場合について説明しているが、鉛直方向（ｙ軸方向）に対して、赤外線検知ユニット４１０の配設位置が半透過ディスプレイ２２０よりも下方（ｙ軸負方向）または半透過ディスプレイ２２０と同位置であっても、同様に、仮想イメージ表示領域２２０３Ｄは、三次元空間検知領域４１０３Ｄと共有する空間領域を有する。
【0064】
例えば、図９から図１１に示すように、眼鏡表示装置１００の半透過ディスプレイ２２０の代わりに、他の入出力装置、表示装置、テレビジョン、モニタ等を用いてもよい。以下、他の入出力装置、表示装置、テレビジョン、モニタ、プロジェクタを総称して入出力装置９００と略記する。
【0065】
図９に示すように、入出力装置９００からｚ軸負方向に仮想イメージ表示領域２２０３Ｄが出力され、入出力装置９００にｚ軸方向で対向する位置に配設された赤外線検知ユニット４１０からｚ軸正方向に三次元空間検知領域４１０３Ｄが形成されてもよい。この場合、入出力装置９００による仮想イメージ表示領域２２０３Ｄが、三次元空間検知領域４１０３Ｄと共有の空間領域として生じる。
【0066】
また、図１０に示すように、入出力装置９００から仮想イメージ表示領域２２０３Ｄが出力され、入出力装置９００と同方向（ｘｙ平面を基準としていずれもｚ軸正側の方向）に赤外線検知ユニット４１０の三次元空間検知領域４１０３Ｄが形成されてもよい。この場合でも、入出力装置９００による仮想イメージ表示領域２２０３Ｄが、三次元空間検知領域４１０３Ｄと共有の空間領域として生じる。
【0067】
次に、図１１に示すように、入出力装置９００から鉛直上方向（ｙ軸正方向）に仮想イメージ表示領域２２０３Ｄが出力されてもよい。図１１においても、図９、図１０と同様に、入出力装置９００による仮想イメージ表示領域２２０３Ｄが、三次元空間検知領域４１０３Ｄと共有の空間領域として生じる。
【0068】
また、図示していないが、入出力装置９００を三次元空間検知領域４１０３Ｄより上方側（ｙ軸正方向の側）に配置し、鉛直下方向（ｙ軸負方向）に仮想イメージ表示領域２２０３Ｄが出力されてもよく、水平方向（ｘ軸方向）から出力されてもよく、プロジェクタまたは映画館のように、後上方（ｚ軸負方向かつｙ軸正方向）から出力されてもよい。
【0069】
（操作領域とジェスチャ領域）続いて、検知領域における操作領域とジェスチャ領域とについて説明する。図１２および図１３は、検知領域における操作領域と、ジェスチャ領域との一例を示す模式図である。
【0070】
まず、図１２に示すように、一般的に、ユーザは、右肩関節ＲＰおよび左肩関節ＬＰの両肩関節を回転中心として両手を水平移動させるため、両手の移動できる領域は、点線で囲まれた移動領域Ｌおよび移動領域Ｒとなる。
【0071】
また、図１３に示すように、一般的に、ユーザは、右肩関節ＲＰおよび左肩関節ＬＰの両肩関節を回転中心として両手を鉛直移動させるため、両手の移動できる領域は、点線で囲まれた移動領域Ｌおよび移動領域Ｒとなる。
【0072】
すなわち、図１２および図１３に示すように、ユーザは、両手を右肩関節ＲＰおよび左肩関節ＬＰをそれぞれ回転中心とした欠球状（深度方向に凸のアーチ状曲面を有する）の立体空間内で移動させることができる。
【0073】
次に、赤外線検知ユニット４１０による三次元空間検知領域４１０３Ｄと、仮想イメージ表示領域が存在しうる領域（図１２では仮想イメージ表示領域２２０３Ｄを例示）と、腕の移動領域Ｌおよび移動領域Ｒを合わせた領域との全てが重なる空間領域を、操作領域４１０ｃとして設定する。また、三次元空間検知領域４１０３Ｄ内における操作領域４１０ｃ以外の部分で、かつ腕の移動領域Ｌおよび移動領域Ｒを合わせた領域と重なる部分をジェスチャ領域４１０ｇとして設定する。
【0074】
ここで、操作領域４１０ｃが、深度方向に最も遠い面が深度方向（ｚ軸正方向）に凸のアーチ状に湾曲した曲面である立体形状を有することに対し、仮想イメージ表示領域２２０３Ｄは、深度方向に最も遠い面が平面である立体形状を有する。このように両領域の間で当該面の形状が異なることに起因し、ユーザは、当該操作において体感的に違和感を覚える。当該違和感を取り除くためにキャリブレーション処理で調整を行なう。また、キャリブレーション処理の詳細については、後述する。
【0076】
図１２および図１３に示したように、ユーザが仮想イメージ表示領域２２０３Ｄに沿って手を動かそうとすると、補助のない平面に沿って動作させる必要がある。したがって、後述する認識処理により仮想イメージ表示領域２２０３Ｄにおいて、操作をし易くするためにキャリブレーション処理を行なう。また、キャリブレーション処理には、ユーザの個々で異なる指の長さ、手の長さ、腕の長さの調整も行なう。
【0077】
以下、図１４を用いて説明を行なう。まず、ユーザが、眼鏡表示装置１００を装着し、両腕を最大限に伸張する。その結果、赤外線検知ユニット４１０が、操作領域４１０ｃの最大領域を認識する（ステップＳ１１）。すなわち、ユーザによりユーザの個々で異なる指の長さ、手の長さ、腕の長さが異なるので、操作領域４１０ｃの調整を行なうものである。
【0078】
次に、眼鏡表示装置１００においては、仮想イメージ表示領域２２０３Ｄの表示位置を決定する（ステップＳ１２）。すなわち、仮想イメージ表示領域２２０３Ｄを操作領域４１０ｃの外側に配置するとユーザによる操作が不可能となるため、操作領域４１０ｃの内部に配置する。
【0079】
続いて、眼鏡表示装置１００の赤外線検知ユニット４１０の三次元空間検知領域４１０３Ｄ内で、かつ仮想イメージ表示領域２２０３Ｄの表示位置と重ならない位置に、ジェスチャ領域４１０ｇの最大領域を設定する（ステップＳ１３）。なお、ジェスチャ領域４１０ｇは、仮想イメージ表示領域２２０３Ｄと重ならないように配置しかつ深さ方向（ｚ軸正方向）に厚みを持たせることが好ましい。
【0080】
本実施の形態においては、以上の手法により、操作領域４１０ｃ、仮想イメージ表示領域２２０３Ｄ、ジェスチャ領域４１０ｇが設定される。
【0081】
続いて、操作領域４１０ｃ内における仮想イメージ表示領域２２０３Ｄのキャリブレーションについて説明する。
【0082】
操作領域４１０ｃ内の仮想イメージ表示領域２２０３Ｄの外部周囲にユーザの指、手、または腕が存在すると判定された場合に、あたかも仮想イメージ表示領域２２０３Ｄの内部に存在するように、丸め込みを行なう（ステップＳ１４）。
【0083】
図１２および図１３に示すように、半透過ディスプレイ２２０により仮想表示されたイメージの中央部近辺では、両腕を最大限に伸ばした状態にすると、両手先が仮想イメージ表示領域２２０３Ｄ内に留まることなく深さ方向（ｚ軸正方向）の外部へ外れてしまう。また、仮想表示されたイメージの端部においては、両腕を最大限に伸ばさない限り、両手先が仮想イメージ表示領域２２０３Ｄ内に存在すると判定されない。そのため、赤外線検知ユニット４１０からの信号を無処理のまま使用すると、ユーザは、手先が仮想イメージ表示領域２２０３Ｄから外れたとしても、そのような状態であることを体感しにくい。
【0084】
したがって、本実施の形態におけるステップＳ１４の処理においては、仮想イメージ表示領域２２０３Ｄから外部へ突き出た手先が、仮想イメージ表示領域２２０３Ｄ内にあるものとして補正すべく、赤外線検知ユニット４１０からの信号を処理する。その結果、ユーザは、両腕を最大限に伸ばした状態、または少し曲げた状態で、奥行きのある平面状の仮想イメージ表示領域２２０３Ｄ内の中央部から端部まで操作することができる。
【0085】
なお、本実施の形態においては、仮想イメージ表示領域２２０３Ｄを、深度方向に最も遠い面が平面である三次元空間領域からなることとしているが、これに限定されず、深度方向に最も遠い面領域Ｌ，Ｒの深度方向に最も遠い面に沿った形状の曲面である三次元空間領域からなることとしてもよい。その結果、ユーザは、両腕を最大限に伸ばした状態、または少し曲げた状態で、奥行きのある平面状の仮想イメージ表示領域２２０３Ｄ内の中央部から端部まで操作することができる。
【0086】
さらに、半透過ディスプレイ２２０は、仮想イメージ表示領域２２０３Ｄに矩形状の像を表示させる。例えば、図５（ｂ）に示したように、矩形状の像を表示させる（ステップＳ１５）。続いて、半透過ディスプレイ２２０に、像の周囲を指で囲んでくださいと、表示を行なう（ステップＳ１６）。ここで、像の近傍に指の形の像を薄く表示してもよいし、半透過ディスプレイ２２０に表示を行なう代わりにスピーカから音声により指示をユーザに伝えてもよい。
【0087】
ユーザは、指示に従い図５（ｄ）に示すように、指を像の見える部分にあわせる。そして、仮想イメージ表示領域２２０３Ｄの表示領域と、赤外線検知ユニット４１０との相関関係が自動調整される（ステップＳ１７）。なお、上記においては、指で矩形を形作り、そのように定められた矩形と、像の外縁の矩形にあわせる。このことによって、指により定められた矩形の視認サイズおよび位置と像の外縁の矩形の視認サイズ及び位置とを合わせることとした。しかしながら、指によって形状を定める手法はこれに限定されず、表示された像の外縁を指でなぞる手法、表示された像の外縁上の複数の点を指で指し示す手法等、他の任意の手法であってもよい。また、これらの手法を複数のサイズの像について行ってもよい。
【0088】
なお、上記のキャリブレーション処理の説明においては、眼鏡表示装置１００の場合についてのみ説明を行ったが、入出力装置９００の場合には、ステップＳ１１の処理において、像を表示させ、ステップＳ１７の処理の当該像と赤外線検知ユニット４１０との相関関係を調整してもよい。
【0089】
（指、掌、腕認識）次いで、指認識について説明を行い、その後掌認識、腕認識の順で説明を行なう。図１５は、指認識の一例を示す模式図である。図１５において、（Ａ）は指の先端付近の拡大図であり、（Ｂ）は指の根元付近の拡大図である。図１６は、指認識の処理の一例を示すフローチャートである。
【0090】
図１６に示すように、本実施の形態においては、デバイスの初期化を行なう（ステップＳ２１）。次に、赤外線照射素子４１１から照射され、手に反射した赤外線が、赤外線検知カメラ４１２により検出される（ステップＳ２２）。次に、赤外線検知ユニット４１０により画像データをピクセル単位で距離に置き換える（ステップＳ２３）。この場合、赤外線の明るさは、距離の三乗に反比例する。これを利用し、デプスマップを作成する（ステップＳ２４）。
【0091】
次いで、作成したデプスマップに適切な閾値を設ける。そして、画像データを二値化する（ステップＳ２５）。すなわち、デプスマップのノイズを除去する。続いて、二値化した画像データから約１００個の頂点を持つポリゴンを作成する（ステップＳ２６）。そして、頂点が滑らかになるようにローパスフィルタ（ＬＰＦ）により、より多くの頂点ｐｎを有する新たな多角形を作成することによって、図１５に示す手の外形ＯＦを抽出する（ステップＳ２７）。
なお、本実施の形態においては、ステップＳ２６において二値化したデータからポリゴンを作成するために抽出する頂点の数を約１００個としているが、これに限定されず、１０００個、その他の任意の個数であってもよい。
【0092】
ステップＳ２７で作成した新たな多角形の頂点ｐｎの集合から、Ｃｏｎｖｅｘ Ｈｕｌｌを用いて、凸包を抽出する（ステップＳ２８）。その後、ステップＳ２７で作成された新たな多角形と、ステップＳ２８で作成された凸包との共有の頂点ｐ０を抽出する（ステップＳ２９）。このように抽出された共有の頂点ｐ０自体を指の先端点として用いることができる。
さらに、頂点ｐ０の位置に基づいて算出される他の点を指の先端点として用いてもよい。例えば、図１５（Ａ）に示すように頂点ｐ０における外形ＯＦの内接円の中心を先端点Ｐ０として算出することもできる。
【0093】
そして、図１５に示すように、頂点ｐ０に隣接する左右一対の頂点ｐ１を通る基準線分ＰＰ１のベクトルを算出する。その後、頂点ｐ１と、隣接する頂点ｐ２とを結ぶ辺ｐｐ２を選択し、そのベクトルを算出する。同様に、外形ＯＦを構成する頂点ｐｎを用い、辺のベクトルを求める処理を外形ＯＦの外周に沿って繰り返す。各辺の向きと基準線分ＰＰ１の向きとを調べ、基準線分ＰＰ１と平行に近くなる辺ｐｐｋが指の股の位置に存在すると判定する。そして、辺ｐｐｋの位置に基づき、指の根元点Ｐ１を算出する（ステップＳ３０）。指の先端点Ｐ０と指の根元点Ｐ１とを直線で結ぶことで、指のスケルトンが得られる（ステップＳ３１）。指のスケルトンを得ることで、指の延在方向を認識することができる。全ての指について同様の処理を行なうことで、全ての指のスケルトンを得る。これにより、手のポーズを認識することができる。すなわち、親指、人差し指、中指、薬指、小指のいずれの指が広げられ、いずれの指が握られているかを認識することができる。
【0094】
続いて、直前に実施した数フレームの画像データと比較して、手のポーズの違いを検知する（ステップＳ３２）。すなわち、直前の数フレームの画像データと比較することにより、手の動きを認識することができる。
【0095】
次いで、認識した手の形状を、ジェスチャデータとしてイベントサービスユニット４６０へイベント配送する（ステップＳ３３）。
【0096】
次いで、アプリケーションソフトユニット４５９によりイベントに応じた振る舞いを実施する（ステップＳ３４）。
【0097】
続いて、表示サービスユニット４６２により、三次元空間に描画を要求する（ステップＳ３５）。グラフィック演算ユニット４６３は、キャリブレーションサービスユニット４６１を用いてキャリブレーションデータ記録ユニット４５７を参照し、表示の補正を行なう（ステップＳ３６）。
最後に、ディスプレイ演算ユニット４６４により半透過ディスプレイ２２０に表示を行なう（ステップＳ３７）。
【0098】
なお、本実施の形態においては、ステップＳ３０の処理およびステップＳ３１の処理により指の根元点を検出したが、根元点の検出方法はこれに限定されない。例えば、まず、頂点ｐ０の一方の側と他方の側において隣接する一対の頂点ｐ１を結ぶ基準線分ＰＰ１の長さを算出する。次に、当該一方の側と他方の側における一対の頂点ｐ２間を結ぶ線分の長さを算出する。同様に、当該一方の側と他方の側における一対の頂点間を結ぶ線分の長さを、頂点ｐ０により近い位置にある頂点からより遠い位置にある頂点への順で算出していく。このような線分は、外形ＯＦ内で交わることなく、互いにおおよそ平行となる。当該線分の両端の頂点が指の部分にある場合は、線分の長さは指の幅に相当するため、その変化量は小さい。一方、線分の両端の頂点の少なくともいずれかが指の股の部分に達した場合は、当該長さの変化量が大きくなる。したがって、当該長さの変化量が所定量を超えずかつ頂点ｐ０から最も遠い線分を検知し、検知された線分上の１点を抽出することによって、根元点を決定することができる。
【0100】
図１７に示すように、指認識を実施した後、画像データの外形ＯＦに内接する最大内接円Ｃを抽出する。当該最大内接円Ｃの位置が、掌の位置として認識できる。
【0101】
次いで、図１８は、親指認識の一例を示す模式図である。
【0102】
図１８に示すように、親指は、人差し指、中指、薬指、および小指の他の４指とは異なる特徴を有する。例えば、掌の位置を示す最大内接円Ｃの中心と各指の根元点Ｐ１とを結ぶ直線が相互になす角度θ１，θ２，θ３，θ４のうち、親指が関与するθ１が最も大きい傾向にある。また、各指の先端点Ｐ０と各指の根元点Ｐ１とを結んだ直線が相互になす角度θ１１，θ１２，θ１３，θ１４のうち、親指が関与するθ１１が最も大きい傾向にある。このような傾向に基づき親指の判定を行なう。その結果、右手か左手か、または掌の表か裏かを判定することができる。
【0103】
（腕認識）次いで、腕認識について説明を行なう。本実施の形態において、腕認識は、指、掌および親指のいずれかを認識した後に実施する。なお、腕認識は、指、掌および親指のいずれかを認識する前、またはそれらの少なくともいずれかと同時に実施してもよい。
【0104】
本実施の形態においては、画像データの手の形のポリゴンよりも大きな領域でポリゴンを抽出する。例えば、長さ５ｃｍ以上１００ｃｍ以下の範囲、より好ましくは、１０ｃｍ以上４０ｃｍ以下の範囲で、ステップＳ２１からＳ２７の処理を実施し、外形を抽出する。その後、抽出した外形に外接する四角枠を選定する。本実施の形態においては、当該四角枠は、平行四辺形または長方形からなる。
この場合、平行四辺形または長方形は、対向する長辺を有するので、長辺の延在方向から腕の延在方向を認識することができ、長辺の向きから腕の向きを判定することが出来る。なお、ステップＳ３２の処理と同様に、直前の数フレームの画像データと比較して、腕の動きを検知させてもよい。
【0105】
なお、上記の説明においては、２次元像から指、掌、親指、腕を検出することとしているが、上記に限定されず、赤外線検知ユニット４１０をさらに増設してもよく、赤外線検知カメラ４１２のみをさらに増設し、２次元像から、３次元像を認識させてもよい。その結果、さらに認識確度を高めることができる。
【0107】
図１９に示すように、眼鏡表示装置１００の半透過ディスプレイ２２０には、一部には広告２２１が表示され、さらに一部には地図２２２が表示され、その他には、眼鏡表示装置１００の半透過ディスプレイ２２０を透過して風景２２３が視認され、その他に天気予報２２４および時刻２２５が表示される。
【0108】
（操作領域４１０ｃの詳細）図２０から図２３は、図１２から図１４において説明した操作領域４１０ｃの他の例を示す模式図である。
図２０および図２１は、ユーザを上方から視認した状態を示す模式図であり、図２２および図２３は、ユーザを側方から視認した状態を示す模式図である。
【0109】
図２０は、ユーザは、腕ａｒｍ１、腕ａｒｍ２および手Ｈ１を伸ばし切った場合を示し、この場合の手Ｈ１は、右肩関節ＲＰを中心に移動軌跡ＲＬ１を通過する。この場合、移動軌跡ＲＬ１の曲率半径はｒａｄ１である。
【0110】
一方、図２１は、ユーザは、腕ａｒｍ１および腕ａｒｍ２を屈曲させた場合を示し、この場合の手Ｈ１は、移動軌跡ＲＬ２を通過する。すなわち、図２１においては、ユーザが水平方向に手Ｈ１を移動させようとしているが、直線に近い移動軌跡ＲＬ２を通ることとなる。この場合、移動軌跡ＲＬ２の曲率半径はｒａｄ２である。ここで、人間工学に基づいて、当然のことながら、曲率半径ｒａｄ１は、曲率半径ｒａｄ２よりも小さい値となる。
【0111】
この場合、制御ユニット４５０は、赤外線ユニット４１０から移動軌跡ＲＬ１を検知した場合でも、直線移動であるとキャリブレーションする。同様に、制御ユニット４５０は、移動軌跡ＲＬ２を検知した場合でも、直線移動であるとキャリブレーションする。
【0112】
次いで、図２２は、ユーザは、腕ａｒｍ１、腕ａｒｍ２および手Ｈ１を伸ばし切った場合を示し、この場合の手Ｈ１は、右肩関節ＲＰを中心に移動軌跡ＲＬ３を通過する。この場合、移動軌跡ＲＬ３の曲率半径はｒａｄ３である。
【0113】
一方、図２３に示すように、ユーザは、腕ａｒｍ１および腕ａｒｍ２を屈曲させた場合を示し、この場合の手Ｈ１は、移動軌跡ＲＬ４を通過する。すなわち、図２３においては、ユーザが鉛直方向に手Ｈ１を移動させようとしているが、直線に近い移動軌跡ＲＬ４を通ることとなる。この場合、移動軌跡ＲＬ４の曲率半径はｒａｄ４である。ここで、人間工学に基づいて、当然のことながら、曲率半径ｒａｄ３は、曲率半径ｒａｄ４よりも小さい値となる。
【0114】
この場合、制御ユニット４５０は、赤外線ユニット４１０から移動軌跡ＲＬ３を検知した場合でも、直線移動であるとキャリブレーションする。同様に、制御ユニット４５０は、移動軌跡ＲＬ４を検知した場合でも、直線移動であるとキャリブレーションする。
【0115】
（医療用ヘッドマウントディスプレイ）以下、眼鏡表示装置１００を医療用ヘッドマウントディスプレイ１００として利用する具体例について説明を行う。
図２４は、医療用ヘッドマウントディスプレイ１００の制御ユニット４５０の動作の一例を示すフローチャートであり、図２５は、医療用ヘッドマウントディスプレイ１００と通信を行う機器９０１，〜，９１１の一例を示す模式図である。また、図２６は、半透過ディスプレイ２２０の表示の一例を示す模式図である。
【0116】
図２４に示すように、制御ユニット４５０は、機器と通信を行う（ステップＳ７１）。ここで、図２５に示すように、制御ユニット４５０の通信ユニット３００は、手術用照明器具９０１、生体情報モニタ装置９０２、ＭＲＩ９０３、エコー装置９０４、超音波診断装置９０５、超音波血流測定装置９０６、レントゲン装置（ＣＴ装置含む）９０７、神経機能検査装置９０８、色素希釈心拍出量装置９０９、誘発電位検査装置９１０、およびパルスオキシメータ９１１等の少なくとも１つと通信を行う。
【0117】
次いで、図２６に示すように、制御ユニット４５０は、半透過ディスプレイ２２０に、機器リストを表示する（ステップＳ７２）。医療用ヘッドマウントディスプレイ１００を装着したユーザは、手Ｈ１を用いて、半透過ディスプレイ２２０に表示された機器リストから一の機器を選択する。ここで、手Ｈ１は、手術用の手袋を装着している状態、または装着していない状態のいずれであってもよい。また、図２６に示すように、手術用照明器具９０１が選択された場合について説明を行う。
【0118】
制御ユニット４５０は、機器リストから一の機器が選択されたか否かを判定する（ステップＳ７３）。選択されていないと判定した場合（ステップＳ７３のＮｏ）、制御ユニット４５０は、待機する。一方、選択されたと判定した場合（ステップＳ７３のＹｅｓ）、制御ユニット４５０は、選択された機器の操作リストを半透過ディスプレイ２２０に表示する（ステップＳ７４）。
【0119】
医療用ヘッドマウントディスプレイ１００を装着したユーザは、手Ｈ１を用いて、半透過ディスプレイ２２０に表示された操作リストから一の操作を選択する。ここで、手Ｈ１は、手術用の手袋を装着している状態、または装着していない状態のいずれであってもよい。ここで、図２６に示すように、手術用照明器具９０１の焦点を狭めて照度をあげる場合について説明を行う。
【0120】
制御ユニット４５０は、操作リストから一の操作が選択されたか否かを判定する（ステップＳ７５）。選択されていないと判定した場合（ステップＳ７５のＮｏ）、制御ユニット４５０は、待機する。一方、選択されたと判定した場合（ステップＳ７５のＹｅｓ）、制御ユニット４５０は、選択された機器の操作情報を機器へ送信する（ステップＳ７６）。すなわち、制御ユニット４５０は、手術用照明器具９０１に対して焦点を狭めて照度をあげる操作情報を送信する。なお、図２６に示すように、半透過ディスプレイ２２０に手術用照明器具９０１の仮想表示を行い、具体的に操作できるようにしてもよい。
【0121】
続いて、機器は、選択された操作情報に基づいて従動する。すなわち、手術用照明器具９０１は、焦点を狭めて照度をあげる。この結果、医療用ヘッドマウントディスプレイ１００を装着したユーザは、意図する位置に手術用照明器具９０１の焦点を狭めて照度をあげることができる。したがって、従来のように、看護師に手術用照明器具９０１の操作を指示することなく、患者の患部を確認しながら、手術用照明器具９０１の操作を行うことができる。その結果、看護師の人数を削減することができるとともに、声による指示でなく、医師の思い通りに手術用照明器具９０１を操作することができる。
【0122】
次いで、図２７は、生体情報モニタ装置９０２と通信し、半透過ディスプレイ２２０に生体情報を表示した状態の一例を示す模式図である。
【0123】
図２６に示した半透過ディスプレイ２２０において、手Ｈ１で、生体情報モニタ装置９０２を選択した場合、図２７に示すように、半透過ディスプレイ２２０には、生体情報が表示される。その結果、医療用ヘッドマウントディスプレイ１００を装着したユーザは、患者の患部を確認しながら、半透過ディスプレイ２２０の生体情報を確認することができる。
【0125】
図２８に示すように、医療用ヘッドマウントディスプレイ１００の半透過ディスプレイ２２０には、３次元モデルＤＤが表示されるとともに、３次元モデルＤＤを回転ボタン、拡大縮小ボタン、スライス表示ボタンが表示される。なお、本実施の形態における三次元モデルＤＤは、予めＣＴ装置、ＭＲＩ装置等により患者の部位を３次元化したものである。なお、エコー装置と通信し、エコー装置からの情報に基づいて、３次元モデルを手術中等に形成してもよい。その結果リアルタイムで３次元モデルを作ることができる。
【0126】
ユーザが、例えば、回転ボタンを手Ｈ１により選択することで、図２８に示すように、３次元モデルＤＤを手Ｈ１の動作により回転させることができる。
【0127】
また、ユーザが、例えば、スライスボタンを手Ｈ１により選択することで、図２９に示すように、３次元モデルＤＤをスライスすることができる。なお、本実施の形態にかかる図２９に示す３次元モデルＤＤのスライスデータは、心臓ＣＴ装置により予め撮像されたものである。
【0128】
その結果、ユーザは、患者の患部を視認しつつ、３次元モデルＤＤを確認することができる。なお、本実施の形態においては、拡大縮小ボタンを設けることとしているが、これに限定されず、所定のジェスチャにより３次元モデルＤＤ自身または３次元モデルのスライスデータの拡大縮小が並行して実行できることが好ましい。
【0129】
また、図３０および図３１は、３次元モデルを半透過ディスプレイ２２０に表示した状態の一例を示す模式図である。図３０に示すように、医療用ヘッドマウントディスプレイ１００の半透過ディスプレイ２２０には、肝臓部位の３次元モデルＤＤが表示される。
また、図３１に示すように、医療用ヘッドマウントディスプレイ１００の半透過ディスプレイ２２０には、脳部位の３次元モデルＤＤが表示される。
【0130】
次に、図３２は、半透過ディスプレイ２２０に予め撮像した撮像データを表示する一例を示す模式図である。図３２に示すように、半透過ディスプレイ２２０には、撮像データが表示されるとともに、再生ボタン、一時停止ボタン、早送りボタン、巻き戻しボタンが表示される。その結果、ユーザは、手Ｈ１を用いて、撮像データの表示を自由に操作することができる。
【0131】
次いで、図３３は、医療用ヘッドマウントディスプレイ１００のカメラユニット３０３により撮像した撮像データの処理の一例を示すフローチャートである。
【0132】
図３３に示すように、制御ユニット４５０は、半透過ディスプレイ２２０に撮像を開始するか否かのボタンを表示させる（ステップＳ８１）。撮像未開始と判定した場合（ステップＳ８１のＮｏ）、待機する。一方、撮像開始と判定した場合（ステップＳ８１のＹｅｓ），撮像を開始するとともに、撮像データを医療用ヘッドマウントディスプレイ１００の内部に記録する（ステップＳ８２）。
【0133】
次いで、制御ユニット４５０は、外部記録装置に撮像データを送信するか否かを判定する（ステップＳ８３）。送信しないと判定した場合（ステップＳ８３のＮｏ）、次の処理へ移行する。一方、送信すると判定した場合（ステップＳ８３のＹｅｓ），撮像を開始するとともに、撮像データを外部記録装置に記録する（ステップＳ８４）。ここで、外部記録装置は、ハードディスクドライブでもよく、クラウドコンピューティングであってもよい。
【0134】
次いで、制御ユニット４５０は、撮像データを外部モニタへ送信するか否かを判定する（ステップＳ８５）。撮像データを外部モニタへ送信しないと判定した場合（ステップＳ８５のＮｏ）、制御ユニット４５０は、処理を終了する。一方、撮像データを外部モニタへ送信すると判定した場合（ステップＳ８５のＹｅｓ）、制御ユニット４５０は、外部モニタへ撮像データを送信する（ステップＳ８６）。
【0135】
その結果、ユーザは、撮像データを記録することができ、後継者への教育資料として用いることができる。また、撮像データを外部モニタに送信することができるので、ユーザは、患者の家族または親戚等に、説明を行いながら、手術を行うことができる。
【0136】
以上のように、医療用ヘッドマウントディスプレイ１００を装着したユーザ、特に医師は、自ら手術に関連のある機器の操作を行うことができる。その結果、看護師に口頭指示する労力を削減することができる。また、自ら機器を操作することができるので、意図するとおりに機器を操ることができる。
【0137】
さらに、三次元モデルＤＤの表示または三次元モデルＤＤのスライスデータを容易に確認することができるので、大型モニタ等を用意する必要がなくなる。また、生体情報等必要なデータが、半透過ディスプレイ２２０に表示されるので、ユーザは、患者の患部を確認しながら、必要な情報を得ることができる。
【0138】
また、撮像データを記録したり、外部モニタへ送信したりすることができるので、患者の家族または親戚に術式を説明することができる。
【0139】
本発明においては、半透過ディスプレイ２２０が「表示装置」に相当し、赤外線検知ユニット４１０が「深度センサ」に相当し、カメラユニット３０３が「撮像装置」に相当し、機器９０１，〜，９１１が「機器」に相当し、手Ｈ１、手術用手袋を装着した手Ｈ１、腕ａｒｍ２が「手」に相当し、制御ユニット４５０が「制御部」に相当し、通信システム３００が「通信部」に相当し、眼鏡表示装置１００および医療用ヘッドマウントディスプレイ１００が「医療用ヘッドマウントディスプレイ」に相当する。
【0140】
本発明の好ましい一実施の形態は上記の通りであるが、本発明はそれだけに制限されない。本発明の精神と範囲から逸脱することのない様々な実施形態が他になされることは理解されよう。さらに、本実施形態において、本発明の構成による作用および効果を述べているが、これら作用および効果は、一例であり、本発明を限定するものではない。
【符号の説明】
【0141】
１００ 眼鏡表示装置、医療用ヘッドマウントディスプレイ２２０ 半透過ディスプレイ
２２０３Ｄ 仮想イメージ表示領域（共有領域）
３００ 通信システム
３０３ カメラユニット
４１０ 赤外線検知ユニット
４１０ｃ 操作領域
４２０ ジャイロセンサユニット
４３０ 加速度検知ユニット
４１０３Ｄ 三次元空間検知領域
４５０ 制御ユニット
４５４ 解剖学的認識ユニット
４５６ ジェスチャ識別ユニット
４６０ イベントサービスユニット
４６１ キャリブレーションサービスユニット
Ｈ１ 手
ＲＰ 右肩関節
ＬＰ 左肩関節