【発明が解決しようとする課題】
【0003】
そのような装置の欠点は、ユーザは常に、口腔内カメラで撮った画像(カメラで撮った画像、またはカメラで撮った画像からのモデリング情報処理から出力された画像)に対応する画像が表示されるリモートスクリーンを見ていなければならず、したがって患者の口から視線を外さなければならず、作業を実施する患者の口とスクリーンに表示されているもの(例えば作業の実際の結果、またはその作業が最終的になるべきものの表示)とを対応させることが妨げられる。
【0004】
こうして、光学的印象を撮影するとき、ユーザは印象撮影に関係する口のゾーン全体を手動で口腔内カメラでスキャンしなければならない。よって、リモートスクリーン上に表示され得る印象撮影の進行を追わなければならず、その結果として患者の口から視線を外さなければならない。
【0005】
視線の移動は、ユーザの手による制御されていない不正確で有害な動きを引き起こすことがあり、それは患者に(口の内側または外側に)傷をつけることがある。この欠点は、ユーザが3次元動的光学的印象を撮影するときに、より重大になることがある。
【0006】
さらに、視線の移動はまた、この移動速度が極めて速まると、例えば目の往復運動が1分につき20回以上の場合、極めて疲れるものである。
【0007】
視覚化装置が構造化活性光プロジェクタを使用する場合、モデリングされた実像を拡張現実に由来する情報に相関させることは、歯または歯茎上のマスクの投影(点、線、格子)のため、極めて困難である。
【0008】
そのうえ、口腔内カメラで撮った画像に対する補足の表示が同様にスクリーンに表示される場合、このときユーザはこれらの表示を頭の中で手術野に置換するという労力を払わなければならず、それはその作業を不正確にし悪化させる、より大きなリスクを伴う。
【0009】
拡張現実装置が存在するにもかかわらず、患者の口の実際のビューと拡張現実から出力される情報とを相関させることができないので、それらを使用することができない。拡張現実から出力された情報がリモートスクリーンに表示されるとしても、ユーザによるリモートスクリーンの視覚化は決してリアルタイムでは実施されず、ユーザの動作は、その手術野で正確に位置決定されることはない。
【0010】
リモートスクリーンはまた、光学的印象の品質に影響を及ぼす。ユーザは、印象撮影が完全かどうか知ることを可能にする現実および直接の相関を全く有していない。また、目の動きのたびに口腔内カメラを制御せずに動かす恐れがあり、それは得られた結果を不確かなものにする。
【0011】
口の器官のモデリングされた表示(例えば、歯科補綴を配置して、作業の終了時に歯および歯茎になるべきものの表示)をリモートスクリーンに視覚化することは、同一器官のリアルタイムでの視覚化と同時に実施することはできない。それは、リモートスクリーン上に表示される拡張現実に関するソフトウェアから出力されるすべての情報について同様である。
【0012】
ユーザの視線は、必ずしも口腔内カメラにアクセス可能なすべてのゾーンを見ているわけではなく、それは、測定したものの評価を困難にし、さらには不可能にする。この欠点は、口腔内カメラが光学的印象ホルダー型装置であって、嵩が大きく患者の口の主要な部分を隠すとき、より深刻である。
【0013】
ユーザは患者の口を見ることができず、その作業結果はリアルタイムに同一基準内で混同されることから、ユーザの動作は安全を確保されていない。
【0014】
本発明は、前記の欠点を解消することを目的とする。
【課題を解決するための手段】
【0015】
本発明は、患者の口の内部の視覚化装置に関するものであり、その装置は口内に位置する器官の光学的印象の撮影に適したカメラを備えるものであって、拡張現実メガネを備え、それは一方ではそれを通してメガネのユーザが口の内部を見ることができる光学ガラスを有し、また他方ではユーザが光学ガラスを通して見るものを撮影する視覚化カメラを有し、視覚化カメラで撮影した画像に対応する第一の画像は、光学的印象撮影カメラで撮影した画像に対応する第二の画像と相関され、第二の画像は光学ガラス上に投影されることができる拡張現実メガネを備えることを特徴とするものである。
【0016】
したがって本発明は、同一の視野(光学ガラス、したがって患者の口)内に、患者の口内部のリアルタイムの映像と光学的印象撮影カメラで撮影した画像に対応する第二の画像とを相関させて結合させることができる視覚化装置を提案する。これらの第二の画像は、光学的印象撮影カメラで撮影した画像と同様に、このカメラで撮影した画像の情報モデリングから出力された画像であってよい。
【0017】
したがって、ユーザが所望すれば、患者の口から目を離さずに、その作業の進行(例えば診断の設定、または印象の作成)を追うことができる。
【0018】
単一の視野の存在によって、ユーザはもはやユーザの手による不正確で制御されていない有害な動きをする恐れがなくなり、それは、3次元動的測定で作業するとき、より大きな利点になる。
【0019】
患者の口の外に視線を外すことを抑制することによって、ユーザはもはや患者に傷をつける恐れがない。その作業を実施するためのユーザの動作、およびそれを助ける情報は、常に同一視野内にある。
【0020】
本発明にかかる装置の使用によって、(特に高速度の)目の動きが存在しないことから、ユーザの疲れは明らかに軽減される。
【0021】
実際のビューとモデリングされたビューとの相関によって、ユーザは、構造化活性光(lumiere active structuree)を使用する方法でもそうでなくとも、あらゆる種類の光学的印象撮影方法を使用することができる。
【0022】
本発明にかかる装置によって、常に高価で多くの場合効果的はでない3次元スクリーンの使用を強要されることなく、自然な3次元立体映像復元を有することが可能になる。
【0023】
光学的印象撮影カメラとは、定義としては接触せずに印象を撮影することができるカメラである。
【0024】
光学的印象撮影カメラは、拡張現実メガネ搭載カメラ、口腔内カメラ(手動で移動可能)、または光学的印象ホルダーであり得る。光学的印象撮影カメラは、口腔内光学的印象ホルダーシステム(投影および読み取り装置を備え、ホログラフィック干渉計またはモアレ画像を伝導する光ファイバを使用する比較的大きな光学的印象トレーシステム、および非コヒーレント光ステレオスコープの原理を使用し、印象を撮るべき範囲全体を一度にスキャンする複数のカメラを備えるオプトエレクトロニクス支持部材を備える光学的印象ホルダーシステム)であり得る。
【0025】
光学的印象撮影カメラは、(深い青からX線へと移行する)フォトニック放射線、または超音波を使用することができる。それは、コヒーレント放射線を使用することができる(またはできない)。
【0026】
このカメラはまた、ステレオスコープ干渉計装置、または構造化された光(点、線、格子)を口の器官(通常、歯または歯茎)に投影するプロジェクタに組み合わせることができる。
【0027】
カメラは、器官の形状の測定および分析システムに結合されてよく、システムは器官の形状および色の正確な読み取りを行う。測定および分析システムが、活性および/または構造化光プロジェクタである場合、光学的印象撮影カメラは、少なくとも二つの(交わった、または分離した)チャネルを有し、一つは投影、もう一つは画像撮影用のものである。投影チャネル(投影はLED、OLED、ハロゲン、プラズマ、またはレーザによって実施され得る)は、器官の表面の形状に応じて変形される構造化された放射線を器官上に投影し、この変形は画像撮影チャネルによってセンサに転送される。これによって、光学的印象撮影カメラは、投影された(または記憶された)光とセンサに到達する変形された光の特性間の比較によって、分析対象である各器官の形状および寸法を知ることができる。光学的印象撮影カメラはまた、モノまたはマルチカメラのステレオスコープあるいは遠隔測定方法を使用する、口の器官の形状の測定および分析システムに組み合わされてよい(この測定システムは、より単純であるという利点があるが、しかし使用されるソフトウェアはより複雑である)。光学的印象撮影カメラはまた、放射線機器、光コヒーレンストモグラフィ(OCT)機器、または超音波放出機器のような周辺機器によって形成された口の器官の形状を測定および分析するシステムに組み合わされてよい(これらの機器が、調査するゾーンに測定情報を提供する範囲において)。
【0028】
本発明にかかる装置によって、ユーザはまた、光学的印象撮影カメラの存在にもかかわらず、患者の口内で起きていることを知ることができる(特にこのカメラが光学的印象ホルダーである場合)。
【0029】
本発明にかかる装置は、複数の光学的印象撮影カメラを備えることがある。光学的印象撮影カメラは各々、測定および分析システムに結合させることができる。
【0030】
分析および印象撮影を最適化するために、本発明にかかる装置は、構造化光線を伴ってまたはそれなしで作動することができる照明システムに結合させることができる。
【0031】
この照明システムは、口の外側から投影するか、または光学的印象撮影カメラ上に固定させることができる。
【0032】
使用する照明のタイプ応じて、照明システムは、測定した器官に関する補足情報を拡張現実で出現させることができる。したがって、照明の波長によって、いくつかの歯の解剖学的要素を測定、および/または発見し、それらを光学ガラス上に表示することができる。
【0033】
照明システムはまた、拡張現実に頼ることなく、いくつかの情報を投影するのにも適していることがある。これは例えば、光学的印象撮影カメラの正確な読み取りが位置する場所を示す投影された識別信号(赤色の円など)である。照明システムは、獲得されたデータの品質に応じて情報の色または形状を変化させることができる。
【0034】
拡張現実メガネは、少なくとも一つの光学レンズ(一般的には二つ)、および少なくとも一つの視覚化カメラを備える。拡張現実メガネに複数の視覚化カメラが存在することによって、特に光学的印象撮影カメラの読み取りから出力されたモデリングをリアルタイムで再調整することができる。
【0035】
視覚化カメラは必ずしも3次元カメラであることはなく、2次元または2.5次元カメラであってもよい。本発明にかかる装置は、視覚化カメラによって撮影した2次元画像を、印象撮影カメラによって撮影した3次元画像と相関させることができる。視覚化カメラが2.5次元カメラまたは3次元カメラ(空間的視覚を有するメガネ)である場合、相関は極めて正確であり、3次元で読み取られた器官部分に表示がなされる(一部の拡張現実メガネは、結果を可能にするために専用の特殊な光学ガラスを有する)。
【0036】
ユーザが直接口のビジョンを見るのに介在する光学ガラスはまた、視覚化カメラで撮った画像に対応する第一の画像、光学的印象撮影カメラで撮った画像に対応する第二の画像、および場合によっては、拡張現実および外部周辺機器に組み合わせることができる補足情報(例えば強度、色、またはコントラストの変動のような視覚化可能なサイン)を投影できる場所でもある。
【0037】
したがって、ユーザはその作業進行を見ることができる。例えば、光学的印象撮影が完了し、かつ正確であるか、または印象撮影を完全なものにするために再度介入すべきかを知ることができ、この指示は、光学ガラスを介在した直接のビジョンを、撮影した印象を表示する第二の画像によって徐々に置換することによって実施することができる。
【0038】
光学ガラス上に(ユーザの希望に応じてリアルタイムにまたは時間差で)投影することができる補足情報は、光学ガラス上で直接相関され、拡張現実がそれを可能にする。これらの補足情報は、放射線機器、光コヒーレンストモグラフィ(OCT)機器、または超音波放出機器のような周辺機器から出力されることがある。補足情報用に拡張現実を使用することによって、ユーザを案内し(特に器官が印象撮影されなかった時に)、あらかじめ記憶した放射線情報を用いて歯茎の下の情報をユーザに示し、外科的行為が完全に実行されていなければ(例えば、最終的な印象撮影前に、アンダーカット(contre−depouille)ゾーン、またはブリッジの柱間の対応関係が不正確であるゾーンを示すことによって)、外科的行為の間にそれを警告することができる。また、削合(coronoplastie)あるいは咬合分析の実施の際に、動態的変動を組み合わせ、歯上のブラケットの予想配置の効果を視覚化し、(例えば歯髄の近傍に)詰め物またはクラウンを収容するための空洞部を形成する間に歯の組織分布を知ることができる。
【0039】
使用される拡張現実メガネは、例えば「Google Glass」、「Vuzix smart Glass」、「K−Glass」または「video−projection Epson」であってよい。
【0040】
3次元タグ付けシステムを拡張現実メガネに組み合わせて、ユーザが自身の作業の進行、特に、直接口の器官に対応して自身の光学測定活動の進行を追うことができる。
【0041】
本発明にかかる装置はまた、特に視覚化カメラで撮った画像に対応する第一の画像を光学的印象撮影カメラで撮った画像に対応する第二の画像に相関させることができる情報処理中央装置を備えてよい。
【0042】
従来より中央装置は、アナログおよび/またはデジタルデータを変換し、データを管理すること(光学的印象撮影カメラおよび視覚化カメラによって撮影された様々な画像をデジタル化し、これらの画像に内蔵される様々な情報を測定し、これらの画像を情報処理し、それらを相関させ、それらを光学ガラス上に集める、など)に適している。中央装置はまた、患者に関する補足情報を付加して、ユーザに知らせ補助すること(例えば測定が成された器官を表示すること)が可能である。
【0043】
中央装置は、第一の画像を第二の画像とともに同一のオブジェクトに集めることが可能である。これら第一および第二の画像は同一の作業ゾーンで撮影されるが、異なる情報を提供する。状況に応じて、中央装置は第一の画像に第二の画像を置き換える、または重ねる。
【0044】
同一の作業ゾーンの二種類の画像の置換に続く相関は、デジタル化され処理された第二の画像によるユーザの直接のビューの漸進的な質の向上(enrichissement)となって現れる。例えば、口に位置する各器官は視覚的特徴を示し、それには点群が組み合わされている。中央装置は、一方では、第一および第二の画像について(一般的には、第二の画像が撮影されるほど、第二の画像に関する)同一の点群を見つけ、もう一方では、第一の画像よりはるかに正確である第二の画像を表示して、二種類の画像を相関させる。相関のこの表示は、特定のカラーで実施することができる。したがってユーザは、(例えば赤色で着色されている)測定されたゾーンが光学ガラスに直接および漸進的に現れるのを見る。第二の画像は、ちょうど光学的印象撮影カメラによって撮影されているので、これはこのゾーンが光学的印象撮影カメラによって隠されているとき(特にこのカメラが光学的印象ホルダーである場合)でも同様である。
【0045】
中央装置はまた、別の機能を備えることがあり、例えば、一つの器官について3次元空間の点群を計算して、そこに器官の運動時間(第四の次元)およびその色(第五の次元)を加えることが可能である。
【0046】
中央装置は、複数のアルゴリズムを備える画像処理ソフトを備えてよい。そのようにして、一つまたは二つの2次元カメラから来る画像フロー(flux)をリアルタイムに処理して、ユーザが器官の付近で光学的印象撮影カメラを移動させるのにしたがって、ユーザによって視覚化可能なリアルタイムの第一の3次元再構成を生成することができる。リアルタイムの3次元再構成の全体的なスキーマ、およびデータの組織化(organisation)は、使用するカメラ数に応じて変化する。画像フローの各々が一つの2次元カメラに由来する二つの2次元画像フローであることも、一つの2次元画像フローが、加速度計に由来する加速データフローに組み合わされた単一の2次元カメラに由来することもある。新規に獲得された各画像は、注視点(point d’interet)の計算および画像を介した対応付けによる視覚痕跡探索アルゴリズムによって処理される。リアルタイムのシークエンシングアルゴリズムはその際、対応付けから、より良好な時間的性能のためにビデオフローのシークエンシングを更新する。次に、視覚痕跡によって、空間内のカメラの位置および3次元での点座標の対応推定アルゴリズムは、獲得時のカメラ位置を発見し、視覚痕跡に投影される3次元点群を生成することができる。続いて、生成した点群を補間アルゴリズムによって補間して、より高密度の点群を得る。また、推定上の補間関数(fonction implicite d’interpolation)が算出され、それによって、テクスチャの計算および多角形化アルゴリズムにより、再構成される表面のテクスチャ化された多角形化が得られる。この段階で、最終的な点群の品質指数を計算し、場合によってはいくつかの点を無効としてタグ付けすることができる。場合によってはさらに無効のゾーンを示すのに適した注釈と共に、テクスチャ化した表面を表示する。リアルタイムに生成されたこの表面は、スケールファクタで再構成されたゾーンの表示である。獲得が完了したとき、スケールファクタは3次元再構成スケール化アルゴリズムによって計算される。最後に、空間精度強化アルゴリズムを3次元モデルに使用して、可能な限り忠実な再構成を得ることができる。この強化アルゴリズムは、獲得したビュー全体を考慮して、3次元点群を再計算する。次に、再計算した点群を補間アルゴリズムによって補間し、最後に3次元の全体モデルを「スペースカービング(space carving)」アルゴリズムによって再構成する。
【0047】
本発明にかかる装置はまた、X線写真、比色、または下顎の動きの情報などの補足情報を提供する周辺機器に結合することもできる。
【0048】
これらの周辺機器は好ましくは、光学的印象撮影カメラおよび視覚化カメラと同様に、中央装置に結合されており、したがって中央装置はこれらの周辺機器によって提供される情報を処理し、拡張現実メガネの光学ガラス上に、対応する補足画像を投影することができる。
【0049】
可能な周辺機器は、広視野で患者の顔の部分を撮影するのに適した口腔外カメラである。このカメラは特に、歯列矯正またはインプラント治療のようないくつかの治療で使用される。この口腔外カメラに、光学的印象撮影カメラまたは視覚化カメラについて記載したような機能を結合させることができる(特に、構造化光の使用または不使用など)。
【0050】
別の可能な周辺機器は、例えば歯の色、出血の存在、硬組織の損傷(虫歯の存在)、腫瘍またはいくつかの口腔病理の存在のような、抽出すべき情報が必ずしも精度が高いことを必要としない画像を撮影するのに適した2次元カメラである。
【0051】
また別の可能な周辺機器は、加速度計、ジャイロスコープ、磁力計などの位置測定機器である。またこの位置測定機器を、印象撮影カメラにも(視覚化カメラ用の)拡張現実メガネにも備えることができる。これらの位置測定機器によって、それらを備えるツールの位置を測定し、撮影した画像の相関を容易にすることができる。それらはまた、どちらかのカメラのセンサのうちの一つの万一の故障に備えることも可能である。
【0052】
周辺機器としてはまた、咬合器、圧力ゲージおよびデジタル咬合器を有することも可能である。これらの機器によって、下顎の動きのような患者の身体の動き、または歯茎についてのいくつかの病理学的画像の印象に対する反応を視覚化し、分析し、光学ガラスを通して見られる画像に組み入れることができる。
【0053】
また別の可能な周辺機器は、記憶された歯色についての公知の色を参照して相対的に、または絶対的に歯の色を知ることができる比色計またはスペクトル比色計である。
【0054】
また、手術行為の間、患者の健康状態(例えば、血圧、血液の酸素供給、体温、観察中の病変部の温度)を知ることを可能にする周辺機器を有することも可能である。
【0055】
また、口の器官の画像を撮影し、記録することができる歯科周辺機器(例えば、放射線機器、超音波機器、磁気(MRI)機器、テラヘルツ機器)を有することも可能である。
【0056】
また、その作業時にユーザを助けることを可能にする補足情報をユーザにもたらすことができる周辺機器を有することも可能である(これらの情報は、例えば遠隔診療によって、記憶された機能、あるいはイントラまたはエクストラソフトウェアから出力されることができる)。
【0057】
また、ユーザが光学ガラス上に見る情報を表示することを可能にし、実施されている作業を助手または学生が追うことを可能にするリモートスクリーンを有することも可能である。
【0058】
また、ユーザが見る画像に対応する現実の部品を作製することを可能にするデジタル制御工作器具を有することも可能である。
【0059】
また、(例えば光学ガラス上への情報の出現または消滅について)ユーザが中央装置に命令を与えることができるマイクを有することも可能である(例えばメガネのツルに内蔵される)。
【0060】
ユーザ、助手、学生および/または中央装置とコミュニケートすることを可能にする、または情報、命令、データを転送および格納することを可能にする他のいずれかの周辺機器を有することも可能である。
【0061】
本発明にかかる装置の構成要素全体は、ケーブル、ブルートゥース(登録商標)、またはWifi(登録商標)によって互いに接続される(これらの二つの後者の場合は、ユーザの動作を完全に解放する)。
【0062】
本発明にかかる装置は、その製造において単純であり、そのことにより装置は著しく耐久性のあるものになり、コストは低くなる。それは、歯科医院および歯科補綴研究所で使用することができる。それによって、ユーザは迅速に、安全に、かつ快適に作業することができる。特に、最適な条件で歯科用光学的印象撮影を実施することを可能にする。また、ミクロン単位に匹敵する精度を提供して、治療行為を最適化することができる。
【0063】
装置は、進化した形態では、ユーザに自身の作業、分析および/または測定視野から目を離さないことを課す、迅速かつ正確な操作が必要とされるあらゆる3次元獲得システムに適用される(医療、スポーツまたは産業環境など)。それによって、ユーザがシーンから目を離さないことを可能にし、およびユーザに情報を表示して、ユーザをリアルタイム(またはほとんどリアルタイム)で追い、情報を与えることを可能にする。
【0064】
本発明のその他の特徴および利点は、患者の口内の視覚化装置の一実施態様の記載から明らかになるであろう。ただし、この実施態様は非限定的な例として挙げられており、下記の添付図面を参照して記載される。