(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】
(24)【登録日】2022-07-21
(45)【発行日】2022-07-29
(54)【発明の名称】情報表示装置、情報表示システム、情報表示方法、及び情報表示プログラム
(51)【国際特許分類】
A61C 19/00 20060101AFI20220722BHJP
A61C 19/04 20060101ALI20220722BHJP
【FI】
A61C19/00 Z
A61C19/04 Z
A61C19/00 D
(21)【出願番号】P 2018027363
(22)【出願日】2018-02-19
【審査請求日】2021-01-15
(73)【特許権者】
【識別番号】000141598
【氏名又は名称】株式会社吉田製作所
(74)【代理人】
【識別番号】110001807
【氏名又は名称】特許業務法人磯野国際特許商標事務所
(72)【発明者】
【氏名】内田 祐也
(72)【発明者】
【氏名】友江 剛
(72)【発明者】
【氏名】丸山 直輝
【審査官】細川 翔多
(56)【参考文献】
【文献】特開2017-200537(JP,A)
【文献】特開2001-325357(JP,A)
【文献】特開2018-019772(JP,A)
【文献】特開2013-322(JP,A)
【文献】国際公開第2017/179350(WO,A1)
【文献】特開2010-259497(JP,A)
【文献】特表2017-525522(JP,A)
【文献】米国特許出願公開第2016/0220105(US,A1)
(58)【調査した分野】(Int.Cl.,DB名)
A61C 19/00
A61C 19/04
(57)【特許請求の範囲】
【請求項1】
歯科治療中の術者に治療に関連する情報を表示する情報表示装置であって、
前記情報表示装置は、記憶部と、撮影部と、表示部と、制御部と、を備えており、
前記記憶部は、X線を用いて患者の歯列の少なくとも一部を撮影したX線歯列画像を記憶しており、
前記制御部は、前記撮影部によって撮影した治療中の患者の歯列を抽出し、前記X線歯列画像を当該歯列に重ねた状態で前記表示部に表示するX線歯列画像付加部を備える
とともに、
前記患者の上顎及び下顎の少なくとも何れか一方の位置には、X線を透過しない材料で製造されたマーカが付されており、
前記X線歯列画像付加部は、前記撮影部によって撮影した画像に写る前記マーカを抽出し、前記X線歯列画像に写る前記マーカとマッチングを行うことで前記X線歯列画像を当該歯列に重ねる位置決めを行い、
前記記憶部は、患者毎に前記X線歯列画像と当該患者の患者識別情報とを対応付けて記憶しており、
前記制御部は、
前記撮影部によって撮影した前記マーカに表示される患者識別情報を読み取ることで治療中の患者を認識する患者認識部をさらに備え、
前記X線歯列画像付加部は、前記患者認識部によって認識した患者に紐付いた前記X線歯列画像を前記歯列に重ねた状態で表示する、
ことを特徴とする情報表示装置。
【請求項2】
請求項
1に記載の情報表示装置と、
前記X線歯列画像の撮影を行うX線撮影装置と、
を備えることを特徴とする情報表示システム。
【請求項3】
X線歯列画像の撮影を行うX線撮影装置と、歯科治療中の術者に治療に関連する情報を表示する情報表示装置と、制御装置と、を備える情報表示システムであって、
前記情報表示装置は、撮影部と、表示部と、を備えており、
前記制御装置は、記憶部と、制御部と、を備え、
前記記憶部は、X線を用いて患者の歯列の少なくとも一部を撮影したX線歯列画像を記憶しており、
前記制御部は、前記撮影部によって撮影した治療中の患者の歯列を抽出し、前記X線歯列画像を当該歯列に重ねた状態で前記表示部に表示するX線歯列画像付加部を備える
とともに、
前記患者の上顎及び下顎の少なくとも何れか一方の位置には、X線を透過しない材料で製造されたマーカが付されており、
前記X線歯列画像付加部は、前記撮影部によって撮影した画像に写る前記マーカを抽出し、前記X線歯列画像に写る前記マーカとマッチングを行うことで前記X線歯列画像を当該歯列に重ねる位置決めを行い、
前記記憶部は、患者毎に前記X線歯列画像と当該患者の患者識別情報とを対応付けて記憶しており、
前記制御部は、
前記撮影部によって撮影した前記マーカに表示される患者識別情報を読み取ることで治療中の患者を認識する患者認識部をさらに備え、
前記X線歯列画像付加部は、前記患者認識部によって認識した患者に紐付いた前記X線歯列画像を前記歯列に重ねた状態で表示する、
ことを特徴とする情報表示システム。
【請求項4】
歯科治療中の術者に治療に関連する情報を表示する情報表示方法であって、
X線を用いて患者の歯列の少なくとも一部を撮影することで前記患者のX線歯列画像を作成するX線歯列画像撮影ステップと、
撮影したX線歯列画像と、患者の患者識別情報とを対応付けて記憶するX線歯列画像記憶ステップと、
治療中の患者の顔貌を撮影した画像に写し出される歯列を抽出し、前記X線歯列画像を当該歯列に重ねた状態で表示部に表示するX線歯列画像表示ステップと、を有
し、
前記患者の上顎及び下顎の少なくとも何れか一方の位置には、X線を透過しない材料で製造されたマーカが付されており、
前記X線歯列画像表示ステップでは、治療中に撮影した画像に写る前記マーカを抽出し、当該マーカに表示される患者識別情報に紐づいた前記X線歯列画像を取得し、取得した前記X線歯列画像に写る前記マーカとマッチングを行うことで前記X線歯列画像を当該歯列に重ねる位置決めを行う、
ことを特徴とする情報表示方法。
【請求項5】
請求項
4に記載の情報表示方法を制御手段に実行させるための情報表示プログラム。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、情報表示装置、情報表示システム、情報表示方法、及び情報表示プログラムに係り、特に、歯科治療に関する情報を拡張現実(AR:Augmented Reality)の技術を用いて表示する情報表示装置、情報表示システム、情報表示方法、及び情報表示プログラムに関する。
【背景技術】
【0002】
従来、特許文献1のように、術者の頭部に搭載可能なヘッドマウントディスプレイ装置であって、頭部に搭載された場合に術者の視野内に入るディスプレイを有するものが知られている。このディスプレイには歯科治療に必要な情報が表示され、術者が目線をディスプレイに動かすことだけで必要な情報を読み取ることができる。
【先行技術文献】
【特許文献】
【0003】
【文献】特開2000-060876号公報(請求項1、段落[0009])
【発明の概要】
【発明が解決しようとする課題】
【0004】
しかし、特許文献1に示すヘッドマウントディスプレイ装置では、歯科治療を行う患者の口腔とディスプレイとを交互に見ながら治療を進めなければならない。そのため、術者の思い込みによる治療対象歯の誤認や目視不可能な埋伏歯の誤抜歯などが起こる可能性があった。
【0005】
本発明は、前記した事情に鑑みてなされたものであり、歯科治療のミスを低減することができる情報表示装置、情報表示システム、情報表示方法、及び情報表示プログラムを提供することを課題とする。
【課題を解決するための手段】
【0006】
前記課題を解決するため、歯科治療中の術者に治療に関連する情報を表示する情報表示装置であって、前記情報表示装置は、記憶部と、撮影部と、表示部と、制御部と、を備えており、前記記憶部は、X線を用いて患者の歯列の少なくとも一部を撮影したX線歯列画像を記憶しており、前記制御部は、前記撮影部によって撮影した治療中の患者の歯列を抽出し、前記X線歯列画像を当該歯列に重ねた状態で前記表示部に表示するX線歯列画像付加部を備えるとともに、前記患者の上顎及び下顎の少なくとも何れか一方の位置には、X線を透過しない材料で製造されたマーカが付されており、前記X線歯列画像付加部は、前記撮影部によって撮影した画像に写る前記マーカを抽出し、前記X線歯列画像に写る前記マーカとマッチングを行うことで前記X線歯列画像を当該歯列に重ねる位置決めを行い、前記記憶部は、患者毎に前記X線歯列画像と当該患者の患者識別情報とを対応付けて記憶しており、前記制御部は、前記撮影部によって撮影した前記マーカに表示される患者識別情報を読み取ることで治療中の患者を認識する患者認識部をさらに備え、前記X線歯列画像付加部は、前記患者認識部によって認識した患者に紐付いた前記X線歯列画像を前記歯列に重ねた状態で表示する。
【発明の効果】
【0007】
本発明は、歯科治療のミスを低減することができる。
【図面の簡単な説明】
【0008】
【
図1】本発明の第1の実施形態に係る情報表示システムの概略構成図である。
【
図2】本発明の第1の実施形態に係るX線CT(Computer Tomography)装置の外観斜視図である。
【
図3】X線CT装置による撮影状況を示す図である。
【
図5】本発明の第1の実施形態に係る管理用端末のブロック図である。
【
図6】治療シミュレーションを行った後のX線CT画像の模式図である。
【
図8】本発明の第1の実施形態に係る情報表示装置のブロック図である。
【
図9】X線CT画像のオーバーレイ表示の例示である。
【
図10】本発明の第1の実施形態に係る情報表示システムの動作を示すフローチャートである。
【
図11】本発明の第1の実施形態に係る情報表示システムの動作を示すフローチャートである。
【
図12】本発明の第2の実施形態に係る情報表示システムの概略構成図である。
【
図13】X線CT装置による撮影状況を示す図である。
【
図15】本発明の第2の実施形態に係る管理用端末のブロック図である。
【
図16】本発明の第2の実施形態に係る情報表示装置のブロック図である。
【
図17】X線CT画像のオーバーレイ表示の例示である。
【
図18】本発明の第2の実施形態に係る情報表示システムの動作を示すフローチャートである。
【
図19】本発明の第2の実施形態に係る情報表示システムの動作を示すフローチャートである。
【発明を実施するための形態】
【0009】
以下、図面を参照して、本発明の実施形態について詳細に説明する。各図は、本発明を十分に理解できる程度に、概略的に示してあるに過ぎない。よって、本発明は、図示例のみに限定されるものではない。なお、各図において、共通する構成要素や同様な構成要素については、同一の符号を付し、それらの重複する説明を省略する。
【0010】
[第1の実施形態]
本発明の第1の実施形態に係る情報表示システム1について、
図1から
図11を参照しながら詳細に説明する。
【0011】
情報表示システム1は、拡張現実(AR:Augmented Reality)の技術を利用して、X線を用いて患者の口腔内を撮影したX線画像(特に、歯列を撮影したX線歯列画像)を治療中の患者にオーバーレイ表示するものである。ここでのオーバーレイ表示は、治療中に術者が装着する情報表示装置4を介して行われる。X線画像は、3次元画像又は2次元画像であってよく、また歯列の一部(例えば、特定の歯)を撮影した画像であってもよい。
【0012】
情報表示システム1では、X線画像に加えて治療シミュレーションの内容をオーバーレイ表示することもできる。ここでの治療シミュレーションは、例えば、インプラント治療におけるボルトのサイズが適切か否かを判定するものである。治療シミュレーションの内容は、X線画像に組み込まれていてもよいし、X線画像とは別の画像(治療シミュレーション画像)であってもよい。
【0013】
<全体構成>
情報表示システム1は、例えば、
図1に示すように、患者の口腔(特に、歯列)を撮影するX線CT(Computer Tomography)装置2と、患者の情報を管理する管理用端末3と、X線画像をオーバーレイ表示する情報表示装置4と、を備えている。
【0014】
<X線CT装置>
X線CT装置2は、例えば、
図2に示すように、本体部21と、昇降部22と、スキャナ23と、を備えている。
【0015】
本体部21は、X線CT装置2の本体となる部分である。本体部21は、土台21aと、土台21aの後部に垂設された柱部21bと、土台21aの前部に設置された患者用の椅子21cと、患者の頭部を固定する頭部固定機構21dとを備える。なお、
図2では患者の図示を省略している。
【0016】
頭部固定機構21dは、摺動運動と回転運動とを組み合わせた構造になっており、リンク21da,21db,21dcを備えたリンク機構として構成されている。リンク21dcの先端には患者の頭部を固定する患者固定具21ddが設けられている。頭部固定機構21dによって患者の頭部を固定した状態を
図3に示す。
【0017】
昇降部22は、柱部21bを昇降する構成要素である。昇降部22は、スキャナ23を支持するスキャナ支持部22aと、スキャナ23の位置を患者の口腔に合わせるための位置付け部22bと、可視光線を用いて患者の顔を撮影する可視光カメラ22cと、を備えている。
【0018】
スキャナ支持部22aの内部には、スキャナ23を回動させる回動機構が収納されており、上下方向を回転軸としてスキャナ23を回動させる。
【0019】
位置付け部22bは、前方に位置合わせ用のビーム(例えば、レーザ光線)を照射する部分である。位置付け部22bから照射されるビームは、前後および左右の線分で構成される平面(水平面)に対して平行であり、スキャナ23の上下方向の位置合わせに使用される。
【0020】
可視光カメラ22cは、可視光線を用いて患者の顔を撮影する構成要素である。可視光カメラ22cは、例えば、患者の顔を正面から撮影し、患者を正面から観た顔貌(正貌)の顔貌画像Paを作成する。可視光カメラ22cで撮影した顔貌画像Paは、患者を特定するために使用される。なお、顔貌画像Paは、例えば、患者の目、鼻、口、耳などの形状や配置が分かるものであればよく、患者を撮影する方向やタイミングは特に限定されない。
【0021】
スキャナ23は、X線を用いて患者の口腔内(特に、上顎歯列及び下顎歯列)を撮影する構成要素である。スキャナ23は、X線源とX線撮像手段とを内部に備えており、回動しながら撮影を行うことが可能である。スキャナ23が回動しながら撮影した画像データを合わせることで、上顎歯列及び下顎歯列の3次元のボリュームデータであるX線CT画像Qaとなる(
図4参照)。このX線CT画像Qaは、上顎骨側画像Qaaと、下顎骨側画像Qabとで構成されている。
【0022】
<管理用端末>
管理用端末3は、管理用のPC(Personal Computer)であり、例えば、
図5に示すように、入力部31と、表示部32と、通信部33と、記憶部34と、制御部35と、を備えている。
【0023】
入力部31は、例えばキーボードやマウスであり、術者によって様々な情報が入力される。表示部32は、例えば液晶ディスプレイであり、術者に対して様々な情報を表示する。通信部33は、例えば有線又は無線通信モジュールであり、X線CT装置2や情報表示装置4との間で様々な情報を通信する(
図1参照)。
【0024】
記憶部34は、例えばHDD(hard disk drive)やメモリであって、患者情報DB34aが記憶されている。患者情報DB34aには、患者に関する情報(X線CT画像Qaのオーバーレイ表示に必要な情報を含む)が記憶されている。患者情報DB34aは、例えば、患者識別情報(例えば、一意の番号)に対応づけて患者の氏名、年齢、性別などの情報が登録されている。また、患者識別情報に対応づけて患者の顔貌画像Pa、顔貌画像の特徴点、X線CT画像Qa、X線CT画像の特徴点などが登録されている。なお、患者情報DB34aには、治療シミュレーションを行ったことを示すフラグや治療シミュレーションの内容が登録されていてもよい。また、これらの情報の一部または全部は、管理用端末3以外の装置に記憶され、管理用端末3が必要に応じてネットワークを介して情報を取得してもよい。
【0025】
制御部35は、例えばCPU(Central Processing Unit)であって、プログラム実行処理によって患者情報管理部35aと、治療シミュレーション処理部35bと、を実現する。これらの機能を実現するためのプログラムは、例えば、記憶部34に格納される。なお、これらのプログラムは、管理用端末3以外の装置に記憶され、管理用端末3が必要に応じてネットワークを介してプログラムを取得してもよい。
【0026】
患者情報管理部35aは、患者情報DB34aに関する処理を行う。患者情報管理部35aは、例えば、術者によって入力された患者の情報を患者情報DB34aに登録する。また、患者情報管理部35aは、X線CT装置2から顔貌画像Pa及びX線CT画像Qaを受信し、患者識別情報に対応付けて顔貌画像Pa及びX線CT画像Qaを患者情報DB34aに登録する。また、患者情報管理部35aは、顔貌画像Pa及びX線CT画像Qaからそれぞれ特徴点を抽出し、患者識別情報に対応付けて顔貌画像Paの特徴点及びX線CT画像Qaの特徴点を患者情報DB34aに登録する。
【0027】
治療シミュレーション処理部35bは、歯科治療のシミュレーションを実現するものである。歯科治療のシミュレーションは、例えば、インプラント治療におけるボルトのサイズが適切か否かを判定するものであり、術者の操作によってX線CT画像Qaを用いて行われる。治療シミュレーション処理部35bは、治療シミュレーションの内容を患者情報DB34a(特に、X線CT画像Qa)に登録する。X線CT画像Qaに治療シミュレーション画像Raを組み込んだ状態を
図6に示す。ここでの治療シミュレーション画像Raは人工歯(デンタルインプラント)である。
【0028】
<情報表示装置>
情報表示装置4は、X線CT画像Qaを治療中の患者に重ねて表示(オーバーレイ表示)するものである。情報表示装置4は、拡張現実技術を用いてX線CT画像Qaをオーバーレイ表示できるものであればよく、特に種類を限定するものではない。情報表示装置4は、例えば、
図7に示すように、術者の頭部に装着されるヘッドマウントディスプレイ(HMD:Head Mounted Display)や手に持って操作するモバイル端末などである。ここでは、情報表示装置4として、ビデオキャプチャを用いて信号レベルで画像にX線CT画像Qaを合成する方式(ビデオシースルー方式)のヘッドマウントディスプレイを想定して説明する。
【0029】
情報表示装置4は、例えば、
図8に示すように、撮影部41と、表示部42と、通信部43と、記憶部44と、制御部45と、を備えている。なお、制御部45は、特許請求の範囲の「制御手段」の一例である。
【0030】
撮影部41は、例えばCMOS(Complementary metal-oxide-semiconductor)イメージセンサやCCD(Charged-coupled devices)イメージセンサを備えるカメラである。撮影部41は、術者に装着された状態で術者の目線方向の映像(画像を含む。以下同じ。)を撮影するように設置されている。
【0031】
表示部42は、例えば、液晶ディスプレイや有機ELディスプレイである。表示部42は、術者に装着された状態で術者の視野を遮るように配置されている。表示部42には、撮影部41で撮影された映像が表示される。また、表示部42には、撮影部41で撮影された患者の映像に重ねてX線CT画像Qaがオーバーレイ表示される(
図9参照)。X線CT画像Qaのオーバーレイ表示方法は特に限定されるものではなく、撮影部41で撮影された患者の映像とX線CT画像Qaとが判別可能に表示されるものであればよい。例えば、表示部42には、X線CT画像Qaを半透明の状態でオーバーレイ表示される。
【0032】
通信部43は、例えば有線又は無線通信モジュールであり、管理用端末3との間で様々な情報を通信する(
図1参照)。
【0033】
記憶部44は、例えばメモリであって、付加情報DB44aが記憶されている。付加情報DB44aには、X線CT画像Qaのオーバーレイ表示に必要な情報が記憶されている。付加情報DB44aには、例えば、患者情報DB34aに記憶される情報の内で治療を行う患者の情報が登録されている。
【0034】
制御部45は、例えばCPU(Central Processing Unit)であって、プログラム実行処理によって患者認識部45aと、X線歯列画像取得部45bと、X線歯列画像付加部45cと、を実現する。これらの機能を実現するためのプログラムは、例えば、記憶部44に格納される。なお、これらのプログラムは、情報表示装置4以外の装置に記憶され、情報表示装置4が必要に応じてネットワークを介してプログラムを取得してもよい。
【0035】
患者認識部45aは、撮影部41によって撮影された顔貌画像Pb(例えば、治療開始時の画像であり映像の一部)から患者の顔貌の特徴点を抽出し、その情報をキーにして患者情報DB34aを検索して該当する患者を判別する。
【0036】
X線歯列画像取得部45bは、判別した患者に紐付いたX線CT画像QaおよびX線CT画像Qaの特徴点を管理用端末3から取得し、取得したこれらの情報を付加情報DB44aに登録する。
【0037】
X線歯列画像付加部45cは、撮影部41によって撮影された顔貌画像Pc(例えば、治療中の画像であり映像の一部)から患者の歯列形状の特徴点を抽出する。特徴点を抽出する範囲は特に限定されない。例えば、全ての歯の特徴点を抽出してもよいし、数本の歯の特徴点を抽出してもよい。上顎および下顎の何れか一方を患者に重ねて表示する場合、X線歯列画像付加部45cは、表示する上顎または下顎の歯列形状の特徴点を抽出する。また、上顎および下顎の両方を患者に重ねて表示する場合、X線歯列画像付加部45cは、上顎および下顎のそれぞれから特徴点を抽出するのがよい。なお、一本の歯の特徴点を抽出してもよいが、その後のマッチング処理の精度を考えた場合に、複数本の歯の特徴点を抽出するのが望ましい。
【0038】
また、X線歯列画像付加部45cは、X線CT画像Qaと顔貌画像Pcに写る歯列の特徴点とをマッチングし、マッチングの結果にしたがって患者の歯列上にX線CT画像Qaをオーバーレイ表示する(
図9参照)。X線歯列画像付加部45cは、顔貌画像Pcに写る歯列とX線CT画像Qaとが判別可能にオーバーレイ表示すればよく、例えば、X線CT画像Qaを半透明の状態で表示する。X線歯列画像付加部45cは、オーバーレイ表示に際して、顔貌画像Pcにおける口の開き方に合わせて、X線CT画像Qaにおける上顎骨側画像Qaaと下顎骨側画像Qabとの位置を調整するのがよい。X線歯列画像付加部45cは、治療シミュレーション画像Ra(
図6参照)を顔貌画像Pcに写る歯列にさらにオーバーレイ表示してもよい。なお、オーバーレイ表示したX線CT画像Qaは、例えば、術者の操作によって表示/非表示の切り換えを行えるようにしてもよい。
【0039】
本実施形態では管理用端末3と情報表示装置4とを別々の装置として説明したが、情報表示装置4に管理用端末3の一部又は全部の機能が含まれていてもよい。つまり、情報表示装置4が、患者情報DB34a、患者情報管理部35a、治療シミュレーション処理部35bなどの機能を備えていてもよい。
【0040】
<第1の実施形態に係る情報表示システムの動作>
次に、本発明の第1の実施形態に係る情報表示システム1の動作について、
図10から
図11を参照しながら詳細に説明する(適宜、
図1から
図9を参照)。ここでは、情報表示システム1の動作を「事前処理(
図10参照)」と「治療時処理(
図11参照)」との二つに分けて説明を行う。
【0041】
≪事前処理≫
<S1:患者情報登録>
最初に、術者は、管理用端末3を操作して、患者の情報の登録を行う(S1)。この処理では、例えば、患者の氏名、年齢、性別などの情報が入力され、これらの情報に患者識別情報(例えば、一意の番号)を対応づけて管理用端末3の患者情報DB34aに登録する。
【0042】
<S2:顔貌撮影>
次に、術者は患者をX線CT装置2に誘導し、可視光カメラ22cを用いて患者の顔貌の撮影を行う(S2)。この処理で撮影された患者の顔貌画像Paは、管理用端末3に送られる。
【0043】
<S3:顔貌画像の特徴点抽出>
次に、管理用端末3の患者情報管理部35aは、可視光カメラ22cによって撮影された患者の顔貌画像Paの特徴点を抽出する(S3)。
【0044】
<S4:X線CT撮影>
次に、術者は、スキャナ23を用いて患者の口腔内の撮影を行う(S4)。この処理で撮影されたX線CT画像Qaは、管理用端末3に送られる。
【0045】
<S5:X線CT画像の特徴点抽出>
次に、管理用端末3の患者情報管理部35aは、患者の口腔内のX線CT画像Qaの特徴点を抽出する(S5)。
【0046】
<S6:データの紐付け>
次に、管理用端末3の患者情報管理部35aは、患者識別情報に対応づけて、顔貌画像Pa、顔貌画像Paの特徴点、X線CT画像Qa、X線CT画像Qaの特徴点を患者情報DB34aに記憶する。つまり、ここでは、顔貌画像Paに関する情報とX線CT画像Qaに関する情報との紐付けが行われる(S6)。
【0047】
<S7,S8:治療シミュレーション>
次に、術者は、治療シミュレーションの実施が必要であるか否かを判断し、必要に応じて撮影したX線CT画像Qaを用いてシミュレーションを行う(S7,S8)。これにより、X線CT画像Qaには、治療シミュレーション画像Raが組み込まれる。治療シミュレーションを行った場合に、治療シミュレーション後のX線CT画像Qaの特徴点を再度抽出するようにしてもよい。
【0048】
治療シミュレーション画像RaをX線CT画像Qaに組み込まずに、X線CT画像Qaと治療シミュレーション画像Raとを別々の情報として管理してもよい。その場合、患者識別情報に対応付けて治療シミュレーション画像Raを管理する。
【0049】
なお、ここでは患者の顔貌の撮影を行った後にX線CT撮影を行う場合を示しているが、これらの処理の順番は特に限定されない。例えば、X線CT撮影を行った後に顔貌の撮影を行ってもよいし、顔貌の撮影とX線CT撮影とを同時に行ってもよい。また、顔貌画像PaやX線CT画像Qaの特徴点を抽出するタイミングもここで示したものに限定されない。
【0050】
≪治療時処理≫
<S11:患者の確認>
図10に示す事前処理に続いて、術者は、患者を図示しない歯科用医療機器(例えば、診察台)に誘導する。そして、術者は、情報表示装置4(デバイス)を装着した状態で患者の顔を見る。情報表示装置4の撮影部41は、術者の目線方向にある患者の顔貌の映像を撮影する(S11)。
【0051】
<S12:患者の判別>
次に、情報表示装置4の患者認識部45aは、情報表示装置4の撮影部41によって撮影された顔貌画像Pbから患者の顔貌の特徴点を抽出し、その情報をキーにして患者情報DB34aを検索して該当する患者を判別する(S12)。
【0052】
なお、情報表示装置4の撮影部41によって撮影された顔貌画像Pbを管理用端末3に送信し、管理用端末3が患者の顔貌の特徴点を抽出してもよい。
【0053】
<S13:該当する患者のX線CT画像の呼び出し>
次に、情報表示装置4のX線歯列画像取得部45bは、管理用端末3から判別した患者に紐付いたX線CT画像QaおよびX線CT画像Qaの特徴点を取得する(S13)。
【0054】
<S14:歯列形状の特徴点抽出>
次に、術者は、患者に口を開いてもらい、情報表示装置4の撮影部41は、術者の目線方向にある患者の顔貌画像Pc(歯列の映像を含む)を撮影する。情報表示装置4のX線歯列画像付加部45cは、顔貌画像Pcに写る歯列形状から特徴点を抽出する(S14)。
【0055】
<S15:特徴点のマッチング>
次に、情報表示装置4のX線歯列画像付加部45cは、X線CT画像Qaの特徴点と顔貌画像Pcに写る患者の歯列の特徴点とをマッチングする(S15)。
【0056】
<S16:X線CT画像のオーバーレイ表示>
次に、情報表示装置4のX線歯列画像付加部45cは、マッチングの結果にしたがって患者の歯列上にX線CT画像Qaをオーバーレイ表示する(S16)。
【0057】
以上のように構成された本発明の第1の実施形態に係る情報表示システム1は、以下のような作用効果を奏する。
つまり、情報表示システム1は、拡張現実技術を用いて、患者の口腔内を撮影した映像(顔貌画像Pc)に写る歯列にX線CT画像Qaを重ねて表示する。そのため、術者の思い込みによる治療対象歯の誤認や目視不可能な埋伏歯の誤抜歯などの歯科治療のミスを低減することができる。また、術者がX線CT画像Qaを確認する場合でも視線を患者の口腔内から外す必要がないので、実際に見ている歯とX線CT画像Qaに写る歯との対応を瞬時に把握することができる。そのため、術者の負担を軽減することができる。
【0058】
また、情報表示システム1では、治療中に撮影した映像(顔貌画像Pc)に写る患者の歯列の特徴点と、事前に撮影したX線CT画像Qaの特徴点とをマッチングすることで歯列にX線CT画像Qaを重ねて表示する。そのため、事前の準備が簡易である。
【0059】
また、情報表示システム1では、上顎および下顎の何れか一方を患者に重ねて表示する場合、X線歯列画像付加部45cは、表示する上顎または下顎の歯列形状の特徴点を抽出する。また、上顎および下顎の両方を患者に重ねて表示する場合、X線歯列画像付加部45cは、上顎および下顎のそれぞれから特徴点を抽出する。そのため、歯列の特徴点と、X線CT画像Qaの特徴点とをマッチングすることで、X線CT画像Qaを口の開閉動作に追随させることができる。
【0060】
また、情報表示システム1では、治療開始時に撮影した映像(顔貌画像Pb)に写る患者の顔貌の特徴点と、事前に撮影した顔貌画像Paの特徴点とを比較することで治療を行う患者を特定する。そして、その特定した患者のX線CT画像Qaを取得し、取得したX線CT画像Qaを歯列に重ねて表示する。つまり、術者が、治療開始時に患者の顔を撮影することで正確に患者を特定することが可能である。そのため、術者が患者の特定を行う必要がなく、術者の負担を軽減することができる。
【0061】
[第2の実施形態]
本発明の第2の実施形態に係る情報表示システム1Aについて、
図12から
図19を参照しながら詳細に説明する。
【0062】
第1の実施形態に係る情報表示システム1では、治療中に撮影した映像(顔貌画像Pc)に写る患者の歯列の特徴点と、事前に撮影したX線CT画像Qaの特徴点とをマッチングすることで歯列にX線CT画像Qaを重ねて表示していた。本実施形態では、患者の顔にマーカMnを付した状態でX線CT画像Qaを事前に撮影し、治療中に撮影した映像(顔貌画像Pc)に写るマーカMnと、事前に撮影したX線CT画像Qaに写るマーカMnとをマッチングすることで歯列にX線CT画像Qaを重ねて表示する。
【0063】
また、第1の実施形態に係る情報表示システム1では、治療開始時に撮影した映像(顔貌画像Pb)に写る患者の顔貌の特徴点と、事前に撮影した顔貌画像Paの特徴点とを比較することで治療を行う患者を特定していた。本実施形態でも第1の実施形態と同様の方法により治療を行う患者を特定することも可能であるが、ここではマーカMnに患者を特定する情報を付しておき、治療開始時に撮影した映像(顔貌画像Pb)に写るマーカMnに付される情報を読み取ることで患者を特定する。
【0064】
第2の実施形態に係る情報表示システム1Aは、例えば、
図12に示すように、患者の口腔(特に、歯列)を撮影するX線CT装置2と、患者の情報を管理する管理用端末3Aと、X線画像をオーバーレイ表示する情報表示装置4Aと、を備えている。また、患者にはマーカMnが付されている。以下では、第1の実施形態と相違する部分を中心に説明する。
【0065】
<X線CT装置>
X線CT装置2は、可視光カメラ22cによる患者の顔貌画像Paの撮影を行わず、スキャナ23を用いてマーカMnを付した患者のX線CT画像Qaの撮影のみを行う。第2の実施形態におけるX線CT画像Qaの撮影風景を
図13に示す。また、第2の実施形態におけるX線CT画像Qaを
図14に示す。
【0066】
マーカMnは、X線を透過しない材料で製造されているのがよく、見る方向によってマーカMnの見え方(形状)が変化するものが望ましい。そのため、マーカMnは、例えば、球状よりも直方体状であるのがよい。
【0067】
マーカMnの数やマーカMnを固定する位置は任意に設定することができる。なお、マーカMnの数が一つだと口の開閉に対応できない(口を開いているのか閉じているのかが分からない)ので、口の開閉動作に追随できるように、上顎及び下顎に少なくとも一つ以上のマーカMnを固定するのが好ましい。また、マーカMnを固定する位置は、口を開閉させた場合に歯列に対する位置が動かない部分(距離が一定である部分)であると共に、治療の邪魔にならない場所であるのが好ましい。そのため、例えば、
図13に示すように、マーカMnを鼻及び顎先に一つずつ固定するとよい。
【0068】
<管理用端末>
管理用端末3Aは、管理用のPC(Personal Computer)であり、例えば、
図15に示すように、入力部31と、表示部32と、通信部33と、記憶部34と、制御部35と、を備えている。
【0069】
記憶部34は、例えばHDD(hard disk drive)やメモリであって、患者情報DB34aAが記憶されている。患者情報DB34aAには、患者に関する情報(X線CT画像Qaのオーバーレイ表示に必要な情報を含む)が記憶されている。患者情報DB34aAは、例えば、患者識別情報(例えば、一意の番号)に対応づけて患者の氏名、年齢、性別などの情報が登録されている。また、患者識別情報に対応づけて患者のX線CT画像Qaなどが登録されている。なお、患者情報DB34aには、治療シミュレーションを行ったことを示すフラグや治療シミュレーションの内容が登録されていてもよい。また、これらの情報の一部または全部は、管理用端末3A以外の装置に記憶され、管理用端末3Aが必要に応じてネットワークを介して情報を取得してもよい。
【0070】
制御部35は、例えばCPU(Central Processing Unit)であって、プログラム実行処理によって患者情報管理部35aAと、治療シミュレーション処理部35bと、を実現する。これらの機能を実現するためのプログラムは、例えば、記憶部34に格納される。なお、これらのプログラムは、管理用端末3A以外の装置に記憶され、管理用端末3Aが必要に応じてネットワークを介してプログラムを取得してもよい。
【0071】
患者情報管理部35aAは、患者情報DB34aAに関する処理を行う。患者情報管理部35aAは、例えば、術者によって入力された患者の情報を患者情報DB34aに登録する。また、患者情報管理部35aAは、X線CT装置2からマーカMnを付した患者のX線CT画像Qaを受信し、患者識別情報に対応付けてX線CT画像Qaを患者情報DB34aAに登録する。
【0072】
<情報表示装置>
情報表示装置4Aは、例えば、
図16に示すように、撮影部41と、表示部42と、通信部43と、記憶部44と、制御部45と、を備えている。なお、制御部45は、特許請求の範囲の「制御手段」の一例である。
【0073】
記憶部44は、例えばメモリであって、付加情報DB44aAが記憶されている。付加情報DB44aAには、X線CT画像Qaのオーバーレイ表示に必要な情報が記憶されている。付加情報DB44aAには、例えば、患者情報DB34aAに記憶される情報の内で治療を行う患者の情報が登録されている。
【0074】
制御部45は、例えばCPU(Central Processing Unit)であって、プログラム実行処理によってマーカ認識部45aAと、X線歯列画像取得部45bAと、X線歯列画像付加部45cAと、を実現する。これらの機能を実現するためのプログラムは、例えば、記憶部44に格納される。なお、これらのプログラムは、情報表示装置4A以外の装置に記憶され、情報表示装置4Aが必要に応じてネットワークを介してプログラムを取得してもよい。
【0075】
マーカ認識部45aAは、撮影部41によって撮影された顔貌画像Pb(例えば、治療開始時の画像であり映像の一部)からマーカMnを抽出し、そのマーカMnに表示される情報(例えば、患者識別情報)を読み取る。そして、マーカ認識部45aAは、読み取った情報をキーにして患者情報DB34aAを検索して該当する患者を判別する。
【0076】
X線歯列画像取得部45bAは、判別した患者に紐付いたX線CT画像Qaを管理用端末3Aから取得し、取得した情報を付加情報DB44aAに登録する。
【0077】
X線歯列画像付加部45cAは、撮影部41によって撮影された顔貌画像Pc(例えば、治療中の画像であり映像の一部)から患者に付されたマーカMnを抽出する。また、X線歯列画像付加部45cAは、X線CT画像Qaに写るマーカMnと顔貌画像Pcに写るマーカMnとをマッチングし、マッチングの結果にしたがって患者の歯列上にX線CT画像Qaをオーバーレイ表示する(
図17参照)。X線歯列画像付加部45cAは、顔貌画像Pcに写る歯列とX線CT画像Qaとが判別可能にオーバーレイ表示すればよく、例えば、X線CT画像Qaを半透明の状態で表示する。X線歯列画像付加部45cAは、治療シミュレーション画像Ra(
図6参照)を顔貌画像Pcに写る歯列にさらにオーバーレイ表示してもよい。なお、オーバーレイ表示したX線CT画像Qaは、例えば、術者の操作によって表示/非表示の切り換えを行えるようにしてもよい。
【0078】
本実施形態では管理用端末3Aと情報表示装置4Aとを別々の装置として説明したが、情報表示装置4Aに管理用端末3Aの一部又は全部の機能が含まれていてもよい。つまり、情報表示装置4Aが、患者情報DB34aA、患者情報管理部35aA、治療シミュレーション処理部35bなどの機能を備えていてもよい。
【0079】
<第2の実施形態に係る情報表示システムの動作>
次に、本発明の第2の実施形態に係る情報表示システム1Aの動作について、
図18から
図19を参照しながら詳細に説明する(適宜、
図12から
図17を参照)。ここでは、情報表示システム1Aの動作を「事前処理(
図18参照)」と「治療時処理(
図19参照)」との二つに分けて説明を行う。
【0080】
≪事前処理≫
<T1:患者情報登録>
最初に、術者は、管理用端末3Aを操作して、患者の情報の登録を行う(T1)。この処理では、例えば、患者の氏名、年齢、性別などの情報が入力され、これらの情報に患者識別情報(例えば、一意の番号)を対応づけて管理用端末3Aの患者情報DB34aAに登録する。
【0081】
<T2:マーカ固定>
次に、術者は患者をX線CT装置2に誘導し、患者の顔の一部にマーカMnを固定する(T2)。マーカMnは、X線を透過しない材料で製造されている。
【0082】
<T3:X線CT撮影>
次に、術者は、スキャナ23を用いて患者の口腔内の撮影を行う(T3)。この処理で撮影されたX線CT画像Qaは、管理用端末3Aに送られる。
【0083】
<T4,T5:治療シミュレーション>
次に、術者は、治療シミュレーションの実施が必要であるか否かを判断し、必要に応じて撮影したX線CT画像Qaを用いてシミュレーションを行う(T4,T5)。これにより、X線CT画像Qaには、治療シミュレーション画像Raが組み込まれる。
【0084】
治療シミュレーション画像RaをX線CT画像Qaに組み込まずに、X線CT画像Qaと治療シミュレーション画像Raとを別々の情報として管理してもよい。その場合、患者識別情報に対応付けて治療シミュレーション画像Raを管理する。
【0085】
≪治療時処理≫
<T11:マーカの認識>
図18に示す事前処理に続いて、術者は、患者を図示しない歯科用医療機器(例えば、診察台)に誘導する。そして、術者は、情報表示装置4A(デバイス)を装着した状態で患者の顔を見る。情報表示装置4Aの撮影部41は、術者の目線方向にある患者の顔に付されるマーカMnの映像(顔貌画像Pb)を撮影し、マーカ認識部45aAが撮影部41によって撮影された顔貌画像Pbに写るマーカMnに表示される情報(例えば、患者識別情報)を読み取る(T11)。
【0086】
<T12:該当する患者のX線CT画像の呼び出し>
次に、情報表示装置4AのX線歯列画像取得部45bAは、管理用端末3Aから判別した患者に紐付いたX線CT画像Qaを取得する(T12)。
【0087】
<T13:マーカのマッチング>
次に、情報表示装置4AのX線歯列画像付加部45cAは、X線CT画像QaのマーカMnと治療中に撮影した顔貌画像Pcに写る患者に付されたマーカMnとをマッチングする(T13)。
【0088】
<T14:X線CT画像のオーバーレイ表示>
次に、情報表示装置4のX線歯列画像付加部45cAは、マッチングの結果にしたがって患者の歯列上にX線CT画像Qaをオーバーレイ表示する(T14)。
【0089】
なお、ここでは、マーカMnに表示される情報(例えば、患者識別情報)を読み取り(T11)、読み取った情報を用いてX線CT画像Qaを取得している(T12)。しかしながら、患者の特定方法はこれに限定されず、術者がマーカMnに表示される情報を手入力し、その入力された情報を用いてX線CT画像Qaを取得してもよい。その場合、X線CT画像Qaを読み出した後でマーカMnを認識してもよい。
【0090】
以上のように構成された本発明の第2の実施形態に係る情報表示システム1Aは、第1の実施形態と同様の作用効果を奏する。
つまり、情報表示システム1Aは、拡張現実技術を用いて、患者の口腔内を撮影した映像(顔貌画像Pc)に写る歯列にX線CT画像Qaを重ねて表示する。そのため、術者の思い込みによる治療対象歯の誤認や目視不可能な埋伏歯の誤抜歯などの歯科治療のミスを低減することができる。また、術者がX線CT画像Qaを確認する場合でも視線を患者の口腔内から外す必要がないので、実際に見ている歯とX線CT画像Qaに写る歯との対応を瞬時に把握することができる。そのため、術者の負担を軽減することができる。
【0091】
また、情報表示システム1Aでは、治療中に撮影した映像(顔貌画像Pc)に写る患者のマーカMnと、事前に撮影したX線CT画像QaのマーカMnとをマッチングすることで歯列にX線CT画像Qaを重ねて表示する。そのため、歯列の特徴点を抽出してマッチングを行う場合に比べて処理量を少なく抑えることができる。
【0092】
また、情報表示システム1Aでは、治療開始時に撮影した映像(顔貌画像Pb)に写るマーカMnに表示される患者識別情報を読み取ることで治療を行う患者を特定する。そして、その特定した患者のX線CT画像Qaを取得し、取得したX線CT画像Qaを歯列に重ねて表示する。つまり、術者が、治療開始時に患者の顔に付されたマーカMnを撮影することで正確に患者を特定することが可能である。そのため、術者が患者の特定を行う必要がなく、術者の負担を軽減することができる。
【0093】
[変形例]
以上、本発明の実施形態について説明したが、本発明は、前記した実施形態に限定されず、適宜変更して実施することが可能である。
【0094】
第1の実施形態の情報表示システム1は、
図8に示すように、情報表示装置4が記憶部44および制御部45を備え、記憶部44に記憶される付加情報DB44aを用いて、制御部45がX線CT画像Qaを治療中の患者に重ねて表示(オーバーレイ表示)していた。つまり、制御部45は、患者認識部45aと、X線歯列画像取得部45bと、X線歯列画像付加部45cと、を有していた。しかしながら、本発明の構成はこれに限定されず、例えば、
図1に示す管理用端末3(「制御装置」の一例)でX線CT画像Qaを治療中の患者に重ねて表示(オーバーレイ表示)してもよい。つまり、本実施形態の情報表示装置4が有する付加情報DB44aや制御部45の一部または全部の機能を情報表示装置4とは別の管理用端末3(制御装置)が備える構成であってもよい。その場合、管理用端末3(制御装置)は、例えば情報表示装置4から撮影部41で撮影した顔貌画像Pcを受信し、顔貌画像Pcに写る歯列にX線CT画像Qaを重ねた画像を情報表示装置4に送信する。第2の実施形態に係る情報表示システム1Aについても同様である。なお、この場合の管理用端末3,3A(制御装置)は、特許請求の範囲の「制御手段」の一例である。
【0095】
また、各実施形態では、オーバーレイ表示する画像としてX線CT画像Qaを想定していたが、パノラマ画像であってもよい。
【0096】
また、各実施形態では、情報表示装置4,4Aとしてビデオシースルー方式のヘッドマウントディスプレイを想定していたが、ヘッドマウントディスプレイの種類はこれに限定されるものではない。例えば、透明な板状部品(コンバイナ)にX線CT画像Qaを重ねる光学シースルー方式のものであってもよい。また、操作者の網膜上で弱レーザ光を走査する網膜投影型のものであってもよい。
【0097】
情報表示装置4,4Aがこれらの種類のものである場合、X線歯列画像付加部45c,45cAは、例えば、撮影部41で撮影した映像から術者の目線における患者の歯列の位置を算出し、表示部42の該当位置にX線CT画像Qaを表示する。つまり、この場合におけるオーバーレイ表示では、表示部42(透明な板状部品や網膜)にX線CT画像Qaのみを表示することで、術者はあたかも患者の歯列にX線CT画像Qaが重ねてあるように感じる。
【符号の説明】
【0098】
1,1A 情報表示システム
2 X線CT装置(X線撮影装置)
22c 可視光カメラ
3,3A 管理用端末(制御装置、制御手段)
31 入力部
32 表示部
33 通信部
34 記憶部
34a,34aA 患者情報DB
35 制御部
35a,35aA 患者情報管理部
35b 治療シミュレーション処理部
4,4A 情報表示装置
41 撮影部
42 表示部
43 通信部
44 記憶部
44a 付加情報DB(X線歯列画像)
45 制御部(制御手段)
45a 患者認識部
45aA マーカ認識部
45b,45bA X線歯列画像取得部
45c,45cA X線歯列画像付加部
Mn マーカ