(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】
(24)【登録日】2024-01-29
(45)【発行日】2024-02-06
(54)【発明の名称】制御装置、制御方法、および制御プログラム
(51)【国際特許分類】
A61G 15/00 20060101AFI20240130BHJP
A61C 19/00 20060101ALI20240130BHJP
【FI】
A61G15/00 Z
A61C19/00 Z
(21)【出願番号】P 2020215157
(22)【出願日】2020-12-24
【審査請求日】2022-06-03
(73)【特許権者】
【識別番号】000138185
【氏名又は名称】株式会社モリタ製作所
(74)【代理人】
【識別番号】110001195
【氏名又は名称】弁理士法人深見特許事務所
(72)【発明者】
【氏名】園部 興一
【審査官】岡▲さき▼ 潤
(56)【参考文献】
【文献】国際公開第2019/106884(WO,A1)
【文献】米国特許第09788907(US,B1)
【文献】特許第6777917(JP,B1)
【文献】特表2018-533119(JP,A)
(58)【調査した分野】(Int.Cl.,DB名)
A61G 15/00
A61C 19/00
(57)【特許請求の範囲】
【請求項1】
一連の
歯科診療に関する
歯科診療データの記録を制御する制御装置であって、
前記
歯科診療データが入力される入力部と、
前記
歯科診療データを記録する記録部を制御する制御部とを備え、
前記制御部は、前記一連の
歯科診療の開始条件が成立する場合に、前記入力部に入力される前記
歯科診療データの記録を前記記録部に開始させ
、
前記開始条件は、前記一連の歯科診療の開始が推定される条件であり、前記一連の歯科診療のためのチェアの座面シートの高さが所定高さ以上になったこと、前記一連の歯科診療のためのベッドの高さが所定高さ以上になったこと、前記チェアの背もたれの角度が所定角度以上になったこと、診療器具の駆動がONになったこと、照明装置の電源がONになったこと、前記チェアへの人の着座が検知されたこと、診療空間において前記診療器具が検知されたこと、および、前記診療空間において人が検知されたことの少なくともいずれか1つを含む、制御装置。
【請求項2】
前記制御部は、前記一連の
歯科診療の終了条件が成立する場合に、前記入力部に入力される前記
歯科診療データの記録を前記記録部に終了させる、請求項
1に記載の制御装置。
【請求項3】
前記終了条件は、前
記チェアの
前記座面シートの高さが所定高さ未満になったこと、前
記ベッドの高さが所定高さ未満になったこと、前記チェアの背もたれの角度が所定角度未満になったこと、
前記診療器具の駆動がOFFになったこと、
前記照明装置の電源がOFFになったこと、前記チェアからの人の離席が検知されたこと、
前記診療空間において前記診療器具が所定時間以上検知されないこと、および、前記診療空間において人が検知されないことの少なくともいずれか1つを含む、請求項
2に記載の制御装置。
【請求項4】
前記制御部は、前記一連の
歯科診療に割り当てられた識別データに関連付けて、前記
歯科診療データを前記記録部に記録させる、請求項1~請求項
3のいずれか1項に記載の制御装置。
【請求項5】
前記制御部は、前記一連の
歯科診療が行われた時間を特定可能な時間データに関連付けて、前記
歯科診療データを前記記録部に記録させる、請求項1~請求項
4のいずれか1項に記載の制御装置。
【請求項6】
前記
歯科診療データは、
前記診療空間をカメラで撮影した画像関連データを含む、請求項1~請求項
5のいずれか1項に記載の制御装置。
【請求項7】
前記
歯科診療データは、前
記チェア、
前記診療器具、
前記照明装置、給水・排水装置、フットコントローラ、ディスプレイ、操作パネルの少なくともいずれか1つにおける過去および現在の少なくともいずれか1つの制御データを含む、請求項1~請求項
6のいずれか1項に記載の制御装置。
【請求項8】
前記記録部によって記録された前記
歯科診療データは、推定モデルの機械学習のための学習用データである、請求項1~請求項
7のいずれか1項に記載の制御装置。
【請求項9】
コンピュータによる一連の
歯科診療に関する
歯科診療データの記録を制御する制御方法であって、
前記
歯科診療データが入力されるステップと、
前記一連の
歯科診療の開始条件が成立するか否かを判定するステップと、
前
記開始条件が成立する場合に、入力される前記
歯科診療データの記録を記録部に開始させるステップと、
前記一連の
歯科診療の終了条件が成立する場合に、入力される前記
歯科診療データの記録を前記記録部に終了させるステップとを含
み、
前記開始条件は、前記一連の歯科診療の開始が推定される条件であり、前記一連の歯科診療のためのチェアの座面シートの高さが所定高さ以上になったこと、前記一連の歯科診療のためのベッドの高さが所定高さ以上になったこと、前記チェアの背もたれの角度が所定角度以上になったこと、診療器具の駆動がONになったこと、照明装置の電源がONになったこと、前記チェアへの人の着座が検知されたこと、診療空間において前記診療器具が検知されたこと、および、前記診療空間において人が検知されたことの少なくともいずれか1つを含む、制御方法。
【請求項10】
一連の
歯科診療に関する
歯科診療データの記録を制御する制御プログラムであって、
コンピュータに、
前記
歯科診療データが入力されるステップと、
前記一連の
歯科診療の開始条件が成立するか否かを判定するステップと、
前
記開始条件が成立する場合に、入力される前記
歯科診療データの記録を記録部に開始させるステップと、
前記一連の
歯科診療の終了条件が成立する場合に、入力される前記
歯科診療データの記録を前記記録部に終了させるステップとを実行させ
、
前記開始条件は、前記一連の歯科診療の開始が推定される条件であり、前記一連の歯科診療のためのチェアの座面シートの高さが所定高さ以上になったこと、前記一連の歯科診療のためのベッドの高さが所定高さ以上になったこと、前記チェアの背もたれの角度が所定角度以上になったこと、診療器具の駆動がONになったこと、照明装置の電源がONになったこと、前記チェアへの人の着座が検知されたこと、診療空間において前記診療器具が検知されたこと、および、前記診療空間において人が検知されたことの少なくともいずれか1つを含む、制御プログラム。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、一連の診療に関する診療データの記録を制御する制御装置、制御方法、および制御プログラムに関する。
【背景技術】
【0002】
従来、患者を診療するための診療装置が知られている。たとえば、特許文献1には、チェア、診療器具、および照明装置など、患者を診療するための構成を備えた診療装置が開示されている。
【先行技術文献】
【特許文献】
【0003】
【発明の概要】
【発明が解決しようとする課題】
【0004】
特許文献1に開示された診療装置によれば、術者は、診療内容に応じて診療装置の各構成を使用することで、患者を診療することができる。近年、AI(Artificial Intelligence)を用いてデータの分析・学習を行い利活用するといった技術が生み出されていることに鑑みれば、診療装置にAI技術を用いることで、術者にとって利便性の高い診療装置を提供することができる。
【0005】
診療装置にAI技術を用いるためには、機械学習時に必要となる一連の診療に関する診療データを収集して蓄積する必要がある。しかしながら、診療データを何ら工夫することなく記録した場合、その記録された診療データは煩雑で、機械学習時に利活用し難いものとなるおそれがある。
【0006】
本発明は、利活用し易い診療データを記録することを目的とする。
【課題を解決するための手段】
【0007】
本開示の一例に従えば、一連の歯科診療に関する歯科診療データの記録を制御する制御装置が提供される。制御装置は、歯科診療データが入力される入力部と、歯科診療データを記録する記録部を制御する制御部とを備える。制御部は、一連の歯科診療の開始条件が成立する場合に、入力部に入力される歯科診療データの記録を記録部に開始させる。開始条件は、一連の歯科診療の開始が推定される条件であり、一連の歯科診療のためのチェアの座面シートの高さが所定高さ以上になったこと、一連の歯科診療のためのベッドの高さが所定高さ以上になったこと、チェアの背もたれの角度が所定角度以上になったこと、診療器具の駆動がONになったこと、照明装置の電源がONになったこと、チェアへの人の着座が検知されたこと、診療空間において診療器具が検知されたこと、および、診療空間において人が検知されたことの少なくともいずれか1つを含む。
【0008】
本開示の一例に従えば、コンピュータによる一連の歯科診療に関する歯科診療データの記録を制御する制御方法が提供される。制御方法は、歯科診療データが入力されるステップと、一連の歯科診療の開始条件が成立するか否かを判定するステップと、開始条件が成立する場合に、入力される歯科診療データの記録を記録部に開始させるステップと、一連の歯科診療の終了条件が成立する場合に、入力される診療データの記録を記録部に終了させるステップとを含む。開始条件は、一連の歯科診療の開始が推定される条件であり、一連の歯科診療のためのチェアの座面シートの高さが所定高さ以上になったこと、一連の歯科診療のためのベッドの高さが所定高さ以上になったこと、チェアの背もたれの角度が所定角度以上になったこと、診療器具の駆動がONになったこと、照明装置の電源がONになったこと、チェアへの人の着座が検知されたこと、診療空間において診療器具が検知されたこと、および、診療空間において人が検知されたことの少なくともいずれか1つを含む。
【0009】
本開示の一例に従えば、一連の歯科診療に関する歯科診療データの記録を制御する制御プログラムが提供される。制御プログラムは、コンピュータに、歯科診療データが入力されるステップと、一連の歯科診療の開始条件が成立するか否かを判定するステップと、開始条件が成立する場合に、入力される歯科診療データの記録を記録部に開始させるステップと、一連の歯科診療の終了条件が成立する場合に、入力される診療データの記録を記録部に終了させるステップとを実行させる。開始条件は、一連の歯科診療の開始が推定される条件であり、一連の歯科診療のためのチェアの座面シートの高さが所定高さ以上になったこと、一連の歯科診療のためのベッドの高さが所定高さ以上になったこと、チェアの背もたれの角度が所定角度以上になったこと、診療器具の駆動がONになったこと、照明装置の電源がONになったこと、チェアへの人の着座が検知されたこと、診療空間において診療器具が検知されたこと、および、診療空間において人が検知されたことの少なくともいずれか1つを含む。
【発明の効果】
【0011】
本開示によれば、利活用し易い診療データを記録することができる。
【図面の簡単な説明】
【0012】
【
図1】本実施の形態に係る制御システムの全体構成を示す模式図である。
【
図2】トレーカメラの撮影画像の一例を説明するための図である。
【
図3】患者カメラの撮影画像の一例を説明するための図である。
【
図4】全体カメラの撮影画像の一例を説明するための図である。
【
図5】本実施の形態に係る制御システムの内部構成を示すブロック図である。
【
図6】本実施の形態に係る制御装置が取得する位置データの一例を説明するための図である。
【
図7】位置データの検出ポイントの一例を説明するための図である。
【
図8】位置データに対応する位置座標の一例を説明するための図である。
【
図9】本実施の形態に係る制御装置の診療データの記録段階における機能構成を示すブロック図である。
【
図10】学習用データのデータ構造を説明するための図である。
【
図11】本実施の形態に係る制御装置の学習段階における機能構成を示すブロック図である。
【
図12】本実施の形態に係る制御装置の運用段階における機能構成を示すブロック図である。
【
図13】根管治療におけるトレーカメラの撮影画像の一例を説明するための図である。
【
図14】トレーカメラの撮影情報から取得されたトレー画像データの一例を説明するための図である。
【
図15】患者カメラの撮影情報から取得された患者画像データの一例を説明するための図である。
【
図16】全体カメラの撮影情報から取得された位置データの一例を説明するための図である。
【
図17】診療装置から取得された装置関連データの一例を説明するための図である。
【
図18】同期データの一例を説明するための図である。
【
図19】同期データの一例を説明するための図である。
【
図20】診療データの記録タイミングを説明するためのタイミングチャートである。
【
図21】制御装置が実行する記録制御処理の一例を説明するためのフローチャートである。
【
図22】制御装置が実行する学習処理の一例を説明するためのフローチャートである。
【発明を実施するための形態】
【0013】
本発明の実施の形態について、図面を参照しながら詳細に説明する。なお、図中の同一または相当部分については、同一符号を付してその説明は繰り返さない。
【0014】
<制御システムの全体構成>
図1は、本実施の形態に係る制御システム1000の全体構成を示す模式図である。本実施の形態に係る制御システム1000は、患者を診療するための診療装置1を制御する。
【0015】
「診療」は、診察および治療の少なくともいずれか1つを含む。「診察」は、術者が患者の病状および病因などを探ることを含む。「治療」は、術者が患者の病気を治すこと、および術者が患者の美容や健康を保つこと(たとえば、審美治療)を含む。診療(診察、治療)の対象となる学科は、歯科および医科の少なくともいずれか1つを含む。「歯科」は、歯または歯に関連した組織(歯周組織など)に関する疾患を扱う診療科であり、たとえば、一般歯科、矯正歯科、口腔外科、歯科放射線科、および小児歯科などを含む。「医科」は、たとえば、内科、小児科、外科、眼科、耳鼻咽喉科、産婦人科、皮膚科、脳神経外科、循環器科、および整形外科などを含む。本実施の形態に係る診療装置1は、術者が患者の歯科に関する診療を行うために用いられる。「術者」は、患者を診療する医師(たとえば、歯科医師)、医師を補助する補助者(たとえば、歯科助手)、歯科または医科大学の先生、歯科または医科大学の生徒、および歯科技工士などを含む。
【0016】
診療に訪れた患者に対して術者が診察または治療を行う一連の行動を、「一連の診療」とも称する。つまり、「一連の診療」は、診療を開始してからその診療を終了させるまでに術者が行う行動(診察、治療)全体を含む。「一連の診療」は、診療装置1の設計者などによって予め定められた診療単位であってもよい。「一連の診療」は、術者によって予め定められた診療単位であってもよい。「一連の診療」は、1人の患者に対して行われる1回の診療単位であってもよい。
【0017】
図1に示すように、制御システム1000は、診療装置1と、制御装置100と、サーバ装置200とを備える。
【0018】
診療装置1は、たとえば、術者が患者に対して歯科に関する診療を行うためのチェアユニットである。診療装置1は、チェア11と、ベースンユニット12と、トレーテーブル13と、診療器具15を保持する器具ホルダー14と、フットコントローラ16と、ディスプレイ17と、操作パネル18と、照明装置19と、器具制御装置21と、表示制御装置22と、スピーカ35とを備える。
【0019】
チェア11は、診療時に患者が座る椅子であり、患者の頭を支えるヘッドレスト11aと、患者の背中を支える背もたれ11bと、患者の尾尻を支える座面シート11cと、患者の足を支える足置き台11dとを含む。なお、チェア11は、背もたれ11bおよび座面シート11cを必ずしも備える必要がない。たとえば、チェア11は、背もたれ11bに対応する部分と座面シート11cに対応する部分とが一体的になったベッドを備えていてもよい。
【0020】
ベースンユニット12は、排水口が形成された鉢12aと、コップが載置されるコップ台12bと、コップに給水するための給水栓12cとを含む給水・排水装置である。
【0021】
トレーテーブル13は、診療時の物置台として用いられる。トレーテーブル13は、チェア11またはチェア11が設置された床から延びるアーム(図示は省略する。)に接続されている。なお、トレーテーブル13は、チェア11またはチェア11が設置された床から延びるアーム(図示は省略する。)によって吊り下げられてもよい。たとえば、トレーテーブル13は、チェア11またはチェア11が設置された床から延びるポール5の上部で分岐するアーム6によって吊り下げられてもよい。術者は、トレーテーブル13をチェア11に対して手動で回動、水平移動、および垂直移動させることができる。診療中において、術者は、トレーテーブル13の上面にトレー30を置くことがある。トレー30には、患者を診療するための1または複数の診療器具が置かれる。
【0022】
「診療器具」は、ピンセット、ミラー、エキスカベーター、深針、およびマイクロスコープなど、術者によって診療中に用いられる診療用の器具である。なお、診療装置1の器具ホルダー14によって保持される診療器具15も「診療器具」に含まれるが、トレー30には、器具ホルダー14によって保持されない診療器具が主に置かれる。
【0023】
診療器具15は、たとえば、エアタービンハンドピース、マイクロモータハンドピース、超音波スケーラ、およびバキュームシリンジなどの歯科診療用のインスツルメントであり、器具制御装置21の制御によって駆動する。なお、診療器具15は、これらに限らず、口腔内カメラ、光重合用照射器、根管長測定器、3次元スキャナ、および根管拡大器などであってもよいし、ミラー、注射器、および充填器具など、駆動しない器具であってもよい。
【0024】
フットコントローラ16は、術者の足踏み操作を受け付ける複数のスイッチ(ペダル)を有する。術者は、これら複数のスイッチの各々に対して所定の機能を割り当てることができる。たとえば、術者は、チェア11の姿勢を変更する機能をフットコントローラ16のスイッチに対して割り当てることができ、フットコントローラ16が術者による当該スイッチの足踏み操作を受け付けると、当該足踏み操作に基づきヘッドレスト11aなどが駆動する。さらに、術者は、診療器具15を駆動する機能をフットコントローラ16のスイッチに対して割り当てることもでき、フットコントローラ16が術者による当該スイッチの足踏み操作を受け付けると、当該足踏み操作に基づく器具制御装置21の制御によって診療器具15が駆動する。なお、術者は、照明装置19の照明および消灯を制御する機能など、フットコントローラ16のスイッチに対してその他の機能を割り当てることもできる。
【0025】
ディスプレイ17は、トレーテーブル13に取り付けられており、表示制御装置22の制御によって各種の画像を表示する。
【0026】
操作パネル18は、チェア11および診療器具15などの動作、あるいは当該動作の設定を行うためのスイッチを含む。たとえば、チェア11を動作させるための入力操作を操作パネル18が受け付けると、当該入力操作に基づきチェア11が動作する。たとえば、診療器具15の回転速度などの設定を行うための入力操作を操作パネル18が受け付けると、当該入力操作に基づき診療器具15の回転速度などの設定を行うことができる。
【0027】
照明装置19は、チェア11またはチェア11が設置された床から延びるポール5の上部で分岐するアーム6の先端に設けられている。照明装置19は、照明状態と消灯状態とに切り替えることができ、術者による診療を照明によってサポートする。なお、照明装置19に限らず、ディスプレイ17も、ポール5またはアーム6の先端に取り付けられてもよい。
【0028】
スピーカ35は、術者および患者などに対してアラートを発する音、および診療を補助するアシスト音など、各種の音を出力する。
【0029】
術者は、診療内容に応じて診療装置1の各構成を使用することで、患者を診療することができる。たとえば、術者は、患者をチェアに座らせる際に、フットコントローラ16を操作することで、患者が座り易い姿勢となるようにチェア11を動作させる。たとえば、術者は、患者を診療する際に、照明装置19を消灯状態から照明状態へと切り替えることで、患者の口腔内を視認し易くする。たとえば、術者は、患者を診療する際に、フットコントローラ16を操作することで、診療器具15を駆動させる。
【0030】
近年、AI(Artificial Intelligence)を用いてデータの分析・学習を行い利活用するといった技術が生み出されていることに鑑みれば、診療装置1にAI技術を用いることで、術者にとって利便性の高い診療装置1を提供することができる。
【0031】
たとえば、術者は、患者に対する一連の診療中に、診療装置1が備える各構成を操作することで、患者を診療することができるが、このような一連の診療中の術者の動作をAI技術を用いて先読みして診療装置1を制御することができれば、術者にとって利便性の高い診療装置1を提供することができる。
【0032】
ここで、一連の診療中、歯科医師、歯科助手、および患者の各々は、診療内容に応じて概ね決まったルーチンで動作を行い、診療内容に応じて概ね決まった姿勢をとる。歯科医師、歯科助手、および患者の各々が行う動作の順番および姿勢は、診療の手順を表しているとも言え、その手順に対応するように診療装置1も制御される。このため、歯科医師、歯科助手、および患者の各々が行う動作の順番および姿勢に基づき、診療の手順を理解することができれば、診療装置1の制御を先読みすることが可能となる。
【0033】
さらに、術者は、診療内容に応じて複数の診療器具の中から適切な診療器具を選択してトレー30から取り出し、取り出した診療器具を用いて診療を行う。選択される診療器具の種類、および診療器具が用いられる順番は、診療の手順を表しているとも言え、その手順に対応するように診療装置1も制御される。このため、術者によって選択される診療器具の種類および診療器具が用いられる順番に基づき、診療の手順を理解することができれば、診療装置1の制御を先読みすることが可能となる。
【0034】
本実施の形態に係る制御システム1000(制御装置100)は、歯科医師、歯科助手、および患者の行動を、AIを用いて分析・学習することで、診療装置1を制御するための制御データを推定するように構成されている。さらに、本実施の形態に係る制御システム1000(制御装置100)は、術者によって選択される診療器具の種類および診療器具が用いられる順番を、AIを用いて分析・学習することで、診療装置1の制御データを推定するように構成されている。
【0035】
ここで、診療装置1にAI技術を用いるためには、機械学習時に必要となる一連の診療に関する診療データを収集して蓄積する必要がある。しかしながら、診療データを何ら工夫することなく記録した場合、その記録された診療データは煩雑で、機械学習時に利活用し難いものとなるおそれがある。たとえば、一連の診療の開始タイミングで診療データの記録を開始していない場合、または、一連の診療の終了タイミングで診療データの記録を終了していない場合、実際に行われた一連の診療に対して診療データが足らなかったり、一連の診療とは無関係な無駄なデータが診療データに含まれていたりするおそれがある。このような診療データを用いて機械学習を行ったとしても、機械学習の精度が向上し難い。
【0036】
そこで、本実施の形態に係る制御システム1000(制御装置100)は、機械学習のための学習用データとして利活用し易い診療データを記録する技術を提供する。以下、本実施の形態に係る制御システム1000(制御装置100)による診療データの記録および機械学習を具体的に説明する。
【0037】
本実施の形態に係る診療装置1には、複数のカメラが取り付けられている。具体的には、制御システム1000は、ディスプレイ17に取り付けられたトレーカメラ51と、照明装置19に取り付けられた患者カメラ52と、ポール5の上部に取り付けられた全体カメラ53とを備える。
【0038】
トレーカメラ51は、トレー30を少なくとも含む領域を動画または静止画で撮影するように配置されている。トレーカメラ51によって得られた撮影情報を含む画像データ(以下、「トレー画像データ」とも称する。)は、制御装置100によって取得される。トレーカメラ51におけるシャッタースピードなどの各種設定は、トレー30に置かれた診療器具の有無、形状、および種類などを制御装置100が認識できる程度に予め調整されている。なお、トレーカメラ51は、トレー30を少なくとも含む領域を撮影することができる場所であれば、いずれの場所に設置されてもよい。
【0039】
患者カメラ52は、患者の口腔内を少なくとも含む領域を動画または静止画で撮影するように配置されている。通常、診療中においては、照明装置19によって患者の口腔内が照明されるため、照明装置19に取り付けられた患者カメラ52は、自ずと患者の口腔内を少なくとも含む領域を撮影することができる。患者カメラ52によって得られた撮影情報を含む画像データ(以下、「患者画像データ」とも称する。)は、制御装置100によって取得される。患者カメラ52におけるシャッタースピードなどの各種設定は、診療中の患者の口腔内を制御装置100が認識できる程度に予め調整されている。なお、患者カメラ52は、患者の口腔内を少なくとも含む領域を撮影することができる場所であれば、いずれの場所に設置されてもよい。患者カメラ52は、口腔周辺の部位と診療器具とにおける奥行き方向(たとえば、患者カメラ52から患者を見る方向)の位置関係を制御装置100が検出できるように、全体カメラ53と同様に三次元の位置座標を検出可能であってもよい。
【0040】
全体カメラ53は、診療装置1を含む診療空間を少なくとも含む領域を動画または静止画で撮影するように配置されている。具体的には、全体カメラ53は、診療装置1を用いた診療中の診療空間における、少なくとも、歯科医師、歯科助手、および患者を含む広い領域を動画または静止画で撮影するように配置されている。全体カメラ53は、ポール5の上部に取り付けられているため、診療中の歯科医師、歯科助手、および患者の行動と、診療装置1の動作とを上空から俯瞰して撮影する。
【0041】
全体カメラ53は、術者および患者の三次元の位置座標を検出できるように3Dカメラなどで構成されている。たとえば、全体カメラ53は、カメラによる撮影および光(たとえば、赤外線)の反射を用いた対象物までの距離の測定によって三次元の位置座標を検出可能なToF(Time of Flight)方式のカメラ、または、2台のカメラによる撮影によって三次元の位置座標を検出可能なステレオ方式のカメラなどで構成されている。
【0042】
なお、全体カメラ53は、
図1に示すような診療装置1のチェア11(またはチェア11に座った患者)の正面から撮影するカメラに加えて、診療装置1のチェア11(またはチェア11に座った患者)の背面から撮影するカメラを含んでいてもよい。このようにすれば、全体カメラ53は、診療装置1の正面に限らず、背面からも診療空間を撮影することができるため、死角無くより詳細に、かつ、より広範囲に、診療空間を撮影することができる。さらに、全体カメラ53は、診療空間に存在する撮影対象(たとえば、術者および患者などの人物)を追尾することができるものであってもよい。
【0043】
「診療空間」は、診療空間に含まれるオブジェクト全体を含む空間に限らず、少なくとも診療中の歯科医師、歯科助手、患者、および診療装置1など、診療空間に含まれるオブジェクトのうちの一部のオブジェクトを含む空間であってもよい。全体カメラ53によって得られた撮影情報を含む画像データ(以下、「全体画像データ」とも称する。)は、制御装置100によって取得される。全体カメラ53におけるシャッタースピードなどの各種設定は、歯科医師の行動、歯科助手の行動、患者の行動、および診療装置1の動作などを制御装置100が認識できる程度に予め調整されている。なお、全体カメラ53は、診療装置1を含む診療空間を少なくとも撮影することができる場所であれば、いずれの場所に設置されてもよい。
【0044】
上述したトレー画像データ、患者画像データ、および全体画像データの各々は、「画像関連データ」の一実施形態であり、以下ではこれらのデータを「画像関連データ」とも称する。なお、「画像関連データ」という文言は、トレー画像データ、患者画像データ、および全体画像データの全てを意味する場合もあるが、トレー画像データ、患者画像データ、および全体画像データのうちの少なくともいずれか1つを意味する場合もある。
【0045】
さらに、詳しくは後述するが、制御装置100は、トレー画像データおよび患者画像データに基づき、撮影画像に映し出された診療器具などのオブジェクトの有無やその種類を検出する。制御装置100は、全体画像データに基づき、撮影画像に映し出された歯科医師、歯科助手、および患者などの人物の位置を検出する。「画像関連データ」は、上述した制御装置100による検出結果を含んでいてもよい。つまり、「画像関連データ」は、トレー画像データ、患者画像データ、および全体画像データそのものを含んでいてもよいし、これらのデータに基づき制御装置100によって取得された検出結果を含んでいてもよい。
【0046】
制御装置100は、取得した各種のデータに基づき、診療装置1の制御データを推定するコンピュータ(後述する演算装置102)を搭載する。具体的には、制御装置100は、診療装置1に取り付けられたトレーカメラ51、患者カメラ52、および全体カメラ53の少なくともいずれか1つから、画像関連データを取得する。さらに、制御装置100は、診療装置1で取得した診療装置1に関するデータ(以下、「装置関連データ」とも称する。)を取得する。制御装置100は、取得した画像関連データおよび装置関連データの少なくともいずれか1つに基づき、診療装置1の制御データを推定する。
【0047】
「装置関連データ」は、診療装置1が備えるチェア11、ベースンユニット12、照明装置19、器具制御装置21、表示制御装置22、診療器具15、フットコントローラ16、ディスプレイ17、操作パネル18の少なくともいずれか1つにおける過去および現在の少なくとも1つの制御データを含む。たとえば、「装置関連データ」は、診療装置1が備えるチェア11、ベースンユニット12、照明装置19、器具制御装置21、表示制御装置22、診療器具15、フットコントローラ16、ディスプレイ17、操作パネル18の各々における動作および制御の履歴を示すログデータを含む。なお、「装置関連データ」は、ログデータのように各種装置における動作および制御の履歴データに限らず、各種装置における動作および制御のリアルタイムのデータを含んでいてもよい。さらに、「装置関連データ」は、各種装置における現在のステータスに関するデータを含んでいてもよい。たとえば、「装置関連データ」は、チェア11の現在の状態(姿勢および位置など)を特定するためのデータを含んでいてもよい。
【0048】
上述した「画像関連データ」および「装置関連データ」は、一連の診療に関するデータであるため、これらのデータを「診療データ」とも称する。「診療データ」は、「画像関連データ」および「装置関連データ」の少なくともいずれか1つを含む。
【0049】
<診療内容>
診療のうちの治療の例としては、う蝕治療、根管治療、歯垢除去、インプラント、矯正、およびホワイトニングなどが挙げられるが、術者が患者の歯科に関する病気を治す治療の内容、および術者が患者の歯の美容や健康を保つ審美治療の内容であれば、いずれも診療内容に含まれる。
【0050】
術者が患者の歯科に関する病気を治すために行う行動(手当)、および術者が患者の歯の美容や健康を保つために行う行動(手当)を処置とも称し、治療は、1または複数の処置の組み合わせで構成される。処置の例としては、審査、切削、ファイリング、根管洗浄、乾燥、仮封、印象、スケーリング、補綴物の修正、歯周ポケットの測定、吸引、および抜歯などが挙げられるが、術者が患者の歯科に関する病気を治すために行う処置の内容、および術者が患者の歯の美容や健康を保つために行う処置の内容であれば、いずれも処置内容に含まれる。
【0051】
診療のうち、根管治療の場合を例に挙げる。根管治療とは、う蝕の進行によって歯の根の中の歯髄(神経や血管など)が炎症または感染を起こしたときに必要となる治療であり、痛んだ歯髄を除去するとともに根管を切削拡大してから洗浄・消毒し、再度の感染を防ぐために歯の根の中に詰め物をするといった治療である。根管治療は、処置内容として、審査、抜髄、根管長測定・拡大、洗浄・消毒、根管充填、および詰め込み・被せから構成されており、術者は患者に対してこれら各処置を順番に行うことで根管治療を施すことができる。
【0052】
審査は、術者が患者に対してヒアリングを行ったり、患者の口腔内を検査することで患者の歯科に関する病状および病因を特定して治療方針を立てたりすることを含む処置である。抜髄は、根管治療において、痛んだ歯髄を除去することを含む処置である。根管長測定・拡大は、歯髄を除去した後の空洞になった根尖位置を測定し、その根尖までの根管を切削拡大することを含む処置である。洗浄・消毒は、空洞になった根管の奥まで洗浄して消毒することを含む処置である。根管充填は、洗浄・消毒後の根管内に細菌が侵入することを防ぐために、根管内に専用の薬剤を埋めることを含む処置である。詰め込み・被せは、根管内にゴムのような詰め物を詰め込み、その上に金属またはファイバー製の土台を作った上で、当該土台に被せ物(クラウン)を被せることを含む処置である。なお、上述した根管治療に含まれる処置の内容および数は、一例に過ぎず、根管治療にはその他の処置が含まれてもよいし、上述した処置の一部が省かれてもよい。
【0053】
<トレーカメラの撮影画像>
図2は、トレーカメラ51の撮影画像の一例を説明するための図である。
図2に示すように、トレーカメラ51によって、トレー30に置かれた1または複数の診療器具が撮影される。
【0054】
たとえば、
図2に示す例では、ラバーダム防湿一式301、ラバーダムシート302、根管長測定器303、バーセット304、ファイル(リーマ)305、口角対極306、ファールクリップ307、ブローチ308、洗浄用ニードル309、洗浄用シリンジ310、仮封剤充填器311、クレンザー312、タービン313、ピンセット314、バキューム315、ミラー316、エキスカベーター317、深針318、および根管材料注入器319といったように、複数の診療器具がトレー30に置かれた様子が撮影画像に映し出されている。
【0055】
診療中においては、トレー30に置かれた複数の診療器具の中から術者が所望の診療器具を選択して使用することになるが、使用中の診療器具についてはトレーカメラ51の撮影画像に映し出されない。たとえば、診療中にミラー316が使用された場合は、トレー30上からミラー316が存在しないため、トレーカメラ51の撮影画像にミラー316が映し出されない。
【0056】
制御装置100は、
図2に示すようなトレーカメラ51によって取得された撮影画像を含むトレー画像データを画像認識などで分析することで、トレー30に置かれた診療器具の有無、形状、および種類などを検出することができる。
【0057】
<患者カメラの撮影画像>
図3は、患者カメラ52の撮影画像の一例を説明するための図である。
図3に示すように、患者カメラ52によって、患者の口腔内を少なくとも含む領域が撮影される。
【0058】
たとえば、
図3に示す撮影画像では、患者の口腔内において、右頬の下唇の付近の歯に診療器具(この例ではピンセット314およびミラー316)が位置する様子が撮影画像に映し出されている。
【0059】
診療中においては、患者の口腔内において診療器具を用いた歯科診療が行われることになるが、
図3に示すように、患者カメラ52の撮影画像には、診療中において患者の口腔内に位置する診療器具が映し出される。
【0060】
制御装置100は、
図3に示すような患者カメラ52によって取得された撮影画像を含む患者画像データを画像認識などで分析することで、患者の口腔内における診療器具の位置を検出することができる。
【0061】
<全体カメラの撮影画像>
図4は、全体カメラ53の撮影画像の一例を説明するための図である。
図4に示すように、全体カメラ53によって、診療空間を少なくとも含む領域が撮影される。
【0062】
たとえば、
図4に示す撮影画像では、診療中の術者(この例では歯科医師3および歯科助手4)および患者2の行動と、診療装置1の状態(この例ではトレーテーブル13における操作パネル18およびトレー30上の診療器具など)とが撮影画像に映し出されている。
【0063】
診療中においては、術者によって診療器具を用いた歯科診療が行われることになるが、
図4に示すように、全体カメラ53の撮影画像には、診療中の歯科医師や歯科助手などの術者の行動、患者の行動、および診療装置1の状態などが映し出される。
【0064】
制御装置100は、
図4に示すような全体カメラ53によって取得された撮影画像を含む全体画像データを画像認識などで分析することで、診療中の術者および患者の位置(たとえば、X座標、Y座標)を検出することができる。さらに、後述するように、制御装置100は、全体カメラ53からの赤外線などの光の照射などによって、診療中の術者および患者の位置(たとえば、Z座標)を検出することができる。
【0065】
<制御システムの内部構成>
図5は、本実施の形態に係る制御システム1000の内部構成を示すブロック図である。
図5に示すように、制御システム1000は、複数のカメラ(トレーカメラ51、患者カメラ52、全体カメラ53)と、診療装置1とを備える。
【0066】
診療装置1は、チェア11と、器具制御装置21と、表示制御装置22と、音制御装置32と、ベースンユニット12と、制御装置100とを備える。
【0067】
チェア11は、ヘッドレスト11aと、背もたれ11bと、座面シート11cと、足置き台11dとを含み、これらの各々は、チェア制御部111の制御に基づき駆動する。具体的には、チェア制御部111は、フットコントローラ16または操作パネル18によって受け付けられた術者の操作に基づく制御データ、あるいは、制御装置100からの制御データをCAN(Controller Area Network)通信を介して受信すると、当該制御データに基づき、座面シート11cを上昇または下降させたり、ヘッドレスト11a、背もたれ11b、および足置き台11dを座面シート11cに対して垂直方向または水平方向に移動させたりする。ヘッドレスト11a、背もたれ11b、および足置き台11dが座面シート11cに対して垂直方向に位置すると、チェア11に座った患者が座位姿勢になる。ヘッドレスト11a、背もたれ11b、および足置き台11dが座面シート11cに対して水平方向に位置すると、チェア11に座った患者が仰向け姿勢になる。このように、チェア制御部111は、ヘッドレスト11a、背もたれ11b、座面シート11c、および足置き台11dを駆動させてチェア11の姿勢を変更する。
【0068】
器具制御装置21は、器具制御部211を含む。器具制御部211は、フットコントローラ16または操作パネル18によって受け付けられた術者の操作に基づく制御データ、あるいは、制御装置100からの制御データをCAN通信を介して受信すると、当該制御データに基づき、診療器具15の駆動または設定内容を制御する。たとえば、術者が、フットコントローラ16におけるエアタービンハンドピースを駆動するためのスイッチを足踏み操作すると、器具制御装置21は、エアタービンハンドピースのヘッド部に保持された切削工具を回転させる。たとえば、制御装置100が、エアハンドピースの回転方向または回転速度などを制御するための制御データを出力すると、器具制御装置21は、制御データに基づき、エアタービンハンドピースの回転方向または回転速度などを設定する。
【0069】
表示制御装置22は、ディスプレイ制御部221と、パネル制御部222とを含む。ディスプレイ制御部221は、制御装置100からの制御データをCAN通信を介して受信すると、当該制御データに基づき、ディスプレイ17を制御する。パネル制御部222は、制御装置100の制御に基づく制御データをCAN通信を介して受信すると、当該制御データに基づき、操作パネル18を制御する。
【0070】
音制御装置32は、音制御部321を含む。音制御部321は、制御装置100からの制御データをCAN通信を介して受信すると、当該制御データに基づき、スピーカ35を制御する。
【0071】
ベースンユニット12は、ベースン制御部121と、照明制御部122とを含む。ベースン制御部121は、制御装置100からの制御データをCAN通信を介して受信すると、当該制御データに基づき、ベースンユニット12における給水および排水を制御する。照明制御部122は、制御装置100からの制御データをCAN通信を介して受信すると、当該制御データに基づき、照明装置19の照明および消灯を制御する。
【0072】
上述したチェア制御部111、器具制御部211、ディスプレイ制御部221、パネル制御部222、音制御部321、ベースン制御部121、および照明制御部122の各々は、図示しない基板上に実装されたCPU(Central Processing Unit)、ROM(Read Only Memory)、およびRAM(Random access memory)などによって構成される。なお、チェア制御部111、器具制御部211、ディスプレイ制御部221、パネル制御部222、音制御部321、ベースン制御部121、および照明制御部122の各々は、予め診療装置1に備え付けられていてもよいし、モジュール化されることでオプションとして任意に診療装置1に取り付け可能であってもよい。
【0073】
制御装置100、チェア制御部111、器具制御部211、ディスプレイ制御部221、パネル制御部222、音制御部321、ベースン制御部121、および照明制御部122の各々は、CAN通信によって相互に通信する。CAN通信では、各制御部におけるログデータを含む装置関連データを通信パケットにして、制御部間で互いに通信が行われる。なお、制御部間の通信では、装置関連データが送受信されさえすれば当該装置関連データを必ずしも通信パケットにする必要はない。
【0074】
さらに、ベースンユニット12は、診療装置1内のログデータを含む装置関連データを蓄積する蓄積部123を含む。
【0075】
蓄積部123は、チェア制御部111、器具制御部211、ディスプレイ制御部221、パネル制御部222、音制御部321、ベースン制御部121、および照明制御部122の各々との間でCAN通信によって通信することで、各制御部から装置関連データを収集して蓄積する。蓄積部123は、図示しない基板上に実装されたROMやRAMなどのメモリによって構成されてもよいし、メモリカードなどの不揮発の記憶媒体で構成されてもよい。
【0076】
制御装置100は、一連の診療に関する診療データの記録を制御するとともに、診療装置1を制御する。制御装置100は、通信装置101と、演算装置102と、記録装置103とを備える。
【0077】
通信装置101は、トレーカメラ51、患者カメラ52、および全体カメラ53の各々との間で通信することで、データの送受信を行う。通信装置101は、有線または無線のLAN(Local Area Network)通信によって各カメラとの間で通信することで、各カメラから画像関連データを取得する。なお、通信装置101は、その他の形式で各カメラから画像関連データを取得してもよい。たとえば、通信装置101は、各カメラから取り出されたメモリカードなどの不揮発の記憶媒体に一時的に記憶される画像関連データを取得してもよい。通信装置101は、有線または無線のLAN通信によってベースンユニット12との間で通信することで、ベースンユニット12の蓄積部123に蓄積された装置関連データを取得する。なお、ベースンユニット12が診療関連データを収集して蓄積するものに限らず、チェア11、器具制御装置21、表示制御装置22、および音制御装置32など、その他の構成が装置関連データを蓄積してもよく、制御装置100は、これらその他の構成から装置関連データを取得してもよい。
【0078】
演算装置102は、各種のプログラム(たとえば、後述する制御プログラム140、推定用プログラム141)を実行することで、各種の処理(たとえば、後述する記録制御処理、学習処理)を実行する演算主体である。演算装置102は、「コンピュータ」の一実施形態である。演算装置102は、たとえば、CPU、FPGA(Field-Programmable Gate Array)、およびGPU(Graphics Processing Unit)などで構成される。
【0079】
なお、演算装置102は、CPU、FPGA、およびGPUのうちの少なくともいずれか1つで構成されてもよいし、CPUとFPGA、FPGAとGPU、CPUとGPU、あるいはCPU、FPGA、およびGPUから構成されてもよい。また、演算装置102は、演算回路(processing circuitry)で構成されてもよい。
【0080】
記録装置103は、「記録部」の一実施形態である。記録装置103は、演算装置102が任意のプログラムを実行するにあたって、プログラムコードやワークメモリなどを格納する記録領域を提供する。記録装置103は、たとえば、DRAM(Dynamic Random Access Memory)またはSRAM(Static Random Access Memory)などの揮発性メモリデバイスで構成されたり、ハードディスクまたはSSD(Solid State Drive)などの不揮発性メモリデバイスで構成されたりする。記録装置103は、各カメラ(トレーカメラ51、患者カメラ52、全体カメラ53)から取得した画像関連データ(トレー画像データ、患者画像データ、全体画像データ)を記録するとともに、ベースンユニット12の蓄積部123から取得した装置関連データを記録する。つまり、記録装置103は、一連の診療に関する診療データ(画像関連データ、装置関連データ)を記録する。
【0081】
記録装置103は、制御装置100が備えるものに限らない。たとえば、診療装置1に通信可能に接続された院内サーバが記録装置103を備えていてもよいし、診療装置1が設置された診療空間外に設置された院外サーバが記録装置103を備えていてもよい。さらに、記録装置103は、複数の診療装置1の各々が備える複数の制御装置100の各々が通信可能なクラウドコンピューティングの態様で存在してもよい。このようにすれば、複数の診療装置1から取得した画像関連データおよび装置関連データを記録装置103によって一律に蓄積しかつ管理することができる。
【0082】
記録装置103は、推定モデル161と、制御プログラム140と、推定用プログラム141と、OS(Operating System)142とを格納する。
【0083】
推定モデル161は、診療データに含まれる画像関連データおよび装置関連データの少なくともいずれか1つに基づき、診療装置1の制御データを推定するために用いられる。推定モデル161は、画像関連データおよび装置関連データの少なくともいずれか1つに基づき機械学習を行うことで最適化(調整)され、診療装置1の制御データの推定精度を向上させることができる。
【0084】
なお、制御装置100の演算装置102によって記録装置103による診療データの記録を制御する処理を「記録制御処理」とも称し、制御装置100の演算装置102によって診療データを用いて推定モデル161を学習する処理を「学習処理」とも称する。さらに、学習処理によって最適化された推定モデル161を、特に「学習済モデル」とも称する。つまり、本実施の形態においては、学習前の推定モデル161および学習済みの推定モデル161をまとめて「推定モデル」と総称する一方で、特に、学習済みの推定モデル161を「学習済モデル」とも称する。
【0085】
制御プログラム140は、演算装置102が記録制御処理を実行するためのプログラムを含む。推定用プログラム141は、演算装置102が学習処理を実行するためのプログラムを含む。
【0086】
サーバ装置200は、記録装置203を備える。記録装置203は、記録装置103と同様に、「記録部」の一実施形態である。記録装置203は、各種のデータを格納する記録領域を提供する。記録装置203は、たとえば、DRAMまたはSRAMなどの揮発性メモリデバイスで構成されたり、ハードディスクまたはSSDなどの不揮発性メモリデバイスで構成されたりする。記録装置203は、記録装置103から一連の診療に関する診療データ(画像関連データ、装置関連データ)を取得し、取得した診療データを記録する。
【0087】
本実施の形態においては、演算装置102が記録制御処理を実行することで、記録装置103に診療データを記録させる。さらに、演算装置102は、通信装置101によって、記録装置103に記録された診療データをサーバ装置200に送信する。サーバ装置200は、制御装置100から送信された診療データを取得し、取得した診療データを記録装置203に記録させる。このため、演算装置102が記録制御処理を実行することで、記録装置203による診療データの記録を制御することにもなる。
【0088】
なお、記録装置203は、記録装置103を介することなく、各カメラ(トレーカメラ51、患者カメラ52、全体カメラ53)から画像関連データ(トレー画像データ、患者画像データ、全体画像データ)を取得してもよいし、ベースンユニット12の蓄積部123から装置関連データを取得してもよい。この場合、演算装置102は、記録制御処理を実行することで、サーバ装置200の記録装置203による診療データの記録を制御してもよい。そして、演算装置102は、サーバ装置200の記録装置203に記録された診療データを取得し、取得した診療データを用いて推定モデル161の学習処理を実行してもよい。なお、「記録部」の一実施形態である記録装置203は、診療装置1の制御装置100に設けられていてもよい。この場合、制御装置100の記録装置103が記録装置203の機能を有していてもよい。
【0089】
<位置データ>
図6~
図8を参照しながら、全体カメラ53によって得られた撮影情報に基づき制御装置100が取得する術者および患者の位置データについて説明する。
図6は、本実施の形態に係る制御装置100が取得する位置データの一例を説明するための図である。
図7は、位置データの検出ポイントの一例を説明するための図である。
図8は、位置データに対応する位置座標の一例を説明するための図である。
【0090】
制御装置100において、演算装置102は、記録装置103または記録装置203から取得した全体画像データに基づき、診療中の術者および患者など撮影画像に含まれる人物の位置を特定するための位置データを生成し、生成した位置データを記録装置103に記録させる。
【0091】
具体的には、
図6に示すように、記録装置103は、人物A、人物B、および人物Cといったように、人物ごとに位置データをまとめて記録する。たとえば、人物Aは歯科医師に対応し、人物Bは歯科助手に対応し、人物Cは患者に対応する。記録装置103は、演算装置102によって生成された位置データを時間データ(タイムスタンプ)に関連付けて記録する。記録装置103は、演算装置102によって新たに生成された位置データが、記録済みの位置データと異なる場合に、演算装置102によって新たに生成された位置データを記録する。すなわち、本実施の形態において、記録装置103は、人物の位置が変化しない限り新たな位置データを記録せず、人物の位置が変化したことを条件に新たな位置データを記録する。なお、記録装置103は、位置データが変化するか否かに関わらず、所定時間(たとえば、1秒間)ごとに、演算装置102によって生成された位置データをタイムスタンプに関連付けて記録してもよい。
【0092】
位置データは、検出対象の人物に対して定められた検出ポイントごとに三次元(X、Y、Z)の位置座標を含む。
図6および
図7に示すように、たとえば、検出ポイントは、人物(この例では歯科医師3)の右手首、右肘、右肩、頭、左肩、左肘、左手首、右耳、左耳、右眼、左眼、鼻、口、股関節、右膝、左膝、右足首、および左足首を含む。なお、制御装置100は、
図6に示される検出ポイント以外のポイントについて位置データを取得してもよいし、
図6に示される検出ポイントの一部のポイントについてのみ位置データを取得してもよい。
【0093】
なお、制御装置100は、予め定められた検出ポイントの一部を特定できない場合、前回特定した検出ポイントに対応する位置データを、今回の位置データとして記録装置103に記録させてもよい。たとえば、撮影対象となる人物が全体カメラ53の死角に入った場合、制御装置100が一部の検出ポイントを特定することができないおそれがあるが、この場合、制御装置100は、人物が全体カメラ53の死角に入る前に特定した検出ポイントに対応する位置データを用いて、今回欠落した一部の検出ポイントに対応する位置データを補完してもよい。
【0094】
全体カメラ53がToF方式のカメラで構成される場合における位置データを説明する。たとえば、位置データに対応する位置座標は、
図7に示すような全体カメラ53によって得られた撮影画像の左上の端をX座標およびY座標の原点とする。さらに、
図8に示すように、位置データに対応する位置座標は、全体カメラ53が配置された位置をZ座標の原点とする。
【0095】
演算装置102は、全体カメラ53から
図7に示すような撮影画像を取得した場合、画像認識によって、人物A、人物B、および人物Cの3人の人物を特定する。演算装置102は、各人物について、右手首および右肘といった検出ポイントを画像認識によって特定し、特定した各検出ポイントの位置座標を特定する。診療空間に存在する歯科医師、歯科助手、および患者などの各人物は、概ね位置する場所(ホームポジション)が決まっている。このため、演算装置102は、全体カメラ53の撮影画像に映し出された複数の人物の各々の位置データに基づき、各人物が歯科医師、歯科助手、および患者のいずれであるかを特定してもよい。さらに、診療空間に存在する歯科医師、歯科助手、および患者などの各人物は、概ね服装の色または形が決まっている。たとえば、歯科医師であれば、通常、白衣を着ている。このため、演算装置102は、全体カメラ53の撮影画像に映し出された複数の人物の各々の服装に基づき、各人物が歯科医師、歯科助手、および患者のいずれであるかを特定してもよい。
【0096】
たとえば、人物A(歯科医師3)に着目すると、演算装置102は、P1(右手首)、P2(右肘)、P3(右肩)、P4(頭)、P5(左肩)、P6(左肘)、およびP7(左手首)の検出ポイントを特定し、P1~P7の各検出ポイントの位置情報を特定する。たとえば、
図8に示すように、演算装置102は、P1の位置座標について、撮影画像に基づき、X座標としてX1を特定し、Y座標としてY1を特定する。さらに、演算装置102は、全体カメラ53によってZ座標の原点からP1に向けて照射された光の反射光に基づき、Z座標としてZ1を特定する。具体的には、演算装置102は、全体カメラ53によって光が照射されてからその光の反射光が戻ってくるまでの時間に基づき、Z座標の原点とP1との間の距離Lを算出する。そして、演算装置102は、P1からZ軸に対して垂線を下ろし、垂線の長さと距離Lとに基づき三角関数を用いて、Z座標としてZ1を特定する。
【0097】
演算装置102は、上述するようにして特定したP1の位置座標を、P1の位置データとして記録装置103に記録させる。このとき、演算装置102は、新たに取得したP1の位置データが記録装置103に記録済みのP1の位置データと異なる場合、新たに取得したP1の位置データをタイムスタンプとともに記録装置103に記録させる。一方、演算装置102は、新たに取得したP1の位置データが記録装置103に記録済みのP1の位置データと同じである場合、新たに取得したP1の位置データを記録装置103に記録させない。
【0098】
このように、演算装置102は、人物の位置を検出するたびに、新たな位置データを記録装置103に毎回記録させるのではなく、人物の位置データが変化した場合に限り、新たな位置データを記録装置103に記録させるため、記録装置103が記録するデータ量が増大することを極力抑えることができる。
【0099】
このようにして、制御装置100は、全体カメラ53から取得した撮影情報に基づき、診療中の術者および患者の位置を特定するための各検出ポイントの位置データを取得する。制御装置100は、取得した位置データを時間データ(タイムスタンプ)に関連付けて、全体画像データとして記録装置103に蓄積して記録させる。記録装置103に記録された位置データを含む全体画像データは、サーバ装置200に送信され、記録装置203によって記録される。
【0100】
これにより、推定モデル161の設計者などは、一の推定モデル161を位置データを用いて機械学習させた後、記録装置103または記録装置203に記録された同じ位置データを用いて同じ一の推定モデル161を再び機械学習させる場合に、時間データを手掛かりにして、過去の機械学習時に用いた位置データを特定することができる。さらに、推定モデル161の設計者などは、複数の推定モデル161間で同じ診療データを用いて機械学習させる場合に、時間データを手掛かりにして、一の推定モデル161の機械学習時に用いた診療データを他の推定モデル161の機械学習時に特定することができる。
【0101】
また、一連の診療における人物の位置データを記録装置103または記録装置203に記録して残しておくことで、推定モデル161を再び機械学習させる際に、再び当時と同じような診療を行うことなく、当時の診療を再現することができる。さらに、将来において、各検出ポイントにおける位置検出の精度が向上した場合、当時と同じような一連の診療が行われても、当時と同じような位置データを取得することは難しくなるが、このような場合であっても、当時の一連の診療における人物の位置データを記録装置103または記録装置203に記録して残しておくことで、推定モデル161を再び機械学習させる際に、当時の診療を再現することができる。
【0102】
なお、当時の診療時の人物の位置データを記録装置103または記録装置203に記録して残すものに限らず、人物の位置データを特定する際に用いた生の動画データ(たとえば、トレー画像データ、患者画像データ、全体画像データなど)を、人物の位置データとともに記録装置103または記録装置203に記録して残してもよい。このようにすれば、たとえば、学習を繰り返したり、新たなAIアルゴリズムが開発されたりすることで、将来的に、位置検出部157の精度が飛躍的に向上すれば、その精度の高い位置検出部157によって生の動画データを解析することができる。これにより、生の動画データを取得した当時よりも、さらに精度の高い位置データを取得することができ、その精度の高い位置データを記録装置103または記録装置203に記録して残しておくことができる。
【0103】
さらに、制御装置100は、各検出ポイントを直線などによって仮想的に繋げることによって、人物の手、腕、頭、腰、および足などの動作を特定することができる。
【0104】
これにより、制御装置100は、関節、眼、鼻、口、耳、および頭といったような人物の動作が反映され易い各検出ポイントの位置を検出することで、より精度よく人物の動作を特定することができる。
【0105】
なお、上述した検出ポイントの位置座標の特定方法は、一例であり、制御装置100は、その他の手法で検出ポイントの位置座標を特定してもよい。さらに、制御装置100は、一連の診療に関わる人物に限らず、一連の診療に関わるキーアイテムの位置座標を特定してもよい。このようにすれば、制御装置100は、特定したキーアイテムの位置座標を用いて推定モデル161を機械学習させることもできる。
【0106】
本実施の形態においては、演算装置102は、全体カメラ53から取得した撮影情報に基づきZ座標を算出した上で、X座標およびY座標とともにZ座標を記録装置103または記録装置203に記録させるものであった。しかしながら、演算装置102は、Z座標の代わりに、撮影画像に映し出されたオブジェクトまでの距離をフレーム化した深度フレームを画像フレームとともに記録装置103または記録装置203に記録させてもよい。このようにすれば、一連の診療が終了した後であっても、記録装置103または記録装置203に記録された深度フレームおよび画像フレームを解析することで、Z座標を算出することができる。
【0107】
<制御装置の機能構成>
[制御装置の記録段階における機能構成]
図9は、本実施の形態に係る制御装置100の診療データの記録段階における機能構成を示すブロック図である。
図9に示すように、制御装置100は、主な機能部として、入力部150と、通信部110と、記録部130と、制御部120とを有する。なお、入力部150および通信部110は、通信装置101の機能部であり、記録部130は、記録装置103の機能部であり、制御部120は、演算装置102の機能部である。
【0108】
入力部150には、トレーカメラ51、患者カメラ52、および全体カメラ53の各々で撮影した画像関連データ(トレー画像データ,患者画像データ,全体画像データ)と、診療装置1から取得した装置関連データとが時系列で入力される。なお、入力部150には、撮影画像に映し出されたオブジェクトまでの距離をフレーム化した深度フレームが時系列で入力されてもよい。
【0109】
記録部130は、制御部120の制御に基づき、入力部150から入力された診療データ(画像関連データ、装置関連データ)を記録する。
【0110】
制御部120は、記録部130を制御することで、入力部150から入力された診療データ(画像関連データ、装置関連データ)を記録部130に記録させる。
【0111】
具体的には、制御部120は、一連の診療の開始条件が成立する場合に、入力部150から入力された一連の診療に関する診療データの記録を記録部130に開始させる。「開始条件」は、成立することによって一連の診療の開始が推定される条件である。
【0112】
たとえば、開始条件は、チェア11の座面シート11cの高さが所定高さ以上になったことを含む。一連の診療が開始する際には、患者がチェア11に座った状態で、座面シート11cが上昇することが想定される。このため、制御部120は、画像関連データおよび装置関連データの少なくともいずれか1つに基づき、座面シート11cの高さが所定高さ以上になるか否かを判定し、座面シート11cの高さが所定高さ以上になったと判定した場合に、診療データの記録を記録部130に開始させる。たとえば、制御部120は、チェア制御部111から取得した装置関連データ(ログデータ)に基づき、座面シート11cの動作を特定することで、座面シート11cの高さが所定高さ以上になるか否かを判定することができる。あるいは、制御部120は、全体カメラ53から取得した全体画像データに基づき、座面シート11cの動作を特定することで、座面シート11cの高さが所定高さ以上になるか否かを判定することができる。
【0113】
開始条件は、チェア11の背もたれ11bの角度(たとえば、鉛直方向に対する角度)が所定角度以上になったことを含む。一連の診療が開始する際には、患者がチェア11に座った状態で、患者が後傾姿勢となるように背もたれ11bが後方に傾くことが想定される。このため、制御部120は、画像関連データおよび装置関連データの少なくともいずれか1つに基づき、背もたれ11bの角度が所定角度以上になるか否かを判定し、背もたれ11bの角度が所定角度以上になったと判定した場合に、診療データの記録を記録部130に開始させる。たとえば、制御部120は、チェア制御部111から取得した装置関連データ(ログデータ)に基づき、背もたれ11bの動作を特定することで、背もたれ11bの角度が所定角度以上になるか否かを判定することができる。あるいは、制御部120は、全体カメラ53から取得した全体画像データに基づき、背もたれ11bの動作を特定することで、背もたれ11bの角度が所定角度以上になるか否かを判定することができる。
【0114】
開始条件は、診療器具15の駆動がONになったことを含む。一連の診療が開始する際には、診療器具15の駆動がONになることが想定される。このため、制御部120は、画像関連データおよび装置関連データの少なくともいずれか1つに基づき、診療器具15の駆動がONになるか否かを判定し、診療器具15の駆動がONになったと判定した場合に、診療データの記録を記録部130に開始させる。たとえば、制御部120は、器具制御部211から取得した装置関連データ(ログデータ)に基づき、診療器具15の状態を特定することで、診療器具15の駆動がONになるか否かを判定することができる。あるいは、制御部120は、全体カメラ53から取得した全体画像データまたは患者カメラ52から取得した患者画像データに基づき、診療器具15の状態を特定することで、診療器具15の駆動がONになるか否かを判定することができる。
【0115】
開始条件は、照明装置19の電源がONになったことを含む。一連の診療が開始する際には、照明装置19の電源がONになることが想定される。このため、制御部120は、画像関連データおよび装置関連データの少なくともいずれか1つに基づき、照明装置19の電源がONになるか否かを判定し、照明装置19の電源がONになったと判定した場合に、診療データの記録を記録部130に開始させる。たとえば、制御部120は、照明制御部122から取得した装置関連データ(ログデータ)に基づき、照明装置19の状態を特定することで、照明装置19の電源がONになるか否かを判定することができる。あるいは、制御部120は、全体カメラ53から取得した全体画像データに基づき、照明装置19の状態を特定することで、照明装置19の電源がONになるか否かを判定することができる。
【0116】
開始条件は、チェア11への人(たとえば、患者)の着座が検知されたことを含む。一連の診療が開始する際には、チェア11に人が着座することが想定される。このため、制御部120は、画像関連データに基づき、チェア11に人が着座したか否かを判定し、チェア11に人が着座したと判定した場合に、診療データの記録を記録部130に開始させる。たとえば、制御部120は、全体カメラ53から取得した全体画像データに基づき、診療空間における人の動作を特定することで、チェア11に人が着座するか否かを判定することができる。なお、チェア11の座面シート11cに、人の着座を検知する着座センサが設けられてもよい。
【0117】
開始条件は、診療空間において診療器具が検知されたことを含む。一連の診療が開始する際には、診療器具が用いられることが想定される。このため、制御部120は、画像関連データおよび装置関連データの少なくともいずれか1つに基づき、診療空間において診療器具が存在するか否かを判定し、診療空間において診療器具が存在すると判定した場合に、診療データの記録を記録部130に開始させる。たとえば、制御部120は、全体カメラ53から取得した全体画像データ、患者カメラ52から取得した患者画像データ、またはトレーカメラ51から取得したトレー画像データに基づき、診療器具の有無を特定することで、診療空間において診療器具が存在するか否かを判定することができる。より具体的には、制御部120は、トレーカメラ51から取得したトレー画像データに基づき、トレー30上に診療器具が置かれたか否かを判定し、トレー30上に診療器具が置かれたと判定した場合に、診療データの記録を記録部130に開始させる。
【0118】
開始条件は、診療空間において人(たとえば、患者、歯科医師、歯科助手)が検知されたことを含む。一連の診療が開始する際には、外部から診療空間に人が入り込むことが想定される。このため、制御部120は、画像関連データに基づき、診療空間において人が存在するか否かを判定し、診療空間において人が存在すると判定した場合に、診療データの記録を記録部130に開始させる。たとえば、制御部120は、全体カメラ53から取得した全体画像データに基づき、診療空間における人の有無を特定することで、診療空間において人が存在するか否かを判定することができる。
【0119】
さらに、背もたれ11bに対応する部分と座面シート11cに対応する部分とが一体的になったベッドをチェア11が備えている場合、開始条件は、チェア11のベッドの高さが所定高さ以上になったことを含む。一連の診療が開始する際には、患者がベッドに寝転んだ状態で、ベッドが上昇することが想定される。このため、制御部120は、画像関連データおよび装置関連データの少なくともいずれか1つに基づき、ベッドの高さが所定高さ以上になるか否かを判定し、ベッドの高さが所定高さ以上になったと判定した場合に、診療データの記録を記録部130に開始させる。たとえば、制御部120は、チェア制御部111から取得した装置関連データ(ログデータ)に基づき、ベッドの動作を特定することで、ベッドの高さが所定高さ以上になるか否かを判定することができる。あるいは、制御部120は、全体カメラ53から取得した全体画像データに基づき、ベッドの動作を特定することで、ベッドの高さが所定高さ以上になるか否かを判定することができる。
【0120】
上述した各開始条件は、複数組み合わされてもよい。たとえば、チェア11の座面シート11cの高さが所定高さ以上であったとしても、単に、チェア11のメンテナンスのために座面シート11cの高さが所定高さ以上となっている場合も想定される。このため、制御部120は、チェア11の座面シート11cの高さが所定高さ以上となり、かつ、チェア11に人が着座していることを検知した場合に、診療データの記録を記録部130に開始させてもよい。あるいは、チェア11の背もたれ11bの角度が所定角度以上であったとしても、単に、チェア11のメンテナンスのために背もたれ11bの角度が所定角度以上となっている場合も想定される。このため、制御部120は、チェア11の背もたれ11bの角度が所定角度以上となり、かつ、チェア11に人が着座していることを検知した場合に、診療データの記録を記録部130に開始させてもよい。
【0121】
このように、開始条件は、チェア11の座面シート11cの高さが所定高さ以上になったこと、チェア11のベッドの高さが所定高さ以上になったこと、チェア11の背もたれ11bの角度が所定角度以上になったこと、診療器具15の駆動がONになったこと、照明装置19の電源がONになったこと、チェア11への人の着座が検知されたこと、診療空間において診療器具15が検知されたこと、および、診療空間において人が検知されたことの少なくともいずれか1つを含む。
【0122】
なお、診療装置1(制御装置100)は、診療データの記録を開始するための記録開始スイッチを備えていてもよい。開始条件は、ユーザが記録開始スイッチを操作することを含んでいてもよい。診療装置1(制御装置100)は、ユーザのジェスチャ(たとえば、手振り)を検知するジェスチャセンサを備えていてもよい。開始条件は、ジェスチャセンサがユーザによるジェスチャを検知することを含んでいてもよい。診療装置1(制御装置100)は、ユーザの音声を検知する音声センサを備えていてもよい。開始条件は、音声センサがユーザの音声を検知することを含んでいてもよい。
【0123】
開始条件は、画像関連データが入力されたことを含んでいてもよい。つまり、制御装置100は、画像関連データが入力されたこと、あるいは、入力された画像関連データに基づき画像認識を行うことを契機として、記録フラグをONに設定してもよい。
【0124】
制御部120は、一連の診療の終了条件が成立する場合に、入力部150から入力された一連の診療に関する診療データの記録を記録部130に終了させる。「終了条件」は、成立することによって一連の診療の終了が推定される条件である。
【0125】
たとえば、終了条件は、チェア11の座面シート11cの高さが所定高さ未満になったことを含む。一連の診療が終了する際には、患者がチェア11に座った状態で、座面シート11cが下降することが想定される。このため、制御部120は、画像関連データおよび装置関連データの少なくともいずれか1つに基づき、座面シート11cの高さが所定高さ未満になるか否かを判定し、座面シート11cの高さが所定高さ未満になったと判定した場合に、診療データの記録を記録部130に終了させる。たとえば、制御部120は、チェア制御部111から取得した装置関連データ(ログデータ)に基づき、座面シート11cの動作を特定することで、座面シート11cの高さが所定高さ未満になるか否かを判定することができる。あるいは、制御部120は、全体カメラ53から取得した全体画像データに基づき、座面シート11cの動作を特定することで、座面シート11cの高さが所定高さ未満になるか否かを判定することができる。
【0126】
終了条件は、チェア11の背もたれ11bの角度(たとえば鉛直方向に対する角度)が所定角度未満になったことを含む。一連の診療が終了する際には、患者がチェア11に座った状態で、患者が前傾姿勢となるように背もたれ11bが前方に傾くことが想定される。このため、制御部120は、画像関連データおよび装置関連データの少なくともいずれか1つに基づき、背もたれ11bの角度が所定角度未満になるか否かを判定し、背もたれ11bの角度が所定角度未満になったと判定した場合に、診療データの記録を記録部130に終了させる。たとえば、制御部120は、チェア制御部111から取得した装置関連データ(ログデータ)に基づき、背もたれ11bの動作を特定することで、背もたれ11bの角度が所定角度未満になるか否かを判定することができる。あるいは、制御部120は、全体カメラ53から取得した全体画像データに基づき、背もたれ11bの動作を特定することで、背もたれ11bの角度が所定角度未満になるか否かを判定することができる。
【0127】
終了条件は、診療器具15の駆動がOFFになったことを含む。一連の診療が終了する際には、診療器具15の駆動がOFFになることが想定される。このため、制御部120は、画像関連データおよび装置関連データの少なくともいずれか1つに基づき、診療器具15の駆動がOFFになるか否かを判定し、診療器具15の駆動がOFFになったと判定した場合に、診療データの記録を記録部130に終了させる。たとえば、制御部120は、器具制御部211から取得した装置関連データ(ログデータ)に基づき、診療器具15の状態を特定することで、診療器具15の駆動がOFFになるか否かを判定することができる。あるいは、制御部120は、全体カメラ53から取得した全体画像データまたは患者カメラ52から取得した患者画像データに基づき、診療器具15の状態を特定することで、診療器具15の駆動がOFFになるか否かを判定することができる。
【0128】
終了条件は、照明装置19の電源がOFFになったことを含む。一連の診療が終了する際には、照明装置19の電源がOFFになることが想定される。このため、制御部120は、画像関連データおよび装置関連データの少なくともいずれか1つに基づき、照明装置19の電源がOFFになるか否かを判定し、照明装置19の電源がOFFになったと判定した場合に、診療データの記録を記録部130に終了させる。たとえば、制御部120は、照明制御部122から取得した装置関連データ(ログデータ)に基づき、照明装置19の状態を特定することで、照明装置19の電源がOFFになるか否かを判定することができる。あるいは、制御部120は、全体カメラ53から取得した全体画像データに基づき、照明装置19の状態を特定することで、照明装置19の電源がOFFになるか否かを判定することができる。
【0129】
終了条件は、チェア11からの人(たとえば、患者)の離席が検知されたことを含む。一連の診療が終了する際には、チェア11から人が離席することが想定される。このため、制御部120は、画像関連データに基づき、チェア11から人が離席したか否かを判定し、チェア11から人が離席したと判定した場合に、診療データの記録を記録部130に終了させる。たとえば、制御部120は、全体カメラ53から取得した全体画像データに基づき、診療空間における人の動作を特定することで、チェア11から人が離席したか否かを判定することができる。
【0130】
終了条件は、診療空間において診療器具15が所定時間以上検知されないことを含む。一連の診療が終了する際には、診療器具15が片付けられて所定時間以上用いられないことが想定される。このため、制御部120は、画像関連データおよび装置関連データの少なくともいずれか1つに基づき、診療空間において診療器具15が所定時間以上存在するか否かを判定し、診療空間において診療器具15が所定時間以上存在しないと判定した場合に、診療データの記録を記録部130に終了させる。たとえば、制御部120は、全体カメラ53から取得した全体画像データ、患者カメラ52から取得した患者画像データ、またはトレーカメラ51から取得したトレー画像データに基づき、診療器具15の有無を特定することで、診療空間において診療器具15が所定時間以上存在するか否かを判定することができる。より具体的には、制御部120は、トレーカメラ51から取得したトレー画像データに基づき、トレー30上から診療器具が離されたか否かを判定し、トレー30上から診療器具が所定時間以上離されたと判定した場合に、診療データの記録を記録部130に終了させる。
【0131】
終了条件は、診療空間において人(たとえば、患者、歯科医師、歯科助手)が検知されないことを含む。一連の診療が終了する際には、診療空間から外部へと人が出て行くことが想定される。このため、制御部120は、画像関連データに基づき、診療空間において人が存在するか否かを判定し、診療空間において人が存在しないと判定した場合に、診療データの記録を記録部130に終了させる。たとえば、制御部120は、全体カメラ53から取得した全体画像データに基づき、診療空間における人の有無を特定することで、診療空間において人が存在するか否かを判定することができる。
【0132】
さらに、背もたれ11bに対応する部分と座面シート11cに対応する部分とが一体的になったベッドをチェア11が備えている場合、終了条件は、チェア11のベッドの高さが所定高さ未満になったことを含む。一連の診療が終了する際には、患者がベッドに寝転んだ状態で、ベッドが下降することが想定される。このため、制御部120は、画像関連データおよび装置関連データの少なくともいずれか1つに基づき、ベッドの高さが所定高さ未満になるか否かを判定し、ベッドの高さが所定高さ未満になったと判定した場合に、診療データの記録を記録部130に終了させる。たとえば、制御部120は、チェア制御部111から取得した装置関連データ(ログデータ)に基づき、ベッドの動作を特定することで、ベッドの高さが所定高さ未満になるか否かを判定することができる。あるいは、制御部120は、全体カメラ53から取得した全体画像データに基づき、ベッドの動作を特定することで、ベッドの高さが所定高さ未満になるか否かを判定することができる。
【0133】
上述した各終了条件は、複数組み合わされてもよい。たとえば、チェア11の座面シート11cの高さが所定高さ未満であったとしても、単に、チェア11のメンテナンスまたはレントゲン撮影などで患者が一時的にチェア11から離れている場合も想定される。このため、制御部120は、チェア11の座面シート11cの高さが所定高さ未満となり、かつ、診療空間において人および診療器具が検知されない場合に、診療データの記録を記録部130に終了させてもよい。あるいは、チェア11の背もたれ11bの角度が所定角度未満であったとしても、単に、チェア11のメンテナンスまたはレントゲン撮影などで患者が一時的にチェア11から離れている場合も想定される。このため、制御部120は、チェア11の座面シート11cの高さが所定高さ未満となり、かつ、診療空間において人および診療器具が検知されない場合に、診療データの記録を記録部130に終了させてもよい。
【0134】
このように、終了条件は、チェア11の座面シート11cの高さが所定高さ未満になったこと、チェア11のベッドの高さが所定高さ未満になったこと、チェア11の背もたれ11bの角度が所定角度未満になったこと、診療器具15の駆動がOFFになったこと、照明装置19の電源がOFFになったこと、チェア11からの人の離席が検知されたこと、診療空間において診療器具15が所定時間以上検知されないこと、および、診療空間において人が検知されないことの少なくともいずれか1つを含む。
【0135】
なお、診療装置1(制御装置100)は、診療データの記録を終了するための記録終了スイッチを備えていてもよい。開始条件は、ユーザが記録終了スイッチを操作することを含んでいてもよい。記録開始スイッチは、記録終了スイッチと同じものであってもよいし、異なるものであってもよい。診療装置1(制御装置100)は、ユーザのジェスチャ(たとえば、手振り)を検知するジェスチャセンサを備えていてもよい。終了条件は、ジェスチャセンサがユーザによるジェスチャを検知することを含んでいてもよい。診療装置1(制御装置100)は、ユーザの音声を検知する音声センサを備えていてもよい。終了条件は、音声センサがユーザの音声を検知することを含んでいてもよい。
【0136】
以上のように、制御装置100は、一連の診療の開始タイミングで記録開始した診療データを用いて推定モデル161を機械学習させることができるため、一連の診療の開始前の一連の診療とは無関係な無駄なデータを用いて推定モデル161を機械学習させることを防止することができる。
【0137】
制御部120は、一連の診療の終了条件が成立する場合に、入力部150から入力された一連の診療に関する診療データの記録を記録部130に終了させる。これにより、制御装置100は、一連の診療の終了タイミングで記録終了した診療データを用いて推定モデル161を機械学習させることができるため、一連の診療の終了後の一連の診療とは無関係な無駄なデータを用いて推定モデル161を機械学習させることを防止することができる。
【0138】
さらに、一連の診療の開始タイミングで診療データを記録開始し、かつ、一連の診療の終了タイミングで診療データを記録終了することで、実際に行われた一連の診療に対して診療データが足らなかったり、一連の診療とは無関係な無駄なデータが診療データに含まれていたりすることがない。このため、制御装置100は、記録部130に記録された診療データに基づき、一連の診療が行われた当時の診療装置1の動作および歯科医師などの動作を再現することができる。制御装置100は、このような、一連の診療ごとに記録された診療データを用いることで、推定モデル161の機械学習の精度を向上させることができる。
【0139】
通信部110は、記録部130に記録された診療データを、サーバ装置200へと出力する。なお、制御装置100は、記録部130に対する診療データの記録が実行されている間(一連の診療の実行中)に診療データをサーバ装置200へと出力してもよいし、記録部130に対する診療データの記録が完了した後(一連の診療の完了後)に診療データをサーバ装置200へと出力してもよい。
【0140】
サーバ装置200は、記録部230を有する。記録部230は、記録装置203の機能部である。サーバ装置200は、通信部110から出力された診療データを、記録部230に記録させる。
【0141】
上述したようにして記録部130および記録部230の少なくともいずれか1つに記録された診療データは、推定モデル161の学習用データとして用いられる。
【0142】
図10は、学習用データのデータ構造を説明するための図である。
図10に示すように、記録部130および記録部230には、一連の診療ごとに1セットになった診療データが記録される。
【0143】
具体的には、
図10に示すように、記録部130および記録部230の各々は、一連の診療に割り当てられた識別データと、一連の診療の開始タイミング(開始日時)と一連の診療の終了タイミング(終了日時)とを特定可能な時間データ(タイムスタンプ)とを関連付けて、診療データ(トレー画像データ、患者画像データ、全体画像データ、装置関連データ)を記録する。なお、記録部130および記録部230の各々は、撮影画像に映し出されたオブジェクトまでの距離をフレーム化した深度フレームを、診療データとして記録してもよい。
【0144】
このように、記録部130および記録部230の各々は、一連の診療ごとに識別データによって識別可能な態様で診療データを記録する。これにより、一の推定モデル161を機械学習させた後、同じ診療データを用いて同じ一の推定モデル161を再び機械学習させる場合に、識別データを手掛かりにして、過去に用いた診療データを特定することができる。さらに、複数の推定モデル161間で同じ診療データを用いて機械学習させる場合に、識別データを手掛かりにして、一の推定モデル161の機械学習時に用いた診療データを他の推定モデル161の機械学習時に特定することができる。したがって、推定モデル161の設計者などは、効率よく機械学習させることができる。
【0145】
このように、記録部130および記録部230の各々は、一連の診療が行われた時間を時間データによって特定可能な態様で診療データを記録する。これにより、推定モデル161の設計者などは、一の推定モデル161を機械学習させた後、同じ診療データを用いて同じ一の推定モデル161を再び機械学習させる場合に、時間データを手掛かりにして、過去に用いた診療データを特定するとともに、当時行われた一連の診療の時間を特定することができる。さらに、推定モデル161の設計者などは、複数の推定モデル161間で同じ診療データを用いて機械学習させる場合に、時間データを手掛かりにして、一の推定モデル161の機械学習時に用いた診療データを他の推定モデル161の機械学習時に特定するとともに、当時行われた一連の診療の時間を特定することができる。したがって、推定モデル161の設計者などは、効率よく機械学習させることができる。
【0146】
さらに、記録部130および記録部230の各々は、個々の診療データ識別可能な識別情報としてIDを、診療データに紐付けて記録してもよい。また、記録部130および記録部230の各々は、一連の診療に関する内容(たとえば、術者の氏名、処置内容、その他の特記事項など)を、診療データに紐付けて記録してもよい。このようにすれば、推定モデル161の設計者などは、上述したようなIDまたは一連の診療に関する内容を手掛かりにして、過去に用いた診療データを特定することができ、機械学習の効率が向上する。
【0147】
[制御装置の学習段階における機能構成]
図11は、本実施の形態に係る制御装置100の学習段階における機能構成を示すブロック図である。
図11に示すように、制御装置100は、主な機能部として、記録部130と、位置検出部157と、物体検出部152と、変換部154と、同期部155と、セグメント化部156と、生成部160と、出力部180とを有する。なお、出力部180は、通信装置101の機能部であり、位置検出部157、物体検出部152、変換部154、同期部155、セグメント化部156、および生成部160は、各々、演算装置102の機能部である。
【0148】
位置検出部157は、XY検出部151とZ検出部153とを含む。XY検出部151は、記録部130またはサーバ装置200の記録部230から取得した全体カメラ53の全体画像データに基づき画像認識を行うことで、術者および患者などの人物の位置データ(X座標、Y座標)を検出する。Z検出部153は、
図8で説明したように、XY検出部151によって特定された人物のX座標およびY座標と、赤外線などによる反射光から算出される人物までの距離Lとに基づき、人物の位置データ(Z座標)を検出する。たとえば、位置検出部157は、全体カメラ53の全体画像データに基づき、後述する
図16に示すように、所定のタイミング(後述する
図16に示すtC1、tC2、tC3、…)ごとに、人物の位置データ(X座標、Y座標、Z座標)を検出する。
【0149】
ここで、XY検出部151の構成についてさらに詳細に説明する。図中の破線部Cに示すように、XY検出部151は、推定モデル1511を有する。さらに、推定モデル1511は、ニューラルネットワーク1512と、当該ニューラルネットワーク1512によって用いられるパラメータ1513とを含む。パラメータ1513は、ニューラルネットワーク1512による計算に用いられる重み付け係数と、推定の判定に用いられる判定値とを含む。
【0150】
ニューラルネットワーク1512は、畳み込みニューラルネットワーク(CNN:Convolution Neural Network)、リカレントニューラルネットワーク(再帰型ニューラルネットワーク)(RNN:Recurrent Neural Network)、あるいはLSTMネットワーク(Long Short Term Memory Network)など、ディープラーニングによる画像認識処理で用いられる公知のニューラルネットワークが適用される。
【0151】
XY検出部151は、記録部130または記録部230から取得した全体画像データと、ニューラルネットワーク1512を含む推定モデル1511とに基づき、術者および患者などの人物の位置データ(各検出ポイントのX座標、Y座標)を推定する。
【0152】
学習段階において、推定モデル1511は、全体画像データに関連付けられた人物の位置データ(各検出ポイントのX座標、Y座標)と、当該全体画像データを用いた人物の位置データ(各検出ポイントのX座標、Y座標)の推定結果とに基づき学習されることで最適化(調整)される。
【0153】
具体的には、推定モデル1511は、教師データとして全体画像データが入力されると、当該全体画像データに基づきニューラルネットワーク1512によって撮影画像に映し出された人物の検出ポイントを推定する。なお、推定モデル1511が推定する検出ポイントは、
図6で示したように予め決められている。推定モデル1511は、各人物において検出ポイントを推定すると、推定した検出ポイントごとに位置データ(X座標、Y座標)を推定する。なお、位置データの原点は、
図7および
図8で示したように予め決められている。
【0154】
推定モデル1511は、自身の推定結果と、入力された全体画像データに関連付けられた正解データである人物の位置データとが一致するか否かを判定し、両者が一致すればパラメータ1513を更新しない一方で、両者が一致しなければ両者が一致するようにパラメータ1513を更新することで、パラメータ1513を最適化する。なお、上述したような推定モデル1511の学習は、学習段階に限らず、運用段階においても行われてもよい。
【0155】
なお、XY検出部151は、ニューラルネットワークを用いたAIの画像認識によって人物の位置データを検出するものに限らない。たとえば、XY検出部151は、公知のパターンマッチングのように、撮影画像と予め用意されたテンプレートとを比較することで、人物の位置データを検出してもよい。また、XY検出部151の機能は、制御装置100が有するものではなく、全体カメラ53が有するものであってもよいし、全体カメラ53の近くに配置されたエッジコンピュータが有するものであってもよい。この場合、エッジコンピュータなどによる検出結果が、画像関連データとして入力部150に入力される。
【0156】
物体検出部152は、記録部130または記録部230から取得したトレーカメラ51のトレー画像データに基づき画像認識を行うことで、トレー30に置かれた診療器具の有無、形状、および種類などを検出することができる。たとえば、物体検出部152は、後述する
図13に示すようなトレーカメラ51による複数枚の撮影画像のデータに基づき、後述する
図14に示すように、所定のタイミング(後述する
図14に示すtA1、tA2、tA3、…)ごとに、トレー30に置かれた診療器具の有無、形状、および種類などを推定する。たとえば、
図14に示すトレー画像データにおいては、トレー30上に存在する診療器具に対応する記録領域に「0」のデータが格納され、トレー30上に存在しない診療器具に対応する記録領域に「1」のデータが格納される。
【0157】
さらに、物体検出部152は、記録部130または記録部230から取得した患者カメラ52の患者画像データに基づき画像認識を行うことで、患者の口腔内における診療器具の位置を検出することができる。たとえば、物体検出部152は、患者カメラ52による複数枚の撮影画像のデータに基づき、後述する
図15に示すように、所定のタイミング(後述する
図15に示すtB1、tB2、tB3、…)ごとに、患者の口腔内における診療器具の位置などを推定する。たとえば、
図15に示す患者画像データにおいては、診療器具と患者との位置関係において、両者が所定範囲内に位置しない場合に記録領域に「0」のデータが格納され、両者が所定範囲内に位置する場合に記録領域に「1」のデータが格納される。
【0158】
図示は省略するが、物体検出部152は、XY検出部151と同様に、ニューラルネットワークおよびパラメータを含む推定モデルを有する。そして、物体検出部152は、ニューラルネットワークを用いたAIの画像認識によって、診療器具の有無、形状、および種類などを推定したり、患者の口腔内における診療器具の位置を推定したりする。
【0159】
たとえば、物体検出部152は、CNN、RNN、およびLSTMネットワークといった、ディープラーニングによる画像認識処理で用いられる公知のニューラルネットワークを含む推定モデルを有する。学習段階において、推定モデルは、トレー画像データに関連付けられた診療器具の有無、形状、および種類などと、当該トレー画像データを用いた診療器具の有無、形状、および種類などの推定結果とに基づき学習されることで最適化(調整)される。さらに、学習段階において、推定モデルは、患者画像データに関連付けられた患者の口腔内における診療器具の位置などと、当該患者画像データを用いた患者の口腔内における診療器具の位置などの推定結果とに基づき学習されることで最適化(調整)される。なお、上述したような推定モデルの学習は、学習段階に限らず、運用段階においても行われてもよい。
【0160】
なお、物体検出部152は、ニューラルネットワークを用いたAIの画像認識によって診療器具の有無、形状、および種類などを検出したり、患者の口腔内における診療器具の位置を検出したりするものに限らない。たとえば、物体検出部152は、公知のパターンマッチングのように、撮影画像と予め用意されたテンプレートとを比較することで、診療器具の有無、形状、および種類などを検出したり、患者の口腔内における診療器具の位置を検出したりしてもよい。
【0161】
変換部154は、記録部130または記録部230から取得した装置関連データを、所定の形式に変換する。具体的には、変換部154は、記録部130または記録部230から取得した装置関連データを、同じく記録部130または記録部230から取得した画像関連データと同期させるために適した形式に変換する。たとえば、変換部154は、装置関連データの時間軸を、画像関連データの時間軸に合わせるように、装置関連データの形式を変換する。あるいは、変換部154は、装置関連データの時間軸を、画像関連データの時間軸と合わせるための共通の時間軸に合わせるように、装置関連データの形式を変換する。
【0162】
同期部155は、位置検出部157および物体検出部152による検出結果を含む画像関連データと、変換部154によって変換された装置関連データとを時系列に同期させる。たとえば、同期部155は、後述する
図18および
図19に示すように、画像関連データ(トレー画像データ、患者画像データ、全体画像データ)と装置関連データとを、同期時間の時間軸に合わせて所定のタイミング(後述する
図18および
図19に示すT1、T2、T3、…)ごとに同期させる。画像関連データと装置関連データとが同期することで得られるデータを「同期データ」とも称する。なお、同期データの生成時に用いる同期時間としては、一連の診療の開始条件が成立したときからの経過時間またはタイムスタンプから特定可能な絶対時間(たとえば、リアルタイムの時刻)が用いられ得る。
【0163】
セグメント化部156は、画像関連データと装置関連データとを所定のタイミングで区切ることで、同期データをセグメント化する。具体的には、セグメント化部156は、同期部155によって同期された画像関連データおよび装置関連データ(すなわち、同期データ)に対して、所定のタイミングで所定のイベントが発生したことが記録されるように、当該同期データをセグメント化する。「所定のイベントが発生したこと」は、たとえば、ハンドピースなどの診療器具15の駆動開始や駆動停止、照明装置19の点灯開始や点灯終了、ベースンユニット12における給水・排水の開始や終了、トレー30上の診療器具が取り出されたことやトレー30上に診療器具が置かれたことなど、診療に関するイベントを含む。
【0164】
また、セグメント化部156は、同期部155によって同期された画像関連データおよび装置関連データ(同期データ)に対して、所定のタイミングで所定のイベントが継続していることが記録されるように、当該同期データをセグメント化する。「所定のイベントが継続していること」は、たとえば、ハンドピースなどの診療器具15の駆動状態の継続、照明装置19の点灯状態の継続、ベースンユニット12における給水・排水の継続、トレー30上の診療器具が存在する状態の継続や存在しない状態の継続など、診療に関するイベントの継続を含む。
【0165】
たとえば、セグメント化部156は、画像関連データおよび装置関連データに対して所定のタイミングごとに区切りを付けることで、同期データを期間ごとにセグメント化する。セグメント化の方法は、所定のタイミングごとにフラグデータをセットしてもよいし、セグメント化した期間ごとに同期データを所定の記録領域に移動させたりコピーしたりしてもよい。
【0166】
セグメント化部156によって同期データが区切られる「所定のタイミング」は、所定時間(たとえば、5秒)ごとに定期的に訪れるタイミングであってもよい。
【0167】
なお、セグメント化部156によって同期データが区切られる「所定のタイミング」は、画像関連データ(トレー画像データ、患者画像データ)において格納された「0」または「1」のデータと、装置関連データにおいて格納された「0」または「1」のデータとに基づき、決められてもよい。
【0168】
たとえば、セグメント化部156によって同期データが区切られる「所定のタイミング」は、装置関連データに含まれる、診療装置1が備えるチェア11を駆動するデータ、診療装置1が備える診療器具15を駆動するデータ、診療装置1が備える照明装置19を駆動するデータ、および診療装置1が備えるベースンユニット12を駆動するデータの少なくともいずれか1つに基づき、これら診療に関する装置の駆動の発生または継続が判定されるタイミングであってもよい。たとえば、
図19に示すように、診療器具15のピックアップが「0」から「1」に切り替わったタイミングT3、診療器具のピックアップが「1」から「0」に切り替わったタイミングT6などで、同期データが区切られてもよい。
【0169】
なお、セグメント化部156は、装置関連データに基づき同期データを区切ることができない場合でも、トレー画像データなどの画像関連データに基づき同期データを区切ることもできる。たとえば、
図18に示すように、洗浄用ニードル309および洗浄用シリンジ310の有無判定が「0」から「1」に切り替わったタイミングT8、洗浄用ニードル309および洗浄用シリンジ310の有無判定が「1」から「0」に切り替わったタイミングT10などで、同期データが区切られてもよい。すなわち、セグメント化部156は、画像関連データおよび装置関連データの少なくともいずれか1つに含まれる患者の診療に関するイベントの発生を示すデータに基づき、当該画像関連データと当該装置関連データとを所定のタイミングでセグメント化してもよい。
【0170】
このように、セグメント化部156は、同期データのセグメント化にあたって、画像関連データおよび装置関連データの各々単体ではデータが不足している場合であっても、両者のデータを組み合わせることで、制御データの推定に適切なタイミングで同期データを区切ってもよい。
【0171】
なお、画像関連データにおける画像の撮影タイミングと、装置関連データにおけるログデータの取得タイミングとが予め同期している場合、変換部154および同期部155を用いなくてもよい。この場合、セグメント化部156は、同期データではなく、記録部130または記録部230から取得した画像関連データおよび装置関連データを直接的に用いて、当該画像関連データと当該装置関連データとを所定のタイミングで区切ることでセグメント化してもよい。
【0172】
生成部160は、セグメント化部156によってセグメント化された画像関連データおよび装置関連データに基づき、診療に関する推定結果を生成する。たとえば、生成部160は、画像関連データおよび装置関連データに基づき、診療装置1の制御データを推定し、推定した制御データを生成する。
【0173】
生成部160は、推定モデル161を有する。さらに、推定モデル161は、ニューラルネットワーク162と、当該ニューラルネットワーク162によって用いられるパラメータ163とを含む。パラメータ163は、ニューラルネットワーク162による計算に用いられる重み付け係数と、推定の判定に用いられる判定値とを含む。
【0174】
学習段階において、推定モデル161は、セグメント化部156によってセグメント化された画像関連データおよび装置関連データと、当該画像関連データおよび当該装置関連データを用いた制御データの推定結果とに基づき学習されることで最適化(調整)される。
【0175】
たとえば、推定モデル161は、教師データとして全体画像データ(人物の位置データ)が入力されると、当該全体画像データに基づきニューラルネットワーク162によって人物が行う動作の順番および姿勢を把握することで診療装置1の制御内容を先読みし、診療装置1の制御データを推定する。
【0176】
推定モデル161は、自身の推定結果と、入力された全体画像データに関連付けられた正解データである診療装置1の制御データとが一致するか否かを判定し、両者が一致すればパラメータ163を更新しない一方で、両者が一致しなければ両者が一致するようにパラメータ163を更新することで、パラメータ163を最適化する。
【0177】
このように、学習段階において、制御装置100は、トレー画像データ、患者画像データ、および全体画像データといった各画像関連データと、ログデータのような診療装置1で取得した装置関連データとのうち、少なくともいずれか1つのデータに基づいて、制御データを推定できるように、ニューラルネットワーク162を含む推定モデル161を機械学習させる。
【0178】
なお、制御装置100は、学習段階に限らず、運用段階においても、ニューラルネットワーク162を含む推定モデル161を機械学習させてもよい。たとえば、運用段階において、生成部160が生成した制御データに基づいて診療装置1が動作したことに対して、術者などのユーザが異なる動作を診療装置1にさせるために正解データを入力した場合、推定モデル161は、推定結果と正解データとに基づき学習されることで最適化(再調整)されてもよい。このようにすれば、制御装置100は、運用段階においても機械学習を行うため、術者などのユーザが使用すればするほど制御データの推定精度が向上する。
【0179】
なお、生成部160の推定モデル161は、教師あり学習のアルゴリズムに限らず、教師なし学習のアルゴリズム、または強化学習のアルゴリズムなど、公知のアルゴリズムを用いて機械学習を行うものであってもよい。たとえば、教師なし学習のアルゴリズムを用いる場合、推定モデル161は、画像関連データに基づき、診療中に使用される診療器具の種類やその使用タイミング、診療器具と患者の口腔との位置関係、診療中の術者と患者の行動、および診療装置1における各部のログデータを分類(クラスタリング)し、その分類結果に基づき診療の手順(たとえば、診療中に行われる次の処置の内容)を推定してもよい。
【0180】
出力部180は、生成部160によって生成された推定結果(たとえば、制御データ)を、診療装置1における制御対象などに出力する。制御対象は、チェア11、診療器具15、照明装置19、ベースンユニット12、フットコントローラ16、ディスプレイ17、操作パネル18、およびスピーカ35の少なくともいずれか1つを含む。
【0181】
制御データは、制御対象に対する駆動開始を示すデータ、制御対象に対する駆動終了を示すデータ、制御対象に対する駆動禁止を示すデータ、制御対象に対する駆動継続を示すデータ、制御対象に対する駆動量を示すデータ、駆動量に関する上限値を示すデータ、駆動量に関する下限値を示すデータ、制御対象に対する駆動時間を示すデータ、および制御対象のステータスに関するデータの少なくともいずれか1つを含む。
【0182】
[制御装置の運用段階における機能構成]
図12は、本実施の形態に係る制御装置100の運用段階における機能構成を示すブロック図である。
図12に示すように、運用段階における制御装置100は、XY検出部151、物体検出部152、および生成部160の各々が学習済みとなっている。制御装置100は、入力部150をさらに有する。入力部150は、通信装置101の機能部である。
【0183】
運用段階においては、術者が患者を診療中にリアルタイムで、各カメラから画像関連データが入力部150に入力され、さらに、ベースンユニット12から装置関連データが入力部150に入力される。
【0184】
XY検出部151は、入力部150から入力された全体カメラ53の全体画像データに基づき画像認識を行うことで、術者および患者などの人物の位置データ(X座標、Y座標)を検出する。Z検出部153は、XY検出部151によって特定された人物のX座標およびY座標と、赤外線などによる反射光から算出される人物までの距離Lとに基づき、人物の位置データ(Z座標)を検出する。
【0185】
物体検出部152は、入力部150から入力されたトレーカメラ51のトレー画像データに基づき画像認識を行うことで、トレー30に置かれた診療器具の有無、形状、および種類などを検出する。さらに、物体検出部152は、入力部150から入力された患者カメラ52の患者画像データに基づき画像認識を行うことで、患者の口腔内における診療器具の位置を検出する。物体検出部152は、入力部150から入力された全体カメラ53の全体画像データに基づき画像認識を行うことで、診療器具などの診療に関するキーアイテムの位置を検出してもよい。
【0186】
変換部154は、ベースンユニット12から入力部150に入力された装置関連データを、所定の形式に変換する。
【0187】
同期部155は、位置検出部157および物体検出部152による検出結果を含む画像関連データと、変換部154によって変換された装置関連データとを時系列に同期させて同期データを生成する。
【0188】
セグメント化部156は、入力部150から入力された画像関連データと装置関連データとを所定のタイミングで区切ることで、同期データをセグメント化する。
【0189】
生成部160は、セグメント化部156によってセグメント化された画像関連データおよび装置関連データと、ニューラルネットワーク162を含む学習済の推定モデル161とに基づき、診療に関する推定結果を生成する。たとえば、生成部160は、画像関連データおよび装置関連データに基づき、診療装置1の制御データを推定し、推定した制御データを生成する。
【0190】
出力部180は、生成部160によって生成された推定結果(たとえば、制御データ)を、診療装置1における制御対象などに出力する。
【0191】
このように、制御装置100は、トレー画像データ、患者画像データ、および全体画像データといった各画像関連データと、ログデータのような診療装置1で取得した装置関連データと、ニューラルネットワーク162を含む推定モデル161とに基づき、診療装置1を制御するための制御データを生成する。これにより、歯科医師および歯科助手などの術者の行動に先だって、制御装置100によって診療装置1が制御されるため、術者の利便性を向上させることができる。
【0192】
なお、制御装置100は、画像関連データおよび装置関連データの両方と、推定モデル161とに基づき、診療装置1を制御するための制御データを生成することに限らない。制御装置100は、装置関連データを用いることなく、画像関連データと推定モデル161とに基づき、診療装置1を制御するための制御データを生成してもよい。
【0193】
たとえば、制御装置100は、全体カメラ53によって取得された全体画像データから、術者および患者などの人物の位置データを検出し、推定モデル161によって、各人物の位置データに基づき各人物が行う動作の順番および姿勢を把握することで、診療装置1の制御内容を先読みし、診療装置1の制御データを推定してもよい。
【0194】
たとえば、制御装置100は、患者カメラ52によって取得された患者画像データから、患者の口腔内における診療器具の位置を検出し、推定モデル161によって、患者の口腔内における診療器具の位置に基づき術者が行う動作の順番および姿勢を把握することで、診療装置1の制御内容を先読みし、診療装置1の制御データを推定してもよい。
【0195】
たとえば、制御装置100は、トレーカメラ51によって取得されたトレー画像データから、トレー30に置かれた診療器具の有無、形状、および種類を検出し、推定モデル161によって、トレー30に置かれた診療器具の有無、形状、および種類に基づき術者が行う動作の順番および姿勢を把握することで、診療装置1の制御内容を先読みし、診療装置1の制御データを推定してもよい。
【0196】
たとえば、制御装置100は、装置関連データから、診療装置1の制御内容を先読みし、診療装置1の制御データを推定してもよい。
【0197】
<制御データの推定の一例>
図13~
図20を参照しながら、制御装置100による制御データの推定の一例について説明する。なお、
図13~
図20には、根管治療の例が示されている。
【0198】
診療中においては、トレーカメラ51によって、シャッタータイミングに依存する所定のタイミング(tA1、tA2、tA3、…)ごとに、トレー30に置かれた1または複数の診療器具が撮影される。
【0199】
たとえば、
図13は、根管治療におけるトレーカメラ51の撮影画像の一例を説明するための図である。
図13に示すように、根管治療に含まれる処置として審査が行われているタイミングtA2では、術者によってピンセット314、ミラー316、および深針318が使用されるため、トレーカメラ51の撮影画像にはピンセット314、ミラー316、および深針318が映し出されない。根管治療に含まれる処置として抜髄が行われているタイミングtA3では、術者によってファイル305およびバキューム315が使用されるため、トレーカメラ51の撮影画像にはファイル305およびバキューム315が映し出されない。根管治療に含まれる処置として根管長測定・拡大が行われているタイミングtA5では、術者によって根管長測定器303およびファイル305が使用されるため、トレーカメラ51の撮影画像には根管長測定器303およびファイル305が映し出されない。根管治療に含まれる処置として消毒・洗浄が行われているタイミングtA7では、術者によって洗浄用ニードル309、洗浄用シリンジ310、およびバキューム315が使用されるため、トレーカメラ51の撮影画像には洗浄用ニードル309、洗浄用シリンジ310、およびバキューム315が映し出されない。根管治療に含まれる処置として根管充填が行われているタイミングtA9では、術者によってミラー316および根管材料注入器319が使用されるため、トレーカメラ51の撮影画像にはミラー316および根管材料注入器319が映し出されない。根管治療に含まれる処置として詰め込み・被せが行われているタイミングtA11では、術者によって仮封剤充填器311、ピンセット314、およびミラー316が使用されるため、トレーカメラ51の撮影画像には仮封剤充填器311、ピンセット314、およびミラー316が映し出されない。
【0200】
このように、診療中においては、トレー30に置かれた診療器具の有無、形状、および種類などが、トレーカメラ51の撮影画像によって映し出される。
【0201】
制御装置100は、上述したようなトレーカメラ51の撮影画像のデータ(トレー画像データとしての画像関連データ)が入力部150に入力されると、一連の診療の開始条件が成立し、かつ、終了条件が成立していないことを条件に、入力されたトレー画像データを記録装置103に記録させる。
【0202】
診療中においては、患者カメラ52によって、シャッタータイミングに依存する所定のタイミング(tB1、tB2、tB3、…)ごとに、患者の口腔内が撮影される。
【0203】
そして、制御装置100は、患者カメラ52の撮影画像のデータ(患者画像データとしての画像関連データ)が入力部150に入力されると、一連の診療の開始条件が成立し、かつ、終了条件が成立していないことを条件に、入力された患者画像データを記録装置103に記録させる。
【0204】
診療中においては、全体カメラ53によって、シャッタータイミングに依存する所定のタイミングごとに、診療空間が術者および患者の行動、診療装置1の動作などが撮影される。
【0205】
そして、制御装置100は、全体カメラ53の撮影画像のデータ(全体画像データとしての画像関連データ)が入力部150に入力されると、一連の診療の開始条件が成立し、かつ、終了条件が成立していないことを条件に、入力された全体画像データを記録装置103に記録させる。
【0206】
診療中においては、ログデータの取得タイミングに依存する所定のタイミング(tD1、tD2、tD3、…)で、診療装置1が備えるチェア11、ベースンユニット12、照明装置19、器具制御装置21、および表示制御装置22の少なくともいずれか1つにおける動作および制御を示すログデータが、診療装置1から出力される。
【0207】
たとえば、
図17は、診療装置1から取得された装置関連データの一例を説明するための図である。
図17に示すように、装置関連データにおいては、診療器具15について、ピックアップの有無、エアタービンの回転数、マイクロモータの回転数、超音波スケーラの発振強度、バキュームシリンジの動作、サライバエジェクタの動作、および注水の動作状態などを表すログデータが含まれ、チェア11について、座面高さ、背板角度(背もたれ角度)、およびチェア11の動作状態などを表すログデータが含まれ、フットコントローラ16について、踏込量、踏込パターン、およびスイッチ状態などを表すログデータが含まれ、照明装置19について、点灯状態および発光強度などを表すログデータが含まれ、ベースンユニット12について、コップの載置の有無などを表すログデータが含まれる。
【0208】
図17の例では、エアタービンの回転数、マイクロモータの回転数、超音波スケーラの発振強度、フットコントローラ16の踏込量、および照明装置19の発光強度について、大小または高低などの程度を示すデータが診療関連データ(ログデータ)に含まれている。なお、診療関連データは、エアタービンの回転数、マイクロモータの回転数、超音波スケーラの発振強度、フットコントローラ16の踏込量、および照明装置19の発光強度の値(たとえば、絶対値)を含んでいてもよい。フットコントローラ16の踏込パターンは、診療関連データに含まれなくてもよい。たとえば、制御装置100は、フットコントローラ16の踏込量の時系列の変化を解析することで、フットコントローラ16の踏込パターンを特定してもよい。
【0209】
なお、ログデータは、ログデータの取得タイミングに依存する所定のタイミング(tD1、tD2、tD3、…)で診療装置1から出力されるものに限らず、イベントの発生(たとえば、チェア11の動作の切り替え、診療器具15の動作の切り替えなど)ごとに診療装置1から出力されるものであってもよい。
【0210】
制御装置100は、装置関連データが入力部150に入力されると、一連の診療の開始条件が成立し、かつ、終了条件が成立していないことを条件に、入力された装置関連データを記録装置103に記録させる。
【0211】
学習段階または運用段階において、制御装置100は、記録装置103または記録装置203に記録された診療データに基づき、制御データを推定する。
【0212】
具体的には、制御装置100は、記録装置103または記録装置203からトレー画像データを取得すると、物体検出部152によって、画像に含まれる特徴量を抽出する。
【0213】
たとえば、
図14は、トレーカメラ51の撮影情報から取得されたトレー画像データの一例を説明するための図である。
図14に示すように、制御装置100は、所定のタイミング(tA1、tA2、tA3、…)ごとに、トレー30に置かれた診療器具の有無、形状、および種類などを推定し、トレー30上に存在する診療器具に対応する記録領域に「0」のデータを格納し、トレー30上に存在しない診療器具に対応する記録領域に「1」のデータを格納する。これにより、
図14に示すように、制御装置100は、所定のタイミングごとに診療器具の有無を区別可能なトレー画像データ(画像関連データ)を得ることができる。
【0214】
制御装置100は、記録装置103または記録装置203から患者画像データを取得すると、物体検出部152によって、画像に含まれる特徴量を抽出する。
【0215】
たとえば、
図15は、患者カメラ52の撮影情報から取得された患者画像データの一例を説明するための図である。
図15に示すように、制御装置100は、所定のタイミング(tB1、tB2、tB3、…)ごとに、患者の口腔内における診療器具の位置などを推定し、診療器具と患者の唇、または診療器具と患者の頬との位置関係において、両者が所定範囲内に位置しない場合に記録領域に「0」のデータを格納し、両者が所定範囲内に位置する場合に記録領域に「1」のデータを格納する。これにより、
図15に示すように、制御装置100は、所定のタイミングごとに患者の口腔内における診療器具の位置を特定可能な患者画像データ(画像関連データ)を得ることができる。
【0216】
制御装置100は、記録装置103または記録装置203から全体画像データを取得すると、位置検出部157によって、画像に含まれる特徴量を抽出することで、術者および患者などの人物の位置データを生成する。制御装置100は、位置検出部157によって新たに生成した位置データが、記録装置103に記録済みの位置データと異なる場合に、位置検出部157によって新たに生成した位置データを記録装置103に記録させる。
【0217】
たとえば、
図16は、全体カメラ53の撮影情報から取得された位置データの一例を説明するための図である。
図16に示すように、制御装置100は、生成した人物の位置データを時間データ(タイムスタンプ)に関連付けて全体画像データ(画像関連データ)として記録する。
図16に示す例では、人物A(歯科医師)の位置データが所定のタイミング(tC1、tC2、tC3、…)で記録装置103に記録されている。これにより、制御装置100は、所定のタイミングごとに術者の行動および患者の行動を特定可能な位置データを含む全体画像データ(画像関連データ)を得ることができる。特に、制御装置100は、記録装置103に記録された位置データに基づき、診療空間における人物と診療装置1との位置関係を把握していれば、たとえば、人物が診療装置1に不必要に接触した場合でも、制御データに基づき診療装置1の駆動を停止させることができる。
【0218】
制御装置100は、記録装置103または記録装置203から装置関連データを取得すると、変換部154によって、画像関連データと同期させるために適した形式に装置関連データを変換する。
【0219】
次に、制御装置100は、同期部155によって、
図14~
図16に示す画像関連データと
図17に示す装置関連データとを、同期時間の時間軸に合わせて所定のタイミング(T1、T2、T3、…)ごとに同期させる。
【0220】
たとえば、
図18および
図19は、同期データの一例を説明するための図である。
図18および
図19に示すように、同期データには、同期時間の時間軸に合わせて所定のタイミング(T1、T2、T3、…)ごとに、画像関連データと装置関連データとを同期させたデータが含まれる。
【0221】
たとえば、
図14に示すトレー画像データにおけるtA3およびtA4のデータは、
図18に示す同期データにおいて、tA3およびtA4に対応するタイミング(T3~T5)のデータに対応付けられている。
図15に示す患者画像データにおけるtB3およびtB4のデータは、
図18に示す同期データにおいて、tB3およびtB4に対応するタイミング(T3~T5)のデータに対応付けられている。
図16に示す全体画像データ(位置データ)におけるtC3のデータは、
図18に示す同期データにおいて、tC3に対応するタイミングのデータに対応付けられている。
【0222】
次に、制御装置100は、セグメント化部156によって、
図18および
図19に示す同期データに含まれる画像関連データと装置関連データとを所定のタイミングで区切ることでセグメント化する。
【0223】
たとえば、制御装置100は、所定時間(たとえば、5秒)ごとに定期的に訪れるタイミングで、同期データをセグメント化する。
【0224】
あるいは、制御装置100は、画像関連データ(トレー画像データ、患者画像データ)において格納された「0」または「1」のデータと、装置関連データにおいて格納された「0」または「1」のデータとに基づき、同期データをセグメント化する。
【0225】
ここで、トレー画像データ、患者画像データ、全体画像データ、および装置関連データの各々単体ではデータに変化がなくても、その他のデータを参照すればデータに変化が生じている場合もある。すなわち、制御装置100は、トレー画像データ、患者画像データ、全体画像データ、および装置関連データの各々から、複数のデータを参照して組み合わせることで、適切なタイミングで同期データを区切ることができる。
【0226】
たとえば、
図18に示すように、トレー画像データにおいては、ファイル305についてはT3~T7の各々のデータが同じであるが、バキュームについてはT3~T5の各々のデータが同じである。このため、制御装置100は、トレー画像データを参照するのみでは、T3~T5およびT3~T7のいずれで同期データをセグメント化すればよいか判断しかねない。ところが、
図19に示すように、装置関連データにおいては、診療器具およびフットコントローラ16についてT3~T5の各々のデータが同じである。よって、制御装置100は、トレー画像データおよび装置関連データに基づいて、確率が高いと予想されるT3~T5で同期データをセグメント化する。
【0227】
このように、制御装置100は、同期データのセグメント化にあたって、トレー画像データ、患者画像データ、全体画像データ、および装置関連データの各々単体ではデータが不足している場合があっても、他のデータを参照することで、適切なタイミングで同期データを区切ることができる。
【0228】
上述したように、診療中においては、トレー画像データ、患者画像データ、全体画像データ、および装置関連データの各々が時系列で制御装置100に入力される。制御装置100は、入力されたこれらのデータに基づき同期データを生成するとともに、同期データをセグメント化する。制御装置100は、同期データに基づき、生成部160に含まれる推定モデル161を学習することで、制御データを推定することができるようになる。
【0229】
たとえば、根管治療の場合、制御装置100は、「審査」においてT1およびT2に対応する同期データが入力され、「抜髄」においてT3~T5に対応する同期データが入力され、「根管長測定」においてT6およびT7に対応する同期データが入力され、「洗浄・消毒」においてT8およびT9に対応する同期データが入力され、「根管充填」においてT10およびT11に対応する同期データが入力され、「詰め込み・被せ」においてT12およびT13に対応する同期データが入力される。
【0230】
たとえば、制御装置100は、根管治療の場合、上述したような同期データを学習することで、T1およびT2に対応するような同期データが入力された時点で、その後、T3~T5に対応するような同期データが入力されると推定し、「抜髄」のための制御データを生成する。制御装置100は、T3~T5に対応するような同期データが入力された時点で、その後、T6およびT7に対応するような同期データが入力されると推定し、「根管長測定」のための制御データを生成する。制御装置100は、T6およびT7に対応するような同期データが入力された時点で、その後、T8およびT9に対応するような同期データが入力されると推定し、「洗浄・消毒」のための制御データを生成する。制御装置100は、T8およびT9に対応するような同期データが入力された時点で、その後、T10およびT11に対応するような同期データが入力されると推定し、「根管充填」のための制御データを生成する。制御装置100は、T10およびT11に対応するような同期データが入力された時点で、その後、T12およびT13に対応するような同期データが入力されると推定し、「詰め込み・被せ」のための制御データを生成する。
【0231】
以上のように、制御装置100は、ニューラルネットワークなどの所謂AI技術を用いて、トレー画像データ、患者画像データ、全体画像データ、および装置関連データの少なくともいずれか1つに基づき、制御データを推定するための特徴を見出すことで、制御データを推定することができる。
【0232】
図20は、診療データの記録タイミングを説明するためのタイミングチャートである。
図20に示すように、制御装置100は、一連の診療の開始条件が成立する場合に、診療データ(トレー画像データ、患者画像データ、全体画像データ、装置関連データ)の記録を記録装置103に開始させる。
【0233】
たとえば、
図17および
図20に示すように、装置関連データでは、tD1においてチェア11が動作している。制御装置100は、チェア11が動作することで、チェア11の座面シート11cの高さが所定高さ以上になったり、チェア11の背もたれ11bの角度が所定角度以上になったりしたことを検知すると、診療データの記録を記録装置103に開始させる。
【0234】
制御装置100は、一連の診療の終了条件が成立する場合に、診療データの記録を記録装置103に終了させる。
【0235】
たとえば、
図17および
図20に示すように、装置関連データでは、tD15においてチェア11が動作している。制御装置100は、チェア11が動作することで、チェア11の座面シート11cの高さが所定高未満になったこと、または、チェア11の背もたれ11bの角度が所定角度未満になったことを検知すると、診療データの記録を記録装置103に終了させる。
【0236】
制御装置100は、記録装置103に診療データを記録させている間、所定のタイミング(tA1、tA2、tA3、…)でトレーカメラ51からトレー画像データを取得し、取得したトレー画像データを記録装置103に記録させる。
【0237】
制御装置100は、記録装置103に診療データを記録させている間、所定のタイミング(tB1、tB2、tB3、…)で患者カメラ52から患者画像データを取得し、取得した患者画像データを記録装置103に記録させる。
【0238】
制御装置100は、記録装置103に診療データを記録させている間、所定のタイミングで全体カメラ53から全体画像データを取得し、取得した患者画像データを記録装置103に記録させる。さらに、制御装置100は、取得した全体画像データに基づき、術者および患者などの人物の位置データを生成する。たとえば、制御装置100は、人物A(歯科医師)の位置データを所定のタイミング(tC1、tC2、tC3、…)で生成すると、生成した位置データを記録装置103に記録させる。
【0239】
制御装置100は、記録装置103に診療データを記録させている間、所定のタイミング(tD1、tD2、tD3、…)で診療装置1から装置関連データを取得し、取得した装置関連データを記録装置103に記録させる。
【0240】
制御装置100は、上述のようにして記録装置103に記録された画像関連データと装置関連データとを、所定のタイミング(T1、T2、T3、…)ごとに同期させることで、同期データを生成する。そして、制御装置100は、生成した同期データを用いて診療装置1の制御データを生成する。
【0241】
<制御装置の処理>
[記録制御処理]
図21は、制御装置100が実行する記録制御処理の一例を説明するためのフローチャートである。
図21に示す各ステップ(以下、「S」で示す。)は、制御装置100の演算装置102がOS142および制御プログラム140を実行することで実現される。
【0242】
図21に示すように、制御装置100は、一連の診療の開始条件が成立したか否かを判定する(S1)。制御装置100は、開始条件が成立していない場合(S1でNO)、本処理を終了する。
【0243】
一方、制御装置100は、開始条件が成立した場合(S1でYES)、記録フラグをONに設定することで記録装置103による記録を許可する(S2)。すなわち、制御装置100は、診療データの記録を記録装置103に開始させる。
【0244】
制御装置100は、画像関連データが入力されたか否かを判定する(S3)。制御装置100は、画像関連データが入力された場合(S3でYES)、入力された画像関連データを記録装置103に記録させる(S4)。
【0245】
制御装置100は、画像関連データが入力されていない場合(S3でNO)、またはS4の処理の後、装置関連データが入力されたか否かを判定する(S5)。制御装置100は、装置関連データが入力された場合(S5でYES)、入力された装置関連データを記録装置103に記録させる(S6)
制御装置100は、装置関連データが入力されていない場合(S5でNO)、またはS6の処理の後、一連の診療の終了条件が成立したか否かを判定する(S7)。制御装置100は、終了条件が成立していない場合(S7でNO)、S3の処理に戻る。
【0246】
一方、制御装置100は、終了条件が成立した場合(S7でYES)、記録フラグをOFFに設定することで記録装置103による記録を禁止する(S8)。すなわち、制御装置100は、診療データの記録を記録装置103に終了させる。その後、制御装置100は、本処理を終了する。
【0247】
このように、制御装置100は、制御プログラム140によって規定された制御方法を用いることにより、一連の診療の開始タイミングで診療データを記録開始し、かつ、一連の診療の終了タイミングで診療データを記録終了することができる。これにより、実際に行われた一連の診療に対して診療データが足らなかったり、一連の診療とは無関係な無駄なデータが診療データに含まれていたりすることがない。したがって、制御装置100は、推定モデル161の機械学習のための学習用データとして利活用し易い診療データを記録することができる。
【0248】
[学習処理]
図22は、制御装置100が実行する学習処理の一例を説明するためのフローチャートである。
図22に示す各ステップ(以下、「S」で示す。)は、制御装置100の演算装置102がOS142および推定用プログラム141を実行することで実現される。
【0249】
図22に示すように、制御装置100は、記録装置103または記録装置203から診療データを取得する(S11)。制御装置100は、画像関連データを取得したか否かを判定する(S12)。制御装置100は、画像関連データを取得した場合(S12でYES)、画像認識を行う(S13)。たとえば、制御装置100は、全体画像データが入力された場合、位置検出部157によって、全体画像データに基づき、人物の位置を検出して位置データを生成する。制御装置100は、患者画像データまたはトレー画像データが入力された場合、物体検出部152によって、診療器具などのオブジェクトの有無、形状、および種類などを検出する。
【0250】
制御装置100は、画像関連データを取得していない場合(S12でNO)、またはS13の処理の後、装置関連データを取得したか否かを判定する(S14)。制御装置100は、装置関連データを取得した場合(S14でYES)、変換部154によって、装置関連データを所定の形式に変換する(S15)。
【0251】
制御装置100は、装置関連データを取得していない場合(S14でNO)、またはS15の処理の後、同期部155によって、画像関連データと装置関連データとを同期させることで同期データを生成する(S16)。
【0252】
次に、制御装置100は、セグメント化部156によって、同期データに基づき、画像関連データと装置関連データとを所定のタイミングで区切ることで、同期データをセグメント化する(S17)。
【0253】
次に、制御装置100は、生成部160によって、セグメント化された同期データに基づき、制御データを推定し、推定した制御データを生成する(S18)。次に、制御装置100は、生成した制御データを、外部に出力する(S19)。
【0254】
次に、制御装置100は、生成した制御データと、診療データに関連付けられた正解データである制御データとに基づき、推定モデル161を機械学習させ(S20)、本処理を終了する。
【0255】
このように、制御装置100は、記録装置103または記録装置203に記録された診療データを用いて、制御データを推定するための推定モデル161を機械学習させることができる。その際、記録装置103または記録装置203に記録された診療データは、一連の診療の開始タイミングおよび終了タイミングに対応して記録されたものであるため、制御装置100は、記録装置103または記録装置203に記録された診療データに基づき、一連の診療が行われた当時の診療装置1の動作および歯科医師などの動作を再現することができる。制御装置100は、このような、一連の診療ごとに記録された診療データを用いることで、推定モデル161の機械学習の精度を向上させることができる。さらに制御装置100は、一連の診療ごとに記録された診療データを繰り返し使用して推定モデル161を再学習することで、推定モデル161の推定精度を上げることができる。
【0256】
<主な開示>
以上のように、本実施の形態では以下のような開示を含む。
【0257】
[構成1]
制御装置(100)は、診療データが入力される入力部(150)と、診療データを記録する記録部(130)を制御する制御部(120)とを備える。制御部(120)は、一連の診療の開始条件が成立する場合に、入力部(150)に入力される診療データの記録を記録部(130)に開始させる。
【0258】
これにより、制御装置100は、一連の診療の開始タイミングで診療データの記録を開始することができるため、一連の診療の開始前の一連の診療とは無関係な無駄なデータを記録することを防止することができ、利活用し易い診療データを記録することができる。
【0259】
[構成2]
開始条件は、一連の診療のためのチェア(11)の座面シート(11c)の高さが所定高さ以上になったこと、一連の診療のためのベッドの高さが所定高さ以上になったこと、チェア(11)の背もたれ(11b)の角度が所定角度以上になったこと、診療器具の駆動がONになったこと、照明装置(19)の電源がONになったこと、チェア(11)への人の着座が検知されたこと、診療空間において診療器具が検知されたこと、および、診療空間において人が検知されたことの少なくともいずれか1つを含む。
【0260】
これにより、制御装置100は、一連の診療の開始が推定される開始条件が成立する場合に診療データの記録を開始することができるため、一連の診療が開始する適切なタイミングで診療データの記録を開始することができる。
【0261】
[構成3]
制御部(120)は、一連の診療の終了条件が成立する場合に、入力部(150)に入力される診療データの記録を記録部(130)に終了させる。
【0262】
これにより、制御装置100は、一連の診療の終了タイミングで診療データの記録を終了することができるため、一連の診療の終了後の一連の診療とは無関係な無駄なデータを記録することを防止することができ、利活用し易い診療データを記録することができる。
【0263】
[構成4]
終了条件は、一連の診療のためのチェア(11)の座面シート(11c)の高さが所定高さ未満になったこと、一連の診療のためのベッドの高さが所定高さ未満になったこと、チェア(11)の背もたれ(11b)の角度が所定角度未満になったこと、診療器具の駆動がOFFになったこと、照明装置(19)の電源がOFFになったこと、チェア(11)からの人の離席が検知されたこと、診療空間において診療器具が所定時間以上検知されないこと、および、診療空間において人が検知されないことの少なくともいずれか1つを含む。
【0264】
これにより、制御装置100は、一連の診療の終了が推定される終了条件が成立する場合に診療データの記録を終了することができるため、一連の診療が終了する適切なタイミングで診療データの記録を終了することができる。
【0265】
[構成5]
制御部(120)は、一連の診療に割り当てられた識別データに関連付けて、診療データを記録部(130)に記録させる。
【0266】
これにより、制御装置100は、一連の診療ごとに識別データによって識別可能な態様で診療データを記録することができるため、推定モデル161の設計者などは、推定モデル161を機械学習させた後に再学習させたり、複数の推定モデル161間で同じ診療データを用いて機械学習させたりする場合に、効率よく機械学習させることができる。
【0267】
[構成6]
制御部(120)は、一連の診療が行われた時間を特定可能な時間データに関連付けて、診療データを記録部(130)に記録させる。
【0268】
これにより、制御装置100は、一連の診療が行われた時間を時間データによって特定可能な態様で診療データを記録することができるため、推定モデル161の設計者などは、推定モデル161を機械学習させた後に再学習させたり、複数の推定モデル161間で同じ診療データを用いて機械学習させたりする場合に、効率よく機械学習させることができる。
【0269】
[構成7]
診療データは、診療空間をカメラ(51、52、53)で撮影した画像関連データを含む。
【0270】
これにより、制御装置100は、一連の診療を撮影した画像関連データを用いて、推定モデル161を機械学習させることができる。
【0271】
[構成8]
診療データは、一連の診療のためのチェア(11)、診療器具(15)、照明装置(19)、給水・排水装置(12)、フットコントローラ(16)、ディスプレイ(17)、操作パネル(18)の少なくともいずれか1つにおける過去および現在の少なくともいずれか1つの制御データを含む。
【0272】
これにより、制御装置100は、チェア11を駆動するデータ、診療器具15を駆動するデータ、照明装置19を駆動するデータ、および給水・排水装置(ベースンユニット)12を駆動するデータなど、診療中において生成されるデータを用いることで、推定モデル161を機械学習させるための画像関連データの不足分を補うことができ、より精度よく推定結果を出力することができる。
【0273】
[構成9]
記録部(130)によって記録された診療データは、推定モデル(161)の機械学習のための学習用データである。
【0274】
これにより、制御装置100は、記録された診療データを用いて、推定モデル161を機械学習させることができる。
【0275】
[構成10]
コンピュータ(102)による一連の診療に関する診療データの記録を制御する制御方法は、診療データが入力されるステップ(S3、S5)と、一連の診療の開始条件が成立するか否かを判定するステップ(S1)と、一連の診療の開始条件が成立する場合に、入力される診療データの記録を記録部(130)に開始させるステップ(S2)と、一連の診療の終了条件が成立する場合に、入力される診療データの記録を記録部(130)に終了させるステップとを含む。
【0276】
これにより、制御装置100は、一連の診療の開始タイミングで診療データの記録を開始することができるため、一連の診療の開始前の一連の診療とは無関係な無駄なデータを記録することを防止することができ、利活用し易い診療データを記録することができる。
【0277】
[構成11]
制御プログラム(140)は、コンピュータ(102)に、診療データが入力されるステップ(S3、S5)と、一連の診療の開始条件が成立するか否かを判定するステップ(S1)と、一連の診療の開始条件が成立する場合に、入力される診療データの記録を記録部(130)に開始させるステップ(S2)と、一連の診療の終了条件が成立する場合に、入力される診療データの記録を記録部(130)に終了させるステップとを実行させる。
【0278】
これにより、制御装置100は、一連の診療の開始タイミングで診療データの記録を開始することができるため、一連の診療の開始前の一連の診療とは無関係な無駄なデータを記録することを防止することができ、利活用し易い診療データを記録することができる。
【0279】
[構成12]
コンピュータ(102)によって用いられ、推定モデル(161)の機械学習のための学習用データのデータ構造は、一連の診療に関する診療データと、一連の診療に割り当てられた識別データと、一連の診療が行われた時間を特定可能な時間データ(タイムスタンプ)とを含む。
【0280】
これにより、推定モデル161の設計者などは、推定モデル161を機械学習させた後に再学習させたり、複数の推定モデル161間で同じ診療データを用いて機械学習させたりする場合に、効率よく機械学習させることができる。
【0281】
<変形例>
本発明は、上記の実施例に限られず、さらに種々の変形、応用が可能である。以下、本発明に適用可能な変形例について説明する。
【0282】
[カメラについて]
本実施の形態においては、トレーカメラ51、患者カメラ52、および全体カメラ53が各1台ずつ診療装置1に取り付けられていたが、これらのカメラは複数台ずつ診療装置1に取り付けられてもよい。
【0283】
トレーカメラ51、患者カメラ52、および全体カメラ53は、固定式に限らず、トレー30が載せられたトレーテーブル13の動き、あるいは術者の動きに追従して動く可動式であってもよい。
【0284】
トレーカメラ51、患者カメラ52、および全体カメラ53は、診療装置1に搭載される他、診療装置1の周囲から当該診療装置1方向へ光軸を向けたカメラであってもよい。また、カメラの撮影画像によって把握される診療空間において、撮影において死角が無いように複数のカメラが設置されてもよい。さらに、診療器具に搭載された口腔内用カメラ、マイクロスコープ、または、術者が利用する眼鏡へ搭載されるカメラの撮影画像を利用して、制御装置100が制御データを生成してもよい。
【0285】
制御装置100は、トレーカメラ51の撮影画像を画像認識によって分析することで、トレー30に置かれた診療器具の有無、形状、および種類などを特定するだけでなく、歯科医師や歯科助手などの術者の手に取られた診療器具、歯科医師や歯科助手などの術者の手に取られていた状況から置かれた診療器具を特定してもよい。
【0286】
[制御装置について]
制御装置100は、ベースンユニット12に含まれるようにして、診療装置1が備えるものであってもよい。あるいは、制御装置100は、診療装置1とは別体であって、診療装置1に通信可能に接続された院内サーバなどのコンピュータであってもよい。さらに、制御装置100は、診療装置1が設置された診療空間外に設置された院外サーバなど、クラウドコンピューティングの態様で存在してもよい。たとえば、サーバ装置200が制御装置100の機能を有していてもよい。
【0287】
制御装置100の生成部160は、推定モデル161によって診療装置1の制御データを推定するものに限らない。たとえば、生成部160は、推定モデル161によって診療装置1の次の動作(制御内容)を推定し、その推定結果に対応する制御データを生成してもよい。あるいは、生成部160は、推定モデル161によって人物の次の動作を推定し、その推定結果に対応する制御データを生成してもよい。あるいは、生成部160は、推定モデル161によって診療の手順(たとえば、診療中に行われる次の処置の内容)を推定し、その推定結果に対応する制御データを生成してもよい。
【0288】
制御装置100は、推定モデル161の推定結果に基づいて、診療装置1を直接制御するものに限らず、診療装置1とは別のディスプレイに警告画像を表示したり、スピーカに警告音を出力したりするなどして、術者に診療装置1を操作(たとえば、停止操作)させるものであってもよい。つまり、制御装置100は、診療装置1を直接制御するのではなく、術者を誘導することで間接的に診療装置1を制御するものであってもよい。
【0289】
[記録部について]
制御装置100は、記録装置103を制御するものに限らない。たとえば、制御装置100は、サーバ装置200の記録装置203を制御してもよい。具体的には、制御装置100の演算装置102(制御部120)は、一連の診療の開始条件が成立する場合に、診療データの記録を記録装置203に開始させ、一連の診療の終了条件が成立する場合に、診療データの記録を記録装置203に終了させてもよい。
【0290】
さらに、「記録部」は、制御装置100が備える記録装置103およびサーバ装置200が備える記録装置203に限らず、診療装置1に通信可能に接続された院内サーバが備える記録装置であってもよいし、診療装置1が設置された診療空間外に設置された院外サーバが備える記録装置(たとえば、データセンターなどの大容量ストレージ)であってもよい。また、「記録部」は、複数の診療装置1の各々から診療データを取得する複数の制御装置100の各々が通信可能なクラウドコンピューティングの態様で存在してもよい。このようにすれば、複数の診療装置1から取得した診療データを一律に「記録部」によって蓄積しかつ管理することができるため、推定モデル161の機械学習の精度が上がり、さらに、同じような推定精度を有する複数の推定モデル161を生成することができる。
【0291】
記録部130は、各カメラが撮影した画像を含む画像関連データ(全体画像データ、患者画像データ、トレー画像データ)を、そのまま記録するものであった。つまり、記録部130は、各カメラが撮影した撮影動画または撮影画像をそのまま記録するものであった。しかしながら、制御部120は、各カメラから取得したこれら生の画像関連データを圧縮または加工して記録部130に記録させてもよい。あるいは、制御部120は、各カメラから取得したこれら生の画像関連データから特徴を検出し、検出した特徴を符号化したデータを記録部130に記録させてもよい。
【0292】
たとえば、制御装置100は、
図11に示す位置検出部157および物体検出部152の少なくともいずれか1つを、
図10に示す入力部150と記録部130との間に設けてもよい。このようにすれば、制御部120は、全体カメラ53の全体画像データに基づき、位置検出部157によって検出された人物の位置データを、一連の診療の開始および終了に合わせて記録部130に記録させることができる。制御部120は、トレーカメラ51のトレー画像データに基づき、物体検出部152によって検出された診療器具の有無、形状、および種類などのデータを、一連の診療の開始および終了に合わせて記録部130に記録させることができる。制御部120は、患者カメラ52の患者画像データに基づき、物体検出部152によって検出された患者の口腔内における診療器具の位置などのデータを、一連の診療の開始および終了に合わせて記録部130に記録させることができる。
【0293】
本実施の形態に係る制御装置100は、術者が患者の歯科に関する診療を行うために用いる診療装置1を制御するものであったが、術者が患者の医科に関する診療を行うために用いる診療装置を制御するものであってもよい。
【0294】
今回開示された実施の形態は全ての点で例示であって制限的なものではないと考えられるべきである。本発明の範囲は上記した説明ではなく特許請求の範囲によって示され、特許請求の範囲と均等の意味および範囲内での全ての変更が含まれることが意図される。なお、本実施の形態で例示された構成および変形例で例示された構成は、適宜組み合わせることができる。
【符号の説明】
【0295】
1 診療装置、2 患者、3 歯科医師、4 歯科助手、5 ポール、6 アーム、11 チェア、11a ヘッドレスト、11b 背もたれ、11c 座面シート、11d 足置き台、12 ベースンユニット、12a 鉢、12b コップ台、12c 給水栓、13 トレーテーブル、14 器具ホルダー、15 診療器具、16 フットコントローラ、17 ディスプレイ、18 操作パネル、19 照明装置、21 器具制御装置、22 表示制御装置、30 トレー、32 音制御装置、35 スピーカ、51 トレーカメラ、52 患者カメラ、53 全体カメラ、100 制御装置、101 通信装置、102 演算装置、103,203 記録装置、110 通信部、111 チェア制御部、120 制御部、121 ベースン制御部、122 照明制御部、123 蓄積部、130,230 記録部、140 制御プログラム、141 推定用プログラム、150 入力部、151 XY検出部、152 物体検出部、153 Z検出部、154 変換部、155 同期部、156 セグメント化部、157 位置検出部、160 生成部、161,1511 推定モデル、162,1512 ニューラルネットワーク、163,1513 パラメータ、180 出力部、200 サーバ装置、211 器具制御部、221 ディスプレイ制御部、222 パネル制御部、301 ラバーダム防湿一式、302 ラバーダムシート、303 根管長測定器、304 バーセット、305 ファイル、306 口角対極、307 ファールクリップ、308 ブローチ、309 洗浄用ニードル、310 洗浄用シリンジ、311 仮封剤充填器、312 クレンザー、313 タービン、314 ピンセット、315 バキューム、316 ミラー、317 エキスカベーター、318 針、319 根管材料注入器、321 音制御部、1000 制御システム。