(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公表特許公報(A)
(11)【公表番号】
(43)【公表日】2023-12-04
(54)【発明の名称】臨床記録データ生成方法及び装置
(51)【国際特許分類】
A61B 1/045 20060101AFI20231127BHJP
H04N 7/18 20060101ALI20231127BHJP
H04N 5/92 20060101ALI20231127BHJP
G16H 10/60 20180101ALI20231127BHJP
A61B 34/10 20160101ALI20231127BHJP
【FI】
A61B1/045 621
H04N7/18 M
H04N5/92 010
G16H10/60
A61B34/10
【審査請求】有
【予備審査請求】未請求
(21)【出願番号】P 2023530913
(86)(22)【出願日】2021-11-19
(85)【翻訳文提出日】2023-05-22
(86)【国際出願番号】 KR2021017082
(87)【国際公開番号】W WO2022108387
(87)【国際公開日】2022-05-27
(31)【優先権主張番号】10-2020-0156351
(32)【優先日】2020-11-20
(33)【優先権主張国・地域又は機関】KR
(81)【指定国・地域】
(71)【出願人】
【識別番号】509329800
【氏名又は名称】ソウル大学校産学協力団
【氏名又は名称原語表記】SEOUL NATIONAL UNIVERSITY R&DB FOUNDATION
(74)【代理人】
【識別番号】110001519
【氏名又は名称】弁理士法人太陽国際特許事務所
(72)【発明者】
【氏名】コン、ヒョン-チュン
(72)【発明者】
【氏名】ユン、タン
(72)【発明者】
【氏名】キム、ピョンス
(72)【発明者】
【氏名】キム、ソンワン
(72)【発明者】
【氏名】イ、キョ ウン
(72)【発明者】
【氏名】キム、ソ-チン
(72)【発明者】
【氏名】チョ、ミヌ
【テーマコード(参考)】
4C161
5C054
5L099
【Fターム(参考)】
4C161YY07
4C161YY12
4C161YY13
4C161YY16
5C054CA04
5C054CC02
5C054FC12
5C054GB02
5C054HA12
5L099AA22
(57)【要約】
本発明は、臨床記録データ生成装置で行われる臨床記録データ生成方法を開示する。臨床記録データ生成方法は、既に行われた医療行為が記録された医療データを入力してもらうステップ、複数の項目別に区分されて設けられた複数のレイヤのうち、前記医療データに関連する項目に該当するレイヤに前記医療データに含まれる情報を記録するステップ、及び前記複数のレイヤに基づいて臨床レポートを作成するステップを含む。
【特許請求の範囲】
【請求項1】
臨床記録データ生成装置で行われる臨床記録データ生成方法において、
既に行われた医療行為の記録された医療データが入力されるステップ、
複数の項目別に区分されて設けられた複数のレイヤのうち、前記医療データに関連する項目に対応するレイヤに前記医療データに含まれる情報を記録するステップ、及び
前記複数のレイヤに基づいて臨床レポートを作成するステップ、を含む、
臨床記録データ生成方法。
【請求項2】
前記医療データに含まれる情報を記録するステップは、
前記医療データを種類別に区分し、第1レイヤグループの複数のレイヤの項目のうち、データ種類に対応するレイヤにそれぞれ記録するステップ、
前記医療データのうち映像データの少なくとも一部を複数の映像フレームに分割するステップ、
前記複数の映像フレームそれぞれに対して特徴抽出アルゴリズムを実行し、前記医療行為の中で記録したい特徴情報を含む特徴フレームを抽出するステップ、及び
前記特徴フレームに関する情報を、第2レイヤグループの複数のレイヤのうち前記特徴情報に関連するイベント項目に対応するレイヤに記録するステップ、を含むことを特徴とする請求項1に記載の臨床記録データ生成方法。
【請求項3】
前記複数のレイヤに基づいて臨床レポートを作成するステップは、
前記第1レイヤグループの複数のレイヤと前記第2レイヤグループの複数のレイヤとのうち、重要度に応じて少なくとも一部を指定して臨床レポートを作成することを特徴とする請求項2に記載の臨床記録データ生成方法。
【請求項4】
前記特徴情報は、臨床情報とメタデータ情報の少なくとも一方を含み、
前記臨床情報は、病変の情報および非病変対象の情報の少なくとも一方を含み、前記メタデータ情報は、医療行為情報および医療ツール情報の少なくとも1つを含むことを特徴とする請求項2に記載の臨床記録データ生成方法。
【請求項5】
前記特徴情報を含む特徴フレームを抽出するステップは、前記複数の映像フレームのうち1つを基準フレームとして指定し、前記基準フレームと残りの映像フレームとをそれぞれ比較して病変または非病変対象に対応する形状を判別して、前記病変または非病変対象に対応する形状を含む映像フレームを特徴フレームとして抽出することを特徴とする請求項4に記載の臨床記録データ生成方法。
【請求項6】
前記特徴情報を含む特徴フレームを抽出するステップは、医療ツールに対応する形状の一地点を特徴点として指定し、前記複数の映像フレームのそれぞれにおける前記特徴点の所定時間間隔に応じた位置を追跡して前記医療ツールの位置の変化が起きた時点に対応する映像フレームを特徴フレームとして抽出することを特徴とする請求項4に記載の臨床記録データ生成方法。
【請求項7】
前記特徴情報を含む特徴フレームを抽出するステップは、前記複数の映像フレームにおける画素の関連付けを学習用体内映像と学習用病変映像とに基づいて予め学習されたモデルを用いて、前記複数の映像フレームそれぞれにおいて病変に対応する形状を判別し、前記病変に対応する形状を含む映像フレームを特徴フレームとして抽出することを特徴とする請求項4に記載の臨床記録データ生成方法。
【請求項8】
前記特徴フレームに関する情報は、前記特徴フレームのグラフィック情報と、前記医療映像データにおいて前記特徴フレームが位置する時点の時刻情報とを含むことを特徴とする請求項4に記載の臨床記録データ生成方法。
【請求項9】
前記第2レイヤグループの複数のレイヤに記録するステップは、
前記特徴情報に関連するイベント項目に対応するレイヤに前記特徴フレームのグラフィック情報を記録し、前記特徴フレームが位置する時点の時刻情報をイベントインデックスとして一緒に格納することを特徴とする請求項2に記載の臨床記録データ生成方法。
【請求項10】
前記複数のレイヤに基づいて臨床レポートを作成するステップは、
前記第1レイヤグループの複数のレイヤと前記第2レイヤグループの複数のレイヤにおいて、予め設定された区間における特徴フレームに関する情報を用いて臨床レポートを作成することを特徴とする請求項8に記載の臨床記録データ生成方法。
【請求項11】
メモリ、及び
前記メモリに格納された1つ以上のインストラクションを実行するプロセッサー、を含み、
前記プロセッサーは、既に行われた医療行為が記録された医療データが入力され、複数の項目別に区分されて設けられた複数のレイヤのうち、前記医療データに関連する項目に対応するレイヤに前記医療データに含まれる情報を記録し、前記複数のレイヤに基づいて臨床レポートを作成することを特徴とする臨床記録データ生成装置。
【請求項12】
前記プロセッサーは、前記医療データを種類別に区分し、第1レイヤグループの複数のレイヤの項目のうち、データ種類に対応するレイヤにそれぞれ記録し、前記医療データのうち映像データの少なくとも一部を複数の映像フレームに分割し、前記複数の映像フレームそれぞれに対して特徴抽出アルゴリズムを実行し、前記医療行為の中で記録したい特徴情報を含む特徴フレームを抽出し、前記特徴フレームに関する情報を、第2レイヤグループの複数のレイヤのうち前記特徴情報に関連するイベント項目に対応するレイヤに記録することを特徴とする請求項11に記載の臨床記録データ生成装置。
【請求項13】
前記プロセッサーは、前記第1レイヤグループの複数のレイヤと前記第2レイヤグループの複数のレイヤとのうち、重要度に応じて少なくとも一部を指定して臨床レポートを作成することを特徴とする請求項12に記載の臨床記録データ生成装置。
【請求項14】
前記特徴情報は、臨床情報とメタデータ情報の少なくとも一方を含み、
前記臨床情報は、病変の情報および非病変対象の情報の少なくとも一方を含み、前記メタデータ情報は、医療行為情報および医療ツール情報の少なくとも1つを含むことを特徴とする請求項12に記載の臨床記録データ生成装置。
【請求項15】
前記プロセッサーは、前記複数の映像フレームのうち1つを基準フレームとして指定し、前記基準フレームと残りの映像フレームとをそれぞれ比較して病変または非病変対象に対応する形状を判別して、前記病変または非病変対象に対応する形状を含む映像フレームを特徴フレームとして抽出することを特徴とする請求項14に記載の臨床記録データ生成装置。
【請求項16】
前記プロセッサーは、医療ツールに対応する形状の一地点を特徴点として指定し、前記複数の映像フレームのそれぞれにおいて前記特徴点の所定時間間隔に応じた位置を追跡して前記医療ツールの位置の変化が起きた時点に対応する映像フレームを特徴フレームとして抽出することを特徴とする請求項14に記載の臨床記録データ生成装置。
【請求項17】
前記プロセッサーは、前記複数の映像フレームにおける画素の関連付けを学習用体内映像と学習用病変映像とに基づいて予め学習されたモデルを用いて、前記複数の映像フレームそれぞれにおいて病変に対応する形状を判別し、前記病変に対応する形状を含む映像フレームを特徴フレームとして抽出することを特徴とする請求項14に記載の臨床記録データ生成装置。
【請求項18】
前記特徴フレームに関する情報は、前記特徴フレームのグラフィック情報と、前記医療映像データにおいて前記特徴フレームが位置する時点の時刻情報とを含むことを特徴とする請求項14に記載の臨床記録データ生成装置。
【請求項19】
前記プロセッサーは、前記特徴情報に関連するイベント項目に対応するレイヤに前記特徴フレームのグラフィック情報を記録し、前記特徴フレームが位置する時点の時刻情報をイベントインデックスとして一緒に格納することを特徴とする請求項12に記載の臨床記録データ生成装置。
【請求項20】
コンピュータ実行可能な命令語を格納する非一時的コンピュータ読取り可能な記録媒体であって、
前記コンピュータ実行可能な命令語は、プロセッサーによって実行されると、既に行われた医療行為が記録された医療データを入力してもらうステップ、
複数の項目別に区分されて提供された複数のレイヤのうち、前記医療データに関連する項目に対応するレイヤに前記医療データに含まれる情報を記録するステップ、及び
前記複数のレイヤに基づいて臨床レポートを作成するステップ、を含む方法を前記プロセッサーに実行させる、非一時的コンピュータ読取り可能な記録媒体。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、医療行為を記録するための臨床記録データ生成方法及び装置に関するものである。
【0002】
本研究は、科学技術情報通信部(政府)の財源で情報通信企画評価院の支援を受けて行われた研究事業(情報通信放送革新人材養成(R&D))の「医療ビッグデータ融合専門家人材養成のための非定型ビッグデータの定型化技術及び分析プラットフォームの開発(課題固有番号:1711116149、課題遂行機関名:ソウル大学産学協力団、研究期間:2020.01.01~2020.12.31)」と関連する。
【背景技術】
【0003】
検査、施術、手術などを含む医療行為を行った後、医療スタッフは医療行為を記録するための記録紙を作成する際、手作業でテキストベースの記録紙(レポート)作成をしなければならない。
【0004】
従来の場合、内視鏡検査及び施術を行う過程で、施術者がペダルを踏んで主要場面(Scene)を保存し、看護師に指示して主要内容に関する情報及び時間を記録しており、再観測や追跡観察が必要な場合、テキスト(Text)で作成された記録紙を確認し、病院情報システム(e.g. EMR、PACS)に保存されている映像を照会して再確認する方式を用いている。
【0005】
腹腔鏡手術、ロボット手術の場合、手術終了後に病院情報システム(e.g. EMR)にテキストで基本的な手術内容について簡単に記録紙を作成するため、その後の教育、研究、診療目的で再照会時、テキストのみからなる記録紙だけでは該当患者の手術に関する詳細な情報を特定するには困難がある。
【0006】
また、検査、施術および手術などを含む医療行為過程で発見される病変や重要な臨床情報は、事後作成されるテキストベースの記録紙の内容では、医療スタッフ本人はもちろん他の医療スタッフに忠実に伝達されるには限界がある。
【発明の概要】
【発明が解決しようとする課題】
【0007】
本発明の一実施例による解決しようとする課題は、検査、施術、及び手術などを含む映像データにおいて、臨床的または工学的に有意なフレーム(frame)を検出し、検出されたフレームに関する情報を、時間ベースで可視化して表記することを含む。
【0008】
また、検査、施術、および手術記録に関するマルチメディア(映像、ビデオ、信号)ベースの視覚レポートを提供することを含む。
【0009】
本明細書に記載されていないまた他の目的は、以下の詳細な説明およびその効果から容易に推論できる範囲内でさらに考慮することができる。
【課題を解決するための手段】
【0010】
上記課題を解決するために、本発明の一実施例による臨床記録データ生成装置で行われる臨床記録データ生成方法は、既に行われた医療行為の記録された医療データが入力されるステップ、複数の項目別に区分されて設けられた複数のレイヤのうち、前記医療データに関連する項目に対応するレイヤに前記医療データに含まれる情報を記録するステップ、及び前記複数のレイヤに基づいて臨床レポートを作成するステップを含む。
【0011】
ここで、前記医療データに含まれる情報を記録するステップは、前記医療データを種類別に区分し、第1レイヤグループの複数のレイヤの項目のうち、データ種類に対応するレイヤにそれぞれ記録するステップ、前記医療データのうち映像データの少なくとも一部を複数の映像フレームに分割するステップと、前記複数の映像フレームそれぞれに対して特徴抽出アルゴリズムを実行し、前記医療行為の中で記録したい特徴情報を含む特徴フレームを抽出するステップと、前記特徴フレームに関する情報を、第2レイヤグループの複数のレイヤのうち前記特徴情報に関連するイベント項目に対応するレイヤに記録するステップとを含むことができる。
【0012】
ここで、前記複数のレイヤに基づいて臨床レポートを作成するステップは、前記第1レイヤグループの複数のレイヤと前記第2レイヤグループの複数のレイヤとのうち、重要度に応じて少なくとも一部を指定して臨床レポートを作成することができる。
【0013】
ここで、前記特徴情報は、臨床情報とメタデータ情報の少なくとも一方を含み、前記臨床情報は、病変の情報および非病変対象の情報の少なくとも一方を含み、前記メタデータ情報は、医療行為情報および医療ツール情報の少なくとも1つを含むことができる。
【0014】
ここで、前記特徴情報を含む特徴フレームを抽出するステップは、前記複数の映像フレームのうち1つを基準フレームとして指定し、前記基準フレームと残りの映像フレームとをそれぞれ比較して病変または非病変対象に対応する形状を判別して、前記病変または非病変対象に対応する形状を含む映像フレームを特徴フレームとして抽出することができる。
【0015】
ここで、前記特徴情報を含む特徴フレームを抽出するステップは、医療ツールに対応する形状の一地点を特徴点として指定し、前記複数の映像フレームのそれぞれにおいて前記特徴点の所定時間間隔に応じた位置を追跡して前記医療ツールの位置の変化が起きた時点に対応する映像フレームを特徴フレームとして抽出することができる。
【0016】
ここで、前記特徴情報を含む特徴フレームを抽出するステップは、前記複数の映像フレームにおける画素の関連付けを学習用体内映像と学習用病変映像とに基づいて予め学習されたモデルを用いて、前記複数の映像フレームそれぞれにおいて病変に対応する形状を判別し、前記病変に対応する形状を含む映像フレームを特徴フレームとして抽出することができる。
【0017】
ここで、前記特徴フレームに関する情報は、前記特徴フレームのグラフィック情報と、前記医療映像データにおいて前記特徴フレームが位置する時点の時刻情報とを含むことができる。
【0018】
ここで、前記第2レイヤグループの複数のレイヤに記録するステップは、前記特徴情報に関連するイベント項目に対応するレイヤに前記特徴フレームのグラフィック情報を記録し、前記特徴フレームが位置する時点の時刻情報をイベントインデックスとして一緒に格納することができる。
【0019】
ここで、前記複数のレイヤに基づいて臨床レポートを作成するステップは、前記第1レイヤグループの複数のレイヤと前記第2レイヤグループの複数のレイヤにおいて、予め設定された区間における特徴フレームに関する情報を用いて臨床レポートを作成することができる。
【0020】
本発明のまた他の実施例による臨床記録データ生成装置は、メモリと、前記メモリに格納された1つ以上のインストラクションを実行するプロセッサーとを含み、前記プロセッサーは、既に行われた医療行為が記録された医療データが入力され、複数の項目別に区分されて設けられた複数のレイヤのうち、前記医療データに関連する項目に対応するレイヤに前記医療データに含まれる情報を記録し、前記複数のレイヤに基づいて臨床レポートを作成する。
【0021】
本発明のまた他の実施例によれば、コンピュータ実行可能な命令語を格納し、前記コンピュータ実行可能な命令語は、プロセッサーによって実行されると、前記臨床記録データ生成方法を前記プロセッサーに実行させる、非一時的コンピュータ読取り可能な記録媒体を提供することができる。
【発明の効果】
【0022】
以上説明したように、本発明の実施例によれば、検査、施術、手術などを含む映像データにおいて臨床的または工学的に意味のあるフレーム(Frame)を検出し、検出されたフレームに関する情報を時間に基づいて、可視化して表記することができる。
【0023】
また、検査、施術、および手術記録に関するマルチメディア(映像、ビデオ、信号)ベースの視覚レポートを提供することで、検査記録に関する情報伝達効率を向上させることができる。
【0024】
ここで明示的に言及されていない効果であっても、本発明の技術的特徴によって期待される以下の明細書に記載の効果およびその暫定効果は、本発明の明細書に記載されているのと同様に扱われる。
【図面の簡単な説明】
【0025】
【
図1】
図1は、本発明の一実施例による臨床記録データ生成装置のブロック図である。
【
図2】
図2は、本発明の一実施例による臨床記録データ生成装置のブロック図である。
【
図3】
図3は、本発明の一実施例による臨床記録データ生成方法を説明するためのフローチャートである。
【
図4】
図4は、本発明の一実施例による臨床記録データ生成方法に従って生成されるレイヤを例に挙げて示した図である。
【
図5】
図5は、本発明の一実施例による臨床記録データ生成方法に従って生成されるレイヤを例に挙げて示した図である。
【
図6】
図6は、本発明の一実施例による臨床記録データ生成方法の特徴フレーム抽出を例に挙げて示した図である。
【
図7】
図7は、本発明の一実施例による臨床記録データ生成方法の特徴フレーム抽出を例に挙げて示した図である。
【
図8】
図8は、本発明の一実施例による臨床記録データ生成方法の特徴フレーム抽出を例に挙げて示した図である。
【
図9】
図9は、本発明の一実施例による臨床記録データ生成方法に従って生成される臨床レポートを例に挙げて示した図である。
【
図10】
図10は、本発明の一実施例による臨床記録データ生成方法に従って生成される臨床レポートを例に挙げて示した図である。
【
図11】
図11は、本発明の一実施例による臨床記録データ生成方法に従って生成される臨床レポートを例に挙げて示した図である。
【発明を実施するための形態】
【0026】
以下、本発明に係る臨床記録データ生成方法及び装置について図面を参照してより詳細に説明する。 しかしながら、本発明はいくつかの異なる形態で実施することができ、説明する実施形態に限定されない。 そして、本発明を明確に説明するために説明と関係のない部分は省略され、図面の同一の参照符号は同一の部材であることを示す。
【0027】
以下の説明で使用される構成要素の接尾辞「モジュール」および「部」は、明細書の作成の容易さのみが考慮され、付与または混用されるものであり、それ自体が互いに区別される意味または役割を有するものではない。
【0028】
本発明の一実施例は、臨床記録データ生成方法および装置に関する。
【0029】
図1および
図2は、本発明の一実施例による臨床記録データ生成装置のブロック図である。
【0030】
図1を参照すると、本発明の一実施例による臨床記録データ生成装置1は、プロセッサー10、メモリ20、I/Oインターフェース30及び通信インターフェース40を含む。
【0031】
本発明の一実施例による臨床記録データ生成装置1は、検査、施術、及び手術などを含む医療データを入力してもらい、医用データのうち映像データから臨床的または工学的に意味のあるフレーム(Frame)を検出し、検出されたフレームに関する情報を時間ベースに、可視化して表記することにより、検査、施術および手術記録に関するマルチメディア(映像、ビデオ、信号)ベースの視覚レポートを提供するための装置である。
【0032】
ここで、臨床的または工学的に意味のあるフレーム(Frame)とは、検査、施術および手術などを含む医療行為のうち、病変の発生や手術ツールの変化など、記録が必要な手術情報を含むフレームを意味する。
【0033】
プロセッサー10は、メモリ20に格納された1つまたは複数のインストラクションを実行する。
【0034】
プロセッサー10は、既に行われた医療行為が記録された医療データを入力してもらい、医療データを第1レイヤグループの複数のレイヤに記録し、医療データのうち映像データの少なくとも一部を複数の映像フレームに分割し、複数の映像フレームそれぞれに対して特徴抽出アルゴリズムを実行して、医療行為の中から記録したい特徴情報を含む特徴フレームを抽出し、特徴フレームに関する情報を第2レイヤグループの複数のレイヤに記録する。
【0035】
さらに、プロセッサー10は、特徴情報に対する重要度に応じて複数のレイヤに基づいて臨床レポートを作成する。ここで、臨床レポートとは、視覚化して表現された視覚レポートとハイライト映像を指すものであり、下記の
図9及び
図10のように視覚化表現されてもよく、下記の
図11のように映像にテキストを含む形態で生成されてもよい。
【0036】
プロセッサー10は、機能に応じて複数のモジュールに区分されてもよく、1つのプロセッサーで複数の機能を実行してもよい。プロセッサー10は、中央処理装置(central processing unit(CPU))、アプリケーションプロセッサー(application processor(AP))、またはコミュニケーションプロセッサー(communication processor(CP))のうちの1つまたは複数を含むことができる。プロセッサー10は、例えば、臨床記録データ生成装置1の少なくとも1つの他の構成要素の制御および/または通信に関する演算またはデータ処理を実行することができる。
【0037】
メモリ20は、プロセッサー10の処理および制御のためのプログラム(1つ以上のインストラクション)を格納することができる。
【0038】
メモリ20は、揮発性および/または不揮発性メモリを含むことができる。 メモリ20は、例えば、臨床記録データ生成装置1の少なくとも1つの他の構成要素に関連する命令またはデータを格納することができる。
【0039】
I/Oインターフェース30は、使用者または他の外部機器から入力された命令またはデータを臨床記録データ生成装置1の他の構成要素に伝達することができるインターフェースとして機能することができる。本発明の一実施例では、ディスプレイまたは使用者入力装置と接続することができる。さらに、I/Oインターフェース30は、臨床記録データ生成装置1の他の構成要素から受信した命令またはデータを使用者または他の外部機器に出力することができる。
【0040】
通信インターフェース40は、臨床記録データ生成装置1と外部装置またはサーバとの間の通信を設定することができる。例えば、通信または有線通信を介してネットワークに接続され、外部装置またはサーバと通信することができる。
【0041】
図2を参照すると、本発明の一実施例による臨床記録データ生成装置1のメモリ20は、プロセッサー10によって生成された第1レイヤ210、第2レイヤ220及び第3レイヤ230を含む臨床記録データ200を格納する。
【0042】
本発明の一実施例による臨床記録データ生成装置1のプロセッサー10は、レイヤ選択モジュール110と臨床レポート作成モジュール120とを含むデータ提供部100を含むことができ、プロセッサー10が、既に行われた医療行為が記録された医療データから生成した臨床記録データから、特徴情報に対する重要度に応じて複数のレイヤに基づいて臨床レポートを作成した後、臨床記録データ生成装置1に接続されたディスプレイ2に送信する。
【0043】
これにより、使用者はディスプレイを介して作成された臨床レポートを確認することができる。
【0044】
具体的には、使用者の入力に応じて様々な種類のレイヤから所望のレイヤを選択して臨床レポートを作成することができ、臨床的に重要な意味を持つレイヤを区別する方法を予め設定した後、設定された方法に応じて臨床的に重要な意味を持つレイヤをまとめて、自動的に臨床レポートを作成する機能を含むことができる。
【0045】
また、医師が所望の優先順位を指定しておけば、当該順位に合わせて自動的に臨床レポートを作成する機能を含むことができ、このとき、優先順位はポリープ、出血、切除などに指定されることができる。
【0046】
また、医療スタッフが手動で作成した記録紙に基づいて自動的に臨床レポートを作成することができ、手動で作成された記録紙に基づいて臨床レポートが作成される過程をトレーニング(training)するように設計し、自動作成の精度を高めるようにすることができる。
【0047】
本発明の一実施例による臨床記録データ生成装置は、診療過程における非放射線撮像装置の活用増加により生成された医療マルチメディアビッグデータを分析することを可能にし、臨床現場でAR/VR及び人工知能技術の適用のための非定型医療ビデオデータの需要を満たすことができる。
【0048】
図3は、本発明の一実施例による臨床記録データ生成方法を説明するためのフローチャートである。
【0049】
図3を参照すると、本発明の一実施例による臨床記録データ生成方法は、臨床記録データ生成装置のプロセッサーが、既に行われた医療行為が記録された医療データを入力してもらうステップS110から始まる。
【0050】
その後、複数の項目別に区分されて設けられた複数のレイヤのうち、前記医療データに関連する項目に対応するレイヤに前記医療データに含まれる情報を記録する。具体的には、ステップS120において、医療データを種類別に区分して、第1レイヤグループの複数のレイヤの項目のうち、データの種類に対応するレイヤにそれぞれ記録する。
【0051】
ステップS130において、医療データのうち映像データの少なくとも一部を複数の映像フレームに分割する。
【0052】
ステップS140において、複数の映像フレームそれぞれに対して特徴抽出アルゴリズムを実行し、医療行為のうち記録したい特徴情報が含まれる特徴フレームを抽出する。
【0053】
ここで、特徴情報は、臨床情報とメタデータ情報の少なくとも一方を含み、臨床情報は、病変の情報および非病変対象の情報の少なくとも一方を含み、メタデータ情報は、医療行為情報および医療ツール情報の少なくとも1つを含む。
【0054】
具体的には、本発明の一実施例によれば、特徴情報を含む特徴フレームを抽出するステップS140は、映像処理アルゴリズムを用いる場合、複数の映像フレームのうち1つを基準フレームとして指定し、基準フレームと映像フレームをそれぞれ比較して病変または非病変対象に対応する形状を判別し、病変または非病変対象に対応する形状が含まれる映像フレームを特徴フレームとして抽出する。
【0055】
また、医療ツールに対応する形状の一地点を特徴点として指定し、複数の映像フレームそれぞれにおける特徴点の所定時間間隔に応じた位置を追跡し、医療ツールの位置の変化が生じた時点に対応する映像フレームを特徴フレームとして抽出する。
【0056】
本発明のまた他の実施例によれば、特徴情報を含む特徴フレームを抽出するステップS140は、機械学習アルゴリズムを用いる場合、複数の映像フレームにおける画素の関連関係を学習用体内映像と学習用病変映像とに基づいて予め学習されたモデルを用いて、前記複数の映像フレームそれぞれにおいて病変に対応する形状を判別し、病変に対応する形状を含む映像フレームを特徴フレームとして抽出する。
【0057】
ステップS150において、特徴フレームに関する情報を第2レイヤグループの複数のレイヤのうち、特徴情報に関連するイベント項目に対応するレイヤに記録する。
【0058】
具体的には、複数のイベント項目別に分けて設けられた複数のレイヤのうち、特徴フレームに含まれる特徴情報に関連するイベント項目に対応するレイヤに特徴フレームに関する情報を記録する。
【0059】
ここで、特徴フレームに関する情報は、特徴フレームのグラフィック情報と、医療映像データにおける特徴フレームが位置する時点の時刻情報とを含む。
【0060】
ステップS160において、複数のレイヤに基づいて選択されたレイヤを再構成して臨床レポートを作成する。
【0061】
具体的には、第1レイヤグループの複数のレイヤと第2レイヤグループの複数のレイヤのうち重要度に応じて少なくとも一部を指定して臨床記録レポートを作成し、予め設定された区間での第1レイヤグループにおける情報と、第2レイヤグループにおける特徴フレームに関する情報を用いて臨床記録レポートを作成することができる。例えば、予め設定された区間における時刻情報とともにイベントインデックスとして格納された特徴フレームのグラフィック情報と、当該時刻における第1レイヤグループのレイヤに記録された情報とを用いて臨床記録レポートを作成することができる。この場合、第1レイヤグループに格納された音声情報と第2レイヤグループの病変によるグラフィック情報とを一緒に表示することができるようになる。
【0062】
図4は、本発明の一実施例による臨床記録データ生成方法に従って生成されるレイヤを例に挙げて示したものである。
【0063】
本発明の一実施例による臨床記録データ生成装置のプロセッサーは、既に行われた医療行為が記録された医療データを入力してもらい、複数の項目別に区分されて設けられた複数のレイヤのうち、医療データに関連する項目に該当するレイヤに医療データに含まれる情報を記録し、前記複数のレイヤに基づいて臨床記録レポートを作成する。
【0064】
レイヤに記録したい情報とは、臨床的または工学的に意味のあるフレーム(Frame)であって、検査、施術、及び手術などを含む医療行為のうち、病変の発生や手術ツールの変化など、記録が必要な手術情報を含むフレームを意味する。
【0065】
図4を参照すると、本発明の一実施例による臨床記録データ生成方法に従って生成されるレイヤ400は、第1レイヤグループと第2レイヤグループとを含むことができる。
【0066】
第1レイヤグループは、既に行われた医療行為が記録された医療データが記録されたレイヤであって、医療スタッフの音声信号、医療スタッフの生体信号、手術映像及び患者の生体信号を含む。
【0067】
例えば、第1レイヤグループは、第1レイヤ(1stlayer)410、第2レイヤ(2nd layer)420、第3レイヤ(3rd layer)430、第4レイヤ(4thlayer)440を含むことができ、第1レイヤ(1st layer)410は、検査、施術、および手術を含む医療行為において医療スタッフの音声(Voice)411とは別に記録されたテキスト(Text)を記録する。
【0068】
第2レイヤ(2ndlayer)420は、検査、施術、および手術を含む医療行為において医療スタッフの生体信号を含む。
【0069】
第3レイヤ(3rdlayer)430は、患者の検査、施術、手術映像431を含む。
【0070】
第4レイヤ(4thlayer)440は、検査、施術、手術を含む医療行為における患者の生体信号を含む。
【0071】
第2レイヤグループは、医療データのうち、映像データについて記録したい特徴情報を含む特徴フレームに関する情報が記録されたレイヤである。
【0072】
特に、検出された特徴フレームに関する情報を時間に基づいて可視化して表記する。
【0073】
例えば、第2レイヤグループは、第5レイヤ(5thlayer)450、第6レイヤ(6th layer)460、第7レイヤ(7th layer)470、第8レイヤ(8thlayer)480を含むことができ、第5レイヤ(5th layer)450は、映像内の病変(ポリープ、ノジュールなど)に関する情報を含む。
【0074】
第6レイヤ(6thlayer)460は、映像内の様々な非病変対象(出血、instrument、糞便、補綴物など)に関する情報を含む。
【0075】
第7レイヤ(7thlayer)470は、映像内検査、施術、手術関連動作情報(ポリープおよびノジュール切除、止血、縫合など)を含む。
【0076】
第8レイヤ(8thlayer)480は、映像内の検査、施術、手術関連フェーズ(段階)情報を含む。
【0077】
そのほかにも、第9レイヤ(9th layer)をさらに含み、映像内の検査、施術、手術関連ツールの位置情報を含むことができ、第Nレイヤ(Nthlayer)をさらに含んで映像関連各種メタ(Meta)情報を含むことができる。
【0078】
第1レイヤ乃至第Nレイヤは順次配列されて格納され、医療診断のために容易なアクセスを可能にする差分階層式(hierarchical)情報を提供することができる。
【0079】
また、医療診断における重要度に応じて情報を階層的に提供してアクセスを容易にすることができ、記録しようとする特徴情報を表示されるスケール(Scale)に応じて表記される情報に分類する。
【0080】
もし、より詳細な情報が必要な場合、スクロールを利用してズームインすれば、下の段階の情報が公開されるようにすることができ、これにより臨床記録データにおいて特徴情報に対する重要度に応じて複数のレイヤに基づいて臨床レポートを作成することができる。
【0081】
図5は、本発明の一実施例による臨床記録データ生成方法に従うレイヤ生成過程を例に挙げて示したものである。
【0082】
具体的に、
図5は、本発明の一実施例による臨床記録データ生成方法に従って医療データのうち映像データを用いて第2レイヤグループの複数のレイヤに特徴フレームに関する情報を記録する過程を示したものである。
【0083】
本発明の一実施例による臨床記録データ生成装置は、医療データのうち映像データ510の少なくとも一部を複数の映像フレーム520に分割する。
【0084】
ここで、複数の映像フレーム520に分割することは、所定の時間間隔にて映像データ510を分割することを意味する。
【0085】
その後、複数の映像フレーム520のそれぞれに対して特徴抽出アルゴリズムを実行して、医療行為のうち記録したい特徴情報を含む特徴フレーム530を抽出し、特徴フレームに関する情報を第2レイヤグループの複数のレイヤに記録する。
【0086】
具体的には、複数のイベント項目別に区分されて設けられた複数のレイヤのうち、特徴フレームに含まれる特徴情報に関連するイベント項目に対応するレイヤに特徴フレームに関する情報を記録する。
【0087】
例えば、映像フレーム520から映像内病変に関する情報を含む特徴フレーム530を抽出し、第5レイヤ(5thlayer)450に映像内病変(ポリープ、ノジュールなど)に関する情報を記録する。ここでイベント項目は映像内病変451に該当する。
【0088】
また、映像フレーム520から映像内非病変対象に関する情報を含む特徴フレーム530を抽出し、第6レイヤ(6thlayer)460に映像内各種非病変対象(出血、instrument、糞便、補綴物など)に関する情報を記録する。ここで、イベント項目は映像内非病変対象461に該当する。
【0089】
また、映像フレーム520から映像内検査、施術、手術関連動作情報を含む特徴フレーム530を抽出し、第7レイヤ(7thlayer)470に映像内検査、施術、手術関連動作情報(ポリープおよびノジュール切除、止血、縫合など)を記録する。ここで、イベント項目は、映像内検査、施術、手術関連動作情報471に対応する。
【0090】
また、映像フレーム520から映像内検査、施術、手術関連フェーズ(段階)情報を含む特徴フレーム530を抽出し、第8レイヤ(8thlayer)480に映像内検査、施術、 手術関連フェーズ(段階)情報を記録する。ここで、イベント映像内検査、施術、手術関連フェーズ(段階)情報481に該当する。
【0091】
医療スタッフの音声信号、医療スタッフの生体信号、手術映像、および患者の生体信号を含む第1レイヤグループと一緒に第2レイヤグループの各レイヤが順次生成されることができ、使用者は第1レイヤグループと第2レイヤグループにおいて特定のレイヤを指定したり、別途の時間区間を指定して該当情報のみを確認することができる。
【0092】
図6~
図8は、本発明の一実施例による臨床記録データ生成方法の特徴フレーム抽出を例に挙げて示したものである。
【0093】
前記
図5で説明したように、本発明の一実施例による臨床記録データ生成装置は、複数の映像フレーム520それぞれに対して特徴抽出アルゴリズムを実行して医療行為のうち記録したい特徴情報を含む特徴フレーム530を抽出し、特徴フレームに関する情報を第2レイヤグループの複数のレイヤに記録する。
【0094】
具体的には、特徴抽出アルゴリズムは、映像処理アルゴリズムと機械学習アルゴリズムとを含む。
【0095】
ここで、特徴情報は、臨床情報とメタデータ情報の少なくとも一方を含み、臨床情報は、病変の情報および非病変対象の情報の少なくとも一方を含み、メタデータ情報は、医療行為情報および医療ツール情報の少なくとも一方を含む。
【0096】
また、臨床情報は臨床指標を指す。例えば、ロボット手術における臨床指標の例は、手術procedure総時間、詳細procedure時間(flap dissection, midline division, isthmectomy, lateral dissection, superior pole ligation, RLN, parathyroid identification & preservation, superior pole ligation, central neck dissection時間)を含み、腫瘍の位置(左/右;上/中/下)、リンパ節腫大の有無、反回神経の保存状態、副甲状腺の保存状態を含む。また、手術中の血管損傷状態、出血程度、他の臓器損傷状態、映像の適切性、映像の特異的所見を含む。
【0097】
メタデータ情報はメタ情報を指す。ロボット手術映像におけるメタ情報の例は、手術ツールが画面の外に出た時点、手術ツール同士がぶつかった時点、一定加速度以上の動きである時点、手術ツール変更時点(e.g. Forceps → Camera移動)及びzoom in/out時点を含む。
【0098】
図6は、本発明の一実施例による臨床記録データ生成方法の特徴フレーム抽出過程における医療ツールを例に挙げて示したものである。
【0099】
図6(a)はlong grasper 613、
図6(b)はdissector forceps 621、
図6(c)はexhauster 631、
図6(d)はscissor 641、
図6(e)はclipping device 651、
図6(f)はmonopolar spatula 661を示したものである。
【0100】
具体的には、本発明の一実施例によれば、特徴情報を含む特徴フレームを抽出する段階で、映像処理アルゴリズムを用いる場合、医療ツールに対応する形状の一地点を特徴点として指定し、複数の映像フレームそれぞれにおいて特徴点の所定時間間隔に応じた位置を追跡し、医療ツールの位置の変化が発生した時点に対応する映像フレームを特徴フレームとして抽出する。
【0101】
例えば、
図6(a)において、第1手術部位611と第2手術部位612を背景領域として指定し、背景領域内で所定方向のエッジ(edge)を通過させる複数のチャンネル(channel)に従ってそれぞれ生成されたフィルターを用いて医療ツールに対応する形状を認識し、形状に応じて医療ツールの種類を判断し、医療ツールの移動を確認することができる。
【0102】
ここで、フィルタリング過程は、対象情報の映像から設定された特定角度の映像を選択的に検出する過程である。本発明の一実施例によれば、プロセッサーは、対象情報の映像が認識される円形フィルターと、円形フィルターの内側に位置する楕円形の方向認識フィルターとを含み、方向認識フィルターを使用して垂直線を検出することにより医療ツールの形状を認識することができる。
【0103】
他にも、医療ツールの種類を判断し、医療ツールの移動を確認するために様々な映像処理アルゴリズムを利用することができ、例えば、Object trackingとtargeting方法を用いることができる。
【0104】
さらに、
図6(d)および
図6(f)を参照すると、本発明の一実施例によれば特徴情報が含まれる特徴フレームを抽出する段階で、映像処理アルゴリズムを用いて出血部位642 、662を確認することができる。
【0105】
具体的には、複数の映像フレームのうち、第1手術部位611と第2手術部位612を基準フレームとして指定し、基準フレームと映像フレームをそれぞれ比較して病変または非病変対象に対応する形状を判別し、病変または非病変対象に対応する形状を含む映像フレームを特徴フレームとして抽出することができ、
図6(d)および
図6(f)では非病変対象の出血部位を確認することができる。
【0106】
図7は、本発明の一実施例による臨床記録データ生成方法の特徴フレーム抽出過程における手術情報を例に挙げて示した図である。
【0107】
図7(a)はMidline division、
図7(b)はIsthmectomy、
図7(c)はRLN、parathyroid preservation、
図7(d)は Superior pole ligationを示す。
【0108】
図7(a)では、映像処理アルゴリズムを用いて第1医療ツール711、第2医療ツール712、及び手術部位713を認識することができ、第1医療ツール711、第2医療ツール712および手術部位713の変化を認識して該当手術情報を確認することができる。また、該当手術情報に応じた医療ツールの変化と患部の状態を確認することもできる。
【0109】
図7(b)では、映像処理アルゴリズムを用いて第1医療ツール721、第2医療ツール722、及び第3医療ツール723を認識することができ、第3医療ツール723の移動に応じてIsthmectomyの進行状況を判断することができる。
【0110】
図7(c)では、映像処理アルゴリズムを用いて第1医療ツール731、第2医療ツール732を認識することができ、第1神経の方向D1と第1手術部位の方向D2を確認することができる。
【0111】
図7(d)では、映像処理アルゴリズムを用いて第1医療ツール741及び手術部位742を確認することができる。
【0112】
図8は、本発明の一実施例による臨床記録データ生成方法の特徴フレーム抽出過程における腫瘍の認識を例に挙げて示したものである。
【0113】
図8(a)は、腫瘍がない場合の体内映像を示したものであり、
図8(b)は、腫瘍が存在する場合の体内映像を示したものである。
【0114】
本発明のまた他の実施例によれば、特徴情報を含む特徴フレームを抽出する段階で機械学習アルゴリズムを用いる場合、複数の映像フレーム820における画素の関連関係を学習用体内映像と学習用病変映像に基づいてあらかじめ学習されたモデルを用いて、前記複数の映像フレームそれぞれから病変に対応する形状830を判別し、病変に対応する形状を含む映像フレームを特徴フレームとして抽出する。
【0115】
具体的には、学習用体内映像を
図8(a)として用いることができ、学習用病変映像を
図8(b)として用いることができる。学習用体内映像と学習用病変映像とを用いて予め学習されたモデルに複数の映像フレームを入力して、病変に対応する形状を判別することができるようになる。
【0116】
また、学習モデルとしては、目的の物体を分類するYOLOモデルを学習して使用することができ、分類する病変に対応する形状に対応する学習用病変映像と学習用体内映像を用いて学習させた後、映像フレームを入力した結果として特徴フレームを抽出する。
【0117】
図9~
図11は、本発明の一実施例による臨床記録データ生成方法に従って生成される臨床レポートを例に挙げて示したものである。
【0118】
本発明の一実施例による臨床記録データ生成装置のプロセッサーは、特徴情報の重要度に応じて複数のレイヤに基づいて臨床レポートを作成する。ここで、臨床レポートとは、可視化して表現された臨床レポート映像を称するものであって、
図9および
図10のように視覚化して表現されることもでき、
図11のように映像にテキストを含む形態で生成されることもできる。
【0119】
図9~
図11は、大腸内視鏡検査、施術を例に挙げて示したものである。
【0120】
大腸内視鏡検査、施術における臨床指標の例は、過去の耐力、手術力、盲腸到達状態、盲腸到達時間、回収時間、全検査時間、腸のきれいさ(右、横行、左、合算)、腸のきれいさ(糞便)、CFS所見、発見ポリープ情報(位置、サイズ、形状、組織検査情報)などを含み、ポリープ除去時点を含むことができる。
【0121】
大腸内視鏡検査、施術動画におけるメタ情報の例としては、スコープカメラの位置、前進、後進、停止、左/右移動、水洗浄、ガス注入などが挙げられる。
【0122】
具体的に、
図9は、本発明の一実施例による臨床記録データ生成方法に従って生成される臨床レポートの第1実施例を示したものである。
【0123】
図9(a)は、内視鏡チップ(Endoscope tip)の位置(position)を示したものである。
図9(b)を参照すると、施術時間に応じて内視鏡チップ(Endoscope tip)の位置(position)に応じた映像を確認することができ、当該映像で特徴情報が発生した場合に映像を記録することができる。
【0124】
このとき、横軸は大腸内視鏡施術時間、縦軸は大腸のきれいさに指定し、施術時間ときれいさによって映像の位置を指定することができ、
図9(b)に示すように第1映像910、 第2映像920及び第3映像930の位置を指定することができる。
【0125】
図10は、本発明の一実施例による臨床記録データ生成方法に従って生成される臨床レポートの第2実施例を示したものである。
【0126】
図10を参照すると、内視鏡チップ(Endoscope tip)の位置(position)を視覚化940して、大腸の解剖学的位置情報と時間情報を一緒にマッピングして臨床レポートを生成することができる。
【0127】
解剖学的位置情報から抽出したフレーム942を記録することができ、位置情報に応じたフレームデータの量に応じて時間密度941を異ならせて表示することができる。
【0128】
具体的には、大腸の解剖学的位置情報と時間情報を一緒にマッピングすることにより、時間に応じた施術の進行度合いを視覚的に把握することができ、大腸内視鏡検査時の主要な施術は盲腸到達後に出てきながら発生するので、盲腸到達時間に基づいて時間を表示する。このとき、位置に応じた時間的な密度を色で表示して、施術において遅滞、または処置が行われた位置を確認することができる。
【0129】
また、確認が必要な時間部分にカーソルで近づくと、所望の機能(施術映像、腸のきれいさ、音声、生体信号など)に該当する情報を提供することができる。
【0130】
図11は、本発明の一実施例による臨床記録データ生成方法に従って生成される臨床レポートの第3実施例を示したものである。
【0131】
図11を参照すると、出血部位1010を表示した映像と共に、既に取得した医療データの音声から「出血が見える」の音声をテキスト1020に変換して一緒に生成することができる。
【0132】
具体的に、検査、施術及び手術を行う際の映像とともに医師の意見や状況などを録音し、該当映像再生時にテキストに変換して字幕として提供する。
【0133】
ノジュール、ポリープ、出血、切除術など臨床的に重要な情報に該当する映像フレームを、AIおよび音声入力分布を通じて自動的に編集して臨床レポート映像を生成することができ、ハイライト映像を通じて、20~40分に該当する映像全体を再生する必要なく、重要なハイライト映像だけで迅速に情報を把握することができるようになる。
【0134】
また、コンピュータ読み取り可能な記録媒体に格納されているコンピュータプログラムであって、前記コンピュータプログラムは、臨床記録データ生成方法をプロセッサーに実行させるための命令語を含むコンピュータプログラムを提供する。
【0135】
さらに、本発明の一実施例による臨床記録データ生成方法は、プロセッサーによって実行可能なコンピュータプログラム命令語を含む非一時的(Non-Transitory)コンピュータ読み取り可能な記録媒体に記録され、臨床記録データ生成方法をコンピュータで実行するためのコンピュータにおいて読み取り可能なプログラムが記録された記録媒体を提供する。
【0136】
「コンピュータ読み取り可能な記録媒体」とは、フレキシブルディスク、光磁気ディスク、ROM(Read Only Memory)、CD-ROM(Compact Disc Read Only Memory)等の可搬媒体、コンピュータシステムに内蔵されるハードディスク等の記憶装置のことをいう。また上記プログラムは、前述した機能の一部を実現するためのものであってもよく、さらに前述した機能をコンピュータシステムにすでに記録されているプログラムとの組み合わせで実現できるものであってもよい。
【0137】
以上、本発明の実施形態を具体的な実施例として説明したが、これは例示に過ぎず、本発明はこれに限定されず、本明細書に開示された技術的思想に従う最も広い範囲を有するものと解釈されるべきである。当業者は、開示された実施例を組合せ/置換して摘示されていない形状のパターンを実施することができるが、これも本発明の範囲から逸脱しないであろう。さらに、当業者は、本明細書に基づいて開示された実施例を容易に変更または変形することができ、そのような変更または変形も本発明の権利範囲に属することは明らかである。
【国際調査報告】