IP Force 特許公報掲載プロジェクト 2022.1.31 β版

知財求人 - 知財ポータルサイト「IP Force」

▶ ヒューロン カンパニー,リミテッドの特許一覧

特開2022-164527医用画像による腫瘍検出及び診断装置
<>
  • 特開-医用画像による腫瘍検出及び診断装置 図1
  • 特開-医用画像による腫瘍検出及び診断装置 図2
  • 特開-医用画像による腫瘍検出及び診断装置 図3
  • 特開-医用画像による腫瘍検出及び診断装置 図4
  • 特開-医用画像による腫瘍検出及び診断装置 図5
  • 特開-医用画像による腫瘍検出及び診断装置 図6
  • 特開-医用画像による腫瘍検出及び診断装置 図7
  • 特開-医用画像による腫瘍検出及び診断装置 図8
  • 特開-医用画像による腫瘍検出及び診断装置 図9
  • 特開-医用画像による腫瘍検出及び診断装置 図10
  • 特開-医用画像による腫瘍検出及び診断装置 図11
  • 特開-医用画像による腫瘍検出及び診断装置 図12
  • 特開-医用画像による腫瘍検出及び診断装置 図13
< >
(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公開特許公報(A)
(11)【公開番号】P2022164527
(43)【公開日】2022-10-27
(54)【発明の名称】医用画像による腫瘍検出及び診断装置
(51)【国際特許分類】
   A61B 5/055 20060101AFI20221020BHJP
   A61B 10/00 20060101ALI20221020BHJP
   G06T 7/00 20170101ALI20221020BHJP
   A61B 34/10 20160101ALI20221020BHJP
【FI】
A61B5/055 380
A61B10/00 T
G06T7/00 612
G06T7/00 350C
A61B34/10
【審査請求】有
【請求項の数】11
【出願形態】OL
(21)【出願番号】P 2021095563
(22)【出願日】2021-06-08
(31)【優先権主張番号】10-2021-0049901
(32)【優先日】2021-04-16
(33)【優先権主張国・地域又は機関】KR
【公序良俗違反の表示】
(特許庁注:以下のものは登録商標)
1.WINDOWS
(71)【出願人】
【識別番号】520110216
【氏名又は名称】ヒューロン カンパニー,リミテッド
(74)【代理人】
【識別番号】100079108
【弁理士】
【氏名又は名称】稲葉 良幸
(74)【代理人】
【識別番号】100109346
【弁理士】
【氏名又は名称】大貫 敏史
(74)【代理人】
【識別番号】100117189
【弁理士】
【氏名又は名称】江口 昭彦
(74)【代理人】
【識別番号】100134120
【弁理士】
【氏名又は名称】内藤 和彦
(72)【発明者】
【氏名】ホン,ジス
(72)【発明者】
【氏名】ソン,スーファ
【テーマコード(参考)】
4C096
5L096
【Fターム(参考)】
4C096AB38
4C096AB44
4C096AC01
4C096AC04
4C096AC05
4C096AD14
4C096DA30
4C096DB06
4C096DC20
4C096DC21
4C096DC36
5L096AA06
5L096AA09
5L096BA06
5L096BA13
5L096DA02
5L096EA03
5L096EA05
5L096EA13
5L096FA69
5L096HA11
5L096MA07
(57)【要約】      (修正有)
【課題】医療関係者が患者を診断し、治療計画を樹立する段階に適切な情報を提供する装置及び方法を提供する。
【解決手段】医用画像を用いて腫瘍を検出し、検出された腫瘍の形態と特性を診断する装置及び方法であって、医用画像による腫瘍検出及び診断装置は、患者と関連する医用画像を取得する入力部10と、腫瘍領域の観察が可能なように、取得した医用画像を前処理する前処理部20と、深層ニューラルネットワークによるディープラーニング手法を適用し、前処理された画像を複数の領域に分割する解析部30と、分割された複数の領域に対してクラスタリングを実行することにより、グループ化する測定部40と、を含み、測定部は、グループ化された領域それぞれのグループ別の特徴値を抽出し、抽出されたグループ別の特徴値に基づいて、腫瘍に関連する診断情報を導き出す。
【選択図】図1
【特許請求の範囲】
【請求項1】
患者に関連する医用画像を取得する入力部と、
腫瘍(tumor)領域の観察が可能なように、前記取得した医用画像を前処理する前処理部と、
深層ニューラルネットワークによるディープラーニング手法を適用し、前記前処理された画像を複数の領域に分割する解析部と、
前記分割された複数の領域に対してクラスタリング(clustering)を行うことにより、グループ化(grouping)する測定部と、を含み、
前記測定部は、
前記グループ化された領域それぞれグループ別の特徴値を抽出し、
前記抽出されたグループ別の特徴値に基づいて、前記腫瘍に関連する診断情報を導き出すことを特徴とする、医用画像による腫瘍検出及び診断装置。
【請求項2】
前記入力部は、前記患者の身体情報を追加で取得し、
前記測定部は、前記グループ別の特徴値及び前記身体情報を共に用いて前記の診断情報を導き出すことを特徴とする、請求項1に記載の医用画像による腫瘍検出及び診断装置。
【請求項3】
前記前処理部は、
前記取得した医用画像方向を整列し、
前記取得した医用画像内の均一性のため、前記画像内の信号偏向を訂正し、
ターゲット(target)である前記腫瘍領域以外の前記取得した医用画像内の領域を除去することを特徴とする、請求項1に記載の医用画像による腫瘍検出及び診断装置。
【請求項4】
前記解析部は、
解像度の補正のために、ボクセル解像度(voxel-resolution)を基準に、前記前処理された画像をリサンプリング(resampling)し、
前記リサンプリングされた画像を正規化(normalization)し、
前記深層ニューラルネットワークによるディープラーニング手法の適用のために、前記正規化された画像の大きさを調整し、
前記深層ニューラルネットワークの入力と同じ大きさで出力されるように、前記大きさが調整された画像を複数の領域に分割することを特徴とする、請求項1に記載の医用画像による腫瘍検出及び診断装置。
【請求項5】
前記深層ニューラルネットワークに入力される画像と前記分割された複数の領域に関連する画像は、3次元画像であることを特徴とする、請求項4に記載の医用画像による腫瘍検出及び診断装置。
【請求項6】
前記深層ニューラルネットワークによるディープラーニング手法は、
演算の順序と方式のうち少なくとも一つを変化させることで、変数及び計算量を減らすことができるDSC(Depth-wise separable convolution)ブロック(block)を用いることを特徴とする、請求項4に記載の医用画像による腫瘍検出及び診断装置。
【請求項7】
前記DSCブロックを適用する場合、
前記深層ニューラルネットワークによるディープラーニング手法は、前記深層ニューラルネットワークに入力される画像内の情報消失を防ぐために、スキップ接続(Skip-connections)を適用することを特徴とする、請求項6に記載の医用画像による腫瘍検出及び診断装置。
【請求項8】
前記深層ニューラルネットワークによるディープラーニング手法は、
畳み込みフィルタ(convolution filter)を拡張し、同じ数のパラメータでより広いFOV(Field of View)演算を実行するための膨張畳み込み(Atrous convolution)を複数の段階に亘ってマルチスケールプーリング(multi-scale pooling)するASPP(Atrous spatial pyramid pooling)ブロック(block)を用いることを特徴とする、請求項4に記載の医用画像による腫瘍検出及び診断装置。
【請求項9】
前記深層ニューラルネットワークによるディープラーニング手法は、
複数のスケール(scale)に基づいて導き出された複数の特徴(feature)を得るために、アップ・アンド・ダウンサンプリング(Up-and down-sampling)を用いることを特徴とする、請求項4に記載の医用画像による腫瘍検出及び診断装置。
【請求項10】
前記測定部は、前記腫瘍をボクセルレベル(voxel level)からオブジェクトレベル(object level)で処理するために、前記クラスタリングを実行することを特徴とする、請求項1に記載の医用画像による腫瘍検出及び診断装置。
【請求項11】
前記測定部は、前記抽出されたグループ別の特徴値を定量化し、
前記診断情報は、前記腫瘍の位置(location)、領域(region)、直径(diameter)、及びボリューム(volume)情報を含むことを特徴とする、請求項10に記載の医用画像による腫瘍検出及び診断装置。
【請求項12】
前記測定部は、
臨床的指標(Clinical parameter)と前記オブジェクトレベル情報を組み合わせて、前記腫瘍に関連する予後を予測することを特徴とする、請求項10に記載の医用画像による腫瘍検出及び診断装置。
【請求項13】
前記グループ化された領域及び前記グループ別の特徴値を出力する出力部をさらに含むことを特徴とする、請求項1に記載の医用画像による腫瘍検出及び診断装置。
【請求項14】
前記測定部のグループ化作業を通じて得られた行列情報を、前記入力部が取得した元の医用画像の空間(space)にマッチングされるように逆処理した後、保存する保存部をさらに含み、
前記保存部は、前記グループ化された領域及び前記グループ別の特徴値を保存することを特徴とする、請求項1に記載の医用画像による腫瘍検出及び診断装置。
【請求項15】
前記腫瘍は、脳腫瘍、転移性脳腫瘍、肺癌、乳癌、肝臓癌、大腸癌、前立腺癌、子宮頸癌、及び膵臓癌を含むことを特徴とする、請求項1に記載の医用画像による腫瘍検出及び診断装置。
【請求項16】
前記前処理部は、
前記腫瘍領域に加えて、肺石灰化(Lung calcification)領域及び脳白質高信号域(White-matter hyperintensity)のうち少なくとも一つ観察が可能なように、前記取得した医用画像を前処理することを特徴とする、請求項1に記載の医用画像による腫瘍検出及び診断装置。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、医用画像を用いて腫瘍を検出し、検出された腫瘍の形態と特性を診断する装置及び方法に関する。さらに詳しくは、本発明は、医用画像及び患者情報に基づいて人工知能(AI)を結びつけ、腫瘍を検出した後、検出された腫瘍の形態と特性を診断し、予後予測に対する情報を提供することにより、医療関係者が患者を診断し、治療計画を樹立する段階に適切な情報を提供する装置及び方法に関する。
【背景技術】
【0002】
腫瘍(tumor)は、体内の細胞が自律性をもって過剰に発育したものをいう。
【0003】
腫瘍(tumor)の発育は、常に腫瘍細胞自体の分裂増殖により起こり、発育の形式は、大きく二つに分けられ、腫瘍の性質が良性であるのか、悪性であるのかを区別する糸口として臨床上、重要視されている。
【0004】
一つは、膨張性発育または圧胚性発育で良性腫瘍として見られ、もう一つは、浸潤性発育で悪性腫瘍として見られる。膨張性発育は、腫瘍組織が一つの集団として周囲の正常組織を圧迫しながら発育し、直接的な被害を与えることは稀である。浸潤性発育は、腫瘍細胞が周囲の組織中に浸潤するように発育するものであって、周囲の組織を破壊しながら増殖し発育速度も速い。
【0005】
一方、腫瘍が広がる状態も大きく二つに分けられる。すなわち、連続的な広がりのものと非連続的な広がりのものがある。前者は原発巣を中心に周囲に連続的に広がるものであって、膨張性発育、浸潤性発育がこれに属する。
【0006】
後者は原発巣から離れた部位に移動してから発育するものであって、代表的なのが転移である。
【0007】
この腫瘍の転移は、悪性腫瘍の特徴の一つとしてリンパ行性又は血行性からなる。その他に腫瘍細胞が体腔内に剥がれ落ちて付着した後、一度にたくさん発育する播種又は接触による接触性転移などがある。
【0008】
分類と関連して、先にその組織が成熟であるのか、未熟であるのかという点で分類すれば、前者は良性腫瘍、後者は悪性腫瘍である。この両者をさらに上皮性又は非上皮性に分類すれば、悪性腫瘍の場合は、上皮性のものが癌腫、非上皮性のものが肉腫である。
【0009】
成熟した上皮性腫瘍は、乳頭腫、腺腫、嚢腫があり、成熟した非上皮性腫瘍には線維腫、粘液腫、脂肪腫、骨腫、メラノーマ、筋腫などが含まれる。また、未熟な上皮性腫瘍には、単純癌、扁平上皮癌、円柱上皮癌、副腎腫瘍、肝腫、琺瑯腫などがあり、未熟な非上皮性腫瘍には、未分化肉腫、繊維肉腫、粘液肉腫、脂肪肉腫、骨肉腫、黒色腫、筋肉腫などが含まれる。
【0010】
特に、転移性脳腫瘍(Brain metastasis)は、原発性癌が血管に乗って脳に転移した癌を意味し、悪性腫瘍のある患者から脳転移が生じた場合、生命に致命的であったりもする。
【0011】
脳転移は、その大きさが非常に多様であり、ほとんどが球状である特性を有する。
【0012】
しかし、T1-weighted MRI(T1強調MRI)画像において、白質(white-matter)に近い明るさの値で表されるので、従来の画像による解析手法では、診断するのが難しいという問題点がある。
【0013】
現在は、医師が画像をいちいち見て、病変を見つけ出すやり方で診断する方法が適用されている。
【0014】
自動化された方法を適用する試みがあり、T1-MRIに加えて、様々な画像を一緒に加えて診断する研究があるが、その過程で2D画像に基づいて解析しているので、再構成の過程でスライス(slice)間途切れが発生し、これは検出の精度を落とす深刻な問題点が存在する。
【先行技術文献】
【特許文献】
【0015】
【特許文献1】大韓民国特許登録番号第10-1793609号(2017年11月6日公告)
【特許文献2】大韓民国特許登録番号第10-2072476号(2020年2月3日公告)
【発明の概要】
【発明が解決しようとする課題】
【0016】
本発明の目的は、上記のような問題点を解決するためのものであって、医用画像を用いて腫瘍を検出し、検出された腫瘍の形態と特性を診断する装置及び方法を使用者に提供するものである。
【0017】
具体的に本発明は、医用画像及び患者情報に基づいて人工知能(AI)を結びつけ、腫瘍を検出した後、検出された腫瘍の形態と特性を診断し、予後予測に対する情報を提供することにより、医療関係者が患者を診断し、治療計画を樹立する段階に適切な情報を提供する装置及び方法を使用者に提供するものである。
【0018】
本発明は、腫瘍検出の自動化を目指しており、その過程でT1-MRIのみを用いて画像取得の難易度を下げ、空間情報を全部使用することができる3D deep neural networkを用いるものである。
【0019】
本発明のように、3D医用画像内の病変検出及び診断システムを適用した場合、脳腫瘍、転移性脳腫瘍、肺癌、乳癌、肝臓癌、大腸癌、前立腺癌、子宮頸癌、膵臓癌などの病変に適用可能であり、肺石灰化(Lung calcification)に適用することができ、脳白質高信号域(White-matter hyperintensity)にも適用することができる。
【0020】
特に、本発明は、脳腫瘍/転移癌検出の自動化を目指して、転移性脳腫瘍(Brain metastasis)のトラッカー(tracker)として、lesion数、大きさ及びその他の情報を数値化した後、患者の年齢、状態及び発症時期などの情報と組み合わせて予後を予測し、リスクと治療の優先順位などの情報を医療関係者に提供することを目的とする。
【0021】
さらに、本発明は、病変(lesion)の形態自体を予測して患者本人及び医療関係者が事前に対応できるように支援することを目的とする。
【0022】
また、本発明は、医療関係者との相互作用のために、診断結果が出るとすぐに医療関係者のデータと連動した後、病変(lesion)の位置や特性に合った主治医または医療関係者を提案したり、当該医療関係者に要請を送信し、より専門的な所見と治療が受けられるようにすることを目的とする。
【0023】
また、本発明は、履歴に応じた治療を提案することに関連して、医療関係者とのデータの連動を通じてlesionの位置や特性に合った治療提案を提供(history提供)し、使用過程で持続的にフィードバックを行って、長く使えば使うほどより適切な提案を進行させることが可能であることを目的とする。
【0024】
一方、本発明で解決しようとする技術的課題は、以上で言及した技術的課題に限定されず、言及されていないもう一つの技術的課題は、以下の記載から、本発明が属する技術分野における通常の知識を有する者に明確に理解されるであろう。
【課題を解決するための手段】
【0025】
前記の技術的課題を達成するための本発明の一様態である医用画像による腫瘍検出及び診断装置は、患者と関連する医用画像を取得する入力部と、解析性能を向上させるために、前記取得した医用画像を前処理する前処理部と、深層ニューラルネットワークによるディープラーニング手法を適用し、前記前処理された画像を複数の領域に分割する解析部と、前記分割された複数の領域に対してクラスタリング(clustering)を実行することにより、グループ化(grouping)する測定部とを含み、前記測定部は、前記グループ化された領域それぞれのグループ別の特徴値を抽出し、前記抽出されたグループ別の特徴値に基づいて、前記腫瘍に関連する診断情報を導き出すことができる。
【0026】
また、前記入力部は、前記患者の身体情報を追加で取得し、前記測定部は、前記グループ別の特徴値及び前記身体情報を共に用いて前記診断情報を導き出すことができる。
【0027】
また、前記前処理部は、前記取得した医用画像の方向を整列し、前記取得した医用画像内を均一化するために前記画像内の信号偏向を訂正し、ターゲット(target)である身体器官領域以外の前記取得した医用画像内の領域を除去することができる。
【0028】
また、前記解析部は、解像度を補正するために、ボクセル解像度(voxel-resolution)を基準に、前記前処理された画像をリサンプリング(resampling)し、前記リサンプリングされた画像を正規化(normalization)し、前記深層ニューラルネットワークによるディープラーニング手法を適用するために、前記正規化された画像の大きさを調整し、前記深層ニューラルネットワークの入力と同じ大きさで出力されるように、前記大きさが調整された画像を複数の領域に分割することができる。
【0029】
また、前記深層ニューラルネットワークに入力される画像と前記分割された複数の領域に関連する画像は、3次元画像であることができる。
【0030】
また、前記深層ニューラルネットワークによるディープラーニング手法は、演算順序及び方法のうち少なくとも一つを変化させることで、変数及び計算量を減らすことができるDSC(Depth-wise separable convolution)ブロック(block)を用いることができる。
【0031】
また、前記DSCブロックを適用する場合、前記深層ニューラルネットワークによるディープラーニング手法は、前記深層ニューラルネットワークに入力される画像内の情報消失を防ぐために、スキップ接続(Skip-connections)を適用することができる。
【0032】
また、前記深層ニューラルネットワークによるディープラーニング手法は、畳み込みフィルタ(convolution filter)を拡張して、同じ数のパラメータでより広いFOV(Field of View)演算を実行するための膨張畳み込み(Atrous convolution)を複数の段階に亘ってマルチスケールプーリング(multi-scale pooling)するASPP(Atrous spatial pyramid pooling)ブロック(block)を用いることができる。
【0033】
また、前記深層ニューラルネットワークによるディープラーニング手法は、複数のスケール(scale)に基づいて導き出された複数の特徴(feature)を得るために、アップ・アンド・ダウンサンプリング(Up-and down-sampling)を使用することができる。
【0034】
また、前記測定部は、前記腫瘍をボクセルレベル(voxel level)からオブジェクトレベル(object level)で処理するために、前記クラスタリングを実行することができる。
【0035】
また、前記測定部は、前記抽出されたグループ別の特徴値を定量化し、前記診断情報は、前記腫瘍の位置(location)、領域(region)、直径(diameter)、及びボリューム(volume)の情報を含むことができる。
【0036】
また、前記測定部は、臨床的指標(Clinical parameter)と前記オブジェクトレベル情報を組み合わせて、前記腫瘍に関連する予後を予測することができる。
【0037】
また、前記グループ化された領域及び前記グループ別の特徴値を出力する出力部をさらに含むことができる。
【0038】
また、前記測定部のグループ化作業で得られた行列情報を、前記入力部が取得した元の医用画像の空間(space)にマッチングされるように逆処理した後、保存する保存部をさらに含み、前記保存部は、前記グループ化された領域及び前記グループ別の特徴値を保存することができる。
【0039】
また、前記腫瘍は、脳腫瘍、転移性脳腫瘍、肺癌、乳癌、肝臓癌、大腸癌、前立腺癌、子宮頸癌、及び膵臓癌を含むことができる。
【0040】
また、前記前処理部は、前記腫瘍領域以外に、肺石灰化(Lung calcification)領域、及び脳白質高信号域(White-matter hyperintensity)のうち少なくとも一つの観察が可能なように、前記取得した医用画像を前処理することができる。
【発明の効果】
【0041】
上述したように、本発明によれば、医用画像を用いて腫瘍を検出し、検出された腫瘍の形態と特性を診断する装置及び方法を使用者に提供することができる。
【0042】
具体的には、本発明は、医用画像及び患者情報に基づいて人工知能(AI)を結びつけ、腫瘍の量を検出した後、検出された腫瘍の形態と特性を診断し、予後予測に対する情報を提供することにより、医療関係者が患者を診断し、治療計画を樹立する段階に適切な情報を提供する装置及び方法を使用者に提供することができる。
【0043】
また、本発明は、腫瘍検出の自動化を目指して、その過程でT1-MRIのみを用いて画像取得の難易度を下げ、空間情報を全部使用することができる3D deep neural networkを使用することができる。
【0044】
また、本発明のように、3D医用画像内の病変検出及び診断システムを適用した場合、脳腫瘍、転移性脳腫瘍、肺癌、乳癌、肝臓癌、大腸癌、前立腺癌、子宮頸癌、膵臓癌などの病変に適用可能であり、肺石灰化(Lung calcification)に適用することができ、脳白質高信号域(White-matter hyperintensity )にも適用することができる。
【0045】
特に、本発明は、脳腫瘍/転移癌検出の自動化を目指して、転移性脳腫瘍(Brain metastasis)のトラッカー(tracker)として、lesion数、大きさ及びその他の情報を数値化した後、患者の年齢、状態及び発症時期などの情報と組み合わせて、予後を予測し、リスクと治療の優先順位などの情報を医療関係者に提供することができる。
【0046】
さらに、本発明は、病変(lesion)の形態自体を予測して、患者本人と医療関係者が事前に対応できるように支援することができる。
【0047】
また、本発明は、医療関係者との相互作用のために、診断結果が出るとすぐに医療関係者のデータと連動した後、病変(lesion)の位置や特性に合った主治医または医療関係者を提案したり、当該医療関係者に要請を送信し、より専門的な所見と治療が得られるようにすることができる。
【0048】
また、本発明は、履歴に応じた治療を提案することに関連して、医療関係者とのデータの連動を通じてlesionの位置や特性に合った治療提案を提供(history提供)し、使用過程で持続的にフィードバックを行って、長く使えば使うほどより適切な提案の進行が可能である。
【0049】
一方、本発明で得られる効果は、以上で言及した効果に限定されず、言及していないもう一つの効果は以下の記載から、本発明が属する技術分野における通常の知識を有する者に明確に理解されるであろう。
【図面の簡単な説明】
【0050】
図1】本発明に関連して、腫瘍検出及び診断装置のブロック構成図を示すものである。
図2】本発明に関連して、医用画像による腫瘍検出及び診断方法を説明するフローチャートである。
図3】本発明の腫瘍検出及び診断装置に適用される入力部のブロック構成図を示すものである。
図4】本発明の腫瘍検出及び診断装置に適用される前処理部のブロック構成図を示すものである。
図5】本発明に関連して、前処理部の動作の一例を示したものである。
図6】本発明の腫瘍検出及び診断装置に適用される画像解析部のブロック構成図を示すものである。
図7】本発明に関連して、画像解析部の動作の一例を示したものである。
図8】本発明の画像解析部の動作に関連して、フローチャートを示したものである。
図9】本発明の腫瘍検出及び診断装置に適用される測定部のブロック構成図を示すものである。
図10】本発明に関連して、測定部の動作の一例を示したものである。
図11】本発明の腫瘍検出及び診断装置に適用される保存部ブロック構成図を示すものである。
図12】本発明の腫瘍検出及び診断装置に適用される出力部のブロック構成図を示すものである。
図13】本発明に関連して、出力部の動作の一例を示したものである。
【発明を実施するための形態】
【0051】
以下、図面を参照にし、本発明の好適な一実施形態について説明する。また、以下に説明する実施形態は、特許請求の範囲に記載された本発明の内容を不当に限定するものでなく、本実施形態で説明される構成全体が、本発明の解決手段として必須であるとはいえない。
【0052】
以下、本発明の好ましい実施形態による医用画像を用いて腫瘍を検出し、検出された腫瘍の形態と特性を診断する装置及び方法を添付された図面を参照にして、詳細に説明する。
【0053】
転移性脳腫瘍(Brain metastasis)
本発明は、様々な腫瘍(tumor)を検出し、検出された腫瘍の形態と特性を診断する目的で用いられることができる。
【0054】
例えば、本発明が適用されることができる腫瘍は、脳腫瘍、転移性脳腫瘍、肺癌、乳癌、肝臓癌、大腸癌、前立腺癌、子宮頸癌、及び膵臓癌などを含むことができる。
【0055】
また、本発明は、腫瘍領域に加えて、肺石灰化(Lung calcification)領域、脳白質高信号域(White-matter hyperintensity)を検出し、その領域の特性を診断する用途にも活用することができる。
【0056】
以下では、本発明が目的とする代表的な腫瘍である転移性脳腫瘍(Brain metastasis)をもとに、本発明の内容を説明する。
【0057】
ただし、本発明の内容が転移性脳腫瘍に制限されるものではなく、前述したように脳腫瘍、肺癌、乳癌、肝臓癌、大腸癌、前立腺癌、子宮頸癌、及び膵臓癌、肺石灰化(Lung calcification)領域、脳白質高信号域(White-matter hyperintensity)などを検出し、診断することに用いられることができる。
【0058】
転移性脳腫瘍は、頭蓋腔外部の源発癌が頭蓋腔内に転移して発生するものであり、成人の脳内悪性腫瘍の中で最も多い。脳は、肺癌、乳癌などのような全身癌において、比較的よくある転移部位であって、全身癌患者全体の約20~30%が脳転移を経験すると推定される(Gavrilovic IT、Posner JB.J Neurooncol 2005;75(1):5-14)。
【0059】
韓国でも全体の癌患者数と脳悪性新生物の患者数が増加しており、転移性脳腫瘍の発生頻度が着実に増加しているものと推定される。
【0060】
転移性脳腫瘍がある場合、そうでない場合に比べて全体の生存期間(OS、overall survival)が低い。
【0061】
転移性脳腫瘍の原発病巣のうち全体の50%以上を占める肺癌の場合、術前のスクリーニング検査で脳MRIを行い、脳転移の有無を確認し、適切な治療を進めた患者が、そうでない患者に比べて生存率が有意に高いという研究結果がある。
【0062】
また、近来、抗がん剤治療、放射線療法、及びガンマナイフ治療など、複合的で積極的な治療によって転移性脳腫瘍患者の生存率を増加させることができると報告されている。
【0063】
したがって、癌患者から脳転移の有無を早期に発見することは、患者の予後向上に非常に重要である。
【0064】
転移性脳腫瘍診断の基本的検査は、脳MRIであり、MRIはコンピュータ断層撮影(CT)に比べて軟部組織コントラストに優れ、頭蓋骨による人工物が少なく、造影増強効果がよく現れるなど、数々の利点を有しており、転移性脳腫瘍の診断に非常に重要である。
【0065】
MRI上では転移癌の結節だけでなく、正常な血管も一緒に造影増強を示すため、転移性脳小結節と正常な血管をうまく区別する必要がある。
【0066】
これを区別するためには、造影増強を示す病変が球状または不規則な形を示すのか、或いは血管のような円筒状を示すのかを細密に見極めなければならないが、高解像度の画像を利用しても両者の区別が容易でないことがある。
【0067】
また、高解像度MRIの場合、検査ごとに得られる画像切片の数が大幅に増加され、これをいちいち正確に解析することは、これらの画像を読み取る画像医学科の医師にとって大きな負担として働く。
【0068】
すべての画像検査は、潜在的に読み取りエラーが発生する危険性を持っている。特に、医療技術が発展するにつれてより正確な画像診断が必要とされるのに対し、画像検査件数は、爆発的に増加し、高解像度の画像を読み取るのにかかる時間はさらに長くなり、画像診断科の医師の負担も大幅に上昇している。したがって、読み取りエラーの危険性を低減させるための安全装置作りが必要な状況である。
【0069】
したがって、本発明では、前記のような問題点を解消するために、画像処理及び人工知能技術を活用し、脳医用画像からの脳転移結節を自動に検出し、分割し、解析し、診断する装置及び方法を提案するものである。
【0070】
医用画像による腫瘍検出及び診断装置
本発明の目的は、前記のような問題点を解決するためのものであって、医用画像を用いて腫瘍を検出し、検出された腫瘍の形態と特性を診断する装置及び方法を使用者に提供するものである。
【0071】
具体的に本発明は、医用画像及び患者情報に基づいて人工知能(AI)を結びつけ、腫瘍を検出した後、検出された腫瘍の形態と特性を診断し、予後予測に対する情報を提供することにより、医療関係者が患者を診断し、治療計画を樹立する段階に適切な情報を提供する装置及び方法を使用者に提供するものである。
【0072】
本発明は、腫瘍検出の自動化を目指しており、その過程でT1-MRIのみを用いて画像取得の難易度を下げ、空間情報を全部使用することができる3D deep neural networkを使用するものである。
【0073】
本発明のように、3D医用画像内の病変検出及び診断システムを適用する場合、脳腫瘍、転移性脳腫瘍、肺癌、乳癌、肝臓癌、大腸癌、前立腺癌、子宮頸癌、膵臓癌などの病変に適用可能であり、肺石灰化(Lung calcification)に適用することができ、脳白質高信号域(White-matter hyperintensity )にも適用することができる。
【0074】
特に、本発明は、脳腫瘍/転移癌検出の自動化を目指し、転移性脳腫瘍(Brain metastasis)のトラッカー(tracker)として、lesion数、大きさ及びその他の情報を数値化した後、患者の年齢、状態及び発症時期などの情報と組み合わせ、予後を予測してリスクと治療の優先順位などの情報を医療関係者に提供することを目的とする。
【0075】
さらに、本発明は、病変(lesion)の形態自体を予測して、患者本人と医療関係者が事前に対応できるように支援することを目的とする。
【0076】
また、本発明は、医療関係者との相互作用のために、診断結果が出るとすぐに医療関係者のデータと連動した後、病変(lesion)の位置や特性に合った主治医または医療関係者に提案したり、当該医療関係者にリクエストを送信し、より専門的な所見と治療が得られるようにすることを目的とする。
【0077】
また、本発明は、履歴に応じた治療を提案することに関連して、医療関係者とのデータの連動を通じて病変(lesion)の位置や特性に合った治療提案を提供(history提供)し、使用過程で持続的にフィードバックを行い、長く使えば使うほどより適した提案が可能であることを目的とする。
【0078】
図1は、本発明に関連して、腫瘍検出及び診断装置のブロック構成図を示すものである。
【0079】
本発明の好ましい実施形態による腫瘍検出及び診断装置1は、図1に示すように、入力部10、前処理部20、解析部30、測定部40、保存部50、出力部60を含むことができる。
【0080】
まず、入力部10は、患者に関連する医用画像を取得することができる。
【0081】
具体的には、入力部10は、DICOMまたはNIFTIの情報を有するHead&Neck単一MRI医用画像を取得することができる。
【0082】
また、入力部10は、患者に関連する身体情報を取得することができ、これらの身体情報は、性別、年齢、情報取得時間などを含むことができる。
【0083】
次に、前処理部20は、腫瘍(tumor)領域が観察できるように、前記取得した医用画像を前処理する機能を提供する。
【0084】
代表的に、前処理部20は、画像方向整列、画像内信号偏向訂正(画像内の不均一性を訂正)及び脳外領域の削除(脳抽出)機能を提供することができる。
【0085】
また、解析部30は、深層ニューラルネットワークによるディープラーニング手法を適用し、前記前処理された画像を複数の領域に分割する機能を提供する。
【0086】
代表的に解析部30は、画像リサンプリング、画像の正規化、画像の大きさ調整、ディープラーニングベースの画像分割機能を提供することができる。
【0087】
また、測定部40は、前記分割された複数の領域に対してクラスタリング(clustering)を実行することにより、グループ化(grouping)する機能を提供する。
【0088】
また、測定部40は、グループ化された領域それぞれのグループ別の特徴値を抽出し、前記抽出されたグループ別の特徴値に基づいて、前記腫瘍に関連する診断情報を導き出すことになる。
【0089】
代表的に、測定部40は、分割領域グループ化、各グループ別の特徴値を測定し、定量化し、予後予測情報を計算する機能を提供することができる。
【0090】
また、出力部は、前記グループ化された領域及び前記グループ別の特徴値を出力することができる。
【0091】
また、保存部50は、測定部40のグループ化作業で得られた行列情報を、前記入力部10が取得した元の医用画像の空間(space)にマッチングされるように逆処理した後、保存することができる。
【0092】
また、保存部50は、グループ化された領域及びグループ別の特徴値を保存することもできる。
【0093】
最後に、出力部60は、グループ化された領域及びグループ別の特徴値を出力する機能を提供する。
【0094】
図2は、本発明に関連して、医用画像による腫瘍検出及び診断方法を説明するフローチャートである。
【0095】
図2を参照すると、入力部10は、患者に関連する医用画像を取得する段階(S1)を実行する。
【0096】
ここで入力部10は、前記患者の身体情報を追加で取得することができ、その後、測定部40は、グループ別の特徴値及び前記身体情報を共に用いて前記診断情報を導き出すことができる。
【0097】
また、前処理部20は、腫瘍(tumor)領域が観察できるように、前記取得した医用画像を前処理する過程(S2)を実行する。
【0098】
ここで前処理部20は、取得した医用画像の方向を整列し、取得した医用画像内の均一性のため、前記画像内の信号偏向を訂正し、ターゲット(target)である前記腫瘍領域以外の前記取得した医用画像内の領域を除去することができる。
【0099】
それから、解析部30は、深層ニューラルネットワークによるディープラーニング手法を適用し、前記前処理された画像を複数の領域に分割する過程(S3)を実行する。
【0100】
ここでの解析部30は、解像度を補正するために、ボクセル解像度(voxel-resolution)を基準に、前記前処理された画像をリサンプリング(resampling)し、前記リサンプリングされた画像を正規化(normalization)し、前記深層ニューラルネットワークによるディープラーニング手法を適用するために、前記正規化された画像の大きさを調整し、前記深層ニューラルネットワークの入力と同じ大きさで出力されるように、前記大きさが調整された画像を複数の領域に分割することができる。
【0101】
また、深層ニューラルネットワークに入力される画像と前記分割された複数の領域に関連する画像は、3次元画像であることができる。
【0102】
この時、保存部50は、分割された結果を保存することができ(S4)、出力部60は、分割された結果を表示することもできる(S5)。
【0103】
また、測定部40は、前記分割された複数の領域に対してクラスタリング(clustering)を実行することにより、グループ化(grouping)し、グループ化された領域それぞれグループ別の特徴値を抽出し、前記抽出されたグループ別の特徴値をもとに、前記腫瘍に関連する診断情報を導き出すことができる(S6)。
【0104】
この時、測定部40は、前記腫瘍をボクセルレベル(voxel level)からオブジェクトレベル(object level)で処理するために、前記クラスタリングを実行することができる。
【0105】
また、測定部40は、前記抽出されたグループ別の特徴値を定量化し、診断情報は、前記腫瘍の位置(location)、領域(region)、直径(diameter)、及びボリューム(volume)情報を含めることができる。
【0106】
また、測定部40は、臨床的指標(Clinical parameter)及び前記オブジェクトレベル情報を組み合わせて、前記腫瘍に関連する予後を予測することもできる。
【0107】
その後、保存部50は、前記グループ化された領域及び前記グループ別の特徴値を保存する過程(S7)を実行することができる。
【0108】
この時、保存部50は、測定部のグループ化作業で得られた行列情報を、前記入力部が取得した元の医用画像の空間(space)にマッチングされるように逆処理した後、保存することもできる。
【0109】
また、出力部60は、グループ化された領域及び前記グループ別の特徴値を出力することができる(S8)。
【0110】
前述したように、本発明が適用される腫瘍は、脳腫瘍、転移性脳腫瘍、肺癌、乳癌、肝臓癌、大腸癌、前立腺癌、子宮頸癌、及び膵臓癌を含むことができる。
【0111】
また、前処理部20は、腫瘍領域に加えて、肺石灰化(Lung calcification)領域及び脳白質高信号域(White-matter hyperintensity)のうち少なくとも一つの観察が可能なように、取得した医用画像を前処理することも可能である。
【0112】
以下では、各構成要素の役割と機能について図面を参照にして、具体的に説明する。
【0113】
入力部の構成及び動作
図3は、本発明の腫瘍検出及び診断装置に適用される入力部のブロック構成図を示すものである。
【0114】
本発明に係る入力部10は、患者に関連する医用画像を取得することができる。
【0115】
ここで入力部10は、Head&Neck単一MRI画像に対応するDICOM情報を取得するDICOM画像部11、NIFTI情報を取得するNIFTI画像部12を含むことができる。
【0116】
また、入力部10は、身体情報を追加で取得する患者の身体情報入力部13をさらに含むことができ、ここで身体情報は、患者の基本的な情報として、性別、年齢、情報取得時間などを含むことができる。
【0117】
前処理部の構成及び動作
図4は、本発明の腫瘍検出及び診断装置に適用される前処理部のブロック構成図を示すものである。
【0118】
図4を参照すると、前処理部20は、RPI orientation alignを通じた画像方向整列部21、画像内の不均一性を訂正するための画像内信号偏向訂正部22及び腫瘍が存在する脳抽出のための、脳外領域除去23を含むことができる。
【0119】
ここで、信号偏向訂正部22は、Non-uniformity correctionなどを適用し、ノイズ領域除去23は、Skull-strippingなどを適用することができる。
【0120】
一方、図5は、本発明に関連して、前処理部の動作の一例を示したものである。
【0121】
図5の(a)は、入力部10を介して取得したDICOM医療情報であり、図5の(b)は、前処理部20によって画像方向整列、画像内信号偏向訂正及び脳領域抽出が適用された結果物を示したものである。
【0122】
また、前処理部20は、腫瘍領域に加えて、肺石灰化(Lung calcification)領域及び脳白質高信号域(White-matter hyperintensity)のうち少なくとも一つの観察が可能なように、取得した医用画像を前処理することも可能である。
【0123】
解析部の構成及び動作
図6は、本発明の腫瘍検出及び診断装置に適用される画像解析部のブロック構成図を示したものであり、図7は、本発明に関連して、画像解析部の動作の一例を示したものである。
【0124】
図6を参照すると、解析部30は、深層ニューラルネットワークによるディープラーニング手法を適用し、前記前処理された画像を複数の領域に分割する過程(S3)を実行する。
【0125】
ここで解析部30は、解像度を補正するために、ボクセル解像度(voxel-resolution)を基準に、前記前処理された画像をリサンプリング(resampling)する画像リサンプリング部31であり、前記リサンプリングされた画像を正規化(normalization)する画像正規化部32、前記深層ニューラルネットワークによるディープラーニング手法を適用するために、前記正規化された画像の大きさを調整する画像大きさ調整部33及び深層ニューラルネットワークの入力と同じ大きさで出力されるように、前記大きさが調整された画像を複数の領域に分割する画像分割部34を含むことができる。
【0126】
この時、本発明の深層ニューラルネットワークに入力される画像と前記分割された複数の領域に関連する画像は、3次元画像であることができる。
【0127】
図7の(a)は、解析部30を経る前に前処理部20によって前処理された画像の一例を示したものであり、(b)は、解析部30を経て、複数の領域に分割された結果物が示されている。
【0128】
具体的には、画像リサンプリング部31は、画像ごとに異なる解像度を補正するために、voxel-resolutionを基準にresamplingを実行し、0.5mm x 0.5mm x 0.5mmが適用されることができる。
【0129】
ただし、前記0.5mm x 0.5mm x 0.5mmの内容は、本発明が適用されるための単純な一例に過ぎず、他の条件の複数のボクセル解像度が適用され得ることは自明である。
【0130】
また、画像の正規化部32は、代表的な一例として、(m、σ)=(0、1)で正規化を行って、最大値6でintensity clipを適用することができる。
【0131】
同様に、最大値を6として適用したのは、本発明の適用例であり、他の最大値を適用することも可能である。
【0132】
また、画像の大きさ調整部33は、その後に行われる深層ニューラルネットワーク解析に対応して画像の大きさを変更し、Array sizeは176 x 176 x 176になることができる。
【0133】
また、画像分割部34は、深層ニューラルネットワークによるtarget領域segmentationを行い、深層ニューラルネットワークの入力と同じ大きさで出力されるようにし、代表的に176 x 176 x 176が適用されることができる。
同様に176 x 176 x 176として適用したのは、本発明の適用例であって、他の大きさを適用することも可能である。
【0134】
ここで、DSC(Depth-wise separable convolution)ブロック(block)、スキップ接続(Skip-connections)、ASPP(Atrous spatial pyramid pooling)ブロック(block)、アップ・アンド・ダウンサンプリング(Up-and down-sampling)などが活用可能である。
【0135】
Depth-wise separable convolutionは、深さ志向の分離可能な畳み込みを意味し、Atrous spatial pyramid poolingは、アトラス空間ピラミッド統合を意味する。
【0136】
これらの画像分割部34の具体的な動作に関連して、図8は、フローチャートを示したものである。
【0137】
図8を参照すると、まず、深層ニューラルネットワークに入力される画像と前記分割された複数の領域に関連する画像は、3次元画像であることができる。
【0138】
2Dモデルを適用する場合、結果として出たsliceを組み合わせて3D画像に再構成した際にslice間のdisconnectionが発生し、Global locationを考慮するのが難しいという問題点がある。
【0139】
したがって、本発明では、3Dモデルを適用して、Slice間のdisconnectionをなくし、全体的な位置も考慮することができる。
【0140】
さらに、転移性脳腫瘍(Brain metastasis)は、大抵円形ではなく球状をしているので、3Dモデルでより合理的な判断をすることができるという長所がある。
【0141】
図8を参照すると、深層ニューラルネットワークで3次元画像が入力(S10)され、1次元畳み込み(S11)を経て、3回のDSC(Depth-wise separable convolution)ブロック(block)が適用された演算(S12、S13 、S14)が行われる。
【0142】
この時、DSC(Depth-wise separable convolution)ブロック(block)演算の途中、スキップ接続(Skip-connections)が実行されることができる(S23、S24)。
【0143】
S14段階の後、ASPP(Atrous spatial pyramid pooling)ブロック(block)を適用した演算が適用され、それ以降、3回の畳み込み(S17、S18、S19)を経て、3次元の分割された複数の領域に関連画像が出力される(S20)。
【0144】
この時、スキップした2回の接続の結果(S23、S24)が2回の畳み込みの結果(S17、S18)と結合され、それぞれの次の畳み込み(S18、S19)で入力値として用いられる。
【0145】
特に、最後の畳み込み(S19)は、次のように、最終的な確率値を得るために用いられる。
0 = normal/background
1 = BM
ここで、DSC(Depth-wise separable convolution)ブロック(block)は、演算順序及び方法のうち少なくとも一つを変化させることで、変数、及び計算量を減らす目的で用いられる。
【0146】
DSCは、一般的なconvの演算順序と方式に変更を与え、演算情報は、従来の方法と同様に維持しながら、変数と計算量を大幅に減らすconv moduleとして、いくつかの段階にわたるDSCをモデル内に適用する場合、効率的に様々なFOVに対応することができるようになり、brain metastasisのようにいくつかの大きさを有する対象をより適切に検出することができる。
【0147】
特に、資源要求量が高い3DモデルにDSCを使用すると、モデルを効果的に軽量化することができるようになり、さまざまな大きさのBMをbetween-slice disconnection(スライス間途切れ)なしに検出することができる。
【0148】
また、前記DSCブロックを適用する場合、深層ニューラルネットワークによるディープラーニング手法は、深層ニューラルネットワークに入力される画像内の情報消失を防ぐために、スキップ接続(Skip-connections)を適用することができる。
【0149】
スキップ接続(Skip-connections)を適用する場合、結果的に、詳細な要素をさらに多く維持することができ、モデルがsegmentation(分割)作業をより効率的に行うことができるようになる。
【0150】
また、畳み込みフィルタ(convolution filter)を拡張し、同じ数のパラメータでより広いFOV(Field of View)演算を実行するための膨張畳み込み(Atrous convolution)を複数の段階に亘ってマルチスケールプーリング(multi-scale pooling)するASPP(Atrous spatial pyramid pooling)ブロック(block)が利用される。
【0151】
ASPPブロックは、local特性からglobal特性まで考慮した出力が得られる長所があり、これは形態が類似しているが、様々な大きさを有するbrain metastasisが検出された際に効果的にすることができる。
【0152】
また、複数のスケール(scale)に基づいて導き出された複数の特徴(feature)を得るために、アップ・アンド・ダウンサンプリング(Up-and down-sampling)を用いることができる。
【0153】
測定部の構成と動作
図9は、本発明の腫瘍検出及び診断装置に適用される測定部のブロック構成図を示すものであり、図10は、本発明に関連して、測定部の動作の一例を示したものである。
【0154】
図9を参照すると、測定部40は、前記分割された複数の領域に対してクラスタリング(clustering)を実行することにより、グループ化(grouping)するグループ化部41、グループ化された領域それぞれのグループ別の特徴値を抽出する抽出部42及び抽出されたグループ別の特徴値に基づいて、前記腫瘍に関連する診断情報を導き出す予後予測情報算出部43を含むことができる。
【0155】
グループ化部41は、腫瘍をボクセルレベル(voxel level)からオブジェクトレベル(object level)で処理するために、前記クラスタリングを実行することができる。
【0156】
抽出部42は、抽出されたグループ別の特徴値を定量化し、診断情報は、前記腫瘍の位置(location)、領域(region)、直径(diameter)、及びボリューム(volume)の情報を含むことができる。
【0157】
予後予測情報算出部43は、臨床的指標(Clinical parameter)と前記オブジェクトレベル情報を組み合わせて、前記腫瘍に関連する予後を予測することもできる。
【0158】
これは、原発性癌の進行率、脳内病変の位置などが予後と関連することができる。
【0159】
図10の(a)は、測定部40を経る前の解析部30を通過した複数の領域に分割された画像の一例を示したものであり、(b)は、測定部40を介して、分割された複数の領域に対してクラスタリング(clustering)を実行することにより、グループ化(grouping)された一例を図示したものであり、(c)は、グループ化された領域それぞれのグループ別の特徴値を抽出し、抽出されたグループ別の特徴値に基づいて前記腫瘍に関連する診断情報が導き出される一例を示したものである。
【0160】
一方、解析部30と測定部40は、MRI DICOMデータオープン及びMPR(Multi Planar Reconstruction)具現技術を適用することができる。
【0161】
すなわち、ITKを用いてMRI DICOM seriesのheader及び画像情報を読み込み、3D volumeで再構成し、再構成された3D VolumeデータをVTKにポーティングし、VTKライブラリを介して3D VolumeをAxial、Coronal、Sagittal planeの2D画像からなるMPRに変換し、画面に可視化することができる。
【0162】
また、解析部30及び測定部40は、転移性脳結節候補群の検出技術が適用されることができる。
【0163】
具体的には、3次元テンプレートマッチング(template matching)とK-meansクラスタリングアルゴリズムを通じて転移性脳結節の候補群を検出することができる。
【0164】
転移性脳結節は、一般的に球の形態をしているため、様々な大きさで作成された球状のテンプレートを介して球状の転移性脳結節を検出し、大きさの大きい結節は、K-meansクラスタリングによって分割された領域を対象に形状と画素値をベースに候補群を検出することができる。
【0165】
また、解析部30と測定部40は、マシンラーニング(ANN)による候補群判別モデルが適用されることができる。
【0166】
具体的には、検出された結節候補群を対象にヒストグラム、形状、テクスチャベースの272個の特性値を抽出し、統計的手法により30個の属性値を選択することができる。
【0167】
また、マシンラーニング手法のうち、人工ニューラルネットワーク(artificial neural network、ANN)によるモデルを選択した30個の属性値を介して学習することができる。
【0168】
その後、学習したANNモデルを通じて既存に検出された結節候補群を対象に、結節であるかどうかを判別することにより、転移性脳結節を最終的に検出することができる。
【0169】
また、解析部30と測定部40は、ディップランニングモデルを用いた腫瘍検出を行うことができる。
【0170】
具体的には、FCアプリケーションS/W間の連動、ウィンドウ環境でディープラーニングモデルを用いるための環境設定方法、Pythonの環境で学習されたディープラーニングモデルを、Windows環境で実行されるアプリケーションS/Wで使用するための連動方法、アプリケーションS/Wでのディープラーニングモデルの呼び出し方法及びディープランニング結果をアプリケーションS/Wで処理するための連動方法、MRI画像で3D VOIを介してannotationされた結節をベースに結節の位置を検出し、結節の外郭を分割するCNNモデル、学習されたディープラーニングモデルのハイパーパラメータと学習/実行環境に必要なプログラム及び設定などに対するセッティングなどが適用されることができる。
【0171】
保存部及び出力部の構成及び動作
図11は、本発明の腫瘍検出及び診断装置に適用される保存部のブロック構成図を示すものである。
【0172】
図11を参照すると、保存部50は、前記グループ化された領域及び前記グループ別の特徴値を保存することができる。
【0173】
具体的には保存部50は、画像の大きさ調整部51、画像リサンプリング部52、画像ファイル保存部53、グループ別情報保存部54、その他の情報保存部55を含むことができる。
【0174】
保存部50は、測定部のグループ化作業を通じて得られた行列情報を、前記入力部が取得した元の医用画像の空間(space)にマッチングされるように逆処理した後、保存することもできる。
【0175】
また、図12は、本発明の腫瘍検出及び診断装置に適用される出力部のブロック構成図を示すものである。
【0176】
図12を参照すると、出力部60は、グループ化された領域及び前記グループ別の特徴値を出力することができる。
【0177】
具体的には検出領域出力部61、グループ別の特徴値出力部62及びグループ別予後予測情報出力部63を含むことができる。
【0178】
図13は、本発明に関連して、出力部の動作の一例を示したものである。
【0179】
図13の(a)は、検出された領域の可視化の一例を示したものであり、(b)は、領域グループ別の特徴値、領域グループ別予後予測情報出力の一例を示したものである。
【0180】
前述したように、本発明が適用される腫瘍は、脳腫瘍、転移性脳腫瘍、肺癌、乳癌、肝臓癌、大腸癌、前立腺癌、子宮頸癌、及び膵臓癌を含むことができる。
【0181】
また、腫瘍領域に加えて、肺石灰化(Lung calcification)領域及び脳白質高信号域(White-matter hyperintensity)に対する検出及び診断も可能である。
【0182】
本発明による効果
本発明によれば、医用画像を用いて腫瘍を検出し、検出された腫瘍の形態と特性を診断する装置及び方法を使用者に提供することができる。
【0183】
具体的には、本発明は、医用画像及び患者情報に基づいて人工知能(AI)を結びつけ、腫瘍を検出した後、検出された腫瘍の形態と特性を診断し、予後予測に対する情報を提供することにより、医療関係者が患者を診断し、治療計画を樹立する段階に適切な情報を提供する装置及び方法を使用者に提供することができる。
【0184】
また、本発明は、腫瘍検出の自動化を目指して、その過程でT1-MRIのみを用いて画像取得の難易度を下げ、空間情報の全部を使用することができる3D deep neural networkを用いられることができる。
【0185】
また、本発明のように、3D医用画像内の病変検出及び診断システムを適用した場合、脳腫瘍、転移性脳腫瘍、肺癌、乳癌、肝臓癌、大腸癌、前立腺癌、子宮頸癌、膵臓癌などの病変に適用可能であり、肺石灰化(Lung calcification)に適用することができ、脳白質高信号域(White-matter hyperintensity )にも適用することができる。
【0186】
特に、本発明は、脳腫瘍/転移癌検出の自動化を目指して、転移性脳腫瘍(Brain metastasis)のトラッカー(tracker)として、lesion数、大きさ及びその他の情報を数値化した後、患者の年齢、状態及び発症時期などの情報と組み合わせて予後を予測し、リスクと治療の優先順位などの情報を医療関係者に提供することができる。
【0187】
さらに、本発明は、病変(lesion)の形態自体を予測し、患者本人と医療関係者が事前に対応することができるように支援することができる。
【0188】
また、本発明は、医療関係者との相互作用のために、診断結果が出るとすぐに医療関係者のデータと連動した後、病変(lesion)の位置や特性に合った主治医または医療関係者を提案したり、当該医療関係者に要求を送信し、より専門的な所見と治療が得られるようにすることができる。
【0189】
また、本発明は、履歴に応じた治療を提案することに関連して、医療関係者とのデータの連動を通じてlesionの位置や特性に合った治療提案を提供(history提供)し、使用過程で持続的にフィードバックを行って、長く使えば使うほどより適切な提案が可能である。
【0190】
一方、本発明で得られる効果は、以上で言及した効果に限定されず、言及していないもう一つの効果は以下の記載から、本発明が属する技術分野における通常の知識を有する者に明確に理解されるであろう。
【0191】
上述した本発明の実施形態は、あらゆる手段を通じて具現されることができる。例えば、本発明の実施形態は、ハードウェア、ファームウェア(firmware)、ソフトウェアまたはそれらの組み合わせなどによって具現することができる。
【0192】
ハードウェアによる具現の場合、本発明の実施形態に係る方法は、一つまたはそれ以上のASICs(Application Specific Integrated Circuits)、DSPs(Digital Signal Processors)、DSPDs(Digital Signal Processing Devices)、PLDs(Programmable Logic Devices)、FPGAs(Field Programmable Gate Arrays)、プロセッサ、コントローラ、マイクロコントローラ、マイクロプロセッサなどにより具現されることができる。
【0193】
ファームウェアやソフトウェアによる具現の場合、本発明の実施形態に係る方法は、以上で説明した機能又は動作を行うモジュール、手続きまたは関数などの形態で具現されることができる。ソフトウェアコードは、メモリユニットに保存され、プロセッサにより駆動されることができる。前記メモリユニットは、前記プロセッサの内部または外部に位置し、既に公知された多様な手段により、前記プロセッサとデータを送受信することができる。
【0194】
上述したように、開示された本発明の好ましい実施形態に対する詳細な説明は、当業者が本発明を具現して実施することができるように提供された。前記では、本発明の好ましい実施形態を参照にして説明したが、当該技術分野の熟練した当業者は、本発明の範囲から逸脱しない範囲内で、本発明を多様に修正し、変更することができることを理解できるであろう。例えば、当業者は、上述した実施形態に記載された各構成を相互に組み合わせて入力する方式で利用することができる。したがって、本発明は、ここに示された実施形態に制限するものではなく、ここで開示された原理と新規な特徴と一致する最も広い範囲を付与するものである。
【0195】
本発明は、本発明の精神及び必須の特徴を逸脱しない範囲で他の特定の形態で具体化されることができる。したがって、前記の詳細な説明は、あらゆる面で制限的に解釈されてはならず、例示的なものとみなされるべきである。本発明の範囲は、添付された請求項の合理的な解釈によって決定されるべきであり、本発明の等価的範囲内でのすべての変更は、本発明の範囲に含まれる。本発明は、ここに示された実施形態に制限されるものではなく、ここに開示された原理と新規な特徴と一致する最も広い範囲を付与するものである。また、特許請求の範囲で明示的な引用関係でない請求項を組み合わせて実施形態を構成したり、出願後の補正により新たな請求項として含むことができる。
図1
図2
図3
図4
図5
図6
図7
図8
図9
図10
図11
図12
図13
【手続補正書】
【提出日】2021-12-27
【手続補正1】
【補正対象書類名】特許請求の範囲
【補正対象項目名】全文
【補正方法】変更
【補正の内容】
【特許請求の範囲】
【請求項1】
患者に関連する医用画像を取得する入力部と、
腫瘍(tumor)領域の観察が可能なように、前記取得した医用画像を前処理する前処理部と、
深層ニューラルネットワークによるディープラーニング手法を適用し、前記前処理された画像を複数の領域に分割する解析部と、
前記分割された複数の領域に対してクラスタリング(clustering)を行うことにより、グループ化(grouping)する測定部と、を含み、
前記測定部は、
前記グループ化された領域それぞれグループ別の特徴値を抽出し、
前記抽出されたグループ別の特徴値に基づいて、前記腫瘍に関連する診断情報を導き出し、
前記解析部は、
解像度の補正のために、ボクセル解像度(voxel-resolution)を基準に、前記前処理された画像をリサンプリング(resampling)し、
前記リサンプリングされた画像を正規化(normalization)し、
前記深層ニューラルネットワークによるディープラーニング手法の適用のために、前記正規化された画像の大きさを調整し、
前記深層ニューラルネットワークの入力と同じ大きさで出力されるように、前記大きさが調整された画像を複数の領域に分割し、
前記測定部は、
前記腫瘍をボクセルレベル(voxel level)からオブジェクトレベル(object level)で処理するために、前記クラスタリングを実行し、
前記測定部は、
前記抽出されたグループ別の特徴値を定量化し、
前記診断情報は、前記腫瘍の位置(location)、領域(region)、直径(diameter)及びボリューム(volume)情報を含み、
前記入力部は、前記患者の身体情報を追加で取得し、
前記測定部は、前記グループ別の特徴値及び前記身体情報を共に用いて前記の診断情報を導き出し、
前記グループ化された領域及び前記グループ別の特徴値を出力する出力部をさらに含むことを特徴とする医用画像による腫瘍検出及び診断装置。
【請求項2】
前記前処理部は、
前記取得した医用画像方向を整列し、
前記取得した医用画像内の均一性のため、前記画像内の信号偏向を訂正し、
ターゲット(target)である前記腫瘍領域以外の前記取得した医用画像内の領域を除去することを特徴とする、請求項1に記載の医用画像による腫瘍検出及び診断装置。
【請求項3】
前記深層ニューラルネットワークに入力される画像と前記分割された複数の領域に関連する画像は、3次元画像であることを特徴とする、請求項1に記載の医用画像による腫瘍検出及び診断装置。
【請求項4】
前記深層ニューラルネットワークによるディープラーニング手法は、
演算の順序と方式のうち少なくとも一つを変化させることで、変数及び演算量を減らすことができるDSC(Depth-wise separable convolution)ブロック(block)を用いることを特徴とする、請求項1に記載の医用画像による腫瘍検出及び診断装置。
【請求項5】
前記DSCブロックを適用する場合、
前記深層ニューラルネットワークによるディープラーニング手法は、前記深層ニューラルネットワークに入力される画像内の情報消失を防ぐために、スキップ接続(Skip-connections)を適用することを特徴とする、請求項に記載の医用画像による腫瘍検出及び診断装置。
【請求項6】
前記深層ニューラルネットワークによるディープラーニング手法は、
畳み込みフィルタ(convolution filter)を拡張し、同じ数のパラメータでより広いFOV(Field of View)演算を実行するための膨張畳み込み(Atrous convolution)を複数の段階に亘ってマルチスケールプーリング(multi-scale pooling)するASPP(Atrous spatial pyramid pooling)ブロック(block)を用いることを特徴とする、請求項1に記載の医用画像による腫瘍検出及び診断装置。
【請求項7】
前記深層ニューラルネットワークによるディープラーニング手法は、
複数のスケール(scale)に基づいて導き出された複数の特徴(feature)を得るために、アップ・アンド・ダウンサンプリング(Up- and down-sampling)を用いることを特徴とする、請求項1に記載の医用画像による腫瘍検出及び診断装置。
【請求項8】
前記測定部は、
臨床的指標(Clinical parameter)と前記オブジェクトレベル情報を組み合わせて、前記腫瘍に関連する予後を予測することを特徴とする、請求項1に記載の医用画像による腫瘍検出及び診断装置。
【請求項9】
前記測定部のグループ化作業を通じて得られた行列情報を、前記入力部が取得した元の医用画像の空間(space)にマッチングされるように逆処理した後、保存する保存部をさらに含み、
前記保存部は、前記グループ化された領域及び前記グループ別の特徴値を保存することを特徴とする、請求項1に記載の医用画像による腫瘍検出及び診断装置。
【請求項10】
前記腫瘍は、脳腫瘍、転移性脳腫瘍、肺癌、乳癌、肝臓癌、大腸癌、前立腺癌、子宮頸癌、及び膵臓癌を含むことを特徴とする、請求項1に記載の医用画像による腫瘍検出及び診断装置。
【請求項11】
前記前処理部は、
前記腫瘍領域に加えて、肺石灰化(Lung calcification)領域及び脳白質高信号域(White-matter hyperintensity)のうち少なくとも一つ観察が可能なように、前記取得した医用画像を前処理することを特徴とする、請求項1に記載の医用画像による腫瘍検出及び診断装置。