IP Force 特許公報掲載プロジェクト 2022.1.31 β版

知財求人 - 知財ポータルサイト「IP Force」

▶ シーメンス ヘルスケア ゲゼルシヤフト ミツト ベシユレンクテル ハフツングの特許一覧

特表2024-528381医用画像データの自動追跡読影方法及びシステム
(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公表特許公報(A)
(11)【公表番号】
(43)【公表日】2024-07-30
(54)【発明の名称】医用画像データの自動追跡読影方法及びシステム
(51)【国際特許分類】
   A61B 6/46 20240101AFI20240723BHJP
   A61B 6/03 20060101ALI20240723BHJP
   G16H 30/00 20180101ALI20240723BHJP
   A61B 6/00 20240101ALI20240723BHJP
【FI】
A61B6/46 506B
A61B6/03 560T
A61B6/03 560D
A61B6/46 536Q
G16H30/00
A61B6/00 560
A61B6/00 550A
【審査請求】未請求
【予備審査請求】未請求
(21)【出願番号】P 2023574229
(86)(22)【出願日】2022-04-20
(85)【翻訳文提出日】2024-01-31
(86)【国際出願番号】 EP2022060437
(87)【国際公開番号】W WO2023274599
(87)【国際公開日】2023-01-05
(31)【優先権主張番号】21182340.6
(32)【優先日】2021-06-29
(33)【優先権主張国・地域又は機関】EP
(31)【優先権主張番号】21188069.5
(32)【優先日】2021-07-27
(33)【優先権主張国・地域又は機関】EP
(31)【優先権主張番号】21189986.9
(32)【優先日】2021-08-05
(33)【優先権主張国・地域又は機関】EP
(81)【指定国・地域】
【公序良俗違反の表示】
(特許庁注:以下のものは登録商標)
1.PYTHON
(71)【出願人】
【識別番号】516308401
【氏名又は名称】シーメンス ヘルスケア ゲゼルシヤフト ミツト ベシユレンクテル ハフツング
(74)【代理人】
【識別番号】110003317
【氏名又は名称】弁理士法人山口・竹本知的財産事務所
(74)【代理人】
【識別番号】100075166
【弁理士】
【氏名又は名称】山口 巖
(74)【代理人】
【識別番号】100133167
【弁理士】
【氏名又は名称】山本 浩
(74)【代理人】
【識別番号】100169627
【弁理士】
【氏名又は名称】竹本 美奈
(72)【発明者】
【氏名】アレン-ラッフル,シモン
(72)【発明者】
【氏名】エルモシージョ バラデス,ヘラルド
(72)【発明者】
【氏名】品川 嘉久
(72)【発明者】
【氏名】イェレバカン,ハリデ
(72)【発明者】
【氏名】ランガナート,マヘーシュ
(72)【発明者】
【氏名】ルジトスカ,ミヒャエル
【テーマコード(参考)】
4C093
5L099
【Fターム(参考)】
4C093AA07
4C093AA22
4C093AA26
4C093CA15
4C093CA35
4C093FD03
4C093FF18
4C093FF28
4C093FF33
4C093FF35
4C093FF37
4C093FG13
4C093FG16
4C093FG18
4C093FH03
4C093FH08
4C093FH09
5L099AA26
(57)【要約】
医用画像データセットの表示データを生成する方法及びシステムを提供する。この方法及びシステムは、第1の時点の患者の対象医用画像群について、第1の時点とは別の第2の時点で取得された患者の参照医用画像群を同定するように構成される。一例として、選択は、描画された患者の身体領域それぞれの比較に基づいて選択が行われる。また、この方法及びシステムは、対象医用画像群と参照医用画像群との間のレジストレーションに基づいて参照医用画像群のレンダリングをディスプレイデバイスに表示させるために表示データを生成するように構成される。
【特許請求の範囲】
【請求項1】
医用画像データセットの表示データを生成する方法であって、
・第1の時点の患者の対象医用画像群(TMIS)を受信すること(S10)、
・前記対象医用画像群(TMIS)の関心領域(ROI)を取得すること(S20)、
・前記対象医用画像群(TMIS)によって表される対象身体領域(408)を決定すること(S30)、
・前記対象身体領域(408)と複数の候補身体領域(720)との比較に基づいて、複数の候補医用画像検査(CS)から参照医用画像検査(RS)を選択すること(S40)、
前記複数の候補身体領域(720)の各々は、前記複数の候補医用画像検査(CS)の1つに対応し、各前記候補医用画像検査(CS)は、第2の時点の患者の複数の候補医用画像群(CMIS)を含み、
・前記参照医用画像検査(RS)の前記複数の候補医用画像群(CMIS)から、前記対象医用画像群(TMIS)との比較可能性の程度に基づいて、参照医用画像群(RMIS)を選択すること(S50)、
・前記対象医用画像群(TMIS)と前記参照医用画像群(RMIS)とのレジストレーションを実行すること(S60)、
・前記レジストレーションに基づいて、前記参照医用画像群(RMIS)のレンダリングをディスプレイデバイスに表示させるために表示データを生成すること(S70)、
を含む方法。
【請求項2】
・対象医用画像検査(TS)と前記候補医用画像検査(CS)の各々とは、前記対象及び候補医用画像検査(TS,CS)のコンテンツを示すテキストストリングを含んだ属性値(AV)を有する1つ以上の属性(A)にそれぞれ結びついており、
・前記対象身体領域を決定すること(S30)は、
前記対象医用画像検査(TS)の1つ以上の前記テキストストリングを取得すること(BR-1)、
前記取得された1つ以上のテキストストリング(404)を、訓練済み機械学習モデル(406)へ入力すること(BR-2)、
前記訓練済み機械学習モデル(406)は、前記1つ以上のテキストストリング(404)の入力に基づいて身体領域(408)を出力するように訓練されており、
前記訓練済み機械学習モデル(406)から出力を取得することにより、前記対象医用画像検査(TS)によって表される前記身体領域(408)を決定すること、を含み、
及び/又は、
・前記候補体領域(720)の少なくとも1つは、
前記候補医用画像検査(CS)の1つ以上の前記テキストストリング(716)を取得すること(BR-1)、
前記取得された1つ以上のテキストストリング(716)を、訓練済み機械学習モデルへ入力すること(BR-2)、
前記訓練済み機械学習モデルは、前記1つ以上のテキストストリング(716)の入力に基づいて身体領域(720)を出力するように訓練されており、
前記訓練済み機械学習モデルから出力を取得することにより、前記候補医用画像検査(CS)によって表される前記身体領域(720)を決定すること、により決定される、
請求項1に記載の方法。
【請求項3】
・前記訓練済み機械学習モデルは、前記取得された1つ以上のテキストストリングの個々の文字を入力として取り込むように構成された訓練済みキャラクタベースニューラルネットワークからなる訓練済みニューラルネットワークであり、
前記取得された1つ以上のテキストストリングを前記訓練済みニューラルネットワークへ入力することは、前記取得された1つ以上のテキストストリングの個々の文字を前記訓練済みキャラクタベースニューラルネットワークへ入力することを含む、
請求項1又は2に記載の方法。
【請求項4】
・前記対象及び候補画像群(TMIS,CMIS)の各々は、前記対象及び候補画像群(TMIS,CMIS)のそれぞれをキャプチャするために使用された撮像パラメータを示す属性値(AV)を有する1つ以上の属性(A)と結びついており、
・前記比較可能性の程度は、前記対象医用画像群(TMIS)と前記複数の候補医用画像群(CMIS)のそれぞれとの間の1つ以上の属性値(AV)の合致を決定することに基づく、
請求項1~3のいずれか1項に記載の方法。
【請求項5】
・前記比較可能性の程度を決定することは、
前記対象医用画像群(TMIS)について、第1の特徴ベクトル(FV)を取得すること(BR-5)、
前記参照医用画像検査(RS)に含まれた前記候補医用画像群(CMIS)の各々について、第2の特徴ベクトル(SV)を取得すること(BR-6)、
前記第1の特徴ベクトル(FV)と前記候補医用画像群(CMIS)の前記第2の特徴ベクトル(SV)のそれぞれとの間の前記比較可能性の程度を示す比較可能性メトリックを決定すること(BR-7)、を含む、
請求項1~4のいずれか1項に記載の方法。
【請求項6】
・前記第1及び第2の特徴ベクトル(FV,SV)は、前記対象及び候補医用画像群(TMIS,CMIS)の撮像モダリティの指標を含み、
・前記比較可能性メトリックは、前記対象医用画像群(TMIS)の前記撮像モダリティと前記候補医用画像群(CMIS)それぞれの前記撮像モダリティとの間の撮像モダリティ関連性スコアを含む、
請求項5に記載の方法。
【請求項7】
・前記参照医用画像群(RMIS)は、参照画像ボリュームを描画し、
本方法は、前記参照画像ボリュームの特定のセクションをそれぞれが描画する複数の候補スライス(S-2)を取得すること、をさらに含み、
・前記レジストレーションを実行すること(S60)は、前記複数の候補スライスから、前記関心領域(ROI)に含まれた画像データと個々の前記候補スライスとの間の類似度に基づいて、少なくとも1つの参照スライス(REF-SLC)を同定すること(SLS-60)を含み、
・前記表示データを生成すること(S70)は、前記参照スライス(REF-SLC)のレンダリングを前記ディスプレイデバイスに表示させるために表示データを生成すること、を含む、
請求項1~6のいずれか1項に記載の方法。
【請求項8】
・前記対象医用画像群(TMIS)から少なくとも画像記述子(D-1)を抽出すること(SLS-33)、
・前記複数の候補スライス(S-2)の各々から合致画像記述子(D-2)を抽出すること(SLS-34)、
をさらに含み、
・前記類似度は、前記対象医用画像群(TMIS)の前記抽出された画像記述子(D-1)と前記候補スライス(S-2)の前記合致画像記述子(D-2)との間の比較にそれぞれ基づく、
請求項7に記載の方法。
【請求項9】
・前記少なくとも1つの参照スライス(REF-SLC)を同定すること(SLS-60)は、前記対象及び参照医用画像群(TMIS,RMIS)に訓練済み関数(TF)を適用すること、を含み、
・前記訓練済み関数(TF)は、二次元医用画像の間の類似度を決定するように構成され、
・選択的に、前記訓練済み関数(TF)は、前記二次元医用画像の間の類似度を決定するために学習済みメトリックを適用し、該訓練済み関数は、選択的に、ディープメトリック学習済みネットワークからなる、
請求項7又は8に記載の方法。
【請求項10】
・前記レジストレーションを実行すること(S60)は、
前記関心領域(ROI)の画像データに基づいて、第1の局所画像記述子を生成すること(PM-10)、
前記参照医用画像群(RMIS)における複数の候補位置(PM-334,PM-340,PM-440,PM-448)の各々に関し第2の局所画像記述子を生成すること(PM-20)、
各前記候補位置(PM-334,PM-340,PM-440,PM-448)は、前記前記候補位置(PM-334,PM-340,PM-440,PM-448)のそれぞれに関連して位置する前記参照医用画像群(RMIS)の画像データに基づいて生成され、
前記複数の候補位置(PM-334,PM-340,PM-440,PM-448)の各々について、前記第1の局所画像記述子と前記候補位置(PM-334,PM-340,PM-440,PM-448)の前記第2の局所画像記述子との間の類似度を示す局所画像類似性メトリックを計算すること(PM-30)、
前記計算された局所画像類似性メトリックに基づいて、前記複数の候補位置(PM-334,PM-340,PM-440,PM-448)の中から候補位置(PM-334,PM-448)を選択すること(PM-40)、
前記選択された候補位置に基づいて、前記参照医用画像群(RMIS)の前記関心領域に合致する位置を決定すること(PM-50)、を含み、
・前記表示データを生成すること(S70)において、前記レンダリングは、前記選択された候補位置(PM-334,PM-448)のセットに関連する前記参照医用画像群(RMIS)の画像データに基づいて、生成される、
請求項1~9のいずれか1項に記載の方法。
【請求項11】
・前記参照医用画像検査(RS)として前記候補医用画像検査(CS)の少なくとも1つを選択すること(S40)は、
前記候補医用画像検査(CS)から、前記身体領域(408,720)の比較に基づいて、複数の関連医用画像検査を同定すること(S43)、
ユーザインターフェース(10)を介してユーザに前記複数の関連医用画像検査の指標を提供すること(S44)、
前記ユーザインターフェース(10)を介して、前記関連医用画像検査の少なくとも1つを示すユーザ選択を受信すること(S45)、
前記参照医用画像検査(RS)として、前記少なくとも1つ示された関連医用画像検査を選択すること(S46)、を含む、
請求項1~10のいずれか1項に記載の方法。
【請求項12】
・前記複数の関連医用画像検査を同定すること(S43)は、前記関連医用画像検査の各々について、前記身体領域(408,720)それぞれの比較に基づいて、前記対象医用画像検査(TS)との適合度を決定すること(S42)を含み、
・前記複数の関連医用画像検査の指標を提供することは、前記ユーザインターフェース(10)を介してユーザに前記適合度を提供すること(S44)を含み、
・前記適合度は、選択的に、前記対象及び候補身体領域の比較(408,720)に基づいた、前記医用画像検査それぞれの間の解剖学的オーバーラップに基づく、
請求項11に記載の方法。
【請求項13】
・前記参照医用画像検査(RS)は、前記参照医用画像群(RMIS)に対応する1つ以上の注釈(RM-322~RM-330)を含み、
・前記1つ以上の注釈(RM-322~RM-330)から、前記対象医用画像群(TMIS)及び/又は前記関心領域(ROI)に関連する参照注釈を少なくとも得ること(RM-10)、
・前記対象医用画像群(TMIS)及び/又は前記関心領域(ROI)に前記参照注釈で注釈をつけること(RM-20)、
を含み、
・前記参照注釈は、選択的に、1つ以上の第1の単語(A,B,C,D)を含む、
請求項1~12のいずれか1項に記載の方法。
【請求項14】
・前記参照医用画像検査(RS)に結びついた医療報告(RM-504)を取得すること、
・前記医療報告(RM-504)のテキストの1つ以上のセクション(F1~F3)を取得すること、該セクション(F1~F3)は、1つ以上の第2の単語からなり、
・前記1つ以上のセクション(F1~F3)の各々について及び前記参照注釈(A,B,C,D)の各々について、前記1つ以上の第2の単語と前記参照注釈の前記1つ以上の第1の単語とを比較して一致を認定すること、
・前記認定された一致に基づいて、前記参照注釈(A,B,C,D)の少なくとも1つを前記第1のセクション(F1~F3)の少なくとも1つと結びつけること、
をさらに含む、
請求項13に記載の方法。
【請求項15】
・前記表示データを提供するユーザを認識すること(S11)、
・前記ユーザの1つ以上の先行アクションを取得すること(S12)、
前記先行アクションは、複数の候補医用画像検査から参照医用画像検査を選択する検査選択アクション、医用画像検査の複数の候補医用画像群から参照医用画像群を選択する群選択アクション、の少なくとも1つを対象とする、
をさらに含み、
・前記参照医用画像データファイルを選択すること(S40)及び/又は前記参照医用画像データセットを選択すること(S50)は、前記1つ以上の先行アクションに基づく、
請求項1~14のいずれか1項に記載の方法。
【請求項16】
第1の時点で取得された患者の対象医用画像群(TMIS)の評価を支援するシステム(1)であって、
・インターフェースユニット(10)とコンピューティングユニット(30)とを含み、
・前記インターフェースユニット(10)は、
前記対象医用画像群(TMIS)のレンダリングをユーザに提供し、
前記レンダリングに基づいた前記対象医用画像群(TMIS)の関心領域(ROI)の指定を意図した前記ユーザからのユーザ入力を受信する、ように構成され、
・前記コンピューティングユニット(30)は、
前記ユーザ入力に基づいて前記関心領域(ROI)を取得し(S20)、
前記対象医用画像群(TMIS)により表される対象身体領域(408)を決定し(S30)、
複数の候補医用画像検査(CS)から、前記候補身体領域(408)と複数の候補身体領域(720)との比較に基づいて、参照医用画像検査(S40)を選択し(S40)、
前記複数の候補身体領域(720)の各々は、前記複数の候補医用画像検査(CS)の1つに合致し、各前記候補医用画像検査(CS)は、第2の時点の患者の複数の候補医用画像群(CMIS)を含み、
前記候補医用画検査(CS)の前記複数の候補医用画像群(CMIS)から、前記対象医用画像群(TMIS)との比較可能性の程度に基づいて、参照医用画像群(RMIS)を選択し(S50)、
・前記対象医用画像群(TMIS)と前記参照医用画像群(RMIS)とのレジストレーションを実行し(S60)、
・前記レジストレーションに基づいて前記参照医用画像群(RMIS)のレンダリングを前記インターフェースユニット(10)に表示させるために表示データを生成する(S70)、ように構成される、システム(1)。
【請求項17】
プログラム要素を含むコンピュータプログラムであって、
前記プログラム要素は、医用画像群の評価を支援するシステム(1)のコンピューティングユニット(30)のメモリにロードされると、前記コンピューティングユニットに、請求項1~15のいずれか1項に記載の方法に係る工程を実行させる、コンピュータプログラム。
【請求項18】
プログラム要素を記録したコンピュータ可読媒体であって、
前記プログラム要素は、医用画像群の評価を支援するシステム(1)のコンピューティングユニット(30)により実行されたときに請求項1~15のいずれか1項に記載の方法の工程が実行されるように、前記コンピューティングユニットによって読み取り可能で実行可能である、コンピュータ可読媒体。
【発明の詳細な説明】
【技術分野】
【0001】
本願は、X線画像又は磁気共鳴画像又はコンピュータ断層撮影画像の画像処理など、医用画像処理に関する。具体的には、本願は、患者の別々の医用画像データセットを処理して、医師による後の比較のために、別々の時点で撮像された画像データセットを自動的に同定することに関する。
【背景技術】
【0002】
MRI(磁気共鳴撮像)やCT(断層撮影)などの医用撮像は、医療診断に重要なツールである。臨床決定の判断において、患者の疾患の経時的な進行は、その疾患の現在の状態と同等か、それ以上の重要性をもち得る。患者の疾患の進行を評価する補助として、医療専門家は、多くの場合、患者の対象医用画像を、1つ以上の患者の適切な参照医用画像と比較することを望む。具体的に言えば、例えば、対象医用画像は患者の現在の検査の画像であり、一方、参照医用画像は、患者の以前の検査からの画像である。
【0003】
患者に関する可能な参照医用画像は多数存在することが多く、これらが、候補医用画像として示されることもある。例えば、ある患者に関して、以前の複数の時点で行われた検査(以前の検査)が複数存在することがある。さらに言えば、それぞれの検査において、異なる特徴をそれぞれが有する複数の医用画像群が存在することがある。現在の医用画像と比較するにあたり、あるいは、現在の医用画像との関連性に関して、以前の医用画像の妥当性を手作業で評価することは、医療専門家に時間の浪費と負担を強いることになる。また、医用画像は、医療専門家の端末から離れた記憶装置に保存される場合が多く、そして、医療専門家が評価のために患者に関する以前の医用画像の全てを収集することは、サイズの大きい画像が多いことから、ネットワーク資源が集中する。
【発明の概要】
【0004】
したがって、ここに説明する態様の目的は、所定の医用画像(例えば、現在の、又は、総じて、対象医用画像)との比較にあたり妥当である、あるいは、所定の医用画像と関連がある、医用画像(例えば、以前の、又は、総じて、参照医用画像)を自動的に選択するシステム及び方法を提供することにある。
【0005】
この目的及その他の目的は、独立形式請求項に係る、表示データ生成する方法、該方法に対応するシステム、該方法に対応するコンピュータプログラム(を記憶した製品)、及び、コンピュータ可読記憶媒体、によって達成される。選択的態様が、引用形式請求項の対象であり、ここに説明する側面である。
【0006】
以下では、請求項に係る方法と共に請求項に係る装置に関連して、本発明に係る技術的解決策について説明する。ここに説明する特徴、利点、又は、選択的態様は、請求項に係る他の対象にも当てはまり、その逆もまた同様である。別の言い方をすると、本発明の方法に向けられた請求項は、装置に関して説明された又は請求された特徴によって改善することができる。このような場合、例えば、方法の機能的特徴は、装置の合目的ユニット又は要素によって実施される。
【0007】
一態様によれば、医用画像データセットの表示データを生成する方法が提供される。本方法は、複数の工程を含む。最初の工程は、第1の時点の患者の対象医用画像群を受信することを目的とする。次の工程は、対象医用画像群の関心領域を得ることを目的とする。次の工程は、対象医用画像群により表される対象身体領域を決定することを目的とする。次の工程は、複数の候補身体領域と複数の対象身体領域との比較に基づいて、複数の候補医用画像検査から参照医用画像検査を選択することを目的とする。複数の候補身体領域の各々は、複数の候補医用画像検査のうちの1つに対応し、そして、各候補医用画像検査は、第2の時点の患者の複数の候補医用画像群を含む。次の工程は、参照医用画像検査の複数の候補医用画像群から、対象医用画像群との合致程度に基づいて、参照医用画像群を選択することを目的とする。次の工程は、対象医用画像群と参照医用画像群のレジストレーション(位置合わせ)を実行することを目的とする。次の工程は、表示データを生成し、関心領域及びレジストレーションに基づいた参照医用画像群のレンダリングをディスプレイデバイスに表示させることを目的とする。
【0008】
一例として、医用画像群(対象医用画像群、候補医用画像群、参照医用画像群)は、1つ以上の二次元画像に関係する。一例として、医用画像群は、三次元画像である。一例として、医用画像群は、3つの空間次元と1つの時間的次元のある、四次元画像である。
【0009】
一例として、医用画像群の種類は、医用画像群を取得するために使用された医用撮像装置の種類に関係する。例えば、第1のX線画像群と第2のCT画像群は、それらが異なる医用撮像装置によって記録されたとしても、比較可能である。一例として、2つの医用画像群は、それらが人体(身体領域)中の同じ解剖学的領域に対応するのであれば比較可能である。例えば、ヒトの肺の第1のX線画像とヒトの膝の第2のX線画像は、それらがひとりの患者に関係し且つひとつの医用画像モダリティで取得されたとしても、比較可能ではない。
【0010】
一例として、医用画像群の種類は、医用画像を生成するために使用されたモダリティによって、及び、医用画像群の対象である身体領域によって、特徴付けることができる。選択肢として、医用画像の種類は、医用画像を生成するために使用された(撮像モダリティの)パラメータによって特徴付けることもできる(例えば、「低線量画像」と「高線量画像」との区別が考えられる)。
【0011】
医用画像群はそれぞれ、例えば、ピクセル又はボクセルのアレイの形態で、画像データを含む。このようなピクセル又はボクセルのアレイは、三次元位置に応じて強度、吸収、又は他のパラメータを表現し、例えば、医用撮像モダリティによって得られる測定信号の適切な処理によって得ることができる。
【0012】
医用画像群は、1つ以上の画像データファイル、具体的にはDICOMファイル、と同じであるか、該ファイルに含まれたものとすることができる。ここで言及するDICOMは、例えばDICOM・PS3.1・2020c規格(又は当該規格の前後のバージョン)に従う「Digital Imaging and Communications in Medicine」(DICOM)規格に当てはまると理解される。
【0013】
「受信」は、例えば、対象医用画像群が医用撮像モダリティから取得されることを意味する。また、「受信」は、例えば、対象医用画像群が、医用画像管理システム(Picture Archiving and Communication System:PACS)又は他の適切な医用画像保存設備など、適切なメモリから取得されることを意味する。
【0014】
対象医用画像群は、例えば、第1の時点(第1の実施時)の患者の検査に関係し、一方、候補検査の候補医用画像群は、例えば、その第1の時点とは異なる第2の時点(第2の実施時)の患者の検査に関係する。第2の時点は、第1の時点の数時間前又は数時間後、数日前又は数日後、数週間前又は数週間後、数カ月前又は数カ月後、あるいは数年前又は数年後などである。また、第1の時点と第2の時点との間には、スキャン又は処置が介在する場合もある。
【0015】
例えば、1つ以上の医用画像群は、対応する医用画像検査に結びつけられる。言い換えると、医用画像検査は、複数の各医用画像群を含み得る。医用画像検査に含まれる医用画像群は、例えば、それぞれの種類が異なる。例えば、医用画像検査の医用画像群は、別々のモダリティで取得されたり、及び/又は、医用画像群の生成時に異なるパラメータを使用して取得される。例えば、医用画像検査は、異なるMRI撮像パラメータで取得された種々のMRI医用画像群を含む。例えば、1つの医用画像群がT2FLAIR設定で取得され、他の医用画像群がT1群である。
【0016】
医用画像検査に含まれた医用画像群は患者の身体領域を表すので、医用画像検査に少なくとも1つの身体領域を割り当てることが可能である。一例として、医用画像検査に含まれた医用画像群は、(必ずしも必要ではないが)患者の(少なくともおおよそ)同じ身体領域を表す。
【0017】
医用画像検査に含まれる医用画像群は、必然的にほんの少しずつ異なる時間に取得されることになるが、これら画像群は、ここに説明する追跡読影ワークフローに関して、同じ時点に関係していると見なすことができる。すなわち、検査の画像群収集時の間の数分の時間差(あるいは数時間の時間差であっても)は、臨床的な意味においては、患者の同じ状態に係属しているからである。
【0018】
一例として、対象医用画像検査及び候補医用画像検査は、ひとりの患者に関係する。いくつかの例によれば、候補医用画像検査は、対象医用画像検査の患者以外の複数の患者にも関係することもある。後者の場合は、類似のケースを比較することができる。
【0019】
関心領域は、対象医用画像群内の領域を表し、この領域は、対象医用画像群を分析するユーザにとって特定の関心事である。関心領域は、通例、ユーザが現在レビューしている、対象医用画像群の部分に関係する。この領域は、例えば、イメージボリューム又はイメージプレーンに関係する。例えば、関心領域は、「ターゲットスライス」とも呼ばれる、対象医用画像群のイメージスライスである。また、関心領域は、例えば、対象医用画像群のイメージスライスの一部である。このように、関心領域は、任意の形状をもち得、好ましくは関心領域は、円形又は二次形の形態である。いずれの場合も、関心領域は、例えば、対象医用画像群内のピクセル又はボクセルのような画素のグループとして理解できる。
【0020】
関心領域は、ユーザによって画定されることもあれば、コンピュータが実行する方法によって半自動又は自動で画定されることもある。
【0021】
したがって、関心領域を取得するのは、例えば、対象医用画像群において関心領域を指定する1つ以上のユーザ入力を処理することに基づく。例えば、当該ユーザ入力は、ターゲットスライスまでのスクロール及び/又はターゲットスライスにおいて関心領域を画定することからなる。
【0022】
また、関心領域を取得するのは、例えば、対象医用画像群において解剖学的特徴を自動的に同定することからなり、解剖学的特徴は、患者の病的状態を表す。一例として、このことは、医用画像データにおいて解剖学的特徴を同定するように構成された検出機能を対象医用画像群に適用することを含む。
【0023】
身体領域は、例えば、画像群において描画される患者の身体部分に関係する。したがって、医用画像検査の身体領域は、医用画像検査に結びついた画像データにおいて描画された患者の身体部分を表す。この場合、身体領域は、例えば解剖学的座標系の形態の、画像データにより切り取られる患者の解剖学的構造の剛体(リジッド)記述子ではなく、むしろ、検査の画像データコンテンツの上位又は粗い記述子である。例えば、検査の個々の医用画像群の身体領域は、医用画像検査のための身体領域を導出するために集約される。いくつかの例によれば、身体領域は、患者の解剖学構造に関する正規化座標系又は一般化座標系の範囲である。一例として、これら正規化座標系又は一般化座標系は、ヒト/患者の頭尾軸又は縦軸に沿って決められる。
【0024】
対象及び候補身体領域は、例えば、医用画像検査のそれぞれに結びついた画像データ及び非画像データに基づいて決定される。一例として、医用画像検査のコンテンツを示す医用画像検査のメタデータを、対象及び候補身体領域を決定するために評価することができる。
【0025】
比較可能性の程度は、例えば、ユーザが2つの別々の医用画像データ群をどの程度良好に比較できるのか、を示す。一例として、2つの医用画像データ群の比較可能性の程度は、2つの医用画像データ群のそれぞれの種類に基づく。これによると、医用画像群の種類は、既述したように、医用画像群を生成するために使用されたモダリティによって、医用画像群を生成するために使用された1つ以上の画像パラメータによって、及び/又は、医用画像群の対象である身体領域によって、特徴付けられる。
【0026】
したがって、参照医用画像検査の候補医用画像群から参照医用画像群を選択する工程は、例えば、各候補医用画像群について、対象医用画像群との比較可能性の程度を決定することを含む。この場合、比較可能性の程度を決定するのは、例えば、対象医用画像群の種類と候補医用画像群のそれぞれの種類とを比較することに基づく。
【0027】
対象医用画像群と参照医用画像群との間のレジストレーションを実行することは、一例として、対象医用画像群の対象画像(例えば、関心領域又はターゲットスライス)を、参照医用画像群の参照画像(例えば、リファレンススライスの形態の)と、おおまかに位置合わせすることを含む。
【0028】
一例によれば、この工程は、画像データの類似性の評価及び/又はまた別にここで説明する該当位置の検出に基づく。他の例によれば、この工程は、対象医用画像群と参照医用画像群との間の変形場を取得することを含み、これは、対象医用画像群中の各解剖学的位置が参照医用画像群中の同じ解剖学的位置に(あるいはその逆に)マッピングされるように、対象医用画像群と参照医用画像群との座標系の関係を決定する。すなわち、変形場は、例えば、対象画像及び参照画像のピクセル/ボクセルにそれぞれ結びついた複数の個々の変位ベクトルを含む。
【0029】
一例によれば、レジストレーションは、剛体(リジッド)レジストレーションからなる。剛体レジストレーションは、1つの画像を別の画像へ位置合わせするためにその画像におけるピクセル/ボクセルの座標系が回転及び並進(平行移動)の対象となるレジストレーションからなる。いくつかの例によれば、レジストレーションは、アフィンレジストレーションからなる。アフィンレジストレーションは、1つの画像を別の画像へ位置合わせするためにその画像におけるデータ点の座標系が回転、並進、スケーリング(拡縮)及び/又は剪断(シアー)の対象となるレジストレーションからなる。すなわち、剛体レジストレーションは、特定のタイプのアフィンレジストレーションであると見なすことができる。いくつかの例によれば、レジストレーションは、非剛体(ノンリジッド)レジストレーションからなる。非剛体レジストレーションは、例えば、レジストレーションする画像の各ピクセル/ボクセルに対して別々の変位を提供し、そして、例えば、非線形変換を使用することができ、この場合、1つの画像を別の画像へ位置合わせするためにその画像におけるピクセル/ボクセルの座標系が柔軟な変形の対象となる。非線形変換は、一例によれば、画像内の各ピクセル/ボクセルに関する個々の変位を定義する、ワープ場や他の場又は関数などのベクトル場を使用して、決定される。画像レジストレーションの詳細については、US2011/0081066及びUS2012/0235679がここに援用される。解剖学的変化や変形が予想されない場合には、剛体画像レジストレーションが非常に有効である。剛体画像レジストレーションと比較して、非剛体画像レジストレーションは、非常に優れた柔軟性を有し、2つの画像セットの間の局所的歪み(例えば、解剖学的構造変化)を管理することができるが、取り扱いがより複雑である。
【0030】
レジストレーションと参照医用画像群に基づくレンダリングを提供することは、一例として、レジストレーションに基づいて、関心領域に対応する対象医用画像群の画像データ部分を同定することを含む。この場合、レンダリングは、対象医用画像群のこのように同定された画像データ部分に基づく。
【0031】
いくつかの例によれば、レンダリングは、対象医用画像群の同定された画像データ部分と連動して関心領域が表示されるようになされる。
【0032】
本態様の方法は、対象医用画像群と容易に比較できるようにキャプチャされた、ユーザ用の参照医用画像データの、段階的(ステップワイズ)且つ方向性をもった選択及び表現を可能にする。このことは、例えば、患者に関する以前の医用画像の全てを開いて評価する場合と比較したときに、対象医用画像との比較に適切な以前の医用画像の効率的な選択を提供する。さらに言えば、画像検査それぞれの身体領域に基づいた選択は、医用撮像データそのものを抽出又は分析する必要のない選択を可能にし、したがって、例えば、効率的な選択を可能にする。加えて言うと、身体領域及び比較可能性の程度に基づいて選択することで、例えば、柔軟な選択が可能になる。例をあげれば、身体領域の比較は、例えば、撮像座標系を直接一致させることを試みる場合と比較して、パラメータ間の非正確な一致に関してよりロバスト及び/又はフレキシブルである。
【0033】
一例によれば、対象医用画像検査と各候補医用画像検査とは、医用画像検査のコンテンツを示すテキストストリング(文字列)を含んだ属性値を有する1つ以上の属性をそれぞれ含む。したがって、対象身体領域を決定する工程は、例えば、対象医用画像検査のテキストストリングの1つ以上を取得すること、取得した1つ以上のテキストストリングを訓練済み機械学習モデルに入力すること、訓練済み機械学習モデルから出力を取得することにより対象医用画像検査によって表される身体領域を決定すること、を含む。この機械学習モデルは、このような1つ以上のテキストストリングの入力に基づいて身体領域を出力するように訓練されている。また、候補身体領域の少なくとも1つは、例えば、候補医用画像検査のテキストストリングの1つ以上を取得すること、取得した1つ以上のテキストストリングを訓練済み機械学習モデルに入力すること、訓練済み機械学習モデルから出力を取得することにより対象医用画像検査によって表される身体領域を決定すること、を含む。この機械学習モデルは、このような1つ以上のテキストストリングの入力に基づいて身体領域を出力するよう訓練されている。
【0034】
一般に、訓練済み機械学習モデルは、ヒトが他のヒトの精神とつきあう認知機能を模倣する。一例として、訓練データに基づく訓練によって、訓練済み機械学習モデルは、新しい状況に適応し、パターンを検出して推測することができる。訓練済み機械学習モデルに関する他の用語は、例えば、訓練済み関数、訓練済みマッピング仕様、訓練済みパラメータをもつマッピング仕様、訓練済みパラメータをもつ関数、人工知能に基づくアルゴリズム、又は、機械学習したアルゴリズムである。
【0035】
一般に、訓練済み機械学習モデルのパラメータは、訓練によって適応させることができる。一例として、教師あり訓練、半教師あり訓練、教師なし訓練、強化学習及び/又は能動学習を用いることができる。さらに言えば、表現学習(別名「特徴表現学習」)を用いることができる。一例として、訓練済み機械学習モデルのパラメータは、いくつかのステップの訓練によって反復的に適応させることができる。
【0036】
一例として、訓練済み機械学習モデルは、ニューラルネットワーク、サポートベクターマシン、決定木及び/又はベイジアンネットワークからなるものとすることができ、及び/又は、訓練済み関数は、k平均法(k-meansクラスタリング)、Q学習(Qラーニング)、遺伝的アルゴリズム及び/又はアソシエーションルールに基づくものとすることができる。一例として、ニューラルネットワークは、ディープニューラルネットワーク、畳み込みニューラルネットワーク又は畳み込みディープニューラルネットワークであり得る。さらに言えば、ニューラルネットワークは、敵対的ネットワーク、ディープ敵対的ネットワーク及び/又は敵対的生成ネットワークとすることができる。
【0037】
一例によれば、機械学習モデルは、患者の解剖学的構造に関する正規化又は一般化座標系の範囲の形態で身体領域を出力するように訓練される。一例として、これらの正規化又は一般化座標系は、ヒト/患者の頭尾軸又は縦軸に沿って決められる。
【0038】
例えば、属性と属性値は、通例、医用画像検査のそれぞれに結びついた非画像データ又はメタデータに関係する。属性値は、例えば、医用画像検査それぞれの画像データファイルに保存されるか又はこれとは別に保存される。一例として、属性値は、患者の電子カルテに保存されもする。
【0039】
属性と属性値は、例えば、調査した身体部分、使用した撮像モダリティ及びプロトコル、及び/又は、ユーザ等により報告又は作成された所見又は注釈などの、画像データに関する追加情報を提供する。また、非画像データは、例えば、性別、年齢、体重、保険の詳細、治療医師に関する情報といった患者の個人情報などの画像データに直接には関係しない情報を含む。
【0040】
一例によれば、医用画像検査の各々は、1つ以上のDICOM画像ファイルと結びつけてあり、その医用撮像データのコンテンツを示すテキストストリングを含んだ属性値を有する1つ以上の属性は、DICOM属性「検査記述」、「シリーズ記述」及び「調査身体部分」の1つ以上を含む。
【0041】
医用画像検査属性から抽出したテキストストリングに基づいて身体領域を決定することは、例えば、医用撮像データそのもの(ビットの観点で比較的大きい)を抽出し分析することによって身体領域を決定するよりも、資源集約性が低く、したがってより効率的である。候補医用画像群が、ここに説明する方法を実行するように構成された処理デバイスからネットワークを通し遠隔保存される場合、(比較的小さい)テキストストリングに基づいて身体領域を決定することにより、(比較的大きい)医用撮像データを、これにより表される身体領域を決定するためにネットワークを通し送信する必要がないという効果があり、その結果、ネットワーク資源の効率的な利用が可能になる。
【0042】
訓練済み機械学習モデル(例えば、訓練済みニューラルネットワーク)にテキストストリングを入力することによって身体領域を決定することは、例えば、テキストストリングにハードコード化ルールを適用することによって身体領域を決定する場合と比較して、効率的、フレキシブル及び/又はロバストな身体領域の決定を提供することができる。例えば、ハードコード化ルールは、身体領域を提供するために、テキストストリングをルールに正確に一致させる必要がある(したがって、一致を判定できるテキストストリングに関して柔軟性がない、及び/又は、使用できる可能性のある全てのテキストストリングに対してコード化する必要のあるルールのセットの包括的な性質で非効率的である)。一方、訓練済み機械学習モデル(例えば、訓練済みニューラルネットワーク)は、訓練のための訓練データセットから導き出され、したがって、訓練データセットで異なるテキストストリングに関しても、適切な身体領域を比較的効率的に取得できるし、決定することができ、それ故に、比較的フレキシブル/ロバストである。
【0043】
一例によれば、訓練済み機械学習モデルは、訓練済み文字(キャラクタ)ベースニューラルネットワーク、一例として、取得された1つ以上のテキストストリングの個々の文字を入力として取り込むように構成された文字ベース再帰型ニューラルネットワークからなる訓練済みニューラルネットワークである。これによって、取得された1つ以上のテキストストリングを訓練済みニューラルネットワークに入力することは、取得された1つ以上のテキストストリングの個々の文字を訓練済み文字ベースニューラルネットワークに入力することを含む。
【0044】
文字ベース言語モデルの利点は、あらゆるテキストストリング及び他の文書構造を扱う際のその小さな語彙集とフレキシビリティである。このことは、属性値が多くの場合に複数の医療機関の間で標準化されていない医療用途に、有益である。
【0045】
一例によれば、訓練済みニューラルネットワークは、1つ以上の数値の形態で、人体の領域を表す、身体領域を出力するように構成され、訓練済みニューラルネットワークの出力部分は、入力された1つ以上のテキストストリングに関して計算されている。
【0046】
身体領域を1つ以上の数値として出力することは、例えば、医用画像検査それぞれの医用撮像データによって表される身体領域の正確及び/又はフレキシブルな決定を可能にする。例えば、数値は連続的であり、したがって、例えば予め定義されたクラスの限られたセットの使用と比較して、より正確に且つよりフレキシビリティをもって身体領域を画定することができる。このことは、次には、例えば身体領域のフレキシブル及び/又は正確な比較を可能にする。
【0047】
一例によれば、訓練済みニューラルネットワークは、予め画定された身体領域のリストから身体領域を選択する形態で、身体領域を出力するように構成される。このことは、例えば、結果の流動性を減らし、予め画定された身体領域のセットに医用画像検査がマッピングされるときに、より明確な関連性が提供される、という利点を有する。
【0048】
一例によれば、ニューラルネットワークは、複数の訓練テキストストリングを含む訓練データセットに基づく。各訓練テキストストリングは、医用画像データファイルの属性値からのものであり、医用画像データファイルに結びついた医用画像検査のコンテンツを示すものである。複数の訓練テキストストリングの各々は、訓練テキストストリングの対応している身体領域でラベル付けされる。ラベルは、ニューラルネットワークの訓練においてグランドトゥルースとして使用される。
【0049】
一例によれば、訓練データセットは、グラフィカルユーザインターフェース(GUI)を使用して生成されている。GUIは、訓練テキストストリングの1つ以上と、選択可能な身体領域に分割された人体の表現と、をユーザに提示し、1つ以上の提示された訓練テキストストリングのそれぞれについて、前記表現から身体領域を選択するユーザ入力を受信し、選択された身体領域を示すラベルで訓練テキストストリングをラベル付けする、ように構成される。
【0050】
一例によれば、対象及び候補画像データ群の各々は、医用撮像データ群のそれぞれをキャプチャするために使用された撮像パラメータを示す属性値をそれぞれ有する1つ以上の属性と結びつけられる。比較可能性の程度は、対象医用画像群と複数の候補医用画像データ群の各々との間の1つ以上の属性値の一致を決定することに基づいている。
【0051】
一例によれば、医用画像群の各々は、1つ以上のDICOM画像ファイルと、医用撮像データ群のそれぞれを捕捉するために使用された撮像パラメータを示すテキストストリングを含んだ属性値を有する1つ以上の属性と、に関連付けられる。
【0052】
以上の態様は、例えば、対象医用画像群の画像データと同じか類似した撮像パラメータを用いてキャプチャされた1つ以上の参照医用画像群の選択を可能にする。これにより、例えば、患者に関する以前の医用画像の全てを開いて評価する場合と比較したときに、対象医用画像データとの比較に適切な以前の医用画像の効率的な選択が提供される。さらに言えば、属性値AVに基づいた選択は、医用撮像データそのものを抽出又は分析する必要のない選択を可能にし、その結果、効率的な選択を可能にする。
【0053】
一例によれば、比較可能性の程度を決定する工程は、対象医用画像群について、第1の特徴ベクトルを取得すること、参照医用検査において構成された候補医用画像群のそれぞれについて、第2の特徴ベクトルを取得すること、第1の特徴ベクトルと候補医用画像群の第2の特徴ベクトルそれぞれとの間の比較可能性の程度を示す比較可能性メトリックを決定すること、を含む。
【0054】
特徴ベクトルは、通常、例えば、基礎となる医用画像群を表現する又は特徴付ける記述子として考えられる。ここに説明する特徴ベクトルは、例えば、医用画像群に結びついた画像データ及び非画像データに基づく。一例として、特徴ベクトルは、1つ以上の属性値に基づく。
【0055】
いくつかの例において、特徴ベクトルは、特定のエンコーディングアルゴリズム(「ベクタライザ」とも呼ばれる)を使用して、医用画像群のそれぞれに結びついた画像データ及び非画像データをエンコーディングすることによって、決定される。特徴ベクトルの特徴は、例えば、医用画像群それぞれの画像によって示される、医学的異常の視覚的発現、パターン、解剖学的構造、医学的ランドマークなどの視覚的特徴である。また、特徴ベクトルは、例えば、使用された撮像モダリティ又は撮像パラメータに関連する非画像特徴からなる。特徴ベクトルは、例えば、参照医用画像検査の選択時にオンラインで計算される。あるいは、特徴ベクトルは、例えば、候補医用画像検査と関連してデータベースに保存される(事前)生成データ項目として利用可能に保持される。
【0056】
一例によれば、比較可能性の程度は、例えば、候補医用画像群が対象医用画像群に対しどの程度類似するか又は比較可能であるか、を表すメトリック(「比較可能性メトリック」)を適用することによって、計算することができる。比較可能性メトリックの別の言い方は、類似性メトリック又は距離メトリックである。一例において、比較可能性メトリックは、第1の特徴ベクトルと第2の特徴ベクトルとの間のベクトル又は特徴空間の距離を定量化するように構成することができる。一例によれば、所定の数学的関数を用いて、コサイン類似度又はユークリッド距離などの距離を計算することができる。一例によれば、比較可能性メトリックは、機械学習により導出された学習済みメトリックからなる。一例によれば、特徴ベクトルの抽出及び/又は全体的な類似性メトリックの評価は、1つ以上の訓練済み関数によって実行される。
【0057】
一例によれば、対象医用画像群及び参照医用画像群は、画像ファイルの医用撮像データをキャプチャするために使用された撮像パラメータを示す属性値をそれぞれが有する1つ以上の属性と結びつけられる。この場合、第1の特徴ベクトルは、対象医用画像群をキャプチャするために使用された撮像パラメータを示す属性値の1つ以上に基づいて得られ、第2の特徴ベクトルは、候補医用画像群のそれぞれをキャプチャするために使用された撮像パラメータを示す属性値の1つ以上に基づいて得られる。
【0058】
一例によれば、比較可能性の程度を決定する工程は、追跡読影のために2つの医用画像データ群の比較可能性の程度を決定するように構成された訓練済み関数に、対象医用画像群及び参照医用画像群を入力することを含む。
【0059】
一例として、訓練済み関数はニューラルネットワークからなる。これにより、第1のグループのニューラルネットワーク層が、第1及び第2の特徴ベクトルを抽出するために適用される。この特徴ベクトルは、第2のグループのネットワーク層へ入力値として送られる。第2のグループのネットワーク層は、抽出された特徴ベクトルに基づいて比較可能性の程度を決定するように機能する。ただし、これら両者のニューラルネットワークの関数は、別々の独立したニューラルネットワークであっても同様に実行され得る。すなわち、特徴ベクトル抽出に関する画像解析は第1のニューラルネットワークで実行可能であり、比較可能性に従う分類は第2のニューラルネットワークで実行可能である。
【0060】
特徴ベクトルに基づいて一致する群を選択することで、例えば、フレキシブルな選択が可能になる。例えば、特徴空間の特徴ベクトルの比較は、例えば撮像パラメータを直接一致させようとする場合と比較して、パラメータ間の非正確な一致に関してよりロバスト及び/又はフレキシブルである。
【0061】
一例によれば、第1及び第2の特徴ベクトルは、対象及び候補医用画像データ群の撮像モダリティの指標を含み、比較可能性メトリックは、医用画像データ群の撮像モダリティと候補医用画像データ群それぞれの撮像モダリティとの間の撮像モダリティ関連性スコアを含む。
【0062】
2つのモダリティの間の撮像モダリティ関連性スコアは、例えば、一方のモダリティを使用してキャプチャされた医用撮像データが他方のモダリティを使用してキャプチャされた医用撮像データと関連する(すなわち、適切である又は比較に有用である)程度を表す値である。いくつかの例では、撮像モダリティ関連性スコアについて、2つの候補医用画像群の両方が対象医用画像群と同一の身体領域をもっているが、一方のセットはMRを用いてキャプチャされ、他方のセットはCTを用いてキャプチャされたという場合、MRを用いてキャプチャしたセットを優先して選択してもよい。
【0063】
医用画像データ群のそれぞれをキャプチャするときに使用されたモダリティの考慮は、選択された参照医用画像群の比較可能性をさらに改善する。
【0064】
一例によれば、撮像モダリティ関連性スコアは、確率を計算に入れる。この確率は、特定の第1の撮像モダリティに結びついた第1の医用画像群を与えられた場合に、ユーザが、第1の医用画像群との比較に関し、特定の第2の撮像モダリティをもった第2の医用撮像群を選択するであろう確率である。当該確率は、以前の機会に記録されたユーザの選択の統計分析に基づく。
【0065】
医用撮像データに対する実際のユーザ相互作用の統計分析に基づく撮像モダリティ関連性スコアは、例えば、適切なモダリティの第2の医用撮像データが選択されることを確実にするのに役立つ。
【0066】
また、ユーザ相互作用は、例えば、システムの挙動のオンライン(アドホック)自動更新にも使用される。
【0067】
一例によれば、参照医用画像群は、参照画像ボリューム(例えば、参照医用画像群によって表される身体領域)を描画する。そして、本方法は、さらに、参照画像ボリュームの特定のセクションをそれぞれ描画する複数の候補スライスを取得する工程を含む。また、レジストレーションを実行する工程は、複数の候補スライスから、関心領域に含まれた画像データと個々の候補スライスとの間の画像類似度に基づいて、少なくとも1つの参照スライスを同定することを含む。そして、表示データを生成する工程は、表示データを生成して、ディスプレイデバイスに参照スライスのレンダリングを表示させることを含む。
【0068】
いくつかの例において、複数のスライスは、参照医用画像群に含まれたスライスのサブセットを表す。一例によれば、複数のスライスは、参照医用画像群に含まれたスライスの全てに関係する。
【0069】
画像類似度は、例えば、画像データが2つの医用画像(この場合、関心領域と参照医用画像群のスライス)の間でどの程度類似しているかを測る。画像データは、例えば、コントラスト、階調、テクスチャ、密度、歪み、特異点、パターン、ランドマーク、マスク、表示される解剖学的構造などの観点で、類似する。
【0070】
参照スライスを同定することは、例えば、参照医用画像群中の複数の候補スライスの各々について、関心領域の画像データと参照医用画像群のスライスそれぞれとの間の画像類似性を表す画像類似性メトリックを評価することを意味する。この評価に基づいて、例えば、関心領域の画像データに対する画像類似度が高い1つ以上のスライスが選択され、同定される。例えば、所定の閾値を上回る画像類似度を有する全てのスライスを選択することができる。あるいは、画像類似度が最高値のスライスを選択してもよい。例えば、2つの画像の間の類似性メトリックを決定した結果は、その画像間の画像類似度である。
【0071】
言い換えると、この例によれば、参照医用画像群において1つ以上のスライスが、関心領域に対応するものとして自動的に同定される。この自動検索は、対象画像データ(ここでは関心領域)と参照画像データ(ここでは参照医用画像群のスライスそれぞれ)との間の各画像類似性の定量化に基づいている。それにより、関心領域の形態の参照画像データの観点で関連する参照医用画像群中のこれらスライスを自動的に検索することのできるツールが提供される。したがって、医師は、関連するスライスを追跡するために、参照医用画像群を手動でスクロールする必要がない。このことは、相当の時間節約をもたらすのみならず、プロセスにエラーを起こりにくくし、再現性を改善する。複数の医用画像検査におけるスライスのマッチングは、個々の画像の間の類似度の評価に基づいている。他の方法と比較して、これには、比較できる程に速い処理時間という利点がある。さらに言えば、画像類似性は、他の方法、例えば、従来の画像レジストレーションに基づく方法の場合であっても、又は、解剖学的ランドマークの検出が適用できない場合であっても、妥当な結果をもたらすことが多い。これは、個々のスライスの間のバラツキが非常に大きいためレジストレーションが不可能な場合、又は、ランドマークが検出できない場合、であり得る。したがって、例えば、異なる撮像プロトコル又は撮像モダリティを用いて取得された、大きく異なる画像データを容易に同期させることも可能になる。
【0072】
一例によれば、対象医用画像データ群は、対象画像ボリューム(例えば対象医用画像群によって表される身体領域)を描画し、対象画像ボリュームの特定のセクションをそれぞれ描画する複数のターゲットスライスを含む。したがって、レジストレーションを実行する工程は、例えば、対象医用画像群と参照医用画像データ群との間のスライス合致を決定するために、複数のターゲットスライスの各々について、1つの合致候補スライスを同定することを含み、このときに用いる類似度は、個々のターゲットスライスと参照医用画像群の個々の候補スライスとの間の類似性にそれぞれ基づく。そして、少なくとも1つの参照スライスを決定する工程は、スライス合致に基づく。
【0073】
言い換えると、本方法は、このように、画像類似性考察に基づいて、対象医用画像群中のスライスを参照医用画像群中の合致スライスと明確に一致させる。それに伴い、2つの異なる医用画像群のスライスが同期する。したがって、対象医用画像群をスクロールするときに、ユーザには、参照医用画像群それぞれの合致スライスが自動的に提供されることになる(この逆も同様に)。すなわち、ユーザには、対象医用画像群と参照医用画像群とを並べて直接比較することのできるポジションが提供される。いくつかの例によれば、このようなマッチング工程の結果は、例えば、第1の医用データセットの複数のスライスの各々を第2の医用画像群(CMIS)の複数のスライスのうちの合致スライスへ明確に割り当てるデータ連係の形態で提供される。このような連係は、スライス合致(コレスポンダンス)と呼び得る。
【0074】
合致スライスの同定があいまいな場合には、本方法は、例えば、合致スライスを正確に示すために補助条件を利用する。この補助条件は、例えば、対象医用画像群及び/又は参照医用画像群におけるそれぞれのスライス順序、及び/又は、全体の類似性の尺度、である。したがって、一例によれば、対象医用画像群の複数のスライスの各々について、参照医用画像群の1つの合致スライスを同定する工程は、追加的に、対象医用画像群又は参照医用画像群におけるスライス順序に基づき、及び/又は、追加的に、全体的な画像類似度が最大になる(ような)条件下で実行される。これに関し、全体的な画像類似度は、例えば、対象医用画像群と参照医用画像群の合致スライスの間の累積画像類似度(個々の画像類似度の合計)である。スライス順序は、撮像処理又は単純に患者の解剖学的構造によって決定されるようなスライスの自然なシーケンスとして考えることができる。
【0075】
一例によれば、レジストレーションを実行する工程は、スライス合致に基づいて、対象医用画像群と候補医用画像群との間のスライスナンバリングにおいてオフセットを決定することを含む。少なくとも1つの参照スライスを決定する工程がそのオフセットに基づく。
【0076】
オフセットの決定により、対象医用画像群と参照医用画像群とを互いに位置合わせする簡易な方法を提供することができる。これにより、対象医用画像群をスクロールするときに、ユーザには、参照医用画像群のそれぞれの合致スライスが自動的に提供される(その逆も同様に)。
【0077】
一例によれば、レジストレーションを実行する工程は、対象医用画像群から少なくとも画像記述子を抽出することを含む。また、同工程は、複数の候補スライスの各々から合致画像記述子をそれぞれ抽出することを含む。これにより、画像類似度は、対象医用画像群の抽出された画像記述子と候補スライスの画像記述子との比較にそれぞれ基づく。
【0078】
いくつかの例では、画像記述子は、関心領域又は参照医用画像群のスライスのいずれかの基礎となる画像データを表す又は特徴付けるベクトルである。いくつかの例において、画像記述子は、特定の画像記述子エンコーディングアルゴリズムを使用して、関心領域又は参照医用画像群のそれぞれのスライスをエンコードすることによって決定される。例えば、医学的異常の視覚的発現、パターン、解剖学的構造、医学的ランドマークなど、関心領域又は各スライスの特徴は、それぞれの画像記述子にエンコードされる。
【0079】
一例によれば、個々の画像記述子がどの程度類似しているかを表す画像類似性メトリックを適用することにより、画像類似度を計算することができる。一例において、画像類似性メトリックは、関心領域の画像記述子と参照医用画像群のスライスのそれぞれの画像記述子との間の特徴空間における距離を定量化するように構成される。一例によれば、所定の数学的関数を用いて、コサイン類似性又はユークリッド距離などの距離を計算することができる。一例によれば、画像類似性又は距離メトリックは、機械学習によって導出された学習済みメトリックからなる。一例によれば、画像記述子の抽出及び/又は全体的な画像類似性メトリックの評価は、1つ以上の訓練済み関数によって実行される。
【0080】
画像記述子に基づいている合致画像データの選択は、フレキシブルな選択を可能にする。一例として、特徴空間における画像記述子の比較は、例えば、剛体又は非剛体画像レジストレーションを試みる場合と比較して、パラメータの間の非正確一致に関してよりロバストであり及び/又はフレキシブルである。
【0081】
一例によれば、本方法は、複数のターゲットスライスの各々から画像記述子を抽出する工程をさらに含む。この場合、類似度は、対象及び候補スライスの抽出された画像記述子の間の比較にそれぞれ基づく。
【0082】
一例によれば、複数の候補スライスを取得する工程は、対象医用画像データセットに基づいて候補医用データセットを再サンプリングして、参照医用画像データセットにおいて複数の候補スライスを決めることを含む。
【0083】
再サンプリングは、確定されたスライスを既に有する医用画像群、及び、確定されたスライスをもたない等方性画像ボリュームを多少とも描画する医用画像データ群、に等しく適用可能である。いくつかの例によれば、再サンプリングは、対象医用画像群のスライス厚に対応するスライス厚をスライスが有するように、参照医用画像群のスライスを決めることを含む。追加的に又はその代わりに、例えば、スライスの積層方向を、対象医用画像群に一致するように設定又は適合させる。参照医用画像群を再サンプリングすることにより、結果、参照医用画像群を対象医用画像群に適合させることができる。これにより、例えば、2つの群の比較可能性が改善され、その後の追跡読影に関して全体的に良好な結果が得られる。
【0084】
一例によれば、少なくとも1つの参照スライスを同定する工程は、対象及び参照医用画像データ群に訓練済み関数を適用すこと工程を含む。この場合、訓練済み関数は、二次元医用画像の間の類似度を決定するように構成される。選択肢として、訓練済み関数は、さらに、二次元医用画像の間の類似度を決定するために学習済みメトリックを適用する。このときの訓練済み関数は、好ましくは、ディープメトリック学習済みネットワークからなる。
【0085】
いくつかの例によれば、訓練済み関数は、距離メトリックネットワークからなり、より具体的には、ディープ距離メトリック学習ネットワークからなる。
【0086】
距離メトリック学習(又は単に、距離学習:メトリックラーニング)は、機械学習方式で、教師ありデータからタスク特定距離又は画像類似性メトリックを自動的に構築することを目的とする。そして、学習済み距離メトリックを用いて、本例では類似した画像データの同定など、様々なタスクを行うことができる。プリセットの距離メトリックを利用する場合と比較して、学習済み距離メトリックは、例えば、学習済みメトリックが特定のデータ及び関心タスクに良好に適応するという利点がある。
【0087】
ディープ距離メトリック学習ネットワークは、例えば、メトリック(学習済み又は標準のいずれか)が適用される前に、より高い識別力の新しい特徴空間にさらにデータを変換する。特徴空間は、例えば、適切な距離メトリックを用いて非類似の画像特徴が押し離される一方でセマンティックに類似している抽出された画像特徴は近くの位置にマッピングされる、というものである。
【0088】
いくつかの例によれば、訓練済み関数は、シャム(Siamese)ネットワークからなる。一例によれば、訓練済み関数は、全畳み込みシャムネットワークからなる。
【0089】
シャムネットワークは、距離又は類似性メトリックに基づいて2つの入力を比較するために学習するニューラルネットワークの一種であり、あるセマンティックにおいてより近い入力が、同じセマンティックに従ってより離れている2つの入力と比較して、より低い距離を得るような構成である。キャプチャする必要のあるセマンティックは、訓練プロセスにおいて暗黙的にネットワークへ供給される。セマンティックは、画像記述子のベクトル空間として捉えることができる。したがって、セマンティックは、どの画像記述子が抽出されるか、を決定する。セマンティックは、例えば、同一の構造とパラメータをもつサブネットワークのブランチを用いて抽出される。抽出された画像記述子は、例えば、学習済みセマンティックの表現と見なされる。一例として、シャムネットワークは、同一の構造及びパラメータをもつサブネットワークの2つのブランチを有する構造を含む。
【0090】
全畳み込みシャムネットワークに基づいて、例えば、少なくとも1つの畳み込み処理及び少なくとも1つのプーリング処理が、例えば第1の画像データセットの第1のスライスに実行され、この結果、その第1の画像スライスの画像特徴(又は画像記述子)を取得する。また、例えば、少なくとも1つの畳み込み処理及び少なくとも1つのプーリング処理が、例えば第2の画像データセットの第2のスライスに実行され、この結果、その第2の画像スライスの画像特徴(又は画像記述子)を取得する。畳み込み処理及びプーリング処理後の出力画像特徴(又は画像記述子)は、例えば、1つ以上の同じサイズの特徴ベクトル又はマップである。畳み込み処理又はプーリング処理におけるパラメータ、例えば、各畳み込み層に対して使用された畳み込みカーネルのサイズ及び数、又は各プール層は、例えば、全畳み込みシャムネットワークの訓練プロセスを通して予め構成される。一例として、全畳み込みシャムネットワークも、同一の構造とパラメータをもつサブネットワークの2つのブランチを有する構造からなる。
【0091】
いくつかの例によれば、訓練済み関数はトリプレット(三つ組)ネットワークからなる。
【0092】
トリプレットネットワークは、例えば、同じフィードフォワードネットワークの3つのブランチを構成するので、シャムネットワークの拡張として考えられる。3つのサンプルを与えた場合、このネットワークは、1対の距離の形態で中間値を出力する。これにより、1つのサンプルを参照(又はアンカー)として扱い、これに対して他のサンプルを比較する。そして、中間値を比較器に供給し、出力を決定する。データラベルを直接比較するのではなく、トリプレットネットワークは、サンプルの比較による学習を可能にしており、訓練データの要件を低くし、教師なし学習モデルとしての使用を可能にできる。
【0093】
いくつかの例によれば、訓練済み関数は、トリプレット損失関数を用いて訓練される。
【0094】
トリプレット損失関数は、機械学習アルゴリズムに関する損失関数であり、参照(アンカー)入力が正(真)入力と負(偽)入力に対し比較される。ベースライン(アンカー)入力から正入力までの距離が最小化され、参照入力から負入力までの距離が最大化される。本例になぞらえると、例えば、正入力は、所定の参照スライスとの類似性が検証されたスライスとなる。類似性は、例えば、ユーザによって検証されるか、又は、画像検査の参照スライスに対するスライスの検証済み隣接関係に起因する。後者には、訓練データがかなり容易に得られるという利点がある。負入力は、例えば、正入力よりは参照スライスに類似していないスライスである。一例として、負入力は、参照スライス、例えば別の群又は患者からのスライス、に関係しないスライスである。このような類似性の順位を遵守することによって、トリプレット損失モデルは、類似スライスの対が非類似スライスよりも距離が小さくなる(又は類似度が高くなる)という方式で埋め込む(すなわち、画像記述子を抽出する)。このアプローチの1つの利点は、トリプレット損失関数が、必要とされる訓練データの観点で非常にフレキシブルである、ということである。
【0095】
別の例として、他の損失関数も使用可能であり、例えば、スライス対の2つ以上の類似度を対比することによって計算される対照損失関数、又は、カテゴリ交差エントロピー損失関数である。
【0096】
一例によれば、訓練済み関数は、第1の候補画像を対象画像と比較すると共に第2の候補画像を対象画像と比較すること、及び、第1の候補画像と第2の候補画像のどちらが対象画像との類似度が高いかを決定することにより、二次元医用画像の間の類似度を決定するように構成される。対象画像は、対象医用画像群から抽出され、候補画像は、参照医用画像群から抽出される。
【0097】
一例によれば、レジストレーションを実行する工程は、参照医用画像群において、関心領域に合致する位置を決定することを含む。一例として、この工程は、関心領域の画像データに基づいて第1の局所画像記述子を生成すること、参照医用画像群における複数の候補位置の各々について第2の局所画像記述子を生成すること(第2の局所画像記述子は、各候補位置に関して位置する参照医用画像群の画像データに基づいて生成される)、複数の候補位置の各々について、候補位置に関する第1の局所画像記述子と第2の局所画像記述子との間の局所画像類似度を示す局所画像類似性メトリックを計算すること、計算した局所画像類似性メトリックに基づいて複数の候補位置の中から候補位置を選択すること、選択した候補位置に基づいて参照医用画像群における関心領域に合致する位置を決定すること、を含む。また、表示データを生成する工程において、設定された選択候補位置に関する参照医用画像群の画像データに基づいてレンダリングが生成される。
【0098】
局所画像記述子は、例えば、対象医用画像群の関心領域の基礎となる画像データ及び候補位置に関して参照医用画像群から抽出された画像データを表現する又は特徴付けるベクトルである。いくつかの例では、局所画像記述子は、特定の画像記述子エンコーディングアルゴリズムを使用して、合致する画像をエンコードすることにより決定される。関心領域又はスライスそれぞれの特徴、例えば医学的異常の視覚的発現、パターン、解剖学的構造、医学的ランドマークなどは、例えば、局所画像記述子のそれぞれにおいてエンコードされる。いくつかの例によれば、局所画像記述子は、基礎となる画像データの1つ以上のパターンを特徴付けるパターン記述子からなる。
【0099】
いくつかの例によれば、局所画像類似度は、個々の局所画像記述子がどの程度類似するかを表す局所画像類似性メトリックを適用することによって計算される。いくつかの例において、局所画像類似性メトリックは、関心領域の局所画像記述子と参照医用画像群の候補位置に関して抽出された局所画像記述子との間の特徴空間における距離を定量化するように構成される。いくつかの例によれば、所定の数学的関数を用いて、そのような距離、コサイン類似性又はユークリッド距離などを、計算することができる。一例によれば、局所画像類似性又は距離メトリックは、機械学習によって導出された学習済みメトリックからなる。いくつかの例によれば、局所画像記述子の抽出及び/又は全体的な局所画像類似性メトリックの評価は、1つ以上の訓練済み関数によって実行される。一例によれば、局所画像類似性メトリックは、パターン類似性メトリックとして実行され、局所画像類似性は、各位置に結びついた画像パターンの間のパターン類似性である。
【0100】
この結果、対象領域の所定パターン又は特徴が参照医用画像群において表現される位置を決定する技術が提供される。一例として、所定のパターン又は特徴が対象医用画像群(すなわち、関心領域)において表現される既知の位置を使用して、所定のパターン又は特徴が参照医用画像群において表現される位置を決定する。このことは、例えば、参照医用画像群RMISにおいて関連する位置を検出する際のユーザの負担を軽減する。さらに言えば、局所画像類似性を決定することに基づいたこの決定は、特に従来の画像レジストレーションが実行できない場合において、高速で、効率的で、及び/又はフレキシブルな特徴位置を提供する。さらに、局所画像類似性を決定することにより、ヒューマンエラーを起こしにくい、ロバストで、一貫性があり、安定した特徴位置が得られる。
【0101】
一例によれば、候補位置は、予め決められたサンプリングパターンで参照医用画像群全体に分布する位置である。局所画像記述子抽出を所定の分布又はサンプリングパターンに基づいて行うと、参照医用画像群の全体的サンプリングが可能となる。
【0102】
一例によれば、レジストレーションを実行する工程は、選択候補位置に基づいて、参照医用画像群における複数の候補サブ解像度位置を決定すること、参照医用画像群における複数の候補サブ解像度位置の各々について第3の局所画像記述子を取得すること、をさらに含む。これにより、各第3の局所画像記述子は、候補サブ解像度位置のそれぞれに関して位置する参照医用画像群の画像データに基づいて生成される。そして、複数の候補サブ解像度位置の各々について、第1の局所画像記述子と候補サブ解像度位置に関する第3の局所画像記述子との間の局所画像類似度を示す局所画像類似性メトリックを計算する。さらに、第1の局所画像記述子と第3の局所画像記述子それぞれとの間の局所画像類似度を示す計算された局所画像類似性メトリックに基づいて、複数の候補サブ解像度位置の中から候補サブ解像度位置を選択する。次に、選択された候補サブ解像度位置に基づいて、参照医用画像群における関心領域に合致する位置が選択される。これにより、候補サブ解像度位置は、選択候補位置の領域におけるサブ解像度サンプリングパターンの参照医用画像群全体に分布する位置である。この場合、サブ解像度の予め決められたパターンにおける候補サブ解像度位置の間の距離は、予め決められたサンプリングパターンにおける候補位置の間の距離よりも小さい。
【0103】
このように、異なる空間解像度の2つのサンプリングパターンを階層化する方法は、例えば、参照医用画像群のいずれの特徴の位置も把握されていない場合であっても、関心領域に合致する位置を迅速且つ効率的な方式で正確に決定することを可能にする。
【0104】
一例によれば、候補位置は、学習済みポリシー(方策)を実行する学習済みポリシーネットワークに基づいて確定され、参照医用画像群の関心領域に合致する位置に関して参照医用画像群を解析するために、前の候補位置の少なくとも1つに基づいて次の候補位置を反復して決定する。
【0105】
また、学習済みポリシーネットワークは、例えば、各反復において、次の候補位置を決定するためのアクションaに対応する確率分布p(a)を出力するように訓練され、次の候補位置は、確率分布p(a)をサンプリングすることによって決定される。
【0106】
その結果、学習済みポリシーネットワークは、関心領域の位置を参照医用画像データセットにマッピングすることに基づいて、候補位置の1つ以上を画定するように構成される。
【0107】
ポリシーネットワークは、例えば、学習済みタスクを完遂する目的で複数のアクションを反復して実行するための特定の学習済みポリシーに続く訓練済み関数と見なされる。学習済みポリシーネットワークのポリシーは、例えば、長期的報酬が優遇されるように、関心領域に合致する位置を反復して検出するために、候補位置を選択する次のアクションを選択する能力として、定義される。言い換えれば、訓練済み関数の所定の状態から始まる個別のアクションがどのように選択されるかという方式が「ポリシー」と呼ばれる。学習済みポリシーネットワークは、したがって、関心領域に合致する参照医用画像群の位置を検出する方式についてのアクションに関するポリシーを含む。これにより、反復再配置工程は、例えば、ポリシーに従って、合致位置に関する現在の推定値を発展させ、最終的に、参照医用画像群の合致位置を同定する。ポリシーネットワークとして学習済みポリシーネットワークを実行することは、したがって、強化学習済み訓練済み関数の1つの態様として捉えることができる。
【0108】
合致位置を検出する問題を複数の反復実行される工程に分ける1つの影響が、教師あり学習などの従来の学習スキームが不十分になることである。これは、通常、最終状態のラベルすなわち実際の合致位置が存在するだけであり、最終状態に向かう途中の中間状態のラベルは存在しないことが原因である。したがって、学習済みポリシーネットワークは、(実際の合致位置に達したときに現れるであろう)将来の累積報酬の一部の概念を最大化するための環境におけるアクションをとることを学習しなければならない。これに関して、強化学習は、予め定義された方法論に代わって、訓練済み関数に関する徹底的認知プロセスとして学習を容易にする技術である。すなわち、訓練済み関数は、不確定環境(ここでは医用画像データ)に対処するための戦略を開発する能力を獲得することで、そのフレキシビリティを高める。
【0109】
強化学習に頼ることにより、複雑な問題を複数の個々の工程に分解することができる訓練済み関数を提供することが可能である。各工程において、訓練済み関数は、例えば、入力データに基づいてその現在の状態を評価し、次の状態に進むための次のアクションについて決定する。今あるランドマーク検出問題に適用すると、例えば、現在の状態は、合致位置に関する現在の推定として現在の候補位置に見なされ、状態は、前述の局所画像類似性を使用してサンプリングされる。アクションは、例えば、新しい(改善された)候補位置に進むべく、参照医用画像群の現在の候補位置を移動させることを含む。このプロセスは、例えば、アクションが参照医用画像群の画像空間の外へ至る(画像データに含まれた有効なランドマークがないことを示す)まで、又は、収束に達する(すなわち、候補位置をさらに改善するために残されたアクションがない)まで、反復して継続する。機械学習における複数の部分的問題に問題を細分化することは、収束挙動が改善されるという利点を有し、訓練済み関数がより速く、より良好な結果をもたらすことを意味する。さらに言えば、訓練済み関数は、例えば、非常に多様な医用画像データに適用できるという意味で、よりフレキシブルになる。このように、強化学習済み訓練済み関数の使用は、速度、精度、及びフレキシビリティの面で改善された方法に相乗的に寄与する。
【0110】
一例によれば、学習済みポリシーネットワークは、ポリシー勾配(方策勾配)を用いたマルコフ決定プロセスとして訓練されている。
【0111】
マルコフ決定プロセスを採用することは、事実上、個々の状態とアクションが先行する状態から統計的に独立していると見なされることを意味する。このことは、訓練において最適なポリシーを反復して決定するアプローチの基礎である。各状態について、将来(累積)報酬(将来のアクションそれぞれに対する個々の報酬が収束に達するまで合計されるので、累積)を最大化するようなアクションがよいと考えられる。訓練データが恐慌である場合及び/又は訓練済み関数の入力が不定である場合、ポリシー勾配を用いることはさらに有益である。
【0112】
一例によれば、学習済みポリシーネットワークは、好ましくは、訓練済み関数それぞれの1つ以上のパラメータに関して累積将来報酬それぞれの勾配をそれぞれ評価することによって、上記のように、合致位置を同定するアクションのシーケンスに関する累積将来報酬値を最大にするようにそれぞれ訓練されていると見なされる。
【0113】
学習済みポリシーネットワークの挙動は、例えば、累積将来報酬が最大化される方式で候補位置を進める次のアクションのインテリジェント選択とみることができる。すなわち、学習済みポリシーネットワークは、合致位置を正確に検出するために必要な最も好ましい位置変更シーケンスを決定することを学習する。したがって、学習済みポリシーネットワークの状態は、例えば、現在の候補位置の局所画像類似性としてモデル化される。候補位置に関する後続の挙動は、状態内で観察されるものに反応する。
【0114】
次のアクションを、(アクションごとに具体的な報酬値を算出するのではなく)確率分布に基づいて決定することは、連続的で細かく離散化されたアクションや一般的に大きいアクション空間に、本方法がより容易に適用可能になるという利点をもつ。
【0115】
一例によれば、確率分布は、学習済みポリシーネットワークの学習済みポリシーを反映しており、このポリシーは、学習済みポリシーネットワークそれぞれの1つ以上のパラメータに関して、累積将来報酬それぞれの勾配を評価することによって、学習させてある。
【0116】
一例によると、学習済みポリシーネットワークは、可能性のある合致位置の収束点が検出れるか、又は、改善された予測候補位置の軌跡が、参照医用画像群の画像空間から収束点に到達するまで、候補位置を改善するように構成される。
【0117】
一例によれば、参照医用画像検査として候補医用画像検査の少なくとも1つを選択する工程は、候補医用画像検査から、身体領域の比較に基づいて複数の関連医用画像検査を同定すること、ユーザインタフェースを介してユーザに複数の関連医用画像検査の指標を提供すること、ユーザインタフェースを介して、関連医用画像検査の少なくとも1つを指定するユーザ選択を受信すること、参照医用画像検査として少なくとも1つの指定された関連医用画像検査を選択すること、を含む。
【0118】
複数の関連する医用画像検査は、例えば、自動的に提供される事前選択と見なされ、ユーザは、それらの中から選択をすることができる。複数の関連医用画像検査の指標は、検査のリストの形式でユーザに提供することができ、ユーザはそのリストから選択を行える。一例によれば、リストは、各関連医用画像検査に結びついたさらなる詳細を含み、例えば、その詳細は、検査が取得された時点、モダリティその他の撮像パラメータ、患者又は検査の臨床パラメータ、1つ以上の医療記録又はその抜粋などである。一例によれば、ユーザインタフェースを介してユーザに複数の関連医用画像検査の指標を提供する工程は、例えば、利用可能な候補医用画像検査のセットにおいて複数の関連医用画像検査にハイライトを提供することを含む。
【0119】
可能性のある関連検査をユーザに提供すること及び1つ以上の可能性のある関連検査のユーザ選択に基づいて1つ以上の参照検査を選択することで、追跡読影のための画像検査の方向性をもった選択に関し、連続的なヒト機械相互作用(ヒューマンマシンインタラクション)が達成される。一例によれば、ユーザ選択は、ユーザの前のアクションとして使用/記録され、これに基づいて、ユーザに対する次の検査選択プロセスを最適化することができる。
【0120】
また、複数の関連医用画像検査を同定する工程は、関連医用画像検査の各々について、身体領域それぞれの比較に基づいて対象医用画像検査との適合度を決定することを含み、複数の関連医用画像検査の指標を提供する工程は、その適合度をユーザインタフェースを介してユーザへ提供することを含む。これにより、適合度は、好ましくは、対象及び候補身体領域の比較を基にした、各医用画像検査の間の解剖学的オーバーラップに基づく。
【0121】
適合度は、例えば、2つの画像検査が互いにどの程度一致しているかの客観的尺度になる。例えば、適合度は、対象医用画像検査及び各候補医用画像検査の身体領域に基づいて計算される。一例として、適合度は、対象医用画像検査及び各候補医用画像検査の身体領域に基づいて決定される身体領域のオーバーラップからなる。その代わりに又はそれに加えて、例えば、上述のモダリティ関連性スコア、又は対象医用画像検査及び各候補医用画像検査において構成される医用画像群の撮像パラメータの適合性が、適合度に織り込まれる。
【0122】
適合度を提供することによって、ユーザは、2つの医用画像検査がどの程度一致しているかという客観的尺度を得られる。したがって、ユーザに、適切な医用画像検査を選択するためのさらなる支援が提供される。
【0123】
一例によれば、対象医用画像群の関心領域を取得する工程は、ユーザインタフェースを介して関心領域を指定するユーザの入力を受信することを含む。
【0124】
一例によれば、ユーザ入力は、a)対象医用画像群に含まれた複数のスライスからの(対象)スライスの選択(対象医用画像群は画像ボリュームを描画し、複数のスライスは、それぞれが画像ボリュームの特定セクションを描画する)、b)対象医用画像群内の画像領域の手動境界描画、及び、c)対象医用画像群内の1つの関心点の指定(その周囲に関心領域を後になって確定できる)、のうちの少なくとも1つを含む。
【0125】
関心領域を選択することにより、ユーザは、別の意味では、参照医用画像群の選択のベースとなる対象を設定することができ、レジストレーションが実行される。したがって、妥当な参照医用画像群が、ユーザが現在注目している参照医用画像検査の当該部分に応じて具体的に選択される。例えば、関心領域が肺病変を示している場合、検査及び群の検索は、患者の肺の、特に、比較可能な撮像パラメータで取得された肺の同じ部分の、以前の画像を取得するように向けられる。
【0126】
一例によれば、表示データを生成してディスプレイデバイスに参照医用画像群のレンダリングを表示させる工程において、ユーザ入力と特に手動境界描画は、好ましくは、参照医用画像群から合致画像スライス(参照スライス)を選択するように、又は、手動境界描画に応じて参照医用画像群を切り取るように、レジストレーションに基づいて参照医用画像群に適用される。
【0127】
これにより、表示データを関心領域に適合させることができる。その結果、ユーザには、関心領域に適合させた視覚化が提供され、例えば、ユーザのための比較読影が改善される。
【0128】
一例によれば、候補画像群の少なくとも1つを参照医用画像群として選択する工程は、比較可能性の程度に基づいて、対象医用画像群に関連する複数の関連医用画像群を候補医用画像群から同定すること、ユーザインタフェースを介してユーザに複数の関連医用画像群の指標を提供する(この指標は比較可能性の程度からなるものとすることもできる)こと、ユーザインタフェースを介してユーザ選択を受信する(このユーザ選択は関連医用画像群の注目のものに向けられている)こと、参照医用画像群として注目のものを選択すること、を含む。
【0129】
複数の関連医用画像群は、例えば、自動的に提供される事前選択と見なされ、ユーザはその中から選択をすることができる。複数の関連医用画像群の指標は、ユーザが選択できる群のリストの形式でユーザに提供することができる。
【0130】
これにより、追跡読影に関する画像群の方向性をもった選択に関し、連続的なヒト機械相互作用が達成される。一例によれば、ユーザ選択は、ユーザに対する次の群選択プロセスを最適化する基礎となるユーザの先行アクションとして、使用/記録される。
【0131】
一例によれば、対象及び参照医用画像群の各々は、医用画像群のそれぞれをキャプチャするために使用された撮像パラメータを示す属性値を有する少なくとも1つの属性と結びついている。この場合、ユーザインタフェースを介してユーザに複数の関連医用画像群の指標を提供する工程は、各属性値の指標を提供することを含む。
【0132】
一例によれば、参照医用画像検査は、参照画像群に合致する1つ以上の注釈(アノテーション)を含む。本方法はさらに、例えば、1つ以上の注釈から、対象医用画像群及び/又は関心領域に合った参照注釈を少なくとも取得すること、その参照注釈を提供すること、を含む。参照注釈は、好ましくは、1つ以上の第1の単語を含む。
【0133】
好ましくは、参照注釈を提供することは、少なくとも1つの参照注釈を用いて対象医用画像群及び/又は関心領域に注釈をつけることを含む。
【0134】
少なくとも1つの参照注釈を取得することは、例えば、各注釈について、注釈のそれぞれが関連している参照医用画像分内の位置を決定すること、各位置について、好ましくはレジストレーションに基づいて、その位置が対象医用画像群又は関心領域における合致位置を有するか否かを決定すること、注釈の位置について合致位置を決定することができた場合に、参照注釈として注釈を選択すること、を含む。
【0135】
したがって、例えば、少なくとも1つの参照注釈は、具体的には、参照スライスに関係する。
【0136】
対象医用画像群及び/又は関心領域に注釈をつけることは、例えば、決定された合致位置の少なくとも1つの参照注釈を用いて対象医用画像群及び/又は関心領域に注釈をつけることを含む。
【0137】
上記の例によれば、例えば、以前の注釈が自動的に提供され、ユーザによる追跡読影プロセスを容易にする。対象医用画像群及び/又は関心領域に自動的に注釈をつけることによって、ユーザは、以前の注釈を、対象医用画像群の画像特徴と直接比較することができる。
【0138】
一例によれば、少なくとも1つの参照注釈を取得する工程は、各注釈について、参照医用画像群の少なくとも1つの位置を取得すること、各位置について、対象医用画像群の合致(又は対象)位置及び/又は関心領域を決定すること、を含む。合致(又は対象)位置は、少なくとも1つの位置に合致する。これにより、注釈をつける工程は、例えば、少なくとも1つの対象位置の参照注釈を用いて対象医用画像群及び/又は関心領域に注釈をつけることを含む。
【0139】
合致位置を決定することは、例えば、前述のレジストレーションに基づく。
【0140】
また、合致(又は対象)位置を決定すること、又は、各位置について、その位置が対象医用画像群又は関心領域に合致位置を有するか否かを決定することは、例えば、画像類似性評価に基づく。一例によれば、これらの工程は、各注釈について、参照医用画像群の少なくとも1つの参照画像パッチを取得することを含み、参照画像パッチは、注釈の位置に応じて配置される。また、これらの工程は、例えば、対象医用画像群及び/又は関心領域における複数の対象画像パッチのそれぞれについて、参照画像パッチと対象画像パッチそれぞれとの局所画像類似度を示す局所画像類似性メトリックを決定することを含む。また、これらの工程は、類似性メトリック(可能であれば)に基づいて複数の対象画像パッチからマッチング画像パッチを選択すること、そのマッチング画像パッチに基づいて合致(又は対象)位置を決定すること、を含む。
【0141】
局所画像類似度は、基本的にレジストレーション工程に関連して記述したように、局所画像類似性メトリックで計算することができる。
【0142】
例えば、参照パッチに対し最も高い局所画像類似度を有する対象パッチが、マッチング画像パッチとして選択される。また、マッチング画像パッチは、例えば、局所画像類似度が予め決められた閾値を超えている場合に同定される。局所画像類程度が予め決められた閾値を超えている対象画像パッチが同定されない場合、結びついた注釈は、対象医用画像群において合致せず、したがって、例えば、対象医用画像群には適用されない。
【0143】
一例によれば、本方法はさらに、参照医用画像検査に結びついた医療報告を取得すること、医療報告のテキストの1つ以上のセクションを取得すること、各セクションは、1つ以上のセクションのそれぞれについて1つ以上の第2の単語を含み、参照注釈の1つ1つについて、1つ以上の第2の単語を参照注釈の1つ以上の第1の単語と比較してマッチングを同定すること、同定されたマッチングに基づいて、参照注釈の少なくとも1つを第1のセクションの少なくとも1つと結びつけること、を含む。オプションで、結びつけた第1のセクションを、ユーザインタフェースを介してユーザに提供してもよい。
【0144】
これにより、対象医用画像群の自動注釈に基づいて、例えば、以前の医療報告の合致セクションが同定され、対象医用画像群を読影するのに適している。このように、ユーザにとっては、以前の報告及びその中の関連する一節を手動で検索することが不要となり、以前の医療報告で報告された所見のうちどこが変更されたか、直ちに判断することができる。
【0145】
1つ以上の単語の比較は、例えば、機械学習済み分類を第1及び第2の単語に適用することによって実行される。機械学習済み分類は、特徴空間の類似領域に類似単語をマッピングするように訓練されている。例えば、単語は、単語埋め込みを使用してベクトル表現にエンコードされる。例えば、単語埋め込みは、単語をベクトル空間にマッピングし、この場合、各単語に対するベクトルは、単語埋め込みモデルを訓練テキストのコーパスに適用することによって生成することができる。既知の単語埋め込みモデルの例は、ニューラルネットワークを使用して訓練テキストのコーパスから単語埋め込みを学習する「Word2vec」である。
【0146】
一例によれば、本方法はさらに、表示データを提供するユーザを同定すること、ユーザの1つ以上の先行アクションを取得すること、を含む。先行(以前の)アクションは、複数の候補医用画像検査から参照医用画像検査を選択する検査選択アクション、及び、医用画像検査の複数の候補医用画像群から参照医用画像群を選択する群選択アクション、のうちの少なくともいずれかを指す。これにより、参照医用画像検査を選択する工程は、例えば、少なくとも1つの検査選択アクションに基づく。また、参照医用画像群を選択する工程は、例えば、少なくとも1つの群選択アクションに基づく。
【0147】
ユーザの先行アクションを考慮に入れることによって、ここに説明する(半)自動選択プロセスは、ユーザの優先傾向に適合させることができる。これにより、妥当な群及び検査が選択可能であり、ユーザは、利用可能な検査/群を手動で調べるかどうかを選択することができる。また、その検査及び/又は群選択が、機械学習済み関数によって実行される場合、当該先行アクションは、例えば、基礎となる機械学習済み関数をさらに訓練するために使用される。
【0148】
少なくとも1つの先行アクションを選択プロセスの基礎にすることは、例えば、ユーザが個々の候補医用画像検査又は群を選択するときの確率を決定するために、1つ以上の先行アクションを(例えば統計的に)評価することを含む。したがって、確率は、例えば、参照医用画像検査を選択する工程又は参照医用画像群を選択する工程における追加の基礎を提供する。
【0149】
一例によれば、本方法はさらに、対象医用画像群内の関心領域の画像データと参照医用画像群の合致画像データとの間の変化を定量化すること、変化表示データを生成して、ディスプレイデバイスに変化を可視化して表示させること、を含む。
【0150】
いくつかの例によれば、変化は、レジストレーションに基づいて対象医用画像群を参照医用画像群の座標系に変換するか又はその逆を行って変換後医用画像群を生成し、この変換後医用画像群に基づいて変化を決定することにより(一例として、対象医用画像群又は参照医用画像群を変換後医用画像群と比較又は減算することにより)、決定される。
【0151】
変化は、例えば、患者の病態に関係する。変化は、例えば、対象医用画像群と参照医用画像群との間の組織変化に関係する。変化は、例えば、対象医用画像群から参照医用画像群までの(すなわち、第1の時点から第2の時点までの)異常の成長、縮小、出現、又は消失に関係する。結節の成長又は縮小、新たな結節及び/又は病変の発生などが例としてあげられる。
【0152】
変化の可視化は、例えば、対象医用画像群(関心領域)及び/又は参照医用画像群のレンダリングを、変化を強調して表示することを含む。この例において「強調」は、例えば、視覚的に明るさ、色、及び/又は強度を増強して変化を示すことを意味する。これに加えて又はこれに代えて、記号を用いて変化を強調することもできる。また、例えば、セマンティック表現からなるラベルを使用して変化を強調することができる。強調することは、さらに言えば、例えば、変化量が色分けされるヒートマップを使用することを意味する。例えば、縮小している結節は、成長している結節に対して違う色をつけることができる。
【0153】
一例として、変更表示データを生成することは、つまり、参照医用画像群のレンダリングにおける、好ましくは参照医用画像群のレンダリングにオーバーレイした、変化の可視化を含むこと、関心領域のレンダリングにおける、好ましくは関心領域のレンダリングにオーバーレイした、可視化を含むこと、の少なくともいずれかを備える。
【0154】
変化を強調したレンダリングをユーザに提供することによって、ユーザは、どのような変化が起きたのか、そして、どこでその変化が起きたのか、を即座に推測することができる。このことは、画像読影を誘導する補助となり、その結果、本方法の有用性を高め、医療診断を導くためのより優れた支援をユーザに提供する。
【0155】
一例によれば、対象医用画像群は、第1の医用撮像モダリティを用いて取得されており、参照医用画像群は、第2の医用撮像モダリティを用いて取得されている。この場合、第1の医用撮像モダリティは、第2のモダリティが基にしている撮像技術とは異なる撮像技術に基づいている。これにより、例えば、第1のモダリティは、X線撮像技術(CT又はX線投影など)に基づき、第2の医用画像群(CMIS)は、好ましくは磁気共鳴撮像技術に基づく。
【0156】
言い換えれば、本方法は、機能的に異なった撮像モダリティで取得した医用画像データセットを同期させることを可能にする。
【0157】
一例によれば、候補医用画像検査及び/又は群は、遠隔のストレージデバイスに記憶され、本方法は、遠隔記憶デバイスから、参照医用画像検査及び/又は群として選択された候補医用画像検査及び/又は群の医用画像データを遠隔のストレージデバイスから検索することを含み、このときに、参照医用画像検査及び/又は群として選択されていない候補医用画像検査及び/又は群の医用画像データを検索することはない。
【0158】
言い換えれば、このことは、例えば、候補医用画像検査又は群が参照医用画像検査又は群として選択されるまで、画像データの転送が起こらないことを意味する。
【0159】
一例によれば、複数の候補医用画像検査から参照医用画像検査を選択する工程は、候補医用画像検査に結びついた非画像データに基づく。一例として、候補医用画像検査の身体領域を決定する工程は、例えば、候補医用画像検査に結びついた非画像データに基づく。この結果、参照医用画像検査を選択する工程は、候補医用画像検査の医用画像データを検索することなく、遠隔のストレージデバイスから候補医用画像検査の非画像データを検索することを含む。
【0160】
同様に、一例によれば、複数の候補医用画像群から参照医用画像群を選択する工程は、候補医用画像群に結びついた非画像データに基づく。一例として、候補医用画像群の比較可能性の程度を決定する工程は、候補医用画像群に結びついた非画像データに基づく。この結果、参照医用画像群を選択する工程は、例えば、候補医用画像群の医用画像データを検索することなく、遠隔のストレージデバイスから候補医用画像群の非画像データを検索することを含む。
【0161】
(計算的に比較的小さい)非画像データに基づいて身体領域/比較可能性の程度を決定することにより、(計算的に比較的大きい)医用画像データを、該データにより表される身体領域/比較可能性の程度を決定するためにネットワークを通し送信する必要がなくなり、したがって、ネットワーク資源の効率的使用を可能とする。
【0162】
一例によれば、本方法はさらに、医用画像データ中の1つ以上の解剖学的異常を検出するように構成された異常検出関数を提供すること、対象医用画像群に異常検出関数を適用することにより、対象医用画像群中の解剖学的異常を検出すること、解剖学的異常の異常位置を取得すること、を含む。この場合、関心領域を取得する工程は、異常位置に基づく。
【0163】
一例として、患者の中の異常(別の言い方で「異常構造」)は、当該患者を他の患者から区別する解剖学的構造である。一例として、異常は、患者の特定の病状と関連させることができる。異常は、患者の各種臓器内(例えば、患者の肺の中や患者の肝臓の中)に位置し得るし、異常は、患者の臓器間にも位置し得る。一例として、異常は、異物であり得る。
【0164】
一例として、異常は、新生物(「腫瘍」とも呼ばれる)、特に、良性新生物、非浸潤新生物、悪性新生物及び/又は不確定/未確認新生物である。一例として、異常は、結節、特に肺結節である。一例として、異常は、病変、特に肺病変である。
【0165】
異常検出関数は、一例として、コンピュータ支援検出(CADe)及びコンピュータ支援診断(CADx)システムとして実施される。このようなシステムは、放射線科医が医用画像を解釈するのに役立つ技術である。CADシステムの一般的な用途は、医用画像中の疑わしい領域を自動的に同定することである。この疑わしい領域は、例えば、生物組織内の癌性増殖、腫瘤、膿瘍、裂傷、石灰化、病変及び/又は他の不規則性からなる異常であって検出されずに放置されると深刻な医学的問題を引き起こし得る異常を示す、画像パターンを含んでいる。原理として、異常のコンピュータ支援検出には過剰な機能と方法が知られているが、これらは全て異常検出関数において実施され得る。例えば、US2009/0092300A1、US2009/0067693A1、及びUS2016/0321427A1が援用される。一例として、異常検出関数は、サポートベクトルマシン、ナイーブベイズ、ニューラルネットワーク、決定木、及び/又はResNetのうちの1つに基づく。
【0166】
自動化された異常検出ワークフローを介して関心領域を取得することによって、ユーザの注意は、例えば、対象医用画像群の最も関連する部分に自動的に集中させることができ、これに基づいて、適切な参照医用画像群が特異的に取り出される。このことは、例えば、医学的診断の提供においてユーザをさらに支援する。
【0167】
一例によれば、第1の時点で取得された患者の対象医用画像群の評価を支援するシステムが提供される。このシステムは、インターフェースユニット及びコンピューティングユニットを含んでいる。インターフェースユニットは、対象医用画像群のレンダリングをユーザに提供し、対象医用画像群のレンダリングに基づいて対象医用画像群において関心領域を指定する目的のユーザからのユーザ入力を受信するように、構成されている。コンピューティングユニットは、ユーザ入力に基づいて関心領域を取得し、対象画像データ群によって表される対象身体領域を決定し、複数の対象身体領域と複数の候補身体領域との比較に基づいて複数の候補医用画像検査から参照医用画像検査を選択し、このときに、複数の候補身体領域の各々は複数の候補医用画像検査の1つに対応し、各候補医用画像検査は第2の時点の患者の複数の候補医用画像群を含み、参照医用画像検査の複数の候補医用画像群から、対象医用画像群との比較可能性の程度に基づいて参照医用画像群を選択し、対象医用画像群と参照医用画像群とのレジストレーションを実行し、レジストレーションに基づいて参照医用画像群のレンダリングをインターフェースユニットに表示させる表示データを生成する、ように構成される。
【0168】
コンピューティングユニットは、例えば、ここに説明するように参照医用画像検査を選択するように構成された検査選択モジュール又はユニットを含む。コンピューティングユニットは、例えば、ここに説明するように参照医用画像群を選択するように構成された群選択モジュール又はユニットを含む。コンピューティングユニットは、例えば、ここに説明するように少なくとも1つの画像レジストレーションを生成するように構成された画像レジストレーションユニットを含む。コンピューティングユニットは、例えば、ここに説明するように少なくとも参照医用画像群に基づいて表示データを生成するように構成された視覚化モジュール又はユニットを含む。
【0169】
選択的に、コンピューティングユニットは、例えば、注釈モジュール又はユニットを含む。これは、例えば、参照医用画像群RMIS(もしあれば)に含まれた注釈に基づいて対象医用画像群に注釈をつけるように、及び/又は、ここに説明するように患者の医療報告の既存セクションに対し対象医用画像群と結びついた注釈を一致させるように、構成される。また、選択的に、コンピューティングユニットは、例えば、ここに説明するように、医用画像データを比較し、これに基づいて変化を決定する比較ユニットを含む。
【0170】
コンピューティングユニットは、例えば、データ処理システムとして又はデータ処理システムの一部として、実施される。このようなデータ処理システムは、例えば、クラウドコンピューティングシステム、コンピュータネットワーク、コンピュータ、タブレットコンピュータ、スマートフォン、及び/又はその他同様のものを含む。コンピューティングユニットは、例えば、ハードウェア及び/又はソフトウェアからなる。ハードウエアは、例えば、1つ又は複数のプロセッサ、1つ以上のメモリ、及びそれらの組み合わせを含む。1つ以上のメモリは、例えば、本発明に係る方法の各工程を実行するための命令を記憶する。ハードウェアは、ソフトウェアによって構成可能であり及び/又はソフトウェアによって作動可能である。一般に、全てのユニット、サブユニット又はモジュールは、例えば、ネットワーク接続やそれぞれのインターフェースを介して、少なくとも一時的に互いにデータ交信している。すなわち、個々のユニットが互いに離れて位置していることもある。
【0171】
インターフェースユニットは、例えば、参照画像データ又は追跡画像データを受信するために、インターネット接続を介してローカルサーバ又はセントラルウェブサーバとデータ交換するインターフェースを含む。インターフェースユニットは、さらに、例えば、コンピューティングユニットによる処理の結果をユーザに表示することによって(例えば、グラフィカルユーザインタフェースで)、又は、画像処理又は可視化のための及び/又は医用画像検査及び群に対するパラメータをユーザが調節することを可能にすることによって、システムの1人以上のユーザと協働するように構成される。
【0172】
一例によれば、システムは、患者の解剖学的領域における異常の変化を決定するために、本発明に係る方法をその種々の態様において実行するように構成される。方法の態様に関連して説明する利点は、対応して構成されたシステムの構成要素によっても実現される。
【0173】
一例によれば、インターフェースユニットは、さらに、評価ツールを可視化し、この場合の評価ツールは対象医用画像群のレンダリングの中に配置されるように構成され、関心領域を画定するために対象医用画像群のレンダリング中に評価ツールを配置することに関するユーザからの入力を受信するように、構成される。また、コンピューティングユニットは、例えば、対象医用画像群のレンダリングにおいて関心領域に対し評価ツールを配置するように構成される。
【0174】
一例によれば、インターフェースユニットは、さらに、評価ツールを、対象医用画像群のレンダリングに対しオーバーレイとして配置された、ユーザ設定可能なサイズの円形又は矩形の評価ツールとして表示するように構成される。
【0175】
一例によれば、インターフェースユニットは、さらに、関心領域の画像データと参照医用画像群の対応する画像データとの間の変化を定量化するように構成された評価関数を提供し、この評価関数の選択に関連するユーザからのユーザ入力を受信するように、構成さる。また、コンピューティングユニットは、ユーザ入力に基づいて評価関数を実行し、変化表示データを生成してインターフェースに変化の可視化を表示させるように、構成される。
【0176】
つまり、ユーザのための使いやすい画像評価/解析ツールが用意されており、表示された画像データセットの中や上に、あるいは重ねて任意に配置することができる。このようにして、評価/解析ツールは、表示された画像ボリューム内の関心位置又は領域を、ツールを当該位置に直接移動させることによってユーザが簡単に選択することができるようにする。評価ツールは、関心領域に配置されたとき、ユーザが選択できるように複数の異なる評価/解析関数を提供するように構成される。このときの各評価関数は、選択位置内の画像データに関する評価/解析結果を提供するように構成される。さらに言えば、医用画像データ、評価関数のパレット、及び評価結果を並に列して可視化するように構成されたグラフィカルユーザインターフェースが提供される。
【0177】
一例によれば、上記システムと、少なくとも対象及び参照医用画像検査及び/又は群を取得、保存及び/又は転送するように構成された医用情報システムと、を含む画像解析システムが提供される。これにより、インターフェースユニットは、対象及び参照医用画像検査及び/又は群をその医用情報システムから受信するように構成される。
【0178】
いくつかの例によれば、医用情報システムは、対象、候補及び参照医用画像検査及び/又は群を保存する1つ以上のアーカイブステーションを含む。アーカイブステーションは、例えば、クラウドストレージの形態のリモートストレージとして、又は、ローカル又は分散ストレージとして、例えばPACS(Picture Archiving and Communication System)として、実施される。また、医用情報システムは、コンピュータ断層撮影システム、磁気共鳴システム、血管造影(又はCアームX線)システム、陽電子放出断層撮影システム、マンモグラフィシステムなど、1つ以上の医用撮像モダリティを含む。
【0179】
一つの態様によれば、本発明は、プログラム要素を含んだコンピュータプログラム(を記録した)製品も対象とし、そのプログラム要素は、システムのコンピューティングユニットのメモリにロードされると、該コンピューティングユニットに、上記方法の1つ以上の態様に係る工程を実行させる。
【0180】
一つの態様によれば、本発明は、プログラム要素を記録したコンピュータ可読媒体も対象とし、そのプログラム要素は、システムのコンピューティングユニットにより読み出して実行することが可能であり、プログラム要素を実行するコンピューティングユニットは、上記方法の1つ以上の態様に係る工程を実行する。
【0181】
コンピュータプログラム製品及び/又はコンピュータ可読媒体による本発明の実施は、既存の提供システムを、本発明により提案されるとおり作動するようにソフトウェアアップデートで容易に適合させることができる、という利点を有する。
【0182】
コンピュータプログラム製品はコンピュータプログラムであり、例えば、そのようなプログラムにつながる別の要素を含んでいてもよい。当該別の要素としては、ハードウェア、例えば、コンピュータプログラムを記録したメモリデバイス、コンピュータプログラム等を使用するためのハードウェアキー、及び/又は、ソフトウェア、例えば、コンピュータプログラムを使用するためのドキュメンテーション又はソフトウェアキーがあげられる。コンピュータプログラム製品はさらに、例えば、開発材料、ランタイムシステム及び/又はデータベース又はライブラリを含む。コンピュータプログラム製品は、例えば、いくつかのコンピュータインスタンス間で配布される。
【0183】
上述した発明の特色、特徴及び利点、ならびにそれらを達成する作用は、図面を参照して詳細に説明する以下の実施の形態の説明から、より明確になり、より深く理解される。以下の説明は、そこに含まれる実施の形態によって本発明を制限するものではない。同じ構成要素、部品又は工程には、複数の図面においてできるだけ同じ参照符号を付してある。概して、図面は正確な縮尺ではない。
【図面の簡単な説明】
【0184】
図1】患者の対象医用画像群の評価を支援するシステムの実施形態を概略的に示す図。
図2】実施形態に係る画像ファイルを概略的に示す図。
図3】実施形態に係る画像ファイルを概略的に示す図。
図4】実施形態に係る医用画像群の表示データを生成する方法を概略的に示す図。
図5】実施形態に係る医用画像検査の身体領域を決定する方法を概略的に示す図。
図6】実施形態に係る構成要素間のデータフローを概略的に示す図。
図7】実施形態に係るグラフィカルユーザインターフェース(GUI)を示す概略図。
図8】実施形態に係る参照医用画像検査を選択する方法を概略的に示す図。
図9】実施形態に係る参照医用画像検査を選択する方法における構成要素間のデータフローを概略的に示す図。
図10】実施形態に係る参照医用画像群を選択する方法を概略的に示す図。
図11】実施形態に係る参照医用画像群を選択する方法における構成要素間のデータフローを概略的に示す図。
図12】実施形態に係る合致スライスを同定することによって2つの医用画像群をレジストレーションする方法を示すフローチャート。
図13】実施形態に係る合致スライスを同定することによって2つの医用画像群をレジストレーションする方法に関連するデータストリームを概略的に示す図。
図14】実施形態に係る医用画像群の合致スライスの同定に基づいた方法の工程をさらに示すフローチャート。
図15】実施形態に係る医用画像群の合致スライスの同定に基づいた方法の工程をさらに示すフローチャート。
図16】実施形態に係る1つ以上の医用画像群を選択する方法を示すフローチャート。
図17】実施形態に係る医用画像群の合致スライスの同定に基づいた方法を示すフローチャート。
図18】実施形態に係る医用画像群の合致スライスを同定するために訓練済み関数を訓練する方法を示すフローチャート。
図19】実施形態に係る合致画像パターンを同定することによって2つの医用画像群をレジストレーションする方法を示すフローチャート。
図20】実施形態に係る対象医用画像群を概略的に示す図。
図21】実施形態に係る参照医用画像群を概略的に示す図。
図22】実施形態に係る参照医用画像群を概略的に示す図。
図23】実施形態に係る参照医用画像群を概略的に示す図。
図24】実施形態に係る参照医用画像群を概略的に示す図。
図25】実施形態に係る出力データを概略的に示す図。
図26】実施形態に係る出力データを概略的に示す図。
図27】実施形態に係る対象医用画像群に注釈をつける方法を示すフローチャート。
図28】実施形態に係る参照医用画像群に基づいて対象医用画像群の注釈を決定する方法を示すフローチャート。
図29】実施形態に係る対象医用画像群の画像スライスの形態の画像成分を示す概略図。
図30】実施態様に係る参照医用画像群の画像スライスの形態の画像成分及び結びつけられた注釈を示す概略図。
図31】実施形態に係る対象医用画像群に注釈をつける方法に関連するデータストリームを概略的に示す図。
図32】実施形態に係る表示データのレンダリングを示す概略図。
図33】実施形態に係る表示データのレンダリングを示す概略図。
図34】実施形態に係るグラフィカルユーザインターフェース(GUI)の要素を示す概略図。
図35】実施形態に係る対象医用画像群の評価を支援するシステムを示す図。
図36】実施形態に係る評価ツールを第1の作動状態で示す図。
図37】実施形態に係る評価ツールを第2の作動状態で示す図。
図38】実施形態に係る評価ツールを第3の作動状態で示す図。
図39】実施形態に係る対象医用画像群の評価を支援する方法を示すフローチャート。
図40】実施形態に係る参照医用画像データを決定して可視化する評価ツールを示す図。
【発明を実施するための形態】
【0185】
図1は、対象医用画像群TMISに関して医用画像参照検査RSを識別するため、対象医用画像群TMISに関して医用画像参照群RMISを識別するため、対象医用画像群TMISに注釈を付けるため、及び/又はそのベースに表示データを生成するためのシステム1を示す。この点に関して、システム1は、例えば、図2~34を参照してさらに記載されるように、1つ以上の実施例に従って方法を実施するように構成されている。システム1のユーザは、いくつかの例によれば、一般に、医師、臨床医、技師、放射線科医、病理医などの医療専門家に関係することができる。
【0186】
システム1は、ユーザインタフェース10(インターフェースユニットの一部として)及び処理システム20(コンピューティングユニット30の一部として)を備える。さらに、システム1は、医療情報システム40を備えることもあれば、接続されることもある。医療情報システム40は、一般に、参照医用画像検査RS、対象医用画像検査TS、参照医用画像群RMIS、及び/又は対象医用画像群TMISを取得及び/又は転送するために構成されていてもよい。特に、医療情報システム40は、参照医用画像グループRS、対象医用画像グループTS、参照医用画像群RMIS、及び/又は対象医用画像群TMISが保存された画像データファイルIFを扱うように構成することができる。例えば、医用情報システム40は、対応する医用画像検査及び群の画像データファイルIFを保存するために、1つ以上のアーカイブ/レビューステーション(図示せず)を含むことができる。アーカイブ/レビューステーションは、1つ以上のデータベースによって具現化することができる。特に、アーカイブ/レビューステーションは、1つ以上のクラウドストレージモジュールの形態で実現することができる。代わりに、アーカイブ/レビューステーションは、例えばPACS (画像アーカイブ及び通信システム)として、局所又はスプレッド記憶として実現されてもよい。さらに、アーカイブ/レビューステーションは、画像データファイルに関係する追加の臨床情報IFを保存することができ、ここで、臨床情報は、例えば、関係する医学的所見、患者症例の事前検査の間に調製されたキー画像、1つ以上の以前の(構造化された)医学的報告、検討中の患者に関係する個人情報、患者記録などを含むことができる。いくつかの実施例によれば、医用情報システム40は、コンピュータ断層撮影システム、磁気共鳴システム、血管造影(又はCアームX線)システム、ポジトロン放出断層撮影システム、マンモグラフィシステム、デジタル病理画像を取得するためのシステムなどの、1つ又は複数の医用画像診断モダリティ(図示せず)も含むことができる。
【0187】
ユーザインタフェース10は、表示部11と入力部12とからなる。ユーザ・インターフェース10は、スマートフォン又はタブレット・コンピュータのようなモバイル・デバイスによって具体化され得る。さらに、ユーザインタフェース10は、デスクトップPC又はラップトップの形態のワークステーションとして具現化することができる。入力ユニット12は、例えばタッチスクリーンの形態のディスプレイユニット11に一体化されてもよい。代替形態として、又はそれに加えて、入力ユニット12は、鍵盤、マウス又はデジタルペン及びそれらの任意の組合せを含むことができる。表示部11は、対象医用画像群TMIS及び/又は参照医用画像群RMISの表示を表示するように構成することができる。特に、表示ユニット11は、対象医用画像群TMIS及び/又は参照医用画像群RMISの個々のスライスを表示するように構成することができる。
【0188】
ユーザインタフェース10は、さらに、表示ユニット11及び入力ユニット12をサービスするための少なくとも1つのソフトウェア構成要素を実行するように構成されたインターフェースコンピューティングユニット13を含み、これは、ユーザが再検討されるべきターゲットの医用画像検査TSを選択することを可能にするため、ターゲットの医用画像検査TSからターゲットの医用画像群TMIのユーザ選択を受信するため、及び/又はターゲットの医用画像群TMIに関心領域ROIを定義するためのグラフィカル・ユーザインタフェース(例えば、図36~38)を提供するため、及び/又はターゲットの医用画像群TMIに関心領域さらに、インタフェイスコンピューティングユニット13は、対象医用画像群TMISとの比較のために1つ以上の参照医用画像群RMISを受信するための医用情報システム40又は処理システム20と通信するか、又は参照医用画像群RMISに関連するデータを表示するように構成されている。ユーザは、ユーザ・インタフェース10を介してソフトウェア・コンポーネントを起動することができ、また、例えばインターネット・アプリケーション・保存からダウンロードすることによって、ソフトウェア・コンポーネントを取得することができる。一例によれば、ソフトウェアコンポーネントは、ウェブブラウザで実行されるウェブアプリケーションの形態のクライアントサーバコンピュータプログラムであってもよい。インタフェイスコンピューティングユニット13は、一般的な処理装置、中央処理ユニット、制御プロセッサ、グラフィック処理ユニット、デジタル信号プロセッサ、三次元レンダリング処理装置、画像処理装置、特定用途向け集積回路、フィールドプログラマブルゲートアレイ、デジタル回路、アナログ回路、その組合せ、又は画像データを処理するための他の現在知られている装置であってもよい。
【0189】
処理システム20は、プロセッサであってもよい。この処理装置は、一般的な処理装置、中央処理装置、制御プロセッサ、グラフィック処理装置、デジタル信号プロセッサ、三次元レンダリング処理装置、画像処理装置、特定用途向け集積回路、フィールドプログラマブルゲートアレイ、デジタル回路、アナログ回路、これらの組合せ、又は画像データを処理するための現在知られている他の装置であってもよい。プロセッサは、単一の装置であってもよいし、直列、並列、又は別々に動作する複数の装置であってもよい。プロセッサは、ラップトップ又はデスクトップコンピュータのようなコンピュータのメインプロセッサであってもよいし、医療情報システム又はサーバのような、より大きなシステムにおけるいくつかのタスクを処理するためのプロセッサであってもよい。プロセッサは、本明細書に記載するステップを実施するために、命令、設計、ハードウェア、及び/又はソフトウェアによって構成される。あるいは、処理システム20は、いわゆる「クラスタ」又は「クラウド」のような、コンピュータの実グループ又は仮想グループを含むことができる。そのようなサーベイシステムは、セントラルサーベイ、例えば、クラウドサーベイ、又は、例えば、病院又は放射線科サイト上に位置する、地方のサーベイであってもよい。さらに、処理システム20は、医療用画像データセットMIDS-1、MIDS-2を一時的にロードするためのRAM等のメモリを備えることができる。あるいは、そのような記憶は、ユーザインタフェース10内に含まれてもよい。
【0190】
(対象医用画像群TMIS、参照医用画像群RMIS、候補医用画像群CMISの形態のようである)ここに記載される医用画像群は、例えば、コンピュータ断層撮影システム又は磁気共鳴撮像システム又は他のシステムを使用して取得される三次元画像データセットであってもよい。画像情報は、m×n×pボクセルの三次元アレイで符号化されることがある。各医用画像医用画像群RMIS、TMIS、CMISは、それぞれの医用画像群RMIS、TMIS、CMISに覆われた画像ボリュームにまたがるように積層方向に積層された複数の画像スライスS-1、S-2(ちょうど「スライス」としても表される)を含むことができる。
【0191】
さらに、医用画像群RMIS、TMIS、CMISは、m×n画素のアレイで画像情報が符号化された1つ以上の個々の二次元医用画像を含むことができる。いくつかの例によれば、これらの二次元医用画像は三次元医用画像群から抽出されている。他の例によると、二次元医用画像は、X線画像モダリティのような適切な画像モダリティを用いて別々に取得されている。
【0192】
ボクセル又はピクセルの集合は、次の中で、それぞれのデータ集合の撮像データとして指定されることがある。一般に、超音波、X線、血管造影、透視法、陽電子放出断層撮影、単一光子放射型コンピュータ断層撮影、又は他のような撮像データを取得するために、任意の種類の画像モダリティ及びスキャナを使用することができる。一般に、医用画像群RMIS、TMIS、CMISは、様々な解剖学的構造及び器官を構成し得る患者の身体部分を示す。胸部領域を身体部分として考えると、医用画像群RMIS、TMIS、CMISは、例えば、肺葉、胸郭、心臓、リンパ節などを描出することができる。例えば、適切な画像閲覧ソフトウェアによって処理されると、医用画像データIDは、それが表現する医用画像(又は医用画像)のレンダリング又は表示を生じる。
【0193】
医用画像群RMIS、TMIS、CMISは、1つ又は画像ファイルIFの形式で保存されることがある。画像ファイルIFの一例を図2に示す。画像ファイルIFは、実際の医用画像データIDを記憶することができ、そして医用画像データIDの内容を示すテキストストリングを含む属性値AVをそれぞれ有する1つ以上の属性Aをさらに記憶することができる。
【0194】
1つ以上の属性値AVは、医用画像データIDに対して分離され、それと区別され、その代わりに、医用画像データIDの内容を示すテキストストリングを含む。このような属性値AVは、いくつかの例では、画像ファイルIFのメタデータと呼ばれることがある。いくつかの例では、属性A及び属性値AVを保存する画像ファイルIFの部分は、画像ファイルIFのヘッダとして参照され、属性A及び属性値AVは、画像ファイルIFのヘッダデータとして参照され得る。
【0195】
画像データファイルIFの具体例は、DICOM(Digital Imaging and Communications in Medicine)ファイルである。DICOMファイルの例は、以下でより詳細に記述されるように、図3に図示される。概観では、DICOMファイルは、指定されたデータ要素IF-312の中の画素データとして医用画像データIDを保存し、さらに、医用画像データIDの内容を示すテキストストリングを含む属性値AVを各々有する1つ以上の他のデータ要素IF-310として保存する。そのようなDICOM属性IF-310は、属性値IF-314が、その医用画像データがその一部である検査(例えば、医用画像データが患者の頭部領域である「NERUO^HEAD」)を記述するテキストストリングであり、それによって医用画像データ316の説明を示す「検査記述」である。DICOM属性のような他の例、例えば「群説明」、「検査された身体部位」は他のものと同様である。
【0196】
ある例では、所定の時間及び所定の患者について、放射線科医は、患者に対して医用画像検査を実施することができる。異なる時期に異なる試験が実施されることがある。特定の検査は、患者の特定の身体部分に対して、そして特定の画像モダリティ(例えば、MR)を使用することがある。場合によっては、複数の検査が患者の複数の身体部分にあること、及び/又は複数の画像モダリティ(すなわち、複数の装置によって捕捉される)を持つことがある。検査結果は、1つ以上の医用画像データファイルIFに保存されることがある。与えられた検査CS、RS、TSは、医用画像の1つ以上の群TMIS、CMIS、RMISを含むことがある。例えば、所定の群TMIS内で、検査TS、CS、RS内のCMIS、RMIS内で、医用画像が、同一の画像パラメータ(例えば、患者の方向、Echo TimeなどのMR特定画像パラメータ)を用いて捕捉されていた可能性がある。検査TS、CS、RS内の各群TMIS、CMIS、RMISは、画像パラメータが異なる場合がある。いくつかの例では、画像ファイルIFは、特定の群内及び特定の検査内の画像を表す医用画像データIDを保存する。同じ検査TS、CS、RSの一部である医用画像を表現する医用画像データIDを保存する画像ファイルIFは、例えば、同じ群TMIS、CMIS、RMISの一部である医用画像を表現する医用画像データIDを保存する同じ固有の検査識別子、及び画像ファイルIFを、例えば、同じ固有の群識別子を持つことがある。いずれにせよ、与えられた検査は、少なくとも1つのそのような画像ファイルの少なくとも1つの群を持つことがある。
【0197】
ここに記載される方法及びシステムは、ユーザが現在検討している患者の対象医用画像検査TSに関して、医用情報システム40で利用可能な患者の複数の候補医用画像検査CSから適切な参照医用画像検査RSを自動的に選択することを目的とする。さらに、選択された参照医用画像検査RSに含まれる複数の候補医用画像群CMISから適切な参照医用画像群RMISを自動的に選択することを目的として、ここに記載される方法及びシステム。さらに、ここに記載される方法及びシステムは、対象医用画像群TMISを参照医用画像群RMISに自動的にレジストレーションし、それに基づいて表示データを生成することを目的とする。この目的のために、処理システム20は、関与する検査TS、CS、TS及び群TMIS、CMIS、RMISを適宜処理するように構成された複数のサブユニット21~27を含むことができる。
【0198】
サブユニット21は、データ取得モジュール又はユニットである。医用画像グループTS、CS、RS及び/又は対応する医用画像群TMIS、CMIS、RMIS及び/又は対応する画像ファイルIFのために医用情報システム40にアクセス及び/又は探索するように構成されている。例えば、サブユニット21は、現在検討中の対象医用画像検査TSの対象医用画像群TMISに関して、患者の潜在的に関連する全ての事前検査(すなわち、候補医用画像検査CS)について医用情報システム40に問い合わせるように構成することができる。具体的には、サブユニット21は、探索問合せを公式化し、それらを医療情報システム40にパースするように構成することができる。特に、サブユニット21は、利用可能な情報からデータ識別子を抽出し、これらを医療情報システム40に照会するために使用するように構成することができる。
【0199】
サブユニット22は、検査選択モジュール又はユニットとして考えられる。複数の医用画像検査CSの候補から、参照医用画像検査RS、特に関心領域ROIに対して特に関連性のある少なくとも1つの対象医用画像検査TSを選択するように構成されている。この目的のために、サブユニット22は、各医用画像検査TS、CSを決定し、各画像検査TS、CSが表す身体領域を比較するように構成することができる。さらなるサブユニット22は、このように誘導された身体領域を互いに比較して、参照医用画像検査RSを決定するように構成することができる。身体領域を比較することは、それによって、各々の候補医用画像検査CSと対象医用画像検査TSとの適合性の程度を決定することを含むことがある。具体的には、サブユニット22は、ここに記載されるようにステップS30及びS40を実行するように構成することができる。さらに、サブユニット22は、図5ないし9に関連して説明された方法ステップを実行するように、及び/又はこの関連で説明された画像処理機能を宿主に実行するように構成されてもよい。
【0200】
サブユニット23は、群選択モジュール又はユニットとして考えられる。参照医用画像検査RSに含まれる複数の候補医用画像群CMISから、対象医用画像群TMISと容易に比較できる少なくとも1つの参照医用画像群RMISを選択するように構成されている。具体的には、サブユニット23は、各候補医用画像群CMISと対象医用画像群TMISとの比較可能性の程度を決定するように構成することができる。そして、最も高い比較可能性の程度を有する候補医用画像群CMISを、参照医用画像群RMISとして選択することができる。具体的には、サブユニット23は、ここに記載されるようにステップS50を実行するように構成してもよい。さらに、サブユニット23は、図10及び11と関連して説明された方法のステップを実行するように、及び/又はこの関連で説明された画像処理機能を宿主に実行するように構成されてもよい。
【0201】
サブユニット24は、レジストレーションモジュール又はユニットとして考えられることがある。サブユニット24は、対象医用画像群TMISと参照医用画像群RMISのレジストレーションを実行するように構成され、従って、ここに記載されるようにステップ60を実行するように構成されている。特に、サブユニット24は、一方の画像群の撮像データを他方の画像群の座標系に本質的に変換する座標変換を計算するように構成することができる。サブユニット24によって提供される計算結果は、二次元又は三次元の変換行列又は変形フィールドの形式であってもよい。サブユニット24は、剛体画像レジストレーション、アフィン画像レジストレーション、非剛体画像レジストレーション、及びそれらの任意の組合せを含む1つ以上の画像レジストレーション技術を適用するように構成することができる。レジストレーションの結果を改善するために、サブユニット24は、計算結果を軟組織変形のための1つ以上の運動モデルに数学的に適合させるように任意に構成されてもよい。代替又は上記のレジストレーション技術に加えて、サブユニット24は、個々のスライス間の画像類似性に基づいて、対象医用画像群TMIS及び参照医用画像群RMISのスライスを互いに相関又は同期させ、それによって参照医用画像群RMISと対象医用画像群TMISとの間のレジストレーションを提供するように構成することができる。この点に関して、サブユニット24は、図12~17に関連して説明された方法ステップを実行するように、及び/又はこの関連で説明された画像処理機能を宿主に実行するように構成されてよい。さらに、サブユニット24は、参照医用画像群RMIS及び対象医用画像群TMISにおいて類似のパターンを直接識別し、これらのパターンのそれぞれの位置を参照医用画像群RMIS及び対象医用画像群TMISにおいて相関させることによって、レジストレーションを提供するように構成することができる。この点に関して、サブユニット24は、図19~26に関連して説明された方法ステップを実行するように、及び/又はこの関連で説明された画像処理機能を宿主に実行するように構成されてよい。
【0202】
サブユニット25は、注釈モジュール又は単位として考えられることがある。参照医用画像群RMIS (もしあれば)の中に含まれる注釈に基づいて対象医用画像群TMISを注釈すること、及び/又は患者の医用レポートRM-504の既存のセクションF1-F3に対象医用画像群TMISに割り当てられた注釈を一致させることを構成することができる。サブユニット25は、図27~34に関連して説明された方法ステップを実行するように、及び/又はこの関連で説明された画像処理機能をホストするように構成されてもよい。
【0203】
サブユニット26は、比較モジュール又はユニットとして構成されてもよい。サブユニット26は、例えば、参照医用画像群RMISと対象医用画像群TMISとで構成される撮像データIDを互いに比較して、参照医用画像群RMISと対象医用画像群TMISとの間の変化を決定するように構成することができる。さらに、サブユニット26は、参照医用画像群RMISと対象医用画像群TMISにおいて、異常Aの異なる表現を相関させるように構成してもよい。また、サブユニット26は、相関関係に基づいて異常の変化を定量化するように構成してもよい。この目的のために、サブユニット26は、参照医用画像群RMISから対象医用画像群TMISへの異常のサイズ及び/又はボリューム及び/又は集約度及び/又は質感及び/又は他のパラメータ変化を決定するように構成され得る。
【0204】
サブユニット27は、少なくとも参照医用画像群RMISに基づいて表示データを生成するように構成された視覚化モジュールとして考えられることができる。具体的には、サブユニット27は、レジストレーションに基づいて関心領域ROIに対応する参照医用画像群RMISの表示を行うように構成することができる。さらに、サブユニット27は、関心領域ROI及び/又は参照医用画像群RMISのレンダリングを、変更を強調及び注釈を追加して提供するように構成することができる。そのような表現は、任意の変化及び/又は注釈が視覚的に符号化される補助画像の形態であり得る。これは、あらゆる変更及び/又は注釈が、その表現において拡張されることを意味する可能性がある。具体的には、サブユニット27は、半透明オーバーレイ画像を、変更及び/又は注釈を、対応するように描画された関心領域ROI及び/又は参照医用画像群RMISの対応する領域上に重ね合わせるように、描画するためのアルゴリズムを実行又は実行するように構成することができる。
【0205】
別個のサブユニット21~27の指定は、例示的に解釈されるべきであり、限定的ではない。従って、サブユニット21-27は、1つの単一ユニットを形成するように統合されてもよく(例えば、「コンピューティングユニット30」の形態で)、又は処理システム20のプロセッサなどで実行する対応する方法ステップを実行するように構成されたコンピュータコードセグメントによって具体化されてもよい。同じことは、インターフェースコンピューティングユニット13に関しても同様である。各サブユニット21~27及びインターフェースコンピューティングユニット13は、方法ステップを実行するためにデータ交換が必要とされるシステム1の他のサブユニット及び他の構成要素に個別に接続することができる。例えば、サブユニット21及び27は、インターフェース29を介して医療情報システム40に接続して、医療IFを検索することができる。同様に、インターフェース29は、サブユニット21~27をインターフェース演算ユニット13に接続して、演算結果をユーザに転送し、ユーザ入力を収集してもよい。
【0206】
処理システム20とインターフェースコンピューティングユニット13は共にコンピューティングユニット30を構成することができる。注目すべきは、コンピューティングユニット30のレイアウト、すなわち、インターフェースコンピューティングユニット13及びサブユニット21~27の物理的分布は、原則として任意である。例えば、サブユニット27(又は、それの個々の要素又は特定のアルゴリズムシーケンス)も同様に、ユーザインタフェース10に局在化され得る。他のサブユニット21~26についても同様である。具体的には、処理システム20は、ユーザインタフェース10内に統合されてもよい。既に言及されているように、処理システム20は、代替的に、例えば、クラウドサーバ、又は例えば、病院又は放射線学サイト上に配置された、局所的なサーバとして具体化され得る。このような実装によれば、ユーザインタフェース10はユーザに接する「フロントエンド」又は「クライアント」として指定することができ、一方処理システム20は「バックエンド」又はサーバとして考えることができる。ユーザインタフェース10と処理システム20との間の通信は、例えばhttps-protocolを使用して行われてもよい。システムの計算能力は、ユーザとクライエントとの間(すなわち、ユーザ・インターフェース10)に分配され得る。「シン・クライエント」システムでは、コンピュータ能力の大部分が、サーバに存在する。”シック・クライエント”システムでは、より多くの計算能力、そしておそらくはデータがクライエント上に存在する。
【0207】
システム1の個々の構成要素は、データ転送及び/又は交換のために、少なくとも一時的に互いに接続され得る。ユーザ・インターフェース10は、例えば、患者データTPD、データ・記述子又は計算の結果を交換するために、インターフェース29を介して処理システム20と通信する。例えば、処理システム20は、要求ベース上で起動され得、要求は、ユーザインタフェース10によって送信される。さらに、処理システム20は、ターゲット患者の症例を検索するために医療情報システム50と通信することができる。代替形態として、又はそれに加えて、ユーザインタフェース10は、医療情報システム40と直接通信することができる。医用情報システム40も同様に、要求ベース上で起動され得、ここで、要求は、処理システム20及び/又はユーザインタフェース10によって送られる。データ交換のためのインターフェース29は、ハードウェア又はソフトウェアインターフェース、例えば、PCIバス、USB、又はファイアワイヤとして実現することができる。データ転送は、ネットワーク接続を使用して実現することができる。ネットワークは、局所・エリア・ネットワーク、例えばイントラネット又はワイド・エリア・ネットワークとして実現することができる。ネットワーク接続は、好ましくは無線、例えば無線LAN (WLAN又はWi-Fi)としてである。さらに、ネットワークは、複数のネットワーク例の組合せを含み得る。ユーザ11、12と界面するための構成要素と共にデータ交換を行うためのインターフェース29は、システム1のインターフェースユニットを構成するものと見なすことができる。
【0208】
図4は、対象医用画像群TMISのための参照医用画像群RMISを得るための方法、及び/又はそのベースに表示データを生成するための方法を示す。この方法はいくつかの段階から成る。ステップの順序は、必ずしもステップの番号付けに対応するものではないが、本発明の異なる実施例間で変化し得る。さらに、個々のステップ又は一連のステップを繰り返すことができる。
【0209】
第一段階S10では、対象医用画像群TMISが受信される。対象医用画像群TMISは、ユーザーが追跡解析を行いたいベースのターゲット画像データとして見ることができる。これは、例えば医療情報システム40に保存された、対応する対象医用画像検査TSにおける複数の群から対象医用画像群TMISを選択することを含むことができる。この選択は、ユーザインタフェース10で動作するグラフィカル・ユーザインタフェースにおいて、例えば適切な対象医用画像群TMISを選択することによって、ユーザによって手動で実行されてもよい。あるいは、対象医用画像群TMISをコンピューティングユニット30にアップロードすることによって、ユーザによって対象医用画像群TMISをコンピューティングユニット30に提供することができる。ステップS10は、ユーザインタフェース10上又は処理システム20上のいずれかで少なくとも部分的に実施することができる。必要に応じて、対応するデータ交換をこのステップに含める。
【0210】
ステップS20では、対象医用画像群TMIsに関する関心領域ROIが得られる。関心領域ROIを得ることは、ユーザインタフェース10を介してユーザが手動で実施した領域の手動定義を含むユーザ入力を得ることができる。あるいは、関心領域ROIを得ることは、自動的又は半自動的に行われ得る。いくつかの実施例によれば、図35~39に関連して記載されたように、すなわち、評価ツールML-40で関心領域を得ることができる。関心領域ROIの手動及び半自動定義は、望ましくはユーザインタフェース10のグラフィカル・ユーザインタフェースを介して、対象医用画像群TMISの表現を表現することを含むことができる。ユーザは、例えば、表示された表示画像RIにオーバレイとしてユーザのために視覚化された関心領域ツールML-40を位置することができる。任意に、道具のサイズ及び/又は形状のさらなる順応に従うことができる。代替手段として、又はそれに加えて、関心領域ROIの定義は、関心領域ROIの自由手選択を含み得る。例えば、任意の適切な入力ユニット12を用いて関心領域ROIの輪郭を後退させることにより、関心領域ROIの自由手選択を含み得る。さらに、関心領域ROIの定義は、対象医用画像群TMISにおける特徴を同定することに基づくことができる。これは、患者の病的状態を示す解剖学的特徴である可能性がある。ここで、言い換えれば、関心領域ROIの位置、サイズ、及び形状は、対象医用画像群TMISに存在する異常又は非定型特徴に依存することが好ましい。異常な特徴は、解剖学的構造、器官又は組織の、肺、心臓、容器、脳のような偏位、例えば、局所組織密度の増加又は低下、嚢胞、石灰化などに対応することができる。このように、非定型解剖学的特徴は、患者の病理学的状態を表す。さらに、その特徴は、病理像又は病理学的特徴における特徴に関連することがある。特徴は、放射線科医/病理学者によって視覚的に検査されるか又は同定されるか、又は特徴抽出及び/又はこのステップS20に任意に含まれる物体検出ステップの結果であり得る。ステップS20は、ユーザインタフェース10上又は処理システム20上のいずれかで少なくとも部分的に実施することができる。必要に応じて、対応するデータ交換をこのステップに含める。
【0211】
ステップS30では、対象医用画像群TMISで表される身体領域408が決定される。身体領域408の判定は、対象医用画像群TMISに基づいて、又は対象医用画像グループTS上で、対象医用画像群TMISが対応するようにしてもよい。身体領域408を決定するために、対象医用画像群TMIS及び/又は対象医用画像検査TSの撮像データを評価することができる。例えば、医用画像データの中の解剖学を認識するように構成された画像認識アルゴリズムを、対象医用画像検査TSの医用画像データIDに適用して、対象医用画像検査TSによって表される1つ以上の解剖学的構造を決定することができる。次いで、解剖学的構造に基づき、身体領域408を決定することができる。代替手段として、又はそれに加えて、対象医用画像検査TSに含まれる医用画像データIDの内容を示す属性値AVを評価して、身体領域408を導出することができる。医用画像検査及び/又は医用画像群の身体領域の判定に関するさらなる詳細は、図5~7に関連して説明する。ステップS30は、主に処理システム20上で行われ得る。必要に応じて、対応するデータ交換をこのステップに含める。
【0212】
ステップS40では、複数の候補医用画像検査CSから少なくとも1つの参照医用画像検査RSが選択される。前述したように、参照検査RSは、現在ユーザーが開いている対象医用画像検査TSとの比較に関連があると考えられる。特に、選択は、ステップS30で決定された身体領域408に基づくことができる。この点に関して、ステップS40は、候補医用画像検査CSの各々について、候補身体領域408を決定するように指示された任意のサブステップS41を含むことができる。従って、候補身体領域408の判定は、ステップS30に関連して記載されているように本質的に行うことができる。オプションのサブステップS42では、対象医用画像検査TSとそれぞれの候補医用画像検査CSが同等であるかどうかを判断するために、対象医用画像検査TSに対して決定された身体領域408を候補身体領域408の各々と個別に比較する。具体的には、示された解剖学的構造の観点から、それぞれの候補医用画像検査CSが対象医用画像検査TSにどの程度よく一致するかを測定する、各候補医用画像検査CSに対して、適合度を計算することができる。身体領域408(適合度)の比較に基づいて、1つ以上の参照医用画像検査RSが候補画像検査CSから選択されることがある。身体領域408の判定に関するさらなる詳細、身体領域の比較、及びそれに基づく参照研究RSの同定は、図8及び9に関連して提供される。
【0213】
さらに、ステップS40は、任意選択のサブステップS43において、複数の医用画像検査候補からの身体領域408の比較に基づいて、複数の潜在的に関連する画像検査を識別することを含むことができる。このような潜在的に関連する画像検査は、他の候補画像検査CSと同等の高い適合性を示す候補画像検査CSである可能性がある。次の任意選択サブステップS44において、複数の潜在的に関連する画像検査の指標を、ユーザインタフェース10を介してユーザに提供することができる。その代わりに、ユーザ選択は、オプションのサブステップS45においてユーザインタフェース10を介して受信され得、そこでは、ユーザ選択は、関連する画像データファイルの少なくとも1つの専用に向けられる。続いて、ステップS46において、ユーザ選択に示された専用画像グループRSを参照画像グループRSとして選択してもよい。
【0214】
前述したように、選択された任意の参照医用画像検査RSは、ほとんどの場合、複数の医用画像群を含み、これらは、候補医用画像群CMISと呼ばれる。選択された参照医用画像検査RSの少なくとも1つの関連医用画像群をユーザに自動的に提供するために、ステップS50は、候補医用画像群CMISから、ユーザによる追跡読影のための合理的に良好な基礎を提供する少なくとも1つの参照医用画像群RMISを識別するように指示される。この目的のために、それぞれの候補医用画像群CMISが、対象医用画像群TMISとどの程度よく比較できるかを測定する、各候補医用画像群CMISについて、任意のサブステップS51で、比較可能性の程度を決定することができる。従って、それぞれの医用画像群TMIS、CMISに含まれる撮像データIDの特性は、TMIS、CMISのさらなるメタデータ、例えば、それぞれの医用画像群を捕捉するために使用される画像パラメータのようなCMISと同様に評価することができる。特に、これは、それぞれの医用画像群TMIS、CMISに関連する属性値AVを評価することを含むことがある。ステップS50の群マッチングプロセスに関するさらなる詳細は、図10及び11に関連して提供される。
【0215】
さらに、ステップS50の選択は、少なくとも1つの参照医用画像群RMISを選択するためのユーザ相互作用を含むことができる。具体的には、ステップS50は、任意選択のサブステップS52において、候補医用画像群CMISから複数の潜在的に関連する画像群を識別することを含むことができる。これは、決定されたステップS51の同等性/同質性の程度に基づいていると考えられる。潜在的に関連する画像群は、他の候補医用画像群CMISと同等の高い比較可能性を示すそれらの候補医用画像群CMISであってもよい。次の任意選択サブステップS53において、複数の潜在的に関連する画像群の指標を、ユーザインタフェース10を介してユーザに提供することができる。代わりに、ユーザ選択は、オプションのサブステップS54においてユーザインタフェース10を介して受信され得、ここで、ユーザ選択は、関連する画像群の少なくとも1つの専用に向けられる。続いて、ステップS55において、ユーザ選択で示された専用画像を参照医用画像群RMISとして選択することができる。
【0216】
ステップS60は、参照医用画像群RMISと対象医用画像群TMISとのレジストレーションが提供されるレジストレーションステップである。このようなレジストレーションを実現するには様々な方法がある。この点に関して利用可能な選択肢には、硬性レジストレーション、アフィンレジストレーション、非硬性レジストレーション、非アフィンレジストレーション、及びそれらのあらゆる組合せが含まれる。具体的には、対象医用画像群TMISと参照医用画像群RMISの座標系を連結するレジストレーションを得ることができる。言い換えると、1つの医用画像群TMIS、RMISのそれぞれの画像データを、それぞれの他のRMIS、TIMSの座標系に変換することができる変換を計算することができる。この目的のために、対象医用画像群TMISの少なくとも一部は、参照医用画像群RMISの少なくとも一部にレジストレーションされる。本質的には、これは2つの画像群の中の対応するデータポイントを識別することで構成されることがある。このような対応するデータポイントを同定することにより、2つの画像群間の座標系における局所シフトの指標となるこれらの対応するポイント間の局所オフセットを計算することが可能である。これを、基礎となる画像群中に十分に分布した複数の対応するデータ点に対して行うことは、それぞれの画像群間の変位及び変形の良好な指標をすでに提供する。座標変換によるこのような正式なレジストレーションとは別に、医用画像群TMIS、RMISにおける対応するスライス又は画像パターンを識別することに基づいてレジストレーションを行うことができる。それにより、対象医用画像群TMISにおけるスライス、特に関心領域ROIのスライスは、完全な座標変換を計算する必要なく、参照医用画像群RMIS (後述する参照スライスREF-SLCとしても指定されることがある)における対応する画像スライスを割り当てることができる。ステップS60の可能な実施に関する更なる選択肢は、図12から26に関連して与えられる。
【0217】
ステップS70は、表示データを生成して、ユーザ・インターフェース10に、参照医用画像群RMISのレンダリングを表示するように、装置に表示させるように指示される。特に、レンダリングは、ステップS60で決定された、参照医用画像群RMISから抽出された撮像データIDが、現在ユーザがレビューしている対象医用画像群TMISの撮像データIDに相当する旨のレジストレーションに基づくことができる。具体的には、レンダリングは基準画像スライスREF-SLCに基づくことができる。
【0218】
図5を参照すると、ステップS30及びS41で実施することができるように、第1の画像ファイルに保存された医用画像データによって表される身体領域を決定するコンピュータ実施方法が図示されている。
【0219】
大まかな概観として、図5の方法は、以下を含む:
ステップBR-1において、例えば対応する画像ファイルIFを評価することによって、それぞれの画像検査TS、CSのテキストストリングAF、IF-314の1つ以上を取得すること;
ステップBR-2において、得られた1つ以上のテキストストリングAF、IF-314を訓練済み機械学習モデル(例えば、図6の訓練済みニューラルネットワーク406を参照)に入力し、1つ以上のそのようなテキストストリングの入力に基づいて身体領域を出力するように訓練済み機械学習モデル406を用い、それによって訓練済み機械学習モデル406からの出力を得て、医用画像データIDによって表される身体領域408を決定する。
【0220】
そのようなテキストストリングの入力に基づいて身体領域を決定するよう訓練済み機械学習モデル406(例えば、ニューラルネットワーク)に、対象医用画像検査TSに関連する1つ以上のテキストストリングAV、IF-314を入力することによって、医用画像データIDによって表される身体領域408を決定することは、ターゲット及び/又は候補画像検査TS、CSに含まれる医用撮像データ身体領域408の効率的及び/又は柔軟な決定を提供することができる。
【0221】
例えば、ファイルIFのテキストストリングに基づいて身体領域を決定すること(これらは、ビットに関しては比較的小さい)は、例えば、医用画像データ自体(ビットに関しては比較的大きい)を抽出し分析することによって身体領域を決定するよりも、資源集約性が低く、従って効率的であり得る。画像ファイルがネットワーク上の処理装置から遠隔保存される場合、(比較的小さい)テキストストリングに基づいて身体領域を決定することにより、(比較的大きい)医用画像データが、代表される身体領域を決定するためにネットワーク上で送信される必要がないことを可能にし、それによってネットワーク資源の効率的な利用を可能にする。
【0222】
別の例として、訓練済み機械学習モデル(例えば、訓練済み神経回路網)にテキストストリングを入力することによって身体領域を決定することは、例えば、テキストストリングにハードコード化された規則を適用することによって身体領域を決定することと比較して、身体領域の効率的で、柔軟及び/又はロバストな決定を提供することができる。例えば、ハードコーディングされたルールは、本文領域を提供するために、ルールにテキストストリングを正確に一致させる必要がある(したがって、一致を判定できるテキストストリングに関して柔軟性がない、及び/又は、使用できる可能性のある全てのテキストストリングに対してコーディングされる必要があるルールのセットの完全な性質において非効率的である)。一方、訓練済み機械学習モデル(例えば、訓練済み神経回路網)は、それが訓練済み訓練データ集合から一般化され、従って、訓練データ集合のそれらとは複数のテキスト列に対してさえ、比較的効率的に、そして適切な身体領域を得ることができ、そして決定することができ、したがって、比較的柔軟/頑健である。
【0223】
従って、医用画像データによって表される身体領域の効率的及び/又は柔軟な自動決定が提供され得る。
【0224】
いくつかの例によれば、訓練済み機械学習モデルは、それが不十分な場合に、ルールにベースシステムの一般化を可能にするために、ルールにベースシステムを補完する(又は補完することがある)こともある。ルールベースシステムは、参照医用画像検査RSを選択するための1つ以上の選択規則を実装することがある。選択規則は、例えば、規制要件及び/又は医療指針から生じることがある。
【0225】
いくつかの例において、対象医用画像検査TSの撮像データIDによって表される身体領域408の判定は、次に、対象医用画像検査TSに含まれる撮像データIDに関連する(例えば、比較に適切である)候補医用画像検査CSの基準撮像データの自動選択を容易にすることができる。例えば、現在の検査のファイルの医用画像データによって表される身体領域408を決定することは、患者の同じ身体領域の以前の検査の医用画像データを選択するために使用され得る。これについては、図6及び図7を参照して、以下により詳細に説明する。
【0226】
上述したように、いくつかの例において、医用画像データファイルIFは、DICOMファイルIF (すなわち、DICOM標準「NEMA PS3/ ISO 12052、Digital Imaging and Communications in Medicine (DICOM) Standard、National Electrical Manufacturers Association、Rosslyn、VA、USA)によるDICOMファイルIF)であり得る。再び図3を参照すると、DICOMファイルIFは、より詳細に、ヘッダIF-302及びデータセットIF-308を含む。ヘッダIF-302は、128バイトのプリアンブルIF-304(使用されていない場合は、全てのバイトがゼロに設定されている)及び文字列「DICM」を含む4バイトのプレフィックス306を含む。データセットIF-308にはデータ要素(データエレメント)IF-310、IF-312が含まれている。各データ要素IF-310、IF-312は、Tagを構成し、Tagによって識別される。各タグは(XXXX,XXXX) の形式で、「X」 はそれぞれ16 進数である。DICOMファイル300は、ファイルがその一部である検査の一意識別子を「検査ID」データ要素(示されていない)(すなわち、DICOMタグ(0020、0010)によって識別される)に保存することができる、そしてファイルがその群の一部である一意識別子を「群ID」データ要素(示されていない)(すなわち、DICOMタグ(0020,000E)によって識別される)に保存することができる。
【0227】
DICOMファイルIFは、医用画像データID (この場合は画素データ)を、DICOMファイルIFの「画素データ」データ要素IF-312(すなわち、DICOMタグ(7FE0、0010)によって識別される)に保存する。DICOMファイルIFは、さらに、医用画像データIDの内容を示すテキストストリングを含む属性値IF-314を、各々有する1つ以上の属性IF-310(1つ以上の他のデータ要素310によって提供される)を保存する。例えば、そのような属性の1つは、「検査記述」(すなわち、医用画像データが患者の頭部領域である「NERUO^HEAD」又は医用画像データが患者の骨盤領域である「PELVIS^PROSTATE」)であり、それによって医用画像データIDの説明を示す属性値IF-314が、その医用画像データが一部である検査を記述するテキストストリングである「DICOMタグ(0008、1030)によって識別される。いくつかの例では、属性IF-310及び属性値IF-314はヘッダIF-302に含まれず、むしろデータセットIF-308に含まれてもよいが、属性IF-310及び属性値IF-314(医用画像データID自体を保存するデータ要素IF-312を含まない)は、医用画像データID自体ではなく医用画像データIDに関連するデータであるため、時としてDICOMファイルIFのヘッダデータと呼ばれることがある。
【0228】
医用画像データの内容を示すテキスト列を含む属性値を持つ他の例DICOM属性が使用されることがある。例えば、他のそのようなDICOM属性は、医用画像データが一部である群(例えば、医用画像データが全骨盤であることを示す「ax t1全骨盤」が、軸方向で捕捉され、かつT1型MRIを使用している)を記述する「群記述」(すなわち、DICOMタグ(0008、103E)によって識別される)である。例えば、他のそのようなDICOM属性は、'Body Part Examined' (すなわち、識別されたDICOMタグ(0018,0015))であり、これは、検査された身体部分(例えば、「PELVIS」は、医用画像データが骨盤のものであることを示す)を示す。他のそのような任意DICOM属性が存在し、使用され得ることが認識されるであろう。いくつかの例において、DICOM属性「要求済手続きのための理由」(すなわち、DICOMタグ(0040、1002)によって識別される)もまた使用されることがある。
【0229】
さらに、幾つかの例では、DICOMファイル以外のそのような画像ファイルが使用され得ることが認識されるであろう。例えば、いくつかの例では、画像ファイルは、そのチャンクの1つに医用画像データを保存するポータブルネットワークグラフィックス(PNG)ファイルであってもよく、医用画像データの内容を示すテキストストリングを含む属性値をそれぞれ有する1つ以上の属性を含むチャンクの別のメタデータであってもよい。
【0230】
いくつかの例では、そのようなテキストストリングの1つを訓練済み機械学習モデル(例えば、訓練済み神経回路網)に入力することができる。しかしながら、他の例では、対象医用画像検査及び/又は対象医用画像群TMISに関連する医用画像データファイルの複数属性IFの複数属性値からのこのような複数のテキストストリングが、一次ファイルの医用画像データによって表される身体部分を決定するために、訓練済み機械学習モデル(例えば、訓練済み神経回路網)に一緒に入力されることがある。例えば、これは、身体領域のより正確及び/又は確実な判定を提供し得る。例えば、訓練済み機械学習モデル(例えば、訓練済み神経回路網)が身体領域を決定する精度は、決定が基になる入力データ(最初のファイルからのそのようなテキストストリングの数)の増加によって改善され得る。別の例として、テキストストリングの1つがたまたま信頼できない及び/又は欠落している場合(例えば、放射線科医によってルーチンに又は確実に記入されていないために、「検査された身体部位」のような場合)、複数のテキストストリングの入力は、これを軽減し、なお、判定される身体領域の信頼できる判定を可能にする。
【0231】
図6は、実施例によれば、図1から図5を参照して上述した方法の構成要素間の流れを図示する。図8を参照すると、先に述べたように、対象の医用画像検査TSに対応するテキストストリング404の1つ以上が、訓練済み機械学習モデル406に入力され、訓練済み機械学習モデル406が身体領域408を出力する。
【0232】
例によっては、図示のように、対象医用画像検査TSに対応する画像ファイルIFから、1つ以上のテキストストリング404を抽出することができる。具体的には、1つ以上のテキストストリング404は、その医用画像データを抽出することなく、対象医用画像検査TSに関連する画像ファイルIFから抽出することができる。例えば、DICOMファイルIFを例としてとると、画像ファイルは、抽出すべき属性値をもつ属性を識別する一以上の事前定義タグ(例えば、「検査説明」属性に対してはDICOMタグ(0008、1030)、「群説明」に対してはDICOMタグ(0008、103E))を位置付けるために解析されることがある。タグが見つかると、1つ以上のタグによって識別される1つ以上の属性の属性値(すなわち、テキストストリング404)が、対象医用画像検査TSに関連する画像ファイルIFから抽出され得る。抽出されたテキストストリング404は、例えば、対象医用画像検査TSのための識別子、又はその医用画像データのために、関連づけて保存され得る。いくつかの例において、対象医用画像検査TSに関連する画像IFのテキストストリング404の画像ファイルは、対象医用画像検査TSに関連する画像ファイルIFから抽出されたか、又は他の方法が実行される前に取得されたか、例えば、対象医用画像検査TSに関連する画像ファイルの識別子IFに関連して保存されたか、又はその医用画像データIDのために保存されたかである。いずれの場合も、1つ以上のテキストストリング404を取得し、訓練済み機械学習モデル406に入力する。
【0233】
一部の例では、1 つのテキストストリングのみを使用できる。しかしながら、いくつかの例では、対象医用画像検査TS又は候補医用画像検査CSに関連する画像ファイルIFの複数のテキストストリング404を取得し、訓練済み機械学習モデル406に入力することができる。例えば、DICOMファイルIFの属性「検査説明」、「群説明」、及び「検査された身体部位」の全ての属性の属性値のテキストストリングを取得し、訓練済み機械学習モデル406に入力することにより、訓練済み機械学習モデル406は、これらの入力されたテキストストリングの全てに基づいて、そのファイルの医用画像データによって表される身体部位を出力することができる。例えば、テキストストリングを連結し、一緒に訓練済み機械学習モデル406に入力することができる。いずれにしても、訓練済み機械学習モデル406からの出力408が得られ、それによって、医用画像データで表される身体領域408が決定される。
【0234】
前述したように、機械学習モデル406は、このような一以上のテキストストリングの入力に基づいて身体領域を出力するように訓練されている。すなわち、機械学習モデルは、画像ファイルIFの1つ以上の属性の1つ以上の属性値の、医用画像データの内容を示す、1つ以上のテキストストリングの入力に基づいて、画像検査TS、CSの医用撮像データ身体領域を出力するように訓練される。
【0235】
いくつかの例では、訓練済み機械学習モデル406は、訓練済みニューラルネットワーク406であってもよい。実際、以下に記載する例では、訓練済みニューラルネットワーク406を参照する。しかし、他の例では、1つ以上のテキストストリングの入力に基づいて身体領域を出力するよう訓練済み他のタイプの機械学習モデルが使用され得ることが認識されるであろう。例えば、他の例では、訓練済み機械学習モデルは、訓練済み無作為林アルゴリズム等の形をとることができる。例えば、ランダムフォレストアゴリズムは、関連する身体領域で標識された訓練テキストストリングを含む訓練データについて訓練済み決定ツリーの集合を含むことができ(例えば、専門家によって決定される)、すなわち、訓練テキストストリングについて標識された身体領域と比較して身体領域の予測における誤差を最小にするように、決定ツリーの集合を構成することができる。しかし、以下で言及するように、訓練済みニューラルネットワーク406の例を参照する。訓練済みニューラルネットワーク406の使用は、以下でより詳細に議論されるように、ある種の利点を有することができる。
【0236】
いくつかの例では、ニューラルネットワーク406は、深部ニューラルネットワーク(すなわち、1つ以上の隠れ層を有する)であってもよい。いくつかの例では、ニューラルネットワークは、監視学習を用いて訓練され得る。例えば、ニューラルネットワーク406は、複数の訓練テキストストリング(実際には、訓練テキストストリングの100又は1000があってもよい)を含む訓練データセットを使用して訓練されてもよく、各訓練テキストストリングは、画像ファイルの属性の属性値からであり、画像ファイルにさらに格納された医用画像データの内容を示す。例えば、訓練テキストストリングスは、DICOM画像ファイルの適切な属性の属性値(例えば、「検査説明」、「群説明」、「検査された身体部分」など)から抽出されたテキストストリングであることがある。いくつかの例では、上述のように、各訓練テキストストリングは、画像ファイルの異なる適切な属性の複数のそのようなテキストストリングの連結を表すことができる。いずれにせよ、各訓練テキストストリングは、訓練テキストストリングが対応する身体領域でラベル付けされてもよい。例えば、いくつかの例では、訓練テキストストリングは、訓練テキストストリングが発信されるファイルの医用画像データによって表される実際の身体領域でラベル付けされてもよく、実際の身体領域は、例えば、専門家によって決定される。いくつかの例では(図7を参照してより詳細に後述するように)、例えば、専門家によって決定されるように、テキストストリング自体に対応するか、それによって表されると決定された身体領域を、訓練テキストストリングにラベル付けすることができる。いずれの場合にも、各テキストストリングの身体領域ラベルは、ニューラルネットワークの訓練における監視信号として使用することができる。
【0237】
いくつかの実施例では、訓練済みニューラルネットワーク406は、訓練済みニューラルネットワーク406の分類部が、入力された1つ以上のテキストストリングに対して複数の身体領域分類の中から選択した身体領域分類の形で身体領域408を出力するように構成することができる。例えば、各分類は、「ABDOMEN」、「PELVIS」、「CHEST」等のような、身体領域を表す標準化された単語であってもよい。このような例では、各訓練テキストストリングは、それが属する分類でラベル付けされ、これは、ニューラルネットワークを訓練するための監視信号として使用されることがある。例えば、訓練は深い学習から成り得る。例えば、訓練は、訓練用テキストストリングの各々について分類器によって予測される分類と、それぞれのラベルによって定義される訓練用テキストストリングの各々の実際の分類との間の誤差を最小にするように、ニューラルネットワーク内のニューロンの層間の接続の重みを更新することを含むことができる。
【0238】
いくつかの実施例では、訓練済みニューラルネットワーク406は、人体の領域を表す1つ以上の数値の形で、訓練済みニューラルネットワーク406の回帰子部分が、入力された1つ以上のテキストストリング404に対して計算された身体領域408を出力するように構成することができる。例えば、1つ以上の数値は、「身体定規」のそれら、すなわち、0.0の値が人間の足指の先端を表し、1.0の値が人間の頭の最上部を表す定規又はスケールの値(例えば)であり、0~1の値が足指先端と頭の最上部の間の人間の身体のそれぞれの領域を表す。いくつかの例では、人体の身体領域を表すために、そのような2つの数値を用いることができる。例えば、2つの値は、身体領域が定義される位置を示すことがある。たとえば、膀胱にボディルーラー値[0.5、0.55]を割り当てることができる。このような例では、各訓練テキストストリングは、それが対応する身体領域を表す1つ(又は複数、例えば、2つ)の数値でラベル付けされてもよく、これは、ニューラルネットワーク406を訓練するための監視信号として使用されてもよい。例えば、訓練は深い学習から成り得る。例えば、訓練は、訓練テキストストリングの各々について回帰子によって予測される1つの(又はそれ以上の)数値と、それぞれのラベルによって定義される訓練テキストストリングの各々の実際の1つの(又はそれ以上の)数値との間の誤差を最小にするように、ニューラルネットワークにおけるニューロンの層間の接続の重みを更新することを含むことができる。
【0239】
身体領域を1つ以上の数値として出力することは、検査CS、TSの医用画像データによって表される身体領域の正確及び/又は柔軟な決定を可能にし得る。例えば、数値は連続的であり、したがって、あらかじめ定義されたクラスの限られたセットの使用と比較して、例えばより正確にかつより柔軟性をもって、身体領域を定義することができる。これは、次に、例えば、図8を参照して以下により詳細に説明されるように、最初の医用画像データに関連するものとして医用画像検査RSを選択する場合に、身体領域の柔軟性及び/又は正確な比較を可能にし得る。
【0240】
いくつかの実施例では、訓練済みニューラルネットワーク406は、取得された1つ以上のテキストストリング404の個々の文字を入力するように構成された訓練済み文字ベースのニューラルネットワーク406であってもよい。これらの例では、得られた1つ以上のテキストストリング404を訓練済みニューラルネットワーク406に入力することは、得られた1つ以上のテキストストリングの個々の文字を訓練済みニューラルネットワーク406に入力することを含むことができる。例えば、ニューラルネットワーク406は、ベクトル内の入力テキストストリングの各文字を符号化するように構成された符号器を含むことができる。例えば、これは、アルファベット、数字1から9、及び特殊文字を含む文字の語彙のための1ホット符号化のような文字埋め込みを使用して行われてもよい。これらのベクトルは、身体領域を決定するための基礎として、ニューラルネットワーク406によって使用され得る。異なるアーキテクチャが使用されることがある。
【0241】
例えば、いくつかの実施例では、ニューラルネットワーク406は、双方向LTSMのような、長い短時間記憶(LSTM) RNNのような、文字に基づく反復ニューラルネットワーク(RNN)を含むことができる。テキストストリングの各文字に対するベクトルは、RNNに連続的に入力することができ、その後、RNNは、一定の内部状態(例えば、テキストストリングの最後の文字に対するベクトルが入力される時点で、そのニューロンの値を表すベクトル)を有するであろう。次いで、この内部状態をニューラルネットワーク406の回帰子又は分類器に渡すことができ、このとき、内部状態を身体領域408上にマッピングすることができる。
【0242】
別の例として、ニューラルネットワーク406は、文字に基づく曲がりくねったニューラルネットワーク(CNN)を含むことができる。これらの例では、テキストストリングの連続する文字のベクトルを並べてアセンブルし、行列を作成できる。次いで、重畳及びプール操作をマトリックスに適用して、テキストストリングに存在する特徴を表す凝縮した特徴ベクトルを決定することができる。そして、特徴ベクトルは、ニューラルネットワーク406の回帰子又は分類器に渡されてもよく、それは次に、特徴ベクトルを身体領域上にマップすることができる。身体領域が正確にマッピングされ得る特徴自体が、ニューラルネットワーク406の訓練中に学習され得る。
【0243】
いくつかの例では、他のニューラルネットワーク、例えば、単語に基づくニューラルネットワークを使用することができる。しかしながら、文字ベースのニューラルネットワークを含むニューラルネットワーク406は、訓練データの一部ではない略号又はミスペリング、又は別の言葉に関して頑健である身体領域の判定を提供することができる。例えば、「ABDOMEN」は「ABD」と略すことができるが、最初の数文字が同じであるため、文字ベースのニューラルネットワークは、ベクトル空間において類似した位置にある(したがって、適切な身体領域が決定される可能性がある)これら2つの単語に対するベクトルを生成する可能性がある。一方、単語ベースのニューラルネットワークは、「ABD」を外語として決定する可能性がある。このことは、語彙外の単語が正確さを低下させる可能性があるため、今度は正確な決定に役立つ可能性がある。
【0244】
前述したように、各訓練テキストストリングは、訓練テキストストリングが対応する身体領域でラベル付けされてもよく、いくつかの例では、訓練テキストストリングは、専門家によって決定されるように、テキストストリングに対応するか、又はテキストストリングによって表されると決定された身体領域でラベル付けされてもよい。図7を参照して説明したように、このような場合には、訓練・データ・セット(訓練・テキスト・ストリング及びそれらのラベルを含む)は、グラフィカル・ユーザ・インタフェース(GUI)502を使用して生成されてもよい。GUI 502は、訓練用テキストストリング508の1つ以上と、ユーザに選択可能な身体領域511に分割された人体510の表現とを提示するように構成することができる。GUIは、1つ以上の提示された訓練テキストストリング508のそれぞれについて、ユーザ入力を受け取って、表現510から身体領域511を選択し、選択された身体領域511を示すラベル509で訓練テキストストリング508にラベル付けするように構成されてもよい。このように、身体領域ラベルでラベル付けされた訓練テキストストリングを含む訓練データセットを生成することができる。
【0245】
例えば、図7の特定の例を参照すると、GUI 502は、現在表示されているGUIの特定のペインをユーザに示すプログレスバー504を含む。特定のペインのタイトルも506 と表示される。この場合は「キーワードに注釈を付ける」と表示される。この例では、訓練テキストストリング508は、医用画像データを記憶する画像ファイルの属性の属性値から抽出されたキーワードである。図示した例では、キーワードに「aaa」、「ab」、「abdpel」、「abdroutine」、「aquired」、「aif」、「angiogram」、「ascities」が含まれている。ユーザは、特定のキーワード(この場合は太字の「aaa」)を提示され、これが対応するボディ表現510の表示ボディ領域511の1つを選択するように要求される。ユーザは、例えば、専門家であり、医用画像コンテクストにおける「aaa」が「腹部大動脈瘤」の略称であることを知っていると、表示された身体表現511の腹部部分を選択し、それに応じて、テキストストリング「aaa」に身体領域ラベル「ABDOMEN」が表示される。他に提示されたキーワードである「ab」-「ABDOMEN」、「abdpel」-「ABDOMEN」、「abdroutine」-「ABDOMEN」、「aif」-「HEAD」、「angiogram」-「CHEST」、及び「腹水」-「ABDOMEN」についても同様の選択を行うことができる。テキストストリング「acquired」は、特定の身体領域と関連していないため、訓練データセットの一部を形成しないため、身体領域とはラベル付けされていないことに注意されたい。GUI 502はまた、選択可能なボタン512、即ち、「Uterus」、「Prostate」、「Unknown」及び「None」を含む。「子宮」と「前立腺」ボタンは、それぞれ「PROSTATE」と「UTERUS」の身体領域ラベルを提供するためのものである。「Unknown」ボタンは、ユーザがボディ領域ラベルを知らないが、例えば、ボディ領域ラベルを割り当てることができると思われる場合のためのものであり、「None」ボタンは、ユーザがテキストストリングに割り当てることができるボディ領域がないことを知っている場合のためのものである(例えば、上記の「actured」の場合のように)。
【0246】
GUI 502は、簡単かつ効率的な方法で、生成されるべき身体領域ラベルを有する複数(例えば、100秒)の訓練用テキストストリングを含む訓練用データセットを可能にすることができる。ラベルは、人間の身体の表現(例:様式化された絵)を用いて得られ、それは、ユーザ(医学専門家を含み、必ずしもプログラミング専門家ではない)が対話するために視覚的かつ簡単である。ユーザとGUIとのこの単純で効率的な相互作用は、次に訓練データセットが効率的に生成されること(すなわち、ラベル付けされるべきテキストストリング)を可能にする。
【0247】
上述の実施例では、ニューラルネットワーク406は、入力されたテキストストリングに基づいて身体領域408を出力するよう訓練されている。いくつかの実施例では、ニューラルネットワーク406は、1つ以上のテキストストリングの入力に基づいて出力身体領域408の左右差を出力するように、さらに訓練されてもよい。左右差は、身体のどの側(すなわち、「左」又は「右」)に、医用画像データによって表される身体領域が位置するかを参照することができる。例えば、出力左右差は、適宜「左」又は「右」のいずれかである。これらの例では、図5の方法のステップ104は、訓練済みニューラルネットワーク406の得られた出力に基づいて、医用画像データによって表される身体領域の左右差を決定することをさらに含むことができる。1つの例として、これは、1つ以上のテキストストリングの入力に基づいて左右差を出力するよう訓練済みニューラルネットワーク406の専用の左右差部分を提供することによってもよい。例えば、これは、テキストストリングが対応する身体領域の左右差で標識された訓練テキストストリングからなる訓練データセットを用いて訓練することができる。別の例として、これは、ニューラルネットワーク406が入力されたテキストストリングをマッピングする一連の身体領域分類を拡張して、各身体領域分類の「左側」及び「右」のバージョンを含めることが可能である。例えば、これは、訓練テキストストリングが対応する身体領域及び側性分類で各々ラベル付けされた訓練テキストストリングを含む訓練データセットを使用して訓練され得る。身体領域の左右差を決定することは、より精密な身体領域を決定することを可能にし、それは、次に、より詳細に後述するように、関連する第2の医用画像データのより正確な選択を可能にし得る。
【0248】
上述のように、いくつかの例において、ターゲット検査TS又は対象医用画像群TMISによって表される決定された身体領域408は、ターゲット検査TS又は対象医用画像群TMISに関連する(例えば、適切な比較のための)第2の医用画像データを選択するために使用され得る。例えば、身体領域408は、与えられた患者のための現在の検査の画像ファイルIFに基づいて、対象医用画像群TMISに対して決定され得、これは、現在の対象医用画像群TMIS、すなわちターゲット検査TS (例えば、同一又は類似の身体領域)との比較に適切である与えられた患者のための、1つ以上の以前の検査(参照医用画像検査RS)の1つ以上の画像データセット(例えば、1以上の画像ファイルIFに保存される)を選択するために使用され得る。
【0249】
2つの医用画像検査TS、CSの比較可能性又は適合性の程度は、それぞれの身体領域に基づいて計算してもよい。この目的のために、それぞれの身体領域間の重複を決定してもよい。例えば、身体領域が、患者の解剖学的構造のための一連の正規化された又は一般化された座標の方法によって提供される場合、2つの身体領域の間の重複は、それぞれの範囲に基づいて計算され得る。さらに、比較可能性又は適合性の程度は、2つの出力値の類似性を測定するために、それぞれの身体領域間のDiceスコアを計算することによって決定することができる。
【0250】
ここで図8を参照すると、TMIS /対象試験TSに関連するものとして少なくとも1つの参照試験RSを選択する方法が図示されている。
【0251】
この方法は、ステップBR-3において、ターゲット検査TS /対象医用画像群TMISの保存された第1の医用画像データによって表されるターゲット身体領域408を、それぞれの複数の候補医用画像検査CSによって表される複数の候補身体領域の各々と比較することを含む。この方法は、ステップBR-4において、身体領域408の比較に基づいて、対象医用画像群TMISに関連するものとして、候補医用画像検査CSの1つ以上を選択することを含む。
【0252】
各医用画像検査候補CSは、対象医用画像群TMISと同じタイプの複数の(候補)医用画像群CMISを含むことができる。同様に、各候補医用画像検査CS及びそれに関連する画像群CMISは、1つ以上の画像ファイルIFに保存されることがある。すなわち、各候補医用画像群CMIS及びそれと共に各候補医用画像検査CSは、さらに、対応する画像ファイルIFに保存されるように、候補医用画像検査CSの内容を示すテキストストリングを含む属性値AVを有する1以上の属性Aと関連付けられる。ターゲット体領域408は、対象医用画像検査TSの1つ以上のテキストストリングに、図5を参照して上述した方法のステップBR-1及びBR-2を適用することによって決定された可能性がある。代替的又は追加的に、候補身体領域408の少なくとも1つ(及び一部の場合には全て)を、候補医用画像検査CSのそれぞれの少なくとも1つ(及び一部の場合には全て)の1つ以上のテキストストリングに、図5を参照して上述した方法のステップBR-1及びBR-2を適用することによって決定することができる。
【0253】
図9は、例に従った、図8を参照して上述した方法の構成要素間の流れを図示する。図9を参照すると、この例では、図6を参照して上述したのと同様に、対象医用画像群TMIS又は対象医用画像検査TSの画像ファイルIFからのテキストストリング404の1つ以上が、訓練済みニューラルネットワーク406に入力され、訓練済みニューラルネットワーク406は、ターゲット体領域408を出力する。ターゲットボディ領域408は、1つ以上の画像ファイルIF又は別個のファイル内の識別子に関連して格納されてもよい。
【0254】
さらに、この例では、医用情報システム40から取得した候補医用画像検査CSの各複数の画像データファイルIFから、さらに1つのテキストストリング716が抽出される。例えば、複数の候補研究の各々は、患者の異なる以前の研究に関係することがある。複数の1つ以上のテキストストリング716の各々が、順に、訓練済みニューラルネットワーク720に入力され、それぞれの複数の候補身体領域720を得る。候補身体領域720の各々は、1つ以上の画像ファイルIF又は別個のファイル内の識別子に関連して記憶され得る。次いで、ターゲット体領域408を、比較器710によって、複数の候補体領域720の各々と比較して、ターゲット及び候補体領域の各対についての適合性の程度を決定することができ、比較に基づいて候補研究の1つ以上の選択712を行うことができる。具体的には、1つ以上の参考文献研究RSが、候補研究CSからそのように選択されることがある。
【0255】
いくつかの例では、選択は比較のみに基づいている可能性がある。他の例では、以下により詳細に記載されるように、選択はさらなる基準に基づくことができる。いくつかの例では、選択は、身体領域が保存される関連における候補医用画像データファイルの識別子の選択であり得る。選択された識別子は、医療情報システム40を問合せ、医療情報システム40から関連する候補医用画像データファイルを取得する(例えば、オンライン又は近線DICOMアーカイブ装置)ために使用され得る。
【0256】
いくつかの例において、画像データの1つ以上の選択された組の1つを含むそれらの検査(例えば、それらの検査のみ)の医用画像データ又は画像ファイルIFは、医用情報システム40から取得され得る。これらのファイルは、例えば、選択された医用画像データを含むファイルの「検査識別子」属性を照合することによって決定され得る。いくつかの例では、後述するように、第2の医用画像データの選択されたセットの1つ以上を含むそれらの群(例えば、それらの群のみ)の医用画像データ又は画像ファイルを、医用情報システム40から取得することができる。これらのファイルは、例えば、選択された医用画像データを含むファイルの「群識別子」属性を照合することによって決定され得る。
【0257】
いずれにしても、取得された第2の医用画像データの集合の1つ以上のレンダリングが、表示装置11上に表示され得る。
【0258】
いくつかの例では、対象医用画像群TMISは、患者の現在の医用画像又は一連の医用画像を表すことができ、複数の候補医用画像群CMISは、患者の以前の医用画像又は一連の医用画像を表すことができる。例えば、対象医用画像群TMISは、患者の現在の検査に対応することができ、候補医用画像群CMISの各々は、患者のそれぞれの異なる以前の検査に対応することができる。医学専門家は、例えば、2つの研究の間の疾患の進行を評価するために、現在の研究TSの1つ以上の画像を患者の以前の研究CSの関連する1つのRSのそれらと比較することを望むことがある。有効な比較を可能にする重要な基準は、電流のTS及び以前の研究CS (すなわち、その電流及び以前の医用画像)が同一又は類似の身体部分(例えば、頭部、腹部、足)であることである。ターゲットとなる医用画像データと候補となる医用画像データに対して決定された身体領域の比較に基づいて基準となる医用画像データを自動的に選択することにより、本方法は、医療専門家が、例えば、ターゲットとなる検査TSの医用画像を、関連する過去の医用画像のみ(例えば、同一又は類似の身体領域の以前の検査CSのそれら)と比較することを可能にし、これは、全ての過去の医用画像と比較する必要があるユーザと比較すると効率的である。
【0259】
さらに、幾つかの例では、複数の組の候補医用画像検査CSは、医用情報システム40の一部として遠隔記憶デバイス内に保存され、ユーザの端末10に接続することができる。これらの場合、選択された1組以上の参照医用画像検査RS (又は参照検査RSの個々の画像データID)は、複数組の候補医用画像データの他のものを取得することなく、遠隔記憶デバイスから(例えば、医用情報システム40の一部としてDICOMアーカイブ装置からプリフェッチされた)取得され得る。身体領域は、画像ファイルの属性のテキストストリングに基づいて決定されることがあるので、それらのファイルの候補医療撮像データ、それらが関連するものとして選択されたときにのみ遠隔記憶から取得される必要があり、関連するものとして選択されないか、又は取得されるべきでない候補医療撮像データ、全く取得される必要がない。そのため、ネットワーク・リソースが効率的に配置される場合がある。
【0260】
いくつかの例において、身体領域の比較は、対象医用画像データに対する身体領域分類(例えば、「ABDOMEN」、「CHEST」)が、候補医用画像データのそれと同じであるかどうかを決定することを含むことができる。いくつかの例では、マッチがある場合(例えば、両方が同じ身体領域分類「ABDOMEN」を有する)、候補医用画像データは、対象医用画像データに関連するものとして選択され得る。
【0261】
いくつかの実施例では、身体領域408、720の比較は、対象に対する身体領域を定義する数値と医用画像検査TS、CSの候補を比較することを含むことができる。例えば、これは、ターゲットの医用画像データに対する身体領域の数値が、候補の医用画像データの数値と同じであるか、又は類似しているか、又は重複しているかを決定することを含むことができる。例えば、対象医用画像グループTSの数値が0.5である場合、数値0.45を有する候補医用画像グループCSの集合は、類似している(例えば、あらかじめ定義された量よりも少なく異なる)として選択され得る。別の例として、ターゲットとなる医用画像検査TSの数値が[0.5、0.55]である場合、そのまま数値[0.5、0.55]を有する一組の医用画像検査CS候補を選択し、重複しているとして数値[0.4、0.55]を有する一組の医用画像データ候補を選択してもよい。
【0262】
前述したように、対象医用画像群TMIに関連するものとして1つ以上の参照医用画像検査RS (例えば、与えられた患者の以前の検査)を選択し、特に関心領域ROIに対しては、その身体領域を比較することに基づくことができる。しかしながら、いくつかの例では、選択は、以下でより詳細に記述されるように、さらなる因子又は基準に基づくことができる。
【0263】
同じ身体部位を示す電流TS及び以前の研究RS以外に、それらの画像の効果的な比較を可能にするもう1つの重要な基準は、参照医用画像検査RSのTMIS及びCMISが、同一又は類似又は比較可能なモダリティ(すなわち、その画像を捕捉するために使用される医用画像のモード又はタイプ、例えばCT、MRI、X線)のものであることである。
【0264】
従って、いくつかの実施例において、方法は、複数の群の候補医用画像データ(すなわち、複数の候補医用画像群CMIS)の各々について、対象医用画像群TMISの第1の画像診断モダリティと、選択された医用画像検査RSの候補医用画像群CMISの第2の画像診断モダリティとの間の画像診断モダリティ関連スコアを決定することを含むことができる。画像モダリティ関連性スコアは、類似性の程度を含むか、又はそれを因子化することができる。
【0265】
これらの例では、対象医用画像データに関連するものとして医用画像データ候補の1つ以上の群CMISを選択することは、決定された画像モダリティ関連性スコアにさらに基づいてもよい。例えば、より高い画像モダリティ関連性スコアを有する参照医用画像検査RSの群CMISの1つは、より低い画像モダリティ関連性スコアを有する参照医用画像検査RSの群CMISのもう1つより優先して、対象医用画像データROI、TMISと比較するために選択され得る。いくつかの例において、対象医用画像群TMISと同一の身体領域を有し、かつ最も高い画像モダリティ関連性スコアを有する候補医用画像群CMISを、参照医用画像群RMISとして選択することができる。いくつかの例において、対象医用画像群TMISと同じ又は類似の身体領域を有する候補医用画像群CMISは、例えば、図8を参照して上述した方法に従って予め選択されてもよく、次いで、画像モダリティ関連性スコアに基づいて、予め選択されたセットの中から、1つ以上の候補医用画像群CMISが、参照医用画像群RMISとして選択されてもよい。
【0266】
いくつかの例において、ファイルの医用画像データを捕捉するために使用される画像モダリティは、医用画像データが保存される画像ファイルIFの画像モダリティ属性Aの属性値AVから決定され得る。例えば、画像モダリティは、DICOMファイルIFの「モダリティ」属性(例えば、DICOMタグ0008、0060によって識別される)の属性値から直接取得されることがある。DICOMの「モダリティ」属性値は、医用画像データを取得した装置のタイプを識別する。DICOM規格では、複数の画像モダリティを表現できる値はあらかじめ定義されている。例えば、「CT」は「コンピュータ断層撮影」、「MR」は「磁気共鳴」などを表すと定義されている。さらに、いくつかの例において、画像モダリティ属性値は、画像ファイルを生成するために装置と共に使用されるソフトウェアによって、適切な値に自動的に設定されることがある。したがって、画像モダリティは、ファイルの「モダリティ」属性から直接確実に得ることができる。
【0267】
2つのモダリティ間の画像モダリティ関連性スコアは、1つのモダリティを使用して捕捉された医用撮像データ、別のモダリティを使用して捕捉された医用画像データと関連がある(すなわち、適切である、又は比較に有用である)程度を表す値であり得る。いくつかの例において、画像モダリティ関連性スコアは、画像モダリティ移行マトリックスを用いて決定され得る。例えば、マトリックスの各要素は、ある特定の画像モダリティと別の特定の画像モダリティの間の1つの画像モダリティ関連性スコアに対応していてもよい。すなわち、マトリクスの要素sijは、イメージングモダリティiを有する対象(例えば、電流)医用撮像データと、イメージングモダリティjを有する候補(例えば、先行)医用撮像データとの間のイメージングモダリティ関連性スコアであり得る。例えば、i = MRとj = MR (すなわち、sMRMR)の間の画像モダリティ関連性スコアは0.6であり得るが、i = MRとj = CT (すなわち、sMRCT)の間の画像モダリティ関連性スコアは0.22であり得る。この場合、例えば、ターゲットとなる医用画像群TMISをMRを用いてキャプチャした場合、候補となる医用画像群CMISのうち2つの医用画像群CMISが、いずれも候補となる医用画像群CMISと同一の身体領域を有していたが、MRを用いて1セットをキャプチャしたが、CTを用いて別のセットをキャプチャした場合、MRを用いてキャプチャしたセットを優先して選択することができる。
【0268】
いくつかの例において、画像診断モダリティ関連スコア(すなわち、転移マトリックスの各要素ij)は、特定の第1の画像診断モダリティに関連する対象医療撮像データユーザ(例えば、医療専門家)が、特定の第2の画像診断モダリティjを有する対象医用画像診断データ、参照医用画像データとの比較のために選択する確率を表すことができる。例えば、この確率は、医用画像データとのログされたユーザ相互作用(事前動作)の統計分析に基づいて決定され得る。例えば、データログは、与えられたセッションの中で与えられた医療専門家によって与えられた患者について取得された医用画像ファイルを記録することができる。確率を決定するために、これらのログに統計処理を適用してもよい。例えば、モダリティがMRである現在の医用画像ファイルをレビューする場合、医療専門家が、画像モダリティが時間の60%である患者の以前の医用画像ファイルをレビューすることに進むが、画像モダリティが時間の22%である患者の以前の医用画像ファイルをレビューすることに進むと判断した場合、sMRMRは0.6として決定され、sMRCTは0.22として決定され得る。これは、転移マトリックスをポピュレーションするために、画像モダリティの全ての組合せに対して行われることがある。画像診断法関連性スコア(すなわち、トランジションマトリクスの各要素ij)は、医用画像データと実際のユーザ相互作用の統計分析に基づくものであり、適切なモダリティの第2の医用画像データが確実に選択されるのに役立つ可能性がある。
【0269】
上述の例において、所定の患者に対する候補医用画像群CMISの医用撮像データ、身体領域及び/又は画像モダリティに基づいて、所定の患者に対する対象医用画像群TMISの医用画像データに関連する(例えば、比較のために適切である)選択され得る。前述したように、与えられた検査の中で、医用画像の複数の群が存在することがある。例えば、与えられた検査(特に与えられたモダリティ内で、例えば、MR)を持つ複数の群は、複数の画像パラメータ(例えば、MRのために:エコー時間、フリップ角度、エコートレイン長さ、患者方向など)を使用して取得された医用画像データを含むことがある。医療専門家による電流及び以前の医用画像の効果的な比較を可能にするもう1つの重要な基準は、電流及び以前の医用画像を捕捉するときに使用される医用画像パラメータが同一又は類似していることであることがある。従って、いくつかの例では、第2の医用画像データの選択は、画像パラメータの比較に基づいて代替的に、又は追加的に行うことができる。例えば、与えられた患者のための以前の研究RS内の候補群CMISの医用画像データの候補は、以前のCMIS及び現在の群TMISの画像を捕捉するために使用される医用画像パラメータの比較に基づいて、現在の群TMISの対象医用画像データに関連するものとして選択され得る(例えば、比較のために適切である)。
【0270】
図10を参照して、画像パラメータに基づいて関連する医用画像データを選択する方法が図示されている。
【0271】
これらの例では、参照医用画像検査RSのCMISに関連する画像ファイルIFの各々は、画像ファイルの医用画像データを捕捉するために使用される画像パラメータを示す属性値AVを有する1つ以上の属性Aを保存する。
【0272】
例えば、上述のように、各画像ファイルIFは、その医用画像データを捕捉するために使用される画像パラメータの属性AVを有する、DICOMファイルIFであって、(DICOMタグによって識別される)DICOM属性「画像方向患者」の1つ以上を含み、その値は、患者に関する医用画像データの第1列と第1列の方向コサインを指定する、[1,0,0,1,0];「群記述」(DICOMタグによって識別される)であり、その値は、群の記述を含み、その値は、軸方向を示す「ax t1全骨盤」;「Echo Time」(DICOMタグによって識別される、0081)である。その値は、興奮パルスの中央とMRイメージングで生成されるエコーのピークの間のミリ秒単位の時間、例の値は「4.2」;繰り返し時間 DICOMタグ(0018、0080)によって識別され、その値が、MRイメージングにおけるパルスシーケンスの開始と後続パルスシーケンスの開始の間のミリ秒単位の時間を指定し、そして例値が「8';'Flip Angle' (DICOMタグ(0018、1IF-314によって識別される)であり、その値が、MRイメージングにおける一次ベクトルの磁気ベクトルからフリップされる定常状態角度を指定する、「90';'Echo Train Length'(DICOM属性Tagによって識別される、0018、0091)であり、そしてその値が、画像当たりの励起で取得されるk空間における線の数を指定する、例値は「1であるスキャンニングシーケンス」(DICOMタグ(0018,0020)によって識別され、その値が捕捉されたMRデータのタイプ、スピンエコータイプMRを示す「SE」、「シーケンス名」(DICOMによって識別される) タグ(0018、0024)であり、その値が、MRイメージングにおけるスキャニングシーケンスとシーケンスバリアントの組合せに対するユーザ定義名である、その例の値は「spcir_242」;及び'Protocol Name' (DICOM Tag (0018、1030)によって識別され、その値がCTプロトコルの名前を指定する、その例の値は「T2W_TSE SENSE」)。幾つかの例では、他のそのような属性及び実際に他のタイプの画像ファイルを使用することができることが理解されよう。
【0273】
ステップS50に従って参照医用画像群RMISを選択するための例示的な方法を図10に示す。対応するデータストリームを図11に示す。
【0274】
図10に示される実施例において、この方法は、ステップBR-5において、対象医用画像群TMISのための第1のベクトルFVを得ること、対象医用画像グループTSの対象医用画像群TMISを捕捉するために使用される画像パラメータを示す属性値AVの1つ以上に基づいて生成された第1のベクトルFVを含む。この方法は、ステップBR-6において、参照医用画像検査RSに含まれる候補医用画像群CMISのセットのそれぞれについて複数の第2ベクトルSVを得ることを含み、ここで、第2医用画像データの各セットについて、参照医用画像検査RSの候補医用画像群CMISを捕捉するために使用される画像パラメータを示す属性値AVの1つ以上に基づいて第2ベクトルSVが生成されている。
【0275】
この方法は、ステップBR-7において、複数の第2のベクトルSVの各々について、対象医用画像群TMISとそれぞれの候補医用画像群CMISとの比較可能性の程度を決定するために、第1のベクトルFVと第2のベクトルSVとの間の類似性を示す類似性メトリックを決定し;ステップBR-8において、対象医用画像データ(及び、それに伴って、参照医用画像群RMISとして)に関連するものとして、候補医用画像群CMISの1つ以上を選択する;を含む。例えば、いくつかの例では、複数の候補医用画像群CMISの中で最も高い類似度のメトリック/比較可能性の程度を有する候補医用画像群CMISを、参照医用画像群RMISとして選択することができる。いくつかの例において、複数の候補医用画像群CMISの中で最も高い2つ以上の類似性測定基準/比較可能性の度合いを有する候補医用画像群CMISの2つ以上の組を、参照医用画像群RMISとして選択することができる。
【0276】
いくつかの例では、参照医用画像データの選択は、さらに、決定された類似度計量値/比較可能性の程度、すなわち、上記の身体領域及び/又は画像モダリティ関連性スコアの比較に基づいてもよい。例えば、いくつかの例では、先行研究の医用画像データ(例えば、複数の候補医用画像群CMISを含む)は、前述の身体領域及び/又は画像モダリティの比較に基づいて、現在の医用画像データに関連するものとして、患者のための先行研究の中から予め選択され得る;そして、予め選択された研究内の複数群の中から、参照医用画像群RMISは、決定された類似性メトリクス/比較可能性の程度に基づいて、対象医用画像データに関連するものとして選択され得る。この場合、表示データとしてユーザに示される基準画像データは、身体領域の比較、画像モダリティ関連性スコア、及び決定された類似性測定基準に基づいて、関心領域に関連するものとして選択され得る。
【0277】
図10を参照して説明された方法は、対象医用画像群TMISの画像データ又は関心領域と同一又は類似の画像パラメータを用いて捕捉された1つ以上の参照医用画像群RMISを自動的に選択することを可能にすることがある。これは、例えば、患者のために以前の医用画像の全てを開いて評価することと比較した場合の、対象医用画像との比較に適切な以前の医用画像の効率的な選択を提供することがある。さらに、画像ファイルIFの属性値AV (比較的サイズが小さい)に基づいて選択することにより、医用画像データ自体(比較的サイズが大きい)を抽出したり解析したりすることなく選択が可能となり、効率的な選択が可能となる可能性がある。さらに、ベクトルFVに基づいて選択することにより、属性値AVに基づいて生成されるSVにより、柔軟な選択が可能になる可能性がある。例えば、特徴空間におけるベクトルFV、SVの比較は、例えば、画像パラメータを直接一致させようとする試みと比較して、パラメータ間の非正確な一致に関してより強固及び/又は柔軟であり得る。
【0278】
図11は、例に従い、図10を参照して説明した方法の構成要素間の流れを図示する。対象医用画像群TMISの画像ファイルIFは、対象医用画像データ、例えば関心領域ROI、及び対象医用画像群TMISを捕捉するために使用される画像パラメータを示す属性値AVを有する属性Aを保存する。これらの第1属性値AVを抽出し、ベクトル化装置906に提供し、ベクトル化装置906は第1ベクトルFVを出力する。複数の候補医用画像群CMISは、医用情報システム40の一部であり得る記憶装置内に保存される。いくつかの例において、複数の候補医用画像群CMISの各々は、参照医用画像検査RS内の各々の異なる群からであってもよい。1つ以上の第二属性値AVの複数の集合(それらが含まれる各医用画像データファイルIFに保存された候補医用画像群CMISを捕捉するために使用される画像パラメータを示す各々)が抽出される。これらの属性値AVのセットは、順番に、第2のベクトルSV (1つ以上の属性値AVの入力セットの各々の1つ)のそれぞれの複数を出力するベクトル化装置906に提供される。第1のベクトルFV及び/又は第2のベクトルSVは、それが生成された対象医用画像群TMIS又は候補医用画像群CMIS (又はその識別子)のファイルと関連づけて保存することができる。第1のベクトルFV及び複数の第2のベクトルSVの各々は、第1のベクトルFVと第2のベクトルSVの各々との間の類似性メトリックを決定する比較器910に入力され、対象医用画像群TMISと医用画像群群CMISの候補との間の比較可能性の程度を決定する。比較器910は、決定された比較可能性の程度に基づいて(例えば、最も高い比較可能性を有する1つ以上を選択することができる)、対象医用画像群TMIS又は候補医用画像群CMIS (又はその識別子)の1つ以上の選択912を出力することができる。次に、選択された1つ以上の候補医用画像群CMISの集合を、記憶から取得することができる。
【0279】
幾つかの例では、既に言及したように、複数の組の候補医用画像群CMISを遠隔保存することができる。これらの実施例において、本方法は、複数の組の候補医用画像群CMISの他の組を検索することなく、遠隔記憶から選択された1つ以上の組の候補医用画像群CMIS (又は選択された組の第2医用画像データを含む一連の医用画像データのセット)を検索することを含むことができる。これは、ネットワーク資源の効率的な利用を提供する可能性がある。
【0280】
いくつかの実施例において、この方法は、表示データを生成して、表示装置(例えば、11参照)に関心領域ROIの描画を表示させ、選択された1つ以上の候補医用画像群CMISの撮像データに基づいて描画することを含むことができる。これは、医学専門家が、患者のための関心領域ROI (例えば、ターゲット又は電流)と参照(例えば、以前の)医用画像データとの間の差を視覚的に評価することを提供することがある。候補医用画像群CMISは、対象医用画像データ/関心領域ROIとの比較のために適切であると選択されているので、ユーザは、モダリティ及び画像パラメータのような非疾患関連因子による差異ではなく、それによって表される疾患の進行による差異に、よりよく焦点を合わせることができる。
【0281】
いくつかの例において、方法は、第1のベクトルFV及び/又は第2のベクトルSVの1つ以上(例えば、全て)を生成することを含むことができる。
【0282】
第1の属性値AV又は第2の属性値AVの1つ以上がテキストストリングを含む例では、第1のベクトルFV又は第2のベクトルSVをそれぞれ生成することは、テキストストリングをベクトル表現に符号化することを含み得る。例えば、テキストストリングは、単語の埋め込みを使用してベクトル表現にエンコードされ得る単語を含むことができる。例えば、単語埋め込みは、辞書の単語をベクトル空間上に写像し、ここで辞書中の単語と各単語に対するベクトルは、単語埋め込みモデルを訓練テキストのコーパスに適用することによって生成され得る。既知の語埋め込みモデルの例は、ニューラルネットワークを用いて、訓練テキストのコーパスから語埋め込みを学習する「Word2vec」である。いくつかの例では、例えば、汎用テキストの膨大なコーパス上で予め訓練済み、予め訓練済み単語埋め込みが使用され得る。いくつかの例において、訓練テキストは、放射線学報告書、医学文献及び/又は訓練画像ファイルの属性値のテキストストリングのような医学テキストを含むことができる。これは、学習されるべき医学分野に特有の単語と略語の意味的意味(訓練テキストの文脈内で)を可能にするかもしれない。テキストストリングが複数の単語から構成される場合、各単語のために埋め込まれている単語からのベクトルを組み合わせて、例えば、テキストストリングの各単語のために埋め込まれている単語のベクトルを連結するか、又は平均を取ることによって、最初のベクトル(又は最初のベクトルの一部)を生成することができる。他の方法を用いてもよい。
【0283】
第1の属性値AV又は第2の属性値AVの1つ以上が数値を含む例において、第1のベクトルFV又は第2のベクトルSVをそれぞれ生成することは、数値をベクトル表現にフォーマットすることを含むことができる。例えば、属性値AVの1つ以上が数値であることがある。例えば、上述のように、例DICOM属性「Echo Time」の例値は「4.2」である。このような例では、属性値は、必要に応じて、第1のFV又は第2のベクトルSVの要素として使用してもよい。いくつかの例では、属性値は、必要に応じて第1又は第2ベクトルの要素としてそれを含む前に正規化されることがある。例えば、エコー時間属性値は、ベクトルFV、SVの要素として含まれる前に10000で除すことができる。別の例として、属性値の1つ以上は、複数の数値、例えば一連の値を含み得る。このような例では、一連の数値は、要素当たり1つの数値をもつ縦列ベクトルにフォーマットされ得る。例えば、上述のように、例DICOM属性「画像方向患者」の属性値の例は、「[1,0,0,0,1,0]」である。これを縦列ベクトルにフォーマットし、必要に応じて第1のFV又は第2のベクトルSV (又はその一部)として使用してもよい。
【0284】
いくつかの例において、第1のベクトルFV又は第2のベクトルSVを生成することは、それぞれ第1又は第2の属性値AVの各々について、第1又は第2の属性値AVに基づいて第3のベクトルを生成し、第3のベクトルを組み合わせて第1のベクトルFV又は第2のベクトルSVを生成することを含む。例えば、複数の属性値は、「群説明」、「エコー時間」及び「画像方向患者」であり得る。このケースでは、第3のベクトルは、上述のように、例えば、vSD vET vIOPのように、これらの3つのアトリビュートのそれぞれに対して生成され得る。次に、これら3つの3番目のベクトルのそれぞれを連結して、必要に応じて最初のベクトルFV又は2番目のベクトルSVを生成することができる。例えば、[v SD, v ET, v IOP]。
【0285】
幾つかの例では、類似性のメトリック/比較可能性の程度を決定することは、各第2ベクトルSVについて、第1ベクトルFVと第2ベクトルSVとの間のコサイン類似性を決定することを含むことができる。既知のように、コサイン類似性は2つのベクトル間のドット積であり、2つのベクトル間の類似性を表す。例えば、1のコサイン類似性は、同一又は高度に類似するベクトル(したがって、同一又は高度に類似する撮像パラメータに対応する)を示し、0のコサイン類似性は、直交ベクトル(したがって、直径方向に対向する又は高度に異種の撮像パラメータに対応する)を示す。いくつかの例では、対象医用画像群TMIS /関心領域ROIの第1ベクトルFVと高いコサイン類似性を有する第2ベクトルSVを有する医用画像群CMIS候補は、コサイン類似性の低い第2ベクトルSVを有する医用画像群CMIS候補に優先して選択される。いくつかの例では、第1のベクトルFVと第2のベクトルSVとの間のユークリッド距離のような、他の類似性測定基準を使用することができる。これらの例において、比較器910は、第1のベクトルと第2のベクトルとの間のコサイン類似性(又は他の類似性尺度)を計算する計算単位(図示せず)を備えることができる。
【0286】
いくつかの実施例において、比較器910は、2つのベクトルFV、SVの入力に基づいて、例えば比較可能性の程度の形で、2つのベクトルFV、SVの間の類似性を示す値を出力するように訓練済みニューラルネットワーク(図示せず)を含むことができる。いくつかの例では、類似度計量を決定することは、第2のベクトルSVの各々について、第1のベクトルFV及び第2のベクトルSVを訓練済みニューラルネットワークに入力し、それによって訓練済みニューラルネットワークから出力を得ることによって、第1のベクトルFV及び第2のベクトルSVの間の類似度を示す値として比較可能性の程度を決定することを含むことができる。例えば、ニューラルネットワークは、初期層と最終層との間のニューロンの1つ以上の隠れ層を含む深部ニューラルネットワークであってもよい。最初の層は、第1のベクトルFV及び固定サイズの第2のベクトルSVを入力として取るように構成することができる。ニューラルネットワークは、ニューラルネットワークの最終層からのベクトル表現を、2つの入力ベクトル間の類似性を示す値(例えば、0と1の間)にマップするように構成された回帰子(図示せず)を含むことができる。
【0287】
いくつかの例では、ニューラルネットワークは、訓練データセットに基づいて訓練され得、訓練データセットは、複数のペアのそのようなベクトル(例えば、ペアの各ベクトルが、それぞれ第1のベクトルFV及び第2のベクトルSVと同じフォーマットを有する複数のペアのベクトル)を含み、各ペアは、訓練類似値(比較可能性の訓練程度)で標識され、ニューラルネットワークの訓練中に監視信号を提供する訓練類似値である。実際には、訓練は、そのような標識された訓練対の100秒又は1000秒を含み得る。例えば、訓練は深い学習から成り得る。例えば、訓練は、ニューラルネットワーク内のニューロンの層間の接続の重みを更新して、ベクトルの訓練対の各々についての回帰子によって予測される類似値と、それぞれのラベルによって定義される訓練対の各々の実際の類似値との間の誤差を最小にすることを含み得る。
【0288】
いくつかの例では、訓練類似度値ラベルは、ベクトルの訓練対の各々について、訓練対の1つのベクトルにおいて表現される特定の第1の属性値を有する第1の医用画像データを与えられた場合、ユーザは、対の他方のベクトルにおいて表現される特定の第2の属性値を有する第1の医用画像データ第2の医用画像データとの比較のために選択する確率を表すことができる。例えば、この確率は、医用画像データとの記録されたユーザ相互作用の統計分析に基づいて決定され得る。例えば、データログは、与えられたセッションの中で与えられた医療専門家によって与えられた患者について取得された医用画像ファイルを記録することができる。確率を決定するために、これらのログに統計処理を適用してもよい。例えば、撮像パラメータがXである対象医用画像群TMISについては、その撮像パラメータがY(例えば、60%)である以前の参照医用画像群RMISをレビューするために、医療従事者がどのパーセンテージの時間に進むか、及び画像パラメータがZ(例えば、20%)である以前の参照医用画像群RMISをレビューするために、医療従事者がどのパーセンテージの時間に進むかを決定することができる。この場合、2つの訓練対を生成することができ、1つは、X及びYを表すベクトルを有し、0.6の訓練類似度値ラベルを有し、もう1つは、X及びZを表すベクトルを有し、0.2の訓練類似度値ラベルを有する。これは、訓練データセットを生成するために、画像パラメータの多数の組合せに対して行われることがある。訓練データセットは、医用画像データとの実際のユーザ相互作用の統計分析に基づくものであり、適切な画像パラメータを用いて捕捉された第2の医用画像データが確実に選択されるのに役立つ可能性がある。
【0289】
図12は、実施例におけるステップS60に従ったレジストレーションを行う方法として、医用画像群TMIS及びRMISの対応するスライスを識別する方法を示している。対応するデータの流れを図13に示すが、この方法にはいくつかの段階がある。ステップの順序は、必ずしもステップの番号付けに対応するものではないが、本発明の異なる実施例間で変化し得る。さらに、個々のステップ又は一連のステップを繰り返すことができる。
【0290】
対象医用画像群TMIS及び参照医用画像群RMISは、患者の身体部分を描画する三次元画像データに関係する。具体的には、対象医用画像群TMISは、ターゲット画像ボリュームのあるセクションをそれぞれ「第1スライスS-1」と表記する複数の画像スライスS-1を含み、参照医用画像群RMISは、同様に、参照画像ボリュームのあるセクションをそれぞれ「第2スライスS-2」と表記する複数の画像スライスS-2を含み得る。
【0291】
いくつかの例によれば、対象医用画像群TMIS及び参照医用画像群RMISは、同一患者の同一解剖学的構造に関係するが、異なる時点で取得されている。いくつかの例によれば、対象医用画像群TMISは、ユーザが分析すると想定される現在の画像検査に関係し、参照医用画像群RMISは、同じ身体部分を示すが、より早い時点での以前の検査に関係する。対象医用画像群TMISを参照医用画像群RMISと併せて分析することにより、ユーザは、従って、疾患がどのように進行したか、又は特定の治療が成功したかを推測することができる。この点に関してユーザを支援するために、図12の方法は、対象医用画像群TMIS及び参照医用画像群RMISを、対象医用画像群TMIS及び参照医用画像群RMISにおける対応するスライスCSに同期させるか、又はレジストレーションする。
【0292】
ステップSLS-10では、対象医用画像群TMISを受信する。ステップSLS-10は、ユーザインタフェース10を有するユーザによってターゲット・メディカル・画像・検査TSを手動で選択すること、及び/又は医療情報システム50からターゲット・メディカル・画像・群TMISを取得することを含むことができる。さらに、ステップSLS-10は、ターゲットとする医用画像群TMISを、その容器及び手元にある課題に基づいて自動的に選択することを含むことができる。この目的のために、患者又は試験識別子のようなデータ識別子を用いて、医療情報システム40に適切な群を問い合わせてもよい。ステップSLS-10は、少なくとも部分的には、ユーザインタフェース10又は処理システム20のいずれかで実行することができる。必要に応じて、対応するデータ交換をこのステップに含める。
【0293】
ステップSLS-20では、参照医用画像群RMISが得られる。従って、処理は、図8ないし9に関連して概説されるステップに従い、複数の候補医用画像検査CSから適切な参照医用画像検査RSを選択すること、及び参照医用画像検査RSに関連する複数の候補医用画像群CMISから参照医用画像群RMISを選択することを含むことができる。
【0294】
ステップSLS-30では、対象医用画像群TMISと参照医用画像群RMISとの間のスライス対応CSを確立し、対象医用画像群TMISの別個のスライスS-1を、可能な場合は参照医用画像群RMISのスライスS-2に連結する。すなわち、ステップSLS-30は、対象医用画像群TMISのスライスS-1ごとに、参照医用画像群RMISの対応するスライスCSを1枚正確に識別しようとする。それゆえ、対象医用画像群TMISにおいて、所定のスライスS-1に対する参照医用画像群RMISにおいて、対応するスライスCSを見つけることができず、またその逆も可能な。これは、1つの医用画像群TMISに構成されるスライスS-1、S-2の解剖学的位置であれば、RMISは、それぞれの他の医用画像群RMIS、TMISによってカバーされない場合がある。この場合、いくつかの例によれば、対応するスライスのアソシエーションは行われていない。ステップSLS-30(及び全ての任意ステップ)の画像処理は、主に処理システム20上で行われ得る。
【0295】
以下では、任意選択のサブステップSLS-31~SLS-35が、ステップSLS-30の対応するスライスCSの同定が実際にどのように実行され得るかを示すいくつかの例示的な実施例を示す。これらは、この点に関していくつかの例を提供するが、画像スライスS-1、S-2間の類似性をどのようにして決定することができるかについて、さらなる可能性を排除しないため、ステップSLS-30の範囲を限定するものとは考えられない。例えば、画像記述子D-1、D-2及びそれらの続く比較の明示的抽出の代替形態として、フーリエに基づく分析スキームを実装することができる。ここで、個々の画像又は画像領域はフーリエ空間に変換され、数学的畳み込み関数を適用することによって類似性が計算されるであろう。
【0296】
任意選択ステップSLS-31は、2つの医用画像群のスライスごとのレジストレーションのためにそれをより良い形状にするために、対象医用画像群TMISに基づいて、参照医用画像群RMISを再サンプリングするように向けられる。これは、参照医用画像群RMISにおいて、適切なスライス厚及び積層方向の複数のスライスS-2を定義することを含み得る。これは、さらに、それらが適切なスライス厚及び方向を有するように、参照医用画像群RMISにおいて、既に存在するスライスS-2をリサンプリングすることを含むことができる。特に、参照医用画像群RMISのスライスS-2が、厚さ、間隔、スライス方向等に関して、対象医用画像群TMISのスライスS-1に匹敵するように、参照医用画像群RMISを再サンプリングしてもよい。自己発言、これはまた、対象医用画像群TMISを参照医用画像群RMISに適合させた、反対方向ラウンドで実装されることがある。さらに、ステップSLS-31は、参照医用画像群RMISと対象医用画像群TMISとの比較可能性を向上させるための他の画像処理ステップを含むことができる。これは、対象医用画像群TMIS (例えば、対象医用画像群TMISのメタデータファイルに符号化されることがある)の中に含まれる画像データに対して行われる画像処理ステップを読み取ること、及び参照医用画像群RMISに同じ画像処理ステップを適用することを含むことができる。
【0297】
さらに任意のステップSLS-32は、二次元医用画像間の画像類似性を決定し、特に定量化するように構成された訓練済み関数TFを提供するように向けられる。特に、訓練済み関数は、SLS-33からSLS-35までの後続のステップを実行するように構成することができる。しかしながら、SLS-33からSLS-35へのその後のステップは、訓練済み関数を使用せずに、すなわち、例えば、撮像データから特徴を選択し、それに基づいて類似度を決定するために、一以上の決定論的規則を実装するハードコード化機能を有する画像解析機能IAFによって実行することもできることを理解すべきである。
【0298】
ステップSLS-33では、対象医用画像群TMISの各スライスS-1から画像記述子D-1を抽出する。画像記述子D-1は、画像特徴ベクトルの形態で、スライスS-1の代表的な、又は特徴を特徴付ける特徴を含み得る。対象医用画像群TMISは、一般に、非画像データに関連すると同様に撮像データ記述子D-1は、同様に、画像特徴シグネチャー及び非画像特徴に基づくことがある。画像特徴シグネチャは、対象医用画像群TMISに含まれる任意の画像データに存在する、物体の同定、分析及び/又は測定、局所構造及び/又は全体構造及び/又はテクスチャを含む画像分析方法によって生成され得る。生成された画像特徴シグネチャーは、例えば、ランドマークの存在又は器官又は構造物のサイズ、組織及び/又は同定された組織又は器官の密度などのような解剖学的特徴及び/又は構造を含み得る。画像特徴シグネチャーは、同様に、分析された画像の中に存在する色及び/又は灰色スケールスキーム又はコントラスト特性又は局所的な灰色スケールグラジエントを特徴づけるパラメータを含んでいてもよい。画像特徴シグネチャーは、好ましくは、分析された画像を特徴づける1つの特徴だけでなく、総和としての多数の特徴を含む。対象医用画像群TMISに含まれる非撮像データ抽出された非画像特徴は、画像データに関連するメタデータを含むことがある。さらに、それらは、電子健康記録、臨床検査データから抽出された特徴などの、対象患者に関するさらなる状況情報を提供する撮像データから独立したデータに関係することができる。
【0299】
ステップSLS-34では、参照医用画像群RMISから、対応する画像記述子D-2を抽出する。参照医用画像群RMISの画像記述子D-2は、対象医用画像群TMISの画像記述子D-1と同様に生成されることがある。幾つかの例によれば、参照医用画像群RMISの画像記述子D-2は、既に生成されており、参照医用画像群RMISと共に医用情報システム40に保存されている。
【0300】
ステップSLS-35では、抽出された画像記述子D-1及びD-2を、対象医用画像群TMIS及び参照医用画像群RMISにおける対応するスライスCSを識別するために比較する。比較は、図10及び11に関連して導入されたように、類似性又は距離測定基準を適用することによって、再度実施することができる。比較はペアワイズでよい。すなわち、対象医用画像群TMISの各スライスS-1を、参照医用画像群RMISの各スライスS-2と比較する。代替法として、各スライスを、次の比較のために保持されている2つのより類似したスライスを有する、それぞれの他の医用画像データセットMIDS-1、MIDS-2の2つのスライスと比較する、トリプレットにおいて比較が起こることがある。医用画像群の各スライスS-1、S-2について、2つの医用画像群間のスライスS-1、S-2の明白な関連性を提供するために、それぞれの他の医用画像データセットMIDS-1、MIDS-2の対応するスライスCSを正確に1つ又は全く同定する。1つの医用画像群のスライスが、それぞれの他の医用画像群の撮像領域の外側にある場合、又は医用画像群のスライス解像度が、例えば、医用画像群の各スライスS-1、S-2に一致を提供するには粗すぎる場合、対応するスライスは見いだされない(これが、オプションのステップSLS-31で補正されない場合)。参照医用画像群RMISのスライスS-1、S-2と対象医用画像群TMISの間の識別された割り当てが、それぞれのスライス順位を保存し、あいまいさを解決するために、最終結果が満たさなければならない追加の制約又は補助条件が提供されることがある。このような制約は、参照医用画像群RMIS及び対象医用画像群TMISにおけるスライスの順序及び/又は全体的な類似度(最大にすべき)によって提供され得る。
【0301】
ステップSLS‐30の結果は、参照医用画像群RMISのスライスS‐1,S‐2と対象医用画像群TMISを互いに明白に割り当てる割り当てとして考えられるかもしれない。この結果は、「スライス対応」CSと命名されることもある。このように、スライス対応CSは、対象医用画像群TMISと参照医用画像群RMISとのレジストレーションの一形態として考えられる。
【0302】
ステップSLS-40で、この結果は、ユーザ又は後続の処理ステップに提供され得る。ステップSLS-40は、少なくとも部分的には、ユーザインタフェース10又は処理システム20のいずれかで実行することができる。必要に応じて、対応するデータ交換をこのステップに含める。
【0303】
図14は、いくつかの実施例による医用画像群の対応するスライスを同定するための方法に基づいて実行され得る任意の方法を示す。特に、図6に示される任意選択方法ステップは、ステップSLS-40に従うことができる。ステップの順序は、必ずしもステップの番号付けに対応するものではないが、本発明の異なる実施例間で変化し得る。図12のような参照番号で示された方法ステップは、図12の実施例に関連して導入及び説明された方法ステップに対応する。
【0304】
特に、図14は、ステップSlS-30で決定されたスライス対応CSが、どのようにして2つの医用画像群のビューを同期させるために使用され得るかを説明する。図14の実施例のための使用ケースは、ユーザが対象医用画像群TMISを開いており、特定のスライスS-1又は関心領域ROIを見ており、比較のための参照用医用画像群RMISが参照として取得されている場合に発生することがある。ここでは、図12及び13に関連して導入された同様のスライス検索により、対象医用画像群TMISの任意のスライスS-1と、参照医用画像群RMISの対応するスライスS-2とを自動的にマッチさせ、ユーザが、例えば閲覧のために、1つのスライスを選択した場合、それぞれ対応するスライスCSを自動的に提供することができるという効果を得ることができる。関心領域ROIに対応する参照医用画像群RMISのスライスS-2は、「参照スライス」REF-SLCとして指定することもできる。
【0305】
具体的には、ステップSLS-50において、対象医用画像群TMIS又は参照医用画像群RMISのいずれかにおいて、スライスS-1、S-2の選択を示すユーザからの入力が受信される。ユーザ入力は、例えば、ユーザインタフェース10を介してシステム1に入力されてもよい。ユーザ入力は、目的の医用画像群TMIS又は参照医用画像群RMISの1つをスクロールしながら、スクロール動作の形で、所望のスライスS-1、S-2に到達させることができる。例えば、このようなスクロールは、スクロールホイール又はジョグダイアル又はホイール、適切なグラフィカルユーザーインターフェース、ジェスチャー、音声命令などにおける動作ボタン又はスライダーを用いて入力することができる。さらに、このようなユーザ入力は、例えば、スライスS-1、S-2のそれぞれのスタックにおけるz位置を示すz軸バーをクリックすることによって、又はスライス番号を直接入力することによって、ユーザが見たい所望のスライスを直接示すことができる。特に、対象医用画像群TMISのスライスS-1は、対象医用画像群TMISにおいて関心領域を定義することによって暗黙的に選択され得る。ステップSLS-50は、少なくとも部分的には、ユーザインタフェース10又は処理システム20のいずれかで実行することができる。必要に応じて、対応するデータ交換をこのステップに含める。
【0306】
ステップSLS-60では、ユーザが現在選択しているスライスS-1、S-2に関するそれぞれ対応するスライスCSが識別される。この目的のために、この方法は、ステップSLS-30で決定されたスライス対応CSに復帰する。次に、スライス対応CSに基づいて、システム1は、それぞれの他の医用画像群のどのスライスが、ユーザによって現在選択(閲覧)されているスライスに対応するかを計算することができる。レファレンス医用画像群RMISの場合、これは関心領域ROIに相当する参照スライスREF-SLCの同定につながる可能性がある。ステップSLS-60は、主に処理システム20上で実行され得る。
【0307】
ステップSLS-70において、同定された対応するスライスCS及び/又は参照スライスREF-SLCが提供される。この場合の「提供」とは、識別された対応するスライスCS及び/又は参照スライスREF-SLCを(識別された対応するスライスに基づいて対応する表示データを生成することによって)適切なグラフィカルユーザインターフェースでユーザに表示することを意味する場合がある。いくつかの例によれば、同期された医用画像群の識別された対応するスライスCS /参照スライスREF-SLCは、現在選択されているもの/関心領域ROIと共に表示され得る。たとえば、2 つのスライスREF-SLC、S-1 を適切なグラフィカルユーザーインターフェイスに並べて表示できる。ステップSLS-70は、ユーザインタフェース10上又は処理システム20上のいずれかで、少なくとも部分的に実施することができる。必要に応じて、対応するデータ交換をこのステップに含める。
【0308】
ステップSLS-80は、ステップSLS-50~SLS-70、すなわちユーザ入力(SLS-50)の受信、それに対応するスライスCS (SLS-60)の識別情報、対応するスライスCS (SLS-70)の出力を複数回繰り返すことができることを示す繰り返しステップである。したがって、対応するスライスCSは、ユーザによって現在選択されているスライスS-1に動的に適合させることができる。言い換えれば、ユーザーが1つの医用画像群で新しいスライスを選択すると、対応するスライスCSが更新される。これにより、ユーザは2つの画像群を同時にスクロールすることができる。ステップSLS-80は、少なくとも部分的には、ユーザ・インタフェース10又は処理システム20のいずれかで実行することができる。必要に応じて、対応するデータ交換をこのステップに含める。
【0309】
図15は、本発明の実施例に従って医用画像群の対応するスライスCSを同定するための方法に基づいて実行することができる任意の方法を示す。特に、図15に示された任意選択方法ステップは、ステップSLS-40に従うことができ、ステップS50で参照医用画像群RMISを決定するための追加測定として使用され得る。ステップの順序は、必ずしもステップの番号付けに対応するものではないが、本発明の異なる実施例間で変化し得る。図12のような参照番号で示された方法のステップは、図12の実施例に関連して導入及び説明された方法のステップに対応している。さらに、個々のステップ又はステップのシーケンスを繰り返すことができる。
【0310】
特に、図15は、図4に関連して説明された類似のスライス検索が、2つの医用画像群が比較可能であり、したがってユーザによる比較読影に適しているかどうかを推測するために、どのように追加的に使用され得るかを説明する。具体的には、スライス対応CSを用いて、対象医用画像群TMISと候補医用画像群CMISの撮像ボリュームの重複を決定する。この重なりが大きいほど、2つの医用画像群を比較することができる。
【0311】
従って、ステップSLS-90は、ステップSLS-40に提供されるスライス対応CSに基づいて、対応する医用画像群TMIS及びCMISの解剖学的重複を決定するように指向される。解剖学的重複は、2つの医用画像群TMIS及びRMISにおける互いに対応するスライスの数からそれぞれ決定され得る。さらなる例によれば、解剖学的重複は、2つの医用画像群TMIS及びCMISの重複領域の末端をマーキングする対応する画像対から決定され得る。解剖学的重複は、2つの医用画像データ群TMIS及びCMISにおいて、スライスS-1、S-2の積層方向に沿って任意の単位で測定することができる。ステップSLS-90は、主に処理システム20上で実行され得る。
【0312】
ステップSLS-100では、2つの医用画像群TMISとCMISの比較可能性の程度を、解剖学的重複に基づいて計算する。いくつかの例によれば、比較可能性の程度は、例えば解剖学的重複であり得る。さらなる例によれば、追加の情報を因子に入れてもよい。このような追加情報は、例えば、2つの医用画像群TMISとCMISの間の時間スパンが取得されている(比較可能でない2つの画像群がより長い時間が経過していることがある)、2つの医用画像群TMISとCMISを取得するために使用されるそれぞれの画像モダリティのタイプ(類似のモダリティで取得されたデータはより比較可能であることがある)、2つの医用画像群TMISとCMISの中で構成されるメタデータなどである。ステップSLS-100は、主に処理システム20上で実行され得る。
【0313】
ステップSLS-110において、比較可能性の程度を提供する。「提供」とは、決定された比較可能性の程度がユーザの注意にもたらされることを意味することがある。2つの画像群が比較困難な場合、ユーザは警告メッセージを受信することができ、比較読み取りのために別の画像を選択することができる。さらに、「提供される」とは、2つの医用画像群TMIS及びCMISについて、比較可能性の程度が記録されること、すなわち、後で使用するために医用情報システム40に保存されることを意味することがある。さらに、提供される場合には、比較可能性の程度が、参照医用画像群RMISとして候補医用画像群CMISを自動的に選択するためにステップS50において使用されることを意味してもよい。ステップSLS-110は、ユーザインタフェース10上又は処理システム20上のいずれかで、少なくとも部分的に実施することができる。必要に応じて、対応するデータ交換をこのステップに含める。
【0314】
図16は、参照医用画像群RMIS及び1つの候補医用画像群CMISの医用画像データ群の比較可能性の程度を決定するための方法を示す。この方法はいくつかの段階から成る。ステップの順序は、必ずしもステップの番号付けに対応するものではないが、本発明の異なる実施例間で変化し得る。図12及び/又は15のように同様の参照番号で示される方法のステップは、それぞれの実施例に関連して導入及び説明される方法のステップに対応する。さらに、個々のステップ又は一連のステップを繰り返すことができる。
【0315】
図16に図示の実施例は、複数の候補医用画像群CMISから比較読影するために、参照医用画像群RMISを自動的に評価及び/又は選択することができる方法を提供するために、上記実施例に構築される。
【0316】
第一段階のSLS-120は、対象医用画像群TMISを受信するように指示される。対象医用画像群TMISは、ユーザが読み取ろうとしている患者の現在の検査として考えられることがある。それとは別に、ステップSLS-120はステップSLS-10に相当する。
【0317】
ステップSLS-130は、対象医用画像群TMISと併せて、比較読影に問題となる複数の候補医用画像群CMISを検索するように指示される。これには、ステップS40に関連して記述される参照医用画像検査RSを識別することが含まれることがある。あるいは、候補医用画像群CMISは、例えば、複数の研究候補医用画像検査CSに関連し得る適切な候補医用画像群CMISについて、医用情報システム40に直接照会することによって、複数の方法で得ることもできる。例えば、患者名又はIDのような適切な症例又は患者識別子を、対象医用画像群TMISから抽出し、検索用語として使用することができる。ステップSLS-130は、ユーザインタフェース10上、又は処理システム20上、又は医療情報システム40上のいずれかで、少なくとも部分的に実施することができる。必要に応じて、対応するデータ交換をこのステップに含める。
【0318】
続いて、検索された候補医用画像群CMISの各々について、ステップSLS-30、SLS-100、及びSLS-110を、繰り返しステップSLS-140を介して繰り返す。これらのステップは、主に処理システム20上で実行され得る。前述のように、ステップSLS-30は、対象医用画像群TMISと、それぞれの参照医用画像群RMISとの間のスライス対応CSを識別する。従って、ステップSLS-30は、特に、各候補医用画像群CMISに対して繰り返されるであろうサブステップSLS-31、SLS-34及び/又はSLS-35を含むことができる。ステップSLS-32及び/又はSLS-33のような、候補医用画像群CMISに関係しない、ステップS130「の他の任意のサブステップは、好ましくは、全ての候補医用画像群CMISに対して繰り返されるのではなく、図16の方法において一度だけ実施される。ステップSLS-100及びSLS-110は、図15に関連して示されるステップと同一であり、各候補医用画像群CMIS指示に対して、対象医用画像群TMISと各候補医用画像群CMISの比較可能性を生じさせる。
【0319】
ステップSLS-150において、比較可能性の程度は、ユーザに提供されるか、又はさらなる処理のために提供される。例えば、比較可能性の程度は、それぞれの候補医用画像群CMISと共にユーザに表示され得る。それにより、利用可能な医用画像群CMIS候補のどれが追跡読影に適しているか、ユーザに迅速な概要を提供することができる。従って、ユーザは、適切な医用画像群CMIS候補を参照医用画像群RMISとして意図的に選択することができる位置される。ステップSLS-150は、少なくとも部分的には、ユーザインタフェース10又は処理システム20のいずれかで実行することができる。必要に応じて、対応するデータ交換をこのステップに含める。
【0320】
さらに、比較可能性の程度は、ステップSLS-160において、参照医用画像群RMISとして、適切な候補医用画像群CMISを自動的に選択又は予め選択するために使用され得る。例えば、システム1は、予め定められた閾値よりも大きい比較可能性の程度(解剖学的重複)の医用画像群CMISの全ての候補を選択することができる。こうして選択された医用画像群CMIS候補は、次いで、ステップS50において提供されてもよい。それゆえ、「提供された」とは、システム1の一時的な記憶において、再検討及びさらなる選択及び/又はそれらを負荷するために、ユーザインタフェース10を介してユーザにそれらを提示することを意味してもよい。ステップSLS-160は、ユーザインタフェース10上、又は処理システム20上、又は医療情報システム50上のいずれかで、少なくとも部分的に実施することができる。必要に応じて、対応するデータ交換をこのステップに含める。
【0321】
図17は、上記実施例の1つ以上による類似のスライス検索を用いて、1つ以上の病変の時間的進化を決定するための任意の方法ステップを示す。この方法はいくつかの段階から成る。ステップの順序は、必ずしもステップの番号付けに対応するものではないが、本発明の異なる実施例間で変化し得る。図12と同様の参照番号で示された方法のステップは、それぞれの実施例に関連して導入され説明された方法のステップに対応する。さらに、個々のステップ又は一連のステップを繰り返すことができる。
【0322】
ステップSLS-170は、対象医用画像群TMISにおいて、1つ以上の関連スライスを識別するように向けられる。関連スライスは、患者の肺又は肝臓組織における病変のような患者の身体部分の1つ以上の病変を描出するという点で特徴付けられる。それに加えて、又は代替形態として、関連性スライスは、例えば、そのスライスにおける1つ又は複数の病変の存在時に、ユーザの1つ又は複数の以前の注釈を含むことができる点で特徴づけられることがある。関連スライスは、例えば、医用画像データ中の病変を検出するように構成された適切なコンピュータ支援検出アルゴリズムを適用することによって識別されることがある。さらに、関連スライスは、ユーザによって示されるように、関心領域ROIに関係することができる。ステップSLS-170は、主に処理システム20上で実行され得る。
【0323】
ステップSLS-180は、例えば前記コンピュータ支援検出アルゴリズムを使用することによって、1つ以上の関連スライスにおける1つ以上の病変を検出するように向けられる。最初に病変を有するスライスを検出することによって関連スライスが同定されている場合、ステップSLS-180は、ステップS510で構成され得る。ステップSLS-180は、主に処理システム20上で実行され得る。
【0324】
ステップSLS-190では、対応するスライスが参照医用画像群RMISにおいて識別され、対応するスライスは関連するスライスに対応する。参照医用画像群RMISにおける対応するスライスの識別は、ステップSLS-30において計算され、図12のステップSLS-40において提供されるスライス対応CSに基づいて行われる。ステップSLS-190は、主に処理システム20上で実行され得る。
【0325】
ステップSLS-200において、1つ以上の対応する病変が、ステップSLS-190において同定された対応するスライスにおいて検出される。これもまた、対応するスライスの撮像データにコンピュータ支援検出アルゴリズムを適用することによって行うことができる。ステップSLS-200は、主に処理システム20上で実行され得る。
【0326】
ステップSLS‐210で、対象医用画像群TMISで検出された病変は、対応する病変と一致する。言い換えれば、対象医用画像群TMISの病変は、参照医用画像群RMISの中の対応する病変に明白に割り当てられ、その結果、一対の病変及び対応する病変の結果が得られるようになる。そのような方法で割り付けられない病変は対になっておらず、場合によっては新たな病変又は消失病変を指定する。このような新たな又は消失した病変は、例えば、ステップS70で表示される撮像データに適切なマーキングを出力することによって、任意にユーザに注意を喚起することができる。病変は、それぞれのスライスにおけるそれらの位置、互いに対するそれらの相対的位置、又は他の解剖学的構造に関して、それらの形状、それらの特性(石灰化の程度、境界における構造など)、サイズ、光学特性などを評価することによって整合され得る。ステップSLS-210における病変をマッチングするために、指定されたコンピュータ支援病変マッチングアルゴリズムを適用することができる。ステップSLS-210は、主に処理システム20上で実行され得る。
【0327】
ステップSLS-220は、ステップSLS-210の照合に基づいて、参照医用画像群RMIS及び対象医用画像群TMISにおいて検出された1つ以上の病変の時間的進化を決定するように指向される。この目的のために、各病変について1つ以上の測定値を抽出し、対応する病変と比較することができる。例えば、そのような測定値は、病変の大きさ、直径、ボリュームなどの幾何学的値に関係することがある。特定の病変がどのように進行したかを示す時間的進化の結果。さらに、さまざまな病変対の平均値/時間的進化を計算してもよい。ステップSLS-220は、主に処理システム20上で実行され得る。
【0328】
ステップSLS-220では、このように決定された時間的進化が提供される。具体的には、時間的進化は、例えば、トレンドグラフの形で、又は、ユーザが病変(例えば、マウス・カーサー)の上に動いたときに開くポップアップ・ウインドウとして、ユーザに提供され得る。さらに、時間的進化は個々の病変に関連づけることによってもたらされる可能性がある。それに加えて、又は代替形態として、時間的進化を、すなわち、医学情報システム50に保管されるべき構造化された医学的報告書に含めることができる。ステップSLS-220は、ユーザインタフェース10上又は処理システム20上のいずれかで、少なくとも部分的に実施することができる。必要に応じて、対応するデータ交換をこのステップに含める。
【0329】
自発的に言えば、上記は2つの医用画像群に適用可能であるだけでなく、時間的進化(複数)から、2時点以上にわたる個々の病変の進行を示す。さらに、1つ以上の病変に対する時間的進化の自動抽出は、前述の実施例による追跡読影のための右参照医用画像群RMISの自動選択と適合する。具体的には、まず、対象医用画像群TMISと十分な解剖学的重複を有する1つ以上の参照医用画像群RMISが決定され、次いで、病変の時間的進化が対象医用画像群TMISを構成し、こうして同定された参照医用画像群RMISが推論されると考えることができる。
【0330】
他の実施例に関連して既に詳細に述べたように、医用画像群TMIS、CMIS、RMISにおける対応するスライスを同定するための処理ステップは、二次元医用画像間の類似性を決定するように構成された訓練済み関数TFによって実施することができる。
【0331】
一般に、このような訓練済み関数TFは、学習済み課題に従って撮像データを分類するのに適したインテリジェント剤又は分類器に関係することができる。それらは、一対の二次元医用画像の撮像データがどの程度類似しているかを予測することができる任意のタイプの方法又は装置に関係することができる。この定義は、限定されるものではないが、サポートベクターマシン、決定木、ナイーブベイズ又は(曲がりくねった)ニューラルネットワークのようなデータマイニングツール及び技術を含む。具体的には、実装によれば、訓練済み関数TFは、回帰ニューラルネットワークを含むことができる。一実施例では、訓練済み関数TFの配置は、完全回旋ニューラルネットワークである。代替ネットワーク配置は、例えば、3D Very Deep Convolutional Network(3D-VGGNet)を使用することができ、ここでは、VGGNetは、狭い回旋層を含む多くの層ブロックを積み重ね、次いで、maxプール層を含む。さらなる実装によれば、スキップ接続を利用する残留ニューラルネットワーク(ResNet)、又はいくつかの層を飛び越えるためのショートカットを使用することができる。
【0332】
曲がりニューラルネットワークは、複数の連続した層の形で定義される。逐次という用語は、ある層から次の層への入力への出力特徴値の一般的な流れを示すために使用される。次の層からの情報は次の層に供給され、最終的な出力層まで続く。層は、前の層へのフィードバックを含めて、正方向のみの場合もあれば、両方向性の場合もある。層は加重される。さらに、各層は、一般に、重み付けされる多数の節点を含む。基本的に、各ノードは、1つ以上の入力値を出力値にマッピングする数学的操作を実行していると見なすことができる。各層のノードは、前及び/又は後続の層のノードの全て又はサブセットのみと接続することができる。入力及び/又は出力が接続されている場合、2つのノードが「接続」されている。入力層の節に対する入力値は、関心のあるそれぞれの領域ROI又はスライスS-1、S-2の画像要素値、好ましくは画素値である。最後の層は、入力された画像データ間の類似度を出力する出力層である。出力は、類似度を示す連続的に変化する値の形であり得る。他の例によると、出力(類似度)は、2つの画像が類似しているかどうかを示す2値形式をとることがある。入出力層間には、隠れ層が多数存在する。画像から特徴を抽出するために、ニューラルネットワーク層の第一のグループを適用することができる。この場合、医用画像、即ち、画像の各個々の画像要素に対するグレースケール及び/又は色値は、ニューラルネットワークに対する入力値として役立つ。こうして抽出された特徴は、コントラスト、勾配、テクスチャー、密度などのように、第2のネットワーク層群(分類器としても知られる)に入力値として与えられ、それらは画像に存在する抽出された特徴のうちの少なくとも1つに、物体及び/又は特徴をさらに割り当てるのに役立つ。畳み込み、プーリング(例えば、最大プーリング又は平均プーリング)、アップサンプリング、デコンボリューション、完全接続、又は他の種類の層など、様々なタイプの層が使用されてもよい。回旋層は入力を曲げ、その結果を入力上に画像フィルタカーネルを移動させることによって次の層に通す。プール層は、1つの層でのノードクラスタの出力を次の層での単一のノードに結合することにより、データの寸法を減少させ、それにより、基礎となる計算を効率化する。アップサンプリング層とデコンボリューション層は、抽象レベルの観点から、コンボリューション層とプール層の動作を逆転させる。完全に接続された層は、1つの層の全てのノードを別の層の全てのノードに接続し、基本的に全ての特徴が「投票」を受け取るようにする。実装によれば、スキップ接続を使用することができ、その結果、層は、1つ又は複数の残存ブロック又は層を導入する連続的に次の層以外の層にも出力することができる。このような構成はResNetとも呼ばれる。残差ブロックを用いると、これが非常に深いニューラルネットワークから知られている消失勾配問題を緩和するので、より深いネットワークを訓練する能力が生じる。
【0333】
いくつかの例によれば、訓練済み関数TFは、二次元画像から画像記述子を抽出する作業(符号化とも呼ばれる)と、これらの画像の画像記述子を比較することによって(符号化とも呼ばれる)、2つの画像間の類似性を評価する作業(すなわち、ある程度の類似性を決定する)を行うように構成することができる。従って、訓練済み関数は、少なくともコード分岐及びデコーダ分岐を含むことができる。
【0334】
いくつかの例に従って、訓練済み関数は、複数のエンコーダ分岐及びデコーダ分岐を含んでもよい。各符号化器ブランチは、二次元画像を処理して、そこから画像記述子D-1、D-2を抽出することができる。解読者分岐は、符号化者分岐から得られる画像記述子D-1、D-2を集約することから得られる、融合した潜在画像記述子データ構造を処理する。二次元画像を処理する複数のエンコーダー枝は、同じパラメータを共有する互いのコピーである。エンコーダ分岐は、畳み込みレイヤを含むことができる。原則として、ResNetのようなCNNバックボーン又はオーダーデザインを使用することができる。エンコーダ分岐の重みは、エンコーダ分岐間で共有することができ、ネットワークの各層の効率的な学習と処理を可能にする。これは、個々の二次元画像を処理する複数のエンコーダー分岐が同じパラメータを共有できること、すなわち、全てのエンコーダー分岐に対して同じ重み付けを使用できることを意味する。これは、訓練中に、重み付けを共有して変更することで施行することができる。時には、複数の符号化器分岐間でパラメータを共有する概念は、Siameseコピーと呼ばれる。具体的には、2つのコード分岐を含むネットワークをSiameseネットワークと呼ぶことができ、一方、3つのコード分岐を含むネットワークをtripletネットワークと呼ぶことができる。符号化器分岐は、類似の画像対の画像記述子D-1、D-2よりも、画像記述子の特徴空間において、異種の画像対の画像記述子D-1、D-2がさらに離れて押しやられるように構成することができる。
【0335】
解読分岐における画像記述子D-1、D-2を処理することは、学習済み又はプリセットされた距離又は類似性の測定基準が、2つの画像記述子D-1、D-2間の類似性を評価するために適用されることを意味する可能性がある。類似度計量は、2つの画像記述子D-1、D-2の距離が、画像記述子D-1、D-2の特徴空間において適切に定量化されるように構成することができる。距離又は類似性測定基準は、例えば、各画像記述子D-1、D-2に対するコサイン類似性又はL1-ノルムを出力することによって、数学的関数の形をとることができる。さらに、類似性計量は、適切に適合した重み又はパラメータを有する1つ又は複数のネットワーク層によって具体化され得る。
【0336】
一般に、本実施例の訓練済み関数TFは、訓練データに基づいて個々の層及び節の重み付けパラメータを適合させるか、又は重み付けパラメータを調整することによって学習する。類似した医用画像の潜在的徴候を予めプログラミングするのではなく、訓練済み関数TFのアーキテクチャを定義し、入力データに基づいて異なるレベルの抽象化でこれらのパターンを学習する。訓練済み関数TFは、監視された学習に従って方法を用いて訓練されることが望ましい。十分に確立されているのはバックプロパゲーション法であり、本発明の実施態様に適用することができる。訓練中に、訓練済み関数TFを訓練入力値に適用し、その目標値が既知である対応する出力値を作成する。生成された出力値と目標出力値との間の差(例えば、生成された値と目標値との間の差の平均二乗誤差(MSE)の形式で)は、どの程度良好な、又は不良な訓練済み関数TFが実行するかの尺度として、コスト又は損失関数を導入するために使用され得る。訓練の目標は、訓練済み関数TFの重みを反復的に調整することによって(局所的)最小の損失関数を見いだすことであり、訓練済み関数が最終的に(十分に)大きな訓練データコホートにわたって許容可能な結果を生み出すことが可能になる。この最適化問題は、確率的勾配降下又は当技術分野で既知の他のアプローチを使用して実行することができる。
【0337】
原則として、1つ以上の符号化器分岐及び符号化器分岐を含む訓練済み関数TFは、符号化(すなわち、画像記述子の抽出)又は符号化(すなわち、画像類似性の定量化)又はその両方のいずれかを適応させることによって訓練することができる。例えば、1つ以上の符号化ブランチは、特に意味のある画像記述子D-1、D-2が抽出されるように適合させることができる。さらに、デコーダ分岐は、適切な類似性測定基準が学習され及び/又は適用されるように訓練されてもよい。
【0338】
いくつかの例によれば、喪失機能はトリプレット喪失機能を含むことができる。トリプレットロスは、ベースライン(アンカー)入力が正の(類似)入力と負の(相違)入力と比較されるロス関数である。ベースライン(アンカー)入力から正の入力までの距離を最小化し、ベースライン入力から負の入力までの距離を最大化する。
【0339】
実施例によれば、一般的な訓練スキームは、以下の形態をとり得る。まず、訓練済み関数TFを受ける。訓練済み関数は、すでに事前に訓練されていたり、まったく訓練されていなかったりすることがある。次に、訓練用データセットを提供することができ、これは、訓練用画像データセットに含まれる画像間の類似性を示す複数の画像及び所定の類似度を含む。特に、訓練画像データセットの中に含まれる画像は、一以上の患者の医用画像群から抽出されていてもよい。次に、訓練済み関数TFによって、訓練済み画像データセットの画像ペア間の類似性をそれぞれ示す類似度を決定するために、訓練済み関数TFに訓練済み画像データセットを入力することができる。こうして決定された類似度を、予め決定された類似度と比較することができる。最後に、この比較に基づいて、訓練済み関数TFは調整され、このように調整された訓練済み関数TFは、さらなる訓練又は展開のために提供され得る。
【0340】
それに加えて、又は代替形態として、図18は、二次元医用画像間の類似性を決定するために訓練済み関数TFを訓練するための特定の方法ステップを示す。ステップの順序は、必ずしもステップの番号付けに対応するものではないが、本発明の異なる実施例間で変化し得る。
【0341】
第一段階T10は、訓練済み関数TFを受け取るように指示され、これは、予め訓練されているか、又は以前に訓練されていないことがある。訓練済み関数TFは、メモリから(例えば、KIモデルのライブラリの形式で)受信され得、一時メモリに格納され得る。
【0342】
その後のステップT20は、少なくとも3つの二次元医用画像を含む訓練画像データセットを提供することを目的とする。二次元医用画像は、患者の身体部分の画像ボリュームをそれぞれ描出する1つ以上の医用画像群RMIS、CMIS、TMISから抽出されている。医用画像は、展開され、容易に学習される機能TFによって処理されるスライスS-1、S-2と同じタイプであることが望ましい。従って、各医用画像は同様に患者の身体部分の断面を示し、複数の解剖学的構造及び器官を描画することができ、上記医用画像モダリティの1つを用いて取得された。いくつかの例によれば、二次元医用画像は同じ医用画像群から抽出されている。二次元画像は、第二の医用画像が第一の医用画像に対して第三の医用画像が有するよりも大きな類似性を有する(そのように選択される)という点で特徴づけられる。すなわち、第1医用画像はアンカーとして、第2医用画像はポジティブ画像であり、第3医用画像はネガティブ画像である。
【0343】
続くステップT30では、第1、第2及び第3の医用画像が訓練済み関数TFに入力され、ステップT40において、第1の医用画像と第2の医用画像との間の第1の類似度、及び第1の医用画像と第3の医用画像との間の第2の類似度を決定する。具体的には、訓練済み関数TFは、それぞれ第1、第2及び第3の医用画像から、画像記述子D-1、D-2を抽出することができる。言い換えれば、訓練済み関数TFは、それぞれ第1、第2、及び第3の医用画像をコードすることができる。それに続いて、訓練済み関数は、それぞれ抽出された画像記述子を比較することによって、第1及び第2の類似度を推論することがある。この点に関して、訓練済み関数TFは、符号化空間の中でそれぞれの画像記述子の距離を出力することが可能な類似度計量を適用することがある。
【0344】
次に、その後のステップT50において、訓練済み関数TFは、第1類似度が第2類似度よりも大きいように調整される。この調整は、符号化、すなわち、画像記述子抽出のプロセス、及び/又は解読、すなわち、適切な類似性測定基準を適用するプロセスを適応する量になり得る。しかし、いくつかの例によれば、類似性測定基準は、例えばユークリジア距離又はコサイン類似性として固定されてもよい。その場合、訓練済み関数のいかなる適応も、コード化された分枝又は分枝に焦点を当てるであろう。
【0345】
図19は、実施例におけるステップS60に従ってレジストレーションを実施する方法として、医用画像データにおいて所与の特徴が表現される位置を決定する方法を示している。本方法を使用することができる医用画像データの例示を図20~23に示す。
【0346】
図20は、対象医用画像群TMISの表現を示す。図21~23はそれぞれ、参照医用画像群RMISの表現を示す。図21~23から分かるように、対象医用画像群TMISと参照医用画像群RMISは異なる場合がある。具体的には、この例では、図20の対象医用画像群TMISと比較して、図21~23の参照医用画像群RMISの図における右側の領域と、撮像データが捕捉された領域の位置が異なること、また、対象医用画像群TMISと参照医用画像群RMISのスライスが一致しない、又は、やや異なる体領域がカバーされていないという意味で、図20~23の画像平面に対して、対象医用画像群TMISと参照医用画像群RMISとが垂直方向にずれていることがある。それにもかかわらず、PM-226、PM-242の特徴のあるパターンは、対象医用画像群TMIS及び参照医用画像群RMISの両方において表現される。この例では、医用画像データに表現される所定の特徴PM-226は、患者の右肺における病変PM-226である。しかしながら、与えられた特徴は、医用画像データの中で表現される任意の特徴、例えば、画像形成対象の任意の特定の部分(例えば、内部空洞などを含む)であり得ることが認識されるであろう。
【0347】
使用例(以下、図示の目的で)では、医師は、(図20に示されるように)対象医用画像群TMISのレンダリングをレビューすることがある。具体的には、医師は関心領域ROIをレビューしている可能性がある。医師は、参照医用画像群RMISと比較して、所与の特徴、例えば、病変PM-226の進行を評価することに興味をもつことがある。対象医用画像群TMISにおいて与えられたパターンPM-226が表現される位置PM-224が公知である。しかし、与えられたパターンPM-226が参照医用画像群RMISにおいて表現される位置は知られておらず、医師が目視のみで確認することが困難又は負担となる場合がある。図20に示される方法は、所与の特徴PM-226が参照医用画像群RMISの中で表現される位置を決定する。
【0348】
図20を再び参照すると、本方法は、広い概要において、以下を含む:
PM-10におけるステップ、対象医用画像群TMISにおける第1の位置PM-224についての第1の局所画像記述子を得ること、第1の位置PM-224は、所定のパターン又は特徴PM-226が表現される対象医用画像群TMIS内の位置であること、第1の局所画像記述子は、第1の予め定義されたサンプリングパターンに従って第1の位置224に対して位置する対象医用画像群TMISの要素PM-222(すなわち、画素又はボクセル)の値の代表であること;
ステップPM-20において、参照医用画像群RMISにおける複数の候補第2位置PM-334、PM-340、PM-440、PM-448の各々に対する第2の局所画像記述子を取得する。各第2の局所画像記述子は、第1の予め定義されたサンプリングパターンに従って、それぞれの候補第2位置PM-334、PM-340、PM-440、PM-448に対して位置する参照医用画像群RMISの要素PM-332、PM-338(すなわち、画素又はボクセル)の値を表す;
PM-30では、複数の候補第二位置PM-334、PM-340、PM-440、PM-448の各々について、第一の記述子と第二の位置PM-334、PM-340、PM-440、PM-448に対する第二の記述子との間の局所的な画像類似性の程度を示す局所的な画像類似性メトリックを計算する;
PM-40において、算出された局所画像類似度メトリックスに基づいてPM-334、PM-340、PM-440、PM-448の複数の候補第2地点の中からPM-334、PM-448の候補第2地点を選択する;
ステップPM-50において、所定の特徴PM-226が参照医用画像群RMISにおいて表される位置PM-334、PM-446を、選択された候補第2位置PM-334、PM-448に基づいて決定する。
【0349】
したがって、所定のパターン又は特徴PM-226が医用画像データTMISに表現される位置PM-334、PM-446を決定するための技術であって、RMISが提供される。具体的には、与えられたパターン又は特徴226が第1の医用画像群TMISに表現される既知位置を用いて、与えられたパターン又は特徴が第2の、例えば、患者の以前の医用画像群参照医用画像群RMISに表現される位置を決定する。これは、例えば、参照医用画像群RMISの中で与えられた特徴PM-226が表現される位置を見つける際の医師の負担を減らすことができる。選択された候補位置に対する参照医用画像群RMISの撮像データは、ステップS70において表示データを生成するための基礎とすることができる。
【0350】
さらに、この判定は、パターン又は特徴PM-226が参照医用画像群RMISにおいて表現される既知の位置について、及び対象医用画像群TMISにおける複数の候補位置の各々について、局所画像記述子間の類似性を判定することに基づいている。これは、高速で、効率的で、及び/又は柔軟な特徴位置を提供することができる。
【0351】
所定のパターン又は特徴PM-226は、関心領域ROIに基づいて得ることができる。いくつかの例において、所与のパターン又は特徴PM-226は、関心領域ROIに含まれる撮像データから得ることができる。いくつかの例において、与えられたパターン又は特徴PM-226は、関心領域ROIに対応することができる。
【0352】
例えば、既知の第一の位置PM-224と候補の第二の位置PM-334に対する局所的な画像記述子間の類似性を決定するために、PM-340は、コスト関数を最適化することによって、1つの画像内の全ての画素/ボクセルが他の画像内の全ての画素/ボクセルにマップされる画像レジストレーション技術と比較して、計算上、かなり安価であり得る。したがって、所定の計算予算に対して、現在開示されている方法は、画像レジストレーションに基づく方法よりも有意に速い結果を提供し得る。これは、次に、画像データとのリアルタイム又はほぼリアルタイムの相互作用を可能にし得る。
【0353】
記述子を所定の分布又はサンプリングパターンにおいて、所定の位置PM-224に対して位置する要素(例えば、ボクセルの画素)値に基づいて設定することにより、特徴PM-226の周辺及び空間的コンテキストが、局所的画像記述子に符号化されることが可能になる。これは、所与のパターン又は特徴PM-226が、信頼性、効率性及び/又は柔軟性のある方法で決定されるために、参照医用画像群RMISにおいて表現される位置を提供する。
【0354】
例えば、そのような局所画像記述子は、1つの画像の全ての画素を、画像レジストレーション技術に従って別の画像の画素にマッピングすることを試みるのではなく、パターン又は特徴及び関心のある候補位置の周囲を符号化することがある。従って、対象医用画像群TMIS及び参照医用画像群RMIS画像が比較的複数の(例えば、それらが描画する身体の全体領域において)場合でさえ、所与のパターン又は特徴が参照医用画像群RMISにおいて表現される位置は、それにもかかわらず、確実に決定され得る(例えば、画像間の全ての画素をマッピングしようとするために、典型的には、比較的類似している画像に限定される、古典的画像レジストレーション技術と比較して)。したがって、現在開示されている技術は、より広い範囲の画像群に対して正確な結果を提供し、従って、より柔軟に適用され得る。
【0355】
別の例として、既知の第1の位置PM-224に対する局所的な画像記述子と、候補の第2の位置PM-334との間の局所的な画像類似性を決定するために、PM-340は、ランドマーク検出ベースの方法に従って、画像内で検出するように分類器が訓練済み「ランドマーク」の医用画像群TMIS、RMISにおける存在に依存する必要はない。従って、現在開示されている方法は、それが効果的に適用され得る医用画像群のタイプに関してより柔軟であり得る。さらに、位置決定を局所的な画像記述子間の類似性に基づいて行うことにより、現在開示されている技術は、例えば、ランドマーク検出に基づく方法に従って分類子が訓練済みランドマークではなく、任意の所定の特徴に対して適用することができる。従って、現在開示されている技術は、より広範囲の特徴に対して正確な結果を提供し、従って、より柔軟に適用され得る。記述子間の類似性を決定することにより、医用画像データの中で与えられた特徴が表現される位置が、ランドマーク検出に基づく技術に従って訓練済み分類子を使用せずに決定されることが可能となり、したがって、分類子の訓練データセットの準備に関連する時間及び労力、ならびに分類子の訓練の計算負荷を保存することができる。従って、現在開示されている方法は、医用画像データ中の所与の特徴PM-226が効率的な方法で表現される位置の判定を可能にし得る。
【0356】
前記したように、本方法は、ステップPM-20において、対象医用画像群TMISにおいて、最初の位置PM-224に対する最初の局所画像記述子を得ることを含む。最初の位置PM-224は、所定の特徴PM-226が表現される対象医用画像群TMIS内の位置である。第1の局所画像記述子は、第1の予め定義されたサンプリングパターンに従って、第1の位置PM-224に対して位置する対象医用画像群TMISの要素PM-222の値を代表する。
【0357】
いくつかの例では、最初の局所画像記述子は、最初の位置PM-224のために対象医用画像群TMISに適用された記述子モデルから出力され得る。記述子モデルは、第1の事前定義されたサンプリングパターンに従って、所与の位置PM-224に相対的に位置する要素の値に基づいて、所与の位置PM-224の局所画像記述子を計算するように構成されてもよい。
【0358】
いくつかの例では、最初の局所画像記述子をデータベース(図示せず)から取得してもよい。例えば、最初の位置PM-224に対する局所画像記述子は、(例えば、記述子モデルを適用することによって)既に計算され、例えば、最初の位置PM-224と関連して、データベースに保存されていた可能性がある。例えば、データベースは、第1の局所画像記述子が決定された基準に基づいて、医用画像データ内の対応する第1の位置に各々関連して、複数の第1の局所画像記述子を記憶することができる。従って、いくつかの実施例において、方法は、複数の中から第1の位置PM-224を選択し、選択された第1の位置PM-224に付随する第1の記述子を抽出することを含むことができる。
【0359】
いずれの場合にも、所定の位置PM-224に対する局所的画像記述子は、複数のエントリーを含むベクトルであってよく、各エントリーは、1つ又は複数の要素の集合の値の代表であり、1つ又は複数の要素の集合は、所定の位置PM-224に対して、第1の予め定義されたサンプリングパターンに従って位置する。例えば、各エントリーは、第1の予め定義されたパターンに従って、所定の位置PM-224に対して位置する複数の予め定義されたボックスPM-223(すなわち、長方形領域)のそれぞれ1つ以上の内部に位置する要素の値を代表していてもよい。医用画像データが3つの空間次元で出る場合、本明細書で使用される「ボックス」という用語は、立方状の領域又はボリュームを意味し得ることが認識されるであろう。
【0360】
いくつかの例では、記述子の各入力は、予め定義された複数のボックスPM-223の各1つ内に位置する要素の値を代表するものであってもよい。例えば、局所的な画像記述子の各入力は、PM-223の複数の予め定義されたボックスのそれぞれの1つ内に位置する要素の値の平均であってもよい。すなわち、各エントリーは、特定のボックスPM-223内に位置する要素の値の合計であってもよく、ボックスPM-223に含まれる要素の数で割った値であってもよい。例えば、図20に例示されているように、第1の位置PM-224に対して、特定のサンプリングパターンで、対象医用画像群TMISのスライス内に分布された複数の事前定義されたボックスPM-223(すなわち、概念的な領域)が存在する。最初の位置PM-224に対する最初の局所画像記述子は、ベクトルであってよく、その各入力は、PM-223ボックスのそれぞれのボックス内に位置する対象医用画像群TMISの要素の平均値である。平均値(例えば、合計と比較した場合)を用いることは、それが計算されるボックスのサイズとは無関係に、各ベクトルの入力が同じ範囲内にあることを提供するのに役立つ。以下でより詳細に記述するように、これは順に、記述子間の類似性のロバスト及び/又は信頼性のある判定を提供する助けとなり得る。
【0361】
いくつかの例において、予め定義されたパターン及び/又は予め定義されたボックス(例えば、各ボックスのサイズ及び/又はアスペクト比)は、ランダムに又は擬似ランダムに生成され得る。いくつかの例では、多くのボックスPM-223、例えば1000ボックスを使用して、局所的な画像記述子を決定することができ、従って、局所的な画像記述子は、多くのエントリ(例えば、1000のエントリ)を有するベクトルであり得る。例えば、図23を簡単に参照すると、医用画像群TIMS、RIMSの中の所定の位置(図示せず)に対する局所画像記述子を決定するために、大きい予め定義されたボックス(白い長方形の輪郭として示される)が適用された医用画像群TIMSが提示される。
【0362】
局所画像記述子は、所与の特徴が表現される所与の位置PM-224の空間的コンテキストを符号化することができ、従って、所与の特徴の周囲のコンパクトな表現を提供することができる。このような局所的な画像記述子の計算は、例えばランドマーク検出技術において使用され得るような、比較的高密度の特徴表現と比較して、比較的計算的に安価でありかつ高速であり得る。これは、例えば、方法が迅速に実施される(したがって結果が返される)ことを可能にするのに役立つかもしれない。
【0363】
いくつかの例では、局所画像記述子を計算する記述子モデルを「生」医用画像データに適用することができる。しかし、他の例では、記述子モデルは、対象医用画像群TMISの積分画像データ(加算面積表としても知られる)に適用され得る。積分撮像データでは、与えられた要素に対する値は、撮像データの中で、上の要素の全ての値と与えられた要素の左の値の合計である。例えば、対象医用画像群TMISのための積分画像データを生成することができ、最初の局所画像記述子を、対象医用画像群TMISのための積分撮像データ計算することができる。統合画像データの使用により、局所画像記述子のより迅速な計算が可能になる。いくつかの例では、これは順に、方法の結果をより速く戻すことを可能にする助けとなるかもしれない。
【0364】
積分画像が使用される例では、対角位置(x1、y1、z1)、(x2、y2、y2)を有する箱PM-223の要素の値の和が、対応する積分画像Iにより与えられる(I(x(2、y2、z)+I(x2、y2、z)2)+I(x2、y2、z2)+I(x2、y2、z2)+I(xOOE、y2、z)+I(xOOE、yOOJ)+I(xOOE、zOOJ)+I(xOOJ、z)+I(xOOE、yOOJ、z)+I(x-y2、z2)))。この式で、I(x i ,y j ,z k)は、位置x=i、y=j、及びz=kにおける積分画像Iの要素の値である。ここで、i、j、及びkは要素インデックスである。特定のボックスPM-223について、この合計値をボックスPM-223内に含まれる要素の総数で割って、ボックスPM-223の平均要素値を算出してもよい。各ボックスの平均要素値は、最初の記述子を構成するベクトルの中で、それぞれの入力として使用されることがある。
【0365】
いくつかの例では、上述の具体的な例以外の局所的な画像記述子を使用してもよいことが理解される。例えば、いくつかの例では、Haar状のディスクリプタが使用されてもよく、すなわち、各エントリが、画像データ内に定義された複数のボックスのそれぞれ内の要素値の合計間の差を表すディスクリプタが使用されてもよい。いくつかの例では、局所的な画像記述子は、例えば、各エントリーが医用画像データの複数の領域のそれぞれの1つにおける1つ以上の画像勾配を表す勾配記述子であってもよい。例えば、所与の領域の画像勾配は、所与の領域内の要素間の値(例えば、強度値)の変化に基づくことができる。いくつかの例において、局所画像記述子は、各エントリーが、第1の位置PM-224に対して医用画像データ中にランダムに分布される複数の要素のそれぞれの1つの値であるようなものであってもよい。いくつかの例では、与えられた位置に対する記述子は、各々の進入が、与えられた位置に由来する各々の光線の、複数のランダムに配向された光線のそれぞれの1つと交差する要素の値の集合であるようなものであり得る。それぞれの場合において、与えられた位置に対する記述子は、最初の予め定義されたパターンに従って与えられた位置に相対的に位置する医用画像データの要素の値の代表である。
【0366】
それにもかかわらず、本発明者らは、予め定義された(例えば、ランダムに生成された)分布パターンにおける所定の位置に対して位置するPM-223の複数の予め定義されたボックスのそれぞれ1つ内に位置する要素の値の代表的(例えば、平均)である所定の位置に対する局所画像記述子の使用が、特に速くかつ正確な位置決定を提供することを特定していることに注目する。
【0367】
いくつかの例において、局所画像記述子が計算されるか、又はそうでなければ取得される最初の位置PM-224は、ユーザによって指定されることがある。例えば、対象医用画像群TMISの表現をユーザに表示することができ、ユーザは、例えば、所与の特徴PM-226が表現される最初の位置PM-224における表現をクリックすることによって、所与の特徴PM-226の位置PM-224を指定することができる。次に、このユーザー指定の位置を最初の位置PM-224とすることができる。次に、この最初の位置PM-224に基づいて、最初の局所画像記述子を計算するか、又は他の方法で取得することができる。
【0368】
いくつかの例において、最初の位置PM-224は、コンピュータ実施方法から出力され得る。例えば、対象医用画像群TMISは、対象医用画像群TMIS中の所定のパターン又は特徴PM-226を同定し、そして所与の特徴PM-226が表現される最初の位置PM-224を出力するために、コンピュータ実装された方法(図示せず)によって予め処理されていたことがある。この出力は、直接提供され、及び/又はデータベースに格納され得る。次に、この最初の位置PM-224に基づいて、最初の局所画像記述子を計算するか、又は他の方法で取得することができる。
【0369】
いくつかの例では、最初の位置PM-224はデータベースから得ることができる(図示せず)。例えば、データベースは、それぞれの1つ以上の特徴が1つ以上の医用画像データセットの中で表現される1つ以上の位置を保存することができる。対象医用画像群TMISは、1つ以上の位置と共にデータベースから抽出することができる。位置の特定の1つは、例えば、その位置における所与の特徴PM-226が参照医用画像群RMISの中で表現される位置を決定するための欲求又は指示に基づいて、第1の位置PM-224として選択され得る。次に、この最初の位置PM-224に基づいて、最初の局所画像記述子を計算するか、又は他の方法で取得することができる。
【0370】
いずれにせよ、対象医用画像群TMIS中の最初の位置PM‐224に対する最初の局所画像記述子が得られる。
【0371】
位置したように、ステップPM-40において、本方法は、参照医用画像群RMISにおいて、PM-334、PM-340の複数の候補第2位置の各々について、第2の局所的画像記述子を得ることを含む。
【0372】
各第2の局所画像記述子は、第1の事前定義されたサンプリングパターンに従って、それぞれの候補第2位置PM-334、PM-340に対して位置付けられた参照医用画像群RMISの要素PM-332、PM-338の値を表す。第2の局所画像記述子は、与えられた位置(例えば、第1の位置PM-224又は第2の候補位置PM-334、PM-340の任意の1つ)に対して、その局所画像記述子は、与えられた位置に相対的に位置する関連する医用画像データの与えられた要素の値を代表しているという意味で、その第1の局所画像記述子と同じであってもよい。例えば、第1の位置PM-224についての第1の局所的画像記述子を生成するために対象医用画像群TMISに適用された同じ局所的画像記述子モデルを、参照医用画像群RMISに適用して、複数の候補第2の位置PM-334、PM-340の各々について第2の局所的画像記述子を生成することができる。例えば、図20及び図21を参照すると、ボックスPM-332、PM-338及びこれらのボックスのそれぞれの位置を、これらの候補第2の位置PM-334、PM-340のそれぞれについて第2の記述子を計算するために使用される第2の候補位置PM-334、PM-340のそれぞれに対する第2の記述子を計算するために使用されるそれぞれの第2の候補位置PM-224に対する相対的な位置は、これらのボックスのそれぞれの位置及び第1の位置PM-224に対するボックスのそれぞれの位置と同じである。いずれのタイプのディスクリプタが使用されるか、対象医用画像群TMISにおける第1の位置PM-224に対するそのディスクリプタ、及び第2の医用画像データ330における第2の候補位置PM-334、PM-340の各々のディスクリプタが得られる。
【0373】
以下でより詳細に説明するように、いくつかの例(例えば、図21を参照して以下に記載)では、各候補第2位置PM-334、PM-340は、参照医用画像群RMISにおいて、それぞれの以前に検出された特徴PM-226、PM-242が表現される位置であり得る。他の例では(例えば、図22を参照して以下に記載されるように)、候補の第2の位置PM-440は、第2の予め定義されたパターンにおいて第2の医用画像データを通して分配され得る。
【0374】
いずれにせよ、参照医用画像群RMISにおける複数の候補第2位置PM-334、PM-340、PM-440の各々に対する第2の局所画像記述子が得られる。
【0375】
前記のように、本方法は、ステップPM-60において、複数の候補第二位置PM-334、PM-340、PM-440の各々について、第一の局所的画像記述子と第二の局所的画像記述子との間の局所的な画像類似性の程度を示す類似度メトリックを、候補第二の位置PM-334、PM-340、PM-440について計算することを含む。
【0376】
いくつかの例では、局所画像類似性メトリックは、第1の局所画像記述子と第2の局所画像記述子との間の正規化された相互情報類似性を含むことができる。例えば、第1の局所画像記述子と第2の局所画像記述子との正規化相互情報類似性は、以下のように決定することができる。最初のヒストグラムが形成され、その中で、最初の記述子の中のレジストレーションは、最初の局所画像記述子の最小レジストレーション値と最大レジストレーション値の間の等しいサイズのビンxの中に置かれる。最初のヒストグラムのカウントは正規化され、ビンx 全体の最初の記述子のエントリの確率分布PX(x) を取得する。第2のヒストグラムが形成され、その中で、第2の局所画像記述子のエントリは、最小エントリ値と第2の局所画像記述子の最大エントリ値との間の等しいサイズのビンyに置かれる。2 番目のヒストグラムのカウントは正規化され、ビンy 全体の2 番目の局所イメージ記述子のエントリの確率分布PY(y) を取得する。それぞれの最小値と最大値の間の範囲にある最初の局所画像記述子と2番目の局所画像記述子のレジストレーションの結合ヒストグラムを決定する。関節ヒストグラムの各ビンは、等しくサイズされた二次元ビンであり、第1の局所画像記述子からの入力に対応する第1次元X、及び第2の局所画像記述子からの関連する入力に対応する第二次元Yである。例えば、最初の局所画像記述子の最初の入力がqであり、かつ、2番目の局所画像記述子の最初の入力がpであった場合、pを含む最初の局所画像記述子値の範囲をカバーし、qを含む2番目の局所画像記述子値の範囲をカバーする、関節ヒストグラムの2Dビンx、yは、カウントを受信するであろう。ジョイントヒストグラムのカウントは正規化され、ビンx、y にわたる最初と2 番目の局所イメージ記述子のエントリの確率分布PXY(x,y) を取得する。次いで、第1の局所画像記述子と第2の局所画像記述子との間の正規化された相互情報類似度Iは、次のように計算され得る
【0377】
相互情報類似度Iが高いほど、第1局所画像記述子と第2局所画像記述子との局所画像類似度が高かった。正規化された相互情報類似性を用いることにより、局所的な画像類似性のロバストで信頼性のある柔軟な決定が可能となる。例えば、相互情報の類似性は、第2の局所画像記述子と比較して、第1の局所画像記述子のエントリの相対的スケールの違いとは無関係である。例えば、相互情報を使用して、全体の「輝度」(例えば、医用画像データの要素の値である強度)が、対象医用画像群TMISと参照医用画像群RMISとの間で異なる場合であっても、正確な類似度測定参照を決定することができる。別の例として、医用画像の複数のプロトコル及び/又はモダリティが使用された(そして、例えば、それに応じて複数の値範囲が使用された、又は達成された)場合、又は、例えば、医用画像が変換された、例えば、倒立又は拡大縮小された場合であっても、相互情報は、正確な類似性を提供し得る。したがって、このように相互情報類似性を使用することにより、例えば、第1の医療想像データと第2の医療想像データとの間の非構造的な変動に対してロバストな類似性の判定が得られる可能性があり、その結果、本方法をより広範囲の画像に確実に適用することが可能となり、ひいては、本方法を提供することができる画像の種類において、より柔軟性が得られる可能性がある。
【0378】
前述したように、いくつかの例では、記述子の入力は、PM-223、PM-333、PM-339の関連ボックス内に含まれる要素の値の代表である。前述のように、これらの例では、各局所画像記述子の各入力は、PM-223、PM-333、PM-339の各ボックス内に含まれる要素の値の平均であり、局所画像記述子内の入力が、ボックスサイズに依存しない一定の範囲内にあることを保証するのに役立つことがある。これは、次に、与えられたエントリーが置かれているビンが、それに応じてボックス内の要素の平均値に依存しているが、ボックスのサイズには依存していないので、相互情報類似性の使用を容易にする可能性がある。
【0379】
いくつかの例では、第1の局所画像記述子と第2の局所画像記述子との間の他の類似性メトリックが使用されてもよい。例えば、コサイン類似性、ユークリッド距離、及び/又は相互相関が代替的に又は追加的に使用され得る。それにもかかわらず、本発明者らは、相互情報類似性尺度が、類似性尺度の特に強固で、信頼性があり、及び/又は柔軟な決定を提供し、従って、参照医用画像群RMISにおいて所与の特徴が表現される位置の特に強固で、信頼性があり、及び/又は柔軟な決定を提供し得ることを特定した。
【0380】
いずれにせよ、第2候補位置PM-334、PM-340については、第1局所画像記述子と第2局所画像記述子との間の局所画像類似度を示す類似度メトリックで、第2候補位置PM-334、PM-340が計算される。
【0381】
言及したように、本方法は、ステップPM-40において、算出された類似性メトリクスに基づいて複数の候補第2位置PM-334、PM-340の中から候補第2位置PM-334を選択することと、ステップPM-50において、選択された候補第2位置PM-334に基づいて、参照医用画像群RMISにおいて所与の特徴PM-226が表現される位置PM-334を決定することとを含む。
【0382】
いくつかの実施例では、候補の第2の位置PM-334を選択することは、複数の候補の第2の位置PM-334、PM-340の類似度計量の中で最も高い局所的画像類似度を示す類似度計量を有する候補の第2の位置PM-334を選択することを含むことができる。例えば、最も高い相互情報類似度メトリクスを有する候補の第2の位置PM-334を選択することができる。いくつかの例において、所与の特徴PM-226が表現される位置を決定することは、所与の特徴PM-226が参照医用画像群RMISにおいて表現される位置として、決定を含む、選択された候補第2位置PM-334である。いくつかの例では、位置の判定は、第1の位置に対する第1の局所画像記述子と、選択された第2の候補に対する第2の局所画像記述子との間の類似性メトリックが閾値を上回っているという判定に応答することができる。これは、与えられた特徴が参照医用画像群RMISの中で表現される位置が、判定にある程度の信頼がある場合にのみ判定されることを保証することを助けることがある。これは、次に、与えられた特徴が参照医用画像群RMISの中で表現される位置の信頼できる判定を提供することがある。
【0383】
上述したように、いくつかの例(例えば、図21に示されているように)、各候補第2位置PM-334、PM-340は、それぞれの以前に検出された特徴PM-226、PM-242が、参照医用画像群RMISの中で表現される位置であってもよい。他の例では(例えば、図22に示されているように)、候補第2の位置PM-440は、第2の予め定義されたサンプリングパターン(予め定義されたサンプリングパターンとも呼ばれる)において第2の医用撮像データを通して分配され得る。これらの例の各々において、与えられた特徴の位置が決定され得る方法は、図21及び22を参照して、ここでより詳細に記述される。
【0384】
最初に図21を参照すると、この例シナリオにおいて、参照医用画像群RMISは、第1の特徴PM-226及び第2の特徴PM-242を表す。この例では、これらの特徴PM-226、PM-242は、例えば以前に医師によって、又は自動化された方法によって、参照医用画像群RMISにおいて検出されている。参照医用画像群RMISにおけるこれらの特徴PM-226、PM-242のそれぞれの位置PM-334、PM-340は、この以前の検出の一部として記録されている。したがって、これらの以前に検出された特徴PM-226、PM-340のそれぞれの位置PM-334、PM-340が知られている。しかし、これら2つの位置のうち、PM-334、PM-340のどれが、対象医用画像群TMIS中の所与の特徴PM-226が、参照医用画像群RMIS中で表現される位置であるかは知られていない。すなわち、これらの特徴のうち、PM-226、PM-224のいずれが対象医用画像群TMISに表される所定の特徴PM-226に相当するかは不明である。従って、これらの例では、候補の第2の位置を、以前に検出された特徴PM-226、PM-242が表現される参照医用画像群RMISにおけるPM-334、PM-340の位置とすることができる。第2の候補位置PM-334、PM-340及び第1の位置PM-224に関する第1の局所画像記述子の各々についての第2の局所画像記述子間の類似性メトリックを計算することができる。この実施例では、最も高い類似度メトリックを有する候補第2位置PM-334を選択することができ、選択された候補第2位置PM-334を、所与の特徴PM-226が参照医用画像群RMISにおいて表現される位置PM-334として決定することができる。
【0385】
図23を参照すると、参照医用画像群RMISは、第1の特徴PM-226及び第2の特徴PM-242を表す。しかし、図23の例示シナリオでは、これらの特徴PM-226、PM-242が参照医用画像群RMISの中で表現される位置は知られていない。この例では、候補の第2の位置PM-440は、第2の予め定義されたサンプリングパターンにおいて、参照医用画像群RMISを通して分配される。いくつかの例では、図23に例示されているように、第2の所定のサンプリングパターンは、規則的な配置であってもよく、各第2の候補位置PM-440(図23では、開いた円PM-440によって表される)は、グリッドにおいてその近隣から離間されている。例えば、この配置は、参照医用画像群RMISの全体のような領域にわたることがある。そのように、候補の第2の位置は、参照医用画像群RMIS内の位置の空間的に分散した試料を表す(したがって、所与の特徴が表現できる)。
【0386】
第2の予め定義されたサンプリングパターンに分布されている候補第2の位置は、例えば、参照医用画像群RMISのボクセル毎に記述子を決定するのと参照して、所定の特徴PM-226が参照医用画像群RMISに表現される位置を計算効率的な方法で推定することを可能にし得る。
【0387】
図23の例では、候補の第2の位置PM-440の各1つに対する第2の局所画像記述子と第1の局所画像記述子との間の類似度メトリックを計算してもよい。図23に示すように、表示された特徴PM-226に最も近い候補第2の位置PM-448に対する第2の局所画像記述子は、第1の局所画像記述子と最も高い類似度を有する。それに伴い、候補第2の位置PM-448が選択される。そして、与えられた特徴PM-226が参照医用画像群RMISの中で表現される位置は、この選択された候補第2位置PM-448に基づいて決定され得る。
【0388】
例えば、いくつかの例では、選択された候補第2の位置PM-448は、与えられた特徴PM-226が第2の医用画像データの中で表現される位置の推定値としてとることができる。しかしながら、他の例においては、この推定は、連続してより細粒度のパターン(例えば、灰色の円PM-442のパターン、続いて図23の黒丸PM-444のパターンを参照)におけるさらなる候補位置PM-442、PM-444(選択された候補第2の位置PM-448に基づく)を規定することによって精緻化され得る。従って、参照医用画像群RMIS中の任意の特徴の位置が既知でない場合でも、参照医用画像群RMIS中の任意の特徴PM-226が表現される位置の正確で効率的な決定を提供することができる。
【0389】
具体的には、これらの実施例において、所定の特徴PM-226が参照医用画像群RMISに表現される位置PM-446を決定することは、選択された候補第2位置PM-448に基づいて、参照医用画像群RMIS (候補副分解能位置としても示される)中の複数の候補第3位置PM-442を決定することを含み得る。例えば、候補の第3の位置PM-442は、選択された候補の第2の位置PM-448の領域内の位置として定義され得る。例えば、候補の第3位置PM-442は、選択された第2位置PM-448の領域内で、第3の予め規定されたサンプリングパターン(サブ解像度サンプリングパターンとも呼ばれる)で、参照医用画像群RMISを通じて、分散される位置であり得る。例えば、第3の予め定義されたサンプリングパターンは、第2の予め定義されたサンプリングパターンと同じか、又は類似していてもよい。しかしながら、いくつかの例においては(図23に例示されているように)、第3の所定のサンプリングパターンにおける候補の第3の位置PM-442間の距離は、第2の所定パターンにおける候補の第2の位置PM-440間の距離よりも小さくてもよい。
【0390】
次いで、本方法は、参照医用画像群RMISにおける複数の候補第3位置PM-442の各々について第3の局所画像記述子を得ることを含むことができ、各第3の局所画像記述子は、第1の予め定義されたサンプリングパターンに従って、それぞれの候補第3位置PM-442に対して位置する参照医用画像群RMISの要素の値の代表である。例えば、第3の局所画像記述子は、上述の第1及び第2の局所画像記述子と同じ方法で計算されたものと同じであってもよい。
【0391】
いくつかの例において、第3の記述子に関連する第3の予め定義されたサンプリングパターンのスケールは、第2の局所的画像記述子に関連する第2の予め定義されたサンプリングパターンのスケールと比較して、縮小され得る。第1の所定のサンプリングパターンに配置された複数のボックス(図23に示されていない)に基づく局所画像記述子を例として取ると、ボックスの形状及び空間パターンは、第2の局所画像記述子及び第1の局所画像記述子に対して同じであってもよいが、第3のパター記述子に対するボックスのサイズ及び/又は各ボックスと各ロケーションPM-442との間の距離は、第2の局所画像記述子に対するボックスのサイズ及び/又は各ボックスと各ロケーションPM-440との間の距離と比較して縮小(すなわち縮小)されてもよい。これは、選択された候補第2位置PM-448の領域において、第3の局所的画像記述子が、参照医用画像群RMISのより細かい詳細をコードすることを提供する可能性がある。これは、所与の特徴PM-226が参照医用画像群RMISの中で表現される位置の正確な決定を提供するのに役立つことがある。
【0392】
これらの例では、次いで、本方法は、複数の候補第3位置PM-442の各々について、第1の局所的画像記述子と、候補第3位置PM-442に対する第3の局所的画像記述子との間の局所的な画像類似性の程度を示す類似度計量を計算することを含むことができる。例えば、類似性メトリックは、第1の局所画像記述子と第2の局所画像記述子との間で使用される類似性メトリックと同じように計算されることがある。次いで、本方法は、第1の局所的画像記述子とそれぞれの第3の局所的画像記述子との間の局所的画像類似性の程度を示す計算された類似性測定基準に基づいて、複数の候補の第3の位置PM-442の中から候補の第3の位置PM-448を選択することを含むことができる。例えば、図23に示されているように、最も高い類似度の測定基準を有する候補の第3の位置PM-448を選択してもよい。そして、この方法は、選択された候補第3位置PM-448に基づいて、所定の特徴PM-226が参照医用画像群RMISの中で表現される位置を決定することを含むことができる。
【0393】
いくつかの例では、選択された候補の第3の位置PM-448は、所与の特徴PM-226が参照医用画像群RMISの中で表現される位置の推定値としてとることができる。しかしながら、他の例では、選択された第3の候補位置PM-448に基づいて(例えば、その領域における)PM-444のさらなる候補位置を定義し、これらのさらなる候補位置について上記の方法を繰り返すことによって、この推定値をさらに精密にすることができる。例えば、図23に示されるように、PM-444の候補位置のさらなるセットが、選択された候補第3位置PM-448の領域において定義される。この例では、さらなる候補位置PM-446は、最初の局所画像記述子を有する最も高い類似度メトリックを有する局所画像記述子を有し、従って、選択され得る。そして、所与の特徴PM-226が参照医用画像群RMISの中で表現される位置は、選択されたさらなる候補位置PM-446において決定され得る。3レベルの階層的粒状度が図23に示されているが、より少ない又はよりレベルの階層的粒状度が、所与の特徴PM-226が参照医用画像群RMISにおいて表現される位置を決定するために使用され得ることが理解されるだろう。それにもかかわらず、このような階層的方法を用いることによって、たとえ参照医用画像群RMIS中の任意の特徴の位置が知られていなくても、位置を迅速かつ効率的な方法で正確に決定することが可能になる可能性がある。
【0394】
それぞれの候補の第2、第3又はそれ以上の位置のそれぞれについて、それぞれの第2、第3又はそれ以上の記述子を計算することができる要素(例えば、ボックス)は、わかりやすくするために図23には示されていないことに留意されたい。
【0395】
いずれにしても、参照医用画像群RMISにおいて与えられた特徴PM-226が表現される位置が決定される。いくつかの実施例において、本方法は、所与の特徴PM-226が参照医用画像群RMISの中で表現される決定された位置を示す出力データを生成することをさらに含むことができる。
【0396】
例えば、出力データは、参照医用画像群RMIS内の決定された位置PM-334、PM-446に対応する座標又は画素/ボクセルインデックスを含み得る。いくつかの例において、出力データは、さらに、その中で位置が決定されている参照医用画像群RMISへの参照を含むことができる。いくつかの実施例では、出力データは、第2の医用画像データ自体(又はその部分)を含むことができる。いくつかの例では、出力データは、決定された位置を示すインジケータが、参照医用画像群RMISのレンダリング上に重ねられる画像(又は画像のためのデータ)を含むことができる。例えば、図23に示されているように、参照医用画像群RMISの表現が示され、その表現に重ね合わせられる(又はそうでなければ含まれる)のは、その特徴PM-226が参照医用画像群RMISの中で表現される位置を示す指標PM-550である。この例では、指示薬は決められた位置を中心とした箱である。しかし、他の例では、他の指標、例えば、マーカー、ドット、その他のシンボルが、決定された位置に重なった(又はそうでなければ含まれた)、又は例えば、矢印、ポインタ、その他の標識が、決定された位置を指し示している、又は接続されている、その他の位置に重なった、出力データは、所与の特徴PM-226が参照医用画像群RMISの中で表現される決定された位置に関して、ユーザ、例えば医師に指示を提供することを可能にすることがある。したがって、ユーザは、例えば、対象医用画像群TMISと参照医用画像群RMISの両方において、与えられた特徴PM-226の表現を比較することができる。結果として、ユーザは、例えば、与えられた特徴PM-226間の差異に関する評価を行うことができ、例えば、特徴226が発現であり得る疾患の進行に関する評価を行うことができる。
【0397】
いくつかの例において、出力データは、さらに、第1の位置及び対象医用画像群TMIS又は対象医用画像群TMIS自体への参照を含むことができる。これは、対象医用画像群TMIS及び参照医用画像群RMISの両方において、与えられた特徴PM-226が表現される位置の間の関連を決定することを可能にすることがある。いくつかの例では、出力データは記憶デバイスに記憶されてもよい。例えば、出力データをデータベースに記憶することができる。これは、出力データが、例えばユーザによって、又は図示せずに自動化されたダウンストリームプロセスによって参照されることを可能にする。
【0398】
いくつかの例において、方法は、参照医用画像群RMISの表示を表示するために、出力データをディスプレイデバイスに送信し、参照医用画像群RMISの表示を示す指標PM-550を表示することを含み、参照医用画像群RMISの表示は、与えられた特徴が表現される決定された位置である。例えば、表示装置(図示せず)は、コンピュータモニタ又はコンピュータの他の表示画面であってもよい。例えば、表示された表現は、図24に示された表現と同様であり得、ここでは、指標PM-550が、参照医用画像群RMISの表示上に重ねられている。上記の例示指標のいずれを使用してもよい。これは、ユーザ、例えば医師が、所与の特徴PM-226が参照医用画像群RMISにおいて表現される位置を即座にかつ容易に認識することを可能にし得、これは、例えば、所与の特徴に基づく評価をより迅速に、かつ最小の負担で行うことを可能にし得る。
【0399】
上記の例では、PM-226に与えられた1つの特徴のみが参照される。しかしながら、いくつかの例では、対象医用画像群TMISに表現された複数の所定の特徴があってもよい。これらの例では、複数の与えられた特徴の各々が参照医用画像群RMISの中に位置する位置を決定することが望ましいことがある。いくつかの実施例では、図19~24を参照して記載された実施例のいずれかによる方法を、複数の所与の特徴に対して、例えば、複数の所与の特徴のそれぞれに対して1回、連続的に使用することができる。しかし、以下でより詳細に述べるように、いくつかの例では、各場所の判定を同時に行うことができる。
【0400】
図25を参照すると、ターゲットとなる医用画像群TMISの表現と、参照医用画像群RMISの表現とがある。第1の表現は、与えられた3つの特徴A、B、C(図25では模式的にのみ示されている)を示し、第2の表現は、3つの特徴D、E、F(図25では模式的にのみ示されている)を示す。この例では、特徴A、B、C、D、E、Fの全てが画像において検出されており、それらがそれぞれの医用画像データ内で表現される位置が既知である。しかし、レファレンス医用画像群RMISにおける特徴D、E、Fのうちどの特徴D、E、Fが、対象医用画像群TMISにおける所与の特徴A、B、Cに対応するかは不明である。この例では、与えられた特徴A、B、Cが対象医用画像群TMISの中で表現される位置は、最初の位置であり、特徴D、E、Fが参照医用画像群RMISの中で表現される位置は、それぞれの候補の2番目の位置である。
【0401】
この例では、前記第一の医用画像群TMISのうち、前記第一の位置(示されていない)についての前記第一の局所画像記述子が、前記特徴A、B、Cを与えられた各々について得られる。この例では、この方法は、第一の局所画像記述子と第二の局所画像記述子との間の類似度計量を、第一の位置A、B、C及び候補第二の位置D、E、Fの全てのターゲットについて計算することを含むことができる。例えば、上記の例のいずれか1つに従った類似度計量は、与えられた特徴Aの第一の位置についての局所画像記述子と、特徴D、E、B、B-E、B-Fの各々の第二の位置についての局所画像記述子との間で決定され得る。そして、同じことが、与えられた特徴B、Cにターゲットして実行され得る。例えば、この例では、9つの類似度計量子が計算され 、C-D、C-E、C-F
【0402】
次いで、この方法は、第1の位置のペアと第2の位置の候補のペアとの間の計算された類似性メトリックに基づいて、各第1の位置A、B、Cに、候補の第2の位置D、E、Fの複数の1つを割り当てることを含み得る。例えば、割り当ては、全てのペアの類似度測定基準に基づいて、二分グラフに対する最大一致問題を解くことによってもよい。例えば、Python-NumPy ライブラリの”linear_sum_assignemt” ルーチンのように、Linear Sum Assignment アルゴリズムを使用して代入を行うことができる。例えば、Cがコスト行横列であり、C[i,j]が第2の候補位置jを割り当てる「コスト」(例えば、その類似度の計量値に逆比例)の関数ΣΣijijを最小化することによって割り当てることができる。Xは、X[i,j] =1が横列jに割り当てられる場合、ブーリアン行横列であり、最小化は、第1の位置iにつき最大で1つの候補第2の位置jが割り当てられるという制約を受ける。たとえば、この過程の結果として、A-D、B-E、C-Fという帰属が決定されることがある。
【0403】
いくつかの例では、第1の位置A、B、Cに候補の第2の位置D、E、Fを割り当てることは、第1の位置A、B、Cに対する第1のディスクリプタと、候補の第2の位置D、E、Fに対する第2のディスクリプタとの間の類似性メトリックが閾値を上回るとの判定に応答し得る。例えば、閾値を、例えば、70%の類似度で設定することができる。これは、割付に一定の信頼性があることを保証するのに役立つであろう。例えば、与えられた特徴Aが、線形和割当の一部として第2の医用画像データ770の中で特徴Dに割り当てられたことがあるが、この対A-Dに対する類似度測定基準が閾値以下であり、したがって、DのAへの割当がなされないことがある。しかし、ペアリングB-E及びC-Fのための類似性測定基準は閾値を超えている可能性があり、従って、これらの割り当てがなされる可能性がある。
【0404】
次いで、前記方法は、各々の前記第1の位置B、Cを、前記所与の特徴B、Cが参照医用画像群RMISにおいて表現される位置として決定することを含むことができ、第2の候補位置E、Fは、第1の位置に割り当てられる。例えば、本実施例で作製された割り当てB-E及びC-Fによれば、本方法は、特徴E及びFの位置を、特徴B及びCがそれぞれ参照医用画像群RMISの中で表現される位置として決定することを含むことができる。
【0405】
図25を参照して上述した方法は、図19~24を参照して上述した方法が、与えられた複数の特徴のそれぞれに連続的かつ別々に適用された場合に、そうでなければ起こりうる不整合を防止するのに役立つ可能性がある。したがって、これにより、与えられた特徴が複数存在する場合に、参照医用画像群RMISにおいて与えられた特徴が表される位置のより信頼性の高い判定が可能になる可能性がある。
【0406】
いくつかの例では、出力データは、各第1位置B、Cと、第1位置B、Cに割り当てられた候補第2位置E、Fとの間にPM-774、PM-776を連想又はリンクさせることができる。例えば、出力データは、図25に示されたように、対象医用画像群TMIS及び参照医用画像群RMISの表現が互いに隣接して提示され、かつ、第1位置Bとそれが割り当てられた候補第2位置Eとの間に描かれた第1リンクPM-774と、第1位置Cとそれが割り当てられた候補第2位置Fとの間に描かれた第2リンクPM-776とを含むことができる。これらのリンクPM-774、PM-776は、与えられた特徴B、Cが参照医用画像群RMISの中で表現される位置E、Fの指標として作用し得る。この出力データは、例えば上述のように記憶及び/又は表示することができる。これは、ユーザが、対象医用画像群TMISの中で表現される各特徴B、Cが、参照医用画像群RMISの中で表現される位置を、即座に、かつ容易に識別することを可能にすることがある、そして実際にその逆も可能にする。
【0407】
本明細書に開示された方法の実施例の実施例の説明として役立てるために、研究を実施した。具体的には、所定の特徴PM-226が第2の医用画像データPM-330に表現される位置についての階層的探索が実行される図22を参照して、上述の例について研究が実行された。本研究では、異なる時点で撮影された2つの画像にわたって、それぞれの肺病変対のベンチマークデータセットについて方法を実施した。本研究では、2つ目の医用画像データの中で与えられた特徴が表現される推定位置から、2つ目の医用画像データの中で与えられた特徴が表現される真の位置までの距離を、データセット対の各々に対して計算した。次に、一連の距離閾値の下での推定の精度を計算した。これは、与えられた特徴が第2の医用画像データの中で表現される真の位置からの距離の関数としての推定の感度の尺度を提供する。図8は、現在開示されている方法(実線PM-882)ならびに比較方法(破線PM-884、点線880、及び黒丸PM-886)をデータセットに適用した場合の上記参照例についての距離(mm単位)の関数としてのこの感度のプロットを示す。比較方法は各画像レジストレーションに基づく方法であった。図26のプロットから分かるように、現在開示されている方法は、研究された画像レジストレーションに基づく方法の性能を上回ることができる。具体的には、症例の約92%において、研究した例法は、与えられた特徴が第2の医用画像データ330で表された位置を、その真の位置から15mm以内に決定することができた。研究した例法では、位置を正確に決定できるだけでなく、迅速に、特に数秒以下で決定できた。それによると、現在開示されている方法は、所与の特徴が参照医用画像群RMISにおいて表現される位置の迅速かつ正確な決定を提供することができる。
【0408】
図27は、実施例に従った対象医用画像群TMISを注釈するための方法を示す。この方法はいくつかの段階から成る。ステップの順序は、必ずしもステップの番号付けに対応するものではないが、本発明の異なる実施例間で変化し得る。さらに、個々のステップ又は一連のステップを繰り返すことができる。図27の方法は、例えば、ステップS40での参照医用画像検査RSの選択、ステップS50での参照医用画像群RMISの識別情報、又はステップS60での対象医用画像群TMISと参照医用画像群RMISのレジストレーションに続いて実施することができる。
【0409】
本実施例によれば、参照医用画像検査RSは、RM-322~RM-330の1つ以上の注釈を含む。注釈RM-322~RM-330は、特に、参照画像群RMISに対応することがある。さらに、RM-322~RM-330のアノテーションの1つ以上が、参照スライスREF-SLCに関係することがある。
【0410】
第一段階RM-S10において、この方法は、1つ以上の注釈RM-322からRM-330まで、対象医用画像群TMIS及び/又は関心領域ROIに関連する少なくとも参照注釈を得ることを含む。37. これは、参照スライスREF-SLCに関係するRM-322からRM-330への1つ以上の注釈、RM-322からRM-330への注釈を識別することを含むことがある。
【0411】
代替案では、これは、1つ以上の注釈RM-322からRM-330の(RM-S11)参照位置をそれぞれ得ることを含むことがある。従って、参照位置は、例えば、注釈が参照医用画像群RMISにおける病変の位置、又は参照医用画像群RMISの座標系におけるRM-322からRM-330への注釈の位置であり得る。さらに、これは、対象医用画像群TMIS及び/又は関心領域ROIに対応するターゲット位置との一致がある場合、各基準位置についてRM-S12を決定することを含むことができる。注釈RM-322~RM-330は、対象医用画像群TMIS及び/又は関心領域ROIの中の対応するターゲット位置と一致する参照位置を、対象医用画像群TMISに関連する参照注釈として識別する。従って、対象位置と基準位置との一致をRM-S12に決定する工程は、対象医用画像群TMIS及び参照医用画像群RMISの撮像データをそれぞれの位置周辺で評価することに基づくことができる。特に、図28~30と関連してさらに説明するように、ターゲット及び参照位置に対して位置するイメージパッチが、それらが参照医用画像群RMISと対象医用画像群TMISとの間にある程度の類似性を有する場合、評価することができる。他の実施例によれば、RM-S12 aマッチを決定する工程は、ステップS60のレジストレーションに基づくことができる。
【0412】
ステップRM-S20において、対象医用画像群TMIS、特に、関心領域ROIは、ステップRM-S10で決定された参照注釈A、B、C、Dで注釈される。特に、これは、対象位置RM-202~RM-210における参照注釈A、B、C、Dで、対象医用画像群TMIS及び/又は関心領域ROIを注釈することを含むことができる。
【0413】
図28を参照すると、医用画像データの一部を、医用画像データの一部に表されるそれぞれの1つ以上の特徴に対応する1つ以上の単語で注釈するコンピュータ実施方法が図示されている。
【0414】
本方法は、大まかな概要において、以下を含む:
RM-S12-1におけるステップ、対象医用画像群TMISの1つ以上のターゲット画像パッチを得ること(例えば、図29の対象医用画像群TMISのターゲット画像パッチRM-202~RM-210を参照)、及び/又は参照医用画像群RMISの1つ以上の基準画像パッチを得ること(例えば、図30の参照医用画像群RMISの基準画像パッチRM-302~RM-310を参照);
ステップRM-S12-2において、1つ以上のターゲット画像パッチRM-202~RM-210のそれぞれについて、参照医用画像群RMISの複数の参照画像パッチ(例えば、図30の参照医用画像群RMISの参照画像パッチRM-302~RM-310を参照)のそれぞれについて、参照画像パッチRM-302~RM-310とターゲット画像パッチRM-202~RM-210との間のパッチ類似度を示す類似度メトリックを決定し、複数の参照画像パッチRM-302~RM-310のそれぞれは、参照画像パッチRM-302~RM-310において表されるそれぞれの1つ以上の特徴に対応する1つ以上の第1の単語A-Dで注釈付けされる;
ステップRM-S12-3では、1つ以上のターゲット画像パッチRM-202~RM-210に対して、ターゲット画像パッチRM-202~RM-210、及び参照画像パッチRM-302~RM-310、又はその逆に対して決定された類似度測定基準に基づいて、複数の参照画像パッチRM-302~RM-310の中から参照画像パッチRM-302~RM-310を選択する;
ステップRM-S12-4では、ターゲット画像パッチRM-202からRM-210の各々に対して、ターゲット画像パッチRM-202からRM-210に対して選択された、参照画像パッチRM-302からRM-310をもつ1つ以上の最初の単語A-Dで、ターゲット画像パッチRM-202からRM-210に注釈を付けている(例えば、図31の結果として生じる注釈付きターゲット画像パッチRM-408を参照)。
【0415】
特に、参照画像パッチRM-302~RM-310は、参照医用画像群RMISに含まれる注釈A、B、C、Dのそれぞれの参照位置に相対的に位置する撮像データに基づいて得ることができる。ターゲット画像パッチRM-202~RM-210は、それぞれのターゲット位置に対して位置する撮像データに基づいて得られ得、ここで、ターゲット位置は、対象医用画像群TMIS及び/又は関心領域ROIに適切に分布され得る。いくつかの例によれば、対象位置は、本質的に図19~26に関連して記載されるようなサンプリングパターンを採用することによって得ることができる。
【0416】
いずれにしても、対象医用画像群TMISの1つ以上のターゲット画像パッチRM-202~RM-210又は関心領域ROIの各々は、参照医用画像群RMISの参照画像パッチに表現されるそれぞれの1つ以上の特徴に対応する1つ以上の単語A-Dで注釈することができる。例えば、ターゲット画像パッチRM-202~RM-210に関連するテキストファイルを、1つ以上の単語A~Dを含むように生成又は修正してもよい。
【0417】
ターゲット画像パッチRM-202~RM-210と参照画像パッチRM-302~RM-310との類似性に基づいて、ターゲット画像パッチRM-202~RM-210医療に選択された参照画像パッチRM-302~RM-310が注釈されるD-Aワードを医療いて、ターゲット画像パッチRM-202~RM-210に注釈を付けることは、ターゲット画像パッチRM-202~RM-210の可撓性及び/又は効率的な注釈を可能にすることができる。例えば、これは、ターゲット画像パッチRM-202からRM-210にランドマーク検出を適用することと比較して、ターゲット画像パッチによって表される解剖学的ランドマークを決定することができる。ランドマーク検出技術は、訓練済み分類器を適用して、画像内の異なる解剖学的ランドマークを同定する。そのためには、検出されるべき異なるランドマークごとに、訓練済み異なる分類器を訓練され、適用する必要がある。これは、計算上高価であり、場合によっては不可能であり、及び/又は、画像が取得された画像モダリティに依存する。しかし、図28の方法によれば、参照医用画像群RMISのRM-302~RM-310の参照画像パッチは、表される特徴に対応する単語で注釈されているだけである。ターゲット画像パッチRM-202~RM-210がアノテーションされる単語は、ターゲット画像パッチRM-202~RM-210の、参照画像パッチRM-302~RM-310とのパッチ類似性に基づいており、これは、ターゲット画像パッチを取得するために使用される画像モダリティとは独立して、かつターゲット画像パッチ内の特徴を検出するために訓練済み分類器を適用する必要なく行うことができる。従って、柔軟及び/又は効率的なアノテーションが提供され得る。
【0418】
得られた注釈付きターゲット画像パッチRM-202~RM-210は有用性があり、多くの異なる方法で使用される可能性がある。得られた注釈付きターゲット画像パッチを使用することができるいくつかの例示的方法は、図32~34を参照して以下に記載する。一例として、各ターゲット画像パッチRM-202~RM-210が注釈付けされる一以上の単語A-Dは、例えば、適切に実行された問合せによって、関心のある特定の特徴(例えば、特定の解剖学的特徴)に対して、検索することができ、そして問合せに一致する一以上の単語A-Dで注釈付けられた一以上のターゲット画像パッチを、抽出して、例えば、放射線科医に表示することができる。これにより、複数の対象画像パッチRM-202~RM-210の全てをナビゲーションして、関心のある特定の特徴が表現されているものを識別する放射線科医に伴う負担を有意に軽減できる可能性がある。さらに、問合せに一致する1つ以上の単語A-Dで注釈された1つ以上のターゲット画像パッチを抽出して表示することにより、放射線科医が評価するための複数のターゲット画像パッチRM-202~RM-210の全てを抽出して表示することに伴う計算及び/又は通信負担を軽減することができる。
【0419】
図29を参照すると、対象医用画像群TMISのさらなる例が図示されている。この例では、対象医用画像群TMISは、ボリューム測定データである、すなわち、対象医用画像群TMISは、患者の三次元(身体)領域又はボリュームをカバーする。対象医用画像群TMISは、複数のターゲット画像パッチRM-202、RM-204、RM-206、RM-208、RM-210を含むことができる。ターゲット画像パッチRM-202~RM-210の各々は、患者対象医用画像群TMISの各スライスに対応することができる。図示のように、スライスRM-202~RM-210は、患者の膝を含む画像ボリュームを通るスライスである。図示のように、スライスRM-202~RM-210は、シーケンス内の各連続スライスは、連続する軸位置での医用画像データに対応する。例えば、2つの垂直軸(例えば、x、y軸)によって定義される平面内に拡張された各スライスRM-202~RM-210の場合、シーケンス中の各連続スライスは、2つの軸(例えば、z軸)に直交する軸に沿った連続する位置に対応するであろう。いくつかの例において、各スライスRM-202~RM-210は、各スライスが1ボクセルの厚さを有するという意味で二次元であり得る。いくつかの例において、各スライスは、各スライスが数ボクセルの厚さを有する、又はいずれの場合においても、患者の対象医用画像群TMIS全体の厚さよりも有意に小さい、疑似二次元であり得る。どちらの場合も、図に示すように、データの各スライスを二次元画像にすることができる。
【0420】
あるいは、各ターゲット画像パッチRM-202~RM-210は、関心領域ROI内の画像領域に対応していてもよい。
【0421】
前記したように、本方法は、ステップRM-S12-2において、ターゲット画像パッチRM-202とRM-210との間のパッチ類似度を示す類似度メトリックと、参照医用画像群RMISのRM-302とRM-310との間の複数の参照画像パッチの各々とを決定する。
【0422】
患者対象医用画像群TMISに関して同様に、参照医用画像群RMISは、各々が値を有する要素のアレイを含むことができる。例えば、参照医用画像群RMISは、ボクセルの3次元アレイを含み得、各ボクセルは、上記と同様に、少なくとも1つの値を有する。
【0423】
図30を参照して、参照医用画像群RMISの例を図示する。参照医用画像群RMISは、複数の参照画像パッチRM-302、RM-304、RM-306、RM-308、RM-310を含む。患者の医用画像データのターゲット画像パッチRM-202~RM-210についても同様に、参照医用画像群RMISの参照画像パッチRM-302~RM-310は、上記と同様に、参照医用画像群RMISのそれぞれのスライスRM-302~RM-310に対応してもよい。図30に示すように、スライスRM-302~RM-310は、患者(又は必ずしも患者である必要のないヒト)の膝を含む撮像容積を通るスライスである。参照医用画像群RMISの患者(すなわち、「参照患者」)は、必ずしも患者対象医用画像群TMISの患者と同一の患者である必要はなく、実際には、患者対象医用画像群TMISの患者と同一の患者ではないであろう。しかしながら、参照患者と別の患者の特徴(例えば、膝の解剖学的特徴)は、一般に、人間の間の解剖学的構造が共有されるため、一般に対応するであろう。いくつかの例(図示のように)では、参照医用画像群RMISの1つの集合だけが存在することがある。例えば、その方法は、参照医用画像群RMISが一般的に描くように、一般的に同じ解剖学的領域(例えば、膝領域)を含む患者対象医用画像群TMISのために使用されることが予め定義されることがある。他の例では、参照医用画像群RMIS (図示せず)の複数の集合があり得、例えば、患者の異なる解剖学的領域に対して各集合がある。これらの例において、方法は、使用される参照医用画像群RMISの集合を選択することを含むことができる。この選択は、例えば、ユーザが、適切な解剖学的領域(したがって、使用されるべき適切な参照医用画像群RMIS)を選択すること、又は、患者対象医用画像群TMISの分析から(例えば、画像ヘッド内の情報から、又は画像データそのものから)自動的に決定される適切な解剖学的領域を含むことができる。図示のように、スライスRM-302~RM-310は、対象画像パッチ102~210のシーケンスが伸びる方向と同じ方向に、患者に対して同じ方向に伸びる。例えば、シーケンスが拡張される患者に対する方向は、例えば、解剖学的領域ごとに標準化されることがある。別の例として、患者対象医用画像群TMISがスライスされる方向を、参照医用画像群RMISのそれと一致させるように選択してもよい。あるいは、各参照画像パッチRM-302~RM-310は、スライス内の画像領域に対応することができる。
【0424】
いずれにしても、参照医用画像群RMISの複数の参照画像パッチRM-302~RM-310の各々は、参照画像パッチRM-302~RM-310に表されるそれぞれの1つ以上の特徴に対応する1つ以上の第1単語A-Dを有するRM-322~RM-330に注釈される。例えば、参照医用画像群RMISの各参照画像パッチRM-302~RM-310は、参照画像パッチRM-302~RM-310に表される各1つ以上の特徴に対応する1つ以上の最初の単語A-Dからなる、又は構成されるテキストデータRM-322~RM-330と関連づけて保存され得る。例えば、参照画像パッチRM-302~RM-310に表されたそれぞれの1つ以上の特徴に対応する1つ以上の単語A-Dを含むテキストファイルRM-322~RM-330に、各参照画像パッチRM-302~RM-310を関連付けることができる(例えば、関連して格納する)。
【0425】
参照画像パッチRM-302~RM-310のそれぞれについて、関連するアノテーションRM-322~RM-330は、参照画像パッチRM-302~RM-310に表されたそれぞれの1つ以上の特徴に対応する最初の単語A~Dをリストする。例えば、与えられた参照画像パッチRM-302~RM-310に対して、最初の単語A-Dは、それぞれ、参照画像パッチRM-302~RM-310に視覚的に存在する解剖学的特徴の名称であり得る。図30の例に示されているように、最初のスライス(参照画像パッチ) RM-302は、解剖学的特徴A及びBの表現を含み、従って、解剖学的特徴A及びBの名前に対応する最初の単語は、関連する注釈RM-322の中に含まれる。例えば、最初のスライスRM-302は、膝の後十字靭帯(pcl)及び前十字靭帯(acl)の解剖学的特徴を示すことができる。従って、最初のスライスに対するアノテーション322に含まれる単語A、Bは、「後十字靭帯」又は「pcl」及び「前十字靭帯」又は「acl」であってもよい。本明細書中で使用されるように、「単語」は、単一の単語又は単語の組み合わせ、例えば、一緒に、ある特徴、例えば、解剖学的特徴に対する名称を構成することを意味し得ることが指摘される。同様に、スライスRM-304は、特徴A、B、及びCを示し、従って、それは、単語A、B、Cで324に注釈される。同様に、スライスRM-306は単語B、Cで326に注釈され、スライスRM-308は単語CでRM-328に注釈され、スライスRM-330は単語Dで注釈される。注釈RM-322~RM-330は、参照画像パッチRM-302~RM-308の各々を検査し、参照画像パッチRM-302~RM-310に存在又は図示されている特徴(例えば、解剖学的特徴)の名称でタイピングする医学専門家によってなされることがある。他の方法は、例えば、RM-302からRM-310までの参照画像パッチの各々に特徴検出を適用することによって、アノテーションを生成するために原則として使用され得る。
【0426】
参照医用画像群RMISは、対象医用画像群TMISのターゲット画像パッチRM‐202~RM‐210を、追跡読影のために比較することができる参照医用画像群RMISとして作用する。言い換えると、参照医用画像群RMISに含まれるRM-322~RM-330のアノテーションは、参照として使用される対象医用画像群TMISに持ち越されてもよい。
【0427】
特定の対象医用画像群TMISを参照すると、上述したように、本方法は、RM-210に対するターゲット画像パッチRM-202の各々について、ターゲット画像パッチRM-202とRM-210との間のパッチ類似度を示す類似度メトリックを決定することと、参照医用画像群RMISの複数の参照画像パッチRM-302とRM-310の各々とを含む。
【0428】
いくつかの例では、所与のターゲット画像パッチRM-202及び所与の参照画像パッチRM-302に対する類似度メトリックの決定は、ターゲット画像パッチRM-202を表す第1のパッチディスクリプタと、参照画像パッチRM-302を表す第2のパッチディスクリプタとの間のパッチ類似度の尺度に基づいてもよい。例えば、類似度測定基準は、第1パッチ記述子と第2パッチ記述子のコサイン類似度又はユークリディアン距離、又は他の類似度測定値を含むことができる。いくつかの例では、医用画像データの入力部分に基づいて訓練され、医用画像データの入力部分を代表するパッチ記述子を生成するニューラルネットワークを用いて、パッチ記述子を決定することができる。例えば、ニューラルネットワークは、その値が特徴空間における医用画像データの入力部分の代表であるパッチ記述子(例えば、縦列ベクトル)を決定するように訓練済み曲線ニューラルネットワークであってもよい。例えば、類似度測定基準を決定することは、訓練済みニューラルネットワークに対象画像パッチRM-202を入力することによって生成される第1パッチ記述子と、訓練済みニューラルネットワークに参照画像パッチ302を入力することによって生成される第2パッチ記述子との間の類似度の測定値を決定することを含むことができる。ニューラルネットワークは深部ニューラルネットワークであるかもしれない。
【0429】
いくつかの例では、複数の参照画像パッチRM-302~RM-310の各々についての第2のパッチ記述子は、予め(例えば、RM-302への参照画像パッチRM-310を訓練済みニューラルネットワークへ入力することによって)決定され、参照医用画像群RMISのRM-310へのそれぞれの参照画像パッチRM-302と関連して保存されることがある。これらの例において、参照医用画像群RMISは、必ずしも画像データ自体を含む必要はなく、むしろ、各参照画像パッチRM-302~RM-310及び各々に関連するアノテーションRM-322~RM-330に対する第2パッチ記述子のみを含む。これらの例では、類似度メトリックの決定は、所与のターゲット画像パッチRM-302に対して決定された第1のパッチディスクリプタと、各々の参照画像パッチRM-302~RM-310に対して予め計算された第2のパッチディスクリプタとの間の類似度の測定を決定することを含んでもよい。
【0430】
いくつかの例では、最初のパッチ記述子と2番目のパッチ記述子は、最初のパッチ記述子を得るために、まず対象画像パッチRM-202を訓練済みニューラルネットワークに入力し、次に、2番目のパッチ記述子を得るために、訓練済みニューラルネットワークに参照画像パッチRM-302を入力することによって得ることができる。
【0431】
いくつかの例では、訓練済みニューラルネットワークは、医用画像データの2つの入力部分間のパッチ類似度を示す類似度計量を出力するよう訓練済みSiameseニューラルネットワークの一部であり得る。例えば、Siameseネットワークは、共有(すなわち、同じ)重み付けを有する2つの「双子」曲線ニューラルネットワークを構成することができる。対象画像パッチRM-202は、第1のパッチ記述子を生成するために、これらの畳み込みニューラルネットワークの1つ目に入力されてもよく、参照画像パッチRM-302は、第2のパッチ記述子を生成するために、これらの畳み込みニューラルネットワークの2つ目に入力される。第1のパッチ記述子と第2のパッチ記述子との間で類似性尺度(例えば、ユークリッド距離、コサイン類似性など)を決定することができ、これを活性化関数(例えば、シグモイド関数など)を通過させて、対象画像パッチRM-202と参照画像パッチRM-302との間のパッチ類似性の程度を示す類似性尺度を作成することができる。たとえば、類似性の尺度は0と1の間にある場合があり、0はまったく異なっていることを示し、1は同一であることを示す。これらの例では、Siameseニューラルネットワークは、類似していることが知られている画像の対及び類似していないことが知られている画像の対を含む訓練データセットに基づいて訓練されてもよい。類似対は類似度計1で標識し、異種対は類似度計0で標識することができる。その後、訓練データセットに基づき、各ペアのラベルを監視信号として使用して、Siameseニューラルネットワークを訓練することができる。他の神経回路網を使用してもよい。
前記のように、本方法は、ステップRM-S12-3において、1つ以上のターゲット画像パッチRM-202~RM-210の各々について、複数の参照画像パッチRM-302~RM-310、又はその逆の中から、ターゲット画像パッチRM-202~RM-210、及び参照画像パッチRM-302~RM-310に対して決定された類似度測定基準に基づいて、参照画像パッチRM-302~RM-310を選択することを含む。
【0432】
幾つかの実施例では、参照画像パッチRM-302~RM-310を選択することは、ターゲット画像パッチRM-202に対して、ターゲット画像パッチRM-202との最も大きな類似性メトリックを有する複数の中から、参照画像パッチRM-302~RM-310を選択することを含むことができる。幾つかの実施例では、ターゲット画像パッチRM-202~RM-210を選択することは、所定の参照画像パッチRM-302に対して、参照画像パッチRM-302との最も大きな類似性メトリックを有する複数の画像パッチRM-202~RM-210をターゲットとすることを含むことができる。これは、ターゲット画像パッチRM-202~RM-210又は参照画像パッチRM-302~RM-310の各々について繰り返されることがある。
【0433】
いくつかの例では、ターゲット画像パッチRM-202からRM-210が複数ある場合、複数のターゲット画像パッチRM-202からRM-210のそれぞれについて参照画像パッチRM-302からRM-310を選択することは、複数のターゲット画像パッチRM-202からRM-210への1対1のマッピングと、決定された類似性メトリックの合計を最大にする複数の参照画像パッチRM-302からRM-310への1対1のマッピングを生成することを含むことができる。言い換えれば、任意の所与の参照画像パッチRM-302~RM-310は、対象画像パッチRM-202~RM-210、又はその逆の大部分の1つにのみマッピングされ、又はペアリングされ、この制約内でペアリングは、ペアリングから得られる類似性メトリックの合計を最大にするように最適化され得るという条件が強制され得る。これにより、所与のターゲット画像パッチ202に対して、又はその逆に対して、参照画像パッチRM-302~RM-310のより正確な選択が可能になると考えられる。例えば、これは、スライス解像度(すなわち、連続するスライスが表現する領域間の物理的距離)、又は参照医用画像群RMISにおけるスライスの数が、患者の対象医用画像群TMISのものと同じ又は類似している場合に、特に有効であり得る。
【0434】
いずれにしても、1つ以上のターゲット画像パッチRM-202~RM-210又はその逆のそれぞれに対して、参照画像パッチRM-302~RM-310が選択される。前記のように、本方法は、ステップRM-S12-4において、ターゲット画像パッチRM-202~RM-210の各々について、ターゲット画像パッチRM-202~RM-210に対して選択された、参照画像パッチRM-302~RM-310が注釈される1つ以上の最初の単語A-Dで、ターゲット画像パッチRM-202~RM-210を注釈することを含む。例えば、図29及び図30を参照すると、ターゲット画像パッチRM-202に対して、参照画像パッチRM-302が選択された場合(例えば、RM-302からRM-310への全ての参照画像パッチのうち、ターゲット画像パッチRM-202と最も高い類似度メトリックを有する参照画像パッチ302に基づく)、次いで、参照画像パッチRM-302の注釈322に含まれるA及びBの語を使用して、ターゲット画像パッチRM-202に注釈を付す。
【0435】
いくつかの例では、所与のターゲット画像パッチRM-202をRM-210に注釈することは、所与のターゲット画像パッチに関連して、選択された参照画像パッチRM-302~RM-310が注釈される、1つ以上の第1のワードA-Dを構成するか又はそれから構成されるテキストデータを記憶することを含んでもよい。例えば、所定のターゲット画像パッチRM-202~RM-210に関連するテキストファイルを生成又は修正して、選択された基準画像パッチRM-302~RM-310の1つ以上の第1ワードA~Dを含めることができる。
【0436】
その結果、各ターゲット画像パッチRM-302~RM-310には、ターゲット画像パッチRM-302~RM-310で表現された特徴に対応するワードがアノテートされる。例えば、ターゲット画像パッチRM-202は、類似度メトリックが高いため、参照画像パッチRM-302を選択してもよい。したがって、参照画像パッチRM-302で表される特徴は、目標画像パッチ202で表される特徴と同じであると推測される。そこで、対象画像パッチRM-202に、参照医用画像群RMISの参照画像パッチRM-302をアノテーションしたA、Bと同じ単語をアノテーションすることにより、対象画像パッチRM-202に、対象画像パッチRM-202に代表される特徴に対応する単語A、Bをアノテーションするようにした。これは、患者対象医用画像群TMISのターゲット画像パッチRM-202~RM-210の全てに適用できる可能性がある。
【0437】
いくつかの例では、対象医用画像群TMIS内のターゲット画像パッチRM-202の位置、及び参照医用画像群RMIS内の参照画像パッチRM-302の各位置を用いて、ターゲット画像パッチRM-202に対する参照画像パッチRM-302の選択を知らせることができる。例えば、上述のように、各ターゲット画像パッチRM-202~RM-210は、患者対象医用画像群TMISのスライスであり得、各参照画像パッチRM-302~RM-310は、参照医用画像群RMISのスライスであり得る。いくつかの実施例では、各ターゲット画像パッチRM-202~RM-210は、ターゲット画像パッチRM-202~RM-210が対応するそれぞれのスライスの、患者対象医用画像群TMIS内の、位置を示す第1スライス位置値と関連付けることができ、各参照画像パッチRM-302~RM-310は、参照医用画像群RMIS内の、参照画像パッチがRM-302~RM-310に対応するそれぞれのスライスの位置を示す第2スライス位置値と関連付けることができる。たとえば、最初のスライス位置値は、スライスのシーケンス内でのスライスの位置の指標とすることができる。例えば、図29を参照すると、スライスRM-202、RM-204、RM-206、RM-208、及びRM-210の第1スライス位置値は、それぞれ1、2、3、4、及び5であり得る。同様に、図30を参照して、スライスRM-302、RM-304、RM-306、RM-308、及びRM-310の第2スライス位置値は、それぞれ1、2、3、4、及び5でよい。このような例では、方法は、1つ以上のターゲット画像パッチRM-202~RM-210の各々について、及び複数の参照画像パッチRM-302~RM-310の各々について、ターゲット画像パッチRM-202と関連した第1のスライス位置値と、参照画像パッチRM-302と関連した第2のスライス位置値との間の類似性を示すスライス位置類似性メトリックを決定することを含むことができる。例えば、スライス位置類似度測定基準は、第1スライス位置値と第2スライス位置値との差に基づくことができる。例えば、最初のスライスRM-202 と2 番目のスライスRM-302 では、差は0 になり、高いスライス位置の類似性を示すが、最初のスライスRM-202 と2 番目のスライスRM-310 では、差は4 になり、低いスライス位置の類似性を示す。このような例では、1つ以上のターゲット画像パッチRM-202~RM-210の各々について、複数の参照画像パッチRM-302~RM-310の中から参照画像パッチRM-302を選択することは、さらに、ターゲット画像パッチRM-202及び参照画像パッチRM-302~RM-310に対して決定されたスライス位置類似度測定基準に基づくことができる。例えば、全体的な類似度測定基準は、例えば、重み付けされた組合せ、類似度測定基準とスライス位置類似度測定基準との組合せを含み、参照画像パッチRM-202とRM-210との組合せは、全体的な類似度測定基準に基づいて、与えられた対象画像パッチ202に対して選択することができる。これは、参照画像パッチRM-302の選択へのスライスの相対的空間配置を符号化するのに役立つ。これは、画像データ間の類似性(例えば、そのパッチ記述子)のみを使用する場合と比較して、選択の精度を向上させるのに役立つ可能性がある。
【0438】
図31を参照すると、例によれば、方法を実施することができるフローを模式的に図示する。図示された流れは、患者対象医用画像群TMISの所定のターゲット画像パッチ202に対するものである。ターゲット画像パッチRM-202は、パッチ記述子発生器RM-406(例えば、上述のように訓練済み神経回路網)に入力され、それに従ってターゲット画像パッチRM-202のための最初のパッチ記述子RM-408を出力する。参照医用画像群RMISの複数の参照画像パッチは、ベクトル発生器RM-406にも入力され、複数の参照画像パッチに対して1つずつ、第2のパッチ記述子RM-410のセットを生成する。上述のように、第2のパッチ記述子RM-410は、第1のパッチ記述子RM-408の前又は同時に決定され得、パッチ記述子ジェネレータ406は、例えば、曲がりくねったニューラルネットワークを含み得、及び/又はシアメスニューラルネットワークの一部であり得る。
【0439】
第1のパッチ記述子RM-408及び第2のパッチ記述子RM-410は、比較器RM-412に入力され、第1のパッチ記述子と複数の第2のパッチ記述子RM-410のそれぞれとの類似度メトリックを決定し、類似度メトリックに基づいて参照画像パッチを選択し、選択された参照画像パッチが注釈されたワード(例えば、上述のように)で対象画像パッチRM-202に注釈を付ける。いくつかの例では、選択は、上述のように、スライス位置類似性測定基準に基づくこともできる。いずれにせよ、対照薬RM-412は注釈付きターゲット画像パッチRM-408を出力する。これは、ターゲット画像パッチRM-202~RM-210の各々について繰り返すことができる。したがって、各ターゲット画像パッチは、ターゲット画像パッチRM-202によって表現される特徴に対応するワードA、Bで注釈されてもよい。
【0440】
上述のように、図28~31を参照して上述した方法は、例えば、ランドマーク検出を用いてターゲット画像パッチの各々によって表される特徴を同定するのと比較して、患者医用画像データのターゲット画像パッチの柔軟性及び/又は効率的な注釈を提供する。さらに、ターゲット画像パッチRM-202~RM-210を、それによって表される特徴に対応する単語A~Dで注釈した患者対象医用画像群TMISを有することは、多くの用途を有する。例えば、単語は、任意クエリーを実行することによって検索可能である。従って、特定の特徴(例えば、ある解剖学的特徴)を表現又は含むターゲット画像パッチRM-202~RM-210は、例えば、放射線科医が、視覚的に、ターゲット画像パッチRM-202~RM-210の全てを視覚的に検査することを必要とせず、及び/又は視覚的にターゲット画像パッチRM-202の全てをRM-210まで抽出し、検査のためにレンダリングすることを必要とせずに、そのような単語検索によって識別され得る。
【0441】
患者の医用画像データの注釈付き対象画像パッチを使用することができる他の例示的な方法は、ここで、図32~34を参照して説明する。
【0442】
まず、動機付けのシナリオについて述べる。ある場合には、放射線科医が以前の医療テキストレポートとそれに関連する医用画像スライスを振り返ることが有用であるか、必要である。例えば、放射線科医は、特定の解剖学的特徴の疾患の進行を評価するために、以前の医用画像スライスを、医用テキストレポートが生成されるべき現在の医用画像スライスと比較することを望むことがある。しかし、これを行うためには、放射線科医は、関心のある特定の解剖学的特徴を示すスライス又はスライスを同定するために、以前の医用画像スライスの各々を開いて見なければならない。逆に、放射線科医は、特定の以前の画像に示された解剖学的構造に関連する所見を同定するために、以前の医療テキストレポートの全てを読まなければならない。これは時間と負担がかかる。さらに、それは、以前の医用画像スライスの全てを抽出し、放射線科医端末に伝え、表示することを必要とし、これは資源集約的である。
【0443】
従って、いくつかの例において、本発明の方法は、患者の対象医用画像群TMISに関連する医用レポートRM-504の医用テキストの1つ以上の第1セクションF1-F3を得ること、各第1セクションF1-F3は1つ以上の第2単語を含むこと、及び1つ以上の第1セクションF1-F3の各々について、及び1つ以上のターゲット画像パッチRM-202からRM-210に対して、以下を含むことができる:第1セクションF1-F3の第2単語の1つ以上を、ターゲット画像パッチRM-202がマッチを識別するために注釈される第1単語A-Dの1つ以上と比較すること、及びターゲット画像パッチRM-202をRM-210と、同定されたマッチに基づいて第1セクションF1-F3と関連づけること。これにより、医療テキストレポートRM-504の各セクションF1~F3は、そのセクションF1~F3で言及されている特定の1つ以上の第1スライスRM-202~RM-210で表される特徴に従って、患者の医用画像データの特定の1つ以上の第1スライスRM-202~RM-210にリンクされることが可能となる。以下でより詳細に述べるように、このリンクは、例えば、放射線科医が医学テキストレポートの特定のセクションF1~F3と相関する特定の最初のスライスRM-202~RM-210を容易に識別することを可能にし、またその逆も可能にするために使用することができる。これは、例えば、関心のある特定の第一画像パッチRM-202~RM-210を発見する放射線科医に関連する負担を軽減又は除去し、及び/又は第一画像パッチRM-202~RM-210の全てを抽出し、通信し、表示する必要性に関連する資源負担を軽減又は除去することができる。
【0444】
上述のように、本方法は、患者対象医用画像群TMISに関連する医用テキストレポートRM-504のテキストの第1セクションF1~F3を1つ以上得ることを含み、各第1セクションF1~F3は1つ以上の第2語を含む。図32は、このような医療テキストレポートRM-504を模式的に示している。この例では、医学テキストレポートRM-504は放射線学レポートであり、最初のセクションF1~F3は3つの所見である。この例では、各所見F1~F3は2番目の単語の文である。具体的には、F1の所見は「外側半月板の前角のグレードIのムコイド分解」の文章であり、F2の所見は「アクルムコイド変性」の文章であり、F3の所見は「正常なpcl、異常なシグナルなし」の文章である。所見は、別個の所見として報告書RM-504に入力するか、医療文章報告書RM-504を前処理して、本文をセクション/文章/所見F1~F3にセグメント化してもよい。これらの最初の切片の1つをF1~F3とする。医療テキストレポートRM-504は、患者対象医用画像群TMISを読む放射線科医に基づいて生成されるレポートであってもよい。
【0445】
この方法は、次に、各ターゲット画像パッチRM-202~RM-210及び各第1セクションF1~F3を含み、第1セクションF1~F3の第2単語の1つ以上を、ターゲット画像パッチRM-202がマッチを識別するために注釈される第1単語A~Dと比較することができる。例えば、対象画像パッチRM-202は、前十字靭帯(acl)を示し得、従って、最初の単語「前十字靭帯」及び/又は「acl」で注釈することができる(図27~30を参照して上述したプロセスの結果として)。これらの言葉は、最初のセクションF2の言葉、すなわち「acl mucoid degeneration」という言葉と比較することができる。この比較に基づいて、識別された一致(例えば、単語「acl」の一致)があるかもしれない。すなわち、同じ単語が最初のセクションF2と最初の画像RM-202の注釈の両方に現れるという点である。このマッチの結果、ターゲット画像パッチ202は、第1セクションF2と関連付けられることができる。例えば、ターゲット画像パッチRM-202(又は、それに対する参照)は、例えば、記憶の中のテーブルの中で、記憶の中の最初のセクションF2(又は、それに対する参照)と関連して保存されることがある。従って、所見F2と、所見F2が関係する解剖学的特徴を示す対象画像パッチRM-202との間のリンクが確立される。これは最初のセクションF1~F3のそれぞれについて繰り返されることがある。したがって、医学テキストレポートの第1セクションF1~F3ごとに、その第1セクションF1~F3に関連する解剖学的特徴を示すターゲット画像パッチ又はRM-202~RM-210の部分を識別することができる。特に、対象画像パッチは、関心領域ROIであり得る。
【0446】
いくつかの例において、この方法は、テキストの最初のセクションF1~F3の1つの選択を示すデータを受信すること;及び表示装置11上に表示される対象イメージパッチRM-202/選択された最初のセクションF1~F3に関連する関心領域ROIのレンダリングRM-502を引き起こすための表示データを生成することを含むことができる。
【0447】
いくつかの例では、第1セクションF1~F3の選択は、ユーザ選択であってもよい。例えば、図32に示されるペインRM-504は、GUIの要素であってもよく、その場合、GUIは、最初のセクションF1~F3のうちの特定の1つを(例えば、カーソルを上に置くか、又はクリックして)ラジオロジストが選択することを可能にする。図示した例では、最初のセクションF2が選択されている。したがって、この最初のセクションF2に関連付けられたターゲット画像パッチRM-202は、(例えば、表を参照することによって)決定される。次に、ターゲット画像パッチRM-202を記憶から抽出し、ターゲット画像パッチRM-202のレンダリングRM-502を、放射線科医に表示装置上に表示することができる。従って、放射線科医は、関心のある特徴(例えば、acl)を示すターゲット画像パッチRM-202を直ちに見ることができ、従って、例えば、関心のある特徴を示すターゲット画像パッチを見つけるために、ターゲット画像パッチRM-202からRM-210の全てを抽出し、見通すことと比較して、負担及び資源使用を低減することができる。
【0448】
いくつかの例では、選択された第1のセクションF2に関連する複数の対象イメージパッチRM-202~RM-210が存在してもよい。例えば、ターゲット画像パッチRM-202~RM-210の複数のものがaclを示すことがあり、したがってターゲット画像パッチRM-202~RM-210の複数のものが”acl”という単語で注釈されることがある。これらの場合、最初のセクションF2は、ターゲット画像パッチRM-202~RM-210の複数に一致することがある。これらの場合、表示装置上に表示される複数のターゲット画像パッチRM-202~RM-210の代表的な1つのRM-204を表示RM-502にレンダリングさせるために、表示データを生成してもよい(図示せず)。例えば、代表的なターゲット画像パッチRM-204は、それらの複数のターゲット画像パッチRM-202~RM-210の中で中央に位置する代表的なターゲット画像パッチ204に基づき、選択された第1セクションF2に関連する複数のターゲット画像パッチRM-202~RM-210の中から選択することができる。例えば、選択された最初のセクションF2に関連する3つの最初のスライスRM-202、RM-204、206がある場合、それらの中の代表的なスライスは、対象画像パッチRM-202、RM-204、RM-206のシーケンスと中央に位置するか、又は位置するので、最初のスライスRM-204として選択することができる。これは、代表的なターゲット画像パッチRM-204が、関心対象の特徴の主要部分又は中心部分を示す機会を最大にするのに役立つ可能性があり、これは、関心対象の特徴を評価するためのターゲット画像パッチの最も役立つ可能性がある。
【0449】
いくつかの実施例において、方法は、対象医用画像群TMISのターゲット画像パッチRM-202~RM-210のうちの1つの選択を示すデータを、例えば関心領域ROIの形で受信することと、選択されたターゲット画像パッチRM-202に関連する前記第1のセクションF2を表示装置11上に表示又は強調するように引き起こすための表示データを生成することとを含むことができる。
【0450】
例えば、図31に示されるように、所与の選択されたターゲット画像パッチRM-202に対して、関連する第1のセクションF2(又は容器によりセクション)が、GUIペインRM-504上で太字で強調されてもよい。これは、特定ターゲット画像パッチRM-202を与えられた放射線科医が、その特定ターゲット画像パッチRM-202に示される解剖学的特徴に関係する医療テキストレポートRM-504のセクションF1-F3を迅速に同定することを可能にする可能性がある。これにより、特定のターゲット画像パッチRM-202に関連する所見を特定するために、医学テキストレポートの全てを読影しなければならない放射線科医の負担を軽減できる可能性がある。
【0451】
いくつかの例において、GUIは、放射線科医が、複数の対象画像パッチRM-201~RM-210のレンダリングRM-502を順番にスクロールすることができるように構成することができる。これらの例では、ターゲット画像パッチRM-202~RM-210の1つの選択は、現在レンダリングRM-502が表示されているターゲット画像パッチRM-202~RM-210を選択することを含んでよい。このようにして、放射線科医は、対象画像パッチRM-202からRM-210のレンダリングをスクロールすると、対応する最初のセクションF1~F3を順番にハイライトすることができる。
【0452】
図32の例では、テキストRM-504は、レンダリング502に対するGUIの別の部分に表示される。しかしながら、一部の例では、生成された表示データは、選択されたターゲット画像パッチRM-202~RM-210に関連付けられた第1のセクションF1~F3を、選択されたターゲット画像パッチRM-202~RM-210のレンダリング上にオーバーレイされて表示させるためであってもよい。例えば、図34を参照すると、選択されたターゲット画像パッチRM-202のレンダリング602が示され、その上に、選択されたターゲット画像パッチRM-202に関連する第1のセクションF2のテキストがオーバーレイされる。具体的には、この例では、aclを示すターゲット画像パッチRM-202のレンダリングRM-602上に、テキスト「acl mucoid degeneration」を重ね合わせる。これは、選択したターゲット画像パッチRM-202に関連する第1セクション又は第F1~F2セクションを放射線科医に容易に明らかにするのに役立つ可能性がある。
【0453】
いくつかの例では、対象医用画像群TMISのターゲット画像パッチRM-202~RM-210と医用テキスト報告書RM-504の第1セクションF1~F3との間の関連を用いて、新しい、さらなる医用画像データに基づく新しい、第2の医用テキスト報告書を作成することができる。例えば、放射線科医は、患者対象医用画像群TMISが得られたものと同じ患者の同じ領域について、新しい、さらなる医用画像データを読むことができる。新たな医療文章報告は、最初の医学文章RM-504に基づいて作成することができるが、例えば、新しい医療撮像データを読んでいる放射線科医が評価したように、以前の所見及び/又は新たな所見の進展を説明するために更新する。
【0454】
例えば、この方法は、所与の第一節F1-F3を引き起こすための表示データを生成することと、所与の第一節F1-F3に関連する前記対象イメージパッチRM-202を表示装置上に表示することとを含むことができる。例えば、表示されるデータは、図32に示されているものと同様である。与えられた最初のセクションF1~F3は、それ自体で表示されるか、又は(図32の最初のセクションF2と同様に)強調表示されて、与えられた最初のセクションが選択されていることを示す。さらに、いくつかの実施例では、表示データは、追加的又は代替的に、GUI要素RM-702を表示装置上に表示させるためのものであってよく、GUI要素RM-702は、ユーザが、さらなる医用画像データ(図示せず)に関連する第2の医用テキスト報告書(図示せず)を生成する際に使用するために、与えられた第1セクションF1-F3を受理し、拒絶し、又は修正することを可能この方法は、第2の医療テキスト報告を生成する際に使用するために、与えられた第1セクションF1-F3を受理するか、拒絶するか、又は修正するかを示すGUI RM-702を介してユーザ入力を受信することを含むことができる。拒否を示すユーザの入力に応答して、与えられた第1セクションF1~F3は第2医学文報告に含まれない。受諾することを示すユーザ入力に応答して、与えられた最初のセクションF1~F3は、第2の医療テキストレポートにコピーされることがある。修正を指示するユーザ入力に対する応答として、所与の第1のセクションの修正バージョンを入手することができ(例えば、GUI要素(図示せず)のテキスト編集ウィンドウから)、所与の第1のセクションF1~F3の修正バージョンを第2の医療テキスト報告に含めることができる。
【0455】
GUI要素RM-702の例を図34に示す。この例では、GUI要素702は、最初の医学テキストレポートRM-504の最初のセクションF1-F3について、放射線科医が選択可能な多数のチェックボックスRM-704を含む。RM-704のチェックボックスには「事前説明を受け入れる」が含まれている。これが選択された場合、与えられた最初のセクションF1~F3は、修正されずに、第2の医学テキストレポートにコピーされる。チェックボックス704には、「間隔の増加」、「間隔の減少」、「変化なし」も含まれる。これらのうちの1つを選択した場合、最初のセクションF1~F3を修正して、2番目の医学文報告に含める前に、与えられた最初のセクションF1~F3の前に、それぞれ「間隔増加:」、「間隔減少:」、又は「変化なし:」の単語を挿入する。また、チェックボックス704は、「編集記述」を含む。これを選択すると、放射線科医が所与の最初のセクションF1~F3を編集できるように、テキスト編集ウィンドウ(図示せず)を開き、最初のセクションの編集版を2番目の医学テキストレポートに含めることができる。チェックボックスRM-704 には、"Delete description" もある。これが選択された場合、与えられた最初のセクションは2番目の医学テキストレポートにコピーされず、その処理は考慮されるべき次の最初のセクションF1~F3に移ることがある。
【0456】
第1医学テキスト報告書RM-504の第1セクションF1~F3は、それぞれ順番に選択することができる。放射線科医は、各第1セクションを順番に受け入れるか、拒否するか、修正するかの選択を行うことができる。このようにして、新しい第2の医学テキスト報告書は、第1の医学テキスト報告書RM-504に基づいて作成することができる。上述したように、いくつかの例では、与えられた最初のセクションF1~F3が選択されると、与えられた最初のセクションF1~F3に関連するターゲット画像パッチRM-202~RM-210のレンダリング502が表示される。したがって、放射線科医は、関連する対象画像パッチRM-202とRM-210を、新たな医用撮像データ比較し、医用テキスト報告書RM-504の選択された第1セクションF1-F3が、追加の医用画像データのための新たな第2の医用テキスト報告書に使用するために受理、棄却、又は修正されるべきかどうかを評価することができる。これにより、関連する対象画像パッチRM-202をRM-210に見つけてさらに医用画像データを比較する際の放射線科医の負担も軽減され、また、新たな第2の医用テキスト報告書を作成する際の負担も軽減される。また、該当するターゲット画像パッチRM-202~RM-210のみを抽出してレンダリングする必要があるため、ターゲット画像パッチRM-202~RM-210の全ての抽出、通信、レンダリングに伴うリソース使用量が減少する場合がある。
【0457】
図35は、実施例に従って表示データを生成するためのシステム1'を示す。このシステムは、1つ以上の態様に従って方法1を実行するように構成されており、例えば、図39を参照してさらに説明されているように、図1と比較した参照番号と同様に、類似した構成要素を指定する。
【0458】
システム1’は、例えば、読取りワークステーションの形態で、インターフェースユニット10を備える。システム1’は、コンピューティングユニット30をさらに備える。いくつかの例によれば、ターゲットの医用画像群TMISを出力ユニット11上に示すことができる。例えば、出力部11は、ターゲットとなる医用画像群TMISの外側に選択された画像スライスを可視化したり、複数の画像スライスの画像情報を含む投影画像を可視化することができる。対象医用画像群TMISの表示は、検査中の患者の検査された身体部分における組織TISの提示を含むことがある。提示された組織TISは、疑わしい又は病理的又は異常な構造、すなわち病変LESを含み得、これは同様に出力ユニット11を介して提示される。
【0459】
関心領域ROIは、少なくとも病変LESによってカバーされる領域、好ましくはわずかに大きな領域によって定義される。
【0460】
出力ユニット11は、さらに、評価ツールML-40を可視化するように構成されている。好ましくは、評価ツールML-40は、対象医用画像群TMISへのオーバーレイとして可視化され、病変LESを覆う関心領域ROIに対して最も好ましい。評価ツールML-40は、ユーザが下にある画像情報を見る/検査することを可能にするML-44の視野を含む。表示された評価ツールML-40は、さらに、下に画像情報を一時的に隠蔽するエリアML-43、ここにリング状を備える。エリアML-43は、円形以外のものでもよく、ユーザによって選択及び/又は活性化され形状表示評価機能EVA1、EVA2を含む。出力ユニット11は、図36、37及び38に関してより詳細に説明するであろう、異なる形状、サイズ、及び動作状態において、評価ツールML-40を可視化するように構成される。
【0461】
しかし、出力部11は、少なくとも1つの評価結果RESを含む評価結果ウィンドウML-45を表示画面上に提示するようにも構成されている。結果ウインドウML-45は、表示された対象医用画像群TMIS及び/又は評価ツールML-40にオーバーレイとして提示されることが好ましい。例えば、結果ウインドウML-45は、技術分野ML-44に対してオーバーレイとして位置決めされ、従って技術分野ML-44と同じ形状を有することができる。従って、評価結果RESは、評価ツールML-40の一部として提示することができる。図35では、結果ウィンドウML-45が評価ツールML-40の隣に表示されている。出力部11は、さらに、評価ツールML-40の少なくとも1つの操作メニューML-46(図38参照)上に表示画面上に存在するように構成されている。操作メニューML-46も同様に、対象医用画像群TMIS及び/又は評価ツールML-40にオーバーレイとして表示することができる。評価ツールML-40は、表示画面内、すなわち異なる位置間で移動するように構成されている。
【0462】
このように、インターフェースユニット10は、表示された画像中の評価ツールML-40を、好ましくは関心領域のROIにナビゲーションすることに関連するユーザ入力を受信するための入力ユニット12をさらに備える。入力部12は、コンピュータマウス、対応カーソル、キーボードの形態で実現することができる。評価ツールは、例えば、マウスをクリックして動かすことによってナビゲーションすることができる。入力部12は、さらに、評価ツールML-40の少なくとも1つの評価機能EVAの選択を受けるように構成されている。例えば、各評価機能EVAは、選択及び/又は起動のために、キーボードのキーを割り当てることができる。
【0463】
要約すると、出力ユニット11は、医用画像読取りのためのグラフィカル・ユーザ・インターフェースをグラフ的に可視化するように構成することができる。さらに、出力ユニット11は、評価ツールML-40を可視化するように構成してもよい。入力ユニット12は、ツールナビゲーション及び/又は評価機能選択に関してユーザ入力を受信するように構成されている。従って、インターフェースユニット10は、ターゲットの医用画像群TMISを表示するため、及び/又はユーザから受信された入力を処理するために、例えば、上に配置されたグラフィカル・ユーザ・インターフェースを提供するために構成されたそれぞれの処理ユニット13をさらに備えることができる。
【0464】
コンピューティングユニット30は、インターフェースユニット10を介して受信されたユーザ入力をさらに順応させて処理する。詳細には、コンピューティングユニット30は、ユーザ入力を処理して、評価ツールML-40を選択位置、例えば関心領域ROIにナビゲーションするように構成されている。コンピューティングユニット30は、さらに、少なくとも1つの選択された評価関数EVAを実行し、少なくとも1つの評価結果RESを生成するように構成されている。また、コンピューティングユニット30は、評価結果RESの可視化表現を生成するように構成されている。
【0465】
図36は、第1の動作状態における実施例に係る評価ツールML-40を示している。この動作状態は、初期状態に対応し、評価ツールML-40は、例えば、図39に関してより詳細に説明されているように、その方法のステップML-S20に従って、そのツールが最初に可視化されたときに、インしている。ここで描かれた評価ツールML-40は、表示画面11上又は表示画面を介して可視化される。評価ツールML-40は、表示された対象医用画像群TMISにオーバーレイとして表示される。評価ツールML-40の非活性化は、ツール自体及びその評価結果全てRESを直ちに隠すことができ、したがって、古典的に表示されているように医用画像データセットMEDI上に明瞭なビューを提供することができる。
【0466】
この実施例の評価ツールML-40は、その中心部にML-44の円形視野を含む。視野は透明である。言い換えると、技術分野ML-44の下に同時に表示される対象医用画像群TMISに含まれる解剖学的構造は、技術分野ML-44を介して視認される。ここで、評価ツールML-40は、視野ML-44を介して可視である、損傷LES1を含む関心領域ROIに配置される。評価ツールML-40の周囲のリングML-43は、活性化領域41又は活性化位置を含む。このエリアML-41はリングML-43に対して静止している。リングML-43は、ここでは、4つのリングセグメントML-42であり、各リングセグメントは、特定の評価関数EVA1、EVA2、EVA3、EVA4を具体化する。リングセグメントML-42は、リングセグメントML-42が、評価関数EVA1、EVA2、EVA3、EVA4のいずれかが起動位置ML-41をとるまで、視野ML-44の中心点(双方向矢印で示される)の周りで回転され得るように回転可能に配置される。この実施例では、リングセグメントML42の回転運動を介して評価関数が起動位置ML-41に位置決めされるとすぐに、対応する評価関数が起動される。
【0467】
リングセグメントの1つをクリックし、コンピュータマウスのスクロールホイールを使用することで、リングセグメントの回転を実現することができる。同様に、リングセグメントを回転させる場合は、ユーザーが評価機能を選択するために、マウスを使用してリングセグメントの1つをクリックすることで置き換えることができる。
【0468】
図37は、第2の動作状態における実施例に係る評価ツールML-40を示している。この動作状態はa状態に相当し、評価ツールML-40は、評価関数EVAを選択した場合、ここで評価関数EVA2(図5に対して説明した任意ステップML-S41に従う)になる。評価関数EVA2は、ユーザに複数の異なる評価操作ML-47を提供する少なくとも1つの評価関数である。評価操作ML-ML-47とは限らず、相違点は操作メニューML-46の表示を介してユーザに提供される。この実施例における操作メニューML-46は、複数の操作ウィンドウを含み、各ウィンドウは、異なる評価操作ML-47を具体化し、これに基づいて、画像要素のレジストレーション及び/又は追加データのいずれかに対してユーザ選択を行うことができる。好ましくは、図示のように、各操作ウインドウは、評価操作ML-47の目的の絵/記号/テキスト指示を含むことができる。例えば、1つの動作は、表示された医療データセットに基づいて、病変LES1の3次元表示を計算及び/又は提供することを目的とすることができ、これは、例えば、病変LES1の2ないし10個の投影図の短いビデオクリップを提供することによって、各々の投影図が、わずかに複数のビュー角度(3D)に関係し、それによって、3次元の印象をユーザに伝達することによって、指示されることができる。この評価動作は、表示された画像データセット内の損傷LES1の完全なセグメント化を必要とし、画像スライス間のデータ補間ステップを意味することがある。別の評価操作は、経時的な病変の成長又は縮小(PROG)を表す画像群を提供するように向けられることがある。この評価操作は、参照検査RS及びそれに含まれる参照医用画像群RMISを、上記実施例の1つ以上にしたがって得ることを意味する。
【0469】
このような追加データの選択は、関心領域ROI内の少なくとも1つの画像要素エントリーを考慮して実施される。この評価操作はさらに、画像群におけるボリューム/サイズ変化の経時的定量化及びカラーコーディングを含むことができる。画像群は、例えばマウスのスクロールホイール等を介して、時間的に両方向にトグルし、それによって時間的に変化を強調することができる。また、画像群は、視野ML-44へのオーバーレイとしてユーザに提示され得る。他の評価操作は、検査RM-504の下で患者の以前の報告の少なくとも一部、又は直径、ボリューム、不均一性、バイオマーカーの存在などの病変分析/定量化ANAのテキスト表現をユーザに取得し提示することによって行うことができる。さらなる代替法として、評価動作は、鑑別診断を可能にするために、他の患者からの病変LES1に類似した病変を取得し、ユーザに提示することができる。好ましくは、類似病変の探索は、関心領域ROIに特定抽出された画像特徴シグネチャーに基づく。
【0470】
各個体評価動作ML‐47は評価関数EVAとしても具体化される可能性があることは言うまでもない。従って、全ての例示的な評価操作ML-47は、同様に、評価関数に対応することができる。もちろん、ここでは明確に言及されていない機能/動作がより多く可能である。
【0471】
しかしながら、1つの評価関数EVAの下での評価操作ML-47をグループ化することは、それらの場合、例えば、評価ツールML-40の容易かつ迅速な操作を妨げるであろうより容器より小さなリングセグメントML-42を必要とするであろう評価操作の数ML-47が有利であろう。評価操作ML-47を1つの評価関数の下にグループ化することは別として、実施されたトピックに関連することもある。例えば、検査中の患者の以前の検査からの画像データの収集及びさらなる処理に関係する、又はそれに関わる操作関数ML-47は、直感的な使用法を助長するために、1つの評価関数の下にグループ化されることがある。
【0472】
図38は、第3の動作状態における実施例に係る評価ツールML-40を示している。この動作状態はa状態に相当し、評価ツールML-40は、評価関数EVAを実行した際に、評価結果RESが出力部11を介してユーザに表示される(図39に対して説明したようにステップML-60に従う)。この動作状態において、グラフィカル・ユーザ・インターフェースは、従って、ユーザによって検査される評価結果RESを含む、結果ウインドウML-45としてのフィールド又は領域又はウインドウを含む。この好ましい実施例では、評価結果RES、例えば、強調(カラーコード化、適応コントラスト、拡大図など)医用画像スライスの形で、ビデオクリップ又は画像群を、評価ツールML-40の視野ML-44内に提示することができる。ここで、評価結果RESは、視野ML-44へのオーバーレイとして可視化される。ここで、評価結果RESは、最後の検査以降、どのくらいの部位LES1が拡大したかを色分けした図で構成されている。その際、病変はLES0に相当する大きさのみであった。これに対応して、病変LES1内の破線部分は、病変の増殖又は経時的変化を一目で示している。もちろん、評価結果RESは、表示された対象医用画像群TMISに対してもオーバーレイとして表示画面内の任意の位置に表示することができる。
【0473】
図39は、一実施例による医用画像群の表示データを生成する方法を示す。この方法は多数のステップから成る。この方法は、コンピュータによって実現される方法である。
【0474】
ステップML-S10では、出力ユニット11を介して対象医用画像群TMISの表示がユーザに提供される。好ましくは、対象医用画像群TMISの1つの画像スライスは、典型的に適用されるグレイスケールウインドウに従ってレンダリングされる。
【0475】
ステップML-S20では、評価ツールML-40も可視化される。評価ツールML-40は、図36、37及び38に関して説明されたものに対応することができる。評価ツールML‐40の可視化は、オーバレイ、すなわち対象医用画像群TMISの上に実現される。したがって、評価ツールML-40は、表示された画像要素のいくつか、すなわち画素を少なくとも一時的に隠す。1つの代替形態では、評価ツールML-40は、グラフィカル・ユーザ・インターフェース内の予め設定された位置に最初に表示することができる。たとえば、最初の位置が表示画面のコーナー部の1つにある場合がある。また、読影出願の設定又は設定中に、ユーザーの好みに応じて初期位置を変更したり、適応させたりすることもできる。評価ツールML-40は、表示された画像データセットML-40内に移動可能に配置され、表示された対象医用画像群TMISに対して少なくとも2つの評価機能EAVを提供するように構成されている。言い換えると、評価ツールは、ユーザ要求及び入力ユニット12を介した対応する入力に基づいて、周囲に移動することができる。さらに、評価ツールML-40の表示は、図37及び38に関して説明したように、少なくとも2つの評価機能EVAの表示を含む。
【0476】
任意のステップML-S0において、少なくとも1つの異常、例えば、LES1が、対象の医用画像群TMISにおいて検出され得る。ステップS0は、ML-S10又はML-S20のいずれかのステップの前に実施することができる。ステップML-S0は、コンピューティングユニット30によって実行されることが好ましい。異常検出は、対象医用画像群TMISに少なくとも1つのコンピュータ支援検出アルゴリズムを適用することを含むことができる。異常検出は同様に、対象医用画像群TMISへの曲がりくねった神経回路網の適用を含むことがある。ステップML-S0はまた、画像分割ステップのような周知のものを含んでいてもよい。
【0477】
ステップML-S20は、このオプションに従って、評価ツールML-40を、こうして検出された異常に対するオーバレイとして、すなわち異常に対するオーバレイとして、自動的に表示することを含むことができる。好ましくは、病変LES1が図36、37、及び38に関するものと同様に、異常は、評価手段ML-40の透明視野ML-44の中心に自動的に配置される。そうすることによって、ユーザは視覚的に、異常を検査するよう導かれる。これは、一見異常が見られそうな場合に特に有利である。更なる代替形態として、又はそれに加えて、ステップS2は、例えば、カラーコーディングにより、又は検出された異常に関する情報を提供するタグを付加することにより、視覚的に強調することも含むことができる。それにより、ユーザは、検出された異常に関する診断上関連する情報を瞬時に提供される。
【0478】
ステップML-S30において、対象医用画像群TMI内の評価ツールML-40を、関心領域ROIにナビゲーションすることに関連するユーザ入力は、入力ユニット12を介して受信される。ここで、マイクロホン又はジェスチャ又は眼球運動制御(少なくとも1つのカメラを使用する)を含む任意の種類の入力装置は、ユーザ入力を受信するために役立つことができる。ステップML-S30は、ユーザ入力として受信された信号をコンピューティングユニット30に送信し、そこでユーザ入力を処理して、対象医用画像群TMIS内の評価ツールML-40を関心領域ROIにナビゲーションすることをさらに含む。言い換えると、ナビゲーションツールML-40をユーザが望む位置に移動することに従い、ナビゲーション順位が計算される。好ましくは、処理は瞬時に行われ、その結果、ユーザは、「ドラッグ-アンド-滴下」に従って、評価ツールを、詳細に検討したい位置に動かすことができる。
【0479】
ステップML-S40では、表示された評価関数のうち少なくとも1つのEVAが選択される。したがって、選択された評価関数EVAに関連する少なくとも1つの結果RESが出力ユニット11を介して既にユーザに提示された場合に、複数の評価関数EVAを選択することができ、好ましくは連続的に選択することができる。好ましくは、先に選択した評価関数EVAの評価結果ウィンドウML-45を提示し続けてもよいが、さらなる評価関数EVAの別の結果RESも表示することができる。従って、ステップML-S40は、入力部12を介して受信し、計算部30を介して、所望の評価機能EVAに関してユーザ入力を受けるようになっている。評価関数EVAの選択は、さらに、起動要求をインターフェースユニット10からコンピューティングユニット30に送信することを含む。
【0480】
任意選択ステップML-S41において、評価関数EVAの選択により、複数の操作を含む対話型操作メニューML-46、すなわち評価関数EVAに関係する操作関数ML-47の生成・可視化が活性化される。したがって、この代替法では、評価関数EVAの選択により、ユーザは、別の機能メニュー、例えば、図37に関して説明したメニューに導かれる。ユーザは、ステップS4に従って、動作関数ML-47の少なくとも1つを選択することができる。同様に動作機能ML-47の選択は、起動要求をインターフェースユニット10からコンピューティングユニット30に送信することを含む。
【0481】
ステップML-S50計算部30は、選択された評価関数EVA/操作関数ML-47を実行し、結果RESを生成する。計算部30は、評価関数EVA/操作関数ML-47を実行することにより、対象領域内の画像データを説明する。言い換えると、生成された評価結果RESは、表示された対象医用画像群TMISの撮像データエントリー、特に関心領域ROI内のものに基づくか、又は関心領域ROI内の少なくとも1つの画像要素を指すかのいずれかである。例えば、評価関数が関心領域ROIと比較される追加の撮像データを取得することを含む場合である。結果RESは、評価データ及び/又は評価データが関心領域ROI内の画像データに基づくものであり、追加データが少なくとも関心領域ROI内の画像データに関連し、本明細書に記載された方法のいずれかに従って検索される追加データを含むことができる。
【0482】
評価結果RESは、以下のタイプの評価結果のいずれかに該当する可能性があるが、これに限定されない
関心領域ROIに関連する以前の参照研究RSのRMIS、
疾患の進行を示す予後医用画像データは、関心領域ROIに関連する予後を示し、
関心領域ROI内の画像データのビデオ、
関心領域ROI内の対象医用画像群TMISからの画像データの三次元表示、
関心領域ROI内の対象医用画像群TMISからの画像データの拡大表示、
関心領域ROI内の対象医用画像群TMISからの画像データの拡大図。
【0483】
ステップML-S60では、評価結果RESの可視化が生成され、出力ユニット11を介してユーザに表示される。好ましくは、結果RESは、評価ツールML-40へのオーバーレイとして視覚化され、最も好ましくは、ML-44の視野内で視覚化される。この目的のために、評価結果値をユーザに表示するのに適した表現に変換することができる。適切な表現は、関心領域に対する適応画像要素レジストレーション又は追加情報を含む表示医用画像データセットに重ね合わせる投影面の形態とすることができる。適切な表現は、さらに、対象医用画像群TMIS又は参照医用画像群RMISの任意の画像領域へのオーバレイとして表示されるべき追加データを含む評価結果ウィンドウの視覚的レンダリングを含むことができる。従って、コンピューティングユニット30は、ターゲットの医用画像群TMIS上に重ね合わせられるように、オーバーレイ画像/ウインドウを作成するためのアルゴリズムを実行又は実行するように構成されてもよい。ボリューム線キャスティング、スプラッティング、せん断ラッピング、又はテクスチャマッピングのような既知のボリュームレンダリング手順を使用して、表現を生成することがさらに使用され得る。
【0484】
本実施例は、腫瘍学的出願において特に有利である。ここで、コンピューティングユニット30は、対象領域に含まれる少なくともいくつかの画像要素のレジストレーションに基づいて、治療の有無にかかわらず、疾患の進行又は腫瘍の増殖を予測するために、モデルベースアルゴリズムを適用することができる。言い換えれば、この使用例では、1つの評価関数は、同定された病変又は腫瘍に属する画像要素レジストレーションにモデル又は予測アルゴリズムを適用して、その構造的発達を予測することを含むことができる。アルゴリズムは、さらに、患者特異的データ、例えば年齢、性別、遺伝情報などのような追加データを含み得、それらは医療情報システム40から要求され得る。
【0485】
その結果、このように記述された評価機能EVAのRESは、画像シーケンスをユーザに表示することができ、それは、ビデオクリップとして時間病変の成長を可視化する。あるいは、画像群をスクロールして、群の個々の画像を詳細に調べることもできる。したがって、開示の実施態様は、フォローアップ検査に対する強力な推奨を導き出すこと、及び/又は治療選択肢を同定すること(病変に対する潜在的な治療の影響をさらに可視化することにより)を可能にする。
【0486】
実施例は、疑わしい画像領域の検出及び評価のための、使いやすい、高速かつ直感的なツールを提供するために相互作用する複数の構成要素を含むことができる、画像可視化及び探索のための方法及びシステムに関する。インターフェースユニットは、ユーザが、現在の画像化ボリューム(対象医用画像群TMIの形で)を閲覧し、その中をナビゲーションし(例えば、スクロール、3D回転、時間ナビゲーション等により)、その中の関心領域ROIを定義することを可能にする。インターフェースユニット10は、好ましくは、任意のPACSレビュー/読取ステーションの一部として具体化され得る。本明細書に記載される評価ツールML-40は、画像の以前のラベルを必要とする/必要としない任意の画像領域の検査を可能にする。さらに、ここに記載されたような評価ツールML-40は、画像領域(ROI)の上/隣の参照医用画像群RMIS又は別々のビューにおいて、関連する補足情報を迅速に探索することを可能にする。さらに、1つの特定の画像コンテクスト内の複数の補足情報源の迅速な選択/閲覧を可能にする最適化されたユーザインターフェースが提供される。
【0487】
評価結果、特に追加データの形で、選択された画像領域(ROI)の上にカラー化されたオーバーレイとして可視化されることがある。例えば、回転3Dビュー、複数の検査にわたるアニメーション化された病変の成長、異なるコントラスト、テキストラベル、拡張されたツールチップ、ROIの隣接及び/又は上に視覚又はテクスチャ情報を示すビュー。
【0488】
任意に、異常検出は、対象医用画像群TMIS内の異常領域を自動的に検出するために少なくとも1つのCADアルゴリズムを適用することを含むことができ、その異常検出は、例えば、参照医用画像検査RS又は医用レポートRM-504に含まれるような、以前に報告された所見をその解剖学的位置と共に取得するために医用情報システム40で送られる問合せを含むことができる。異常検出は、さらに、潜在的又は既知の異常を表示又は視覚的に示すことを含み、従って、関連する位置/領域における対象医用画像群TMIS内でユーザの注意を直接的に捉えることができる。異常表示は、オーバーレイ/ラベリング技術を含むことができる。
【0489】
図40には、グラフィカル・ユーザ・インタフェースGUIからの評価ツールのさらなる実施例が示されている。グラフィカルユーザインターフェースGUIの第1の表示領域TL-10では、対象医用画像群TMISのターゲット表示TL-TRが示されている。ターゲット表現TL-TRは、対象医用画像群TMISに基づいて生成された初期表示データに基づくことができる。初期表示データは、グラフィカルユーザインタフェースGUIに、対象医用画像群TMISのレンダリングをターゲット表現TL-TRとして表示させることができる。例えば、ターゲット表現TL-TRは、対象医用画像群TMISに含まれる画像スライスのレンダリングであってもよい。画像スライスは、例えば、対象医用画像群TMISをスクロールすることによって、ユーザによって選択され得る。第一の表示領域TL-10において、関心領域ROIは、ターゲット表現TL-TRにおいて定義され得る。説明されているように、関心領域ROIは、ユーザによって定義されることも、自動的に定義されることもある。
【0490】
さらに、グラフィカルユーザインターフェースは、第2の表示領域TL-20を含んでもよい。第2の表示領域TL-20では、1つ以上の基準表現TL-RRが表示されることがある。各参照表現TL-RRは、図1~11に関連して、特に前述のように識別することができる参照医用画像群RMISに基づいて生成することができる。従って、複数の参照表現TL-RRは、複数の参照医用画像検査RS及び/又は複数の参照医用画像群RMISに関係することがある。同じ参照医用画像検査に属し、したがって実質的に同じ時点に属する参照表現TL-RRは、例えば、同じ色のそれぞれの参照表現TL-RRの周りのフレームで、同じ様式で強調されることがある。複数の参照医用画像検査の参照表現TL-RRは、複数の方法で、例えば複数の色のフレームで、それぞれ強調されることがある。異なる時点に属する複数の異なる参照表現TL-RRが取得される場合、参照表現TF-RRは、それらがそれぞれ表現する時点の順位に従って表示されることがある。例えば、図40に示される例では、「最も古い」参照医用画像検査RSに関連する参照表現TL-RRは、第2の表示領域TL-20における最も左側のスポットに示されることがあり、「最新」参照医用画像検査RSに関連する参照表現TL-RRは、第2の表示領域TL-20における最も右側のスポットに示されることがあり、その中間参照表現TL-RRは、基礎となる撮像データが古いものからより最近のものまで取得されたそれぞれの時点に従って、その間に順序付けられた。
【0491】
各参照表現TL-TRは、それぞれの参照医用画像群RMISに基づいて生成された表示データに基づくことができる。表示データは、グラフィカルユーザインタフェースGUIに、それぞれの参照医用画像群TMISのレンダリングを参照表現TL-RRとして表示させることができる。特に、表示データは、関心領域ROIに対応するそれぞれの参照医用画像群RMISにおける画像データを識別するように、対象医用画像群TMISとそれぞれの参照医用画像群RMISとのレジストレーションに基づいて生成することができる。説明したように、これは、図19~26に関連して本質的に説明したように、関心領域ROIに類似しているパターン及び対応する画像パッチを、それぞれの参照医用画像群RMISにおいて識別することによって実施することができる。別法として、これは、それぞれの参照医用画像群RMISにおいて、図12~18又は他の画像レジストレーション技術と関連して本質的に説明されるように、関心領域ROIの画像スライスに対応する画像スライスを識別することを含むことができる。さらに、表示データを生成するには、このように同定された参照画像データを関心領域ROIの大きさにクロップすることが含まれることがある。次いで、第2の表示領域TL-20に示されるものは、異なる時点における関心領域ROIの表現である。それによれば、ある種のタイムレンズがユーザに提供され、ユーザは時間の経過に伴って医用画像の明確な領域の進行を探索することができる。
【0492】
以下の条項も開示の一部である。それで定義される実施例は、本明細書に記載される態様と組み合わせることができる。本明細書に記載されるいずれかの態様に関連して提供される利点は、以下の条項の対応する特徴にも同様に適用可能である。
【0493】
G1.医用画像データセットの表示データを生成する方法であって、次の工程を含む、方法:
・第1の時点の患者の対象医用画像検査(TS)を受信すること(S10)、対象医用画像検査(TS)は、対象医用画像検査(TS)のコンテンツを示すテキストストリングをそれぞれが含む1つ以上の対象属性値(AV)を含んでいる;
・対象医用画像検査(TS)の関心領域(ROI)を取得すること(S20);
・複数の候補医用画像検査(CS)から参照医用画像検査(RS)を選択すること(S40)、候補医用画像検査(CS)はそれぞれ、第2の時点の患者の複数の候補医用画像群(CMIS)と、候補医用画像検査(CS)のコンテンツを示すテキストストリングをそれぞれが含む1つ以上の候補属性値(AV)と、を含んでおり、選択する(S40)工程は、候補医用画像検査(CS)の各々について、対象属性値(AV)と候補属性値(AV)それぞれとの比較に基づく;
・参照医用画像検査(RS)の複数の候補医用画像群(CMIS)から、関心領域(ROI)に基づいて、また、選択的に、対象属性値(AV)と候補属性値(AV)それぞれとの比較に基づいて、参照医用画像群(RMIS)を選択すること(S50);
・関心領域(ROI)と参照医用画像群(RMIS)に含まれた画像データとの画像類似性に基づいて参照医用画像群(RMIS)から参照画像データ(REF-SLC)を同定すること(S60);
・ディスプレイデバイスに参照画像データ(REF-SLC)のレンダリングを表示させるために表示データを生成すること(S70)。
【0494】
G2.G1に係る方法であって、
・関心領域(ROI)は、対象医用画像検査(TS)に含まれた対象医用画像群(TMIS)の少なくとも一部の抽出であり、
・参照医用画像群(RMIS)を選択する(S50)工程は、
候補医用画像群(CMIS)の各々について、対象医用画像群(TMIS)との比較可能性の程度を決定すること、
決定した比較可能性の程度に基づいて参照医用画像群(RMIS)を選択すること、を含む。
【0495】
G3.G2に係る方法であって、
・比較可能性の程度を決定することは、対象属性値(AV)と候補属性値(AV)との比較に基づく。
【0496】
G4.G2又はG3に係る方法であって、
・対象医用画像群(TMIS)は、対象画像ボリュームを描画し、
・参照医用画像群(RMIS)は、少なくとも部分的に対象画像ボリュームにオーバーラップする参照画像ボリュームを描画し、
この方法はさらに、
・それぞれが対象画像ボリュームの特定のセクションを描画する複数の第1(又は対象)のスライス(S-1)を取得すること、
・それぞれが参照画像ボリュームの特定のセクションを描画する複数の第2(又は参照)のスライス(S-2)を取得すること、を含み、
・参照画像データ(REF-SLC)を同定する(S60)工程は、
第1のスライス(S-1)の少なくとも一部と第2のスライス(S-2)の少なくとも一部とをマッチングすること、
・このマッチング工程に基づいて基準画像データ(REF-SLC)を決定すること、を含む。
【0497】
G5.G4に係る方法であって、マッチング工程は、
・第1のスライス(S-1)から画像記述子(D-1)及び第2のスライス(S-2)から合致画像記述子(D-2)をそれぞれ抽出すること、
・個々の画像記述子(D-1)と個々の合致画像記述子(D-2)との比較に基づいて、第1のスライス(S-1)の少なくとも一部と第2のスライス(S-2)の少なくとも一部とをマッチングすること、を含み、
・その比較は、画像記述子(D-1)及び合致画像記述子(D-2)のそれぞれに基づいて、個々の第1のスライスと個々の第2のスライスとの間の画像類似度を決定することを選択的に含む。
【0498】
G6.G1~G5のいずれかに係る方法であって、
参照画像データ(REF-SLC)を同定する工程(S60)は、
・関心領域(ROI)から画像記述子(D-1)を抽出し、参照医用画像群(RMIS)の複数の画像領域(S-2,PM-334,PM-340,PM-440,PM-448)のそれぞれから合致画像記述子(D-2)を抽出すること、
・参照医用画像群(RMIS)の画像領域(S-2,PM-334,PM-340,PM-440,PM-448)のそれぞれについて、画像記述子(D-1)及び合致画像記述子(D-2)に基づいて画像類似性を決定すること、を含む。
【0499】
S1.医用画像群(TMIS,RMIS)の合致スライスを同定するコンピュータ実行方法であって、次の工程を含む、方法:
・第1の医用画像群(TMIS)を受信すること;
・第1の医用画像群(TMIS)とは別の第2の医用画像群(RMIS)を受信すること、第2の医用画像群(RMIS)は、第2の画像ボリュームを描画する;
・二次元医用画像の間の類似性を決定するように構成された訓練済み関数(TF)を提供すること;
・第2の医用画像セット(RMIS)に含まれた/画定された複数のスライス(S-2)(スライスは第2の画像ボリュームの特定のセクションをそれぞれ描画する)から、第1の医用画像群(TMIS)と第2の医用画像群(RMIS)との間の画像類似性を訓練済み関数(TF)を用いて評価することにより、第1の医用画像群(TMIS)に含まれた画像データに合致する少なくとも1つの合致スライスを同定すること。
【0500】
S2.医用画像群(TMIS,RMIS)の合致スライスを同定するコンピュータ実行方法であって、次の工程を含む、方法:
・第1の医用画像群(TMIS)を受信すること;
・第1の医用画像群(TMIS)とは別の第2の医用画像群(RMIS)を受信すること、第2の医用画像群(RMIS)は、第2の画像ボリュームを描画する;
・第2の医用画像群(RMIS)に含まれた複数のスライス(S-2)(スライスはそれぞれ第2の画像ボリュームの特定のセクションを描画する)から、第1の医用画像群(TMIS)に含まれた画像データと第2の医用画像群(RMIS)の個々のスライスとの間の画像類似度に基づいて、少なくとも1つの合致スライスを同定すること(S120,S120’)。
【0501】
S3.S1又はS2に係る方法であって、
・第1の医用画像群(TMIS)は、少なくとも部分的に第2の画像ボリュームにオーバーラップする第1の画像ボリュームを描画し、第1の画像ボリュームの特定のセクションをそれぞれが描画する複数のスライス(S-1)(複数のスライスは第1の医用画像群において画定される)を含み、
・少なくとも1つの合致スライスを同定する工程は、
第1の医用画像群(TMIS)と第2の医用画像群(RMIS)の間のスライス合致を提供するために訓練済み関数(TF)を用いて第1の医用画像群(TMIS)と第2の医用画像群(RMIS)との間の類似性を評価することにより、第1の医用画像群(TMIS)の複数のスライス(S-1)の各々について、第2の医用画像群(RMIS)の合致スライスを1つ同定すること、を含む。
【0502】
S4.S3に係る方法であって、さらに、
・認定されたスライス合致(CS)に基づいて第1の画像ボリュームと第2の画像ボリュームとの間の解剖学的オーバーラップを決定すること、
・決定された解剖学的オーバーラップに基づいて、第1の医用画像群(TMIS)に対する第2の医用画像群(RMIS)の比較可能性の程度を評価すること、
・ユーザインターフェースを介してユーザに比較可能性の程度を提供すること、を含む。
【0503】
S5.S3又はS4に係る方法であって、さらに、
・選択されたスライスを指定するために及び/又は関心領域(ROI)を画定するために、第1の医用画像群(TMIS)のスライスの選択を示すユーザからの入力を受信すること、
・第2の医用画像群(RMIS)の複数のスライス(S-2)から、認定されたスライス合致に基づいて、選択されたスライスに合致するスライス及び/又は関心領域(ROI)に合致するスライスを識別すること、
・選択されたスライスに合致するスライス(REF-SLC)を提供すること、を含む。
【0504】
S6.S3~S5のいずれかに係る方法であって、
・第1の医用画像群(TMIS)の複数のスライス(S-1)の各々について、第2の医用画像群(RMIS)の合致スライスを1つ同定する工程において、次の制約の1つ以上が追加的に使用される:
・総合した類似度が最大化される。総合した画像類似度は、第1及び第2の医用画像群(TMIS,RMIS)の個々のスライス対の累積画像類似性の尺度である;
及び/又は
・第1及び/又は第2の医用画像群(TMIS,RMIS)のスライス順序が保持される。
【0505】
S7.G1~G6のいずれかに係る方法であって、さらに、
・第1の医用画像群(TMIS)の画像データから画像記述子(D-1)を抽出すること、
・第2の医用画像群(RMIS)の複数のスライス(S-2)のそれぞれから合致画像記述子(D-2)をそれぞれ抽出すること(S123)、を含み、
・画像類似度は、第1及び第2の医用画像群(CMIS)(MIDS-1,MIDS-2)の抽出された画像記述子(D-1,D-2)の間の比較にそれぞれ基づく。
【0506】
S8.G1~G7のいずれかに係る方法であって、
・訓練済み関数(TF)は、二次元医用画像からそれぞれ画像記述子(D-1,D-2)を抽出し、抽出された画像記述子(D-1,D-2)に基づいて2つの医用画像の間の画像類似性を決定するようにさらに構成され、
この方法は、
・訓練済み関数(TF)を第1の医用画像群(TMIS)に適用することにより、第1の医用画像群(TMIS)から少なくとも画像記述子(D-1)を抽出すること、
・訓練済み関数(TF)を第2の医用画像群(RMIS)に適用することにより、第2の医用画像群(RMIS)の複数スライス(S-2)の各々から画像記述子(D-2)を抽出すること、を含み、
・少なくとも1つの合致スライス(REF-SLC)は、訓練済み関数(TF)により抽出された画像記述子(D-1,D-2)に基づいて同定される。
【0507】
S9.S7又はS8に係る方法であって、
・第1の医用画像群(TMIS)は、少なくとも部分的に第2の画像ボリュームにオーバーラップする第1の画像ボリュームを描画し、第1の画像ボリュームの特定のセクションをそれぞれが描画する複数のスライス(S-1)を含み、
この方法はさらに、
・第1の医用画像群(TMIS)の複数のスライス(S-1)の各々から、選択的に訓練済み関数(TF)によって、画像記述子(D-1)を抽出する工程を含む。
【0508】
S10.G1~G9のいずれかに係る方法であって、
・訓練済み関数(TF)は、二次元医用画像の間の類似性を決定するために学習済みメトリックを適用し、この訓練済み関数は、好ましくはディープメトリック学習ネットワークからなる。
【0509】
S11.G1~G10のいずれかに係る方法であって、
・訓練済み関数(TF)は、シャムネットワーク及び/又はトリプレットネットワークからなる。
【0510】
S12.G1~G11のいずれかに係る方法であって、
・訓練済み関数(TF)は、トリプレット損失関数又は対照損失関数を用いて訓練されている。
【0511】
S13.医用画像群(TMIS,CMIS)の比較可能性の程度を決定するコンピュータ実行方法であって:
・第1の医用画像群(TMIS)を受信すること、第1の医用画像群(TMIS)は、第1の時点の患者の第1の画像ボリュームを描画し、第1の画像ボリュームの特定のセクションをそれぞれが描画する複数のスライス(S-1)を含み;
・複数の第2の医用画像群(CMIS)を受信すること、各第2の医用画像群は、第1の時点とはそれぞれ別の第2の時点の患者の第2の画像ボリュームを描画し、該2の医用画像群(CMIS)の第2の画像ボリュームの特定のセクションをそれぞれが描画する複数のスライス(S-2)を含み;
・二次元医用画像の間の画像類似性を決定するように構成された訓練済み関数(TF)を提供すること;
・第2の医用画像群(CMIS)の各々について、
訓練済み関数を用いて第1及び第2の医用画像群の間の画像類似性を評価することによって、第1の医用画像群(TMIS)の合致スライスをもつ第2の医用画像群のスライスをオーバーラップスライスとして同定すること、
オーバーラップスライスに基づいて、第1の画像ボリュームと第2の医用画像群(CMIS)それぞれの第2の画像ボリュームとの間の解剖学的オーバーラップを決定すること;
・第2の医用画像群(CMIS)の各々について、決定された解剖学的オーバーラップに基づいて、第1の医用画像群(TMIS)との比較可能性の程度を決定すること、を含む方法。
【0512】
S14.医用画像群(TMIS,RMIS)の合致スライスを同定するコンピュータ実行方法であって、次の工程を含む方法:
・第1の医用画像群(TMIS)を受信すること;
・第1の医用画像群(TMIS)とは別の第2の医用画像群(RMIS)を受信すること;
・第2の医用画像群(RMIS)に含まれた複数のスライス(S-2)から、第1の医用画像群(TMIS)に含まれた撮像データと第2の医用画像群(RMIS)の個々のスライスとの間の画像類似度に基づいて、少なくとも1つの合致スライスを同定すること。
【0513】
S15.S14に係る方法であって、
・第1の医用画像群(TMIS)は、複数のスライス(S-1)を含み、
・少なくとも1つの合致スライスを同定する工程は、
第1の医用画像群(TMIS)の個々のスライス(S-1)と第2の医用画像群(RMIS)の個々のスライス(S-1)との間の画像類似性にそれぞれ基づいている画像類似度を用いて、第1及び第2の医用画像群(TMIS,RMIS)の間のスライス合致を決定するために、第1の医用画像群(TMIS)の複数のスライス(S-1)の各々について、第2の医用画像群(RMIS)の合致スライスを1つ同定すること、を含む。
【0514】
S16.S15に係る方法であって、さらに、
・認定されたスライス合致に基づいて、第1の医用画像群(TMIS)の画像ボリュームと第2の医用画像群(RMIS)それぞれの画像ボリュームとの間の解剖学的オーバーラップを決定すること、
・決定された解剖学的オーバーラップに基づいて、第1の医用画像群(TMIS)に対する第2の医用画像群(RMIS)の比較可能性の程度を評価すること、
・ユーザインターフェースを介してユーザに比較可能性の程度を提供すること、を含む。
【0515】
S17.S15又はS16に係る方法であって、さらに、
・選択されたスライス及び/又は関心領域(ROI)を指定するために、第1の医用画像群(TMIS)のスライスの選択を示すユーザからの入力を受信すること、
・第2の医用画像群(RMIS)の複数のスライス(S-2)から、認定されたスライス合致に基づいて、選択されたスライスに合致するスライス(REF-SLC)を同定すること、
・選択されたスライスに合致するスライス(REF-SLC)を提供すること、を含む。
【0516】
B1.第1の医用画像検査(TS)に保存された医用撮像データ(ID,TMIS,RMIS)によって表される身体領域(408)を決定するコンピュータ実行方法であって、
・第1の医用画像検査(TS)は、医用撮像データ(ID)のコンテンツを示すテキストストリングを含んだ属性値(AV)をそれぞれが有する1つ以上の属性(A)をさらに保存しており、
この方法は:
・第1の医用画像検査(TS)の1つ以上のテキストストリングを取得すること;
・取得された1つ以上のテキストストリングを訓練済み機械学習モデル(406)に入力すること、機械学習モデルは、その1つ以上のテキストストリングの入力に基づいて身体領域を出力するように訓練されており、
・訓練済み機械学習モデルから出力(408)を取得し、これにより、第1の医用画像検査(TS)によって表される身体領域を決定すること、を含む。
【0517】
B2.B1に係る方法であって、
・第1の医用画像検査(TS)に保存された第1の医用撮像データ(ID,TMIS)によって表される第1の身体領域(408)を、複数の第2の医用画像検査(CS)のそれぞれに保存された第2の医用画像データ(ID,CMIS)の複数のセットのそれぞれによって表される複数の第2の身体領域(720)と比較すること、各第2の医用画像検査(CS)は、第2の医用画像検査(CS)に保存された第2の医用撮像データ(ID,CMIS)のコンテンツを示すテキストストリング(716)を含んだ属性値(AV)をそれぞれが有する1つ以上の属性(A)をさらに保存しており、
・身体領域の比較に基づいて、第1の医用画像検査(TS)に関連するとして(すなわち、参照医用画像検査(RS)として)、1つ以上の第2の医用画像検査を選択すること、を含み、
・第1の身体領域は、第1の医用画像検査(TS)の1つ以上のテキストストリングに工程(a)及び(b)を適用することによって決定され、
及び/又は、
・第2の身体領域の少なくとも1つは、少なくとも1つの第2の医用画像検査(CS)のそれぞれの1つ以上のテキストストリングに工程(a)及び(b)を適用することによって決定される。
【0518】
B3.B2に係るコンピュータ実行方法であって、
・第2の医用撮像データの複数のセットが遠隔のストレージデバイスに保存されており、
この方法は、
・選択された第2の医用撮像データ(ID,RMIS)の1つ以上のセット、又は、選択された第2の医用撮像データ(ID,RMIS)の1つ以上のセットを含んだ選択された第2の医用画像検査(RS)を、複数の第2の医用画像検査(CS)の別の検査を検索することなく、遠隔のストレージデバイスから受信すること、を含む。
【0519】
B4.B2又はB3に係る方法であって、
・第1の医用撮像データ(ID,TMIS)のレンダリング及び第2の医用撮像データID,RMIS)の選択された又は検索されたセットの1つ以上のレンダリングをディスプレイデバイスに表示させるために表示データを生成すること、を含む。
【0520】
B5.B2~B4のいずれかに係る方法であって、
・選択された第2の医用画像検査(RS)に含まれた複数の医用画像群(CMIS)の各々について、第1の医用撮像データ(ID,TMIS)の第1の撮像モダリティと第2の医用画像群(CMIS)の第2の撮像モダリティとの間の撮像モダリティ関連性スコアを決定すること、を含み、
・第2の医用画像検査(CS)の1つ以上を選択することは、さらに、決定された撮像モダリティ関連性スコアに基づいて、第1の医用撮像データに関連するとして(すなわち、関連医用画像群として)、複数の第2の医用画像群の少なくとも1つを選択することを含む。
【0521】
B6.B5に係るコンピュータ実行方法であって、
・撮像モダリティ関連性スコアは、撮像モダリティ遷移マトリックスを用いて決定され、
・撮像モダリティ遷移マトリックスの各要素は、医用撮像データとの記録されたユーザ相互作用の統計分析に基づいて決定される、確率をそれぞれ表し、特定の第1の撮像モダリティに結びついた第1の医用撮像データを与えられた場合、ユーザは、第1の医用撮像データと比較するために、特定の第2の撮像モダリティを有する第2の医用撮像データを選択できる。
【0522】
B7.B2~B6のいずれかに係る方法であって、
・第1及び第2の医用画像検査(TS,CS)の各々は、医用画像検査(TS,CS)の医用撮像データをキャプチャするために使用された撮像パラメータを示す属性値を有する1つ以上の属性を保存し、
この方法は、
・選択された第2の医用画像検査(RS)の複数の医用画像群(CMIS)の各々について、第1の医用画像検査(TS)の画像データ(ID,TMIS)をキャプチャするために使用された撮像パラメータを示す1つ以上の属性値に基づいて生成される第1のベクトル(FV)と、選択された第2の医用画像検査(RS)の医用画像群(CMIS)のそれぞれをキャプチャするために使用された撮像パラメータを示す1つ以上の属性値に基づいて生成される第2のベクトル(SV)と、の間の類似性を示す類似性メトリックを決定すること、を含み、
・第2の医用画像検査(CS)の1つ以上を選択することは、さらに、決定された類似性メトリックに基づいて、第1の医用撮像データに関連するとして、複数の第2の医用画像群(CMIS)の少なくとも1つを選択すること、を含む。
【0523】
B8.B1~B7のいずれかに係る方法であって、
・訓練済み機械学習モデルは、訓練済みニューラルネットワークである。
【0524】
B9.B8に係る方法であって、
・訓練済みニューラルネットワークは、取得された1つ以上のテキストストリングの個々の文字を入力として取り込むするように構成された訓練済みキャラクタベース(文字ベース)ニューラルネットワークからなり、
・これにより、取得された1つ以上のテキストストリングを訓練済みニューラルネットワークへ入力することは、取得された1つ以上のテキストストリングの個々の文字を訓練済みキャラクタベースニューラルネットワークへ入力することを含む。
【0525】
B10.B8又はB9に係る方法であって、
・訓練済みニューラルネットワークは、入力された1つ以上のテキストストリングを訓練済みニューラルネットワークのリグレッサー部分が計算した、人体の領域を表す、1つ以上の数値の形態で、身体領域を出力するように構成される。
【0526】
B11.B8~B10のいずれかに係る方法であって、
・ニューラルネットワークは、複数の訓練テキストストリングを含む訓練データセットを用いて訓練されており、
・各訓練テキストストリングは、画像ファイルの属性の属性値からのもので、医用画像検査にさらに保存された医用撮像データのコンテンツを示しており、
・複数の訓練テキストストリングの各々は、訓練テキストストリングの対応する身体領域でラベルを付され、そのラベルは、ニューラルネットワークの訓練において教師あり信号を使用される。
【0527】
B12.B11に係る方法であって、
・訓練データセットは、グラフィカルユーザインターフェース(GUI)を使用して生成されており、
1つ以上の訓練テキストストリングと選択可能な身体領域に分割された人体の表現とをユーザに提示し、
1つ以上の提示された訓練テキストストリングの各々について、前記表現から身体領域を選択するユーザ入力を受信し、
選択された身体領域を示すラベルで、訓練テキストストリングにラベル付けする、ように構成される。
【0528】
B13.B1~B12のいずれかに係る方法であって、
・医用画像検査(TS,CS,RS)又はその各々は、DICOMファイル(300)を含み、
・その医用撮像データのコンテンツを示すテキストストリングを含んだ属性値(AV)を有する1つ以上の属性(A)は、DICOM属性「検査説明」「群説明」及び「検査された身体部分」の1つ以上を含む。
【0529】
有意義であれば、個々の実施形態又はそれらの個々の例及び特徴を、本発明の範囲を限定又は拡大せずとも、互いに組み合わせたり交換したりすることができる。本発明の1つの実施形態に関して説明される利点は、本発明の他の実施形態にも適用可能で有益である。
図1
図2
図3
図4
図5
図6
図7
図8
図9
図10
図11
図12
図13
図14
図15
図16
図17
図18
図19
図20
図21
図22
図23
図24
図25
図26
図27
図28
図29
図30
図31
図32
図33
図34
図35
図36
図37
図38
図39
図40
【国際調査報告】