(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公表特許公報(A)
(11)【公表番号】
(43)【公表日】2024-11-08
(54)【発明の名称】着目物体を相関させるためのシステムおよび方法
(51)【国際特許分類】
A61B 6/00 20240101AFI20241031BHJP
A61B 6/50 20240101ALI20241031BHJP
A61B 6/46 20240101ALI20241031BHJP
G06T 7/00 20170101ALI20241031BHJP
【FI】
A61B6/00 550D
A61B6/50 500E
A61B6/00 560
A61B6/46 506B
G06T7/00 350B
G06T7/00 612
【審査請求】未請求
【予備審査請求】未請求
(21)【出願番号】P 2024531498
(86)(22)【出願日】2022-11-23
(85)【翻訳文提出日】2024-07-03
(86)【国際出願番号】 US2022080432
(87)【国際公開番号】W WO2023097279
(87)【国際公開日】2023-06-01
(32)【優先日】2021-11-29
(33)【優先権主張国・地域又は機関】US
(81)【指定国・地域】
(71)【出願人】
【識別番号】501214292
【氏名又は名称】ホロジック, インコーポレイテッド
【氏名又は名称原語表記】Hologic, Inc.
【住所又は居所原語表記】250 Campus Drive, 01752 Marlborough, MA,United States of America
(74)【代理人】
【識別番号】100078282
【氏名又は名称】山本 秀策
(74)【代理人】
【識別番号】100113413
【氏名又は名称】森下 夏樹
(74)【代理人】
【識別番号】100181674
【氏名又は名称】飯田 貴敏
(74)【代理人】
【識別番号】100181641
【氏名又は名称】石川 大輔
(74)【代理人】
【識別番号】230113332
【氏名又は名称】山本 健策
(72)【発明者】
【氏名】チュイ, ハイリ
(72)【発明者】
【氏名】クシルサガール, アシュウィニ
(72)【発明者】
【氏名】ジャン, シャンウェイ
【テーマコード(参考)】
4C093
5L096
【Fターム(参考)】
4C093AA26
4C093CA18
4C093CA23
4C093DA06
4C093FD03
4C093FF16
4C093FF28
4C093FF37
5L096BA06
5L096BA13
5L096GA30
5L096GA51
5L096JA03
5L096KA04
(57)【要約】
頭尾方向画像と、内外斜位方向画像とを含む、画像対内の領域を相関させる方法。類似性マッチングモデルからのデータが、アンサンブルモデルによって受信され、データは、少なくとも、マッチングされた対の領域と、マッチングされた対の領域と関連付けられる、第1の信頼度レベルインジケータとを含む。幾何学的マッチングモデルからのデータが、アンサンブルモデルによって受信され、幾何学的マッチングモデルからのデータは、少なくとも、マッチングされた対の領域と、第2の信頼度レベルインジケータとを含む。相関の結合確率が、アンサンブルマッチングモデルによる第1および第2の信頼度レベルのそれぞれの評価に基づいて、アンサンブルモデルによって決定され、相関の結合確率は、各画像内の領域が他方の画像内の対応する領域に相関する、確率を提供する。相関の結合確率は、出力デバイスに提供される。
【特許請求の範囲】
【請求項1】
頭尾方向(CC)画像と、内外斜位方向(MLO)画像とを備える画像対内の着目領域(ROI)を相関させる方法であって、前記方法は、
アンサンブルマッチング機械学習(ML)モデルによって、類似性マッチングMLモデルからのデータを受信することであって、前記類似性マッチングMLモデルからのデータは、少なくとも、マッチングされた対のROIと、前記マッチングされた対のROIと関連付けられる第1の信頼度レベルインジケータとを含む、ことと、
前記アンサンブルマッチングMLモデルによって、幾何学的マッチング(GM)モデルからのデータを受信することであって、前記GMモデルからのデータは、少なくとも、前記マッチングされた対のROIと、第2の信頼度レベルインジケータとを含む、ことと、
前記アンサンブルマッチングMLモデルによって、前記アンサンブルマッチングMLモデルによる前記第1および第2の信頼度レベルのそれぞれの評価に基づいて、相関の結合確率を決定することであって、前記相関の結合確率は、前記CC画像内の前記ROIが前記MLO画像内の対応するROIに相関する、その逆も同様である、確率を提供する、ことと、
前記相関の結合確率を出力デバイスに提供することと、
を含む、方法。
【請求項2】
訓練用CC-MLO画像対と関連付けられるデータを受信することと、
前記訓練用CC-MLO画像対と関連付けられるデータを用いて、前記アンサンブルマッチングMLモデルを訓練することと、
をさらに含む、請求項1に記載の方法。
【請求項3】
前記アンサンブルマッチングMLモデルによって、前記第1および第2の信頼度レベルのそれぞれの評価と、前記相関の結合確率とに基づいて、第3の信頼度レベルインジケータを決定することをさらに含み、前記第3の信頼度レベルインジケータは、前記相関の結合確率と関連付けられる信頼性の尤度である、請求項1または2に記載の方法。
【請求項4】
前記結合確率は、前記類似性相関および前記GM相関が前記CC-ROIおよび前記MLO-ROIを適切に相関させる確率である、請求項1-3のいずれかに記載の方法。
【請求項5】
前記相関の結合確率を出力デバイスに提供することは、前記相関の結合確率と関連付けられる数値を含む、請求項1-4のいずれかに記載の方法。
【請求項6】
前記マッチングされた病変対の各画像は、全体的乳房画像である、請求項1-5のいずれかに記載の方法。
【請求項7】
前記マッチングされた病変対の各画像は、前記CC画像および前記MLO画像の各々に対し、前記ROIのみを含有する、請求項1-6のいずれかに記載の方法。
【請求項8】
前記相関の結合確率を出力デバイスに提供することは、数値表示を含む、請求項1-7のいずれかに記載の方法。
【請求項9】
前記相関の結合確率を出力デバイスに提供することは、
一連の前記CC-ROIを受信することと、
前記CC-ROIの選択を受信することに応答して、前記MLO-ROIを提示することと、
を含む、請求項1-8のいずれかに記載の方法。
【請求項10】
前記CC-ROIの選択を受信することに応答して、前記相関の結合確率が所定の閾値を超えることを決定することと、
前記相関の結合確率が所定の閾値を超えることを決定することに応答して、前記MLO-ROIを提示することと
をさらに含む、請求項9に記載の方法。
【請求項11】
前記マッチングされた対のROIは、CC-画像内のCC-ROIとMLO画像内のMLO-ROIとの間の類似性相関を含み、前記第1の信頼度レベルインジケータは、前記CC-ROIと前記MLO-ROIとの間の相関と関連付けられる確率である、請求項1-10のいずれかに記載の方法。
【請求項12】
前記第2の信頼度レベルインジケータは、前記CC-ROIと前記MLO-ROIとの間のGM相関と関連付けられる確率である、請求項1-11のいずれかに記載の方法。
【請求項13】
前記出力ディスプレイ上に、一対の記号を表示することであって、前記一対の記号の各記号は、前記マッチングされた対のROIのうちのROIをマークする、こと
をさらに含む、請求項1-12のいずれかに記載の方法。
【請求項14】
前記GMモデルからのデータは、前記マッチングされた対のROIのうちの各ROIに対し、場所データを備える、請求項1-13のいずれかに記載の方法。
【請求項15】
前記第2の信頼度レベルインジケータは、前記マッチングされた対のROIの第1のROIの第1の場所および前記マッチングされた対のROIの第2のROIの第2の場所が同一場所である確率を示す、請求項14に記載の方法。
【請求項16】
前記CC画像および前記MLO画像はそれぞれ、乳房を描写し、前記GMモデルは、前記乳房を象限に論理的に分割する、請求項14または15に記載の方法。
【請求項17】
前記類似性モデルからのデータは、前記マッチングされた対のROIのうちの各ROIに対し、特性データを備える、請求項1-16のいずれかに記載の方法。
【請求項18】
前記第1の信頼度レベルインジケータは、前記マッチングされた対のROIの第1のROIと関連付けられる特性の第1のセットと、前記マッチングされた対のROIの第2のROIと関連付けられる特性の第2のセットとの間の類似性の程度を示す、請求項17に記載の方法。
【請求項19】
前記特性データは、サイズ、形状、1つまたはそれを上回る周縁、場所、密度、1つまたはそれを上回る色、配向、テクスチャ、パターン、および深度のうちの1つまたはそれを上回るものを含む、請求項17または18に記載の方法。
【請求項20】
頭尾方向(CC)および内外斜位方向(MLO)画像をアンサンブルマッチングさせるためのシステムであって、
少なくとも1つのメモリと通信する少なくとも1つのプロセッサと、
アンサンブルマッチングモジュールであって、前記アンサンブルマッチングモジュールは、前記少なくとも1つのプロセッサ上で実行され、動作の間、
類似性マッチングモデルから、マッチングされたCC-MLO画像対と、前記マッチングされたCC-MLO画像対と関連付けられる類似性信頼度レベルインジケータとを受信することと、
幾何学的マッチング(GM)モデルから、前記マッチングされたCC-MLO画像対と、前記マッチングされたCC-MLO画像対と関連付けられるGM信頼度レベルインジケータとを受信することと、
アンサンブルマッチングモデルを適用し、複数のマッチングされたCC-MLO対上で訓練されたアンサンブル機械学習(ML)アルゴリズムに基づいて、アンサンブル信頼度レベルを決定することと、
前記アンサンブル信頼度レベルと前記マッチングされたCC-MLO画像対を関連付けることと、
前記アンサンブル信頼度レベルを前記マッチングされたCC-MLO画像対とともに出力することと
を行うように構成される、アンサンブルマッチングモジュールと
を備える、システム。
【請求項21】
画像入手モジュールをさらに備える、請求項20に記載のシステム。
【請求項22】
前記マッチングされたCC-MLO画像対は、前記CC画像内で識別された第1の着目領域(ROI)と、前記MLO画像内で識別された第2のROIとを備え、前記類似性MLモデルまたは前記GMモデルのいずれかが、相関を前記第1のROIおよび前記第2のROIに割り当てる、請求項20または21に記載のシステム。
【請求項23】
前記アンサンブルマッチングモジュールはさらに、前記GMモデルから、前記第1のROIと前記第2のROIとの間の相関と関連付けられる場所データを受信する、請求項22に記載のシステム。
【請求項24】
前記アンサンブルマッチングモジュールはさらに、前記類似性MLモデルから、前記第1のROIと前記第2のROIとの間の相関と関連付けられる形状データを受信する、請求項22または23に記載のシステム。
【請求項25】
前記アンサンブルマッチングモジュールはさらに、前記類似性MLモデルから、前記第1のROIと前記第2のROIとの間の相関と関連付けられる周縁データを受信する、請求項22-24のいずれかに記載のシステム。
【請求項26】
前記類似性マッチングモデルは、
画像入手モジュールから受信されるCC-画像内のCC着目領域(ROI)を識別することと、
MLO-ROIに関して前記画像入手モジュールから受信されるMLO画像を検索することであって、前記MLO画像は、複数の領域を含み、前記類似性マッチングモデルは、前記複数の領域の各領域を精査する、ことと、
前記CC-ROIおよび前記MLO-ROIのそれぞれの少なくとも1つの類似性特性を決定することと、
前記少なくとも1つの類似性特性に基づいて、前記CC-ROIおよび前記MLO-ROIを相関させることと
によって、前記マッチングされたCC-MLO画像対を決定する、請求項22-25のいずれかに記載のシステム。
【発明の詳細な説明】
【技術分野】
【0001】
(関連出願の相互参照)
本願は、PCT国際特許出願として、2022年11月23日に出願されており、参照することによってその全体として本明細書に組み込まれる、2021年11月29日に出願された、米国仮出願第63/283,866号の優先権および利益を主張する。
【背景技術】
【0002】
医療撮像は、患者の内部構造を可視化するための非侵襲性方法を提供する。可視化方法は、患者内の癌および他の病気を検診および診断するために使用されることができる。例えば、早期検診は、治療が疾患内の初期病期において生じ得るように、癌性である場合がある、乳房内の病変を検出することができる。
【0003】
マンモグラフィは、X線放射を利用して、乳房組織を可視化する、医療撮像の形態である。これらの技法は、多くの場合、潜在的癌性病変および他の異常に関して、患者を検診するために使用される。従来のマンモグラムは、乳房の2次元(2D)画像を種々の角度から入手することを伴う。頭側尾側(CC)画像は、X線放射を用いて捕捉される、標準的画像タイプのうちの1つである。CC画像は、上方からの乳房の可視化である(例えば、乳房の上部からの像)。別の標準的画像タイプは、乳房を側方からある角度で撮像する、内外斜位方向(MLO)画像である。概して、MLO画像は、ある角度で、または40~60度の角度で、捕捉される。CC画像内およびMLO画像内の情報をともに精査および検討することは、乳房撮像の診断力を増加させることができる。トモシンセシスは、マンモグラムを撮影する別の方法であって、複数の画像が、入手される。各画像は、個別の厚さで入手され、画像は、多数の角度で撮影される。
【0004】
本背景に対して、本開示は、成される。
【発明の概要】
【課題を解決するための手段】
【0005】
一側面では、本開示は、頭尾方向(CC)画像と、内外斜位方向(MLO)画像とを含む、画像対内の着目領域(ROI)を相関させる方法に関し、本方法は、アンサンブルマッチング機械学習(ML)モデルによって、類似性マッチングMLモデルからのデータを受信することであって、類似性マッチングMLモデルからのデータは、少なくとも、マッチングされた対のROIと、マッチングされた対のROIと関連付けられる、第1の信頼度レベルインジケータとを含む、ことと、アンサンブルマッチングMLモデルによって、幾何学的マッチング(GM)モデルからのデータを受信することであって、GMモデルからのデータは、少なくとも、マッチングされた対のROIと、第2の信頼度レベルインジケータとを含む、ことと、アンサンブルマッチングMLモデルによって、アンサンブルマッチングMLモデルによる第1および第2の信頼度レベルのそれぞれの評価に基づいて、相関の結合確率を決定することであって、相関の結合確率は、CC画像内のROIがMLO画像内の対応するROIに相関する、その逆も同様である、確率を提供する、ことと、相関の結合確率を出力デバイスに提供することとを含む。ある実施例では、本方法はさらに、訓練用CC-MLO画像対と関連付けられる、データを受信することと、訓練用CC-MLO画像対と関連付けられる、データを用いて、アンサンブルマッチングMLモデルを訓練することとを含む。
【0006】
上記の側面の別の実施例では、本方法はさらに、アンサンブルマッチングMLモデルによって、第1および第2の信頼度レベルのそれぞれの評価と、相関の結合確率とに基づいて、第3の信頼度レベルインジケータを決定することを含み、第3の信頼度レベルインジケータは、相関の結合確率と関連付けられる、信頼性の尤度である。別の実施例では、結合確率は、類似性相関およびGM相関がCC-ROIおよびMLO-ROIを適切に相関させる、確率である。なおも別の実施例では、相関の結合確率を出力デバイスに提供することは、相関の結合確率と関連付けられる、数値を含む。
【0007】
別の実施例では、マッチングされた病変対の各画像は、全体的乳房画像である。さらに別の実施例では、マッチングされた病変対の各画像は、CC画像およびMLO画像の各々に対し、ROIのみを含有する。なおも別の実施例では、相関の結合確率を出力デバイスに提供することは、数値表示を含む。上記の側面の別の実施例では、相関の結合確率を出力デバイスに提供することは、一連のCC-ROIを受信することと、CC-ROIの選択を受信することに応答して、MLO-ROIを提示することとを含む。さらなる実施例では、本方法はさらに、CC-ROIの選択を受信することに応答して、相関の結合確率が所定の閾値を超えることを決定することと、相関の結合確率が所定の閾値を超えることを決定することに応答して、MLO-ROIを提示することとを含む。
【0008】
上記の側面の別の実施例では、マッチングされた対のROIは、CC-画像内のCC-ROIとMLO画像内のMLO-ROIとの間の類似性相関を含み、第1の信頼度レベルインジケータは、CC-ROIとMLO-ROIとの間の相関と関連付けられる、確率である。別の実施例では、第2の信頼度レベルインジケータは、CC-ROIとMLO-ROIとの間のGM相関と関連付けられる、確率である。なおも別の実施例では、本方法はさらに、出力ディスプレイ上に、一対の記号を表示することであって、一対の記号の各記号は、マッチングされた対のROIのうちのROIをマークする、ことを含む。別の実施例では、GMモデルからのデータは、マッチングされた対のROIのうちのROIの各々に対し、場所データを備える。さらなる実施例では、第2の信頼度レベルインジケータは、マッチングされた対のROIの第1のROIの第1の場所およびマッチングされた対のROIの第2のROIの第2の場所が同一場所である、確率を示す。なおもさらなる実施例では、CC画像およびMLO画像はそれぞれ、乳房を描写し、GMモデルは、乳房を象限に論理的に分割する。
【0009】
上記の側面の別の実施例では、類似性モデルからのデータは、マッチングされた対のROIのうちのROIの各々に対し、特性データを備える。別の実施例では、第1の信頼度レベルインジケータは、マッチングされた対のROIの第1のROIと関連付けられる、特性の第1のセットと、マッチングされた対のROIの第2のROIと関連付けられる、特性の第2のセットとの間の類似性の程度を示す。さらなる実施例では、特性データは、サイズ、形状、1つまたはそれを上回る周縁、場所、密度、1つまたはそれを上回る色、配向、テクスチャ、パターン、および深度のうちの1つまたはそれを上回るものを含む。
【0010】
別の側面では、本開示は、頭尾方向(CC)および内外斜位方向(MLO)画像をアンサンブルマッチングさせるためのシステムに関し、本システムは、少なくとも1つのメモリと通信する、少なくとも1つのプロセッサと、少なくとも1つのプロセッサ上で実行され、動作の間、類似性マッチングモデルから、マッチングされたCC-MLO画像対と、マッチングされたCC-MLO画像対と関連付けられる、類似性信頼度レベルインジケータとを受信し、幾何学的マッチング(GM)モデルから、マッチングされたCC-MLO画像対と、マッチングされたCC-MLO画像対と関連付けられる、GM信頼度レベルインジケータとを受信し、アンサンブルマッチングモデルを適用し、複数のマッチングされたCC-MLO対上で訓練されたアンサンブル機械学習(ML)アルゴリズムに基づいて、アンサンブル信頼度レベルを決定し、アンサンブル信頼度レベルとマッチングされたCC-MLO画像対を関連付け、アンサンブル信頼度レベルをマッチングされたCC-MLO画像対とともに出力するように構成される、アンサンブルマッチングモジュールとを含む。本側面のある実施例では、本システムはさらに、画像入手モジュールを含む。
【0011】
上記の側面の別の実施例では、マッチングされたCC-MLO画像対は、CC画像内で識別された第1の着目領域(ROI)と、MLO画像内で識別された第2のROIとを備え、類似性MLモデルまたはGMモデルのいずれかが、相関を第1のROIおよび第2のROIに割り当てる。さらなる実施例では、アンサンブルマッチングモジュールはさらに、GMモデルから、第1のROIと第2のROIとの間の相関と関連付けられる、場所データを受信する。別のさらなる実施例では、アンサンブルマッチングモジュールはさらに、類似性MLモデルから、第1のROIと第2のROIとの間の相関と関連付けられる、形状データを受信する。なおもさらなる実施例では、アンサンブルマッチングモジュールはさらに、類似性MLモデルから、第1のROIと第2のROIとの間の相関と関連付けられる、周縁データを受信する。なおもさらなる実施例では、類似性マッチングモデルは、画像入手モジュールから受信されるCC-画像内のCC着目領域(ROI)を識別することと、MLO-ROIに関して画像入手モジュールから受信されるMLO画像を検索することであって、MLO画像は、複数の領域を含み、類似性マッチングモデルは、複数の領域の各領域を精査する、ことと、CC-ROIおよびMLO-ROIのそれぞれの少なくとも1つの類似性特性を決定することと、少なくとも1つの類似性特性に基づいて、CC-ROIおよびMLO-ROIを相関させることとによって、マッチングされたCC-MLO画像対を決定する。
【図面の簡単な説明】
【0012】
【
図1】
図1は、乳房内の着目領域を検出するための例示的システムを図示する。
【0013】
【
図2】
図2は、例示的X線撮像システムを図示する。
【0014】
【0015】
【
図4】
図4は、左内外斜位方向(LMLO)撮像配向のための乳房位置付け状態における
図2のX線撮像システムを図示する。
【0016】
【
図5】
図5は、CC画像内の乳首と病変との間の距離を使用する、幾何学的マッチングのための技法を図示する。
【0017】
【
図6】
図6は、幾何学的マッチングMLモデルによって使用され得る、象限技法を図示する。
【0018】
【
図7】
図7A-7Cは、軟組織病変を示す、CC-MLO画像対を図示する。
【0019】
【
図8】
図8A-8Cは、石灰化クラスタを示す、CC-MLO画像対を図示する。
【0020】
【
図9】
図9は、CC-MLO画像対を処理するためのプロセスフローを図示する。
【0021】
【
図10】
図10は、CC画像内の第1の病変をMLO画像内の第2の病変に相関させる方法のフローチャートを図示する。
【0022】
【
図11】
図11は、CC画像内の第1の病変をMLO画像内の第2の病変に相関させる別の方法のフローチャートを図示する。
【0023】
【
図12】
図12は、CC画像内の第1の病変をMLO画像内の第2の病変に相関させるアンサンブル方法のフローチャートを図示する。
【0024】
【
図13】
図13は、アンサンブルマッチング機械学習(ML)モデルを訓練する方法のフローチャートを図示する。
【0025】
【
図14】
図14は、本開示の1つまたはそれを上回る側面を実装するために使用可能である、コンピューティングシステムの例示的物理的構成要素のブロック図を図示する。
【発明を実施するための形態】
【0026】
詳細な説明
本開示は、撮像デバイスを使用して、乳房組織内の病変を位置特定するためのシステムおよび方法を対象とする。特に、コンピューティングシステムは、機械学習(ML)モデルまたは人工知能(AI)モデルを利用して、第1の画像タイプの画像内の第1の病変までナビゲートし、第2の画像タイプの画像内の第2の病変までナビゲートし、第1の病変および第2の病変を相関させる。第1の病変および第2の病変を相関させる際、コンピューティングシステムは、第1の病変および第2の病変が乳房の組織内の同一物体であることを決定する。一実施形態では、第1の画像タイプは、頭尾方向(CC)画像であって、第2の画像タイプは、内外斜位方向(MLO)画像である。本明細書に議論されるように、画像タイプは、他の特徴、例えば、それを用いて画像が撮影される、モダリティに加え、そこから画像が撮影される、像視点を指す。用語「病変」は、腫瘤、1つまたはそれを上回る石灰化、および他の疑わしいエリア等の任意の着目物体を指す。
【0027】
実施例では、本開示を具現化するシステムおよび方法は、第1の画像タイプの画像内の第1の着目領域(ROI)を識別し、第2の画像タイプの画像内の第2のROIを識別し、第1のROIを第2のROIに相関させる。ROIは、1つまたはそれを上回る病変を含有してもよい。第1の画像タイプの画像は、複数の病変を含んでもよい。同様に、第2の画像タイプの画像も、複数の病変を含んでもよい。本明細書により詳細に議論される実施例は、主に、マンモグラムを対象とするが、本開示の原理は、トモシンセシス、超音波、および磁気共鳴画像法等の他の形態の乳房撮像、および身体の他の構造上の医療撮像の使用にも適用可能であることが、当業者によって理解されるであろう。
【0028】
概して、コンピューティングシステムは、第1の画像タイプの画像内の第1の病変および第2の画像タイプの画像内の第2の病変を相関させ、信頼度レベルインジケータを提供するように動作する。相関は、本システムによる、第1および第2の病変がそれぞれ乳房内の同一物体を表すことの決定である。信頼度レベルインジケータは、第1の病変と第2の病変との間の相関の信頼度のレベルを示す。信頼度レベルインジケータは、第1および第2の病変が乳房内の同一物体を表すことの決定が確実に決定されたことの尤度を表す。コンピューティングシステムは、1つまたはそれを上回るMLモデルを使用して、第1の画像タイプの画像および第2の画像タイプの画像を分析し、第1の画像タイプの画像内の第1の病変が第2の画像タイプの画像内の第2の病変と相関するかどうかを決定する。信頼度レベルインジケータはまた、概して、信頼度スコアとして理解されてもよい。
【0029】
ある例示的実装では、信頼度レベルインジケータは、ディスプレイ上に提示される。信頼度レベルインジケータは、放射線科医に提供され、放射線科医が、第1の画像タイプ内の第1の病変が第2の画像タイプの第2の病変と相関されるかどうかを決定することを補助する。本システムが、第1の画像タイプ内の第1の病変が第2の画像タイプ内の第2の病変と相関されることを決定すると、これは、第1および第2の病変が患者の乳房内の同一物体の異なる像であることを示す。いくつかの実施例では、類似性マッチングMLモデル、幾何学的マッチングMLモデル、およびアンサンブルマッチングMLモデルのうちの1つまたはそれを上回るものが、使用される。
【0030】
図1は、1つまたはそれを上回るタイプの撮像を使用して、乳房内の病変を位置特定するための、かつ第1の画像タイプ内の第1の病変と第2の画像タイプの第2の病変を相関させるための、例示的識別システム100を図示する。識別システム100は、コンピューティングシステム102と、X線撮像システム104とを含む。いくつかの実施例では、識別システム100は、病変が最初に識別されたとき、X線撮像手技の間に収集されたデータに基づいて、放射線科医を乳房内の病変まで誘導するように動作する。いくつかの実施例では、識別システム100は、信頼度レベルインジケータを放射線科医に提供し、放射線科医が、第1の画像タイプの画像内で可視の第1の病変が第2の画像タイプの画像内で識別された第2の病変と相関されることを確認することを補助する。実施形態では、信頼度レベルインジケータは、ディスプレイ上に提示される。
【0031】
X線撮像システム104は、X線放射を使用して、乳房組織の画像を撮影するように動作する。X線撮像システム104は、X線撮像デバイス124と、X線撮像デバイス124と通信する、X線コンピューティングデバイス112とを含む。X線撮像デバイス124は、
図2-4に関連してさらに詳細に説明される。X線コンピューティングデバイス112は、放射線科医(R)からの入力を受信し、X線撮像デバイス124を動作させ、X線撮像デバイス124から受信される画像を視認するように動作する。
【0032】
放射線科医Rは、X線コンピューティングデバイス112を動作させ、X線撮像デバイス124を使用して、患者(P)の乳房のX線画像を捕捉する。X線画像は、典型的には、各乳房に対するCCおよびMLO画像(LMLO、RMLOおよびRCC、LCC)およびその他を含む。X線画像は、定期的健康検診の一部として、または診断検査の一部として、撮影されてもよい。
【0033】
各画像タイプ(CC、MLO等)に対し、画像は、異なる角度および厚さにおける複数の投影(Tp)として入手されてもよい。複数の画像は、処理または再構成され、複数の再構成された画像またはスライス(Tr)を生成してもよい。複数のTr画像は、最も関連する臨床情報と、ROI場所とを示す、単一の合成された画像(Ms)に合成されてもよい。合成された画像Ms内のピクセルはそれぞれ、Tr画像またはスライスにマッピングされてもよい。CC画像およびMLO画像はそれぞれ、1つまたはそれを上回るトモシンセシス画像スライスまたはTr画像であってもよい。実施形態では、CC画像およびMLO画像のうちの1つまたはそれを上回るものは、Tp投影画像であってもよい。
【0034】
実施形態では、Ms、Tr、およびTp画像はそれぞれ、データ記憶装置内に記憶されてもよく、放射線科医によって、精査のために読み出されることができる。画像は、次いで、病変が潜在的に癌性であって、生検を要求するかどうかを決定するために付加的分析を要求し得る、患者Pの乳房内の1つまたはそれを上回る病変を再識別する、放射線科医Rに提示される。
【0035】
コンピューティングシステム102は、X線撮像システム104から受信される情報を処理および記憶するように動作する。
図1の実施例では、コンピューティングシステム102は、マッチングエンジン106と、データ記憶装置108とを含む。いくつかの実施例では、マッチングエンジン106およびデータ記憶装置108は、コンピューティングシステム102のメモリ(例えば、
図14におけるメモリ1408)内に格納される。いくつかの実施例では、コンピューティングシステム102は、クラウドコンピューティング環境等の遠隔コンピューティングシステム110から、マッチングエンジン106およびデータ記憶装置108にアクセスする。
図1は、コンピューティングシステム102を識別システム100の他の構成要素から独立しているものとして示すが、コンピューティングシステム102はまた、X線コンピューティングデバイス112または患者管理において利用される別のコンピューティングデバイスの中に組み込まれてもよい。いくつかの実施例では、コンピューティングシステム102は、2つまたはそれを上回るコンピューティングデバイスを含む。
【0036】
放射線科医Rは、典型的には、各乳房に対し、複数のCCトモシンセシス画像および複数のMLOトモシンセシス画像を精査するであろう。特に、放射線科医は、複数の画像を視覚的に精査し、CC画像のうちの1つ内の着目領域を位置特定し、対応するMLO画像のうちの1つ内の類似領域を見出すことを試みるであろう。しかしながら、本プロセスは、異なるタイプの画像を横断して関連アーチファクトを見出し得る、公知の技術が存在しないため、不完全かつ人為的過誤を被る。
【0037】
マッチングエンジン106は、異なるタイプの画像を分析し、第1の画像タイプの第1の画像内の第1の病変が第2の画像タイプの第2の画像内の第2の病変と同一物体であるかどうかを決定するようにプログラムされる。マッチングエンジン106は、1つまたはそれを上回る機械学習(ML)モジュール116、118、120を含む。マッチングエンジン106は、
図14における処理デバイス1402等のコンピュータシステム102内のプロセッサ上で動作する、論理またはプログラミングを表す。実施形態では、マッチングエンジンはさらに、相関評価器122を含む。
【0038】
図1の実施例では、訓練データ記憶装置114は、MLモデル116、118、120を訓練するために利用される。訓練データ記憶装置114は、第1および第2の画像タイプの画像内の相関された第1および第2の病変の複数の訓練症例を記憶し、第1および第2の病変は、マッチングエンジンによって、または人間によって、相関されている。実施形態では、訓練データ記憶装置114内に記憶される、訓練症例はそれぞれ、第1の画像タイプおよび第2の画像タイプの少なくとも一対の画像(単に、「画像対」とも称される)を含む。訓練画像対内の各画像は、ROI、確認された病変、または潜在的病変のうちの1つまたはそれを上回るものを含有する。訓練画像対内の第1の画像内の第1の病変は、訓練画像対の第2の画像内の第2の病変に相関される。第1の画像は、第1の画像タイプであって、第2の画像は、第2の画像タイプである。記憶される訓練症例は、正しく相関された病変を伴う、訓練画像対を含み、実施形態ではまた、誤って相関された病変を伴う、訓練画像対を含む。
【0039】
コンピュータシステム102は、訓練データ記憶装置114内に記憶される訓練症例を使用して、MLモデル116、118、および120を訓練し、第1および第2の画像タイプの画像内の第1および第2の病変を相関させるために使用され得る、特徴を識別する。一実施形態では、各MLモデル116、118、120は、機械学習分類子である。いったん訓練されると、MLモデル116、118、および120は、マッチングエンジン106によって、異なるタイプの画像内の病変を相関させるために使用されることができる。
【0040】
種々の機械学習技法が、病変分類子として使用されるための機械学習分類子を発生させるために利用されることができる。いくつかの実施例では、機械学習モデルは、教師あり機械学習モデルである。他の実施例では、機械学習モデルのうちの1つまたはそれを上回るものは、教師なし機械学習モデルである。いくつかの実施例では、機械学習モデルは、人工ニューラルネットワークに基づく。いくつかの実施例では、ニューラルネットワークは、深層ニューラルネットワーク(DNN)である。いくつかの実施例では、機械学習モデルは、畳み込み深層ニューラルネットワーク(CNN)である。いくつかの実施例では、2つまたはそれを上回るネットワークのアンサンブルまたは組み合わせが、画像分類子のうちの1つまたはそれを上回るものを発生させるために利用される。いくつかの実施例では、2つまたはそれを上回る機械学習モデルが、特徴または特徴セットを訓練データ記憶装置114内の訓練画像対から発生させるために利用される。
【0041】
結果として生じる訓練された機械学習分類子である、MLモデル116、118、120は、相関評価器122によって適用される。相関評価器122は、第1のタイプの画像(例えば、CC画像)と、第2のタイプの画像(例えば、MLO画像)とを含む、画像対(例えば、CC-MLO画像対)を比較し、MLモデル116、118、120のうちの1つまたはそれを上回るものをCC-MLO画像対に適用し、画像対のCC画像内の第1の病変が画像対のMLO画像内の第2の病変に相関するかどうかを決定する。相関評価器122は、CC画像内で識別された第1の病変が、MLモデル116、118、120に基づいて、MLO画像内で識別された第2の病変と同一物体であると決定されると、第1および第2の病変が相関されることを決定する。相関評価器122は、相関における信頼度のレベルを示す、信頼度レベルインジケータを決定および出力する。実施形態では、相関評価器122は、不在であって、信頼度レベルインジケータは、相関評価器122を用いずに、MLモデル116、118、120のうちの1つまたはそれを上回るものの適用を通して、マッチングエンジン106によって決定される。
【0042】
一実施例では、信頼度レベルインジケータは、数値である。別の実施例では、信頼度レベルインジケータは、「高」、「中」、または「低」等の信頼度のカテゴリを示してもよい。代替実施例では、信頼度レベルインジケータは、「99%」、「75%」、または「44%」等のパーセンテージとして提供される。実施例では、信頼度レベルインジケータは、相関が第1および第2の病変が同一物体であることを正しく決定していることの尤度を示す。
【0043】
実施形態では、信頼度レベルインジケータは、2つの部分、すなわち、相関における信頼度のレベルを示す、第1の信頼度レベルインジケータと、第1の信頼度レベルインジケータの計算における信頼度のレベルを示す、第2の信頼度レベルインジケータとを含む。例えば、本開示を具現化するシステムは、第1の画像タイプの画像内の第1の病変が第2の画像タイプの画像内の第2の病変と相関されることを決定する。本システムは、第1の病変と第2の病変との間の相関が正確である、確率である、第1の信頼度レベルインジケータを計算する。本システムはまた、第1の信頼度レベルインジケータが適切に計算されたことのレベル信頼度を示す、第2の信頼度レベルインジケータを決定する。本実施例では、第1の信頼度レベルインジケータは、第1の病変と第2の病変との間の相関の査定である一方、第2の信頼度レベルインジケータは、第1の信頼度レベルインジケータを生成する計算の査定である。
【0044】
コンピューティングシステム102のディスプレイ上に提示される、グラフィカルユーザインターフェース(GUI)は、情報を放射線科医または他の臨床医に提示するように動作する。いくつかの実施例では、GUIは、放射線科医によって精査されている1つまたはそれを上回る画像対上にオーバーレイされる、信頼度レベルインジケータを表示する。例えば、GUIは、並置して表示される、CC画像およびMLO画像を提示し、信頼度レベルインジケータが、画像対にオーバーレイし、CC画像内で識別された第1の病変がMLO画像内で識別された第2の病変と同一物体である、信頼度のレベルを示す。別の実施例では、放射線科医が、CC画像内の着目領域を示し、それに応答して、CC画像内の着目領域との相関の最高信頼度レベルを伴う、着目領域を有する、対応するMLO画像が、ディスプレイ上にもたらされる。実施形態では、対応するMLO画像は、インジケータを有する、または相関される着目領域まで拡大される。
【0045】
加えて、または代替として、表示される情報は、信頼度レベルインジケータの値に関する根拠または理由、またはマッチングエンジン106が信頼度レベルインジケータに関する特定の値を決定した理由を示す論理等のデータを含んでもよい。例えば、幾何学的マッチングモデル118からの座標場所データまたは類似性マッチングモデル116からの共有形状特性データが、表示されてもよい。実施形態では、信頼度レベルインジケータは、合成またはMs画像上に表示されてもよい。加えて、GUIは、文字または他の記号印を表示し、CC画像内の第1の病変がMLO画像内の第2の病変に相関することを示してもよい。例えば、CC画像内の第1の病変およびMLO画像内の相関される第2の病変は、「A」として標識される。複数の着目領域が、画像対内に現れる場合、複数の文字または標識が、使用されてもよい。実施形態では、文字または他の記号印が、信頼度レベルインジケータに加え、表示される。
【0046】
データ記憶装置108は、X線撮像システム104およびマッチングエンジン106から受信される情報を記憶するように動作する。いくつかの実施例では、データ記憶装置108は、実際には、2つまたはそれを上回る別個のデータ記憶装置である。例えば、1つのデータ記憶装置は、X線撮像システム104等の1つまたはそれを上回るX線撮像システムからの画像を記憶する、遠隔データ記憶装置であり得る。別のデータ記憶装置は、コンピューティングシステム102内にローカルで格納され得る。いくつかの実施例では、データ記憶装置108は、電子医療記録(EMR)システムの一部であってもよい。
【0047】
図2は、
図1に示される、X線撮像システムの実施例を図示する。
図3は、
図1のX線撮像システムの斜視図を図示する。
図2および3を並行して参照すると、X線撮像システム104は、静的乳房支持プラットフォーム206と、移動可能圧縮パドル208とを含む、乳房圧縮イモビライザユニット204を介して、X線撮像のために、患者の乳房202を不動化する。乳房支持プラットフォーム206および圧縮パドル208はそれぞれ、相互に向かって移動させ、乳房202を圧縮および不動化する、それぞれ、圧縮表面210および212を有する。いくつかのシステムでは、圧縮表面210、212は、直接、乳房202に接触するように、暴露される。乳房支持プラットフォーム206はまた、受像機216と、随意に、傾斜機構218と、随意に、散乱防止グリッド(図示せず)とを格納する。乳房圧縮イモビライザユニット204は、撮像ビーム220が受像機216上に衝突するように、X線源222から発出する、撮像ビーム220の経路内にある。
【0048】
乳房圧縮イモビライザユニット204は、第1の支持アーム224上に支持され、X線源222は、第2の支持アーム226上に支持される。マンモグラフィのために、第1および第2の支持アーム224、226は、X線撮像システム104がマンモグラム投影画像(X線画像)を各配向において撮影し得るように、CCおよびMLO等の異なる撮像配向間の軸228を中心として、ユニットとして回転することができる。動作時、受像機216は、画像が撮影される間、乳房支持プラットフォーム206に対して定位置に残る。乳房圧縮イモビライザユニット204は、異なる撮像配向に対する第1および第2の支持アーム224、226の移動のために、乳房202を解放する。トモシンセシスのために、第1の支持アーム224は、乳房202が不動化され、定位置に残っている状態で、定位置に留まる一方、少なくとも、第2の支持アーム226は、X線源222を乳房圧縮イモビライザユニット204および圧縮される乳房202に対して軸228を中心として回転させる。X線撮像システム104は、乳房202の複数のトモシンセシス投影画像を乳房202に対して撮像ビーム220の個別の角度で撮影する。
【0049】
並行して、随意に、受像機216は、乳房支持プラットフォーム206に対して、第2の支持アーム226の回転と同期して、傾斜されてもよい。傾斜は、X線源222の回転と同一角度を通ることができるが、また、撮像ビーム220が、複数の画像の各々に対し、受像機216上の実質的に同一位置に残るように選択される、異なる角度を通してもよい。傾斜は、軸230を中心とすることができ、これは、受像機216の像面内にあり得るが、そうである必要はない。受像機216に結合される、傾斜機構218は、傾斜運動において、受像機216を駆動することができる。
【0050】
X線撮像システム104が、動作されると、受像機216は、撮像ビーム220による照明に応答して、撮像情報を生成し、乳房X線画像を処理および発生させるために、それを画像プロセッサ232に供給する。ソフトウェアを含む、システム制御およびワークステーションユニット238が、本システムの動作を制御し、オペレータと相互作用し、コマンドを受信し、処理された光線画像を含む、情報を送達する。
【0051】
図4は、左MLO(LMLO)撮像配向のための乳房位置付け状態における、
図1に示される、X線撮像システムを図示する。X線撮像システム104の管ヘッド258は、X線撮像システム104のガントリ256と略平行である、または別様に、それに対して乳房が設置される、支持アーム260の平坦部分に対して法線ではないような配向に設定される。本位置では、技術者は、管ヘッド258の下方にかがむまたはしゃがむ必要なく、乳房をより容易に位置付け得る。
【0052】
X線撮像システム104は、X線撮像システム104を床上に支持するために、床搭載部または基部254を含む。ガントリ256は、床搭載部252から上向きに延在し、管ヘッド258および支持アーム260の両方を回転可能に支持する。管ヘッド258および支持アーム260は、離散的に相互に回転するように構成され、また、異なる身長の患者に適応するように、ガントリの面262に沿って上昇および降下されてもよい。本明細書のいずれかの場所に、説明され、ここでは示されない、X線源は、管ヘッド258内に配置される。支持アーム260は、その中にX線受像機と、他の構成要素(図示せず)とを含む、支持プラットフォーム264を含む。圧縮アーム266が、支持アーム260から延在し、撮像手技の間、患者乳房の圧縮のために、(支持アーム260に対して)圧縮パドル268を線形に上昇および降下させるように構成される。ともに、管ヘッド258および支持アーム260は、Cアームと称され得る。
【0053】
いくつかのインターフェースおよびディスプレイ画面が、X線撮像システム104上に配置される。これらは、フットディスプレイ画面270と、ガントリインターフェース272と、支持アームインターフェース274と、圧縮アームインターフェース276とを含む。一般に、種々のインターフェース272、274、および276は、1つまたはそれを上回る触覚ボタン、ノブ、スイッチ、およびユーザがX線撮像システム104との相互作用およびその制御を可能にするように、グラフィックユーザインターフェース(GUI)を伴う、容量タッチスクリーンを含む、1つまたはそれを上回るディスプレイ画面を含んでもよい。実施例では、インターフェース272、274、276は、
図1のX線コンピューティングデバイス112等のシステム制御およびワークステーション上でもまた利用可能であり得る、制御機能性を含んでもよい。任意の個々のインターフェース272、274、276は、少なくとも部分的に、所定の設定、ユーザ選好、または動作要件に基づいて、継続的または選択的にのいずれかにおいて、他のインターフェース272、274、276上で利用可能な機能性を含んでもよい。一般に、下記に説明されるように、フットディスプレイ画面270は、主に、ディスプレイ画面であるが、容量タッチスクリーンは、要求または所望される場合、利用される場合がある。
【0054】
実施例では、ガントリインターフェース272は、撮像配向の選択、患者情報の表示、支持アーム高度または支持アーム角度(傾斜または回転)の調節、安全性特徴等の機能性を可能にし得る。実施例では、支持アームインターフェース274は、支持アーム高度または支持アーム角度(傾斜または回転)の調節、圧縮アーム高度の調節、安全性特徴等の機能性を可能にし得る。実施例では、圧縮アームインターフェース276は、圧縮アーム高度の調節、安全性特徴等の機能性を可能にし得る。さらに、圧縮アームインターフェース276と関連付けられる、1つまたはそれを上回るディスプレイは、印加される圧縮アーム力、選択された撮像配向、患者情報、支持アーム高度または角度設定等のより詳細な情報を表示してもよい。フットディスプレイ画面270はまた、特定の用途のための要求または所望に応じて、圧縮アームインターフェース276のディスプレイによって表示されるような情報または付加的または異なる情報を表示してもよい。
【0055】
前述で説明されるように、例えば、X線撮像システム104によって撮影されたCC-MLO画像対は、分析され、CC画像内の第1の病変とMLO画像内の第2の病変との間の相関を決定する。CC-MLO画像対は、1つまたはそれを上回るMLモデルを使用して、マッチングエンジンによって分析される。機械学習モデルは、類似性マッチングMLモデル、幾何学的マッチングMLモデル、およびアンサンブルMLマッチングモデル(例えば、
図1におけるMLモデル116、118、120)のうちの1つまたはそれを上回るものを含む。
【0056】
類似性マッチングMLモデルを適用するとき、マッチングエンジンは、第1および第2の病変を比較し、外観または場所において、第1および第2の病変が相互に類似する程度を表す、信頼度レベルインジケータを決定する。類似性マッチングMLモデルは、形状、周縁、近接度、または画像内の解剖学的目印または他の顕著な特徴に対する関係等の要因または特徴に基づいて、2つまたはそれを上回る病変の類似性を決定するための基準を提供する。類似性マッチングMLモデルは、ニューラルネットワークであってもよく、実施形態では、特徴ベースのネットワークである。ニューラルネットワークは、全結合ネットワークであってもよい。実施例では、類似性マッチングMLモデルは、深層畳み込みネットワーク等の深層学習ニューラルネットワークである。
【0057】
幾何学的マッチングMLモデルを適用するとき、マッチングエンジンは、第1の病変が第2の病変と同一物体であるかどうかを決定するための1つまたはそれを上回る基準に基づいて、第1の画像(例えば、CC画像)および第2の画像(例えば、MLO画像)のそれぞれ内の第1および第2の病変をマッピングする。一実施形態では、基準は、病変と1つまたはそれを上回る識別可能物理的または解剖学的目印との間の距離を含む。解剖学的目印は、限定ではないが、乳首、胸壁、および胸筋を含む。実施形態では、基準は、病変が撮像されている画像または体積(例えば、乳房)内の特定の象限内に位置する、確率を含む。幾何学的マッチングMLモデルは、ニューラルネットワークまたは他のMLモデルであってもよい。実施形態では、幾何学的マッチングモデルは、ルールベースのAIである。
【0058】
アンサンブルマッチングモデルを適用するとき、マッチングエンジンは、類似性マッチングモデル116および幾何学的マッチングモデル118等の本システム内の他のモデルから受信される、相関データを比較し、相関の結合確率を決定および出力する。実施例では、アンサンブルマッチングモデルは、特徴ベースのニューラルネットワークであってもよい。アンサンブルマッチングモデルは、異なる画像タイプ内の病変に関連する特徴だけではなく、本システム内の他のマッチングモデルから受信されるデータに関連する特徴も発生させてもよい。例えば、他のMLモデルによって生成されたデータまたは信頼度レベルインジケータが、アンサンブルマッチングモデル内の特徴であってもよい。
【0059】
図5は、画像対内の乳首と第1または第2の病変との間の距離を使用する、幾何学的マッチングのための技法を図示する。一実施形態では、右乳房のCC画像(RCC)内の第1の病変500が、識別される。幾何学的マッチングMLモデルが、右乳房のMLO画像(RMLO)内の第2の病変502の場所を見出すために適用される。幾何学的マッチングMLモデルは、第1の病変500から乳首504までの距離(d)を計算するために使用される。弧が、距離(d)に等しい半径を有するように、RMLO画像上に重畳される。いったん第2の病変502が、RMLO画像内で識別されると、幾何学的マッチングMLモデルが、RMLO画像内の第2の病変502がRCC画像内の第1の病変500と同一物体であることの信頼度レベルインジケータ(例えば、確率)を決定するために適用される。他の実施形態では、異なるまたは付加的解剖学的目印が、標的病変を幾何学的にマッチングさせる際に使用されてもよい。
【0060】
図6は、幾何学的マッチングMLモデルを適用するときに使用され得る、象限技法を図示する。象限技法は、病変の象限ベースのマッチングのために使用される。乳房600は、乳房の正面から視認される。水平線602および垂直線604が、乳房600上に重畳され、乳首606と交差する。交差する水平および垂直線602、604は、論理的に、乳房600を4つの象限(象限0、1、2、および3)に分割する。RCC画像では、垂直線604は、後乳首線(PNL)に対応する。PNL線は、CC画像内の乳首から胸筋(またはCC内の後画像縁)に向かって後方かつ垂直に描かれる。RCC画像では、象限0および3は、乳房612の半分の中に組み合わせられ、象限1および2は、乳房614の残り半分の中に組み合わせられる。
【0061】
乳房のグラフィック表現608に示されるように、標的病変610は、象限0および3の中に延在する。垂直線604が、デカルト座標系のX軸を表し、水平線602が、y軸を表す場合、病変610は、象限0内のz最大616と、象限3内のz最小618とを有する。幾何学的マッチングMLモデルは、CC画像内の第1の病変が位置する象限を推定し、MLO画像内の第2の病変が位置する象限を推定し、2つの推定される象限を比較し、推定される象限がマッチングするかどうかを決定するために適用される。幾何学的マッチングモジュールは、CCおよびMLO画像内の第1および第2の病変が同一病変であることの信頼度レベルインジケータ(例えば、確率)を決定するために使用されることができる。いくつかの実施形態では、象限0、1、2、3に関する確率マップが、決定され、幾何学的マッチングMLモデルと併用され、CC画像内の第1の病変とMLO画像内の第2の病変を相関させる。
【0062】
いくつかの事例では、少なくとも部分的に、乳房組織の密度、乳房の位置付け、乳房の圧縮、または圧縮の間の乳房組織の任意の運動等の要因に起因して、類似性マッチング技法または幾何学的マッチング技法は、第1および第2の画像タイプ内の第1および第2の病変を相関させるためにより好適であり得る。
【0063】
図7A-7Cは、軟組織病変を示す、CC-MLO画像対を図示する。CC-MLO画像対700、702、704では、CC画像は、上側画像であって、MLO画像は、下側画像である。図示される画像対では、幾何学的マッチングおよび類似性マッチング技法の一方または両方とも、各CC-MLO画像対700、702、704におけるCC画像内の第1の軟組織病変とMLO画像内の第2の軟組織病変を相関させる際に効果的であり得る。しかしながら、ある実施例では、前述で列挙されたもの等の要因(例えば、圧縮の間の乳房組織の運動)に起因して、いくつかの軟組織病変の場所は、第1の画像タイプと第2の画像タイプとの間で偏移し得、これは、幾何学的マッチング技法が、第1および第2の画像タイプを横断して、第1および第2の軟組織病変を相関させることをより困難にし得る。
【0064】
例えば、乳房組織の運動に起因して、第1および第2の病変が、実際には、乳房内の同一物体を表すにもかかわらず、CC画像内の第1の軟組織病変は、1つの象限内にあることが推定され得る一方、MLO画像内の第2の軟組織病変は、異なる象限にあることが推定され得る。個別のCC-MLO画像対内の軟組織病変は、乳房内の軟組織病変の形状、周縁、配向、密度、サイズ、または深度のうちの1つまたはそれを上回るものにおいて、類似したままであるため、圧縮の間の移動等の要因にもかかわらず、類似性マッチング技法が、本例示的シナリオでは、CC-MLO画像対内の第1および第2の軟組織病変を相関させる際、幾何学的マッチング技法より効果的であり得る。
【0065】
対照的に、幾何学的マッチング技法は、各CC-MLO画像対800、802、804が石灰化のクラスタを描写する、
図8A-8Cに示される例示的CC-MLO画像対800、802、804に見られるもののように、第1および第2の病変を相関させるためにより好適であり得る。石灰化の各クラスタは、乳房内の形状、周縁、配向、密度、またはサイズにおいて、かつ異なるタイプの画像を横断して、変動し得る、複数の石灰化を含む。CC画像およびMLO画像は、異なる角度で捕捉されるため、類似性マッチング技法を使用して、CC画像内の石灰化のクラスタとMLO画像内の石灰化のクラスタを相関させることは、困難であり得る。
図8A-8Cに示されるように、クラスタは、クラスタを形成する、カルシウム要素間での運動に起因して、異なる平面の中に投影されるとき、非常に異なって見え得る。類似性マッチングモデルが、MLO画像内のクラスタがCC画像内のクラスタと同一物体であることを識別することは、困難であり得る。したがって、幾何学的マッチング技法が、各病変が石灰化のクラスタである、本例示的シナリオでは、CC-MLO画像対内の第1および第2の病変を相互に相関させる際により効果的であり得る。
【0066】
少なくとも、類似性マッチング技法と幾何学的マッチング技法との間の異なる強みおよび有効性に基づいて、本明細書に開示される実施形態は、アンサンブルマッチング技法(例えば、
図1におけるアンサンブルマッチングMLモデル120)を使用して、CCおよびMLO画像対内の第1および第2の病変を相関させる。アンサンブルマッチング技法は、あらゆるタイプの病変上で動作し、相関プロセスの有効性を改良する。いくつかの事例では、アンサンブルマッチング技法を採用する、実施形態は、90パーセントを上回って、相関プロセスを改良することができる。
【0067】
図9は、CC-MLO画像対を処理するためのプロセスフロー906を図示する。一実施形態では、CC-MLO画像対900、902が、マッチングエンジン106によって受信され、幾何学的マッチングMLモデル118が、CC-MLO画像対900、902に適用される。幾何学的マッチングMLモデル118は、事前に、幾何学的マッチングモデル訓練908を受信している。幾何学的マッチングモデル訓練908は、幾何学的マッチングMLモデル118を訓練するための訓練データを備え、
図1の訓練データ記憶装置114等の訓練データ記憶装置内に記憶されてもよい。実施形態では、幾何学的マッチングモデル訓練908は、相関された第1および第2の病変を伴う、CC-MLO画像対のセットである。幾何学的マッチングモデル訓練908は、正確な相関を実証する、真のマッチングされた病変と、不正確な相関を実証する、偽のマッチングされた病変との両方を含んでもよい。幾何学的マッチングMLモデル118が、代わりに、ルールベースのAIである、実施形態等の実施形態では、幾何学的マッチングモデル訓練908は、幾何学的マッチングルールのセットである。
【0068】
幾何学的マッチングMLモデル118を使用して、マッチングエンジン106は、1つまたはそれを上回る病変がCC-MLO画像対900、902内に存在するかどうかを決定し、CC画像900内に存在する第1の病変がMLO画像902内に存在する第2の病変に相関されることの信頼度レベルインジケータを含む、結果データ912を出力する。幾何学的マッチングMLモデル118は、幾何学的マッチングモデル訓練908から学習された特徴またはルールに基づいて、結果データ912を決定するために使用される。
【0069】
類似性マッチングMLモデル116は、マッチングエンジン106によって、CC-MLO画像対900、902に適用される。類似性マッチングMLモデル116は、事前に、類似性マッチングモデル訓練910を受信している。類似性マッチングモデル訓練910は、類似性マッチングMLモデル116を訓練するための訓練データを備え、
図1の訓練データ記憶装置114等の訓練データ記憶装置内に記憶されてもよい。実施形態では、類似性マッチングモデル訓練910は、相関された病変を伴う、CC-MLO画像対のセットである。類似性マッチングモデル訓練910は、正確な相関を実証する、真のマッチングされた病変と、不正確な相関を実証する、偽のマッチングされた病変との両方を含んでもよい。実施形態では、類似性マッチングモデル訓練910は、幾何学的マッチングモデル訓練908と同一データセットである。実施形態では、類似性マッチングモデル訓練910は、幾何学的マッチングモデル訓練908と異なるデータセットである。
【0070】
類似性マッチングMLモデル116は、1つまたはそれを上回る病変がCC画像900およびMLO画像902内に存在するかどうかを決定し、CC画像900内の第1の病変がMLO画像902内の第2の病変に相関されることの信頼度レベルインジケータを含む、結果データ914を出力するために使用される。類似性マッチングMLモデル116は、類似性マッチングモデル訓練910に基づいて、結果データ914を決定するために使用される。実施例では、マッチングエンジン106は、類似性マッチングMLモデル116を類似性マッチングモデル訓練910上で実行し、例えば、特徴セットを発生させ、特徴セットをCC-MLO画像対900、902に適用することによって、結果データ914を発生させる。
【0071】
マッチングエンジン106は、アンサンブルMLモデル102を幾何学的マッチングMLモデル118からの結果データ912(例えば、幾何学的マッチング信頼度レベルインジケータ)および類似性マッチングMLモデル116からの結果データ914(例えば、類似性信頼度レベルインジケータ)に適用する。実施形態では、アンサンブルマッチングMLモデル120もまた、直接、CC-MLO画像対900、902を分析するために採用される。
【0072】
アンサンブルマッチングMLモデル120は、幾何学的マッチングMLモデル118および類似性マッチングMLモデル116の一方または両方からの出力データとしてのCC-MLO画像対900、902に適用されてもよい。例えば、幾何学的マッチングMLモデル118からの結果データ912は、幾何学的マッチング信頼度レベルインジケータを計算するために使用される、象限または他の場所データを示すように注釈が付けられる、CC-MLO画像対を含んでもよい。類似性マッチングMLモデル116からの結果データ914は、第1および第2の病変に関する形状または周縁データを示すように注釈が付けられる、CC-MLO画像対を含んでもよい。アンサンブルマッチングMLモデル120は、幾何学的マッチングMLモデル118および類似性マッチングMLモデル116のいずれかから独立して、CC-MLO画像対900、902に適用されてもよい。
【0073】
結果データ912、914は、概して、幾何学的マッチングMLモデル118からの幾何学的マッチング信頼度レベルと、類似性マッチングMLモデル116からの類似性信頼度レベルとを含む。実施形態では、結果データ912、914は、幾何学的マッチングMLモデル118および類似性マッチングMLモデル116の一方または両方からの付加的データを備える。例えば、幾何学的マッチングMLモデル118からの幾何学的マッチング結果データ912はまた、CC画像900およびMLO画像902の各々に対し、病変と解剖学的目印との間の距離を含んでもよい、またはCC画像900内の第1の病変およびMLO画像902内の第2の病変の各々に対し、象限推定を含んでもよい。類似性マッチングMLモデル116からの類似性結果データ914は、形状、テクスチャ、配向、または周縁等の類似性データを含んでもよい。
【0074】
マッチングエンジン106は、アンサンブルMLモデル120を使用して、幾何学的マッチングおよび類似性マッチングMLモデル118、116からの結果データ912、914を用いて、CCおよびMLO画像900、902を評価し、CCおよびMLO画像対内の第1および第2の病変が乳房内の同一物体であることの確率を表す、相関の結合確率904を生成する。相関の結合確率904は、CC画像900とMLO画像902との間の第1および第2の病変の相関が信頼性がある相関であることの確率を表す、単一値であってもよい。実施例では、相関の結合確率904は、少なくとも2つの要素、すなわち、相関が信頼性があることの尤度を表す、相関確率918と、確率計算自体が信頼性があることの尤度を表す、相関信頼度レベル920とを含む。
【0075】
アンサンブルMLモデル120は、結果データ912、914を受信することに先立って、アンサンブルモデル訓練916を使用して訓練される。アンサンブルモデル訓練916は、アンサンブルマッチングMLモデル120を訓練するための訓練データを備え、
図1の訓練データ記憶装置114等の訓練データ記憶装置内に記憶されてもよい。実施形態では、アンサンブルモデル訓練916は、相関された第1および第2の病変を伴う、CC-MLO画像対のセットである。アンサンブルモデル訓練916は、真のマッチングされた病変と、偽のマッチングされた病変との両方を含んでもよい。実施形態では、アンサンブルモデル訓練916は、幾何学的マッチングモデル訓練908および類似性マッチングモデル訓練910と同一データセットである。実施形態では、アンサンブルモデル訓練916は、幾何学的マッチングモデル訓練908および類似性マッチングモデル訓練910の一方または両方と異なるデータセットである。
【0076】
アンサンブルモデル訓練916が、本システム内の他のモデルによって受信される訓練データと比較して、同一または異なるデータセットであるかどうかにかかわらず、アンサンブルMLモデル120は、一意の特徴セットを発生させる。アンサンブルMLモデル120は、画像、病変、および他のROIに関連する特徴を含み、また、スコア化、信頼度レベル、場所データ、形状データ、周縁データ等の結果データ912、914に関連する特徴を含む、特徴セットを展開する。
【0077】
アンサンブルMLモデル116は、マッチングエンジン106によって、幾何学的マッチングMLモデル118および類似性マッチングMLモデル116を使用して行われる相関が信頼性がある程度を決定し、相関の結合確率904として、本信頼性決定を提示するために使用される。相関の結合確率904は、数値確率または色分けされた信頼度レベルインジケータ等の単一出力であってもよい、または2つまたはそれを上回る部分を有してもよい。例示的プロセスフロー906は、相関確率918および関連付けられる相関信頼度レベル920として、相関の結合確率を提示する。
【0078】
例示的症例を考慮するために、特定の第1および第2の病変は、それに関して幾何学的マッチングがより効果的である、種類、例えば、石灰化のクラスタであってもよい。アンサンブルマッチングMLモデルは、標的病変が石灰化であるときを識別し、そのような症例では、より大きい加重を幾何学的マッチングMLモデルから受信されるデータ上に設置するように訓練されてもよい。しかしながら、本例示的シナリオでは、石灰化のクラスタは、2つまたはそれを上回る象限間の境界上に位置し得る。アンサンブルマッチングMLモデルはまた、これが病変が1つの象限またはその他内にあるように正確に推定されないように妨害するため、病変が象限境界にわたって交差する、本状況では、幾何学的マッチングMLモデルにおける信頼度を低減させるように訓練されてもよい。本シナリオでは、幾何学的マッチングMLモデルおよび類似性マッチングMLモデルは両方とも、高相関尤度を決定し得、これは、高相関確率をもたらすであろう。しかしながら、類似性マッチングMLモデルにおける信頼度は、病変のタイプに起因して、低減され、幾何学的マッチングMLモデルにおける信頼度は、象限境界上の病変の場所に起因して、低減されるため、高相関確率は、低相関信頼度レベルを伴う。
【0079】
アンサンブルMLモデル120は、アンサンブルモデル訓練916に基づいて、相関の結合確率904を決定するように訓練される。実施例では、アンサンブルMLモデル120は、MLアルゴリズムをアンサンブルモデル訓練916上で実行し、例えば、特徴セットを発生させ、相関の結合確率904は、マッチングエンジン106が、アンサンブルMLモデルを使用して、特徴セットをCC-MLO画像対900、902および結果データ912、914に適用するときに決定される。実施形態では、プロセスフロー906はさらに、
図1の相関評価器122等の相関評価器を含んでもよい。相関評価器は、マッチングエンジン106の構成要素として、幾何学的マッチングMLモデル118、類似性マッチングMLモデル116、およびアンサンブルMLモデル120のうちの1つまたはそれを上回るものからデータを受信してもよく、相関評価器は、相関の結合確率904を発生および出力してもよい。
【0080】
図10は、CC画像内の第1の病変をMLO画像内の第2の病変に相関させる方法1012のフローチャートを図示する。本方法は、
図1および9における幾何学的マッチングMLモデル118等の幾何学的マッチングMLモデルを使用して、
図1および9におけるマッチングエンジン106等のマッチングエンジンによって実施される。最初に、ブロック1000に示されるように、第1の画像タイプの第1の画像と、第2の画像タイプの第2の画像とから成る、画像対が、受信される。一実施形態では、第1および第2の画像タイプは、CC画像およびMLO画像である。幾何学的マッチングマッチングモデルは、少なくとも1つの解剖学的目印とCC画像内の第1の病変との間の第1の距離と、少なくとも1つの解剖学的目印とMLO画像内の第2の病変との間の第2の距離とを推定するために使用される(ブロック1002)。幾何学的マッチングMLモデルはまた、その中にCC画像内およびMLO画像内の第1および第2の病変が位置する、乳房の象限を推定するために使用される(ブロック1004)。
【0081】
距離決定および象限決定からのデータは、組み合わせられる。実施形態では、幾何学的マッチングMLモデルは、解剖学的目印までの距離推定および象限割当の両方を実施するために使用される一方、他の実施形態では、幾何学的マッチングMLモデルは、評価の一方のみまたは他方の方法、または乳房または他の撮像される体積内の病変の場所の別の場所または幾何学形状ベースの評価を実施するために使用されてもよい。
【0082】
実施形態では、画像対の各画像は、個々に、幾何学的マッチングモデルを使用して、全体として評価される。例えば、画像対内のCC画像およびMLO画像はそれぞれ、幾何学的マッチングMLモデルが、相関がCC画像内で識別された第1の病変とMLO画像内で識別された第2の病変との間に存在するかどうかを決定するために使用される前に、幾何学的マッチングMLモデルを使用して、完全に評価され、病変を識別し、病変の場所を推定してもよい。1つまたはそれを上回る第1の病変が、CC画像内で識別され、1つまたはそれを上回る第2の病変が、MLO画像内で識別されてもよい。1つまたはそれを上回る相関が、CC画像およびMLO画像内の第1の病変と第2の病変との間に存在するように決定されてもよい。例えば、2つの第1の病変、すなわち、第1の病変(a)および第1の病変(b)が、CC画像内で、2つの第2の病変、すなわち、第2の病変(a)および第2の病変(b)が、MLO画像内で識別されてもよい。第1の相関が、第1の病変(a)と第2の病変(a)との間に存在することが決定されてもよく、第2の相関が、第1の病変(b)と第2の病変(b)との間に存在することが決定されてもよい。
【0083】
幾何学的マッチングMLモデルは、ブロック1006では、信頼度レベルインジケータを算出するために使用される。前述で説明されるように、信頼度レベルインジケータは、第1の画像タイプの画像(例えば、CC画像)内の第1の病変が第2の画像タイプの画像(例えば、MLO画像)内の第2の病変と同一物体である、確率を表す。いくつかの事例では、放射線科医は、幾何学的マッチングモデルのみに基づいて、信頼度レベルの決定を理解することに関心がある。信頼度レベルインジケータは、次いで、ブロック1008において、放射線科医に提示されてもよい。一実施形態では、信頼度レベルインジケータは、ディスプレイデバイス上において、放射線科医に表示される。実施例では、文字または他の記号印が、CC画像内の第1の病変およびMLO画像内の第2の病変のそれぞれをマークするために表示されてもよい。複数の着目領域が、画像対内に現れる場合、複数の文字または標識が、使用されてもよい。実施形態では、文字または他の記号印は、信頼度レベルインジケータを伴わずに、表示される。
【0084】
次に、随意のブロック1010に示されるように、付加的情報が、放射線科医に提示される。付加的情報は、限定ではないが、マッチングエンジンが提示される信頼度レベルインジケータを導出した理由または本CC-MLO対がより高い(またはより低い)信頼度レベルインジケータを有する理由に関する解説を含んでもよい。例えば、測定値または他の距離データおよび使用される解剖学的目印の識別が、表示される。解剖学的象限マップが、解剖学的象限マップ上にオーバーレイされる、各画像タイプの特定の象限内の第1または第2の病変の配向とともに表示されてもよい。病変が象限境界上にあることを示す、または特定の解剖学的目印に対する第1の病変の関係と特定の解剖学的目印に対する第2の病変の関係との間の非一貫性を示す等、不確実性の源が、ディスプレイ上で識別されてもよい。
【0085】
図11は、CC画像内の第1の病変をMLO画像内の第2の病変に相関させる方法1112のフローチャートを図示する。本方法は、
図1および9における類似性マッチングMLモデル116等の類似性マッチングMLモデルを使用して、
図1および9におけるマッチングエンジン106等のマッチングエンジンによって実施される。図示される方法1112は、
図10に示される方法1012と、いくつかの類似ステップを共有する。
【0086】
CCおよびMLO画像が、ブロック1000において、マッチングエンジンによって受信される。CC画像内の第1の病変およびMLO画像内の第2の病変の1つまたはそれを上回る特性が、類似性マッチングMLモデルを使用して、ブロック1100において決定される。病変に割り当てられる特性は、限定ではないが、サイズ、形状、周縁、場所、密度、色、配向、テクスチャ、パターン、または乳房内の深度を含む。
【0087】
実施形態では、画像対の各画像は、個々に、全体として評価される。例えば、対内のCC画像およびMLO画像はそれぞれ、類似性マッチングMLモデルが、相関がCC画像内の第1の病変とMLO画像内の第2の病変との間に存在するかどうかを決定するために使用される前に、類似性マッチングMLモデルを使用して、完全に評価され、病変または潜在的病変を識別し、識別された病変を完全に特性評価する。幾何学的マッチングMLモデルと同様に、類似性マッチングMLモデルは、画像対内の1つまたはそれを上回る病変を識別および相関させるために使用されてもよい。
【0088】
類似性マッチングMLモデルは、ブロック1006において、信頼度レベルインジケータを算出するために使用される。前述で説明されるように、信頼度レベルインジケータは、第1の画像タイプの画像(例えば、CC画像)内の第1の病変が第2の画像タイプの画像(例えば、MLO画像)内の第2の病変と同一病変である、確率を表す。いくつかの事例では、放射線科医は、類似性マッチングMLモデルのみに基づいて、信頼度レベルの決定を理解することに関心がある。信頼度レベルインジケータは、次いで、ブロック1008において、放射線科医に提示されてもよい。一実施形態では、信頼度レベルインジケータは、ディスプレイデバイス上において、放射線科医に表示される。実施例では、文字または他の記号印対が、CC画像内の第1の病変およびMLO画像内の第2の病変のそれぞれをマークするために表示されてもよい。複数の着目領域が、画像対内に現れる場合、複数の文字または標識が、使用されてもよい。実施形態では、文字または他の記号印は、信頼度レベルインジケータを伴わずに、表示される。
【0089】
次に、随意のブロック1010に示されるように、付加的情報が、放射線科医に提示される。付加的情報は、限定ではないが、マッチングエンジンが提示される信頼度レベルインジケータを導出した理由または特定のCC-MLO対がより高い(またはより低い)信頼度レベルインジケータを有する理由に関する解説を含んでもよい。例えば、形状、テクスチャ、配向、または他の特性データが、表示される。1つまたはそれを上回るオーバーレイが、第1および第2の病変のそれぞれにわたって提示され、例えば、第1の病変と第2の病変との間の形状または周縁境界を示し、その特性の類似性または差異を示してもよい。
【0090】
図12は、CC画像内の第1の病変をMLO画像内の第2の病変に相関させる方法1212のフローチャートを図示する。方法1212は、
図1および9におけるアンサンブルマッチングMLモデル120等のアンサンブルマッチングMLモデルを使用して、
図1および9におけるマッチングエンジン106等のマッチングエンジンによって実施される。実施形態では、方法1212のいくつかまたは全ては、
図1における相関評価器122等の相関評価器によって実施されてもよい。図示される方法1212は、
図10および11に示される方法1012、1112といくつかのステップを共有する。
【0091】
CCおよびMLO画像が、ブロック1000において、受信される。ブロック1200では、幾何学的マッチングMLモデルを使用して生成される、信頼度レベルインジケータが、受信される。ある場合には、CCおよびMLO画像の各々に対し、第1および第2の病変のそれぞれと1つまたはそれを上回る解剖学的目印との間の距離、またはCCおよびMLO画像内の第1および第2の病変の各々に対して推定される象限、または他の付加的データもまた、受信される。ブロック1202では、類似性マッチングMLモデルを使用して生成される、信頼度レベルインジケータが、受信される。実施形態では、CCおよびMLO画像内の第1および第2の病変の1つまたはそれを上回る特性、または他の付加的データもまた、受信される。
【0092】
アンサンブルマッチングMLモデルは、CCおよびMLO画像と、幾何学的マッチングMLモデルおよび類似性マッチングMLモデルのそれぞれから提供される、信頼度レベルインジケータと、いくつかの実施形態では、幾何学的マッチングおよび類似性マッチングMLモデルの一方または両方から受信される任意の付加的データとを分析するために使用される。アンサンブルマッチングMLモデルを使用する分析に基づいて、マッチングエンジンは、1204において、相関の結合確率を発生させる。
【0093】
分析の一部は、1つのタイプのモデルから受信されるデータを別のモデルより強調すること、またはより大きいまたはより小さい加重と特定のモデルから受信されるデータを関連付けることを含んでもよい。例えば、第1および第2の病変が識別される、病変のタイプ(例えば、軟組織病変または石灰化のクラスタ)に基づいて、アンサンブルマッチングMLモデルは、その訓練または以前の分析に基づいて、類似性マッチングMLモデルおよび幾何学的マッチングMLモデルのいずれかからのデータが標的病変が相互に相関する確率を予測する際により正確である(その逆も同様である)ことを決定してもよい。
【0094】
加えて、または代替として、1つのモデルによって生成された信頼度レベルインジケータが、比較的に高い一方、他のモデルから受信される信頼度レベルインジケータが、比較的に低い場合、アンサンブルマッチングMLモデルは、より比較的に高い信頼度レベルインジケータを提供される、モデルから受信されるデータに依拠してもよい(またはその逆)。例えば、高密度乳房に関して、類似性マッチングMLモデルは、周囲組織の密度による病変の不明瞭化に起因して、比較的に低信頼度レベルインジケータをもたらし得る一方、幾何学的マッチング場所MLモデルは、CCおよびMLO画像がマッチングすることを示す、比較的に高信頼度レベルインジケータを提供することによって、類似性マッチングMLモデルからの低信頼度レベルインジケータを補償することが可能である。そのような調節は、相関の結合確率と関連付けられる、相関の結合信頼度レベルとともに、放射線科医に示されてもよい。実施形態では、そのような調節は、放射線科医に不透明であってもよいが、結合確率への幾何学的マッチングMLおよび類似性マッチングMLモデルの寄与の一方または両方に割り当てられる相対的加重において反映されてもよい。
【0095】
相関の結合確率は、次いで、ブロック1206において、放射線科医に提示されてもよい。一実施形態では、相関の結合確率は、ディスプレイデバイス上において、放射線科医に表示される。相関の結合確率はまた、ディスプレイデバイスへの他の出力を決定するために使用されてもよい。例えば、閾値は、ユーザが、CC画像内の病変またはROIを選択し、所定の閾値を超える相関の結合確率が、その病変またはROIと関連付けられる場合、本システムが、相関された病変またはROIとともに、MLO画像を自動的に表示し得るように、相関の結合確率と関連付けられてもよい。
【0096】
実施例では、文字または他の記号印が、CC画像内の第1の病変およびMLO画像内の第2の病変のそれぞれをマークするために表示されてもよい。複数の着目領域が、画像対内に現れる場合、複数の文字または標識が、使用されてもよい。実施形態では、文字または他の記号印は、信頼度レベルインジケータを伴わずに、表示される。
【0097】
次に、随意のブロック1010に示されるように、付加的情報が、放射線科医に提示される。付加的情報は、限定ではないが、方法1012、1112に関連して上記に議論される、付加的情報のいずれかを含んでもよい。
【0098】
図13は、
図1および9のアンサンブルマッチングMLモデル120等のアンサンブルマッチングMLモデルを訓練する方法1312のフローチャートを図示する。一実施形態では、アンサンブルマッチングMLモデルは、教師あり訓練プロセスを使用して訓練される。最初に、放射線科医またはマッチングエンジンが、複数のCC-MLO画像対を精査し、相互に相関する、CCおよびMLO画像内の第1および第2の病変を標識または別様に識別する(ブロック1300)。標識は、第1および第2の病変対の各々に対し、病変のタイプまたは病変が癌性であるかどうか等の情報を識別することができる。
【0099】
標識されたCC-MLO画像対は、ブロック1302において、アンサンブルマッチングMLモデルに入力される。類似性マッチングMLモデルのためおよび幾何学的マッチングMLモデルのための訓練データは、ブロック1304において、アンサンブルマッチングMLモデルに入力される。アンサンブルマッチングMLモデルは、ブロック1306において、人間によって標識されたCC-MLO画像対と、類似性および幾何学的マッチングMLモデルのための訓練データとを使用して訓練される。実施形態では、アンサンブルマッチングMLモデルは、人間によって標識されたCC-MLO画像対と、類似性および幾何学的マッチングMLモデルのための訓練データとに基づいて、特徴セットを発生させてもよい。訓練されたアンサンブルマッチングMLモデルは、次いで、ブロック1308において、
図1に示されるシステム100等の病変識別および相関システムにおいて使用される。
【0100】
いくつかの実施形態では、類似性マッチングおよび幾何学的マッチングMLモデルは、公知の訓練技法を使用して訓練される。加えて、人間によって標識されたCC-MLO画像対もまた、類似性マッチングMLモデルおよび幾何学的マッチングMLモデルを訓練するために使用される。各モデルは、他のモデルから独立して、訓練されることができる。代替として、幾何学的マッチング、類似性マッチング、およびアンサンブルマッチングMLモデルは、1つのステップまたは訓練プロセスにおいて訓練されてもよい。
【0101】
他の実施形態は、図示される順序と異なる順序において、
図10-13に示されるフローチャート内のブロックを配列することができる。
【0102】
図14は、コンピューティングデバイスの例示的物理的構成要素を図示する、ブロック図である。コンピューティングデバイス1400は、コンピューティングシステム102、X線コンピューティングデバイス112、およびコンピューティングシステム110等の識別システム100と併用される、任意のコンピューティングデバイスであることができる。
【0103】
図14に示される実施例では、コンピューティングデバイス1400は、少なくとも1つの処理デバイス(集合的に、処理デバイス1402)と、少なくとも1つのメモリ(集合的に、メモリ1408)と、メモリ1408を処理デバイス1402に結合する、少なくとも1つのバス(集合的に、バス1422)とを含む。例示的処理デバイス1402は、限定ではないが、中央処理ユニット、マイクロプロセッサ、特定用途向け集積回路、デジタル信号プロセッサ、およびグラフィックプロセッサを含む。例示的メモリ408は、ランダムアクセスメモリ(「RAM」)1410および読取専用メモリ(「ROM」)1412を含む。始動の間等、情報をコンピューティングデバイス1400内の要素間で転送することに役立つ、基本ルーチンを含有する、基本入/出力システムが、ROM1412内に記憶される。
【0104】
コンピューティングデバイス1400はさらに、1つまたはそれを上回る記憶デバイス(集合的に、記憶デバイス1414)を含む。記憶デバイス1414は、ソフトウェア命令と、データとを記憶することが可能である。例えば、記憶デバイス1414は、
図1に示されるGUIを記憶する。
【0105】
記憶デバイス1414は、バス1422に接続される、記憶装置コントローラ(図示せず)を通して、処理デバイス1402に接続される。記憶デバイス1414およびその関連付けられるコンピュータ可読記憶媒体は、コンピューティングデバイス1400のための不揮発性非一過性データ記憶装置を提供する。本明細書に含有されるコンピュータ可読記憶媒体の説明は、ハードディスクまたはソリッドステートディスク等の記憶デバイスを指すが、コンピュータ可読データ記憶媒体は、そこから処理デバイス1402がデータおよび/または命令を読み取り得る、任意の利用可能な有形物理的デバイスまたは製造品を含むことができることが、当業者によって理解されるであろう。ある実施例では、コンピュータ可読記憶媒体は、完全に非一過性媒体を含む。
【0106】
コンピュータ可読記憶媒体は、コンピュータ可読ソフトウェア命令、データ構造、プログラムモジュール、または他のデータ等の情報の記憶のために、任意の方法または技術で実装される、揮発性および不揮発性のリムーバブルおよび非リムーバブル媒体を含む。コンピュータ可読データ記憶媒体の例示的タイプは、限定ではないが、RAM、ROM、EPROM、EEPROM、フラッシュメモリまたは他のソリッドステートメモリ技術、CD-ROM、デジタル多用途ディスク(「DVD」)、他の光学記憶媒体、磁気カセット、磁気テープ、磁気ディスク記憶装置または他の磁気記憶デバイス、または所望の情報を記憶するために使用され得、コンピューティングデバイス1400によってアクセスされ得る、任意の他の媒体を含む。
【0107】
いくつかの実施例によると、コンピューティングデバイス1400は、無線ネットワーク、インターネット、または別のタイプのネットワーク等のネットワーク1452を通して、遠隔ネットワークデバイスへの論理接続を使用して、ネットワーク化された環境内で動作することができる。コンピューティングデバイス1400は、バス1422に接続される、ネットワークインターフェースユニット1404を通して、ネットワーク1452に接続してもよい。ネットワークインターフェースユニット1404はまた、他のタイプのネットワークおよび遠隔コンピューティングシステムに接続するために利用されてもよいことを理解されたい。
【0108】
コンピューティングデバイス1400はまた、タッチユーザインターフェースディスプレイ画面または別のタイプの入力デバイスを含む、いくつかの他のデバイスからの入力を受信および処理するための入/出力コントローラ1406を含む。同様に、入/出力コントローラ1406は、出力をタッチユーザインターフェースディスプレイ画面または他のタイプの出力デバイスに提供してもよい。
【0109】
上記に簡潔に述べられたように、コンピューティングデバイス1400の記憶デバイス1414およびRAM1410は、ソフトウェア命令と、データとを記憶することができる。ソフトウェア命令は、コンピューティングデバイス1400の動作を制御するために好適なオペレーティングシステム1418を含む。記憶デバイス1414および/またはRAM1410はまた、処理デバイス1402によって実行されると、コンピューティングデバイス1400に、本明細書で議論される機能性を提供させる、ソフトウェア命令を記憶する。
【0110】
実施例:
【0111】
本明細書に説明されるシステムおよび方法の例証的実施例が、下記に提供される。本明細書に説明されるシステムまたは方法の実施形態は、下記に説明される任意の1つまたはそれを上回る付記およびその任意の組み合わせを含んでもよい。
【0112】
付記1.頭尾方向(CC)画像と、内外斜位方向(MLO)画像とを備える、画像対内の着目領域(ROI)を相関させる方法であって、アンサンブルマッチング機械学習(ML)モデルによって、類似性マッチングMLモデルからのデータを受信することであって、類似性マッチングMLモデルからのデータは、少なくとも、マッチングされた対のROIと、マッチングされた対のROIと関連付けられる、第1の信頼度レベルインジケータとを含む、ことと、アンサンブルマッチングMLモデルによって、幾何学的マッチング(GM)モデルからのデータを受信することであって、GMモデルからのデータは、少なくとも、マッチングされた対のROIと、第2の信頼度レベルインジケータとを含む、ことと、アンサンブルマッチングMLモデルによって、アンサンブルマッチングMLモデルによる第1および第2の信頼度レベルのそれぞれの評価に基づいて、相関の結合確率を決定することであって、相関の結合確率は、CC画像内のROIがMLO画像内の対応するROIに相関する、その逆も同様である、確率を提供する、ことと、相関の結合確率を出力デバイスに提供することとを含む、方法。
【0113】
付記2.訓練用CC-MLO画像対と関連付けられる、データを受信することと、訓練用CC-MLO画像対と関連付けられる、データを用いて、アンサンブルマッチングMLモデルを訓練することとをさらに含む、付記1に記載の方法。
【0114】
付記3.アンサンブルマッチングMLモデルによって、第1および第2の信頼度レベルのそれぞれの評価と、相関の結合確率とに基づいて、第3の信頼度レベルインジケータを決定することをさらに含み、第3の信頼度レベルインジケータは、相関の結合確率と関連付けられる、信頼性の尤度である、付記1または2に記載の方法。
【0115】
付記4.結合確率は、類似性相関およびGM相関がCC-ROIおよびMLO-ROIを適切に相関させる、確率である、付記1-3のいずれかに記載の方法。
【0116】
付記5.相関の結合確率を出力デバイスに提供することは、相関の結合確率と関連付けられる、数値を含む、付記1-4のいずれかに記載の方法。
【0117】
付記6.マッチングされた病変対の各画像は、全体的乳房画像である、付記1-5のいずれかに記載の方法。
【0118】
付記7.マッチングされた病変対の各画像は、CC画像およびMLO画像の各々に対し、ROIのみを含有する、付記1-6のいずれかに記載の方法。
【0119】
付記8.相関の結合確率を出力デバイスに提供することは、数値表示を含む、付記1-7のいずれかに記載の方法。
【0120】
付記9.相関の結合確率を出力デバイスに提供することは、一連のCC-ROIを受信することと、CC-ROIの選択を受信することに応答して、MLO-ROIを提示することとを含む、付記1-8のいずれかに記載の方法。
【0121】
付記10.CC-ROIの選択を受信することに応答して、相関の結合確率が所定の閾値を超えることを決定することと、相関の結合確率が所定の閾値を超えることを決定することに応答して、MLO-ROIを提示することとをさらに含む、付記9に記載の方法。
【0122】
付記11.マッチングされた対のROIは、CC-画像内のCC-ROIとMLO画像内のMLO-ROIとの間の類似性相関を含み、第1の信頼度レベルインジケータは、CC-ROIとMLO-ROIとの間の相関と関連付けられる、確率である、付記1-10のいずれかに記載の方法。
【0123】
付記12.第2の信頼度レベルインジケータは、CC-ROIとMLO-ROIとの間のGM相関と関連付けられる、確率である、付記1-11のいずれかに記載の方法。
【0124】
付記13.出力ディスプレイ上に、一対の記号を表示することであって、一対の記号の各記号は、マッチングされた対のROIのうちのROIをマークする、ことをさらに含む、付記1-12のいずれかに記載の方法。
【0125】
付記14.GMモデルからのデータは、マッチングされた対のROIのうちの各ROIに対し、場所データを備える、付記1-13のいずれかに記載の方法。
【0126】
付記15.第2の信頼度レベルインジケータは、マッチングされた対のROIの第1のROIの第1の場所およびマッチングされた対のROIの第2のROIの第2の場所が同一場所である、確率を示す、付記14に記載の方法。
【0127】
付記16.CC画像およびMLO画像はそれぞれ、乳房を描写し、GMモデルは、乳房を象限に論理的に分割する、付記14または15に記載の方法。
【0128】
付記17.類似性モデルからのデータは、マッチングされた対のROIのうちの各ROIに対し、特性データを備える、付記1-16のいずれかに記載の方法。
【0129】
付記18.第1の信頼度レベルインジケータは、マッチングされた対のROIの第1のROIと関連付けられる、特性の第1のセットと、マッチングされた対のROIの第2のROIと関連付けられる、特性の第2のセットとの間の類似性の程度を示す、付記17に記載の方法。
【0130】
付記19.特性データは、サイズ、形状、1つまたはそれを上回る周縁、場所、密度、1つまたはそれを上回る色、配向、テクスチャ、パターン、および深度のうちの1つまたはそれを上回るものを含む、付記17または18に記載の方法。
【0131】
付記20.頭尾方向(CC)および内外斜位方向(MLO)画像をアンサンブルマッチングさせるためのシステムであって、少なくとも1つのメモリと通信する、少なくとも1つのプロセッサと、少なくとも1つのプロセッサ上で実行され、動作の間、類似性マッチングモデルから、マッチングされたCC-MLO画像対と、マッチングされたCC-MLO画像対と関連付けられる、類似性信頼度レベルインジケータとを受信し、幾何学的マッチング(GM)モデルから、マッチングされたCC-MLO画像対と、マッチングされたCC-MLO画像対と関連付けられる、GM信頼度レベルインジケータとを受信し、アンサンブルマッチングモデルを適用し、複数のマッチングされたCC-MLO対上で訓練されたアンサンブル機械学習(ML)アルゴリズムに基づいて、アンサンブル信頼度レベルを決定し、アンサンブル信頼度レベルとマッチングされたCC-MLO画像対を関連付け、アンサンブル信頼度レベルをマッチングされたCC-MLO画像対とともに出力するように構成される、アンサンブルマッチングモジュールとを備える、システム。
【0132】
付記21.画像入手モジュールをさらに備える、付記20に記載のシステム。
【0133】
付記22.マッチングされたCC-MLO画像対は、CC画像内で識別された第1の着目領域(ROI)と、MLO画像内で識別された第2のROIとを備え、類似性MLモデルまたはGMモデルのいずれかが、相関を第1のROIおよび第2のROIに割り当てる、付記20または21に記載のシステム。
【0134】
付記23.アンサンブルマッチングモジュールはさらに、GMモデルから、第1のROIと第2のROIとの間の相関と関連付けられる、場所データを受信する、付記22に記載のシステム。
【0135】
付記24.アンサンブルマッチングモジュールはさらに、類似性MLモデルから、第1のROIと第2のROIとの間の相関と関連付けられる、形状データを受信する、付記22または23に記載のシステム。
【0136】
付記25.アンサンブルマッチングモジュールはさらに、類似性MLモデルから、第1のROIと第2のROIとの間の相関と関連付けられる、周縁データを受信する、付記22-24のいずれかに記載のシステム。
【0137】
付記26.類似性マッチングモデルは、画像入手モジュールから受信されるCC-画像内のCC着目領域(ROI)を識別することと、MLO-ROIに関して画像入手モジュールから受信されるMLO画像を検索することであって、MLO画像は、複数の領域を含み、類似性マッチングモデルは、複数の領域の各領域を精査する、ことと、CC-ROIおよびMLO-ROIのそれぞれの少なくとも1つの類似性特性を決定することと、少なくとも1つの類似性特性に基づいて、CC-ROIおよびMLO-ROIを相関させることとによって、マッチングされたCC-MLO画像対を決定する、付記22-25のいずれかに記載のシステム。
【0138】
付記27.頭尾方向(CC)画像と、内外斜位方向(MLO)画像とをアンサンブルマッチングさせるための方法であって、訓練用CC-MLO画像対を使用して、アンサンブルマッチングモデルを訓練することであって、訓練用CC-MLO画像対は、高信頼度を伴って相関される着目領域(ROI)を伴う、対のCC-MLO画像と、誤って相関されたROIを伴う、対のCC-MLO画像とを含む、ことと、マッチングされたCC-MLO対を類似性マッチングモデルから受信することであって、マッチングされたCC-MLO対は、類似性信頼度スコアを含む、ことと、マッチングされたCC-MLO対を幾何学的マッチングモデルから受信することであって、マッチングされたCC-MLO対は、場所信頼度スコアを含む、こととによって、アンサンブルマッチングモデルによって、1つまたはそれを上回る対合されたCC-MLO画像内のROI間の相関に関するアンサンブル信頼度レベルを決定することと、訓練用CC-MLO画像対に基づいて、類似性信頼度スコアおよび場所信頼度スコアとともに、マッチングされたCC-MLO対を分析することと、アンサンブル信頼度レベルを計算することと、アンサンブル信頼度レベルの出力提示を発生させることとを含む、方法。
【0139】
本開示は、その中で可能性として考えられる実施例のうちのいくつかのみが示された、付随の図面を参照して、本技術のいくつかの実施例を説明した。しかしながら、他の側面も、多くの異なる形態において具現化されることができ、本明細書に記載される実施例に限定されるものと解釈されるべきではない。むしろ、これらの実施例は、本開示が、徹底しており、かつ完璧であって、可能性として考えられる実施例の範囲を当業者に完全に伝達するように、提供された。
【0140】
種々の実施形態および実施例が、本明細書に説明されるが、当業者は、多くの修正が本開示の範囲内でそこに行われ得ることを理解するであろう。したがって、具体的構造、行為、または媒体は、例証的実施例としてのみ開示される。本技術による実施例はまた、本明細書に別様に述べられない限り、一般に開示されるが、組み合わせで明示的に例示されないものの要素または構成要素を組み合わせてもよい。故に、本開示の範囲は、いかようにも、提供される実施例によって限定されることを意図するものではない。
【国際調査報告】