(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公表特許公報(A)
(11)【公表番号】
(43)【公表日】2024-11-13
(54)【発明の名称】X線投影画像のスコアリング
(51)【国際特許分類】
A61B 6/00 20240101AFI20241106BHJP
【FI】
A61B6/00 550Z
A61B6/00 570
A61B6/00 560
【審査請求】未請求
【予備審査請求】未請求
(21)【出願番号】P 2024525037
(86)(22)【出願日】2022-10-21
(85)【翻訳文提出日】2024-05-30
(86)【国際出願番号】 EP2022079371
(87)【国際公開番号】W WO2023072752
(87)【国際公開日】2023-05-04
(32)【優先日】2021-10-27
(33)【優先権主張国・地域又は機関】US
(81)【指定国・地域】
(71)【出願人】
【識別番号】590000248
【氏名又は名称】コーニンクレッカ フィリップス エヌ ヴェ
【氏名又は名称原語表記】Koninklijke Philips N.V.
【住所又は居所原語表記】High Tech Campus 52, 5656 AG Eindhoven,Netherlands
(74)【代理人】
【識別番号】110001690
【氏名又は名称】弁理士法人M&Sパートナーズ
(72)【発明者】
【氏名】エレカンプ ラモン クィド
(72)【発明者】
【氏名】シンハ アユシ
(72)【発明者】
【氏名】トポレク グジェゴジ アンドレイ
(72)【発明者】
【氏名】サレヒ レイリ
(72)【発明者】
【氏名】パンセ アシシュ サトヤヴラト
【テーマコード(参考)】
4C093
【Fターム(参考)】
4C093AA01
4C093AA25
4C093EC16
4C093EC28
4C093FA55
4C093FF28
4C093FF42
(57)【要約】
被検者内の関心領域120を表すX線投影画像110の画像視点スコア値s1を決定するコンピュータ実施方法が提供される。この方法は、複数のX線投影画像110を受信するステップS110であって、X線投影画像は、関心領域に対するX線イメージングシステム130の複数の異なる視点からの関心領域120を表す、受信するステップS110と、X線投影画像をニューラルネットワークNN1に入力するステップS120と、入力するステップに応答して、X線投影画像の各々の予測画像視点スコア値s1を生成するステップS130とを含む。
【特許請求の範囲】
【請求項1】
被検者内の関心領域を表すX線投影画像の画像視点スコア値を決定するコンピュータ実施方法であって、前記コンピュータ実施方法は、
複数のX線投影画像を受信するステップであって、前記X線投影画像は、前記関心領域に対するX線イメージングシステムの複数の異なる視点からの前記関心領域を表す、受信するステップと、
前記X線投影画像をニューラルネットワークに入力するステップと、
前記入力するステップに応答して、前記X線投影画像の各々の予測画像視点スコア値を生成するステップと、
を含み、
前記ニューラルネットワークは、前記X線投影画像の前記予測画像視点スコア値を生成するようにトレーニングされている、コンピュータ実施方法。
【請求項2】
前記ニューラルネットワークは更に、前記予測画像視点スコア値の各々の信頼値を生成し、前記コンピュータ実施方法は更に、前記信頼値を出力するステップを含む、請求項1に記載のコンピュータ実施方法。
【請求項3】
前記X線投影画像は、前記被検者内の前記関心領域に対する前記X線イメージングシステムの対応する視点からの前記関心領域を表し、前記コンピュータ実施方法は更に、
前記関心領域を表す3D X線画像を受信するステップと、
受信した前記X線投影画像の各々に対して、
前記3D X線画像内の前記関心領域に対する前記X線イメージングシステムの視点を提供するために、前記3D X線画像内の前記関心領域を前記X線画像内の前記関心領域と位置合わせするステップと、
前記3D X線画像内の前記関心領域に対する前記X線イメージングシステムの前記視点に基づいて、前記3D X線画像から解析的画像視点スコア値を計算するステップであって、前記解析的画像視点スコア値は、次のメトリック:前記関心領域内の複数の特徴間の重なりの程度、前記関心領域内の1つ以上の特徴のフォアショートニング、及び前記関心領域内の1つ以上のアーチファクトの存在、のうちの1つ以上に基づいて、前記3D X線画像から計算される、計算するステップと、
前記X線投影画像の組み合わされた画像視点スコア値を提供するために、前記解析的画像視点スコア値と、前記予測画像視点スコア値とを組み合わせるステップと、
を含む、請求項1又は2に記載のコンピュータ実施方法。
【請求項4】
前記解析的画像視点スコア値は、複数のメトリックに基づいて計算され、前記メトリックには、前記解析的画像視点スコア値への前記メトリックの重要度を定義する対応する重みが含まれ、前記コンピュータ実施方法は更に、
ユーザ入力に基づいて、又はルックアップテーブルから取得される基準値に基づいて、前記解析的画像視点スコア値を計算するために使用する前記重みの値を設定するステップか、
及び/又は、
前記X線投影画像を第2のニューラルネットワークに入力するステップと、
前記入力するステップに応答して、前記X線投影画像の前記重みの予測値を生成するステップと、
前記重みの前記予測値に基づいて、前記解析的画像視点スコア値を計算するために使用される前記重みの値を設定するステップと、
を含み、
前記第2のニューラルネットワークは、前記X線投影画像の前記重みの前記予測値を生成するようにトレーニングされている、請求項3に記載のコンピュータ実施方法。
【請求項5】
前記解析的画像視点スコア値を計算するために使用される前記重みの値は、前記重みの前記予測値に基づいて設定され、前記コンピュータ実施方法は更に、
前記第2のニューラルネットワークをトレーニングするために使用されるトレーニングデータのタイプに基づいて分類されているニューラルネットワークのデータベースから、前記第2のニューラルネットワークを選択するステップを含み、
前記トレーニングデータのタイプは、特定の介入手順用のトレーニングデータ、特定の医師用のトレーニングデータを含む、請求項4に記載のコンピュータ実施方法。
【請求項6】
前記ニューラルネットワーク及び/又は前記第2のニューラルネットワークは更に、前記予測画像視点スコア値及び前記重みの前記予測値の各々の信頼値をそれぞれ生成し、前記コンピュータ実施方法は更に、
前記予測画像視点スコア値に重み付けするために、前記予測画像視点スコア値の前記信頼値を使用するステップと、
前記予測画像視点スコア値と前記解析的画像視点スコア値との両方に重み付けするために、前記予測画像視点スコア値の前記信頼値を使用するステップと、
前記予測画像視点スコア値の前記信頼値が、所定の閾値を上回らない場合、前記予測画像視点スコア値を、前記組み合わされた画像視点スコア値の提供から省略するステップと、
i)前記解析的画像視点スコア値を計算するために使用される前記重みの前記値を、ルックアップテーブルから取得される基準値に基づいて設定するステップか、又は、ii)前記重みの前記予測値に基づいて前記解析的画像視点スコア値を計算するために使用される前記重みの前記値を、所定の閾値との関連での前記予測画像視点スコア値の前記信頼値に基づいて設定するステップかのいずれかをトリガするステップと、
前記解析的画像視点スコア値と前記解析的画像視点スコア値との両方に重み付けするために、前記重みの前記予測値の前記信頼値を使用するステップと、
前記重みの前記予測値の前記信頼値が、所定の閾値を上回らない場合、前記解析的画像視点スコア値を、前記組み合わされた画像視点スコア値の提供から省略するステップと、
のうちの1つ以上を含む、請求項4又は5に記載のコンピュータ実施方法。
【請求項7】
前記複数のX線投影画像は、前記被検者内の前記関心領域に対する前記X線イメージングシステムの対応する視点からの前記関心領域を表し、前記コンピュータ実施方法は更に、
データベースから、前記X線投影画像の解析的画像視点スコアの基準値を取得するステップであって、前記解析的画像視点スコアは、次のメトリック:前記関心領域内の複数の特徴間の重なりの程度、前記関心領域内の1つ以上の特徴のフォアショートニング、及び前記関心領域内の1つ以上のアーチファクトの存在、のうちの1つ以上を表す、取得するステップと、
前記X線投影画像の前記基準解析的画像視点スコア値を出力するステップと、
を含み、
前記解析的画像視点スコアの前記基準値は、前記データベースから、
前記X線投影画像を、基準X線投影画像及び対応する基準解析的画像視点スコア値のデータベースと比較し、
前記X線投影画像と前記データベース内の前記基準X線投影画像との間の類似性を表す類似性メトリックの計算値に基づいて、前記データベースから前記基準解析的画像視点スコア値を選択することによって、
取得される、請求項1から3のいずれか一項に記載のコンピュータ実施方法。
【請求項8】
前記被検者内の前記関心領域のX線投影画像を生成するための前記X線イメージングシステムの後続の視点を決定するステップを更に含み、前記後続の視点は、
前記X線投影画像に対して前記ニューラルネットワークによって生成された前記予測画像視点スコア値及び前記関心領域に対する前記X線イメージングシステムの前記対応する視点、並びに/又は、
受信した前記X線投影画像に対して提供される前記組み合わされた画像視点スコア値及び前記関心領域に対する前記X線イメージングシステムの前記対応する視点、
に基づいて決定される、請求項1から7のいずれか一項に記載のコンピュータ実施方法。
【請求項9】
前記第2のニューラルネットワークは、
前記関心領域を表す1つ以上の3D X線画像を含むボリュメトリックトレーニングデータを受信することと、
各3D X線画像に対する前記X線イメージングシステムの複数の異なる視点において、前記X線イメージングシステムの仮想検出器面上に前記1つ以上の3D X線画像を投影して、複数の合成投影画像を提供することによって、仮想投影画像トレーニングデータを生成することと、
各合成投影画像に対して、前記3D X線画像に対する前記X線イメージングシステムの各対応する視点の解析的画像視点スコア値を計算することであって、前記解析的画像視点スコア値は、次のメトリック:前記関心領域内の複数の特徴間の重なりの程度、前記関心領域内の1つ以上の特徴のフォアショートニング、及び前記関心領域内の1つ以上のアーチファクトの存在、のうちの1つ以上に基づいて、前記3D X線画像から計算され、前記解析的画像視点スコア値を計算するために使用される前記重みの前記値は、初期値に設定される、計算することと、
前記第2のニューラルネットワークのトレーニングに使用するために、所定の選択基準を満たしている解析的画像視点スコア値を有している前記合成投影画像のサブセットを選択することと、
前記合成投影画像の選択された前記サブセットのグラウンドトゥルース画像視点スコア値を受信することと、
各合成投影画像の前記重みの更新された値を生成するために、前記合成投影画像の前記サブセットを前記第2のニューラルネットワークに入力することと、前記重みの前記更新された値で前記合成投影画像について計算された前記解析的画像視点スコア値と、対応する前記グラウンドトゥルース画像視点スコア値との差が停止基準を満たすまで、前記第2のニューラルネットワークのパラメータを調整することと、
によって、前記X線投影画像の前記重みの前記予測値を生成するようにトレーニングされている、請求項4から6のいずれか一項に記載のコンピュータ実施方法。
【請求項10】
前記ニューラルネットワークは、
前記関心領域に対するX線イメージングシステムの異なる視点からの前記関心領域を表す複数のトレーニング投影画像を含むX線投影画像トレーニングデータを受信することであって、前記トレーニング投影画像は、対応するグラウンドトゥルース画像視点スコア値を含む、受信することと、
前記トレーニング投影画像及び前記対応するグラウンドトゥルース画像視点スコア値を、前記ニューラルネットワークに入力することと、
前記ニューラルネットワークによって予測される前記画像視点スコア値と、入力された前記対応するグラウンドトゥルース画像視点スコア値との差が停止基準を満たすまで、前記ニューラルネットワークのパラメータを調整することと、
によって、前記X線投影画像の前記予測画像視点スコア値を生成するようにトレーニングされている、請求項1から9のいずれか一項に記載のコンピュータ実施方法。
【請求項11】
前記ニューラルネットワークは、
前記関心領域を表す1つ以上の3D X線画像を含むボリュメトリックトレーニングデータを受信することと、
各3D X線画像に対する前記X線イメージングシステムの複数の異なる視点において、前記X線イメージングシステムの仮想検出器面上に前記1つ以上の3D X線画像を投影して、複数の合成投影画像を提供することによって、仮想投影画像トレーニングデータを生成することと、
各合成投影画像に対して、前記3D X線画像に対する前記X線イメージングシステムの各対応する視点の解析的画像視点スコア値を計算することであって、前記解析的画像視点スコア値は、次のメトリック:前記関心領域内の複数の特徴間の重なりの程度、前記関心領域内の1つ以上の特徴のフォアショートニング、及び前記関心領域内の1つ以上のアーチファクトの存在、のうちの1つ以上に基づいて、前記3D X線画像から計算される、計算することと、
前記ニューラルネットワークのトレーニングに使用するために、所定の選択基準を満たしている解析的画像視点スコア値を有している前記合成投影画像のサブセットを選択することと、
前記合成投影画像の選択された前記サブセットのグラウンドトゥルース画像視点スコア値を受信することと、
前記合成投影画像の前記サブセット及び前記対応するグラウンドトゥルース画像視点スコア値を、前記ニューラルネットワークに入力することと、
前記ニューラルネットワークによって予測される前記画像視点スコア値と、入力された前記対応するグラウンドトゥルース画像視点スコア値との差が停止基準を満たすまで、前記ニューラルネットワークのパラメータを調整することと、
によって、前記X線投影画像の前記予測画像視点スコア値を生成するようにトレーニングされている、請求項1から9のいずれか一項に記載のコンピュータ実施方法。
【請求項12】
前記解析的画像視点スコア値を計算するために使用される前記重みの値は、前記第2のニューラルネットワークによって生成される、請求項11に記載のコンピュータ実施方法。
【請求項13】
前記トレーニング投影画像又は前記合成投影画像の選択された前記サブセットは、第1の閾値を上回るグラウンドトゥルース画像視点スコア値を有する少なくともいくつかの投影画像と、第2の閾値を下回る少なくともいくつかのグラウンドトゥルース画像視点スコア値とを含む、請求項10又は11に記載のコンピュータ実施方法。
【請求項14】
1つ以上のプロセッサによって実行されると、前記1つ以上のプロセッサに、請求項1から13のいずれか一項に記載のコンピュータ実施方法を実行させる命令を含む、コンピュータプログラム。
【請求項15】
被検者内の関心領域を表すX線投影画像の画像視点スコア値を決定するためのシステムであって、1つ以上のプロセッサを含み、前記1つ以上のプロセッサは、
複数のX線投影画像を受信することであって、前記X線投影画像は、前記関心領域に対するX線イメージングシステムの複数の異なる視点からの前記関心領域を表す、受信することと、
前記X線投影画像をニューラルネットワークに入力することと、
前記入力することに応答して、前記X線投影画像の各々の予測画像視点スコア値を生成することと、
を行い、
前記ニューラルネットワークは、前記X線投影画像の前記予測画像視点スコア値を生成するようにトレーニングされている、システム。
【発明の詳細な説明】
【技術分野】
【0001】
本開示は、X線投影画像の画像視点スコア値を決定することに関する。コンピュータ実施方法、システム、及びコンピュータプログラム製品が開示される。
【背景技術】
【0002】
医療検査では、しばしば、X線投影画像を使用して、関心領域に関する情報を提供する。3DのX線画像と比べて、投影画像、つまり、2D画像は、少ないX線線量で生成できる。しかし、投影画像は、X線経路に沿ってX線減衰が積分され、関心領域に対するX線イメージングシステムの視点、つまり、投影画像内の所望の情報を提供する視野角を見つけることが困難となる可能性がある。
【0003】
例として、動脈瘤コイル塞栓術手順では、通常、血流を減らし、それにより、動脈瘤内の血液が凝固することを可能にするために、動脈瘤の袋の中にワイヤコイルを挿入することを伴う。動脈瘤コイル塞栓術の目的は、過剰充填を回避しつつ、動脈瘤を効果的に治療するために、動脈瘤の袋に十分なコイルを充填することである。動脈瘤を過剰充填すると、動脈瘤が破裂したり、コイル材料が動脈瘤の袋につながっている親血管内に流れ込む可能性がある。動脈瘤コイル塞栓術手順は、通常、X線投影画像を使用して行われる。コイル材料の親血管内への流入を検出するために、放射線技師は、通常、投影画像内で袋と親血管との重なりを最小限に抑えるX線イメージングシステムの視点を見つけようとする。放射線技師はまた、親血管と他の解剖学的構造との重なりを最小限に抑え、また、親血管のフォアショートニングも最小限に抑えるX線イメージングシステムの視点を見つけようとする。
【0004】
投影画像を生成するためにX線イメージングシステムの最適な視点を見つける必要性は、血管処置の域を越えても存在している。別の例として、重度の関節炎において、又は椎間板ヘルニアの除去後に、安定性を回復するために行われる脊椎固定術手順には、椎骨に椎弓根スクリューを配置することを伴うことが多い。スクリューが正しく配置されたことを確認するためには、スクリューのフォアショートニングを最小限に抑えるだけでなく、スクリューと脊髄との重なりを最小限に抑えて、脊髄の損傷が起きないことを確実にするX線イメージングシステムの視点が所望される。更に他の例を整形外科の分野において見出すことができる。この分野では、標的骨構造のフォアショートニングを最小限に抑える一方で、他の解剖学的構造とのその重なりを最小限に抑えるX線イメージングシステムの視点が所望される。したがって、X線イメージングシステムの最適な視点を提供するために、X線投影画像の視点を評価することが有用である可能性がある。
【0005】
X線投影画像を生成するためのX線イメージングシステムの視点の選択に影響を与える因子が多数あるために、トライアルアンドエラーアプローチがしばしば使用され、X線イメージングシステムの最初の有望な視点が、容認できる視点を有する画像が取得されるまで調整される。しかしながら、これは、被検者へのX線線量を増加し、最終的には、ごくわずかにしか改善されていない視点を有する画像を提供する可能性がある。
【0006】
X線イメージングシステムの最適な視点を見つけるためのトライアルアンドエラーアプローチを改善したものは、D.L.Wilson他の「Determining X-ray projections for coil treatments of intracranial aneurysms」(IEEE Transactions on Medical Imaging、第18巻、第10号、973~980頁、1999年10月、doi:10.1109/42.811309)なる名称の文書に説明されている解析アプローチである。この文書では、所望のX線投影を生成する角度を自動的に見つける方法が提示されている。
【発明の概要】
【発明が解決しようとする課題】
【0007】
X線イメージングシステムの最適な視点を見つけること以外に、他の状況でもX線投影画像の視点を評価することも有用である場合がある。例として、医療検査では、関心領域の複数のX線投影画像を収集する必要があることが多い。医療検査の後、収集した画像の多くは、それらが提供する情報は他の画像において重複しているため、ほとんど役に立たない。データ保存要件を制限するために、所定の基準を満たしている視点を有する画像のみをアーカイブすることが有益である。しかし、これらの画像の手動解析は時間がかかる。
【0008】
したがって、X線投影画像の視点の評価において改善の余地がある。
【課題を解決するための手段】
【0009】
本開示の一態様によれば、被検者内の関心領域を表すX線投影画像の画像視点スコア値を決定するコンピュータ実施方法が提供される。この方法は、
複数のX線投影画像を受信するステップであって、X線投影画像は、関心領域に対するX線イメージングシステムの複数の異なる視点からの関心領域を表す、受信するステップと、
X線投影画像をニューラルネットワークに入力するステップと、
入力するステップに応答して、X線投影画像の各々の予測画像視点スコア値を生成するステップと、
を含み、ニューラルネットワークは、X線投影画像の予測画像視点スコア値を生成するようにトレーニングされている。
【0010】
予測画像視点スコア値は、X線画像の視点の品質の指標を提供する。予測画像視点スコア値は、様々な目的に使用できる。例えばどの入力X線投影画像が容認できる視点を提供しているのか、したがって、更なるX線画像を収集するために、X線イメージングシステムのどの視点を使用するのかを決定するために使用できる。予測画像視点スコア値はまた、どの入力X線画像をアーカイブするかを決定するために使用できる。
【0011】
本開示の更なる態様、特徴、及び利点は、添付図面を参照して行われる実施例の以下の説明から明らかになるであろう。
【図面の簡単な説明】
【0012】
【
図1】
図1は、本開示のいくつかの態様に従って、X線投影画像の画像視点スコア値を決定する方法の実施例を示すフローチャートである。
【
図2】
図2は、本開示のいくつかの態様に従って、X線投影画像の画像視点スコア値を決定するためのシステム100の実施例を示す概略図である。
【
図3】
図3は、本開示のいくつかの態様に従って、ニューラルネットワークNN1を使用してX線投影画像の画像視点スコア値s
1を決定する方法の実施例を示す概略図である。
【
図4】
図4は、本開示のいくつかの態様に従って、X線投影画像の組み合わされた画像視点スコア値s’を決定する方法の実施例を示す概略図である。
【
図5A】
図5Aは、本開示のいくつかの態様に従って、被検者220内の関心領域120に対する投影X線イメージングシステム130の視点(被検者の長手方向軸の周りの投影X線イメージングシステム130の中心光線の回転角aを含む)を示す概略図である。
【
図5B】
図5Bは、本開示のいくつかの態様に従って、被検者220内の関心領域120に対する投影X線イメージングシステム130の視点(被検者220の頭蓋-頭尻軸に対する投影X線イメージングシステム130の中心光線の傾斜角bを含む)を示す概略図である。
【
図6】
図6は、本開示のいくつかの態様に従って、X線投影画像の解析的画像視点スコア値を決定するために第2のニューラルネットワークNN2をトレーニングする方法の実施例を示すフローチャートである。
【
図7】
図7は、本開示のいくつかの態様に従って、X線投影画像の解析的画像視点スコア値s
2の計算に使用するメトリックC
1…nの重みl
1…nの値を予測するために第2のニューラルネットワークNN2をトレーニングする方法の実施例を示す概略図である。
【
図8】
図8は、本開示のいくつかの態様に従って、X線投影画像の画像視点スコア値を決定するためにニューラルネットワークNN1をトレーニングする方法の第1の実施例を示すフローチャートである。
【
図9】
図9は、本開示のいくつかの態様に従って、X線投影画像の画像視点スコア値を決定するためにニューラルネットワークNN1をトレーニングする方法の第1の実施例を示す概略図である。
【
図10】
図10は、本開示のいくつかの態様に従って、X線投影画像の画像視点スコア値を決定するためにニューラルネットワークNN1をトレーニングする方法の第2の実施例を示すフローチャートである。
【
図11】
図11は、本開示のいくつかの態様に従って、X線投影画像の画像視点スコア値を決定するためにニューラルネットワークNN1をトレーニングする方法の第2の実施例を示す概略図である。
【
図12】
図12は、本開示のいくつかの態様に従って、出力された画像視点スコア値の例を示す概略図である。
【発明を実施するための形態】
【0013】
以下の説明及び図を参照して、本開示の実施例を提供する。以下の記載では、説明の目的で、いくつかの実施例の多くの具体的な詳細が示されている。本明細書における「実施例」、「実装形態」、又は類似の用語への参照は、実施例に関連して説明された特徴、構造、又は特性が少なくともその1つの実施例に含まれていることを意味する。更に、1つの実施例に関連して説明されている特徴が別の実施例でも使用される可能性があり、また、簡潔さのために各実施例で全ての特徴が必ずしも重複しているとは限らないことも理解されるものとする。例えば、コンピュータ実施方法に関連して説明される特徴は、コンピュータプログラム製品及びシステムにおいて対応する態様で実施され得る。
【0014】
以下の説明では、被検者内の関心領域を表すX線画像の画像視点スコア値を決定することを伴うコンピュータ実施方法の実施例を参照する。血管造影画像の形であるX線投影画像の実施例について参照する。ここで、関心領域は、脳内の動脈瘤である。血管造影画像は、デジタルサブトラクション血管造影(DSA)などの血管造影技術を使用して生成できる。血管造影画像、つまり、造影剤を使用して生成される画像は、通常、動脈瘤など、脈管構造内の関心領域を視覚化するために使用される。しかし、これらの血管造影画像は例にすぎず、本明細書に開示するコンピュータ実施方法は、蛍光画像などの他のタイプのX線投影画像や、脈管構造以外の関心領域を表す画像とも使用できることが理解されるものとする。したがって、コンピュータ実施方法は、X線投影画像全般の画像視点スコア値を決定するために使用でき、この方法の使用は、動脈瘤を含むX線画像や脳の画像に限定されないことが理解されるものとする。
【0015】
なお、本明細書に開示するコンピュータ実施方法は、コンピュータ可読命令が記憶された非一時的コンピュータ可読記憶媒体として提供されてもよい。コンピュータ可読命令は、少なくとも1つのプロセッサによって実行されると、当該少なくとも1つのプロセッサに上記方法を実行させる。つまり、コンピュータ実施方法は、コンピュータプログラム製品内に実装され得る。コンピュータプログラム製品は、専用ハードウェア、又は適切なソフトウェアと関連してソフトウェアを実行できる専用ハードウェアによって提供可能である。プロセッサによって提供される場合、方法の特徴の機能は、単一の専用プロセッサ、単一の共有プロセッサ、又は複数の個別のプロセッサ(そのうちのいくつかは共有されていてもよい)によって提供され得る。例えば、方法特徴のうちの1つ以上の機能は、クライアント/サーバアーキテクチャ、ピアツーピアアーキテクチャ、インターネット、又はクラウドなどのネットワーク化された処理アーキテクチャ内で共有されるプロセッサによって提供され得る。
【0016】
「プロセッサ」又は「コントローラ」という用語の明示的な使用は、ソフトウェアを実行できるハードウェアのみを指していると解釈するべきではなく、暗黙的に、デジタル信号プロセッサ(DSP)ハードウェア、ソフトウェアを記憶するための読み取り専用メモリ(ROMA)、ランダムアクセスメモリ(RAM)、不揮発性ストレージデバイスなどを含むが、これらに限定されない。更に、本開示の実施例は、コンピュータ使用可能記憶媒体又はコンピュータ可読記憶媒体からアクセス可能なコンピュータプログラム製品の形を取ってもよく、コンピュータプログラム製品は、コンピュータ若しくは任意の命令実行システムによる使用又はそれらに関連しての使用のためのプログラムコードを提供する。この説明の目的では、コンピュータ使用可能記憶媒体又はコンピュータ可読記憶媒体とは、命令実行システム、装置、若しくはデバイスによる使用又はそれらに関連しての使用のためのプログラムの保存、通信、伝播、若しくは輸送を含む任意の装置であり得る。媒体には、電子的、磁気的、光学的、電磁的、赤外線による、又は半導体によるシステム、デバイス、又は伝播媒体がある。コンピュータ可読媒体の例としては、半導体若しくはソリッドステートメモリ、磁気テープ、リムーバブルコンピュータディスク、ランダムアクセスメモリ(RAM)、読み取り専用メモリ(ROM)、剛体磁気ディスク及び光ディスクがある。光ディスクの現在の例としては、コンパクトディスク-読み取り専用メモリ(CD-ROM)、コンパクトディスク-読み取り/書き込み(CD-R/W)、Blue-Ray(登録商標)、及びDVDがある。
【0017】
前述のように、様々な状況においてX線投影画像の視点を評価することが有用である。
【0018】
そのような状況の一例は、動脈瘤コイル塞栓術手順に関する。動脈瘤コイル塞栓術の目的は、過剰充填を回避しつつ、動脈瘤を効果的に治療するために、動脈瘤の袋に十分なコイルを充填することである。コイル材料の親血管内への流入を検出するために、放射線技師は、通常、投影画像内で袋と親血管との重なりを最小限に抑えるX線イメージングシステムの視点を見つけようとする。放射線技師はまた、親血管と他の解剖学的構造との重なりを最小限に抑え、また、親血管のフォアショートニングも最小限に抑えるX線イメージングシステムの視点を見つけようとする。親血管がはっきりと見えるようにするために、親血管と他の解剖学的構造との重なりを最小限に抑えることが望ましい。コイルワイヤの長手方向軸が視野角と揃った場合に、血管内のワイヤの大部分を見落とす可能性があるため、フォアショートニングを最小限に抑えることが望ましい。
【0019】
X線投影画像の視点を評価することが有用である別の状況は、画像アーカイビングに関する。医療検査では、関心領域の複数のX線投影画像を収集する必要があることが多い。医療検査の後、収集した画像の多くは、それらが提供する情報は他の画像で重複しているため、ほとんど役に立たない。データ保存要件を制限するために、関心領域の所望の視点を提供する画像のみをアーカイブすることが有益である。しかし、これらの画像の手動解析は時間がかかる。
【0020】
他の状況においてもX線投影画像の視点を評価することが有用である。
【0021】
図1は、本開示のいくつかの態様に従って、X線投影画像の画像視点スコア値を決定する方法の実施例を示すフローチャートである。
図2は、本開示のいくつかの態様に従って、X線投影画像の画像視点スコア値を決定するためのシステム100の実施例を示す概略図である。
図1に示す方法に関連して説明する操作は、
図2に示すシステム100によっても行われる。同様に、システム100に関連して説明する操作は、
図1を参照して説明する方法においても行われる。
【0022】
図1を参照して、被検者内の関心領域120を表すX線投影画像110の画像視点スコア値s
1を決定するコンピュータ実施方法が提供される。この方法は、
複数のX線投影画像110を受信すること(S110)であって、X線投影画像は、関心領域に対するX線イメージングシステム130の複数の異なる視点からの関心領域120を表す、受信すること(S110)と、
X線投影画像をニューラルネットワークNN1に入力すること(S120)と、
入力することに応答して、X線投影画像の各々の予測画像視点スコア値s
1を生成すること(S130)と、
を含み、ニューラルネットワークNN1は、X線投影画像の予測画像視点スコア値s
1を生成するようにトレーニングされている。
【0023】
上記の方法はまた、
図3を参照して説明される。
図3は、本開示のいくつかの態様に従って、ニューラルネットワークNN1を使用してX線画像の画像視点スコア値s
1を決定する方法の実施例を示す概略図である。
【0024】
図1~
図3を参照して、操作S110において、複数のX線投影画像110が受信される。X線投影画像110は、X線イメージングシステムによって生成される。X線投影画像110は、2D X線画像を生成する投影X線イメージングシステムによって生成されてもよい。投影X線イメージングシステムは、通常は、X線源-検出器配置を支える、いわゆる「Cアーム」又は「Oアーム」などの支持アームを含む。或いは、投影X線イメージングシステムは、これらの例とは異なる形状の支持アームを含む場合もある。投影X線イメージングシステムは、通常、画像データの収集中、イメージング領域に対して静的位置に保持される支持アームを用いて投影X線画像を生成する。X線投影画像は、例えば、
図2に示す投影X線イメージングシステム130によって生成される場合もある。例として、フィリップス・ヘルスケア・ベスト(オランダ)から市販されているフィリップスAzurion7 X線イメージングシステムによって血管造影画像が生成されてもよい。
【0025】
操作S110において受信されるX線投影画像110は、血管造影画像であっても、例えば、蛍光画像、つまり、ライブ画像であってもよい。血管造影投影画像は、デジタルサブトラクション血管造影(DSA)技術を使用して生成できる。この技術では、各画像は、画像から背景画像の対応するピクセル強度を差し引くことで生成される。或いは、操作S110において受信されるX線投影画像110は、ボリュメトリックX線イメージングシステムによって生成される3D X線画像(3D血管造影図など)を、異なる視点で投影することによって生成される合成投影画像であってもよい。投影X線イメージングシステムと対照的に、ボリュメトリックX線イメージングシステムは、通常、イメージング領域の周りでX線源-検出器配置を回転又はステッピングさせながら画像データを生成し、その後、複数の回転角から取得した画像データを3D画像、つまり、ボリュメトリック画像に再構成する。ボリュメトリックX線イメージングシステムの例としては、コンピュータ断層撮影(CT)イメージングシステム、コーンビームCT(CBCT)イメージングシステム、スペクトルCTイメージングシステムが挙げられる。3D血管造影図は、投影剤を使用してイメージング操作を行うことによってボリュメトリックイメージングシステムから生成できる。合成投影画像は、3D X線画像に対するX線源-検出器配置の視点に基づいて、3D X線画像を仮想検出器上に投影することによって、3D X線画像から生成できる。
【0026】
操作S110において受信されるX線投影画像110は、
図2に示す投影X線イメージングシステム130などのX線イメージングシステム、コンピュータ可読記憶媒体、インターネット、又はクラウドなどから受信される。X線投影画像は、
図2に示す1つ以上のプロセッサ210によって受信される。X線投影画像は、有線通信、光学通信、及びワイヤレス通信など任意の形式のデータ通信を介して受信される。いくつかの例として、有線又は光学通信を使用する場合は、通信は、電気ケーブル又は光ケーブルを送信される信号を介して行われ、ワイヤレス通信を使用する場合は、通信は、例えばRF信号又は光学信号を介したものである。
【0027】
操作S110において受信されるX線投影画像110は、関心領域に対するX線イメージングシステムの複数の異なる視点、つまり、向きからの関心領域120を表す。この点に関して、X線投影画像は、
図2に示す投影X線イメージングシステム130の視点、つまり、向きを、異なる視点、つまり、向きに調整し、各視点、つまり、向きにおいてX線投影画像を生成することによって生成される。調整は、被検者の頭蓋-頭尻軸の周り及び/又は例えば、被検者の長手方向軸の周りでX線イメージングシステムの視点をステッピングすることによって行われる。
【0028】
操作S120では、X線投影画像がニューラルネットワークNN1に入力される。ニューラルネットワークNN1は、X線投影画像の予測画像視点スコア値s1を生成するようにトレーニングされている。予測画像視点スコア値s1は、X線投影画像の視点の品質の主観的評価を提供する。主観的評価は、ニューラルネットワークNN1をトレーニングするために使用されるグラウンドトゥルーストレーニングデータに依存する。高品質の視点は、例えば、関心領域が画像内の他の特徴から切り離されているX線投影画像に関連付けられる。高品質の視点はまた、関心領域の一部のフォアショートニングの量が少ないX線投影画像に関連付けられる。高品質の視点はまた、混同する特徴からのアーチファクトがほとんどないX線投影画像に関連付けられる。これらの因子が予測画像視点スコア値s1に影響を及ぼす程度は、ニューラルネットワークNN1をトレーニングするために使用されるグラウンドトゥルーストレーニングデータによって異なり、したがって、予測画像視点スコア値s1は、X線投影画像の視点の品質の主観的評価を提供する。ニューラルネットワークNN1のトレーニングに関する更なる詳細を以下に提供する。
【0029】
操作S130では、ニューラルネットワークNN1へのX線投影画像の入力に応答して、各X線投影画像の予測画像視点スコア値s
1が生成される。予測画像視点スコア値s
1は様々な形式で出力される。一例では、画像視点スコア値s
1は、各X線投影画像に対してグラフによって出力される。このようなグラフ出力の一例を、
図3の右側の部分に示す。出力された画像視点スコア値の別の例を
図12に示す。
図12は、本開示のいくつかの態様に従って、出力された画像視点スコア値の例を示す概略図である。
図12に示す例では、画像視点スコアは、対応するX線投影画像と一緒に出力される。ユーザは、
図3及び
図12に示すグラフから、どの画像が最も高い画像視点スコア値を有しているのかをすぐにわかる。或いは、予測画像視点スコア値s
1は、例えば、各画像内に数値指標又はグラフィック指標を提供するなど、他の形式で出力されてもよい。
【0030】
したがって、予測画像視点スコア値s
1は、X線投影画像の視点の品質の主観的評価を提供する。予測画像視点スコア値s
1は様々な目的に使用できる。例えば、どの入力画像が容認できる視点を有しているのか、したがって、更なるX線投影画像を生成するために、X線イメージングシステムのどの視点を使用するのかを決定するために使用できる。予測画像視点スコア値s
1はまた、どの入力X線投影画像をアーカイブするかを選択するために使用できる。一例では、
図1を参照して説明した方法は、最も高い予測画像視点スコア値を有するX線投影画像及び/又は関心領域に対するX線イメージングシステムの対応する視点を特定することを含む。
【0031】
ニューラルネットワークNN1は、予測画像視点スコア値s
1の各々の信頼値u
1を生成することもできる。一例では、
図1を参照して説明した方法は、信頼値u
1を出力することも含む。信頼値は、画像視点スコア値s
1と同様に出力される。信頼値は、ニューラルネットワークNN1によって行われた予測の信頼度を表し、視点スコア値s
1に基づいて、決定を下すことを可能にする。例えば、信頼度が低い場合、予測画像視点スコア値s
1に依存しないと決定できる。一例では、予測画像視点スコア値s
1の信頼値を使用して、予測画像視点スコア値s
1に重み付けすることができる。
【0032】
ニューラルネットワークの予測に関連して信頼値を生成するための技術の例は、Ramalho,T他の「Density eatimation in representation space to predict model uncertainty」(https://arxiv.org/pdf/1908.07235.pdf)なる名称の文書に開示されている。この技術に従ってニューラルネットワークNN1をトレーニングして信頼値を生成する。これにより、ニューラルネットワークNN1に、トレーニングデータセットと非常に異なる画像が提示されると、ニューラルネットワークNN1は、これを認識して、低信頼値を出力することができる。この文書に説明されている技術は、表現空間におけるトレーニングデータ密度を推定し、かつ、入力とトレーニングセットにおけるそれに最も近い近傍との間の表現空間における距離を測定することによって、トレーニングされたネットワークが、入力に対して正しい予測をすることが予想されるかどうかを判断することによって、信頼値を生成する。別の技術を使用して、ニューラルネットワークNN1の予測に関連付けられた信頼値を生成することもできる。例えば、ドロップアウト技術を使用できる。ドロップアウト技術では、同じデータをニューラルネットワークに反復して入力し、各反復において、ニューラルネットワークからニューロンの一部をランダムに排除しながら、ニューラルネットワークの出力を決定することを伴う。次に、ニューラルネットワークの出力を解析して、平均値及び分散値を提供する。平均値は、最終出力を表し、分散の大きさは、ニューラルネットワークがその予測において整合性がある(この場合、分散は小さい)か、整合性がない(この場合、分散は大きい)かを示す。
【0033】
一実施例では、解析的画像視点スコア値s
2が、受信したX線投影画像の各々に対して生成される。解析的画像視点スコア値s
2は、各X線投影画像の視点の品質の客観的評価を提供する。この実施例では、解析的画像視点スコア値s
2は、予測画像視点スコア値s
1と組み合わされて、各X線投影画像に対して組み合わされた画像視点スコア値を提供する。この実施例は、
図4を参照して説明する。
図4は、本開示のいくつかの態様に従って、X線投影画像の組み合わされた画像視点スコア値s’を決定する方法の実施例を示す概略図である。
【0034】
図4を参照すると、この実施例では、X線投影画像は、被検者内の関心領域に対するX線イメージングシステムの対応する視点a、bからの関心領域を表し、
図1を参照して上で説明した方法は、
関心領域120を表す3D X線画像140を受信することと、
受信したX線投影画像110の各々に対して
3D X線画像140内の関心領域に対するX線イメージングシステム130の視点a、bを提供するために、3D X線画像140内の関心領域をX線投影画像内の関心領域と位置合わせすることと、
3D X線画像140内の関心領域に対するX線イメージングシステム130の視点a、bに基づいて、3D X線画像140からの解析的画像視点スコア値s
2を計算することであって、解析的画像視点スコア値s
2は、次のメトリックC
1…n:関心領域内の複数の特徴間の重なりの程度、関心領域内の1つ以上の特徴のフォアショートニング、及び関心領域内の1つ以上のアーチファクトの存在、のうちの1つ以上に基づいて、3D X線画像140から計算される、計算することと、
X線投影画像の組み合わされた画像視点スコア値s’を提供するために、解析的画像視点スコア値s
2と、予測画像視点スコア値s
1とを組み合わせることと、を含む。
【0035】
X線投影画像の視点の品質の主観的評価を提供する予測画像視点スコア値s1と対照的に、解析的画像視点スコア値s2は、X線投影画像の視点の品質の客観的評価を提供する。解析的画像視点スコア値s2と予測画像視点スコア値s1との両方に依存する組み合わされた画像視点スコア値s’を提供することにより、組み合わされた画像視点スコア値s’は、ニューラルネットワークNN1のトレーニングを介して導入された予測画像視点スコア値s1の主観的バイアスが、客観的な解析的画像視点スコア値s2によって補償される評価を提供する。
【0036】
この実施例では、X線投影画像は、被検者内の関心領域に対するX線イメージングシステムの対応する視点a、bからの関心領域を表している。視点は、例えば、被検者の長手方向軸の周りのX線イメージングシステムの中心光線の回転角aと、被検者220の頭蓋-頭尻軸に対するX線イメージングシステムの中心光線の傾斜角bとによって画定される。このような視点の一例を、
図5A及び
図5Bに示している。
図5Aは、本開示のいくつかの態様に従って、被検者220内の関心領域120に対する投影X線イメージングシステム130の視点(被検者の長手方向軸の周りの投影X線イメージングシステム130の中心光線の回転角aを含む)を示す概略図である。
図5Bは、本開示のいくつかの態様に従って、被検者220内の関心領域120に対する投影X線イメージングシステム130の視点(被検者220の頭蓋-頭尻軸に対する投影X線イメージングシステム130の中心光線の傾斜角bを含む)を示す概略図である。
【0037】
この実施例では、関心領域120を表す3D X線画像140が受信される。3D X線画像は、ボリュメトリックイメージングシステムを使用して生成できる。X線投影画像について上で説明したように、3D X線画像は3D血管造影画像であってもよい。3D血管造影画像は、デジタルサブトラクション血管造影技術などを使用して生成できる。
【0038】
この実施例では、3D X線画像は、
図1に示す1つ以上のプロセッサ210によって受信される。3D X線画像は、一般に、ボリュメトリックX線イメージングシステム、コンピュータ可読記憶媒体、インターネット、又はクラウドなどから受信される。3D X線画像140は、X線投影画像110について上で説明されたように、任意の形式のデータ通信を介して受信される。
【0039】
この実施例では、3D X線画像140内の関心領域に対するX線イメージングシステムの視点a、bを提供するために、3D X線画像140内の関心領域は、各X線投影画像内の関心領域と位置合わせされる。この位置合わせは、3D X線画像140を生成するボリュメトリックイメージングシステム及びX線投影画像110を生成する投影X線イメージングシステムの各々の、被検者に対する既知の視点に基づいて行われる。或いは、この位置合わせは、画像位置合わせの分野から知られているように、3D X線画像に対するX線イメージングシステムの異なる視点での3D X線画像140の合成視点が生成され、マッチする画像を提供する視点が見つかるまでX線投影画像と比較される画像マッチング技術を使用して行われてもよい。前者の場合、3D X線画像140は、再構成されるときに、ボリュメトリックイメージングシステムの向きに対して再構成されるため、被検者に対する3D X線画像140を生成するボリュメトリックイメージングシステムの視点は、通常既知である。3D X線画像の生成中、被検者は患者台に横たわり、ボリュメトリックイメージングシステムに対する患者ベッドの向きは既知であるため、ボリュメトリックイメージングシステムに対する被検者の向きも既知である。同様に、X線投影画像が生成されるとき、被検者に対する、X線投影画像110を生成する投影X線イメージングシステムの視点は既知である。ここでも、患者は患者ベッドに横たわるからである。また、上記の視点パラメータa及びbに関して、各X線投影画像について、患者ベッドに対するX線イメージングシステムの視点は通常記録される。したがって、この操作において行われる位置合わせは、3D X線画像内の被検者の向きと、各X線投影画像内の被検者の向きとをマッチングすることによって実行できる。
【0040】
この実施例では、各X線投影画像の解析的画像視点スコア値s
2は、3D X線画像140から、また、3D X線画像140内の関心領域に対するX線イメージングシステムの視点a、bに基づいて、計算される。3D X線画像140内の関心領域に対するX線イメージングシステムの視点a、bは、上記の位置合わせを使用して決定される。これは、X線投影画像用のX線イメージングシステムの視点a、bが解析的スコアリングモジュール(ASM)に入力されることによって、
図4に示されている。ASMは、この入力された視点を使用して、3D X線画像140から解析的画像視点スコア値s
2を計算して、位置合わせを介して、3D X線画像140内の関心領域に対するX線イメージングシステムの視点a、bを提供する。ASMの機能は、
図2に示すプロセッサなどの1つ以上のプロセッサによって提供され得る。
【0041】
解析的画像視点スコア値s2は、次のメトリックC1…n:関心領域内の複数の特徴間の重なりの程度、関心領域内の1つ以上の特徴のフォアショートニング、及び関心領域内の1つ以上のアーチファクトの存在、のうちの1つ以上の値に基づいて、3D X線画像から計算される。
【0042】
このような解析的画像視点スコア値を計算するための技術は、D.L.Wilson他の「Determining X-ray projections for coil treatment of intracranial aneurysms」(IEEE Transactions on Medical Imaging、第18巻、第10号、973~980頁、1999年10月、doi:10.1109/42.811309)なる名称の文書に説明されている。この文書では、所望のX線投影を生成する角度を自動的に見つける方法が提示されている。上記の重なりやフォアショートニングなどの因子を計算するためのアルゴリズムが提示されている。このアルゴリズムは、i)関心領域及び周囲の解剖学的構造の離散的に画定された3Dセグメンテーションと、ii)X線イメージングシステムの幾何学的及びイメージングパラメータのモデルとを、入力として使用する。
【0043】
脳動脈瘤である関心領域120を含む3D X線画像の解析的画像視点スコア値s2の計算の一例を以下に示す。まず、動脈瘤の袋と、動脈瘤に栄養を与える親血管とにボクセルを割り当てるために、動脈瘤の3D X線画像のセグメンテーションが行われる。次に、3D X線画像に対するX線イメージングシステムの複数の異なる視点において、3D X線画像のシミュレートされた2D投影が生成される。各視点において、画像視点メトリックの値が計算される。画像視点メトリックの例としては、親血管と重なるいくつかの動脈瘤の袋のボクセルに基づいて決定される重なりメトリックが挙げられる。重なりメトリックの値は、X線イメージングシステムのX線源から、3D X線画像を通り、X線イメージングシステムのX線検出器に仮想光線を投影し、親血管ボクセルと重なる動脈瘤の袋のボクセルの数を数えることによって計算される。通常、動脈瘤の袋と親血管との重なりのないビューを提供することが望ましいため、重なり基準は、重なりメトリックの値を最小限に抑えるべきである。
【0044】
同様に、血管の一部に対するフォアショートニングメトリックを、X線イメージングシステムのX線源から、3D X線画像を通り、X線検出器に仮想光線を投影し、X線検出器に投影された血管の一部の平均強度の値を計算することによって計算できる。血管の軸がX線検出器面と平行であるとき、X線検出器での血管の見かけの断面積は最大であるため、フォアショートニングメトリックの値は最小である。血管の軸がX線検出器面から離れて傾斜するにつれて、フォアショートニングメトリックの値は、血管の一部の軸が仮想光線の経路と揃う(この視点では、フォアショートニングメトリックの値は最大)まで、X線検出器での血管の見かけの断面積の減少、及び仮想X線の経路に沿った造影剤の積分量の増加に起因して、増加する。通常、親血管が検出器平面と平行であるように親血管を見ること、つまり、フォアショートニングを最小限に抑えることが所望されるため、フォアショートニング基準は、動脈瘤の親血管のフォアショートニングメトリックの値を最小限に抑えるべきである。
【0045】
同様に、関心領域内の1つ以上のアーチファクトの存在を検出して、アーチファクトメトリックの値を計算できる。例として、アーチファクトメトリックは、関心領域と、投影画像内の混同する特徴との重なりを表す。関心領域が動脈瘤である実施例では、X線投影画像内に存在し得る混同する特徴の例としては、頭蓋骨の影や、歯科インプラントや歯牙充填からの金属アーチファクトが挙げられる。通常、関心領域の明瞭さを最適化することが望ましいため、アーチファクト基準は、アーチファクトメトリックの値を最小限に抑えるべきである。
【0046】
重なりメトリック、フォアショートニングメトリック、アーチファクトメトリックなどのメトリックは、X線投影画像の視点の品質の客観的な評価を提供し、単独に又は組み合わせて使用して、解析的画像視点スコア値s2を提供できる。複数のメトリックC1…nを使用して、解析的画像視点スコア値s2が計算される場合、メトリックは、解析的画像視点スコア値s2へのメトリックの重要度を定義する対応する重みl1…nを含んでいてもよい。
【0047】
例えば、関心領域が側壁動脈瘤である場合、また、単純さのために、解析的画像視点スコア値s
2は、2つのメトリックC
1及びC
2のみに基づいていると仮定する(メトリックは、動脈瘤の袋と親血管との重なりC
1と、親血管のフォアショートニングC
2とを含む)と、解析的画像視点スコア値s
2は、次式を使用して、メトリックC
1及びC
2から求められる:
s
2=λ
1C
1+λ
2C
2 (式1)
式中、C
1及びC
2は、重なりメトリック及びフォアショートニングメトリックを表す。メトリックは、この式を使用して、
図4に示す解析的スコアリングモジュールASMによって計算できる。この実施例では、重みl
1は、l
2よりも大きいものとして選択される。これは、大きな重なりは、フォアショートニングよりも視点の品質に、より有害であると予想されるためである。
【0048】
重なり基準、フォアショートニング基準、アーチファクト基準などの基準も単独に又は組み合わせて使用して、最適化された解析的画像視点スコア値s2を計算して、関心領域の最適なビューを提供する。例えば、式1では、メトリックC1を最小限に抑えることが望ましく(これは、親血管へのコイルの移動の最適な検出を提供する)、また、メトリックC2も最小限に抑えることが望ましい(これは、接続している動脈から動脈瘤の袋の中へのコイルの挿入の最適なビューを提供する)。
【0049】
この実施例では、X線投影画像の組み合わされた画像視点スコア値s‘を提供するために、解析的画像視点スコア値s2、と、ニューラルネットワークNN1によって生成された予測画像視点スコア値s1とが組み合わされる。こうすることで、ニューラルネットワークNN1のトレーニングを介して導入された予測画像視点スコア値s1の主観的バイアスが、客観的な解析的画像視点スコア値s2によって補償される。
【0050】
解析的画像視点スコア値s2と予測画像視点スコア値s1とは、様々なやり方で組み合わせることができる。例えば、画像視点スコア値s1及びs2に、重み付けすることができる。画像視点スコア値は、X線投影画像に依存する重みで重み付けされてもよいし、重みは固定されていてもよい。例えば、重みは、組み合わされた画像視点スコア値s‘が画像視点スコア値s1及びs2の平均であるように固定されていてもよい。
【0051】
一実施例では、予測画像視点スコア値s1の信頼値u1を使用して、予測画像視点スコア値s1及び解析的画像視点スコア値s2の両方に重み付けする。この実施例では、組み合わされた画像視点スコア値s‘は、次式を使用して計算できる:
s’=u1・s1+(1-u1)・s2 (式2)
式中、u1は、0~1の範囲にある。したがって、予測画像視点スコア値s1の信頼値u1が高い場合、これらを使用して、解析的画像視点スコア値s2よりも予測画像視点スコア値s1により高い重みを付ける。
【0052】
いくつかの例として、ある状況では、X線投影画像110は、ニューラルネットワークNN1をトレーニングするために使用するトレーニングデータと非常に類似する外観又は特徴を有する場合がある。この状況では、ニューラルネットワークNN1は、高い信頼値u1で、X線投影画像110の画像視点スコア値s1を予測することが予想される。例えば、u1=0.9で、画像視点スコア値s1に依存できることを示す。この状況では、組み合わされた画像視点スコア値は、s’=0.9・s1+0.1・s2として計算される。別の状況では、X線投影画像110は、ニューラルネットワークNN1をトレーニングするために使用するトレーニングデータと共通する特徴がほとんどない場合がある。この状況では、ニューラルネットワークNN1の信頼値は、例えば、u1=0.1であり、したがって、組み合わされた画像視点スコア値は、s’=0.1・s1+0.9・s2として計算される。別の状況では、X線投影画像110は、ニューラルネットワークNN1をトレーニングするために使用するトレーニングデータと多少の類似性ある場合がある。この状況では、ニューラルネットワークNN1の信頼値は、例えば、u1=0.5であり、組み合わされた画像視点スコア値は、s’=0.5・s1+0.5・s2として、つまり、予測画像視点スコア値s1と解析的画像視点スコア値s2との平均として計算される。このように予測画像視点スコア値s1の信頼値u1を使用して、予測画像視点スコア値s1及び解析的画像視点スコア値s2の両方に重み付けすることは、信頼性の低い画像視点スコア値s1への過度の依存を回避する。
【0053】
一実施例では、予測画像視点スコア値s1は、組み合わされた画像視点スコア値s’の計算から省略されてもよい。例えば、予測画像視点スコア値s1の信頼値が、所定の閾値を上回らない場合、予測画像視点スコア値s1は、組み合わされた画像視点スコア値の計算から省略される。これは、例えば、式2におけるs1の値をゼロに設定することによって達成できる。こうすることで、信頼性の低い予測画像視点スコア値s1への過度の依存も回避される。
【0054】
前述のように、解析的画像視点スコア値s2は、複数のメトリックC1…nに基づいて計算される。例えば、解析的画像視点スコア値s2は、重なりメトリック、フォアショートニングメトリックに基づいて、また、他のメトリックにも基づいて計算される。そのような場合、メトリックには、解析的画像視点スコア値s2へのメトリックの重要度を定義する対応する重みl1…nが含まれている場合がある。これらの重みl1…nの値を設定するために様々な技術を使用することが企図されている。例えば、重みl1…nの値は、ユーザ入力に基づいて、又は、ルックアップテーブルから取得した基準値に基づいて設定できる。しかし、重みl1…nの値を設定するタスクは簡単ではない。これは、実際の状況では、それらの値は、臨床手順、X線画像内の特定の関心領域(動脈瘤の種類など)等の因子だけでなく、ユーザの優先傾向などの主観的な因子にも依存するためである。したがって、個々のX線投影画像の重みl1…nの値を、効率的かつ信頼度が高く設定することが有利である。
【0055】
一実施例では、重みl
1…nの値は、ニューラルネットワークを使用して、各X線投影画像に対して設定される。この実施例では、解析的画像視点スコア値s
2は複数のメトリックに基づいて計算され、メトリックには、解析的画像視点スコア値s
2へのメトリックの重要度を定義する対応する重みl
1…nが含まれており、
図1を参照して説明した方法は、
X線投影画像を第2のニューラルネットワークNN2に入力することと、
入力することに応答して、X線投影画像の重みl
1…nの予測値を生成することと、
重みl
1…nの予測値に基づいて、解析的画像視点スコア値s
2を計算するために使用される重みl
1…nの値を設定することと、
を含み、第2のニューラルネットワークNN2は、X線投影画像の重みl
1…nの予測値を生成するようにトレーニングされている。
【0056】
このように重みl1…nの値を設定することは、信頼性の高い解析的画像視点スコア値s2を効率的に提供すると考えられる。更に、これは、個々の画像の重みを手動で設定する負担や、重みを固定値に設定することから生じる制限を克服する。
【0057】
この実施例は、
図4に関連して説明したやり方と同様に動作し、各X線投影画像110を第2のニューラルネットワークNN2に入力し、重みl
1…nの値を設定するために、第2のニューラルネットワークNN2の出力を使用する追加の操作を更に含む。これらの重みを設定するためにニューラルネットワークを使用することによって、解析的画像視点スコア値s
2の信頼性の高い値を取得できる。第2のニューラルネットワークNN2のトレーニングを以下に詳述する。
【0058】
一実施例では、第2のニューラルネットワークNN2には、解析的画像視点スコア値s
2を計算するために使用される複数のメトリックC
1…nのうちの1つ以上の医師の優先傾向を表す入力データを受信するための追加の入力を含む。これは、「優先傾向」とラベル付けされた第2のニューラルネットワークNN2への入力によって、
図4に示されている。ユーザ入力は、メトリックC
1…nの各々の相対的な重要度を示す場合がある。例えば、医師は、フォアショートニングメトリックよりも重なりメトリックの方を好む場合がある。ユーザ入力は、第2のニューラルネットワークNN2の出力を、ユーザの好むメトリックに向けてバイアスをかけるために使用される場合がある。ユーザ入力は、キーボード、マウス、タッチスクリーンなどのユーザ入力デバイスから入力される。これを使用して、特定のビューに対するユーザの優先傾向を反映するために、組み合わされた画像視点スコア値s’を調整できる。
【0059】
別の実施例では、第2のニューラルネットワークNN2をトレーニングするために使用されるトレーニングデータのタイプに基づいて選択される第2のニューラルネットワークNN2を用いた推論を行うことによって、ユーザの優先傾向が、組み合わされた画像視点スコア値s’に組み込まれる。この実施例では、解析的画像視点スコア値s
2を計算するために使用される重みl
1…nの値は、重みl
1…nの予測値に基づいて設定されており、
図1を参照して説明した方法は、
第2のニューラルネットワークNN2をトレーニングするために使用されるトレーニングデータのタイプに基づいて分類されているニューラルネットワークのデータベースから、第2のニューラルネットワークNN2を選択すること、
を含み、トレーニングデータのタイプには、特定の介入手順用のトレーニングデータ、特定の医師用のトレーニングデータが含まれる。
【0060】
こうすることで、生成される組み合わされた画像視点スコア値s’は、関心領域の特定のビューに対するユーザの優先傾向を反映するように調整される。
【0061】
ニューラルネットワークNN1及びニューラルネットワークNN2をトレーニングするために同じトレーニングデータが使用される場合、ニューラルネットワークNN1によって生成された信頼値u1を使用して、第2のニューラルネットワークNN2を使用して、メトリックC1…nの重みl1…nの値を生成するか、代わりに、ルックアップテーブルからのこれらの重みl1…nの値を使用するかを決定できる。ニューラルネットワークNN1に、そのトレーニングデータとは異なる画像が提示される状況では、ニューラルネットワークNN1の信頼値u1は低いことが予想され、重みの値を提供するためにNN2を使用するのではなく、それをするためにルックアップテーブルを使用することが決定できる。ニューラルネットワークNN1に、そのトレーニングデータとは異なる画像が提示される場合、第2のニューラルネットワークNN2からも信頼性の低い出力がもたらされる可能性が高いため、重みには、第2のニューラルネットワークNN2によって提供される信頼性が低い可能性のある値ではなく、ルックアップテーブルの値に依存するほうがより好ましい。
【0062】
したがって、一実施例では、
図1を参照して説明した方法は、i)解析的画像視点スコア値s
2を計算するために使用される重みl
1…nの値を、ルックアップテーブルから取得される基準値に基づいて設定するか、又は、ii)重みl
1…nの予測値に基づいて解析的画像視点スコア値s
2を計算するために使用される重みl
1…nの値を、所定の閾値との関連での予測画像視点スコア値s1の信頼値u
1に基づいて設定するか、のいずれかをトリガするステップを含む。
【0063】
一実施例では、第2のニューラルネットワークNN2は、重みl1…nの予測値の信頼値も生成する。一実施例では、重みl1…nの予測値の信頼値u2を使用して、解析的画像視点スコア値s2及び予測画像視点スコア値s1の両方に重み付けする。別の実施例では、重みl1…nの予測値の信頼値u2が、所定の閾値を上回らない場合、解析的画像視点スコア値s2は、組み合わされた画像視点スコア値の提供から省略される。こうすることで、信頼性の低い解析的画像視点スコア値s2が、画像に対して提供される組み合わされた画像視点スコア値s’に影響を及ぼすことが回避される。
【0064】
別の実施例では、解析的画像視点スコア値s
2は、類似するX線投影画像の値に基づいて、各X線投影画像に対して設定される。この実施例は、
図4に示す第2のニューラルネットワークNN2及び解析的スコアリングモジュールの不在下で、又は、これらの特徴の両方と組み合わせて使用できる。この実施例では、複数のX線投影画像は、被検者内の関心領域に対するX線イメージングシステムの対応する視点a、bからの関心領域を表し、
図1を参照して説明した方法は、
データベースから、X線投影画像の解析的画像視点スコアs
2の基準値を取得することであって、解析的画像視点スコアs
2は、次のメトリックC
1…n:関心領域内の複数の特徴間の重なりの程度、関心領域内の1つ以上の特徴のフォアショートニング、及び関心領域内の1つ以上のアーチファクトの存在、のうちの1つ以上を表す、取得することと、
X線投影画像の基準解析的画像視点スコア値s
2を出力することと、
を含み、
解析的画像視点スコアs
2の基準値は、データベースから、
X線投影画像を、基準X線投影画像及び対応する基準解析的画像視点スコア値s
2のデータベースと比較し、
X線投影画像とデータベース内の基準X線投影画像との間の類似性を表す類似性メトリックの計算値に基づいて、データベースから基準解析的画像視点スコア値s
2を選択することによって取得される。
【0065】
この実施例では、データベースに保存される基準解析的画像視点スコア値s2は、専門家によって設定される。したがって、基準解析的画像視点スコア値s2は、ある程度、画像に合わせて調整されている。
【0066】
ニューラルネットワークNN2及び解析的スコアリングモジュールASMと組み合わせて使用される場合、基準解析的画像視点スコア値s2は、重みl1…nの予測値の信頼値u2に付随して選択的に提供される。例えば、重みl1…nの予測値の信頼値u2が、所定の閾値を上回らない場合、基準解析的画像視点スコア値s2が代わりに提供される。このようにして、第2のニューラルネットワークNN2によって生成された信頼性の低い重み値を使用して、組み合わされた画像視点スコア値s’を生成することが回避される。
【0067】
上記の実施例のいずれにおいても、X線イメージングシステムの後続の視点も決定される。後続の視点は、更なるX線投影画像を生成するために使用する最適な視点をオペレータに伝えるために出力される。この実施例では、
図1を参照して説明した方法は、
被検者内の関心領域のX線投影画像を生成するためのX線イメージングシステムの後続の視点を決定することを含み、後続の視点は、
X線投影画像に対してニューラルネットワークNN1によって生成された予測画像視点スコア値s
1及び関心領域に対するX線イメージングシステムの対応する視点、並びに/又は、
受信したX線投影画像に対して提供された組み合わされた画像視点スコア値及び関心領域に対するX線イメージングシステムの対応する視点、に基づいて決定される。
【0068】
この実施例では、最も高い予測画像視点スコア値s1に対応するX線イメージングシステムの視点が決定され、後続の視点として使用される。或いは、最も高い組み合わせ画像視点スコア値s1に対応するX線イメージングシステムの視点が使用されてもよい。この実施例は、関心領域をイメージングするための最適な視野角の決定に使用される。例えば、ユーザは、X線投影画像110の様々な異なる画像視点スコア値を生成するために、X線イメージングシステムの視点を、上記の角度a及び/又はbでステッピングさせることによって、関心領域に対するX線イメージングシステムの異なる視点からのX線投影画像110を生成できる。この手順は、関心領域を見るための有望な視点を特定するために使用できる。この手順を異なるステップサイズで反復することによって、より最適な位置を決定できる。こうすることで、方法は、低いX線線量の最適な視野角を見つけるための効率的な技術を提供する。
【0069】
ニューラルネットワークNN1及び第2のニューラルネットワークNN2のトレーニングについて以下に詳述する。
【0070】
一般に、ニューラルネットワークのトレーニングには、ニューラルネットワークにトレーニングデータセットを入力し、トレーニングされたニューラルネットワークが正確な出力を提供するまで、ニューラルネットワークのパラメータを反復的に調整することを伴う。トレーニングは、グラフィックス処理ユニット(GPU)、又は、ニューラル処理ユニット(NPU)若しくはテンソル処理ユニット(TPU」などの専用のニューラルプロセッサを使用して行われることが多い。トレーニングでは、クラウドベース又はメインフレームベースのニューラルプロセッサを使用してニューラルネットワークをトレーニングする集中型アプローチを採用することが多い。トレーニングデータセットを用いたトレーニングの後、トレーニングされたニューラルネットワークは、推論中に新しい入力データを分析するためにデバイスにデプロイされる。推論中の処理要件は、トレーニング中の処理要件よりも大幅に少なく、これにより、ランプトップコンピュータ、タブレット、携帯電話などの様々なシステムにニューラルネットワークをデプロイできる。推論は、例えば、サーバー上又はクライドにある中央処理ユニット(CPU)、GPU、NPU、TPUによって行われる。
【0071】
したがって、上記のニューラルネットワークNN1及びNN2のトレーニングのプロセスには、そのパラメータの調整が含まれる。パラメータ、より具体的には、重みとバイアスは、ニューラルネットワークの活性化関数の動作を制御する。教師あり学習では、入力データが提示されたときに、ニューラルネットワークが対応する期待される出力データを正確に提供するように、トレーニングプロセスは自動的に重みとバイアスを調整する。これを行うために、損失関数の値、つまり、誤差は、予測出力データと期待出力データの差に基づいて計算される。損失関数の値は、負の対数尤度損失、平均二乗誤差、フーバー(Huber)損失、又は交差エントロピー損失などの関数を使用して計算される。トレーニング中、損失関数の値は、通常最小化され、損失関数の値が停止基準を満たすとトレーニングは終了する。損失関数の値が複数の基準のうちの1つ以上を満たすと、トレーニングが終了することがある。
【0072】
損失最小化問題の解法としては、最急降下法や準ニュートン法など、様々な方法が知られている。これらの方法とその変形例を実施するために、様々なアルゴリズムが開発されている。これらには、確率的勾配降下(SGD)、バッチ最急降下、ミニバッチ最急降下、ガウス・ニュートン、レーベンバーグ・マルカート、モーメンタム、Adam、Nadam、Adagrad、Adedelta、RMSProp、及びAdamax「オプティマイザ」が含まれるが、これらに限定されない。これらのアルゴリズムは、連鎖律を使用してモデルパラメータに関する損失関数の微分を計算する。このプロセスは逆伝播と呼ばれる。これは、微分は最後の層又は出力層から始まり、最初の層又は入力層に向かって移動して計算されるためである。これらの微分は、誤差関数を最小化するためにモデルパラメータをどのように調整する必要があるかをアルゴリズムに知らせる。つまり、モデルパラメータの調整が、出力層から開始して、入力層に到達するまでネットワーク内を逆方向に行われる。第1のトレーニング反復では、初期重み及びバイアスはしばしばランダム化されている。そして、ニューラルネットワークは出力データを予測する。これも同様にランダムである。そして、逆伝播を使用して、重み及びバイアスが調整される。トレーニングプロセスは、各反復で重み及びバイアスを調整することによって反復的に行われる。誤差、つまり、予測出力データと期待出力データとの差が、トレーニングデータ又は一部の検証データの許容範囲内にある場合、トレーニングは終了する。その後、ニューラルネットワークがデプロイされ、トレーニングされたニューラルネットワークは、そのパラメータのトレーニングされた値を使用して新しい入力データに対して予測を行う。トレーニングプロセスが成功すると、トレーニングされたニューラルネットワークは、新しい入力データから期待出力データを正確に予測する。
【0073】
一実施例では、第2のニューラルネットワークNN2は、
関心領域を表す1つ以上の3D X線画像140’を含むボリュメトリックトレーニングデータを受信すること(S210)と、
各3D X線画像140’に対するX線イメージングシステムの複数の異なる視点において、X線イメージングシステムの仮想検出器面上に1つ以上の3D X線画像140’を投影して、複数の合成投影画像を提供するように、仮想投影画像トレーニングデータを生成すること(S220)と、
各合成投影画像に対して、3D X線画像に対するX線イメージングシステムの各対応する視点の解析的画像視点スコア値s2を計算すること(S230)であって、解析的画像視点スコア値s2は、次のメトリックC1…n:関心領域内の複数の特徴間の重なりの程度、関心領域内の1つ以上の特徴のフォアショートニング、及び関心領域内の1つ以上のアーチファクトの存在、のうちの1つ以上に基づいて、3D X線画像140’から計算され、解析的画像視点スコア値s2を計算するために使用される重みl1…nの値は、初期値に設定される、計算すること(S230)と、
第2のニューラルネットワークNN2のトレーニングに使用するために、所定の選択基準を満たしている解析的画像視点スコア値s2を有している合成投影画像のサブセット150を選択すること(S240)と、
合成投影画像の選択されたサブセット150のグラウンドトゥルース画像視点スコア値を受信すること(S250)と、
各合成投影画像の重みl1…nの更新された値を生成するために、第2のニューラルネットワークNN2に合成投影画像のサブセット150を入力すること(S260)と、重みl1…nの更新された値で合成投影画像について計算された解析的画像視点スコア値s2と、対応するグラウンドトゥルース画像視点スコア値との差が停止基準を満たすまで、第2のニューラルネットワークNN2のパラメータを調整すること(S270)と、によって、X線投影画像の重みl1…nの予測値を生成するようにトレーニングされている。
【0074】
図6を参照すると、このトレーニング方法を説明する。
図6は、本開示のいくつかの態様に従って、X線投影画像の解析的画像視点スコア値を決定するために第2のニューラルネットワークNN2をトレーニングする方法の実施例を示すフローチャートである。このトレーニング方法は、
図7を参照しても説明する。
図7は、本開示のいくつかの態様に従って、X線投影画像の解析的画像視点スコア値s
2の計算に使用するメトリックC
1…nの重みl
1…nの値を予測するために第2のニューラルネットワークNN2をトレーニングする方法の実施例を示す概略図である。
【0075】
図6及び
図7を参照すると、操作S210において、ボリュメトリックトレーニングデータが受信される。
図7に示すように、ボリュメトリックトレーニングデータは、関心領域を表す1つ以上の3D X線画像140’を含む。ボリュメトリックトレーニングデータは、一般に、
図7に示すデータベースDBなど、コンピュータ可読記憶媒体から、又は、インターネット、クラウドなどから受信できる。3D X線画像は、一般に、複数の被検者からの関心領域について生成される。3D X線画像は、年齢、性別、体格指数値などが異なる被検者から生成される。
【0076】
操作S220では、仮想投影画像トレーニングデータが生成される。これは、各3D X線画像140’に対するX線イメージングシステムの複数の異なる視点において、X線イメージングシステムの仮想検出器面上に1つ以上の3D X線画像140’を投影して、複数の合成投影画像を提供することによって生成される。視点はランダムに選択され、また、X線イメージングシステムの広範囲のあらゆる可能な視点を対象とする。合成投影画像を生成し、これらを使用して第2のニューラルネットワークをトレーニングすることは、第2のニューラルネットワークNN2をトレーニングするために、異なる視点からの関心領域の様々なX線投影画像を取得する上での課題に対処する。
【0077】
操作S230では、3D X線画像に対するX線イメージングシステムの対応する視点に対して、各合成投影画像の解析的画像視点スコア値s2が計算される。解析的画像視点スコア値s2は、対応する視点を使用して3D X線画像から計算され、上記の技術を使用して計算される。したがって、解析的画像視点スコア値s2は、次のメトリックC1…n:関心領域内の複数の特徴間の重なりの程度、関心領域内の1つ以上の特徴のフォアショートニング、及び関心領域内の1つ以上のアーチファクトの存在、のうちの1つ以上に基づいている。最初の反復では、解析的画像視点スコア値s2を計算するために使用される重みl1…nの値は、初期値に設定される。例えば、n個の重み(つまり、l1~ln)があると仮定すると、初期値は、各々、1/nに設定される。
【0078】
操作S240では、第2のニューラルネットワークNN2のトレーニングに使用するために、所定の選択基準を満たしている解析的画像視点スコア値s2を有している合成投影画像のサブセット150が選択される。選択基準は、例えば、解析的画像視点スコア値s2が所定の閾値を上回ることである。こうすることで、第2のニューラルネットワークNN2のトレーニングに使用するための最適なビューのみが選択される。このようにしてトレーニングデータの量を削減すると、第2のニューラルネットワークNN2が高い信頼度で解析的画像視点スコア値s2を予測するためのトレーニングの効率を向上させる。これはまた、主観的なグラウンドトゥルーススコアリングを提供する専門家の作業負荷を大きく増加することなく、トレーニングデータを正確にラベリングする実行可能性も増加させる。
【0079】
合成投影画像に別の選択基準を使用してもよい。例えば、選択基準は、高い解析的画像視点スコア値s2を有するいくつかの合成投影画像だけでなく、低い解析的画像視点スコア値s2を有するいくつかの合成投影画像を含めるように設定される。このような選択は、第2のニューラルネットワークNN2が、低い解析的画像視点スコア値s2を高い信頼度で、また、高い解析的画像視点スコア値s2を高い信頼度で生成することを可能にする。これは、組み合わされた画像視点スコア値s’を計算するために、予測された解析的画像視点スコア値s2を使用すべき、又は使用すべきでないことを特定する際に有用である。
【0080】
操作S250では、合成投影画像の選択されたサブセット150のグラウンドトゥルース画像視点スコア値が受信される。グラウンドトゥルース画像視点スコア値s2は、専門家によって提供され得る。
【0081】
操作S260では、合成投影画像のサブセット150は、第2のニューラルネットワークNN2に入力され、第2のニューラルネットワークNN2は、各合成投影画像の重みl1…nの更新された値を生成する。次に、操作S270で、重みl1…nの更新された値で合成投影画像について計算された解析的画像視点スコア値s2と、対応するグラウンドトゥルース画像視点スコア値との差が停止基準を満たすまで、第2のニューラルネットワークNN2のパラメータが調整される。操作S260及び操作S270は、反復して行われてもよい。
【0082】
こうすることで、第2のニューラルネットワークNN2は、専門家によって提供される客観的な解析的画像視点スコア値s2を取得するために、重みl1…nの値を設定するようにトレーニングされる。このように第2のニューラルネットワークNN2をトレーニングすること、特に、合成投影画像を使用してトレーニングすることは、第2のニューラルネットワークNN2をトレーニングするために、複数の視点からの実際の投影画像を取得する上での課題を克服する。
【0083】
次に、
図3及び
図4を参照して上で説明したニューラルネットワークNN1のトレーニングの実施例を示す。この実施例は、
図8及び
図9を参照して説明する。
図8は、本開示のいくつかの態様に従って、X線投影画像の画像視点スコア値を決定するためにニューラルネットワークNN1をトレーニングする方法の第1の実施例を示すフローチャートである。
図9は、本開示のいくつかの態様に従って、X線投影画像の画像視点スコア値を決定するためにニューラルネットワークNN1をトレーニングする方法の第1の実施例を示す概略図である。
【0084】
この実施例では、ニューラルネットワークNN1は、
関心領域に対するX線イメージングシステムの異なる視点からの関心領域を表す複数のトレーニング投影画像110’を含むX線投影画像トレーニングデータを受信すること(S310)であって、トレーニング投影画像は、対応するグラウンドトゥルース画像視点スコア値を含む、受信すること(S310)と、
ニューラルネットワークNN1に、トレーニング投影画像及び対応するグラウンドトゥルース画像視点スコア値を入力すること(S320)と、ニューラルネットワークNN1によって予測される画像視点スコア値s1と、対応する入力されたグラウンドトゥルース画像視点スコア値との差が停止基準を満たすまで、ニューラルネットワークNN1のパラメータを調整すること(S330)と、によって、X線投影画像の予測画像視点スコア値s1を生成するようにトレーニングされている。操作S320及び操作S330は、反復して行われてもよい。
【0085】
操作S310では、X線投影画像トレーニングデータが受信される。X線投影画像トレーニングデータは、第2のニューラルネットワーク用のトレーニングデータとの関連で上で説明したように受信される。X線投影画像トレーニングデータは、
図9に示すように、データベースDBから受信されてもよい。X線投影画像トレーニングデータは、関心領域に対するX線イメージングシステムの異なる視点からの関心領域を表すトレーニング投影画像110’を含む。X線投影画像トレーニングデータは、投影X線イメージングシステム130などの投影イメージングシステムを使用して生成されて、関心領域に対する投影X線イメージングシステム130の複数の異なる視点a、bからの関心領域の画像を生成する。画像の対応するグラウンドトゥルース画像視点スコア値は、画像を専門家に提示し、専門家の評価を受信することによって生成される。
【0086】
図9に示すように、画像を専門家に提示するために、解析的画像視点スコア値s
2を計算する追加のステップが含まれていてもよい。この追加のステップは、専門家に呈するためのトレーニング投影画像のサブセット150を提供するために使用される。サブセット150は、1つ以上の所定の条件を満たす解析的画像視点スコア値を有するトレーニング投影画像を表す。この追加のステップは、例えば、高い解析的画像視点スコア値s
2を有する画像のみをトレーニングデータに含めるように使用される。したがって、サブセット150は、第1の閾値を上回るグラウンドトゥルース画像視点スコア値を有するトレーニング投影画像を表す。或いは、サブセット150は、高い解析的画像視点スコア値s
2を有する画像だけでなく、低い解析的画像視点スコア値s
2を有する画像を含んでいてもよい。したがって、トレーニング投影画像は、第1の閾値を上回るグラウンドトゥルース画像視点スコア値を有する少なくともいくつかの投影画像と、第2の閾値を下回る少なくともいくつかのグラウンドトゥルース画像視点スコア値とを含んでいてもよい。
【0087】
操作S320では、トレーニング投影画像及び対応するグラウンドトゥルース画像視点スコア値が、ニューラルネットワークNN1に入力される。操作S330では、ニューラルネットワークNN1によって予測される画像視点スコア値s1と、対応する入力されたグラウンドトゥルース画像視点スコア値との差が停止基準を満たすまで、そのパラメータは調整される。パラメータは、この差を表す誤差関数の値を計算し、これを使用して、ニューラルネットワークNN1の誤差逆伝播を行うことによって調整される。
【0088】
こうすることで、ニューラルネットワークNN1は、専門家によって提供される画像視点スコア値を模倣するようにトレーニングされる。したがって、トレーニングされたニューラルネットワークNN1によって予測される画像視点スコア値に、専門家のバイアスが組み込まれる。
【0089】
図8を参照して説明した方法の可能性のある制限は、複数の異なる視点からの関心領域の画像があるトレーニングデータセットの利用可能性への依存である。実際には、このようなトレーニングデータセットの収集は複雑で時間がかかる。更なる実施例では、ニューラルネットワークNN1をトレーニングする方法が提供される。この方法では、合成投影画像は、3D X線画像から生成される。この実施例は、所望のトレーニングデータを取得する上での課題に対処する。この実施例は、
図10及び
図11を参照して説明する。
図10は、本開示のいくつかの態様に従って、X線投影画像の画像視点スコア値を決定するためにニューラルネットワークNN1をトレーニングする方法の第2の実施例を示すフローチャートである。
図11は、本開示のいくつかの態様に従って、X線投影画像の画像視点スコア値を決定するためにニューラルネットワークNN1をトレーニングする方法の第2の実施例を示す概略図である。
【0090】
この実施例では、ニューラルネットワークNN1は、
関心領域を表す1つ以上の3D X線画像を含むボリュメトリックトレーニングデータを受信すること(S410)と、
各3D X線画像に対するX線イメージングシステムの複数の異なる視点において、X線イメージングシステムの仮想検出器面上に1つ以上の3D X線画像を投影して、複数の合成投影画像を提供するように、仮想投影画像トレーニングデータを生成すること(S420)と、
各合成投影画像に対して、3D X線画像に対するX線イメージングシステムの各対応する視点の解析的画像視点スコア値s2を計算すること(S430)であって、解析的画像視点スコア値s2は、次のメトリックC1…n:関心領域内の複数の特徴間の重なりの程度、関心領域内の1つ以上の特徴のフォアショートニング、及び関心領域内の1つ以上のアーチファクトの存在、のうちの1つ以上に基づいて、3D X線画像から計算される、計算すること(S230)と、
ニューラルネットワークNN1のトレーニングに使用するために、所定の選択基準を満たしている解析的画像視点スコア値s2を有している合成投影画像のサブセットを選択すること(S440)と、
合成投影画像の選択されたサブセットのグラウンドトゥルース画像視点スコア値を受信すること(S450)と、
合成投影画像のサブセット及び対応するグラウンドトゥルース画像視点スコア値を、ニューラルネットワークNN1に入力すること(S460)と、ニューラルネットワークNN1によって予測される画像視点スコア値s1と、対応する入力されたグラウンドトゥルース画像視点スコア値との差が停止基準を満たすまで、ニューラルネットワークNN1のパラメータを調整すること(S470)とによって、X線投影画像の予測画像視点スコア値s1を生成するようにトレーニングされている。
【0091】
図10及び
図11を参照して、操作S410において、ボリュメトリックトレーニングデータが受信される。
図7に示すように、ボリュメトリックトレーニングデータは、関心領域を表す1つ以上の3D X線画像140’を含む。ボリュメトリックトレーニングデータは、一般に、
図11に示すデータベースDBなど、コンピュータ可読記憶媒体から、又は、インターネット、クラウドなどから受信できる。3D X線画像は、一般に、異なる被検者からの関心領域について生成される。X線画像は、年齢、性別、体格指数値などが異なる被検者から生成される。
【0092】
操作S420では、仮想投影画像トレーニングデータが生成される。仮想投影画像トレーニングデータには、複数の合成投影画像が含まれる。合成投影画像は、上記の操作S220について説明したやり方で、1つ以上の3D X線画像140’から生成される。
【0093】
操作S430では、3D X線画像に対するX線イメージングシステムの対応する視点に対して、各合成投影画像の解析的画像視点スコア値s2が計算される。この操作は、操作S230について上で説明したように行われる。
【0094】
操作S440では、合成投影画像のサブセット150が選択される。この選択は、操作S240について上で説明したように行われ、操作S440では、今度はサブセットを使用してニューラルネットワークNN1をトレーニングすることが異なる。選択は、第1の閾値を上回るグラウンドトゥルース画像視点スコア値を有する少なくともいくつかの投影画像を含むように行われる。或いは、選択は、第1の閾値を上回るグラウンドトゥルース画像視点スコア値を有する少なくともいくつかの投影画像と、第2の閾値を下回る少なくともいくつかのグラウンドトゥルース画像視点スコア値とを含むように行われてもよい。
【0095】
操作S450では、合成投影画像の選択されたサブセットのグラウンドトゥルース画像視点スコア値が受信される。グラウンドトゥルース画像視点スコア値は、専門家によって提供され得る。
【0096】
操作S460では、合成投影画像のサブセット及び対応するグラウンドトゥルース画像視点スコア値が、ニューラルネットワークNN1に入力される。操作S470では、ニューラルネットワークNN1によって予測される画像視点スコア値s1と、対応する入力されたグラウンドトゥルース画像視点スコア値との差が停止基準を満たすまで、ニューラルネットワークNN1のパラメータが調整される。パラメータは、この差を表す誤差関数の値を計算し、これを使用して、ニューラルネットワークNN1の誤差逆伝播を行うことによって調整される。操作S460及び操作S470は、反復して行われてもよい。
【0097】
こうすることで、ニューラルネットワークNN1は、専門家によって提供される主観的画像視点スコア値を模倣するようにトレーニングされる。したがって、トレーニングされたニューラルネットワークNN1によって予測される画像視点スコア値に、専門家のバイアスが組み込まれる。更に、このことは、合成投影画像が使用されるため、複数の異なる視点からの実際の投影トレーニング画像の広範なデータセットを必要とすることなく達成される。
【0098】
この実施例では、解析的画像視点スコア値s2を計算するために使用される重みl1…nの値は、第2のニューラルネットワークNN2によって生成される。したがって、第2のニューラルネットワークNN2は、ニューラルネットワークNN1の前にトレーニングされて、ニューラルネットワークNN1をトレーニングするために使用される。或いは、トレーニングされたニューラルネットワークNN1は、ニューラルネットワークNN2によって生成された重みl1…n付きの解析的画像視点スコア値s2を使用して、再トレーニングされるか、微調整されてもよい。或いは、解析的画像視点スコア値s2を計算するために使用される重みl1…nの値は、基準値に設定されてもよい。
【0099】
別の実施例に従って、コンピュータプログラム製品が提供される。コンピュータプログラム製品は、1つ以上のプロセッサによって実行されると、その1つ以上のプロセッサに、被検者の関心領域120を表すX線投影画像110の画像視点スコア値s1を決定する方法を実行させる命令を含む。この方法は、
複数のX線投影画像110を受信すること(S110)であって、X線投影画像は、関心領域に対するX線イメージングシステム130の複数の異なる視点からの関心領域120を表す、受信すること(S110)と、
X線投影画像をニューラルネットワークNN1に入力すること(S120)と、
入力することに応答して、X線投影画像の各々の予測画像視点スコア値s1を生成すること(S130)と、
を含み、ニューラルネットワークNN1は、X線投影画像の予測画像視点スコア値s1を生成するようにトレーニングされている。
【0100】
別の実施例に従って、被検者内の関心領域120を表すX線投影画像110の画像視点スコア値s1を決定するためのシステムが提供される。システム100は、1つ以上のプロセッサ210を含み、これらのプロセッサは、
複数のX線投影画像110を受信すること(S110)であって、X線投影画像は、関心領域に対するX線イメージングシステム130の複数の異なる視点からの関心領域120を表す、受信すること(S110)と、
X線投影画像をニューラルネットワークNN1に入力すること(S120)と、
入力することに応答して、X線投影画像の各々の予測画像視点スコア値s1を生成すること(S130)と、を行い、ニューラルネットワークNN1は、X線投影画像の予測画像視点スコア値s1を生成するようにトレーニングされている。
【0101】
図1に、例示的なシステム100を示している。いくつかの実施例では、システム100はまた、X線投影画像110を提供するための投影X線イメージングシステム130と、X線投影画像110、各X線投影画像の予測画像視点スコア値s
1、及び/又はシステムによって生成された他の出力を表示するためのモニタ240と、患者ベッド250と、
図1に示されていない、ユーザ入力を受信するユーザ入力デバイス(キーボード、マウス、タッチスクリーンなど)とのうちの2つ以上を含んでいてもよい。
【0102】
上記の実施例は、本開示の例示するものであって、限定ではないことが理解されるものとする。他の実施例も企図されている。例えば、コンピュータ実施方法に関連して説明した実施例は、コンピュータプログラム製品、コンピュータ可読記憶媒体、又はシステム100によって、対応する態様でも提供される。任意の1つの実施例に関連して説明された特徴は、単独で使用されても、他の説明された特徴と組み合わせて使用されても、別の実施例の1つ以上の特徴と組み合わせて使用されても、他の実施例の組み合わせで使用されてもよいことを理解されたい。更に、上で説明されていない同等物及び修正を、添付の特許請求の範囲に定義される本発明の範囲から逸脱することなく使用してもよい。特許請求の範囲において、「含む」という語は、他の要素や操作を排除するものではなく、単数形の要素は複数を排除するものではない。特定の特徴が相互に異なる従属請求項に記載されているという単なる事実は、これらの特徴の組み合わせを有利に使用することができないことを示すものではない。特許請求の範囲における任意の参照符号は、範囲を限定するものと解釈されるべきではない。
【国際調査報告】