(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】
(24)【登録日】2024-07-04
(45)【発行日】2024-07-12
(54)【発明の名称】低コスト、低サイズおよび低電力で超音波イメージングにおける画質を維持する方法
(51)【国際特許分類】
A61B 8/14 20060101AFI20240705BHJP
【FI】
A61B8/14
(21)【出願番号】P 2021533672
(86)(22)【出願日】2019-12-20
(86)【国際出願番号】 US2019068004
(87)【国際公開番号】W WO2020139775
(87)【国際公開日】2020-07-02
【審査請求日】2021-11-10
(32)【優先日】2018-12-27
(33)【優先権主張国・地域又は機関】US
(73)【特許権者】
【識別番号】520342725
【氏名又は名称】エコー イメージング,インク.
(74)【代理人】
【識別番号】100118902
【氏名又は名称】山本 修
(74)【代理人】
【識別番号】100106208
【氏名又は名称】宮前 徹
(74)【代理人】
【識別番号】100196508
【氏名又は名称】松尾 淳一
(72)【発明者】
【氏名】ワーニック,マイルズ
(72)【発明者】
【氏名】アッカラジュ,サンディープ
(72)【発明者】
【氏名】ギュンター,ドレイク
(72)【発明者】
【氏名】ウスチュナー,クタイ
(72)【発明者】
【氏名】ハク,ユースフ
【審査官】蔵田 真彦
(56)【参考文献】
【文献】国際公開第2014/069558(WO,A1)
【文献】米国特許出願公開第2018/0177461(US,A1)
【文献】米国特許出願公開第2017/0372193(US,A1)
【文献】特開2008-100068(JP,A)
【文献】特開2011-056249(JP,A)
(58)【調査した分野】(Int.Cl.,DB名)
A61B 8/00-8/15
(57)【特許請求の範囲】
【請求項1】
医療用超音波イメージングの方法であって、該方法は、
a
)超音波画像シーケンスの第1のフレームを形成する工程
であって、前記第1のフレームは高画質である工程と、
b
)超音波画像シーケンスの少なくとも1つのフレームを形成する工程
であって、前記少なくとも1つのフレームは低画質である工程と、
c
)超音波画像シーケンスの第2のフレームを形成する工程
であって、前記第2のフレームは高画質である工程と、
d)前
記超音波画像シーケンスの
高画質の第1のフレーム
及び前
記超音波画像シーケンスの
高画質の第2のフレームを利用して、前
記超音波画像シーケンスの低画質の少なくとも1つのフレームの質を向上させる工程と、
e)医療用超音波イメージングが完了するまで、上記a)工程からd)工程を繰り返す工程と、
を含む、医療用超音波イメージングの方法において、
前記超音波画像シーケンスは、
超音波トランスデューサを使用して形成された複数のフレームを含み、それぞれのフレームは、超音波画像シーケンスを生成するために異なる時点で生成され
、前記超音波画像シーケンスの
各N番目
ごとのフレームは、高画質のフレームで構成さ
れ、前記超音波画像シーケンスの高画質の第1のフレームまたは前記超音波画像シーケンスの高画質の第2のフレームとして用いられ、それ以外のすべてのフレームは低画質である、
医療用超音波イメージングの方法。
【請求項2】
前記
超音波画像シーケンスの低画質の少なくとも1つのフレームの質が、前記
超音波画像シーケンスの高画質の第1のフレームおよび前記
超音波画像シーケンスの高画質の第2のフレームを使用して向上される、請求項1に記載の方法。
【請求項3】
前記
超音波画像シーケンスの高画質の第1のフレームの質、または、前記
超音波画像シーケンスの高画質の第2のフレームの質を向上させる工程をさらに含む、請求項1または2に記載の方法。
【請求項4】
画質は、空間分解能、コントラスト分解能、信号対ノイズ比、または信号ダイナミックレンジを含む、請求項1~3のいずれか一項に記載の方法。
【請求項5】
各フレームが、2次元画像、3次元画像、Bモード画像、カラードップラー画像、またはスペクトルドップラーストリップである、請求項1~4のいずれか一項に記載の方法。
【請求項6】
前記
超音波画像シーケンスの高画質の第1のフレームまたは前記
超音波画像シーケンスの高画質の第2のフレームを利用して、前記
超音波画像シーケンスの低画質の少なくとも1つのフレームの質を向上させる工程は、機械学習モデルの適用によって行われ、
前記機械学習モデルは、畳み込み層、双方向畳み込みLSTM層、一方向畳み込みLSTM層のいずれかを含む、
請求項1~5のいずれか一項に記載の方法。
【請求項7】
前記低画質は、前記超音波トランスデューサの少数の素子の使用によって引き起こされる低空間サンプリング、低時間的サンプリングレートの使用によって引き起こされる低時間的サンプリング、低空間周波数サンプリング、またはビームフォーミングプロセス中に使用される時間的遅延量子化の結果である、請求項1~6のいずれか一項に記載の方法
【請求項8】
前記低画質は、相収差補正を実施しないこと、アパーチャコヒーレンス関数ベースのイメージング技術を実施しないこと、少数の伝達を送ること、または行間隔および集団長さを増加させることによって生じる、請求項1~7のいずれか一項に記載の方法
【請求項9】
前記低画質は、前記超音波トランスデューサの少数の素子の使用によって引き起こされる低空間サンプリング、低時間的サンプリングレートの使用によって引き起こされる低時間的サンプリング、低空間周波数サンプリング、ビームフォーミングプロセス中に使用される時間的遅延量子化、相収差補正を実施しないこと、アパーチャコヒーレンス関数ベースのイメージング技術を実施しないこと、および少数の伝達を送ること、行間隔および集団長さを増加させること、からなるリストから選択される、画質低下に使用される2つ以上の技術の組み合わせによって生じる、請求項1~8のいずれか一項に記載の方法。
【請求項10】
前記
超音波画像シーケンスの高画質の第1のフレーム、前記
超音波画像シーケンスの低画質の少なくとも1つのフレーム、および、前記
超音波画像シーケンスの高画質の第2のフレームは、超音波トランスデューサを使用して形成される、請求項1~9のいずれか一項に記載の方法。
【請求項11】
前記
超音波トランスデューサは、pMUT装置、または1.25D、1.5D、1.75Dあるいは2Dアレイの素子を含む、請求項10に記載の方法。
【請求項12】
医療用超音波イメージングシステムであって、該システムは、
i)超音波トランスデューサを含む医療用超音波イメージング装置と、
ii)少なくとも1つのプロセッサーと、を含み、
該システムは、
a)超音波トランスデューサを使用して、
超音波画像シーケンスの第1のフレームを形成する工程
であって、前記第1のフレームは高画質である工程と、
b)超音波トランスデューサを使用して、
超音波画像シーケンスの少なくとも1つのフレームを形成する
工程であって、前記少なくとも1つのフレームは低画質である工程と、
c)超音波トランスデューサを使用して、
超音波画像シーケンスの第2のフレームを形成する工程
であって、前記第2のフレームは高画質である工程と、
d)前記
超音波画像シーケンスの高画質の第1のフレーム及び前記
超音波画像シーケンスの高画質の第2のフレームを利用して、前記
超音波画像シーケンスの低画質の少なくとも1つのフレームの質を向上させる工程と、
e)医療用超音波イメージングが完了するまで、上記a)工程からd)工程を繰り返す工程と、
を含む機能を実行するように構成される、医療用超音波イメージングシステムにおいて、
前記超音波画像シーケンスは、複数のフレームを含み、それぞれのフレームは、超音波画像シーケンスを生成するために異なる時点で生成され、
前記超音波画像シーケンスの
各N番目
ごとのフレームは、高画質のフレームで構成さ
れ、前記超音波画像シーケンスの高画質の第1のフレームまたは前記超音波画像シーケンスの高画質の第2のフレームとして用いられ、それ以外のすべてのフレームは低画質である、
医療用超音波イメージングシステム。
【請求項13】
前記
超音波画像シーケンスの低画質の少なくとも1つのフレームの質が、前記
超音波画像シーケンスの高画質の第1のフレームおよび前記
超音波画像シーケンスの高画質の第2のフレームを使用して向上される、請求項12に記載の医療用超音波イメージングシステム。
【請求項14】
前記
超音波画像シーケンスの高画質の第1のフレームの質、または、前記
超音波画像シーケンスの高画質の第2のフレームの質を向上させることを含む機能を実行するようにさらに構成される、請求項12または13に記載の医療用超音波イメージングシステム。
【請求項15】
画質は、空間分解能、コントラスト分解能、信号対ノイズ比、または信号ダイナミックレンジを含む、請求項12~14のいずれか一項に記載の医療用超音波イメージングシステム。
【請求項16】
各フレームが、2次元画像、3次元画像、Bモード画像、カラードップラー画像、またはスペクトルドップラーストリップである、請求項12~15のいずれか一項に記載の医療用超音波イメージングシステム。
【請求項17】
前記
超音波画像シーケンスの高画質の第1のフレームまたは前記
超音波画像シーケンスの高画質の第2のフレームを利用して、前記
超音波画像シーケンスの低画質の少なくとも1つのフレームの質を向上させる工程は、機械学習モデルの適用によって行われ、
前記機械学習モデルは、畳み込み層、双方向畳み込みLSTM層、一方向畳み込みLSTM層を含む、
請求項12~16のいずれか一項に記載の医療用超音波イメージングシステム。
【請求項18】
前記低画質は、前記超音波トランスデューサの少数の素子の使用によって引き起こされる低空間サンプリング、低時間的サンプリングレートの使用によって引き起こされる低時間的サンプリング、低空間周波数サンプリング、またはビームフォーミングプロセス中に使用される時間的遅延量子化の結果である、請求項12~17のいずれか一項に記載の医療用超音波イメージングシステム。
【請求項19】
前記低画質は、相収差補正を実施しないこと、アパーチャコヒーレンス関数ベースのイメージング技術を実施しないこと、少数の伝達を送ること、または行間隔および集団長さを増加させることによって生じる、請求項12~18のいずれか一項に記載の医療用超音波イメージングシステム。
【請求項20】
前記低画質は、前記超音波トランスデューサの少数の素子の使用によって引き起こされる低空間サンプリング、低時間的サンプリングレートの使用によって引き起こされる低時間的サンプリング、低空間周波数サンプリング、ビームフォーミングプロセス中に使用される時間的遅延量子化、相収差補正を実施しないこと、アパーチャコヒーレンス関数ベースのイメージング技術を実施しないこと、および少数の伝達を送ること、行間隔および集団長さを増加させることからなるリストから選択される、画質低下に使用される2つ以上の技術の組み合わせによって生じる、請求項12~19のいずれか一項に記載の医療用超音波イメージングシステム。
【請求項21】
前記超音波トランスデューサは、pMUT装置、または1.25D、1.5D、1.75Dあるいは2Dアレイの素子を含む、請求項12~20のいずれか一項に記載の医療用超音波イメージングシステム。
【請求項22】
前記少なくとも1つのプロセッサーは、特定用途向け集積回路(ASIC)を含む、請求項12~21のいずれか一項に記載の医療用超音波イメージングシステム。
【請求項23】
前記少なくとも1つのプロセッサーは、医療用超音波イメージング装置と通信状態にあるモバイルコンピューティングデバイスを含む、請求項12~22のいずれか一項に記載の医療用超音波イメージングシステム。
【発明の詳細な説明】
【技術分野】
【0001】
相互参照
本出願は、2018年12月27日に出願された米国出願シリアル番号第62/785,315号の利益を主張し、それはその全体として本明細書に組み込まれている。
【背景技術】
【0002】
超音波イメージングは、医療および非破壊検査の分野において広く使用される。
【発明の概要】
【0003】
典型的な超音波イメージング装置はかさばっており、高価であり、そこで小さく、ポータブル、および低コストの装置の必要性が存在する。超音波イメージング装置の携帯性は、その電力要件が最小限に抑えられることを要求する。
【0004】
超音波イメージング装置のコスト、サイズおよび消費電力は、超音波パルスが生成される、および検出されるプロセスの様々な変更を通じて減少されることができる。消費電力を減少する変更は、アクティブ・チャンネル・カウント、フロントエンドのゲインおよびバイアス、アナログ・デジタル変換(ADC)サンプリングレート、側面のサンプリングレート、時間的サンプリングレート、平行の受信ビーム数、ビーム帯域幅産物、カーネル長さのフィルター、係数量子化レベルのフィルター、データ転送速度およびワード長さ、ドップラーのための集断長さ等を減少することを含む。しかしながら、そのような変更は、一般的に、低空間分解能、コントラスト分解能、時間的分離能、感度、浸透、およびダイナミックレンジ、またはイメージングおよびスペクトルのアーチファクトの増加の組み合わせの形態で低画質を引き起こす。現在の方法は、重要な診断情報を伝える微妙な画像詳細を正確に表示し損ねるという知覚リスクが存在する。
【0005】
低コスト、低機能、小さい波形率集積回路および低消費電力レベルのプロセッサーを用いて良好な画質を達成することができるように、画質の低下を中和する必要性が存在する。それに応じて、本明細書に記載される発明特定事項は、いくつかの実施形態では、超音波画像をより低いコスト、より低い電力、およびより小さい波形率装置で、関連の画質を劣化させずに生成されることを可能にするために機械学習を使用する。いくつかの実施形態では、本明細書に記載される発明特定事項は、高画質および低画質のフレームを利用する。さらなる実施形態では、本明細書に記載される発明特定事項は、高画質および低画質のフレームを交互に利用する。その際、本明細書に記載される発明特定事項は、そのような実施形態では、高画質の画像詳細がモデルに利用可能であると保証することによって、些細な画像詳細を正確に表明し損ねるリスクを最小限に抑えるために加工中に定期的に高画質の画像を取り込む。
【0006】
一態様では、本明細書に開示されるのは、コンピューターに実装された医療用超音波治療イメージンの方法であって、該方法は、高画質の超音波画像シーケンスの第1のフレームを形成する工程と、低画質の超音波画像シーケンスの少なくとも1つのフレームを形成する工程と、高画質の超音波画像シーケンスの第2のフレームを形成工程と、高画質の超音波画像シーケンスの第1および/または第2のフレームを利用して、低画質の超音波画像シーケンスの少なくとも1つのフレームの質を向上させる工程と、を含む。いくつかの実施形態では、低画質の超音波画像シーケンスの少なくとも1つのフレームの質を、高画質の超音波画像シーケンスの第1および第2のフレームを利用して、向上させる。いくつかの実施形態では、該方法は、高画質の超音波画像シーケンスの第1のフレーム、または高画質の超音波画像シーケンスの第2のフレームの質を向上させる工程をさらに含む。様々な実施形態では、画質は、空間分解能、コントラスト分解能、信号対ノイズ比、および/または信号ダイナミックレンジを含む。いくつかの実施形態では、各フレームは、2次元画像である。他の実施形態では、各フレームは、3次元画像である。いくつかの実施形態では、各フレームは、Bモード画像である。他の実施形態では、各フレームは、カラードップラー画像である。まだ他の実施形態では、各フレームは、スペクトルドップラーストリップである。いくつかの実施形態では、低画質の超音波画像シーケンスの少なくとも1つのフレームの質を向上させることは、機械学習の適用によって達成される。いくつかの実施形態では、低画質は、少なくとも部分的にトランスデューサの少数の素子の使用によって引き起こされる低空間サンプリングの結果である。いくつかの実施形態では、低画質は、少なくとも部分的に低時間的サンプリングレートの使用によって引き起こされる低時間的サンプリングの結果である。いくつかの実施形態では、低画質は、少なくとも部分的に低空間周波数サンプリングの結果である。いくつかの実施形態では、低画質は、少なくとも部分的にビームフォーミングプロセス中に使用される時間的遅延量子化の結果である。いくつかの実施形態では、低画質は、少なくとも部分的に相収差補正を実施しないことによって生じる。いくつかの実施形態では、低画質は、少なくとも部分的にアパーチャコヒーレンス関数ベースのイメージング技術を実施しないことによって生じる。いくつかの実施形態では、低画質は、少なくとも部分的に少数伝達(行間隔および集団長さ)によって生じる。様々な実施形態では、低画質は、超音波トランスデューサの少数の素子の使用によって引き起こされる低空間サンプリング、低時間的サンプリングレートの使用によって引き起こされる低時間的サンプリング、低空間周波数サンプリング、ビームフォーミングプロセス中に使用される時間的遅延量子化、相収差補正を実施しないこと、アパーチャコヒーレンス関数ベースのイメージング技術を実施しないこと、および少数伝達(行間隔および集団長さ)からなるリストから選択された画質の低下に使用される2つ以上の技術の組み合わせによって生じる。いくつかの実施形態では、フレームは、トランスデューサを使用して形成され、およびトランスデューサは、pMUT装置を含む。いくつかの実施形態では、フレームは、トランスデューサを使用して形成され、およびトランスデューサは、1.25D、1.5D、1.75D、または2Dアレイを含む。
【0007】
別の態様では、本明細書に開示されるのは、医療用超音波イメージングシステムであって、該システムは、超音波トランスデューサを含む医療用超音波イメージング装置と、少なくとも1つのプロセッサーと、を含み、該システムは、超音波トランスデューサを使用して、高画質の超音波画像シーケンスの第1のフレームを形成することと、超音波トランスデューサを使用して、低画質の超音波画像シーケンスの少なくとも1つのフレームを形成することと、超音波トランスデューサを使用して、高画質の超音波画像シーケンスの第2のフレームを形成することと、高画質の超音波画像シーケンスの第1または第2のフレームを利用して、低画質の超音波画像シーケンスの少なくとも1つのフレームの質を、少なくとも1つのプロセッサーを使用して、向上させることと、を含む機能を実行するために構成される。いくつかの実施形態では、低画質の超音波画像シーケンスの少なくとも1つのフレームの質が、高画質の超音波画像シーケンスの第1および第2のフレームを利用して、向上される。いくつかの実施形態では、該システムは、高画質の超音波画像シーケンスの第1のフレーム、または高画質の超音波画像シーケンスの第2のフレームの質を向上させることを含む機能を実行するためにさらに構成される。様々な実施形態では、画質は、空間分解能、コントラスト分解能、信号対ノイズ比、および/または信号ダイナミックレンジを含む。いくつかの実施形態では、各フレームは、2次元画像である。他の実施形態では、各フレームは、3次元画像である。いくつかの実施形態では、各フレームは、Bモード画像である。いくつかの実施形態では、各フレームは、カラードップラー画像である。いくつかの実施形態では、各フレームは、スペクトルドップラーストリップである。いくつかの実施形態では、低画質の超音波画像シーケンスの少なくとも1つのフレームの質を向上させることは、機械学習の適用によって達成される。いくつかの実施形態では、低画質は、超音波トランスデューサの少数の素子の使用によって引き起こされる低空間サンプリングの結果である。いくつかの実施形態では、低画質は、低時間的サンプリングレートの使用によって引き起こされる低時間的サンプリングの結果である。いくつかの実施形態では、低画質は、低空間周波数サンプリングの結果である。いくつかの実施形態では、低画質は、ビームフォーミングプロセス中に使用される時間的遅延量子化の結果である。いくつかの実施形態では、低画質は、相収差補正を実施しないことによって生じる。いくつかの実施形態では、低画質は、アパーチャコヒーレンス関数ベースのイメージング技術を実施しないことによって生じる。いくつかの実施形態では、低画質は、少数伝達(行間隔および集団長さ)によって生じる。様々な実施形態では、低画質は、超音波トランスデューサの少数の素子の使用によって引き起こされる低空間サンプリング、低時間的サンプリングレートの使用によって引き起こされる低時間的サンプリング、低空間周波数サンプリング、ビームフォーミングプロセス中に使用される時間的遅延量子化、相収差補正を実施しないこと、アパーチャコヒーレンス関数ベースのイメージング技術を実施しないこと、および少数伝達(行間隔および集団長さ)からなるリストから選択された画質低下に使用される2つ以上の技術の組み合わせによって生じる。いくつかの実施形態では、超音波トランスデューサはpMUT装置を含む。いくつかの実施形態では、超音波トランスデューサは、1.25D、1.5D、1.75D、または2Dアレイの素子を含む。いくつかの実施形態では、少なくとも1つのプロセッサーは、特定用途向け集積回路(ASIC)を含む。いくつかの実施形態では、少なくとも1つのプロセッサーは、医療用超音波イメージング装置と通信状態にあるモバイルコンピューティング装置を含む。
【図面の簡単な説明】
【0008】
本主題の特徴と利点のより良い理解は、例証的な実施形態と添付の図面を説明する、以下の詳細な記載を参照することによって得られる。
【
図1】は、2つのスキャン手順を示す:スキャン手順1では、各N番目のフレームは、高画質の画像であり、他のすべてのフレームは低画質の画像であり;および、スキャン手順2では、すべてのフレームは低画質の画像である。
【
図2A】は、ConvおよびBC-LSTMモジュール(ReLUは、修正された一次的単位を示す)を含む空間時間的予測モデルを示す。
【
図2B】は、
図2AのBC-LSTMモジュールの内部構造を示す。
【発明を実施するための形態】
【0009】
本明細書に開示されるのは、いくつかの実施形態では、コンピューターに実装された医療用超音波イメージングの方法であって、該方法は、高画質の超音波画像シーケンスの第1のフレームを形成する工程と、低画質の超音波画像シーケンスの少なくとも1つのフレームを形成する工程と、高画質の超音波画像シーケンスの第2のフレームを形成工程と、高画質の超音波画像シーケンスの第1および/または第2のフレームを利用して、低画質の超音波画像シーケンスの少なくとも1つのフレームの質を向上させる工程と、を含む。いくつかの実施形態では、低画質の超音波画像シーケンスの少なくとも1つのフレームの質が、高画質の超音波画像シーケンスの第1および第2のフレームを利用して、向上される。いくつかの実施形態では、該方法は、高画質の超音波画像シーケンスの第1のフレーム、または高画質の超音波画像シーケンスの第2のフレームの質を向上させる工程をさらに含む。いくつかの実施形態では、画質は空間分解能を含む。いくつかの実施形態では、画質はコントラスト分解能を含む。いくつかの実施形態では、画質は信号対ノイズ比を含む。いくつかの実施形態では、画質は信号ダイナミックレンジを含む。いくつかの実施形態では、各フレームは、2次元画像である。他の実施形態では、各フレームは、3次元画像である。いくつかの実施形態では、各フレームは、Bモード画像である。他の実施形態では、各フレームは、カラードップラー画像である。まだ他の実施形態では、各フレームは、スペクトルドップラーストリップである。いくつかの実施形態では、低画質の超音波画像シーケンスの少なくとも1つのフレームの質を向上させることは、機械学習の適用によって達成される。いくつかの実施形態では、低画質は、少なくとも部分的にトランスデューサの少数の素子の使用によって引き起こされる低空間サンプリングの結果である。いくつかの実施形態では、低画質は、少なくとも部分的に低時間的サンプリングレートの使用によって引き起こされる低時間的サンプリングの結果である。いくつかの実施形態では、低画質は、少なくとも部分的に低空間周波数サンプリングの結果である。いくつかの実施形態では、低画質は、少なくとも部分的にビームフォーミングプロセス中に使用される時間的遅延量子化の結果である。いくつかの実施形態では、低画質は、少なくとも部分的に相収差補正を実施しないことによって生じる。いくつかの実施形態では、低画質は、少なくとも部分的にアパーチャコヒーレンス関数ベースのイメージング技術を実施しないことによって生じる。いくつかの実施形態では、低画質は、少なくとも部分的に少数伝達(行間隔および集団長さ)によって生じる。いくつかの実施形態では、低画質は、少なくとも部分的に画質を低下するために使用される上記の技術に2つ以上の組み合わせによって生じる。いくつかの実施形態では、フレームは、トランスデューサを使用して形成され、および使用されるトランスデューサは、pMUT装置である。いくつかの実施形態では、フレームは、トランスデューサを使用して形成され、および使用されるトランスデューサは、1.25D、1.5D、1.75D、または2Dアレイである。
【0010】
さらに、本明細書に開示されるのは、いくつかの実施形態では、医療用超音波イメージングシステムであって、該システムは、超音波トランスデューサを含む医療用超音波イメージング装置と、少なくとも1つのプロセッサーと、を含み、該システムは、超音波トランスデューサを使用して、高画質の超音波画像シーケンスの第1のフレームを形成することと、超音波トランスデューサを使用して、低画質の超音波画像シーケンスの少なくとも1つのフレームを形成することと、超音波トランスデューサを使用して、高画質の超音波画像シーケンスの第2のフレームを形成することと、高画質の超音波画像シーケンスの第1または第2のフレームを利用して、低画質の超音波画像シーケンスの少なくとも1つのフレームの質を、少なくとも1つのプロセッサーを使用して、向上させることと、を含む機能を実行するために構成される。いくつかの実施形態では、低画質の超音波画像シーケンスの少なくとも1つのフレームの質が、高画質の超音波画像シーケンスの第1および第2のフレームを利用して、向上される。いくつかの実施形態では、該装置は、高画質の超音波画像シーケンスの第1のフレーム、または高画質の超音波画像シーケンスの第2のフレームの質を向上させることを含む機能を実行するためにさらに構成される。様々な実施形態では、画質は、空間分解能、コントラスト分解能、信号対ノイズ比、および/または信号ダイナミックレンジを含む。いくつかの実施形態では、各フレームは、2次元画像である。他の実施形態では、各フレームは、3次元画像である。いくつかの実施形態では、各フレームは、Bモード画像である。いくつかの実施形態では、各フレームは、カラードップラー画像である。いくつかの実施形態では、各フレームは、スペクトルドップラーストリップである。いくつかの実施形態では、低画質の超音波画像シーケンスの少なくとも1つのフレームの質を向上させることは、機械学習の適用によって達成される。いくつかの実施形態では、低画質は、超音波トランスデューサの少数の素子の使用によって引き起こされる低空間サンプリングの結果である。いくつかの実施形態では、低画質は、低時間的サンプリングレートの使用によって引き起こされる低時間的サンプリングの結果である。いくつかの実施形態では、低画質は、低空間周波数サンプリングの結果である。いくつかの実施形態では、低画質は、ビームフォーミングプロセス中に使用される時間的遅延量子化の結果である。いくつかの実施形態では、低画質は、相収差補正を実施しないことによって生じる。いくつかの実施形態では、低画質は、アパーチャコヒーレンス関数ベースのイメージング技術を実施しないことによって生じる。いくつかの実施形態では、低画質は、少数伝達(行間隔および集団長さ)によって生じる。様々な実施形態では、低画質は、超音波トランスデューサの少数の素子の使用によって引き起こされる低空間サンプリング、低時間的サンプリングレートの使用によって引き起こされる低時間的サンプリング、低空間周波数サンプリング、ビームフォーミングプロセス中に使用される時間的遅延量子化、相収差補正を実施しないこと、アパーチャコヒーレンス関数ベースのイメージング技術を実施しないこと、および少数伝達(行間隔および集団長さ)からなるリストから選択される、画質の低下に使用される2つ以上の技術の組み合わせによって生じる。いくつかの実施形態では、超音波トランスデューサはpMUT装置を含む。いくつかの実施形態では、超音波トランスデューサは、1.25D、1.5D、1.75D、または2Dアレイの素子を含む。いくつかの実施形態では、少なくとも1つのプロセッサーは、特定用途向け集積回路(ASIC)を含む。
【0011】
機械学習の用語
機械学習アルゴリズム(「モデル」)は、f(x;w)数学関数であり、その関数では、x(「入力」)は、数学変数のベクトル(リスト)であり、y(「ラベル」)は、数学変数のベクトルであり、およびw(「パラメータベクトル」)はモデルの数学パラメータのベクトルである。モデルは、多数対(「訓練セット」){xi,yi},i=1,...,Pに基づくパラメータベクトルのために値を選ぶことによって設計されており、ここで、xiおよびyiは、それぞれxおよびyのために既知の換算値の例である。
【0012】
【数1】
は、モデル中でxのために、x
iの置換によって生成された値を表示するとしよう。パラメータベクトルは、一般的に、
【0013】
【数2】
値(「予測ラベル」)が換算値y
i(「正確なラベル」)に緊密に接近するように、数学的最適化手順によって選ばれる。モデルは、入力に基づいてラベルを予測すると言われる。入力またはラベルを表わすベクトルは、その要素が辞書式順序で配置された画像のピクセル値である場合、画像を記載することができる。入力またはラベルを表わすベクトルは、多数の画像を、ベクトルを形成する個々の画像を表わすベクトルの連結によって、代替的に記載することができる。
【0014】
特定の定義
他に定義されない限り、本明細書で使用される技術用語はすべて、本発明特定事項が属する分野における当業者により一般に理解されるものと同じ意味を有する。明細書および添付の請求項内で用いられる通り、単数形「a」、「an」および「the」は、文脈が他に明確に指示していない限り、複数の引用文を含む。「または」への任意の言及は、別段の定めがない限り、「および/または」を包含することを意図している。
【0015】
本明細書に使用されるように、「高画質の画像」は、超音波画像シーケンスのフレームであり、そのデータ収集パラメータが、装置の意図した適用でその装置の実作業において実行可能な方法で満足させる高画質を生成するような方法で選ばれた。
【0016】
本明細書で使用されるように、「低画質の画像」は、超音波画像シーケンスのフレームであり、そのフレームでは、低画質を犠牲にして、データ収集パラメータは、高画質の画像を取得するために必要とされた装置に対して装置の電力消費、サイズ、またはコストを減少するために慎重に選ばれた。
【0017】
本明細書で使用されるように、「復元画像」は、モデルを、低画質の画像において画質の損失を中和するために1つ以上の低画質の画像に適用することによって取得された超音波画像シーケンスのフレームであり、それによって、画質を高画質の画像の近似のものに復元する。復元画像は、モデルによって生成された予測ラベルを含む。
【0018】
本明細書で使用されるように、1つの「改善画質の画像」は、単にモデルを訓練する目的のために作成された超音波画像シーケンスのフレームであり、それは、イメージング装置の意図された適用では、その実作業において実行不可能な技術と設計パラメータの適用によって取得され、該適用は、1)作業において使用されるもの(かつそれはより優れた画質を提供する)と異なる装置でイメージングすること、(この装置は、必ずしも超音波装置である必要がなく、それは異なる物理療法:例えば、CT、MRI、OCTなどであり得ることに注意されたい)、2)その意図した適用で、装置の実作業において実行不可能な計算要件に関与するアルゴリズムで高画質の画像の改善することと、または、3)その意図した適用で、装置の実作業において複製できない過度の電力、サイズ、またはコストを関与させるスキャンパラメータ、またはシステム構成でイメージングすることと、を含む。
【0019】
スキャン手順
図1に例示される、2つのスキャン手順が考慮される。スキャン手順1では、超音波装置は、収集された超音波画像シーケンスの各n番目のフレームが高画質の画像であり、残りのフレームが低画質の画像であるようにデータを収集するためにプログラムされる。各n番目のフレームが、「アンカーフレーム」として称される。スキャン手順2では、超音波装置は、収集された超音波画像シーケンスの各フレームが、低画質の画像であるように、プログラムされる。広範囲の画像サイズ/画質は、超音波装置が提供可能、または提供するために構成する画像サイズ/画質に応じて代替的に適切である。
【0020】
画質を復元するための機械学習モデルの使用
本明細書に記載される発明特定事項は、スキャン手順1またはスキャン手順2にしたがって超音波画像フレームを取得すること、その後に収集された画像に基づいて、復元画像を予側するためにモデルを適用することを含む。したがって、1つ以上の復元画像は、予側ラベルを含み、および1つ以上の収集された画像は、モデルへの入力を含む。
【0021】
1つの実施形態では、モデルは、スキャン手順1で低画質の各画像を、低画質の画像、およびシーケンス中でそれに最も近い(時間的に最も接近している)2つのアンカーフレームに基づいて、復元画像の予側によって、復元するために設計されている。
【0022】
別の実施形態では、モデルは、低画質の各画像を、過去でより遠い(時間的に最も接近していない)フレームに基づいて、復元画像の予側によって、復元するために設計されている。そのような実施形態では、過去のフレームは、1つ以上の前の高画質のフレーム、1つ以上の前の低画質のフレーム、および本明細書に記載される加工方法によってシーケンス中で予め生成された1つ以上のフレーム、およびその組み合わせを随意に含む。
【0023】
復元画像を予側するための例示的なモデルは、回旋状のニューラルネットワーク(Conv)層と双方向的で、回旋状で、長い短期記憶(BC-LSTM)層を含む、(
図2Bで提供される詳細を有する)
図2Aで示される深層学習構造を使用して構築することができる。この実施形態では、ConvとReLUの層の目的は、画像フレームの空間的特徴を捉えて分析することである。初期のConv層は、画像の空間的特徴を決定するに効果を有する。BC-LSTM層は、低画質の画像を復元することを促進するために2つのアンカーフレームの情報を使用する。この実施形態では、BC-LSTMは、画像フレーム間の時間的関係を利用する。最終のConv層(
図2Aで最上部)は、復元画像を形成するためにBC-LSTMモジュールの出力を集約する。
【0024】
図2Bでは、すべての「BC-LSTMモジュール」内の「後進的なConvLSTM」モジュールは、同じパラメータを共有する一方、Conv層は必ずしも共通パラメータ値を共有しない。
【0025】
この実施形態では、モデルの訓練は、(
図2Aで見られるように)入力を形成するために2つのアンカーフレームおよび1つの低画質の画像を使用することによって実行され、正確なラベルは、モデルが復元しようとする低画質の画像と同じ画像内容を描いている高画質の画像または改善画質の画像である。作業では、モデルは、復元画像を含む、予側ラベルを生成する。
【0026】
この実施形態の変形では、モデルは、入力を形成するために、低画質の画像、および最も最近で収集されたアンカーフレームのみを使用し、予測ラベルは復元画像を含む。このアプローチは、原因処理(すなわち、それは低画質の画像の後に収集された画像を利用しない)に対する信頼の利点を有しており、したがって、画像を生成する際に潜伏(遅れ)を回避する。しかしながら、このアプローチは、1つのアンカーフレームのみを利用するという短所を有する。
【0027】
この実施形態のさらなる変形では、モデルは、入力を形成するために、長さMの摺動時間窓中で収集されるすべての画像を使用し、出力は、時間窓中で収集されるすべての画像に対応する復元画像を含む。M=Nの場合、収集された画像の時間窓は、1つのアンカーフレーム、およびN-1低画質の画像を含む。この例では、収集された画像のどれがアンカーフレームであるか識別するために、モデルに、入力変数を導入することは有益であり得る。
【0028】
この実施形態のさらなる変形では、モデルは、前方の時間的方向でのみ働く、一方向の回旋状のLSTMなどの一方向の時間的処理を使用する。
【0029】
この実施形態のさらなる変形では、モデルは、過去の情報に基づいて、連続的に自分を更新する、または各画像を独立して処理して、1回で1つの画像を処理する。
【0030】
この実施形態のさらなる変形では、スキャン手順2は、データを収集するために使用される。この場合、モデルは、入力を構築するために1つ以上の低画質の画像、および正確なラベルを構築するために1つ以上の対応する高画質の画像または改善画質の画像を使用することによって訓練される。
【0031】
これらの実施形態の各々では、LSTMによって提供される時間的処理は、回旋状のニューラルネットワークと取り替えることができる。このネットワークは、モデルに含まれる時間的回旋が拡大した回旋である場合、画像シーケンスで見られた画像内容の長期記憶を示す場合がある。代替的に、空間的と時間的処理は、一体化空間時間的回旋状のニューラルネットワーク構造内に統合され得る。
【0032】
これらの実施形態の各々では、モデルは、訓練セットの適切な構築によって、高画質の画像、または改善画質の画像のいずれかを予側するように訓練され得る。
【0033】
これらの実施形態の各々では、モデルは、訓練セット中でラベルとして改善画質の画像を使用することによって、アンカーフレームの画質を改善するために使用され得る。
【0034】
本明細書に提供される発明特定事項の範囲内での、
図2Aで示される実施形態の代替物は、3次元回旋状のニューラルネットワーク層(例えば、BC-LSTMでない)に基づき、これらの3次元のうちの2つの次元が空間座標であり、かつ第3の次元が時間座標である。この代替的な実施形態では、画像シーケンスの時間的性質はこの第3の次元によって捉えられる。
【0035】
画質に影響を与える省電力方法
受信チャネルカウントの減少
いくつかの実施形態では、フロントエンド・システム・ハードウェアは、アナログ信号調節、デジタル化、復調、デシメーション、ビームフォーミングなどを実施することができる。フロントエンドハードウェアによって消費される電力を減少する方法の1つは、処理されている受信チャネルの数を減少することである。これは、空間分解能、コントラスト分解能、および信号対ノイズ比(SNR)の喪失として現れる。より小さなアパーチャが受信に使用される(64素子対128素子)1つの場合、空間分解能は、方位角の次元で2の因数で減少される。別の実施形態では、受信素子の数は、偶または奇の素子の使用によって減少される。この方法は、方位角の空間分解能(同じ有効アパーチャサイズ)を維持するが、より低下した空間サンプリングによって誘導されたサイドローブおよびグレーティングローブは、結果として生じる画像のコントラスト分解能を減少させる。
【0036】
さらに、固定素子ピッチが、グレーティングローブおよび他の空間サンプリングアーチファクトのため、高い周波数でステアリング制限をもたらすシステムでは、そのようなアプローチは、画質を回復するのに使用され得ることを指摘すべきである。そのような実施形態では、増加した計算および「高画質」のフレームのための電力を犠牲にしてより高い空間サンプリングレートを達成し、その後、正常なアパーチャを低画質フレームに使用するために仮想素子が合成され得る。
【0037】
時間的サンプリング周波数の減少
フロントエンドADCの時間的サンプリング周波数の減少も電力を減少する。極端な場合では、サンプリング周波数減少は、超音波信号の時間的エイリアシングを引き起こし、画像のコントラストおよび分解能を減少する。
【0038】
ビームフォーミング中の相/遅延量子化の減少
群遅延量子化レベルの減少、または優れた相整列を実施しないことなどの、ビームフォーミングプロセスの計算量の減少は、処理電力を減少する。しかしながら、この不完全な集束スキームは、点分布関数(空間分解能およびコントラスト分解能)を下げることによって、画質を減少する。
【0039】
伝達数の減少
電力を減少するこの方法では、伝達数は、伝達行間隔を増大させること、および/または伝達アパーチャの制限によって伝達f/#を増大させることによって減少される。全体的な効果は、伝達数を減少すること、したがって、1つのフレーム当たり計算されるべき処理行を受信することである。このアプローチの効果は、画像SNR、空間分解能および画像コントラストの減少である。
【0040】
伝達数の減少の別の効果は、1つの伝達当たり処理された平行の受信ビーム数を増大させることである。しかしながら、1つの伝達当たりより多くの受信ビームを形成することは、画質の観点から好ましくない、マルチビーム、ブロックアーチファクトを引き起こす。本開示で概説されるアプローチは、これらの好ましくないイメージングアーチファクトに対処するために使用され得る。
【0041】
多数の焦点伝達(様々な伝達焦点深度)、または回顧の伝達/受信アパーチャ合成が、高画質の画像フレームを作成するために使用されるであろうという例は、本方法に含まれるであろう。
【0042】
伝達される電力の減少
低伝達電力(電圧レベル、伝達サイクル数、より弱い焦点/面波/分岐波)で伝達することは、SNRを減少させる。この場合、「高画質」のフレームは、恐らくコード化励起、および/またはパルス幅変調を使用して、より高い電圧レベルで伝達され、それはパルスリングダウンの減少という付加利益を有するであろう。
【0043】
画像処理の複雑さの減少
1つの実施形態では、低画質の画像フレームは、適用される画像処理アルゴリズムの複雑さ(例えば、相収差補正、適応性のあるイメージング、アパーチャコヒーレンス関数ベースのイメージング技術、斑点減少、輪郭強調など)の観点から高画質の画像フレームと同じ方法で処理されない。これは、出力画像中の空間分解能、コントラスト分解能、および潜在的にSNRを自然に減少する。
【0044】
本主題の好ましい実施形態が本明細書中で示され、記載されてきたが、このような実施形態はほんの一例として提供されるものであることは、当業者には明らかであろう。多数の変形、変更、及び置換は、記載される方法および装置から逸脱することなく、当業者によって現在想到される。本明細書に記載される本主題の実施形態の様々な代案が、記載される方法およびシステムの実施において利用されるかもしれないことを理解されたい。