(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公開特許公報(A)
(11)【公開番号】P2023180385
(43)【公開日】2023-12-21
(54)【発明の名称】超音波時系列データ処理装置及び超音波時系列データ処理プログラム
(51)【国際特許分類】
A61B 8/14 20060101AFI20231214BHJP
【FI】
A61B8/14
【審査請求】未請求
【請求項の数】11
【出願形態】OL
(21)【出願番号】P 2022093657
(22)【出願日】2022-06-09
(71)【出願人】
【識別番号】320011683
【氏名又は名称】富士フイルムヘルスケア株式会社
(74)【代理人】
【識別番号】110001210
【氏名又は名称】弁理士法人YKI国際特許事務所
(72)【発明者】
【氏名】長野 智章
(72)【発明者】
【氏名】笠原 英司
(72)【発明者】
【氏名】浅房 勝徳
【テーマコード(参考)】
4C601
【Fターム(参考)】
4C601DD19
4C601DE04
4C601EE09
4C601FF08
4C601JB34
4C601JC05
4C601JC06
4C601JC16
4C601KK31
(57)【要約】
【課題】超音波画像が示す特徴の予測精度を向上させる。
【解決手段】対象被検体内に設定された同一の走査面に対して超音波の送受波が繰り返し行われることで、受信部16、画像生成部18、トラッキング処理部20、エラスト処理部22、又はドプラ処理部24において、時系列の対象時系列データが取得される。特徴予測部48は、入力された時系列データに基づいて当該時系列データが示す特徴を予測して出力するように学習された学習器に対象時系列データを入力し、対象時系列データに対する学習器の出力データに基づいて、対象時系列データが示す特徴を予測する。表示制御部26は、特徴予測部48による予測結果をユーザに通知する。
【選択図】
図1
【特許請求の範囲】
【請求項1】
被検体内に設定された同一の走査面に対する超音波の送受波を複数回繰り返し行うことで生成された、信号の時間変化を示す時系列データである学習用時系列データと、当該学習用時系列データに関する特徴を表す情報との組み合わせを学習データとして用い、入力された前記時系列データに基づいて当該時系列データに関する特徴を予測して出力するように学習された特徴予測学習器に対して、対象被検体内に設定された同一の走査面に対する超音波の送受波を複数回繰り返し行うことで生成された前記時系列データである対象時系列データを入力し、当該入力に対する前記特徴予測学習器の出力に基づいて、前記対象時系列データに関する特徴を予測する特徴予測部と、
前記特徴予測部の予測結果をユーザに通知する通知部と、
を備えることを特徴とする超音波時系列データ処理装置。
【請求項2】
前記特徴は、前記時系列データを用いて行われる検査の種類、前記時系列データが示す組織断面の種類、設定すべき計測位置、前記時系列データが示す疾患、又は、前記時系列データにおいて生じたアーティファクトの種類、の少なくとも1つである、
ことを特徴とする請求項1に記載の超音波時系列データ処理装置。
【請求項3】
前記時系列データは、時系列の超音波画像列、画像化前のデータである時系列のフレームデータ列、スペックルの軌跡を表す軌跡情報、被検部位の歪み量の時間変化を表す時系列エラスト情報、又は、被検部位又は血液の速度の時間変化を表す時系列ドプラ信号、の少なくとも1つである、
ことを特徴とする請求項1に記載の超音波時系列データ処理装置。
【請求項4】
前記特徴予測部は、互いに異なる前記特徴を予測して出力するように学習された複数の前記特徴予測学習器の中から、ユーザ指示に基づいて選択した前記特徴予測学習器に前記対象時系列データを入力する、
ことを特徴とする請求項1から3のいずれか1項に記載の超音波時系列データ処理装置。
【請求項5】
前記特徴予測部は、互いに異なる前記特徴を予測して出力するように学習された複数の前記特徴予測学習器それぞれに対して、前記対象時系列データを入力し、複数の前記特徴予測学習器の出力の組み合わせに基づいて、前記対象時系列データに関する特徴を予測する、
ことを特徴とする請求項1から3のいずれか1項に記載の超音波時系列データ処理装置。
【請求項6】
前記対象時系列データ及び前記学習用時系列データは、被検体の脈動周期における同一期間に対応する前記時系列データである、
ことを特徴とする請求項1に記載の超音波時系列データ処理装置。
【請求項7】
前記対象時系列データを生成する時系列データ生成部と、
をさらに備えることを特徴とする請求項1に記載の超音波時系列データ処理装置。
【請求項8】
前記特徴予測部は、現時点を基準とした前記対象時系列データに関する特徴の予測を繰り返し実行する、
ことを特徴とする請求項7に記載の超音波時系列データ処理装置。
【請求項9】
前記特徴予測部は、前記対象被検体から取得された心電波形に基づいて、前記対象被検体の心拍間隔が安定した時点を基準とした前記対象時系列データに関する特徴の予測を実行する、
ことを特徴とする請求項7に記載の超音波時系列データ処理装置。
【請求項10】
前記特徴予測部は、超音波の送受波を行う超音波プローブをユーザが操作した時点を基準とした前記対象時系列データに関する特徴の予測を実行する、
ことを特徴とする請求項7に記載の超音波時系列データ処理装置。
【請求項11】
コンピュータを、
被検体内に設定された同一の走査面に対する超音波の送受波を複数回繰り返し行うことで生成された、信号の時間変化を示す時系列データである学習用時系列データと、当該学習用時系列データに関する特徴を表す情報との組み合わせを学習データとして用い、入力された前記時系列データに基づいて当該時系列データに関する特徴を予測して出力するように学習された特徴予測学習器に対して、対象被検体内に設定された同一の走査面に対する超音波の送受波を複数回繰り返し行うことで生成された前記時系列データである対象時系列データを入力し、当該入力に対する前記特徴予測学習器の出力に基づいて、前記対象時系列データに関する特徴を予測する特徴予測部と、
前記特徴予測部の予測結果をユーザに通知する通知部と、
として機能させることを特徴とする超音波時系列データ処理プログラム。
【発明の詳細な説明】
【技術分野】
【0001】
本明細書は、超音波時系列データ処理装置及び超音波時系列データ処理プログラムを開示する。
【背景技術】
【0002】
従来、超音波診断装置により、被検体に向けて超音波が送受波され、それにより得られたフレームデータ(1枚の超音波画像に相当する複数の超音波ビームデータ)に基づいて、超音波画像が生成されている。従来、超音波画像に表される疾患を自動判定する技術が提案されている。
【0003】
特許文献1には、疾患としての腫瘤が映る超音波画像(静止画像)と、それ以外の超音波画像(静止画像)を学習データとして用いて、入力超音波画像において腫瘤を識別するようにモデルを学習させ、判定対象の超音波画像を学習済みのモデルに入力して、判定対象の超音波画像において腫瘤を識別する超音波画像診断支援方法が開示されている。特に、特許文献1に開示された超音波画像診断支援方法においては、スペックルノイズなどが単発的に発生するという知見から、判定対象の超音波画像に時系列的に連続する超音波画像である連続フレームにおいて、同一位置に発生している腫瘤候補領域を最終的な腫瘤領域として扱っている。
【先行技術文献】
【特許文献】
【0004】
【発明の概要】
【発明が解決しようとする課題】
【0005】
例えば特許文献1のように、学習済みのモデル(学習器)に対して超音波画像を入力することで、当該超音波画像が示す特徴を予測することが可能となる。しかしながら、学習器を用いた超音波画像の特徴の予測には改善の余地がある。例えば、学習器が、時系列の超音波画像列(すなわち動画像)が表す被検体の動きなどをも考慮して超音波画像の特徴を予測可能となれば、その予測精度が向上されることが期待される。
【0006】
本明細書で開示される超音波時系列データ処理装置の目的は、超音波画像が示す特徴の予測精度を向上させることにある。
【課題を解決するための手段】
【0007】
本明細書で開示される超音波時系列データ処理装置は、被検体内に設定された同一の走査面に対する超音波の送受波を複数回繰り返し行うことで生成された、信号の時間変化を示す時系列データである学習用時系列データと、当該学習用時系列データに関する特徴を表す情報との組み合わせを学習データとして用い、入力された前記時系列データに基づいて当該時系列データに関する特徴を予測して出力するように学習された特徴予測学習器に対して、対象被検体内に設定された同一の走査面に対する超音波の送受波を複数回繰り返し行うことで生成された前記時系列データである対象時系列データを入力し、当該入力に対する前記特徴予測学習器の出力に基づいて、前記対象時系列データに関する特徴を予測する特徴予測部と、前記特徴予測部の予測結果をユーザに通知する通知部と、を備えることを特徴とする。
また、前記特徴は、前記時系列データを用いて行われる検査の種類、前記時系列データが示す組織断面の種類、設定すべき計測位置、前記時系列データが示す疾患、又は、前記時系列データにおいて生じたアーティファクトの種類、の少なくとも1つであるとよい。
また、前記時系列データは、時系列の超音波画像列、画像化前のデータである時系列のフレームデータ列、スペックルの軌跡を表す軌跡情報、被検部位の歪み量の時間変化を表す時系列エラスト情報、又は、被検部位又は血液の速度の時間変化を表す時系列ドプラ信号、の少なくとも1つであるとよい。
【0008】
当該構成によれば、特徴予測学習器は、時系列の学習用時系列データを用いて学習されることで、時系列データにおける信号の時間変化を考慮して、時系列データの特徴を出力できるようになる。このように学習された特徴予測学習器に対して、時系列の対象時系列データを入力することで、少なくとも、静止画像である超音波画像を用いて学習された学習器に超音波画像を入力することで当該超音波画像の特徴を予測する場合に比して、より高精度に超音波画像の特徴を予測することが可能となる。
【0009】
前記特徴予測部は、互いに異なる前記特徴を予測して出力するように学習された複数の前記特徴予測学習器の中から、ユーザ指示に基づいて選択した前記特徴予測学習器に前記対象時系列データを入力するとよい。
【0010】
当該構成によれば、ユーザは、対象時系列データに関する所望の特徴の予測結果を得ることができる。
【0011】
前記特徴予測部は、互いに異なる前記特徴を予測して出力するように学習された複数の前記特徴予測学習器それぞれに対して、前記対象時系列データを入力し、複数の前記特徴予測学習器の出力の組み合わせに基づいて、前記対象時系列データに関する特徴を予測するとよい。
【0012】
当該構成によれば、対象時系列データに関する特徴の予測の精度がより向上されることが期待される。例えば、特徴予測部は、時系列データを用いて行われる検査の種類を予測する特徴予測学習器の出力に基づいて、対象時系列データを用いて行うべき検査の種類を予測し、予測した検査の種類から判別し得る複数の疾患を特定する。その上で、特徴予測部は、時系列データが示す疾患を予測する特徴予測学習器に対象時系列データを入力することで、先に特定した複数の疾患の中から選択する形で、対象時系列データが示す疾患を予測する。これにより、疾患予測の精度がより向上されることが期待される。
【0013】
前記対象時系列データ及び前記学習用時系列データは、被検体の脈動周期における同一期間に対応する前記時系列データであるとよい。
【0014】
当該構成によれば、脈動周期における学習用時系列データと対象時系列データとの期間が同一となることで特徴予測学習器の出力精度が向上され、これにより対象時系列データが示す特徴の予測精度を向上させることができる。
【0015】
前記対象時系列データを生成する時系列データ生成部と、をさらに備えるとよい。
【0016】
当該構成によれば、被検体に対して超音波を送受波して対象時系列データを生成する超音波診断装置において、対象時系列データに関する特徴を予測することができる。
【0017】
前記特徴予測部は、現時点を基準とした前記対象時系列データに関する特徴の予測を繰り返し実行するとよい。
【0018】
当該構成によれば、ユーザは、最新の対象時系列データに関する特徴の予測結果を得ることができる。
【0019】
前記特徴予測部は、前記対象被検体から取得された心電波形に基づいて、前記対象被検体の心拍間隔が安定した時点を基準とした前記対象時系列データに関する特徴の予測を実行するとよい。
【0020】
当該構成によれば、心拍間隔が安定した状態で取得された対象時系列データの特徴の予測を行うことができる。
【0021】
前記特徴予測部は、超音波の送受波を行う超音波プローブをユーザが操作した時点を基準とした前記対象時系列データに関する特徴の予測を実行するとよい。
【0022】
当該構成によれば、ユーザは、超音波プローブを操作する度に、対象時系列データの特徴の予測を得ることができる。
【0023】
また、本明細書で開示される超音波時系列データ処理プログラムは、コンピュータを、被検体内に設定された同一の走査面に対する超音波の送受波を複数回繰り返し行うことで生成された、信号の時間変化を示す時系列データである学習用時系列データと、当該学習用時系列データに関する特徴を表す情報との組み合わせを学習データとして用い、入力された前記時系列データに基づいて当該時系列データに関する特徴を予測して出力するように学習された特徴予測学習器に対して、対象被検体内に設定された同一の走査面に対する超音波の送受波を複数回繰り返し行うことで生成された前記時系列データである対象時系列データを入力し、当該入力に対する前記特徴予測学習器の出力に基づいて、前記対象時系列データに関する特徴を予測する特徴予測部と、前記特徴予測部の予測結果をユーザに通知する通知部と、として機能させることを特徴とする。
【発明の効果】
【0024】
本明細書で開示される超音波時系列データ処理装置によれば、超音波画像が示す特徴の予測精度を向上させることができる。
【図面の簡単な説明】
【0025】
【
図1】本実施形態に係る超音波診断装置のブロック図である。
【
図2】時系列のフレームデータ列を示す概念図である。
【
図3】特徴予測部の予測結果を通知する通知画面の例を示す図である。
【
図4】特徴予測部による予測処理を行うタイミング及び対象時系列データを示す第1の概念図である。
【
図5】特徴予測部による予測処理を行うタイミング及び対象時系列データを示す第2の概念図である。
【
図6】特徴予測部による予測処理を行うタイミング及び対象時系列データを示す第3の概念図である。
【
図7】本実施形態に係る超音波診断装置の処理の流れを示すフローチャートである。
【発明を実施するための形態】
【0026】
図1は、本実施形態に係る超音波時系列データ処理装置としての超音波診断装置10のブロック図である。超音波診断装置10は、病院などの医療機関に設置され、超音波検査時に使用される医用装置である。
【0027】
詳しくは後述するが、超音波診断装置10は、被検体に対して超音波ビームを走査し、それにより得られたフレームデータに基づいて超音波画像を生成する装置である。詳しくは、超音波診断装置10は、フレームデータに基づいて、走査面からの反射波の振幅強度が輝度に変換された断層画像(Bモード画像)を生成する。
【0028】
また、超音波診断装置10は、時系列に並ぶ複数のBモード画像において、小さな斑点(スペックル)を時間方向に追跡するスペックルトラッキング機能を備えている。スペックルトラッキング機能は、例えば、心筋の所定部分の運動(収縮・拡張)の評価などを行う際に利用される。また、超音波診断装置10は、被検体の体表に対してプローブ12を押し付けるなどの方法によって被検部位に圧力を加え、当該圧力に応じた被検部位の歪み量を推定して、被検部位の歪み量を色で表してBモード画像に重畳表示させるエラストグラフィ機能を備えている。さらに、超音波診断装置10は、送信波と反射波の周波数の差分に基づいて、被検体内の組織の運動速度を演算し、運動速度を色で表してBモード画像に重畳表示させるカラーフローマッピング機能(カラードプラ機能)を備えている。
【0029】
超音波プローブであるプローブ12は、超音波の送信及び反射波の受信を行うデバイスである。具体的には、プローブ12は、被検体の体表に当接され、被検体に向けて超音波を送信し、被検体内の組織において反射した反射波を受信する。プローブ12内には、複数の振動素子からなる振動素子アレイが設けられている。振動素子アレイに含まれる各振動素子には、後述の送信部14から電気信号である送信信号が供給され、これにより、超音波ビーム(送信ビーム)が生成される。また、振動素子アレイに含まれる各振動素子は、被検体からの反射波を受信し、反射波を電気信号である受信信号に変換して後述の受信部16に送信する。
【0030】
送信部14は、超音波の送信時において、後述のプロセッサ46の制御に応じて、複数の送信信号をプローブ12(詳しくは振動素子アレイ)に対して並列的に供給する。これにより振動素子アレイから超音波が送信される。送信部14は、プローブ12から送信される送信ビームが走査面内において電子走査されるように、送信信号をプローブ12に供給する。
【0031】
受信部16は、反射波の受信時において、プローブ12(詳しくは振動素子アレイ)からの複数の受信信号を並列的に受け取る。受信部16では、複数の受信信号に対する整相加算(遅延加算)が実施され、これにより受信ビームデータが生成される。
【0032】
図2は、時系列のフレームデータ列を示す概念図である。プローブ12からは、走査面において超音波ビームがθ方向に走査されて、複数の受信ビームデータから成る1枚の超音波画像に対応する1つのフレームデータFが生成される。被検体内に設定された同一の走査面に対する超音波ビームの走査が複数回繰り返し行われる。これにより、時系列の複数のフレームデータF(つまりフレームデータ列)が生成される。
【0033】
生成されたフレームデータFは、画像生成部18、エラスト処理部22、又はドプラ処理部24に送られる。
【0034】
図1に戻り、画像生成部18は、デジタルスキャンコンバータにより構成され、座標変換機能、画素補間機能、フレームレート変換機能などを備えている。画像生成部18は、受信部16からの各受信ビームデータ列に対して、ゲイン補正処理、対数増幅処理、及びフィルタ処理などの各種信号処理を行う。その上で、画像生成部18は、信号処理後の複数の受信ビームデータ列からなるフレームデータに基づいて、反射波の振幅(強度)が輝度で表されたBモード画像を生成する。画像生成部18は、時系列のフレームデータ列に基づいて、時系列の超音波画像列(Bモード画像列)を生成する。生成されたBモード画像は、表示制御部26及びプロセッサ46に送られる。
【0035】
トラッキング処理部20は、画像生成部18により生成された時系列のBモード画像列に基づいて、スペックルを時間方向に追跡するスペックルトラッキング処理を実行する。スペックルトラッキング処理の内容は従来と同内容であってよいため、ここでは詳細な説明は省略する。スペックルトラッキング処理により得られた、スペックルの軌跡を表す軌跡情報は、表示制御部26及びプロセッサ46に送られる。
【0036】
エラスト処理部22は、受信部16からの受信ビームデータに基づいて、プローブ12を被検体の体表に押し付けるなどの方法によって加えられた圧力に応じた被検部位の歪み量を推定する。歪み量を推定する処理の内容は従来と同内容であってよいため、ここでは詳細な説明は省略する。特に、エラスト処理部22は、受信部16からの時系列の受信ビームデータ列に基づいて、被検部位の歪み量の時間変化を推定する。推定された歪み量の時間変化を表す時系列エラスト情報は、表示制御部26及びプロセッサ46に送られる。
【0037】
ドプラ処理部24は、受信部16からの受信ビームデータに基づいて、走査面内にある被検部位又は当該被検部位内を流れる血液の速度を演算する。被検部位又は血液の速度を演算する処理の内容も従来と同内容であってよいため、ここでは詳細な説明は省略する。特に、ドプラ処理部24は、受信部16からの時系列の受信ビームデータ列に基づいて、走査面内にある被検部位又は当該被検部位内を流れる血液の速度の時間変化を演算する。演算された被検部位又は血液の速度の時間変化を示す時系列ドプラ信号(時系列速度信号)は、表示制御部26及びプロセッサ46に送られる。
【0038】
表示制御部26は、画像生成部18で生成されたBモード画像を、例えば液晶パネルなどにより構成される表示部としてのディスプレイ28に表示させる。特に、表示制御部26は、時系列のBモード画像列(すなわち動画像)をディスプレイ28に表示させる。また、表示制御部26は、トラッキング処理部20からの軌跡情報に基づいて、スペックルトラッキング処理の結果をディスプレイ28に表示させる。また、表示制御部26は、エラスト処理部22からの時系列エラスト情報に基づいて、Bモード画像列(動画像)に重畳させて、被検部位の歪み量を色で表すことでその時間変化をディスプレイ28に表示させる。また、表示制御部26は、ドプラ処理部24からの時系列ドプラ信号に基づいて、Bモード画像列(動画像)に重畳させて、被検部位若しくは血液の速度を色で表すことでその時間変化をディスプレイ28に表示させる。さらに、表示制御部26は、後述の特徴予測部48による予測結果をディスプレイ28に表示させる。
【0039】
なお、送信部14、受信部16、画像生成部18、トラッキング処理部20、エラスト処理部22、ドプラ処理部24、表示制御部26の各部は、1又は複数のプロセッサ、チップ、電気回路などによって構成されている。各部がハードウェアとソフトウエアとの協働により実現されてもよい。
【0040】
入力インターフェース30は、例えばボタン、トラックボール、あるいはタッチパネルなどから構成される。入力インターフェース30は、ユーザの指示を超音波診断装置10に入力するためのものである。
【0041】
心電計32は、被検体に装着される複数の電極を含んで構成される。心電計32は、被検体の心拍波形である心電波形データをプロセッサ46に出力する。
【0042】
メモリ34は、HDD(Hard Disk Drive)、SSD(Solid State Drive)、eMMC(embedded Multi Media Card)、ROM(Read Only Memory)あるいはRAM(Random Access Memory)などを含んで構成される。メモリ34には、超音波診断装置10の各部を動作させるための超音波時系列データ処理プログラムが記憶される。なお、超音波時系列データ処理プログラムは、USB(Universal Serial Bus)メモリ又はCD-ROMなどのコンピュータ読み取り可能な非一時的な記憶媒体に格納することもできる。超音波診断装置10又は他のコンピュータは、そのような記憶媒体から超音波時系列データ処理プログラムを読み取って実行することができる。また、
図1に示される通り、メモリ34には、検査種類予測学習器36、組織断面予測学習器38、計測位置予測学習器40、疾患予測学習器42、及び、アーティファクト予測学習器44が記憶される。各学習器は、特徴予測学習器に相当する。
【0043】
検査種類予測学習器36、組織断面予測学習器38、計測位置予測学習器40、疾患予測学習器42、及び、アーティファクト予測学習器44の各学習器は、それぞれ、例えば、RNN(Recurrent neural network;回帰型ニューラルネットワーク)、RNNの一種であるLSTM(Long Short Term Memory)、CNN(Convolutional Neural Network;畳み込みニューラルネットワーク)、あるいは、深層強化学習アルゴリズムを利用したDQN(Deep Q-Network)などの学習モデルから構成される。上述の各学習器は、全て同じタイプの学習モデルであってもよいし、互いに異なる学習モデルであってもよい。
【0044】
各学習器は、被検体内に設定された同一の走査面に対する超音波の送受波を複数回繰り返し行うことで生成された、信号の時間変化を示す時系列データである学習用時系列データと、当該学習用時系列データに関する特徴を表す情報(ラベル)との組み合わせを学習データとして用い、入力された時系列データに基づいて当該時系列データに関する特徴を予測して出力するように学習される。具体的には、学習器には学習用時系列データが入力され、学習器は当該学習用時系列データが示す特徴を予測して出力する。学習処理を行うコンピュータは、所定の損失関数により、当該出力データと、当該学習用時系列データに付されたラベルとの誤差を演算し、当該誤差が小さくなるように、学習器の各パラメータ(例えば各ニューロンの重みやバイアス)を調整する。このような学習処理を繰り返すことで、学習器は、入力された時系列データに基づいて、当該時系列データに関連する特徴を高精度に出力できるようになる。
【0045】
本実施形態では、学習用時系列データは、画像生成部18が生成した時系列の超音波画像列であるが、学習用時系列データとしては、画像化前のデータである時系列のフレームデータ列であってもよい。また、疾患予測学習器42においては、学習用時系列データとして、トラッキング処理部20が生成した軌跡情報、エラスト処理部22が生成した時系列エラスト情報、又は、ドプラ処理部24が生成した時系列ドプラ信号であってもよい。
【0046】
学習用時系列データの対象となる被検部位が脈動する部位である場合がある。その場合、学習用時系列データは、被検部位の脈動周期における所定期間に対応するデータであるとよい。例えば、心電計32から被検体の心電波形を取得し、心電波形におけるR波からR波の間の期間に取得された受信ビームデータ列に基づく時系列データを学習用時系列データとするとよい。
【0047】
また、上述の「特徴」とは、当該時系列データを用いて行われる検査の種類、当該時系列データが示す組織断面の種類、当該時系列データに対応する超音波画像において設定すべき計測位置、当該時系列データが示す疾患、又は、当該時系列データにおいて生じたアーティファクトの種類、の少なくとも1つである。本実施形態では、以下に説明するように、特徴毎にそれぞれ学習器が設けられている。
【0048】
検査種類予測学習器36は、学習用時系列データと、当該学習用時系列データを用いて行うべき検査の種類を示す情報との組み合わせを学習データとして用いて、入力された時系列データに基づいて、当該時系列データを用いて行うべき検査の種類を予測して出力するように学習されたものである。
【0049】
組織断面予測学習器38は、学習用時系列データと、当該学習用時系列データに対応する超音波画像(Bモード画像)が示す組織断面(例えば心臓の四腔断面、二腔断面など)を示す情報との組み合わせを学習データとして用いて、入力された時系列データに基づいて、当該時系列データに対応する超音波画像が示す組織断面を予測して出力するように学習されたものである。
【0050】
計測位置予測学習器40は、学習用時系列データと、当該学習用時系列データを用いた計測において設定すべき計測位置(例えば組織の位置やドプラ検査におけるカーソル位置など)を示す情報との組み合わせを学習データとして用いて、入力された時系列データに基づいて、当該時系列データを用いた計測において設定すべき計測位置を予測して出力するように学習されたものである。
【0051】
疾患予測学習器42は、学習用時系列データと、当該学習用時系列データが示す疾患を示す情報との組み合わせを学習データとして用いて、入力された時系列データに基づいて、当該時系列データが示す疾患を予測して出力するように学習されたものである。
【0052】
アーティファクト予測学習器44は、学習用時系列データと、当該学習用時系列データに対応する超音波画像において生じるアーティファクトの種類を示す情報との組み合わせを学習データとして用いて、入力された時系列データに基づいて、当該時系列データに対応する超音波画像において生じるアーティファクトの種類を予測して出力するように学習されたものである。
【0053】
本実施形態では、上記の各学習器は、超音波診断装置10以外の他のコンピュータによって学習されて、学習済みの学習器がメモリ34に記憶される。しかし、超音波診断装置10により取得される時系列データを学習用時系列データとして、各学習器の学習処理を超音波診断装置10で行うようにしてもよい。この場合、プロセッサ46が、各学習器の学習処理を行う学習処理部としての機能を発揮することになる。
【0054】
プロセッサ46は、汎用的な処理装置(例えばCPU(Central Processing Unit)など)、及び、専用の処理装置(例えばGPU(Graphics Processing Unit)、ASIC(Application Specific Integrated Circuit)、FPGA(Field-Programmable Gate Array)、あるいは、プログラマブル論理デバイスなど)の少なくとも1つを含んで構成される。プロセッサ46としては、1つの処理装置によるものではなく、物理的に離れた位置に存在する複数の処理装置の協働により構成されるものであってもよい。
図1に示すように、プロセッサ46は、メモリ34に記憶された超音波時系列データ処理プログラムに従って、特徴予測部48としての機能を発揮する。
【0055】
特徴予測部48は、特徴予測の対象となる被検体(本明細書では「対象被検体」と呼ぶ)内に設定された同一の走査面に対する超音波の送受波を複数回繰り返し行うことで生成された時系列データ(本明細書では「対象時系列データ」と呼ぶ)を、上述の学習済みの学習器に入力する。本実施形態では、対象時系列データは、画像生成部18が生成した時系列の超音波画像列であるが、対象時系列データとしては、画像化前のデータである時系列のフレームデータ列であってもよい。また、疾患予測学習器42においては、対象時系列データは、トラッキング処理部20が生成した軌跡情報、エラスト処理部22が生成した時系列エラスト情報、又は、ドプラ処理部24が生成した時系列ドプラ信号であってもよい。
【0056】
対象時系列データが超音波画像列である場合、受信部16及び画像生成部18が時系列データ生成部に相当し、対象時系列データが画像化前のデータである時系列のフレームデータ列である場合、受信部16が時系列データ生成部に相当する。また、対象時系列データが軌跡情報である場合、受信部16、画像生成部18、及びトラッキング処理部20が時系列データ生成部に相当し、対象時系列データが時系列エラスト情報である場合、受信部16及びエラスト処理部22が時系列データ生成部に相当し、対象時系列データが時系列ドプラ信号である場合、受信部16及びドプラ処理部24が時系列データ生成部に相当する。
【0057】
なお、過去に取得された時系列データ(フレームデータ列、超音波画像列、軌跡情報、時系列エラスト情報、又は時系列ドプラ信号)は、所定期間、シネメモリ(不図示)などに一時的に保持される。例えば、心電計32で取得される対象被検体の心電波形に基づいて、複数心拍分の時系列データが保持される。詳しくは後述するが、特徴予測部48は、保持されていた時系列データから対象時系列データを選択する。
【0058】
各学習器は、入力された対象時系列データに基づいて、対象時系列データに関する特徴を予測して、予測結果を示す出力データを出力する。特徴予測部48は、各学習器の出力データに基づいて、対象時系列データに関する特徴を予測する。
【0059】
具体的には、特徴予測部48は、対象時系列データを学習済みの検査種類予測学習器36に入力することで、対象時系列データを用いて行うべき検査の種類を予測する。また、特徴予測部48は、対象時系列データを学習済みの組織断面予測学習器38に入力することで、対象時系列データに対応する超音波画像が示す組織断面を予測する。また、特徴予測部48は、対象時系列データを学習済み計測位置予測学習器40に入力することで、対象時系列データを用いた計測において設定すべき計測位置を予測する。対象時系列データを用いて行うべき検査の種類の予測、対象時系列データに対応する超音波画像が示す組織断面の予測、あるいは、設定すべき計測位置の予測は、超音波画像を用いた診断などに不慣れな者にとって有益となり得る。また、組織断面の予測については、自動処理を行うための助けにもなり得る。例えば、Bモード画像に表された心臓の輪郭を自動トレースする処理を行う場合、前もって当該Bモード画像に心臓が表されていることを超音波診断装置10が把握する必要がある。超音波診断装置10は、組織断面の予測を行うことで、Bモード画像において心臓が表されていることを特定した上で、心臓の輪郭の自動トレース処理に移行することができる。
【0060】
また、特徴予測部48は、対象時系列データを学習済みの疾患予測学習器42に入力することで、対象時系列データが示す疾患を予測する。上述のように、特徴予測部48は、対象時系列データとして、トラッキング処理部20が生成した軌跡情報、エラスト処理部22が生成した時系列エラスト情報、又は、ドプラ処理部24が生成した時系列ドプラ信号を疾患予測学習器42に入力することができる。軌跡情報を学習データとして学習された疾患予測学習器42は、スペックルの軌跡に基づいて対象時系列データが示す疾患を予測することになる。また、時系列エラスト情報を学習データとして学習された疾患予測学習器42は、被検部位の歪み量の時間変化に基づいて対象時系列データが示す疾患を予測することになる。さらに、時系列ドプラ信号を学習データとして学習された疾患予測学習器42は、被検体内の組織の運動速度の時間変化(例えば血流の時間変化)に基づいて対象時系列データが示す疾患を予測することになる。
【0061】
さらに、特徴予測部48は、対象時系列データを学習済みのアーティファクト予測学習器44に入力することで、対象時系列データに対応する超音波画像において生じるアーティファクトの種類を予測する。対象時系列データに対応する超音波画像において生じるアーティファクトの種類の予測は、超音波画像において生じるアーティファクトを識別することに不慣れな者にとって有益となり得る。
【0062】
本実施形態では、互いに異なる特徴を予測して出力するように学習された複数の学習器がメモリ34に記憶されているため、特徴予測部48は、複数の学習器のうち、ユーザ指示に基づいて選択した学習器に対象時系列データを入力する。ユーザは、入力インターフェース30を用いて、対象時系列データが入力される学習器を直接指定することができる。また、特徴予測部48は、入力インターフェース30を用いてユーザが決定した超音波診断装置10の動作設定に基づいて、対象時系列データを入力する学習器を選択するようにしてもよい。例えば、超音波診断装置10の動作モードがカラードプラ機能を発揮するカラードプラモードである場合は、特徴予測部48は、ドプラカーソルの位置を予測する計測位置予測学習器40に対象時系列データを入力する。また、超音波診断装置10の動作モードがスペックルトラッキングを行うスペックルトラッキングモードである場合は、特徴予測部48は、疾患予測学習器42に対象時系列データ(この場合は軌跡情報)を入力する。
【0063】
また、特徴予測部48は、複数の学習器それぞれに対して、対象時系列データを入力し、複数の学習器の出力の組み合わせに基づいて、当該対象時系列データに関する特徴を予測するようにしてもよい。例えば、特徴予測部48は、検査種類予測学習器36の出力に基づいて、対象時系列データを用いて行うべき検査の種類を予測し、予測した検査の種類から判別し得る複数の疾患を特定する。検査の種類に基づく複数の疾患の特定は、例えば、検査の種類と、当該検査の種類から判別し得る複数の疾患とが関連付けられたテーブルを参照するなどの方法で行うことができる。その上で、特徴予測部48は、対象時系列データを学習済みの疾患予測学習器42に入力することで、特定した複数の疾患の中から選択する形で対象時系列データが示す疾患を予測する。これにより、疾患予測の精度がより向上されることが期待される。同じように、特徴予測部48は、組織断面予測学習器38の出力に基づいて、対象時系列データに対応する超音波画像が示す組織断面を予測し、予測した組織断面から判別し得る複数の疾患を特定する。組織断面に基づく複数の疾患の特定も、例えば、組織断面と、当該組織断面から判別し得る複数の疾患とが関連付けられたテーブルを参照するなどの方法で行うことができる。その上で、特徴予測部48は、対象時系列データを学習済みの疾患予測学習器42に入力することで、特定した複数の疾患の中から選択する形で対象時系列データが示す疾患を予測する。これにより、疾患予測の精度がより向上されることが期待される。
【0064】
なお、特徴予測部48は、対象時系列データを全ての学習器に入力して、全ての学習器における各特徴の予測結果を並列的に取得するようにしてもよい。
【0065】
上述のように、本実施形態においては、各学習器は、学習用時系列データを用いて学習される。これにより、各学習器は、時系列データ(フレームデータ列、超音波画像列、軌跡情報、時系列エラスト情報、又は時系列ドプラ信号)における時間変化を考慮して、時系列データの特徴を出力できるようになる。このように学習された学習器に対して、対象時系列データを入力することで、少なくとも、静止画像である超音波画像を用いて学習された学習器に超音波画像を入力することで当該超音波画像の特徴を予測する場合に比して、より高精度に超音波画像の特徴を予測することが可能となる。
【0066】
対象時系列データ及び学習用時系列データは、心電計32で取得される心電波形における被検体の脈動周期における同一期間に対応する時系列データであるとよい。例えば、学習用時系列データが、心電波形におけるR波からR波の間の期間に取得された受信ビームデータ列に基づく時系列データである場合、特徴予測部48は、対象時系列データも、心電波形におけるR波からR波の間の期間に取得された受信ビームデータ列に基づく時系列データとするとよい。脈動周期における学習用時系列データと対象時系列データとの期間が同一となることで、各学習器の出力精度を向上させることができる。すなわち、特徴予測部48による対象時系列データが示す特徴の予測精度が向上される。
【0067】
表示制御部26は、特徴予測部48の予測結果をユーザに通知する。すなわち、表示制御部26は通知部として機能する。なお、本実施形態では、特徴予測部48の予測結果は、以下に説明するように表示制御部26によってディスプレイ28に表示させるが、これに加えて又は代えて、音声出力などによって特徴予測部48の予測結果がユーザに通知されてもよい。
【0068】
図3は、ディスプレイ28に表示された、特徴予測部48の予測結果を通知する通知画面50の例を示す図である。通知画面50においては、対象時系列データに基づいて生成された超音波画像52(動画像)、及び、特徴予測部48の予測結果54が表示されている。通知画面50においては、特徴予測部48による、疾患予測学習器42を用いた対象時系列データが示す疾患の予測結果が示されている。
【0069】
以下、特徴予測部48が上述の予測処理を行うタイミング、及び、予測処理の対象となる対象時系列データの選択方法について説明する。
【0070】
まず、特徴予測部48は、ユーザからの指示があったタイミングで予測処理を実行することができる。例えば、ユーザが入力インターフェース30を用いて予測指示を超音波診断装置10に入力したことに応じて、特徴予測部48は、それまでに得られている対象時系列データを学習器に入力することで対象時系列データの特徴を予測する。
【0071】
図4は、ユーザからの指示があったタイミングで予測処理を実行する場合における対象時系列データを示す図である。
図4(後で言及する
図5及び
図6についても同様)においては、横軸が時間軸を表し、心電計32により取得された対象被検体の心電波形が示されている。
【0072】
図4の例では、ユーザは、時刻t1において予測指示を超音波診断装置10に入力し、特徴予測部48は時刻t1において予測処理を実行する。この場合、特徴予測部48は、保持されている時系列データの中から、時刻t1を基準として対象時系列データを選択する。
【0073】
例えば、
図4の符号60に示されている通り、特徴予測部48は、予測処理の実行時刻である時刻t1を基準として直前の1心拍の期間に取得された時系列データを対象時系列データとすることができる。ここでは、心電波形のR波からR波までの期間の時系列データが対象時系列データとされている。また、
図4の符号62に示されている通り、特徴予測部48は、時刻t1を基準として直前の所定時間の間に取得された時系列データを対象時系列データとしてもよい。さらに、
図4の符号64に示されている通り、特徴予測部48は、時刻t1を基準として、心電波形のR波のタイミングで取得された所定個のデータを対象時系列データとするようにしてもよい。符号64の例のように、対象時系列データに含まれる複数のデータは、時間的に連続していなくてもよい。
【0074】
また、特徴予測部48は、ユーザからの予測指示に依らずに、所定時間間隔で予測処理を繰り返し実行してもよい。この場合、特徴予測部48は、予測処理の実行時刻(すなわち現時点)を基準とした対象時系列データ(例えば
図4の符号60,62,64で示された対象時系列データ)に関する特徴の予測を繰り返し実行することになる。これにより、ユーザは、最新の対象時系列データに関する特徴の予測結果を得ることができる。
【0075】
また、特徴予測部48は、心電計32により取得された対象被検体の心電波形に基づいて、予測処理を実行するようにしてもよい。具体的には、
図5に示すように、特徴予測部48は、対象被検体の心拍間隔が安定したタイミングで予測処理を実行するようにしてもよい。対象被検体の心拍間隔は、例えば、心電波形からR波を検出し、R波とR波との間の時間を計測することで把握することができる。
図5の例では、3心拍分の心拍間隔が安定したタイミングである時刻t2において予測処理が実行される。この場合、特徴予測部48は、予測処理の実行時刻(
図5の例では時刻t2)を基準とした対象時系列データ(例えば、時刻t2の直前の1心拍の期間に取得された時系列データ(
図5の符号66)、t2の直前の所定時間の間に取得された時系列データ、又は、時刻t2を基準として、心電波形のR波のタイミングで取得された所定個のデータなど)に関する特徴の予測を実行する。これにより、心拍間隔が安定した状態で取得された対象時系列データの特徴の予測を行うことができる。
【0076】
さらに、特徴予測部48は、プローブ12をユーザが操作した時点を基準としたタイミングで予測処理を実行するようにしてもよい。具体的には、特徴予測部48は、プローブ12の姿勢が変更されてからプローブ12の姿勢が所定時間安定したタイミングで予測処理を実行するようにしてもよい。特徴予測部48は、例えば、プローブ12に設けられた加速度センサの検出信号に基づいてプローブ12の姿勢を特定することができる。また、特徴予測部48は、画像生成部18が生成したBモード画像の画像変化に基づいてプローブ12の姿勢の変化を特定することができる。これにより、ユーザは、プローブ12を操作する度に、対象時系列データの特徴の予測を得ることができる。特に、ユーザは、プローブ12の姿勢を変化させる度に、対象時系列データの特徴の予測を得ることができる。
【0077】
例えば、
図6において、時刻t3でユーザがプローブ12の姿勢を姿勢1から姿勢2に変更して、その後プローブ12の姿勢を姿勢2に維持したとする。特徴予測部48は、プローブ12の姿勢変化を検出した時刻t3から所定時間Tの間、プローブ12の姿勢が安定した(その変化量が所定量以下を維持した)と判定した場合、時刻t3から所定時間T後の時刻である時刻t4において予測処理を実行する。この場合、特徴予測部48は、予測処理の実行時刻(
図6の例では時刻t4)を基準とした対象時系列データ(例えば、時刻t4の直前の1心拍の期間に取得された時系列データ(
図6の符号68)、t4の直前の所定時間の間に取得された時系列データ、又は、時刻t4を基準として、心電波形のR波のタイミングで取得された所定個のデータなど)に関する特徴の予測を実行する。
【0078】
同様に、時刻t5でユーザがプローブ12の姿勢を姿勢2から姿勢3に変更して、その後プローブ12の姿勢を姿勢3に維持したとする。特徴予測部48は、プローブ12の姿勢変化を検出した時刻t5から所定時間Tの間、プローブ12の姿勢が安定したと判定した場合、時刻t5から所定時間T後の時刻である時刻t6において予測処理を実行する。この場合、特徴予測部48は、予測処理の実行時刻(
図6の例では時刻t6)を基準とした対象時系列データ(例えば、時刻t6の直前の1心拍の期間に取得された時系列データ(
図6の符号70)、t6の直前の所定時間の間に取得された時系列データ、又は、時刻t6を基準として、心電波形のR波のタイミングで取得された所定個のデータなど)に関する特徴の予測を実行する。
【0079】
以下、
図7に示すフローチャートに従って、本実施形態に係る超音波診断装置10の処理の流れを説明する。
【0080】
ステップS10において、超音波診断装置10は、入力インターフェース30からのユーザの指示に応じて動作モードを設定する。動作モードとは、例えば、Bモード画像を生成するBモード、スペックルトラッキングを行うスペックルトラッキングモード、エラストグラフィ機能を発揮するエラストモード、あるいは、カラーフローマッピング機能を発揮するカラードプラモードなどである。
【0081】
ステップS12において、対象被検体に対してプローブ12から超音波の送受波が行われ、それにより時系列データ(フレームデータ列、超音波画像列、軌跡情報、時系列エラスト情報、又は時系列ドプラ信号)が取得される。時系列データは、シネメモリなどに保持される。
【0082】
ステップS14において、特徴予測部48は、対象時系列データについて予測する特徴の種類を設定する。換言すれば、特徴予測部48は、メモリ34に記憶された複数の学習器のうち、対象時系列データを入力する学習器を選択する。特徴予測部48は、ユーザが入力インターフェース30に入力した指示に基づいて学習器を選択してもよいし、ステップS10で設定された超音波診断装置10の動作モードに基づいて学習器を選択してもよい。
【0083】
ステップS16において、特徴予測部48は、予測処理を実行するタイミングとなったか否かを判定する。上述の通り、予測処理を実行するタイミングは、ユーザからの指示があったタイミング、所定時間間隔で予測処理を行う場合では前回の予測実行から所定時間経過したタイミング、対象被検体の心拍間隔が安定したタイミング、あるいは、プローブ12の姿勢が変更されてからプローブ12の姿勢が所定時間安定したタイミングなどである。特徴予測部48は、予測処理を実行するタイミングになるまで待機し、予測処理を実行するタイミングとなった場合にはステップS18に進む。
【0084】
ステップS18において、特徴予測部48は、ステップS12にて保持された時系列データの中から、予測処理の実行時刻を基準として対象時系列データを選択する。例えば、特徴予測部48は、予測処理の実行時刻の直前の1心拍の期間に取得された時系列データ、予測処理の実行時刻の直前の所定時間の間に取得された時系列データ、又は、予測処理の実行時刻を基準として、心電波形のR波のタイミングで取得された所定個のデータなどを対象時系列データとして選択する。
【0085】
ステップS20において、特徴予測部48は、ステップS14で選択した学習器に、ステップS18で選択した対象時系列データを入力する。そして、特徴予測部48は、当該学習器の出力データに基づいて、対象時系列データに関する特徴を予測する。
【0086】
ステップS22において、表示制御部26は、特徴予測部48の予測結果をユーザに通知する(
図3参照)。
【0087】
ステップS24において、プロセッサ46は、ユーザの指示によって、予測処理の中止指示が入力されたか否かを判定する。中止指示が入力されていない場合はステップS16に戻り、ステップS16からS24までの処理を繰り返す。中止指示が入力された場合は処理を終了する。
【0088】
以上、本発明に係る実施形態を説明したが、本発明は上記実施形態に限られるものではなく、本発明の趣旨を逸脱しない限りにおいて種々の変更が可能である。
【0089】
例えば、本実施形態では、超音波時系列データ処理装置が超音波診断装置10であったが、超音波時系列データ処理装置は超音波診断装置10に限られず、その他のコンピュータであってもよい。この場合、超音波時系列データ処理装置としてのコンピュータからアクセス可能なメモリに、学習済みの各学習器が記憶され、当該コンピュータのプロセッサが特徴予測部48及び表示制御部26としての機能を発揮する。
【符号の説明】
【0090】
10 超音波診断装置、12 プローブ、14 送信部、16 受信部、18 画像生成部、20 トラッキング処理部、22 エラスト処理部、24 ドプラ処理部、26 表示制御部、28 ディスプレイ、30 入力インターフェース、34 メモリ、36 検査種類予測学習器、38 組織断面予測学習器、40 計測位置予測学習器、42 疾患予測学習器、44 アーティファクト予測学習器、46 プロセッサ、48 特徴予測部。