IP Force 特許公報掲載プロジェクト 2022.1.31 β版

知財求人 - 知財ポータルサイト「IP Force」

▶ コーニンクレッカ フィリップス エヌ ヴェの特許一覧

特開2023-159340インテリジェントな超音波に基づく受胎能監視
<>
  • 特開-インテリジェントな超音波に基づく受胎能監視 図1
  • 特開-インテリジェントな超音波に基づく受胎能監視 図2
  • 特開-インテリジェントな超音波に基づく受胎能監視 図3
  • 特開-インテリジェントな超音波に基づく受胎能監視 図4A
  • 特開-インテリジェントな超音波に基づく受胎能監視 図4B
  • 特開-インテリジェントな超音波に基づく受胎能監視 図5
  • 特開-インテリジェントな超音波に基づく受胎能監視 図6A
  • 特開-インテリジェントな超音波に基づく受胎能監視 図6B
  • 特開-インテリジェントな超音波に基づく受胎能監視 図7
< >
(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公開特許公報(A)
(11)【公開番号】P2023159340
(43)【公開日】2023-10-31
(54)【発明の名称】インテリジェントな超音波に基づく受胎能監視
(51)【国際特許分類】
   A61B 8/14 20060101AFI20231024BHJP
【FI】
A61B8/14
【審査請求】有
【請求項の数】1
【出願形態】OL
【外国語出願】
(21)【出願番号】P 2023135955
(22)【出願日】2023-08-24
(62)【分割の表示】P 2020520472の分割
【原出願日】2018-10-09
(31)【優先権主張番号】62/570,951
(32)【優先日】2017-10-11
(33)【優先権主張国・地域又は機関】US
【公序良俗違反の表示】
(特許庁注:以下のものは登録商標)
1.ANDROID
(71)【出願人】
【識別番号】590000248
【氏名又は名称】コーニンクレッカ フィリップス エヌ ヴェ
【氏名又は名称原語表記】Koninklijke Philips N.V.
【住所又は居所原語表記】High Tech Campus 52, 5656 AG Eindhoven,Netherlands
(74)【代理人】
【識別番号】100107766
【弁理士】
【氏名又は名称】伊東 忠重
(74)【代理人】
【識別番号】100070150
【弁理士】
【氏名又は名称】伊東 忠彦
(74)【代理人】
【識別番号】100135079
【弁理士】
【氏名又は名称】宮崎 修
(72)【発明者】
【氏名】ネルール プラカシュ,シンドゥ プリヤダルシニ
(72)【発明者】
【氏名】ラマチャンドラン,ガネサン
(72)【発明者】
【氏名】オドゥンガッツ ソディイル,アヌモッド
(72)【発明者】
【氏名】ヘッジ,サンジャイ ラマチャンドラ
(72)【発明者】
【氏名】ヴァジネパッリ,パラヴィ
(72)【発明者】
【氏名】フィルシオン,セリーヌ
(57)【要約】
【課題】
本開示は、前処理された超音波画像フレームにニューラルネットワークを適用することにより卵胞を識別するよう構成される超音波画像システム及び方法を記載する。
【解決手段】 システムは、目標領域へ向けて送信された超音波パルスに応答するエコー信号を取得するよう構成される超音波トランスデューサを含んでよい。超音波トランスデューサに通信可能に結合される1つ以上のプロセッサは、超音波エコーから少なくとも1つの画像を生成するよう構成されてよい。目標領域内に存在する卵胞を表すピクセルを他の内容から区別する閾値が画像に適用されてよい。プロセッサは、ニューラルネットワークを閾値処理された画像フレームに適用してよい。ここで、ニューラルネットワークは、閾値処理された画像フレーム内の卵胞の存在を決定する。プロセッサは、卵胞の存在に基づき指示子を生成し、指示子をユーザインタフェース上に表示してよい。
【選択図】 図1
【特許請求の範囲】
【請求項1】
超音波画像システムであって、
目標領域に向けて送信された超音波パルスに応答するエコー信号を取得するよう構成される超音波トランスデューサと、
前記超音波トランスデューサと通信する1つ以上のプロセッサと、
を含み、前記1つ以上のプロセッサは、
前記エコー信号から少なくとも1つの画像フレームを生成し、
前記目標領域内に存在する卵胞を表すピクセルを前記目標領域内の他の内容と区別する閾値を前記画像フレームに適用し、
前記の閾値処理された画像フレームにニューラルネットワークを適用し、前記ニューラルネットワークは、前記閾値処理された画像フレーム内の前記卵胞の存在又は不存在を決定し、
前記卵胞の前記の決定した存在又は不存在に基づき、指示子を生成し、
前記指示子を前記プロセッサと通信するユーザインタフェース上に表示する、よう構成され、
前記ユーザインタフェースは、前記卵胞の存在を伝達する指示子を受信することに応答して、ユーザに第1指示を提供し、前記卵胞の不存在を伝達する指示子を受信することに応答して、ユーザに第2の異なる指示を提供する、超音波画像システム。
【発明の詳細な説明】
【技術分野】
【0001】
[関連出願]
本願は、参照により全体が組み込まれる米国仮出願番号第62/570,951号、2017年10月11日出願の利益及び優先権を主張する。
[技術分野]
本開示は、ニューラルネットワークを用いて超音波画像内の特徴を識別する超音波システム及び方法に関する。特定の実装は、画像を前処理し及びそれらをトレーニングされたニューラルネットワークに入力することにより、超音波画像内の卵胞を識別するよう構成されるシステムを含む。
【背景技術】
【0002】
不妊は、夫婦の人生における特定の時点で8%~12%の夫婦に影響を与えると推定される世界的な問題である。不妊の原因は、広範囲に及び、多嚢胞性卵巣症候群(polycystic ovarian syndrome:PCOS)、卵巣予備能の低下、卵管の要因、甲状腺機能低下症、及び様々な男性側の条件、のような条件を含む。子を産むために、不妊患者は、平均的に3回の子宮内人工授精(intra-uterine-insemination:IUI)治療周期、及び役1.6回の体外受精(in vitro fertilization:IVF)治療周期を経験し得る。各周期は不妊クリニックへの約4~5回の通院を必要とする。各通院の間に、受胎能状態を監視するために、最も多くは、排卵の間に成熟卵の放出される液体で満たされた嚢である卵胞を探して卵巣の経膣超音波スキャンにより、超音波撮像が実行され得る。卵胞の超音波スキャンは、排卵誘発の間中、特に卵胞期の間に、例えば誘発の最初の2週間、連続的に実行される。時間に渡り卵胞の数及びサイズ、発育状態に従い後に卵胞を分類するため及び必要に応じて患者固有の治療計画を採用するために使用される情報を監視するために、多くの場合、繰り返しスキャンが実施される。通常、このような監視は、卵胞のうちの少なくとも幾つかが直径約17~18mmに達するまで、定期的に実行され得る。
【0003】
卵胞の発育を監視することは、したがって、頻繁な通院を必要とする反復的過程である。このような通院は、特に最寄りの不妊クリニックから遠距離に位置する地方の患者にとっては、時間がかかり、高価である。卵胞スキャンを実行するために訓練された超音波専門家の広範囲に及ぶ不足は、人工生殖技術を使用する患者のアクセスの障壁を高くするだけである。クリニックで費やされる時間、及び関連する移動及び医療コストを削減するために、遠隔で実施される受胎能監視及び管理システムが望ましいことがある。
【発明の概要】
【0004】
本開示は、受胎能を監視するシステム及び方法を記載する。幾つかの例では、監視は、クリニックの場所から離れて、例えばユーザの家で、実行されてよい。ここに記載する方法は、超音波画像技術において訓練されていない初心者により実施されてよい。開示のシステムは、卵胞を目立たせるために、先ず超音波画像データを前処理することにより、卵胞検出の精度及び効率を向上するよう構成される。前処理は、卵胞を表すピクセルを他の特徴と区別するために、画像フレームを閾値処理することを含んでよい。閾値より下及び/又は上にあるピクセルの色又は明るさは、卵胞の外観を強調するために反転され、それによりそれらを他の背景特徴から区別する。前処理の後に、開示の超音波画像システムは、前処理の間に強調表示された卵胞のような、受胎能状態指示子を識別するよう機械トレーニングされたニューラルネットワークを実施するよう構成されてよい。画像データを前処理することは、卵胞を積極的に識別するニューラルネットワークの能力を向上し、更に、ニューラルネットワークの必要な処理を削減する。それにより、システムがリアルタイムに遠隔ポイントオブケア装置上で実施されることを可能にする。ここに記載のシステムに従い受胎状態を監視し及び管理するために、様々な特徴が識別され得るが、卵胞は一貫性のために記載される。ニューラルネットワークによる卵胞識別の後に、卵胞の存在を伝達する指示子が、超音波スキャンの間に収集された生超音波画像を表示するユーザインタフェースを介してユーザに提示されてよい。超音波スキャンを通じてユーザを誘導する指示もせいせいされ、ユーザインタフェースにより表示され又は発せられてよい。このような指示は、訓練された専門家による確認又は監督を有しなくても、卵胞を含む良質な超音波画像がスキャン中にキャプチャされることを保証するために、超音波画像システムの操作においてユーザを支援してよい。卵胞を含む画像は、追加分析のために専門家へ送信されてよい。
【0005】
幾つかの例によると、超音波画像システムは、目標領域へ向けて送信された超音波パルスに応答するエコー信号を取得するよう構成される超音波トランスデューサを含んでよい。システムは、超音波トランスデューサと通信する1つ以上のプロセッサも含んでよい。前記プロセッサは、前記超音波エコーから少なくとも1つの画像フレームを生成し、前記目標領域内に存在する卵胞を表すピクセルを前記目標領域内の他の内容と区別する閾値を前記画像フレームに適用し、前記の閾値処理された画像フレームにニューラルネットワークを適用し、前記ニューラルネットワークは、前記閾値処理された画像フレーム内の前記卵胞の存在を決定し、前記卵胞の前記の決定した存在に基づき,指示子を生成し、前記指示子を前記プロセッサと通信するユーザインタフェース上に表示する、よう構成されてよい。
【0006】
幾つかの例では、前記プロセッサは、前記閾値処理された画像フレームから超音波画像を生成し、前記ユーザインタフェース上に表示するよう更に構成されてよい。幾つかの実施形態では、前記プロセッサは、前記閾値処理された画像フレーム内の前記卵胞の外観を強調するよう更に構成されてよい。幾つかの例では、前記閾値はオツの閾値であってよく、前記卵胞の前記外観は、前記オツの閾値より下及び上のピクセルの色を反転することにより強調されてよい。幾つかの実施形態では、前記ユーザインタフェースは、前記指示子に応答して超音波スキャンを通じてユーザを誘導するよう構成されてよい。幾つかの実施形態では、前記ユーザインタフェースは、前記スキャン中に前記ユーザに指示を提供することにより、前記超音波スキャンを通じてユーザを誘導するよう構成されてよい。指示は、少なくとも1つの感覚的合図を含んでよい。幾つかの例では、前記ユーザインタフェースは、前記閾値処理された画像フレームから超音波画像を生成し、前記超音波画像をリモート受信機へ送信するよう構成されてよい。
【0007】
幾つかの実施形態では、ニューラルネットワークは、深層ニューラルネットワーク(DNN)又は畳み込みニューラルネットワーク(CNN)であってよい。幾つかの例では、前記ニューラルネットワークは、1つ以上の畳み込み層と1つ以上の完全結合層とを含んでよい。幾つかの実施形態では、ニューラルネットワークは、トレーニング入力及び既知の出力のアレイを受信するよう構成されるトレーニングアルゴリズムに動作可能に関連付けられてよい。トレーニング入力は、卵巣超音波画像フレームを含んでよく、既知の出力は、卵胞を含む卵巣超音波画像フレームを含んでよい。幾つかの例では、前記ニューラルネットワークは、少なくとも部分的に、実行可能命令を含むコンピュータ可読媒体内に実装され、前記実行可能命令は、前記超音波トランスデューサに結合される前記プロセッサにより実行されると、前記プロセッサに、前記取得されたエコー信号に基づき前記指示子を生成するために機械トレーニングアルゴリズムを実行させる。
【0008】
本開示による方法は、超音波システムに動作可能に結合されたトランスデューサにより、目標領域に送信された超音波パルスに応答するエコー信号を取得するステップと、前記超音波エコーから少なくとも1つの画像フレームを生成するステップと、前記目標領域内に存在する卵胞を表すピクセルを前記目標領域内の他の内容と区別する閾値を前記画像フレームに適用するステップと、前記の閾値処理された画像フレームにニューラルネットワークを適用するステップであって、前記ニューラルネットワークは、前記閾値処理された画像フレーム内の前記卵胞の存在を決定する、ステップと、前記卵胞の前記の決定した存在に基づき,指示子を生成するステップと、前記指示子をユーザインタフェース上に表示するステップと、を含んでよい。
【0009】
幾つかの例では、前記方法は、前記閾値処理された画像フレームから超音波画像を生成し、前記ユーザインタフェース上に表示するよう更に構成されてよい。幾つかの実施形態では、前記閾値より上及び下に含まれるピクセルの色を反転するステップを更に含んでよい。幾つかの例では、前記方法は、前記卵胞の前記存在又は不存在に応答してユーザ指示を提供するステップを更に含んでよい。前記ユーザ指示は、卵巣の超音波スキャンを実行するための誘導を含んでよい。
【0010】
幾つかの実施形態では、ニューラルネットワークは、畳み込みニューラルネットワーク(CNN)であってよい。幾つかの例では、卵巣を含む超音波画像フレームを用いて前記ニューラルネットワークをトレーニングするステップを更に含んでよい。幾つかの実施形態では、前記方法は、前記閾値処理された画像フレームから超音波画像を生成し、前記超音波画像を医師に送信するステップであって、前記医師は遠隔地に位置する、ステップを更に含んでよい。幾つかの例では、前記指示子は、前記トランスデューサの動きに応答して、リアルタイムに更新されてよい。
【0011】
ここに記載の方法、又はそのステップのうちのいずれかは、実行可能命令を含む非一時的コンピュータ可読記憶媒体内に具現化されてよい。該実行可能命令は、医療画像システムのプロセッサに、ここに記載の方法又はステップを実行させてよい。
【図面の簡単な説明】
【0012】
図1】本発明の原理に従う超音波システムのブロック図である。
【0013】
図2】本発明の原理に従う別の超音波システムのブロック図である。
【0014】
図3】本発明の原理に従う超音波画像内の卵胞を識別するようトレーニングされた畳み込みニューラルネットワークのブロック図である。
【0015】
図4A】実行中の超音波スキャンの写真、及び本発明の原理に従い生成された対応する超音波画像である。
【0016】
図4B】実行中の超音波スキャンの別の写真、及び本発明の原理に従い生成された対応する超音波画像である。
【0017】
図5】本発明の原理に従いユーザインタフェース上に表示された超音波画像の写真及び卵胞指示子である。
【0018】
図6A】本発明の原理に従い前処理されていない卵胞の超音波画像の写真である。
【0019】
図6B】本発明の原理に従い前処理された卵胞の超音波画像の写真である。
【0020】
図7】本発明の原理に従い実行された超音波画像化方法のフロー図である。
【発明を実施するための形態】
【0021】
特定の実施形態の以下の説明は、本質的に単なる説明であり、本発明又はその用途若しくは使用を限定することを意図しない。以下の本発明のシステム及び方法の実施形態の詳細な説明は、添付の図面を参照する。該図面は、本願の一部を形成し、記載のシステム及び方法が実施され得る例である特定の実施形態を示す。これらの実施形態は、登頂者がここに開示のシステム及び方法を実施可能なように十分に詳細に記載される。他の実施形態が利用されてよいこと、構造及び論理的変更が本発明のシステムの精神及び範囲から逸脱することなく行われ得ることが理解されるべきである。更に、明確化の目的で、特定の特徴の詳細な説明は、本発明のシステムの説明を不明瞭にしないために、それらが当業者に明らかであるとき、議論されない。以下の詳細な説明は、したがって、限定的意味であると考えられず、本発明のシステムの範囲は、添付の請求項によってのみ定められる。
【0022】
本開示による超音波システムは、超音波撮像により検出される様々な特徴、例えば卵胞を識別するために、ニューラルネットワーク、例えば深層ニューラルネットワーク(deep neural network:DNN)、畳み込みニューラルネットワーク(convolutional neural network:CNN)等を利用してよい。幾つかの例では、超音波画像フレームの形式の入力データを分析し及び1つ以上の卵胞の存在又は不存在を含む特定の特徴を識別できるニューラルネットワーク(例えば、機械トレーニングされたアルゴリズム、又はハードウェアに基づくノードのシステム)を得るために、ニューラルネットワークは、種々の現在知られている又は将来開発される機械学習技術のうちのいかなるものを用いてトレーニングされてよい。ニューラルネットワークは、専用コンピュータコードに依存するのではなくデータセットサンプルを分析することにより、データセット特徴を認識するために一般化されトレーニングされ得る伝統的な形式のコンピュータプログラミングアルゴリズムに勝る利点を提供する。適切な入力及び出力データをニューラルネットワークトレーニングアルゴリズムに提示することにより、本開示による超音波システムのニューラルネットワークは、卵胞を識別し、卵胞識別に基づく卵巣の超音波スキャンを通じてユーザを誘導するよう、トレーニングできる。
【0023】
本発明の原理に従う超音波システムは、媒体、例えば人体若しくはその特定部分に向けて超音波パルスを送信し及び超音波パルスに応答してエコー信号を生成するよう構成される超音波トランスデューサを含み又はそれに動作可能に結合されてよい。超音波システムは、送信及び/又は受信ビーム形成を実行するよう構成されるビームフォーマと、幾つかの例では超音波画像システムにより生成される超音波画像を表示するよう構成されるディスプレイと、を含んでよい。超音波画像システムは、1つ以上のプロセッサと、ニューラルネットワークと、を含んでよい。ニューラルネットワークは、ハードウェア及び/又はソフトウェアコンポーネントで実装されてよく、卵胞のような1つ以上の身体特徴を識別し、及びその存在及び/又は不存在の指示を出力するよう機械トレーニングされ得る。
【0024】
本開示に従うニューラルネットワークは、ハードウェア(例えば、ニューロンが物理コンポーネントにより表される)又はソフトウェア(例えば、ニューロン及び経路がソフトウェアアプリケーションに実装される)に基づいてよく、所望の出力を生成するようニューラルネットワークをトレーニングするために種々のトポロジ及び学習アルゴリズムを使用できる。例えば、ソフトウェアに基づくニューラルネットワークは、命令を実行するよう構成されるプロセッサ(例えば、単一若しくはマルチコアCPU、単一のGPU、又はGPUクラスタ、又は並列処理のために構成された複数のプロセッサ)を用いて実装されてよい。該命令は、コンピュータ可読媒体に格納されてよく、実行されると、プロセッサに、超音波画像内の卵胞を識別する機械トレーニングされたアルゴリズムを実行させ、幾つかの例では卵胞の存在又は不存在の指示を出力させる。超音波システムは、注釈、組織情報、患者情報、指示子、及び他のグラフィカルコンポーネントを含み得る超音波画像及び/又は追加グラフィック情報をディスプレイウインドウ内に超音波システムのユーザインタフェース上に表示するために構成するよう動作可能なディスプレイまたはグラフィックプロセッサを含んでよい。幾つかの実施形態では、卵胞の存在又は不存在に関する情報を含む超音波画像及び組織情報は、報告目的で又は将来の機械トレーニングのために(例えば、ニューラルネットワークの性能を向上し続けるために)画像保管通信システム(picture archiving and communication system:PACS)のような記憶及び/又はメモリ装置に提供されてよい。幾つかの例では、スキャン中に取得された超音波画像は、超音波システムを操作するユーザに表示されなくてよいが、例えば通信ネットワークを介して、画像内に埋め込まれた情報を解釈するために訓練された専門家、例えば生殖専門家、超音波専門家、医師、又は他の医師に選択的又は自動的に送信されてよい。それにより、ユーザが、通院することなく受胎能監視、管理、及び/又は診断に必要な超音波スキャンを実行することを可能にする。超音波画像システムを操作するユーザ及び専門家は、超音波スキャンの間、離れた場所に位置してよい。その結果、超音波画像及び/又はそれから収集された情報の送信は、地理的距離を介して生じてよい。幾つかの例では、ユーザは家に位置し、一方で専門家はクリニックに位置する。ここの記載のシステム及び方法は、広範な条件により生じる不妊を監視するために実施されてよい。女性側の条件は、排卵障害、例えばPCOS、及び卵巣予備能力の低下、卵管の要因、例えば卵管水腫及び骨盤内感染症、及びホルモンの要因、例えば甲状腺機能低下症及び高プロラクチン血症を含んでよい。不妊の男性側の原因も、ここの開示のシステムで検査可能であり得る。
【0025】
図1は、本開示の原理に従う例示的な超音波システムを示す。超音波システム100は、超音波データ取得ユニット110を含んでよい。超音波データ取得ユニット110は、超音波パルス114を被写体の領域116、例えば下腹部に送信し及び送信したパルスに応答して超音波エコー118を受信するよう構成される超音波センサアレイ112を含む超音波プローブを含んでよい。更に示されるように、超音波データ取得ユニット110は、ビームフォーマ120及び信号プロセッサ122を含んでよい。信号プロセッサ122は、アレイ112で受信した超音波エコー118から複数の個別超音波画像フレーム124を生成するよう構成されてよい。システムは、画像フレーム124を前処理し及びニューラルネットワーク128を実装するよう構成されるデータプロセッサ126、例えば計算モジュール又は回路も含んでよい。ニューラルネットワーク128は、信号プロセッサ122から直接に又はデータプロセッサ126を介して画像フレーム124を受信し、及び各フレーム内の少なくとも1つの卵胞の存在又は不存在を決定するよう構成されてよい。幾つかの例では、システム100は、ニューラルネットワーク128及びユーザインタフェース132に結合されたディスプレイプロセッサ130を更に含む。幾つかの例では、ディスプレイプロセッサ130は、画像フレーム124から超音波画像134を生成し及び画像フレーム124の各々の中の卵胞の存在又は不存在を伝達する指示子136を生成するよう構成されてよい。ユーザインタフェース132は、超音波スキャンが実行されているときにリアルタイムに、指示子136と一緒に、領域116の超音波画像134を表示するよう構成されてよい。幾つかの実施形態では、ユーザインタフェース132は、超音波画像を表示しなくてよいが、指示子を表示してよい。その結果、ユーザは、検出された卵胞を見ることができなくてよいが、依然としてそれらの超音波検出を通知される。ユーザインタフェース132は、超音波スキャンの前、最中、又は後のいかなるときにも、ユーザ入力138を受信するよう構成されてよい。図1に示したシステム100の構成は変化してよい。例えば、システム100は、ポータブル又は固定的であり得る。種々のポータブル装置、例えばラップトップ、タブレット、スマートフォン、等が、システム100の1つ以上の機能を実施するために使用されてよい。このような装置を組み込んだ例では、超音波センサアレイ112は、例えばUSBインタフェースを介して接続可能であってよい。
【0026】
超音波データ取得ユニット110は、1つ以上の卵巣を含み得る1つ以上の関心領域から超音波データを取得するよう構成されてよい。超音波センサアレイ112は、超音波エネルギを送信し及び受信するよう構成される少なくとも1つのトランスデューサアレイを含んでよい。種々のトランスデューサアレイ、例えば直線アレイ、凸状アレイ、又はフェイズドアレイが使用されてよい。センサアレイ112に含まれるトランスデューサ要素の数及び配置は、異なる例において変化してよい。例えば、超音波センサアレイ112は、直線アレイ及びマトリクスアレイプローブにそれぞれ対応するトランスデューサ要素の1D又は2Dアレイを含んでよい。2Dマトリクスアレイは、2D又は3D撮像のために(フェーズドアレイビーム形成により)仰角及び方位角次元の両方で電子的にスキャンするよう構成されてよい。
【0027】
種々のユーザが、超音波データ取得ユニット110を扱い操作してよい。幾つかの例では、ユーザは、自己評価を実行する患者を含んでよい。種々の実施形態では、ユーザは、診療及び/又は超音波技術において訓練されていなくてよい。したがって、データ取得ユニット110は、初心者ユーザにより実施される自宅で監視するシステムの部分でよい。
【0028】
図1に更に示すように、データ取得ユニット110は、例えばマイクロビームフォーマ又はマイクロビームフォーマとメインビームフォーマとの組み合わせを含む、超音波センサアレイ112に結合されるビームフォーマ120も含んでよい。ビームフォーマ120は、例えば超音波パルスを合焦(focused)ビームへと形成することにより超音波エネルギの送信を制御してよい。ビームフォーマ120は、超音波信号の受信を制御するよう更に構成されてよい。その結果、識別可能な画像データが生成され、他のシステムコンポーネントの支援により処理されてよい。ビームフォーマ120の役割は、異なる超音波プローブ種類において変化してよい。幾つかの実施形態では、ビームフォーマ120は、2つの個別ビームフォーマを含んでよい。つまり、被写体への送信のために超音波エネルギのパルスシーケンスを受信し及び処理するよう構成される送信ビームフォーマ、及び、受信した超音波エコー信号を増幅し、遅延し、及び/又は加算するよう構成される個別受信ビームフォーマである。幾つかの実施形態では、ビームフォーマ120は、送信及び受信ビーム形成の両方のためのセンサ要素グループ上で動作する、それぞれ送信及び受信ビーム形成の両方のためにグループ入力及び出力に対して作用するメインビームフォーマに結合されるマイクロビームフォーマを含んでよい。
【0029】
信号プロセッサ122は、センサアレイ112及び/又はビームフォーマ120に通信可能に、動作可能に、及び/又は物理的に結合されてよい。図1に示す例では、信号プロセッサ122は、データ取得ユニット110の統合コンポーネントとして含まれるが、他の例では、信号プロセッサ122は別個のコンポーネントであってよい。信号プロセッサ122は、センサアレイ112で受信された超音波エコー118を具現化するフィルタリングされていない組織化されていない超音波データを受信するよう構成されてよい。このデータから、信号プロセッサ122は、ユーザが領域116をスキャンするにつれ、複数の超音波画像フレーム124を連続的に生成してよい。
【0030】
データプロセッサ126は、信号プロセッサ122に通信可能に結合され、信号プロセッサ122により実行される1つ以上の動作に加えて又はそれに代わって、1つ以上の動作を実行してよい。例えば、データプロセッサ126及び/又は信号プロセッサ122は、画像フレーム124を前処理し、前処理した画像フレームをニューラルネットワーク128に送信し若しくは入力するよう構成されてよい。前処理は、ニューラルネットワークにおける入力の前に、目標特徴を識別する際のニューラルネットワーク128の感度を向上するために、目標特徴を増強し又は強調できる。データプロセッサ126により実行される特定の前処理ステップは、変化してよく、システム100により対称とされる特定の特徴に依存してよい。例えば、卵胞識別を含む実施形態では、前処理は、所与の画像フレーム124内の非目標特徴及び背景強度に対して、卵胞の外観を強調するために実行されてよい。超音波画像では、卵胞は、形状がおよそ楕円形であり、周囲の特徴に比べて暗い場合がある。しかしながら、画像内の他の暗い特徴又は領域は、個々の卵胞の境界を不明瞭にし、ニューラルネットワーク128により処理されるとき卵胞を見逃し又は数え違え易くする。したがって、ニューラルネットワークの感度を向上し、ニューラルネットワークの必要な処理を削減するために、前処理は、超音波画像データの背景強度に対して、卵胞の画像強度特性を強調することを含んでよい。前処理の例示的な方法は、各超音波画像フレームを含むピクセルの強度を決定し、ピクセルに輝度閾値を適用することを含んでよい。幾つかの実施形態では、輝度閾値は、画像フレームをピクセルの2値集合(binary collection)に削減するオツ(Otsu)の閾値であってよい。オツの閾値より上にある全てのピクセルは、値、例えばゼロを割り当てられ、一方で、残りのピクセル値は反転されてよい。結果として、暗い卵胞領域は、閾値処理された後に、より明るくなり、例えば白に近くなり、逆も同様である。それにより、卵胞と周囲の特徴との間のコントラストを先鋭化することにより、所与の画像フレーム内に存在するいかなる卵胞の視認性も向上する。前処理とニューラルネットワーク処理との結合を利用することは、ニューラルネットワークのみにより実行される卵胞識別に依存する実施形態と比べて、卵胞識別を最適化し又は少なくとも向上できる。特に、前処理は、卵胞を積極的に識別するニューラルネットワーク128の能力を向上し、ニューラルネットワークの必要な処理を有意に削減できる。その結果、卵胞識別処理全体が、病院の画像システムとは対照的に、ポイントオブケア装置によりリアルタイムに実行できる。幾つかの例では、卵胞識別の感度は、前処理されていない超音波画像へのニューラルネットワークの直接適用により達成される約85%の感度に比べて、前処理画像にニューラルネットワークを適用した後に約91%になり得る。
【0031】
種々の実施形態では、ニューラルネットワーク128は、信号プロセッサ122及び/又はデータプロセッサ126内に実装されてよく又は少なくとも通信してよい。ニューラルネットワーク128は、超音波画像フレーム124を信号プロセッサ122から直接に又はデータプロセッサ126、信号プロセッサ、若しくは両方により実行された前処理の後に受信し及び入力し、画像フレーム124の各々の中に1つ以上の卵胞が存在するか否かを決定するよう構成されてよい。上述のように、ニューラルネットワーク128に入力する前に画像フレーム124を前処理することは、ニューラルネットワークの効率及び精度を向上できる。幾つかの例では、ニューラルネットワーク128は、超音波画像内の卵胞を認識するよう集合的にトレーニングされる種々の組織化されたニューラル層及び下位層を含む畳み込みニューラルネットワーク(CNN)であってよい。ニューラルネットワーク128は、各々の受信した画像フレーム124の中の卵胞の存在又は不存在を自動的に検出してよく、2又は3次元超音波画像システムにより実装されてよい。
【0032】
幾つかの例では、システム100は、1つ以上の画像フレーム内で識別された卵胞の数を計数するよう更に構成されてよい。卵胞計数は、種々のシステムコンポーネント、例えば1つ以上のプロセッサ、例えばデータプロセッサ126、及びニューラルネットワーク128を用いて実行されてよい。ニューラルネットワーク128は、種々の技術に従い、例えば、参照によりここに全体が組み込まれる「Learning to count with deep object features」(Segui et al.)に記載された教師あり学習概念により、卵胞を計数するよう構成されてよい。Seguiにより記載された技術は、第1処理段階で卵胞に関する判別可能な譲歩をキャプチャすること、及び続いて完全結合処理段階で、卵胞の数を計数すること、を含む。追加又は代替として、ニューラルネットワーク128は、参照により全体がここに組み込まれる「Count-ception: Counting by Fully Convolutional Redundant Counting」(Cohen et al.)に記載された技術に従い、卵胞を計数するよう構成されてよい。Cohenにより開示された方法は、Seguiにより記載された概念をオブジェクト密度マッピングと融合する重複する卵胞を計数する技術を含む。幾つかの実装では、例えば参照により全体がここに組み込まれる欧州特許出願番号第17305188.9号、2017年2月17日出願に記載のように、1つ以上のプロセッサは、ニューラルネットワーク128からの、少なくとも1つの卵胞を含むより多数の選択された画像フレームに対して画像セグメント化計数技術を実行することにより、卵胞を計数するよう構成されてよい。このような画像セグメント化技術は、各卵胞の平均直径を決定するために、2D超音波画像フレーム内で検出された卵胞の自動セグメント化を含む。種々の実施形態では、1つ以上の追加又は代替の卵胞計数技術が利用されてよい。その結果は、ユーザ又は遠隔に位置する医師に表示され又は伝達されてよい。
【0033】
ニューラルネットワーク128と通信可能に結合されたディスプレイプロセッサ130は、ニューラルネットワーク128により行われた決定に基づき、指示子136を生成するよう構成されてよい。例えば、指示子136は、少なくとも1つの卵胞の存在又は不存在を示してよい。超音波画像134及び/又は指示子136を受信すると、ユーザインタフェース132は、次に、画像及び/又は指示子を表示してよい。指示子136は、例えば、画像が取得されるにつれ、リアルタイムに、超音波画像134と同時に、例えばその上に重ねて又はその隣に表示されてよい。したがって、指示子136は、ユーザに1つ以上の卵胞の存在又は不存在を直ちに通知し得る。幾つかの例では、指示子136は、超音波プローブの振動又は超音波システム100に結合されたスピーカから出される聴覚的合図のような視覚的に表示されない感覚的合図を含んでよい。指示子136は、点灯及び消灯する又は色の変わる光も含んでよい。例えば、卵胞の存在は、緑色光により示されてよく、一方で、卵胞の不存在は赤色光又は光の不存在により示されてよい。幾つかの実施形態では、指示子136は、超音波画像の同時表示を伴わずに、表示されてよい。指示子が卵胞の存在又は不存在をユーザに通知するならば、指示子136の特定の性質は重要ではない。
【0034】
幾つかの例では、ユーザインタフェース132は、超音波スキャンを通じてユーザを誘導し又は支援するよう更に構成されてよい。このような誘導は、ニューラルネットワーク128及びディスプレイプロセッサ130により生成された指示子136に応答してよい。例えば、ユーザインタフェース132は、卵胞の存在を伝達する指示子136を受信することに応答して、ユーザに第1指示を提供してよく、卵胞の不存在を伝達する指示子136を受信することに応答して、第2の異なる指示をユーザに提供してよい。このような指示は、存在する場合には全ての卵胞がスキャン中に検出されることを保証する特定の方法で超音波スキャンを実行するよう、ユーザを促してよい。指示は、方向コマンド、例えば「超音波プローブを横方向に動かす」を含んでよい。指示は、技術に基づくコマンド、例えば「超音波プローブをもっとゆっくり動かす」、「スピードを落とす」、「止める」、又は「続ける」も含んでよい。幾つかの例では、指示は、卵胞が検出されたときに、超音波プローブを1つの位置に安定して保持するようユーザに命令してよい。したがって、卵胞の少なくとも1つの画像がキャプチャされることを保証する。指示は、卵胞が検出されたとき、超音波プローブの位置及び/又は方向を微調整するよう、更にユーザを促してよい。それにより、卵胞の画像鮮明度が、画像を吟味する専門家による後の分析のために十分になる可能性を向上する。指示は、例えば1つ以上の卵胞の識別に成功すると、スキャンが完了したことをユーザに通知してよい。
【0035】
図2は、本発明の原理に従う別の超音波システム200のブロック図である。図2に示す1つ以上のコンポーネントは、被写体の領域内の卵胞を識別し、卵胞の存在又は不存在の指示を提供し、このような卵胞を探す超音波スキャンと通じてシステムを操作するユーザを誘導し、及び/又は卵胞を含む1つ以上の超音波画像を専門家に送信するよう構成されるシステム内に含まれてよい。例えば、信号プロセッサ122のいかなる上述の機能も、例えば信号プロセッサ226、Bモードプロセッサ228、スキャンコンバータ230、多断面再構成部232、体積レンダラ234、及び/又は画像プロセッサ236を含む図2に示す処理コンポーネントのうちの1つ以上により実施され及び/又は制御されてよい。
【0036】
図2の超音波画像システムでは、超音波プローブ212は、超音波を卵巣を含む領域に送信し及び送信した波に応答するエコー情報を受信するトランスデューサアレイ214を含む。種々の実施形態では、トランスデューサアレイ214は、マトリクスアレイ又は1次元直線アレイであってよい。トランスデューサアレイ214は、アレイ内のトランスデューサ要素による信号の送信及び受信を制御し得る、プローブ212内のマイクロビームフォーマ216に結合されてよい。図示の例では、マイクロビームフォーマ216は、プローブケーブルにより送信/受信(T/R)スイッチ218に結合される。T/Rスイッチ218は、送信と受信との間を切り替え、メインビームフォーマ222を高いエネルギ送信信号から保護する。幾つかの実施形態では、T/Rスイッチ218及びシステム内の他の要素は、別個の超音波システムコンポーネントではなく、トランスデューサプローブに含まれ得る。マイクロビームフォーマ216の制御下でのトランスデューサアレイ214からの超音波ビームの送信は、T/Rスイッチ218及びビームフォーマ222に結合された、例えばユーザインタフェース又は制御パネル224のユーザの操作からの入力を受信する送信制御部220により指示されてよい。送信制御部220により制御され得る機能は、ビームがステアリングされる方向である。ビームは、トランスデューサアレイから真っ直ぐ前方に(直交して)、又は広範なビューのために異なる角度で、ステアリングされてよい。マイクロビームフォーマ216により生成された特にビーム形成された信号は、メインビームフォーマ222に結合される。メインビームフォーマ222では、トランスデューサ要素の個々のパッチからの部分的にビーム形成された信号が、完全にビーム形成された信号へと結合される。
【0037】
ビーム形成された信号は、信号プロセッサ226に通信されてよい。信号プロセッサ226は、受信したエコー信号を種々の方法で、例えば帯域通過フィルタリング、デシメーション、I及びQ成分分離、及び/又は高調波信号分離で処理してよい。信号プロセッサ226は、スペックル低減、信号合成、及び/又は雑音除去により、更に追加信号強調を実行してよい。幾つかの例では、信号プロセッサ226は、所与の画像に含まれる卵胞の外観を向上させるために、上述の画像フレーム前処理ステップのうちの1つ以上を実行してよい。幾つかの例では、信号プロセッサ226により利用される異なる処理技術により生成されたデータは、データプロセッサ及び/又はニューラルネットワークにより、1つ以上の卵胞を識別するために使用されてよい。処理された信号は、例えば卵巣及びその近くにあるいかなる卵胞を含む身体内の構造を画像化するために振幅検出を利用し得るBモードプロセッサ228に結合されてよい。Bモードプロセッサ228により生成された信号は、スキャンコンバータ230及び多断面再構成部232に結合されてよい。スキャンコンバータ230は、エコー信号を、エコー信号が所望の画像フォーマットで受信された空間的関係に構成してよい。例えば、スキャンコンバータ230は、エコー信号を2次元(2D)セクタ形状フォーマットに構成してよい。多断面再構成部232は、米国特許番号第6,443,896号(Detmer)に記載されたように、身体の体積(volumetric)領域内の共用平面内の点から受信されたエコー信号を、該平面の超音波画像に変換してよい。幾つかの例では、例えば米国特許番号第6,530,885号(Entrekin et al.)に記載のように、体積レンダラ234は、3Dデータセットのエコー信号を、所与の基準点から見た投影3D画像に変換してよい。2D又は3D画像は、スキャンコンバータ230、多断面再構成部232、及び体積レンダラ234から、画像プロセッサ236へ、更なる向上、バッファリグ、及び/又は画像ディスプレイ237上に表示するための一時的記憶のために、通信されてよい。画像は、表示の前に、卵胞を強調表示するよう前処理されてよく、ニューラルネットワーク238は、各画像が1つ以上の卵胞を含むか否かを識別するために実施されてよい。実施形態では、ニューラルネットワーク238は、種々の処理段階で、例えば画像プロセッサ236、体積レンダラ234、多断面再構成部232、及び/又はスキャンコンバータ230により実行される処理の前に、実施されてよい。グラフィックプロセッサ240は、超音波画像と共に表示するためにグラフィックオーバレイを生成できる。これらのグラフィックオーバレイは、例えば標準的な識別情報、例えば、患者名、画像の日時、画像パラメータ等、及び更に、ニューラルネットワーク238により生成された種々の出力、例えば卵胞の存在又は不存在を伝達する1つ以上の指示子、を含んでよい。グラフィックオーバレイは、更に、システム200のユーザを超音波スキャンを通じて誘導するための、視覚的指示、例えば、テキスト及び/又はシンボルを含んでよい。幾つかの例では、グラフィックプロセッサは、ユーザインタフェース224から入力、例えばタイプされた患者名又は表示された若しくはインタフェースから発せられた指示がシステム200のユーザにより認められたことの確認を受信してよい。ユーザインタフェース224は、更に、システム200により使用される設定及び/又はパラメータの調整を促す入力、超音波スキャンを実行するための追加指示又は支援を要求する入力、及び/又は、1つ以上の超音波画像が保存され及び/又は遠隔受信機へ送信されることを要求する入力を受信してよい。ユーザインタフェースは、更に、複数の多断面再構成(multiplanar reformatted:MPR))画像を選択し及び制御するために、多断面再構成部232に結合されてよい。
【0038】
図3は、本発明の原理に従う超音波画像内の卵胞を識別するようトレーニングされたニューラルネットワーク300のブロック図である。図示の例では、ニューラルネットワークは、畳み込みニューラルネットワーク(convolutional neural network:CNN)である。幾つかの実施形態では、ニューラルネットワーク300は、深層学習又は単純な深層ニューラルネットワーク(deep neural network:DNN)であってよい。幾つかの例では、DNN、例えば深層畳み込みニューラルネットワーク(深層CNN)は、完全な畳み込みニューラルネットワーク(fully convolutional network:FNC)とも呼ばれ、超音波画像内の卵胞の存在を識別するために使用されてもよい。図3に示すネットワークアーキテクチャは、前処理された超音波画像内で卵胞識別を実行するためにカスタマイズされており、本発明の実施形態に従い実装され得るニューラル層及び下位層並びにそれらの間の接続の構成の単なる一例を示す。例えば、畳み込み(convnet)層及び/又は完全結合層の数は、前処理されていない超音波画像内の乱歩を識別するために、更に多くてよい。同様に、畳み込み(convnet)層及び/又は完全結合層の数は、広範囲に渡り前処理された画像については、減少されてよい。
【0039】
図3に示すCNNは、ニューラルネットワークに到着する前に前処理され得る超音波画像の形式で入力302を受信するようトレーニングされる。入力302は、「入力層」と呼ばれてよい第1畳み込み層305内の並行に構成された畳み込みニューロンの2つのセット304a、304bにより受信されてよい。幾つかの例では、第1畳み込み層305は、各受信した画像フレーム内の種々の特徴のエッジ及び/又は強度レベルを認識するようトレーニングされてよい。第1畳み込み層305による処理の後に、処理は、卵胞を同様の強度レベルを有する他の特徴と分離するようトレーニングされ得る第2畳み込み層307内の並行に構成された畳み込みニューロンの2つより多くのセット306a、306bの中で継続してよい。第3畳み込み層309内の畳み込みニューロン308の追加セットは、先行する畳み込み層307からの畳み込みニューロンの各セット306a、306bに結合されてよい。第3畳み込み層309は、第2畳み込み層307の中で識別された卵胞をハイライトし又は強調するようトレーニングされてよい。図3に示す各畳み込み層は、1つ以上の下位層、例えば畳み込み下位層、正規化下位層、及び/又はプーリング下位層を含んでよい。
【0040】
畳み込み層の後に、それぞれ完全結合層311、313、及び315内に構成された完全結合ニューロンの3つのセット310、312、314が続いてよい。完全結合ニューロンの各セットは、該セットの前及び後にあるニューラル層に完全に結合されてよい。完全結合ニューロン314の最後のセットから、出力316が生成されてよい。この理由で、最後の完全結合層315は、幾つかの例では「出力層」とも呼ばれてよい。出力316は、元の入力302内に存在する1つ以上の卵胞の存在又は不存在の指示を含んでよい。出力316は、指示を例えばユーザインタフェース上で表示するために構成される指示子に変換し得るディスプレイプロセッサ、例えば図1に示すディスプレイプロセッサ130に結合されてよい。
【0041】
ニューラルネットワーク300は、少なくとも部分的に、実行可能命令を含むコンピュータ可読媒体内に実装されてよく、実行可能命令は、超音波トランスデューサに結合されるデータプロセッサ126のようなプロセッサにより実行されると、プロセッサに、取得されたエコー信号に基づき、卵胞の存在又は不存在の指示子を生成するために機械トレーニングされたアルゴリズムを実行させてよい。ニューラルネットワーク300は、特徴検出で動作するよう構成され、特に卵胞を識別するようにトレーニングされてよい。ニューラルネットワーク300をトレーニングするために、入力アレイ及び出力分類の複数のインスタンスを含むトレーニングセットが、ニューラルネットワーク300のトレーニングアルゴリズムに提示されてよい(例えば、Krizhevsky,A.,Sutskever,I.及びHinton,G.E.による「ImageNet Classification with Deep Convolutional Neural Networks」、NIPS2012又はそれ以降に記載されたAlexNetトレーニングアルゴリズム)。トレーニングデータセットの中で、入力データは、卵巣スキャンを監視するIUI及びIVFにより生成された超音波画像を含んでよく、出力データは、超音波画像に含まれる、知られている特徴、例えば卵胞を含んでよい。種々の例で、入力データは、1つ以上の卵胞を含む超音波画像フレーム、及び卵胞を含まない超音波画像フレームを含んでよい。幾つかの実施形態では、トレーニングプロセスの出力は、動作中にニューラルネットワーク300により使用され得る重みのセットであってよい。幾つかの実施形態では、トレーニングデータセットの入力及び出力データは、従来の超音波画像のコンポーネントを有する超音波画像システムにより取得されてよい。ニューラルネットワーク300を実装するよう構成される超音波画像システムは、従来のビーム形成、信号、及び画像処理コンポーネントを含んでよい。その結果、該超音波画像システムは、従来のノードにおいて動作するとき、トレーニングアルゴリズムへのトレーニングセットとして使用するために、追加入力及び出力データセットを取得するよう構成されてよい。
【0042】
ニューラルネットワーク300に関連付けられたニューラルネットワークトレーニングアルゴリズムは、卵巣の超音波画像内の卵胞を識別するようニューラルネットワークをトレーニングするために、数千又は数百万ものトレーニングデータセットを提示されてよい。例えば、CNNの重みは、30エポックを用いてトレーニングされてよい。各エポックは、トレーニングセット、及び卵巣スキャンを監視するIUI及びIVFの約70000枚の超音波画像の1回の通過を表す。図3に示したニューラルネットワーク300の図は簡略表現である。幾つかの例では、ニューラルネットワーク300は、何十万~何億ものニューロンまたはノード、及びそれらの間の結合を含んでよい。ニューラルネットワーク300内の人工ニューロンの信号及び状態は、実数、例えば0~1の間であってよく、閾値関数又は制限関数は、各結合及び/又はノード自体に関連付けられてよい。その結果、信号は、伝搬する前に閾値/限度に等しいか又はそれを超えていなければならない。ニューラルネットワーク300がトレーニングされ確定されると、例えばAndroidと互換性のある深層学習ライブラリが、トレーニングされたCNNモデルを実装するために使用されてよい。
【0043】
図4Aは、ここに開示されたシステム及び方法に従い実行されている超音波スキャンの写真である。図示のように、ユーザ402は、ハンドヘルド超音波プローブ404を操作して、下腹部に広がり得る、被写体の領域406をスキャンしてよい。プローブ404は、幾つかの例ではスキャンされた領域の生(live)超音波画像を表示するよう構成されてよいユーザインタフェース408に結合されてよい。図示の特定の例では、現在の超音波画像410aは、卵胞を含まない。したがって、ユーザインタフェース408は、画像内の卵胞の不存在を伝達する否定的指示子412aを表示し、又は指示子を何も表示しなくてよい。プローブ404が動くと、指示子412aは、続いて表示された画像内での1つ以上の卵胞の発見により、消失し又は変化してよい。一緒に、プローブ404及びユーザインタフェース408は、患者の受胎能状態を監視するよう構成されるモバイル超音波画像システムを含んでよい。
【0044】
図4Bは、ここに開示されたシステム及び方法に従い実行されている超音波スキャンの別の写真である。図示のように、プローブ404の動きは、少なくとも1つの卵胞を含む異なる超音波画像410bを生成してよく、それにより、卵胞の存在の肯定的指示子412bを生成し表示するようシステムを促す。否定的指示子と肯定的指示子との間の差は、変化してよい。例えば、指示子は、色、形状及び/又は明るさに基づき差別化されてよい。幾つかの例では、1つ以上の卵胞の識別は,スキャンが正しく行われたことをユーザ402に示してよい。
【0045】
図4A及び4Bに示したシステム414は、例えばユーザ402の自宅内での遠隔の使用のために特に帝王されてよい。プローブ404により生成される各々の超音波画像について、システム414内で実行するニューラルネットワークを含むバックグラウンドインテリジェンスは、卵胞の存在又は不存在を検出し、それをユーザ402に即座に通知してよい。実施形態では、システム414は、スキャン中にユーザに指示を提供することにより、超音波スキャンを通じてユーザ402を誘導し及び/又は支援するよう構成されてよい。指示は、感覚的合図を含んでよい。例えば、指示は、複数の音、ビープ音、又は言葉の指示のような、スピーカを通じて発せられる聴覚的合図を含んでよい。追加又は代替として、命令は、ユーザインタフェース408上に表示される可読な文字の合図、及び/又は他の感覚的合図、例えばプローブ404の振動を含んでよい。
【0046】
画像及び/又は指示子をユーザ402に表示した後に又はそれと同時に、システム414のコンポーネントは、超音波画像又は画像データを、メモリに自動的に格納し及び/又は専門家による更なる分析のために遠隔受信機に送信するよう構成されてよい。専門家は、様々な位置から様々な時間に、受信した情報を分析してよい。幾つかの例では、指示子412bのような肯定的指示子に関連付けられた画像データは、自動的に格納され及び/又は遠隔受信機へ送信されてよい。その結果、利用可能な記憶空間が予約さら、及び/又は、受信単におけるユーザ、例えば医師は、卵胞を含まない又は明確性の欠けた卵胞を含む画像を削除するために、複数の画像を通じて分類する必要がない。幾つかの実施形態では、画像送信は、ユーザ402により指示されてよい。その結果、ユーザは、卵胞が識別された成功したスキャンを実行した後に、選択した超音波画像または画像データを遠隔受信機へ送信してよい。幾つかの実施形態では、ユーザ402は、最初に教師なし又は自己(in-person)トレーニングのためにシステム414を使用してよい。システム414は、種々の場所において、例えば病院又はクリニックから離れて実装されてよく、したがって、家庭内受胎能監視ソリューションを提供し得る。
【0047】
図5は、ここに開示されたシステム及び方法に従い生成された超音波画像の写真である。図示のように、ユーザインタフェース502は、画像データを前処理し及びトレーニングされたニューラルネットワークを実装するよう構成される1つ以上のプロセッサに結合された超音波トランスデューサにより生成された生超音波画像504を表示するよう構成されてよい。図示の特定の画像内に、卵胞506が見える。したがって、肯定的指示子508も、ユーザインタフェース502上に表示される。この特定の例に示される肯定的指示子508は、超音波画像504に隣接して表示された円形のドットで構成される。ドットは、卵胞の存在を示すために緑色であり、卵胞の不存在を示すために赤色に切り替わってよいが、色は例により変化してよい。他の実施形態では、指示子508は、種々の感覚的合図、例えば視覚的文字又は記号、可聴音、及び/又はユーザインタフェース502又は超音波プローブのような他のシステムコンポーネントにおいて伝達される振動を含んでよい。幾つかの例では、ユーザインタフェース502は、種々の卵胞統計を表示するよう更に構成されてよい。例えば、所与の超音波画像内に存在する卵胞の数及び/又は寸法が表示されてよい。
【0048】
図6Aは、本発明の原理に従い前処理されていない卵胞604aの超音波画像602aの写真である。図示のように、卵胞604aは、前処理する前の画像内の周辺ピクセルより暗く見え得る。卵胞604aは、このように、特に大量の暗いピクセル及び/又は卵胞の近傍に位置する暗いピクセルを含む超音波画像内で示されるとき、ニューラルネットワークにより一貫して識別することが困難な場合がある。
【0049】
図6Bは、図6Aに示した画像内でキャプチャされた同じ卵胞の超音波画像602bの写真であるが、卵胞604bの改良画像を生成するために画像が処理されていることが異なる。前処理の間に、輝度閾値が元の超音波画像602aに適用された。適用された輝度閾値より下にある全ての画像ピクセルは、ゼロ値を割り当てられ、白色に転化され、閾値より上にある全ての画像ピクセルは黒色に転化された。卵胞604aの元の画像は黒色に近かったので、卵胞を含むピクセルは、輝度閾値より下になり、ピクセルを白色に転化するよう、画像を分析する1つ以上のプロセッサを促す。結果として、卵胞604bは、前処理された画像602b内にキャプチャされた周囲の特徴に対して先鋭なコントラストを有し、ポイントオブケアシステム上でニューラルネットワークによる卵胞の信頼できるリアルタイム検出を可能にする。
【0050】
図7は、本開示の原理に従う超音波画像化方法のブロック図である。図7の例示的な方法700は、いかなる順序で、超音波スキャンの間に卵胞を識別するここに記載のシステム及び/又は機器により利用され得るステップを示す。これらのステップは、システム及び/又は機器によりリアルタイムに提供される命令を介して初心者ユーザにより実行されてよい。方法700は、システム700のような超音波画像システム、又は例えばKoninklijke Philips N.V.(Philips)によるLUMIFYのようなモバイルシステムを含む他のシステムにより実行されてよい。更なる例示的なシステムは、これもPhilipsにより生産されるSPARQ及び/またはEPIQを含んでよい。
【0051】
図示の実施形態では、方法700はブロック702で開始し、超音波システムに動作可能に結合されたトランスデューサにより目標領域内に送信された超音波パルスに応答するエコー信号を取得する。エコー信号は、図1に関して上述したような種々の構成のセンサアレイ及びコンポーネントを含み得る超音波データ取得ユニットにより集められてよい。幾つかの例では、超音波データ取得ユニットは、ポータブルであり、ユーザにより操作可能なハンドヘルド超音波プローブを有してよい。超音波プローブは、ユーザインタフェースを含んでよく、及び/又はデスクトップコンピュータ、ポータブルラップトップ、又はスマートフォンに結合されてよい。ユーザは、超音波操作における正式な訓練を欠いていてよい。
【0052】
ブロック704で、方法は、超音波エコーから少なくとも1つの画像フレームを生成するステップを含む。画像フレームは、1つ以上のプロセッサを用いて生成されてよい。幾つかの例では、別個の信号プロセッサ及びデータプロセッサが含まれてよい。
【0053】
ブロック706で、方法は、目標領域内に存在する卵胞を表すピクセルを目標領域内の他の内容から区別する閾値を画像に適用するステップを含む。幾つかの例では、閾値処理された画像フレーム内の差別化されたピクセルの色又は輝度は、反転され得る。
【0054】
ブロック708で、方法は、ニューラルネットワークを閾値処理された画像フレームに適用するステップを含む。ここで、ニューラルネットワークは、閾値処理された画像フレーム内の卵胞の存在を決定する。幾つかの例では、ニューラルネットワークは、畳み込みニューラルネットワークである。ニューラルネットワークは、卵巣を含む超音波画像を用いてトレーニングされてよい。
【0055】
ブロック710で、方法は、卵胞の決定された存在に基づき、指示子を生成するステップを含む。幾つかの例では、指示子は、トランスデューサの動きに応答して、リアルタイムに更新され得る。指示子は、バイナリ、オン又はオフ指示子であり得る。或いは、指示子は、例えば検出された卵胞の数に基づき徐々に変化し得る。
【0056】
ブロック712で、方法は、ユーザインタフェース上に指示子を表示するステップを含む。幾つかの例では、方法は、閾値処理された画像フレームから超音波画像を生成し、ユーザインタフェース上に表示するステップを更に含み得る。このような例に従い、指示子は、超音波画像に隣接して又はそれに重ねられて表示されてよい。実施形態は、超音波画像を専門家、例えば医師に送信するステップを更に含んでよい。専門家は、スキャンが実行されている場所に対して遠隔の場所に位置してよい。
【0057】
種々の実施形態では、コンポーネント、システム及び/又は方法がポータブル装置、例えばコンピュータに基づくシステム又はプログラマブルロジックを用いて実装される場合、上述のシステム及び方法は種々の知られている又は後に開発されるプログラミング言語、例えばC、C++、FORTRAN、Pascal、VHDL、等を用いて実装できることが理解されるべきである。したがって、コンピュータのような装置に上述のシステム及び/又は方法を実装するよう指示可能な情報を含み得る種々の記憶媒体、例えば磁気コンピュータディスク、光ディスク、電子メモリ等が準備され得る。適切な装置が記憶媒体に含まれる情報及びプログラムへのアクセスを有すると、記憶媒体は、情報及びプログラムを装置に提供し、従って、装置がここに記載のシステム及び/又方法の機能を実行できるようにする。例えば,ソースファイル、オブジェクトファイル、実行ファイル等のような適切な素材を含むコンピュータディスクがコンピュータに提供された場合、該コンピュータは、情報を受信し、自身を適切に構成し、上述の図及びフローチャートに概説された種々のシステム及び方法の機能を実行して、種々の機能を実施し得る。つまり、コンピュータは、種々の情報部分を上述のシステム及び/又は方法の異なる要素に関連するディスクから受信し、個々のシステム及び/又は方法を実装し、上述の個々のシステム及び/又は方法の機能を調整し得る。
【0058】
本開示を考慮すると、ここに記載の種々の方法及び装置は、ハードウェア、ソフトウェア、及びファームウェアで実装できる。さらに、種々の方法及びパラメータは、例としてのみ含まれ、いかなる限定的意味ではない。本開示を考慮すると、本発明の範囲に留まりながら、当業者は、彼ら自身の技術及びこれらの技術に影響を与えるために必要な設備を決定する際に、本発明の教示を実施できる。ここに記載のプロセッサのうちの1つ以上の機能は、ここに記載の機能を実行するために実行可能命令に応答してプログラミングされるより少数の又は単一の処理ユニット(例えばCPU)に組み込まれてよく、特定用途向け集積回路(ASIC)又は汎用処理回路を用いて実装されてよい。
【0059】
本発明のシステムは特に超音波画像システムを参照して記載されたが、本発明のシステムは、1つ以上の画像が組織的方法で取得される他の医療画像システムに伸展され得る。したがって、本発明のシステムは、限定ではないが、腎臓、精巣、胸部、卵巣、子宮、甲状腺、肝臓、肺、筋骨格、脾臓、心臓、動脈、及び血管系に関連する画像情報を取得し及び/又は記録するために、並びに超音波により誘導される介入に関連する他の画像化用途に使用されてよい。さらに、本発明のシステムは、従来の画像化システムと共に使用され得る1つ以上のプログラムも含んでよい。その結果、従来の画像化システムが本発明のシステムの特徴及び利点を提供し得る。本開示の特定の追加の利点及び特徴は、本開示を研究することにより当業者に明らかになり得、又は本開示の新規なシステム及び方法を利用する当業者により経験されてよい。本発明のシステム及び方法の別の利点は、従来の医療画像システムが本発明のシステム、装置、及び方法の特徴及び利点を組み込むよう簡単にアップグレードできることであってよい。
【0060】
もちろん、ここに記載の例、実施形態、又は処理のうちのいかなる1つも、1つ以上の他の例、実施形態、及び/又は処理と結合されてよく、又は本発明のシステム、装置、及び方法に従う別個の装置又は装置の部分の間で分離され及び/又は実行されてよい。
【0061】
最後に、以上の議論は、単に本発明のシステムの説明を意図しており、いかなる特定の実施形態または実施形態のグループに添付の請求の範囲を限定すると考えられるべきではない。したがって、本発明のシステムは、例示的な実施形態を参照して特に詳細に記載されたが、以下の請求の範囲に記載された本発明のシステムの広範な意図された精神及び範囲から逸脱することなく、多数の変更及び代替の実施形態が、当業者により考案され得ることが理解されるべきである。したがって、明細書及び図面は、説明的であると考えられ、添付の請求の範囲の範囲を限定することを意図しない。
【0062】
以下に例を開示する。
(例1)
超音波画像システムであって、
目標領域に向けて送信された超音波パルスに応答するエコー信号を取得するよう構成される超音波トランスデューサと、
前記超音波トランスデューサと通信する1つ以上のプロセッサと、
を含み、前記1つ以上のプロセッサは、
前記エコー信号から少なくとも1つの画像フレームを生成し、
前記目標領域内に存在する卵胞を表すピクセルを前記目標領域内の他の内容と区別する閾値を前記画像フレームに適用し、
前記の閾値処理された画像フレームにニューラルネットワークを適用し、前記ニューラルネットワークは、前記閾値処理された画像フレーム内の前記卵胞の存在を決定し、
前記卵胞の前記の決定した存在に基づき,指示子を生成し、
前記指示子を前記プロセッサと通信するユーザインタフェース上に表示する、よう構成される、超音波画像システム。
(例2)
前記プロセッサは、前記閾値処理された画像フレームから超音波画像を生成し、前記ユーザインタフェース上に表示するよう更に構成される、例1に記載の超音波画像システム。
(例3)
前記プロセッサは、前記閾値処理された画像フレーム内の前記卵胞の外観を強調するよう更に構成される、例1に記載の超音波画像システム。
(例4)
前記閾値はオツの閾値であり、前記卵胞の前記外観は、前記オツの閾値より下及び上のピクセルの色を反転することにより強調される、例3に記載の超音波画像システム。
(例5)
前記ユーザインタフェースは、前記指示子に応答して、超音波スキャンを通じてユーザを誘導するよう構成される、例1に記載の超音波画像システム。
(例6)
前記ユーザインタフェースは、前記スキャンの間に前記ユーザに指示を提供することにより、前記超音波スキャンを通じて前記ユーザを誘導するよう構成され、前記指示は少なくとも1つの感覚的合図を含む、例5に記載の超音波画像システム。
(例7)
前記ユーザインタフェースは、前記閾値処理された画像フレームから超音波画像を生成し、前記超音波画像をリモート受信機へ送信するよう構成される、例1に記載の超音波画像システム。
(例8)
前記ニューラルネットワークは、深層ニューラルネットワーク(DN)又は畳み込みニューラルネットワーク(CNN)を含む、例1に記載の超音波画像システム。
(例9)
前記ニューラルネットワークは、1つ以上の畳み込み層と1つ以上の完全結合層とを含む、例1に記載の超音波画像システム。
(例10)
前記ニューラルネットワークは、トレーニング入力と既知の出力とのアレイを受信するよう構成されるトレーニングアルゴリズムに動作可能に関連付けられ、前記トレーニング入力は卵巣超音波画像フレームを含み、前記既知の出力は卵胞を含む卵巣超音波画像フレームを含む、例1に記載の超音波画像システム。
(例11)
前記ニューラルネットワークは、少なくとも部分的に、実行可能命令を含むコンピュータ可読媒体内に実装され、前記実行可能命令は、前記超音波トランスデューサに結合される前記プロセッサにより実行されると、前記プロセッサに、前記取得されたエコー信号に基づき前記指示子を生成するために機械トレーニングアルゴリズムを実行させる、例1に記載の超音波画像システム。
(例12)
超音波画像化方法であって、前記方法は、
超音波システムに動作可能に結合されたトランスデューサにより、目標領域に送信された超音波パルスに応答するエコー信号を取得するステップと、
前記超音波エコーから少なくとも1つの画像フレームを生成するステップと、
前記目標領域内に存在する卵胞を表すピクセルを前記目標領域内の他の内容と区別する閾値を前記画像フレームに適用するステップと、
前記の閾値処理された画像フレームにニューラルネットワークを適用するステップであって、前記ニューラルネットワークは、前記閾値処理された画像フレーム内の前記卵胞の存在を決定する、ステップと、
前記卵胞の前記の決定した存在に基づき,指示子を生成するステップと、
前記指示子をユーザインタフェース上に表示するステップと、
を含む方法。
(例13)
前記閾値処理された画像フレームから超音波画像を生成し、前記ユーザインタフェース上に表示するステップ、を更に含む例12に記載の方法。
(例14)
前記閾値より上及び下に含まれるピクセルの色を反転するステップ、を更に含む例12に記載の方法。
(例15)
前記卵胞の前記存在又は不存在に応答して、ユーザ指示を提供するステップであって、前記ユーザ指示は、卵巣の超音波スキャンを実行するための誘導を含む、ステップ、を更に含む例12に記載の方法。
(例16)
前記ニューラルネットワークは、畳み込みニューラルネットワーク(CNN)を含む、例12に記載の方法。
(例17)
卵巣を含む超音波画像フレームを用いて前記ニューラルネットワークをトレーニングするステップ、を更に含む例12に記載の方法。
(例18)
前記閾値処理された画像フレームから超音波画像を生成し、前記超音波画像を医師に送信するステップであって、前記医師は遠隔地に位置する、ステップ、を更に含む例12に記載の方法。
(例19)
前記指示子は、前記トランスデューサの動きに応答してリアルタイムに更新される、例12に記載の方法。
(例20)
実行可能命令を含む非一時的コンピュータ可読媒体であって、前記実行可能命令は、実行されると、医療画像システムのプロセッサに例12乃至19に記載のいずれかの方法を実行させる、非一時的コンピュータ可読媒体。
【符号の説明】
【0063】
100 超音波システム
110 超音波データ取得ユニット
112 超音波センサアレイ
114 超音波パルス
116 被写体の領域
118 超音波エコー
120 ビームフォーマ
122 信号プロセッサ
124 個別超音波画像フレーム
126 データプロセッサ
128 ニューラルネットワーク
130 ディスプレイプロセッサ
132 ユーザインタフェース
134 超音波画像
136 指示子
138 ユーザ入力
図1
図2
図3
図4A
図4B
図5
図6A
図6B
図7
【外国語明細書】