IP Force 特許公報掲載プロジェクト 2022.1.31 β版

知財求人 - 知財ポータルサイト「IP Force」

▶ 国立大学法人 東京大学の特許一覧

特開2024-85845情報処理装置、情報処理方法及びプログラム
<>
  • 特開-情報処理装置、情報処理方法及びプログラム 図1
  • 特開-情報処理装置、情報処理方法及びプログラム 図2
  • 特開-情報処理装置、情報処理方法及びプログラム 図3
  • 特開-情報処理装置、情報処理方法及びプログラム 図4
  • 特開-情報処理装置、情報処理方法及びプログラム 図5
  • 特開-情報処理装置、情報処理方法及びプログラム 図6
  • 特開-情報処理装置、情報処理方法及びプログラム 図7
  • 特開-情報処理装置、情報処理方法及びプログラム 図8
  • 特開-情報処理装置、情報処理方法及びプログラム 図9
  • 特開-情報処理装置、情報処理方法及びプログラム 図10
  • 特開-情報処理装置、情報処理方法及びプログラム 図11
  • 特開-情報処理装置、情報処理方法及びプログラム 図12
  • 特開-情報処理装置、情報処理方法及びプログラム 図13
< >
(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公開特許公報(A)
(11)【公開番号】P2024085845
(43)【公開日】2024-06-27
(54)【発明の名称】情報処理装置、情報処理方法及びプログラム
(51)【国際特許分類】
   A61B 8/14 20060101AFI20240620BHJP
   A61B 8/06 20060101ALI20240620BHJP
   G16H 30/00 20180101ALI20240620BHJP
   G06T 7/00 20170101ALI20240620BHJP
   G06N 20/00 20190101ALI20240620BHJP
【FI】
A61B8/14
A61B8/06
G16H30/00
G06T7/00 350B
G06T7/00 614
G06N20/00
【審査請求】未請求
【請求項の数】14
【出願形態】OL
(21)【出願番号】P 2022200608
(22)【出願日】2022-12-15
(71)【出願人】
【識別番号】504137912
【氏名又は名称】国立大学法人 東京大学
(74)【代理人】
【識別番号】110002789
【氏名又は名称】弁理士法人IPX
(72)【発明者】
【氏名】長谷川 潔
(72)【発明者】
【氏名】三原 裕一郎
(72)【発明者】
【氏名】唐子 顕児
(72)【発明者】
【氏名】神子(▲高▼山) 真秀
(72)【発明者】
【氏名】佐々木 脩
(72)【発明者】
【氏名】伊藤 橋司
(72)【発明者】
【氏名】陳 ▲ゆ▼
【テーマコード(参考)】
4C601
5L096
5L099
【Fターム(参考)】
4C601DD09
4C601DD14
4C601DD15
4C601DE06
4C601EE09
4C601JB34
4C601JC05
4C601JC06
4C601JC20
4C601JC37
4C601KK24
5L096BA06
5L096BA13
5L096CA18
5L096DA01
5L096GA08
5L096HA01
5L096JA11
5L096KA04
5L099AA26
(57)【要約】      (修正有)
【課題】検査及び/又は手術の際に医師は造影エコー法で撮像された画像等を目視しながら病変のある、なしを判断したり、病変がある場合はその病変を切除したりする。しかし、病変が小さかったり、脈管に近かったりすると病変としての判定が困難な場合がある。
【解決手段】情報処理装置が提供される。この情報処理装置は、同じ被写体を撮像した第1の超音波の画像と第2の超音波の画像とを取得する。第1の超音波の画像の画像領域の特徴量と第2の超音波の画像の画像領域の特徴量とに基づき病変が存在する画像領域の情報を出力する。
【選択図】図1
【特許請求の範囲】
【請求項1】
情報処理装置であって、
同じ被写体を撮像した第1の超音波の画像と第2の超音波の画像とを取得し、
前記第1の超音波の画像の画像領域の特徴量と前記第2の超音波の画像の前記画像領域の特徴量とに基づき病変が存在する画像領域の情報を出力する、
情報処理装置。
【請求項2】
請求項1に記載の情報処理装置において、
前記第1の超音波の画像の画像領域の特徴量と前記第2の超音波の画像の前記画像領域の特徴量とに基づき前記画像領域に病変が存在するか否かを判定し、病変が存在すると判定した場合、前記画像領域を病変が存在する画像領域として画像領域の情報を出力する、
情報処理装置。
【請求項3】
請求項1に記載の情報処理装置において、
前記特徴量は画素値である、
情報処理装置。
【請求項4】
請求項1に記載の情報処理装置において、
病変が存在する画像領域の情報として前記画像領域を示す情報を前記第1の超音波の画像と第2の超音波の画像との何れか又は双方に重畳して表示する、
情報処理装置。
【請求項5】
請求項1に記載の情報処理装置において、
前記第1の超音波の画像と前記第2の超音波の画像とを学習済みモデルに入力し、
前記学習済みモデルは、第1の超音波の画像と第2の超音波の画像とを入力データ、前記第1の超音波の画像と前記第2の超音波の画像との何れか又は双方における病変が存在する画像領域を出力データとして学習された学習済みモデルであり、
前記第1の超音波の画像の前記学習済みモデルから出力された画像領域の特徴量と前記第2の超音波の画像の前記画像領域の特徴量とに基づき病変が存在する画像領域の情報を出力する、
情報処理装置。
【請求項6】
情報処理装置であって、
同じ被写体を撮像した第1の超音波の画像と第2の超音波の画像とを取得し、
前記第1の超音波の画像と前記第2の超音波の画像とに基づいて画像を生成し、
生成した画像を学習済みモデルに入力し、
前記学習済みモデルは、第1の超音波の画像と第2の超音波の画像とに基づいて生成された画像を入力データ、前記画像における病変が存在する画像領域を出力データとして学習された学習済みモデルであり、
前記学習済みモデルから出力された画像領域の情報を出力する、
情報処理装置。
【請求項7】
請求項6に記載の情報処理装置において、
前記第1の超音波の画像の特徴量と前記第2の超音波の画像の特徴量とに基づいて画像を生成する、
情報処理装置。
【請求項8】
請求項7に記載の情報処理装置において、
前記特徴量は画素値である、
情報処理装置。
【請求項9】
請求項8に記載の情報処理装置において、
前記第1の超音波の画像と前記第2の超音波の画像とに基づいて前記第1の超音波の画像と前記第2の超音波の画像との濃淡の差を示す画像を生成する、
情報処理装置。
【請求項10】
請求項6に記載の情報処理装置において、
前記第1の超音波の画像、又は前記第2の超音波の画像、又は生成した画像に重畳して前記画像領域の情報を表示する、
情報処理装置。
【請求項11】
請求項1に記載の情報処理装置において、
前記第1の超音波の画像は、造影なしの超音波画像であり、
前記第2の超音波の画像は、造影ありの超音波画像である、
情報処理装置。
【請求項12】
情報処理方法であって、
同じ被写体を撮像した第1の超音波の画像と第2の超音波の画像とを取得し、
前記第1の超音波の画像の画像領域の特徴量と前記第2の超音波の画像の前記画像領域の特徴量とに基づき病変が存在する画像領域の情報を出力する、
情報処理方法。
【請求項13】
情報処理方法であって、
同じ被写体を撮像した第1の超音波の画像と第2の超音波の画像とを取得し、
前記第1の超音波の画像と前記第2の超音波の画像とに基づいて画像を生成し、
生成した画像を学習済みモデルに入力し、
前記学習済みモデルは、第1の超音波の画像と第2の超音波の画像とに基づいて生成された画像を入力データ、前記画像における病変が存在する画像領域を出力データとして学習された学習済みモデルであり、
前記学習済みモデルから出力された画像領域の情報を出力する、
情報処理方法。
【請求項14】
プログラムであって、
コンピュータを、
請求項1から請求項11までの何れか1項に記載の情報処理装置として機能させるためのプログラム。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、情報処理装置、情報処理方法及びプログラムに関する。
【背景技術】
【0002】
検査及び/又は手術の際に超音波を用いて臓器、又は甲状腺、又は乳腺等に病変が存在するか否か確認する方法がある。
特許文献1には造影エコー法に関する技術が開示されている。
【先行技術文献】
【特許文献】
【0003】
【特許文献1】特開2022-074921号公報
【発明の概要】
【発明が解決しようとする課題】
【0004】
検査及び/又は手術の際に医師は造影エコー法で撮像された画像等を目視しながら病変のある、なしを判断したり、病変がある場合はその病変を切除したりする。しかし、病変が小さかったり、脈管に近かったりすると病変としての判定が困難な場合がある。
【課題を解決するための手段】
【0005】
本発明の一態様によれば、情報処理装置が提供される。この情報処理装置は、同じ被写体を撮像した第1の超音波の画像と第2の超音波の画像とを取得する。第1の超音波の画像の画像領域の特徴量と第2の超音波の画像の画像領域の特徴量とに基づき病変が存在する画像領域の情報を出力する。
【図面の簡単な説明】
【0006】
図1図1は、情報処理システム1000のシステム構成の一例を示す図である。
図2図2は、サーバー装置100のハードウェア構成の一例を示す図である。
図3図3は、超音波診断装置120のハードウェア構成の一例を示す図である。
図4図4は、造影なしの超音波画像と、造影超音波画像と、が合わさった画像の一例を示す図である。
図5図5は、超音波画像を記憶する情報処理の一例を示すアクティビティ図である。
図6図6は、メインの情報処理の一例を示すアクティビティ図である。
図7図7は、取得された超音波画像のうち、造影なしの超音波画像600の一例を示す図である。
図8図8は、取得された超音波画像のうち、造影超音波画像700の一例を示す図である。
図9図9は、学習済みモデルから出力される画像領域の概念を示す図である。
図10図10は、出力された病変が存在する画像領域の情報の一例を示す図である。
図11図11は、変形例2のメインの情報処理の一例を示すアクティビティ図である。
図12図12は、画像の生成を説明するための図である。
図13図13は、出力された病変が存在する画像領域の情報の一例を示す図である。
【発明を実施するための形態】
【0007】
(実施形態1)
以下、図面を用いて本発明の実施形態について説明する。以下に示す実施形態中で示した各種特徴事項は、互いに組み合わせ可能である。特に、本明細書において「部」とは、例えば、広義の回路によって実施されるハードウェア資源と、これらのハードウェア資源によって具体的に実現されうるソフトウェアの情報処理とを合わせたものも含みうる。また、本実施形態においては様々な情報を取り扱うが、これら情報は、0又は1で構成される2進数のビット集合体として信号値の高低によって表されるか、信号値の物理的な数値によって表されるか、又は量子的な重ね合わせによって表されるかによらず、広義の回路上で通信及び演算が実行されうる。
【0008】
また、広義の回路とは、回路(Circuit)、回路類(Circuitry)、プロセッサ(Processor)、及びメモリ(Memory)等を少なくとも適当に組み合わせることによって実現される回路である。すなわち、特定用途向け集積回路(Application Specific Integrated Circuit:ASIC)、プログラマブル論理デバイス(例えば、単純プログラマブル論理デバイス(Simple Programmable Logic Device:SPLD)、複合プログラマブル論理デバイス(Complex Programmable Logic Device:CPLD)、及びフィールドプログラマブルゲートアレイ(Field Programmable Gate Array:FPGA))等を含むものである。
【0009】
また、実施形態中に登場するソフトウェアを実現するためのプログラムは、サーバーからダウンロード可能な態様で実施してもよいし、クラウドコンピュータ上でプログラムの実行がなされてもよいし、不揮発性又は揮発性の非一時的な記憶媒体に記憶させて頒布されてもよい。
【0010】
1.システム構成
図1は、情報処理システム1000のシステム構成の一例を示す図である。図1に示されるように、情報処理システム1000は、システム構成として、サーバー装置100と、超音波診断装置120と、を含む。サーバー装置100と、超音波診断装置120と、ネットワーク150を介して通信可能に接続されている。
【0011】
超音波診断装置120は、検査室及び/又は手術室において、患者等に対して超音波を発信し、臓器や組織からはねかえってくる反射を受信し、受信した超音波信号を処理し、画像化を行い、表示する処理を実行する。
【0012】
サーバー装置100は、超音波診断装置120から送信された超音波画像に関して実施形態に係る処理を実行する装置である。サーバー装置100で実行された結果は、超音波診断装置120で表示されてもよいし、情報処理システム1000に含まれる不図示のPC(Personal Computer)のディスプレイ等に表示されてもよい。
超音波診断装置120は、サーバー装置100の処理の実行結果等を表示する装置である。
【0013】
なお、図1では説明の簡略化のため情報処理システム1000において超音波診断装置120は1台しか図示していないが、情報処理システム1000には複数の超音波診断装置120が含まれていてもよい。また、以下に示す実施形態等の処理はサーバー装置100が実行するものとして説明を行うが、サーバー装置100の替わりに、PC、又はクラウドシステム、又は超音波診断装置120等が実施形態に係る処理を実行してもよい。
【0014】
2.ハードウェア構成
(1)サーバー装置100のハードウェア構成
図2は、サーバー装置100のハードウェア構成の一例を示す図である。サーバー装置100は、ハードウェア構成として、少なくとも、制御部210と、記憶部220と、通信部230と、を含む。制御部210は、CPU(Central Processing Unit)等であって、サーバー装置100の全体を制御する。記憶部220は、HDD(Hard Disk Drive)、ROM(Read Only Memory)、RAM(Random Access Memory)、SSD(Solid Sate Drive)等の何れか、又はこれらの任意の組み合わせであって、プログラム及び制御部210がプログラムに基づき処理を実行する際に利用するデータ等を記憶する。制御部210が、記憶部220に記憶されているプログラムに基づき、処理を実行することによって、サーバー装置100の機能等が実現される。通信部230は、NIC(Network Interface Card)等であって、サーバー装置100をネットワーク150に接続し、他の装置との通信を司る。
【0015】
なお、実施形態1では、制御部210がプログラムに基づき処理を実行する際に利用するデータを記憶部220に記憶するものとして説明するが、サーバー装置100が通信可能な他の装置の記憶部等に記憶するようにしてもよい。また、図2では、制御部210を1つとして説明しているが、複数の制御部が記憶部等に記憶されているプログラムに基づき処理を実行するようにしてもよい。
【0016】
(2)超音波診断装置120のハードウェア構成
図3は、超音波診断装置120のハードウェア構成の一例を示す図である。超音波診断装置120は、ハードウェア構成として、少なくとも、制御部310と、記憶部320と、入力部330と、出力部340と、通信部350と、を含む。制御部310は、CPU等であって、超音波診断装置120の全体を制御する。記憶部320は、HDD、ROM、RAM、SSDの何れか、又はこれらの任意の組み合わせであって、プログラム、制御部310がプログラムに基づき処理を実行する際に利用するデータ等を記憶させる。制御部310が、記憶部320に記憶されているプログラムに基づき、処理を実行することによって、超音波診断装置120の機能が実現される。入力部330は、ボタンやトラックボール等であって、ユーザーの操作情報等を制御部310に入力する。出力部340は、ディスプレイ等であって、制御部310の情報処理の結果や他の装置等から受信したデータ等を表示する。通信部350は、NIC等であって、超音波診断装置120をネットワーク150に接続し、他の装置との通信を司る。超音波診断装置120は、図3に示すハードウェア構成以外に超音波の送信、受信を担うプローブ等を有していてもよい。
【0017】
本実施形態の超音波診断装置120は、同じ被写体(患者)の同じ診断部位又は手術部位等の造影なしの超音波画像と造影ありの超音波画像(以下、造影超音波画像という)とを合わせて一つの画像を同時に生成し、生成した画像を超音波診断装置120に送信するものとして説明を行う。図4は、造影なしの超音波画像と、造影超音波画像と、が合わさった画像の一例を示す図である。図4の画像の左半分が造影なしの超音波画像であり、図4の画像の右半分が造影超音波画像である。診断部位や手術部位としては、例えば、血管、甲状腺、乳腺、肩、肝臓、腎臓、心臓、卵巣、胎盤、胎児、指関節等がある。本実施形態の超音波画像は、超音波診断用の造影剤が投与され、撮像された画像を例に説明する。
【0018】
3.情報処理
以下、実施形態1に係る情報処理を説明する。
(1)超音波画像記憶処理
図5は、超音波画像を記憶する情報処理の一例を示すアクティビティ図である。
アクティビティA401において、制御部210は、超音波診断装置120からの超音波画像の受信を待機する。制御部210は、超音波画像を受信した場合、アクティビティA402に進み、超音波画像を受信しない場合、アクティビティA401の処理を繰り返す。
アクティビティA402において、制御部210は、受信した超音波画像を記憶部220等に記憶する。制御部210は、図4に示されるような超音波画像を受信し、画像の左半分の造影なしの超音波画像と、画像の右半分の造影超音波画像と、に分け、それぞれ同じ被写体(患者)の同じ診断部位又は手術部位等の画像であることを示す情報と共に、関連付けて記憶部220等に記憶する。なお、このことは実施形態1の処理を限定するものではなく、制御部210は、図4に示したような超音波画像を記憶部220等に一旦記憶し、記憶部220から超音波画像を取得して処理を実行する際に、画像の左半分の造影なしの超音波画像と、画像の右半分の造影超音波画像と、に分けて処理を行うようにしてもよい。
【0019】
サーバー装置100は、起動中、図5に示される処理を繰り返し実行する。超音波診断装置120は、超音波画像が撮像されると、時系列的に連続した超音波画像(すなわち、動画)をサーバー装置100に送信する。したがって、サーバー装置100は、超音波診断装置120から送信される動画を記憶部220等に記憶することになる。
なお、以下に示す実施形態等では、サーバー装置100は、超音波診断装置120から受信した超音波画像を記憶部220等に記憶した後、以下に示す情報処理を実行するよう説明を行う。しかし、サーバー装置100は、記憶部220等に記憶する前に、超音波診断装置120から受信した所定のデータから超音波画像を取得し、以下に示す情報処理を実行するようにしてもよい。超音波診断装置120から受信した所定のデータから超音波画像を取得した場合は、制御部210は、上述したように画像の左半分の造影なしの超音波画像と、画像の右半分の造影超音波画像と、に分ける処理を実行した後、以下の示す処理を実行する。
【0020】
(2)情報処理
(処理の概要)
図4を用いて実施形態1のメインの情報処理の概要を説明する。制御部210は、記憶部220等から同じ被写体(患者)の同じ診断部位又は手術部位等を撮像し、生成された、造影なしの超音波画像と、造影超音波画像と、を取得する。造影なしの超音波画像は、第1の超音波の画像の一例である。造影超音波画像は、第2の超音波画像の一例である。制御部210は、造影なしの超音波画像と造影超音波画像とを学習済みモデルに入力する。ここで、学習済みモデルは、造影なしの超音波画像と造影超音波画像とを入力データ、造影なしの超音波画像と造影超音波画像との何れか又は双方における病変が存在する画像領域を出力データとして学習された学習済みモデルである。制御部210は、学習済みモデルから出力された画像領域の特徴量に基づき病変が存在する画像領域の情報を出力する。このような処理を行うことによって、病変が小さかったり、脈管に近かったりした場合でも、病変が存在する画像領域を提示することができる。また、制御部210が処理を行うことにより、画像を人がみて判断するより速やかに候補領域を判断し、提示することができる。
【0021】
(処理の詳細)
図6は、メインの情報処理の一例を示すアクティビティ図である。
アクティビティA501において、制御部210は、記憶部220又は超音波診断装置120から受信したデータ等から超音波画像(フレーム)を取得する。図7は、取得された超音波画像のうち、造影なしの超音波画像600の一例を示す図である。図8は、取得された超音波画像のうち、造影超音波画像700の一例を示す図である。
【0022】
アクティビティA502において、制御部210は、取得した造影なしの超音波画像600及び造影超音波画像700を学習済みモデルに入力する。上述したように、学習済みモデルは、造影なしの超音波画像と造影超音波画像とを入力データ、造影なしの超音波画像と造影超音波画像との何れか又は双方における病変が存在する画像領域を出力データとして学習された学習済みモデルである。
アクティビティA503において、制御部210は、学習済みモデルから出力された画像領域(局所領域)を取得する。
【0023】
アクティビティA504において、制御部210は、取得した画像領域の特徴量に基づき病変が存在する画像領域の情報を出力する。具体的に説明すると、制御部210は、学習済みモデルから出力された画像領域の特徴量に基づき画像領域に病変が存在するか否かを判定し、病変が存在すると判定した場合、画像領域を病変が存在する画像領域として出力する。より具体的に説明すると、制御部210は、学習済みモデルから出力された画像領域に対応する造影なしの超音波画像の特徴量と学習済みモデルから出力された画像領域に対応する造影超音波画像の特徴量とに基づき画像領域に病変が存在するか否かを判定し、病変が存在すると判定した場合、画像領域を病変が存在する画像領域として出力する。ここで、画像の特徴量の一例は、画素値(0~255の整数で表される白黒の濃淡)である。なお、病変の一例としては、腫瘍が存在するがこれに限定されるものではない。また、実施形態等では診断部位又は手術部位として肝臓を例に説明するがこれに限定されるものではない。例えば、乳腺、甲状腺等であってもよい。
【0024】
図9は、学習済みモデルから出力される画像領域の概念を示す図である。図9の例では、学習済みモデルから画像領域として、画像領域810、画像領域820、画像領域830が出力された例が示されている。
制御部210は、造影なしの超音波画像の画像領域810の画素値がそれぞれどれだけ含まれているかを求める。同様に、制御部210は、造影超音波画像の画像領域810の画素値がどれだけ含まれているかを求める。そして、制御部210は、造影なしの超音波画像の最多の画素値の値(Pa)と、造影超音波画像の最多の画素値の値(Pb)とを比較する。制御部210は、Pa<Pbとなっている場合、病変がある画像領域ではないとして出力対象から除外する。一方、制御部210は、Pa<Pbとなっていない場合、病変がある画像領域であるとして出力対象から除外しない。制御部210は、画像領域820、画像領域830に対しても同様の処理を実行する。制御部210は、上述した処理を実行し、出力対象として除外されなかった、すなわち、病変が存在すると判定された画像領域の情報を出力する。
【0025】
図10は、出力された病変が存在する画像領域の情報の一例を示す図である。図10の例では、画像領域810、画像領域820、画像領域830のうち、画像領域810が病変が存在する画像領域の情報として出力されている。ここで、図10の例では、病変が存在する画像領域の情報を造影超音波画像に重畳して表示する例を示している。しかし、制御部210は、病変が存在する画像領域の情報として画像領域を示す情報を造影なしの超音波画像と造影超音波画像との何れか又は双方に重畳して表示してもよい。また、病変が存在する画像領域の情報としては、病変が存在する画像領域を示す色であってもよいし、病変が存在する画像領域を示す円や矩形等のオブジェクトであってもよい。
制御部210は、図10に示されるような画面を超音波診断装置120の出力部340に表示するようにしてもよいし、不図示のPC等の装置のディスプレイに表示するようにしてもよい。
【0026】
実施形態1によれば、病変が小さかったり、脈管に近かったりした場合でも、病変が存在する画像領域を提示することができる。また、制御部210が処理を行うことにより、画像を人がみて判断するより速やかに候補領域を判断し、提示することができる。
【0027】
(変形例1)
実施形態1の変形例を説明する。
実施形態1では制御部210は、学習済みモデルを用いて画像領域(局所領域)を取得した。しかし、変形例1の制御部210は、例えば超音波診断装置120の出力部340等に表示された造影なしの超音波画像及び/又は造影超音波画像の領域を選択する選択操作等に基づいて画像領域(局所領域)を取得するようにしてもよい。制御部210は、取得した画像領域の特徴量に基づき病変が存在する画像領域の情報を出力する。具体的に説明すると、制御部210は、取得した画像領域の特徴量に基づき画像領域に病変が存在するか否かを判定し、病変が存在すると判定した場合、画像領域を病変が存在する画像領域として出力する。より具体的に説明すると、制御部210は、取得した画像領域に対応する造影なしの超音波画像の特徴量と取得した画像領域に対応する造影超音波画像の特徴量とに基づき画像領域に病変が存在するか否かを判定し、病変が存在すると判定した場合、画像領域を病変が存在する画像領域として出力する。ここで、画像の特徴量の一例は、画素値(0~255の整数で表される白黒の濃淡)である。
【0028】
変形例1によれば、医師等が画面等を介して選択した選択操作に基づき取得した画像領域の特徴量に基づき病変が存在する画像領域の情報を出力することができる。すなわち、変形例1によれば、学習済みモデルを用いることなく病変が存在する画像領域を提示することができる。
【0029】
(変形例2)
実施形態1の変形例を説明する。
変形例2の制御部210は、同じ被写体を撮像した造影なしの超音波画像と造影超音波画像とを取得する。制御部210は、造影なしの超音波画像と造影超音波画像とに基づいて画像を生成する。制御部210は、生成した画像を学習済みモデルに入力する。ここで、変形例2の学習済みモデルは、造影なしの超音波画像と造影超音波画像とに基づいて生成された画像を入力データ、画像における病変が存在する画像領域を出力データとして学習された学習済みモデルである。制御部210は、学習済みモデルから出力された画像領域の情報を出力する。このような処理を行うことによっても、病変が小さかったり、脈管に近かったりした場合でも、病変が存在する画像領域を提示することができる。また、制御部210が処理を行うことにより、画像を人がみて判断するより速やかに候補領域を判断し、提示することができる。
【0030】
図11は、変形例2のメインの情報処理の一例を示すアクティビティ図である。
アクティビティA1001において、制御部210は、記憶部220又は超音波診断装置120から受信したデータ等から超音波画像(フレーム)を取得する。制御部210は、図7に示されるような造影なしの超音波画像及び図8に示されるような造影超音波画像を取得する。
【0031】
アクティビティA1002において、制御部210は、アクティビティA1001で取得した造影なしの超音波画像の特徴量とアクティビティA1001で取得した造影超音波画像の特徴量とに基づいて画像を生成する。ここで、画像の特徴量の一例は、画素値(0~255の整数で表される白黒の濃淡)である。より具体的に説明すると、制御部210は、造影なしの超音波画像と造影超音波画像とに基づいて造影なしの超音波画像と造影超音波画像との濃淡の差を示す画像を生成する。
図12は、画像の生成を説明するための図である。制御部210は、造影なしの超音波画像1110と造影超音波画像1120とから、造影なしの超音波画像1110と造影超音波画像1120との濃淡の差を示す画像1130を生成する。
【0032】
アクティビティA1003において、制御部210は、アクティビティA1002で生成した画像を、学習済みモデルに入力する。ここで、学習済みモデルは、上述したように、造影なしの超音波画像と造影超音波画像とに基づいて生成された画像を入力データ、画像における病変が存在する画像領域を出力データとして学習された学習済みモデルである。
アクティビティA1004において、制御部210は、学習済みモデルから出力された画像領域(局所領域)を取得する。
【0033】
アクティビティA1005において、制御部210は、取得した画像領域の情報を出力する。
図13は、出力された病変が存在する画像領域の情報の一例を示す図である。図13の例では、病変が存在する画像領域の情報を生成した画像に重畳して表示する例を示している。しかし、制御部210は、造影なしの超音波画像、又は造影超音波画像、又は生成した画像に重畳して画像領域の情報を表示してもよい。実施形態1と同様、病変が存在する画像領域の情報としては、病変が存在する画像領域を示す色であってもよいし、病変が存在する画像領域を示す円や矩形等のオブジェクトであってもよい。
制御部210は、図13に示されるような画面を超音波診断装置120の出力部340に表示するようにしてもよいし、不図示のPC等の装置のディスプレイに表示するようにしてもよい。
【0034】
変形例2によっても、病変が小さかったり、脈管に近かったりした場合でも、病変が存在する画像領域を提示することができる。また、制御部210が処理を行うことにより、画像を人がみて判断するより速やかに候補領域を判断し、提示することができる。
【0035】
さらに、次に記載の各態様で提供されてもよい。
【0036】
(1)情報処理装置であって、同じ被写体を撮像した第1の超音波の画像と第2の超音波の画像とを取得し、前記第1の超音波の画像の画像領域の特徴量と前記第2の超音波の画像の前記画像領域の特徴量とに基づき病変が存在する画像領域の情報を出力する、情報処理装置。
【0037】
(2)上記(1)に記載の情報処理装置において、前記第1の超音波の画像の画像領域の特徴量と前記第2の超音波の画像の前記画像領域の特徴量とに基づき前記画像領域に病変が存在するか否かを判定し、病変が存在すると判定した場合、前記画像領域を病変が存在する画像領域として画像領域の情報を出力する、情報処理装置。
【0038】
(3)上記(1)又は(2)に記載の情報処理装置において、前記特徴量は画素値である、情報処理装置。
【0039】
(4)上記(1)から(3)までの何れか1つに記載の情報処理装置において、病変が存在する画像領域の情報として前記画像領域を示す情報を前記第1の超音波の画像と第2の超音波の画像との何れか又は双方に重畳して表示する、情報処理装置。
【0040】
(5)前記第1の超音波の画像と前記第2の超音波の画像とを学習済みモデルに入力し、前記学習済みモデルは、第1の超音波の画像と第2の超音波の画像とを入力データ、前記第1の超音波の画像と前記第2の超音波の画像との何れか又は双方における病変が存在する画像領域を出力データとして学習された学習済みモデルであり、前記第1の超音波の画像の前記学習済みモデルから出力された画像領域の特徴量と前記第2の超音波の画像の前記画像領域の特徴量とに基づき病変が存在する画像領域の情報を出力する、情報処理装置。
【0041】
(6)情報処理装置であって、同じ被写体を撮像した第1の超音波の画像と第2の超音波の画像とを取得し、前記第1の超音波の画像と前記第2の超音波の画像とに基づいて画像を生成し、生成した画像を学習済みモデルに入力し、前記学習済みモデルは、第1の超音波の画像と第2の超音波の画像とに基づいて生成された画像を入力データ、前記画像における病変が存在する画像領域を出力データとして学習された学習済みモデルであり、前記学習済みモデルから出力された画像領域の情報を出力する、情報処理装置。
【0042】
(7)上記(6)に記載の情報処理装置において、前記第1の超音波の画像の特徴量と前記第2の超音波の画像の特徴量とに基づいて画像を生成する、情報処理装置。
【0043】
(8)上記(7)に記載の情報処理装置において、前記特徴量は画素値である、情報処理装置。
【0044】
(9)上記(8)に記載の情報処理装置において、前記第1の超音波の画像と前記第2の超音波の画像とに基づいて前記第1の超音波の画像と前記第2の超音波の画像との濃淡の差を示す画像を生成する、情報処理装置。
【0045】
(10)上記(6)から(9)までの何れか1つに記載の情報処理装置において、前記第1の超音波の画像、又は前記第2の超音波の画像、又は生成した画像に重畳して前記画像領域の情報を表示する、情報処理装置。
【0046】
(11)上記(1)から(10)までの何れか1つに記載の情報処理装置において、前記第1の超音波の画像は、造影なしの超音波画像であり、前記第2の超音波の画像は、造影ありの超音波画像である、情報処理装置。
【0047】
(12)情報処理方法であって、同じ被写体を撮像した第1の超音波の画像と第2の超音波の画像とを取得し、前記第1の超音波の画像の画像領域の特徴量と前記第2の超音波の画像の前記画像領域の特徴量とに基づき病変が存在する画像領域の情報を出力する、情報処理方法。
【0048】
(13)情報処理方法であって、同じ被写体を撮像した第1の超音波の画像と第2の超音波の画像とを取得し、前記第1の超音波の画像と前記第2の超音波の画像とに基づいて画像を生成し、生成した画像を学習済みモデルに入力し、前記学習済みモデルは、第1の超音波の画像と第2の超音波の画像とに基づいて生成された画像を入力データ、前記画像における病変が存在する画像領域を出力データとして学習された学習済みモデルであり、前記学習済みモデルから出力された画像領域の情報を出力する、情報処理方法。
【0049】
(14)プログラムであって、コンピュータを、上記(1)から(11)までの何れか1つに記載の情報処理装置として機能させるためのプログラム。
もちろん、この限りではない。
【0050】
最後に、本発明に係る種々の実施形態を説明したが、これらは、例として提示したものであり、発明の範囲を限定することは意図していない。新規な実施形態は、その他の様々な形態で実施されることが可能であり、発明の要旨を逸脱しない範囲で、種々の省略、置き換え、変更を行うことができる。実施形態やその変形は、発明の範囲や要旨に含まれると共に、特許請求の範囲に記載された発明とその均等の範囲に含まれるものである。
【符号の説明】
【0051】
100 :サーバー装置
120 :超音波診断装置
150 :ネットワーク
210 :制御部
220 :記憶部
230 :通信部
310 :制御部
320 :記憶部
330 :入力部
340 :出力部
350 :通信部
600 :超音波画像
700 :造影超音波画像
810 :画像領域
820 :画像領域
830 :画像領域
1000 :情報処理システム
1110 :超音波画像
1120 :造影超音波画像
1130 :画像
図1
図2
図3
図4
図5
図6
図7
図8
図9
図10
図11
図12
図13