IP Force 特許公報掲載プロジェクト 2022.1.31 β版

知財求人 - 知財ポータルサイト「IP Force」

▶ 学校法人 聖マリアンナ医科大学の特許一覧 ▶ 東芝メディカルシステムズ株式会社の特許一覧

<>
  • 特許-医用画像処理装置及び医用画像処理方法 図1
  • 特許-医用画像処理装置及び医用画像処理方法 図2
  • 特許-医用画像処理装置及び医用画像処理方法 図3
  • 特許-医用画像処理装置及び医用画像処理方法 図4
  • 特許-医用画像処理装置及び医用画像処理方法 図5
  • 特許-医用画像処理装置及び医用画像処理方法 図6
  • 特許-医用画像処理装置及び医用画像処理方法 図7
< >
(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】
(24)【登録日】2024-11-21
(45)【発行日】2024-11-29
(54)【発明の名称】医用画像処理装置及び医用画像処理方法
(51)【国際特許分類】
   G06T 7/00 20170101AFI20241122BHJP
   G01N 33/48 20060101ALI20241122BHJP
【FI】
G06T7/00 350C
G06T7/00 630
G01N33/48 M
【請求項の数】 10
(21)【出願番号】P 2020175594
(22)【出願日】2020-10-19
(65)【公開番号】P2022066963
(43)【公開日】2022-05-02
【審査請求日】2023-10-13
(73)【特許権者】
【識別番号】596165589
【氏名又は名称】学校法人 聖マリアンナ医科大学
(73)【特許権者】
【識別番号】594164542
【氏名又は名称】キヤノンメディカルシステムズ株式会社
(74)【代理人】
【識別番号】110002147
【氏名又は名称】弁理士法人酒井国際特許事務所
(72)【発明者】
【氏名】高屋 英知
(72)【発明者】
【氏名】小林 泰之
(72)【発明者】
【氏名】神長 茂生
(72)【発明者】
【氏名】前田 達郎
【審査官】山田 辰美
(56)【参考文献】
【文献】特開2020-044590(JP,A)
【文献】特開2017-097807(JP,A)
【文献】特開2007-280054(JP,A)
(58)【調査した分野】(Int.Cl.,DB名)
G06T 7/00-7/90
G01N 33/48
(57)【特許請求の範囲】
【請求項1】
1のモデルを生成するための機械学習で使用され第1のエポック数、及び規定の初期値に基づいて、第2のモデルで使用される第2のエポック数を、動的に決定する決定部と、
決定された前記第2のエポック数を出力する出力部と、
を備え
前記第1のモデルは、被検体に関する連続する複数の医用画像を含む医用画像群のうち、規定の枚数の医用画像を含む第1の医用画像セットを用いた第1のエポック数の機械学習によって生成された学習済モデルであり、
前記第2のモデルは、前記第1の医用画像セットの一部の医用画像及び前記医用画像群のうち前記第1の医用画像セットの最後の医用画像の次の医用画像を含む第2の医用画像セットを用いて、前記第1のモデルにさらに前記第2のエポック数の機械学習を実施することにより生成される学習済モデルである、
医用画像処理装置。
【請求項2】
前記決定部は、前記第2のエポック数が規定の最小値以上である限り、前記第2のエポック数を、前記第1のエポック数よりも規定の減少率分減少させる、
請求項1に記載の医用画像処理装置。
【請求項3】
前記医用画像群と、前記医用画像群の先頭の医用画像を含む前記第1の医用画像セットに対応する複数の教師データを含む第1の教師データセットとを取得する取得部と、
記第のエポック数分、前記第1のモデルに第1の学習を実行させることにより、前記第2のモデルを生成する学習部と、を備える、
請求項1に記載の医用画像処理装置。
【請求項4】
前記第2のモデルに、前記医用画像群のうち、教師データが対応付けられていない医用画像を入力し、該医用画像に対応する擬似教師データを出力させる推定部、を備え、
前記学習部は、前記擬似教師データを用いて、前記第2のモデルに第2の学習を実行させる、
請求項3に記載の医用画像処理装置。
【請求項5】
前記推定部は、前記第1の学習によって生成された前記第2のモデルに、前記医用画像群のうち、前記第1の医用画像セットの最後の医用画像の次の医用画像を入力することにより、該次の医用画像に対応する擬似教師データを出力させ、
前記学習部は、前記第2の医用画像セット及び第2の教師データセットを用いて、前記出力部によって出力された前記第2のエポック数分、前記第のモデルに第2の学習を実行させることによって前記第2のモデルを生成し
前記第2の教師データセットは、前記第1の教師データセットのうち前記一部の医用画像に対応する教師データ、及び前記第2のモデルによって推定された前記擬似教師データを含む、
請求項4に記載の医用画像処理装置。
【請求項6】
前記第1のモデルが出力した前記擬似教師データの確信度を算出する算出部と、
前記確信度が閾値以下になった場合に、表示部に警告を表示させる表示制御部と、
をさらに備える、
請求項4または5に記載の医用画像処理装置。
【請求項7】
前記医用画像群に含まれる複数の医用画像は、物理的または時間的に連続する、
請求項1から6のいずれか1項に記載の医用画像処理装置。
【請求項8】
前記医用画像は、電子顕微鏡で撮像された電子顕微鏡画像である、
請求項1から7のいずれか1項に記載の医用画像処理装置。
【請求項9】
前記第1のモデル及び前記第2のモデルは、前記医用画像群に含まれる各医用画像の一部の画像領域を、学習の対象とする、
請求項1から8のいずれか1項に記載の医用画像処理装置。
【請求項10】
1のモデルで使用され第1のエポック数、及び規定の初期値に基づいて、第2のモデルで使用される第2のエポック数を、動的に決定する決定ステップと、
決定された前記第2のエポック数を出力する出力ステップと、
を含み、
前記第1のモデルは、被検体に関する連続する複数の医用画像を含む医用画像群のうち、規定の枚数の医用画像を含む第1の医用画像セットを用いた第1のエポック数の機械学習によって生成された学習済モデルであり、
前記第2のモデルは、前記第1の医用画像セットの一部の医用画像及び前記医用画像群のうち前記第1の医用画像セットの最後の医用画像の次の医用画像を含む第2の医用画像セットを用いて、前記第1のモデルにさらに前記第2のエポック数の機械学習を実施することにより生成される学習済モデルである、
医用画像処理方法。
【発明の詳細な説明】
【技術分野】
【0001】
本明細書及び図面に開示の実施形態は、医用画像処理装置及び医用画像処理方法に関する。
【背景技術】
【0002】
従来、医用画像の画像処理において、深層学習等の機械学習を用いる技術が知られている。このような技術においては、学習時間及び学習処理の負荷の低減が求められている。
【先行技術文献】
【特許文献】
【0003】
【文献】特開2020-93076号公報
【発明の概要】
【発明が解決しようとする課題】
【0004】
本明細書及び図面に開示の実施形態が解決しようとする課題の一つは、医用画像の画像処理における機械学習の学習時間及び学習処理の負荷を低減させることである。ただし、本明細書及び図面に開示の実施形態により解決しようとする課題は上記課題に限られない。後述する実施形態に示す各構成による各効果に対応する課題を他の課題として位置づけることもできる。
【課題を解決するための手段】
【0005】
実施形態に係る医用画像処理装置は、決定部と、出力部とを備える。決定部は、第1のモデルで使用され第1のエポック数、及び規定の初期値に基づいて、第2のモデルで使用される第2のエポック数を、動的に決定する。出力部は、決定された第2のエポック数を出力する。第1のモデルは、被検体に関する連続する複数の医用画像を含む医用画像群のうち、規定の枚数の医用画像を含む第1の医用画像セットを用いた第1のエポック数の機械学習によって生成された学習済モデルである。第2のモデルは、第1の医用画像セットの一部の医用画像及び医用画像群のうち第1の医用画像セットの最後の医用画像の次の医用画像を含む第2の医用画像セットを用いて、第1のモデルにさらに第2のエポック数の機械学習を実施することにより生成される学習済モデルである。
【図面の簡単な説明】
【0006】
図1図1は、第1の実施形態に係る医用画像処理装置の構成の一例を示す図である。
図2図2は、第1の実施形態に係る顕微鏡画像に対する画像処理の一例を示す図である。
図3図3は、第1の実施形態に係る顕微鏡画像に対する画像処理の詳細について説明する図である。
図4図4は、第1の実施形態に係るモデルによる学習処理及び推定処理の一例を示す図である。
図5図5は、第1の実施形態に係るモデルを用いた画像処理のアルゴリズムの一例である。
図6図6は、第1の実施形態に係る半自動の領域抽出処理の流れの一例を示すフローチャートである。
図7図7は、第2の実施形態に係る医用画像処理装置の構成の一例を示す図である。
【発明を実施するための形態】
【0007】
以下、図面を参照しながら、医用画像処理装置及び医用画像処理方法の実施形態について詳細に説明する。
【0008】
(第1の実施形態)
図1は、本実施形態に係る医用画像処理装置100の構成の一例を示す図である。医用画像処理装置100は、例えばサーバ装置またはPC(Personal Computer)等である。また、医用画像処理装置100は、不図示の院内LAN(Local Area Network)等のネットワークを介して医用画像保管装置等の他の情報処理装置と接続しても良い。
【0009】
医用画像処理装置100は、機械学習によって医用画像に対する画像処理を実行する。本実施形態においては、医用画像の一例として、走査電子顕微鏡(SEM:Scanning Electron Microscope)によって撮像された電子顕微鏡画像を挙げて説明する。以下、電子顕微鏡画像を、単に顕微鏡画像という。
【0010】
図2は、本実施形態に係る顕微鏡画像201~20Nに対する画像処理の一例を示す図である。図2に示すように、顕微鏡画像201~20Nは、被検体から切り出された切片が走査電子顕微鏡によって撮像された、連続する画像である。なお、本実施形態においては、画像が連続するとは、各画像の撮像対象である切片の並び順が隣り合う配置であることを意味する。なお、切片の並び順が隣り合う配置であるとは、各切片の切り出された位置が完全に接触するものに限定されない。例えば、隣り合う切片の切り出し位置の間に間隔があっても良い。連続する画像同士は、近接する組織の切片が撮像された画像であるため、互いに強い相関を有するものとする。また、本実施形態において、被検体は、人体またはその他の生物とするが、これらに限定されるものではない。
【0011】
顕微鏡画像201~20Nには、例えば、被検体である生物の脳または感覚器における神経系が描出されている。コネクトミクスと呼ばれる分野においては、神経構造の詳細な観察のために、このような顕微鏡画像201~20Nを、3次元に再構築する手法が用いられることが一般的である。
【0012】
顕微鏡画像201~20Nは、被検体に関する医用画像である。以下、個々の顕微鏡画像201~20Nを区別しない場合は、単に顕微鏡画像20という。また、一群の顕微鏡画像201~20Nを指す場合には、顕微鏡画像群2という。また、顕微鏡画像群2は、本実施形態における医用画像群の一例である。
【0013】
顕微鏡画像201~20Nの枚数は特に限定されないが、例えば数百枚程度としても良い。以下、本実施形態においては、医用画像群に含まれる医用画像の枚数を、N枚とする。なお、顕微鏡画像201~20Nは、連続切片画像ともいう。
【0014】
個々の顕微鏡画像201~20Nに描出された神経構造の連続性を明確にした状態で顕微鏡画像群2を3次元に再構築するためには、例えば、画像処理パイプラインという手法が採用可能である。当該手法においては、各顕微鏡画像201~20Nに対して、領域抽出(セグメンテーション)及びグルーピングという画像処理が施される。
【0015】
図3は、本実施形態に係る顕微鏡画像20に対する画像処理の詳細について説明する図である。図3では、顕微鏡画像群2に含まれる1枚の顕微鏡画像20を例示する。
【0016】
領域抽出とは、顕微鏡画像20における神経領域とそれ以外の組織とを区別する処理である。図3に示す領域抽出画像30は、顕微鏡画像20が領域抽出された画像である。
【0017】
領域抽出は、例えば、研究者が手作業で神経領域の輪郭を記載することにより行われる。また、本実施形態においては、後述のモデルによって、自動的に領域抽出が行われる例について説明する。
【0018】
なお、研究者は、本実施形態における医用画像処理装置100のユーザの一例である。医用画像処理装置100のユーザは、研究者に限定されるものではない。以下、研究者によって行われるものとして説明する作業は、医師、技師、またはその他の作業者によって行われても良い。
【0019】
また、グルーピングとは、領域抽出画像30における複数の神経領域を、同一神経領域ごとのグループに分類することである。図3に示すグルーピング画像40のように、同一神経領域ごとに色分けされても良い。本実施形態においては、当該画像処理は研究者が手作業で行うものとするが、モデルによって自動的に行われても良い。
【0020】
図3で説明した領域抽出が、顕微鏡画像群2に含まれる各顕微鏡画像201~20Nに施された場合、図2に示すように、各顕微鏡画像201~20Nに対応するN枚の領域抽出画像301~30Nが生成される。以下、個々の領域抽出画像301~30Nを区別しない場合は、単に領域抽出画像30という。
【0021】
また、個々の領域抽出画像301~30Nがグルーピングされた場合、図2に示すように、各領域抽出画像301~30Nに対応するN枚のグルーピング画像401~40Nが生成される。以下、個々のグルーピング画像401~40Nを区別しない場合は、単にグルーピング画像40という。
【0022】
図2に示す3次元画像50は、グルーピング画像401~40Nが3次元再構成された結果である。3次元画像50においては、連続する顕微鏡画像201~20Nに描出された神経構造の連続性が3次元で表される。
【0023】
本実施形態においては、このような画像処理を効率的に実施する手法について説明する。
【0024】
図1に戻り、医用画像処理装置100の構成について説明する。医用画像処理装置100は、NWインタフェース110と、記憶回路120と、入力インタフェース130と、ディスプレイ140と、処理回路150とを備える。
【0025】
NWインタフェース110は、処理回路150に接続されており、医用画像処理装置100と他の情報処理装置との間の各種データの伝送および通信を制御する。NWインタフェース110は、ネットワークカードやネットワークアダプタ、NIC(Network Interface Controller)等によって実現される。
【0026】
記憶回路120は、処理回路150で使用される各種の情報を予め記憶する。また、記憶回路120は、各種のプログラムを記憶する。また、記憶回路120は、医用画像処理装置100外に設けられても良い。
【0027】
入力インタフェース130は、トラックボール、スイッチボタン、マウス、キーボード、操作面へ触れることで入力操作を行うタッチパッド、表示画面とタッチパッドとが一体化されたタッチスクリーン、光学センサを用いた非接触入力回路、及び音声入力回路等によって実現される。入力インタフェース130は、処理回路150に接続されており、操作者から受け取った入力操作を電気信号へ変換し処理回路150へと出力する。なお、本明細書において入力インタフェース130はマウス、キーボードなどの物理的な操作部品を備えるものだけに限られない。例えば、装置とは別体に設けられた外部の入力機器から入力操作に対応する電気信号を受け取り、この電気信号を処理回路150へ出力する電気信号の処理回路も入力インタフェース130の例に含まれる。
【0028】
ディスプレイ140は、液晶ディスプレイや有機EL(Organic Electro-Luminescence: OEL)ディスプレイ等である。なお、入力インタフェース130とディスプレイ140とは統合しても良い。例えば、入力インタフェース130とディスプレイ140とは、タッチパネルによって実現されても良い。ディスプレイ140は、本実施形態における表示部の一例である。また、ディスプレイ140は、医用画像処理装置100外に設けられても良い。
【0029】
処理回路150は、記憶回路120からプログラムを読み出し、実行することで各プログラムに対応する機能を実現するプロセッサである。本実施形態の処理回路150は、取得機能151、学習機能152、推定機能153、決定機能154、出力機能155、受付機能156、及び再構成機能157を備える。取得機能151は、取得部の一例である。学習機能152は、学習部の一例である。推定機能153は、推定部の一例である。決定機能154は、決定部の一例である。出力機能155は、出力部の一例である。受付機能156は、受付部の一例である。再構成機能157は、再構成部の一例である。
【0030】
ここで、例えば、処理回路150の構成要素である取得機能151、学習機能152、推定機能153、決定機能154、出力機能155、受付機能156、及び再構成機能157の各処理機能は、コンピュータによって実行可能なプログラムの形態で記憶回路120に記憶されている。処理回路150は、プロセッサである。例えば、処理回路150は、プログラムを記憶回路120から読み出し、実行することで各プログラムに対応する機能を実現する。換言すると、各プログラムを読み出した状態の処理回路150は、図1の処理回路150内に示された各機能を有することとなる。なお、図1においては単一のプロセッサにて取得機能151、学習機能152、推定機能153、決定機能154、出力機能155、受付機能156、及び再構成機能157にて行われる処理機能が実現されるものとして説明したが、複数の独立したプロセッサを組み合わせて処理回路150を構成し、各プロセッサがプログラムを実行することにより機能を実現するものとしても構わない。また、図1においては単一の記憶回路120が各処理機能に対応するプログラムを記憶するものとして説明したが、複数の記憶回路を分散して配置して、処理回路150は個別の記憶回路から対応するプログラムを読み出す構成としても構わない。
【0031】
上記説明では、「プロセッサ」が各機能に対応するプログラムを記憶回路から読み出して実行する例を説明したが、実施形態はこれに限定されない。「プロセッサ」という文言は、例えば、CPU(Central Processing Unit)、GPU(Graphics Processing Unit)、特定用途向け集積回路(Application Specific Integrated Circuit:ASIC)、プログラマブル論理デバイス(例えば、単純プログラマブル論理デバイス(Simple Programmable Logic Device:SPLD)、複合プログラマブル論理デバイス(Complex Programmable Logic Device:CPLD)、及びフィールドプログラマブルゲートアレイ(Field Programmable Gate Array:FPGA))等の回路を意味する。プロセッサが例えばCPUである場合、プロセッサは記憶回路120に保存されたプログラムを読み出して実行することで機能を実現する。一方、プロセッサがASICである場合、記憶回路120にプログラムを保存する代わりに、当該機能がプロセッサの回路内に論理回路として直接組み込まれる。なお、本実施形態の各プロセッサは、プロセッサごとに単一の回路として構成される場合に限らず、複数の独立した回路を組み合わせて1つのプロセッサとして構成し、その機能を実現するようにしてもよい。さらに、図1における複数の構成要素を1つのプロセッサへ統合してその機能を実現するようにしても良い。
【0032】
取得機能151は、顕微鏡画像群2を取得する。例えば、取得機能151は、NWインタフェース110を介して、不図示の画像保管装置から顕微鏡画像群2を取得するが、取得元はこれに限定されるものではない。
【0033】
また、取得機能151は、後述のモデルに入力するための教師データを取得する。
【0034】
本実施形態における教師データは、顕微鏡画像群2の先頭のM枚の顕微鏡画像201~203に対応する領域抽出画像301~303である。M枚は、本実施形態における規定の枚数の一例である。M枚は、顕微鏡画像群2に含まれる顕微鏡画像20の枚数であるN枚よりも少ない数である。本実施形態においては、一例として、M=3とする。なお、N枚を第1の枚数、M枚を第2の枚数と称しても良い。
【0035】
すなわち、本実施形態においては、顕微鏡画像群2に含まれる顕微鏡画像20のうち、最初のM枚に対しては、研究者が作成した領域抽出画像30が教師データとして対応付けられる。この最初のM枚の顕微鏡画像20に対応するM枚の領域抽出画像30は、本実施形態における第1の教師データセットの一例である。また、教師データである領域抽出画像30が対応付けられた顕微鏡画像20を、ラベル付きサンプル(labeled sample)という。
【0036】
なお、研究者が作成した領域抽出画像30の取得元は、例えば研究者の使用する情報処理装置であっても良い。また、研究者が医用画像処理装置100においては領域抽出画像30を生成した場合、取得機能151は、例えば、記憶回路120に保存された領域抽出画像30を読み出しても良い。
【0037】
学習機能152は、第1の医用画像セット、及び第1の医用画像セットに対応する第1の教師データセットを用いて、後述の出力機能155によって出力されたエポック数分、モデルに第1の学習を実行させる。また、学習機能152は、後述の推定機能153によってモデルを用いて生成された擬似教師データを用いて、モデルに再学習をさせる。
【0038】
図4は、本実施形態に係るモデル601~60Nによる学習処理及び推定処理の一例を示す図である。以下、モデル601~60Nを特に区別しない場合には単にモデル60という。
【0039】
モデル60は、機械学習の技術によって生成されるモデルである。例えば、モデル60は、DCN(Deep Contextual Network)等の深層学習の手法によって生成されるが、他の機械学習の手法を採用しても良い。また、モデル60は、記憶回路120に記憶されている。この場合、学習機能152及び後述の推定機能153は、記憶回路120からモデル60を読み出して、学習処理または推定処理を実行する。また、モデル60は、学習機能152または後述の推定機能153に組み込まれていてもよい。
【0040】
本実施形態においては、一組の医用画像セット及び教師データセットを用いた学習をするごとに、モデル60の番号が更新される。例えば、学習機能152が、第1の医用画像セット21a及び第1の教師データセット31aを用いて、第1のモデル601に第1のエポック数分、第1の学習を実行させる。当該第1の学習後のモデル60を、第2のモデル602という。そして、学習機能152は、第2の医用画像セット21b及び第2の教師データセット31bを用いて、第2のモデル602に、第2のエポック数分、第2の学習を実行させる。学習後の第2のモデル602は、第3のモデルとなる。換言すれば、学習機能152は、第2のモデル602に、第2の学習を実行させることにより、第3のモデルを生成する。
【0041】
図4に示す第1のモデル601は、本実施形態における第1のモデルの一例であり、第2のモデル602は、本実施形態における第2のモデルの一例である。なお、図1では、第1のモデル601は、全てのモデル601~60Nのうちの先頭のモデル60であるが、単に第1のモデルという場合にはこれに限定されない。単に第1のモデル及び第2のモデルという場合には、互いに隣り合う2つのモデルを意味する。
【0042】
なお、第1の学習、及び第2の学習において、各一組の医用画像セット及び教師データセットごとに繰り返される学習処理のエポック数は、後述の決定機能154によって動的に決定される。学習機能152は、第1の学習では、第1の医用画像セット21a及び第1の教師データセット31aを用いて、第1のモデル601に、決定機能154によって決定されたエポック数分の学習を実行させる。
【0043】
また、学習機能152は、第2の学習では、第2の医用画像セット21b及び第2の教師データセット31bを用いて、第2のモデル602に、決定機能154によって決定された第2のエポック数分の学習を実行させる。
【0044】
ここで、医用画像セット及び教師データセットについてより詳細に説明する。図4に示すように、顕微鏡画像201~203には、研究者が作成した領域抽出画像301~303が対応付けられる。教師データとして使用される領域抽出画像30を、ラベルという。また、手作業で作成されたラベルを正解ラベル(true label)、モデル60によって推定されたラベルを擬似ラベル(pseudo label)という。擬似ラベルは、本実施形態における擬似教師データの一例である。
【0045】
また、顕微鏡画像群2に含まれる顕微鏡画像20の3枚ごとのセットは、本実施形態における第1の医用画像セット21aの一例である。図4に示す例では、顕微鏡画像201~203が第1の医用画像セット21aである。また、顕微鏡画像202~204は、第2の医用画像セット21bである。第2の医用画像セット21bは、第1の医用画像セット21aの一部である顕微鏡画像202,203、及び第1の医用画像セット21aに含まれない顕微鏡画像204を含む。顕微鏡画像204は、顕微鏡画像群2に含まれる連続する顕微鏡画像201~20Nのうち、顕微鏡画像203の次に位置する。
【0046】
また、顕微鏡画像203~205は、第3の医用画像セット21cである。図4では、第4の医用画像セット以降は図示を省略するが、顕微鏡画像群2に含まれる顕微鏡画像201~20Nは、M枚毎のセットで、モデル60による学習に用いられる。以下、個々の医用画像セット21a~21cを区別しない場合、単に医用画像セット21という。また、図4において、各医用画像セット21にセットに対応する教師データセット31a~31cを図示するが、これらを個々に区別しない場合、単に教師データセット31という。
【0047】
学習機能152は、1つの医用画像セット21を用いた学習が終了すると、医用画像セット21に含まれる顕微鏡画像20を、1枚ずつ入れ替えることにより、次の医用画像セット21を生成する。具体的には、連続する顕微鏡画像201~203のうち、先頭に最も近い1枚が除外され、第1の医用画像セット21aに含まれない顕微鏡画像204が、追加される。追加される顕微鏡画像204は、第1の医用画像セット21aの最後の顕微鏡画像203の次の顕微鏡画像204である。このような入れ替えにより、上述のように、顕微鏡画像202~204が、第2の医用画像セット21bとして選択される。
【0048】
また、図4に示す第1の教師データセット31aは、第1の医用画像セット21aに対応する。第1の教師データセット31aは、正解ラベルである領域抽出画像301~303を含む。第2の教師データセット31bは、第2の医用画像セット21bに対応する。また、第2の教師データセット31bは、第1の教師データセット31aの一部である領域抽出画像302,303、及び擬似ラベルである領域抽出画像304を含む。領域抽出画像302,303は、上述のように、顕微鏡画像202,203に対応する教師データである。また、顕微鏡画像202,203は、第1の医用画像セット21aに含まれる顕微鏡画像201~203のうち、第2の医用画像セット21bに含まれる2枚である。
【0049】
第1の学習では、第1の教師データセット31aは正解ラベルのみによって構成されるが、第2の学習以降では、教師データセット31には、モデル60によって生成される擬似ラベルが含まれる。このように、本実施形態の学習機能152は、モデル60による推定結果である擬似ラベルを用いて、モデル60に再学習を実行させる。このような学習手法を、半教師あり学習という。
【0050】
次に、モデル60による推定処理について説明する。図1に戻り、推定機能153は、1回以上の学習を実行済みのモデル60に、顕微鏡画像群2のうち、教師データが対応付けられていない顕微鏡画像20を入力し、該顕微鏡画像20に対応する擬似教師データを出力させる。例えば、推定機能153は、第1のモデルの学習の結果生成された第2のモデルに、顕微鏡画像群2のうち、教師データが対応付けられていない顕微鏡画像20を入力し、該顕微鏡画像20に対応する擬似教師データを出力させる。
【0051】
より詳細には、推定機能153は、第1の学習によって生成された第2のモデル602に顕微鏡画像204を入力することにより、第2のモデル602から領域抽出画像304を出力させる。顕微鏡画像204は、上述のように、第1の医用画像セット21aに含まれる最後の顕微鏡画像203の次の画像である。第2のモデル602から出力された領域抽出画像304は、学習機能152によって、次回の学習における教師データとして使用される。また、顕微鏡画像群2に含まれる全ての顕微鏡画像201~20Nに対応する領域抽出画像301~30Nの生成が完了した場合、図2で説明したように、該領域抽出画像301~30Nはグルーピング画像401~40Nの生成に使用される。
【0052】
ここで、学習機能152及び推定機能153によるモデル60を用いた画像処理のアルゴリズムについて、図4に加えて図5を用いて説明する。
【0053】
図5は、本実施形態に係るモデル60を用いた画像処理のアルゴリズムの一例である。
【0054】
図5に示すアルゴリズムでは、N枚のスライスにより構成される連続画像である顕微鏡画像群2を、“serial images X”とする。また、ラベル付けされたM枚の顕微鏡画像20を、“labeled samples M”とする。また、顕微鏡画像群2に含まれる顕微鏡画像201~20Nを、“X,…,X”とする。また、顕微鏡画像201~20Nに対応する領域抽出画像301~30Nを、“T,・・・,T”とする。
【0055】
また、“i”は、モデル60を区別する番号である。一組の医用画像セット及び教師データセットを用いた学習をするごとに、学習機能152によって、“i”に“1”が加算される。第1の学習の開始時には、学習機能152は、“i=1”と設定する。パラメータ“i”の値は、例えば記憶回路120に記憶され、学習機能152によって、更新される。換言すれば、一組の医用画像セット及び教師データセットを用いた学習をするごとにモデル60のバージョンが更新され、“i”は、モデル60のバージョンを示す番号である。なお、一組の医用画像セット及び教師データセットごとに、エポック数の学習が実行される。本実施形態のエポック数は、モデル60のバージョンごとに異なる。
【0056】
具体的には、学習機能152及び推定機能153は、下記の(1)~(4)の処理を順に実行する。
【0057】
(1)第1の学習においては、学習機能152は、i番目のスライスから(i+M-1)番目のラベル付き画像を用いてモデル(i)の学習をエポック数分行う。モデル(i)とは、第iのモデル60であり、第1の学習においては、第1のモデル601である。また、図4に示す例では、“i番目のスライスから(i+M-1)番目のラベル付き画像”は、顕微鏡画像201~203である。また、エポック数は、後述の決定機能154によって決定される。一例として、第1の学習においては、エポック数は、200エポックと決定されるものとする。この場合、学習機能152は顕微鏡画像201~203及び領域抽出画像301~30Nを用いて、第1のモデル601の学習を200エポック行う。
【0058】
(2)推定機能153は、(1)で学習したモデル(i)を用いて,i+M枚目の画像に対する推定を行う。図4に示す例では、“i+M枚目の画像”は、先頭から4番目の顕微鏡画像204である。推定機能153は、学習済みの第1のモデル601に顕微鏡画像204を入力する。
【0059】
(3)推定機能153は、(2)の推定結果をi+M枚目のラベルとする。すなわち、推定機能153は、第1のモデル601から出力された領域抽出画像304を、4枚目の顕微鏡画像204に対応する擬似ラベルとする。
【0060】
(4)学習機能152は、モデル60の番号に1加算し、“i=i+1”とする。すなわち、学習後の第1のモデル601は、第2のモデル602となる。また、次の学習は、第2の学習である。このように、学習機能152は、第1のモデル601を学習させることにより、第2のモデル602を生成する。
【0061】
学習機能152及び推定機能153は、上記の(1)~(4)の処理を、モデル(N-M)の学習とN枚目の推定が行われるまで繰り返す。また(1)で使用されるエポック数は、“i”の値によって変化する。ただし、モデル(1)からモデル(N-M)までは同様の機械学習モデルであり、学習されたパラメータの初期化は行わない。すなわち、第2の学習では、第1の学習を前提に第2のモデル602が使用される。また、第3の学習では、第1の学習及び第2の学習を前提に第3のモデル603が使用される。モデル(1)は、第1のモデル601であり、モデル(N-M)は、最後のモデル60である。例えば、N=300、M=3である場合、モデル(N-M)は、第297のモデルである。
【0062】
モデル60のバージョンが上がるにつれて、教師データセット31に含まれる教師データの数は減少し、代わりに擬似教師データの数が増加する。そして、モデル(M+1)以降は、教師データセット31には教師データは含まれず、擬似教師データのみが含まれる。
【0063】
図1に戻り、決定機能154は、あるモデル60で使用されるエポック数を、規定の初期値及び当該モデル60の1つ前のモデル60のエポック数に基づいて動的に決定する。より詳細には、決定機能154は、(1)式により、各モデル60のエポック数を決定する。
【0064】
【数1】
【0065】
(1)式の“i”は、図5で説明したように、モデル60を区別する番号である。また、“init”は規定の初期値(以下、単に初期値という)である。初期値の値は特に限定されるものではないが、例えば200エポックとする。“i=1”の場合、つまり第1の学習においては、決定機能154は、初期値を、第1のエポック数として決定する。
【0066】
また、(1)式によれば、“i≠1”の場合、決定機能154は、初期値の100分の1と、“i-1”回目の学習におけるエポック数の2分の1と、のいずれか大きい方を、エポック数として決定する。“i-1”回目の学習とは、前回の学習である。例えば、第2の学習においては、“i=2”となるため、決定機能154は、初期値の100分の1である“2”と、第1の学習における第1のエポック数の2分の1である“100”とを比較する。この場合は、決定機能154は、“100”を、第2の学習における第2のエポック数として決定する。(1)式を使用する場合は、決定機能154は、エポック数が“2”以上である限りは、“i”の値が増える度に、エポック数を半減させる。
【0067】
なお、(1)式における“初期値の100分の1”は、エポック数の最小値の一例である。エポック数の最小値は、モデル60の学習が規定の精度を満たすエポック数とする。該最小値は、例えば、事前の検証によって求められた値でも良い。また、“前回の学習におけるエポック数の2分の1”は、エポック数の減少率の一例である。
【0068】
つまり、決定機能154は、エポック数が規定の最小値以上である限り、第2のモデル602で使用される第2のエポック数を、1つ前の第1のモデル601で使用される第1のエポック数よりも規定の減少率分減少させる。
【0069】
なお、初期値、最小値、及び減少率は、予め定められるものであっても良いし、ユーザによって指定されるものでも良い。
【0070】
決定機能154は、決定したエポック数を出力機能155に送出する。
【0071】
図1に戻り、出力機能155は、決定機能154によって決定されたエポック数を出力する。例えば、決定機能154によって第2のエポック数が決定された場合には、出力機能155は、当該第2のエポック数を出力する。本実施形態において、「出力」は、モデル60へのエポック数の設定を含む。設定の具体例としては、例えば、今回の学習のエポック数が、出力機能155によって、学習処理のパラメータとして、記憶回路120に保存されても良い。また、学習処理が、医用画像処理装置100とは異なる情報処理装置で実行される場合には、「出力」は、該情報処理装置へのエポック数の送信を含む。
【0072】
受付機能156は、ユーザによる各種の操作を受け付ける。受付機能156は、例えば、ユーザによる画像処理の開始の操作を受け付けるものとする。また、受付機能156は、正解モデルとして取得された領域抽出画像301~303、及び推定機能153によってモデル60から出力された領域抽出画像304~30Nに対するユーザのグルーピングの操作を受け付ける。領域抽出画像301~30Nがユーザによってグルーピングされた結果は、グルーピング画像401~40Nである。
【0073】
再構成機能157は、グルーピング画像401~40Nを再構成することにより、3次元画像50を生成する。再構成機能157は、生成した3次元画像50を、例えば、記憶回路120に保存する。あるいは、再構成機能157は、生成した3次元画像50を、他の情報処理装置に送信しても良いし、ディスプレイ140に表示させても良い。
【0074】
次に、以上のように構成された医用画像処理装置100で実行される半自動の領域抽出処理の流れについて説明する。
【0075】
図6は、本実施形態に係る半自動の領域抽出処理の流れの一例を示すフローチャートである。このフローチャートの処理は、例えば、受付機能156が、ユーザによる画像処理の開始の操作を受け付けた場合に開始する。
【0076】
まず、取得機能151は、処理対象の顕微鏡画像群2を取得する(S1)。また、取得機能151は、第1の教師データセット31aである領域抽出画像301~303を取得する(S2)。
【0077】
次に、学習機能152は、“i”に“1”を設定する(S3)。
【0078】
次に、決定機能154は、“i=1”であるか、つまり今回の学習が1回目であるか否かを判定する(S4)。第1の学習においては、S3でパラメータ“i”に“1”が設定されているため、“i=1”となる(S4“Yes”)。
【0079】
そして、決定機能154は、(1)式を用いてエポック数を決定する。“i=1”の場合は、決定機能154は、規定の初期値を、エポック数として決定する(S5)。このフローチャートでは、初期値は“200”とする。出力機能155は、決定機能154によって決定されたエポック数“200”を、第1のモデル601のエポック数として設定する。
【0080】
そして、学習機能152は、顕微鏡画像群2における最初のM枚の顕微鏡画像20、及び第1の教師データセット31aを第1のモデル601に入力する(S6)。このフローチャートでは、最初のM枚の顕微鏡画像20は、顕微鏡画像201~203とする。
【0081】
そして、学習機能152は、顕微鏡画像201~203及び領域抽出画像301~303を用いた第1のモデル601の学習処理を、200エポック分実行する(S7)。
【0082】
次に、推定機能153は、学習後の第1のモデル601、つまり第2のモデル602に、次の顕微鏡画像20に対応する擬似ラベルを出力させる(S8)。具体的には、推定機能153は、第1のモデル601に顕微鏡画像204を入力し、第1のモデル601から出力された領域抽出画像304を、顕微鏡画像204に対応する擬似ラベルとする。
【0083】
次に、推定機能153は、顕微鏡画像群2に含まれる全ての顕微鏡画像20に対するラベル付けが終了したか否かを判定する(S9)。推定機能153は、N枚目の顕微鏡画像20Nに対応する領域抽出画像30Nが生成されるまでは、ラベル付けが終了していないと判定する(S9“No”)。この場合、推定機能153は、例えば、生成した擬似ラベルを学習機能152に送出する。
【0084】
次に、学習機能152は、“i”に“1”を加算する(S10)。そして、S4の処理に戻る。
【0085】
決定機能154は、再び、“i=1”であるか否かを判定する(S4)。2回目の学習の場合は“i=2”であるため、決定機能154は、“i≠1”と判定する(S4“No”)。
【0086】
そして、決定機能154は、(1)式を用いてエポック数を決定する(S11)。例えば、第2の学習においては、決定機能154は、第1の学習におけるエポック数の2分の1である“100”を、第2の学習におけるエポック数として決定する。また、出力機能155は、決定機能154によって決定されたエポック数“100”を、第2のモデル602のエポック数として設定する。
【0087】
そして、学習機能152は、今回の学習の対象のM枚の顕微鏡画像20、及び第2の教師データセット31bを第2のモデル602に入力する(S12)。このフローチャートでは、第2の学習における対象のM枚の顕微鏡画像20は、顕微鏡画像202~204とする。そして、S7の処理に進み、第2の学習が実行される。
【0088】
S7及びS8の処理の後、推定機能153は、再び、顕微鏡画像群2に含まれる全ての顕微鏡画像20に対するラベル付けが終了したか否かを判定する(S9)。N枚目の顕微鏡画像20Nに対応する領域抽出画像30Nが生成された場合、ラベル付けが終了したと判定する(S9“Yes”)。この場合、このフローチャートの処理は終了する。
【0089】
また、このフローチャートの処理の終了後、受付機能156によるユーザのグルーピング操作の受け付け、及び再構成機能157による3次元再構成処理が実行される。
【0090】
このように、本実施形態の医用画像処理装置100によれば、モデル60で使用されるエポック数を、初期値及び1つ前のモデル60のエポック数に基づいて動的に決定することにより、固定値のエポック数を適用する場合と比較して、機械学習の学習時間及び学習処理の負荷を低減させることができる。例えば、モデル60のバージョンに関わらず初期値と同じ200エポックを実行する場合と比較して、動的にエポック数を変更する場合は、必要以上のエポック数の学習が実行されないため、学習時間の低減、及び処理負荷の低減を図ることができる。
【0091】
また、本実施形態においては、連続する複数の医用画像を学習の対象とするため、モデル60のバージョンに応じてエポック数を低減させた場合であっても、前回までの学習の蓄積によって学習の精度の低下を低減することができる。
【0092】
また、本実施形態の医用画像処理装置100は、第2のエポック数が規定の最小値以上である限り、第2のエポック数を、1つ前のモデル60で使用された第1のエポック数よりも規定の減少率分減少させる。換言すれば、本実施形態の医用画像処理装置100は、エポック数が規定の最小値以上である限り、モデル60のバージョンが増える度に、エポック数を規定の減少率に基づいて減少させる。このため、本実施形態の医用画像処理装置100によれば、モデル60の精度をある程度維持した上で、学習時間の低減、及び処理負荷の低減を図ることができる。
【0093】
また、本実施形態の医用画像処理装置100は、顕微鏡画像群2のうち先頭のM枚の顕微鏡画像20である第1の医用画像セット21a、及び第1の医用画像セット21aに対応する第1の教師データセット31aを用いて、第1のモデル601に第1の学習を第1のエポック数分実行させることにより、第2のモデル602を生成させる。そして、本実施形態の医用画像処理装置100は、次の学習においては、第2のモデル602によって推定された擬似教師データを用いて、第2のモデル602に再学習させる。このため、本実施形態の医用画像処理装置100によれば、連続する顕微鏡画像201~20Nのうち、最初のM枚の顕微鏡画像20に対応する教師データがあれば、残りの顕微鏡画像20に対応する擬似教師データを自動で生成して再学習を行うことができる。このため、全ての顕微鏡画像201~20Nに対応する教師データをユーザが用意しなくとも良く、教師データの作成のためのユーザの作業負荷及び作業時間が低減される。
【0094】
また、このような手法を採用することにより、学習専用のデータセットをユーザが用意しなくとも、画像処理の対象である顕微鏡画像群2自体を学習用に使用することができる。一般に電子顕微鏡により綺麗な連続画像を得ることは、習熟した専門家にとっても難易度が高いため、撮影される画像の質が安定しない場合がある。このため、同種のデータセットを複数得ることが困難である。このような事情により、複数の連続する顕微鏡画像を含む1つの学習専用のデータセットに対してモデルを作成し、作成されたモデルを、画像処理の対象である他のデータに対して運用する、という方式を適用することが難しい場合がある。これに対して、本実施形態の医用画像処理装置100では、画像処理の対象である顕微鏡画像群2とは別に、学習専用の顕微鏡画像群及び該学習専用の顕微鏡画像群に対応する教師画像データ群を用意しなくとも良い。このため、本実施形態の医用画像処理装置100によれば、ユーザによる学習データ及び教師データの入手または作成のための作業負荷を低減することができる。
【0095】
また、本実施形態の医用画像処理装置100は、第1の学習後の第1のモデル601、すなわち第2のモデル602に、顕微鏡画像群2のうち第1の医用画像セット21aの最後の顕微鏡画像203の次の顕微鏡画像204に対応する擬似教師データを出力させる。また、本実施形態の医用画像処理装置100は、第2の医用画像セット21b及び第2の教師データセット31bを用いて、第2のモデル602に第2の学習をエポック数分実行させる。本実施形態では、顕微鏡画像群2のうち学習対象の顕微鏡画像20が1枚ずつ移動し、かつ、学習に用いられる医用画像セット21及び教師データセット31には、前回の学習で使用された顕微鏡画像20及び教師データの一部が含まれるため、擬似教師データを使用した場合でも、学習の精度の低下を低減することができる。
【0096】
また、本実施形態における顕微鏡画像群2に含まれる連続する顕微鏡画像201~20Nは、物理的に連続する画像である。このため、顕微鏡画像201~20Nのうち、隣り合う顕微鏡画像20同士は互いに類似するので、前回までの学習結果から、次の顕微鏡画像20に対応する擬似教師データを、精度良く生成することができる。
【0097】
(第2の実施形態)
この第2の実施形態では、医用画像処理装置100は、モデル60によって生成される擬似教師データの確信度(Confidence Level)を評価する。
【0098】
図7は、本実施形態に係る医用画像処理装置100の構成の一例を示す図である。図7に示すように、医用画像処理装置100は、図1で説明した第1の実施形態と同様に、NWインタフェース110と、記憶回路120と、入力インタフェース130と、ディスプレイ140と、処理回路150とを備える。
【0099】
本実施形態の処理回路150は、取得機能151、学習機能152、推定機能153、決定機能154、出力機能155、受付機能156、再構成機能157、算出機能158、及び表示制御機能159を備える。算出機能158は、算出部の一例である。表示制御機能159は、表示制御部の一例である。取得機能151、学習機能152、推定機能153、決定機能154、出力機能155、受付機能156、及び再構成機能157は、第1の実施形態と同様の機能を備える。
【0100】
算出機能158は、モデル60の出力する擬似ラベルの確信度を算出する。確信度の算出の手法は、公知の技術を採用可能である。算出機能158は、算出した確信度を、表示制御機能159に送出する。
【0101】
表示制御機能159は、確信度が閾値以下になった場合に、ディスプレイ140に警告を表示させる。
【0102】
本実施形態の医用画像処理装置100によれば、このような機能を備えることにより、再学習を繰り返すことによる確信度の低下について、ユーザに把握させることができる。
【0103】
また、学習機能152及び推定機能153は、確信度が閾値以下になった場合、領域抽出処理を停止しても良い。
【0104】
例えば、ユーザは、警告が出た場合に、次の学習に使用される教師データ正解ラベルである領域抽出画像30を手動で生成しても良い。この場合、取得機能151は、ユーザによって新たに生成された教師データを取得する。また、学習機能152は、取得された新たな教師データを用いて、モデル60の学習を実行することにより、学習の精度を再び高めることができる。なお、ユーザは、教師データを完全に手作業で生成しても良いし、確信度が閾値以下になった擬似教師データを修正することによって教師データを作成しても良い。
【0105】
なお、本実施形態においては確信度を例として説明したが、その他の指標を採用しても良い。
【0106】
(変形例1)
上述の各実施形態においては、顕微鏡画像20を医用画像の一例としたが、医用画像はこれに限定されるものではない。例えば、医用画像は、磁気共鳴イメージング(Magnetic Resonance Imaging:MRI)装置によって撮像された磁気共鳴画像、またはX線コンピュータ断層撮像(Computed Tomography:CT)装置によって撮像されたCT画像であっても良い。あるいは、医用画像は、その他のモダリティによって撮像された画像でも良い。
【0107】
また、医用画像が例えば磁気共鳴画像またはCT画像の場合、被検体のある組織(例えば腫瘍)の3次元の体積の計測等に、上述の各実施形の医用画像処理装置100の構成が適用可能である。例えば、対象の組織が描出された連続するN枚の断面画像のうち、M枚について該組織部分を示す教師データをユーザが生成すれば、残りの断面画像については、モデル60によって対象の組織が描出された部分を特定可能である。対象の組織が描出された部分が特定された連続するN枚の断面画像が3次元再構成した3次元画像から、該組織の体積は特定可能である。このため、本変形例の医用画像処理装置100によれば、N枚の断面画像の全てについてユーザが対象の組織が描出された部分を特定する作業をしなくとも良く、ユーザの作業負荷を低減することができる。
【0108】
(変形例2)
上述の各実施形態においては、各画像の撮像対象である切片が、物理的に連続する複数の顕微鏡画像201~20Nを例として説明したが、医用画像の連続性は、物理的な連続に限定されるものではない。例えば、撮像視野が固定された状態で撮像された、時間的に連続する複数の医用画像を、「連続する複数の医用画像」の一例としても良い。
【0109】
(変形例3)
上述の各実施形態においては、モデル60は、顕微鏡画像20の領域抽出までを行ったが、グルーピングまで行うものとしても良い。この場合、例えば、取得機能151は、グルーピング画像401~403を、教師データとして取得する。また、グルーピング画像404~40Nが、モデル60による半自動的な画像処理によって生成される。
【0110】
また、モデル60によって行われる画像処理は、これらに限定されるものではない。例えば、医用画像が磁気共鳴画像またはCT画像である場合、病巣領域のセグメンテーション等が画像処理としてモデル60によって行われても良い。
【0111】
(変形例4)
上述の第2の実施形態では、確信度が閾値以下になった場合にユーザが新たな教師データの作成をする例について説明したが、確信度の値に関わらず、ユーザが所望のタイミングで新たな教師データの作成をしても良い。なお、第2の実施形態で述べたように、新たな教師データの作成は、擬似教師データの修正を含む。
【0112】
(変形例5)
上述の各実施形態においては、医用画像処理装置100は、顕微鏡画像群2の先頭から順に領域抽出処理を実行したが、実行順はこれに限定されるものではない。例えば、医用画像処理装置100は、顕微鏡画像群2を複数に分割し、分割された複数の顕微鏡画像群の各々に対して領域抽出処理を実行しても良い。
【0113】
(変形例6)
上述の各実施形態においては、顕微鏡画像20の画像全体を画像処理の対象としたが、一部の画像領域のみを対象としても良い。例えば、医用画像が磁気共鳴画像またはCT画像である場合、画像処理の対象は関心領域(Region Of Interest:ROI)のみでも良い。
【0114】
(変形例7)
医用画像処理装置100は、上述の各実施形態で説明した機能の全てを備えなくとも良い。例えば、学習機能152及び推定機能153は、医用画像処理装置100とは異なる他の情報処理装置によって実行されても良い。すなわち、モデル60が医用画像処理装置100に設けられない構成を採用しても良い。当該構成を採用する場合、医用画像処理装置100は、決定機能154によってエポック数を決定し、決定されたエポック数を出力機能155によって該他の情報処理装置に送信する。
【0115】
また、グルーピング及び3次元再構成等の処理についても、医用画像処理装置100とは異なる他の情報処理装置によって実行されても良い。
【0116】
また、上述の各実施形態で説明した医用画像処理装置100の機能の一部または全てが、クラウド環境で実行されても良い。
【0117】
なお、本明細書において扱う各種データは、典型的にはデジタルデータである。
【0118】
以上説明した少なくとも1つの実施形態によれば、医用画像の画像処理における機械学習の学習時間及び学習処理の負荷を低減させることができる。
【0119】
いくつかの実施形態を説明したが、これらの実施形態は、例として提示したものであり、発明の範囲を限定することは意図していない。これら実施形態は、その他の様々な形態で実施されることが可能であり、発明の要旨を逸脱しない範囲で、種々の省略、置き換え、変更、実施形態同士の組み合わせを行うことができる。これら実施形態やその変形は、発明の範囲や要旨に含まれると同様に、特許請求の範囲に記載された発明とその均等の範囲に含まれるものである。
【符号の説明】
【0120】
2 顕微鏡画像群
20,201~20N 顕微鏡画像
21,21a~21c 医用画像セット
30,301~30N 領域抽出画像
31,31a~31c 教師データセット
40,401~40N グルーピング画像
50 3次元画像
60,601~60N モデル
100 医用画像処理装置
110 NWインタフェース
120 記憶回路
130 入力インタフェース
140 ディスプレイ
150 処理回路
151 取得機能
152 学習機能
153 推定機能
154 決定機能
155 出力機能
156 受付機能
157 再構成機能
158 算出機能
159 表示制御機能
図1
図2
図3
図4
図5
図6
図7