(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】
(24)【登録日】2024-07-30
(45)【発行日】2024-08-07
(54)【発明の名称】医療画像処理方法及び医療画像処理装置
(51)【国際特許分類】
G06N 3/082 20230101AFI20240731BHJP
G06N 3/0464 20230101ALI20240731BHJP
G06T 7/00 20170101ALI20240731BHJP
【FI】
G06N3/082
G06N3/0464
G06T7/00 350C
(21)【出願番号】P 2022551194
(86)(22)【出願日】2021-08-18
(86)【国際出願番号】 JP2021030212
(87)【国際公開番号】W WO2022064901
(87)【国際公開日】2022-03-31
【審査請求日】2023-05-26
(31)【優先権主張番号】P 2020162403
(32)【優先日】2020-09-28
(33)【優先権主張国・地域又は機関】JP
(73)【特許権者】
【識別番号】306037311
【氏名又は名称】富士フイルム株式会社
(74)【代理人】
【識別番号】100083116
【氏名又は名称】松浦 憲三
(74)【代理人】
【識別番号】100170069
【氏名又は名称】大原 一樹
(74)【代理人】
【識別番号】100128635
【氏名又は名称】松村 潔
(74)【代理人】
【識別番号】100140992
【氏名又は名称】松浦 憲政
(74)【代理人】
【識別番号】100153822
【氏名又は名称】増田 重之
(72)【発明者】
【氏名】加門 駿平
【審査官】千葉 久博
(56)【参考文献】
【文献】国際公開第2020/082263(WO,A1)
【文献】DUAN, Jie et al.,The Speed Improvement by Merging Batch Normalization into Previously Linear Layer in CNN,Proceedings of 2018 International Conference on Audio, Language and Image Processing (ICALIP),IEEE,2018年07月,pp.67-72
【文献】LI, Dawei et al.,DeepRebirth: Accelerating Deep Neural Network Execution on Mobile Devices,Proceedings of the AAAI Conference on Artificial Intelligence,Vol.32, No.1,AAAI,2018年04月26日,pp.2322-2330
(58)【調査した分野】(Int.Cl.,DB名)
G06N 3/082
G06N 3/0464
G06T 7/00
(57)【特許請求の範囲】
【請求項1】
プロセッサを備える
医療画像処理装置により実行される
医療画像処理方法であって、
前記プロセッサは、
少なくとも1つの正則化層を含む学習済みの畳み込みニューラルネットワークに対し、前記正則化層の学習済みパラメータと、前記正則化層に隣接する第1畳み込み層の学習済みパラメータと、に基づいて第2畳み込み層を生成する畳み込み層生成工程と、
前記正則化層及び前記第1畳み込み層を前記第2畳み込み層に入れ替えて、変換された学習済みモデルである変換モデルを生成する変換モデル生成工程と、
を
、前記ニューラルネットワークを構成する前記第1畳み込み層と前記正則化層とのセットのうち一部のセットについて実行して前記変換モデルを生成し、
前記プロセッサは、
入力データ
としての医療画像データを取得するデータ取得工程と、
前記変換モデルに前記
医療画像データを入力して推論結果を得る推論工程と、
を実行し、
前記プロセッサは、
前記推論工程の少なくとも一部を並列計算処理装置で実行する、
医療画像処理方法。
【請求項2】
前記プロセッサは、
前記畳み込み層生成工程では、前記第1畳み込み層及び前記正則化層から構成される第1処理部と前記第2畳み込み層のみから構成される第2処理部のそれぞれにおいて、同一の特徴量を入力した場合の推論処理結果が等しくなるように前記第2畳み込み層を生成する請求項1に記載の
医療画像処理方法。
【請求項3】
前記正則化層はバッチ正則化層である請求項1または2に記載の
医療画像処理方法。
【請求項4】
前記プロセッサは、
前記データ取得工程では前記入力データとして時系列データを取得する請求項1から3のいずれか1項に記載の
医療画像処理方法。
【請求項5】
前記プロセッサは、
前記データ取得工程では前記入力データとして被検体の動画像を取得する請求項1から4のいずれか1項に記載の
医療画像処理方法。
【請求項6】
プロセッサを備える
医療画像処理装置であって、
前記プロセッサは、
少なくとも1つの正則化層を含む学習済みの畳み込みニューラルネットワークに対し、前記正則化層の学習済みパラメータと、前記正則化層に隣接する第1畳み込み層の学習済みパラメータと、に基づいて第2畳み込み層を生成する畳み込み層生成処理と、
前記正則化層及び前記第1畳み込み層を前記第2畳み込み層に入れ替えて、変換された学習済みモデルである変換モデルを生成する変換モデル生成処理と、
を
、前記ニューラルネットワークを構成する前記第1畳み込み層と前記正則化層とのセットのうち一部のセットについて実行して実行して前記変換モデルを生成し、
前記プロセッサは、
入力データ
としての医療画像データを取得するデータ取得処理と、
前記変換モデルに前記
医療画像データを入力して推論結果を得る推論処理と、
を実行し、
前記プロセッサは、
前記推論処理の少なくとも一部を並列計算処理装置により実行する、
医療画像処理装置。
【請求項7】
前記プロセッサは、
前記畳み込み層生成処理では、前記第1畳み込み層及び前記正則化層から構成される第1処理部と前記第2畳み込み層のみから構成される第2処理部のそれぞれにおいて、同一の特徴量を入力した場合の推論処理結果が等しくなるように前記第2畳み込み層を生成する請求項6に記載の
医療画像処理装置。
【請求項8】
前記正則化層はバッチ正則化層である請求項6または7に記載の
医療画像処理装置。
【請求項9】
前記プロセッサは、
前記データ取得処理では前記入力データとして時系列データを取得する請求項6から8のいずれか1項に記載の
医療画像処理装置。
【請求項10】
前記プロセッサは、
前記データ取得処理では前記入力データとして被検体の動画像を取得する請求項6から9のいずれか1項に記載の
医療画像処理装置。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は推論方法及び推論装置に関する。
【背景技術】
【0002】
特許文献1には、畳み込み演算のバイアスを除いた等価なニューラルネットワークを用いることが記載されている。また、特許文献2には、バッチ正規化層の前が畳み込み層の場合、特徴インデックスに対する1組のパラメータによる変換を行うことが記載されている。
【先行技術文献】
【特許文献】
【0003】
【文献】特開2019-57072号公報
【文献】特開2019-71080号公報
【発明の概要】
【0004】
本発明の一つの実施形態は、正則化層による処理コストを低減することができる推論方法及び推論装置を提供する。
【課題を解決するための手段】
【0005】
本発明の第1の態様に係る学習済みモデル変換方法は、少なくとも1つの正則化層を含む学習済みの畳み込みニューラルネットワークに対し、正則化層の学習済みパラメータと、正則化層に隣接する第1畳み込み層の学習済みパラメータと、に基づいて第2畳み込み層を生成する畳み込み層生成工程と、正則化層及び第1畳み込み層を第2畳み込み層に入れ替えて、変換された学習済みモデルである変換モデルを生成する変換モデル生成工程と、を有する。
【0006】
第2の態様に係る学習済みモデル変換方法は第1の態様において、畳み込み層生成工程では、第1畳み込み層及び正則化層から構成される第1処理部と第2畳み込み層のみから構成される第2処理部のそれぞれにおいて、同一の特徴量を入力した場合の推論処理結果が等しくなるように第2畳み込み層を生成する。
【0007】
第3の態様に係る学習済みモデル変換方法は第1または第2の態様において、正則化層はバッチ正則化層である。
【0008】
本発明の第4の態様に係る推論方法は、入力データを取得するデータ取得工程と、第1から第3の態様のいずれか1つに係る学習済みモデル変換方法により得られた変換モデルに入力データを入力して推論結果を得る推論工程と、を有する。
【0009】
第5の態様に係る推論方法は第4の態様において、推論工程の少なくとも一部を並列計算処理装置で実行する。
【0010】
第6の態様に係る推論方法は第4または第5の態様において、データ取得工程では入力データとして時系列データを取得する。
【0011】
第7の態様に係る推論方法は第6の態様において、データ取得工程では入力データとして被検体の動画像を取得する。
【0012】
本発明の第8の態様に係る学習済みモデル変換装置はプロセッサを備え、プロセッサは、少なくとも1つの正則化層を含む学習済みの畳み込みニューラルネットワークに対し、正則化層の学習済みパラメータと、正則化層に隣接する第1畳み込み層の学習済みパラメータと、に基づいて第2畳み込み層を生成する畳み込み層生成処理と、正則化層及び第1畳み込み層を第2畳み込み層に入れ替えて変換された学習済みモデルである変換モデルを生成する変換モデル生成処理と、を実行する。
【0013】
本発明の第9の態様に係る学習済みモデルは、コンピュータが入力データに対する推論結果を出力させるために用いる学習済みモデルであって、学習済みモデル変換装置のプロセッサが、少なくとも1つの正則化層を含む学習済みの畳み込みニューラルネットワークに対し、正則化層の学習済みパラメータと、正則化層に隣接する第1畳み込み層の学習済みパラメータと、に基づいて第2畳み込み層を生成する畳み込み層生成処理と、正則化層及び第1畳み込み層を第2畳み込み層に入れ替えて、変換された学習済みモデルである変換モデルを生成する変換モデル生成処理と、を実行することにより得られる、学習済みモデルである。
【0014】
本発明の第10の態様に係る推論装置は、プロセッサと、第9の態様に係る学習済みモデルと、を備え、プロセッサは、入力データを取得するデータ取得処理と、学習済みモデルに入力データを入力して推論結果を得る推論処理と、を実行する推論装置である。
【0015】
第11の態様に係る推論装置は第10の態様において、プロセッサは推論処理の少なくとも一部を実行する並列計算処理装置を備える。
【図面の簡単な説明】
【0016】
【
図1】
図1は、学習済みモデル変換装置の構成を示す図である。
【
図2】
図2は、畳み込みニューラルネットワークの学習及び学習済みモデルの変換の様子を示す図である。
【
図3】
図3は、畳み込みニューラルネットワークの構成例を示す図である。
【
図4】
図4は、フィルタによる畳み込み処理の様子を示す図である。
【
図5】
図5は、畳み込み層の生成の様子を示す図である。
【
図6】
図6は、畳み込み層の生成の様子を示す他の図である。
【
図7】
図7は、変換された畳み込みニューラルネットワークの構成例を示す図である。
【
図8】
図8は、推論装置の一態様としての内視鏡システムの外観図である。
【
図9】
図9は、内視鏡システムの要部構成を示すブロック図である。
【
図11】
図11は、変換モデルを用いた推論の様子を示す図である。
【発明を実施するための形態】
【0017】
以下、添付図面を参照しつつ、本発明に係る推論方法及び推論装置の実施形態について詳細に説明する。
【0018】
<学習済みモデル変換装置の構成>
図1は、学習済みモデル変換装置500(学習済みモデル変換装置)の構成を示す図である。学習済みモデル変換装置500は、学習制御部512及び変換モデル生成部514を備えるプロセッサ510(プロセッサ、コンピュータ)と、ROM520(ROM:Read Only Memory、非一時的記録媒体、メモリ)と、RAM530(RAM:Random Access Memory)と、を備える。プロセッサ510は、後述する内視鏡システム10(
図8~11及びこれらの図に関連する記載を参照)の主制御部210及び画像処理部204と同様に、各種のプロセッサ及び/または電気回路により構成することができる。ROM520には、学習済みモデル変換プログラム(本発明に係る学習済みモデル変換方法をコンピュータに実行させるプログラム)のコンピュータ読み取り可能なコード、及び学習済みモデル変換方法の実行に必要な各種のデータが記憶されている。ROM520ではなく、EEPROM(
Electrically Erasable and Programmable Read Only Memory)やフラッシュメモリにコードやデータを記憶してもよい。RAM530は、処理の際の一時記憶領域や作業領域として用いられる。
【0019】
学習済みモデル変換装置500は、上述の構成により、畳み込みニューラルネットワーク(CNN:Convolutional Neural Network)の学習及び学習済みモデルの変換を行う。
図2の(a)部分は、学習前のCNN560が学習制御部512の制御により学習済みモデルであるCNN562となる様子を示しており、同図の(b)部分は、CNN562(学習済みモデル)が変換モデル生成部514の制御によりCNN563(変換モデル)となる様子(畳み込み層生成工程、変換モデル生成工程)を示している。なお、学習済みモデルの変換を行う処理装置の種類(CPU、GPU等)は特に限定されない。
【0020】
<畳み込みニューラルネットワークの構成>
図3はCNN562(畳み込みニューラルネットワーク;学習済みモデル)の構成例を示す図である(CNN560も同様の構成である)。
図3の(a)部分に示す例では、CNN562は、入力層562A、中間層562B、及び出力層562Cを有する。入力層562Aは時系列データ(例えば被検体の動画像等であるが、これに限定されない;入力データ)を入力して特徴量を出力する。中間層562Bは畳み込み層564(第1畳み込み層)及びバッチ正則化層565(正則化層)を含み、入力層562Aが出力する特徴量を入力して他の特徴量を算出する。畳み込み層564は複数の「ノード」が「エッジ」で結ばれた構造となっており、入力した画像に適用される重み係数が、ノード及びエッジに関連付けられて、図示せぬ重み係数記憶部に記憶されている。重み係数の値は、学習が進むにつれて初期状態(CNN560での値)から変化していき、CNN562(学習済みモデル)では学習が終了した状態での重み係数を用いる。
【0021】
なお、
図3において、変換対象層561Aのように畳み込み層564が入力側でバッチ正則化層565が出力側の場合は
図5について後述するような変換(畳み込み層生成工程、変換モデル生成工程)が行われ、変換対象層561Bのようにバッチ正則化層565が入力側で畳み込み層564が出力側の場合は
図6について後述するような変換(畳み込み層生成工程、変換モデル生成工程)が行われる。
【0022】
<中間層における処理>
<畳み込み>
中間層562Bは、畳み込み演算によって特徴量を算出する。畳み込み層564で行われる畳み込み演算はフィルタを使用した畳み込み演算により特徴マップを取得する処理であり、画像からのエッジ抽出等の特徴抽出の役割を担う。このフィルタを用いた畳み込み演算により、1つのフィルタに対して1チャンネル(1枚)の「特徴マップ」が生成される。「特徴マップ」のサイズは、畳み込みによりダウンスケーリングされる場合は、各層で畳み込みが行われるにつれて小さくなって行く。中間層562Bは、畳み込みの処理を行う1または複数の層により構成することができる。
【0023】
図4は、フィルタによる畳み込み処理の様子を示す図である。中間層562Bの最初(1番目)の畳み込み層では、例えば複数の医療画像(入力データ)により構成される画像セット(学習時は学習用画像セット、推論時は推論用画像セット)とフィルタF
1との畳み込み演算が行われる。画像セットは、縦がH、横がWの画像サイズを有するN枚(Nチャンネル)の画像により構成される。通常光画像を入力する場合、画像セットを構成する画像はR(赤色),G(緑色),B(青色)の3チャンネルの画像である。この画像セットと畳み込み演算されるフィルタF
1は、画像セットがNチャンネル(N枚)であるため、例えばサイズ5(5×5)のフィルタの場合、フィルタサイズは5×5×Nのフィルタになる。このフィルタF
1を用いた畳み込み演算により、1つのフィルタF
1に対して1チャンネル(1枚)の「特徴マップ」が生成される。2番目の畳み込み層で使用されるフィルタF
2は、例えばサイズ3(3×3)のフィルタの場合、フィルタサイズは3×3×Mになる。
【0024】
1番目の畳み込み層と同様に、2番目からn番目の畳み込み層ではフィルタF2~Fnを用いた畳み込み演算が行われる。n番目の畳み込み層における「特徴マップ」のサイズが、2番目の畳み込み層における「特徴マップ」のサイズよりも小さくなっているのは、前段までの畳み込み層によりダウンスケーリングされているからである。
【0025】
中間層562Bの層のうち、入力側に近い畳み込み層では低次の特徴抽出(エッジの抽出等)が行われ、出力側に近づくにつれて高次の特徴抽出(認識対象の形状、構造等に関する特徴の抽出)が行われる。
【0026】
<正則化>
畳み込みニューラルネットワークでの学習においては、正則化層を入れることで内部共変量シフトが抑制されるため、収束速度及び精度の向上が期待できる。正則化層では特徴量の平均や分散といった統計量を算出してそれにより特徴量の白色化を行っている。正則化層にはいくつかの種類があり、それらの正規化層は、以下に説明するように上述の統計量を算出する範囲が異なっている。なお、特徴量の値をf(b,x,y,c)と定義する。ここでb,x,y,c はそれぞれ、バッチ、X軸、Y軸、チャネルのインデックスとする。
【0027】
(1)バッチ正則化
平均及び分散はそれぞれ以下の式(1),(2)のように算出され、チャネル単位で白色化を行う。
【0028】
【0029】
【0030】
(2)レイヤー正則化
平均分散はそれぞれ以下の式(3),(4)のように算出され、バッチ単位で白色化を行う。
【0031】
【0032】
【0033】
(3)インスタンス正則化
平均及び分散はそれぞれ以下の式(5),(6)のように算出され、バッチ、チャネル単位で白色化を行う。
【0034】
【0035】
【0036】
(4)グループ正則化
以下の式(7),(8)のように、チャネルをN個のグループに分割する。
【0037】
【0038】
【0039】
平均及び分散はそれぞれ以下の式(9),(10)のように算出され、各バッチのグループ単位で白色化を行う。
【0040】
【0041】
【0042】
なお、CNN562の層構成は、畳み込み層564とバッチ正則化層565とが1つずつ繰り返される場合に限らず、いずれかの層(例えば、畳み込み層564)が複数連続して含まれていてもよい。
【0043】
<その他の構成>
CNN562はプーリング層を含んでいてもよい。プーリング層で行われるプーリング処理は、畳み込み演算により出力された特徴マップを縮小(または拡大)して新たな特徴マップとする処理であり、抽出された特徴が、平行移動などによる影響を受けないようにロバスト性を与える役割を担う。また、CNN562は、
図3の(b)部分に示す例のように全結合層566を含んでいてもよい。
【0044】
<学習済みモデルの変換:推論時における正則化層の省略>
上述のように、正則化の方法には複数の種類が存在するが、「特徴量のどの範囲で統計量を算出するか」の差異であり、以下の議論ではいずれも同様の方法で実施可能である。以降ではバッチ正則化のみについて説明する。
【0045】
バッチ正則化層は多くの場合、畳み込み層の前、後ろ、もしくは前後に配置される。バッチ正則化処理は、推論時に限れば、以下に説明する方法で隣接する畳み込み層に統合する(畳み込みとバッチ正則化を1つの畳み込みにまとめる)ことが可能である。これにより、推論処理時のメモリアクセス回数を削減することができ計算高速化が可能となる。本発明の手法は、メモリアクセスコストが処理時間においてより支配的となる並列計算処理装置(GPUなど)上で推論を実行する場合に効果が大きい。また、本発明の手法はあくまで推論処理時に変換するのであり、学習時のモデルはバッチ正則化層を含んでいる。つまり、バッチ正則化の学習に対する効果を得ながら、学習済モデルの推論処理時にはその処理コストを省略することができる。
【0046】
<変換方法(パターン1)>
図5は、学習済みモデルの変換の様子(パターン1)を示す図である。パターン1は、
図3の変換対象層561A(第1処理部)のように、畳み込み層564が入力側でバッチ正則化層565が出力側の場合の処理である。
図5の(a)部分のように、畳み込み層564の入力及び出力をそれぞれx、yとし、バッチ正則化層565の出力をzとすると、畳み込み及びバッチ正則化の処理は以下の式(11)、(12)のように定式化することができる。
【0047】
【0048】
【0049】
ここでW, b は畳み込み層564(第1畳み込み層)の学習済みパラメータであり、γ、μ、σ、ε、βはバッチ正則化層565(正則化層)の学習済みパラメータである。上述を式変形することで、以下の式(13)が得られる。
【0050】
【0051】
つまり、パラメータとしてWチルダ(第2畳み込み層567での畳み込みの際の重みパラメータ)及びbチルダ(第2畳み込み層567でのバイアス成分)をもつ畳み込みによってxからzへの処理を実現できる。なお、Wチルダ及びbチルダの定義は、それぞれ以下の式(14)、(15)の通りである。
【0052】
【0053】
【0054】
これにより、変換モデル生成部514は、
図5の(b)部分に示すように、畳み込み層564での畳み込みとその結果に対するバッチ正則化層565での処理を1つの畳み込み層567(第2畳み込み層、第2処理部)に変換することが可能となる(第2畳み込み層の生成、畳み込み層生成工程、畳み込み層生成処理)。すなわち、変換モデル生成部514は、畳み込み層生成工程において、畳み込み層564(第1畳み込み層)及びバッチ正則化層565(正則化層)から構成される第1処理部と畳み込み層567(第2畳み込み層)のみから構成される第2処理部のそれぞれにおいて、同一の特徴量(例えば上述のx)を入力した場合の推論処理結果(例えば上述のz)が等しくなるように畳み込み層567(第2畳み込み層)を生成することができる。
【0055】
なお、入力データが画像である場合、x,y,zはベクトル、W及びWチルダ(式(13),(14)に記載された、変換後のパラメータ)は重み係数行列、b及びbチルダ(式(13),(15)に記載された、変換後のパラメータ)もバイアス成分を示す行列となる。
【0056】
変換モデル生成部514は、変換対象層561A(畳み込み層564及びバッチ正則化層565;
図3参照)を畳み込み層567(第2畳み込み層、第2処理部)と入れ替えて、変換された学習済みモデルである変換モデルを生成する(変換モデル生成工程、変換モデル生成処理)。
【0057】
<変換方法(パターン2)>
図6は、学習済みモデルの変換の様子(パターン2)を示す図である。パターン2は、
図3の変換対象層561B(第1処理部)のように、バッチ正則化層565が入力側で畳み込み層564が出力側の場合の処理である。
図6の(a)部分のように、バッチ正則化層565の入力及び出力をそれぞれx、yとし、畳み込み層564の出力をzとすると、バッチ正則化及び畳み込みの処理は以下の式(16)、(17)のように定式化することができる。
【0058】
【0059】
【0060】
パターン1と同様に式変形すると、以下の式(18)が得られる。
【0061】
【0062】
つまり、パラメータとしてWチルダ(第2畳み込み層567での畳み込みの際の重みパラメータ)及びbチルダ(第2畳み込み層567でのバイアス成分)をもつ畳み込みによってxからzへの処理を実現できる。なお、Wチルダの定義は以下の式(19)の通りであり、bチルダの定義は以下の式(20)の通りである。
【0063】
【0064】
【0065】
これにより、変換モデル生成部514は、
図6の(b)部分に示すように、バッチ正則化層565での処理とその結果に対する畳み込み層564での畳み込みとを1つの畳み込み層567(第2畳み込み層、第2処理部)に変換することが可能となる(第2畳み込み層の生成、畳み込み層生成工程、畳み込み層生成処理)。すなわち、変換モデル生成部514は、畳み込み層生成工程において、畳み込み層564(第1畳み込み層)及びバッチ正則化層565(正則化層)から構成される第1処理部と畳み込み層567(第2畳み込み層)のみから構成される第2処理部のそれぞれにおいて、同一の特徴量(例えば上述のx)を入力した場合の推論処理結果(例えば上述のz)が等しくなるように畳み込み層567(第2畳み込み層)を生成することができる。
【0066】
なお、入力データが画像である場合、x,y,zはベクトル、W及びWチルダ(式(18),(19)に記載された、変換後のパラメータ)は重み係数行列、b及びbチルダ(式(18),(20)に記載された、変換後のパラメータ)もバイアス成分を示す行列となる。
【0067】
変換モデル生成部514は、変換対象層561A(畳み込み層564及びバッチ正則化層565;
図3参照)を畳み込み層567(第2畳み込み層、第2処理部)と入れ替えて、変換された学習済みモデルである変換モデルを生成する(変換モデル生成工程、変換モデル生成処理)。
【0068】
<変換後の学習済みモデル>
図7は、変換された畳み込みニューラルネットワーク(変換された学習済みモデル、変換モデル)の構成例を示す図である。
図7の(a)部分は
図3の(a)部分に対応するCNN563(変換モデル;全結合層なし)を示し、同図の(b)部分は
図3の(b)部分に対応するCNN563(変換モデル;全結合層あり)を示す。CNN563は、入力層563A、中間層563B、及び出力層563Cを備える。なお、
図7では畳み込み層564とバッチ正則化層565のセットを全て畳み込み層567に変換及び入れ替えした場合の例を示しているが、変換及び入れ替えは一部のセットについて行ってもよい。
【0069】
<推論装置及び推論方法の一態様:内視鏡システムへの適用>
図8は、推論装置の一態様としての内視鏡システム10(内視鏡システム、医療画像処理装置、推論装置)の外観図であり、
図9は内視鏡システム10の要部構成を示すブロック図である。
図8,9に示すように、内視鏡システム10は、内視鏡スコープ100(画像取得部、内視鏡スコープ)、医療画像処理装置200(医療画像処理装置、コンピュータ、プロセッサ、推論装置)、光源装置300(光源装置)、及びモニタ400(表示装置、ディスプレイ)から構成される。
【0070】
<内視鏡スコープの構成>
内視鏡スコープ100は、手元操作部102と、この手元操作部102に連設される挿入部104とを備える。術者(ユーザ)は手元操作部102を把持して操作し、挿入部104を被検体(生体)の体内に挿入して観察する。また、手元操作部102には送気送水ボタン141、吸引ボタン142、及び各種の機能を割り付けられる機能ボタン143、及び撮影指示操作(静止画像、動画像)を受け付ける撮影ボタン144が設けられている。
【0071】
手元操作部102には、内視鏡スコープ100の個体情報(個体情報、スコープ情報)を記録するスコープ情報記録部139が設けられている。個体情報は、例えば内視鏡スコープ100のタイプ(直視か側視か、等)、機種、個体識別番号、光学系の特性(視野角、歪み等)、被検体の処置に使用される器具(処置具等)の情報等である。画像処理部204のスコープ情報取得部204E(スコープ情報取得部、個体情報取得部;
図10を参照)が、この個体情報を取得し、医療画像処理装置200による処理(画像取得処理、推論処理、表示制御処理)に用いられる。なお、スコープ情報記録部139はライトガイドコネクタ108内等、他の部分に設けられていてもよい。
【0072】
挿入部104は、手元操作部102側から順に、軟性部112、湾曲部114、先端硬質部116で構成されている。すなわち、先端硬質部116の基端側に湾曲部114が接続され、湾曲部114の基端側に軟性部112が接続される。挿入部104の基端側に手元操作部102が接続される。ユーザは、手元操作部102を操作することにより湾曲部114を湾曲させて先端硬質部116の向きを上下左右に変えることができる。先端硬質部116には、撮影光学系130、照明部123、鉗子口126等が設けられる(
図8,9参照)。
【0073】
観察、処置の際には、操作部208(
図9参照)の操作により、照明部123の照明用レンズ123A,123Bから白色光及び/または狭帯域光(赤色狭帯域光、緑色狭帯域光、青色狭帯域光、及び紫色狭帯域光のうち1つ以上)を照射することができる。また、送気送水ボタン141の操作により図示せぬ送水ノズルから洗浄水が放出されて、撮影光学系130の撮影レンズ132(撮影レンズ、撮影部)、及び照明用レンズ123A,123Bを洗浄することができる。先端硬質部116で開口する鉗子口126には不図示の管路が連通しており、この管路に腫瘍摘出等のための図示せぬ処置具が挿通されて、適宜進退して被検体に必要な処置を施せるようになっている。
【0074】
図8,9に示すように、先端硬質部116の先端側端面116Aには撮影レンズ132(撮影部)が配設されている。撮影レンズ132の奥にはCMOS(Complementary Metal-Oxide Semiconductor)型の撮像素子134(撮像素子、画像取得部)、駆動回路136、AFE138(AFE:Analog Front End)が配設されて、これらの要素により画像信号を出力する。撮像素子134はカラー撮像素子であり、特定のパターン配列(ベイヤー配列、X-Trans(登録商標)配列、ハニカム配列等)でマトリクス状に配置(2次元配列)された複数の受光素子により構成される複数の画素を備える。撮像素子134の各画素はマイクロレンズ、赤(R)、緑(G)、または青(B)のカラーフィルタ及び光電変換部(フォトダイオード等)を含んでいる。撮像素子134、駆動回路136、及びAFE138を1つのパッケージに含めたイメージセンサを用いてもよい。撮影光学系130は、赤,緑,青の3色の画素信号からカラー画像を生成することもできるし、赤,緑,青のうち任意の1色または2色の画素信号から画像を生成することもできる。なお、撮像素子134はXYアドレス型やCCD(Charge Coupled Device)型でもよい。また、撮像素子134の各画素は紫色光源310Vに対応した紫色カラーフィルタ、及び/または赤外光源に対応した赤外用フィルタをさらに備えていてもよい。
【0075】
被検体の光学像は撮影レンズ132により撮像素子134の受光面(撮像面)に結像されて電気信号に変換され、不図示の信号ケーブルを介して医療画像処理装置200に出力されて映像信号に変換される。これにより、医療画像処理装置200に接続されたモニタ400に被写体の内視鏡画像(観察画像、医療画像)が画面表示される。
【0076】
また、先端硬質部116の先端側端面116Aには、撮影レンズ132に隣接して照明部123の照明用レンズ123A、123Bが設けられている。照明用レンズ123A,123Bの奥には、後述するライトガイド170の射出端が配設され、このライトガイド170が挿入部104、手元操作部102、及びユニバーサルケーブル106に挿通され、ライトガイド170の入射端がライトガイドコネクタ108内に配置される。
【0077】
ユーザは、上述した構成の内視鏡スコープ100(挿入部104)を被検体である生体内に挿入または抜去しながら決められたフレームレートで撮影を行う(医療画像取得部204Aの制御により行うことができる)ことにより、生体内(被検体)の時系列の画像を順次撮影することができる。
【0078】
<光源装置の構成>
図9に示すように、光源装置300は、照明用の光源310、絞り330、集光レンズ340、及び光源制御部350等から構成されており、観察光をライトガイド170に入射させる。光源310は、それぞれ赤色、緑色、青色、紫色の狭帯域光を照射する赤色光源310R、緑色光源310G、青色光源310B、及び紫色光源310Vを備えており、赤色、緑色、青色、及び紫色の狭帯域光を照射することができる。光源310による観察光の照度は光源制御部350により制御され、必要に応じて観察光の照度を変更する(上げる、または下げる)こと、及び照明を停止することができる。
【0079】
光源310は赤色、緑色、青色、及び紫色の狭帯域光を任意の組合せで発光させることができる。例えば、赤色、緑色、青色、及び紫色の狭帯域光を同時に発光させて白色光(通常光)を観察光として照射することもできるし、いずれか1つもしくは2つを発光させることで狭帯域光(特殊光)を照射することもできる。光源310は、赤外光(狭帯域光の一例)を照射する赤外光源をさらに備えていてもよい。また、白色光を照射する光源と、白色光及び各狭帯域光を透過させるフィルタとにより、白色光または狭帯域光を観察光として照射してもよい。
【0080】
<光源の波長帯域>
光源310は白色帯域の光、または白色帯域の光として複数の波長帯域の光を発生する光源でもよいし、白色の波長帯域よりも狭い特定の波長帯域の光を発生する光源でもよい。特定の波長帯域は、可視域の青色帯域もしくは緑色帯域、あるいは可視域の赤色帯域であってもよい。特定の波長帯域が可視域の青色帯域もしくは緑色帯域である場合、特定の波長帯域は、390nm以上450nm以下、または530nm以上550nm以下の波長帯域を含み、かつ、390nm以上450nm以下または530nm以上550nm以下の波長帯域内にピーク波長を有していてもよい。また、特定の波長帯域が可視域の赤色帯域である場合、特定の波長帯域は、585nm以上615nm以下、または610nm以上730nm以下、の波長帯域を含み、かつ、特定の波長帯域の光は、585nm以上615nm以下または610nm以上730nm以下の波長帯域内にピーク波長を有していてもよい。
【0081】
上述した特定の波長帯域は、酸化ヘモグロビンと還元ヘモグロビンとで吸光係数が異なる波長帯域を含み、かつ、酸化ヘモグロビンと還元ヘモグロビンとで吸光係数が異なる波長帯域にピーク波長を有していてもよい。この場合、特定の波長帯域は、400±10nm、440±10nm、470±10nm、または、600nm以上750nm以下の波長帯域を含み、かつ、400±10nm、440±10nm、470±10nm、または600nm以上750nm以下の波長帯域にピーク波長を有していてもよい。
【0082】
また、光源310が発生する光は790nm以上820nm以下、または905nm以上970nm以下の波長帯域を含み、かつ、790nm以上820nm以下または905nm以上970nm以下の波長帯域にピーク波長を有していてもよい。
【0083】
また、光源310は、ピークが390nm以上470nm以下である励起光を照射する光源を備えていてもよい。この場合、被検体(生体)内の蛍光物質が発する蛍光の情報を有する医療画像(医用画像、生体内画像)を取得することができる。蛍光画像を取得する場合は、蛍光法用色素剤(フルオレスチン、アクリジンオレンジ等)を使用してもよい。
【0084】
光源310の光源種類(レーザ光源、キセノン光源、LED光源(LED:Light-Emitting Diode)等)、波長、フィルタの有無等は被写体の種類、部位、観察の目的等に応じて構成することが好ましく、また観察の際は被写体の種類、部位、観察の目的等に応じて観察光の波長を組合せ及び/または切り替えることが好ましい。波長を切り替える場合、例えば光源の前方に配置され特定波長の光を透過または遮光するフィルタが設けられた円板状のフィルタ(ロータリカラーフィルタ)を回転させることにより、照射する光の波長を切り替えてもよい。
【0085】
また、内視鏡システム10で用いる撮像素子は、撮像素子134のように各画素に対しカラーフィルタが配設されたカラー撮像素子に限定されるものではなくモノクロ撮像素子でもよい。モノクロ撮像素子を用いる場合、観察光の波長を順次切り替えて面順次(色順次)で撮像することができる。例えば出射する観察光の波長を(紫色、青色、緑色、赤色)の間で順次切り替えてもよいし、広帯域光(白色光)を照射してロータリカラーフィルタ(赤色、緑色、青色、紫色等)により出射する観察光の波長を切り替えてもよい。また、1または複数の狭帯域光(緑色、青色、紫色等)を照射してロータリカラーフィルタ(緑色、青色、紫色等)により出射する観察光の波長を切り替えてもよい。狭帯域光は波長の異なる2波長以上の赤外光(第1狭帯域光、第2狭帯域光)でもよい。
【0086】
ライトガイドコネクタ108(
図8,9参照)を光源装置300に連結することにより、光源装置300から照射された観察光がライトガイド170を介して照明用レンズ123A、123Bに伝送され、照明用レンズ123A、123Bから観察範囲に照射される。
【0087】
<医療画像処理装置の構成>
図9に基づき医療画像処理装置200の構成を説明する。医療画像処理装置200は、内視鏡スコープ100から出力される画像信号を画像入力コントローラ202により入力し、画像処理部204(プロセッサ、コンピュータ)で必要な画像処理を行ってビデオ出力部206から出力する。これにより、モニタ400(表示装置)に観察画像(医療画像、内視鏡画像、生体内画像)が表示される。これらの処理は主制御部210(プロセッサ、コンピュータ)の制御下で行われる。通信制御部205は、図示せぬ病院内システム(HIS:Hospital Information System)や病院内LAN(Local Area Network)、及び/または外部のシステムやネットワークとの間で医療画像の取得等についての通信制御を行う。
【0088】
<画像処理部の機能>
図10は画像処理部204の機能ブロック図である。画像処理部204は、医療画像取得部204A(医療画像取得部)と、推論部204B(推論部、関心領域認識部)と、表示制御部204C(表示制御部)と、記録制御部204D(記録制御部)と、スコープ情報取得部204E(スコープ情報取得部)と、を備える。推論部204Bは、上述した手法(本発明に係る学習済みモデル変換方法)により得られた変換モデル(
図7に示すCNN563等)を備える。
これらの機能を用いた処理については、詳細を後述する。
【0089】
画像処理部204は、上述した機能により、医療画像の認識(推論)、特徴量の算出、特定の周波数帯域の成分を強調または低減する処理、特定の対象(関心領域、所望の深さの血管等)を強調または目立たなくする処理を行うことができる。画像処理部204は、白色帯域の光、または白色帯域の光として複数の波長帯域の光を照射して得る通常光画像に基づいて特定の波長帯域の情報を有する特殊光画像を取得する特殊光画像取得部を備えていてもよい。この場合、特定の波長帯域の信号は、通常光画像に含まれるRGB(R:赤、G:緑、B:青)あるいはCMY(C:シアン、M:マゼンタ、Y:イエロー)の色情報に基づく演算により得ることができる。また、画像処理部204は、白色帯域の光、または白色帯域の光として複数の波長帯域の光を照射して得る通常光画像と、特定の波長帯域の光を照射して得る特殊光画像との少なくとも一方に基づく演算によって特徴量画像を生成する特徴量画像生成部を備え、医療画像(医用画像)としての特徴量画像を取得及び表示してもよい。なお、上述した処理は主制御部210の制御下で行われる。
【0090】
<各種のプロセッサによる機能の実現>
上述した画像処理部204及び主制御部210の各部の機能は、各種のプロセッサ(processor)及び記録媒体を用いて実現できる。各種のプロセッサには、例えばソフトウェア(プログラム)を実行して各種の機能を実現する汎用的なプロセッサであるCPU(Central Processing Unit)が含まれる。また、上述した各種のプロセッサには、画像処理に特化したプロセッサであり並列計算処理装置の一態様であるGPU(Graphics Processing Unit)、FPGA(Field Programmable Gate Array)などの製造後に回路構成を変更可能なプロセッサであるプログラマブルロジックデバイス(Programmable Logic Device:PLD)も含まれる。さらに、ASIC(Application Specific Integrated Circuit)などの特定の処理を実行させるために専用に設計された回路構成を有するプロセッサである専用電気回路なども、上述した各種のプロセッサに含まれる。
【0091】
各部の機能は1つのプロセッサにより実現されてもよいし、同種または異種の複数のプロセッサ(例えば、複数のFPGA、あるいはCPUとFPGAの組み合わせ、またはCPUとGPUの組み合わせ)で実現されてもよい。また、複数の機能を1つのプロセッサで実現してもよい。複数の機能を1つのプロセッサで構成する例としては、第1に、コンピュータに代表されるように、1つ以上のCPUとソフトウェアの組合せで1つのプロセッサを構成し、このプロセッサが複数の機能として実現する形態がある。第2に、システムオンチップ(System On Chip:SoC)などに代表されるように、システム全体の機能を1つのIC(Integrated Circuit)チップで実現するプロセッサを使用する形態がある。このように、各種の機能は、ハードウェア的な構造として、上述した各種のプロセッサを1つ以上用いて構成される。さらに、これらの各種のプロセッサのハードウェア的な構造は、より具体的には、半導体素子などの回路素子を組み合わせた電気回路(circuitry)である。これらの電気回路は、論理和、論理積、論理否定、排他的論理和、及びこれらを組み合わせた論理演算を用いて上述した機能を実現する電気回路であってもよい。
【0092】
上述したプロセッサあるいは電気回路がソフトウェア(プログラム)を実行する際は、実行するソフトウェアのコンピュータ(例えば、画像処理部204を構成する各種のプロセッサや電気回路、及び/またはそれらの組み合わせ)で読み取り可能なコードをROM211(ROM:Read Only Memory)やフラッシュメモリ(不図示)等の非一時的記録媒体に記憶しておき、コンピュータがそのソフトウェアを参照する。非一時的記録媒体に記憶しておくソフトウェアは、本発明に係る医療画像処理方法(医療画像処理装置の作動方法)を実行するためのプログラム及び実行に際して用いられるデータ(医療画像の取得に関するデータ、生検状態等の定義や識別表示の態様設定に用いられるデータ、認識部で用いられるパラメータ等)を含む。ROM211ではなく各種の光磁気記録装置、半導体メモリ等の非一時的記録媒体にコードを記録してもよい。ソフトウェアを用いた処理の際には例えばRAM212(RAM:Random Access Memory)が一時的記憶領域として用いられ、また例えば不図示のEEPROM(Electronically Erasable and Programmable Read Only Memory)に記憶されたデータを参照することもできる。「非一時的記録媒体」として記録部207を用いてもよい。
【0093】
また、ROM211(ROM:Read Only Memory)は不揮発性の記憶素子(非一時的記録媒体)であり、各種の画像処理方法(本発明に係る医療画像処理方法を含む)を主制御部210及び/または画像処理部204(コンピュータ)に実行させるプログラムのコンピュータ読み取り可能なコードが記憶されている。RAM212(RAM:Random Access Memory)は各種処理の際の一時記憶用の記憶素子であり、また画像取得時のバッファとしても使用することができる。音声処理部209は、主制御部210及び画像処理部204の制御により、医療画像処理、関心領域の推論結果や報知等に関するメッセージ(音声)をスピーカ209A(報知部、スピーカ)から出力する。
【0094】
なお、内視鏡システム10のように画像の処理や認識を行う場合は、並列計算処理装置の一態様であるGPUを用いて画像処理部204及び/または主制御部210を構成し、後述する推論工程(推論処理)の少なくとも一部をGPUで実行することが効果的である。
【0095】
<操作部>
操作部208は図示せぬキーボード、マウス等のデバイスにより構成することができ、ユーザは操作部208を介して医療画像処理方法(推論方法)の実行指示や実行に必要な条件の設定を行うことができる。
【0096】
<医療画像処理方法の手順>
内視鏡システム10を用いた医療画像処理方法の一例(関心領域の認識)について説明する。なお、学習用データを用いたCNN562の学習及び学習済みモデルの変換(畳み込み層生成工程及び畳み込み層生成処理、変換モデル生成工程及び変換モデル生成処理;
図2等を参照)を実行済みであるものとする。
【0097】
<内視鏡画像の取得>
医療画像取得部204A(プロセッサ)は、時系列データの一例としての内視鏡画像(被検体の動画像;観察画像、医療画像)を取得する(データ取得工程、データ取得処理)。医療画像取得部204Aは、内視鏡スコープ100で撮影された内視鏡画像を取得してもよいし、記録部207に記録された内視鏡画像を取得してもよい。記録制御部204Dは、取得した内視鏡画像を記録部207に記録することができる。
【0098】
<推論(関心領域の認識)>
推論部204B(プロセッサ)は、CNN563(学習済みモデル、変換モデル)を用いて、観察画像から関心領域を認識する(推論工程、推論処理)。関心領域の認識には、検出や鑑別が含まれる。
図11は変換モデルを用いた推論の様子を示す図であり、推論部204Bは被検体の動画像(時系列データ)をCNN563に入力して検出結果や鑑別結果(推論結果)を得る。なお、推論工程(推論処理)の少なくとも一部をGPU等の並列計算処理装置上で行うことが好ましい。また、推論部204Bは、上述の認識(推論)において内視鏡スコープ100の個体情報を参照してもよい。
【0099】
<観察画像の表示>
表示制御部204Cは、観察画像を表示装置に識別表示させることができる(表示制御工程)。この際、表示制御部204Cは、関心領域を識別表示してもよい(関心領域を示す文字、図形、記号の表示や、関心領域の着色等)。
【0100】
主制御部210及び画像処理部204は、観察が終了するまで、上述した処理を繰り返す。
【0101】
以上説明したように、内視鏡システム10によれば、推論時に変換モデルであるCNN563を用いることにより、メモリアクセスコストの削減を行いつつ推論を行うことができる。
【0102】
<医療用内視鏡以外への適用>
本発明の手法(学習済みモデル変換方法、推論方法、学習済みモデル変換装置、推論装置、学習済みモデル)は医療用内視鏡以外にも、畳み込みニューラルネットワークを用いてリアルタイム処理を行うシステム一般に適用することができる。例えば、時系列データ(被検体の動画像)を扱う超音波検査装置やX線透視装置等の医療機器、工業用内視鏡、マシンビジョン、デジタルカメラでの顔認証や防犯カメラ、自動車や飛翔体等の移動体に搭載されるカメラでの物体認識等に適用することができ、これによりメモリアクセスコストの削減を行いつつ推論を行うことができる。
【0103】
(付記)
上述した態様に加えて、以下に記載の構成も本発明の範囲に含まれる。
【0104】
(付記1)
医療画像解析処理部(推論部)は、医療画像の画素の特徴量に基づいて、注目すべき領域である注目領域を検出し、
医療画像解析結果取得部は、医療画像解析処理部の解析結果を取得する医療画像処理装置(推論装置)。
【0105】
(付記2)
医療画像解析処理部は、医療画像の画素の特徴量に基づいて、注目すべき対象の有無を検出し、
医療画像解析結果取得部は、医療画像解析処理部の解析結果を取得する医療画像処理装置。
【0106】
(付記3)
医療画像解析結果取得部は、
医療画像の解析結果(入力データ、時系列データ)を記録する記録装置から取得し、
解析結果は、医療画像に含まれる注目すべき領域である注目領域(関心領域)と、注目すべき対象の有無のいずれか、もしくは両方である医療画像処理装置。
【0107】
(付記4)
医療画像は、白色帯域の光、または白色帯域の光として複数の波長帯域の光を照射して得た通常光画像である医療画像処理装置。
【0108】
(付記5)
医療画像は、特定の波長帯域の光を照射して得た画像であり、
特定の波長帯域は、白色の波長帯域よりも狭い帯域である医療画像処理装置。
【0109】
(付記6)
特定の波長帯域は、可視域の青色もしくは、緑色帯域である医療画像処理装置。
【0110】
(付記7)
特定の波長帯域は、390nm以上450nm以下または530nm以上550nm以下の波長帯域を含み、かつ、特定の波長帯域の光は、390nm以上450nm以下または530nm以上550nm以下の波長帯域内にピーク波長を有する医療画像処理装置。
【0111】
(付記8)
特定の波長帯域は、可視域の赤色帯域である医療画像処理装置。
【0112】
(付記9)
特定の波長帯域は、585nm以上615nm以下または610nm以上730nm以下の波長帯域を含み、かつ、特定の波長帯域の光は、585nm以上615nm以下または610nm以上730nm以下の波長帯域内にピーク波長を有する医療画像処理装置。
【0113】
(付記10)
特定の波長帯域は、酸化ヘモグロビンと還元ヘモグロビンとで吸光係数が異なる波長帯域を含み、かつ、特定の波長帯域の光は、酸化ヘモグロビンと還元ヘモグロビンとで吸光係数が異なる波長帯域にピーク波長を有する医療画像処理装置。
【0114】
(付記11)
特定の波長帯域は、400±10nm、440±10nm、470±10nm、または、600nm以上750nm以下の波長帯域を含み、かつ、特定の波長帯域の光は、400±10nm、440±10nm、470±10nm、または、600nm以上750nm以下の波長帯域にピーク波長を有する医療画像処理装置。
【0115】
(付記12)
医療画像は生体内を写した生体内画像であり、
生体内画像は、生体内の蛍光物質が発する蛍光の情報を有する医療画像処理装置。
【0116】
(付記13)
蛍光は、ピークが390nm以上470nm以下である励起光を生体内に照射して得る医療画像処理装置。
【0117】
(付記14)
医療画像は生体内を写した生体内画像であり、
特定の波長帯域は、赤外光の波長帯域である医療画像処理装置。
【0118】
(付記15)
特定の波長帯域は、790nm以上820nm以下または905nm以上970nm以下の波長帯域を含み、かつ、特定の波長帯域の光は、790nm以上820nm以下または905nm以上970nm以下の波長帯域にピーク波長を有する医療画像処理装置。
【0119】
(付記16)
医療画像取得部は、白色帯域の光、または白色帯域の光として複数の波長帯域の光を照射して得る通常光画像に基づいて、特定の波長帯域の情報を有する特殊光画像を取得する特殊光画像取得部を備え、
医療画像は特殊光画像である医療画像処理装置。
【0120】
(付記17)
特定の波長帯域の信号は、通常光画像に含まれるRGBあるいはCMYの色情報に基づく演算により得る医療画像処理装置。
【0121】
(付記18)
白色帯域の光、または白色帯域の光として複数の波長帯域の光を照射して得る通常光画像と、特定の波長帯域の光を照射して得る特殊光画像との少なくとも一方に基づく演算によって、特徴量画像を生成する特徴量画像生成部を備え、
医療画像は特徴量画像である医療画像処理装置。
【0122】
(付記19)
付記1から18のいずれか1つに記載の医療画像処理装置と、
白色の波長帯域の光、または、特定の波長帯域の光の少なくともいずれかを照射して画像を取得する内視鏡と、
を備える内視鏡装置(推論装置)。
【0123】
(付記20)
付記1から18のいずれか1つに記載の医療画像処理装置を備える診断支援装置(推論装置)。
【0124】
(付記21)
付記1から18のいずれか1つに記載の医療画像処理装置を備える医療業務支援装置(推論装置)。
【0125】
以上で本発明の実施形態及び他の例に関して説明してきたが、本発明は上述した態様に限定されず、本発明の精神を逸脱しない範囲で種々の変形が可能である。
【符号の説明】
【0126】
10 内視鏡システム
100 内視鏡スコープ
102 手元操作部
104 挿入部
106 ユニバーサルケーブル
108 ライトガイドコネクタ
112 軟性部
114 湾曲部
116 先端硬質部
116A 先端側端面
123 照明部
123A 照明用レンズ
123B 照明用レンズ
126 鉗子口
130 撮影光学系
132 撮影レンズ
134 撮像素子
136 駆動回路
139 スコープ情報記録部
141 送気送水ボタン
142 吸引ボタン
143 機能ボタン
144 撮影ボタン
170 ライトガイド
200 医療画像処理装置
202 画像入力コントローラ
204 画像処理部
204A 医療画像取得部
204B 推論部
204C 表示制御部
204D 記録制御部
204E スコープ情報取得部
205 通信制御部
206 ビデオ出力部
207 記録部
208 操作部
209 音声処理部
209A スピーカ
210 主制御部
211 ROM
212 RAM
300 光源装置
310 光源
310B 青色光源
310G 緑色光源
310R 赤色光源
310V 紫色光源
330 絞り
340 集光レンズ
350 光源制御部
400 モニタ
500 学習済みモデル変換装置
510 プロセッサ
512 学習制御部
514 変換モデル生成部
520 ROM
530 RAM
561A 変換対象層
561B 変換対象層
562A 入力層
562B 中間層
562C 出力層
563 CNN
563A 入力層
563B 中間層
563C 出力層
564 畳み込み層
565 バッチ正則化層
566 全結合層
567 畳み込み層
F
1
フィルタ
F
2
フィルタ