(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】
(24)【登録日】2022-01-07
(45)【発行日】2022-01-24
(54)【発明の名称】内視鏡画像認識装置、内視鏡画像学習装置、内視鏡画像学習方法及びプログラム
(51)【国際特許分類】
A61B 1/045 20060101AFI20220117BHJP
A61B 1/00 20060101ALI20220117BHJP
G06T 7/00 20170101ALI20220117BHJP
G06T 1/00 20060101ALI20220117BHJP
【FI】
A61B1/045 614
A61B1/00 510
A61B1/045 618
G06T7/00 350C
G06T7/00 612
G06T1/00 290Z
G06T1/00 510
(21)【出願番号】P 2020531187
(86)(22)【出願日】2019-06-17
(86)【国際出願番号】 JP2019023884
(87)【国際公開番号】W WO2020017213
(87)【国際公開日】2020-01-23
【審査請求日】2020-12-17
(31)【優先権主張番号】P 2018136924
(32)【優先日】2018-07-20
(33)【優先権主張国・地域又は機関】JP
(73)【特許権者】
【識別番号】306037311
【氏名又は名称】富士フイルム株式会社
(74)【代理人】
【識別番号】100083116
【氏名又は名称】松浦 憲三
(74)【代理人】
【識別番号】100170069
【氏名又は名称】大原 一樹
(74)【代理人】
【識別番号】100128635
【氏名又は名称】松村 潔
(74)【代理人】
【識別番号】100140992
【氏名又は名称】松浦 憲政
(72)【発明者】
【氏名】臼田 稔宏
【審査官】冨永 昌彦
(56)【参考文献】
【文献】特開2013-183912(JP,A)
【文献】国際公開第2016/117112(WO,A1)
【文献】特開2010-022464(JP,A)
【文献】国際公開第2018/020558(WO,A1)
【文献】特開2018-063504(JP,A)
(58)【調査した分野】(Int.Cl.,DB名)
A61B 1/00 - 1/32
G06T 7/00 - 7/90
G06N 3/08
(57)【特許請求の範囲】
【請求項1】
第1の波長帯域光の内視鏡画像を生成モデルによって生成する画像生成部と、
前記画像生成部で生成された内視鏡画像を用いて画像認識用の学習モデルの学習を行う機械学習部と、
を備え
、
前記画像生成部は、前記第1の波長帯域光とは異なる第2の波長帯域光で撮影された第2の内視鏡画像を入力とし、前記第2の内視鏡画像を前記第1の波長帯域光の第1の内視鏡画像に変換し、
前記第1の波長帯域光は特殊光であり、前記第2の波長帯域光は白色光である内視鏡画像学習装置。
【請求項2】
前記第1の内視鏡画像と前記第2の内視鏡画像とは、画像認識の正解を示す正解データが共通である請求項
1に記載の内視鏡画像学習装置。
【請求項3】
前記第1の内視鏡画像の画像認識の正解を示す正解データは、前記第2の内視鏡画像の正解を示す正解データを用いて生成した正解データである請求項
1に記載の内視鏡画像学習装置。
【請求項4】
前記学習モデルは、入力された内視鏡画像から病変領域を検出する請求項1から
3のいずれか1項に記載の内視鏡画像学習装置。
【請求項5】
前記学習モデルは、前記病変領域が良性及び悪性のいずれかを分類する請求項
4に記載の内視鏡画像学習装置。
【請求項6】
前記生成モデルは、前記第1の波長帯域光で撮影された内視鏡画像と前記第2の内視鏡画像とを用いた学習により得られた生成モデルである請求項
1から
5のいずれか1項に記載の内視鏡画像学習装置。
【請求項7】
前記生成モデルは、畳み込みニューラルネットワークを用いて学習される請求項1から
6のいずれか1項に記載の内視鏡画像学習装置。
【請求項8】
前記生成モデルは、GAN(Generative Adversarial Networks)である請求項
7に記載の内視鏡画像学習装置。
【請求項9】
機械学習部は、畳み込みニューラルネットワークを用いて前記学習モデルの学習を行う請求項1から
8のいずれか1項に記載の内視鏡画像学習装置。
【請求項10】
前記第1の波長帯域光で撮影された内視鏡画像を取得する画像取得部と、
請求項1から
9のいずれか1項に記載の内視鏡画像学習装置によって学習された学習モデルを用いて前記取得した内視鏡画像の画像認識を行う画像認識部と、
を備えた内視鏡画像認識装置。
【請求項11】
第1の波長帯域光の内視鏡画像を生成モデルによって生成する画像生成工程と、
前記画像生成工程で生成された内視鏡画像を用いて画像認識用の学習モデルの学習を行う機械学習工程と、
を備え
、
前記画像生成工程は、前記第1の波長帯域光とは異なる第2の波長帯域光で撮影された第2の内視鏡画像を入力とし、前記第2の内視鏡画像を前記第1の波長帯域光の第1の内視鏡画像に変換し、
前記第1の波長帯域光は特殊光であり、前記第2の波長帯域光は白色光である内視鏡画像学習方法。
【請求項12】
請求項
11に記載の内視鏡画像学習方法をコンピュータに実行させるためのプログラム。
【請求項13】
非一時的かつコンピュータ読取可能な記録媒体であって、前記記録媒体に格納された指令がコンピュータによって読み取られた場合に請求項
12に記載のプログラムをコンピュータに実行させる記録媒体。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は内視鏡画像認識装置、内視鏡画像学習装置、内視鏡画像学習方法及びプログラムに係り、特に画像認識用の学習モデルを学習する技術に関する。
【背景技術】
【0002】
内視鏡検査では、通常光だけでなく、特殊な波長バランスを用いて発光させた特殊光を用いて観察することで、病変の鑑別及び検出の精度向上、病変の見落としの低減が期待されている。
【0003】
一方、内視鏡画像上の病変をコンピュータによって画像認識する技術が知られている。特に、機械学習によって作成された画像認識器を用いることで、精度の高い診断が可能となる。このような画像認識器を用いた画像認識技術においても、特殊光を用いた内視鏡画像について、認識精度の向上が期待される。
【0004】
機械学習によって作成される画像認識器の精度は、学習に用いられた画像データに大きく依存する。このため、様々な光源で撮影された内視鏡画像を大量に収集する必要がある。しかしながら、実際の現場では、通常白色光での検査が行われ、特殊光は、検査目的等に応じて選択的に利用されるため、特殊光で撮影された画像を収集することは困難であった。したがって、特殊光画像の認識精度向上のためには、機械学習に適した特殊光画像を生成して学習データとすることが必要となる。
【0005】
特許文献1には、内視鏡第一観察画像と内視鏡第二観察画像の分光推定画像をそれぞれ生成するにあたり、内視鏡第一観察画像に対しては所定の波長セットに応じて第一分光推定画像を生成し、内視鏡第二観察画像に対しては第一光源からの照射光のスペクトルを近似的に生成する近似波長セットを設定し、設定された近似波長セットに応じて第二分光推定画像を生成する技術が開示されている。
【0006】
また、特許文献2には、パーツ画像に対してアフィン変形を行い、変形画像を作成する技術が記載されている。
【0007】
さらに、特許文献3には、低解像度画像と高解像度画像との複数の組み合わせを学習し、それに基づく推論を行って解像度変換を行う技術が記載されている。
【先行技術文献】
【特許文献】
【0008】
【文献】特開2011-194082号公報
【文献】特開2012-043151号公報
【文献】特開2018-005841号公報
【発明の概要】
【発明が解決しようとする課題】
【0009】
しかしながら、特許文献1~3に記載の技術は、ユーザに提示する画像の視認性を向上させるのが狙いである。また、特許文献1、2に記載の画像変換方法は、いわゆる人手で設計された変換方法であり、白色光画像から特殊光画像等の波長帯域光の変換といった、複雑な変換を忠実に再現するのは容易ではない。したがって、機械学習に適した画像を生成することはできず、画像認識用の学習モデルの学習を適切に行うことができなかった。
【0010】
本発明はこのような事情に鑑みてなされたもので、内視鏡画像を認識する画像認識用の学習モデルの学習を適切に行う内視鏡画像認識装置、内視鏡画像学習装置、内視鏡画像学習方法及びプログラムを提供することを目的とする。
【課題を解決するための手段】
【0011】
上記目的を達成するために内視鏡画像学習装置の一の態様は、第1の波長帯域光の内視鏡画像を生成モデルによって生成する画像生成部と、画像生成部で生成された内視鏡画像を用いて画像認識用の学習モデルの学習を行う機械学習部と、を備える内視鏡画像学習装置である。
【0012】
本態様によれば、第1の波長帯域光の内視鏡画像を生成モデルによって生成し、生成された内視鏡画像を用いて画像認識用の学習モデルの学習を行うようにしたので、内視鏡画像を認識する画像認識用の学習モデルの学習を適切に行うことができる。
【0013】
画像生成部は、第1の波長帯域光とは異なる第2の波長帯域光で撮影された第2の内視鏡画像を入力とし、第2の内視鏡画像を第1の波長帯域光の第1の内視鏡画像に変換することが好ましい。これにより、第1の波長帯域光の第1の内視鏡画像を適切に生成することができる。
【0014】
第1の波長帯域光は特殊光であり、第2の波長帯域光は白色光であることが好ましい。これにより、データ数の多い白色光画像からデータ数の少ない特殊光画像を生成することができる。
【0015】
第1の内視鏡画像と第2の内視鏡画像とは、画像認識の正解を示す正解データが共通であることが好ましい。これにより、新たに正解データを作成することなく使用することができる。
【0016】
第1の内視鏡画像の画像認識の正解を示す正解データは、第2の内視鏡画像の正解を示す正解データを用いて生成した正解データであってもよい。このような正解データを用いても、学習モデルの学習を適切に行うことができる。
【0017】
学習モデルは、入力された内視鏡画像から病変領域を検出することが好ましい。これにより、入力された内視鏡画像から病変領域を適切に検出することができる。
【0018】
学習モデルは、病変領域が良性及び悪性のいずれかを分類することが好ましい。これにより、病変領域が良性及び悪性のいずれかを適切に分類することができる。
【0019】
生成モデルは、第1の波長帯域光で撮影された内視鏡画像と第2の内視鏡画像とを用いた学習により得られた生成モデルであることが好ましい。これにより、第1の波長帯域光の内視鏡画像を適切に生成することができる。
【0020】
生成モデルは、畳み込みニューラルネットワークを用いて学習されることが好ましい。これにより、第1の波長帯域光の内視鏡画像を適切に生成することができる。
【0021】
生成モデルは、GAN(Generative Adversarial Networks)であることが好ましい。これにより、第1の波長帯域光の内視鏡画像を適切に生成することができる。
【0022】
機械学習部は、畳み込みニューラルネットワークを用いて学習モデルの学習を行うことが好ましい。これにより、画像認識用の学習モデルの学習を適切に行うことができる。
【0023】
上記目的を達成するために内視鏡画像認識装置の一の態様は、第1の波長帯域光で撮影された内視鏡画像を取得する画像取得部と、上記の内視鏡画像学習装置によって学習された学習モデルを用いて取得した内視鏡画像の画像認識を行う画像認識部と、を備えた内視鏡画像認識装置である。
【0024】
本態様によれば、第1の波長帯域光で撮影された内視鏡画像を取得し、学習モデルを用いて取得した内視鏡画像の画像認識を行うようにしたので、内視鏡画像の画像認識を適切に行うことができる。
【0025】
上記目的を達成するために内視鏡画像学習方法の一の態様は、第1の波長帯域光の内視鏡画像を生成モデルによって生成する画像生成工程と、画像生成工程で生成された内視鏡画像を用いて画像認識用の学習モデルの学習を行う機械学習工程と、を備える内視鏡画像学習方法である。
【0026】
本態様によれば、第1の波長帯域光の内視鏡画像を生成モデルによって生成し、生成された内視鏡画像を用いて画像認識用の学習モデルの学習を行うようにしたので、内視鏡画像を認識する画像認識用の学習モデルの学習を適切に行うことができる。
【0027】
上記目的を達成するためにコンピュータに実行させるためのプログラムの一の態様は、上記の内視鏡画像学習方法をコンピュータに実行させるためのプログラムである。
【0028】
本態様によれば、第1の波長帯域光の内視鏡画像を生成モデルによって生成し、生成された内視鏡画像を用いて画像認識用の学習モデルの学習を行うようにしたので、内視鏡画像を認識する画像認識用の学習モデルの学習を適切に行うことができる。
【発明の効果】
【0029】
本発明によれば、内視鏡画像を認識する画像認識用の学習モデルの学習を適切に行うことができる。
【図面の簡単な説明】
【0030】
【
図1】
図1は、内視鏡画像学習装置のハードウェア構成の一例を示すブロック図である。
【
図2】
図2は、内視鏡画像学習装置の主要な機能を示す機能ブロック図である。
【
図3】
図3は、機械学習部の主要な機能を示す機能ブロック図である。
【
図4】
図4は、画像生成部の主要な機能を示す機能ブロック図である。
【
図5】
図5は、内視鏡画像学習方法の一例を示すフローチャートである。
【
図6】
図6は、内視鏡画像学習装置の主要な機能を示す機能ブロック図である。
【
図7】
図7は、画像生成部の主要な機能を示す機能ブロック図である。
【
図8】
図8は、内視鏡システムを示す外観図である。
【
図9】
図9は、内視鏡システムの機能を示すブロック図である。
【
図10】
図10は、光L1及び光L2の強度分布を示すグラフである。
【発明を実施するための形態】
【0031】
以下、添付図面に従って本発明の好ましい実施形態について詳説する。
【0032】
<医療画像学習装置のハードウェア構成>
図1は、本発明に係る内視鏡画像学習装置のハードウェア構成の一例を示すブロック図である。
【0033】
内視鏡画像学習装置10は、パーソナルコンピュータ又はワークステーションによって構成される。内視鏡画像学習装置10は、主として通信部12と、第1データベース14と、第2データベース16と、操作部18と、CPU(Central Processing Unit)20と、RAM(Random Access Memory)22と、ROM(Read Only Memory)24と、表示部26とから構成されている。
【0034】
通信部12は、有線又は無線により外部装置との通信処理を行い、外部装置との間で情報のやり取りを行うインターフェースである。
【0035】
第1データベース14は、通常光で撮影された複数の通常光画像14Aからなる通常光画像群と、各通常光画像14Aの正しい画像認識結果を示す正解データ14Bとからなる学習用の第1データセットを保存する大容量ストレージ装置である。第2データベース16は、特殊光で撮影された複数の特殊光画像16Aからなる特殊光画像群と、各特殊光画像16Aの正しい画像認識結果を示す正解データ16Bとからなる学習用の第2データセットを保存する大容量ストレージ装置である。
【0036】
ここで、通常光画像及び特殊光画像は、不図示の内視鏡装置によりそれぞれ異なる光源下で撮影されたカラー画像である。
【0037】
通常光は、可視光の全ての波長帯域の光がほぼ均等に混ざった光(白色光)であり、通常光画像は、通常観察に使用される。したがって、通常光画像群は、比較的多く集めることができる。
【0038】
一方、特殊光は、1つの特定の波長帯域の光、又は複数の特定の波長帯域の光の組み合わせた、観察目的に応じた各種の波長帯域の光であり、白色の波長帯域よりも狭い帯域を有し、狭帯域観察(NBI(登録商標)、FICE(Flexible spectral imaging color enhancement、登録商標))に使用される。
【0039】
特定の波長帯域の第1例は、例えば可視域の青色帯域又は緑色帯域である。この第1例の波長帯域は、390nm以上450nm以下又は530nm以上550nm以下の波長帯域を含み、且つ第1例の光は、390nm以上450nm以下又は530nm以上550nm以下の波長帯域内にピーク波長を有する。
【0040】
特定の波長帯域の第2例は、例えば可視域の赤色帯域である。この第2例の波長帯域は、585nm以上615nm以下又は610nm以上730nm以下の波長帯域を含み、且つ第2例の光は、585nm以上615nm以下又は610nm以上730nm以下の波長帯域内にピーク波長を有する。
【0041】
特定の波長帯域の第3例は、酸化ヘモグロビンと還元ヘモグロビンとで吸光係数が異なる波長帯域を含み、且つ第3例の光は、酸化ヘモグロビンと還元ヘモグロビンとで吸光係数が異なる波長帯域にピーク波長を有する。この第3例の波長帯域は、400±10nm、440±10nm、470±10nm、又は600nm以上750nm以下の波長帯域を含み、且つ第3例の光は、上記400±10nm、440±10nm、470±10nm、又は600nm以上750nm以下の波長帯域にピーク波長を有する。
【0042】
特定の波長帯域の第4例は、生体内の蛍光物質が発する蛍光の観察(蛍光観察)に用いられ且つこの蛍光物質を励起させる励起光の波長帯域(390nmから470nm)である。
【0043】
特定の波長帯域の第5例は、赤外光の波長帯域である。この第5例の波長帯域は、790nm以上820nm以下又は905nm以上970nm以下の波長帯域を含み、且つ第5例の光は、790nm以上820nm以下又は905nm以上970nm以下の波長帯域にピーク波長を有する。
【0044】
このような特定の波長帯域を有する特殊光下で撮影された特殊光画像は病変が見にくいため、表面構造を観察したい等の観察目的に応じた場合にしか使用されず、データ数が多くない。
【0045】
本例では、第1データベース14に保存されている通常光画像群の第1データセットは、第2データベース16に保存されている特殊光画像群の第2データセットよりも多く準備されているものとする。
【0046】
また、第1データベース14及び第2データベース16において、各通常光画像14A及び各特殊光画像16Aに関連付けて保存されている正解データ14B及び16Bは、例えば通常光画像及び特殊光画像内に写っている病変の種類、病変の位置を示したデータ、症例固有の識別情報等が考えられる。病変の分類においては、腫瘍性、非腫瘍性の2分類、NICE分類等が挙げられる。病変の位置を示すデータは、病変を囲む矩形の情報、又は病変を覆い隠すようなマスクデータ等が考えられる。
【0047】
第1データベース14及び第2データベース16は、同一のストレージ装置であってもよい。また、第1データベース14及び第2データベース16は、内視鏡画像学習装置10の内部に備えるのではなく、内視鏡画像学習装置10の外部に設けてもよい。この場合、通信部12を介して外部のデータベースから学習用のデータセットを取得することができる。
【0048】
操作部18は、内視鏡画像学習装置10に対する各種の操作入力を受け付ける入力インターフェースである。操作部18は、コンピュータに有線接続又は無線接続されるキーボード又はマウス等が用いられる。
【0049】
CPU20は、ROM24又は不図示のハードディスク装置等に記憶された各種のプログラムを読み出し、各種の処理を実行する。RAM22は、CPU20の作業領域として使用される。また、RAM22は、読み出されたプログラム及び各種のデータを一時的に記憶する記憶部として用いられる。
【0050】
表示部26は、内視鏡画像学習装置10の必要な情報が表示される出力インターフェースである。表示部26は、コンピュータに接続可能な液晶モニタ等の各種モニタが用いられる。
【0051】
内視鏡画像学習装置10は、操作部18からの指示入力により、CPU20がROM24又はハードディスク装置等に記憶されている内視鏡画像学習プログラムを読み出し、内視鏡画像学習プログラムを実行する。これにより、後述するように生成モデルによる内視鏡画像の生成、及び内視鏡画像を用いた学習モデルの学習を行う。
【0052】
<第1の実施形態>
〔内視鏡画像学習装置〕
図2は、第1の実施形態に係る内視鏡画像学習装置10の主要な機能を示す機能ブロック図である。内視鏡画像学習装置10は、機械学習部30と画像生成部40とを備えている。
【0053】
機械学習部30は、多数の学習用画像を用いて学習される。機械学習部30は、第1データベース14に保存された通常光画像14A及び正解データ14Bのデータセットと、第2データベース16に保存された特殊光画像16A及び正解データ16Bのデータセットとを用いて学習することにより、画像認識用の学習モデルを生成する。機械学習部30は、学習モデルの一つである畳み込みニューラルネットワーク(CNN:Convolution Neural Network)を構築する。
【0054】
図3は、機械学習部30の主要な機能を示す機能ブロック図である。機械学習部30は、主としてCNN32と、誤差算出部34と、パラメータ更新部36とから構成される。
【0055】
CNN32は、内視鏡画像に写っている病変の種類を画像認識する認識器である。CNN32は、複数のレイヤー構造を有し、複数の重みパラメータを保持している。CNN32は、重みパラメータが初期値から最適値に更新されることで、未学習モデルから学習済みモデルに変化しうる。
【0056】
このCNN32は、入力層32Aと、中間層32Bと、出力層32Cとを備える。入力層32A、中間層32B、及び出力層32Cは、それぞれ複数の「ノード」が「エッジ」で結ばれる構造となっている。
【0057】
入力層32Aには、学習対象である通常光画像14A及び特殊光画像16Aが入力される。
【0058】
中間層32Bは、入力層から入力した画像から特徴を抽出する層である。中間層32Bは、畳み込み層とプーリング層とを1セットとする複数セットと、全結合層とを有する。畳み込み層は、前の層で近くにあるノードに対してフィルタを使用した畳み込み演算を行い、特徴マップを取得する。プーリング層は、畳み込み層から出力された特徴マップを縮小して新たな特徴マップとする。全結合層は、直前の層(ここではプーリング層)のノードの全てを結合する。畳み込み層は、画像からのエッジ抽出等の特徴抽出の役割を担い、プーリング層は抽出された特徴が、平行移動等による影響を受けないようにロバスト性を与える役割を担う。なお、中間層32Bには、畳み込み層とプーリング層とを1セットとする場合に限らず、畳み込み層が連続する場合、及び正規化層も含まれる。
【0059】
出力層32Cは、中間層32Bにより抽出された特徴に基づき内視鏡画像に写っている病変(病変領域の一例)を検出する認識結果を出力する層である。また、検出した病変が良性及び悪性のいずれかを分類する認識結果を出力してもよいし、病変の種類を分類する認識結果を出力してもよい。
【0060】
学習済みのCNN32は、病変の種類を分類する場合、例えば内視鏡画像を「腫瘍性」、「非腫瘍性」、「その他」の3つのカテゴリに分類し、認識結果は「腫瘍性」、「非腫瘍性」、「その他」に対応する3つのスコアとして出力する。3つのスコアの合計は100%である。
【0061】
学習前のCNN32の各畳み込み層に適用されるフィルタの係数、オフセット値、及び全結合層における次の層との接続の重みは、任意の初期値がセットされる。
【0062】
誤差算出部34は、CNN32の出力層32Cから出力される認識結果と、入力画像に対する正解データとを取得し、両者間の誤差を算出する。誤差の算出方法は、例えばソフトマックスクロスエントロピー、又は最小二乗誤差(MSE:Mean Squared Error)等が考えられる。
【0063】
パラメータ更新部36は、誤差算出部34により算出された誤差を元に、誤差逆伝播法によりCNN32の重みパラメータを調整する。
【0064】
このパラメータの調整処理を繰り返し行い、CNN32の出力と正解データとの差が小さくなるまで繰り返し学習を行う。
【0065】
機械学習部30は、第1データベース14に保存された通常光画像群及び第2データベース16に保存された特殊光画像群の全てのデータセットを使用し、CNN32の各パラメータを最適化する。即ち、機械学習部30は、畳み込みニューラルネットワークを用いて学習モデルの学習を行う。
【0066】
機械学習部30の学習は、全てのデータセットのうち一定の数のデータセットを抽出し、抽出したデータセットによって学習のバッチ処理を行い、これを繰り返すミニバッチ法を用いてもよい。
【0067】
機械学習部30は、実現したい認識処理によっては正解データを用いなくてもよい。また、機械学習部30は、エッジ抽出等のあらかじめ設計したアルゴリズムで特徴を抽出し、その情報を用いてサポートベクターマシン等で学習してもよい。
【0068】
画像生成部40は、特殊光画像を生成モデルによって生成する。生成モデルでは、あるクラスCに対するデータxの条件付き分布p(x|C)をモデル化したものである。ここでは、クラスが光源の種類、データが画像に相当する。この生成モデルを用いれば、あるクラスに属する擬似的なデータを生成することが可能である。
【0069】
生成モデルの例としては、変分自己符号化器(VAE:Variational Auto Encorder)及び敵対的生成ネットワーク(GAN:Generative Adversarial Networks)等が知られている。
【0070】
本例の画像生成部40は、生成モデルとしてGANを構築する。GANは、データを作り出す「Generator」と、データを識別する「Discriminator」を交互に学習することで形成される生成モデルである。
【0071】
図4は、画像生成部40の主要な機能を示す機能ブロック図である。画像生成部40は、主として生成器42と、識別器44とから構成される。
【0072】
生成器42は「Generator」に相当し、識別器44は「Discriminator」に相当する。生成器42は、ノイズzを入力とし、特殊光生成画像である画像x1を生成する。識別器44は、生成された画像x1と学習用画像x0として用意した特殊光画像16Aとを入力とし、入力された画像が、生成データか学習データかを分類する。
【0073】
生成器42及び識別器44は、畳み込みニューラルネットワークを用いて学習される。
【0074】
識別器44の学習は、機械学習部30と同様の流れで学習する。具体的には、画像を入力とし、入力された画像が生成器42の生成した画像か、又はリアルな内視鏡画像であるかの分類を行う。
【0075】
一方、生成器42の学習は、ノイズzを入力とし、一般のCNNを逆に辿るような形で画像の形までデータを変換する。生成器42の学習では、画像のサイズを大きくしていく「fractionally-strided convolution」のようなアップサンプリング手法を用いる。
【0076】
学習が進行すると、生成器42と識別器44とは精度を高めあい、生成器42は識別器44に識別されない、より本物の特殊光画像に近い特殊光生成画像(第1の波長帯域光の内視鏡画像の一例)を生成できるようになる。この学習によって獲得された生成器42が生成モデルである。
【0077】
〔内視鏡画像学習方法〕
図5は、内視鏡画像学習装置10による内視鏡画像学習方法の一例を示すフローチャートである。内視鏡画像学習方法は、画像生成工程S1と、機械学習工程S2とを有している。
【0078】
画像生成工程S1では、特殊光画像と同等の特殊光生成画像を画像生成部40の生成モデルによって生成する。例えば、100枚の特殊光画像を生成する。
【0079】
機械学習工程S2では、画像生成工程S1で生成された特殊光画像を用いて機械学習部30の学習モデルの学習を行う。ここでは、100枚の特殊光画像を用いて学習を行う。
【0080】
以上により、特殊光画像を生成モデルによって生成することで、データ数の少ない特殊光画像を水増しして収集することができる。また、この生成した特殊光画像を用いて内視鏡画像認識用の学習モデルを学習させることで、データ数の少ない特殊光画像について適切に学習させることができる。したがって、特殊光画像による画像認識の性能を向上させることができる。
【0081】
<第2の実施形態>
〔内視鏡画像学習装置〕
第2の実施形態に係る内視鏡画像学習装置のハードウェア構成は、
図1に示すブロック図と同様である。
【0082】
図6は、第2の実施形態に係る内視鏡画像学習装置50の主要な機能を示す機能ブロック図である。なお、
図2に示すブロック図と共通する部分には同一の符号を付し、その詳細な説明は省略する。
【0083】
内視鏡画像学習装置50は、画像生成部60を備えている。画像生成部60は、第1データベース14、及び第2データベース16と接続されている。
【0084】
第2の実施形態では、生成モデルを画像変換に応用したモデルを画像生成部として利用する。画像生成部60は、生成モデルとしてCycleGANを構築する。CycleGANでは、あるクラスC1とクラスC2の間の変換を求める。CycleGANでは、2つのクラスに対し、「Generator」と「Discriminator」を用意したネットワークを用いる。クラスC1の「Generator」は、クラスC2の画像をクラスC1の画像に変換する分布を学習する。クラスC1の「Discriminator」は本物のクラスC1の画像と変換後の画像を見分ける。クラスC2の「Generator」と「Discriminator」は、その逆を行う。
【0085】
CycleGANの学習においても、CNNを用いることが主流である。「Discriminator」の学習は通常のGANと同様であり、「Generator」は入力及び出力に画像を用いて、適切な変換を学習させる。
【0086】
図7は、画像生成部60の主要な機能を示す機能ブロック図である。画像生成部60は、主として第1生成器62と、第1識別器64と、第2生成器66と、第2識別器68とから構成される。
【0087】
第1生成器62はクラスC1の「Generator」に相当し、第1識別器64はクラスC1の「Discriminator」に相当する。また、第2生成器66はクラスC2の「Generator」に相当し、第2識別器68はクラスC2の「Discriminator」に相当する。
【0088】
第1生成器62は、特殊光画像16Aである画像x02を入力とし、画像x02を通常光画像に変換した通常光変換画像である画像x11を生成する。第1識別器64は、生成された画像x11と学習用画像x01として用意した通常光画像14Aとを入力とし、入力された画像が、生成データか学習データかを分類する。
【0089】
また、第2生成器66は、通常光画像14Aである画像x01(第2の波長帯域光で撮影された第2の内視鏡画像の一例)を入力とし、画像x01を特殊光画像に変換した特殊光変換画像である画像x12(第1の波長帯域光の第1の内視鏡画像の一例)を生成する。第2識別器68は、生成された画像x12と学習用画像x02として用意した特殊光画像16Aとを入力とし、入力された画像が、生成データか学習データかを分類する。
【0090】
さらに、第1生成器62は、第2生成器66が生成した特殊光変換画像である画像x12を入力とし、画像x12の通常光変換画像である画像x21を生成する。第1識別器64は、生成された画像x21と学習用画像x01とを入力とし、入力された画像が、生成データか学習データかを分類する。
【0091】
同様に、第2生成器66は、第1生成器62が生成した通常光変換画像である画像x11を入力とし、画像x11の特殊光変換画像である画像x22を生成する。第2識別器68は、生成された画像x22と学習用画像x02とを入力とし、入力された画像が、生成データか学習データかを分類する。
【0092】
この学習によって獲得された第2生成器66が生成モデルである。このように、通常光画像14Aと特殊光画像16Aとを用いた学習により得られた第2生成器66によれば、白色光画像から第2識別器68に識別されない特殊光画像の変換を行うということができる。内視鏡画像学習方法については、第1の実施形態と同様である。
【0093】
第2の実施形態の生成モデルによれば、変換前の通常光画像14Aの構図のまま色味だけを変換することが可能である。生成モデルの作成に用いた多数の画像から、統計的に最適な変換方法を学習するため、より自然な画像生成が期待できる。
【0094】
特許文献1に記載の技術では、RGB(Red Green Blue)の画素値に3×3の行列演算を行っており、表現力が比較的小さい。本実施形態では、生成モデルとしてGANを使用したため、大きなパラメータによる非線形演算により、変換の表現力が比較的大きい。
【0095】
GANでは畳み込み演算を行うため、単に画素値を線形変換するのではなく、周囲の画素の情報も使用して変換することができる。
【0096】
また、通常光画像14Aと特殊光変換画像とでは、病変の画像情報の位置が変化しないため、特殊光変換画像の画像認識の正解を示す正解データは正解データ14Bを共通に使用することができる。したがって、病変が写った大量の特殊光画像を撮影して収集し、正解データの色塗り及び学習という工程を経るよりも、効率的に学習モデルの開発をすることができる。なお、特殊光変換画像の画像認識の正解を示す正解データは、通常光画像14Aの正解データを用いて生成した正解データであってもよい。
【0097】
さらに、新しい特殊光での撮影を行う内視鏡システムがリリースされた際も、生成モデルさえ作成すれば、過去の正解付きデータを再利用して学習データを作成することができる。
【0098】
<第3の実施形態>
内視鏡画像学習装置を適用した内視鏡システムについて説明する。
【0099】
〔内視鏡システムの構成〕
図8は、第3の実施形態に係る内視鏡システム100を示す外観図である。
図8に示すように、内視鏡システム100は、内視鏡112と、光源装置114と、プロセッサ装置116と、表示部118と、入力部120とを備えている。
【0100】
内視鏡112は、被験者の肛門から挿入され、直腸及び大腸等を観察するために用いられる下部内視鏡である。内視鏡112は、光源装置114と光学的に接続される。また、内視鏡112は、プロセッサ装置116と電気的に接続される。
【0101】
内視鏡112は、被験者の体腔内に挿入される挿入部112Aと、挿入部112Aの基端部分に設けられた操作部112Bと、挿入部112Aの先端側に設けられた湾曲部112Cと、先端部112Dとを有している。
【0102】
操作部112Bには、アングルノブ112Eと、モード切替スイッチ113とが設けられている。
【0103】
アングルノブ112Eを操作することにより、湾曲部112Cが湾曲動作する。この湾曲動作によって先端部112Dが所望の方向に向けられる。
【0104】
モード切替スイッチ113は、観察モードの切り替え操作に用いられる。内視鏡システム100は、照射光の波長パターンがそれぞれ異なる複数の観察モードを有している。医師は、モード切替スイッチ113を操作することにより、所望の観察モードに設定することができる。内視鏡システム100は、波長パターンと画像処理との組み合わせによって、設定された観察モードに応じた画像を生成して表示部118に表示する。
【0105】
また、操作部112Bには、不図示の取得指示入力部が設けられている。取得指示入力部は、医師が静止画の取得指示を入力するためのインターフェースである。取得指示入力部は、静止画の取得指示を受け付ける。取得指示入力部において受け付けた静止画の取得指示は、プロセッサ装置116に入力される。
【0106】
プロセッサ装置116は、表示部118及び入力部120と電気的に接続される。表示部118は、観察対象の画像及び観察対象の画像に関連する情報等を出力表示する表示デバイスである。入力部120は、内視鏡システム100の機能設定及び各種指示等の入力操作を受け付けるユーザインターフェースとして機能する。
【0107】
図9は、内視鏡システム100の機能を示すブロック図である。
図9に示すように、光源装置114は、第1レーザ光源122Aと、第2レーザ光源122Bと、光源制御部124とを備えている。
【0108】
第1レーザ光源122Aは、中心波長445nmの青色レーザ光源である。第2レーザ光源122Bは、中心波長405nmの紫色レーザ光源である。第1レーザ光源122A及び第2レーザ光源122Bとして、レーザダイオードを用いることができる。第1レーザ光源122A及び第2レーザ光源122Bの発光は、光源制御部124により個別に制御される。第1レーザ光源122Aと第2レーザ光源122Bとの発光強度比は変更自在になっている。
【0109】
また、
図9に示すように、内視鏡112は、光ファイバ128Aと、光ファイバ128Bと、蛍光体130と、拡散部材132と、撮像レンズ134と、撮像素子136と、アナログデジタル変換部138とを備えている。
【0110】
第1レーザ光源122Aと、第2レーザ光源122Bと、光ファイバ128Aと、光ファイバ128Bと、蛍光体130と、拡散部材132とによって、照射部が構成される。
【0111】
第1レーザ光源122Aから出射されるレーザ光は、光ファイバ128Aによって、内視鏡112の先端部112Dに配置された蛍光体130に照射される。蛍光体130は、第1レーザ光源122Aからの青色レーザ光の一部を吸収して緑色~黄色に励起発光する複数種の蛍光体を含んで構成される。これにより、蛍光体130から出射する光は、第1レーザ光源122Aからの青色レーザ光を励起光とする緑色~黄色の励起光L11と、蛍光体130に吸収されずに透過した青色のレーザ光L12とが合わされて、白色(疑似白色)の光L1となる。
【0112】
なお、ここで言う白色光とは、厳密に可視光の全ての波長成分を含むものに限らない。例えば、R、G、B等、特定の波長帯域の光を含むものであればよく、緑色から赤色にかけての波長成分を含む光、又は青色から緑色にかけての波長成分を含む光等も広義に含むものとする。
【0113】
一方、第2レーザ光源122Bから出射されるレーザ光は、光ファイバ128Bによって、内視鏡112の先端部112Dに配置された拡散部材132に照射される。拡散部材132は、透光性を有する樹脂材料等を用いることができる。拡散部材132から出射する光は、照射領域内において光量が均一化された狭帯域波長の光L2となる。
【0114】
図10は、光L1及び光L2の強度分布を示すグラフである。光源制御部124は、第1レーザ光源122Aと第2レーザ光源122Bとの光量比を変更する。これにより、光L1と光L2との光量比が変更され、光L1と光L2との合成光である照射光L0の波長パターンが変更される。したがって、観察モードに応じて異なる波長パターンの照射光L0を照射することができる。
【0115】
図9の説明に戻り、撮像レンズ134と、撮像素子136と、アナログデジタル変換部138とによって、撮影部(カメラ)が構成される。撮影部は、内視鏡112の先端部112Dに配置される。
【0116】
撮像レンズ134は、入射した光を撮像素子136に結像させる。撮像素子136は、受光した光に応じたアナログ信号を生成する。撮像素子136としては、CCD(Charge Coupled Device)型イメージセンサ、又はCMOS(Complementary Metal Oxide Semiconductor)型イメージセンサが用いられる。撮像素子136から出力されるアナログ信号は、アナログデジタル変換部138によりデジタル信号に変換され、プロセッサ装置116に入力される。
【0117】
また、プロセッサ装置116は、撮影制御部140と、画像処理部142と、画像取得部144と、画像認識部146とを備えている。
【0118】
撮影制御部140は、光源装置114の光源制御部124と、内視鏡112の撮像素子136及びアナログデジタル変換部138と、プロセッサ装置116の画像処理部142とを制御することで、内視鏡システム100による動画及び静止画の撮影を統括制御する。
【0119】
画像処理部142は、内視鏡112のアナログデジタル変換部138から入力されたデジタル信号に画像処理を施し、画像を示す画像データ(以下、画像と表記する)を生成する。画像処理部142は、撮影時の照射光の波長パターンに応じた画像処理を施す。
【0120】
画像取得部144は、画像処理部142が生成した画像を取得する。即ち、画像取得部144は、被験者の体腔内(生体内の一例)を一定のフレームレートで時系列的に撮影した複数の画像を順次取得する。なお、画像取得部144は、入力部120から入力された画像、又は記憶部162に記憶された画像を取得してもよい。また、不図示のネットワークに接続されたサーバ等の外部装置から画像を取得してもよい。これらの場合の画像も、時系列的に撮影した複数の画像であることが好ましい。
【0121】
画像認識部146(内視鏡画像認識装置の一例)は、内視鏡画像学習装置10によって学習された学習モデルを用いて、画像取得部144が取得した画像の画像認識を行う。本実施形態では、画像取得部144が取得した画像から病変を検出する。ここでの病変とは、病気が原因のものに限定されず、外観上正常な状態とは異なる状態の領域を含んでいる。病変としては、例えば、ポリープ、癌、大腸憩室、炎症、EMR(Endoscopic Mucosal Resection)瘢痕又はESD(Endoscopic Submucosal Dissection)瘢痕等の治療痕、クリップ箇所、出血点、穿孔、及び血管異型性等が挙げられる。
【0122】
表示制御部158は、画像処理部142によって生成された画像を表示部118に表示させる。また、画像認識部146によって検出された病変を認識可能に画像に重畳表示してもよい。
【0123】
記憶制御部160は、画像処理部142によって生成された画像を記憶部162に記憶させる。例えば、静止画の取得指示に従って撮影された画像及び画像を撮影した際の照射光L0の波長パターンの情報等を記憶部162に記憶させる。
【0124】
記憶部162は、例えばハードディスク等のストレージ装置である。なお、記憶部162は、プロセッサ装置116に内蔵されたものに限定されない。例えば、プロセッサ装置116に接続される不図示の外部記憶装置であってもよい。外部記憶装置は、不図示のネットワークを介して接続されていてもよい。
【0125】
このように構成された内視鏡システム100は、通常は一定のフレームレートで動画撮影を行い、撮影した画像を表示部118に表示する。また、撮影された動画から、病変を検出し、検出した病変を認識可能に動画に重畳して表示部118に表示する。
【0126】
内視鏡システム100によれば、内視鏡画像学習装置10によって学習された学習モデルを用いた画像認識部146によって内視鏡画像の画像認識を行うので、特殊光画像の画像認識を適切に行うことができる。
【0127】
<付記>
上述した態様及び例に加えて、以下に記載の構成も本発明の範囲に含まれる。
【0128】
(付記1)
医療画像解析処理部は、医療画像(内視鏡画像)の画素の特徴量に基づいて、注目すべき領域である注目領域を検出し、
医療画像解析結果取得部は、医療画像解析処理部の解析結果を取得する医療画像処理装置。
【0129】
(付記2)
医療画像解析処理部は、医療画像の画素の特徴量に基づいて、注目すべき対象の有無を検出し、
医療画像解析結果取得部は、医療画像解析処理部の解析結果を取得する医療画像処理装置。
【0130】
(付記3)
医療画像解析結果取得部は、
医療画像の解析結果を記録する記録装置から取得し、
解析結果は、医療画像に含まれる注目すべき領域である注目領域と、注目すべき対象の有無のいずれか、もしくは両方である医療画像処理装置。
【0131】
(付記4)
医療画像は、白色帯域の光、または白色帯域の光として複数の波長帯域の光を照射して得た通常光画像である医療画像処理装置。
【0132】
(付記5)
医療画像は、特定の波長帯域の光を照射して得た画像であり、
特定の波長帯域は、白色の波長帯域よりも狭い帯域である医療画像処理装置。
【0133】
(付記6)
特定の波長帯域は、可視域の青色もしくは、緑色帯域である医療画像処理装置。
【0134】
(付記7)
特定の波長帯域は、390nm以上450nm以下または530nm以上550nm以下の波長帯域を含み、かつ、特定の波長帯域の光は、390nm以上450nm以下または530nm以上550nm以下の波長帯域内にピーク波長を有する医療画像処理装置。
【0135】
(付記8)
特定の波長帯域は、可視域の赤色帯域である医療画像処理装置。
【0136】
(付記9)
特定の波長帯域は、585nm以上615nm以下または610nm以上730nm以下の波長帯域を含み、かつ、特定の波長帯域の光は、585nm以上615nm以下または610nm以上730nm以下の波長帯域内にピーク波長を有する医療画像処理装置。
【0137】
(付記10)
特定の波長帯域は、酸化ヘモグロビンと還元ヘモグロビンとで吸光係数が異なる波長帯域を含み、かつ、特定の波長帯域の光は、酸化ヘモグロビンと還元ヘモグロビンとで吸光係数が異なる波長帯域にピーク波長を有する医療画像処理装置。
【0138】
(付記11)
特定の波長帯域は、400±10nm、440±10nm、470±10nm、または、600nm以上750nm以下の波長帯域を含み、かつ、特定の波長帯域の光は、400±10nm、440±10nm、470±10nm、または、600nm以上750nm以下の波長帯域にピーク波長を有する医療画像処理装置。
【0139】
(付記12)
医療画像は生体内を写した生体内画像であり、
生体内画像は、生体内の蛍光物質が発する蛍光の情報を有する医療画像処理装置。
【0140】
(付記13)
蛍光は、ピークが390nm以上470nm以下である励起光を生体内に照射して得る医療画像処理装置。
【0141】
(付記14)
医療画像は生体内を写した生体内画像であり、
特定の波長帯域は、赤外光の波長帯域である医療画像処理装置。
【0142】
(付記15)
特定の波長帯域は、790nm以上820nm以下または905nm以上970nm以下の波長帯域を含み、かつ、特定の波長帯域の光は、790nm以上820nm以下または905nm以上970nm以下の波長帯域にピーク波長を有する医療画像処理装置。
【0143】
(付記16)
医療画像取得部は、白色帯域の光、または白色帯域の光として複数の波長帯域の光を照射して得る通常光画像に基づいて、特定の波長帯域の情報を有する特殊光画像を取得する特殊光画像取得部を備え、
医療画像は特殊光画像である医療画像処理装置。
【0144】
(付記17)
特定の波長帯域の信号は、通常光画像に含まれるRGB(Red Green Blue)あるいはCMY(Cyan, Magenta, Yellow)の色情報に基づく演算により得る医療画像処理装置。
【0145】
(付記18)
白色帯域の光、または白色帯域の光として複数の波長帯域の光を照射して得る通常光画像と、特定の波長帯域の光を照射して得る特殊光画像との少なくとも一方に基づく演算によって、特徴量画像を生成する特徴量画像生成部を備え、
医療画像は特徴量画像である医療画像処理装置。
【0146】
(付記19)
付記1から18のいずれか1つに記載の医療画像処理装置と、
白色の波長帯域の光、または、特定の波長帯域の光の少なくともいずれかを照射して画像を取得する内視鏡と、
を備える内視鏡装置。
【0147】
(付記20)
付記1から18のいずれか1つに記載の医療画像処理装置を備える診断支援装置。
【0148】
(付記21)
付記1から18のいずれか1つに記載の医療画像処理装置を備える医療業務支援装置。
【0149】
<その他>
上記の内視鏡画像学習方法は、各工程をコンピュータに実現させるためのプログラムとして構成し、このプログラムを記憶したCD-ROM(Compact Disk-Read Only Memory)等の非一時的な記録媒体を構成することも可能である。
【0150】
ここまで説明した実施形態において、例えば、内視鏡画像学習装置10及び内視鏡画像学習装置50の各種の処理を実行する処理部(processing unit)のハードウェア的な構造は、次に示すような各種のプロセッサ(processor)である。各種のプロセッサには、ソフトウェア(プログラム)を実行して各種の処理部として機能する汎用的なプロセッサであるCPU(Central Processing Unit)、画像処理に特化したプロセッサであるGPU(Graphics Processing Unit)、FPGA(Field Programmable Gate Array)等の製造後に回路構成を変更可能なプロセッサであるプログラマブルロジックデバイス(Programmable Logic Device:PLD)、ASIC(Application Specific Integrated Circuit)等の特定の処理を実行させるために専用に設計された回路構成を有するプロセッサである専用電気回路等が含まれる。
【0151】
1つの処理部は、これら各種のプロセッサのうちの1つで構成されていてもよいし、同種又は異種の2つ以上のプロセッサ(例えば、複数のFPGA、或いはCPUとFPGAの組み合わせ、又はCPUとGPUの組み合わせ)で構成されてもよい。また、複数の処理部を1つのプロセッサで構成してもよい。複数の処理部を1つのプロセッサで構成する例としては、第1に、サーバ及びクライアント等のコンピュータに代表されるように、1つ以上のCPUとソフトウェアの組合せで1つのプロセッサを構成し、このプロセッサが複数の処理部として機能する形態がある。第2に、システムオンチップ(System On Chip:SoC)等に代表されるように、複数の処理部を含むシステム全体の機能を1つのIC(Integrated Circuit)チップで実現するプロセッサを使用する形態がある。このように、各種の処理部は、ハードウェア的な構造として、各種のプロセッサを1つ以上用いて構成される。
【0152】
さらに、これらの各種のプロセッサのハードウェア的な構造は、より具体的には、半導体素子等の回路素子を組み合わせた電気回路(circuitry)である。
【0153】
本発明の技術的範囲は、上記の実施形態に記載の範囲には限定されない。各実施形態における構成等は、本発明の趣旨を逸脱しない範囲で、各実施形態間で適宜組み合わせることができる。
【符号の説明】
【0154】
10…内視鏡画像学習装置
12…通信部
14…第1データベース
14A…通常光画像
14B…正解データ
16…第2データベース
16A…特殊光画像
16B…正解データ
18…操作部
26…表示部
30…機械学習部
32…CNN
32A…入力層
32B…中間層
32C…出力層
34…誤差算出部
36…パラメータ更新部
40…画像生成部
42…生成器
44…識別器
50…内視鏡画像学習装置
60…画像生成部
62…第1生成器
64…第1識別器
66…第2生成器
68…第2識別器
100…内視鏡システム
112…内視鏡
112A…挿入部
112B…操作部
112C…湾曲部
112D…先端部
112E…アングルノブ
113…モード切替スイッチ
114…光源装置
116…プロセッサ装置
118…表示部
120…入力部
122A…第1レーザ光源
122B…第2レーザ光源
124…光源制御部
128A…光ファイバ
128B…光ファイバ
130…蛍光体
132…拡散部材
134…撮像レンズ
136…撮像素子
138…アナログデジタル変換部
140…撮影制御部
142…画像処理部
144…画像取得部
146…画像認識部
158…表示制御部
160…記憶制御部
162…記憶部