(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】
(24)【登録日】2024-10-02
(45)【発行日】2024-10-10
(54)【発明の名称】学習装置及び医療用画像処理装置
(51)【国際特許分類】
A61B 1/045 20060101AFI20241003BHJP
A61B 1/00 20060101ALI20241003BHJP
【FI】
A61B1/045 614
A61B1/045 616
A61B1/00 511
(21)【出願番号】P 2022501828
(86)(22)【出願日】2021-02-09
(86)【国際出願番号】 JP2021004847
(87)【国際公開番号】W WO2021166749
(87)【国際公開日】2021-08-26
【審査請求日】2023-12-21
(31)【優先権主張番号】P 2020024944
(32)【優先日】2020-02-18
(33)【優先権主張国・地域又は機関】JP
(73)【特許権者】
【識別番号】313009556
【氏名又は名称】ソニー・オリンパスメディカルソリューションズ株式会社
(74)【代理人】
【識別番号】110002147
【氏名又は名称】弁理士法人酒井国際特許事務所
(72)【発明者】
【氏名】道畑 泰平
【審査官】渡戸 正義
(56)【参考文献】
【文献】国際公開第2020/017213(WO,A1)
【文献】国際公開第2020/003991(WO,A1)
【文献】国際公開第2020/022027(WO,A1)
【文献】太田雄大、外2名,テクスチャと色特徴を用いた機械学習による舌苔抽出,第36回日本医用画像工学会大会予稿集,2017年07月27日,p.332-335
(58)【調査した分野】(Int.Cl.,DB名)
A61B 1/00 - 1/32
(57)【特許請求の範囲】
【請求項1】
第1の波長帯域の光が照射された被検体からの光を撮像した第1の教師画像と、前記第1の波長帯域とは異なる第2の波長帯域の光が照射された前記被検体からの光を撮像した第2の教師画像とを一組とする教師画像を取得する教師画像取得部と、
前記第2の教師画像内の特異領域を特定する特異領域特定部と、
前記第1の教師画像内における前記特異領域に対応する画素位置の特異対応領域の特徴量を抽出する第1の特徴量抽出部と、
前記特徴量に基づいて、前記特異対応領域を機械学習して学習モデルを生成する特異対応領域学習部とを備え
、
前記特異領域特定部は、
前記第2の教師画像において、画素レベルが特定の閾値以上となる領域を前記特異領域として特定するとともに、前記特異領域として、画素レベルが第1の範囲内となる第1の特異領域と、画素レベルが前記第1の範囲よりも高い第2の範囲内となる第2の特異領域とをそれぞれ特定し、
前記第1の特徴量抽出部は、
前記第1の教師画像内における前記特異対応領域である前記第1の特異領域に対応する画素位置の第1の特異対応領域と、前記第1の教師画像内における前記特異対応領域である前記第2の特異領域に対応する画素位置の第2の特異対応領域との特徴量をそれぞれ抽出し、
前記特異対応領域学習部は、
前記特徴量に基づいて、前記第1の特異対応領域と前記第2の特異対応領域とをそれぞれ機械学習する学習装置。
【請求項2】
前記被検体は、
前記第2の波長帯域の励起光が照射されることで蛍光を発する被検体であり、
前記第2の教師画像は、
前記励起光が照射された前記被検体からの前記蛍光を撮像した画像であり、
前記
画素レベルは、
前記第2の教師画像にお
ける前記蛍光の成分の強度
である請求項1に記載の学習装置。
【請求項3】
第1の波長帯域の光が照射された被検体からの光を撮像した第1の教師画像と、前記第1の波長帯域とは異なる第2の波長帯域の光が照射された前記被検体からの光を撮像した第2の教師画像とを一組とする教師画像を取得する教師画像取得部と、
前記第2の教師画像内の特異領域を特定する特異領域特定部と、
前記第1の教師画像内における前記特異領域に対応する画素位置の特異対応領域の特徴量を抽出する第1の特徴量抽出部と、
前記特徴量に基づいて、前記特異対応領域を機械学習して学習モデルを生成する特異対応領域学習部とを備え、
前記特徴量は、
色及び輝度の少なくとも一方に関する特徴量を含み、
前記特異対応領域学習部は、
前記特異対応領域を機械学習して学習モデルを生成する際、青の色成分に関する前記特徴量の重みを他の色成分に関する前記特徴量の重みよりも低くす
る学習装置。
【請求項4】
前記第1の波長帯域の光は、
交互に繰り返される第1の期間と第2の期間とにおいて、前記第1の期間に発光した光であり、
前記第2の波長帯域の光は、
前記第2の期間に発光した光である請求項1に記載の学習装置。
【請求項5】
第1の波長帯域の光が照射された観察対象からの光を撮像した撮像画像を取得する撮像画像取得部と、
前記撮像画像の領域毎の特徴量を抽出する第2の特徴量抽出部と、
前記特徴量に基づいて、機械学習により構築された学習モデル用いて前記撮像画像内における特異対応領域を特定する特異対応領域特定部とを備え、
前記学習モデルは、
前記第1の波長帯域の光が照射された被検体からの光を撮像した第1の教師画像と、前記第1の波長帯域とは異なる第2の波長帯域の光が照射された前記被検体からの光を撮像した第2の教師画像とを一組とする教師画像を用い、前記第1の教師画像内における前記第2の教師画像内の特異領域に対応する画素位置の前記特異対応領域の特徴量に基づいて、前記特異対応領域を機械学習して生成された学習モデルであ
り、
前記特異領域は、
前記第2の教師画像において、画素レベルが特定の閾値以上となる領域であるとともに、画素レベルが第1の範囲内となる第1の特異領域と、画素レベルが前記第1の範囲よりも高い第2の範囲内となる第2の特異領域とを含み、
前記学習モデルは、
前記第1の教師画像内における前記特異対応領域である前記第1の特異領域に対応する画素位置の第1の特異対応領域と、前記第1の教師画像内における前記特異対応領域である前記第2の特異領域に対応する画素位置の第2の特異対応領域との特徴量に基づいて、前記第1の特異対応領域と前記第2の特異対応領域とをそれぞれ機械学習して生成された学習モデルである医療用画像処理装置。
【請求項6】
前記被検体は、
前記第2の波長帯域の励起光が照射されることで蛍光を発する被検体であり、
前記第2の教師画像は、
前記励起光が照射された前記被検体からの前記蛍光を撮像した画像であり、
前記
画素レベルは、
前記第2の教師画像にお
ける前記蛍光の成分の強
度である請求項
5に記載の医療用画像処理装置。
【請求項7】
第1の波長帯域の光が照射された観察対象からの光を撮像した撮像画像を取得する撮像画像取得部と、
前記撮像画像の領域毎の特徴量を抽出する第2の特徴量抽出部と、
前記特徴量に基づいて、機械学習により構築された学習モデル用いて前記撮像画像内における特異対応領域を特定する特異対応領域特定部とを備え、
前記学習モデルは、
前記第1の波長帯域の光が照射された被検体からの光を撮像した第1の教師画像と、前記第1の波長帯域とは異なる第2の波長帯域の光が照射された前記被検体からの光を撮像した第2の教師画像とを一組とする教師画像を用い、前記第1の教師画像内における前記第2の教師画像内の特異領域に対応する画素位置の前記特異対応領域の特徴量に基づいて、前記特異対応領域を機械学習して生成された学習モデルであり、
前記特徴量は、
色及び輝度の少なくとも一方に関する特徴量を含み、
前記学習モデルは、
青の色成分に関する前記特徴量の重みを他の色成分に関する前記特徴量の重みを低くした状態で、前記特異対応領域を機械学習して生成された学習モデルであ
る医療用画像処理装置。
【請求項8】
前記第1の波長帯域の光は、
交互に繰り返される第1の期間と第2の期間とにおいて、前記第1の期間に発光した光であり、
前記第2の波長帯域の光は、
前記第2の期間に発光した光である請求項
5に記載の医療用画像処理装置。
【請求項9】
前記撮像画像内において、前記特異対応領域を他の領域と識別して表示する表示画像を生成する表示制御部をさらに備える請求項
5に記載の医療用画像処理装置。
【発明の詳細な説明】
【技術分野】
【0001】
本開示は、学習装置及び医療用画像処理装置に関する。
【背景技術】
【0002】
従来、生体内にインドシアニングリーン等の蛍光物質を投与し、当該蛍光物質を励起させる励起光を観察対象に照射することによって当該蛍光物質が集積した病変部を蛍光観察する硬性鏡システムが知られている(例えば、特許文献1参照)。
特許文献1に記載の硬性鏡システムでは、以下の第1,第2の撮像画像をそれぞれ取得し、当該第1,第2の撮像画像を対応する画素同士で重畳して重畳画像を生成している。
第1の撮像画像は、白色光である通常光が観察対象に照射され、当該観察対象で反射された通常光を撮像素子にて撮像した画像である。
第2の撮像画像は、インドシアニングリーン等の蛍光物質を励起させる励起光が観察対象に照射され、当該励起光によって励起された当該観察対象からの蛍光を高感度撮像素子にて撮像した画像である。
【先行技術文献】
【特許文献】
【0003】
【発明の概要】
【発明が解決しようとする課題】
【0004】
しかしながら、特許文献1に記載の硬性鏡システムでは、病変部(観察対象から発した蛍光の領域(以下、蛍光領域と記載))を観察するためには、生体内にインドシアニングリーン等の蛍光物質を投与する必要がある。例えば、当該投与を行わずに、第1の撮像画像から、蛍光領域を推測することができれば、利便性を向上させることが可能となる。
【0005】
本開示は、上記に鑑みてなされたものであって、利便性を向上させることができる学習装置及び医療用画像処理装置を提供することを目的とする。
【課題を解決するための手段】
【0006】
上述した課題を解決し、目的を達成するために、本開示に係る学習装置は、第1の波長帯域の光が照射された被検体からの光を撮像した第1の教師画像と、前記第1の波長帯域とは異なる第2の波長帯域の光が照射された前記被検体からの光を撮像した第2の教師画像とを一組とする教師画像を取得する教師画像取得部と、前記第2の教師画像内の特異領域を特定する特異領域特定部と、前記第1の教師画像内における前記特異領域に対応する画素位置の特異対応領域の特徴量を抽出する第1の特徴量抽出部と、前記特徴量に基づいて、前記特異対応領域を機械学習して学習モデルを生成する特異対応領域学習部とを備える。
【0007】
また、本開示に係る学習装置では、上記開示において、前記被検体は、前記第2の波長帯域の励起光が照射されることで蛍光を発する被検体であり、前記第2の教師画像は、前記励起光が照射された前記被検体からの前記蛍光を撮像した画像であり、前記特異領域特定部は、前記第2の教師画像において、前記蛍光の成分の強度が特定の閾値以上となる領域を前記特異領域として特定する。
【0008】
また、本開示に係る学習装置では、上記開示において、前記特異領域特定部は、前記第2の教師画像において、画素レベルが特定の閾値以上となる領域を前記特異領域として特定する。
【0009】
また、本開示に係る学習装置では、上記開示において、前記特異領域特定部は、前記特異領域として、画素レベルが第1の範囲内となる第1の特異領域と、画素レベルが前記第1の範囲よりも高い第2の範囲内となる第2の特異領域とをそれぞれ特定し、前記第1の特徴量抽出部は、前記第1の教師画像内における前記特異対応領域である前記第1の特異領域に対応する画素位置の第1の特異対応領域と、前記第1の教師画像内における前記特異対応領域である前記第2の特異領域に対応する画素位置の第2の特異対応領域との特徴量をそれぞれ抽出し、前記特異対応領域学習部は、前記特徴量に基づいて、前記第1の特異対応領域と前記第2の特異対応領域とをそれぞれ機械学習する。
【0010】
また、本開示に係る学習装置では、上記開示において、前記特徴量は、色及び輝度の少なくとも一方に関する特徴量を含み、前記特異対応領域学習部は、前記特異対応領域を機械学習して学習モデルを生成する際、青の色成分に関する前記特徴量の重みを他の色成分に関する前記特徴量の重みよりも低くする。
【0011】
また、本開示に係る学習装置では、上記開示において、前記第1の波長帯域の光は、交互に繰り返される第1の期間と第2の期間とにおいて、前記第1の期間に発光した光であり、前記第2の波長帯域の光は、前記第2の期間に発光した光である。
【0012】
本開示に係る医療用画像処理装置は、第1の波長帯域の光が照射された観察対象からの光を撮像した撮像画像を取得する撮像画像取得部と、前記撮像画像内の領域毎の特徴量を抽出する第2の特徴量抽出部と、前記特徴量に基づいて、機械学習により構築された学習モデル用いて前記撮像画像内における特異対応領域を特定する特異対応領域特定部とを備え、前記学習モデルは、前記第1の波長帯域の光が照射された被検体からの光を撮像した第1の教師画像と、前記第1の波長帯域とは異なる第2の波長帯域の光が照射された前記被検体からの光を撮像した第2の教師画像とを一組とする教師画像を用い、前記第1の教師画像内における前記第2の教師画像内の特異領域に対応する画素位置の前記特異対応領域の特徴量に基づいて、前記特異対応領域を機械学習して生成された学習モデルである。
【0013】
また、本開示に係る医療用画像処理装置では、上記開示において、前記被検体は、前記第2の波長帯域の励起光が照射されることで蛍光を発する被検体であり、前記第2の教師画像は、前記励起光が照射された前記被検体からの前記蛍光を撮像した画像であり、前記特異領域は、前記第2の教師画像において、前記蛍光の成分の強度が特定の閾値以上となる領域である。
【0014】
また、本開示に係る医療用画像処理装置では、上記開示において、前記特異領域は、前記第2の教師画像において、画素レベルが特定の閾値以上となる領域である。
【0015】
また、本開示に係る医療用画像処理装置では、上記開示において、前記特異領域は、画素レベルが第1の範囲内となる第1の特異領域と、画素レベルが前記第1の範囲よりも高い第2の範囲内となる第2の特異領域とを含み、前記学習モデルは、前記第1の教師画像内における前記特異対応領域である前記第1の特異領域に対応する画素位置の第1の特異対応領域と、前記第1の教師画像内における前記特異対応領域である前記第2の特異領域に対応する画素位置の第2の特異対応領域との特徴量に基づいて、前記第1の特異対応領域と前記第2の特異対応領域とをそれぞれ機械学習して生成された学習モデルである。
【0016】
また、本開示に係る医療用画像処理装置では、上記開示において、前記特徴量は、色及び輝度の少なくとも一方に関する特徴量を含み、前記学習モデルは、青の色成分に関する前記特徴量の重みを他の色成分に関する前記特徴量の重みを低くした状態で、前記特異対応領域を機械学習して生成された学習モデルである。
【0017】
また、本開示に係る医療用画像処理装置では、上記開示において、前記第1の波長帯域の光は、交互に繰り返される第1の期間と第2の期間とにおいて、前記第1の期間に発光した光であり、前記第2の波長帯域の光は、前記第2の期間に発光した光である。
【0018】
また、本開示に係る医療用画像処理装置では、上記開示において、前記撮像画像内において、前記特異対応領域を他の領域と識別して表示する表示画像を生成する表示制御部をさらに備える。
【発明の効果】
【0019】
本開示に係る学習装置及び医療用画像処理装置によれば、利便性を向上させることができる。
【図面の簡単な説明】
【0020】
【
図1】
図1は、実施の形態に係る学習システムの構成を示す図である。
【
図2】
図2は、教師画像生成装置の構成を示す図である。
【
図3】
図3は、カメラヘッド及び制御装置の構成を示す図である。
【
図4】
図4は、教師画像生成装置の動作を示すフローチャートである。
【
図5】
図5は、教師画像生成装置の動作を説明する図である。
【
図6】
図6は、教師画像生成装置の動作を説明する図である。
【
図8】
図8は、学習装置の動作を示すフローチャートである。
【
図9】
図9は、医療用観察装置の構成を示す図である。
【
図10】
図10は、カメラヘッド及び制御装置の構成を示す図である。
【
図11】
図11は、医療用観察装置の動作を示すフローチャートである。
【
図12】
図12は、医療用観察装置の動作を説明する図である。
【発明を実施するための形態】
【0021】
以下に、図面を参照して、本開示を実施するための形態(以下、実施の形態)について説明する。なお、以下に説明する実施の形態によって本開示が限定されるものではない。さらに、図面の記載において、同一の部分には同一の符号を付している。
【0022】
〔1.学習システムの概略構成〕
図1は、本実施の形態に係る学習システム1の構成を示す図である。
学習システム1は、近赤外励起光を観察対象に照射した際に蛍光が発せられる蛍光領域(特異領域)を推測するために用いる学習モデルを生成するシステムである。この学習システム1は、
図1に示すように、教師画像生成装置2と、学習装置3とを備える。そして、これら教師画像生成装置2及び学習装置3は、ネットワークNE(
図1)を介して有線または無線により通信を行う。
なお、
図1では、教師画像生成装置2を1台のみ図示しているが、当該教師画像生成装置2の台数は、1台に限らず、複数台であっても構わない。
【0023】
〔2.教師画像生成装置の構成〕
先ず、教師画像生成装置2の構成について説明する。
図2は、教師画像生成装置2の構成を示す図である。
教師画像生成装置2は、学習装置3での機械学習に用いられる教師画像を生成する装置である。この教師画像生成装置2は、
図2に示すように、挿入部21と、光源装置22と、ライトガイド23と、カメラヘッド24と、第1の伝送ケーブル25と、表示装置26と、第2の伝送ケーブル27と、制御装置28と、第3の伝送ケーブル29とを備える。
【0024】
挿入部21は、硬性内視鏡である。すなわち、挿入部21は、全体が硬質、または一部が軟質で他の部分が硬質である細長形状を有し、生体内に挿入される。この挿入部21内には、1または複数のレンズを用いて構成され、生体内(被検体)からの光を集光する光学系が設けられている。
【0025】
光源装置22は、ライトガイド23の一端が接続され、制御装置28による制御の下、当該ライトガイド23の一端に生体内に照射する光を供給する。この光源装置22は、
図2に示すように、第1の光源221と、第2の光源222とを備える。
第1の光源221は、第1の波長帯域の通常光を出射(発光)する。本実施の形態では、第1の光源221は、白色光を出射するLED(Light Emitting Diode)で構成されている。
第2の光源222は、第1の波長帯域とは異なる第2の波長帯域の励起光を出射(発光)する。本実施の形態では、近赤外の波長帯域の近赤外励起光を出射する半導体レーザで構成されている。当該近赤外励起光は、インドシアニングリーン等の蛍光物質を励起する励起光である。また、当該インドシアニングリーン等の蛍光物質は、当該近赤外励起光で励起すると、当該近赤外励起光の波長帯域の中心波長よりも長波長側に中心波長を有する蛍光を発する。なお、近赤外励起光の波長帯域と蛍光の波長帯域とは、一部が重なり合うように設定してもよく、あるいは、全く重なり合わないように設定しても構わない。
【0026】
そして、光源装置22では、制御装置28による制御の下、交互に繰り返される第1,第2の期間のうち、第1の期間において、第1の光源221が駆動する。すなわち、第1の期間では、光源装置22は、通常光(白色光)を出射する。また、光源装置22では、制御装置28による制御の下、第2の期間において、第2の光源222が駆動する。すなわち、第2の期間では、光源装置22は、近赤外励起光を出射する。
なお、本実施の形態では、光源装置22は、制御装置28とは別体で構成されているが、これに限らず、当該制御装置28内部に設けられた構成を採用しても構わない。
【0027】
ライトガイド23は、一端が光源装置22に着脱自在に接続されるとともに、他端が挿入部21に着脱自在に接続される。そして、ライトガイド23は、光源装置22から供給された光(通常光や近赤外励起光)を一端から他端に伝達し、挿入部21に供給する。生体内に通常光(白色光)が照射された場合には、当該生体内で反射された通常光が挿入部21内の光学系により集光される。なお、以下では、説明の便宜上、挿入部21内の光学系により集光された当該通常光を第1の被写体像と記載する。また、生体内に近赤外励起光が照射された場合には、当該生体内で反射された近赤外励起光と、当該生体内における病変部に集積するインドシアニングリーン等の蛍光物質が励起され、当該蛍光物質から発せられた蛍光とが挿入部21内の光学系により集光される。なお、以下では、説明の便宜上、挿入部21内の光学系により近赤外励起光と蛍光とが集光された後、後述する励起光カットフィルタ242aを透過した蛍光を第2の被写体像と記載する。
【0028】
カメラヘッド24は、挿入部21の基端(接眼部211(
図2))に着脱自在に接続される。そして、カメラヘッド24は、制御装置28による制御の下、第1の被写体像(通常光)や第2の被写体像(蛍光)を撮像し、当該撮像による画像信号(RAW信号)を出力する。当該画像信号は、例えば、4K以上の画像信号である。
なお、カメラヘッド24の詳細な構成については、後述する「2-1.カメラヘッドの構成」において説明する。
【0029】
第1の伝送ケーブル25は、一端がコネクタCN1(
図2)を介して制御装置28に着脱自在に接続され、他端がコネクタCN2(
図2)を介してカメラヘッド24に着脱自在に接続される。そして、第1の伝送ケーブル25は、カメラヘッド24から出力される画像信号等を制御装置28に伝送するとともに、制御装置28から出力される制御信号、同期信号、クロック、及び電力等をカメラヘッド24にそれぞれ伝送する。
なお、第1の伝送ケーブル25を介したカメラヘッド24から制御装置28への画像信号等の伝送は、当該画像信号等を光信号で伝送してもよく、あるいは、電気信号で伝送しても構わない。第1の伝送ケーブル25を介した制御装置28からカメラヘッド24への制御信号、同期信号、クロックの伝送も同様である。
【0030】
表示装置26は、液晶または有機EL(Electro Luminescence)等を用いた表示ディスプレイで構成され、制御装置28による制御の下、当該制御装置28からの映像信号に基づく画像を表示する。
第2の伝送ケーブル27は、一端が表示装置26に着脱自在に接続され、他端が制御装置28に着脱自在に接続される。そして、第2の伝送ケーブル27は、制御装置28にて処理された映像信号を表示装置26に伝送する。
【0031】
制御装置28は、CPU(Central Processing Unit)やFPGA(Field-Programmable Gate Array)等で構成され、光源装置22、カメラヘッド24、及び表示装置26の動作を統括的に制御する。
なお、制御装置28の詳細な構成については、後述する「2-2.制御装置の構成」において説明する。
第3の伝送ケーブル29は、一端が光源装置22に着脱自在に接続され、他端が制御装置28に着脱自在に接続される。そして、第3の伝送ケーブル29は、制御装置28からの制御信号を光源装置22に伝送する。
【0032】
〔2-1.カメラヘッドの構成〕
次に、カメラヘッド24の構成について説明する。
図3は、カメラヘッド24及び制御装置28の構成を示す図である。
なお、
図3では、説明の便宜上、制御装置28及びカメラヘッド24と第1の伝送ケーブル25との間のコネクタCN1,CN2、制御装置28及び表示装置26と第2の伝送ケーブル27との間のコネクタ、制御装置28及び光源装置22と第3の伝送ケーブル29との間のコネクタの図示を省略している。
カメラヘッド24は、
図3に示すように、レンズユニット241と、撮像部242と、第1の通信部243とを備える。
【0033】
レンズユニット241は、1または複数のレンズを用いて構成され、第1の被写体像(通常光)や第2の被写体像(蛍光)を撮像部242(撮像素子242b)の撮像面に結像する。
撮像部242は、制御装置28による制御の下、生体内を撮像する。この撮像部242は、
図3に示すように、励起光カットフィルタ242aと、撮像素子242bと、信号処理部242cとを備える。
【0034】
励起光カットフィルタ242aは、レンズユニット241と撮像素子242bとの間に設けられ、特定の波長帯域を除去するバンドストップフィルタで構成されている。すなわち、励起光カットフィルタ242aは、生体内から撮像素子242bに至る当該生体内で反射された近赤外励起光の光路上に配置されている。なお、以下では、説明の便宜上、励起光カットフィルタ242aにてカット(除去)する波長帯域をカット帯域と記載し、当該カット帯域よりも短波長側であって当該励起光カットフィルタ242aを透過する波長帯域を短波側透過帯域と記載し、当該カット帯域よりも長波長側であって当該励起光カットフィルタ242aを透過する波長帯域を長波側透過帯域と記載する。
【0035】
ここで、カット帯域は、近赤外励起光の波長帯域のうち少なくとも一部の波長帯域を含む。本実施の形態では、カット帯域は、近赤外励起光の波長帯域の全てを含む。また、長波側透過帯域は、蛍光の波長帯域の全てを含む。さらに、短波側透過帯域は、通常光(白色光)の波長帯域の全てを含む。
すなわち、励起光カットフィルタ242aは、レンズユニット241から撮像素子242bに向かう第1の被写体像(通常光(白色光))を透過させる。一方、励起光カットフィルタ242aは、レンズユニット241から撮像素子242bに向かう近赤外励起光及び蛍光については、近赤外励起光をカット(除去)し、蛍光(第2の被写体像)を透過させる。
【0036】
撮像素子242bは、励起光カットフィルタ242aを透過した光を受光して電気信号(アナログ信号)に変換するCCD(Charge Coupled Device)またはCMOS(Complementary Metal Oxide Semiconductor)等で構成されている。
【0037】
ここで、撮像素子242bの撮像面(受光面)には、透過させる光(R(赤),G(緑),B(青))の波長帯域に応じてグループ分けされた3つのフィルタ軍が所定の形式(例えば、ベイヤ配列)で配列されたカラーフィルタ242d(
図3)が設けられている。
具体的に、カラーフィルタ242dは、Rの波長帯域の光を主に透過させるRフィルタ群と、Bの波長帯域の光を主に透過させるBフィルタ群と、Gの波長帯域の光を主に透過させる第1のGフィルタ群(Rフィルタ群と同一の列に配列)と、Gの波長帯域の光を主に透過させる第2のGフィルタ群(Bフィルタ群と同一の列に配列)とを有する。なお、以下では、説明の便宜上、第1,第2のGフィルタ群を纏めてGフィルタ群と記載する。
ここで、R,G,Bの各フィルタ群は、蛍光についても透過させる。そして、撮像素子242bは、R,G,Bの波長帯域の光のみならず、蛍光の波長帯域の光に対しても感度を有する。
【0038】
そして、撮像素子242bは、制御装置28による制御の下、光源装置22の発光タイミングに同期して、交互に繰り返される第1,第2の期間毎に撮像を行う。以下では、説明の便宜上、撮像素子242bにより第1の期間において第1の被写体像(通常光)を撮像することで生成された画像を第1の教師画像と記載し、撮像素子242bにより第2の期間において第2の被写体像(蛍光)を撮像することで生成された画像を第2の教師画像と記載する。また、第1,第2の教師画像を纏めて教師画像と記載する。
信号処理部242cは、撮像素子242bにて生成された教師画像(アナログ信号)に対して信号処理を行って教師画像(RAW信号(デジタル信号))を出力する。
【0039】
第1の通信部243は、第1の伝送ケーブル25を介して、撮像部242から出力される教師画像(RAW信号(デジタル信号))を制御装置28に送信するトランスミッタとして機能する。この第1の通信部243は、例えば、第1の伝送ケーブル25を介して、制御装置28との間で、1Gbps以上の伝送レートで教師画像の通信を行う高速シリアルインターフェースで構成されている。
【0040】
〔2-2.制御装置の構成〕
次に、制御装置28の構成について
図3を参照しながら説明する。
制御装置28は、
図3に示すように、第2の通信部281と、メモリ282と、画像生成部283と、制御部284と、入力部285と、出力部286と、記憶部287と、第3の通信部288とを備える。
【0041】
第2の通信部281は、第1の伝送ケーブル25を介して、カメラヘッド24(第1の通信部243)から出力される教師画像(RAW信号(デジタル信号))を受信するレシーバとして機能する。この第2の通信部281は、例えば、第1の通信部243との間で、1Gbps以上の伝送レートで教師画像の通信を行う高速シリアルインターフェースで構成されている。
メモリ282は、例えば、DRAM(Dynamic Random Access Memory)等で構成されている。このメモリ282は、カメラヘッド24(第1の通信部243)から順次、出力される教師画像を複数フレーム分、一時的に記憶可能とする。
【0042】
画像生成部283は、制御部284による制御の下、カメラヘッド24(第1の通信部243)から順次、出力され、第2の通信部281にて受信した教師画像(RAW信号(デジタル信号))を処理する。この画像生成部283は、
図3に示すように、メモリコントローラ283aと、第1の画像処理部283bと、第2の画像処理部283cと、表示制御部283dとを備える。
【0043】
メモリコントローラ283aは、メモリ282への教師画像の書込み及び読出しを制御する。より具体的に、メモリコントローラ283aは、カメラヘッド24(第1の通信部243)から順次、出力され、第2の通信部281にて受信した教師画像(第1,第2の教師画像)をメモリ282に順次、書き込む。また、メモリコントローラ283aは、メモリ282から第1の教師画像を特定のタイミングで読み出すとともに、当該読み出した第1の教師画像を第1の画像処理部283bに入力させる。さらに、メモリコントローラ283aは、メモリ282から第2の教師画像を特定のタイミングで読み出すとともに、当該読み出した第2の教師画像を第2の画像処理部283cに入力させる。
【0044】
第1の画像処理部283bは、入力した第1の教師画像(RAW信号(デジタル信号))に対して、第1の画像処理を実行する。
当該第1の画像処理としては、例えば、オプティカルブラック減算処理、ホワイトバランス調整処理、デモザイク処理、色補正処理、ガンマ補正処理、RGB信号(第1の教師画像)を輝度信号及び色差信号(Y,CB/CR信号)に変換するYC処理等を例示することができる。
【0045】
第2の画像処理部283cは、入力した第2の教師画像(RAW信号(デジタル信号))に対して、第1の画像処理とは異なる第2の画像処理を実行する。
当該第2の画像処理としては、入力した第2の教師画像(RAW信号(デジタル信号))から輝度信号(Y信号)のみを生成する処理等を例示することができる。
【0046】
表示制御部283dは、第1の画像処理部283bにて第1の画像処理が実行された後の第1の教師画像と、第2の画像処理部283cにて第2の画像処理が実行された後の第2の教師画像との少なくとも一方を表示するための表示用の映像信号を生成する。そして、表示制御部283dは、第2の伝送ケーブル27を介して、当該映像信号を表示装置26に出力する。
【0047】
制御部284は、例えば、CPUやFPGA等を用いて構成され、第1~第3の伝送ケーブル25,27,29を介して制御信号を出力することで、光源装置22、カメラヘッド24、及び表示装置26の動作を制御するとともに、制御装置28全体の動作を制御する。
なお、当該制御部284の機能の一部については、後述する「3.教師画像生成装置の動作」において説明する。
【0048】
入力部285は、マウス、キーボード、及びタッチパネル等の操作デバイスを用いて構成され、医師等のユーザによるユーザ操作を受け付ける。そして、入力部285は、当該ユーザ操作に応じた操作信号を制御部284に出力する。
出力部286は、スピーカやプリンタ等を用いて構成され、各種情報を出力する。
記憶部287は、制御部284が実行するプログラムや、制御部284の処理に必要な情報等を記憶する。
第3の通信部288は、制御部284による制御の下、ネットワークNEを介して学習装置3との間で情報の送受信を行う。
【0049】
〔3.教師画像生成装置の動作〕
次に、上述した教師画像生成装置2の動作について説明する。
図4は、教師画像生成装置2の動作を示すフローチャートである。
図5及び
図6は、教師画像生成装置2の動作を説明する図である。具体的に、
図5は、第1の画像処理が実行された後の1フレームの第1の教師画像WLIを示す図である。
図6は、第2の画像処理が実行された後の1フレームの第2の教師画像IRを示す図である。なお、
図6に示した第2の教師画像IRは、グレースケールで表現されており、黒に近付くにしたがって撮像された蛍光の成分の強度(輝度値に相当)が高い(輝度値が高い)ものである。
【0050】
先ず、制御部284は、第1,第2の光源221,222の時分割駆動を実行する(ステップS1A)。具体的に、制御部284は、ステップS1Aにおいて、同期信号に基づいて、交互に繰り返される第1,第2の期間のうち、第1の期間において第1の光源221から通常光(白色光)を出射させ、第2の期間において第2の光源222から近赤外励起光を出射させる。
【0051】
ステップS1Aの後、制御部284は、同期信号に基づいて、第1,第2の光源221,222の発光タイミングに同期させ、撮像素子242bに第1,第2の期間において第1,第2の被写体像をそれぞれ撮像させる(ステップS1B~S1D)。すなわち、撮像素子242bは、第1の期間である場合(ステップS1B:Yes)、言い換えれば、生体内に通常光(白色光)が照射された場合には、第1の被写体像(通常光)を撮像して第1の教師画像を生成する(ステップS1C)。一方、撮像素子242bは、第2の期間である場合(ステップS1B:No)、言い換えれば、生体内に近赤外励起光が照射された場合には、第2の被写体像(蛍光)を撮像して第2の教師画像を生成する(ステップS1D)。
【0052】
ステップS1C,S1Dの後、メモリコントローラ283aは、同期信号に基づいて、メモリ282への教師画像の書込み及び読出しを制御する(ステップS1E)。
ステップS1Eの後、第1,第2の画像処理部283b,283cは、以下に示す処理を実行する(ステップS1F)。
すなわち、第1の画像処理部283bは、メモリコントローラ283aによってメモリ282から順次、読み出された各第1の教師画像に対して順次、第1の画像処理を実行する。そして、第1の画像処理部283bは、例えば、
図5に示した第1の教師画像WLIを出力する。一方、第2の画像処理部283cは、メモリコントローラ283aによってメモリ282から順次、読み出された各第2の教師画像に対して順次、第2の画像処理を実行する。そして、第2の画像処理部283cは、例えば、
図6に示した第2の教師画像IRを出力する。なお、第1,第2の教師画像は、同一の撮像素子242bにて撮像された画像であるため、
図5及び
図6に示した第1,第2の教師画像WLI,IRを比較して分かるように、同一の画像サイズを有している。すなわち、第1,第2の教師画像において、同一の画素位置は、同一の被写体における同一の位置を撮像した画素となっている。
【0053】
ステップS1Fの後、制御部284は、第3の通信部288の動作を制御し、当該ステップS1Fにて第1,第2の画像処理部283b,283cからそれぞれ出力される第1,第2の教師画像を一組とする教師画像を順次、学習装置3に送信する(ステップS1G)。
この後、制御部284は、ステップS1Aに戻る。
【0054】
〔3.学習装置の構成〕
次に、学習装置3の構成について説明する。
図7は、学習装置3の構成を示す図である。
学習装置3は、例えば、サーバ装置であり、教師画像生成装置2にて生成された教師画像を用いて学習モデルを生成する部分である。この学習装置3は、
図7に示すように、通信部31と、制御部32と、記憶部33とを備える。
【0055】
通信部31は、制御部32による制御の下、ネットワークNEを介して教師画像生成装置2(第3の通信部288)との間で情報の送受信を行う。
制御部32は、例えば、CPUやFPGA等を用いて構成され、学習装置3全体の動作を制御する。この制御部32は、教師画像取得部321と、特異領域特定部322と、第1の特徴量抽出部323と、特異対応領域学習部324とを備える。
なお、教師画像取得部321、特異領域特定部322、第1の特徴量抽出部323、及び特異対応領域学習部324の機能については、後述する「4.学習装置の動作」において説明する。
記憶部33は、制御部32が実行するプログラム、制御部32の処理に必要な情報、及び当該処理によって生成された情報等を記憶する。
【0056】
〔4.学習装置の動作〕
次に、上述した学習装置3の動作について説明する。
図8は、学習装置3の動作を示すフローチャートである。
先ず、教師画像取得部321は、通信部31を介して、教師画像生成装置2(第3の通信部288)から送信されてくる教師画像(第1,第2の教師画像)を順次、取得する(ステップS2A)。
【0057】
ステップS2Aの後、特異領域特定部322は、第2の教師画像内の蛍光領域(特異領域)を特定する(ステップS2B)。
具体的に、特異領域特定部322は、第2の教師画像において、画素レベルが特定の閾値以上となる領域を蛍光領域として特定する。
ここで、当該画素レベルとしては、Y信号(輝度信号)に応じた輝度値やRGB値(画素値)を例示することができる。本実施の形態では、当該画素レベルとして、当該輝度値を採用している。すなわち、
図6に示した第2の教師画像IRでは、輝度値が特定の閾値以上となる領域Arが蛍光領域として特定される。さらに、本実施の形態では、特異領域特定部322は、蛍光領域Arとして、輝度値が第1の範囲内となる第1の蛍光領域(第1の特異領域)Ar1(
図6に示したグレーの部分)と、輝度値が当該第1の範囲よりも高い第2の範囲内となる第2の蛍光領域(第2の特異領域)Ar2(
図6に示した黒の部分)とをそれぞれ特定する。
【0058】
ステップS2Bの後、第1の特徴量抽出部323は、当該ステップS2Bにて蛍光領域が特定された第2の教師画像と組となる第1の教師画像内の蛍光対応領域(特異対応領域)と非対応領域との特徴量をそれぞれ抽出する(ステップS2C)。
ここで、蛍光対応領域とは、第1の教師画像内において、第2の教師画像の蛍光領域に対応する画素位置(当該蛍光領域と同一画素位置)の領域である。そして、非対応領域は、第1の教師画像内において、蛍光対応領域以外の領域である。本実施の形態では、蛍光対応領域は、第1の教師画像内において、第2の教師画像の第1の蛍光領域Ar1に対応する画素位置の第1の蛍光対応領域と、第2の教師画像の第2の蛍光領域Ar2に対応する画素位置の第2の蛍光対応領域とで構成される。すなわち、第1の特徴量抽出部323は、第1,第2の蛍光対応領域と非対応領域との特徴量をそれぞれ抽出する。
【0059】
また、第1の蛍光対応領域の特徴量としては、以下の(1)~(3)の抽出方法を例示することができる。
(1)第1の蛍光対応領域を構成する画素毎に特徴量を抽出する。
(2)第1の蛍光対応領域を構成する複数の画素を1つのグループとして、当該グループ毎に特徴量を抽出する。
(3)第1の蛍光対応領域全体の特徴量を抽出する。
なお、第2の蛍光対応領域の特徴量、及び非対応領域の特徴量の抽出方法も上記同様である。
【0060】
さらに、特徴量としては、解像度、エッジ、色、明るさ、ノイズ、コントラスト、及びヒストグラム等に関する特徴量を例示することができる。
【0061】
ステップS2Cの後、特異対応領域学習部324は、第1の蛍光対応領域の特徴量と、第2の蛍光対応領域の特徴量と、非対応領域の特徴量とに基づいて、当該第1,第2の蛍光対応領域を機械学習して学習モデルを生成する(ステップS2D)。すなわち、当該学習モデルを用いれば、特徴量から、当該特徴量を有する領域が第1,第2の蛍光対応領域及び非対応領域のいずれの領域であるかを判別することができる。
ここで、機械学習としては、畳み込みニューラルネットワークを用いた機械学習(深層学習)を例示することができる。すなわち、当該機械学習では、第1,第2の教師画像を一組とする教師画像の数が増えれば増えるほど、第1,第2の蛍光対応領域及び非対応領域を精度よく判別可能な学習モデルを生成することができる。
本実施の形態では、特異対応領域学習部324は、第1,第2の蛍光対応領域を機械学習して学習モデルを生成する際、青の色成分に関する特徴量の重みを他の赤及び緑の色成分に関する特徴量の重みよりも低くする。例えば、当該青の色成分に関する特徴量を当該機械学習には用いない。
そして、特異対応領域学習部324は、生成した学習モデルを記憶部33に記憶する。
【0062】
〔5.医療用観察装置の構成〕
次に、学習装置3にて生成された学習モデルを用いて蛍光領域を推測する医療用観察装置4について説明する。
図9は、医療用観察装置4の構成を示す図である。
図10は、カメラヘッド44及び制御装置48の構成を示す図である。
医療用観察装置4は、
図9または
図10に示すように、教師画像生成装置2と略同様の構成を有する。なお、医療用観察装置4において、教師画像生成装置2と同一の構成には同一の符号を付している。
以下では、医療用観察装置4の各構成のうち、教師画像生成装置2とは異なる構成について主に説明する。
【0063】
光源装置42は、医療用観察装置4において、教師画像生成装置2における光源装置22に対応した構成である。この光源装置42は、
図9または
図10に示すように、第1の光源221のみを備える。すなわち、光源装置42は、光源装置22とは異なり、第2の光源222を有していない。
そして、光源装置42では、制御装置48による制御の下、第1の光源221が駆動し、通常光(白色光)のみを出射する。
なお、本実施の形態では、光源装置42は、制御装置48とは別体で構成されているが、これに限らず、当該制御装置48内部に設けられた構成を採用しても構わない。
【0064】
カメラヘッド44は、医療用観察装置4において、教師画像生成装置2におけるカメラヘッド24に対応した構成である。このカメラヘッド44は、
図10に示すように、光源装置42が第2の光源222を有していないことに伴い、カメラヘッド24から励起光カットフィルタ242aを省略した構成を有する。
そして、カメラヘッド44(撮像素子242b)は、制御装置48による制御の下、特定のフレーム周期で撮像を行う。以下では、第1の教師画像と区別するために、カメラヘッド44(撮像素子242b)により第1の被写体像(通常光)を撮像することで生成された画像を撮像画像と記載する。
【0065】
制御装置48は、本開示に係る医療用画像処理装置に相当する。この制御装置48は、医療用観察装置4において、教師画像生成装置2における制御装置28に対応した構成である。この制御装置48では、
図10に示すように、制御装置28に対して、画像生成部283及び制御部284の代わりに、画像生成部483及び制御部484が採用されている。
画像生成部483は、制御部484による制御の下、カメラヘッド44(第1の通信部243)から順次、出力され、第2の通信部281にて受信した撮像画像(RAW信号(デジタル信号))を処理する。この画像生成部483は、
図10に示すように、メモリコントローラ483aと、画像処理部483bと、第2の特徴量抽出部483cと、特異対応領域特定部483dと、表示制御部483eとを備える。
なお、メモリコントローラ483a、画像処理部483b、第2の特徴量抽出部483c、特異対応領域特定部483d、及び表示制御部483eの機能については、後述する「6.医療用観察装置の動作」において説明する。
【0066】
制御部484は、例えば、CPUやFPGA等を用いて構成され、第1~第3の伝送ケーブル25,27,29を介して制御信号を出力することで、光源装置42、カメラヘッド44、及び表示装置26の動作を制御するとともに、制御装置48全体の動作を制御する。
なお、当該制御部484の機能の一部については、後述する「6.医療用観察装置の動作」において説明する。
【0067】
〔6.医療用観察装置の動作〕
次に、上述した医療用観察装置4の動作について説明する。
図11は、医療用観察装置4の動作を示すフローチャートである。
図12は、医療用観察装置4の動作を説明する図である。具体的に、
図12は、ステップS3Gにて生成される表示画像WLI´を示す図である。ここで、
図12では、説明の便宜上、ステップS3Bにおいて
図5に示した第1の教師画像WLIと同一の撮像画像が生成されたものとしている。
なお、以下で説明する医療用観察装置4の動作を実行する前に、制御部484は、第3の通信部288の動作を制御し、学習装置3から学習モデルを受信し、当該学習モデルを記憶部287に記憶しているものとする。
【0068】
先ず、制御部484は、光源装置42(第1の光源221)を駆動する(ステップS3A)。これにより、生体内(観察対象)に対して、通常光(白色光)が照射される。
ステップS3Aの後、制御部484は、特定のフレーム周期で、撮像素子242bに第1の被写体像(通常光)を撮像させ、撮像画像を生成する(ステップS3B)。
ステップS3Bの後、メモリコントローラ483aは、メモリ282への撮像画像の書込み及び読出しを制御する(ステップS3C)。具体的に、メモリコントローラ483aは、カメラヘッド44(第1の通信部243)から順次、出力され、第2の通信部281にて受信した撮像画像をメモリ282に順次、書き込む。また、メモリコントローラ483aは、メモリ282から撮像画像を特定のタイミングで読み出すとともに、当該読み出した撮像画像を画像処理部483bに入力させる。
【0069】
ステップS3Cの後、画像処理部483bは、メモリコントローラ483aによってメモリ282から順次、読み出された各撮像画像に対して順次、上述した第1の画像処理を実行する(ステップS3D)。
ステップS3Dの後、第2の特徴量抽出部483cは、当該ステップS3Dにて画像処理部483bから順次、出力される撮像画像について、当該撮像画像の領域毎の特徴量を抽出する(ステップS3E)。
ここで、特徴量としては、以下の(4),(5)の抽出方法を例示することができる。
(4)撮像画像を構成する画素毎に特徴量を抽出する。
(5)撮像画像を構成する複数の画素を1つのグループ(領域)として、当該グループ毎に特徴量を抽出する。
また、第2の特徴量抽出部483cが抽出する特徴量は、第1の特徴量抽出部323が抽出する特徴量と同一種類の特徴量である。
【0070】
ステップS3Eの後、特異対応領域特定部483dは、当該ステップS3Eにて抽出された特徴量に基づいて、記憶部287に記憶された学習モデルを用いて撮像画像内における第1,第2の蛍光対応領域を特定する(ステップS3F)。
ステップS3Fの後、表示制御部483eは、撮像画像内において、当該ステップS3Fにて特定された第1,第2の蛍光対応領域を他の領域と識別して表示する表示画像を生成する(ステップS3G)。例えば、ステップS3Bにおいて
図5に示した第1の教師画像WLIと同一の撮像画像が生成されたものと仮定した場合には、
図12に示すように、撮像画像内において、第1,第2の蛍光対応領域Ar1´,Ar2´(蛍光対応領域Ar´)を他の領域と識別した表示画像WLI´が生成される。当該識別する方法としては、撮像画像内において、蛍光対応領域Ar´に単色の色(例えば緑色等)を付す等を例示することができる。また、第2の蛍光領域Ar2は、上述したように、第1の蛍光領域Ar1よりも輝度値が高い領域である。このため、第2の蛍光対応領域Ar2´(
図12では説明の便宜上、黒で表現)を第1の蛍光対応領域Ar1´(
図12では説明の便宜上、グレーで表現)よりも濃い色を付すことが好ましい。
そして、表示制御部483eは、表示画像WLI´に応じた映像信号を生成し、第2の伝送ケーブル27を介して、当該映像信号を表示装置26に出力する。これにより、表示装置26は、当該表示画像WLI´を表示する。
【0071】
以上説明した本実施の形態によれば、以下の効果を奏する。
本実施の形態に係る学習装置3は、第1,第2の教師画像を一組とする教師画像を用い、第1の教師画像内における第2の教師画像内の蛍光領域に対応する画素位置の蛍光対応領域の特徴量に基づいて、当該蛍光対応領域を機械学習して学習モデルを生成する。
そして、本実施の形態に係る制御装置48は、生体内(観察対象)からの第1の被写体像(通常光)を撮像した撮像画像を取得し、当該撮像画像内の領域毎の特徴量に基づいて、上述した学習モデルを用いて当該撮像画像内における蛍光対応領域を特定する。
すなわち、学習モデルを用いることで蛍光領域を推測することができるため、生体内にインドシアニングリーン等の蛍光物質を投与する必要がない。したがって、利便性を向上させることができる。
また、医療用観察装置4において、生体内に近赤外励起光を照射する必要もないため、第2の光源222や励起光カットフィルタ242aを省略することができ、構成の簡素化及び小型化を図ることができる。
【0072】
また、本実施の形態に係る学習装置3では、蛍光領域を輝度値の高さに応じて第1,第2の蛍光領域の2段階に分けている。当該蛍光領域に対応する蛍光対応領域も同様である。すなわち、制御装置48にて特定される蛍光対応領域も第1,第2の蛍光対応領域に分けられる。このため、医師等のユーザは、表示画像から、蛍光の成分の強度が高いと推測される部分と、蛍光の成分の強度が低いと推測される部分とを容易に認識することができる。
【0073】
ところで、癌等の病変部を画像認識にて特定する際には、青の色成分の特徴量を考慮する必要がない。
本実施の形態に係る学習装置3では、蛍光対応領域を機械学習して学習モデルを生成する際、青の色成分に関する特徴量の重みを他の色成分に関する特徴量の重みよりも低くする。例えば、当該青の色成分に関する特徴量を当該機械学習には用いない。このため、不要な特徴量を考慮せずに機械学習することができるため、処理負荷を軽減することができる。
【0074】
(その他の実施の形態)
ここまで、本開示を実施するための形態を説明してきたが、本開示は上述した実施の形態によってのみ限定されるべきものではない。
上述した実施の形態では、蛍光領域を輝度値の高さに応じて第1,第2の蛍光領域の2段階に分けていたが、これに限らず、蛍光領域を1つのみとしてもよく、あるいは、輝度値の高さに応じて3段階以上に分けても構わない。蛍光領域に対応する蛍光対応領域も同様である。
【0075】
上述した実施の形態では、第1の波長帯域の光を通常光(白色光)とし、第2の波長帯域の光を近赤外励起光としていたが、これに限らない。第1の波長帯域と第2の波長帯域とが異なっていれば、その他の光を採用しても構わない。この際、第1,第2の波長帯域は、一部が重複する帯域であってもよく、あるいは、全く重複しない帯域であっても構わない。
例えば、第2の波長帯域の光としては、所謂NBI(Narrow Band Imaging(狭帯域光観察))で用いる狭帯域光を採用しても構わない。この際、第1の波長帯域の光としては、通常光(白色光)でもよく、その他の光でも構わない。
【0076】
ところで、従来、癌細胞を検出する癌診断法の一つである光線力学診断(Photo Dynamic Diagnosis:PDD)が知られている。
当該光線力学診断では、例えば5-アミノレブリン酸(以下、5-ALAと記載)等の光感受性物質が用いられる。当該5-ALAは、元来、動植物の生体内に含まれる天然アミノ酸である。この5-ALAは、体内投与後に細胞内に取り込まれ、ミトコンドリア内でプロトポルフィリンに生合成される。そして、癌細胞では、当該プロトポルフィリンが過剰に集積する。また、当該癌細胞に過剰集積するプロトポルフィリンは、光活性を有する。このため、当該プロトポルフィリンは、励起光(例えば375nm~445nmの波長帯域の青色可視光)で励起すると、蛍光(例えば600nm~740nmの波長帯域の赤色蛍光)を発光する。このように、光感受性物質を用いて癌細胞を蛍光発光させる癌診断法を光線力学診断という。
そして、上述した実施の形態において、第2の波長帯域の光として、プロトポルフィリンを励起する励起光(例えば375nm~445nmの波長帯域の青色可視光)を採用しても構わない。この際、第1の波長帯域の光としては、通常光(白色光)でもよく、その他の光でも構わない。
【0077】
上述した実施の形態では、第1,第2の教師画像を単体の撮像素子242bにて生成していたが、これに限らない。例えば、第1の被写体像と第2の被写体像とを分離し、2つの撮像素子にてそれぞれ撮像し、当該2つの撮像素子にて第1,第2の教師画像をそれぞれ生成する構成を採用しても構わない。この際、学習装置3は、第1,第2の教師画像間における画素の対応関係を認識している必要がある。
【0078】
上述した実施の形態では、教師画像生成装置2と学習装置3とをネットワークNEを介して互いに通信可能に接続する構成としていたが、これに限らず、教師画像生成装置2と学習装置3とを1つの装置として構成しても構わない。
【0079】
上述した実施の形態では、挿入部21を硬性内視鏡で構成した医療用観察装置4に本開示に係る医療用画像処理装置を搭載していたが、これに限らない。例えば、挿入部21を軟性内視鏡で構成した医療用観察装置に本開示に係る医療用画像処理装置を搭載しても構わない。また、被写体内(生体内)や被写体表面(生体表面)の所定の視野領域を拡大して観察する手術用顕微鏡(例えば、特開2016-42981号公報参照)等の医療用観察装置に本開示に係る医療用画像処理装置を搭載しても構わない。
上述した実施の形態において、カメラヘッド44の一部の構成や制御装置48の一部の構成を例えばコネクタCN1やコネクタCN2に設けても構わない。
【0080】
なお、以下のような構成も本開示の技術的範囲に属する。
(1)第1の波長帯域の光が照射された被検体からの光を撮像した第1の教師画像と、前記第1の波長帯域とは異なる第2の波長帯域の光が照射された前記被検体からの光を撮像した第2の教師画像とを一組とする教師画像を取得する教師画像取得部と、前記第2の教師画像内の特異領域を特定する特異領域特定部と、前記第1の教師画像内における前記特異領域に対応する画素位置の特異対応領域の特徴量を抽出する第1の特徴量抽出部と、前記特徴量に基づいて、前記特異対応領域を機械学習して学習モデルを生成する特異対応領域学習部とを備える学習装置。
(2)前記被検体は、前記第2の波長帯域の励起光が照射されることで蛍光を発する被検体であり、前記第2の教師画像は、前記励起光が照射された前記被検体からの前記蛍光を撮像した画像であり、前記特異領域特定部は、前記第2の教師画像において、前記蛍光の成分の強度が特定の閾値以上となる領域を前記特異領域として特定する前記(1)に記載の学習装置。
(3)前記特異領域特定部は、前記第2の教師画像において、画素レベルが特定の閾値以上となる領域を前記特異領域として特定する前記(1)または(2)に記載の学習装置。
(4)前記特異領域特定部は、前記特異領域として、画素レベルが第1の範囲内となる第1の特異領域と、画素レベルが前記第1の範囲よりも高い第2の範囲内となる第2の特異領域とをそれぞれ特定し、前記第1の特徴量抽出部は、前記第1の教師画像内における前記特異対応領域である前記第1の特異領域に対応する画素位置の第1の特異対応領域と、前記第1の教師画像内における前記特異対応領域である前記第2の特異領域に対応する画素位置の第2の特異対応領域との特徴量をそれぞれ抽出し、前記特異対応領域学習部は、前記特徴量に基づいて、前記第1の特異対応領域と前記第2の特異対応領域とをそれぞれ機械学習する前記(3)に記載の学習装置。
(5)前記特徴量は、色及び輝度の少なくとも一方に関する特徴量を含み、前記特異対応領域学習部は、前記特異対応領域を機械学習して学習モデルを生成する際、青の色成分に関する前記特徴量の重みを他の色成分に関する前記特徴量の重みよりも低くする前記(1)~(4)のいずれか一つに記載の学習装置。
(6)前記第1の波長帯域の光は、交互に繰り返される第1の期間と第2の期間とにおいて、前記第1の期間に発光した光であり、前記第2の波長帯域の光は、前記第2の期間に発光した光である前記(1)~(5)のいずれか一つに記載の学習装置。
(7)第1の波長帯域の光が照射された観察対象からの光を撮像した撮像画像を取得する撮像画像取得部と、前記撮像画像の領域毎の特徴量を抽出する第2の特徴量抽出部と、前記特徴量に基づいて、機械学習により構築された学習モデル用いて前記撮像画像内における特異対応領域を特定する特異対応領域特定部とを備え、前記学習モデルは、前記第1の波長帯域の光が照射された被検体からの光を撮像した第1の教師画像と、前記第1の波長帯域とは異なる第2の波長帯域の光が照射された前記被検体からの光を撮像した第2の教師画像とを一組とする教師画像を用い、前記第1の教師画像内における前記第2の教師画像内の特異領域に対応する画素位置の前記特異対応領域の特徴量に基づいて、前記特異対応領域を機械学習して生成された学習モデルである医療用画像処理装置。
(8)前記被検体は、前記第2の波長帯域の励起光が照射されることで蛍光を発する被検体であり、前記第2の教師画像は、前記励起光が照射された前記被検体からの前記蛍光を撮像した画像であり、前記特異領域は、前記第2の教師画像において、前記蛍光の成分の強度が特定の閾値以上となる領域である前記(7)に記載の医療用画像処理装置。
(9)前記特異領域は、前記第2の教師画像において、画素レベルが特定の閾値以上となる領域である前記(7)または(8)に記載の医療用画像処理装置。
(10)前記特異領域は、画素レベルが第1の範囲内となる第1の特異領域と、画素レベルが前記第1の範囲よりも高い第2の範囲内となる第2の特異領域とを含み、前記学習モデルは、前記第1の教師画像内における前記特異対応領域である前記第1の特異領域に対応する画素位置の第1の特異対応領域と、前記第1の教師画像内における前記特異対応領域である前記第2の特異領域に対応する画素位置の第2の特異対応領域との特徴量に基づいて、前記第1の特異対応領域と前記第2の特異対応領域とをそれぞれ機械学習して生成された学習モデルである前記(9)に記載の医療用画像処理装置。
(11)前記特徴量は、色及び輝度の少なくとも一方に関する特徴量を含み、前記学習モデルは、青の色成分に関する前記特徴量の重みを他の色成分に関する前記特徴量の重みを低くした状態で、前記特異対応領域を機械学習して生成された学習モデルである前記(7)~(10)のいずれか一つに記載の医療用画像処理装置。
(12)前記第1の波長帯域の光は、交互に繰り返される第1の期間と第2の期間とにおいて、前記第1の期間に発光した光であり、前記第2の波長帯域の光は、前記第2の期間に発光した光である前記(7)~(11)のいずれか一つに記載の医療用画像処理装置。
(13)前記撮像画像内において、前記特異対応領域を他の領域と識別して表示する表示画像を生成する表示制御部をさらに備える前記(7)~(12)のいずれか一つに記載の医療用画像処理装置。
【符号の説明】
【0081】
1 学習システム
2 教師画像生成装置
3 学習装置
4 医療用観察装置
21 挿入部
22,42 光源装置
23 ライトガイド
24,44 カメラヘッド
25 第1の伝送ケーブル
26 表示装置
27 第2の伝送ケーブル
28,48 制御装置
29 第3の伝送ケーブル
31 通信部
32 制御部
33 記憶部
211 接眼部
221 第1の光源
222 第2の光源
241 レンズユニット
242 撮像部
242a 励起光カットフィルタ
242b 撮像素子
242c 信号処理部
242d カラーフィルタ
243 第1の通信部
281 第2の通信部
282 メモリ
283 画像生成部
283a メモリコントローラ
283b 第1の画像処理部
283c 第2の画像処理部
283d 表示制御部
284,484 制御部
285 入力部
286 出力部
287 記憶部
288 第3の通信部
321 教師画像取得部
322 特異領域特定部
323 第1の特徴量抽出部
324 特異対応領域学習部
483 画像生成部
483a メモリコントローラ
483b 画像処理部
483c 第2の特徴量抽出部
483d 特異対応領域特定部
483e 表示制御部
Ar 蛍光領域
Ar´ 蛍光対応領域
Ar1 第1の蛍光領域
Ar1´ 第1の蛍光対応領域
Ar2 第2の蛍光領域
Ar2´ 第2の蛍光対応領域
CN1,CN2 コネクタ
IR 第2の教師画像
NE ネットワーク
WLI 第1の教師画像
WLI´ 表示画像