(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】
(24)【登録日】2023-07-19
(45)【発行日】2023-07-27
(54)【発明の名称】大腸内視鏡検査補助装置、大腸内視鏡検査補助方法及び大腸内視鏡検査補助プログラム
(51)【国際特許分類】
A61B 1/045 20060101AFI20230720BHJP
【FI】
A61B1/045 614
(21)【出願番号】P 2019185284
(22)【出願日】2019-10-08
【審査請求日】2022-09-21
(73)【特許権者】
【識別番号】506301140
【氏名又は名称】公立大学法人会津大学
(73)【特許権者】
【識別番号】509013703
【氏名又は名称】公立大学法人福島県立医科大学
(74)【代理人】
【識別番号】100094525
【氏名又は名称】土井 健二
(74)【代理人】
【識別番号】100094514
【氏名又は名称】林 恒徳
(72)【発明者】
【氏名】朱 欣
(72)【発明者】
【氏名】冨樫 一智
(72)【発明者】
【氏名】根本 大樹
【審査官】磯野 光司
(56)【参考文献】
【文献】国際公開第2019/088121(WO,A1)
【文献】国際公開第2019/142243(WO,A1)
【文献】特開2019-076699(JP,A)
【文献】特開2019-101485(JP,A)
【文献】藤田広志[監修/編],"5.2.1 バリデーションとテスト",医用画像ディープラーニング入門,第1版第1刷,オーム社,2019年04月10日,第57-59頁
(58)【調査した分野】(Int.Cl.,DB名)
A61B 1/00-10/06
G06T 1/00-19/20
JSTPlus/JMEDPlus/JST7580(JDreamIII)
(57)【特許請求の範囲】
【請求項1】
画像データを用いた機械学習を行うことによって大腸内のポリープの検出を行う大腸内視鏡検査補助装置であって、
複数の画像データのそれぞれに対し、各画像データに含まれる前記ポリープに対応する識別情報を付加することによって、複数の学習データを生成する第1学習データ生成部と、
前記複数の学習データのうちの複数の第1学習データを用いた機械学習を行うことによって、第1学習モデルを生成する第1機械学習部と、
前記複数の学習データのうちの複数の第2学習データに含まれる前記ポリープに対応する識別情報と、前記複数の第2学習データの入力に応じて前記第1学習モデルから出力される識別情報との比較結果に基づいて、前記複数の第1学習データに含まれる画像データのそれぞれから前記ポリープ以外の構造を特定し、特定した前記ポリープ以外の構造に対応する識別情報を前記複数の第1学習データに含まれる画像データのそれぞれに付加することによって、複数の第3学習データを生成する第2学習データ生成部と、
前記複数の第3学習データを用いた機械学習を行うことによって、第2学習モデルを生成する第2機械学習部と、を有する、
ことを特徴とする大腸内視鏡検査補助装置。
【請求項2】
請求項1において、
前記第2学習データ生成部は、
前記複数の第2学習データの入力に応じて前記第1学習モデルから出力される識別情報のうち、前記複数の第2学習データに含まれる前記ポリープに対応する識別情報に含まれない特定の識別情報を特定し、
前記複数の第2学習データに含まれる画像データから、前記特定の識別情報に対応する第1部分画像データを特定し、
前記複数の第1学習データに含まれる画像データから、前記第1部分画像データと所定の関係を有する第2部分画像データを特定し、
前記複数の第1学習データに含まれる画像データのそれぞれに対し、前記第2部分画像データに対応する識別情報であって前記ポリープ以外の構造に対応する識別情報を付加することによって、前記複数の第3学習データを生成する、
ことを特徴とする大腸内視鏡検査補助装置。
【請求項3】
請求項2において、
前記第2学習データ生成部は、前記第1部分画像データの類似関係が所定の条件を満たす部分画像データを前記第2部分画像データとして特定する、
ことを特徴とする大腸内視鏡検査補助装置。
【請求項4】
請求項1において、
前記複数の第1学習データ及び前記複数の第2学習データは、互いに異なる学習データである、
ことを特徴とする大腸内視鏡検査補助装置。
【請求項5】
請求項1において、
前記ポリープ以外の構造は、水泡、便を含む腸管内容物、回盲弁及び大腸内腔のうちの少なくとも1つを含む、
ことを特徴とする大腸内視鏡検査補助装置。
【請求項6】
請求項1において、
前記ポリープ以外の構造は、光の反射領域を含む、
ことを特徴とする大腸内視鏡検査補助装置。
【請求項7】
請求項1において、
前記ポリープに対応する識別情報は、前記ポリープの種別情報と、前記ポリープを含む画像データにおける前記ポリープの位置情報との組合せであり、
前記ポリープ以外の構造に対応する識別情報は、前記ポリープ以外の構造の種別情報と、前記ポリープ以外の構造を含む画像データにおける前記ポリープ以外の構造の位置情報との組合せである、
ことを特徴とする大腸内視鏡検査補助装置。
【請求項8】
画像データを用いた機械学習を行うことによって大腸内のポリープの検出を行う処理をコンピュータに実行させる大腸内視鏡検査補助方法であって、
複数の画像データのそれぞれに対し、各画像データに含まれる前記ポリープに対応する識別情報を付加することによって、複数の学習データを生成し、
前記複数の学習データのうちの複数の第1学習データを用いた機械学習を行うことによって、第1学習モデルを生成し、
前記複数の学習データのうちの複数の第2学習データに含まれる前記ポリープに対応する識別情報と、前記複数の第2学習データの入力に応じて前記第1学習モデルから出力される識別情報との比較結果に基づいて、前記複数の第1学習データに含まれる画像データのそれぞれから前記ポリープ以外の構造を特定し、特定した前記ポリープ以外の構造に対応する識別情報を前記複数の第1学習データに含まれる画像データのそれぞれに付加することによって、複数の第3学習データを生成し、
前記複数の第3学習データを用いた機械学習を行うことによって、第2学習モデルを生成する、
ことを特徴とする大腸内視鏡検査補助方法。
【請求項9】
画像データを用いた機械学習を行うことによって大腸内のポリープの検出を行う処理をコンピュータに実行させる大腸内視鏡補プログラムであって、
複数の画像データのそれぞれに対し、各画像データに含まれる前記ポリープに対応する識別情報を付加することによって、複数の学習データを生成し、
前記複数の学習データのうちの複数の第1学習データを用いた機械学習を行うことによって、第1学習モデルを生成し、
前記複数の学習データのうちの複数の第2学習データに含まれる前記ポリープに対応する識別情報と、前記複数の第2学習データの入力に応じて前記第1学習モデルから出力される識別情報との比較結果に基づいて、前記複数の第1学習データに含まれる画像データのそれぞれから前記ポリープ以外の構造を特定し、特定した前記ポリープ以外の構造に対応する識別情報を前記複数の第1学習データに含まれる画像データのそれぞれに付加することによって、複数の第3学習データを生成し、
前記複数の第3学習データを用いた機械学習を行うことによって、第2学習モデルを生成する、
ことを特徴とする大腸内視鏡検査補助プログラム。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、大腸内視鏡検査補助装置、大腸内視鏡検査補助方法及び大腸内視鏡検査補助プログラムに関する。
【背景技術】
【0002】
近年、大腸のスクリーニング検査として、医師による大腸内視鏡検査が行われている。この大腸内視鏡検査は、専用の医療機器を用いることによって、大腸内に存在するポリープの検出等を行う検査である。
【0003】
上記のような大腸内視鏡検査では、医師が画像データ等を目視で確認することによって、ポリープの存在有無についての診断(以下、画像診断とも呼ぶ)が行われる。そのため、ポリープの検出精度は、医師の経験や疲労度合い等によって左右される可能性がある。
【0004】
そこで、近年では、AI(Artificial Intelligence)を活用することによる画像診断のサポートが行われている。これにより、医師は、大腸内視鏡検査におけるポリープの検出精度を高めることが可能になる(非特許文献1及び2を参照)。
【先行技術文献】
【非特許文献】
【0005】
【文献】慈恵大学ほかプレスリリース 2018年8月17日 https://eirl.ai/ja/news/2018/08/17/247/
【文献】国立研究開発法人国立がん研究センターほかプレスリリース 2017年7月10日 https://www.ncc.go.jp/jp/information/pr_release/2017/0710/press_release_20170710.pdf
【発明の概要】
【発明が解決しようとする課題】
【0006】
ここで、上記のようなAIによる画像診断のサポートは、例えば、画像データに含まれるポリープの候補(以下、単にポリープ候補とも呼ぶ)を画像データ上に併せて表示することによって、画像診断を行う医師の負担を軽減するものである。
【0007】
しかしながら、例えば、ポリープ以外の構造がポリープ候補として多く表示される場合、医師が重点的に確認を行う必要がある画像データの数が多くなり、結果として、医師の負担を軽減させることができなくなる。そのため、近年では、画像データに含まれるポリープ候補をより精度良く特定することが可能な新たな方法が求められている。
【0008】
そこで、本発明の目的は、画像データに含まれるポリープの候補をより精度良く特定することを可能とする大腸内視鏡検査補助装置、大腸内視鏡検査補助方法及び大腸内視鏡検査補助プログラムを提供することにある。
【課題を解決するための手段】
【0009】
上記目的を達成するための本発明における大腸内視鏡検査補助装置は、画像データを用いた機械学習を行うことによって大腸内のポリープの検出を行う大腸内視鏡検査補助装置であって、複数の画像データのそれぞれに対し、各画像データに含まれる前記ポリープに対応する識別情報を付加することによって、複数の学習データを生成する第1学習データ生成部と、前記複数の学習データのうちの複数の第1学習データを用いた機械学習を行うことによって、第1学習モデルを生成する第1機械学習部と、前記複数の学習データのうちの複数の第2学習データに含まれる前記ポリープに対応する識別情報と、前記複数の第2学習データの入力に応じて前記第1学習モデルから出力される識別情報との比較結果に基づいて、前記複数の第1学習データに含まれる画像データのそれぞれから前記ポリープ以外の構造を特定し、特定した前記ポリープ以外の構造に対応する識別情報を前記複数の第1学習データに含まれる画像データのそれぞれに付加することによって、複数の第3学習データを生成する第2学習データ生成部と、前記複数の第3学習データを用いた機械学習を行うことによって、第2学習モデルを生成する第2機械学習部と、を有する、ことを特徴とする。
【0010】
また、上記目的を達成するための本発明における大腸内視鏡検査補助方法は、画像データを用いた機械学習を行うことによって大腸内のポリープの検出を行う処理をコンピュータに実行させる大腸内視鏡検査補助方法であって、複数の画像データのそれぞれに対し、各画像データに含まれる前記ポリープに対応する識別情報を付加することによって、複数の学習データを生成し、前記複数の学習データのうちの複数の第1学習データを用いた機械学習を行うことによって、第1学習モデルを生成し、前記複数の学習データのうちの複数の第2学習データに含まれる前記ポリープに対応する識別情報と、前記複数の第2学習データの入力に応じて前記第1学習モデルから出力される識別情報との比較結果に基づいて、前記複数の第1学習データに含まれる画像データのそれぞれから前記ポリープ以外の構造を特定し、特定した前記ポリープ以外の構造に対応する識別情報を前記複数の第1学習データに含まれる画像データのそれぞれに付加することによって、複数の第3学習データを生成し、前記複数の第3学習データを用いた機械学習を行うことによって、第2学習モデルを生成する、ことを特徴とする。
【0011】
また、上記目的を達成するための本発明における大腸内視鏡検査補助プログラムは、画像データを用いた機械学習を行うことによって大腸内のポリープの検出を行う処理をコンピュータに実行させる大腸内視鏡補プログラムであって、複数の画像データのそれぞれに対し、各画像データに含まれる前記ポリープに対応する識別情報を付加することによって、複数の学習データを生成し、前記複数の学習データのうちの複数の第1学習データを用いた機械学習を行うことによって、第1学習モデルを生成し、前記複数の学習データのうちの複数の第2学習データに含まれる前記ポリープに対応する識別情報と、前記複数の第2学習データの入力に応じて前記第1学習モデルから出力される識別情報との比較結果に基づいて、前記複数の第1学習データに含まれる画像データのそれぞれから前記ポリープ以外の構造を特定し、特定した前記ポリープ以外の構造に対応する識別情報を前記複数の第1学習データに含まれる画像データのそれぞれに付加することによって、複数の第3学習データを生成し、前記複数の第3学習データを用いた機械学習を行うことによって、第2学習モデルを生成する、ことを特徴とする。
【発明の効果】
【0012】
本発明における大腸内視鏡検査補助装置、大腸内視鏡検査補助方法及び大腸内視鏡検査補助プログラムによれば、画像データに含まれるポリープの候補をより精度良く特定することが可能になる。
【図面の簡単な説明】
【0013】
【
図1】
図1は、本発明の実施の形態における大腸内視鏡検査補助装置1の構成例を示す図である。
【
図2】
図2は、大腸内視鏡補助処理の具体例を説明する図である。
【
図3】
図3は、ポリープの識別情報の具体例を説明する図である。
【
図4】
図4は、ポリープの識別情報の具体例を説明する図である。
【
図5】
図5は、第1の実施の形態における大腸内視鏡補助処理の概略を説明するフローチャート図である。
【
図6】
図6は、第1の実施の形態における大腸内視鏡補助処理の概略を説明するフローチャート図である。
【
図7】
図7は、第1の実施の形態における大腸内視鏡補助処理の詳細を説明するフローチャート図である。
【
図8】
図8は、第1の実施の形態における大腸内視鏡補助処理の詳細を説明するフローチャート図である。
【
図9】
図9は、第1の実施の形態における大腸内視鏡補助処理の詳細を説明するフローチャート図である。
【
図10】
図10は、第1の実施の形態における大腸内視鏡補助処理の詳細を説明する図である。
【
図11】
図11は、第1の実施の形態における大腸内視鏡補助処理の詳細を説明する図である。
【
図12】
図12は、第1の実施の形態における大腸内視鏡補助処理の詳細を説明する図である。
【
図13】
図13は、第1の実施の形態における大腸内視鏡補助処理の詳細を説明する図である。
【
図14】
図14は、第1の実施の形態における大腸内視鏡補助処理の詳細を説明する図である。
【
図15】
図15は、第1の実施の形態における大腸内視鏡補助処理の詳細を説明する図である。
【発明を実施するための形態】
【0014】
以下、図面を参照して本発明の実施の形態について説明する。しかしながら、かかる実施の形態例が、本発明の技術的範囲を限定するものではない。
【0015】
図1は、本発明の実施の形態における大腸内視鏡検査補助装置1の構成例を示す図である。大腸内視鏡検査補助装置1は、コンピュータ装置であって、例えば、汎用的なPC(Personal Computer)であってよい。
【0016】
大腸内視鏡検査補助装置1は、汎用的なコンピュータ装置のハードウエア構成を有し、例えば、
図1に示すように、プロセッサであるCPU101と、メモリ102と、ネットワークインタフェース103と、記憶媒体104とを有する。各部は、バス105を介して互いに接続される。なお、CPU101は、図示しないGPU(Graphics Processing Unit)と連携して動作するものであってもよい。
【0017】
記憶媒体104は、例えば、医師による大腸内視鏡検査を補助するための処理(以下、大腸内視鏡補助処理とも呼ぶ)を行うためのプログラム(図示しない)を記憶するプログラム格納領域(図示しない)を有する。
【0018】
また、記憶媒体104は、例えば、大腸内視鏡補助処理を行う際に用いられる情報を記憶する記憶部110(以下、記憶領域110とも呼ぶ)を有する。具体的に、記憶媒体104は、例えば、医師が大腸内視鏡検査において診断を行う複数の画像データが記憶される。
【0019】
なお、記憶媒体104は、例えば、HDD(Hard Disk Drive)やSSD(Sokid State Drive)であってよい。
【0020】
CPU101は、記憶媒体104からメモリ102にロードされたプログラムを実行して大腸内視鏡補助処理を行う。
【0021】
ネットワークインタフェース103は、例えば、作業者が操作を行う操作端末2と通信を行う。また、ネットワークインタフェース103は、例えば、医師が大腸内視鏡検査を行う際に閲覧する出力装置3(画像データが表示される出力装置3)と通信を行う。
【0022】
[大腸内視鏡補助処理の具体例]
次に、大腸内視鏡補助処理の具体例について説明を行う。
図2は、大腸内視鏡補助処理の具体例を説明する図である。具体的に、
図2(A)は、診断対象の画像データIM11のうちの1枚を出力装置3に表示した場合の具体例であり、
図2(B)は、診断対象の画像データIM12のうちの他の1枚を出力装置3に表示した場合の具体例である。また、
図2(C)は、画像データIM11と併せてポリープに対応する識別情報を表示した場合の具体例であり、
図2(D)は、画像データIM12と併せてポリープに対応する識別情報を表示した場合の具体例である。
【0023】
そして、
図2(A)に示す画像データIM11には、ポリープ候補PO11が映し出されており、
図2(B)に示す画像データIM12には、ポリープ候補PO12及びPO13のそれぞれが映し出されている。なお、以下、画像データIM11及び画像データM12を総称して画像データIMとも呼ぶ。また、以下、ポリープ候補PO11、PO12及びPO13を総称してポリープ候補POとも呼ぶ。
【0024】
初めに、医師は、画像データIM11及び画像データIM12を参照することにより、ポリープ候補PO11、PO12及びPO13のそれぞれがポリープであるか否かの診断を行う。具体的に、医師は、例えば、ポリープ候補POのそれぞれが腺腫、過形成、SSA/P(Sessile Serrated Adenoma/Polyp)及びLST(Laterally spreading Tumor)のうちのいずれかであるか否かについての判定を行う。
【0025】
そして、医師は、例えば、ポリープ候補PO11がポリープの一種である腺腫であり、ポリープ候補PO12がポリープの一種である過形成であると診断する。一方、医師は、例えば、ポリープ候補PO13がポリープ以外の構造であると診断する。
【0026】
その後、大腸内視鏡検査補助装置1は、例えば、医師によって入力された診断結果等に基づいて、ポリープであると診断したポリープ候補PO11及びPO12の識別情報(アノテーション)をそれぞれ生成する。
【0027】
具体的に、大腸内視鏡検査補助装置1は、例えば、画像データIM11に含まれるポリープ候補PO11に対応する識別情報として、ポリープ候補PO11が腺腫であることを示す種別情報ID11aと、画像データIM11におけるポリープ候補PO11の座標を示す位置情報ID11bとを含む情報を生成する。
【0028】
また、大腸内視鏡検査補助装置1は、例えば、画像データIM12に含まれるポリープ候補PO12に対応する識別情報として、ポリープ候補PO12が過形成であることを示す種別情報ID12aと、画像データIM12におけるポリープ候補PO12の座標を示す位置情報ID12bとを含む情報を生成する。以下、識別情報のデータ構造の具体例について説明を行う。
【0029】
[ポリープの識別情報の具体例]
図3及び
図4は、ポリープの識別情報の具体例を説明する図である。
【0030】
図3に示す識別情報は、画像データIMの名称が記憶される「画像名」と、ポリープの種別情報が記憶される「種別情報」と、ポリープの位置情報が記憶される「位置情報(横の座標)」、「位置情報(縦の座標)」、「位置情報(横の長さ)」及び「位置情報(縦の長さ)」とを項目として有する。「位置情報(横の座標)」には、ポリープを含むカーソルの左上の座標のうち、横軸に対応する座標が記憶され、「位置情報(縦の座標)」には、ポリープを含むカーソルの左上の座標のうち、縦軸に対応する座標が記憶される。また、「位置情報(横の長さ)」には、ポリープを含むカーソルの横方向の長さ(大きさ)が記憶され、「位置情報(縦の長さ)」には、ポリープを含むカーソルの縦方向の長さ(大きさ)が記憶される。すなわち、「位置情報(横の座標)」、「位置情報(縦の座標)」、「位置情報(横の長さ)」及び「位置情報(縦の長さ)」には、ポリープを含むカーソルを特定するために必要な情報のそれぞれが記憶される。
【0031】
具体的に、
図3に示す識別情報において、1行目の情報(
図2におけるポリープ候補PO11に対応する情報)には、「画像名」として「IM11」が記憶され、「種別情報」として「腺腫」が記憶され、「位置情報(横の座標)」として「22」が記憶され、「位置情報(縦の座標)」として「81」が記憶され、「位置情報(横の長さ)」として「28」が記憶され、「位置情報(縦の長さ)」として「44」が記憶されている。
【0032】
また、
図3に示す識別情報において、2行目の情報(
図2におけるポリープ候補PO12に対応する情報)には、「画像名」として「IM12」が記憶され、「種別情報」として「過形成」が記憶され、「位置情報(横の座標)」として「37」が記憶され、「位置情報(縦の座標)」として「69」が記憶され、「位置情報(横の長さ)」として「34」が記憶され、「位置情報(縦の長さ)」として「49」が記憶されている。
【0033】
すなわち、大腸内視鏡検査補助装置1は、
図2(C)及び
図2(D)に示すように、各ポリープ候補POの表示を行う際に併せて表示することが可能な情報の生成を行う。
【0034】
その後、例えば、大腸内視鏡補助処理を行う作業担当者(以下、単に作業担当者とも呼ぶ)は、記憶媒体104に記憶された画像データIMごとに、各画像データIMと各画像データIMに含まれるポリープ候補POのそれぞれの識別情報とを含む学習データを生成する。具体的に、作業担当者は、例えば、画像データIM11と、
図3で説明した識別情報における1行目の情報とを含む学習データを生成する。また、作業担当者は、例えば、画像データIM12と、
図3で説明した識別情報における2行目の情報とを含む学習データを生成する。そして、大腸内視鏡検査補助装置1は、生成した複数の学習データを用いることによって学習モデルを生成する。
【0035】
これにより、大腸内視鏡検査補助装置1は、生成した学習モデルを用いることにより、新たな画像データIM(例えば、大腸内視鏡検査において新たに撮像された画像データIM)に含まれるポリープ候補POを特定することが可能になる。そして、大腸内視鏡検査補助装置1は、新たな画像データIMを出力装置3に表示する際に、各ポリープ候補POに対応する識別情報を併せて表示することが可能になる。
【0036】
具体的に、
図4(A)に示すように、新たな画像データIM21の入力があった場合、大腸内視鏡検査補助装置1は、画像データIM21を表示する際に、ポリープ候補PO21が腺腫であることを示す種別情報ID21aと、ポリープ候補PO21の位置情報ID21b(位置情報ID21bに対応するカーソル)とを併せて表示することが可能になる。
【0037】
また、
図4(B)に示すように、画像データIM22の入力があった場合、大腸内視鏡検査補助装置1は、画像データIM22を表示する際に、ポリープ候補PO22が腺腫であることを示す種別情報ID22aと、ポリープ候補PO22の位置情報ID22b(位置情報ID22bに対応するカーソル)と、ポリープ候補PO23が過形成であることを示す種別情報ID23aと、ポリープ候補PO23の位置情報ID23b(位置情報ID23bに対応するカーソル)とを併せて表示することが可能になる。
【0038】
これにより、医師は、新たな画像データIMの診断を行う際に、併せて表示される識別情報を参照することで、各画像データIMの診断に伴う負担を軽減させることが可能になる。
【0039】
しかしながら、例えば、ポリープ以外の構造がポリープ候補POとして出力装置3に多く表示される場合、医師は、画像診断に伴う負担を軽減させることができない。具体的に、例えば、
図4(C)及び
図4(D)に示すポリープ候補POに、ポリープ以外の構造が多く含まれている場合、医師は、診断を行う必要があるポリープ候補POの数を抑えることができなくなり、画像診断に伴う負担を軽減させることができなくなる。そのため、大腸内視鏡検査が行われる病院等の現場では、画像データに含まれるポリープ候補POをより精度良く特定することが可能な新たな方法が求められている。以下、本実施の形態における大腸内視鏡補助処理の概略について説明を行う。
【0040】
[第1の実施の形態の概略]
図5及び
図6は、第1の実施の形態における大腸内視鏡補助処理の概略を説明するフローチャート図である。
【0041】
大腸内視鏡検査補助装置1の第1学習データ生成部は、
図5に示すように、複数の画像データIMのそれぞれに対し、各画像データIMに含まれるポリープに対応する識別情報を付加することによって、複数の学習データを生成する(S11)。
【0042】
そして、大腸内視鏡検査補助装置1の第1機械学習部は、S11の処理で生成した複数の学習データのうちの一部(以下、複数の第1学習データとも呼ぶ)を用いた機械学習を行うことによって、第1学習モデルを生成する(S12)。
【0043】
続いて、大腸内視鏡検査補助装置1の第2学習データ生成部は、
図6に示すように、例えば、S11の処理で生成した複数の学習データのうちの他の一部(以下、複数の第2学習データとも呼ぶ)の入力に応じて、S12の処理で生成した第1学習モデルから出力される識別情報を取得する(S21)。
【0044】
そして、大腸内視鏡検査補助装置1の第2学習データ生成部は、S11の処理で生成した複数の第2学習データに含まれるポリープに対応する識別情報と、S21の処理で取得した識別情報との比較結果に基づいて、S11の処理で生成した複数の第1学習データに含まれる画像データIMからポリープ以外の構造を特定する(S22)。ポリープ以外の構造は、例えば、水泡、腸管内容物(例えば、便等)、回盲弁及び大腸内腔のうちの少なくとも1つを含む。また、ポリープ以外の構造は、例えば、光の反射領域を含む。
【0045】
さらに、大腸内視鏡検査補助装置1の第2学習データ生成部は、S11の処理で生成した複数の第1学習データに含まれる画像データIMに対し、S22の処理で特定したポリープ以外の構造に対応する識別情報をさらに付加することによって、複数の第3学習データを生成する(S23)。
【0046】
その後、大腸内視鏡検査補助装置1の第2機械学習部は、S23の処理で生成した複数の第3学習データを用いた機械学習を行うことによって、第2学習モデルを生成する(S24)。
【0047】
すなわち、大腸内視鏡検査補助装置1は、ポリープに対応する識別情報を含む学習データだけでなく、ポリープ以外の構造に対応する識別情報を含む学習データを用いることによって学習モデル(第2学習モデル)を生成する。
【0048】
これにより、大腸内視鏡検査補助装置1は、大腸内視鏡検査において撮影された画像データIMに含まれるポリープ候補POをより精度良く特定することが可能になる。そのため、医師は、大腸内視鏡検査の実施に伴う負担を軽減させることが可能になる。
【0049】
[第1の実施の形態の詳細]
次に、第1の実施の形態における大腸内視鏡補助処理について説明を行う。
図7から
図9は、第1の実施の形態における大腸内視鏡補助処理の詳細を説明するフローチャート図である。また、
図10から
図15は、第1の実施の形態における大腸内視鏡補助処理の詳細を説明する図である。
【0050】
大腸内視鏡検査補助装置1は、
図7に示すように、複数の画像データIMのそれぞれに対応する種別情報と位置情報との組合せを記憶領域110に記憶された識別情報131から取得する(S31)。以下、識別情報131の具体例について説明を行う。
【0051】
[識別情報の具体例]
図10は、識別情報131の具体例を説明する図である。具体的に、
図10(A)は、第1学習データに含まれる識別情報131aの具体例を説明する図である。また、
図10(B)は、第2学習データに含まれる識別情報131bの具体例を説明する図である。なお、
図10に示す識別情報131は、例えば、
図3で説明した識別情報と同じ項目を有している。
【0052】
具体的に、
図10(A)に示す識別情報131aにおいて、1行目の情報には、「画像名」として「IM101」が記憶され、「種別情報」として「腺腫」が記憶され、「位置情報(横の座標)」として「42」が記憶され、「位置情報(縦の座標)」として「71」が記憶され、「位置情報(横の長さ)」として「42」が記憶され、「位置情報(縦の長さ)」として「36」が記憶されている。
【0053】
また、
図10(A)に示す識別情報131aにおいて、2行目の情報には、「画像名」として「IM102」が記憶され、「種別情報」として「腺腫」が記憶され、「位置情報(横の座標)」として「29」が記憶され、「位置情報(縦の座標)」として「89」が記憶され、「位置情報(横の長さ)」として「25」が記憶され、「位置情報(縦の長さ)」として「22」が記憶されている。
【0054】
また、
図10(A)に示す識別情報131aにおいて、3行目の情報には、「画像名」として「IM102」が記憶され、「種別情報」として「過形成」が記憶され、「位置情報(横の座標)」として「83」が記憶され、「位置情報(縦の座標)」として「52」が記憶され、「位置情報(横の長さ)」として「8」が記憶され、「位置情報(縦の長さ)」として「9」が記憶されている。
図10(A)に含まれる他の情報については説明を省略する。
【0055】
すなわち、
図10(A)に示す識別情報131aは、例えば、「画像名」が「IM101」である画像データIMに、1つのポリープ(1行目の情報に対応するポリープ)が含まれていると医師が判断したことを示している。また、
図10(A)に示す識別情報131aは、例えば、「画像名」が「IM102」である画像データIMに、2つのポリープ(2行目の情報及び3行目の情報に対応するポリープ)が含まれていると医師が判断したことを示している。
【0056】
さらに、
図10(B)に示す識別情報131bにおいて、1行目の情報には、「画像名」として「IM111」が記憶され、「種別情報」として「過形成」が記憶され、「位置情報(横の座標)」として「19」が記憶され、「位置情報(縦の座標)」として「42」が記憶され、「位置情報(横の長さ)」として「12」が記憶され、「位置情報(縦の長さ)」として「5」が記憶されている。
【0057】
また、
図10(B)に示す識別情報131bにおいて、2行目の情報には、「画像名」として「IM111」が記憶され、「種別情報」として「腺腫」が記憶され、「位置情報(横の座標)」として「86」が記憶され、「位置情報(縦の座標)」として「39」が記憶され、「位置情報(横の長さ)」として「9」が記憶され、「位置情報(縦の長さ)」として「11」が記憶されている。
図10(B)に含まれる他の情報については説明を省略する。
【0058】
すなわち、
図10(B)に示す識別情報131aは、例えば、「画像名」が「IM111」である画像データIMに、2つのポリープ(1行目の情報及び2行目の情報に対応するポリープ)が含まれていると医師が判断したことを示している。
【0059】
そして、大腸内視鏡検査補助装置1は、S31の処理において、例えば、
図10に示す識別情報131に含まれる情報のうち、「種別情報」、「位置情報(横の座標)」、「位置情報(縦の座標)」、「位置情報(横の長さ)」及び「位置情報(縦の長さ)」の組合せを取得する。
【0060】
図7に戻り、大腸内視鏡検査補助装置1は、複数の画像データIMのそれぞれに対し、S31の処理で取得した種別情報と位置情報との組合せを付加することによって、複数の学習データを生成する(S32)。
【0061】
そして、大腸内視鏡検査補助装置1は、S32の処理で生成した複数の第1学習データを用いた機械学習を行うことによって、第1学習モデルを生成する(S33)。
【0062】
すなわち、大腸内視鏡検査補助装置1は、S32の処理で生成した複数の学習データのうちの一部を学習させることによって第1学習モデルの生成を行う。
【0063】
その後、作業担当者は、例えば、S32の処理で生成した複数の学習データのうち、第1学習データ及び第2学習データ以外の複数の学習データを用いることにより、第1学習モデルについての検証を行う。
【0064】
続いて、大腸内視鏡検査補助装置1は、
図8に示すように、S31の処理で生成した複数の第2学習データの入力に応じて、S32の処理で生成した第1学習モデルから出力される種別情報と位置情報との組合せを取得する(S41)。
【0065】
そして、大腸内視鏡検査補助装置1は、S41の処理で取得した組合せのうち、S31の処理で生成した複数の第2学習データに含まれるポリープに対応する組合せに含まれない組合せを特定する(S42)。以下、S42の処理の具体例について説明を行う。
【0066】
[S42の処理の具体例]
図11は、S41の処理で取得した種別情報と位置情報との組合せの具体例である。
【0067】
図11に示す情報には、
図10(B)で説明した識別情報131bに含まれる情報に加え、例えば、3行目の情報及び6行目の情報(下線部分に対応する情報)がそれぞれ含まれている。そのため、大腸内視鏡検査補助装置1は、S42の処理において、例えば、
図11に示す情報のうちの3行目の情報及び6行目の情報を特定する。
【0068】
これにより、大腸内視鏡検査補助装置1は、第1学習モデルがポリープであると判断したポリープ以外の構造(すなわち、第1学習モデルがポリープであると誤認した構造)に対応する情報を特定することが可能になる。
【0069】
なお、大腸内視鏡検査補助装置1は、S42の処理において、比較対象の各組合せに含まれる位置情報の差が所定範囲内である場合、これらの情報が一致するものと判定するものであってもよい。
【0070】
図8に戻り、大腸内視鏡検査補助装置1は、S31の処理で生成した複数の第2学習データに含まれる画像データIMのそれぞれから、S42の処理で特定した組合せに対応する部分画像データ(以下、第1部分画像データとも呼ぶ)を特定する(S43)。
【0071】
なお、医師は、この場合、S43の処理で特定した第1部分画像データを参照することにより、S42の処理で特定された組合せに対応する正しい種別情報を特定する。そして、大腸内視鏡検査補助装置1は、医師によって特定された種別情報に基づいて、S42の処理で特定された組合せに含まれる情報の修正を行う。
【0072】
具体的に、例えば、
図11で説明した情報のうち、3行目の情報及び6行目の情報のそれぞれに対応する正しい種別情報が水泡及び回盲弁であった場合、大腸内視鏡検査補助装置1は、
図12の下線部分に示すように、3行目の情報における「種別情報」に設定される情報を「水泡」に変更し、6行目の情報における「種別情報」に設定される情報を「回盲弁」に変更する。
【0073】
そして、大腸内視鏡検査補助装置1は、S31の処理で生成した複数の第1学習データに含まれる画像データIMから、S43の処理で特定した第1部分画像データと所定の関係を有する第2部分画像データを特定する(S44)。
【0074】
具体的に、大腸内視鏡検査補助装置1は、例えば、S31の処理で生成した複数の第1学習データに含まれる画像データIMから、S43の処理で特定した第1部分画像データと大きさ及び形状の差が所定範囲以内である構造に対応する部分画像データ(すなわち、第1部分画像データと類似すると判断できる部分画像データ)を第2部分画像データとして特定するものであってよい。
【0075】
その後、大腸内視鏡検査補助装置1は、
図9に示すように、S44の処理で特定した第2部分画像データに対応する種別情報と位置情報との組合せであってポリープ以外の構造に対応する種別情報と位置情報との組合せを生成する(S51)。
【0076】
そして、大腸内視鏡検査補助装置1は、S31の処理で生成した複数の第1学習データに含まれる画像データIMのそれぞれに対し、S51の処理で生成した種別情報と位置情報との組合せを付加することによって、複数の第3学習データを生成する(S52)。
【0077】
具体的に、例えば、S51の処理において、
図13に示す組合せのそれぞれが特定された場合、大腸内視鏡検査補助装置1は、
図14の下線部分に示すように、
図13に示す組合せに対応する新たな識別情報131aを、
図10(A)で説明した識別情報131aに追加する。
【0078】
続いて、大腸内視鏡検査補助装置1は、S52の処理で生成した複数の第3学習データを用いた機械学習を行うことによって、第2学習モデルを生成する(S53)。
【0079】
これにより、大腸内視鏡検査補助装置1は、ポリープに対応する識別情報131aを含む学習データだけでなく、ポリープ以外の構造に対応する識別情報131aを含む学習データを用いることによって学習モデル(第2学習モデル)を生成することが可能になる。
【0080】
その後、作業担当者は、例えば、S53の処理で生成した第2学習モデルの検証を行う。具体的に、作業担当者は、例えば、S32の処理で生成した複数の学習データのうち、第1学習データ及び第2学習データ以外の複数の学習データを用いることにより、第2学習モデルの検証を行う。また、作業担当者は、例えば、S42の処理で特定した組合せの変更後の状態に対応する識別情報(例えば、
図12で説明した情報に含まれる3行目の情報及び6行目の情報)と、その識別情報に対応する画像データIMとを対応付けることによって生成した複数の学習データを用いることにより、第2学習モデルの検証を行う。
【0081】
このように、大腸内視鏡検査補助装置1は、複数の画像データIMのそれぞれに対し、各画像データIMに含まれるポリープに対応する識別情報131を付加することによって、複数の学習データを生成する。そして、大腸内視鏡検査補助装置1は、複数の学習データのうちの複数の第1学習データを用いた機械学習を行うことによって、第1学習モデルを生成する。
【0082】
その後、大腸内視鏡検査補助装置1は、複数の学習データのうちの複数の第2学習データに含まれるポリープに対応する識別情報131と、複数の第2学習データの入力に応じて第1学習モデルから出力される識別情報131との比較結果に基づいて、複数の第1学習データに含まれる画像データIMのそれぞれからポリープ以外の構造を特定し、特定したポリープ以外の構造に対応する識別情報131を複数の第1学習データに含まれる画像データIMのそれぞれに付加することによって、複数の第3学習データを生成する。そして、大腸内視鏡検査補助装置1は、複数の第3学習データを用いた機械学習を行うことによって、第2学習モデルを生成する。
【0083】
すなわち、大腸内視鏡検査補助装置1は、ポリープに対応する識別情報131を含む学習データだけでなく、ポリープ以外の構造に対応する識別情報131を含む学習データを用いることによって学習モデル(第2学習モデル)を生成する。
【0084】
これにより、大腸内視鏡検査補助装置1は、大腸内視鏡検査において撮影された画像データIMに含まれるポリープ候補POをより精度良く特定することが可能になる。そのため、医師は、大腸内視鏡検査の実施に伴う負担を軽減させることが可能になる。
【0085】
具体的に、大腸内視鏡検査補助装置1は、第2学習モデルを用いることで、例えば、
図4(B)で説明した画像データIMに対応する種別情報ID23aが「過形成」ではなく「水泡」であると判定することが可能になる。そのため、大腸内視鏡検査補助装置1は、この場合、例えば、
図15に示すように、
図4(B)で説明した画像データIMに対応する種別情報ID23a及び位置情報ID23b(位置情報ID23bに対応するカーソル)が出力装置3に表示されないように制御することが可能になる。
【0086】
なお、大腸内視鏡検査補助装置1は、S53の処理において第2学習モデルの生成が行われた後であっても、大腸内視鏡検査のさらなる実施によって新たな画像データIMが撮像された場合、その新たな画像データIMを含む学習データを用いることによって追加的な機械学習を行うものであってよい。
【0087】
これにより、大腸内視鏡検査補助装置1は、第2学習モデルの判定精度をより高めることが可能になる。
【符号の説明】
【0088】
1:大腸内視鏡検査補助装置
2:操作端末
3:出力装置
101:CPU
102:メモリ
103:ネットワークインタフェース
104:記憶媒体
105:バス