(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】
(24)【登録日】2022-07-05
(45)【発行日】2022-07-13
(54)【発明の名称】画像処理装置、画像処理装置の作動方法、及び画像処理装置の作動プログラム
(51)【国際特許分類】
A61B 1/045 20060101AFI20220706BHJP
A61B 1/00 20060101ALI20220706BHJP
G02B 23/24 20060101ALI20220706BHJP
【FI】
A61B1/045 619
A61B1/00 C
A61B1/045 623
A61B1/00 552
G02B23/24 B
(21)【出願番号】P 2018116056
(22)【出願日】2018-06-19
【審査請求日】2021-05-10
(73)【特許権者】
【識別番号】000000376
【氏名又は名称】オリンパス株式会社
(74)【代理人】
【識別番号】110002147
【氏名又は名称】特許業務法人酒井国際特許事務所
(72)【発明者】
【氏名】堀内 浩平
【審査官】田辺 正樹
(56)【参考文献】
【文献】特開2015-173827(JP,A)
【文献】国際公開第2009/008125(WO,A1)
【文献】特開2015-181594(JP,A)
【文献】米国特許出願公開第2011/0305377(US,A1)
【文献】特開2012-005512(JP,A)
【文献】特開2006-280792(JP,A)
【文献】特開2013-085593(JP,A)
(58)【調査した分野】(Int.Cl.,DB名)
A61B 1/00- 1/32
G02B23/24-23/26
(57)【特許請求の範囲】
【請求項1】
医療用撮像装置が撮像した画像群
に含まれる病変画像群
の枚数が第1の閾値以上であるか否かを判定する判定部と、
前記判定部における判定結果に基づいて、前記病変画像群を動画又は静止画により表示装置に表示させる表示制御部と、
を備え
、
前記判定部は、
前記病変画像群の枚数が第1の閾値以上である場合には、当該病変画像群を動画により前記表示装置に表示させると判定し、
前記病変画像群の枚数が第1の閾値未満である場合には、当該病変画像群を静止画により前記表示装置に表示させると判定することを特徴とする画像処理装置。
【請求項2】
前記病変画像群の各画像が視認性のよい画像であるか否かを判定する画像判定部を備え、
前記判定部は、前記病変画像群の枚数が第1の閾値以上であり、視認性のよい画像の枚数が第2の閾値以上である場合に限り、当該病変画像群を動画により前記表示装置に表示させると判定することを特徴とする請求項1に記載の画像処理装置。
【請求項3】
前記表示制御部は、視認性のよい画像のみを前記表示装置に表示させることを特徴とする請求項
2に記載の画像処理装置。
【請求項4】
前記病変画像群に対して、病変画像であると認識した尤度を算出する尤度算出部を備え、
前記判定部は、前記病変画像群の枚数が第1の閾値未満であり、前記尤度が尤もらしい基準を満たす場合に限り、当該病変画像群を静止画により前記表示装置に表示させると判定することを特徴とする請求項1に記載の画像処理装置。
【請求項5】
前記病変画像群に含まれる各画像間の類似度を算出する類似度算出部を備え、
前記判定部は、前記病変画像群の枚数が第1の閾値以上であり、前記類似度が類似している基準を満たす場合に限り、当該病変画像群を動画により前記表示装置に表示させると判定することを特徴とする請求項1に記載の画像処理装置。
【請求項6】
前記医療用撮像装置は、カプセル型内視鏡であり、
前記病変画像群に含まれる画像がそれぞれ撮像された際の前記カプセル型内視鏡の姿勢情報を取得する姿勢取得部と、
前記病変画像群に含まれる各画像間における前記姿勢情報を比較して統計値を算出する姿勢算出部と、を備え、
前記判定部は、前記病変画像群の枚数が第1の閾値以上であり、前記統計値が前記カプセル型内視鏡の姿勢が大きく動いていない基準を満たす場合に限り、当該病変画像群を動画により前記表示装置に表示させると判定することを特徴とする請求項1に記載の画像処理装置。
【請求項7】
前記医療用撮像装置は、カプセル型内視鏡であり、
前記病変画像群に含まれる画像がそれぞれ撮像された際の前記カプセル型内視鏡の位置情報を取得する位置取得部と、
前記病変画像群に含まれる各画像間における前記位置情報を比較して統計値を算出する位置算出部と、を備え、
前記判定部は、前記病変画像群の枚数が第1の閾値以上であり、前記統計値が前記カプセル型内視鏡の位置が大きく動いていない基準を満たす場合に限り、当該病変画像群を動画により前記表示装置に表示させると判定することを特徴とする請求項1に記載の画像処理装置。
【請求項8】
前記表示制御部は、前記判定部における判定結果に応じた情報を前記表示装置に表示させることを特徴とする請求項1~
7のいずれか1つに記載の画像処理装置。
【請求項9】
前記表示制御部は、画像群における前記病変画像群に対応する範囲に関する情報を前記表示装置に表示させることを特徴とする請求項1~
8のいずれか1つに記載の画像処理装置。
【請求項10】
医療用撮像装置が撮像した画像群
に含まれる病変画像群
の枚数が第1の閾値以上であるか否かを判定
し、前記病変画像群の枚数が第1の閾値以上である場合には、当該病変画像群を動画により表示装置に表示させると判定し、前記病変画像群の枚数が第1の閾値未満である場合には、当該病変画像群を静止画により前記表示装置に表示させると判定する判定ステップと、
前記判定ステップにおける判定結果に基づいて、前記病変画像群を動画又は静止画により
前記表示装置に表示させる表示ステップと、
を含むことを特徴とする画像処理装置の作動方法。
【請求項11】
医療用撮像装置が撮像した画像群
に含まれる病変画像群
の枚数が第1の閾値以上であるか否かを判定
し、前記病変画像群の枚数が第1の閾値以上である場合には、当該病変画像群を動画により表示装置に表示させると判定し、前記病変画像群の枚数が第1の閾値未満である場合には、当該病変画像群を静止画により前記表示装置に表示させると判定する判定ステップと、
前記判定ステップにおける判定結果に基づいて、前記病変画像群を動画又は静止画により
前記表示装置に表示させる表示ステップと、
を画像処理装置に実行させることを特徴とする画像処理装置の作動プログラム。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、画像処理装置、画像処理装置の作動方法、及び画像処理装置の作動プログラムに関する。
【背景技術】
【0002】
従来、カプセル型内視鏡により時系列順に取得された複数の画像を含む体内画像群を取得し、当該体内画像群から病変が写る画像等の所定の特徴を有する画像を検出する画像処理装置が知られている(例えば、特許文献1参照)。
【0003】
特許文献1の画像処理装置によれば、検出した画像を静止画により表示装置に一覧表示させることにより、医師等のユーザによる観察の効率を向上させることができる。
【0004】
また、特許文献1には、カプセル型内視鏡が撮像した体内画像群やそのダイジェストを動画により表示装置に表示させることも記載されている。
【先行技術文献】
【特許文献】
【0005】
【発明の概要】
【発明が解決しようとする課題】
【0006】
しかしながら、検出した画像の枚数が多い場合には、検出した画像を動画により表示装置に表示させた方が、短時間で画像を閲覧することができるため、ユーザによる観察の効率がよい場合がある。
【0007】
一方、検出した画像を一様に動画により表示装置に表示させると、例えば、検出した画像の枚数が少ない場合に、動画の再生時間が短いため、ユーザが十分に画像を観察できないことにより、ユーザによる観察の効率がよくない場合がある。
【0008】
本発明は、上記に鑑みてなされたものであって、ユーザによる観察の効率を向上させることができる画像処理装置、画像処理装置の作動方法、及び画像処理装置の作動プログラムを提供することを目的とする。
【課題を解決するための手段】
【0009】
上述した課題を解決し、目的を達成するために、本発明の一態様に係る画像処理装置は、少なくとも1つの病変画像群を含む医療用撮像装置が撮像した画像群を取得する取得部と、前記病変画像群の特性に基づいて定まる枚数が第1の閾値以上であるか否かを判定する判定部と、前記判定部における判定結果に基づいて、前記病変画像群を動画又は静止画により表示装置に表示させる表示制御部と、を備えることを特徴とする。
【0010】
また、本発明の一態様に係る画像処理装置は、前記判定部は、前記病変画像群の枚数が第1の閾値以上である場合には、当該病変画像群を動画により前記表示装置に表示させると判定し、前記病変画像群の枚数が第1の閾値未満である場合には、当該病変画像群を静止画により前記表示装置に表示させると判定することを特徴とする。
【0011】
また、本発明の一態様に係る画像処理装置は、前記病変画像群の各画像が視認性のよい画像であるか否かを判定する画像判定部を備え、前記判定部は、前記病変画像群の枚数が第1の閾値以上であり、視認性のよい画像の枚数が第2の閾値以上である場合に限り、当該病変画像群を動画により前記表示装置に表示させると判定することを特徴とする。
【0012】
また、本発明の一態様に係る画像処理装置は、前記表示制御部は、視認性のよい画像のみを前記表示装置に表示させることを特徴とする。
【0013】
また、本発明の一態様に係る画像処理装置は、前記病変画像群に対して、病変画像であると認識した尤度を算出する尤度算出部を備え、前記判定部は、前記病変画像群の枚数が第1の閾値未満であり、前記尤度が尤もらしい基準を満たす場合に限り、当該病変画像群を静止画により前記表示装置に表示させると判定することを特徴とする。
【0014】
また、本発明の一態様に係る画像処理装置は、前記病変画像群に含まれる各画像間の類似度を算出する類似度算出部を備え、前記判定部は、前記病変画像群の枚数が第1の閾値以上であり、前記類似度が類似している基準を満たす場合に限り、当該病変画像群を動画により前記表示装置に表示させると判定することを特徴とする。
【0015】
また、本発明の一態様に係る画像処理装置は、前記医療用撮像装置は、カプセル型内視鏡であり、前記病変画像群に含まれる画像がそれぞれ撮像された際の前記カプセル型内視鏡の姿勢情報を取得する姿勢取得部と、前記病変画像群に含まれる各画像間における前記姿勢情報を比較して統計値を算出する姿勢算出部と、を備え、前記判定部は、前記病変画像群の枚数が第1の閾値以上であり、前記統計値が前記カプセル型内視鏡の姿勢が大きく動いていない基準を満たす場合に限り、当該病変画像群を動画により前記表示装置に表示させると判定することを特徴とする。
【0016】
また、本発明の一態様に係る画像処理装置は、前記医療用撮像装置は、カプセル型内視鏡であり、前記病変画像群に含まれる画像がそれぞれ撮像された際の前記カプセル型内視鏡の位置情報を取得する位置取得部と、前記病変画像群に含まれる各画像間における前記位置情報を比較して統計値を算出する位置算出部と、を備え、前記判定部は、前記病変画像群の枚数が第1の閾値以上であり、前記統計値が前記カプセル型内視鏡の位置が大きく動いていない基準を満たす場合に限り、当該病変画像群を動画により前記表示装置に表示させると判定することを特徴とする。
【0017】
また、本発明の一態様に係る画像処理装置は、前記表示制御部は、前記判定部における判定結果に応じた情報を前記表示装置に表示させることを特徴とする。
【0018】
また、本発明の一態様に係る画像処理装置は、前記表示制御部は、画像群における前記病変画像群に対応する範囲に関する情報を前記表示装置に表示させることを特徴とする。
【0019】
また、本発明の一態様に係る画像処理装置の作動方法は、取得部が、少なくとも1つの病変画像群を含む医療用撮像装置が撮像した画像群を取得する取得ステップと、判定部が、前記病変画像群の特性に基づいて定まる枚数が第1の閾値以上であるか否かを判定する判定ステップと、表示制御部が、判定ステップにおける判定結果に基づいて、前記病変画像群を動画又は静止画により表示装置に表示させる表示ステップと、を含むことを特徴とする。
【0020】
また、本発明の一態様に係る画像処理装置の作動プログラムは、取得部が、少なくとも1つの病変画像群を含む医療用撮像装置が撮像した画像群を取得する取得ステップと、判定部が、前記病変画像群の特性に基づいて定まる枚数が第1の閾値以上であるか否かを判定する判定ステップと、表示制御部が、判定ステップにおける判定結果に基づいて、前記病変画像群を動画又は静止画により表示装置に表示させる表示ステップと、を画像処理装置に実行させることを特徴とする。
【発明の効果】
【0021】
本発明によれば、ユーザによる観察の効率を向上させることができる画像処理装置、画像処理装置の作動方法、及び画像処理装置の作動プログラムを実現することができる。
【図面の簡単な説明】
【0022】
【
図1】
図1は、本発明の実施の形態1に係る画像処理装置を含む内視鏡システム全体を示す模式図である。
【
図2】
図2は、
図1に示す記録媒体が画像処理装置に接続された状態のブロック図である。
【
図3】
図3は、
図2に示した画像処理装置の動作を示すフローチャートである。
【
図4】
図4は、画像群から病変画像群を取得する様子を表す図である。
【
図5】
図5は、表示画面に代表画像を表示する様子を表す図である。
【
図6】
図6は、表示画面に動画を表示する様子を表す図である。
【
図7】
図7は、表示画面に静止画を表示する様子を表す図である。
【
図8】
図8は、表示画面に静止側を表示する様子を表す図である。
【
図9】
図9は、表示画面に代表画像を表示する様子を表す図である。
【
図10】
図10は、表示画面に病変画像群が撮像された範囲を表示する様子を表す図である。
【
図11】
図11は、表示画面に病変画像群が撮像された範囲を表示する様子を表す図である。
【
図12】
図12は、実施の形態2に係る画像処理装置のブロック図である。
【
図14】
図14は、病変画像群の各画像が視認性のよい画像であるか否かを判定する様子を表す図である。
【
図15】
図15は、表示画面に静止側を表示する様子を表す図である。
【
図16】
図16は、表示画面に静止側を表示する様子を表す図である。
【
図17】
図17は、実施の形態3に係る画像処理装置のブロック図である。
【
図19】
図19は、実施の形態4に係る画像処理装置のブロック図である。
【
図21】
図21は、実施の形態5に係る画像処理装置のブロック図である。
【
図23】
図23は、カプセル型内視鏡が姿勢を維持しながらポリープを撮像する様子を表す図である。
【
図24】
図24は、カプセル型内視鏡が姿勢を変えながらポリープを撮像する様子を表す図である。
【
図25】
図25は、実施の形態6に係る画像処理装置のブロック図である。
【発明を実施するための形態】
【0023】
以下に、図面を参照して本発明に係る画像処理装置、画像処理装置の作動方法、及び画像処理装置の作動プログラムの実施の形態を説明する。なお、これらの実施の形態により本発明が限定されるものではない。本発明は、医療用撮像装置が撮像した複数の画像に画像処理を施す画像処理装置、画像処理装置の作動方法、及び画像処理装置の作動プログラム一般に適用することができる。
【0024】
また、図面の記載において、同一又は対応する要素には適宜同一の符号を付している。また、図面は模式的なものであり、各要素の寸法の関係、各要素の比率などは、現実と異なる場合があることに留意する必要がある。図面の相互間においても、互いの寸法の関係や比率が異なる部分が含まれている場合がある。
【0025】
(実施の形態1)
図1は、本発明の実施の形態1に係る画像処理装置を含む内視鏡システム全体を示す模式図である。内視鏡システム1は、飲み込み型の医療用撮像装置としてのカプセル型内視鏡2を用いて、被検体H内部の体内画像を取得し、当該体内画像を医師等に観察させるシステムである。この内視鏡システム1は、
図1に示すように、カプセル型内視鏡2の他、受信装置3と、画像処理装置4と、記録媒体5と、入力装置6と、表示装置7と、を備える。
【0026】
記録媒体5は、受信装置3と画像処理装置4との間におけるデータの受け渡しを行うための可搬型の記録メディアであり、受信装置3及び画像処理装置4に対してそれぞれ着脱可能に構成されている。
【0027】
カプセル型内視鏡2は、被検体Hの臓器内部に導入可能な大きさに形成されたカプセル型の内視鏡装置であり、経口摂取等によって被検体Hの臓器内部に導入され、蠕動運動等によって臓器内部を移動しつつ、体内画像を順次、撮像する。そして、カプセル型内視鏡2は、撮像することにより生成した画像データを順次、送信する。
【0028】
受信装置3は、複数の受信アンテナ3a~3hを備え、これら複数の受信アンテナ3a~3hのうち少なくとも一つを介して被検体H内部のカプセル型内視鏡2からの画像データを受信する。そして、受信装置3は、当該受信装置3に挿着された記録媒体5内に、受信した画像データを蓄積する。なお、受信アンテナ3a~3hは、
図1に示したように被検体Hの体表上に配置されていてもよいし、被検体Hに着用させるジャケットに配置されていてもよい。また、受信装置3が備える受信アンテナ数は、1つ以上であればよく、特に8つに限定されない。
【0029】
図2は、
図1に示す記録媒体が画像処理装置に接続された状態のブロック図である。
図2に示すように、画像処理装置4は、リーダライタ41と、記録部42と、制御部43と、を備える。
【0030】
リーダライタ41は、外部から処理対象となる画像データを取得する画像取得部としての機能を有する。具体的には、リーダライタ41は、当該リーダライタ41に記録媒体5が挿着された際に、制御部43による制御のもと、記録媒体5に保存された画像データ(カプセル型内視鏡2により時系列で撮像(取得)された複数の体内画像を含む体内画像群)を取り込む。また、リーダライタ41は、取り込んだ体内画像群を制御部43に転送する。そして、制御部43に転送された体内画像群は、記録部42に記憶される。
【0031】
記録部42は、制御部43から転送された体内画像群を記憶する。また、記録部42は、制御部43が実行する各種プログラム(画像処理プログラムを含む)や制御部43の処理に必要な情報等を記憶する。記録部42は、フラッシュメモリ、ROM(Read Only Memory)及びRAM(Random Access Memory)といった各種ICメモリ、及び内蔵若しくはデータ通信端子で接続されたハードディスク等によって実現される。
【0032】
制御部43は、CPU(Central Processing Unit)等の汎用プロセッサやASIC(Application Specific Integrated Circuit)等の特定の機能を実行する各種演算回路等の専用プロセッサを用いて構成されている。制御部43は、記録部42に記憶されたプログラム(画像処理プログラムを含む)を読み出し、当該プログラムに従って内視鏡システム1全体の動作を制御する。
【0033】
また、制御部43は、記録部42に体内画像群を記憶させる際に、病変画像群を検出して記憶させる。病変画像群は、カプセル型内視鏡2が撮像した体内画像群から病変が写っている画像を検出した画像群である。病変画像の検出は、種々の公知の技術を用いて行うことができるが、例えば、各画像の色情報に基づいて、出血や発赤を病変として検出することができる。また、制御部43は、病変の写った画像のデータに対して機械学習又は深層学習を行うことにより病変画像を検出してもよい。さらに、ユーザが体内画像を閲覧して病変画像を選択してもよい。制御部43は、
図2に示すように、取得部43aと、判定部43bと、表示制御部43cと、を備える。
【0034】
取得部43aは、少なくとも1つの病変画像群を含むカプセル型内視鏡2が撮像した画像群を記録部42から取得する。具体的には、取得部43aは、記録部42から制御部43が検出した病変画像群を読み出す。
【0035】
判定部43bは、病変画像群の特性に基づいて定まる枚数が第1の閾値以上であるか否かを判定する。具体的には、判定部43bは、病変画像群の枚数が第1の閾値以上であるか否かを判定する。第1の閾値は、特に限定されないが、例えば数枚から数百枚である。
【0036】
判定部43bは、病変画像群の枚数が第1の閾値以上である場合には、当該病変画像群を動画により表示装置7に表示させると判定する。一方、判定部43bは、病変画像群の枚数が第1の閾値未満である場合には、当該病変画像群を静止画により表示装置7に表示させると判定する。
【0037】
表示制御部43cは、記録部42に記憶されている画像に所定の画像処理を施し、表示装置7における画像の表示レンジに応じたデータの間引きや、階調処理などの所定の処理を施した後、各画像を表示装置7に表示させる。表示制御部43cは、判定部43bにおける判定結果に基づいて、病変画像群を動画又は静止画により表示装置7に表示させる。
【0038】
入力装置6は、キーボード及びマウス等を用いて構成されており、ユーザによる操作を受け付ける。
【0039】
表示装置7は、液晶ディスプレイ等を用いて構成されており、表示制御部43cによる制御のもと、代表画像等を含む画像を表示する。
【0040】
次に、画像処理装置4による画像処理について説明する。
図3は、
図2に示した画像処理装置の動作を示すフローチャートである。
図3に示すように、はじめに、取得部43aは、記録部42から病変画像群を取得する(ステップS1)。
図4は、画像群から病変画像群を取得する様子を表す図である。
図4に示すように、取得部43aは、体内画像群GAから病変画像群G1及びG2を取得する。以下において、病変画像群G1の枚数を15枚、病変画像群G2の枚数を2枚、第1の閾値を10枚として説明する。
【0041】
続いて、表示制御部43cは、取得部43aが取得した病変画像群G1及びG2の代表画像を表示装置7に表示させる(ステップS2)。代表画像の選択方法は特に限定されないが、代表画像は、例えば時間的に最初、中間、又は最後の画像であってよい。
図5は、表示画面に代表画像を表示する様子を表す図である。
図5に示すように、表示制御部43cは、表示装置7の表示画面71に病変画像群G1の代表画像GR1及び病変画像群G2の代表画像GR2を表示させる。
【0042】
そして、ユーザは、代表画像GR1又は代表画像GR2のうち、閲覧する方の代表画像を選択する(ステップS3)。具体的には、ユーザは、表示画面71に表示された代表画像GR1又は代表画像GR2に対して、入力装置6のマウス等により所定の入力を行うことにより、代表画像GR1又は代表画像GR2のいずれかを選択する。
【0043】
すると、判定部43bは、選択された病変画像群G1又はG2の枚数が第1の閾値以上であるか否かを判定する(ステップS4)。
【0044】
判定部43bが、選択された病変画像群G1又はG2の枚数が第1の閾値以上であると判定した場合(ステップS4:Yes)、判定部43bは、選択された病変画像群G1又はG2を動画により表示装置7に表示させると判定する。
【0045】
そして、表示制御部43cは、判定部43bにおける判定結果に基づいて、選択された病変画像群G1又はG2を動画により表示装置7に表示させる(ステップS5)。具体的には、ユーザが病変画像群G1を選択した場合、病変画像群G1の枚数は第1の閾値以上であるから、表示制御部43cは、病変画像群G1を動画により表示装置7に表示させる。
【0046】
図6は、表示画面に動画を表示する様子を表す図である。
図6に示すように、表示制御部43cは、病変画像群G1の各画像G1aを順次切り替えて動画により表示装置7の表示画面71に表示させる。なお、表示制御部43cは、動画で表示されている各画像G1aを1つ前の画像に戻すボタン72aや、1つ後の画像に進めるボタン72bを表示画面71に表示させてもよい。
【0047】
一方、判定部43bが、選択された病変画像群G1又はG2の枚数が第1の閾値未満であると判定した場合(ステップS4:No)、判定部43bは、選択された病変画像群G1又はG2を静止画により表示装置7に表示させると判定する。
【0048】
そして、表示制御部43cは、判定部43bにおける判定結果に基づいて、選択された病変画像群G1又はG2を静止画により表示装置7に表示させる(ステップS5)。具体的には、ユーザが病変画像群G2を選択した場合、病変画像群G1の枚数は第1の閾値未満であるから、表示制御部43cは、病変画像群G2を静止画により表示装置7に表示させる。
【0049】
図7は、表示画面に静止画を表示する様子を表す図である。
図7に示すように、表示制御部43cは、病変画像群G2の画像G21及びG22を一覧表示の静止画により表示装置7の表示画面71に表示させる。
【0050】
以上説明したように、画像処理装置4によれば、病変画像群の枚数に応じて、病変画像群を動画又は静止画により表示するため、観察効率がよい。また、病変画像群の枚数が少ない場合に病変画像群が動画により再生され、動画がすぐに終了してしまいユーザが病変画像群を十分に観察することができないことが防止される。
【0051】
(変形例1-1)
図8は、表示画面に静止側を表示する様子を表す図である。
図8に示すように、表示制御部43cは、
図5に示す代表画像GR1及びGR2よりも、病変画像群の画像G21及びG22を表示画面71に大きく表示させてもよい。その結果、ユーザは、病変画像群をより観察しやすくなる。さらに、表示制御部43cは、病変画像群の枚数に応じて、表示画面71に表示させる各画像がなるべく大きくなるように、大きさを変えて表示してもよい。
【0052】
(変形例1-2)
図9は、表示画面に代表画像を表示する様子を表す図である。
図9に示すように、表示制御部43cは、判定部43bにおける判定結果に応じた情報を表示装置7に表示させる。具体的には、表示制御部43cは、判定部43bにおける判定結果に応じた情報として、病変画像群G1を動画により表示することを表す動画アイコン73aと、病変画像群G2を静止画により表示することを表す静止画アイコン73bと、を表示画面71に表示させる。その結果、ユーザは、代表画像GR1又はGR2を選択する前に動画により表示されるか、静止画により表示されるかを認識することができるため、観察効率がよい。
【0053】
(変形例1-3)
図10、
図11は、表示画面に病変画像群が撮像された範囲を表示する様子を表す図である。
図10、
図11に示すように、表示制御部43cは、画像群における病変画像群に対応する範囲に関する情報を表示装置7に表示させる。具体的には、表示制御部43cは、画像群における病変画像群に対応する範囲に関する情報として、体内画像群GA全体における時間や位置時間を表すバー74aと、病変画像群G1の時間や位置を表す指標74bと、を表示画面71に表示させる。なお、表示制御部43cは、
図10に示すように、代表画像GR1又はGR2を選択する画面において、バー74a及び指標74bを表示させてもよいが、
図11に示すように、病変画像群G1を動画により表示する画面において、バー74a及び指標74bを表示させてもよい。
図10の場合には、入力装置6のマウス等により操作されるポインタPが代表画像GR1上に位置する場合に、病変画像群G1の時間や位置に対応する指標74bを表示し、ポインタPが代表画像GR2上に位置する場合に、病変画像群G2の時間や位置に対応する指標を表示してもよい。
【0054】
(実施の形態2)
図12は、実施の形態2に係る画像処理装置のブロック図である。
図12に示すように、画像処理装置4Aの制御部43Aは、病変画像群の各画像が視認性のよい画像であるか否かを判定する画像判定部43Adを備える。
【0055】
判定部43bは、病変画像群の枚数が第1の閾値以上であり、視認性のよい画像の枚数が第2の閾値以上である場合に限り、当該病変画像群を動画により表示装置7に表示させると判定する。
【0056】
図13は、
図12に示した画像処理装置の動作を示すフローチャートである。
図13に示すように、ステップS4において、判定部43bが、病変画像群の枚数が第1の閾値以上であると判定した場合(ステップS4:Yes)、画像判定部43Adは、病変画像群の各画像が視認性のよい画像であるか否かを判定する(ステップS11)。
図14は、病変画像群の各画像が視認性のよい画像であるか否かを判定する様子を表す図である。
図14に示すように、判定部43bは、病変画像群G1の各画像がそれぞれ視認性のよい画像G11であるか、視認性のよくない画像G12であるかを判定する。なお、視認性のよくない画像G12とは、例えば泡や残渣が所定の面積以上写っている画像、受信装置3がカプセル型内視鏡2から信号を受信する際のノイズを多く含む画像等である。また、判定部43bは、画像間の動きがなく前の画像と略同一の画像、被検体Hがカプセル型内視鏡2を嚥下する前に撮像された体外画像等の観察に有用ではない画像を視認性のよくない画像G12に含めてもよい。これらの視認性のよくない画像G12は、各画像の色味の情報等に基づいて検出することができる。
【0057】
その後、判定部43bは、病変画像群のうち視認性のよい画像の枚数が第2の閾値以上であるか否かを判定する(ステップS12)。
【0058】
判定部43bが、病変画像群のうち視認性のよい画像の枚数が第2の閾値以上であると判定した場合(ステップS12:Yes)、判定部43bは、当該病変画像群を動画により表示装置7に表示させると判定する。
【0059】
一方、判定部43bが、病変画像群のうち視認性のよい画像の枚数が第2の閾値未満であると判定した場合(ステップS12:No)、判定部43bは、当該病変画像群を静止画により表示装置7に表示させると判定する。
図15は、表示画面に静止側を表示する様子を表す図である。
図15に示すように、視認性のよくない画像G12が多い場合、病変画像群を静止画により表示した方が観察効率がよい。視認性のよくない画像G12が多い場合に、病変画像群を動画により再生すると、視認性のよい画像G11を閲覧する時間が短いためである。
【0060】
(変形例2-1)
図16は、表示画面に静止側を表示する様子を表す図である。
図16に示すように、表示制御部43cは、視認性のよくない画像G12が多い場合には、視認性のよい画像G11のみを表示装置7に表示させる。その結果、
図15の例よりも視認性のよい画像G11を閲覧しやすくなり、観察効率がよい。なお、表示制御部43cは、視認性のよくない画像G12が少ない場合にも、視認性のよい画像G11のみを表示装置7に表示させてもよい。
【0061】
(実施の形態3)
図17は、実施の形態3に係る画像処理装置のブロック図である。
図17に示すように、画像処理装置4Bの制御部43Bは、病変画像群に対して、病変画像であると認識した尤度を算出する尤度算出部43Beを備える。
【0062】
判定部43bは、病変画像群の枚数が第1の閾値未満であり、尤度が尤もらしい基準を満たす場合に限り、当該病変画像群を静止画により表示装置7に表示させると判定する。具体的には、判定部43bは、病変画像群の尤度が閾値以上であるか否かを判定することにより、尤度が尤もらしい基準を満たすか否かを判定する。
【0063】
図18は、
図17に示した画像処理装置の動作を示すフローチャートである。
図18に示すように、ステップS4において、判定部43bが、病変画像群の枚数が第1の閾値未満であると判定した場合(ステップS4:No)、尤度算出部43Beは、病変画像群に対して、病変画像であると認識した尤度を算出する(ステップS21)。なお、尤度算出部43Beは、例えば病変画像群の各画像の尤度を算出し、算出した各画像の尤度に基づいた統計値(平均値や中央値、最頻値等)を算出することにより、病変画像群の尤度を算出する。また、本明細書においては、尤度が高いほど、各画像が病変画像として尤もらしいことを意味するものとする。
【0064】
その後、判定部43bは、算出した病変画像群の尤度が閾値以上であるか否かを判定する(ステップS22)。
【0065】
判定部43bが、尤度が閾値未満であると判定した場合(ステップS22:No)、判定部43bは、当該病変画像群を動画により表示装置7に表示させると判定する。
【0066】
一方、判定部43bが、尤度が閾値以上であると判定した場合(ステップS22:Yes)、判定部43bは、当該病変画像群を静止画により表示装置7に表示させると判定する。
【0067】
以上説明したように、画像処理装置4Bによれば、尤度が閾値未満である場合、病変画像群を動画により再生する。その結果、病変画像群の病変画像である尤もらしさが低い場合に、病変画像群を動画により短時間で閲覧することができるため、観察効率がよい。
【0068】
(実施の形態4)
図19は、実施の形態4に係る画像処理装置のブロック図である。
図19に示すように、画像処理装置4Cの制御部43Cは、病変画像群に含まれる各画像間の類似度を算出する類似度算出部43Cfを備える。
【0069】
判定部43bは、病変画像群の枚数が第1の閾値以上であり、類似度が類似している基準を満たす場合に限り、当該病変画像群を動画により表示装置7に表示させると判定する。具体的には、判定部43bは、病変画像群の類似度が閾値以上であるか否かを判定することにより、類似度が類似している基準を満たすか否かを判定する。
【0070】
図20は、
図19に示した画像処理装置の動作を示すフローチャートである。
図20に示すように、ステップS4において、判定部43bが、病変画像群の枚数が第1の閾値以上であると判定した場合(ステップS4:Yes)、類似度算出部43Cfは、病変画像群に含まれる各画像間の類似度を算出する(ステップS31)。なお、類似度算出部43Cfは、例えば病変画像群の各画像間の類似度を算出し、算出した各画像間の類似度に基づいた統計値(平均値や中央値、最頻値等)を算出することにより、病変画像群の類似度を算出する。また、本明細書においては、類似度が高いほど、各画像が類似していることを意味するものとする。
【0071】
その後、判定部43bは、算出した病変画像群の類似度が閾値以上であるか否かを判定する(ステップS32)。
【0072】
判定部43bが、類似度が閾値以上であると判定した場合(ステップS32:Yes)、判定部43bは、当該病変画像群を動画により表示装置7に表示させると判定する。
【0073】
一方、判定部43bが、類似度が閾値未満であると判定した場合(ステップS32:No)、判定部43bは、当該病変画像群を静止画により表示装置7に表示させると判定する。
【0074】
以上説明したように、画像処理装置4Bによれば、類似度が閾値未満である場合、病変画像群を静止画により再生する。その結果、病変画像群の各画像間の連続性が低く、動画により再生すると観察しづらい病変画像群を静止画により閲覧することができるため、観察効率がよい。
【0075】
(実施の形態5)
図21は、実施の形態5に係る画像処理装置のブロック図である。
図21に示すように、画像処理装置4Dの制御部43Dは、病変画像群に含まれる画像がそれぞれ撮像された際のカプセル型内視鏡2の姿勢情報を取得する姿勢取得部43Dgと、病変画像群に含まれる各画像間における姿勢情報を比較して統計値を算出する姿勢算出部43Dhと、を備える。
【0076】
判定部43bは、病変画像群の枚数が第1の閾値以上であり、統計値がカプセル型内視鏡2の姿勢が大きく動いていない基準を満たす場合に限り、当該病変画像群を動画により表示装置7に表示させると判定する。
【0077】
図22は、
図21に示した画像処理装置の動作を示すフローチャートである。
図22に示すように、ステップS4において、判定部43bが、病変画像群の枚数が第1の閾値以上であると判定した場合(ステップS4:Yes)、姿勢取得部43Dgは、病変画像群に含まれる画像がそれぞれ撮像された際のカプセル型内視鏡2の姿勢情報を取得する(ステップS41)。具体的には、姿勢取得部43Dgは、例えばカプセル型内視鏡2に設けられたジャイロセンサから受信装置3を経由して姿勢情報を取得する。
【0078】
そして、姿勢算出部43Dhは、病変画像群に含まれる各画像間における姿勢情報を比較して統計値を算出する(ステップS42)。なお、姿勢算出部43Dhは、例えば病変画像群の各画像間の姿勢の差を算出し、算出した姿勢の差に基づいた統計値(平均値や中央値、最頻値等)を算出することにより、病変画像群の姿勢の差を算出する。
【0079】
その後、判定部43bは、算出した病変画像群の姿勢の差が閾値以上であるか否かを判定する(ステップS43)。
【0080】
判定部43bが、姿勢の差が閾値未満であると判定した場合(ステップS43:No)、判定部43bは、当該病変画像群を動画により表示装置7に表示させると判定する。
【0081】
図23は、カプセル型内視鏡が姿勢を維持しながらポリープを撮像する様子を表す図である。
図23に示すように、消化管G内において、カプセル型内視鏡2が姿勢を維持しながらポリープP1及びP2を撮像し、各画像間の姿勢の差が小さい場合、各画像の連続性が高いので動画の方が閲覧しやすい。
【0082】
一方、判定部43bが、姿勢の差が閾値以上であると判定した場合(ステップS43:Yes)、判定部43bは、当該病変画像群を静止画により表示装置7に表示させると判定する。
【0083】
図24は、カプセル型内視鏡が姿勢を変えながらポリープを撮像する様子を表す図である。
図24に示すように、消化管G内において、カプセル型内視鏡2が姿勢を変えながらポリープP1及びP2を撮像し、各画像間の姿勢の差が大きい場合、各画像の連続性が低いので静止画の方が閲覧しやすい。
【0084】
(実施の形態6)
図25は、実施の形態6に係る画像処理装置のブロック図である。
図25に示すように、画像処理装置4Eの制御部43Eは、病変画像群に含まれる画像がそれぞれ撮像された際のカプセル型内視鏡2の位置情報を取得する位置取得部43Eiと、病変画像群に含まれる各画像間における位置情報を比較して統計値を算出する位置算出部43Ejと、を備える。
【0085】
判定部43bは、病変画像群の枚数が第1の閾値以上であり、統計値がカプセル型内視鏡2の位置が大きく動いていない基準を満たす場合に限り、当該病変画像群を動画により表示装置7に表示させると判定する。
【0086】
図26は、
図25に示した画像処理装置の動作を示すフローチャートである。
図26に示すように、ステップS4において、判定部43bが、病変画像群の枚数が第1の閾値以上であると判定した場合(ステップS4:Yes)、位置取得部43Eiは、病変画像群に含まれる画像がそれぞれ撮像された際のカプセル型内視鏡2の位置情報を取得する(ステップS41)。具体的には、位置取得部43Eiは、例えば受信装置3の受信アンテナ3a~3hが受信する信号強度に基づいて、カプセル型内視鏡2の位置情報を算出する。
【0087】
そして、位置算出部43Ejは、病変画像群に含まれる各画像間における位置情報を比較して統計値を算出する(ステップS42)。なお、位置算出部43Ejは、例えば病変画像群の各画像間の位置の差を算出し、算出した位置の差に基づいた統計値(平均値や中央値、最頻値等)を算出することにより、病変画像群の位置の差を算出する。
【0088】
その後、判定部43bは、算出した病変画像群の位置の差が閾値以上であるか否かを判定する(ステップS43)。
【0089】
判定部43bが、位置の差が閾値未満であると判定した場合(ステップS43:No)、判定部43bは、当該病変画像群を動画により表示装置7に表示させると判定する。カプセル型内視鏡2が位置を維持しながら撮像し、各画像間の位置の差が小さい場合、各画像の連続性が高いので動画の方が閲覧しやすい。
【0090】
一方、判定部43bが、位置の差が閾値以上であると判定した場合(ステップS43:Yes)、判定部43bは、当該病変画像群を静止画により表示装置7に表示させると判定する。
【0091】
カプセル型内視鏡2が位置を変えながら撮像し、各画像間の位置の差が大きい場合、各画像の連続性が低いので静止画の方が閲覧しやすい。
【0092】
なお、カプセル型内視鏡2による検査が緊急検査である場合、判定部43bは、病変画像群を動画により表示装置7に表示させると判定してもよい。緊急検査の場合には、病変画像群を動画により短時間で閲覧した方がよいためである。
【0093】
また、病変画像群の枚数が多い場合、例えば病変画像群を時間ごとに複数のグループに分割してもよい。このとき、表示制御部43cは、各グループを代表する副代表画像を表示装置7に表示させる。そして、ユーザは副代表画像から閲覧したい画像を選択し、表示制御部43cは、選択されたグループを動画により表示装置7に表示させる。なお、選択されたグループの画像の枚数が多い場合には、再度グループに分割してもよい。このように、病変画像群を複数のグループに分割することにより、病変画像群の再生時間が長くなりすぎることを防止することができる。
【0094】
また、表示制御部43cが病変画像群を動画により表示装置7に表示させる場合、表示制御部43cは、病変画像群より所定の枚数遡った画像から動画の再生を開始してもよい。その結果、ユーザは、病変以外の正常な組織の画像と病変画像群とを比較することができ、観察効率がよい。
【0095】
また、表示制御部43cは、病変画像群に基づいて算出された尤度が閾値より低い場合、病変画像群の前後の所定の枚数を含めて動画又は静止画を表示装置7に表示させてもよい。その結果、尤度が低い場合に、病変画像が見落とされることを防止することができる。
【0096】
また、表示制御部43cは、病変画像群に基づいて算出された尤度が閾値より低い場合、病変画像群が撮像された範囲内に含まれる全ての画像を含めて動画又は静止画を表示装置7に表示させてもよい。
図4を参照すると、体内画像群GAから病変画像群G1及びG2を検出する際に、病変画像ではない画像は病変画像群G1又はG2に含まれない。従って、病変画像群G1の最初に撮像された画像と最後に撮像された画像との間には、病変画像群G1に含まれなかった画像があるが、尤度が低い場合にはこれらの画像を含めて動画又は静止画を表示装置7に表示させる。その結果、尤度が低い場合に、病変画像が見落とされることを防止することができる。
【0097】
さらに、表示制御部43cは、病変画像群に基づいて算出された尤度が閾値より低い場合、病変画像群の前後の所定の枚数と、病変画像群が撮像された範囲内に含まれる全ての画像とを含めて動画又は静止画を表示装置7に表示させてもよい。
【0098】
また、表示制御部43cが病変画像群を動画により表示装置7に表示させる場合、表示制御部43cは、再生が終了すると、
図5に示す代表画像を一覧表示する画像を表示装置7に表示させてもよいその結果、再生が終了した際に、速やかに他の病変画像群を観察可能とすることができる。
【0099】
さらなる効果や変形例は、当業者によって容易に導き出すことができる。よって、本発明のより広範な態様は、以上のように表し、かつ記述した特定の詳細及び代表的な実施の形態に限定されるものではない。従って、添付のクレーム及びその均等物によって定義される総括的な発明の概念の精神又は範囲から逸脱することなく、様々な変更が可能である。
【符号の説明】
【0100】
1 内視鏡システム
2 カプセル型内視鏡
3 受信装置
3a~3h 受信アンテナ
4、4A、4B、4C、4D、4E 画像処理装置
5 記録媒体
6 入力装置
7 表示装置
41 リーダライタ
42 記録部
43、43A、43B、43C、43D、43E 制御部
43a 取得部
43b 判定部
43c 表示制御部
43Ad 画像判定部
43Be 尤度算出部
43Cf 類似度算出部
43Dg 姿勢取得部
43Dh 姿勢算出部
43Ei 位置取得部
43Ej 位置算出部