IP Force 特許公報掲載プロジェクト 2022.1.31 β版

知財求人 - 知財ポータルサイト「IP Force」

▶ ライカ インストゥルメンツ (シンガポール) プライヴェット リミテッドの特許一覧

特許7078656強度または輝度に依存する疑似色パターン特性の変化を使用する画像処理装置、画像処理方法およびそのような画像処理装置を備えた医療用観察装置
<>
  • 特許-強度または輝度に依存する疑似色パターン特性の変化を使用する画像処理装置、画像処理方法およびそのような画像処理装置を備えた医療用観察装置 図1
  • 特許-強度または輝度に依存する疑似色パターン特性の変化を使用する画像処理装置、画像処理方法およびそのような画像処理装置を備えた医療用観察装置 図2
  • 特許-強度または輝度に依存する疑似色パターン特性の変化を使用する画像処理装置、画像処理方法およびそのような画像処理装置を備えた医療用観察装置 図3
  • 特許-強度または輝度に依存する疑似色パターン特性の変化を使用する画像処理装置、画像処理方法およびそのような画像処理装置を備えた医療用観察装置 図4
  • 特許-強度または輝度に依存する疑似色パターン特性の変化を使用する画像処理装置、画像処理方法およびそのような画像処理装置を備えた医療用観察装置 図5
  • 特許-強度または輝度に依存する疑似色パターン特性の変化を使用する画像処理装置、画像処理方法およびそのような画像処理装置を備えた医療用観察装置 図6
  • 特許-強度または輝度に依存する疑似色パターン特性の変化を使用する画像処理装置、画像処理方法およびそのような画像処理装置を備えた医療用観察装置 図7
  • 特許-強度または輝度に依存する疑似色パターン特性の変化を使用する画像処理装置、画像処理方法およびそのような画像処理装置を備えた医療用観察装置 図8
  • 特許-強度または輝度に依存する疑似色パターン特性の変化を使用する画像処理装置、画像処理方法およびそのような画像処理装置を備えた医療用観察装置 図9
  • 特許-強度または輝度に依存する疑似色パターン特性の変化を使用する画像処理装置、画像処理方法およびそのような画像処理装置を備えた医療用観察装置 図10
  • 特許-強度または輝度に依存する疑似色パターン特性の変化を使用する画像処理装置、画像処理方法およびそのような画像処理装置を備えた医療用観察装置 図11
  • 特許-強度または輝度に依存する疑似色パターン特性の変化を使用する画像処理装置、画像処理方法およびそのような画像処理装置を備えた医療用観察装置 図12
  • 特許-強度または輝度に依存する疑似色パターン特性の変化を使用する画像処理装置、画像処理方法およびそのような画像処理装置を備えた医療用観察装置 図13
  • 特許-強度または輝度に依存する疑似色パターン特性の変化を使用する画像処理装置、画像処理方法およびそのような画像処理装置を備えた医療用観察装置 図14
< >
(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】
(24)【登録日】2022-05-23
(45)【発行日】2022-05-31
(54)【発明の名称】強度または輝度に依存する疑似色パターン特性の変化を使用する画像処理装置、画像処理方法およびそのような画像処理装置を備えた医療用観察装置
(51)【国際特許分類】
   A61B 1/045 20060101AFI20220524BHJP
【FI】
A61B1/045 618
A61B1/045 622
【請求項の数】 12
【外国語出願】
(21)【出願番号】P 2020013724
(22)【出願日】2020-01-30
(65)【公開番号】P2020124495
(43)【公開日】2020-08-20
【審査請求日】2020-01-30
(31)【優先権主張番号】19154875
(32)【優先日】2019-01-31
(33)【優先権主張国・地域又は機関】EP
(73)【特許権者】
【識別番号】516114695
【氏名又は名称】ライカ インストゥルメンツ (シンガポール) プライヴェット リミテッド
【氏名又は名称原語表記】Leica Instruments (Singapore) Pte. Ltd.
【住所又は居所原語表記】12 Teban Gardens Crescent, Singapore 608924, Singapore
(74)【代理人】
【識別番号】100114890
【弁理士】
【氏名又は名称】アインゼル・フェリックス=ラインハルト
(74)【代理人】
【識別番号】100098501
【弁理士】
【氏名又は名称】森田 拓
(74)【代理人】
【識別番号】100116403
【弁理士】
【氏名又は名称】前川 純一
(74)【代理人】
【識別番号】100135633
【弁理士】
【氏名又は名称】二宮 浩康
(74)【代理人】
【識別番号】100162880
【弁理士】
【氏名又は名称】上島 類
(72)【発明者】
【氏名】ゲオルゲ テメリス
【審査官】永田 浩司
(56)【参考文献】
【文献】欧州特許出願公開第03248531(EP,A1)
【文献】米国特許出願公開第2015/0276602(US,A1)
【文献】米国特許出願公開第2002/013008(US,A1)
【文献】米国特許出願公開第2001/0268010(US,A1)
(58)【調査した分野】(Int.Cl.,DB名)
A61B 1/00
(57)【特許請求の範囲】
【請求項1】
顕微鏡(104)または内視鏡などの医療用観察装置(102)用の画像処理装置(100)において、
前記画像処理装置は、画像プロセッサ(106)を含んでおり、
前記画像プロセッサは、
パターン特性(118)を有しておりかつ疑似色(120)を含んでいるデジタル疑似色パターン(116)を取得し、
前記デジタル疑似色パターンを、検索されたデジタル入力画像(108、110)の入力エリア(122)に結合させ、したがってパターン領域(124)を形成し、
前記パターン領域内の位置(126)における前記パターン特性を、前記入力エリア内の対応する位置(128)における強度(I)および輝度(B)のうちの一方に依存して変化させ、
前記パターン領域を含んでいる少なくとも1つのデジタル出力画像(130)を出力する、
ように構成されており、
前記画像プロセッサ(106)は、さらに、前記パターン領域(124)の境界(134)の位置(132)における前記パターン特性(118)を、前記少なくとも1つのデジタル出力画像(130)の前記パターン領域外の少なくとも1つの隣接する位置(136)の強度(I)および輝度(B)のうちの一方に依存して調整するように構成されている、
画像処理装置(100)。
【請求項2】
顕微鏡(104)または内視鏡などの医療用観察装置(102)用の画像処理装置(100)において、
前記画像処理装置は、画像プロセッサ(106)を含んでおり、
前記画像プロセッサは、
パターン特性(118)を有しておりかつ疑似色(120)を含んでいるデジタル疑似色パターン(116)を取得し、
前記デジタル疑似色パターンを、検索されたデジタル入力画像(108、110)の入力エリア(122)に結合させ、したがってパターン領域(124)を形成し、
前記パターン領域内の位置(126)における前記パターン特性を、前記入力エリア内の対応する位置(128)における強度(I)および輝度(B)のうちの一方に依存して変化させ、
前記パターン領域を含んでいる少なくとも1つのデジタル出力画像(130)を出力する、
ように構成されており、
前記画像プロセッサ(106)は、さらに、前記パターン領域(124)の境界(134)の位置(132)における前記疑似色(120)の強度(I)および輝度(B)のうちの一方と、前記パターン領域(124)外の少なくとも1つの隣接する位置(136)における強度および輝度のうちの一方と、の所定の差異をもたらすように構成されている、
画像処理装置(100)。
【請求項3】
顕微鏡(104)または内視鏡などの医療用観察装置(102)用の画像処理装置(100)において、
前記画像処理装置は、画像プロセッサ(106)を含んでおり、
前記画像プロセッサは、
パターン特性(118)を有しておりかつ疑似色(120)を含んでいるデジタル疑似色パターン(116)を取得し、
前記デジタル疑似色パターンを、検索されたデジタル入力画像(108、110)の入力エリア(122)に結合させ、したがってパターン領域(124)を形成し、
前記パターン領域内の位置(126)における前記パターン特性を、前記入力エリア内の対応する位置(128)における強度(I)および輝度(B)のうちの一方に依存して変化させ、
前記パターン領域を含んでいる少なくとも1つのデジタル出力画像(130)を出力する、
ように構成されており、
前記パターン領域(124)内の前記デジタル疑似色パターン(116)は、第1のパターン構成要素(138)および第2のパターン構成要素(140)を含んでおり、前記第1のパターン構成要素は、前記第2のパターン構成要素の疑似色強度および疑似色輝度とは異なる疑似色強度および疑似色輝度のうちの一方を有しており、前記第1のパターン構成要素の疑似色強度および疑似色輝度と、前記第2のパターン構成要素の疑似色強度および疑似色輝度と、の差異は、前記入力エリア(122)内の強度および輝度のうちの一方に依存する、
画像処理装置(100)。
【請求項4】
前記画像プロセッサ(106)は、取得された前記デジタル入力画像(108、110)内の強度(I)または輝度(B)のうちの一方が、上側の閾値(872)を下回るかつ/または下側の閾値(764)を上回る入力エリア(122)内に前記パターン領域(124)を生成するように構成されている、
請求項1から3までのいずれか1項記載の画像処理装置(100)。
【請求項5】
前記画像プロセッサ(106)は、さらに、前記パターン領域(124)内の位置(126)における少なくとも1つの前記疑似色(120)の輝度(B)および強度(I)のうちの一方を、前記入力エリア(122)内の対応する位置(128)における輝度(B)および強度(I)のうちの一方に比例するようにセットするように構成されている、
請求項1から4までのいずれか1項記載の画像処理装置(100)。
【請求項6】
前記画像プロセッサ(106)は、前記入力エリア(122)内の強度および輝度のうちの一方に依存して、前記デジタル疑似色パターン(116)の時間的な変化速度および空間的な変化速度のうちの少なくとも一方を変化させるように構成されている、
請求項1から5までのいずれか1項記載の画像処理装置(100)。
【請求項7】
前記画像プロセッサ(106)は、
前記デジタル入力画像(108、110)または別のデジタル入力画像を、白色光(146)で記録された物体(144)を表しているデジタル白色光画像(142)として検索し、別のデジタル入力画像または前記デジタル入力画像を、少なくとも1つの蛍光体(150)の蛍光スペクトルで記録された前記物体(144)を表しているデジタル蛍光画像(148)として検索し、
前記デジタル蛍光画像内の前記入力エリア(122)を特定し、
前記デジタル疑似色パターン(116)を前記デジタル白色光画像(142)とマージさせ、前記デジタル蛍光画像の前記入力エリア(122)内の対応する位置(128a)の輝度および強度のうちの一方に依存して、前記パターン領域(124)内の位置(126)における前記デジタル疑似色パターンの輝度および強度のうちの一方を変化させる、
ように構成されている、
請求項1から6までのいずれか1項記載の画像処理装置(100)。
【請求項8】
医療用観察装置(102)において、前記医療用観察装置は、
請求項1から7までのいずれか1項記載の画像処理装置(100)と、
1つ以上のデジタル入力画像(108、110)を記録するように構成されているカメラシステム(112)と、
少なくとも1つのデジタル出力画像(130)を表示するように構成されている少なくとも1つのディスプレイ装置(152)と、
を含む医療用観察装置(102)。
【請求項9】
前記カメラシステム(112)は、前記デジタル入力画像(110)もしくは別のデジタル入力画像を、少なくとも1つの蛍光体(150)の蛍光スペクトルで、デジタル蛍光画像(146)として記録し、かつ/または、別のデジタル入力画像もしくは前記デジタル入力画像(108)を、白色光で、デジタル白色光入力画像(142)として記録するように構成されている、
請求項8記載の医療用観察装置(102)。
【請求項10】
前記医療用観察装置は、顕微鏡(104)または内視鏡のうちの少なくとも1つを含んでいる、
請求項8または9記載の医療用観察装置(102)。
【請求項11】
画像プロセッサ(106)を含む画像処理装置(100)の作動方法において、
前記画像プロセッサ(106)により、1つ以上のデジタル入力画像(108、110)を検索するステップと、
前記画像プロセッサ(106)により、前記1つ以上のデジタル入力画像に基づいて、少なくとも1つのデジタル出力画像(130)を生成するステップと、
前記画像プロセッサ(106)により、表示およびさらなる処理のうちの少なくとも一方のために、前記少なくとも1つのデジタル出力画像を出力するステップと、
を含み、
前記デジタル入力画像から前記少なくとも1つのデジタル出力画像を生成するステップは、
前記画像プロセッサ(106)により、パターン特性(118)を有しているデジタル疑似色パターン(116)を、前記1つ以上のデジタル入力画像のうちの少なくとも1つのデジタル入力画像の少なくとも1つの入力エリア(122)に結合させて、パターン領域(124)を生成するステップと、
前記画像プロセッサ(106)により、前記パターン領域の位置(126)における前記パターン特性(118)を、前記1つ以上のデジタル入力画像のうちの少なくとも1つのデジタル入力画像の前記入力エリア内の対応する位置(128)における強度および輝度のうちの一方に依存して調整するステップと、
を含み、
前記パターン領域(124)の境界(134)における位置(132)の輝度ならびに強度および前記パターン領域(124)外の隣接する位置(136)の輝度ならびに強度のうちの少なくとも1つに連続的な遷移をもたらす、
作動方法。
【請求項12】
コンピュータプログラムにおいて、
前記コンピュータプログラムがコンピュータによって実行されると、前記コンピュータに請求項11記載の作動方法を実施させる命令を含んでいるコンピュータプログラム。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、顕微鏡または内視鏡などの医療用観察装置用の画像処理装置、そのような画像処理装置を備えた医療用観察装置、および画像処理方法、例えば顕微鏡法または内視鏡法に関する。
【背景技術】
【0002】
目下、顕微鏡または内視鏡などの医療用観察装置、またはそのような医療用観察装置に関連させて使用される画像処理装置が、関心領域を自動的に特定できるようになることが必要とされている。関心領域は、例えば、観察される組織または観察される細胞の一部であってよく、そのような組織または細胞は、反射率または蛍光などの光学的な特性によって見分けることができ、またさらなる処理ステップを実施するために識別されなければならない。関心領域は、例えば、血管または腫瘍などの組織であってよい。腫瘍の場合、さらなる処理ステップとして、生検または切除が考えられる。
【0003】
しかしながら、観察されるエリアが実際に関心領域であるのか、それとも目下関心の対象ではない背景に属するものであるのかが不明瞭であることが多い。後者は特に、領域が、関心領域を明確に定義するために使用されるすべての判定基準を満たさない場合であると考えられる。例えば、あるエリアにおける蛍光強度が、それを腫瘍として明瞭にマークするために使用される閾値を僅かに下回る可能性がある。別の例では、あるエリアの強度または輝度の色が、それを血管として明瞭にマークするために使用される閾値を僅かに下回る可能性がある。
【0004】
したがって、本発明の1つの態様によれば、そのような曖昧な関心領域を識別および/または表示するための、画像処理装置、医療用観察装置、および画像処理方法が提供される。
【発明の概要】
【課題を解決するための手段】
【0005】
上記の要求は、画像プロセッサを含んでいる画像処理装置によって取り組まれ、画像プロセッサは、パターン特性を有しており、かつ規則的に変化する疑似色を含んでいるデジタル疑似色パターンを取得し、デジタル疑似色パターンを、検索されたデジタル入力画像の入力エリアに結合させ、したがってパターン領域を形成し、パターン領域内のパターン特性および位置を、デジタル入力画像および別の検索されるデジタル入力画像のうちの少なくとも一方の入力エリア内の対応する位置における強度および輝度のうちの一方に依存して変化させ、パターン領域を含んでいる少なくとも1つのデジタル出力画像を出力するように構成されている。
【0006】
上記の要求は、さらに、そのような画像処理装置と、1つ以上のデジタル入力画像を記録するように構成されているカメラシステムと、少なくとも1つのデジタル出力画像を表示するように構成されている少なくとも1つディスプレイ装置と、を含んでいる医療用観察装置によって取り組まれる。医療用観察装置の好適な実施形態は、細胞組織を検査するために使用することができる、実験室用顕微鏡などの顕微鏡、特に人体の手術、例えば神経の手術または目の手術を行うための外科用の顕微鏡、または内視鏡、特に外科用の内視鏡である。
【0007】
最後に、上記の要求は、画像処理方法によって取り組まれ、この画像処理方法は、1つ以上のデジタル入力画像を検索するステップと、1つ以上のデジタル入力画像から、少なくとも1つのデジタル出力画像を生成するステップと、表示およびさらなる処理のうちの少なくとも一方のために、少なくとも1つのデジタル画像を出力するステップと、を含んでおり、デジタル入力画像から少なくとも1つのデジタル出力画像を生成するステップは、パターン特性を有しているデジタル疑似色パターンを、1つ以上のデジタル入力画像のうちの少なくとも1つのデジタル入力画像の少なくとも1つの入力エリアに結合させて、パターン領域を生成するステップと、パターン領域の位置におけるパターン特性を、1つ以上のデジタル入力画像のうちの少なくとも1つのデジタル入力画像の入力エリア内の対応する位置における強度および輝度のうちの一方に依存して調整するステップと、を含んでいる。
【0008】
上記の方法および装置によって、不明瞭な関心領域と明瞭な関心領域とを迅速に区別することができる。関心領域に対して目下設定されているすべての判定基準を満たさない不明瞭な関心領域が表示される場合、関心領域に関するすべての判定基準を満たすエリアとは異なるように、それらの不明瞭な関心領域をマークすることに注意を払わねばならない。不明瞭な関心領域および明瞭な関心領域が同じようにマークされてしまうと、ユーザは差異を認識することができず、さらなるステップに関して誤った結論が導き出されてしまう虞がある。例えば、医療用観察装置が外科用の顕微鏡または内視鏡である場合、外科医は、不明瞭な関心領域が切除しなければならない腫瘍であると誤った判断を下してしまう虞がある。不明瞭な関心領域が実際は腫瘍ではなく、アーチファクトである場合、誤ってマークされた腫瘍が除去されると、患者に重大なリスクを与える虞がある。さらには、例えば関心領域の表示に関する判定基準を変更することによって、すべての疑わしい関心領域を手動で確認しなければならない場合、手術時間はより長くなり、外科医を疲弊させることになる。
【0009】
パターン領域内の位置におけるパターン特性を、入力エリアの対応する位置における強度および輝度のうちの一方に依存して変更することによって、デジタル疑似色パターンは、均一には適用されなくなるが、しかしながら、そのデジタル疑似色パターンが適用されるエリアの内容に即して変更される。これによって、不明瞭な関心領域を、明瞭な関心領域とは異なるように表示することができる。
【0010】
例えば、関心領域が、その関心領域に集中する蛍光体の蛍光を基礎とする場合、入力エリア内の蛍光の強度は、所定のエリアが関心領域として分類されるか否かについて決定的なものとなり得る。強度または輝度に基づいて疑似色パターンを変更することで、ユーザは、確実に腫瘍であるとは限らない関心領域を即座に認識することができる。
【0011】
別の例は、例えばその色によって識別することができる血管である。したがって、特定の色範囲にある強度が、血管として明瞭に分類されるには十分に高くない血管は、異なる疑似色パターン特性でマークすることができる。
【0012】
したがって、上記の画像処理装置、医療用観察装置および方法は、技術的な効果を使用してユーザと明確に対話することによって、医療用観察装置の取り扱いを大幅に改善する。
【0013】
上記の画像処理装置、医療用観察装置および方法は、下記の付加的な特徴のうちの1つ以上を含むことによってさらに改善することができる。以下に説明するように、それらの付加的な特徴はそれぞれ、それ自体で固有の技術的な効果を有しており、また他の付加的な特徴のうちのいずれか1つと独立して組み合わせることができる。付加的な特徴は、画像処理装置、医療用観察装置および/または画像処理方法に無差別に適用することができる。画像処理システムについて明示的に言及することなく、下記で処理ステップについて説明する場合には常に、その処理ステップを実施するように画像処理装置を相応に構成することができると解されたい。反対に、画像プロセッサが処理ステップを実施するように構成されていることが言及されている場合には、その処理ステップは、画像処理装置を含むか、または必要とする画像処理方法の実施形態の一部であってもよい。
【0014】
例えば、1つの実施形態では、画像プロセッサは、カメラシステムおよびメモリ装置のうちの少なくとも一方から1つ以上のデジタル入力画像を検索することによって、1つ以上のデジタル入力画像を取得するように構成することができる。カメラシステムは、CMOSカメラまたはCCDカメラを含むことができる。カメラシステムは、代替的にまたは累積的に、RGBカメラ、マルチスペクトルカメラおよび/またはハイパースペクトルカメラを含むことができる。カメラシステムは、さらに、白色光、IR光、NIR光および/またはUV光を含んでいる1つ以上の波長帯域で、1つ以上のデジタル入力画像を記録するように構成されているカメラを含むことができる。メモリ装置は、ハードディスクドライブ、メモリカード、メモリスティック、メモリバンク、および/または磁気ディスクおよび光ディスクのうちの少なくとも一方、を含むことができる。メモリ装置は、さらに、揮発性メモリおよび/または不揮発性メモリを含むことができる。
【0015】
入力エリア内の強度および輝度のうちの一方が特定される位置は、1つ以上のデジタル出力画像のうちの1つにおける単一のピクセルであってよい。位置は、1つ以上のデジタル入力画像内の、好適には連続するピクセルのセットであってもよい。入力エリア内の位置は、その位置が、少なくとも1つのデジタル入力画像内、ならびに少なくとも1つのデジタル入力画像から導出されるような少なくとも1つのデジタル出力画像内の同一の幾何学ポジション、および/またはパターン認識アルゴリズムによって1つ以上のデジタル入力画像から抽出されるような同一の画像特徴部内の同一の幾何学ポジションのうちの少なくとも一方を有する場合には、パターン領域内の位置に対応するとみなすことができる。入力エリアは、パターン認識アルゴリズムを使用して、特に画像処理装置によって抽出された1つ以上のデジタル入力画像内の特徴部であってよい。パターン領域内および入力エリア内のマッチング位置は、1つ以上のデジタル出力画像における解釈の制度を改善し、また疑似色パターンが、入力エリア内で観察されているものを忠実にレンダリングすることを保証する。
【0016】
1つの実施形態では、デジタル疑似色パターンを取得することは、例えばメモリ装置からデジタル疑似色パターンを検索すること、および例えば画像処理装置に記憶されている機能を使用して、デジタル疑似色パターンを生成すること、のうちの少なくとも一方を含むことができる。画像プロセッサは、例えば、所定のデジタル疑似色パターン、または1つ以上のデジタル疑似色パターンを生成するための所定の機能が記憶されているメモリを含んでいる。
【0017】
別の実施形態では、デジタル疑似色パターンは、メモリ装置に記憶することができるか、または機能を使用して生成することができる疑似色を含むことができる。機能は、画像処理装置に記憶することができる。例えば、画像プロセッサは、記憶されている疑似色のセットから、デジタル疑似色パターンの疑似色を自動的に決定するように構成することができる。疑似色は、好適には、1つの以上のデジタル出力画像の基礎となる1つ以上のデジタル入力画像のいずれにも含まれていない色である。
【0018】
パターン特性は、デジタル疑似色パターンに関して相互に区別される。パターン特性は、デジタル疑似色パターンの疑似色、強度、輝度、透明度、コントラスト、幾何学形状、時間的な変化速度および空間的な変化速度のうちの少なくとも1つを含むことができる。それらのパターン特性のいずれも、所定の位置において、入力エリア内の対応する位置における強度および輝度のうちの一方に依存して変化させることができる。
【0019】
デジタル疑似色パターンは、時間的に変化するデジタル疑似色パターンおよび空間的に変化するデジタル疑似色パターンのうちの少なくとも一方であってよい。時間的に変化するデジタル疑似色パターンは、時間的な規則性を有しており、例えば支配的な時間周波数、すなわち時間にわたるデジタル疑似色パターンの規則的な変化または反復を調整する変化速度を有している。そのような支配的な時間周波数の一例は、パターン領域内の疑似色の強度が時間にわたり変化する速度である。そのような時間的な規則性は、例えば、特定の周波数でのデジタル疑似色パターンの点滅をもたらすことができる。支配的な空間周波数、すなわち空間的な変化速度の例は、例えば、ハッチングの幅または繰り返しの幾何学デザイン間の空間的な距離である。例えば、ハッチングの点滅および/または移動などの時間的かつ空間的に変化するパターンをもたせることによって、時間的な変化および空間的な変化を組み合わせることができる。パターン領域内の位置における疑似色の強度は、入力エリア内の対応する位置における強度または輝度に依存する周波数でもって周期的に変化させることができる。時間にわたる疑似色の強度の変化は、例えば正弦波状の変化のような連続的な変化であってもよいし、例えば段階的な変化のような急激な変化であってもよい。時間的な変化の振幅および/または最大もしくは最小の強度もしくは輝度は、入力エリア内の対応する位置における強度または輝度にも依存することができる。
【0020】
別の実施形態によれば、パターン領域内の位置のデジタル疑似色パターンの第1のパターン特性は、入力エリア内のマッチング位置における強度または輝度に依存して決定することができ、またパターン領域内のデジタル疑似色パターンの第2の異なるパターン特性は、入力領域内の平均強度または平均輝度に依存することができる。より一般的に言えば、パターン領域内の疑似色パターンの位置における第1のパターン特性は、入力エリア内のマッチング位置における局所的な特性に依存することができ、またパターン領域内の疑似色パターンの第2の異なるパターン特性は、入力エリアの全域的な特性に依存することができる。全域的な特性は、局所的な特性のエリアよりも大きい画像エリアを基礎とすることができる。例えば、局所的な特性は、単一のピクセルだけを使用して決定することができ、それに対して、全域的な特性は、局所的な特性に関する単一のピクセルを含むことができる複数のピクセルを使用して決定することができる。
【0021】
例えば、第1のパターン特性は、デジタル疑似色パターンの疑似色の強度または輝度、およびコントラストのうちの少なくとも1つであってよく、第2のパターン特性は、パターンのサイズおよび点滅周波数などの、デジタル疑似色パターンの空間的な変化速度および時間的な変化速度のうちの少なくとも一方であってよい。
【0022】
デジタル入力画像は、1つ以上の色チャネルを含むことができる。単一の色チャネルで、デジタル入力画像を構成することができる。
【0023】
代替的または累積的に、空間的に変化する疑似色パターンのポジションは、後続のデジタル出力画像において周期的にシフトすることができる。例えば、デジタル疑似色パターンの幅、距離および/または形状を含む、空間的に変化するパターンの幾何学またはトポロジは、例えば後続のデジタル出力画像において、時間にわたり一定のままであってよい。観察者は、そのような時間的および空間的に変化するパターンを、一方向に移動するように感じることができる。
【0024】
別の実施形態によれば、デジタル出力画像の時系列を、単一のデジタル出力画像から計算または導出することができる。例えば、時間的に変化するパターンは、1つ以上の静止入力画像に関して計算および表示することができる。代替的に、時間的に変化するパターンは、1つ以上の後続のデジタル入力画像を基礎として、デジタル入力画像の時系列における各画像に関して計算される。
【0025】
好適には、画像プロセッサは、デジタル疑似色パターンを含んでいる少なくとも1つのデジタル出力画像をリアルタイムで計算するように構成されている。これによって、特に、デジタル入力画像がデジタル入力画像のライブストリームを表す場合には、観察者は、デジタル入力画像における決定的な変化に、迅速かつ時宜にかなって反応することができる。1つの実施形態では、デジタル入力画像毎に単一のデジタル出力画像を計算することができる。この実施形態では、デジタル出力画像のフレームレートを、デジタル入力画像のフレームレートに対応させることができる。
【0026】
別の実施形態では、デジタル疑似色パターンは、繰り返しの幾何学要素、例えば多角形、ストライプおよび/または円を含むことができる。代替的または累積的な実施形態によれば、デジタル疑似色パターンは、疑似色エリアおよび非疑似色エリアを含むことができ、かつ/または疑似色エリアおよび異なる疑似色から成るエリアまたは疑似色の異なる強度または輝度から成るエリアを含むことができる。例えば、2つの異なる種類の関心領域に分類することができる不明瞭な関心領域は、2つの異なる種類それぞれに割り当てられる2つの異なる疑似色でマークすることができる。例えば、入力エリアにおいて、2つの蛍光体の蛍光が重畳し、2つの蛍光体それぞれに異なる疑似色が割り当てられる場合には、パターン領域内の疑似色パターンは、2つの蛍光体の2つの疑似色を、例えば2色のハッチングで含むことができる。同一のことを静脈血管および動脈血管に対して維持することができる。つまり静脈血管を確実に動脈血管と区別できないケースでは、例えば赤色および青色の2色のデジタル疑似色パターンを使用することができる。
【0027】
より一般化された意味では、パターン領域内の疑似色パターンは、第1のパターン構成要素および第2のパターン構成要素のうちの少なくとも一方を含むことができ、第1のパターン構成要素は、第2のパターン構成要素とは異なる形状、疑似色、疑似色強度および疑似色輝度のうちの1つを有している。例えば、第2のパターン構成要素は、第1のパターン構成要素よりも低い疑似色強度もしくは疑似色輝度および/または異なる疑似色を有することができる。
【0028】
例えば、第1のパターン構成要素は、疑似色領域を含んでいるハッチングされた疑似色パターンの一部であってよく、それに対して、第2のパターン構成要素は、ハッチングの線間のエリアを含んでおり、したがって低い疑似色強度もしくは疑似色輝度を有しているか、または疑似色強度もしくは疑似色輝度を有していない。第1のパターン構成要素の疑似色強度または疑似色輝度と第2のパターン構成要素の疑似色強度または疑似色輝度との差異、または第1のパターン構成要素と第2のパターン構成要素とのコントラストは、1つ以上のデジタル入力画像の入力エリア内の強度および輝度のうちの一方に依存することができる。したがって、コントラスト、すなわち疑似色パターンの可視性は、入力エリアの強度または輝度に依存する。デジタル疑似色パターンのコントラストを、入力エリア内の強度または輝度と共に増加させることができる。
【0029】
そのような実施形態では、低い強度または輝度しか有しておらず、したがって殆ど視認または識別されない入力エリアは、コントラストが低いパターンを含むことになる。パターンの可視性は、パターン内の空間周波数および/または時間周波数に起因して、パターンを有していない入力エリアと比較して高められているにもかかわらず、過度に強調されない。したがって、この実施形態では、低い強度または輝度を有している入力エリアを基礎とする疑似色パターンが、高い強度または輝度を有している入力エリアを基礎とする入力パターンと混同される危険がさらに低減されている。
【0030】
別の実施形態では、画像プロセッサは、パターン領域内の位置における少なくとも1つの疑似色輝度および疑似色強度のうちの一方を、入力エリア内の対応する位置における輝度および強度のうちの一方に比例するようにセットするように構成することができる。したがって、疑似色パターンのコントラストは、入力エリア内の対応する位置の輝度および強度に依存する。これによって、観察者は、入力エリアに関して、したがって関心領域としてのパターン領域の何らかの不明瞭性に関して即座に結論を下すことができる。例えば、輝度および強度の低下と共に、少なくとも1つの疑似色輝度および疑似色強度を低減することができる。
【0031】
疑似色パターンが、第1のパターン構成要素および第2のパターン構成要素の両方を含んでいる場合には、第2のパターン構成要素が任意の疑似色を含まないことが好適であると考えられる。したがって、この実施形態では、入力エリア内の対応する位置の強度または輝度が低くなればなるほど、パターン領域内の疑似色パターンの可視性は自動的に低くなる。
【0032】
1つの実施形態では、画像処理装置は、パターン領域に加えて、1つ以上のデジタル出力画像内の疑似色領域を計算するように構成することができる。疑似色領域は、デジタル疑似色パターンを使用することなく、疑似色で着色することができる。より具体的には、参照によりその全体が本願に組み込まれるEP3205254の装置および方法を使用して、疑似色エリアを計算することができる。1つ以上のデジタル出力画像内の疑似色領域は、1つ以上のデジタル入力画像内の対応する入力エリアの強度または輝度が所定の下側の閾値を上回る位置であってよい。
【0033】
EP3205254の装置および方法は、疑似色パターンを1つ以上のデジタル入力画像とマージするために使用することもできる。
【0034】
例えば、腫瘍細胞に結合する蛍光体が使用される場合には、多数の腫瘍細胞が集中するエリアに、高い蛍光強度または蛍光輝度を生じさせることができる。したがって、蛍光強度または蛍光輝度の特定の所定の閾値を上回ると、高い蛍光強度が腫瘍をマークしている確実性は高い。この上側の閾値を下回る場合、腫瘍が存在するか否かについての統計的な不確実性が高まると考えられる。この実施形態では、閾値を上回る強度または輝度を有している入力エリアは、パターンを有していない疑似色を使用して均一に着色されることになる。これは、例えば、EP3205254に記載されているような、1つ以上のデジタル入力画像のうちの別のデジタル入力画像における強度または輝度に依存して疑似色の強度または輝度を設定して、疑似色を1つ以上のデジタル入力画像のうちの1つのデジタル入力画像とマージすることによって行うことができる。閾値を下回る強度または輝度を有している入力エリアを使用して、上述のようなパターンエリアを生成することができる。したがって、パターンエリアは、不明瞭な関心領域をマークする。
【0035】
さらなる実施形態では、上側の所定の閾値を下回り、かつ下側の所定の閾値を上回る強度または輝度を有している1つ以上の好適には連続するピクセルを含ませることによって、入力エリアまたはパターンエリアそれぞれを決定することは好適であると考えられる。下側の所定の閾値を使用して、ノイズまたは測定エラーによる影響を受けた可能性がある低い強度または輝度が入力エリアに含まれることを回避することができる。
【0036】
異なる位置において閾値判定基準が満たされる場合には、デジタル入力画像は、複数の別個の入力エリアを含むことができる。
【0037】
1つ以上のデジタル入力画像は、少なくとも1つの蛍光体の蛍光スペクトルで記録された蛍光画像、白色光で記録されたデジタル白色光画像、デジタルCT画像、デジタルMRT画像、デジタルラマン顕微分光画像、デジタル超音波画像、およびそれらの任意の組み合わせを含むことができる。
【0038】
画像プロセッサは、さらに、デジタル入力画像が複数の好適には連続するピクセルを含んでいる場合にのみ、そのデジタル入力画像のエリアを入力エリアとして選択するように構成することができる。例えば、デジタル疑似色パターンの所定の幾何学形状よりも大きくなるように入力エリアを選択することができる。
【0039】
1つの実施形態では、画像プロセッサは、強度または輝度が上側の閾値を下回る、かつ/または下側の閾値を上回る所定の最小数のピクセルをデジタル入力エリアが含む場合にのみ、そのデジタル入力エリアのエリアを入力エリアとして選択するように構成することができる。例えば、入力エリアの最小サイズは、3×3、4×4、または5×5のピクセルであってよい。
【0040】
画像プロセッサは、さらに、入力エリア内の1つ以上のデジタル入力画像の平均強度または平均輝度に依存して、かつ/または入力エリアとその直ぐ周囲のエリアとのコントラストに依存して、入力エリアの異なる最小サイズ判定基準またはフィルタを適用するように構成することができる。この実施形態では、小さくて明るいエリアを、より大きくて明るさがより低いエリアと同様に可視とすることができ、かつ関心領域にとって重要なエリアであるとすることができると考えられる。したがって、入力エリアのサイズは、その平均強度または平均輝度に依存することができる。平均強度が高くなればなるほど、入力エリアのサイズはより一層小さくなると考えられる。
【0041】
平均強度または平均輝度は、中央値、算術平均、幾何平均、調和平均、二乗平均、三乗平均、一般化平均、加重平均、トリム平均、ウィンザー化平均ならびに四分位平均、最頻値、ミッドレンジおよびそれらの値の任意の組み合わせのうちのいずれか1つであってよい。
【0042】
別の実施形態では、画像プロセッサは、入力エリア内の平均強度および入力エリアの周囲のエリア内の平均強度、特に入力エリアとその周囲とのコントラストを計算するように構成することができる。画像プロセッサは、入力エリアの最小サイズについての閾値を、この差異に依存して調整するように構成することができる。この判定基準を使用して、自身の周囲とは著しく異なる強度または輝度を有している入力エリアを、より高い尤度で実際の関心領域として分類することができると考えられる。
【0043】
周囲のエリアは、入力エリアが位置しているデジタル入力画像と同一のデジタル入力画像または、それとは異なるデジタル入力画像内に位置することができる。例えば、入力エリアの強度または輝度は、デジタル蛍光画像から計算することができる。
【0044】
周囲の強度または輝度は、デジタル白色光画像から特定することができる。代替的に、入力エリア内の強度または輝度は、単一の色チャネルから特定することができ、それに対して、周囲の強度または輝度は、別の色チャネルまたは複数の色チャネルの組み合わせから特定される。
【0045】
入力エリア、したがって関心領域を特定するために使用される上側の閾値および/または下側の閾値は、入力エリアの平均強度または平均輝度に依存するものとして、また同一のデジタル入力画像または異なるデジタル入力画像内の入力エリアの平均強度または平均輝度および/または周囲のエリアとのコントラストに依存するものとして、画像処理装置によって計算することができる。例えば、上側の閾値は、より低い平均強度または平均輝度を有している入力エリアと比べて高い平均強度または平均輝度を有している入力エリア内では増加させることができる。代替的にまたは付加的に、上側の閾値は、自身の周囲に対してより低いコントラストを有している入力エリアと比べて、同一のまたは異なるデジタル入力画像において周囲のエリアに対して高いコントラストを有している入力エリア内では増加させることができる。上側の閾値および/または下側の閾値は、入力エリアが位置しているデジタル入力画像または別のデジタル入力画像内の全体の平均強度または平均輝度に依存して、画像処理装置によって特定することもできる。例えば、入力エリアが位置しているデジタル入力画像の全体の強度がより高い場合には、上側の閾値および/または下側の閾値を増加させることができる。反対に、入力エリアが位置しているデジタル入力画像の全体の強度がより低い場合には、上側の閾値および/または下側の閾値を低減させることができる。
【0046】
別の実施形態では、画像処理装置は、入力エリア内の平均強度、同一のまたは異なるデジタル入力画像の周囲のエリア内の平均強度、および同一のまたは異なるデジタル入力画像内の入力エリアの強度と周囲のエリアの強度との差異またはコントラストのうちの少なくとも1つに依存して、上側の閾値および/または下側の閾値の値、入力エリアのサイズのうちの少なくとも1つを特定するためのテーブルまたは機能を含んでいる。それらの値およびサイズは、経験的に特定することができ、またメモリ装置に記憶することができる。さらに、画像処理装置の動作中に、それらの値およびサイズを教え込むためにニューラルネットワークを決定することができる。
【0047】
別の実施形態では、画像プロセッサは、入力エリアのサイズに依存して、パターン特性を変化させるように構成することができる。例えば、画像プロセッサは、疑似色パターンの2つ以上のインスタンスが入力エリアにフィットするように、デジタル疑似色パターンの幾何学形状を入力エリアのサイズに適合させるように構成することができる。別の例では、画像処理装置は、最も小さいサイズを有している入力エリアに依存して、疑似色パターンを選択するように構成することができる。別の付加的または累積的な実施形態では、画像プロセッサは、入力エリアの最小サイズまたは平均サイズに依存して、時間的に変化するパターニングか空間的に変化するパターニングを自動的に選択するように適合させることができる。例えば、入力エリアが小さい場合には、空間的な規則性を有していない点滅する疑似色を使用することができる。
【0048】
別の実施形態では、画像処理装置は、パターン領域が少なくとも所定数のピクセルを含んでいる場合にのみ、パターン領域において疑似色パターンを適用するように構成することができる。画像プロセッサは、ピクセルの数、幅ならびに/または長さなどの寸法、および入力エリアならびに/またはパターン領域のアスペクト比のうちの少なくとも1つを決定するように構成することができる。画像プロセッサは、この値を所定の値と比較して、パターン領域が最小数のピクセル、寸法、およびアスペクト比のうちの少なくとも1つを有するか否かを特定するように構成することができる。
【0049】
パターン領域または入力エリアは、それ以外の場合にはパターン化されないエリアを、そのエリアが入力エリアによって包囲されており、かつ所定のサイズを上回らない場合には含むことができる。例えば、それ以外の場合には明るい入力エリアが暗いスペックを含んでいる場合には、それが小さい場合にのみ、この暗いスペックもパターン化するために、より簡単な認識にとって好適であると考えられる。
【0050】
別の有利な実施形態では、画像プロセッサは、さらに、パターン領域の境界の位置におけるパターン特性を、少なくとも1つのデジタル出力画像のパターン領域外の少なくとも1つの隣接する位置における強度および輝度のうちの一方に依存して調整するように構成することができる。例えば、疑似色の強度および輝度は、少なくとも1つの隣接する位置における強度または輝度に依存して、画像処理装置によって変化させることができる。これによって、パターン領域の強度または輝度を、入力エリアの周囲に平滑に適合させることができる。パターン領域外の少なくとも1つの隣接する位置は、入力エリアと同一のデジタル入力画像内に必ずしも位置している必要はないが、しかしながら異なるデジタル入力画像内に位置することができる。これによって、実際に入力エリアの強度または輝度が平滑な勾配を有するパターン領域の境界において、強度または輝度が急激に変化することが阻止される。したがって、境界は人工的にハイライトされない。
【0051】
別の実施形態では、画像プロセッサは、パターン領域の境界の位置における少なくとも1つの疑似色の強度および輝度のうちの一方と、パターン領域外の少なくとも1つの隣接する位置における強度および輝度のうちの一方との所定の差異、またはコントラストをもたらすように構成することができる。これによって、パターン領域とその周囲との特定のコントラスト、したがって可視性を維持することができる。
【0052】
画像プロセッサは、さらに、白色光で記録された物体を表しているデジタル白色光画像としての1つ以上のデジタル入力画像のうちの1つのデジタル入力画像、および少なくとも1つの蛍光体の蛍光スペクトルで記録された物体を表しているデジタル蛍光画像としての1つ以上のデジタル入力画像のうちの別のデジタル入力画像を検索し、デジタル蛍光画像内の入力エリアを特定し、疑似色パターンをデジタル白色光画像とマージして、パターン領域内の位置における疑似色パターンの輝度および強度のうちの一方を、デジタル蛍光画像内の対応する位置の輝度および強度のうちの一方に依存して変化させるように構成することができる。ここでもまた、マージは、上述のように、EP3205254に記載されている装置および方法を使用して実施することができる。
【0053】
画像プロセッサは、さらに、パターン領域の境界における位置と、パターン領域外の境界における隣接する位置との間の輝度および強度のうちの一方に連続的な遷移をもたらすように構成することができる。
【0054】
医療用観察装置では、カメラシステムは、少なくとも1つの蛍光体の蛍光スペクトルで、1つ以上のデジタル入力画像のうちの少なくとも1つのデジタル入力画像をデジタル蛍光入力画像として記録し、白色光で、1つ以上のデジタル入力画像のうちの1つのデジタル入力画像をデジタル白色光入力画像として記録するように構成することができる。
【0055】
いくつかの態様を装置の文脈において説明したが、それらの態様が、対応する方法の説明も表していることは明白であり、この場合、ブロックまたは装置は、方法ステップまたは方法ステップの特徴に対応する。同様に、方法ステップの文脈において説明した態様は、対応する装置の対応するブロックまたは項目または特徴の説明も表す。方法ステップの一部またはすべてを、ハードウェア装置、例えばプロセッサ、マイクロプロセッサ、プログラミング可能なコンピュータまたは電子回路によって(またはそれを使用して)実行することができる。一部の実施形態では、最も重要な方法ステップのうちの何らかの1つ以上の方法ステップをそのような装置によって実行することができる。
【0056】
特定の実現要求に依存して、本発明の実施形態は、ハードウェアまたはソフトウェアとして実現することができる。この実現は、各方法が実施されるようにプログラミング可能なコンピュータシステムと協働し(または協働することができ)、また電子的に可読の制御信号が記憶されている、デジタル記憶媒体、例えばフロッピディスク、DVD、ブルーレイ、CD、ROM、PROM、EPROM、EEPROMまたはフラッシュメモリなどの、非一時的な記憶媒体を使用して実施することができる。したがって、デジタル記憶媒体は、コンピュータ可読であってよい。
【0057】
本発明による一部の実施形態は、本明細書において説明する方法のうちの1つが実施されるように、プログラミング可能なコンピュータシステムと協働することができる、電子的に可読な制御信号を有しているデータ担体を含む。
【0058】
一般的に、本発明の実施形態は、コンピュータにおいて実行されると、方法のうちの1つを実施するように動作するプログラムコードを有しているコンピュータプログラムとして実現することができる。プログラムコードは、例えば、機械可読担体に記憶することができる。
【0059】
別の実施形態は、機械可読担体に記憶されている、本明細書に記載する方法のうちの1つを実施するためのコンピュータプログラムを含む。
【0060】
したがって、換言すれば、本発明の実施形態は、コンピュータにおいて実行されると、本明細書に記載する方法のうちの1つを実施するためのプログラムコードを有しているコンピュータプログラムである。
【0061】
したがって、本発明のさらなる実施形態は、プロセッサによって実行されると、本明細書に記載する方法のうちの1つを実施するためのコンピュータプログラムを記憶して含んでいる、記憶媒体(またはデータ担体、またはコンピュータ可読媒体)である。データ担体、デジタル記憶媒体または記録媒体は、典型的には、有形のかつ/または非一時的なものである。本発明のさらなる実施形態は、プロセッサおよび記憶媒体を含んでいる、本明細書に記載するような装置である。
【0062】
したがって、本発明のさらなる実施形態は、本明細書に記載する方法のうちの1つを実施するためのコンピュータプログラムを表すデータストリームまたは信号のシーケンスである。データストリームまたは信号のシーケンスは、例えば、データ通信コネクションを介して、例えばインターネットを介して伝送するように構成することができる。
【0063】
さらなる実施形態は、本明細書において説明する方法のうちの1つを実施するように構成されているか、または適合されている処理手段、例えばコンピュータまたはプログラマブルロジックデバイスを含む。
【0064】
以下では、添付の図面を参照しながら、例示的な実施形態を説明する。各図面に示されている特徴の特定の組み合わせは、単に例示に過ぎない。特定の特徴に含まれていない上述のいずれの特徴も、図面に示した実施形態に追加することができる。反対に、上述のいずれのオプションの特徴も、特定の図面に示した実施形態から除くことができる。
【図面の簡単な説明】
【0065】
図1】医療用観察装置の1つの考えられる実施形態の概略図を示す。
図2】デジタル疑似色パターンの概略図を示す。
図3】デジタル疑似色パターンの概略図を示す。
図4】デジタル疑似色パターンの概略図を示す。
図5】デジタル疑似色パターンの概略図を示す。
図6】デジタル疑似色パターンの概略図を示す。
図7】出力画像を取得するための、デジタル入力画像およびデジタル疑似色パターンのマージの概略図を示す。
図8】入力エリアの概略図を示す。
図9】入力エリアの別の実施形態の概略図を示す。
図10】パターン領域における線に沿った、疑似色の強度および/または輝度の変化の概略図を示す。
図11】パターン領域における線に沿った、疑似色の強度および/または輝度の変化の別の実施形態の概略図を示す。
図12】デジタル入力画像における入力エリアの概略図を示す。
図13】デジタル疑似色パターンの変形形態の概略図を示す。
図14】フローチャートの概略図を示す。
【発明を実施するための形態】
【0066】
図1には、例えば、顕微鏡104または内視鏡などの医療用観察装置102において使用されるような画像処理装置100が示されている。画像処理装置100は、汎用コンピュータの一部であってよい画像プロセッサ106を含んでいる。画像プロセッサ106は、ハードウェア、ソフトウェア、またはハードウェアおよびソフトウェアの組み合わせを含むことができる。画像プロセッサ106としては、CPU、GPU、ベクトルプロセッサ、FPA、および/またはASICを挙げることができる。
【0067】
画像プロセッサ106は、デジタル疑似色パターン116を取得するように構成されている。デジタル疑似色パターン116は、パターン特性118を有しており、また規則的に変化する疑似色120を含んでいる。
【0068】
画像プロセッサ106は、さらに、デジタル疑似色パターン116を、検索されるデジタル入力画像108、110の入力エリア122に結合させるように構成されている。デジタル入力画像は、1つ以上の色チャネルを含むことができる。単一の色チャネルで、既に、デジタル入力画像を構成することができる。
【0069】
デジタル疑似色パターン116を、入力エリア122および/またはデジタル入力画像108、110のうちの一方のマッチングエリアに結合させることによって、パターン領域124がもたらされる。画像プロセッサ106は、また、パターン領域124内の位置126におけるパターン特性118を、デジタル入力画像および別の検索されるデジタル入力画像のうちの少なくとも一方の入力エリア122内の対応する位置128における強度および輝度のうちの一方に依存して変化させるように構成されている。パターン特性118は、デジタル疑似色パターン116の疑似色、強度、輝度、透明度、コントラスト、幾何学形状、時間的な変化速度および空間的な変化速度のうちの少なくとも1つを含むことができる。パターン特性118は、特に、光学的または視覚的な特性であってよく、それによって、種々のデジタル疑似色パターン116を相互に視覚的に見分けることができる。
【0070】
異なるパターン特性118によって、1つのデジタル出力画像130において同時に使用することができる異なる疑似色パターン116を相互に区別することができる。それらのパターン特性118のうちのいずれか1つのパターン特性またはそれらのパターン特性118の任意の組み合わせを、位置126において、入力エリア122内の対応する位置128における強度および輝度の一方に依存して変化させることができる。
【0071】
画像プロセッサ106は、さらに、パターン領域124を含んでいる少なくとも1つのデジタル出力画像130を出力するように構成されている。
【0072】
画像プロセッサ106は、1つ以上のデジタル入力画像108、110内の強度または輝度のうちの一方が上側の閾値を下回るかつ/または下側の閾値を上回る入力エリア122内にパターン領域124を生成するように構成することができる。入力エリア122内の強度または輝度は、入力エリア122にわたる平均強度を使用して、画像処理装置100によって計算することができる。平均強度は、中央値、算術平均、幾何平均、調和平均、二乗平均、三乗平均、一般化平均、加重平均、トリム平均、ウィンザー化平均ならびに四分位平均、最頻値、ミッドレンジおよびそれらの任意の組み合わせのうちの少なくとも1つを使用して計算することができる。
【0073】
入力エリア122は、好適には、複数のピクセル128cを含んでいる。複数のピクセルの各ピクセル128cは、好適には連続しており、したがって一続きのエリアを形成している。エリアは、ピクセルの強度または輝度が、入力エリアであることに関する判定基準を満たさないために入力エリア122の一部とはならない1つ以上のピクセル128cを取り囲む可能性がある。これは例えば、強度もしくは輝度が下側の所定の閾値を下回る場合、または強度もしくは輝度が上側の所定の閾値を上回る場合であると考えられる。
【0074】
画像プロセッサ106は、さらに、パターン領域124の境界134の位置132におけるパターン特性118を、少なくとも1つのデジタル出力画像130のパターン領域124外の少なくとも1つの隣接する位置136における強度または輝度のうちの一方に依存して調整するように構成することができる。
【0075】
入力エリア122内の強度および輝度のうちの一方が特定される位置128は、単一のピクセル128cであってよい。相応に、パターン領域124内のマッチング位置126も単一のピクセル126cであってよい。別の実施形態では、位置128は、1つ以上のデジタル入力画像108、110内の、好適には連続するピクセル126cのセットを含むことができる。この場合、複数のピクセルにわたる平均強度または平均輝度を特定することができる。強度または輝度を特定するために2つ以上のデジタル入力画像108、110が使用される場合には、複数のマッチング位置126が使用される。別の実施形態では、位置128は、入力エリア122全体を含むことができる。
【0076】
入力エリア122内の位置128が、少なくとも1つのデジタル入力画像108、110内で、少なくとも1つのデジタル出力画像130内の幾何学ポジションと同一の幾何学ポジションを有している場合には、その位置128は、パターン領域124内の位置126に対応する、すなわち位置126と一致する。代替的に、2つの位置126、128が、1つ以上のデジタル入力画像108、110からパターン認識アルゴリズムによって抽出された画像特徴部と同一の画像特徴部内で同一の幾何学ポジションを有している場合には、それら2つの位置126、128が一致しているとみなすことができる。
【0077】
入力エリア122は、パターン認識アルゴリズムを使用して画像プロセッサ106によって抽出された特徴部154であってよい。そのような特徴部154の例は、白色光で記録されたデジタル白色光画像142内の血管であるか、またはデジタル蛍光画像148内の蛍光体150の蛍光スペクトルで記録された腫瘍である。
【0078】
別の実施形態では、画像プロセッサ106は、さらに、パターン領域124の境界134の位置132における少なくとも1つの疑似色120の強度または輝度と、パターン領域124外の少なくとも1つの隣接する位置136の強度および輝度のうちの一方との所定の差異をもたらすように構成することができる。
【0079】
別の実施形態では、画像プロセッサ106は、さらに、パターン領域124内の位置126における少なくとも1つの疑似色120の輝度および強度のうちの一方を、入力エリア122内の対応する位置128における輝度および強度のうちの一方に比例するようにセットするように構成することができる。
【0080】
パターン領域124内のデジタル疑似色パターン116は、第1のパターン構成要素138および第2のパターン構成要素140を含むことができる。第1のパターン構成要素138の疑似色輝度または疑似色強度は、好適には、第2のパターン構成要素140の疑似色輝度または疑似色強度とは異なる。別の変形形態では、第1のパターン構成要素138および第2のパターン構成要素140は、異なる疑似色を含むことができる。
【0081】
第1のパターン構成要素138および第2のパターン構成要素140のうちの少なくとも一方における疑似色輝度または疑似色強度は、入力エリア122内の輝度または強度それぞれに依存することができる。特に、位置126における、第1のパターン構成要素の疑似色強度または疑似色輝度と、第2のパターン構成要素の疑似色強度または疑似色輝度との差異は、入力エリア122内のマッチング位置128における強度および輝度に依存することができる。これに関して、位置126は、両方のパターン構成要素138、140を含むサイズを有することができる。
【0082】
図2から図6は、116a、116b、116c、116d、116eで表した、種々のデジタル疑似色パターン116の例を示す。パターン116a~116eはいずれも、空間的および/または時間的な規則性を有している。図2および図6のパターンは、画像処理装置100によって何らかのやり方で使用することができる疑似色パターン116の多様性を制限するものと解釈されるべきではない。
【0083】
疑似色パターン116a~116dはいずれも、空間的な規則性を有している。したがって、疑似色パターン116a~116dの基本成分は、それ自体、所定の空間周波数で繰り返される。基本成分は、任意の形状、例えば図2の疑似色パターン116aにおける形状のような多角形の形状であってよい。疑似色パターン116は、疑似色パターン116b~116dのようにハッチングであってもよい。
【0084】
図2から図6にさらに示したように、疑似色パターン116a~116eのパターン構成要素138、140は、異なる疑似色輝度または疑似色強度を有している。図2から図6における2つの構成要素138、140のうちの一方の疑似色強度または疑似色輝度は、他方の疑似色強度または疑似色輝度よりも低い。図2図4および図6では、第1のパターン構成要素138は、疑似色を一切含んでおらず、それに対して、第2のパターン構成要素140は、疑似色を含んでいる。パターン116bでは、第1のパターン構成要素138は、第2のパターン構成要素140よりも低い強度で疑似色を含んでいる。
【0085】
図5の疑似色パターン116dおよび図6の疑似色パターン116eは、時間的な規則性を有している。図5の疑似色パターン116dでは、疑似色パターン116dの形状、ここでは一例としてのハッチングの形状は変化しないが、しかしながら時間tにわたりポジションが変化する。つまり、ポジションが漸次的に、あるフレーム556から次のフレームへとシフトすることによって、疑似色パターン116dが方向558に伝播している印象をもたらすことができる。特定の時間速度で、すなわち特定の周波数で、一連の後続のフレーム556を繰り返すことによって、時間tにわたる規則性が得られる。したがって、図5のデジタル疑似色パターン116dは、空間的な規則性も時間的な規則性も有している。
【0086】
図6においては、デジタル疑似色パターン116eは、時間的な規則性のみを示す。つまり、第1のパターン構成要素138および第2のパターン構成要素140は、それぞれ、特定の時間的な変化速度または時間周波数で表示される。これによって、点滅する疑似色パターン116eがもたらされる。
【0087】
画像プロセッサ106は、入力エリア122内の強度および輝度のうちの一方に依存して、デジタル疑似色パターン116の時間的な変化速度および空間的な変化速度のうちの少なくとも一方を変化させるように構成することができる。例えば、第1のパターン構成要素138または第2のパターン構成要素140の各パターン構成要素の距離460またはその幅は、入力エリア122内の強度または輝度に依存することができる。例えば、入力エリア122内の強度または輝度が増加した場合には、より高い疑似色強度または疑似色輝度を有している第2のパターン構成要素140それぞれの距離460を拡大することができる。
【0088】
画像プロセッサ106は、デジタル白色光画像142のような、1つ以上のデジタル入力画像108、110のうちの少なくとも1つの入力画像を検索するように構成することができる。デジタル白色光画像142は、白色光146で記録された物体144を表す。白色光146は、可視光周波数にある物体144の任意の色を忠実にレンダリングするには十分な波長を含んでいる。例えば、デジタル白色光画像142は、RGBフォーマットであってよい。
【0089】
画像プロセッサ106は、さらに、デジタル蛍光画像148のような、1つ以上のデジタル入力画像108、110のうちの少なくとも1つの別の入力画像を検索するように構成することができる。デジタル蛍光画像は、少なくとも1つの蛍光体150の蛍光スペクトルで記録された物体144を表す。物体が複数の蛍光体を含む場合には、複数のデジタル蛍光画像148を提供することができ、この場合、各デジタル蛍光画像148は、好適には、異なる蛍光体150の蛍光波長を含んでいる。
【0090】
画像処理装置100は、さらに、少なくとも1つのデジタル蛍光画像148内の入力エリア122を特定するように構成することができる。例えば、入力エリア122は、デジタル蛍光画像148内の、蛍光輝度または蛍光強度が下側の閾値を上回るか、または上側の閾値を下回るエリアに対応するエリアとして特定することができる。代替的に、入力エリアは、デジタル蛍光画像148内の、強度もしくは輝度が下側の閾値を上回るエリアとして、または強度もしくは輝度が上側の閾値を下回るエリアとして特定することができる。デジタル蛍光画像148は、入力エリアを特定する前に、正規化かつ/またはローパスフィルタリングすることができる。
【0091】
2つ以上のデジタル蛍光画像148が、画像プロセッサ106によって検索される場合には、入力エリア122は、各デジタル蛍光画像148内で独立して特定することができる。例えば、1つのデジタル蛍光画像148が、酸素の豊富な赤い血液細胞に結合する蛍光体150の蛍光スペクトルを記録する場合には、少なくとも1つの輝度閾値または強度閾値の使用によって入力エリア122を特定して、入力エリア122を動脈血管に対応させることができる。別の蛍光体150a(図1を参照されたい)が使用されて、腫瘍細胞がマークされる場合には、この別の蛍光体150aの蛍光スペクトルを含んでいるデジタル蛍光画像148を使用して、腫瘍を入力エリア122として定義することができる。好適には、2つの異なるデジタル疑似色パターンが、異なるデジタル入力画像108、110、または特にデジタル蛍光画像148を基礎とする、それらの2つの異なる入力エリア122に割り当てられる。2つの異なるデジタル疑似色パターンは、少なくとも1つのパターン特性118、例えば疑似色に関して異なる。
【0092】
画像プロセッサ106は、さらに、疑似色パターン116をデジタル白色光画像142とマージさせるように構成することができ、この場合、疑似色パターン116の輝度または強度、例えばパターン領域124内の位置126におけるその構成要素138、140のうちの少なくとも一方の輝度または強度は、デジタル蛍光画像148の入力エリア122内の対応する位置128aの輝度または強度に依存して設定される。
【0093】
画像プロセッサ106は、1つ以上のデジタル入力画像108、110を、医療用観察装置102の一部であってよいカメラシステム112またはメモリ装置114から検索するように構成することができる。メモリ装置114における1つ以上のデジタル入力画像108、110は、画像情報を記憶するための任意の適切なデータフォーマット、例えばPDF、GIF、TIF、JPEG、TGAおよび/またはMPGフォーマットを有することができる。メモリ装置114は、揮発性メモリまたは不揮発性メモリであってよい。メモリ装置114は、医療用観察装置102の固定の部分であってもよいし、取り外し可能なものであってもよい。メモリ装置114は、例えば、ハードディスク、メモリバンク、光学ディスク、メモリカードまたはメモリスティックであってよい。
【0094】
カメラシステム112は、好適には、1つ以上のデジタル入力画像108、110を記録するように構成されている。例えば、カメラシステム112は、1つ以上のデジタル白色光画像142および1つ以上のデジタル蛍光画像148のうちの少なくとも一方を記録するように構成することができる。カメラシステム112は、少なくとも1つのカメラ112aを含むことができる。カメラシステム112は、CCDカメラまたはCMOSカメラなどの、白色光画像を記録するためのRGBカメラを含むことができる。カメラシステム112は、付加的にまたは代替的に、UV画像、NIR画像および/またはIR画像を記録するためのカメラを含むことができる。カメラシステム112は、マルチスペクトルカメラまたはハイパースペクトルカメラを含むことができる。医療用観察装置102は、さらに、少なくとも1つのデジタル出力画像130を表示するように構成されている少なくとも1つのディスプレイ装置152を含むことができる。
【0095】
例えば、医療用観察装置102は、ディスプレイ装置152として、モニタ152a、VRゴーグル152b、および/または接眼レンズ152cを含むことができる。ディスプレイ装置152のうちのいずれか1つは、立体表示またはホログラフィ表示を行うものであってよい。これによって、立体デジタル入力画像108、110などの、3次元のデジタル入力画像108、110を表示することができる。
【0096】
図7には、デジタル疑似色パターン116が、例えばデジタル白色光画像142を表すデジタル入力画像108、および例えばデジタル蛍光画像148を表すデジタル入力画像110とどのように結合されるか、またはマージされるかが示されている。デジタル白色光画像142は、カラー画像または単色画像であってよい。デジタル蛍光画像148は、カラー画像または単色画像であってよい。デジタル蛍光画像148内では、入力エリア122が、画像処理装置100(図1を参照されたい)によって特定されている。デジタル疑似色パターンと1つ以上のデジタル入力画像108、110との結合によって、少なくとも1つのデジタル出力画像130が得られる。結合機能またはマージ機能は、参照番号762で例示的に表されており、また(一定の)疑似色の代わりにデジタル疑似色パターンを使用することによって、EP3205254に記載されている装置および方法を使用することができる。
【0097】
入力エリア122は、デジタル蛍光画像148内の、強度Iまたは輝度Bが下側の閾値764を上回るエリアとして特定することができる。説明を目的として、線768に沿った疑似色の強度または輝度の変化766が概略的に示されている。入力エリア122は、他のデジタル入力画像108、すなわちデジタル白色光画像142内にも示唆されている。
【0098】
2つのデジタル入力画像108、110をマージする前に、位置126および128が突き合わされる。このマッチングは、例えば、デジタル入力画像108、110を記録するセンサの視野、好適にはそれぞれのセンサの視野が同一であることを保証することによって達成することができる。このケースでは、位置126および128がそれぞれのデジタル入力画像108、110内の同一の幾何学ポジションにある場合には、それらの位置126および128は一致する。マージ762では、入力エリア122内の位置128に対してのみ、デジタル疑似色パターン116が生成される。入力エリア122によって包囲されているか、または入力エリア122外に位置しており、かつ一番低い下側の閾値764を上回る強度または輝度を有していないエリア770には、好適には、1つ以上のデジタル出力画像内で疑似色パターン116は割り当てられない。したがって、エリア770は、背景とみなすことができる。
【0099】
デジタル疑似色パターン116の少なくとも1つのパターン特性118は、デジタル蛍光画像148内の位置128における強度または輝度に依存して、入力エリア122内で画像処理装置100によって変更される。例えば、少なくとも1つの出力画像130内の位置126における第1の構成要素138および第2の構成要素140のうちの少なくとも一方の強度は、位置128における輝度または強度に依存することができる。デジタル蛍光画像148内のマッチング位置128における強度または輝度が別の位置における強度または輝度よりも高い場合には、パターン構成要素140、138のうちの少なくとも一方の疑似色の強度または輝度は、少なくとも1つのデジタル出力画像130内の位置126においてはより高くてよい。代替的に、パターン構成要素138とパターン構成要素140のコントラストを、位置128における強度または輝度に依存して変更することができる。例えば、より高い強度または輝度を有している位置128は、より低い強度または輝度を有しているデジタル蛍光画像148の入力エリア122内の位置におけるコントラストよりも高いコントラストを有している、パターン領域124内の疑似色パターン116をもたらすことができる。したがって、デジタル蛍光画像内のマッチング位置128における強度または輝度が増加すると、パターン領域124の可視性を高めることができる。代替的または累積的に、位置128における時間的および/または空間的な変化速度は、マッチング位置126の強度または輝度に依存することができる。
【0100】
少なくとも1つのデジタル出力画像130の線768aは、デジタル蛍光画像148における線768と一致する。線768aに沿って、パターン領域124の少なくとも1つのパターン構成要素138、140の疑似色の強度または輝度の変化766aは、デジタル蛍光入力画像148における強度分布766を反映する。
【0101】
デジタル蛍光画像148の代わりに、別のデジタル白色光カラー画像または白色光画像142としての1つ以上の色チャネルを図7の変形形態において使用することができる。例えば、図7におけるデジタル入力画像110は、RGBデジタル入力画像108の赤色チャネルであってよい。そのようなケースでは、例えば、赤色チャネルの強度または輝度を使用して、動脈血管を識別することができる。デジタル白色光画像142の代わりに、またはそれに加えて、異なる蛍光体150a(図1を参照されたい)の蛍光スペクトルで記録された別のデジタル蛍光画像148を使用することができる。この付加的な蛍光画像では、蛍光体150のデジタル蛍光画像148において使用される疑似色パターンとは異なる疑似色を有しているデジタル疑似色パターンに結合させ、それによって蛍光体を視覚的に区別することができるようにするために、入力エリアを特定することができる。
【0102】
図8には、デジタル入力画像108、110の入力エリア122が概略的に示されている。入力エリア122は、強度Iまたは輝度Bが下側の閾値764を上回っており、またここではさらに上側の閾値872を下回っているすべての位置128によって定義されている。別の入力エリア122aは、強度Iまたは輝度Bが上側の閾値872を上回る位置128によって特定することができる。
【0103】
2つの異なる入力エリア122、122aには、好適には、異なるデジタル疑似色パターン116が割り当てられる。入力エリア122には、少なくとも1つのパターン特性118に関して、少なくとも1つのデジタル出力画像130において入力エリア122aに割り当てられるデジタル疑似色パターン116とは異なるデジタル疑似色パターン116が割り当てられる。1つの変形形態では、入力エリア122aには、均一の疑似色を割り当てることができ、好適には、入力エリア122を基礎とするパターン領域124において使用されるデジタル疑似色パターン116と同一の疑似色を割り当てることができる。
【0104】
ここでもまた、入力エリア122は、下側の閾値または最も低い下側の閾値764を下回る強度Iもしくは輝度Bを有している位置を含んでいるか、またはそのような位置から成る1つ以上のエリア770を含む場合がある。
【0105】
図8に示した基本的なコンセプトを、デジタル入力画像108、110内の3つ以上の入力エリア122に拡張することができる。領域毎に、それぞれの下側の閾値764およびそれぞれの上側の閾値872が存在してよい。これは図9に概略的に示されており、この図9では、閾値764、872の第2のペアを使用することによって、付加的に第3の入力エリア122bが特定されている。
【0106】
入力エリア122、122a、122bには、好適には、異なるデジタル疑似色パターン116が割り当てられる。特に、下側および上側の閾値764、872を有している入力エリア122には、それよりも高い閾値764、872を有している入力エリア122bに割り当てられたデジタル疑似色パターン116に比べて、低いコントラストおよび/または低い疑似色強度もしくは疑似色輝度および/または低い空間的かつ/もしくは時間的な変化速度を有している疑似色パターンが割り当てられる。
【0107】
図8および図9では、各入力エリア122、122a、122bに割り当てられる異なるデジタル疑似色パターン116が、関心領域に対応する入力エリア122の異なる信頼レベルを表している。パターン特性のうちの少なくとも1つを変化させることで、より低い信頼レベルでは、それぞれのエリアにおける疑似色パターンの視認性が低減される。
【0108】
例えば、一番高い上側の閾値872を上回る強度および輝度を有している、図8および図9における入力エリア122aは、非常に高い尤度でもって腫瘍を表していると考えられるエリアを表すことができる。したがって、入力エリア122aは、少なくとも1つのデジタル出力画像130において均一な疑似色でマークすることができ、それに対して、閾値が下がると、腫瘍の輪郭である蓋然性は低いものとしてマークするために、入力エリア122、122bには、可視性が次第に低くなる疑似色パターンが割り当てられる。
【0109】
図10および図11には、例えば、図8に示した2つの入力エリア122、122aから得ることができるパターン領域124、124aが示されている。図10においては、疑似色の強度Iまたは輝度Bが、隣接する2つのパターン領域124、124aの疑似色パターン116間の境界134にわたり連続的に変化する。少なくともパターン構成要素138、140のうちの一方においては、境界134を越えて隣接する2つのパターン領域124の強度または輝度の急激な変化が生じることはない。
【0110】
図11においては、疑似色の強度または輝度における所定の急激な変化1176が、境界134にわたり自動的に生成される。平滑な遷移によって、入力エリア122自体ではなく、隣接する入力エリア122間の遷移に過度な注意が払われることが回避される。したがって、例えば医療用観察装置102が外科用の顕微鏡または内視鏡である場合には、外科医の注意が境界134に逸れることはない。境界134において所定の急激な変化1176が導入されることによって、境界を所定のように強調できるようになる。
【0111】
図10においては、パターン領域124および隣接するパターン領域124aにわたる、線1076に沿った概略的な疑似色強度分布1074が示されている。パターン領域124aは、パターン領域124内に位置している場合もあるが、これは必ずしも必要ではない。この例では、パターン領域124は、単に例示であるが、ハッチングとして形成された疑似色パターン116を含んでいる。
【0112】
線1076は、ハッチングの2つのパターン構成要素138、140の疑似色のより高い強度または輝度を有しているパターン構成要素140に従う。デジタル疑似色パターン116が、多角形または円などのハッチングとは異なるパターンを使用する場合にも、同一の考察が適用される。唯一の相違は、強度または輝度の分布1074が、図10において、線1076に沿って2つの構成要素138、140間で強度または輝度の急激な変化を示すこと、すなわちデジタル疑似色パターン116のコントラストの急激な変化を示すことである。パターン領域124が例えば均一に分布する疑似色を含むことから、そのパターン領域124が、時間的な規則性のみを有している疑似色パターンを含む場合には、同一のことが適用される。
【0113】
図10において見て取れるように、境界134に隣接して位置するパターン領域124内の位置132は、パターン領域124a内の、境界134を越えて隣接する位置136における強度または輝度への平滑かつ連続的な遷移を形成する強度または輝度を有している。ここで、パターン領域124aは、均一な疑似色を有することができる。平滑かつ連続的な遷移は、例えば、境界134を越える強度または輝度の勾配の平滑な変化を確立することによって、または境界134の両側の位置132、136に同一の強度または輝度を割り当てることによって形成することができる。
【0114】
図10においては、デジタル疑似色パターンの第2の強度または輝度の分布1074aが、強度または輝度の分布1074に代替的なものとして示されている。強度または輝度の分布1074aにおいては、境界までの距離などの付加的な要因または入力エリア122内の位置128における強度または輝度に比例する要因を使用して、パターン領域124内の強度の低下を背景770に向かって増大させることができる。別の変形形態では、境界134を越えて隣接する領域124への平滑な遷移を有するように、また背景770との境界134における所定の値まで低下するように、強度または輝度の分布1074が計算される。
【0115】
別の例によれば、パターン領域124内のパターン構成要素138の強度は、1の最大値に正規化された、位置128における強度または輝度の平方を使用することによって計算することができる。平方強度または平方輝度は、強度または輝度における何らかの低下を強調することになる。
【0116】
図11は、境界134において、その境界134を越えて隣接する2つの位置132、136間の疑似色強度または疑似色輝度の所定の急激な変化1176が、画像処理装置100によって導入される変形形態を示す。境界134にわたる強度または輝度のそのような急激な変化1176の導入は、図10に示した平滑な遷移に比べて、境界をよりはっきり見えるようにする。画像処理装置100は、ユーザが、例えばグラフィカルユーザインタフェースを介して画像処理装置100と対話することによって、所定の急激な変化1176を設定できるように構成することができる。
【0117】
画像処理装置100は、入力エリア122が最小サイズを有する場合にのみ、入力エリア122を識別するように構成することができる。最小サイズは、入力エリア122に含まれなければならない最小数のピクセル128c、最小エリア、入力エリアの最小アスペクト比、およびそれらの任意の組み合わせのうちのいずれか1つを含むことができる。最小サイズは、一定である必要はないが、しかしながら適応型であってよい。これは、図12に関連させて説明する。
【0118】
画像処理装置100は、入力エリア122内の平均強度または平均輝度、入力エリア122の平均強度または平均輝度と背景770の少なくとも一部の平均強度または平均輝度との差異、例えばコントラスト、および入力エリア122内の平均強度または平均輝度のうちの少なくとも1つに依存して最小サイズを決定するように構成することができる。
【0119】
入力エリアのコントラストの決定に関して、背景770全体の平均強度および平均輝度、または入力エリア122が含まれているデジタル入力画像108、110の残部全体の平均強度および平均輝度を計算する必要はない。画像処理装置100によって実行される計算プロセスを加速させるためには、入力エリア122内の平均強度または平均輝度と、入力エリア122の直接周囲1278内の平均入力強度または平均入力輝度とのコントラストを計算すれば十分であると考えられる。直接周囲1278は、例えば所定の深度を有することができ、すなわち、入力エリア122から所定数のピクセル分、例えば3~10ピクセル分、広がることができる。代替的または累積的に、入力エリア122と同数のピクセルを含むように、直接周囲1278を計算することができる。入力エリア122が1つ以上の他の入力エリア122b、122aと隣接する場合には、直接周囲1278は、それらの入力エリア122b、122aのピクセルを含むことができる。
【0120】
さらに、下側の閾値764および上側の閾値872のうちの少なくとも一方は、入力エリア122内の絶対平均強度または絶対平均輝度、入力エリア122の平均強度または平均輝度と、残りのデジタル入力画像108、110または各入力エリア122の直接周囲1278とのコントラストに依存することができる。例えば、上側の閾値872および下側の閾値764のうちの少なくとも一方を自動的に決定することができ、それによって、入力エリア122内の平均強度または平均輝度から決定されたコントラストおよびその直接周囲1278の平均強度または平均輝度は一定となる。
【0121】
図12に示したように、非常に高い絶対強度または絶対輝度を有している入力エリア112cには、より低い絶対平均強度または絶対平均輝度を有している入力エリア122dよりも小さい最小サイズを画像処理装置100によって割り当てることができる。同一のことは、各入力エリア122c、122dと、デジタル入力画像108、110の残部または直接周囲1278とのコントラストが考慮される場合に維持することができる。入力エリア122dの絶対平均強度または絶対平均輝度、および/または入力エリア122dの周囲もしくはデジタル入力画像108、110の残部と入力エリア122dとのコントラストが閾値を下回る場合には、入力エリア122dが入力エリア122cと同一のサイズを有しているにもかかわらず、入力エリア122dを破棄することができる。さらに、例えば入力エリア122eが過度に長いことから、入力エリア122eのアスペクト比が所定の範囲内に収まらない場合には、入力エリア122eを破棄することができる。
【0122】
図13には、時間的に変化する疑似色パターン116のパターン特性を、例えば図8および図9に示したように、入力エリア122の所定の位置の強度または輝度に依存してどのように変更することができるかが示されている。
【0123】
図13に示した例では、(a)に図示したように、第1のパターン構成要素138および第2のパターン構成要素140が時間にわたり交互にかつ周期的に表示されることによって、時間的な規則性が達成される。2つのパターン構成要素138、140間の遷移、すなわちパターン構成要素138、140における疑似色の強度または輝度間の遷移は、(b)、(d)、(f)および(h)に示したように段階的であってもよいし、例えば(c)、(e)、(g)および(i)に示したように平滑、例えばのこぎり波状、正弦波状であってもよい。位置128における強度および輝度に依存して、振幅1380、すなわちパターン構成要素138とパターン構成要素140のコントラスト、または周波数1382のうちの少なくとも1つを変化させることができる。
【0124】
別の実施形態では、1つのパターン特性は、入力エリア122内の平均強度および平均輝度に依存することができ、それに対して、別のパターン特性は、入力エリア122内の位置126における強度または輝度に依存することができる。例えば、デジタル疑似色パターン116の時間的な変化速度、周期または周波数1382は、入力エリア122の平均強度および平均輝度に依存することができる。したがって、入力エリア122全体が、均一な点滅速度を有することになる。パターン領域124内の位置128における振幅1380は、入力エリア122内のマッチング位置126における強度または輝度に依存することができる。
【0125】
同一のことは、勿論、例えば時間的な変化速度が空間的な変化速度に置き換えられ、また振幅が局所的なコントラストまたは局所的な強度もしくは局所的な輝度に置き換えられる場合には、空間的に変化するデジタル疑似色パターン116にも適用することができる。そのようなケースでは、デジタル疑似色パターン116の幾何学(空間的な変化速度)は、入力エリア122内の平均強度または平均輝度に依存することができ、それに対して、局所的なコントラストは、入力エリア122内の位置126の強度または輝度に依存することができる。
【0126】
図14は、上述の方法のフローチャートの概略図を示す。
【0127】
第1のステップ1484においては、デジタル入力画像108、110が取得される。例えば、ステップ1484においては、第1の蛍光体150の蛍光スペクトルで記録されたデジタル蛍光入力画像148を取得することができる。第2のオプションのステップ1484aにおいては、第2の蛍光体150aの蛍光スペクトルで記録された第2のデジタル蛍光入力画像148を取得することができる。好適には、2つの蛍光体150、150aの蛍光スペクトルは異なる。ステップ1484bにおいては、デジタル白色光画像142を取得することができる。デジタル入力画像108、110を取得するステップは、少なくとも1つのカメラ112を用いたデジタル入力画像108、110の記録、およびメモリ装置114からのデジタル入力画像108、110の検索のうちの少なくとも一方を含むことができる。ステップ1484、1484aおよび1484bは、並行して、または連続して実施することができる。
【0128】
ステップ1486においては、デジタル入力画像108、110の前処理を行うことができる。前処理1486は、異なるタイプのデジタル入力画像毎に異なっていてよい。例えば、前処理1486は、任意のタイプの正規化、光学歪みの補正、アンシャープマスキング、デコンボリューションおよび任意のタイプのフィルタリングを含むことができる。
【0129】
ステップ1490においては、各デジタル入力画像において、例えば上側の輝度閾値ならびに強度閾値および下側の輝度閾値ならびに強度閾値のうちの少なくとも1つを適用することによって、1つ以上の入力エリア122を特定することができる。このステップは、取得されたデジタル入力画像108、110のうちの1つ以上において実施することができる。入力エリア122が特定されない1つ以上のデジタル入力画像108、110、例えば図14においてはデジタル白色光画像が存在する場合もある。しかしながら、別の実施形態では、1つ以上のデジタル白色光画像において入力エリア122を特定することもできる。
【0130】
続くステップ1492においては、デジタル疑似色パターンが取得され、1つ以上のデジタル入力画像108、110のうちの少なくとも1つのデジタル入力画像内の少なくとも1つの入力エリア122に結合されて、パターン領域124がもたらされる。デジタル疑似色パターン116は、メモリ装置114から検索することができるか、またはメモリ装置114に記憶されている機能を使用して生成することができる。
【0131】
ステップ1494においては、パターン領域124の所定の位置における少なくとも1つのパターン特性118が、1つ以上のデジタル入力画像108、110のうちの少なくとも1つのデジタル入力画像の入力エリア122内の対応する位置における強度および輝度のうちの一方に依存して調整される。
【0132】
ステップ1492および1494を単一のステップとして実施できることも留意されたい。例えば、調整は結合ステップの一部であってよい。
【0133】
ステップ762では、デジタル入力画像およびデジタル疑似色パターン116がマージされて、少なくとも1つのデジタル出力画像130が生成される。
【0134】
ステップ762もまた、ステップ1492および1494のいずれか一方と同時に行うことができる。例えば、デジタル疑似色パターン116が取得および調整されると、パターン領域124を、単一のステップで、少なくとも1つのデジタル出力画像130内に生成することができる。ステップ1496においては、少なくとも1つのデジタル出力画像が、さらなる処理または表示のために出力される。
【符号の説明】
【0135】
100 画像処理装置
102 医療用観察装置
104 顕微鏡
106 画像プロセッサ
108 デジタル入力画像
110 デジタル入力画像
112 カメラシステム
112a カメラ
114 メモリ装置
116 デジタル疑似色パターン
116a~116e デジタル疑似色パターン
118 パターン特性
120 疑似色
122 入力エリア
122a~122e 種々の入力エリア
124 パターン領域
124a パターン領域
126 パターン領域内の位置
126c ピクセル
128 入力エリア内のマッチング位置
128c ピクセル
130 デジタル出力画像
132 入力エリアの境界における位置
134 入力エリアの境界
136 境界を越えて隣接する位置
138 第1のパターン構成要素
140 第2のパターン構成要素
142 デジタル白色光画像
144 物体
146 白色光
148 デジタル蛍光画像
150 蛍光体
150a 別の蛍光体
152 ディスプレイ装置
152a モニタ
152b VRゴーグル
152c 接眼レンズ
154 画像特徴部
460 距離
556 フレーム
558 伝播方向
762 マージ機能
764 下側の閾値
766 強度分布
766a 強度分布の変化
768 線
770 背景
872 上側の閾値
1074 強度分布または輝度分布
1074a 強度分布または輝度分布
1076 線
1176 境界にわたる輝度または強度の急激な変化
1278 入力エリアの周囲
1380 振幅
1382 周波数
1484 デジタル入力画像の取得
1484a デジタル入力画像の取得
1484b デジタル入力画像の取得
1486 前処理
1490 入力エリアの特定
1492 デジタル疑似色パターンの取得
1494 パターン特性の調整
1496 さらなる処理および/または表示
I 強度
B 輝度
t 時間
図1
図2
図3
図4
図5
図6
図7
図8
図9
図10
図11
図12
図13
図14