IP Force 特許公報掲載プロジェクト 2022.1.31 β版

知財求人 - 知財ポータルサイト「IP Force」

▶ 株式会社SCREENホールディングスの特許一覧

特開2024-16378解析支援方法、プログラムおよび解析支援装置
<>
  • 特開-解析支援方法、プログラムおよび解析支援装置 図1
  • 特開-解析支援方法、プログラムおよび解析支援装置 図2
  • 特開-解析支援方法、プログラムおよび解析支援装置 図3
  • 特開-解析支援方法、プログラムおよび解析支援装置 図4
  • 特開-解析支援方法、プログラムおよび解析支援装置 図5
  • 特開-解析支援方法、プログラムおよび解析支援装置 図6
  • 特開-解析支援方法、プログラムおよび解析支援装置 図7
  • 特開-解析支援方法、プログラムおよび解析支援装置 図8
  • 特開-解析支援方法、プログラムおよび解析支援装置 図9
< >
(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公開特許公報(A)
(11)【公開番号】P2024016378
(43)【公開日】2024-02-07
(54)【発明の名称】解析支援方法、プログラムおよび解析支援装置
(51)【国際特許分類】
   G06T 7/00 20170101AFI20240131BHJP
   G01N 33/48 20060101ALI20240131BHJP
   C12M 1/34 20060101ALN20240131BHJP
【FI】
G06T7/00 630
G06T7/00 350B
G01N33/48 P
C12M1/34 B
【審査請求】未請求
【請求項の数】13
【出願形態】OL
(21)【出願番号】P 2022118443
(22)【出願日】2022-07-26
(71)【出願人】
【識別番号】000207551
【氏名又は名称】株式会社SCREENホールディングス
(74)【代理人】
【識別番号】100110847
【弁理士】
【氏名又は名称】松阪 正弘
(74)【代理人】
【識別番号】100136526
【弁理士】
【氏名又は名称】田中 勉
(74)【代理人】
【識別番号】100136755
【弁理士】
【氏名又は名称】井田 正道
(72)【発明者】
【氏名】柴田 沙耶
【テーマコード(参考)】
2G045
4B029
5L096
【Fターム(参考)】
2G045BB24
2G045CB01
2G045FA19
2G045JA01
4B029AA07
4B029BB11
4B029FA03
5L096BA06
5L096BA13
5L096JA03
5L096JA11
5L096KA04
(57)【要約】
【課題】複数の染色画像において共通する、解析に適した領域を精度良く提示する。
【解決手段】標本の染色画像の解析を支援する上述の解析支援方法は、1つの標本に対して複数種類の染色を行って得られた、当該複数種類の染色にそれぞれ対応する複数の染色画像を準備する工程(ステップS11)と、複数の染色画像の各染色画像を所定の分割態様にて複数の分割領域に分割する工程(ステップS13)と、各染色画像において、複数の分割領域のそれぞれにおける染色状態の均一性を示す均一性レベルを、機械学習により生成された学習済みモデルを用いて取得する工程(ステップS14)と、複数の分割領域の各分割領域について、複数の染色画像のそれぞれにおける均一性レベルに基づいて所定の解析方法に対する適否を判定する工程(ステップS15)と、を備える。これにより、複数の染色画像において共通する、解析に適した領域を精度良く提示することができる。
【選択図】図7
【特許請求の範囲】
【請求項1】
標本の染色画像の解析を支援する解析支援方法であって、
a)1つの標本に対して複数種類の染色を行って得られた前記複数種類の染色にそれぞれ対応する複数の染色画像を準備する工程と、
b)前記複数の染色画像の各染色画像を所定の分割態様にて複数の分割領域に分割する工程と、
c)前記各染色画像において、前記複数の分割領域のそれぞれにおける染色状態の均一性を示す均一性レベルを、機械学習により生成された学習済みモデルを用いて取得する工程と、
d)前記複数の分割領域の各分割領域について、前記複数の染色画像のそれぞれにおける前記均一性レベルに基づいて所定の解析方法に対する適否を判定する工程と、
を備える解析支援方法。
【請求項2】
請求項1に記載の解析支援方法であって、
前記d)工程における判定結果に基づいて、前記解析方法に適合する分割領域である解析適合領域が前記複数の染色画像上に表示されることを特徴とする解析支援方法。
【請求項3】
請求項2に記載の解析支援方法であって、
前記複数の染色画像のそれぞれの表示倍率は変更可能であり、
前記各染色画像の倍率が変更される際に、前記各染色画像上の前記解析適合領域を示す表示も前記各染色画像と共に倍率変更されることを特徴とする解析支援方法。
【請求項4】
請求項1に記載の解析支援方法であって、
前記d)工程における判定結果に基づいて、前記解析方法に適合しない分割領域である解析不適合領域が前記複数の染色画像上に表示されることを特徴とする解析支援方法。
【請求項5】
請求項4に記載の解析支援方法であって、
前記複数の染色画像のそれぞれの表示倍率は変更可能であり、
前記各染色画像の倍率が変更される際に、前記各染色画像上の前記解析不適合領域を示す表示も前記各染色画像と共に倍率変更されることを特徴とする解析支援方法。
【請求項6】
請求項1に記載の解析支援方法であって、
前記d)工程における判定結果に基づいて、前記解析方法に対する適否が不明な分割領域である中間領域が前記複数の染色画像上に表示されることを特徴とする解析支援方法。
【請求項7】
請求項6に記載の解析支援方法であって、
前記複数の染色画像のそれぞれの表示倍率は変更可能であり、
前記各染色画像の倍率が変更される際に、前記各染色画像上の前記中間領域を示す表示も前記各染色画像と共に倍率変更されることを特徴とする解析支援方法。
【請求項8】
請求項1ないし7のいずれか1つに記載の解析支援方法であって、
前記a)工程と前記c)工程との間において、前記複数の染色画像のそれぞれに対して解像度低下処理を行う工程をさらに備えることを特徴とする解析支援方法。
【請求項9】
請求項8に記載の解析支援方法であって、
前記解像度低下処理後の前記複数の染色画像のそれぞれにおいて、前記標本中の細胞の平均直径は画素サイズ以上であることを特徴とする解析支援方法。
【請求項10】
請求項1ないし7のいずれか1つに記載の解析支援方法であって、
前記c)工程において、前記複数の染色画像のそれぞれの前記均一性レベルの取得に用いられる前記学習済みモデルは共通であることを特徴とする解析支援方法。
【請求項11】
請求項1ないし7のいずれか1つに記載の解析支援方法であって、
前記学習済みモデルの生成に使用される学習用画像の前記均一性レベルは、前記学習用画像中の陽性細胞および陰性細胞の輝度値に基づいて決定されることを特徴とする解析支援方法。
【請求項12】
標本の染色画像の解析を支援するプログラムであって、
前記プログラムがコンピュータによって実行されることにより、
a)1つの標本に対して複数種類の染色を行って得られた前記複数種類の染色にそれぞれ対応する複数の染色画像を準備する工程と、
b)前記複数の染色画像の各染色画像を所定の分割態様にて複数の分割領域に分割する工程と、
c)前記各染色画像において、前記複数の分割領域のそれぞれにおける染色状態の均一性を示す均一性レベルを、機械学習により生成された学習済みモデルを用いて取得する工程と、
d)前記複数の分割領域の各分割領域について、前記複数の染色画像のそれぞれにおける前記均一性レベルに基づいて所定の解析方法に対する適否を判定する工程と、
が行われることを特徴とするプログラム。
【請求項13】
標本の染色画像の解析を支援する解析支援装置であって、
1つの標本に対して複数種類の染色を行って得られた前記複数種類の染色にそれぞれ対応する複数の染色画像について、各染色画像を所定の分割態様にて複数の分割領域に分割する分割部と、
前記各染色画像において、前記複数の分割領域のそれぞれにおける染色状態の均一性を示す均一性レベルを、機械学習により生成された学習済みモデルを用いて取得するレベル取得部と、
前記複数の分割領域の各分割領域について、前記複数の染色画像のそれぞれにおける前記均一性レベルに基づいて所定の解析方法に対する適否を判定する判定部と、
を備えることを特徴とする解析支援装置。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、標本の染色画像の解析を支援する技術に関する。
【背景技術】
【0002】
近年、医学研究や生物学研究において、疾患メカニズムの解明や生体メカニズムの解明、薬剤作用機序解明等を目的として、組織標本や細胞標本等の生体由来標本のシングルセル単位の解析が実施されている。例えば、多重免疫染色解析においては、タンパク質等の生体由来物質を様々な方法で染色し、染色状態を計測することで定量的・定性的な解析が行われている。特許文献1では、患者の組織切片を異なる染色方法により染色して得た複数のデジタル画像において、組織構造ベースの画像の位置合わせを行うことが提案されている。
【先行技術文献】
【特許文献】
【0003】
【特許文献1】特表2017-502362号公報
【発明の概要】
【発明が解決しようとする課題】
【0004】
ところで、上述の多重免疫染色解析では、解析に使用される染色画像に、染色手法に起因するアーチファクト(すなわち、染色の不安定さ等から生じる揺らぎや意図しない染色結果)が含まれる場合がある。この場合、当該染色画像中において染色状態が均一な領域を解析視野として選定すれば、当該染色画像も解析に使用することができる。一方、互いに異なる染色がそれぞれ施された複数の染色画像において、1つの染色画像であっても解析視野にアーチファクトが含まれていると、解析精度が低下するおそれがある。したがって、解析視野として、全ての染色画像において染色状態が均一な領域を選定する必要がある。
【0005】
しかしながら、上述のアーチファクトの要因は多岐に亘るため、染色画像における適切な解析視野の選定を画一的に行うことは難しく、熟練したオペレータが経験に基づいて解析視野の選定を行っているのが現状である。ただし、複数の染色画像の染色状態を考慮して適切な解析視野を選定することは、熟練したオペレータであっても容易ではない。また、オペレータは染色画像を拡大して観察することが多く、この場合、染色状態が均一であるか否かが視認しにくくなる。
【0006】
本発明は、上記課題に鑑みなされたものであり、複数の染色画像において共通する、解析に適した領域を精度良く提示することを目的としている。
【課題を解決するための手段】
【0007】
本発明の態様1は、標本の染色画像の解析を支援する解析支援方法であって、a)1つの標本に対して複数種類の染色を行って得られた前記複数種類の染色にそれぞれ対応する複数の染色画像を準備する工程と、b)前記複数の染色画像の各染色画像を所定の分割態様にて複数の分割領域に分割する工程と、c)前記各染色画像において、前記複数の分割領域のそれぞれにおける染色状態の均一性を示す均一性レベルを、機械学習により生成された学習済みモデルを用いて取得する工程と、d)前記複数の分割領域の各分割領域について、前記複数の染色画像のそれぞれにおける前記均一性レベルに基づいて所定の解析方法に対する適否を判定する工程と、を備える。
【0008】
本発明の態様2は、態様1の解析支援方法であって、前記d)工程における判定結果に基づいて、前記解析方法に適合する分割領域である解析適合領域が前記複数の染色画像上に表示される。
【0009】
本発明の態様3は、態様2の解析支援方法であって、前記複数の染色画像のそれぞれの表示倍率は変更可能であり、前記各染色画像の倍率が変更される際に、前記各染色画像上の前記解析適合領域を示す表示も前記各染色画像と共に倍率変更される。
【0010】
本発明の態様4は、態様1(態様1ないし3のいずれか1つ、であってもよい。)の解析支援方法であって、前記d)工程における判定結果に基づいて、前記解析方法に適合しない分割領域である解析不適合領域が前記複数の染色画像上に表示される。
【0011】
本発明の態様5は、態様4の解析支援方法であって、前記複数の染色画像のそれぞれの表示倍率は変更可能であり、前記各染色画像の倍率が変更される際に、前記各染色画像上の前記解析不適合領域を示す表示も前記各染色画像と共に倍率変更される。
【0012】
本発明の態様6は、態様1(態様1ないし5のいずれか1つ、であってもよい。)の解析支援方法であって、前記d)工程における判定結果に基づいて、前記解析方法に対する適否が不明な分割領域である中間領域が前記複数の染色画像上に表示される。
【0013】
本発明の態様7は、態様6の解析支援方法であって、前記複数の染色画像のそれぞれの表示倍率は変更可能であり、前記各染色画像の倍率が変更される際に、前記各染色画像上の前記中間領域を示す表示も前記各染色画像と共に倍率変更される。
【0014】
本発明の態様8は、態様1ないし7のいずれか1つの解析支援方法であって、前記a)工程と前記c)工程との間において、前記複数の染色画像のそれぞれに対して解像度低下処理を行う工程をさらに備える。
【0015】
本発明の態様9は、態様8の解析支援方法であって、前記解像度低下処理後の前記複数の染色画像のそれぞれにおいて、前記標本中の細胞の平均直径は画素サイズ以上である。
【0016】
本発明の態様10は、態様1ないし7のいずれか1つ(態様1ないし9のいずれか1つ、であってもよい。)の解析支援方法であって、前記c)工程において、前記複数の染色画像のそれぞれの前記均一性レベルの取得に用いられる前記学習済みモデルは共通である。
【0017】
本発明の態様11は、態様1ないし7のいずれか1つ(態様1ないし10のいずれか1つ、であってもよい。)の解析支援方法であって、前記学習済みモデルの生成に使用される学習用画像の前記均一性レベルは、前記学習用画像中の陽性細胞および陰性細胞の輝度値に基づいて決定される。
【0018】
本発明の態様12は、標本の染色画像の解析を支援するプログラムであって、前記プログラムがコンピュータによって実行されることにより、a)1つの標本に対して複数種類の染色を行って得られた前記複数種類の染色にそれぞれ対応する複数の染色画像を準備する工程と、b)前記複数の染色画像の各染色画像を所定の分割態様にて複数の分割領域に分割する工程と、c)前記各染色画像において、前記複数の分割領域のそれぞれにおける染色状態の均一性を示す均一性レベルを、機械学習により生成された学習済みモデルを用いて取得する工程と、d)前記複数の分割領域の各分割領域について、前記複数の染色画像のそれぞれにおける前記均一性レベルに基づいて所定の解析方法に対する適否を判定する工程と、が行われる。
【0019】
本発明の態様13は、標本の染色画像の解析を支援する解析支援装置であって、1つの標本に対して複数種類の染色を行って得られた前記複数種類の染色にそれぞれ対応する複数の染色画像について、各染色画像を所定の分割態様にて複数の分割領域に分割する分割部と、前記各染色画像において、前記複数の分割領域のそれぞれにおける染色状態の均一性を示す均一性レベルを、機械学習により生成された学習済みモデルを用いて取得するレベル取得部と、前記複数の分割領域の各分割領域について、前記複数の染色画像のそれぞれにおける前記均一性レベルに基づいて所定の解析方法に対する適否を判定する判定部と、を備える。
【発明の効果】
【0020】
本発明では、複数の染色画像において共通する、解析に適した領域を精度良く提示することができる。
【図面の簡単な説明】
【0021】
図1】一の実施の形態に係る解析支援装置の構成を示す図である。
図2】解析支援装置の機能を示すブロック図である。
図3】染色画像の一例を示す図である。
図4】染色画像の複数の分割領域を示す図である。
図5】学習用画像の一例を拡大して示す図である。
図6】学習用画像の一例を拡大して示す図である。
図7】解析支援装置における処理の流れを示す図である。
図8】各分割領域のクラス表示の一例を示す図である。
図9】染色画像とマスクとを重ねた画像を示す図である。
【発明を実施するための形態】
【0022】
図1は、本発明の一の実施の形態に係る解析支援装置1として機能するコンピュータの構成を示す図である。解析支援装置1は、標本の染色画像の解析を支援する装置であり、例えば、生体由来標本の多重免疫染色解析の支援に利用される。
【0023】
解析支援装置1は、プロセッサ31と、メモリ32と、入出力部33と、バス34とを備える通常のコンピュータである。バス34は、プロセッサ31、メモリ32および入出力部33を接続する信号回路である。メモリ32は、各種情報を記憶する。メモリ32は、例えば、記憶媒体30に予め記憶されているプログラムプロダクトであるプログラム39を読み出して記憶する。記憶媒体30は、例えば、USBメモリやCD-ROMである。プロセッサ31は、メモリ32に記憶される上記プログラム39等に従って、メモリ32等を利用しつつ様々な処理(例えば、数値計算)を実行する。入出力部33は、オペレータからの入力を受け付けるキーボード35およびマウス36、並びに、プロセッサ31からの出力等を表示するディスプレイ37を備える。入出力部33は、プロセッサ31からの出力等を送信する送信部38も備える。
【0024】
図2は、解析支援装置1を構成する上記コンピュータによってプログラム39が実行されることにより実現される機能を示すブロック図である。解析支援装置1は、コンピュータにより実現される機能として、記憶部40と、画像処理部41と、分割部42と、レベル取得部43と、判定部44と、表示制御部45とを備える。記憶部40は、主にメモリ32(図1参照)により実現され、多重免疫染色解析等に使用される複数の染色画像等を格納する。
【0025】
図3は、記憶部40に格納される染色画像9の一例を示す図である。図3に例示する染色画像9では、染色された略矩形状の1つの標本91が示されている。標本91は、例えば、多重免疫染色解析等の所定の解析方法にて解析される生体由来標本である。標本91のうち、図3中の略中央の領域(すなわち、矩形枠92にて囲む領域)では染色状態が均一であり、当該領域92は解析に適した領域である。なお、領域92は、染色画像9の解析が行われる際の解析視野に比べて大きい。図3中では、染色画像9の右下の領域に、解析視野のサイズを示す矩形95を示す。
【0026】
図3に例示する標本91のうち、図3中の左上の領域(すなわち、矩形枠93にて囲む領域)では、染色状態が均一ではなくグラデーション様を示しているが、単位距離当たりの濃度の変化(すなわち、濃度勾配)は比較的小さい。したがって、染色画像9を用いて行われる解析の種類によって、領域93が解析に適しているか否かの判断は分かれる。標本91のうち、図3中の右端の領域(すなわち、矩形枠94にて囲む領域)では、染色状態が均一ではなくグラデーション様を示しており、濃度勾配が比較的大きい。したがって、領域94は、解析に適していない領域である。
【0027】
図2に示す画像処理部41、分割部42、レベル取得部43、判定部44および表示制御部45は、主にプロセッサ31(図1参照)により実現される。画像処理部41は、標本91の染色状態が均一であるか否かを強調する前処理を染色画像9に対して行う。当該前処理は、例えば解像度低下処理である。
【0028】
分割部42は、染色画像9を所定の分割態様にて複数の分割領域に分割する。図4は、複数の分割領域96に分割された染色画像9を示す図である。図4に示す例では、染色画像9は、縦方向および横方向に配列された(すなわち、マトリクス状に配置された)複数の略矩形状の分割領域96に分割される。分割領域96は、例えば、1辺が256pixelの正方形である。図4では、縦方向に6個の分割領域96が並び、横方向に10個の分割領域96が並ぶ。なお、染色画像9の分割態様は、図4に示すものには限定されず、様々に変更されてよい。例えば、染色画像9は、図4に示す分割領域96とは異なる大きさの略矩形状の分割領域に分割されてもよい。また、各分割領域96の形状は略矩形状には限定されず、様々に変更されてよい。
【0029】
図2に示すレベル取得部43は、各分割領域96の染色状態の均一性を示す均一性レベルを、機械学習の一種であるディープラーニングにより生成された学習済みモデルを用いて取得する。分割領域96の均一性レベルは、例えば、分割領域96の染色状態が上述の領域92のように均一である場合、「レベル0」とされる。また、分割領域96の染色状態が、上述の領域93のようにグラデーション様であるが濃度勾配が小さい場合、分割領域96の均一性レベルは「レベル1」とされる。分割領域96の染色状態が、上述の領域94のようにグラデーション様であって濃度勾配が大きい場合、分割領域96の均一性レベルは「レベル2」とされる。当該例では、レベルの数値が大きくなるに従って、分割領域96の染色状態の均一性が低下し、解析への適合性も低下する。
【0030】
上述の学習済みモデルは、例えば、解析支援装置1以外の装置により予め生成され、解析支援装置1の記憶部40に予め記憶される。当該学習済みモデルの生成は、様々な染色画像9における様々な染色状態の領域を撮像して得られた多数の学習用画像を用いて、各学習用画像と均一性レベルとの関係を示す学習用データをディープラーニングによって初期モデルに学習させることにより行われる。学習用画像として、例えば、標本91の染色画像9から一部を切り出すことにより得られた画像、および、当該画像を回転させたものや反転させたもの等が用いられる。切り出される学習用画像の形状および大きさは、分割領域96と同じであってもよく、異なっていてもよい。学習用画像は、多重免疫染色解析等に用いられる複数種類の染色にぞれぞれ対応する複数の染色画像9から取得されてもよい。また、学習用画像は、複数の標本91にそれぞれ対応する複数の染色画像9から取得されてもよい。学習用画像として、例えば、上述の解析に用いられる染色画像9以外の画像が用いられてもよい。なお、上記学習済みモデルは、ディープラーニング以外の機械学習により生成されてもよい。
【0031】
解析支援装置1は、図2に示すように、コンピュータによってプログラム39(図1参照)が実行されることにより実現される機能として、上記学習済みモデルを生成する学習部46をさらに備えていてもよい。学習部46は、主にプロセッサ31により実現される。学習部46は、上述の多数の学習用データを用いて、初期モデルに対してディープラーニング等の機械学習を行うことにより、上記学習済みモデルを生成する。当該機械学習に用いられる学習用画像は、例えば、解析支援装置1に設けられた撮像装置、または、解析支援装置1とは独立した撮像装置を用いて予め取得され、解析支援装置1の記憶部40に格納される。
【0032】
学習部46における機械学習に用いられる学習用データは、学習用画像と、当該学習用画像の均一性レベルを示すレベルとが、オペレータにより関連付けられることにより作成される。例えば、オペレータは、学習用画像を拡大し、隣接する陽性細胞と陰性細胞との染まり方を比較する。通常、陽性細胞は濃く染色され、陰性細胞は薄く染色される(または、染色されない)ため、隣接する陽性細胞と陰性細胞とで濃度の差(すなわち、輝度値の差)が明確であれば、染色状態が均一と判断され、当該学習用画像の染色状態の均一性レベルはレベル0とされる。
【0033】
一方、学習用画像の濃度が薄い領域における陽性細胞の濃度が、濃度が濃い領域における陰性細胞の濃度よりも薄い場合、または、同程度である場合、当該学習用画像の染色状態はグラデーション様を示すと判断される。そして、当該学習用画像において、上述の解析視野95に相当する領域を切り出し、当該領域に濃淡が存在する場合、グラデーション様の濃度勾配が大きいと判断され、当該学習用画像の染色状態の均一性レベルはレベル2とされる。また、切り出された領域に濃淡が実質的に存在しない場合、グラデーション様の濃度勾配は比較的小さいと判断され、当該学習用画像の染色状態の均一性レベルはレベル1とされる。このように、上記学習済みモデルの生成に使用される学習用画像の染色状態の均一性レベルは、学習用画像中の陽性細胞および陰性細胞の濃度(すなわち、輝度値)に基づいて決定される。
【0034】
図5は、レベル0と判断される学習用画像81の一例を拡大して示す図である。学習用画像81中の多数の円環82a,82bは、それぞれ細胞を示す。図5中において、破線にて輪郭を描いている細胞82aは陰性細胞を示す。また、実線にて輪郭を描いている細胞82bは陽性細胞を示す。図5に示す例では、陰性細胞および陽性細胞は正常に染色されている。陽性細胞は、濃く染色されており、陰性細胞は、薄く染色されている(または、実質的に染色されていない)。図5では、陽性細胞82bに平行斜線を付し、陰性細胞82aには平行斜線を付していない。
【0035】
図5に例示する学習用画像81の上部は、陰性細胞82aが密集しているため、学習用画像81を拡大していない状態では、全体的に濃度が薄く見える。学習用画像81の下部は、陽性細胞82bが密集しているため、学習用画像81を拡大していない状態では、全体的に濃度が濃く見える。また、学習用画像81の上下方向の中央部は、陽性細胞82bがまばらに存在するため、学習用画像81を拡大していない状態では、全体的に中間的な濃度に見える。したがって、当該学習用画像81は、拡大していない状態ではグラデーション様を示すように見えるが、図5に示すように拡大すると、隣接する陽性細胞82bと陰性細胞82aとの濃度差が明確であるため、上述のように、染色状態の均一性レベルはレベル0とされる。
【0036】
図6は、レベル1またはレベル2と判断される学習用画像81の一例を拡大して示す図である。図6では、破線にて示す陰性細胞82aおよび実線にて示す陽性細胞82bに付している平行斜線の密度は、染色された細胞の濃度を示し、平行斜線の密度が高い程、濃度が濃いことを示す。図6に例示する学習用画像81の上部は、染色が不足している淡色領域であり、学習用画像81の下部は、染色が過剰な濃色領域である。したがって、図6に例示する学習用画像81は、拡大していない状態ではグラデーション様を示す。図6に例示する学習用画像81では、上部の淡色領域における陽性細胞82bの濃度が、下部の濃色領域における陰性細胞82aの濃度と同程度である。したがって、学習用画像81は実際にグラデーション様を示していると判断され、染色状態の均一性レベルはレベル1またはレベル2とされる。
【0037】
判定部44は、図4に示す複数の分割領域96のそれぞれについて、レベル取得部43により取得された染色状態の均一性レベルに基づいて、多重免疫染色解析等の所定の解析方法に対する適否を判定する。表示制御部45は、判定部44による判定結果をディスプレイ37上に表示する。
【0038】
次に、解析支援装置1における処理の流れを図7を参照しつつ説明する。解析支援装置1では、まず、複数の染色画像9が記憶部40に格納されることにより準備される(ステップS11)。複数の染色画像9は、1つの標本91対して、所定の解析方法(例えば、多重免疫染色解析)に対応する複数種類(例えば、9種類)の染色を行って撮像することにより得られる。複数の染色画像9は、上述の複数種類の染色にそれぞれ対応する。標本91は、例えば、スライドガラス標本である。標本91の厚さは、例えば4μm以下である。各染色画像9は、例えば、免疫染色された1つの標本91の全体が撮像されたものである。染色画像9の解像度は、例えば0.46μm/pixel程度である。染色画像9において標本91に含まれる細胞の直径は、10~30pixel程度である。
【0039】
続いて、画像処理部41により、複数の染色画像9のそれぞれに対して、上述の前処理が行われる(ステップS12)。ステップS12では、染色画像9中の個々の細胞の境界が曖昧になるように、染色画像9に対する前処理が行われる。ただし、当該前処理は、染色画像9中において濃度の濃い領域が、陽性細胞82bの集団(図5参照)であるか、それとも染色が過剰な濃色領域(図6参照)であるかを判断できるように、個々の細胞の有無が視認できる範囲内で行われる。
【0040】
当該前処理は、例えば、各染色画像9の解像度を低下させる解像度低下処理である。解像度低下処理では、例えば、解像度が1/4程度になるように各染色画像9が処理される。好ましくは、解像度低下処理後の複数の染色画像9のそれぞれにおいて、標本91中の細胞(すなわち、陰性細胞および陽性細胞)の平均直径は、画素サイズ以上である。当該画素サイズとは、解像度低下処理後の染色画像9における1画素の1辺の長さである。また、細胞の平均直径とは、標本91中の全細胞の直径の算術平均である。なお、上記前処理は、解像度低下処理には限定されず、様々に変更されてよい。例えば、フィルタ等を用いたぼかし処理が前処理として各染色画像9に対して行われてもよい。
【0041】
次に、分割部42により、複数の染色画像9のそれぞれが、所定の分割態様にて複数の分割領域96(図4参照)に分割される(ステップS13)。複数の染色画像9の分割態様は同じであり、一の染色画像9における複数の分割領域96の形状および位置は、他の染色画像9においても同じである。なお、ステップS13は、上述のステップS12と並行して行われてもよく、ステップS11とステップS12との間に行われてもよい。すなわち、ステップS12,S13は、ステップS11と後述するステップS14との間に行われる。
【0042】
ステップS11~S13が終了すると、各染色画像9において、複数の分割領域96のそれぞれにおける染色状態の均一性を示す均一性レベルが、レベル取得部43により取得される(ステップS14)。レベル取得部43による各分割領域96の均一性レベルの取得は、上述のように、ディープラーニング等の機械学習により生成された学習済みモデルを用いて行われる。これにより、オペレータの熟練度等に影響されることなく、各分割領域96の均一性レベルを精度良く取得することができる。
【0043】
ステップS14では、例えば、複数の染色画像9のそれぞれの均一性レベルの取得に用いられる学習済みモデルが共通である。この場合、当該学習済みモデルの生成に用いられる学習用画像には、例えば、上述の複数の染色画像9からそれぞれ取得された画像が含まれる。学習済みモデルが複数の染色画像9で共通とされることにより、染色画像9の種類毎に学習済みモデルを変更する場合等に比べて、ステップS14を迅速に行うことができる。
【0044】
続いて、図4に例示される複数の分割領域96の各分割領域96について、上述の所定の解析方法に対する適否が判定部44により判定される(ステップS15)。ステップS15では、各分割領域96が当該所定の解析方法における利用に適合しているか否かが、複数の染色画像9のそれぞれにおいて取得された均一性レベルに基づいて判定される。
【0045】
具体的には、一の分割領域96について、複数の染色画像9のそれぞれにおいて取得された均一性レベルが判定部44によって確認される。そして、例えば、複数の染色画像9の全てにおける均一性レベルがレベル0である場合、当該一の分割領域96は、染色状態が全染色画像9において均一であって上記所定の解析方法に適合する解析適合領域であることを示す「クラス0」に分類される。また、複数の染色画像9のそれぞれにおいて取得された均一性レベルに、1つ以上のレベル2が含まれている場合、当該一の分割領域96は、染色状態が不均一であって上記所定の解析方法に適合しない解析不適合領域であることを示す「クラス2」に分類される。一方、複数の染色画像9のそれぞれにおいて取得された均一性レベルに、1つ以上のレベル1が含まれており、かつ、レベル2が含まれていない場合、当該一の分割領域96は、染色状態が少し不均一であって上記所定の解析方法に適合するか否かが不明な中間領域であることを示す「クラス1」に分類される。
【0046】
ステップS15では、複数の分割領域96について上述のクラス分類が順次行われ、各分割領域96のクラスが決定される。なお、上述のクラス分類の基準は様々に変更されてよい。例えば、一の分割領域96について、複数の染色画像9のそれぞれにおいて取得された均一性レベルに含まれるレベル2の数が0であり、レベル1の数が1以下である場合、当該一の分割領域96がクラス0に分類され、レベル2の数が1以上である場合はクラス2に分類され、それ以外の場合はクラス1に分類されてもよい。
【0047】
ステップS15が終了すると、ステップS15における判定結果に基づいて、各分割領域96のクラスが表示制御部45によってディスプレイ37に表示される(ステップS16)。図8は、ディスプレイ37上における各分割領域のクラス表示の一例を示す図である。図8では、上述の所定の解析方法に適合する分割領域である解析適合領域96a(すなわち、クラス0の分割領域96)は、平行斜線を付さずに示す。また、当該所定の解析方法に適合しない解析不適合領域96c(すなわち、クラス2の分割領域96)は、比較的密度の高い平行斜線を付して示す。そして、当該所定の解析方法に対する適否が不明な中間領域96b(すなわち、クラス1の分割領域96)は、解析不適合領域96cに比べて密度の低い平行斜線を付して示す。これにより、染色画像9における解析に適した領域、解析に適していない領域、および、解析に対する適否が不明な領域を、オペレータが容易に視認することができる。以下の説明では、それぞれのクラスが視認可能に表示された複数の分割領域96の画像を「マスク97」とも呼ぶ。図8に示す例では、マスク97の下方に凡例が表示されている(図9においても同様)。
【0048】
図9は、ディスプレイ37上において、マスク97を一の染色画像9上に重ねて(すなわち、オーバーレイして)表示したものである。これにより、オペレータは、染色画像9における解析に適した領域、解析に適していない領域、および、解析に対する適否が不明な領域を、さらに容易に視認することができる。
【0049】
図9では、染色画像9のうち、解析不適合領域96cと重なる領域において標本91が最も視認しにくく、解析適合領域96aと重なる領域において標本91が最も視認しやすい。また、染色画像9のうち中間領域96bと重なる領域では、標本91は、解析不適合領域96cと重なる領域よりは視認しやすく、解析適合領域96aと重なる領域よりは視認しにくい。換言すれば、染色画像9のうち解析不適合領域96cは最も視認しにくいようにマスクされ、解析適合領域96aは最も視認しやすいように複数の分割領域96から抽出されている。これにより、染色画像9を用いた解析において、オペレータが染色画像9上に解析視野95(図3参照)を設定する際に、解析視野95を解析適合領域96a上に容易に設定することができる。
【0050】
解析支援装置1では、上述の複数の染色画像9のそれぞれに、解析適合領域96a、中間領域96bおよび解析不適合領域96cを重ねて表示することができる。ディスプレイ37上には、解析適合領域96a、中間領域96bおよび解析不適合領域96cが重ねられた1つの染色画像9が表示されてもよく、解析適合領域96a、中間領域96bおよび解析不適合領域96cがそれぞれ重ねられた2以上の染色画像9が同時に表示されてもよい。
【0051】
なお、実際のディスプレイ37上では、解析適合領域96a、中間領域96bおよび解析不適合領域96cは、例えば、図8のように互いに異なるハッチング態様によって区別可能に表示されてもよく、互いに異なる色に着色されることによって区別可能に表示されてもよい。また、解析適合領域96a、中間領域96bおよび解析不適合領域96cは、ハッチングや色以外の様々な方法により、ディスプレイ37上にて区別可能に表示されてもよい。
【0052】
解析支援装置1では、ディスプレイ37上に表示される各染色画像9の表示倍率は、表示制御部45(図2参照)によって変更可能である。各染色画像9の表示倍率が変更される際には、各染色画像9上の解析適合領域96a、中間領域96bおよび解析不適合領域96cを示す表示も、表示制御部45によって各染色画像9と共に倍率変更される。
【0053】
なお、ステップS16では、マスク97は必ずしも染色画像9に重ねて表示される必要はなく、図8に示すように、マスク97単独でディスプレイ37に表示されてもよい。また、ステップS16では、解析適合領域96a、中間領域96bおよび解析不適合領域96cのうち、1種類または2種類の領域のみが、染色画像9に重ねて、または、重ねずにディスプレイ37に選択的に表示されてもよい。
【0054】
また、ディスプレイ37上には、マスク97とは異なる他のマスクが、染色画像9に重ねて、または、重ねずに表示されてもよい。例えば、一の染色画像9の各分割領域96の均一性レベルを示すマスクが、当該染色画像9に重ねて表示されてもよい。当該マスクでは、例えば、レベル0の分割領域96には平行斜線を付さず、レベル2の分割領域96には比較的密度の高い平行斜線を付し、レベル1の分割領域96には、レベル2の分割領域96に比べて密度の低い平行斜線を付す。これにより、当該染色画像9において解析に適している領域、解析に適していない領域、および、解析に対する適否が不明な領域をオペレータに分かり易く提示することができる。
【0055】
上述の解析支援装置1による解析支援方法では、ステップS15においてクラス1が省略され、各分割領域96はクラス0またはクラス2に分類されてもよい。例えば、一の分割領域96について、複数の染色画像9のそれぞれにおいて取得された均一性レベルが全てレベル0である場合、当該一の分割領域96は解析適合領域を示すクラス0に分類され、それ以外の場合は、解析不適合領域を示すクラス2に分類されてもよい。当該クラス分類の基準は様々に変更されてよい。例えば、一の分割領域96について、複数の染色画像9のそれぞれにおいて取得された均一性レベルに含まれるレベル2の数が0であり、レベル1の数が2以下である場合、当該一の分割領域96がクラス0に分類され、それ以外の場合はクラス2に分類されてもよい。
【0056】
以上に説明したように、標本91の染色画像9の解析を支援する上述の解析支援方法は、1つの標本91に対して複数種類の染色を行って得られた、当該複数種類の染色にそれぞれ対応する複数の染色画像9を準備する工程(ステップS11)と、複数の染色画像9の各染色画像9を所定の分割態様にて複数の分割領域96に分割する工程(ステップS13)と、各染色画像9において、複数の分割領域96のそれぞれにおける染色状態の均一性を示す均一性レベルを、機械学習により生成された学習済みモデルを用いて取得する工程(ステップS14)と、複数の分割領域96の各分割領域96について、複数の染色画像9のそれぞれにおける均一性レベルに基づいて所定の解析方法に対する適否を判定する工程(ステップS15)と、を備える。
【0057】
これにより、上述のように、複数の染色画像9における各分割領域96について、染色状態の均一性レベルを精度良く取得することができる。したがって、各分割領域96について、解析に対する適否を精度良く判定することができる。その結果、複数の染色画像9において共通する、解析に適した領域を精度良く提示することができる。
【0058】
上述のように、当該解析支援方法では、ステップS15における判定結果に基づいて、上記解析方法に適合する分割領域96である解析適合領域96aが、複数の染色画像9上に表示されることが好ましい。これにより、解析を行うオペレータ等が、染色画像9における解析に適した領域を容易に視認することができ、当該領域に解析視野95を容易に設定することができる。その結果、複数の染色画像9を用いた解析の精度を向上することができる。
【0059】
上述のように、当該解析支援方法では、複数の染色画像9のそれぞれの表示倍率は変更可能であり、各染色画像9の倍率が変更される際に、各染色画像9上の解析適合領域96aを示す表示も、各染色画像9と共に倍率変更されることが好ましい。これにより、染色画像9の表示倍率を変更した際であっても、オペレータ等は、染色画像9における解析に適した領域を容易に視認することができる。
【0060】
上述のように、当該解析支援方法では、ステップS15における判定結果に基づいて、上記解析方法に適合しない分割領域96である解析不適合領域96cが、複数の染色画像9上に表示されることが好ましい。これにより、解析を行うオペレータ等が、染色画像9における解析に適合しない領域を容易に視認することができ、当該領域を避けて解析視野95を容易に設定することができる。その結果、複数の染色画像9を用いた解析の精度を向上することができる。
【0061】
上述のように、当該解析支援方法では、複数の染色画像9のそれぞれの表示倍率は変更可能であり、各染色画像9の倍率が変更される際に、各染色画像9上の解析不適合領域96cを示す表示も、各染色画像9と共に倍率変更されることが好ましい。これにより、染色画像9の表示倍率を変更した際であっても、オペレータ等は、染色画像9における解析に適合しない領域を容易に視認することができる。
【0062】
上述のように、当該解析支援方法では、ステップS15における判定結果に基づいて、上記解析方法に対する適否が不明な分割領域96である中間領域96bが、複数の染色画像9上に表示されることが好ましい。これにより、解析を行うオペレータ等が、染色画像9における解析に対する適否が不明な領域を容易に視認することができる。このため、当該領域が使用可能な解析が行われる場合、染色画像9上において解析視野95の設定が可能な範囲を大きくすることができ、その結果、解析の自由度を向上することができる。また、当該領域が使用不能な解析が行われる場合、当該領域を避けて解析視野95を容易に設定することができ、その結果、解析の精度を向上することができる。
【0063】
上述のように、当該解析支援方法では、複数の染色画像9のそれぞれの表示倍率は変更可能であり、各染色画像9の倍率が変更される際に、各染色画像9上の中間領域96bを示す表示も、各染色画像9と共に倍率変更されることが好ましい。これにより、染色画像9の表示倍率を変更した際であっても、オペレータ等は、染色画像9において解析に対する適否が不明な領域を容易に視認することができる。
【0064】
上述のように、当該解析支援方法は、ステップS11とステップS14との間において、複数の染色画像9のそれぞれに対して解像度低下処理を行う工程(ステップS12)をさらに備えることが好ましい。これにより、ステップS14における均一性レベルの取得を精度良く行うことができる。
【0065】
上述のように、解像度低下処理後の複数の染色画像9のそれぞれにおいて、標本91中の細胞の平均直径は画素サイズ以上であることが好ましい。このように、細胞を個別に判別できる程度の解像度低下処理を行うことで、ステップS14における均一性レベルの取得を好適に行うことができる。
【0066】
上述のように、ステップS14において、複数の染色画像9のそれぞれの均一性レベルの取得に用いられる学習済みモデルは共通であることが好ましい。これにより、染色画像9の種類毎に学習済みモデルを変更する場合等に比べて、ステップS14を迅速に行うことができる。また、複数の染色画像9に対応する学習済みモデルの生成に要する時間および労力を低減できる可能性もある。
【0067】
上述のように、学習済みモデルの生成に使用される学習用画像81の均一性レベルは、学習用画像81中の陽性細胞82bおよび陰性細胞82aの輝度値に基づいて決定されることが好ましい。これにより、学習済みモデルの生成を好適に行うことができる。
【0068】
上述のように、プログラム39がコンピュータによって実行されることにより、1つの標本91に対して複数種類の染色を行って得られた、当該複数種類の染色にそれぞれ対応する複数の染色画像9を準備する工程(ステップS11)と、複数の染色画像9の各染色画像9を所定の分割態様にて複数の分割領域96に分割する工程(ステップS13)と、各染色画像9において、複数の分割領域96のそれぞれにおける染色状態の均一性を示す均一性レベルを、機械学習により生成された学習済みモデルを用いて取得する工程(ステップS14)と、複数の分割領域96の各分割領域96について、複数の染色画像9のそれぞれにおける均一性レベルに基づいて所定の解析方法に対する適否を判定する工程(ステップS15)と、が行われる。これにより、上記と同様に、複数の染色画像9において共通する、解析に適した領域を精度良く提示することができる。
【0069】
上述の解析支援装置1は、1つの標本91に対して複数種類の染色を行って得られた、当該複数種類の染色にそれぞれ対応する複数の染色画像9について、各染色画像9を所定の分割態様にて複数の分割領域96に分割する分割部42と、各染色画像9において、複数の分割領域96のそれぞれにおける染色状態の均一性を示す均一性レベルを、機械学習により生成された学習済みモデルを用いて取得するレベル取得部43と、複数の分割領域96の各分割領域96について、複数の染色画像9のそれぞれにおける均一性レベルに基づいて所定の解析方法に対する適否を判定する判定部44と、を備える。これにより、上記と同様に、複数の染色画像9において共通する、解析に適した領域を精度良く提示することができる。
【0070】
上述の解析支援方法、プログラム39および解析支援装置1では、様々な変更が可能である。
【0071】
例えば、上述の学習済みモデルの生成に使用される学習用画像81の染色状態の均一性レベルは、必ずしも、学習用画像81中の陽性細胞82bおよび陰性細胞82aの輝度値に基づいて決定される必要はなく、他の様々な基準に基づいて決定されてもよい。
【0072】
ステップS14では、複数の染色画像9のそれぞれの均一性レベルの取得に用いられる学習済みモデルは、必ずしも共通である必要はない。例えば、複数の染色画像9のそれぞれに対して、専用の学習済みモデルが用いられてもよい。あるいは、複数の染色画像9のうち一部の2以上の染色画像9についてのみ、学習済みモデルが共通であってもよい。
【0073】
上記例では、各分割領域96の解析に対する適合性を示すクラスは、0,1,2の3つに分類されているが、さらに細かく分類されてもよい。例えば、複数の染色画像9の数が9である場合、一の分割領域96について、複数の染色画像9のそれぞれにおいて取得された均一性レベルが全てレベル0である場合、当該一の分割領域96はクラス0に分類され、複数の染色画像9のそれぞれにおいて取得された均一性レベルに含まれるレベル2の数が0であり、レベル1の数が1である場合、当該一の分割領域96は「クラス0.2」に分類される。また、複数の染色画像9のそれぞれにおいて取得された均一性レベルに含まれるレベル2の数が0であり、レベル1の数が2である場合、当該一の分割領域96は「クラス0.4」に分類され、レベル2の数が0であり、レベル1の数が3である場合、当該一の分割領域96は「クラス0.6」に分類され、レベル2の数が0であり、レベル1の数が4である場合、当該一の分割領域96は「クラス0.8」に分類される。そして、複数の染色画像9のそれぞれにおいて取得された均一性レベルに含まれるレベル2の数が0であり、レベル1の数が5以上である場合、当該一の分割領域96はクラス1に分類され、レベル2の数が1以上である場合、当該一の分割領域96はクラス2に分類される。
【0074】
ステップS12では、解像度低下処理後の複数の染色画像9のそれぞれにおいて、標本91中の細胞の平均直径は、画素サイズ未満であってもよい。また、上述のように、ステップS12では、解像度低下処理以外の前処理が、解像度低下処理に代えて、または、解像度低下処理に加えて行われてもよい。
【0075】
上述の解析支援方法、プログラム39および解析支援装置1は、必ずしも多重免疫染色解析の支援に利用される必要はなく、多重免疫染色解析以外の様々な解析の支援に利用されてよい。また、標本91は、必ずしも生体由来標本である必要はなく、他の標本であってもよい。
【0076】
上記実施の形態および各変形例における構成は、相互に矛盾しない限り適宜組み合わされてよい。
【符号の説明】
【0077】
1 解析支援装置
9 染色画像
39 プログラム
42 分割部
43 レベル取得部
44 判定部
81 学習用画像
82a 陰性細胞
82b 陽性細胞
91 標本
96 分割領域
96a 解析適合領域
96b 中間領域
96c 解析不適合領域
S11~S16 ステップ
図1
図2
図3
図4
図5
図6
図7
図8
図9