(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公開特許公報(A)
(11)【公開番号】P2022162444
(43)【公開日】2022-10-24
(54)【発明の名称】情報処理装置、情報処理方法、およびプログラム
(51)【国際特許分類】
G06T 7/00 20170101AFI20221017BHJP
G01N 33/48 20060101ALI20221017BHJP
【FI】
G06T7/00 612
G01N33/48 M
【審査請求】未請求
【請求項の数】19
【出願形態】OL
(21)【出願番号】P 2021067309
(22)【出願日】2021-04-12
【国等の委託研究の成果に係る記載事項】(出願人による申告)2019年度、国立研究開発法人医薬基盤・健康・栄養研究所、戦略的イノベーション創造プログラム AI(人工知能)ホスピタルによる高度診断・治療システム、人工知能を有する統合がん診療支援システム委託研究開発、産業技術力強化法第17条の適用を受ける特許出願
(71)【出願人】
【識別番号】594164542
【氏名又は名称】キヤノンメディカルシステムズ株式会社
(71)【出願人】
【識別番号】000173588
【氏名又は名称】公益財団法人がん研究会
(74)【代理人】
【識別番号】110002147
【氏名又は名称】弁理士法人酒井国際特許事務所
(72)【発明者】
【氏名】溝部 秀謙
(72)【発明者】
【氏名】高松 学
(72)【発明者】
【氏名】津山 直子
【テーマコード(参考)】
2G045
5L096
【Fターム(参考)】
2G045AA24
2G045CB01
2G045FA19
2G045JA01
2G045JA07
5L096AA02
5L096AA06
5L096BA06
5L096BA13
5L096DA01
5L096FA06
5L096FA59
5L096FA60
5L096HA11
5L096KA04
(57)【要約】
【課題】組織画像に含まれる複数の組織領域を、切片単位で管理すること。
【解決手段】実施形態に係る情報処理装置は、取得部と、組織領域認識部と、切片領域認識部とを備える。取得部は、少なくとも1つの切片を含む組織標本が描出された組織画像を取得する。組織領域認識部は、組織画像から組織標本が描出されている複数の組織領域を認識する。切片領域認識部は、複数の組織領域のうち、1つの切片に対応する1以上の組織領域を、1つの切片領域として認識する。
【選択図】
図1
【特許請求の範囲】
【請求項1】
少なくとも1つの切片を含む組織標本が描出された組織画像を取得する取得部と、
前記組織画像から前記組織標本が描出されている複数の組織領域を認識する組織領域認識部と、
前記複数の組織領域のうち、1つの切片に対応する1以上の組織領域を、1つの切片領域として認識する切片領域認識部と、
を備える情報処理装置。
【請求項2】
前記組織画像は、複数の前記組織領域を含み、
前記切片領域認識部は、1つの切片が複数の組織領域に分割されて描出されている場合、前記1つの切片に対応する複数の組織領域を、1つの切片領域として認識する、
請求項1に記載の情報処理装置。
【請求項3】
前記切片領域認識部は、規定の切片配置規則に基づいて、前記切片領域を認識する、
請求項1または2に記載の情報処理装置。
【請求項4】
前記規定の切片配置規則は、1つの前記組織画像に1つの前記切片のみが含まれる、という規則であり、
前記切片領域認識部は、前記組織画像に含まれる全ての組織領域を、1つの切片領域として認識する、
請求項3に記載の情報処理装置。
【請求項5】
前記規定の切片配置規則は、1つの前記組織画像に描出された前記組織標本に複数の切片が含まれる場合に、同一の切片を構成する複数の組織領域同士の距離は、他の切片を構成する複数の組織領域同士の距離よりも近い、という規則であり、
前記切片領域認識部は、前記複数の組織領域間の距離に基づいて、1つの切片に対応する1以上の組織領域を、1つの前記切片領域と認識する、
請求項3に記載の情報処理装置。
【請求項6】
前記規定の切片配置規則は、1つの前記組織画像に描出された前記組織標本に複数の切片が含まれる場合に、1つの切片を構成する複数の組織領域は、当該切片が検体から切り出された状態における当該切片の形状に沿って配置される、という規則であり、
前記切片領域認識部は、前記複数の組織領域の面積および重心位置に基づいて、前記複数の切片が並ぶ方向、および前記複数の切片ごとの配置される可能性のある範囲を推定し、推定した範囲に含まれる1以上の組織領域を、1つの前記切片領域と認識する、
請求項3に記載の情報処理装置。
【請求項7】
前記切片領域認識部は、前記複数の組織領域の画像特徴量の周期性に基づいてグループ分けし、1つのグループに含まれる1以上の組織領域を、1つの前記切片領域と認識する、
請求項1または2に記載の情報処理装置。
【請求項8】
前記切片領域認識部は、学習済みモデルに、前記組織画像を入力することにより、前記複数の組織領域を前記切片領域単位でグルーピングする、
請求項1または2に記載の情報処理装置。
【請求項9】
前記組織画像を表示部に表示させる表示制御部を備える、
請求項1から8のいずれか1項に記載の情報処理装置。
【請求項10】
前記表示制御部は、前記組織画像に含まれる前記複数の組織領域のうち、1つの切片領域を構成する組織領域を、他の切片領域を構成する組織領域とは異なる態様で表示させる、
請求項9に記載の情報処理装置。
【請求項11】
前記組織画像に複数の切片領域が含まれる場合に、いずれかの切片領域を選択するユーザの操作を受け付ける受付部を備え、
前記表示制御部は、前記ユーザの操作により選択された前記切片領域に含まれる組織領域を、他の切片領域に含まれる組織領域とは異なる態様で表示させる、
請求項10に記載の情報処理装置。
【請求項12】
前記組織画像に複数の切片領域が含まれる場合に、個々の切片領域にメタ情報を設定するメタ情報設定部を備える、
請求項11に記載の情報処理装置。
【請求項13】
前記メタ情報設定部は、前記組織画像に含まれる複数の切片領域のうち、ユーザによって選択された切片領域にメタ情報を設定する、
請求項12に記載の情報処理装置。
【請求項14】
前記メタ情報は、前記メタ情報の付与対象の切片領域に関する画像処理の解析結果を含む、
請求項12または13に記載の情報処理装置。
【請求項15】
前記メタ情報は、前記メタ情報の付与対象の切片領域に関する診断名の候補を含む、
請求項12から14のいずれか1項に記載の情報処理装置。
【請求項16】
前記メタ情報は、ユーザによって入力された診断に関する情報を含む、
請求項12から15のいずれか1項に記載の情報処理装置。
【請求項17】
ユーザの操作に基づいて、前記切片領域認識部によって認識された切片領域を修正する修正部、を備える、
請求項1から16のいずれか1項に記載の情報処理装置。
【請求項18】
少なくとも1つの切片を含む組織標本が描出された組織画像を取得する取得ステップと、
前記組織画像から前記組織標本が描出されている複数の組織領域を認識する組織領域認識ステップと、
前記複数の組織領域のうち、1つの切片に対応する1以上の組織領域を、1つの切片領域として認識する切片領域認識ステップと、
を含む情報処理方法。
【請求項19】
少なくとも1つの切片を含む組織標本が描出された組織画像を取得する取得ステップと、
前記組織画像から前記組織標本が描出されている複数の組織領域を認識する組織領域認識ステップと、
前記複数の組織領域のうち、1つの切片に対応する1以上の組織領域を、1つの切片領域として認識する切片領域認識ステップと、
をコンピュータに実行させる含むプログラム。
【発明の詳細な説明】
【技術分野】
【0001】
本明細書及び図面に開示の実施形態は、情報処理装置、情報処理方法、およびプログラムに関する。
【背景技術】
【0002】
従来、病理学の分野等において、検体から切り出された複数の切片が撮像された組織画像に対して、ユーザの操作または画像処理結果等に基づいて、アノテーション等の情報設定を行う技術が知られている。
【0003】
1つの検体であっても、切片ごとに状態が異なるため、アノテーション等のメタ情報は、各切片に対応付けられることが望ましい。しかしながら、組織画像に複数の組織領域が含まれる場合、1つの切片を構成する組織領域群を特定することが困難な場合があった。
【先行技術文献】
【特許文献】
【0004】
【発明の概要】
【発明が解決しようとする課題】
【0005】
本明細書及び図面に開示の実施形態が解決しようとする課題の一つは、組織画像に含まれる複数の組織領域を、切片単位で管理することである。ただし、本明細書及び図面に開示の実施形態により解決しようとする課題は上記課題に限られない。後述する実施形態に示す各構成による各効果に対応する課題を他の課題として位置づけることもできる。
【課題を解決するための手段】
【0006】
実施形態に係る情報処理装置は、取得部と、組織領域認識部と、切片領域認識部とを備える。取得部は、少なくとも1つの切片を含む組織標本が描出された組織画像を取得する。組織領域認識部は、組織画像から組織標本が描出されている複数の組織領域を認識する。切片領域認識部は、複数の組織領域のうち、1つの切片に対応する1以上の組織領域を、1つの切片領域として認識する。
【図面の簡単な説明】
【0007】
【
図1】
図1は、第1の実施形態に係る情報処理システムの全体構成の一例を示す図である。
【
図2】
図2は、第1の実施形態に係る組織画像が撮像されるまでの流れについて説明する図である。
【
図3】
図3は、第1の実施形態に係る組織画像の一例を示す図である。
【
図4】
図4は、
図3に示した組織画像から複数の組織領域が認識された状態の一例を示す図である。
【
図5】
図5は、第1の実施形態に係る切片領域の認識結果の一例を示す図である。
【
図6】
図6は、第1の実施形態に係る切片配置規則(1)に基づく組織画像の一例を示す図である。
【
図7】
図7は、第1の実施形態に係る切片配置規則(2)に基づく組織画像の一例を示す図である。
【
図8】
図8は、第1の実施形態に係る切片配置規則(3)に基づく組織画像の一例を示す図である。
【
図9】
図9は、第1の実施形態に係る切片配置規則(3)に基づく切片領域の認識手法の一例を示す図である。
【
図10】
図10は、第1の実施形態における切片配置規則(3)では許可されない切片の配置の一例を示す図である。
【
図11】
図11は、第1の実施形態に係る画像ビューワの一例を示す図である。
【
図12】
図12は、第1の実施形態に係るリストボックスを用いた切片領域の選択手法の一例を示す図である。
【
図14】
図14は、第1の実施形態に係るアノテーションの設定の一例を示す図である。
【
図16】
図16は、第1の実施形態における切片領域の選択が解除された状態の一例を示す図である。
【
図17】
図17は、第1の実施形態に係る切片領域の認識処理の流れの一例を示すフローチャートである。
【
図18】
図18は、第1の実施形態に係る切片領域の認識処理の流れの一例を示すフローチャートである。
【
図19】
図19は、第2の実施形態に係る切片領域の認識結果の一例を示す図である。
【
図20】
図20は、第2の実施形態に係る画像特徴量の解析結果の一例を示す図である。
【
図21】
図21は、第2の実施形態に係る画像特徴量の周期性の評価の一例を示す図である。
【
図22】
図22は、第3の実施形態に係る学習済みモデルの入出力の一例を示す図である。
【
図23】
図23は、第3の実施形態に係るバウンディングボックスの一例を示す図である。
【
図24】
図24は、第3の実施形態に係るマスク画像の一例を示す図である。
【
図25】
図25は、変形例1に係る画像ビューワの表示の一例を示す図である。
【発明を実施するための形態】
【0008】
以下、図面を参照しながら、情報処理装置、情報処理方法、およびプログラムの実施形態について詳細に説明する。
【0009】
(第1の実施形態)
図1は、第1の実施形態に係る情報処理システムSの全体構成の一例を示す図である。
図1に示すように、情報処理システムSは、情報処理装置100と、検体画像保管装置201と、組織画像保管装置202とを備える。情報処理装置100は、院内LAN(Local Area Network)等のネットワーク300を介して検体画像保管装置201および組織画像保管装置202と通信可能に接続している。
【0010】
なお、情報処理システムSは、さらに、検体管理システム、病院情報システム(Hospital Information System:HIS)、臨床検査システム(Laboratory Information System:LIS)、及び放射線情報システム(Radiology Information System:RIS)等を含んでも良い。あるいは、情報処理システムSは、病院情報システムの一部であっても良い。また、情報処理システムSは、さらに、PC(Personal Computer)やタブレット端末等の端末装置を含んでも良い。
【0011】
情報処理システムSは、例えば、病院等の医療機関、大学等の研究機関、または検査センター等に設けられる。また、情報処理システムSを構成する装置の一部または全てが、クラウド環境に設けられても良い。
【0012】
検体画像保管装置201は、検体画像を保管する装置である。検体画像は、検体である組織片の全体が撮像された画像である。また、検体画像は、例えば、デジタルカメラ等の撮像装置によって撮像されたデジタル画像とする。検体画像は、マクロ画像ともいう。
【0013】
本実施形態においては、検体は、患者の身体や、動物等から採取された一部組織とする。例えば、検体は、内視鏡的粘膜下層はく離術(Endoscopic Submucosal Dissection:ESD)によって切除された消化器の粘膜および粘膜下層であるが、これに限定されるものではなく、開腹手術等によって切除された組織片であっても良い。
【0014】
組織画像保管装置202は、組織画像を保管する装置である。組織画像は、検体である組織片から切り出された少なくとも1つの切片が、検体画像よりも高倍率で撮像された画像である。例えば、組織画像は、スライドガラスに載せられた切片全体またはその一部を高精度にデジタル画像化したWSI(Whole Slide Imaging)画像である。組織画像は、WSS(Whole Slide Scanner)、またはデジタル顕微鏡で撮像された顕微鏡写真、あるいはその他の手法で撮像された画像であっても良い。組織画像は、ミクロ画像ともいう。
【0015】
検体画像保管装置201および組織画像保管装置202は、例えばサーバ装置またはPC等である。なお、検体画像保管装置201および組織画像保管装置202を総称して画像保管装置と呼んでも良い。また、
図1では検体画像保管装置201と組織画像保管装置202とを、別個の装置として記載したが、検体画像保管装置201と組織画像保管装置202とは一体の装置として構成されても良い。また、検体画像保管装置201、組織画像保管装置202、および情報処理装置100が、一体の装置として構成されても良い。
【0016】
図2は、第1の実施形態に係る組織画像が撮像されるまでの流れについて説明する図である。例えば、診断医によって患者Pから採取された検体5は、病理診断のために、病理医または検査技師に移送される。この際、病理診断の依頼(オーダー)毎に、病理番号が採番される。また、病理診断の対象となる検体ごとに、異なる検体番号が採番される。なお、1回の病理診断の依頼において、診断対象の検体が複数ある場合には、1つの病理番号に、複数の検体番号が対応付けられる。以下、本実施形態においては、病理医または検査技師を病理医等という。
【0017】
なお、本実施形態における情報処理装置100が実行する処理は、必ずしも病理診断を目的としなくても良い。例えば、研究機関による研究、または医療機関から委託されて病理学的検査を行う検査センターにおける報告書の作成を目的としても良い。
【0018】
また、検体5がデジタルカメラ等によって撮像された検体画像51の識別情報として、検体画像IDが付与される。検体画像IDは、検体画像51の付帯情報として登録されても良い。また、検体画像51の撮像対象である検体5の病理番号、検体5の検体番号、検体5に係る病理診断のオーダー番号、検体5の取得元の患者Pの患者ID、検体画像51の撮像日時等の検体画像51に関する情報が、検体画像51の付帯情報として登録されても良い。また、検体画像ID、およびその他の検体画像51に関する情報は、検体画像51上に文字情報として描出されても良い。
【0019】
病理医等は、検体5から切片60a~60eを切り出し、染色等の処理を施した後、例えば、切片60a~60eの断面を薄切し、スライドガラス7に載置する。以下、個々の切片60a~60eを区別しない場合は、単に切片60という。
【0020】
本実施形態においては、スライドガラス7に載置された切片群を、組織標本6という。組織標本6は、少なくとも1つの切片60を含む。
【0021】
また、
図2では、各切片60がそのままスライドガラス7に載置されているが、切片60の長さが長い場合や、切り出し位置の形状によっては、1つの切片60が、複数の断片に分割されてスライドガラス7に載置される場合がある。
【0022】
なお、
図2では一例として、切片60a~60eは断面を撮像装置側に向けた状態で撮像されるが、載置の向きはこれに限定されるものではない。例えば、切片60は、検体画像51の撮像時の検体5と同じ向きで、撮像されても良い。また、
図2では組織画像61の横方向が組織領域62の長手方向となるように、切片60がスライドガラス7上に配置されていたが、配置方向はこれに限定されるものではない。例えば、組織画像61の縦方向が組織領域62の長手方向となるように、切片60がスライドガラス7上に配置されても良い。あるいは、切片60は、スライドガラス7上に斜めに配置されても良い。本実施形態においては、切片60の配置は、後述の切片配置規則によって定められているものとする。
【0023】
スライドガラス7に載置された組織標本6を撮像したWSI画像等の画像が、組織画像61である。組織画像61には、切片60a~60eを含む組織標本6が描出される。
【0024】
組織画像61の識別情報として、組織画像IDが付与される。組織画像IDは、組織画像61の付帯情報として登録されても良い。また、組織画像61の撮像対象である切片の取得元である検体5の病理番号、検体5の検体番号、検体5に係る病理診断のオーダー番号、検体5の取得元の患者Pの患者ID、組織画像61の撮像日時等の組織画像61に関する情報が、組織画像61の付帯情報として登録されても良い。また、組織画像ID、およびその他の組織画像61に関する情報は、組織画像61上に文字情報として描出されても良い。また、組織画像61の付帯情報として、組織画像61を撮像した医療機関等の施設の識別情報が含まれても良い。組織画像61の撮像処理を撮像した医療機関等の施設の識別情報は、例えば、臨床検査システムまたは検体管理システムから取得されても良い。
【0025】
組織画像61は、スライドガラス7が描出された背景領域70と、組織標本6が描出された複数の組織領域62a~62eとを含む。以下、個々の組織領域62a~62eを区別しない場合は、単に組織領域62という。
【0026】
図1に戻り、情報処理装置100は、例えばサーバ装置またはPC等であり、NWインタフェース110と、記憶回路120と、入力インタフェース130と、ディスプレイ140と、処理回路150とを有する。
【0027】
NWインタフェース110は、処理回路150に接続されており、情報処理装置100と検体画像保管装置201または組織画像保管装置202との間で行われる各種データの伝送および通信を制御する。NWインタフェース110は、ネットワークカードやネットワークアダプタ、NIC(Network Interface Controller)等によって実現される。
【0028】
記憶回路120は、処理回路150で使用される各種の情報を予め記憶する。また、記憶回路120は、各種のプログラムを記憶する。
【0029】
入力インタフェース130は、トラックボール、スイッチボタン、マウス、キーボード、操作面へ触れることで入力操作を行うタッチパッド、表示画面とタッチパッドとが一体化されたタッチスクリーン、光学センサを用いた非接触入力回路、及び音声入力回路等によって実現される。入力インタフェース130は、処理回路150に接続されており、操作者から受け取った入力操作を電気信号へ変換し処理回路150へと出力する。なお、本明細書において入力インタフェースはマウス、キーボードなどの物理的な操作部品を備えるものだけに限られない。例えば、装置とは別体に設けられた外部の入力機器から入力操作に対応する電気信号を受け取り、この電気信号を処理回路150へ出力する電気信号の処理回路も入力インタフェース130の例に含まれる。
【0030】
ディスプレイ140は、液晶ディスプレイや有機EL(Organic Electro-Luminescence:OEL)ディスプレイ等である。なお、入力インタフェース130とディスプレイ140とは統合しても良い。例えば、入力インタフェース130とディスプレイ140とは、タッチパネルによって実現されても良い。ディスプレイ140は、表示部の一例である。
【0031】
処理回路150は、記憶回路120からプログラムを読み出し、実行することで各プログラムに対応する機能を実現するプロセッサである。本実施形態の処理回路150は、取得機能151と、組織領域認識機能152と、切片領域認識機能153と、表示用画像生成機能154と、表示制御機能155と、受付機能156と、画像処理機能157と、メタ情報設定機能158と、修正機能159とを備える。取得機能151は、取得部の一例である。組織領域認識機能152は、組織領域認識部の一例である。切片領域認識機能153は、切片領域認識部の一例である。表示用画像生成機能154は、表示用画像生成部の一例である。表示制御機能155は、表示制御部の一例である。受付機能156は、受付部の一例である。画像処理機能157は、画像処理部の一例である。メタ情報設定機能158は、メタ情報設定部の一例である。修正機能159は、修正部の一例である。
【0032】
ここで、例えば、処理回路150の構成要素である取得機能151、組織領域認識機能152、切片領域認識機能153、表示用画像生成機能154、表示制御機能155、受付機能156、画像処理機能157、メタ情報設定機能158、および修正機能159の各処理機能は、コンピュータによって実行可能なプログラムの形態で記憶回路120に記憶されている。処理回路150は、プロセッサである。例えば、処理回路150は、プログラムを記憶回路120から読み出し、実行することで各プログラムに対応する機能を実現する。換言すると、各プログラムを読み出した状態の処理回路150は、
図1の処理回路150内に示された各機能を有することとなる。なお、
図1においては単一のプロセッサにて取得機能151、組織領域認識機能152、切片領域認識機能153、表示用画像生成機能154、表示制御機能155、受付機能156、画像処理機能157、メタ情報設定機能158、および修正機能159にて行われる処理機能が実現されるものとして説明したが、複数の独立したプロセッサを組み合わせて処理回路150を構成し、各プロセッサがプログラムを実行することにより機能を実現するものとしても構わない。また、
図1においては単一の記憶回路120が各処理機能に対応するプログラムを記憶するものとして説明したが、複数の記憶回路を分散して配置して、処理回路150は個別の記憶回路から対応するプログラムを読み出す構成としても構わない。
【0033】
上記説明では、「プロセッサ」が各機能に対応するプログラムを記憶回路から読み出して実行する例を説明したが、実施形態はこれに限定されない。「プロセッサ」という文言は、例えば、CPU(Central Processing Unit )、GPU(Graphics Processing Unit)、特定用途向け集積回路(Application Specific Integrated Circuit:ASIC)、プログラマブル論理デバイス(例えば、単純プログラマブル論理デバイス(Simple Programmable Logic Device:SPLD)、複合プログラマブル論理デバイス(Complex Programmable Logic Device :CPLD)、及びフィールドプログラマブルゲートアレイ(Field Programmable Gate Array:FPGA))等の回路を意味する。プロセッサが例えばCPUである場合、プロセッサは記憶回路に保存されたプログラムを読み出して実行することで機能を実現する。一方、プロセッサがASICである場合、記憶回路120にプログラムを保存する代わりに、当該機能がプロセッサの回路内に論理回路として直接組み込まれる。なお、本実施形態の各プロセッサは、プロセッサごとに単一の回路として構成される場合に限らず、複数の独立した回路を組み合わせて1つのプロセッサとして構成し、その機能を実現するようにしてもよい。さらに、
図1における複数の構成要素を1つのプロセッサへ統合してその機能を実現するようにしてもよい。
【0034】
取得機能151は、組織画像保管装置202から、組織画像61を取得する。また、取得機能151は、検体画像保管装置201から、検体画像51を取得する。なお、検体画像51および組織画像61の取得元は、検体画像保管装置201および組織画像保管装置202に限定されるものではない。例えば、取得機能151は、組織画像61を撮像した撮像装置から組織画像61を取得しても良い。
【0035】
取得対象の検体画像51および組織画像61は、例えば、受付機能156が受け付けたユーザの操作によって指定される。情報処理装置100のユーザは、病理医等である。
【0036】
ユーザは、例えば、病理番号、患者ID、検体番号、オーダー番号、または撮像日等のいずれか、またはこれらの組み合わせを入力することにより、取得対象の検体画像51または組織画像61を指定する。また、一の病理番号には一のオーダー番号が対応し、一の病理番号には1以上の検体番号および検体画像IDが対応付けられ、一の検体番号には1以上の組織画像IDが対応付けられる。このため、ユーザが一の病理診断の依頼を処理するために一の病理番号を入力した場合、1以上の検体画像51および1以上の組織画像61が取得される。
【0037】
また、ユーザは、検体画像保管装置201に保存された検体画像51および組織画像61のリストから、取得対象を選択しても良い。
【0038】
なお、検体画像51および組織画像61は、予め記憶回路120に記憶され、ユーザの操作によって読み出されても良い。
【0039】
組織領域認識機能152は、画像処理により、組織画像61から組織標本6が描出されている複数の組織領域62を認識する。
【0040】
図3は、第1の実施形態に係る組織画像61の一例を示す図である。また、
図4は、
図3に示した組織画像61から複数の組織領域62f~62gが認識された状態の一例を示す図である。組織画像61において、複数の組織領域62f~62g以外の画像領域は、スライドガラス7が描出された背景領域70である。
【0041】
組織画像61から組織領域62を認識する手法は特に限定されるものではないが、例えば、組織領域認識機能152は、組織画像61に対して画像セグメンテーション処理を実行することにより、背景領域70と組織領域62との境界を認識しても良い。また、例えば、組織領域認識機能152は、画素レベルで類似する領域をグルーピングしていくことで候補領域を選出するSelective Searchのようなルールベースによる画像処理を採用しても良い。
【0042】
または、組織画像61から組織領域62を認識する手法として、深層学習(Deep Learning)等の機械学習による画像処理を採用しても良い。深層学習を採用する場合には、組織領域認識機能152は、記憶回路120に記憶された学習済みモデルに組織画像61を入力し、学習済みモデルから出力される組織領域62の認識結果を取得する。組織領域62の認識処理に使用される学習済みモデルは、複数の組織画像61と、複数の組織画像61における組織領域62との対応関係が深層学習等の手法により学習されたモデルである。なお、当該学習済みモデルは、組織領域認識機能152に組み込まれていても良い。
【0043】
次に、切片領域認識機能153は、組織領域認識機能152によって認識された複数の組織領域のうち、1つの切片60に対応する1以上の組織領域62を、1つの切片領域として認識する。例えば、1つの切片60が、複数の断片に分割されてスライドガラス7に配置される場合がある。このような場合、複数の組織領域62が1つの切片60に対応する。このため、組織領域認識機能152は複数の組織領域62を切片60単位でグルーピングする。1つの切片60に由来する1以上の組織領域62のグループを、切片領域という。
【0044】
例えば、切片領域認識機能153は、1つの切片60が複数の組織領域62に分割されて描出されている場合、1つの切片60に対応する複数の組織領域62を、1つの切片領域として認識する。
【0045】
切片領域とは、組織画像61において、1つの切片60が描出された画像領域である。スライドガラス7に載置される際に、1つの切片60が複数の断片に分割された場合、1つの切片60が複数の組織領域62として組織画像61に描出される。この場合は、当該複数の組織領域62が、1つの切片領域となる。換言すれば、切片領域は、1つの切片60に由来する組織領域62のグループである。なお、1つの切片60が分割されずに1つの組織領域62として組織画像61に描出される場合もあるため、組織領域62のグループは、1以上の組織画像61を含む。
【0046】
図5は、第1の実施形態に係る切片領域8a,8bの認識結果の一例を示す図である。
図5に示す例では、組織画像61に含まれる組織領域62f~62iのうち、組織領域62fが切片領域8a、組織領域62g~62iが切片領域8bである。3つの組織領域62g~62iは1つの切片60に含まれる断片が撮像された画像領域である。また、組織領域62fは、他の組織領域62g~62iとは異なる切片60に含まれる断片が撮像された画像領域である。以下、個々の切片領域8a,8bを区別しない場合には単に切片領域8という。
【0047】
切片領域認識機能153は、規定の切片配置規則に基づいて、切片領域8を認識する。
【0048】
規定の切片配置規則は、例えば、組織画像61の撮像をする医療機関または検査センター等の施設の運用ルールである。組織画像61を撮像する技師または医師等は、当該運用ルールに則ってスライドガラス7上に切片60を配置する。
【0049】
本実施形態では、規定の切片配置規則の例として、下記の(1)~(3)を挙げる。
(1)一の組織画像61に一の切片60のみが含まれる。(2)一の組織画像61に描出された組織標本6に複数の切片60が含まれる場合に、同一の切片を構成する複数の組織領域62同士の距離は、他の切片60を構成する複数の組織領域62同士の距離よりも近い。(3)一の組織画像61に描出された組織標本6に複数の切片60が含まれる場合に、一の切片60を構成する複数の組織領域62は、当該切片60が検体5から切り出された状態における当該切片60の形状に沿って配置される。
【0050】
情報処理装置100で適用される切片配置規則が(1)~(3)のいずれであるかは、予め定められていても良いし、ユーザによっていずれかの切片配置規則が選択可能であっても良い。例えば、システム管理者等によって、情報処理装置100が使用される医療機関等におけるデフォルトの切片配置規則が情報処理装置100に設定され、必要に応じて一般ユーザがGUI(Graphical User Interface)を操作して変更可能としても良い。あるいは、組織画像61の処理の都度、ユーザが切片配置規則(1)~(3)のリストから、適用するものを選択する構成としても良い。ユーザによる切片配置規則の選択操作は、後述の受付機能156が受け付ける。切片領域認識機能153は、ユーザによって選択された切片配置規則に応じて切片領域8を認識しても良い。
【0051】
あるいは、情報処理装置100は、切片配置規則が(1)~(3)のいずれか1つのみ対応可能な構成であっても良い。
【0052】
あるいは、組織画像61の付帯情報またはその他のメタデータに、当該組織画像61が撮像された施設の識別情報が登録されており、切片領域認識機能153は、その施設に応じた切片配置規則を適用しても良い。当該手法を採用する場合は、記憶回路120は、組織画像61の撮像を行う施設の識別情報と、当該施設で採用される切片配置規則とが対応付けられた切片配置規則特定情報を、記憶しているものとする。なお、組織画像61が撮像された施設は、情報処理装置100が設置された施設と同一でも、異なっていても良い。切片領域認識機能153は、当該切片配置規則特定情報に基づいて、組織画像61に適用される切片配置規則を特定する。
【0053】
以下に、切片配置規則(1)~(3)の各々に応じた切片領域8の認識の手法について説明する。
【0054】
切片配置規則(1)が適用される場合、切片領域認識機能153は、組織画像61に含まれる全ての組織領域62を、一の切片領域8として認識する。
【0055】
図6は、第1の実施形態に係る切片配置規則(1)に基づく組織画像61の一例を示す図である。
図6に示す組織画像61には3つの組織領域62g~62iが含まれる。切片配置規則(1)によれば、一の組織画像61には1つの切片60のみが含まれる。このため、切片領域認識機能153は、組織画像61に含まれる全ての組織領域62を、1つの切片領域8として認識する。
図6に示す例では、切片領域認識機能153は、3つの組織領域62g~62iを、1つの切片60に対応する切片領域8bと認識する。
【0056】
図7は、第1の実施形態に係る切片配置規則(2)に基づく組織画像61の一例を示す図である。切片配置規則(2)によれば、1つの組織画像61に描出された組織標本6に複数の切片60が含まれる場合に、同一の切片を構成する複数の組織領域62同士の距離は、他の切片60を構成する複数の組織領域62同士の距離よりも近い。このため、切片領域認識機能153は、複数の組織領域62の距離に基づいて、1つの切片60に対応する1以上の組織領域62を、1つの切片領域8と認識する。
【0057】
例えば、切片領域認識機能153は、組織領域62同士の輪郭間の最短距離が閾値以下の場合に、当該組織領域62同士が同一の切片領域8に含まれると認識する。閾値は、例えば予め記憶回路120に記憶される。組織領域62同士の輪郭間の最短距離は、2つの組織領域62がもっとも接近している箇所における、ある組織領域62の輪郭線から他の組織領域62の輪郭線までの距離である。
【0058】
図7に示す例では、組織領域62gと組織領域62hとの最短距離d1と、組織領域62hと組織領域62iとの最短距離d2とが閾値以下であるものとする。この場合、切片領域認識機能153は、組織領域62g~62iを1つのグループに分類する。また、組織領域62gと組織領域62iとの最短距離d6は閾値よりも大きい場合も、組織領域62gと組織領域62iとは組織領域62hを介して同じグループに分類される。切片領域認識機能153は、1つのグループに含まれる組織領域62g~62iを、1つの切片領域8bを構成する組織領域62g~62iと認識する。
【0059】
また、組織領域62fと組織領域62gとの最短距離d3、組織領域62fと組織領域62hとの最短距離d4、組織領域62fと組織領域62iとの最短距離d5は、いずれも閾値よりも大きいものとする。この場合、切片領域認識機能153は、組織領域62fは、組織領域62g~62iのいずれとも異なる切片領域8であると認識する。組織画像61には組織領域62f~62i以外の組織領域62は含まれないため、切片領域認識機能153は、組織領域62fは単独で1つの切片領域8aであると認識する。
【0060】
なお、閾値は、固定値ではなく、組織画像61に含まれる組織領域62f~62iの最短距離の相対的な差に応じて変化しても良い。例えば、切片領域認識機能153は、組織領域62f~62iの最短距離の平均または標準偏差等に基づいて、相対的に距離が近い組織領域62をグループ化しても良い。
【0061】
図8は、第1の実施形態に係る切片配置規則(3)に基づく組織画像61の一例を示す図である。切片配置規則(3)によれば、1つの組織画像61に描出された組織標本6に複数の切片60が含まれる場合に、1つの切片60を構成する複数の組織領域62は、当該切片60が検体5から切り出された状態における当該切片60の形状に沿って配置される。
【0062】
図8に示す例では、組織画像61には組織領域62f~62lが含まれる。このうち、組織領域62g~62iは、1つの切片60が途切れたために複数の組織領域62g~62iとして撮像されている。切片配置規則(3)に基づいて、切片60は、検体5から切り出された状態における当該切片60の形状に沿って配置されるため、組織領域62g~iは元の検体5の切り出し位置に沿って、横方向に一列に配置される。
【0063】
切片配置規則(3)が適用される場合、切片領域認識機能153は、複数の組織領域62の面積および重心65a~65gの位置に基づいて、複数の切片60が並ぶ方向、および複数の切片60ごとの配置される可能性のある範囲を推定し、推定した範囲に含まれる1以上の組織領域62を、1つの切片領域8と認識する。以下、個々の重心65a~65gを特に区別しない場合には単に重心65という。
【0064】
組織領域62の重心65は、組織領域62に含まれる画素の分布の中心である。例えば、重心65の座標は、組織領域62に含まれる画素の座標の平均値である。なお、重心65の求め方は、公知の画像処理の手法を採用することができる。
【0065】
切片領域認識機能153は、組織領域62g~62lの各々の画素に基づいて、重心65a~65gの位置を求める。重心65a~65gの位置は、組織画像61上の座標である。
【0066】
また、切片領域認識機能153は、組織領域62g~62lの各々の面積を求め、組織領域62g~62lの面積に基づいて算出された基準面積以上の面積を有する組織領域62の重心65の位置に基づいて、切片60の配置方向を推定する。組織領域62g~62lの面積に基づいて算出された基準面積以上の面積を有する組織領域62を、代表組織領域ともいう。なお、基準面積は、例えば、組織領域の面積群の平均値を採用する方法がある。
図8に示す例では、基準面積に組織領域の面積群の平均値を採用する例として、組織領域62gと組織領域62iは、組織領域62g~62lの面積の平均未満であるため、組織領域62gの重心65eと組織領域62iの重心65gは、除外される。組織領域62h,62j~62lは、組織領域62g~62lの面積の平均以上であるため、代表組織領域となる。
【0067】
切片領域認識機能153は、組織領域62h,62j~62lの重心65a~65fに基づいて、切片60の並ぶ方向の角度を推定する。重心65a~65fの並ぶ方向の求め方は、例えば、重心65a~65fの座標群における、組織画像61上のX座標およびY座標の分散の比の算出、または主成分分析等を採用しても良い。切片領域認識機能153は、重心65a~65fの座標を主成分分析し、第一主成分方向を切片60が並ぶ方向としても良い。
図8に示す例では、切片領域認識機能153は、方向Aを、切片60が並ぶ方向と推定する。また、切片領域認識機能153は、切片60が並ぶ方向Aと垂直な方向を、切片60の長手方向と推定する。なお、組織画像61の付帯情報等に切片60の配置に関する情報が含まれている場合、切片領域認識機能153は、当該情報に基づいて切片60の並ぶ方向Aを推定しても良い。
【0068】
切片領域認識機能153は、代表組織領域である組織領域62h,62j~62lの重心65a~65fと、切片60が並ぶ方向Aの傾きの角度と基準に、複数の切片60ごとの配置される可能性のある範囲を推定する。
【0069】
図9は、第1の実施形態に係る切片配置規則(3)に基づく切片領域8bの認識手法の一例を示す図である。
図9に示すように、方向Aを組織領域62hの高さ方向とした場合に、重心65fにおける方向A方向の組織領域62hの長さを、組織領域62hの高さh1とする。切片領域認識機能153は、当該高さh1を基準として、組織領域62hと同一の切片60に由来する組織画像61が含まれる範囲を推定する。例えば、切片領域認識機能153は、方向Aと垂直に交差する2本の直線L1,L2の間に、少なくとも一部が含まれる組織領域62を探索する。2本の直線L1,L2の間隔は、高さh1と等しい。
図9に示す例では、組織領域62g,62iが、2本の直線L1,L2の間に含まれるため、切片領域認識機能153は、組織領域62g~62iが1つの切片領域8bに含まれると認識する。
【0070】
なお、
図9では、2本の直線L1,L2の間隔は、高さh1と等しいとしたが、これに限定されない。例えば、切片領域認識機能153は、2本の直線L1,L2の間隔を「高さh1のn%」等としても良い。nの値は予め定められて記憶回路120に記憶されていても良い。
【0071】
ここで、切片配置規則(3)について補足説明をする。
図10は、第1の実施形態における切片配置規則(3)では許可されない切片60の配置の一例を示す図である。切片配置規則(3)が適用される場合、各切片60の形状を維持してスライドガラス7上に配置されるため、
図10に示すように、1つの切片60xが複数の断片60x1,60x2に切断されて順方向に配置されることはない。このため、切片配置規則(3)が適用される場合には、重心65が並ぶ方向に基づいて切片60の配置方向が推定可能となる。
【0072】
切片領域認識機能153は、当該切片領域8に含まれる組織領域62をグループ化して生成した切片領域8毎に、識別子を対応付けて、記憶回路120に記憶させる。識別子は、例えば数字の番号である。また、当該識別子は、検体5から切片60が切り出された切り出し位置の並び順と対応付けて採番されても良い。なお、当該識別子は後述のメタ情報設定機能158で設定されても良い。
【0073】
図1に戻り、表示用画像生成機能154は、切片領域認識機能153によって認識された切片領域8に基づいて、表示用画像を生成する。表示用画像は、切片領域8を強調表示するための画像であり、例えば、1つの切片領域8を拡張した表示用切片領域を透明、その他の画像領域を半透明の黒色で覆うマスク画像である。表示用切片領域は、切片領域8の輪郭に沿った、切片領域8よりも一回り大きな画像領域である。表示用切片領域が切片領域8よりも大きい理由は、マスク画像で組織画像61が覆われた場合に、表示対象である切片領域8の境界を視認しやすくするためである。
【0074】
表示用画像生成機能154は、マスク画像を個々の切片領域8ごとに生成する。なお、表示用画像はマスク画像に限定されるものではなく、表示用切片領域の輪郭を点線で描出する画像等であっても良い。
【0075】
表示制御機能155は、組織画像61をディスプレイ140に表示させる。
【0076】
図11は、第1の実施形態に係る画像ビューワ14の一例を示す図である。画像ビューワ14は、ユーザが組織画像61および検体画像51の照会、編集、加工等の操作をすることができるGUIである。
図11に示す例では、ディスプレイ140に表示された画像ビューワ14は、ミクロ画像表示エリア141、マクロ画像表示エリア142、操作ツール表示エリア144、および画像一覧表示エリア143を含む。
【0077】
ミクロ画像表示エリア141には組織画像61が表示される。マクロ画像表示エリア142には、検体画像51が表示される。操作ツール表示エリア144には、ユーザが操作可能な各種のツールが表示される。画像一覧表示エリア143には、ミクロ画像表示エリア141またはマクロ画像表示エリア142に表示可能な組織画像61および検体画像51が縮小されて表示される。
【0078】
なお、
図11では、説明のために、切片領域8n~8rを示す破線を図示しているが、実際には画像ビューワ14上に当該破線は表示されなくとも良い。
【0079】
また、表示制御機能155は、組織画像61に含まれる複数の組織領域62n~62sのうち、1つの切片領域8を構成する組織領域62を、他の切片領域8を構成する組織領域62とは異なる態様で表示させる。例えば、ミクロ画像表示エリア141に表示された組織画像61に含まれる複数の切片領域8n~8rのうちのいずれかをユーザが選択した場合、表示制御機能155は、選択された切片領域8に含まれる組織領域62を、強調表示する。
【0080】
後述の受付機能156によりディスプレイ140のミクロ画像表示エリア141上でユーザがマウスのクリック等の操作を受け付けた場合、表示制御機能155は、クリックされた座標に対応する切片領域8が選択されたと判定する。この場合、表示制御機能155は、ユーザの操作により選択された切片領域8に含まれる組織領域62を、他の切片領域8に含まれる組織領域62とは異なる態様で表示させる。例えば、表示制御機能155は、表示用画像生成機能154によって生成されたマスク画像のうち、選択された切片領域8を含む表示用切片領域のみが透明で、その他の画像領域が半透明の黒色でマスクされたマスク画像を、組織画像61に重畳してディスプレイ140に表示させる。当該表示により、選択された切片領域8のみが強調表示される。なお、強調表示の態様はこれに限定されない。
【0081】
また、ユーザによる切片領域8の選択手段は、ミクロ画像表示エリア141上でクリックすることに限定されない。例えば、
図12は、第1の実施形態に係るリストボックス91を用いた切片領域8の選択手法の一例を示す図である。
【0082】
図12に示す例では、ユーザは、リストボックス91のドロップダウンメニューから所望の切片領域8の識別子を選択する。
図12では、表示制御機能155は、選択された識別子に対応する切片領域8に含まれる組織領域62qを強調表示するために、組織領域62qおよびその周囲を除く画像領域がマスクされたマスク画像81pを、組織画像61に重畳して表示させている。これにより、選択された切片領域8に含まれる組織領域62qがハイライト表示される。
【0083】
なお、選択された切片領域8に含まれる組織領域62qを強調表示する手法は、ハイライトに限定されない。例えば、表示制御機能155は、破線または点線等の枠で選択された切片領域8に含まれる組織領域62qを囲んでも良い。また、表示制御機能155は、選択されていない切片領域8に含まれる組織領域62n~62p,62r,62sを非表示にし、選択された切片領域8に含まれる組織領域62qのみを表示しても良い。また、表示制御機能155は、選択されていない切片領域8に含まれる組織領域62n~62p,62r,62sの色を、選択された切片領域8に含まれる組織領域62qよりも薄い色で表示させても良い。
【0084】
切片領域8の選択の手法は、ユーザによるマウスによるクリック操作やリストボックス91による指定に限定されない。例えば、後述の画像処理機能157によって病変等の異常が検出された切片領域8が選択されても良い。
【0085】
なお、
図12に示す例では、各切片領域8の識別子は、検体5から切片60が切り出された切り出し位置の番号と対応付けられている。マクロ画像表示エリア142に表示された検体画像51には、切り出し位置の番号が表示されているため、ユーザは、検体画像51に表示された番号を参照して、切片領域8の識別子を選択することができる。なお、表示制御機能155は、組織画像61上に、切片領域8の識別子を表示させても良い。
【0086】
また、表示制御機能155は、選択された切片領域8に対応する、検体画像51上の切り出し位置の表示態様を変化させても良い。例えば、表示制御機能155は、選択中の切片領域8に対応する検体画像51上の切り出し位置を強調表示しても良い。
【0087】
また、
図13は、選択された切片領域8が
図12から変化した場合の一例を示す図である。
図13では、選択された識別子が“3”から“4”に変更されている。表示制御機能155は、切片領域8の選択が変更された場合、変更前の切片領域8の強調表示を解除し、新たに選択された切片領域8を強調表示する。
【0088】
また、表示制御機能155は、後述のメタ情報設定機能158によって設定された各種のメタデータを、組織画像61上に表示させても良い。
【0089】
図1に戻り、受付機能156は、入力インタフェース130を介して、ユーザによる各種の操作を受け付ける。例えば、受付機能156は、組織画像61に複数の切片領域8が含まれる場合に、いずれかの切片領域8を選択するユーザの操作を受け付ける。
図11~13で説明したように、選択の手法はマウスによるクリック操作、またはリストボックス91による選択操作等である。
【0090】
また、受付機能156は、ユーザによるアノテーション等の情報の入力を受け付ける。アノテーションとは、組織画像61に図またはテキストで注釈等を付与することである。1つの検体5であっても、切片60ごとに病巣等の状態が異なるため、アノテーション等の情報は、組織画像61単位よりも各切片領域8単位で対応付けられることが望ましい。受付機能156は、ユーザによるアノテーション等の情報の入力を受け付けた場合、受け付けた内容を、メタ情報設定機能158に送出する。
【0091】
また、受付機能156は、ユーザによる切片領域8を修正する操作を受け付ける。受付機能156は、ユーザによる切片領域8を修正する操作を受け付けた場合、受け付けた内容を、修正機能159に送出する。
【0092】
画像処理機能157は、切片領域8ごとに、画像処理による解析をする。具体的には、画像処理機能157は、切片領域8ごとに、異常程度、異常の有無、および異常領域の範囲等を解析する。異常とは、例えば、切片領域8に含まれる組織領域62に描出された病巣である。病巣が描出された部位は、例えば、腺腫や腺がんなどの腫瘍領域である。異常を解析する画像処理の手法は、特に限定されるものではなく、公知の手法を採用可能である。また、画像処理機能157は、深層学習等の学習済みモデルを用いて異常程度、異常の有無、および異常領域等を解析しても良い。
【0093】
また、画像処理機能157は、各切片領域8の面積、長径、および短径等を解析しても良い。また、画像処理機能157は、各切片領域8の画素について、平均、最頻、中央画素値等を解析しても良い。
【0094】
なお、画像処理機能157の機能は情報処理装置100と接続する他の情報処理装置で実行されてもよい。この場合、取得機能151が、他の情報処理装置から解析結果を取得する。
【0095】
メタ情報設定機能158は、組織画像61に複数の切片領域8が含まれる場合に、個々の切片領域8にメタ情報を設定する。
【0096】
本実施形態において、メタ情報は、切片領域8に関する情報であり、例えば、切片領域8と対応する切片60が検体5から切り出された位置を特定可能な識別子を含む。
図12、
図13に示したように、当該識別子は、組織画像61における切片領域8と、検体画像51における切り出し位置とを対応付けるものである。メタ情報設定機能158は、例えば、検体画像51に含まれる切り出し位置の並び順と、組織画像61における切片領域8の並び順とに基づいて、各切り出し位置の番号に対応する番号を、各切片領域8に識別子として対応付ける。
【0097】
また、メタ情報は、画像処理機能157によるメタ情報の付与対象の切片領域8に関する画像処理の解析結果を含んでも良い。また、メタ情報は、メタ情報の付与対象の切片領域8に関する医師の診断結果を含んでも良い。医師の診断結果は、異常の有無、異常の程度、異常領域、診断名の候補、診断根拠、およびその他のコメント等を含む。また、切片領域8に関する医師の診断結果の取得手法は、取得機能151が外部の情報処理装置で登録されたレポート等を取得しても良いし、受付機能156がユーザによる診断に関する情報の入力を受け付けても良い。これらの情報を、アノテーションともいう。また、これらの情報を入力するユーザの操作をアノテーションと称しても良い。
【0098】
図14は、第1の実施形態に係るアノテーションの設定の一例を示す図である。
図14に示す例では、組織領域62rを含む切片領域8が、表示対象として選択されている。また、
図14では、受付機能156は、ユーザが描画ツール92により、興味領域を示す領域指定画像94a,94bを組織画像61上で描画したことを受け付けたものとする。この場合、メタ情報設定機能158は、選択中の切片領域8に含まれる組織領域62rにおいて、当該領域指定画像94a,94bに対応する位置に、興味領域表示画像93a,93bを設定する。なお、メタ情報設定機能158は、興味領域表示画像93a,93bが組織領域62rを覆い隠さないように、組織領域62rの輪郭線の外側に興味領域表示画像93a,93bを設定しても良い。表示制御機能155は、メタ情報設定機能158による設定に基づいて、興味領域表示画像93a,93bを表示させる。興味領域表示画像93a,93bは、メタ情報に含まれるものとする。
【0099】
また、
図15は、選択された切片領域が
図14から変化した場合の一例を示す図である。
図15では、組織領域62qを含む切片領域8が、表示対象として選択されている。この場合、
図14で組織領域62rを含む切片領域8に対するアノテーションの設定のために入力された領域指定画像94a,94bは表示されない。そして、受付機能156は、現在選択されている組織領域62qを含む切片領域8に対する領域指定画像94cを設定するユーザの操作を受け付ける。また、メタ情報設定機能158は、選択中の切片領域8に含まれる組織領域62qにおいて、当該領域指定画像94cに対応する位置に、興味領域表示画像93cを設定する。
【0100】
また、メタ情報設定機能158は、切片領域8に対応付けられた解析結果または診断結果等の情報を、メタ情報として、検体画像51上の対応する切り出し位置に対応付けても良い。例えば、表示制御機能155は、切片領域8に対応付けられた解析結果または診断結果等の情報を、当該切片領域8に対応する切り出し位置に対応付けて、検体画像51上に表示させても良い。
【0101】
また、
図16は、第1の実施形態における切片領域8の選択が解除された状態の一例を示す図である。
図15に示した状態で、受付機能156が、ユーザが背景領域70をマウスでクリック操作したことを受け付けた場合、切片領域8の選択が解除される。この場合、画像処理機能157は、マスク画像の表示を解除する。なお、画像処理機能157は、選択が解除された場合でも、興味領域表示画像93a~93cの表示は継続する。
【0102】
なお、
図14-16では線状のアノテーションを例示したが、表示されるメタ情報の態様はこれに限定されない。例えば、テキストデータや画像が画像ビューワ14上に表示されても良い。表示制御機能155は、例えば、ユーザによって選択されている切片領域8の近傍の背景領域70等に、選択されている切片領域8に関する各種のメタ情報を表示しても良い。また、画像ビューワ14上に、メタ情報が表示される特定のエリアが設けられも良い。
【0103】
図1に戻り、修正機能159は、受付機能156によって受け付けられたユーザの操作に基づいて、切片領域認識機能153によって認識された切片領域8を修正する。例えば、ユーザが、画像ビューワ14上で1以上の組織領域62を選択した場合、修正機能159は、選択された組織領域62を1つの切片領域8として記憶回路120に保存しても良い。
【0104】
次に、以上のように構成された情報処理装置100で実行される切片領域の認識処理の流れについて説明する。
【0105】
図17は、第1の実施形態に係る切片領域の認識処理の流れの一例を示すフローチャートである。
【0106】
まず、取得機能151は、検体画像保管装置201から、検体画像51を取得する(S1)。
【0107】
そして、組織領域認識機能152は、画像処理により、組織画像61から組織標本6が描出されている複数の組織領域62を認識する(S2)。
【0108】
次に、切片領域認識機能153は、複数の組織領域62を、規定の切片配置規則に従って、グループ分けする(S3)。なお、規定の切片配置規則は、このフローチャートの実行の際にユーザが選択しても良いし、予め定められていても良い。
【0109】
そして、切片領域認識機能153は、同じグループの組織領域62群を、1つの切片領域8と認識する(S4)。切片領域認識機能153は切片領域8と組織領域62との対応付けを、記憶回路120に記憶させる。
【0110】
また、表示用画像生成機能154は、切片領域認識機能153によって認識された切片領域8ごとに、当該切片領域8を強調表示するためのマスク画像81を生成する(S5)。表示用画像生成機能154は、生成したマスク画像81を記憶回路120に記憶させる。
【0111】
また、メタ情報設定機能158は、検体画像51に含まれる切り出し位置の並び順と、組織画像61における切片領域8の並び順とに基づいて、各切り出し位置の番号に対応する番号を、各切片領域8に識別子として対応付ける(S6)。
【0112】
また、画像処理機能157は、切片領域8ごとに、画像解析をすることにより、異常程度、異常の有無、異常領域の範囲、面積、長径、短径、画素値の平均、画素の最頻値、および中央画素値等を求める(S7)。メタ情報設定機能158は、画像処理機能157による解析結果をメタ情報として切片領域8に対応付けて記憶回路120に記憶させる。ここで、このフローチャートの処理は終了する。
【0113】
次に、切片領域8が認識された組織画像61の表示に関する処理の流れについて説明する。
【0114】
図18は、第1の実施形態に係る切片領域の認識処理の流れの一例を示すフローチャートである。
【0115】
受付機能156がユーザによる表示対象の組織画像の選択を受け付けた場合、(S21“Yes”)、表示制御機能155は、選択された組織画像61を画像ビューワ14に表示させる(S22)。なお、受付機能156が表示対象の組織画像の選択を受け付けていない場合(S21“No”)、S21の処理に戻る。
【0116】
また、受付機能156がユーザによる切片領域8の選択を受け付けた場合(S23“Yes”)、表示制御機能155は、選択された切片領域8を特定し(S24)、選択された切片領域8を、強調表示する(S25)。なお、受付機能156が切片領域8の選択を受け付けていない場合(S23“No”)、S23の処理に戻る。
【0117】
また、表示制御機能155は、選択された切片領域8に既に設定されたメタ情報がある場合、選択された切片領域8に対応付けてメタ情報を表示させる(S26)。なお、メタ情報の表示、非表示は、ユーザにより選択可能であっても良い。
【0118】
また、受付機能156が、興味領域を示すアノテーション等のメタ情報の登録または変更の操作を受け付けた場合(S27“Yes”)、メタ情報設定機能158は、選択された切片領域8に対応付けて、メタ情報を登録または変更する(S28)。表示制御機能155は、新たに登録または変更されたメタ情報を画像ビューワ14に表示させる。なお、受付機能156がメタ情報の登録または変更の操作を受け付けていない場合(S27“No”)、S27の処理に戻る。ここで、このフローチャートの処理は終了する。
【0119】
このように、本実施形態の情報処理装置100は、組織画像61から組織標本6が描出されている複数の組織領域62を認識し、認識した複数の組織領域62のうち、1つの切片に対応する1以上の組織領域62を、1つの切片領域8として認識する。このため、本実施形態の情報処理装置100によれば、組織画像61に含まれる複数の組織領域62を、切片60単位で管理することができる。
【0120】
例えば、1つの検体5であっても、切片60ごとに状態が異なるため、アノテーション等のメタ情報は、各切片60に個別に対応付けられることが望ましい。しかしながら、一般的な比較例として、組織画像に複数の組織領域が含まれる場合、1つの切片を構成する組織領域群を特定することが困難な場合があった。このような例では、ユーザがメタ情報を設定する対象領域を、正確に指定することが困難な場合があった。
【0121】
これに対して、本実施形態の情報処理装置100によれば、組織画像61に含まれる複数の組織領域62を、1つの切片60に対応する切片領域8でグルーピングするため、個々の切片60毎に、メタ情報の設定等の処理が可能となる。
【0122】
また、本実施形態の情報処理装置100は、規定の切片配置規則(1)~(3)に基づいて、切片領域8を認識する。このため、本実施形態の情報処理装置100によれば、組織画像61が撮像された施設のルールに沿って、高精度に切片領域8を認識することができる。
【0123】
(第2の実施形態)
上述の第1の実施形態では、切片領域認識機能153は、規定の切片配置規則に基づいて、切片領域8を認識していた。この第2の実施形態では、切片領域認識機能153は、組織領域62の画像特徴量の周期性に基づいて切片領域8を認識する。
【0124】
図19は、第2の実施形態に係る組織領域62t~62yの認識結果の一例を示す図である。
図19に示す例では、切片領域認識機能153は、組織画像61に含まれる組織領域62t~62yの各々に、番号を付与する。当該番号を、組織領域番号という。
【0125】
そして、切片領域認識機能153は、画像処理により、組織領域62t~62yの画像特徴量を解析する。
【0126】
図20は、第2の実施形態に係る画像特徴量の解析結果の一例を示す図である。本実施形態においては、画像特徴量は、組織領域62t~62yの領域面積、平均緑色成分、緑色標準偏差値、左端の組織画像61内の位置、および右端の組織画像61内の位置等である。なお、画像特徴量を表す指標は、これらに限定されるものではない。
【0127】
図20のテーブルでは、「領域面積」欄に記載された値は、組織領域62t~62yの領域面積の平均値に対する、個々の組織領域62t~62yの割合である。
【0128】
切片領域認識機能153は、
図20に示した組織領域62t~62yの画像特徴量に基づいて、組織領域62t~62yの類似性、および組織領域62t~62yの画像特徴量の周期性を評価する。
【0129】
図21は、第2の実施形態に係る画像特徴量の周期性の評価の一例を示す図である。
図21では領域面積の周期性を評価対象としている。例えば、切片領域認識機能153は、領域面積を、予め定められた閾値によって分類する。
図21に示す例では、閾値は、25%、50%、150%、200%である。
【0130】
切片領域認識機能153は、閾値によって分類した領域面積の評価の周期性の有無、および周期の境目を判定する。
図21では、番号1~3と、番号4~6で領域面積の評価に周期性がある。このため、切片領域認識機能153は、番号1~3に対応する組織領域62t~62vを1つのグループ、番号4~6に対応する組織領域62w~62yを他の1つのグループと認識する。そして、
図19に示すように、切片領域認識機能153は、1つのグループに属する組織領域62t~62vを切片領域8c、他の1つのグループに属する組織領域62w~62yを切片領域8dと認識する。
【0131】
本実施形態の手法によれば、切片配置規則が明確に定められていない場合、あるいは撮像時の切片配置規則が不明な場合であっても、切片領域8の認識が可能である。
【0132】
また、組織領域62t~62yの類似性および周期性の評価には、ニューラルネットワークにより生成された学習済みモデルを利用した画像特徴量検出器等を用いても良い。
【0133】
(第3の実施形態)
この第3の実施形態では、切片領域認識機能153は、学習済みモデルを用いて、切片領域8を認識する。
【0134】
図22は、第3の実施形態に係る学習済みモデル90の入出力の一例を示す図である。切片領域認識機能153は、学習済みモデル90に、組織画像61を入力することにより、複数の組織領域62を切片領域8単位でグルーピングする。具体的には、切片領域認識機能153は、学習済みモデル90に組織画像61を入力することにより、学習済みモデル90から出力されるバウンディングボックス(Bounding Box)82および切片領域8ごとのマスク画像81を得る。学習済みモデル90の生成には、公知のInstance Segmentation技術を適用可能である。
【0135】
学習済みモデル90は、例えば、ニューラルネットワーク等のディープラーニング(深層学習)またはその他の機械学習によって生成された学習済みモデルとする。ディープラーニングの手法としては、深層畳み込みニューラルネットワーク(DCNN:Deep Convolutional Neural Network)、畳み込みニューラルネットワーク(CNN:Convolutional Neural Network)、再帰型ニューラルネットワーク(RNN:Recurrent Neural Network)などを適用することができるが、これらに限定されるものではない。学習済みモデル90は、例えば、ニューラルネットワークと、学習済みパラメータデータとによって構成される。
【0136】
学習済みモデル90は、例えば記憶回路120に記憶されているものとする。切片領域認識機能153は、記憶回路120から学習済みモデル90を読み出し、組織画像61を入力する。あるいは、切片領域認識機能153に学習済みモデル90が組み込まれていても良い。また、情報処理装置100が学習済みモデル90を生成する学習機能を備えても良いし、他の情報処理装置で生成された学習済みモデル90を使用しても良い。
【0137】
図23は、第3の実施形態に係るバウンディングボックス82の一例を示す図である。バウンディングボックス82a,82bは、1以上の組織領域62を切片領域8単位でグルーピングするボックスである。1つのバウンディングボックス82a,82b内では、切片領域8f,8gが1つのInstanceとして検出される。また、1つのバウンディングボックス82a,82b内に、他の切片領域8に属する組織領域62の一部が入り込んだ場合は、当該組織領域62の一部は検出対象とはならないように、学習済みモデル90に予め学習される。
【0138】
図24は、第3の実施形態に係るマスク画像81fの一例を示す図である。学習済みモデル90は、切片領域8ごとのマスク画像81を出力する。
図24に示す例は、切片領域8fをハイライト表示するための、マスク画像81fである。マスク画像81fでは、切片領域8fを拡張した表示用切片領域83fが透明、それ以外の画像領域が半透明の黒色で覆われる。なお、本実施形態においては、学習済みモデル90によりマスク画像81が生成されるため、情報処理装置100は表示用画像生成機能154を備えなくとも良い。
【0139】
本実施形態の手法によれば、切片配置規則が明確に定められていない場合、あるいは撮像時の切片配置規則が不明な場合であっても、切片領域8の認識が可能である。
【0140】
(変形例1)
なお、上述の第1の実施形態では、切片領域8にアノテーションを設定する例について説明したが、切片領域8に対応付けてメタ情報が表示される例は、これに限定されるものではない。
【0141】
図25は変形例1に係る画像ビューワ14の表示の一例を示す図である。
図25に示す例では、表示制御機能155は、切片領域8毎の病変検出結果に基づいて、各切片領域8に含まれる組織領域62の各々の病変部位95を他の部位と異なる態様で表示させている。表示される病変部位95は、画像処理機能157による解析結果でもよいし、医師による診断結果であっても良い。
【0142】
(変形例2)
上述の各実施形態では、情報処理装置100はサーバ装置またはPC等であるとしたが、これに限定されるものではない。例えば、情報処理装置100は、組織画像61を撮像する撮像装置に内蔵されたコンピュータであっても良い。撮像装置は、例えば、WSS、デジタルカメラ、またはデジタル顕微鏡であるがこれらに限定されるものではない。
【0143】
なお、本明細書において扱う各種データは、典型的にはデジタルデータである。
【0144】
以上説明した少なくとも1つの実施形態によれば、組織画像に含まれる複数の組織領域を、切片単位で管理することができる。
【0145】
いくつかの実施形態を説明したが、これらの実施形態は、例として提示したものであり、発明の範囲を限定することは意図していない。これら実施形態は、その他の様々な形態で実施されることが可能であり、発明の要旨を逸脱しない範囲で、種々の省略、置き換え、変更、実施形態同士の組み合わせを行うことができる。これら実施形態やその変形は、発明の範囲や要旨に含まれると同様に、特許請求の範囲に記載された発明とその均等の範囲に含まれるものである。
【符号の説明】
【0146】
5 検体
6 組織標本
7 スライドガラス
8,8a~8g,8n 切片領域
14 画像ビューワ
51 検体画像
60,60a~60e,60x 切片
61 組織画像
62,62a~62y 組織領域
65,65a~65g 重心
70 背景領域
81,81f,81p マスク画像
82,82a,82b バウンディングボックス
83f 表示用切片領域
90 学習済みモデル
91 リストボックス
93a~93c 興味領域表示画像
94a~94c 領域指定画像
95 病変部位
100 情報処理装置
120 記憶回路
140 ディスプレイ
144 操作ツール表示エリア
150 処理回路
151 取得機能
152 組織領域認識機能
153 切片領域認識機能
154 表示用画像生成機能
155 表示制御機能
156 受付機能
157 画像処理機能
158 メタ情報設定機能
159 修正機能
S 情報処理システム