(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】
(24)【登録日】2025-04-08
(45)【発行日】2025-04-16
(54)【発明の名称】X線撮影装置、画像処理装置、および、画像処理プログラム
(51)【国際特許分類】
A61B 6/12 20060101AFI20250409BHJP
A61B 6/00 20240101ALI20250409BHJP
A61B 6/46 20240101ALI20250409BHJP
【FI】
A61B6/12
A61B6/00 550D
A61B6/46 506A
A61B6/46 506B
(21)【出願番号】P 2023512817
(86)(22)【出願日】2021-12-27
(86)【国際出願番号】 JP2021048529
(87)【国際公開番号】W WO2022215303
(87)【国際公開日】2022-10-13
【審査請求日】2023-08-18
(31)【優先権主張番号】P 2021065057
(32)【優先日】2021-04-07
(33)【優先権主張国・地域又は機関】JP
(73)【特許権者】
【識別番号】000001993
【氏名又は名称】株式会社島津製作所
(74)【代理人】
【識別番号】100104433
【氏名又は名称】宮園 博一
(72)【発明者】
【氏名】胡 尓重
(72)【発明者】
【氏名】細見 直正
【審査官】井上 香緒梨
(56)【参考文献】
【文献】特開2021-013685(JP,A)
【文献】国際公開第2020/174543(WO,A1)
【文献】特表2020-518366(JP,A)
【文献】国際公開第2019/138438(WO,A1)
【文献】特開2016-034451(JP,A)
【文献】特開2021-049111(JP,A)
【文献】国際公開第2019/229119(WO,A1)
【文献】特開2020-036773(JP,A)
(58)【調査した分野】(Int.Cl.,DB名)
A61B6/00-6/58
G06T7/00-7/90
(57)【特許請求の範囲】
【請求項1】
被検体にX線を照射するX線照射部と、
前記X線照射部から照射されたX線を検出するX線検出部と、
前記X線検出部によって検出されたX線の検出信号に基づいてX線画像を生成するX線画像生成部と、
制御部と、を備え、
前記制御部は、
前記X線画像生成部によって生成された前記X線画像が入力されることによって前記X線画像中の前記被検体の体内の遺残物の領域を検出する学習済みモデルに基づいて、前記遺残物の位置を示す出力画像を生成し、当該出力画像に基づいて強調画像を生成する強調画像生成部と、
前記強調画像生成部によって生成された前記強調画像と前記X線画像とを同時または切り替え可能に表示部に表示させる画像出力部と、を含み、
前記強調画像生成部は、前記出力画像に基づいて、前記X線画像中の前記遺残物の領域がヒートマップ画像として
前記遺残物の特徴との一致度に応じて色付けされた前記強調画像を生成するように構成されている、X線撮影装置。
【請求項2】
前記強調画像生成部は、前記出力画像が前記X線画像に重畳された出力画像重畳画像を生成するように構成されており、
前記画像出力部は、前記出力画像重畳画像と、前記X線画像とを同時または切り替え可能に前記表示部に表示させるように構成されている、請求項1に記載のX線撮影装置。
【請求項3】
前記強調画像生成部は、前記出力画像に基づいて、前記出力画像中の前記遺残物に対応する部分を色付けすることによって、色付け画像を生成するとともに、生成した前記色付け画像が前記X線画像に重畳された重畳画像を前記強調画像として生成するように構成されており、
前記画像出力部は、前記重畳画像と、前記X線画像とを同時または切り替え可能に前記表示部に表示させるように構成されている、請求項1に記載のX線撮影装置。
【請求項4】
被検体にX線を照射するX線照射部と、
前記X線照射部から照射されたX線を検出するX線検出部と、
前記X線検出部によって検出されたX線の検出信号に基づいてX線画像を生成するX線画像生成部と、
制御部と、を備え、
前記制御部は、
前記X線画像生成部によって生成された前記X線画像が入力されることによって、前記X線画像中の前記被検体の体内の遺残物の領域を検出する学習済みモデルに基づいて、前記遺残物の位置が強調された前記学習済みモデルの出力画像および前記出力画像と前記X線画像とに基づいて前記遺残物の位置が強調されるように生成される合成画像のうちの少なくとも一方を、強調画像として生成する強調画像生成部と、
前記強調画像生成部によって生成された前記出力画像および前記合成画像のうちの少なくとも一方と、前記X線画像とを同時または切り替え可能に表示部に表示させる画像出力部と、を含み、
前記強調画像生成部は、前記出力画像に基づいて、前記出力画像中の前記遺残物の線状の構造を識別するとともに、識別した前記遺残物の線状の構造が配置される部位を含む所定の領域における密度を取得し、前記密度に応じて変化するように色付けされたヒートマップ画像として色付け画像を生成するように構成されており、
前記画像出力部は、前記ヒートマップ画像としての前記色付け画像が重畳された重畳画像と、前記X線画像とを同時または切り替え可能に前記表示部に表示させるように構成されている、X線撮影装置。
【請求項5】
被検体にX線を照射するX線照射部と、
前記X線照射部から照射されたX線を検出するX線検出部と、
前記X線検出部によって検出されたX線の検出信号に基づいてX線画像を生成するX線画像生成部と、
制御部と、を備え、
前記制御部は、
前記X線画像生成部によって生成された前記X線画像が入力されることによって、前記X線画像中の前記被検体の体内の遺残物の領域を検出する学習済みモデルに基づいて、前記遺残物の位置が強調された前記学習済みモデルの出力画像および前記出力画像と前記X線画像とに基づいて前記遺残物の位置が強調されるように生成される合成画像のうちの少なくとも一方を、強調画像として生成する強調画像生成部と、
前記強調画像生成部によって生成された前記出力画像および前記合成画像のうちの少なくとも一方と、前記X線画像とを同時または切り替え可能に表示部に表示させる画像出力部と、を含み、
前記強調画像生成部は、前記学習済みモデルの中間層から出力されるとともに前記X線画像中の前記遺残物が強調された前記出力画像としての中間層画像が、前記X線画像に重畳された重畳画像を生成するように構成されており、
前記画像出力部は、前記中間層画像が前記X線画像に重畳された前記重畳画像と、前記X線画像とを同時または切り替え可能に前記表示部に表示させるように構成されている、X線撮影装置。
【請求項6】
前記強調画像生成部は、前記学習済みモデルの出力層から出力されるとともに、前記X線画像中の前記遺残物の領域を表す出力層画像と、前記学習済みモデルの中間層から出力されるとともに、前記X線画像中の前記遺残物が強調された中間層画像とのうちの少なくとも一方を、前記出力画像として生成するように構成されており、
前記画像出力部は、
前記強調画像と、前記出力層画像および前記中間層画像のうちの少なくとも一方と、前記X線画像とを同時または切り替え可能に前記表示部に表示させるように構成されている、請求項1に記載のX線撮影装置。
【請求項7】
被検体に照射されたX線の検出信号に基づいて生成されたX線画像が入力されることによって前記X線画像中の前記被検体の体内の遺残物の領域を検出する学習済みモデルに基づいて、前記遺残物の位置を示す出力画像を生成し、当該出力画像に基づいて強調画像を生成する強調画像生成部と、
前記強調画像生成部によって生成された前記強調画像と前記X線画像とを同時または切り替え可能に表示部に表示させる画像出力部と、を備え、
前記強調画像生成部は、前記出力画像に基づいて、前記X線画像中の前記遺残物の領域がヒートマップ画像として
前記遺残物の特徴との一致度に応じて色付けされた前記強調画像を生成するように構成されている、画像処理装置。
【請求項8】
コンピュータに、
被検体に照射されたX線の検出信号に基づいて生成されたX線画像が入力されることによって前記X線画像中の前記被検体の体内の遺残物の領域を検出する学習済みモデルに基づいて、前記遺残物の位置を示す出力画像を生成させ、当該出力画像に基づいて強調画像を生成させる生成処理と、
前記強調画像と前記X線画像とを同時または切り替え可能に表示部に表示させる表示処理と、
を実行させ、
前記生成処理は、前記出力画像に基づいて、前記X線画像中の前記遺残物の領域がヒートマップ画像として
前記遺残物の特徴との一致度に応じて色付けされた前記強調画像を生成する処理を含む、画像処理プログラム。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、X線撮影装置、画像処理装置、および、画像処理プログラムに関し、特に、被検体の体内の対象物質を確認するためのX線撮影装置、画像処理装置、および、画像処理プログラムに関する。
【背景技術】
【0002】
従来、開腹手術の後に被検者の体内の止血用ガーゼ(対象物体)の有無を確認するための放射線撮影システム(X線撮影装置)が知られている。このような装置は、たとえば、特開2019-180605号公報に記載されている。
【0003】
上記特開2019-180605号公報に記載された放射線撮影システムは、検査目的に応じて、予め設定された処理手順に従って放射線画像の処理を行う。この放射線撮影システムでは、たとえば、開腹手術の後に止血用ガーゼの有無を確認するための処理手順が設定されている場合、撮影された撮影画像に対して異物強調処理が実行される。また、この放射線撮影システムでは、被検者の体内の異物(ガーゼ)が見やすいように異物強調処理が実行された腹部画像が表示される。
【先行技術文献】
【特許文献】
【0004】
【発明の概要】
【発明が解決しようとする課題】
【0005】
ここで、上記特許文献1には明記されていないが、上記特許文献1に記載される放射線撮影システムのように、手術後に被検者の体内の異物(止血用ガーゼなど)の有無を医師などが確認するために、手術後の被検者を写したX線画像に異物強調処理を実行する場合、異物強調処理としてエッジ強調処理が行われる場合がある。しかしながら、異物強調処理としてエッジ強調処理が行われる場合、異物のみならず被検者の骨などの人体構造物も強調された強調画像が生成されてしまう。この場合、強調画像において異物の視認性が低下するため、X線画像に含まれる異物(対象物体)を確認することが困難であるという問題点がある。
【0006】
この発明は、上記のような課題を解決するためになされたものであり、この発明の1つの目的は、被検体を写したX線画像に含まれる遺残物を強調する場合に、X線画像に含まれる遺残物を容易に確認することが可能なX線撮影装置、画像処理装置、および、画像処理プログラムを提供することである。
【課題を解決するための手段】
【0007】
上記目的を達成するために、この発明の第1~第3の局面におけるX線撮影装置は、被検体にX線を照射するX線照射部と、X線照射部から照射されたX線を検出するX線検出部と、X線検出部によって検出されたX線の検出信号に基づいてX線画像を生成するX線画像生成部と、制御部と、を備え、制御部は、X線画像生成部によって生成されたX線画像が入力されることによってX線画像中の被検体の体内の遺残物の領域を検出する学習済みモデルに基づいて、遺残物の位置を示す出力画像を生成し、出力画像に基づいて強調画像を生成する強調画像生成部と、強調画像生成部によって生成された協調画像とX線画像とを同時または切り替え可能に表示部に表示させる画像出力部と、を含む。
上記第1の局面におけるX線撮影装置において、強調画像生成部は、出力画像に基づいて、X線画像中の遺残物の領域がヒートマップ画像として遺残物の特徴との一致度に応じて色付けされた強調画像を生成するように構成されている。
上記第2の局面におけるX線撮影装置において、強調画像生成部は、出力画像に基づいて、出力画像中の遺残物の線状の構造を識別するとともに、識別した遺残物の線状の構造が配置される部位を含む所定の領域における密度を取得し、密度に応じて変化するように色付けされたヒートマップ画像として色付け画像を生成するように構成されており、画像出力部は、ヒートマップ画像としての色付け画像が重畳された重畳画像と、X線画像とを同時または切り替え可能に表示部に表示させるように構成されている。
上記第3の局面におけるX線撮影装置において、強調画像生成部は、学習済みモデルの中間層から出力されるとともにX線画像中の遺残物が強調された出力画像としての中間層画像が、X線画像に重畳された重畳画像を生成するように構成されており、画像出力部は、中間層画像がX線画像に重畳された重畳画像と、X線画像とを同時または切り替え可能に表示部に表示させるように構成されている。
【0008】
この発明の第4の局面における画像処理装置では、被検体に照射されたX線の検出信号に基づいて生成されたX線画像が入力されることによってX線画像中の被検体の体内の遺残物の領域を検出する学習済みモデルに基づいて、遺残物の位置を示す出力画像を生成し、出力画像に基づいて強調画像を生成する強調画像生成部と、強調画像生成部によって生成された強調画像とX線画像とを同時または切り替え可能に表示部に表示させる画像出力部と、を備え、強調画像生成部は、出力画像に基づいて、X線画像中の遺残物の領域がヒートマップ画像として遺残物の特徴との一致度に応じて色付けされた強調画像を生成するように構成されている。
【0009】
この発明の第5の局面における画像処理プログラムでは、コンピュータに、被検体に照射されたX線の検出信号に基づいて生成されたX線画像が入力されることによってX線画像中の被検体の体内の遺残物の領域を検出する学習済みモデルに基づいて、遺残物の位置を示す出力画像を生成させ、出力画像に基づいて強調画像を生成させる生成処理と、強調画像とX線画像とを同時または切り替え可能に表示部に表示させる表示処理と、を実行させ、生成処理は、出力画像に基づいて、X線画像中の遺残物の領域がヒートマップ画像として遺残物の特徴との一致度に応じて色付けされた強調画像を生成する処理を含む。
【発明の効果】
【0010】
上記第1~第3の局面におけるX線撮影装置、上記第4の局面における画像処理装置、および、上記第5の局面における画像処理プログラムでは、X線画像が入力されることによってX線画像中の被検体の体内の遺残物の領域を検出する学習済みモデルに基づいて、遺残物の位置を示す出力画像を生成し、出力画像に基づいて強調画像を生成する。そして、強調画像とX線画像とを同時または切り替え可能に表示部に表示させる。これにより、遺残物の領域を直接的に検出する学習済みモデルに基づいて、遺残物の位置が強調された強調画像が生成されるので、エッジ強調処理によって遺残物および被検体の骨などの人体構造物の両方が強調された強調画像が生成される場合と異なり、強調画像において被検体の骨などの人体構造物が強調されることを抑制することができる。その結果、被検体を写したX線画像に含まれる遺残物を強調する場合に、X線画像に含まれる遺残物を容易に確認することができる。また、強調画像とX線画像とを同時または切り替え可能に表示部に表示させるので、強調画像とX線画像とを見比べながらX線画像に含まれる遺残物を容易に確認することができる。また、医師などによる被検体の体内の遺残物の有無の最終の判断は、X線画像に基づいて行われるので、X線画像と強調画像とを見比べながらX線画像に含まれる遺残物を容易に確認することができることは、非常に有効である。
【0011】
ここで、学習済みモデルを用いた画像処理を行うことによって被検体を写したX線画像に含まれる遺残物を強調する場合、X線画像から遺残物を除去する学習済みモデルを生成するとともに、生成した学習済みモデルによってX線画像から遺残物が除去された除去画像を生成し、X線画像と除去画像との差分によって強調画像を生成することが考えられる。しかしながら、X線画像と除去画像との差分によって強調画像が生成される場合には、除去画像において遺残物と類似する被検体の構造(骨盤および大腿骨など)が除去されることに起因して、強調画像において遺残物のみならず遺残物と類似する被検体の構造も強調される場合がある。したがって、X線画像から遺残物を除去する学習済みモデルを用いた画像処理を行う場合、強調画像において遺残物の視認性が低下するため、X線画像に含まれる遺残物を確認することが困難である。
【0012】
そこで、上記第1~第3の局面におけるX線撮影装置、上記第4の局面における画像処理装置、および、上記第5の局面における画像処理プログラムでは、X線画像が入力されることによってX線画像中の被検体の体内の遺残物の領域を検出する学習済みモデルに基づいて、遺残物の位置を示す出力画像を生成し、出力画像に基づいて強調画像を生成する。そして、強調画像とX線画像とを同時または切り替え可能に表示部に表示させる。これにより、遺残物の領域を直接的に検出する学習済みモデルに基づいて、遺残物の位置が強調された強調画像が生成されるので、X線画像から遺残物を除去する学習済みモデルによって除去画像を生成し、X線画像と除去画像との差分によって強調画像が生成される場合と異なり、強調画像において遺残物と類似する被検体の構造が強調されることを抑制することができる。その結果、学習済みモデルを用いた画像処理を行うことによって被検体を写したX線画像に含まれる遺残物を強調する場合にも、X線画像に含まれる遺残物を容易に確認することができる。
【図面の簡単な説明】
【0013】
【
図1】一実施形態によるX線撮影装置の構成を説明するための図である。
【
図2】一実施形態によるX線撮影装置の構成を説明するためのブロック図である。
【
図3】一実施形態による体内に対象物体が存在する被検体のX線画像の一例を示す図である。
【
図4】一実施形態による学習済みモデルを用いた画像処理について説明するための図である。
【
図5】一実施形態による出力層画像について説明するための図である。
【
図6】一実施形態による中間層画像について説明するための図である。
【
図7】一実施形態による学習済みモデルの生成について説明するための図である。
【
図8】一実施形態による色付け画像について説明するための図である。
【
図9】一実施形態による色付け重畳画像について説明するための図である。
【
図10】一実施形態による中間層重畳画像について説明するための図である。
【
図11】一実施形態による表示部の表示について説明するための図である。
【
図12】一実施形態による画像処理方法について説明するためのフローチャート図である。
【発明を実施するための形態】
【0014】
以下、本発明を具体化した実施形態を図面に基づいて説明する。
【0015】
(X線撮影装置の全体構成)
図1~
図11を参照して、本発明の一実施形態によるX線撮影装置100について説明する。
【0016】
図1に示すように、X線撮影装置100は、被検体101の体内の対象物体200を識別するためにX線撮影を行う。たとえば、X線撮影装置100は、手術室内において開腹手術が行われた被検体101に対して、対象物体200(遺残物)が体内に取り残されているか否かを確認するためのX線撮影を行う。X線撮影装置100は、たとえば、装置全体が移動可能な回診用X線撮影装置である。対象物体200は、たとえば、手術用ガーゼ、縫合針、および、鉗子(止血鉗子など)などである。
【0017】
一般に、開腹手術などの外科手術が行われた場合には、医師などの作業者は、閉創後に手術用ガーゼ、縫合針、および、鉗子などの対象物体200が被検体101の体内に取り残される(残留する)ことがないように、被検体101に対して確認のためのX線撮影を行う。医師などの作業者は、被検体101を写したX線画像10(
図3参照)を視認することによって、被検体101の体内の対象物体200が取り残されているか否かを確認する。
【0018】
〈X線撮影装置について〉
図2に示すように、X線撮影装置100は、X線照射部1、X線検出部2、X線画像生成部3、表示部4、記憶部5、および、制御部6を備える。なお、制御部6は、請求の範囲の「画像処理装置」および「コンピュータ」の一例である。
【0019】
X線照射部1は、手術後の被検体101にX線を照射する。X線照射部1は、電圧が印加されることによってX線を照射するX線管を含む。
【0020】
X線検出部2は、被検体101を透過したX線を検出する。そして、X線検出部2は、検出されたX線に基づいて検出信号を出力する。X線検出部2は、たとえば、FPD(Flat Panel Detector)を含む。また、X線検出部2は、ワイヤレスタイプのX線検出器として構成されており、無線信号としての検出信号を出力する。具体的には、X線検出部2は、無線LANなどによる無線接続によって、X線画像生成部3と通信可能に構成されており、X線画像生成部3に対して無線信号としての検出信号を出力する。
【0021】
X線画像生成部3は、
図3に示すように、X線照射部1およびX線検出部2を制御することによって、X線撮影の制御を行う。そして、X線画像生成部3は、X線検出部2によって検出されたX線の検出信号に基づいてX線画像10を生成する。X線画像生成部3は、無線LANなどによる無線接続によってX線検出部2と通信可能に構成されている。X線画像生成部3は、たとえば、FPGA(field-programmable gate array)などのプロセッサを含む。そして、X線画像生成部3は、制御部6に対して生成されたX線画像10を出力する。
【0022】
図3に示すX線画像10は、手術後の被検体101の腹部をX線撮影することによって取得された画像である。
図3に示すX線画像10には、対象物体200として手術用ガーゼが含まれている。手術用ガーゼは、手術後のX線撮影によるX線画像10において視認可能なようにX線を透過させにくい造影糸が織り込まれている。また、
図3に示すX線画像10には、対象物体200以外の人工構造物201として、手術ワイヤおよび手術クリップが含まれている。
【0023】
表示部4は、たとえば、タッチパネル式の液晶ディスプレイを含む。表示部4は、X線画像10などの各種の画像を表示する。また、表示部4は、タッチパネルに対する操作に基づいて、医師などの作業者によるX線撮影装置100を操作するための入力操作を受け付けるように構成されている。
【0024】
記憶部5は、たとえば、ハードディスクドライブなどの記憶装置により構成されている。記憶部5は、X線画像10などの画像データを記憶する。また、記憶部5は、X線撮影装置100を動作させる各種の設定値を記憶する。また、記憶部5は、制御部6によるX線撮影装置100の制御の処理に用いられるプログラムを記憶する。また、記憶部5は、画像処理プログラム51を記憶する。画像処理プログラム51は、たとえば、光ディスクおよびUSBメモリなどの非一過性の可搬型記憶媒体から読み出すか、または、ネットワークを介してダウンロードすることにより、記憶部5に記憶することが可能である。また、記憶部5は、後述する学習済みモデル52を記憶する。
【0025】
制御部6は、たとえば、CPU(Central Processing Unit)、GPU(Graphics Processing Unit)、ROM(Read Only Memory)、および、RAM(Random Access Memory)などを含んで構成されたコンピュータである。制御部6は、機能的な構成として、強調画像生成部61、および、画像出力部62を含む。すなわち、制御部6は、画像処理プログラム51を実行することにより、強調画像生成部61、および、画像出力部62として機能する。また、強調画像生成部61、および、画像出力部62は、制御部6の中のソフトウェアとしての機能ブロックであり、ハードウェアとしての制御部6の指令信号に基づいて機能するように構成されている。
【0026】
(画像処理について)
ここで、本実施形態では、
図4に示すように、強調画像生成部61(制御部6)は、X線画像生成部3によって生成されたX線画像10が入力されることによって、X線画像10中の被検体101の対象物体200の領域を検出する学習済みモデル52に基づいて、対象物体200の位置が強調された学習済みモデル52の出力画像(11、12)および出力画像(11、12)とX線画像10とに基づいて対象物体200の位置が強調されるように生成される合成画像(14、15)を、強調画像として生成する。そして、画像出力部62(制御部6)は、強調画像生成部61によって生成された出力画像(11、12)および合成画像(14、15)のうちの少なくとも一方と、X線画像10とを同時または切り替え可能に表示部4に表示させる。
【0027】
(出力画像の生成について)
本実施形態では、
図4~
図6に示すように、強調画像生成部61(制御部6)は、機械学習によって生成された学習済みモデル52に基づいて、出力層画像11と中間層画像12とを、学習済みモデル52の出力画像として生成する。学習済みモデル52は、深層学習を用いた機械学習によって生成される。学習済みモデル52は、たとえば、全層畳み込みネットワーク(Fully Convolution Network:FCN)の1種類であるU-Netをベースとして生成される。学習済みモデル52は、入力であるX線画像10の各画素のうちから、対象物体200であると推定される画素を変換することによって、X線画像10から対象物体200であると推定された部分を検出する画像変換(画像再構成)を実行するように学習させることによって生成される。なお、出力層画像11および中間層画像12は、請求の範囲の「強調画像」および「出力画像」の一例である。
【0028】
また、学習済みモデル52は、入力層52aと、中間層52bと、出力層52cとを含んでいる。入力層52aは、入力画像(X線画像10)を受け付ける。中間層52bは、入力層52aによって受け付けた入力画像から特徴成分(対象物体200)を取得する。具体的には、中間層52bは、入力画像のサイズを小さくしながら入力画像から特徴成分(対象物体200)を取得するダウンサンプリング部と、ダウンサンプリング部によってサイズが小さくされた特徴成分を含む画像を元のサイズ(入力画像のサイズ)に復元するアップサンプリング部とを有する。中間層52bは、X線画像10中の対象物体200が強調された中間層画像12を出力する。出力層52cは、活性化関数としてシグモイド関数を有する。出力層52cは、中間層52bから出力される中間層画像12に対してシグモイド関数による処理を行うことによって、X線画像10中の対象物体200の領域を表す出力層画像11を生成して出力する。出力層画像11は、各画素の画素値が対象物体200の領域に属する確率を表すように構成されている。出力層画像11では、対象物体200の領域に属する確率が高い画素(画素値が1または1に近い画素)が白く表示され、対象物体200の領域に属する確率が低い画素(画素値が0または0に近い画素)が黒く表示される。
【0029】
図5に示す出力層画像11は、学習済みモデル52に基づいて、
図3に示すX線画像10から取得された画像である。
図5に示す出力層画像11では、被検体101の骨などの構造物が除去されて対象物体200が強調されている。また、
図5に示す出力層画像11では、対象物体200と形状(特徴)が類似する人工構造物201も強調されているが、医者などの作業者は、人工構造物201について位置および形状などを把握しているため、対象物体200と容易に区別することが可能である。
【0030】
図6に示す中間層画像12は、学習済みモデル52に基づいて、
図3に示すX線画像10から取得された画像である。
図6に示す中間層画像12では、被検体101の骨などの構造物が少し残っているが、概ね除去されて対象物体200が強調されている。なお、残っている被検体101の骨などの構造物は、出力層52cのシグモイド関数による処理によって、除去される。また、
図6に示す中間層画像12では、対象物体200と形状(特徴)が類似する人工構造物201も強調されているが、医者などの作業者は、人工構造物201について位置および形状などを把握しているため、対象物体200と容易に区別することが可能である。
【0031】
(学習済みモデルの生成について)
図7に示すように、本実施形態では、学習済みモデル52は、X線画像10から手術用ガーゼ、縫合針、および、鉗子などの対象物体200を検出するように機械学習によって生成される。学習済みモデル52は、X線撮影装置100とは別個の学習装置300によって予め生成される。学習装置300は、たとえば、CPU、GPU、ROM、および、RAMなどを含んで構成されたコンピュータである。学習装置300は、複数の教師入力用X線画像310と複数の教師出力用画像320とを教師データ(トレーニングセット)として、深層学習を用いた機械学習によって学習済みモデル52を生成する。
【0032】
教師入力用X線画像310は、体内に対象物体200が取り残された被検体101を撮影したX線画像10を模擬するように生成される。教師出力用画像320は、教師入力用X線画像310のうちから対象物体200が検出されたことを模擬するように生成される。教師入力用X線画像310および教師出力用画像320は、学習済みモデル52を用いた推論において入力に用いられるX線画像10と同様の条件(大きさなど)となるように生成される。
【0033】
(重畳画像の生成について)
本実施形態では、
図4、
図8および
図9に示すように、強調画像生成部61(制御部6)は、X線画像10と、学習済みモデル52の出力層画像11とに基づいて、出力層画像11に基づいて生成した色付け画像13がX線画像10に重畳された色付け重畳画像14を、合成画像として生成する。具体的には、強調画像生成部61は、出力層画像11に基づいて、出力層画像11中の対象物体200に対応する部分を色付けすることによって、色付け画像13を生成する。そして、強調画像生成部61は、生成した色付け画像13がX線画像10に重畳された色付け重畳画像14を生成する。なお、色付け画像13は、請求の範囲の「出力画像に基づいて生成した画像」の一例である。また、色付け重畳画像14は、請求の範囲の「強調画像」、「合成画像」および「重畳画像」の一例である。
【0034】
強調画像生成部61は、出力層画像11に基づいて、出力層画像11中の対象物体200の線状の構造(形状)を識別するとともに、識別した対象物体200の線状の構造が配置される部位を含む所定の領域における密度を取得し、密度に応じて変化するように色付けされたヒートマップ画像(カラーマップ画像)として色付け画像13を生成する。
【0035】
たとえば、強調画像生成部61は、生成された出力層画像11を2値化処理する。そして、強調画像生成部61は、2値化処理された出力層画像11において、線状の構造の密度を検出することによって、線状の構造が含まれる部分(画素)を識別する。具体的には、強調画像生成部61は、2値化された出力層画像11に対して、出力層画像11のうちから特徴量を抽出することによってパターン認識を実行して線状の構造を識別する。
【0036】
たとえば、強調画像生成部61は、高次局所自己相関(HLAC:Higher-order Local AutoCorrelation)特徴を特徴量として抽出する。強調画像生成部61は、たとえば、出力層画像11の1つの画素を参照点として取得する。そして、強調画像生成部61は、参照点を含む(中心とする)所定の領域の局所自己相関特徴による特徴量を抽出する。そして、強調画像生成部61は、抽出した特徴量と、予め設定されている線状の構造(形状)の特徴量との一致度を測定することによって、参照点を含む所定の領域における線状の構造を識別(検出)する。強調画像生成部61は、参照点を含む所定の領域における線状の構造の検出値を、参照点における線状の構造の所定の領域における密度として取得する。強調画像生成部61は、出力層画像11の画素の各々を参照点として局所自己相関特徴量を取得することによって、出力層画像11の画素の各々において線状の構造の密度(検出値)を取得する。ここで、参照点を含む所定の領域の大きさは、たとえば、3×3ピクセルの領域であってもよいし、3×3ピクセルよりも大きい9×9ピクセルなどの大きさの領域であってもよい。
【0037】
そして、強調画像生成部61は、出力層画像11の画素ごとに取得された線状の構造の密度(検出値)に基づいて、画素ごとに色付けすることによって色付け画像13を生成する。たとえば、強調画像生成部61は、線状の構造の密度の値に応じて色相を異ならせるように画素ごとに色付けすることによって、色付け画像13を生成する。たとえば、色付け画像13は、密度の値が大きい方から小さい方に向かって、赤色、黄色、緑色、青色の順で、色付けされる。すなわち、密度の値が大きい場合は画素が赤色に色付けされ、密度の値が小さい場合は画素が青色に色付けされる。強調画像生成部61は、取得された線状の構造の密度(検出値)の0以上600以下の値の範囲を、各色に対応付けるようにして、色付け画像13における色を設定する。なお、
図8および
図9では、色の違いをハッチングの違いによって表している。
【0038】
強調画像生成部61は、上記のようにして、表示される色によって、各画素(各領域)における特徴量が、対象物体200に対応する線状の構造の特徴量とどの程度一致しているかということが識別可能な色付け画像13を生成する。また、色付け画像13を生成する場合における線状の構造(形状)の識別(抽出)は、高次局所自己相関特徴以外の特徴量の抽出方法を用いたパターン認識によって所定の領域ごとに特徴量を取得するとともに、線状の構造(形状)の密度(パターンの該当の程度)を識別(検出)して色付けされるようにしてもよい。また、上記では、対象物体200として手術用ガーゼを識別する例について説明したが、対象物体200が縫合針または鉗子などである場合にも、同様に、出力層画像11から線状の構造(形状)を識別することによって、色付け画像13が生成される。
【0039】
図8に示す色付け画像13は、
図5に示す出力層画像11に基づいて取得された画像である。
図8に示す色付け画像13では、対象物体200の線状の構造に基づいて色付けが行われることによって、対象物体200の位置が強調されている。また、
図8に示す色付け画像13では、対象物体200と形状(特徴)が類似する人工構造物201の位置も色付けが行われることによって強調されているが、人工構造物201の位置は対象物体200の位置に比べて、画素密度が低いことを表す色(緑など)で色付けされているため、医者などの作業者は、対象物体200と容易に区別することが可能である。なお、人工構造物201は、出力層画像11において、対象物体200に比べて対象物体200の領域に属する確率が低く見積もられているため、対象物体200の位置に比べて画素密度が低くなっている。また、色付け画像13には、対象物体200および人工構造物201の形状の情報は含まれていない。
【0040】
図9に示す色付け重畳画像14は、
図8に示す色付け画像13が、
図3に示すX線画像10に重畳された画像である。
図9に示す色付け重畳画像14では、色付け画像13がX線画像10に重畳されることによって、対象物体200の位置が強調されている。また、
図9に示す色付け重畳画像14では、対象物体200と形状(特徴)が類似する人工構造物201の位置も色付け画像13が重畳されることによって強調されているが、人工構造物201の位置は対象物体200の位置に比べて、画素密度が低いことを表す色(緑など)で色付けされているため、医者などの作業者は、対象物体200と容易に区別することが可能である。また、医者などの作業者は、人工構造物201について位置および形状などを把握しているため、対象物体200と容易に区別することが可能である。
【0041】
図4および
図10に示すように、強調画像生成部61(制御部6)は、X線画像10と、学習済みモデル52の中間層画像12とに基づいて、中間層画像12がX線画像10に重畳された中間層重畳画像15を、合成画像として生成する。たとえば、強調画像生成部61(制御部6)は、透過処理が行われた中間層画像12をX線画像10に重畳させることによって、中間層重畳画像15を生成する。なお、中間層重畳画像15は、請求の範囲の「合成画像」および「重畳画像」の一例である。
【0042】
図10に示す中間層重畳画像15は、
図6に示す中間層画像12が、
図3に示すX線画像10に重畳された画像である。
図10に示す中間層重畳画像15では、中間層画像12がX線画像10に重畳されることによって、対象物体200の位置および形状が強調されている。また、
図10に示す中間層重畳画像15では、対象物体200と形状(特徴)が類似する人工構造物201の位置および形状も色付けが行われることによって強調されているが、医者などの作業者は、人工構造物201について位置および形状などを把握しているため、対象物体200と容易に区別することが可能である。
【0043】
(表示部の表示について)
図11に示すように、本実施形態では、画像出力部62(制御部6)は、出力層画像11、中間層画像12、色付け重畳画像14、および、中間層重畳画像15のうちの少なくとも1つと、X線画像10とを、同時にまたは切り替え可能に表示部4に表示させる。
【0044】
たとえば、画像出力部62は、X線画像10と、出力層画像11とを、同時に並べて表示部4に表示させる。また、たとえば、画像出力部62は、X線画像10と、出力層画像11とを、切り替えて表示部4に表示させる。また、たとえば、画像出力部62は、X線画像10と、中間層画像12とを、同時に並べて表示部4に表示させる。また、たとえば、画像出力部62は、X線画像10と、中間層画像12とを、切り替えて表示部4に表示させる。また、たとえば、画像出力部62は、X線画像10と、色付け重畳画像14とを、同時に並べて表示部4に表示させる。また、たとえば、画像出力部62は、X線画像10と、色付け重畳画像14とを、切り替えて表示部4に表示させる。また、たとえば、画像出力部62は、X線画像10と、中間層重畳画像15とを、同時に並べて表示部4に表示させる。また、たとえば、画像出力部62は、X線画像10と、中間層重畳画像15とを、切り替えて表示部4に表示させる。
【0045】
また、たとえば、画像出力部62は、X線画像10と、出力層画像11と、中間層画像12とを、同時に並べて表示部4に表示させる。また、たとえば、画像出力部62は、X線画像10と、出力層画像11と、中間層画像12とを、切り替えて表示部4に表示させる。また、たとえば、画像出力部62は、X線画像10と、出力層画像11と、色付け重畳画像14とを、同時に並べて表示部4に表示させる。また、たとえば、画像出力部62は、X線画像10と、出力層画像11と、色付け重畳画像14とを、切り替えて表示部4に表示させる。また、たとえば、画像出力部62は、X線画像10と、出力層画像11と、中間層重畳画像15とを、同時に並べて表示部4に表示させる。また、たとえば、画像出力部62は、X線画像10と、出力層画像11と、中間層重畳画像15とを、切り替えて表示部4に表示させる。
【0046】
また、たとえば、画像出力部62は、X線画像10と、中間層画像12と、色付け重畳画像14とを、同時に並べて表示部4に表示させる。また、たとえば、画像出力部62は、X線画像10と、中間層画像12と、色付け重畳画像14とを、切り替えて表示部4に表示させる。また、たとえば、画像出力部62は、X線画像10と、中間層画像12と、中間層重畳画像15とを、同時に並べて表示部4に表示させる。また、たとえば、画像出力部62は、X線画像10と、中間層画像12と、中間層重畳画像15とを、切り替えて表示部4に表示させる。また、たとえば、画像出力部62は、X線画像10と、色付け重畳画像14と、中間層重畳画像15とを、同時に並べて表示部4に表示させる。また、たとえば、画像出力部62は、X線画像10と、色付け重畳画像14と、中間層重畳画像15とを、切り替えて表示部4に表示させる。
【0047】
また、たとえば、画像出力部62は、X線画像10と、出力層画像11と、中間層画像12と、色付け重畳画像14とを、同時に並べて表示部4に表示させる。また、たとえば、画像出力部62は、X線画像10と、出力層画像11と、中間層画像12と、色付け重畳画像14とを、切り替えて表示部4に表示させる。また、たとえば、画像出力部62は、X線画像10と、出力層画像11と、中間層画像12と、中間層重畳画像15とを、同時に並べて表示部4に表示させる。また、たとえば、画像出力部62は、X線画像10と、出力層画像11と、中間層画像12と、中間層重畳画像15とを、切り替えて表示部4に表示させる。
【0048】
また、たとえば、画像出力部62は、X線画像10と、出力層画像11と、色付け重畳画像14と、中間層重畳画像15とを、同時に並べて表示部4に表示させる。また、たとえば、画像出力部62は、X線画像10と、出力層画像11と、色付け重畳画像14と、中間層重畳画像15とを、切り替えて表示部4に表示させる。また、たとえば、画像出力部62は、X線画像10と、中間層画像12と、色付け重畳画像14と、中間層重畳画像15とを、同時に並べて表示部4に表示させる。また、たとえば、画像出力部62は、X線画像10と、中間層画像12と、色付け重畳画像14と、中間層重畳画像15とを、切り替えて表示部4に表示させる。
【0049】
また、たとえば、画像出力部62は、X線画像10と、出力層画像11と、中間層画像12と、色付け重畳画像14と、中間層重畳画像15とを、同時に並べて表示部4に表示させる。また、たとえば、画像出力部62は、X線画像10と、出力層画像11と、中間層画像12と、色付け重畳画像14と、中間層重畳画像15とを、切り替えて表示部4に表示させる。なお、表示部4の各画像の切り替え操作は、たとえば、表示部4のタッチパネルに対する入力操作によって行うことが可能である。
【0050】
(本実施形態による画像処理方法について)
次に、
図12を参照して、本実施形態による画像処理方法に関する制御処理フローについて説明する。また、ステップ501~ステップ503は、X線画像生成部3による制御処理を示し、ステップ504~ステップ507は、制御部6による制御処理を示す。
【0051】
まず、ステップ501において、手術後の被検体101の体内に取り残された対象物体200を識別するために被検体101にX線が照射される。次に、ステップ502において、照射されたX線が検出される。次に、ステップ503において、検出されたX線の検出信号に基づいてX線画像10が生成される。
【0052】
次に、ステップ504において、X線画像10が学習済みモデル52に入力されることによって、出力層画像11および中間層画像12が生成される。次に、ステップ505において、生成された出力層画像11に基づいて、色付け画像13が生成される。具体的には、出力層画像11中の対象物体200に対応する部分を色付けすることによって、色付け画像13が生成される。
【0053】
次に、ステップ506において、色付け画像13がX線画像10に重畳されることによって、色付け重畳画像14が生成される。また、中間層画像12がX線画像10に重畳されることによって、中間層重畳画像15が生成される。次に、ステップ507において、出力層画像11、中間層画像12、色付け重畳画像14、および、中間層重畳画像15のうちの少なくとも1つと、X線画像10とが、同時にまたは切り替え可能に表示部4に表示される。
【0054】
[本実施形態の効果]
本実施形態では、以下のような効果を得ることができる。
【0055】
本実施形態のX線撮影装置100では、上記のように、X線画像10が入力されることによって、X線画像10中の被検体101の体内の対象物体200の領域を検出する学習済みモデル52に基づいて、対象物体200の位置が強調された学習済みモデル52の出力画像(11、12)および出力画像(11、12)とX線画像10とに基づいて対象物体200の位置が強調されるように生成される合成画像(14、15)のうちの少なくとも一方を、強調画像として生成する。そして、出力画像(11、12)および合成画像(14、15)のうちの少なくとも一方と、X線画像10とを同時または切り替え可能に表示部4に表示させる。これにより、対象物体200の領域を直接的に検出する学習済みモデル52に基づいて、出力画像(11、12)および合成画像(14、15)のうちの少なくとも一方が対象物体200の位置が強調された強調画像として生成されるので、エッジ強調処理によって対象物体および被検体の骨などの人体構造物の両方が強調された強調画像が生成される場合と異なり、強調画像において被検体101の骨などの人体構造物が強調されることを抑制することができる。その結果、被検体101を写したX線画像10に含まれる対象物体200を強調する場合に、X線画像10に含まれる対象物体200を容易に確認することができる。また、強調画像としての出力画像(11、12)および合成画像(14、15)のうちの少なくとも一方と、X線画像10とを同時または切り替え可能に表示部4に表示させるので、強調画像とX線画像10とを見比べながらX線画像10に含まれる対象物体200を容易に確認することができる。また、医師などによる被検体101の体内の対象物体200の有無の最終の判断は、X線画像10に基づいて行われるので、X線画像10と強調画像とを見比べながらX線画像10に含まれる対象物体200を容易に確認することができることは、非常に有効である。
【0056】
ここで、学習済みモデルを用いた画像処理を行うことによって被検体101を写したX線画像10に含まれる対象物体200を強調する場合、X線画像10から対象物体200を除去する学習済みモデルを生成するとともに、生成した学習済みモデルによってX線画像10から対象物体200が除去された除去画像を生成し、X線画像10と除去画像との差分によって強調画像を生成することが考えられる。しかしながら、X線画像10と除去画像との差分によって強調画像が生成される場合には、除去画像において対象物体200と類似する被検体101の構造(骨盤および大腿骨など)が除去されることに起因して、強調画像において対象物体200のみならず対象物体200と類似する被検体101の構造も強調される場合がある。したがって、X線画像10から対象物体200を除去する学習済みモデルを用いた画像処理を行う場合、強調画像において対象物体200の視認性が低下するため、X線画像10に含まれる対象物体200を確認することが困難である。
【0057】
そこで、本実施形態のX線撮影装置100では、上記のように、X線画像10が入力されることによって、X線画像10中の被検体101の体内の対象物体200の領域を検出する学習済みモデル52に基づいて、対象物体200の位置が強調された学習済みモデル52の出力画像(11、12)および出力画像(11、12)とX線画像10とに基づいて対象物体200の位置が強調されるように生成される合成画像(14、15)のうちの少なくとも一方を、強調画像として生成する。そして、出力画像(11、12)および合成画像(14、15)のうちの少なくとも一方と、X線画像10とを同時または切り替え可能に表示部4に表示させる。これにより、対象物体200の領域を直接的に検出する学習済みモデル52に基づいて、出力画像(11、12)および合成画像(14、15)のうちの少なくとも一方が対象物体200の位置が強調された強調画像として生成されるので、X線画像10から対象物体200を除去する学習済みモデルによって除去画像を生成し、X線画像10と除去画像との差分によって強調画像が生成される場合と異なり、強調画像において対象物体200と類似する被検体101の構造が強調されることを抑制することができる。その結果、学習済みモデルを用いた画像処理を行うことによって被検体101を写したX線画像10に含まれる対象物体200を強調する場合にも、X線画像10に含まれる対象物体200を容易に確認することができる。
【0058】
また、上記実施形態では、以下のように構成したことによって、下記のような更なる効果が得られる。
【0059】
すなわち、本実施形態では、上記のように、強調画像生成部61は、出力画像(12)または出力画像(11)に基づいて生成した画像(13)がX線画像10に重畳された重畳画像(14、15)を、合成画像として生成するように構成されており、画像出力部62は、重畳画像(14、15)と、X線画像10とを同時または切り替え可能に表示部4に表示させるように構成されている。このように構成すれば、位置関係を容易に把握可能な画像同士である重畳画像(14、15)とX線画像10とを見比べながらX線画像10に含まれる対象物体200を確認することができるので、X線画像10に含まれる対象物体200をより容易に確認することができる。
【0060】
また、本実施形態では、上記のように、強調画像生成部61は、出力画像(11)に基づいて、出力画像(11)中の対象物体200に対応する部分を色付けすることによって、色付け画像13を生成するとともに、生成した色付け画像13がX線画像10に重畳された重畳画像(14)を生成するように構成されており、画像出力部62は、色付け画像13がX線画像10に重畳された重畳画像(14)と、X線画像10とを同時または切り替え可能に表示部4に表示させるように構成されている。このように構成すれば、色付け画像13がX線画像10に重畳された重畳画像(14)と、X線画像10とを見比べながらX線画像10に含まれる対象物体200を確認することができるので、重畳画像(14)の色に基づいてX線画像10に含まれる対象物体200の位置を直感的に容易に把握することができる。
【0061】
また、本実施形態では、上記のように、強調画像生成部61は、出力画像(11)に基づいて、出力画像(11)中の対象物体200の線状の構造を識別するとともに、識別した対象物体200の線状の構造が配置される部位を含む所定の領域における密度を取得し、密度に応じて変化するように色付けされたヒートマップ画像として色付け画像13を生成するように構成されており、画像出力部62は、ヒートマップ画像としての色付け画像13が重畳された重畳画像(14)と、X線画像10とを同時または切り替え可能に表示部4に表示させるように構成されている。このように構成すれば、対象物体200の線状の構造が配置される部位を含む所定の領域における密度に応じて重畳画像(14)が色付けされるため、密度の高い部分をより強調した重畳画像(14)を生成することができる。また、対象物体200の位置を強調するように生成された出力画像(11)では、対象物体200に対応する部分において線状の構造の密度が高くなるため、重畳画像(14)における対象物体200に対応する部分をより強調させて色付けすることができる。そして、対象物体200に対応する部分をより強調させたヒートマップ画像としての色付け画像13が重畳された重畳画像(14)と、X線画像10とを見比べながらX線画像10に含まれる対象物体200を確認することができるので、ヒートマップ画像としての色付け画像13が重畳された重畳画像(14)の色に基づいてX線画像10に含まれる対象物体200の位置をより直感的により容易に把握することができる。
【0062】
また、本実施形態では、上記のように、強調画像生成部61は、学習済みモデル52の中間層52bから出力されるとともにX線画像10中の対象物体200が強調された出力画像としての中間層画像12が、X線画像10に重畳された重畳画像(15)を生成するように構成されており、画像出力部62は、中間層画像12がX線画像10に重畳された重畳画像(15)と、X線画像10とを同時または切り替え可能に表示部4に表示させるように構成されている。このように構成すれば、対象物体200の形状を容易に把握可能な中間層画像12がX線画像10に重畳された重畳画像(15)と、X線画像10とを見比べながらX線画像10に含まれる対象物体200を確認することができるので、重畳画像(15)中の対象物体200の形状および位置に基づいてX線画像10に含まれる対象物体200をより容易に確認することができる。
【0063】
また、本実施形態では、上記のように、強調画像生成部61は、学習済みモデル52の出力層52cから出力されるとともに、X線画像10中の対象物体200の領域を表す出力層画像11と、学習済みモデル52の中間層52bから出力されるとともに、X線画像10中の対象物体200が強調された中間層画像12とを、出力画像として生成するように構成されており、画像出力部62は、出力層画像11および中間層画像12のうちの少なくとも一方と、X線画像10とを同時または切り替え可能に表示部4に表示させるように構成されている。このように構成すれば、対象物体200の形状を容易に把握可能な出力層画像11および中間層画像12のうちの少なくとも一方と、X線画像10とを見比べながらX線画像10に含まれる対象物体200を確認することができるので、X線画像10に含まれる対象物体200をより容易に確認することができる。
【0064】
[変形例]
なお、今回開示された実施形態は、すべての点で例示であって制限的なものではないと考えられるべきである。本発明の範囲は、上記した実施形態の説明ではなく請求の範囲によって示され、さらに請求の範囲と均等の意味および範囲内でのすべての変更(変形例)が含まれる。
【0065】
すなわち、上記実施形態では、X線撮影装置100は、回診用X線撮影装置である例を示したが、本発明はこれに限られない。たとえば、X線撮影装置100は、X線撮影室に設置されている一般X線撮影装置であってもよい。
【0066】
また、上記実施形態では、強調画像生成部61(制御部6)は、出力層画像11と、中間層画像12と、色付け重畳画像14と、中間層重畳画像15とを生成するように構成されている例を示したが、本発明はこれに限られない。たとえば、強調画像生成部61は、出力層画像11と、中間層画像12と、色付け重畳画像14と、中間層重畳画像15とのうちの少なくとも1つが生成されてもよい。
【0067】
また、上記実施形態では、強調画像生成部61(制御部6)は、出力層画像11に基づいて、色付け画像13を生成するように構成されている例を示したが、本発明はこれに限られない。たとえば、中間層画像12に基づいて、色付け画像13が生成されてもよい。
【0068】
また、上記実施形態では、強調画像生成部61(制御部6)は、出力層画像11中の対象物体200の線状の構造を識別するとともに、識別した線状の構造に基づいて色付けすることによって、色付け画像13を生成するように構成されている例を示したが、本発明はこれに限られない。たとえば、線状の構造(形状)のパターン認識ではなく、出力層画像11の画素値に基づいて色付けすることによって色付け画像13が生成されてもよい。すなわち、出力層画像11の所定の領域における画素値の濃度に基づいて、色付け画像13が色付けされてもよい。
【0069】
また、上記実施形態では、強調画像生成部61(制御部6)は、対象物体200の線状の構造が配置される部位を含む所定の領域における密度に応じて変化するように色付けされたヒートマップ画像として色付け画像13を生成するように構成されている例を示したが、本発明はこれに限られない。たとえば、色を変化させずに、線状の構造の密度(検出値)にしきい値を設けることによって、しきい値より大きい部分(領域)が1つの色によって色付けされた色付け画像13が生成されてもよい。
【0070】
また、上記実施形態では、強調画像生成部61(制御部6)は、中間層画像12がX線画像10に重畳された中間層重畳画像15を生成するように構成されている例を示したが、本発明はこれに限られない。たとえば、出力層画像11がX線画像10に重畳された出力層重畳画像が生成されてもよい。
【0071】
また、上記実施形態では、対象物体200は、手術用ガーゼ、縫合針、および、鉗子を含む例を示したが、本発明はこれに限られない。たとえば、対象物体200は、ボルト、手術ワイヤ、および、手術クリップなどを含んでいてもよい。
【0072】
また、上記実施形態では、X線撮影装置100は、画像出力部62(制御部6)によって出力された画像を表示する表示部4を備える例を示したが、本発明はこれに限られない。たとえば、X線撮影装置100とは別個に設けられた外部表示装置にX線画像10、出力層画像11、中間層画像12、色付け重畳画像14、および、中間層重畳画像15などの画像出力部62によって出力された画像が表示されてもよい。
【0073】
また、上記実施形態では、X線撮影装置100は、画像処理装置として制御部6を備える例を示したが、本発明はこれに限られない。たとえば、X線撮影装置100とは別個に設けられた画像処理装置によって、出力層画像11、中間層画像12、色付け重畳画像14、および、中間層重畳画像15などの強調画像の生成が行われてもよい。
【0074】
また、上記実施形態では、強調画像生成部61(制御部6)は、色相を異ならせることによって、線状の構造(形状)の密度(検出値)を識別可能なように色付け画像13を生成するように構成されている例を示したが、本発明はこれに限られない。たとえば、単一の色相(赤色など)の輝度を異ならせることによって、線状の構造(形状)の密度(検出値)を識別可能なように色付け画像13が生成されてもよい。すなわち、検出値が大きい場合は輝度が大きくなり、検出値が小さい場合は輝度が小さくなるように、色付け画像13が生成されてもよい。
【0075】
また、上記実施形態では、別個のハードウェアとして構成されたX線画像生成部3と、制御部6とによって、X線画像10の生成についての制御処理と、強調画像の生成についての制御処理とがそれぞれ行われる例を示したが、本発明はこれに限られない。たとえば、共通の1つの制御部(ハードウェア)によって、X線画像10の生成および強調画像の生成が行われてもよい。
【0076】
また、上記実施形態では、強調画像生成部61、および、画像出力部62が、1つのハードウェア(制御部6)における機能ブロック(ソフトウェア)として構成されている例を示したが、本発明はこれに限られない。たとえば、強調画像生成部61、および、画像出力部62が、それぞれ別個のハードウェア(演算回路)によって構成されていてもよい。
【0077】
また、上記実施形態では、X線撮影装置100とは別個の学習装置300によって学習済みモデル52が生成される例を示したが、本発明はこれに限られない。たとえば、X線撮影装置100によって学習済みモデル52が生成されてもよい。
【0078】
また、上記実施形態では、学習済みモデル52は、全層畳み込みネットワーク(Fully Convolution Network:FCN)の1種類であるU-Netをベースとして生成される例を示したが本発明はこれに限られない。たとえば、学習済みモデル52は、全結合層を含むCNN(Convolutional Neural Network)をベースとして生成されてもよい。また、学習済みモデル52は、SegNetまたはPSPNetなどのU-Net以外のEncoder-Decoderモデルをベースとして生成されてもよい。
【0079】
[態様]
上記した例示的な実施形態は、以下の態様の具体例であることが当業者により理解される。
【0080】
(項目1)
被検体にX線を照射するX線照射部と、
前記X線照射部から照射されたX線を検出するX線検出部と、
前記X線検出部によって検出されたX線の検出信号に基づいてX線画像を生成するX線画像生成部と、
制御部と、を備え、
前記制御部は、
前記X線画像生成部によって生成された前記X線画像が入力されることによって、前記X線画像中の前記被検体の体内の対象物体の領域を検出する学習済みモデルに基づいて、前記対象物体の位置が強調された前記学習済みモデルの出力画像および前記出力画像と前記X線画像とに基づいて前記対象物体の位置が強調されるように生成される合成画像のうちの少なくとも一方を、強調画像として生成する強調画像生成部と、
前記強調画像生成部によって生成された前記出力画像および前記合成画像のうちの少なくとも一方と、前記X線画像とを同時または切り替え可能に表示部に表示させる画像出力部と、を含む、X線撮影装置。
【0081】
(項目2)
前記強調画像生成部は、前記出力画像または前記出力画像に基づいて生成した画像が前記X線画像に重畳された重畳画像を、前記合成画像として生成するように構成されており、
前記画像出力部は、前記重畳画像と、前記X線画像とを同時または切り替え可能に前記表示部に表示させるように構成されている、項目1に記載のX線撮影装置。
【0082】
(項目3)
前記強調画像生成部は、前記出力画像に基づいて、前記出力画像中の前記対象物体に対応する部分を色付けすることによって、色付け画像を生成するとともに、生成した前記色付け画像が前記X線画像に重畳された前記重畳画像を生成するように構成されており、
前記画像出力部は、前記色付け画像が前記X線画像に重畳された前記重畳画像と、前記X線画像とを同時または切り替え可能に前記表示部に表示させるように構成されている、項目2に記載のX線撮影装置。
【0083】
(項目4)
前記強調画像生成部は、前記出力画像に基づいて、前記出力画像中の前記対象物体の線状の構造を識別するとともに、識別した前記対象物体の線状の構造が配置される部位を含む所定の領域における密度を取得し、前記密度に応じて変化するように色付けされたヒートマップ画像として前記色付け画像を生成するように構成されており、
前記画像出力部は、前記ヒートマップ画像としての前記色付け画像が重畳された前記重畳画像と、前記X線画像とを同時または切り替え可能に前記表示部に表示させるように構成されている、項目3に記載のX線撮影装置。
【0084】
(項目5)
前記強調画像生成部は、前記学習済みモデルの中間層から出力されるとともに前記X線画像中の前記対象物体が強調された前記出力画像としての中間層画像が、前記X線画像に重畳された前記重畳画像を生成するように構成されており、
前記画像出力部は、前記中間層画像が前記X線画像に重畳された前記重畳画像と、前記X線画像とを同時または切り替え可能に前記表示部に表示させるように構成されている、項目2~4のいずれか1項に記載のX線撮影装置。
【0085】
(項目6)
前記強調画像生成部は、前記学習済みモデルの出力層から出力されるとともに、前記X線画像中の前記対象物体の領域を表す出力層画像と、前記学習済みモデルの中間層から出力されるとともに、前記X線画像中の前記対象物体が強調された中間層画像とのうちの少なくとも一方を、前記出力画像として生成するように構成されており、
前記画像出力部は、前記出力層画像および前記中間層画像のうちの少なくとも一方と、前記X線画像とを同時または切り替え可能に前記表示部に表示させるように構成されている、項目1~5のいずれか1項に記載のX線撮影装置。
【0086】
(項目7)
被検体に照射されたX線の検出信号に基づいて生成されたX線画像が入力されることによって、前記X線画像中の前記被検体の体内の対象物体の領域を検出する学習済みモデルに基づいて、前記対象物体の位置が強調された前記学習済みモデルの出力画像および前記出力画像と前記X線画像とに基づいて前記対象物体の位置が強調されるように生成される合成画像のうちの少なくとも一方を、強調画像として生成する強調画像生成部と、
前記強調画像生成部によって生成された前記出力画像および前記合成画像のうちの少なくとも一方と、前記X線画像とを同時または切り替え可能に表示部に表示させる画像出力部と、を備える、画像処理装置。
【0087】
(項目8)
コンピュータに、
被検体に照射されたX線の検出信号に基づいて生成されたX線画像が入力されることによって、前記X線画像中の前記被検体の体内の対象物体の領域を検出する学習済みモデルに基づいて、前記対象物体の位置が強調された前記学習済みモデルの出力画像および前記出力画像と前記X線画像とに基づいて前記対象物体の位置が強調されるように生成される合成画像のうちの少なくとも一方を、強調画像として生成させる処理と、
前記出力画像および前記合成画像のうちの少なくとも一方と、前記X線画像とを同時または切り替え可能に表示部に表示させる処理と、
を実行させる、画像処理プログラム。
【符号の説明】
【0088】
1 X線照射部
2 X線検出部
3 X線画像生成部
4 表示部
6 制御部(画像処理装置、コンピュータ)
10 X線画像
11 出力層画像(強調画像、出力画像)
12 中間層画像(強調画像、出力画像)
13 色付け画像
14 色付け重畳画像(強調画像、合成画像、重畳画像)
15 中間層重畳画像(強調画像、合成画像、重畳画像)
51 画像処理プログラム
52 学習済みモデル
52b 中間層
52c 出力層
61 強調画像生成部
62 画像出力部
100 X線撮影装置
101 被検体
200 対象物体