IP Force 特許公報掲載プロジェクト 2022.1.31 β版

知財求人 - 知財ポータルサイト「IP Force」

▶ コニカミノルタ株式会社の特許一覧

特開2023-182017解剖学的対象物追跡装置、解剖学的対象物の追跡方法、解剖学的対象物の追跡プログラム、解剖学的対象物の識別器の学習方法及び学習プログラム
<>
  • 特開-解剖学的対象物追跡装置、解剖学的対象物の追跡方法、解剖学的対象物の追跡プログラム、解剖学的対象物の識別器の学習方法及び学習プログラム 図1
  • 特開-解剖学的対象物追跡装置、解剖学的対象物の追跡方法、解剖学的対象物の追跡プログラム、解剖学的対象物の識別器の学習方法及び学習プログラム 図2
  • 特開-解剖学的対象物追跡装置、解剖学的対象物の追跡方法、解剖学的対象物の追跡プログラム、解剖学的対象物の識別器の学習方法及び学習プログラム 図3
  • 特開-解剖学的対象物追跡装置、解剖学的対象物の追跡方法、解剖学的対象物の追跡プログラム、解剖学的対象物の識別器の学習方法及び学習プログラム 図4
  • 特開-解剖学的対象物追跡装置、解剖学的対象物の追跡方法、解剖学的対象物の追跡プログラム、解剖学的対象物の識別器の学習方法及び学習プログラム 図5
  • 特開-解剖学的対象物追跡装置、解剖学的対象物の追跡方法、解剖学的対象物の追跡プログラム、解剖学的対象物の識別器の学習方法及び学習プログラム 図6
  • 特開-解剖学的対象物追跡装置、解剖学的対象物の追跡方法、解剖学的対象物の追跡プログラム、解剖学的対象物の識別器の学習方法及び学習プログラム 図7
  • 特開-解剖学的対象物追跡装置、解剖学的対象物の追跡方法、解剖学的対象物の追跡プログラム、解剖学的対象物の識別器の学習方法及び学習プログラム 図8
  • 特開-解剖学的対象物追跡装置、解剖学的対象物の追跡方法、解剖学的対象物の追跡プログラム、解剖学的対象物の識別器の学習方法及び学習プログラム 図9
< >
(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公開特許公報(A)
(11)【公開番号】P2023182017
(43)【公開日】2023-12-26
(54)【発明の名称】解剖学的対象物追跡装置、解剖学的対象物の追跡方法、解剖学的対象物の追跡プログラム、解剖学的対象物の識別器の学習方法及び学習プログラム
(51)【国際特許分類】
   A61B 6/00 20060101AFI20231219BHJP
【FI】
A61B6/00 350D
A61B6/00 330A
A61B6/00 360Z
【審査請求】未請求
【請求項の数】29
【出願形態】OL
(21)【出願番号】P 2022095370
(22)【出願日】2022-06-14
(71)【出願人】
【識別番号】000001270
【氏名又は名称】コニカミノルタ株式会社
(74)【代理人】
【識別番号】110001254
【氏名又は名称】弁理士法人光陽国際特許事務所
(72)【発明者】
【氏名】風山 祐輝
【テーマコード(参考)】
4C093
【Fターム(参考)】
4C093AA01
4C093AA07
4C093CA31
4C093DA03
4C093FF16
4C093FF24
4C093FF28
4C093FF33
(57)【要約】
【課題】より確実かつ容易に時間的に連続する医用画像から構造物の輪郭が特定可能な手段を得る。
【解決手段】解剖学的対象物追跡装置は、時間的に連続した医用画像を取得する画像取得部と、医用画像に含まれる複数のフレーム画像のうち少なくとも1枚の基準画像における所定構造物の領域として設定された範囲を示す領域情報を取得する設定取得部と、識別器を用いて、基準画像の領域情報に基づいて医用画像における対象画像の領域情報を得る特定部と、を備える。識別器は、時間的に連続した医用画像において撮影タイミングの差が基準範囲(Tn1)内にある2枚のフレームの領域情報の組と、撮影タイミングの差が基準範囲(Tn1)外にある2枚のフレームの領域情報の組と、の両方を学習用データに含んで学習されている。
【選択図】図3
【特許請求の範囲】
【請求項1】
時間的に連続した医用画像を取得する画像取得部と、
前記医用画像に含まれる複数のフレーム画像のうち少なくとも1枚の基準画像における所定構造物の領域として設定された範囲を示す領域情報を取得する設定取得部と、
識別器を用いて、前記基準画像の前記領域情報に基づいて前記医用画像における前記基準画像以外の対象画像の前記領域情報を得る特定部と、
を備え、
前記識別器は、時間的に連続した医用画像において撮影タイミングの差が基準範囲内にある2枚のフレームの前記領域情報の組と、撮影タイミングの差が前記基準範囲外にある2枚のフレームの前記領域情報の組と、の両方を学習用データに含んで学習されている
解剖学的対象物追跡装置。
【請求項2】
前記学習に用いられる前記基準範囲内の前記領域情報の組の数の前記基準範囲外の前記領域情報の組の数に対する比率は、前記医用画像における前記基準範囲内の時間の前記基準範囲外の時間に対する比率よりも高い、請求項1記載の解剖学的対象物追跡装置。
【請求項3】
前記医用画像における前記基準範囲内の時間は、当該医用画像における前記基準範囲外の時間よりも短く、前記基準範囲内の前記領域情報の組のうち一部が選択的に設定され、前記一部以外の残りの組が無作為に定められる、請求項2記載の解剖学的対象物追跡装置。
【請求項4】
前記識別器は、前記基準画像、前記基準画像の前記領域情報、及び前記対象画像を含む入力データの入力に対し、前記対象画像の前記領域情報を出力する、請求項1記載の解剖学的対象物追跡装置。
【請求項5】
前記基準範囲は、1秒未満である、請求項1記載の解剖学的対象物追跡装置。
【請求項6】
前記基準範囲は、前記医用画像による検出対象の構造の変化を含む現象の代表的な時間に対して1/4未満である、請求項1記載の解剖学的対象物追跡装置。
【請求項7】
前記基準範囲は、前記代表的な時間に対して1/8未満である、請求項6記載の解剖学的対象物追跡装置。
【請求項8】
前記検出対象の現象は、周期的な現象であり、前記代表的な時間は当該現象の1周期に対応する、請求項6又は7記載の解剖学的対象物追跡装置。
【請求項9】
前記基準画像は1枚である、請求項1~7のいずれか一項に記載の解剖学的対象物追跡装置。
【請求項10】
前記識別器は、深層学習に基づいて学習されている、請求項1~7のいずれか一項に記載の解剖学的対象物追跡装置。
【請求項11】
前記医用画像は、X線画像群である、請求項1~7のいずれか一項に記載の解剖学的対象物追跡装置。
【請求項12】
前記所定構造物は肺野領域である、請求項1~7のいずれか一項に記載の解剖学的対象物追跡装置。
【請求項13】
前記所定構造物は気管領域である、請求項1~7のいずれか一項に記載の解剖学的対象物追跡装置。
【請求項14】
時間的に連続した医用画像を取得する画像取得ステップ、
前記医用画像に含まれる複数のフレーム画像のうち少なくとも1枚の基準画像における所定構造物の領域として設定された範囲を示す領域情報を取得する設定取得ステップ、
識別器を用いて、前記基準画像の前記領域情報に基づいて前記医用画像における前記基準画像以外の対象画像の前記領域情報を得る特定ステップ、
を含み、
前記識別器は、時間的に連続した医用画像において撮影タイミングの差が基準範囲内にある2枚のフレームの前記領域情報の組と、撮影タイミングの差が前記基準範囲外にある2枚のフレームの前記領域情報の組と、の両方を学習用データに含んで学習されている
解剖学的対象物の追跡方法。
【請求項15】
コンピューターを、
時間的に連続した医用画像を取得する画像取得手段、
前記医用画像に含まれる複数のフレーム画像のうち少なくとも1枚の基準画像における所定構造物の領域として設定された範囲を示す領域情報を取得する設定取得手段、
識別器を用いて、前記基準画像の前記領域情報に基づいて前記医用画像における前記基準画像以外の対象画像の前記領域情報を得る特定手段、
として機能させ、
前記識別器は、時間的に連続した医用画像において撮影タイミングの差が基準範囲内にある2枚のフレームの前記領域情報の組と、撮影タイミングの差が前記基準範囲外にある2枚のフレームの前記領域情報の組と、の両方を含んで学習されている
解剖学的対象物の追跡プログラム。
【請求項16】
時間的に連続した医用画像における複数のフレーム画像にそれぞれ含まれる所定構造物の領域の範囲を示す領域情報を正解データとして、少なくとも1枚の基準画像の前記領域情報に基づいて当該基準画像以外のフレームの対象画像の前記領域情報を出力するように識別器を学習させる識別器の学習方法であって、
前記学習は、時間的に連続した医用画像において撮影タイミングの差が基準範囲内にある2枚のフレームの前記領域情報の組と、撮影タイミングの差が前記基準範囲外にある2枚のフレームの前記領域情報の組と、の両方を含んで行われる
識別器の学習方法。
【請求項17】
前記基準範囲内の前記領域情報の組の数の前記基準範囲外の前記領域情報の組の数に対する比率は、前記医用画像における前記基準範囲内の時間の前記基準範囲外の時間に対する比率よりも高い、請求項16記載の識別器の学習方法。
【請求項18】
前記医用画像における前記基準範囲内の時間は、当該医用画像における前記基準範囲外の時間よりも短く、前記基準範囲内の前記領域情報の組のうち一部が選択的に設定され、前記一部以外の残りの組が無作為に定められる、請求項17記載の識別器の学習方法。
【請求項19】
基準画像、当該基準画像の前記領域情報、及び前記基準画像とは異なる対象画像を含む入力データの入力に対し、前記対象画像の前記領域情報を出力するように学習される、請求項16記載の識別器の学習方法。
【請求項20】
前記基準範囲は、1秒未満である、請求項16記載の識別器の学習方法。
【請求項21】
前記基準範囲は、前記医用画像による検出対象の構造の変化を含む現象の代表的な時間に対して1/4未満である、請求項16記載の識別器の学習方法。
【請求項22】
前記基準範囲は、前記代表的な時間に対して1/8未満である、請求項21記載の識別器の学習方法。
【請求項23】
前記検出対象の現象は、周期的な現象であり、前記代表的な時間は当該現象の1周期に対応する、請求項21又は22記載の識別器の学習方法。
【請求項24】
前記基準画像は1枚である、請求項16~22のいずれか一項に記載の識別器の学習方法。
【請求項25】
深層学習に基づいて学習が行われる、請求項16~22のいずれか一項に記載の識別器の学習方法。
【請求項26】
前記医用画像は、X線画像群である、請求項16~22のいずれか一項に記載の識別器の学習方法。
【請求項27】
前記所定構造物は肺野領域である、請求項16~22のいずれか一項に記載の識別器の学習方法。
【請求項28】
前記所定構造物は気管領域である、請求項16~22のいずれか一項に記載の識別器の学習方法。
【請求項29】
コンピューターを、
時間的に連続した医用画像における複数のフレーム画像にそれぞれ含まれる所定構造物の領域の範囲を示す領域情報を正解データとして、少なくとも1枚の基準画像の前記領域情報に基づいて当該基準画像以外のフレームの対象画像の前記領域情報を出力するように識別器を学習させる学習手段として機能させ、
前記学習手段では、前記学習は、時間的に連続した医用画像において撮影タイミングの差が基準範囲内にある2枚のフレームの前記領域情報の組と、撮影タイミングの差が前記基準範囲外にある2枚のフレームの前記領域情報の組と、の両方を含んで行われる
学習プログラム。
【発明の詳細な説明】
【技術分野】
【0001】
この発明は、解剖学的対象物追跡装置、解剖学的対象物の追跡方法、解剖学的対象物の追跡プログラム、解剖学的対象物の識別器の学習方法及び学習プログラムに関する。
【背景技術】
【0002】
従来、X線や超音波などを用いて人体内部に位置する内臓などの解剖学的対象物(構造物)の病態などを非侵襲で撮影する撮影装置がある。このような撮影装置には、静止画像の撮影に限られず、連続的に撮影を行うことで、臓器の動きの不良などを検出可能として、より病態を精度よく見分けることができるものがある。
【0003】
しかしながら、このような人体内部の透視撮影では、しばしば画像の輪郭が鮮明に得られないという問題がある。これに対し、特許文献1には、画像のエッジ検出を行うことで構造物の輪郭を鮮鋭化させる技術が開示されている。また、特許文献2は、時間的に連続する複数の医用画像において輪郭が不鮮明な対象画像に対し、その前後の画像の線形補間により構造を鮮鋭化させる技術を開示している。
【先行技術文献】
【特許文献】
【0004】
【特許文献1】特開2021-115120号公報
【特許文献2】特開2021-145882号公報
【発明の概要】
【発明が解決しようとする課題】
【0005】
しかしながら、エッジが不鮮明な場合には、いくらエッジ検出を行っても精度のよい輪郭が得られない。また、線形補間では、前後2枚の画像における輪郭情報が必要である上に、線形変化が前提となるので、しばしば適切な結果が得られないという課題がある。
【0006】
この発明の目的は、より確実かつ容易に時間的に連続する医用画像から構造物の輪郭が特定可能な手段を得ることのできる解剖学的対象物の識別器の学習方法及び学習プログラム、並びにこれを利用した解剖学的対象物追跡装置、解剖学的対象物の追跡方法、解剖学的対象物の追跡プログラム、を提供することにある。
【課題を解決するための手段】
【0007】
上記目的を達成するため、請求項1記載の発明は、
時間的に連続した医用画像を取得する画像取得部と、
前記医用画像に含まれる複数のフレーム画像のうち少なくとも1枚の基準画像における所定構造物の領域として設定された範囲を示す領域情報を取得する設定取得部と、
識別器を用いて、前記基準画像の前記領域情報に基づいて前記医用画像における前記基準画像以外の対象画像の前記領域情報を得る特定部と、
を備え、
前記識別器は、時間的に連続した医用画像において撮影タイミングの差が基準範囲内にある2枚のフレームの前記領域情報の組と、撮影タイミングの差が前記基準範囲外にある2枚のフレームの前記領域情報の組と、の両方を学習用データに含んで学習されている
解剖学的対象物追跡装置である。
【0008】
また、請求項2記載の発明は、請求項1記載の解剖学的対象物追跡装置において、
前記学習に用いられる前記基準範囲内の前記領域情報の組の数の前記基準範囲外の前記領域情報の組の数に対する比率は、前記医用画像における前記基準範囲内の時間の前記基準範囲外の時間に対する比率よりも高い。
【0009】
また、請求項3記載の発明は、請求項2記載の解剖学的対象物追跡装置において、
前記医用画像における前記基準範囲内の時間は、当該医用画像における前記基準範囲外の時間よりも短く、前記基準範囲内の前記領域情報の組のうち一部が選択的に設定され、前記一部以外の残りの組が無作為に定められる。
【0010】
また、請求項4記載の発明は、請求項1記載の解剖学的対象物追跡装置において、
前記識別器は、前記基準画像、前記基準画像の前記領域情報、及び前記対象画像を含む入力データの入力に対し、前記対象画像の前記領域情報を出力する。
【0011】
また、請求項5記載の発明は、請求項1記載の解剖学的対象物追跡装置において、
前記基準範囲は、1秒未満である。
【0012】
また、請求項6記載の発明は、請求項1記載の解剖学的対象物追跡装置において、
前記基準範囲は、前記医用画像による検出対象の構造の変化を含む現象の代表的な時間に対して1/4未満である。
【0013】
また、請求項7記載の発明は、請求項6記載の解剖学的対象物追跡装置において、
前記基準範囲は、前記代表的な時間に対して1/8未満である。
【0014】
また、請求項8記載の発明は、請求項6又は7記載の解剖学的対象物追跡装置において、
前記検出対象の現象は、周期的な現象であり、前記代表的な時間は当該現象の1周期に対応する。
【0015】
また、請求項9記載の発明は、請求項1~7のいずれか一項に記載の解剖学的対象物追跡装置において、
前記基準画像は1枚である。
【0016】
また、請求項10記載の発明は、請求項1~7のいずれか一項に記載の解剖学的対象物追跡装置において、
前記識別器は、深層学習に基づいて学習されている。
【0017】
また、請求項11記載の発明は、請求項1~7のいずれか一項に記載の解剖学的対象物追跡装置において、
前記医用画像は、X線画像群である。
【0018】
また、請求項12記載の発明は、請求項1~7のいずれか一項に記載の解剖学的対象物追跡装置において、
前記所定構造物は肺野領域である。
【0019】
また、請求項13記載の発明は、請求項1~7のいずれか一項に記載の解剖学的対象物追跡装置において、
前記所定構造物は気管領域である。
【0020】
また、請求項14記載の発明は、
時間的に連続した医用画像を取得する画像取得ステップ、
前記医用画像に含まれる複数のフレーム画像のうち少なくとも1枚の基準画像における所定構造物の領域として設定された範囲を示す領域情報を取得する設定取得ステップ、
識別器を用いて、前記基準画像の前記領域情報に基づいて前記医用画像における前記基準画像以外の対象画像の前記領域情報を得る特定ステップ、
を含み、
前記識別器は、時間的に連続した医用画像において撮影タイミングの差が基準範囲内にある2枚のフレームの前記領域情報の組と、撮影タイミングの差が前記基準範囲外にある2枚のフレームの前記領域情報の組と、の両方を学習用データに含んで学習されている
解剖学的対象物の追跡方法である。
【0021】
また、請求項15記載の発明は、
コンピューターを、
時間的に連続した医用画像を取得する画像取得手段、
前記医用画像に含まれる複数のフレーム画像のうち少なくとも1枚の基準画像における所定構造物の領域として設定された範囲を示す領域情報を取得する設定取得手段、
識別器を用いて、前記基準画像の前記領域情報に基づいて前記医用画像における前記基準画像以外の対象画像の前記領域情報を得る特定手段、
として機能させ、
前記識別器は、時間的に連続した医用画像において撮影タイミングの差が基準範囲内にある2枚のフレームの前記領域情報の組と、撮影タイミングの差が前記基準範囲外にある2枚のフレームの前記領域情報の組と、の両方を含んで学習されている
解剖学的対象物の追跡プログラムである。
【0022】
また、請求項16記載の発明は、
時間的に連続した医用画像における複数のフレーム画像にそれぞれ含まれる所定構造物の領域の範囲を示す領域情報を正解データとして、少なくとも1枚の基準画像の前記領域情報に基づいて当該基準画像以外のフレームの対象画像の前記領域情報を出力するように識別器を学習させる識別器の学習方法であって、
前記学習は、時間的に連続した医用画像において撮影タイミングの差が基準範囲内にある2枚のフレームの前記領域情報の組と、撮影タイミングの差が前記基準範囲外にある2枚のフレームの前記領域情報の組と、の両方を含んで行われる。
【0023】
また、請求項17記載の発明は、請求項16記載の識別器の学習方法において、
前記基準範囲内の前記領域情報の組の数の前記基準範囲外の前記領域情報の組の数に対する比率は、前記医用画像における前記基準範囲内の時間の前記基準範囲外の時間に対する比率よりも高い。
【0024】
また、請求項18記載の発明は、請求項17記載の識別器の学習方法において、
前記医用画像における前記基準範囲内の時間は、当該医用画像における前記基準範囲外の時間よりも短く、前記基準範囲内の前記領域情報の組のうち一部が選択的に設定され、前記一部以外の残りの組が無作為に定められる。
【0025】
また、請求項19記載の発明は、請求項16記載の識別器の学習方法において、
基準画像、当該基準画像の前記領域情報、及び前記基準画像とは異なる対象画像を含む入力データの入力に対し、前記対象画像の前記領域情報を出力するように学習される。
【0026】
また、請求項20記載の発明は、請求項16記載の識別器の学習方法において、
前記基準範囲は、1秒未満である。
【0027】
また、請求項21記載の発明は、請求項16記載の識別器の学習方法において、
前記基準範囲は、前記医用画像による検出対象の構造の変化を含む現象の代表的な時間に対して1/4未満である。
【0028】
また、請求項22記載の発明は、請求項21記載の識別器の学習方法において、
前記基準範囲は、前記代表的な時間に対して1/8未満である。
【0029】
また、請求項23記載の発明は、請求項21又は22記載の識別器の学習方法において、
前記検出対象の現象は、周期的な現象であり、前記代表的な時間は当該現象の1周期に対応する。
【0030】
また、請求項24記載の発明は、請求項16~22のいずれか一項に記載の識別器の学習方法において、
前記基準画像は1枚である。
【0031】
また、請求項25記載の発明は、請求項16~22のいずれか一項に記載の識別器の学習方法において、
深層学習に基づいて学習が行われる。
【0032】
また、請求項26記載の発明は、請求項16~22のいずれか一項に記載の識別器の学習方法において、
前記医用画像は、X線画像群である。
【0033】
また、請求項27記載の発明は、請求項16~22のいずれか一項に記載の識別器の学習方法において、
前記所定構造物は肺野領域である。
【0034】
また、請求項28記載の発明は、請求項16~22のいずれか一項に記載の識別器の学習方法において、
前記所定構造物は気管領域である。
【0035】
また、請求項29記載の発明は、
コンピューターを、
時間的に連続した医用画像における複数のフレーム画像にそれぞれ含まれる所定構造物の領域の範囲を示す領域情報を正解データとして、少なくとも1枚の基準画像の前記領域情報に基づいて当該基準画像以外のフレームの対象画像の前記領域情報を出力するように識別器を学習させる学習手段として機能させ、
前記学習手段では、前記学習は、時間的に連続した医用画像において撮影タイミングの差が基準範囲内にある2枚のフレームの前記領域情報の組と、撮影タイミングの差が前記基準範囲外にある2枚のフレームの前記領域情報の組と、の両方を含んで行われる
学習プログラムである。
【発明の効果】
【0036】
本発明に従うと、より確実かつ容易に時間的に連続する医用画像から構造物の輪郭が特定可能な手段を得ることができるという効果がある。
【図面の簡単な説明】
【0037】
図1】画像診断装置の機能構成を示すブロック図である。
図2】適正化の動作について説明する図である。
図3】フレーム画像間で相関関係がある画像について説明する図である。
図4】得られた学習用データによる識別器の学習について説明する図である。
図5】識別器学習処理の制御手順を示すフローチャートである。
図6】領域適正化処理の制御手順を示すフローチャートである。
図7】輪郭適正化がなされた肺野の輪郭調整の結果例を示す図である。
図8】変化が間欠的かつ非線形の場合の輪郭適正化の例を示す図である。
図9】適正化及び学習時の入力データの変形例について説明する図である。
【発明を実施するための形態】
【0038】
以下、本発明の実施の形態を図面に基づいて説明する。
図1は、本実施形態の解剖学的対象物追跡装置である画像診断装置1の機能構成を示すブロック図である。
【0039】
この画像診断装置1は、X線撮影装置や超音波画像撮影装置などにより時間的に連続して撮影された医用画像を取得して当該医用画像やその処理画像、解析画像などを表示させることができるものであり、上記各撮影装置と一体的な構成であってもよい。
【0040】
画像診断装置1は、制御部11(画像取得部、設定取得部、特定部)と、記憶部12と、通信部13と、表示部14と、操作受付部15などを備える。
制御部11は、画像診断装置1の全体動作を統括制御する。制御部11は、演算処理を行うCPU(Central Processing Unit)などを含むハードウェアプロセッサーを有する。CPUは、単一でなくてもよく、複数個のものが並列に、または用途などに応じて独立に動作させるものであってもよい。例えば、制御部11は、撮影装置により撮影された画像の処理及び処理を行う。
【0041】
記憶部12は、揮発性メモリー(RAM)と不揮発性メモリーとを含む。揮発性メモリーは、制御部11のCPUに作業用のメモリー空間を提供し、一時データを記憶する。不揮発性メモリーは、例えば、HDD(Hard Disk Drive)やフラッシュメモリーなどのいずれかを有し、プログラム121、設定データや表示内容又はその元となる画像データなどを記憶する。プログラム121は、後述の識別器学習処理及び領域適正化処理に係る制御プログラムを含む。プログラム121は、識別器1211を含む。識別器1211については後述する。
【0042】
記憶部12には、画像データを集めた画像データベース122が含まれる。画像データベース122は、各撮影装置で撮影された撮影画像データ、当該撮影画像データの処理データ、及び撮影画像データや処理データに基づいて行われた解析の結果などを含む解析データを含む。解析データには、生成された解析画像データだけではなく、解析結果を示す数値データや文書データなどを含んでいてもよい。
記憶部12の特に不揮発性メモリーの一部又は全部は、画像診断装置1に外付けされた周辺機器であってもよいし、ネットワーク上に存在するもの(ネットワークドライブやクラウドストレージ)などであってもよい。
【0043】
通信部13は、ネットワークを介した外部との通信を制御するネットワークカードなどを有する。通信部13は、LAN(Local Area Network)による所定の通信規格に応じて、画像データやその解析データの入出力などを行う。
【0044】
表示部14は、デジタル表示画面を有し、制御部11の制御に基づいてステータス、メニューや画像などの表示を行う。デジタル表示画面は、特には限られないが、例えば、液晶表示画面(LCD)であってもよい。また、表示部14は、LEDランプなどを有し、点灯状態や点灯色などに応じてステータスなどを示すことが可能であってもよい。
【0045】
操作受付部15は、ユーザーなどの外部からの操作を受け付けて、受け付けた操作内容に応じた操作信号を制御部11へ出力する。操作受付部15は、特には限られないが、マウスなどのポインティングデバイスを有する。また、操作受付部15は、文字や数字を入力可能なキーボードなどを有していてもよい。あるいは、操作受付部15は、表示画面と重なって位置するタッチパネルなどを有していてもよい。
表示部14及び操作受付部15は、接続端子などを介して接続される周辺機器であってもよい。あるいは、画像診断装置1は、自身では表示部14などを有さず、表示部を有する外部のコンピューターなどに画像データを出力して、当該コンピューターにより、画像データに基づく表示を行わせるのであってもよい。
【0046】
次に、画像診断装置1の画像表示動作について説明する。
画像診断装置1では、時系列的に連続して撮影を行った医療用(診断や治療を目的とする)の画像データ(撮影動画)に対し、当該撮影動画の各フレーム画像中にそれぞれ含まれる診断対象の対象構造物(臓器、器官など、表面に露出されておらず透視撮影が必要な解剖学的対象物;所定構造物)の輪郭(当該輪郭に囲まれた領域)を特定して示すことができる。また、領域の容積(断面積)や輪郭上のある位置の時間変化などを解析して表示し、診断に供することができる。
【0047】
撮影動画としては、上記のように透視撮影が可能なものであって、例えば、放射線(X線)撮影画像(X線画像群)や超音波計測に係る画像などが挙げられるが、これに限られるものではない。動画のフレームレートは、対象構造物の形状変化が診断に必要な時間分解能で得られるものであればよい。したがって、診断上必要がなければ、続けて視認したときに動きが滑らかに表されるフレームレートではなくても(例えば、10fps以下などでも)よい。また、動画フォーマットのデータではなく、連続した静止画像データの組であってもよいが、以降では便宜上まとめて撮影動画と記し、各々の画像をフレーム画像と記す。
【0048】
輪郭の特定は、個々のフレーム画像に対して所定のアルゴリズムで各々実行される。しかしながら、対象構造物と周囲の構造との位置関係や、対象構造物の動き(例えば、焦点方向への変動など)などによっては、輪郭が不鮮明になったり視認がしづらくなったりする場合がある。このような場合には、個々の画像に対して自動判別で正確な輪郭を定めるのは難しく、撮影を行った技師や撮影動画から診断を行う医師などが、適宜操作受付部15を介して輪郭を修正、補完する必要が生じる場合がある。
【0049】
撮影動画では、このように輪郭不鮮明などが生じるフレーム画像が少なからず(複数)含まれる場合(例えば、周期的な臓器の運動において当該周期ごとなど)がしばしばあり、これらを全て手動で修正、補完するのは手間と時間を要する。画像診断装置1では、一部、特に1枚のフレーム画像を手動修正して確定することで、他のフレーム画像の輪郭を自動で適正化する。適正化動作は、識別器1211により行われる。
【0050】
図2は、適正化の動作について説明する図である。
予め、撮影動画の中から少なくとも1枚(ここでは1枚)のフレームの画像を基準画像として定め、当該基準画像に対して対象構造物の輪郭を手動操作で決定する。上記のように、予め輪郭が自動特定されている場合には、この輪郭を修正する操作を受け付ける。このようにして画像診断装置1は、基準画像に対して決定された対象構造物の輪郭(領域の範囲)を含む領域情報を取得する。
【0051】
基準画像及びその領域情報とともに、輪郭の調整、特定を行いたいフレームの画像を対象画像として識別器1211に入力データとして入力させる。識別器1211は、これらの入力に基づいて、対象画像における対象構造物の輪郭(領域)を特定してその領域情報を出力する。輪郭の調整、特定が必要な対象画像を順次差し替えて入力させることで、必要な動画部分に対してより正確な領域情報が得られる。
【0052】
次に、識別器1211の学習について説明する。
上記のように、対象画像における対象構造物の輪郭を適切に特定するには、識別器1211が適切に学習されている必要がある。このような学習は、複数のフレーム画像間で相関関係が存在していることが必要条件になる。
【0053】
図3は、フレーム画像間で相関関係がある画像について説明する図である。
図3(a)に示すように、対象構造物の時間的な形状(輪郭位置)の変化が周期的な現象である(ここでいう周期的とは、類似する変化が継続的に繰り返し起きるものであればよく、同一の周期でばらつきがない場合には限られない)場合には、フレーム画像間で相関関係があるといえる。周期的な動作としては、例えば、肺野の呼吸動作や心臓の心拍動作などが挙げられる。この場合、各周期(周期長Tp1)で第1画像(例えば、タイミングtH1での画像)と近い位相範囲の第2画像では、対象構造物も類似する形状となりやすいのに対し、第1画像と大きく異なる位相の第2画像では、対象構造物も大きく形状が変化する場合がある。任意のフレーム画像における輪郭を正確に調整するためには、各位相差のデータがそれぞれ適切な量ずつ学習用データに含まれるように当該学習用データが定められるのがよい。特にここでは、形状変化の大きさは、時間差に比例するものではないので、単純にランダム(無作為)に学習用データを定めたのでは、逆に偏りが生じる。この識別器1211の学習では、比較される2枚のフレーム画像間での位相差が近い(時間差が基準範囲内)フレーム画像の組と遠い(時間差が基準範囲外)フレーム画像の組とを両方学習用データに含ませるように、データの選択を恣意的に調整する。
【0054】
例えば、2枚のフレーム画像間での位相差に対して、基準位相差±Tn1を定め、位相差が±Tn1内のフレーム画像の組と位相差が±Tn1に入らないフレーム画像の組とが含まれるような学習用データが定められる。このとき、2枚のフレーム画像の位相差が定まっていれば、位相自体は必ずしも特定の値でなくてもよい。しかしながら、運用時に特定の位相の基準画像を定めるのであれば(例えば、周期において輪郭変化が極値を取るタイミングtH1,tH2、tLなど)、これに合わせて第1画像のタイミングを固定して学習させることとすればよい。
【0055】
基準位相差±Tn1としては、例えば、一周期の1/4未満、より好ましくは、一周期の1/8未満とされてもよい。なお、図3(a)に示すように、周期的な変化であっても、極値に対して対称な変化を示すとは限らないので、例えば、変化の大きい区間の変化の速さや大きさに応じて基準位相差を定めても(小さくしても)よい。実用上は、代表的な(例えば、平均値)基準長Tp1に基づいて基準位相差±Tn1に対応する時間長を設定して、当該時間長と2枚のフレーム画像の時間間隔とを比較してもよい。例えば、肺野領域の呼吸の撮影動画において、当該肺野領域は代表値(現象の代表的な時間)として約4秒周期で形状変化するので、その1/4周期として、呼気と吸気の境界である極値のタイミングから±1秒未満のフレーム画像を基準画像から基準範囲内の(基準画像に近い側のグループに属する)画像とすることができる。
【0056】
なお、この場合、位相差が近ければ異なる周期の画像であっても時間差が小さいものとしてもよい。すなわち、2枚のフレーム画像間でN周期(Nは整数)+位相差mのずれがある場合には、位相差mのみが基準位相差±Tn1と比較されてもよい。時間間隔で判断する場合にも、当該間隔は、N周期分の時間を差し引いたものであってもよい。ただし、各周期の長さが同一ではない場合には、各々が属する周期でそれぞれ位相が決定された後に当該位相(基準となるタイミングからの時間差の差分)が比較される必要がある。また、繰り返しにより形状変化の大きさが変わるような現象の場合には、位相差には周期差も含めてもよい。
【0057】
あるいは図3(b)に示すように、断続的に略同一の構造変化を示す現象(検出対象の構造を含む現象)が生じる場合、特に変化が非線形である場合には、当該現象の特徴的な継続時間Tp2(代表的な時間)を基準として、当該継続時間Tp2に対して基準となる割合に応じた長さの基準時間±Tn2を定めてもよい。このような現象としては、疾患に基づいて生じる発作的な症状による変化などが挙げられる。基準となる割合は、例えば、継続時間Tp2の1/4など(1/2~1/8)であってもよい。この場合には、第1画像は現象の継続中のものであってもよい。
【0058】
このようにして、第1画像に対しての位相差や時間差が基準範囲内のものと基準範囲外のものとを適宜な選択率で(限定するものではないが、例えば均等に)含む学習用データを生成する。例えば、撮影動画において、基準範囲内のフレーム画像と基準範囲外のフレーム画像との割合が概ね定まっている場合には、一方のデータ(割合が小さいほう)を確実に含ませるように選択した後、残りをランダムに(統計的に上記割合に従って)選択することで、適宜な選択率で基準範囲内外のデータが混合された学習用データを得ることができる。あるいは、学習用データに含める各々の選択率に応じた選択数を規定して、全て位相差などに基づいて選択してもよい。選択は、2枚のフレーム画像の時間差などに基づいて機械的に行われてもよいし、全て有識者などが視認しながら選択してもよい。あるいは、機械的に選択された候補の中から適切な組を有識者などが選択してもよい。
【0059】
このように生成される学習用データは、通常の臨床データではなく、学習用途のために別途得られた撮影動画のフレーム画像であってもよい。この場合、撮影時における呼吸の速さや深さを略一定に保つために、被撮影者に対してガイダンスなどがなされてもよい。
【0060】
図4は、得られた学習用データによる識別器の学習について説明する図である。
学習用データに含まれる各フレーム画像に対しては、各々有識者により輪郭(領域情報)が定められる。このうち、第2画像の第2領域情報が正解データとなる。学習用データの各組のフレーム画像(第1画像及び第2画像)と、第1画像の領域情報(第1領域情報)が識別器1211に入力されて、識別器1211が第2画像の輪郭を推定出力すると、当該推定結果と第2領域情報とを比較して、誤差を逆伝播法などにより識別器1211のパラメーターにフィードバックさせる。すなわち、第1画像と第2画像との相関関係に基づいて、第1領域情報に対する第2領域情報がより正確に求められるようになる。
【0061】
識別器1211は、特には限られないが、例えば、ニューラルネットワークを利用したディープラーニング(DL、深層学習)のアルゴリズムにより学習を行う機械学習モデルを有する。適宜な組数の学習用データを入力させて識別器1211を学習させることにより、第2画像の輪郭の推定出力の精度を適切に向上させることができる。
【0062】
図5は、識別器学習処理の制御部11による制御手順を示すフローチャートである。
本実施形態の識別器の学習方法(学習プログラムの学習手段を構成)であるこの識別器学習処理は、例えば、識別器の学習を行わせる担当者による操作受付部15への所定の入力操作などにより、プログラム121内に含まれる本実施形態の学習プログラムの起動により実行される。
【0063】
制御部11は、時間差が基準範囲内(以内)のものと基準範囲外のものとが適切な比率で含まれる第1画像と第2画像の組の画像データ群を取得する(ステップS101)。各組の設定自体は、上記の通り事前になされていてもよい。制御部11は、学習用データに含まれる各組のフレーム画像に各々対応する輪郭の領域情報を取得する(ステップS102)。上記と同様に、領域情報も上記のように予め定められたものであってもよい。
【0064】
制御部11は、いずれかの組(未選択のもの)の画像データ及び領域情報を選択し、上記のように識別器1211に入力データ及び正解データとして与える(ステップS103)。制御部11は、出力データと正解データの比較結果に基づいて識別器1211のパラメーター設定を更新する(ステップS104)。
【0065】
制御部11は、学習の終了条件を満たしたか否かを判別する(ステップS105)。学習の終了条件としては、例えば、規定回数パラメーター設定が更新された、全ての組が選択された、などが挙げられる。学習の終了条件が満たされていないと判別された場合には(ステップS105で“NO”)、制御部11の処理は、ステップS103に戻る。学習の終了条件が満たされたと判別された場合には(ステップS105で“YES”)、制御部11は、識別器学習処理を終了する。
【0066】
以上のように識別器1211が学習されると、当該識別器1211を用いた各撮影画像の輪郭調整が可能となる。
図6は、画像診断装置1で実行される領域適正化処理の制御部11による制御手順を示すフローチャートである。本実施形態の解剖学的対象物の追跡方法を含むこの領域適正化処理は、医師などによる動画表示及び診断の際に当該医師などによる操作受付部15への所定の入力操作により、プログラム121内の本実施形態の解剖学的対象物の追跡プログラムが起動されることで実行される。
【0067】
制御部11は、表示対象の動画データを取得する(ステップS151;画像取得部としての機能、画像取得手段)。制御部11は、各フレーム画像に対して所定構造物の輪郭を示す領域情報を設定する(ステップS152)。上記のように、この設定は暫定的なものであってよい。なお、一度表示済みの動画であって既に領域情報が設定されている場合には、制御部11は、当該領域情報を取得すればよい。
【0068】
制御部11は、いずれかのフレーム画像を基準画像として設定して、設定されているその輪郭とともに表示部14に表示させる。制御部11は、当該基準画像における対象構造物の輪郭を調整する入力操作を受け付けて、基準領域情報として設定する(ステップS153;設定取得部としての機能、設定取得手段)。上記のように基準画像は、輪郭変化の極値のタイミングや、現象の発生中(より好ましくは発生期間の中央付近。正確な中央のタイミングではフレーム画像が取得されていない場合がある)に定めることができる。
【0069】
制御部11は、基準画像以外の輪郭調整対象の画像を選択し、対象画像として、基準画像及び当該基準画像の領域情報とともに識別器1211へ入力させる(ステップS154)。制御部11は、識別器1211から出力された対象画像の領域情報を取得する(ステップS155)。制御部11は、対象画像及び調整された輪郭を表示部14により表示させてもよい。
ステップS154、S155の処理が、本実施形態の特定部としての機能、特定手段を構成する。
【0070】
制御部11は、対象画像とされるフレーム画像を全て選択したか否かを判別する(ステップS156)。対象画像とされるフレーム画像を全て選択していない(選択していないフレーム画像がある)と判別された場合には(ステップS156で“NO”)、制御部11の処理は、ステップS154に戻る。対象画像とされるフレーム画像を全て選択したと判別された場合には(ステップS156で“YES”)、制御部11は、領域適正化処理を終了する。
【0071】
対象画像とされるフレーム画像は、ステップS154の処理の前に予め全て設定されてもよいし、ステップS156の処理の前に毎回次のフレーム画像を選択又は終了する操作を受け付けてもよい。対象画像は、撮影動画の全フレーム画像である必要はない。解析に必要な部分だけが選択されればよい。この場合、選択されるフレーム画像は、基準画像より時間的に前のものだけであってもよいし、後ろのものだけであってもよい。あるいは、前後を問わずに定められていてもよく、また、連続的である必要もない。
【0072】
基準画像は、必ずしも1枚に限定されなくてもよい。複数枚設定されてもよく、この場合には、対象画像とともに識別器1211に入力される基準画像及び基準領域情報は、例えば、対象画像との時間差(位相差)が小さい方とされてもよいし、あるいは、対象画像よりも前の撮影タイミングであり、かつ直近の基準画像とされてもよい。
【0073】
図7は、輪郭適正化がなされた肺野の輪郭調整の結果例を示す図である。
図7(a)に示したものが、基準画像に対して有識者などにより設定された肺野領域の輪郭Fs0である。これに対して、識別器1211を用いて適正化した画像及び肺野領域の輪郭Fa0が図7(b)に示されている。
【0074】
肺野の輪郭は、撮影画像において横隔膜と接する付近で不鮮明になりやすい。本実施形態の画像診断装置1では、これらが1枚の基準画像における適正な領域情報を基準として、当該基準画像に対して任意な時間差の対象画像であっても、適切に輪郭を調整、特定することが可能となる。
【0075】
また、図7(c)に示したものが、基準画像に対して設定された肺野領域の輪郭F0である。図7(d)は、この基準画像よりも時間的に前のタイミングにおける対象画像に対して調整、特定された肺野領域の輪郭F1を重ねて示しており、図7(e)には、基準画像よりも時間的に後のタイミングにおける対象画像に対して調整、特定された肺野領域の輪郭F2を重ねて示している。
【0076】
このように、周期変化などでは、時間的に前後のいずれの画像であっても適切に肺野領域の輪郭を調整することができる。
【0077】
図8は、変化が間欠的かつ非線形の場合の輪郭適正化の例を示す図である。この例では、気管領域を対象としてその輪郭を適正化した例を示している。図8(a)は、輪郭の適正化をせずにあるアルゴリズムで自動検出した気管の輪郭Fs1を撮影画像(対象画像)に重ねて示したものである。図8(b)は、輪郭の調整、特定を行った後の気管の輪郭Fa1を撮影画像に重ねて示したものである。
【0078】
自動検出では、特に画像の上端付近で正確に輪郭が定まっていないことが分かる。気管では、非周期的に気管狭窄が生じる症例があり、このような変化は、非線形である。本実施形態の画像診断装置1では、非線形変化を伴う場合でも適切に輪郭を調整、特定することができる。
【0079】
[変形例]
上記実施の形態では、フレーム画像及び領域情報(輪郭データ)が適正化時の入力及び学習用データとして用いられたが、これに加えてパラメーター化された非画像の付加情報が入力データに追加されてもよい。
【0080】
図9は、適正化及び学習時の入力データの変形例について説明する図である。
この場合には、入力データには、対象画像、基準画像及びその領域情報に加えて、付加情報が含まれる。付加情報は、例えば、対象構造物(器官)に係る疾患名や病態などをパラメーター化したもの(識別番号などのスカラー値又は多次元ベクトル値)であってもよい。病態などに応じて輪郭が変化するような場合に、病態などを考慮せずに一律に学習用データを生成すると、病態によっては適正な輪郭調整を行えるような学習がしづらくなる場合がある。そこで、病態をパラメーターとして追加することで、パラメーターに応じた画像の傾向を学習に反映しやすくすることができる。また、対象構造物の種別自体(ここでは肺野)が識別パラメーターとして示されてもよい。
【0081】
なお、病態ごとに全く異なる識別器を生成することも考えられるが、特殊な病態などでは学習用データが集まらずに学習不足となる可能性があること、特定の病態に特化して過学習となり、例えば、複合的な症例での区別が難しくなり得ること、などの問題が生じ得ることから、ここでは、識別器自体は単一としてパラメーターの一つとして追加している。
【0082】
以上のように、本実施形態の解剖学的対象物追跡装置である画像診断装置1は、制御部11を備える。制御部11は、画像取得部として、時間的に連続した医用画像(撮影動画)を取得し、設定取得部として、医用画像に含まれる複数のフレーム画像のうち少なくとも1枚の基準画像における対象構造物の領域として設定された範囲を示す領域情報を取得し、特定部として、識別器1211を用いて、基準画像の領域情報に基づいて撮影動画における基準画像以外の対象画像における対象構造物の領域を特定する。識別器1211は、時間的に連続した医用画像において撮影タイミングの差が基準範囲内にある2枚のフレームの領域情報の組と、撮影タイミングの差が基準範囲外にある2枚のフレームの領域情報の組と、の両方を含んで学習されている。
あるタイミングにおける撮影画像の領域情報から他のタイミングにおける撮影画像の領域情報を適切に得るには、当該領域情報に係る輪郭の変化度合の大小を適切に網羅して学習させる必要がある。このように、意図的に基準画像の撮影タイミングからの時間差が基準範囲内にあるものと基準範囲外にあるものとを含むように学習用データを定めることで、基準画像に近い画像と離れた画像のいずれであっても、精度よく領域情報を得ることが可能になる。したがって、従来に比してより容易に撮影動画から対象構造物の輪郭(領域)を特定することができる。
【0083】
特に、学習に用いられる基準範囲内の領域情報の組の数の基準範囲外の領域情報の組の数に対する比率は、撮影動画における基準範囲内の時間の基準範囲外の時間に対する比率よりも高くすることができる。これにより、基準範囲内の学習不足を抑制し、基準範囲内と基準範囲外のいずれの領域情報も精度よく出力することができる。
【0084】
特に、医用画像における基準範囲内の時間は、当該医用画像における基準範囲外の時間よりも短く、基準範囲内の領域情報の組のうち一部が選択的に設定され、一部以外の残りの組が無作為に定められてもよい。このように、基準範囲内の割合が基準範囲外の割合よりも小さい場合に、一部基準範囲内の学習用データを恣意的に定め、残りをランダムに設定することで、全てを指定するよりも学習用データに含める撮影画像の選択設定の手間を低減することができる。なお、ここでいうランダムな設定には、異常画像のように医用画像内でそもそも学習用データに含めるのが適切ではないフレーム画像を除外する処理は含まれてよい。
【0085】
また、基準範囲は、1秒未満であってもよい。基準範囲の大小は対象構造物の形状変化の時間特性に依存するが、通常の連続的な画像(動画)では、1秒程度は類似した形状の範囲にあることが多いので、互いに近くに位置するフレームであるか否かを区切るのに適切な時間である。
【0086】
あるいは、基準範囲は、撮影動画による検出対象の構造の変化を含む現象の代表的な時間に対して1/4未満であってもよい。構造変化のピークに対して両側にそれぞれ変化時間を考慮した場合、この程度の範囲であれば、ピーク時に比した変化が著しく大きくなりにくいので、近い形状の範囲として適切に定めやすい。
【0087】
あるいは、基準範囲は、上記代表的な時間に対して1/8未満であってもよい。構造変化があるピークとは反対側にもピークを取るような場合には、上記の更に半分の基準範囲とすることで、ピーク時に比した変化が著しく大きくならない範囲で留めることができる。
【0088】
特に、検出対象の現象は、周期的な現象であり、代表的な時間は当該現象の1周期に対応するものであってもよい。周期的な現象では、その位相に応じた変化をすることが多いので、周期に対して特定の割合で基準画像に近い画像か否かを判断するのが適切であり、これにより容易に学習用データを定めて、精度よく対象構造物の輪郭(領域)を特定可能な識別器1211を得ることができる。
【0089】
また、基準画像は1枚であってもよい。本実施形態の画像診断装置1では、1枚の基準画像とその領域情報があれば、任意のタイミングの領域情報を得ることができるので、処理が容易である。また、輪郭が不明確なフレーム画像が続くような場合であっても、それぞれ輪郭を適切に定めることが可能であり、更に、所定構造物の構造変化が線形ではなくても輪郭の特定に問題が生じないので、従来より少ない制限で輪郭を適正化しやすい。
【0090】
また、識別器1211は、深層学習(ディープラーニング)に基づいて学習されているものであってもよい。このような非線形変化を含み得る構造の画像認識には、ディープラーニングが特に有効であり、効率的に精度の高い識別器1211を得ることができる。
【0091】
また、医用画像は、X線画像群であってもよい。医療用の撮影動画のうち、X線撮影のように内部を透視して撮影する画像では、他の構造物との位置関係や透過率、反射率などに応じて不鮮明な部分が生じやすいので、本実施形態の画像診断装置1によれば、この種類の撮影動画に対して、特に適切な輪郭(領域)を特定することが有効である。
【0092】
また、対象構造物は肺野領域であってもよい。上記のように透視撮影であって他の構造との重複もあり、不鮮明な箇所が生じやすい領域である一方で、周期的な変動を伴うものであって、基準画像の領域情報から他の画像における領域情報を得やすいものなので、肺野領域は、上記実施形態を適用するのに好適な対象である。
【0093】
あるいは、所定構造物は気管領域であってもよい。この領域も透視撮影であり、不鮮明な箇所が生じやすい。気管領域に生じる一時的な形状変化を伴う病態である気管狭窄などは、非周期的かつ断続的に生じ得るものであるので、気管領域もまた、上記実施形態を適用するのに好適な対象である。
【0094】
また、本実施形態の解剖学的対象物の追跡方法は、時間的に連続した医用画像(撮影動画)を取得する画像取得ステップ、取得した撮影動画に含まれる複数のフレーム画像のうち少なくとも1枚の基準画像における対象構造物の領域として設定された範囲を示す領域情報を取得する設定取得ステップ、識別器1211を用いて、基準画像の領域情報に基づいて撮影動画における基準画像以外の対象画像の領域情報を得る特定ステップ、を含む。識別器1211は、撮影動画において撮影タイミングの差が基準範囲内にある2枚のフレームの領域情報の組と、撮影タイミングの差が基準範囲外にある2枚のフレームの領域情報の組と、の両方を含んで学習されている。
このような追跡方法によれば、少なくとも1枚のフレーム画像に対する対象構造物の領域情報があれば、他のフレーム画像における対象構造物の輪郭(領域)を特定することが可能になるので、不鮮明な輪郭箇所を適切に補い、修正することができる。また、連続して複数の不鮮明な輪郭箇所があったり、輪郭の形状変化が非線形であったりしても、それぞれ適切に補い、修正することができる。したがって、より少ない限定でより手間をかけずに、より精度のよい領域情報を得ることの可能な識別器1211を得て利用することができる。
【0095】
また、上記追跡方法に係るプログラム121をコンピューターにインストールして実行することで、汎用のCPUなどを有する制御部11でも容易に動画データを処理して、より少ない制限及び手間で、より精度よく対象画像における輪郭(領域)を特定することができる。これにより、より容易かつ正確な診断を行うことも可能になる。
【0096】
また、本実施形態の識別器1211の学習方法によれば、時間的に連続した医用画像(撮影動画)を取得する画像取得ステップ、撮影動画に含まれる複数のフレーム画像のうち少なくとも1枚の基準画像における対象構造物の領域として設定された範囲を示す領域情報を取得する設定取得ステップ、識別器1211を用いて、基準画像の領域情報に基づいて対象画像の領域情報を得る特定ステップ、を含み、識別器1211は、撮影動画において撮影タイミングの差が基準範囲内にある2枚のフレームの領域情報の組と、撮影タイミングの差が前記基準範囲外にある2枚のフレームの前記領域情報の組と、の両方を含んで学習されている。
このように、撮影動画中の基準画像の領域情報から他の対象画像の輪郭(領域)に係る領域情報を出力する識別器1211が、同種の撮影動画におけるタイミング差が基準範囲内の(タイミング差が小さい)フレーム画像の組に係る領域情報と、タイミング差が基準範囲外の(タイミング差が大きい)フレーム画像の組に係る領域情報とを両方含むように設定された学習用データを用いて学習されるので、当該識別器1211は、一枚の基準画像の領域情報から適切に、当該基準画像から種々の間隔の対象画像における領域情報を適切に得ることができるようになる。よって、両隣の2枚のフレーム画像から線形補間などで推測する必要がなくなるので、不鮮明な画像が複数枚続くような撮影動画や、対象構造物の形状変化が非線形の撮影動画などであっても、対象構造物の輪郭(領域)特定が容易かつ精度を向上させることができる。
【0097】
なお、本発明は、上記実施の形態に限られるものではなく、様々な変更が可能である。
例えば、上記実施の形態では、画像診断装置1内で診断(運用)に係る領域情報の設定を行うものとして説明したが、これに限られない。当該設定も画像診断装置1の外部で行われて、設定結果が通信部13を介して取得されてもよい。
【0098】
また、上記実施の形態では、基準画像及び学習時の第1画像として、周期変化において極値を取っている画像を用いるものとして説明したが、周期変化の場合には、必ずしもこれに限られるものではない。変動の傾向などに応じてその他のタイミングの画像であってもよく、あるいは、任意のタイミングの画像であってもよい。いずれの場合でも学習用データは、基準画像の設定範囲に応じた範囲で定められる。
【0099】
また、上記実施の形態では、基準画像が固定されて、当該基準画像に対する基準領域情報は、有識者などによる入力操作に応じて定められるものとして説明したが、これに限られるものではない。基準画像に基づいて対象画像の領域情報が適切に取得された後、これら対象画像及び取得された領域情報をその後の基準画像及び基準領域情報として、以降の対象画像における対象構造物の輪郭特定を行ってもよい。
【0100】
また、上記実施の形態では、基準画像に近い範囲(基準範囲内)のフレーム数の方が、基準画像から離れた範囲(基準範囲外)のフレーム数よりも少ないものとして説明したが、特に周期変化のパターンなどによっては、これに限られなくてもよい。その場合には、基準範囲外のフレーム画像に係る領域情報を水増しするように学習用データの選択を行ってもよい。
【0101】
また、上記実施の形態では、基準画像、基準画像の領域情報及び対象画像を識別器1211への入力データとして、これらに更に非画像の付加情報があってもよいものとして説明したが、この組み合わせに限られるものではない。例えば、上記のうち基準画像自体は、入力データから省略されてもよい。
【0102】
また、上記実施の形態では、基準範囲を基準画像から時間的に前後対称に定めることとして説明したが、前後に非対称に定められてもよい。例えば、急激な立ち上がりで変化が開始されて、最終状態に漸近するように変化速度が低下していく場合などでは、基準画像の前後tで別個に画像の類似範囲/非類似範囲を定めた方がよい場合もある。
【0103】
また、識別器1211は、ディープラーニングの学習アルゴリズムを利用するものに限られない。ニューラルネットワークを利用した他の機械学習アルゴリズムや、パターン認識に係る他の機械学習アルゴリズム、例えばサポートベクターマシンなどが利用されてもよい。
【0104】
また、上記実施の形態では、対象構造物として肺野領域及び気管領域を例に挙げて説明し、その他心臓(心拍)について言及したが、これらに限られるものではない。同じような形状変化(完全に同一である必要はないが、病態上の形状変化の特徴が毎回現れるようなもの)が周期的又は断続的に繰り返し生じ得る器官などであって、透視撮影が可能なもの全般について上記実施の形態が適用可能である。
【0105】
また、上記実施の形態では、汎用CPUが実行可能なプログラム121により識別器1211の学習及び画像診断による対象構造物の輪郭特定を行ったが、上記処理の一部又は全部が専用のハードウェア論理回路や演算回路などによってなされてもよい。また、制御部11は、GPUなどの画像処理に特化したプロセッサーを含んでいてもよい。
【0106】
また、上記実施の形態では、画像診断装置1により識別器1211の学習生成及び診断のための輪郭最適化を行うものとして説明したが、識別器1211の学習生成は、他のコンピューターにより行われて、作成済みの識別器1211が画像診断装置1にコピーされてもよい。あるいは、画像診断装置1自身では識別器1211を保持せず、画像データを外部の識別器1211を有するコンピューターに送信して、結果のみを取得してもよい。
【0107】
また、以上の説明では、本発明の識別器1211の学習制御及び画像診断制御に係るプログラム121を記憶するコンピューター読み取り可能な媒体としてHDD、フラッシュメモリーなどの不揮発性メモリーなどからなる記憶部12を例に挙げて説明したが、これらに限定されない。その他のコンピューター読み取り可能な媒体として、MRAMなどの他の不揮発性メモリーや、CD-ROM、DVDディスクなどの可搬型記憶媒体を適用することが可能である。また、本発明に係るプログラムのデータを通信回線を介して提供する媒体として、キャリアウェーブ(搬送波)も本発明に適用される。
その他、上記実施の形態で示した具体的な構成、処理動作の内容及び手順などは、本発明の趣旨を逸脱しない範囲において適宜変更可能である。本発明の範囲は、特許請求の範囲に記載した発明の範囲とその均等の範囲を含む。
【符号の説明】
【0108】
1 画像診断装置
11 制御部
12 記憶部
121 プログラム
1211 識別器
122 画像データベース
13 通信部
14 表示部
15 操作受付部
図1
図2
図3
図4
図5
図6
図7
図8
図9