(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公開特許公報(A)
(11)【公開番号】P2023065034
(43)【公開日】2023-05-12
(54)【発明の名称】画像処理装置及び画像処理方法
(51)【国際特許分類】
G06T 5/00 20060101AFI20230502BHJP
A61B 10/00 20060101ALI20230502BHJP
【FI】
G06T5/00 710
A61B10/00 E
【審査請求】未請求
【請求項の数】8
【出願形態】OL
(21)【出願番号】P 2021175590
(22)【出願日】2021-10-27
(71)【出願人】
【識別番号】314012076
【氏名又は名称】パナソニックIPマネジメント株式会社
(74)【代理人】
【識別番号】100106518
【弁理士】
【氏名又は名称】松谷 道子
(74)【代理人】
【識別番号】100132241
【弁理士】
【氏名又は名称】岡部 博史
(74)【代理人】
【識別番号】100135703
【弁理士】
【氏名又は名称】岡部 英隆
(74)【代理人】
【識別番号】100221556
【弁理士】
【氏名又は名称】金田 隆章
(72)【発明者】
【氏名】桐山 兼治
【テーマコード(参考)】
5B057
【Fターム(参考)】
5B057AA07
5B057CA08
5B057CA12
5B057CA16
5B057CB08
5B057CB12
5B057CB16
5B057CE03
5B057CE08
5B057DA17
5B057DB02
5B057DB09
5B057DC30
(57)【要約】 (修正有)
【課題】画像内の被写体を鮮明化する画像処理装置及び画像処理方法を提供する。
【解決手段】画像処理装置100は、プロセッサ1と、記憶装置2と、を備える。プロセッサ1は、被写体が写る画像データを取得し、画像データに対して、第1の周波数以上の周波数帯の成分を増幅させる第1の高域強調処理を実行して第1の補正画像を生成し、画像データに対して、第1の周波数と異なる第2の周波数以上の周波数帯の成分を増幅させる第2の高域強調処理を実行して第2の補正画像を生成し、第1の補正画像から、所定の条件を満たす画素値を有する第1の複数の画素を抽出し、第2の補正画像から、所定の条件を満たす画素値を有する第2の複数の画素を抽出し、第1及び第2の複数の画素を画像データに合成する。
【選択図】
図1
【特許請求の範囲】
【請求項1】
プロセッサと、記憶装置とを備える画像処理装置であって、
前記プロセッサは、
被写体が写る画像データを取得し、
前記画像データに対して、第1の周波数以上の周波数帯の成分を増幅させる第1の高域強調処理を実行して第1の補正画像を生成し、
前記画像データに対して、前記第1の周波数と異なる第2の周波数以上の周波数帯の成分を増幅させる第2の高域強調処理を実行して第2の補正画像を生成し、
前記第1の補正画像から、所定の条件を満たす画素値を有する第1の複数の画素を抽出し、
前記第2の補正画像から、前記所定の条件を満たす画素値を有する第2の複数の画素を抽出し、
前記第1及び第2の複数の画素を前記画像データに合成する、
画像処理装置。
【請求項2】
前記プロセッサは、
前記画像データに対して直交変換を実行し、
直交変換された前記画像データにおいて前記第1の周波数以上の周波数帯の成分を増幅させ、前記直交変換の逆変換を実行することによって前記第1の補正画像を生成し、
直交変換された前記画像データにおいて前記第2の周波数以上の周波数帯の成分を増幅させ、前記直交変換の逆変換を実行することによって前記第2の補正画像を生成する、
請求項1に記載の画像処理装置。
【請求項3】
前記プロセッサは、
前記第1の補正画像から、所定の幅にわたって画素値が所定の下限閾値より大きく所定の上限閾値未満であるような画素群を抽出することにより、前記第1の複数の画素を抽出し、
前記第2の補正画像から、前記所定の幅にわたって画素値が前記所定の下限閾値より大きく前記所定の上限閾値未満であるような画素群を抽出することにより、前記第2の複数の画素を抽出する、
請求項1に記載の画像処理装置。
【請求項4】
前記プロセッサは、前記被写体の光に対するインパルス応答の検知結果に基づいて、前記第1及び第2の周波数を決定する、請求項1に記載の画像処理装置。
【請求項5】
プロセッサによって、記憶装置に記憶された被写体が写る画像データに対して画像処理を実行する画像処理方法であって、
前記画像データに対して、第1の周波数以上の周波数帯の成分を増幅させる第1の高域強調処理を実行して第1の補正画像を生成し、
前記画像データに対して、前記第1の周波数と異なる第2の周波数以上の周波数帯の成分を増幅させる第2の高域強調処理を実行して第2の補正画像を生成し、
前記第1の補正画像から、所定の条件を満たす画素値を有する第1の複数の画素を抽出し、
前記第2の補正画像から、前記所定の条件を満たす画素値を有する第2の複数の画素を抽出し、
前記第1及び第2の複数の画素を前記画像データに合成することを含む、
画像処理方法。
【請求項6】
前記第1の補正画像を生成することは、前記画像データに対して直交変換を実行し、直交変換された前記画像データにおいて前記第1の周波数以上の周波数帯の成分を増幅させ、前記直交変換の逆変換を実行することを含み、
前記第2の補正画像を生成することは、直交変換された前記画像データにおいて前記第2の周波数以上の周波数帯の成分を増幅させ、前記直交変換の逆変換を実行することを含む、
請求項5に記載の画像処理方法。
【請求項7】
前記第1の複数の画素を抽出することは、前記第1の補正画像から、所定の幅にわたって画素値が所定の下限閾値より大きく所定の上限閾値未満であるような画素群を抽出することを含み、
前記第2の複数の画素を抽出することは、前記第2の補正画像から、前記所定の幅にわたって画素値が前記所定の下限閾値より大きく前記所定の上限閾値未満であるような画素群を抽出することを含む、
請求項5に記載の画像処理方法。
【請求項8】
前記被写体の光に対するインパルス応答の検知結果に基づいて、前記第1及び第2の周波数を決定することを含む、
請求項5に記載の画像処理方法。
【発明の詳細な説明】
【技術分野】
【0001】
本開示は、画像処理装置及び画像処理方法に関する。
【背景技術】
【0002】
画像内に映る不鮮明な被写体を鮮明化する技術が知られている。例えば、特許文献1は、2種類の波長の光を照射することによって2種類の画像を取得し、これらの画像の減算により、深層に存在する血管画像のみを適切に観察可能な深部画像を取得する画像取得方法および画像撮像装置を開示する。
【先行技術文献】
【特許文献】
【0003】
【発明の概要】
【発明が解決しようとする課題】
【0004】
本開示は、画像内の被写体を鮮明化する画像処理装置及び画像処理方法を提供することを目的とする。
【課題を解決するための手段】
【0005】
本開示の一態様は、プロセッサと、記憶装置とを備える画像処理装置を提供する。前記プロセッサは、
被写体が写る画像データを取得し、
前記画像データに対して、第1の周波数以上の周波数帯の成分を増幅させる第1の高域強調処理を実行して第1の補正画像を生成し、
前記画像データに対して、前記第1の周波数と異なる第2の周波数以上の周波数帯の成分を増幅させる第2の高域強調処理を実行して第2の補正画像を生成し、
前記第1の補正画像から、所定の条件を満たす画素値を有する第1の複数の画素を抽出し、
前記第2の補正画像から、前記所定の条件を満たす画素値を有する第2の複数の画素を抽出し、
前記第1及び第2の複数の画素を前記画像データに合成する。
【0006】
本開示の他の態様は、プロセッサによって、記憶装置に記憶された被写体が写る画像データに対して画像処理を実行する画像処理方法を提供する。画像処理方法は、
前記画像データに対して、第1の周波数以上の周波数帯の成分を増幅させる第1の高域強調処理を実行して第1の補正画像を生成し、
前記画像データに対して、前記第1の周波数と異なる第2の周波数以上の周波数帯の成分を増幅させる第2の高域強調処理を実行して第2の補正画像を生成し、
前記第1の補正画像から、所定の条件を満たす画素値を有する第1の複数の画素を抽出し、
前記第2の補正画像から、前記所定の条件を満たす画素値を有する第2の複数の画素を抽出し、
前記第1及び第2の複数の画素を前記画像データに合成することを含む。
【発明の効果】
【0007】
本開示に係る画像処理装置及び画像処理方法によれば、画像内の被写体を鮮明化することができる。
【図面の簡単な説明】
【0008】
【
図1】本開示の実施形態に係る画像処理装置の構成例を示すブロック図
【
図2】
図1の画像処理装置のプロセッサによって実行される画像処理の手順を例示するフローチャート
【
図3】人の体表面を撮影することにより得られた撮像画像の一例を示す模式図
【
図6】ステップS5の浅部血管画素群の抽出方法を説明するための模式図
【
図7】ステップS7で生成された合成画像の一例を示す模式図
【
図8】本開示の実施形態に係るパラメータ決定システムの構成を例示する模式図
【
図9】
図8のパラメータ決定装置のプロセッサによって実行されるパラメータ決定処理の手順を例示するフローチャート
【
図10】模擬浅部血管の特性を示す周波数応答H
1(ω)と、浅部血管用高域強調器の周波数特性G
1(ω)とを例示する模式的なグラフ
【
図11】模擬深部血管の特性を示す周波数応答H
2(ω)と、深部血管用高域強調器の周波数特性G
2(ω)とを例示する模式的なグラフ
【
図12】本開示の実施形態の変形例に係る画像処理装置の構成例を示すブロック図
【
図13】互いに異なる深度に位置する2つの血管が通る生体の撮像の様子を説明するための模式図
【発明を実施するための形態】
【0009】
(本開示の基礎となった知見)
従来技術においては、
図13に示すようにカメラ51等の撮像装置により生体内部の被写体を撮像して画像データを生成した場合、遮蔽物による光の減衰、散乱等のため、被写体が不鮮明に写ってしまうという課題がある。ここで、「被写体」の一例は、血管、骨、内臓等の組織であり、「遮蔽物」の一例は、被写体を覆う皮膚、脂肪、筋肉等の組織である。
【0010】
図13は、体表面50から互いに異なる深度に位置する2つの血管V1,V2が通る生体を模式的に示している。カメラ51を基準とすると、血管V1,V2は、体表面50に存在する皮膚等により遮蔽されている。したがって、カメラ51によって撮像された撮像画像では、
図3に示すように、体表面50の近くにある浅部血管V1に比べて、深部にある深部血管V2が不鮮明となり、深部血管V2として明確に判別できないことがある。浅部血管V1も、皮膚等に覆われているため不鮮明となることがある。
【0011】
本発明者らは、上記課題を解決するために、画像内の被写体を鮮明化する画像処理装置及び画像処理方法を見出した。
【0012】
以下、適宜図面を参照しながら、本開示の実施形態を詳細に説明する。但し、必要以上に詳細な説明は省略する場合がある。例えば、既によく知られた事項の詳細説明や実質的に同一の構成に対する重複説明を省略する場合がある。これは、以下の説明が不必要に冗長になるのを避け、当業者の理解を容易にするためである。なお、出願人は、当業者が本開示を十分に理解するために添付図面および以下の説明を提供するのであって、これらによって特許請求の範囲に記載の主題を限定することを意図するものではない。
【0013】
(実施形態)
[1.構成]
図1は、本開示の実施形態に係る画像処理装置100の構成例を示すブロック図である。画像処理装置100は、プロセッサ1と、記憶装置2と、入力インタフェース(I/F)3と、出力インタフェース(I/F)4とを備える。
【0014】
プロセッサ1は、情報処理を行って後述する画像処理装置100の機能を実現する。このような情報処理は、例えば、プロセッサ1が記憶装置2に格納されたプログラム21の指令に従って動作することにより実現される。プロセッサ1は、CPU、MPU、FPGA等の回路で構成される。
【0015】
記憶装置2は、画像処理装置100の機能を実現するために必要なプログラム21及びデータを含む種々の情報を記録する記録媒体である。記憶装置2は、例えば、フラッシュメモリ、ソリッド・ステート・ドライブ(SSD)等の半導体記憶装置、ハードディスクドライブ(HDD)等の磁気記憶装置、その他の記録媒体単独で又はそれらを組み合わせて実現される。記憶装置2は、SRAM、DRAM等の揮発性メモリを含んでもよい。
【0016】
入力インタフェース3は、撮像画像データ11等の情報を画像処理装置100に入力するために、画像処理装置100と外部機器とを接続するインタフェース回路である。このような外部機器は、例えば、図示しない他の情報処理端末、撮像画像データ11を取得するカメラ等の装置である。入力インタフェース3は、既存の有線通信規格又は無線通信規格に従ってデータ通信を行う通信回路であってもよい。
【0017】
出力インタフェース4は、画像処理装置100から情報を出力するために、画像処理装置100と外部の出力装置とを接続するインタフェース回路である。このような出力装置は、例えばディスプレイ52である。出力インタフェース4は、既存の有線通信規格又は無線通信規格に従ってネットワーク53に接続されてデータ通信を行う通信回路であってもよい。入力インタフェース3及び出力インタフェース4は、同様のハードウェアにより実現されてもよい。
【0018】
[2.動作]
図2は、
図1の画像処理装置100のプロセッサ1によって実行される画像処理の手順を例示するフローチャートである。
【0019】
図2のステップS1において、プロセッサ1は、被写体が写る撮像画像データ11を取得し、記憶装置2に格納する。撮像画像データ11は、
図1に示すように入力インタフェース3を介してプロセッサ1に入力されてもよいし、記憶装置2に予め格納されていてもよい。なお、本明細書では、撮像画像データ11によって表される画像についても、同じ参照符号を用いて「撮像画像11」と表現することがある。
【0020】
図3は、人の体表面を撮影することにより得られた撮像画像11の一例を示す模式図である。撮像画像11には、体表面の近くにある浅部血管V1を示す浅部血管画像と、体表面から見て浅部血管V1より深部にある深部血管V2を示す深部血管画像とが例示されている。なお、本明細書では、浅部血管V1を示す浅部血管画像と、深部血管V2を示す深部血管画像についても、同じ参照符号を用いて「浅部血管画像V1」、「深部血管画像V2」と表現することがある。
【0021】
図3では、模式的に、血管画像の鮮明な部分を黒塗りで示し、不鮮明な部分は網掛けで示している。また、
図3には、説明の便宜上、水平方向及び垂直方向の画像座標軸u,vを示している。
図3における撮像画像11の上方の波形は、撮像画像11の水平方向(u方向)の座標に対応する画素値分布P1,P2を模式的に示している。画素値分布P1,P2は、血管画像V1,V2にそれぞれ対応している。なお画素値の一例は、輝度レベル、RGB値、CMYK値、信号レベル等である。
【0022】
撮像画像11では、皮下にある血管画像V1,V2は、皮膚、及び、皮膚と血管との間の皮下組織による光の減衰、散乱等のため画像がボケて不鮮明となっている。
図3では、深部血管画像V2は、浅部血管画像V1に比べて特に不鮮明であり、コントラストが低い。
【0023】
ステップS2において、プロセッサ1は、ステップS1で取得された撮像画像データ11に対して、高速フーリエ変換(Fast Fourier Transform、FFT)処理を行う。
【0024】
ステップS3において、プロセッサ1は、FFT出力に対して、周波数ω
c1以上の帯域を強調(又は増幅)する浅部血管用高周波領域(以下、「高域」という。)強調処理を適用し、強調された信号に逆FFT処理を適用し、
図4に示すような浅部血管補正画像12を生成する。本明細書では、周波数ω
c1のように強調される帯域の基準となる周波数を「カットオフ周波数」又は「遮断周波数」と呼ぶことがある。カットオフ周波数は、高域強調処理後の信号の所定利得又は最大利得に比べて、利得が所定割合、例えば-3dBとなる周波数を表す。なお、浅部血管補正画像12は、周波数ω
c1をカットオフ周波数とするハイパスフィルタを用いてフィルタリングした撮像画像データ11の画素値を、撮像画像データ11の画素値に足し合わせることによって生成されてもよい。カットオフ周波数ω
c1は、本開示の「第1の周波数」の一例である。
【0025】
FFT出力に浅部血管用高域強調処理を適用すると、FFT出力の周波数成分のうち、カットオフ周波数ωc1以上の周波数帯の成分について、1より大きい利得が得られる。すなわち、浅部血管用高域強調処理により、カットオフ周波数ωc1以上の周波数帯の成分は、元の値よりも大きい値に増幅される。利得は、周波数ごとに異なってもよいし、カットオフ周波数ωc1以上の周波数において一定値であってもよい。
【0026】
図4では、
図3と同様に、画素値分布P3,P4は、血管画像V1,V2にそれぞれ対応している。カットオフ周波数ω
c1は、後述のように、特に浅部血管画像V1を鮮明化するように予め決定されている。したがって、
図3の撮像画像11と比較すると、
図4の浅部血管補正画像12では、特に浅部血管画像V1全体のコントラストが高くなり、鮮明化されている。なお、深部血管画像V2の画素値も浅部血管用高域強調処理の適用によって影響を受け、深部血管V2の深度によっては、鮮明化され得る。
【0027】
ステップS4において、プロセッサ1は、ステップS2で生成されたFFT出力に対して、カットオフ周波数ω
c2以上の帯域を強調(又は増幅)する深部血管用高域強調処理を適用し、強調された信号に逆FFT処理を適用し、
図5に示すような深部血管補正画像13を生成する。カットオフ周波数ω
c2は、本開示の「第2の周波数」の一例である。カットオフ周波数ω
c2は、後述のように、特に深部血管画像V2を鮮明化するように予め決定されている。したがって、
図3の撮像画像11と比較すると、
図5の深部血管補正画像13では、深部血管画像V2全体のコントラストが高くなり、鮮明化されている。前述のカットオフ周波数ω
c1とカットオフ周波数ω
c2との間には、例えばω
c1>ω
c2の関係がある。なお、深部血管補正画像13は、周波数ω
c2をカットオフ周波数とするハイパスフィルタを用いてフィルタリングした撮像画像データ11の画素値を、撮像画像データ11の画素値に足し合わせることによって生成されてもよい。
【0028】
本明細書では、ステップS2のFFT処理と、ステップS3の浅部血管補正画像12の生成処理とを組み合わせて「第1の高域強調処理」と呼ぶ場合がある。即ち、第1の高域強調処理は、撮像画像データ11に対し、カットオフ周波数ωc1以上の周波数帯の成分を増幅させて浅部血管補正画像12を生成する処理である。同様に、本明細書では、ステップS2のFFT処理と、ステップS4の深部血管補正画像13の生成処理とを組み合わせて「第2の高域強調処理」と呼ぶ場合がある。即ち、第2の高域強調処理は、撮像画像データ11に対し、カットオフ周波数ωc2以上の周波数帯の成分を増幅させて深部血管補正画像13を生成する処理である。
【0029】
ステップS5において、プロセッサ1は、ステップS3で生成された浅部血管補正画像12から、所定の幅Wにわたって画素値が下限閾値P
th1より大きく上限閾値P
th2未満であるような浅部血管画素群を抽出する。
図4に示した例では、血管画像V1,V2のうち、上記条件を満たす画素値分布P3を有する浅部血管画像V1のみが、ステップS5において浅部血管画素群として抽出される。
【0030】
下限閾値Pth1は、所定の幅Wにわたる画素群の画素値が下限閾値Pth1以下の場合に当該画素群が不鮮明となる基準値として予め定められてもよい。このような下限閾値Pth1は、例えば、観察者にとって所定の幅Wにわたる画素群が不鮮明に見えるか否かを、下限閾値を変更させながら実験することによって決定される。上限閾値Pth2は、所定の幅Wにわたる画素群の画素値が下限閾値Pth2より以上の場合に当該画素群がノイズを含むと判断される準値として予め定められてもよい。このような下限閾値Pth2は、例えば、観察者にとって所定の幅Wにわたる画素群がノイズを含むように見えるか否かを、下限閾値を変更させながら実験することによって決定される。
【0031】
浅部血管補正画像12から画素値が下限閾値P
th1より大きい画素群を抽出することにより、下限閾値P
th1以下の不鮮明な画像を抽出することを防ぐことができる。また、画素値が上限閾値P
th2未満の画素群を抽出することにより、ノイズが乗った画像を抽出することを防ぐことができる。これにより、高域強調処理の適用により鮮明化された血管画像を抽出することができる。以下、
図6を参照して、画素値分布が上記条件を満たすか否かをプロセッサ1によって判断する方法について説明する。
【0032】
図6は、ステップS5の浅部血管画素群の抽出方法を説明するための模式図である。
図6のグラフは、横軸uに対する画素値分布P(u)を示している。プロセッサ1は、以下の手順で画素値分布P(u)が下限閾値P
th1より大きく上限閾値P
th2未満であるような画素群を抽出する。
【0033】
まず、プロセッサ1は、画素値分布P(u)のピークpを検出する。次に、プロセッサ1は、ピークpの画素値Ppが下限閾値Pth1より大きく上限閾値Pth2未満であるか否かを判断する。画素値Ppがこの範囲にない場合、プロセッサ1は画素値分布P(u)を抽出されるべき画素群としない。
【0034】
次に、プロセッサ1は、ピークpからそれぞれW/2離れた点p-,p+を設定し、ピークpの画素値Ppと点p-の画素値との差の絶対値Δp-、及びピークpの画素値Ppと点p+の画素値との差の絶対値Δp+が共に所定の閾値未満であるか否かを判断する。Δp-又はΔp+が所定の閾値以上である場合、プロセッサ1は画素値分布P(u)を抽出されるべき画素群としない。
【0035】
プロセッサ1は、以上のような条件を満たす画素群を決定することにより、所定の幅Wにわたって画素値が下限閾値Pth1より大きく上限閾値Pth2未満であるような浅部血管画素群を抽出することができる。これにより、ステップS5において不鮮明な血管画像、ノイズ等の不適切画像が抽出され、後述のステップS7でこのような不適切画像が撮像画像データ11に合成されることを防止することができる。なお、所定の幅Wは、上記のように水平方向(u方向)の幅に限定されず、垂直方向(v方向)の幅又は斜め方向の幅であってもよい。
【0036】
図2のステップS6において、プロセッサ1は、ステップS4で生成された深部血管補正画像13から、所定の幅Wにわたって画素値が下限閾値P
th1より大きく上限閾値P
th2未満であるような深部血管画素群を抽出する。深部血管画素群の抽出方法は、ステップS5で説明した浅部血管画素群の抽出方法と同様である。
図5に示した例では、血管画像V1,V2のうち、上記条件を満たす画素値分布P6を有する深部血管画像V2のみが、ステップS6において深部血管画素群として抽出される。
【0037】
次のステップS7において、プロセッサ1は、ステップS5,S6でそれぞれ抽出された浅部血管画素群及び深部血管画素群を、撮像画像データ11に合成して合成画像14を生成する。合成処理においては、プロセッサ1は、抽出された浅部血管画素群及び深部血管画素群の情報を、位置については変更することなく、撮像画像データ11に上書きする。具体的には、プロセッサ1は、浅部血管画素群の情報を撮像画像データ11に上書きする場合、浅部血管画素群の各画素の座標を特定し、撮像画像データ11の、特定された座標と同一の座標を有する画素の画素値を、特定された画素の画素値に書き換える。なお、浅部血管画素群の各画素の座標を特定する方法の一例としては、
図6に示したピークpに対応するu方向座標u
pから算出されるu
p+W/2、u
p-W/2を元に特定する例が挙げられる。
【0038】
図7は、ステップS7で生成された合成画像14の一例を示す模式図である。プロセッサ1は、抽出された浅部血管画素群及び深部血管画素群を、撮像画像データ11に合成することにより、合成画像14において、様々な深度にある浅部血管画像V1及び深部血管画像V2のいずれをも鮮明化することができる。
【0039】
なお、ステップS5,S6でそれぞれ抽出された浅部血管画素群及び深部血管画素群が競合する可能性がある。例えば、ステップS5,S6のいずれにおいても、同一の血管を示す画素群が抽出され得る。このような場合、プロセッサ1は、例えば浅部血管補正画像12及び深部血管補正画像13の両方をディスプレイ52に表示し、ステップS7で浅部血管画素群及び深部血管画素群のいずれを撮像画像データ11に合成するかをユーザに選択させてもよい。ユーザが選択した画素群の情報がマウス、キーボード等の外部装置から入力I/F3を介してプロセッサ1に入力されると、プロセッサ1は、入力情報に基づいて選択された画素群を撮像画像データ11に合成する。
【0040】
あるいは、浅部血管画素群及び深部血管画素群が競合した場合に浅部血管画素群及び深部血管画素群のいずれを撮像画像データ11に合成するかは、予め決定されていてもよい。この場合、プロセッサ1は、浅部血管画素群及び深部血管画素群が競合する場合、予め決定された画素群を撮像画像データ11に合成する。あるいは、浅部血管画素群及び深部血管画素群が競合した場合、プロセッサ1は、浅部血管補正画像12又は深部血管補正画像13においてよりコントラストが高い方の画素群を選択し、選択された画素群を撮像画像データ11に合成してもよい。
【0041】
上記の例では、ステップS7では、ステップS5,S6でそれぞれ抽出された浅部血管画素群及び深部血管画素群を、撮像画像データ11に合成して合成画像14を生成することを説明したが、本開示の「合成」はこれに限定されない。例えば、合成は、ステップS5,S6でそれぞれ抽出された浅部血管画素群及び深部血管画素群を単に並べて表示可能にすることを含む。この場合、並べられた浅部血管画素群及び深部血管画素群は、ディスプレイ52に表示される。このような合成によっても、撮像画像11内の血管は鮮明化され、ユーザは撮像画像11内の血管を容易に識別することができるようになる。このように、本開示では、浅部血管画素群及び深部血管画素群の両方が表示可能であればよく、これらが1枚の画像に統合されることは必須ではない。
【0042】
以上のように、
図2を用いて、プロセッサ1によって実行される画像処理の手順を例示したが、ステップS1~S7の実行順は、
図2に示したものに限定されない。例えば、ステップS3及びS4は、ステップS2の後に実行されればよく、ステップS4は、
図2の例と異なりステップS3より前に、又はステップS3と同時に実行されてもよい。また、ステップS5は、ステップS3の後に実行されればよく、
図2の例と異なりステップS4より前に、又はステップS4と同時に実行されてもよい。さらに、ステップS6は、ステップS4の後に実行されればよく、
図2の例と異なりステップS5より前に、又はステップS5と同時に実行されてもよい。
【0043】
本明細書では、浅部血管補正画像12及び深部血管補正画像13は、それぞれ第1の補正画像及び第2の補正画像と呼ばれることがある。さらに、本明細書では、浅部血管画素群は、第1の画素群又は第1の複数の画素と呼ばれることがあり、深部血管画素群は、第2の画素群又は第2の複数の画素と呼ばれることがある。
【0044】
[3.高域強調器の準備]
前述のように、浅部血管用高域強調処理及び深部血管用高域強調処理のカットオフ周波数ω
c1,ω
c2は、予め決定される。浅部血管用高域強調処理及び深部血管用高域強調処理のカットオフ周波数ω
c1,ω
c2には、予め設定された任意の値が採用されてもよい。ただし、以下に示すように、模擬生体Lsを用いてカットオフ周波数ω
c1,ω
c2等の浅部血管用高域強調処理及び深部血管用高域強調処理に関するパラメータを決定すると、より鮮明な画像を得ることができる。以下、
図8及び
図9を参照して、模擬生体Lsを用いてカットオフ周波数ω
c1,ω
c2等のパラメータを決定する方法の一例について説明する。
【0045】
図8は、カットオフ周波数ω
c1,ω
c2等の浅部血管用高域強調処理及び深部血管用高域強調処理に関するパラメータを決定するパラメータ決定システム200の構成を例示する模式図である。パラメータ決定システム200は、パラメータ決定装置210と、光源60と、光センサ62とを備える。パラメータ決定装置210は、プロセッサ201と、プログラム221を格納する記憶装置2と、入力I/F3と、出力I/F4とを備える情報処理装置である。パラメータ決定装置210は、
図1の画像処理装置100と同様の構成を有してもよい。また、パラメータ決定システム200では、パラメータ決定装置210の代わりに画像処理装置100に光源60と光センサ62を備えたものを用いてもよい。
【0046】
光源60は、特定の波長を有するインパルス光を照射可能なインパルス光源であり、例えばレーザダイオード、発光ダイオードで構成される。光センサ62は、光源60から照射される特定の波長の光に対応する反射光を検出可能なセンサであり、例えばフォトダイオードを含む。「インパルス光」は、光源60から超短時間で放射される光である。「超短時間」とは、次に説明する生体を模した模擬生体Lsのインパルス応答を取得可能な程度の短い時間、という意味である。
【0047】
図9は、
図8のプロセッサ201によって実行されるパラメータ決定処理の手順を例示するフローチャートである。まず、
図9のステップS21において、プロセッサ201は、光源60に制御信号を送信し、光源60に、生体を模した模擬生体Lsに対してインパルス光を照射させる。模擬生体Lsは、
図8に示すように、血管を模した模擬血管Vsの上に、皮膚等の遮蔽物を模した模擬遮蔽物Ssの層を積層することによって実現される。模擬生体Lsでは、模擬遮蔽物Ssの厚さTを調整することにより、浅部血管V1を模した模擬浅部血管、及び深部血管V2を模した模擬深部血管を実現することができる。
【0048】
図9のステップS22において、プロセッサ201は、光センサ62から、反射光の検知結果(インパルス応答)を取得する。
【0049】
次のステップS23において、プロセッサ201は、ステップS22で取得した反射光の検知結果に対してFFT処理を実行し、周波数応答H(ω)を得る。ここで、ωは角周波数又は周波数である。
【0050】
模擬浅部血管からの反射光の検知結果に対してFFT処理を実行すると、模擬浅部血管の特性を示す周波数応答H1(ω)が得られる。周波数応答H1(ω)は、模擬浅部血管の周波数特性を示す有限インパルス応答(Finite Impulse Response、FIR)型ローパスフィルタともいえる。同様に、模擬深部血管からの反射光の検知結果に対してFFT処理を実行すると、模擬深部血管の特性を示す周波数応答H2(ω)が得られる。周波数応答H2(ω)は、模擬深部血管の周波数特性を示すFIR型ローパスフィルタともいえる。なお、本実施形態ではFIR型ローパスフィルタを取得する例を示したが、これに代えて無限インパルス応答(Infinite Impulse Response、IIR)型ローパスフィルタを取得してもよい。
【0051】
次のステップS24において、プロセッサ201は、ステップS23で得られた周波数応答H(ω)の逆特性となるωの周波数特性G(ω)を求める。逆特性とは、周波数応答H(ω)に対応するFIR型ローパスフィルタで阻止域となっている周波数帯域の利得が、FIR型ローパスフィルタで通過域となっている周波数帯域の利得より大きいような周波数特性を意味する。このようなFIR型ローパスフィルタの逆特性の周波数特性G(ω)は、ハイパスフィルタ又は高域強調器様の周波数特性を有するといえる。ステップS24では、模擬浅部血管の特性を示す周波数応答H1(ω)に対しては浅部血管用高域強調器の周波数特性G1(ω)が得られ、模擬深部血管の特性を示す周波数応答H2(ω)に対しては深部血管用高域強調器の周波数特性G2(ω)が得られる。
【0052】
プロセッサ201は、浅部血管用高域強調器の周波数特性G
1(ω)と深部血管用高域強調器の周波数特性G
2(ω)とを記憶装置202に格納する。記憶装置202に格納された周波数特性は、例えば
図1の画像処理装置100の記憶装置2に移され、画像処理装置100において利用される。
【0053】
図10は、模擬浅部血管の特性を示す周波数応答H
1(ω)と、浅部血管用高域強調器の周波数特性G
1(ω)とを例示する模式的なグラフである。プロセッサ201は、例えば、周波数特性G
1(ω)の利得が最大利得G
1,maxから3dB低下する周波数ω
c1を浅部血管用高域強調器のカットオフ周波数とする。
【0054】
図11は、模擬深部血管の特性を示す周波数応答H
2(ω)と、深部血管用高域強調器の周波数特性G
2(ω)とを例示する模式的なグラフである。プロセッサ201は、例えば、周波数特性G
2(ω)の利得が最大利得G
2,maxから3dB低下する周波数ω
c2を深部血管用高域強調器のカットオフ周波数とする。
【0055】
以上のように、
図8に示すような模擬遮蔽物Ssの厚さTを異にする複数の模擬生体Lsを準備し、各模擬生体Lsに対して
図9に例示した処理を実行することにより、各厚さTに相当する深度の血管画像を明確化可能な複数の高域強調器を得ることができる。なお、上記の例では、複数の高域強調器のカットオフ周波数ω
c1,ω
c2は、それぞれ、周波数特性G
1(ω),G
2(ω)において利得が最大利得G
1,max、G
2,maxから3dB低下する周波数としているが、本実施形態はこれに限定されない。例えば、周波数特性G
1(ω)において利得が最大値から設定した任意の利得分低下する周波数をカットオフ周波数ω
c1としてもよい。同様に、周波数特性G
2(ω)において利得が最大値から設定した任意の利得分低下する周波数をカットオフ周波数ω
c2としてもよい。
【0056】
[4.効果等]
以上のように、画像処理装置100において、プロセッサ1は、血管が写る撮像画像データ11に対して、カットオフ周波数ωc1以上の周波数帯の成分を増幅させる第1の高域強調処理を実行して浅部血管補正画像12を生成する。また、プロセッサ1は、撮像画像データ11に対して、カットオフ周波数ωc2以上の周波数帯の成分を増幅させる第2の高域強調処理を実行して深部血管補正画像13を生成する。次に、プロセッサ1は、浅部血管補正画像12から、所定の条件を満たす画素値を有する浅部血管画素群を抽出し、深部血管補正画像13から、所定の条件を満たす画素値を有する深部血管画素群を抽出する。プロセッサ1は、浅部血管画素群及び深部血管画素群を撮像画像データ11に合成する。
【0057】
この構成により、画像処理装置100は、撮像画像データ11において、浅部血管V1及び深部血管V2の両方を高域強調処理により鮮明化することができる。
【0058】
プロセッサ1は、撮像画像データ11に対してFFT処理を実行してもよい。プロセッサ1は、FFT出力においてカットオフ周波数ωc1以上の周波数帯の成分を増幅させ、逆FFT処理を実行することによって浅部血管補正画像12を生成してもよい。プロセッサ1は、FFT出力においてカットオフ周波数ωc2以上の周波数帯の成分を増幅させ、逆FFT処理を実行することによって深部血管補正画像13を生成してもよい。この構成によると、画像内の被写体をより鮮明化することが可能である。
【0059】
プロセッサ1は、浅部血管補正画像12から、所定の幅Wにわたって画素値が所定の下限閾値Pth1より大きく所定の上限閾値Pth2未満であるような画素群を抽出することにより、浅部血管画素群を抽出してもよい。プロセッサ1は、深部血管補正画像13から、幅Wにわたって画素値が下限閾値Pth1より大きく上限閾値Pth2未満であるような画素群を抽出することにより、深部血管画素群を抽出してもよい。
【0060】
この構成により、画像処理装置100は、浅部血管補正画像12及び深部血管補正画像13のそれぞれから、血管の深度に応じて適切に鮮明化された血管画素分を抽出することができる。特に、画像処理装置100は、幅Wにわたって画素値が下限閾値Pth1より大きく上限閾値Pth2未満であるような画素群を抽出する。下限閾値Pth1より大きい画素群を抽出することにより、下限閾値Pth1以下の不鮮明な画像を抽出することを防ぐことができる。また、上限閾値Pth2未満の画素群を抽出することにより、ノイズが乗った画像を抽出することを防ぐことができる。したがって、画像処理装置100は、不鮮明な血管画像、ノイズ等の不適切画像が抽出されて撮像画像データ11に合成されることを防止することができる。
【0061】
(他の実施形態)
以上のように、本出願において開示する技術の例示として、上記実施形態を説明した。しかしながら、本開示における技術は、これに限定されず、適宜、変更、置き換え、付加、省略などを行った実施形態にも適用可能である。そこで、以下、他の実施形態を例示する。
【0062】
上記実施形態では、ステップS2のFFT処理、ステップS3,S4に含まれる高域強調処理及び逆FFT処理が、プロセッサ1が記憶装置2に格納されたプログラム21の指令に従って動作することにより実現されることについて説明した。しかしながら、これらの処理は、上記のようにハードウェア資源とソフトウェアとの協働により実現される必要はなく、専用のハードウェア資源によって実現されてもよい。あるいは、これらの処理の一部がプロセッサ1により実現され、残りの部分が専用のハードウェア資源によって実現されてもよい。
【0063】
図12は、このような上記実施形態の変形例に係る画像処理装置100aの構成例を示すブロック図である。画像処理装置100aは、
図1の画像処理装置100と比較して、FFT回路5と、互いに異なるカットオフ周波数を有する高域強調器6a,6bと、逆FFT回路7とを更に備える。
【0064】
本変形例では、ステップS2のFFT処理は、プロセッサ1が撮像画像データ11をFFT回路5に入力することによって行われてもよい。また、本変形例では、ステップS3に含まれる浅部血管用高域強調処理は、プロセッサ1がFFT回路5の出力を高域強調器6aに入力することによって行われてもよい。ステップS3に含まれる逆FFT処理は、プロセッサ1が高域強調器6aの出力を逆FFT回路7に入力することによって行われてもよい。
【0065】
同様に、本変形例では、ステップS4に含まれる深部血管用高域強調処理は、プロセッサ1がFFT回路5の出力を高域強調器6bに入力することによって行われてもよい。ステップS4に含まれる逆FFT処理は、プロセッサ1が高域強調器6bの出力を逆FFT回路7に入力することによって行われてもよい。
【0066】
上記実施形態では、プロセッサ1が2つの血管深度にそれぞれ対応する浅部血管用高域強調処理及び深部血管用高域強調処理を行う例について説明したが、本開示はこれに限定されず、プロセッサ1は3以上の種類の高域強調器処理を行ってもよい。この場合、3以上の様々な血管深度にそれぞれ対応した高域強調器が準備される。この構成によれば、撮像画像11において、様々な血管深度を有する血管を鮮明化することができる。
【0067】
上記実施形態では、被写体として血管について説明し、特に、体表面の近くにある浅部血管V1と、浅部血管V1より深部にある深部血管V2とを鮮明化する例について説明した。しかしながら、本開示はこれに限定されず、被写体は、血管以外の物であってもよい。例えば、画像処理装置100は、撮像画像においてピントの合っていない人、動物、建物、天体等の被写体を、
図2の処理により鮮明化することにも適用可能である。また、撮像画像データ11は、可視光、赤外光、紫外光を撮像することにより得られたものに限定されず、例えば超音波エコー信号に基づいて生成される超音波エコー画像であってもよい。
【0068】
上記実施形態では、
図2のステップS2においてFFT処理を実行し、ステップS3,S4において逆FFT処理を実行する例について説明したが、本開示はこれに限定されない。例えば、プロセッサ1は、ステップS2においてFFT以外の直交変換を実行し、ステップS3,S4において当該直交変換の逆変換を実行してもよい。直交変換は、例えば離散フーリエ変換(Discrete Fourier Transform、DFT)を含む。
【0069】
上記実施形態では、
図10及び
図11に示すように、全周波数領域において1以上の利得を有する浅部血管用高域強調器及び深部血管用高域強調器について説明した。しかしながら、本開示の浅部血管用高域強調器、浅部血管用高域強調処理、深部血管用高域強調処理、及び深部血管用高域強調器はこれに限定されず、低周波領域(以下、「低域」という。)に比べて高域を強調又は増幅可能なものであればよい。このような構成によっても、撮像画像データ11において低域に比べて高域を強調可能であり、浅部血管V1及び深部血管V2を鮮明化することができる。
【0070】
例えば、浅部血管用高域強調器の周波数特性G
1(ω)の利得(
図10参照)は、周波数ω
c1以下の領域では1以下であり、周波数ω
c1より高い領域では1より大きくてもよい。深部血管用高域強調器の周波数特性G
2(ω)の利得(
図11参照)についても同様であり、周波数ω
c2以下の領域では1以下であり、周波数ω
c2より高い領域では1より大きくてもよい。さらに、本開示の浅部血管用高域強調器及び深部血管用高域強調器は、周波数特性G
1(ω),G
2(ω)の利得が全周波数領域において1以下であるハイパスフィルタであってもよい。
【産業上の利用可能性】
【0071】
本開示は、画像処理技術に適用可能である。
【符号の説明】
【0072】
1 プロセッサ
2 記憶装置
3 入力I/F
4 出力I/F
5 FFT回路
6a,6b 高域強調器
7 逆FFT回路
11 撮像画像データ
12 浅部血管補正画像
13 深部血管補正画像
14 合成画像
21 プログラム
50 体表面
51 カメラ
52 ディスプレイ
53 ネットワーク
60 光源
62 光センサ
100 画像処理装置
200 パラメータ決定システム
201 プロセッサ
202 記憶装置
210 パラメータ決定装置
221 プログラム