(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公表特許公報(A)
(11)【公表番号】
(43)【公表日】2024-07-12
(54)【発明の名称】カメラ観察からの信号抽出
(51)【国際特許分類】
G06T 7/00 20170101AFI20240705BHJP
G06T 7/60 20170101ALI20240705BHJP
G06V 10/25 20220101ALI20240705BHJP
【FI】
G06T7/00 660A
G06T7/60 300A
G06V10/25
G06T7/60 150S
【審査請求】未請求
【予備審査請求】未請求
(21)【出願番号】P 2024503439
(86)(22)【出願日】2022-07-22
(85)【翻訳文提出日】2024-01-18
(86)【国際出願番号】 EP2022070572
(87)【国際公開番号】W WO2023001997
(87)【国際公開日】2023-01-26
(32)【優先日】2021-07-23
(33)【優先権主張国・地域又は機関】EP
(81)【指定国・地域】
(71)【出願人】
【識別番号】590000248
【氏名又は名称】コーニンクレッカ フィリップス エヌ ヴェ
【氏名又は名称原語表記】Koninklijke Philips N.V.
【住所又は居所原語表記】High Tech Campus 52, 5656 AG Eindhoven,Netherlands
(74)【代理人】
【識別番号】110001690
【氏名又は名称】弁理士法人M&Sパートナーズ
(72)【発明者】
【氏名】ワン ウェンジン
(72)【発明者】
【氏名】デン ブリンカー アルベルトゥス コルネリス
(72)【発明者】
【氏名】ガルシア トルモ アルベルト
(72)【発明者】
【氏名】パップス イオアンニス
(72)【発明者】
【氏名】ウェイス シュテッフェン
(72)【発明者】
【氏名】ウエルベルン ジャン ヘンドリック
(72)【発明者】
【氏名】マズルケウィッツ ピーター シーザー
(72)【発明者】
【氏名】セネガス ジュリアン トーマス
(72)【発明者】
【氏名】ネッシュ トーマス
【テーマコード(参考)】
5L096
【Fターム(参考)】
5L096AA02
5L096AA03
5L096AA06
5L096BA06
5L096CA04
5L096EA39
5L096FA02
5L096FA06
5L096FA34
5L096FA64
5L096FA67
5L096FA69
5L096GA10
5L096GA30
5L096GA51
5L096GA53
5L096GA55
5L096JA09
(57)【要約】
カメラ観察に基づいて診断撮像又は治療処置中の対象者の状態を示す信号を決定する方法100が開示される。方法は、手順中に、対象者の身体部分を、例えば、反射面における反射を介してモニタリングするように構成されたカメラからカメラ画像を取得すること(101)を含む。方法は、関心の身体部分に対応する画像情報を含む画像内の関心領域を画定するために、少なくとも1つの取得したカメラ画像における反射面の形状又は輪郭を検出すること(102)と、関心の身体部分の特徴に対応するピクセルを選択するために、1つ以上のカメラ画像内の関心領域をセグメント化すること(103)とを含む。方法はまた、選択から対象者の状態を示す信号を決定すること(105)を含む。本発明はさらに、対応するデバイス、システム、及びコンピュータプログラムに関する。
【特許請求の範囲】
【請求項1】
遠隔カメラ観察に基づいて診断撮像中又は治療処置中の対象者の状態を示す信号を決定するコンピュータ実装方法であって、
前記診断撮像中又は治療処置中に前記対象者の身体部分を、直接及び/又は反射面における反射を介してモニタリングするカメラからカメラ画像を取得するステップと、
関心の前記身体部分に対応する画像情報を含む前記カメラ画像内の関心領域を画定するために、取得した前記カメラ画像のうちの少なくとも1つにおける前記反射面の形状又は輪郭を検出するステップと、
関心の前記身体部分の特徴に対応する前記関心領域内のピクセル又は1つ以上の領域を選択するために、取得した前記カメラ画像のうちの少なくとも1つにおける検出された前記関心領域をセグメント化するステップと、
選択した前記ピクセル又は領域から前記対象者の前記状態を示す前記信号を決定するステップと、
を含む、コンピュータ実施方法。
【請求項2】
前記カメラは、前記診断撮像中又は治療処置中に前記対象者の身体部分を、反射面における反射を介してモニタリングし、前記反射面の前記形状又は輪郭を検出するステップは、前記反射面のテンプレートを使用するマルチスケール探索を含み、前記マルチスケール探索では、前記カメラ画像内の複数の異なる候補位置と前記テンプレートの複数の異なるスケールとについて対応の尺度が評価されて、前記カメラ画像に対する前記テンプレートの位置及びスケールにおける最適な対応が特定される、請求項1に記載のコンピュータ実施方法。
【請求項3】
前記テンプレートは、前記カメラを使用してキャリブレーション画像を取得し、前記キャリブレーション画像を前記カメラ画像内の前記反射面のサイズに合わせてトリミングし、高周波空間カーネルを適用して低周波成分を抑制することによって構築され、前記検出するステップは、前記対応の尺度を計算する前に、前記高周波空間カーネルを前記カメラ画像に適用するステップを含む、請求項2に記載のコンピュータ実施方法。
【請求項4】
前記検出するステップはさらに、処置を行うための診断撮像又は治療実施システムによって提供される前記処置中の前記対象者の位置に関する情報を考慮する、請求項1から3のいずれか一項に記載のコンピュータ実施方法。
【請求項5】
前記検出するステップは、前記反射面の前記輪郭で囲まれた第1の画像領域、及び/又は、第2の画像領域であって、前記反射面に対する前記第2の画像領域の所定の空間関係を使用することによって、前記反射面を介する反射なしで前記カメラによって前記身体部分が直接観察可能である、当該第2の画像領域を含む、前記関心領域を画定する、請求項1から4のいずれか一項に記載のコンピュータ実施方法。
【請求項6】
前記セグメンテーションは、ピクセル強度に基づいて前記カメラ画像内のピクセルを分類し、及び/又は、前記カメラ画像のシーケンスにおけるピクセル強度の動的変化を解析して、ピクセル又は画像領域が関心の前記身体部分の前記特徴に対応するかどうかを決定する、請求項1から5のいずれか一項に記載のコンピュータ実施方法。
【請求項7】
異なる時間に取得されたカメラ画像間の前記身体部分の又は前記身体部分内の動きを決定するステップを含み、
動きが検出された前記関心領域内のピクセルは、前記セグメンテーションによって決定される前記選択から除外され、
検出された前記動きを使用して、以前に取得した画像に基づく前記セグメンテーションによって決定された前記選択をレジストレーションして、前記画像内の前記身体部分の位置及び/又は他の空間特性の変化を考慮し、
並びに/又は、
前記セグメンテーション及び/若しくは反射面検出は、検出された前記動きが、所定の閾値若しくはバルクの動きを示す他の基準を超えると、再び実行される、
請求項1から6のいずれか一項に記載のコンピュータ実施方法。
【請求項8】
前記動きは、オプティカルフローアルゴリズムによって決定される、請求項7に記載のコンピュータ実施方法。
【請求項9】
前記診断撮像又は治療処置には、磁気共鳴撮像、コンピュータ断層撮影、陽電子放出断層撮影、及び/若しくは単光子放出コンピュータ断層撮影による前記対象者の撮像、並びに/又は外科的及び/若しくは放射線治療介入が含まれる、請求項1から8のいずれか一項に記載のコンピュータ実施方法。
【請求項10】
前記身体部分は、顔又はその一部を含む、請求項1から9のいずれか一項に記載の方法。
【請求項11】
前記信号は、前記対象者の心臓、心血管、及び/若しくは呼吸機能を示すか、光電式容積脈波記録信号であるか、又は前記対象者の生理学的状態及び/若しくはパラメータを示す別の信号である、請求項1から10のいずれか一項に記載のコンピュータ実施方法。
【請求項12】
前記信号は、前記診断撮像に使用されるシステムによるデータ取得をゲーティングするために使用されるか、前記治療処置の実施を制御するために使用されるか、並びに/又は、前記診断撮像システムによって取得された画像データのソート、照合、選択、及び/若しくは注釈付けに使用される、請求項1から11のいずれか一項に記載のコンピュータ実施方法。
【請求項13】
遠隔カメラ観察に基づいて診断撮像又は治療処置中の対象者の状態を示す信号を決定するためデバイスであって、
前記診断撮像又は治療処置中に前記対象者の身体部分を、直接及び/又は反射面における反射を介してモニタリングするカメラからカメラ画像を受信する入力部と、
関心の前記身体部分に対応する画像情報を含む前記カメラ画像内の関心領域を画定するために、受信した前記カメラ画像のうちの少なくとも1つにおける前記反射面の形状又は輪郭を検出する画像特徴検出器と、
関心の前記身体部分の特徴に対応する前記関心領域内のピクセル又は1つ以上の領域を選択するために、取得した前記カメラ画像のうちの少なくとも1つにおける検出された前記関心領域をセグメント化するセグメンタと、
選択した前記ピクセル又は領域から前記対象者の前記状態を示す前記信号を決定する信号抽出器と、
を備える、デバイス。
【請求項14】
検査ゾーンを有する診断撮像システムであって、
前記検査ゾーンに配置された状態で検査を受けているときに対象者の画像を取得するカメラと、
前記カメラ上へ光を反射するために、前記検査ゾーンに配置された反射面と、
取得した前記1つ以上のカメラ画像から、前記検査中の前記対象者の状態を示す信号を決定する画像プロセッサであって、請求項13に記載のデバイスを含む、画像プロセッサと、
を備える、診断撮像システム。
【請求項15】
コンピューティングデバイスによって実行されると、請求項1から12のいずれか一項に記載のコンピュータ実施方法を行う、コンピュータプログラム。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、画像処理の分野に関し、特に、例えば、診断撮像と組み合わせて使用するために、対象者の状態を示す信号を推論するための画像処理の分野に関する。より具体的には、本発明は、医用撮像手順を受けている対象者(患者など)の状態を示す信号を、対象者の遠隔観察(カメラ画像など)に基づいて決定するためのデバイス、方法、及びコンピュータプログラム製品に関する。
【背景技術】
【0002】
当技術分野では、医用撮像検査を受けている対象者の生理学的パラメータ及び/又は気分を示す信号などの有用な信号を導き出すために、対象者のカメラ観察を使用することが知られている。例としては、心血管機能及び/又は呼吸機能や、身体又はその一部の動きを示すパラメータを決定するためのカメラベースの方法が挙げられる。
【0003】
例えば、心臓トリガリングは、磁気共鳴撮像(MRI)やコンピュータ断層撮影(CT)などの医用撮像で広く使用されている。診断撮像スキャナで取得したデータは、生理学的機能に起因する身体又はその一部の動きに関して無視できない期間にわたって収集されることがある。例えば、脳や心臓の撮像(これに限定されない)では、データ取得プロセス、つまりスキャナで生の画像データが取得されるプロセスは、心周期よりも大幅に時間がかかる場合がある。しかし、取得したデータは後処理して高品質の断層撮影再構成画像を(例えば、診断目的で)生成できる。診断を支援するために医師に提供される医用画像など、高品質の画像を生成するには、さもなければ再構成の画像に動きに関連するアーチファクトを引き起こし得る心臓の動きの影響を低減することが望ましい。データ取得の際に心周期に関する情報が利用可能であるならば、生データを心位相に従ってソートしたり、関心対象ではない周期からのデータを破棄したり、適切な動き補正を適用したりすることができる。
【0004】
当技術分野で知られているように、心臓同期は、通常、例えば、接触電極センサを使用して心電図(ECG)信号から生成されるトリガーを考慮することによって達成される。例えば、収縮期の開始(心筋収縮の開始)を示すECG信号のRピークを使用して、同期のためのトリガーを生成できる。Rピークの知識により、MRIスキャンの信頼性の高いゲーティングに関する正確な知識が得られ、動作アーチファクトを可能な限り低減できる。
【0005】
しかし、ECGを使用した接触測定では、身体に電極パッチが必要であるため、対象者にとって不快な場合があり、経験のあるスタッフがセンサを取り付けて信号取得の準備をする時間が必要となる。したがって、このようなアプローチによって効率的なワークフローは悪影響を受ける可能性がある。さらに、高い磁場強度に依存する撮像手順(例えば、磁気流体力学効果を使用する)は、ECG信号を歪める可能性があり、信号におけるRピーク検出の信頼性、さらには実現可能性が低下する。このアプローチの別の欠点は、皮膚接触センサを介して細菌やウイルスなどの汚染のリスクである。
【0006】
レトロスペクティブトリガリング又はリストモードトリガリングでは、別個の心臓ナビゲータエコーの取得を記録されたMRIシーケンスに組み込むこともできる。直接的心臓トリガリング(プロスペクティブトリガリング)では、光ファイバ聴診器を使用するか、又は胸部に心弾動式デバイスを取り付けることができる。四肢でのPPG測定も当技術分野では知られているが、これも患者に線をつなげる必要があり、また、ECG信号に対するPPG信号のタイミングに不確実性が存在する場合がある。それにもかかわらず、このアプローチはレトロスペクティブモードで使用できる。
【0007】
したがって、カメラ観察を使用した非接触式心臓パルス検出は、ワークフローの円滑化や強い磁場に対する感度の低下など、心臓トリガー撮像検査(CTやMRIなど)のコンテキストで利点を提供できる。
【0008】
カメラベースのアプローチは、例えば、呼吸ゲーティングのためのオンボディセンサを排除するために、有用な信号が得られることが当技術分野で知られている。例えば、胸部の動きを観察して、呼吸状態を決定できる。しかし、(例えば、ワークフローを簡素化するために患者とスタッフにとって)快適で手間のかからない測定と、信頼性の高い心臓ゲーティングとを、例えば、組み合わせで実現する方法が、当技術分野で依然として必要である。好ましくは、このような方法で得られたゲーティング信号は、RピークなどのECG周期の特定の特徴との強い相関関係がプロスペクティブモードとレトロスペクティブモードの両方で使用できる点を特徴とする。カメラベースのPPG(ビデオPPG又はリモートPPGとも呼ばれる)は有望な技術として提案されているが、良好な結果を得るには適切なセットアップと適切な処理が必要である。
【0009】
時間の関数としての1次元ECGなどの従来のセンサベースの測定とは異なり、カメラによってキャプチャされた撮像データは、3次元情報、例えば、2つの空間次元におけるピクセル強度及び時間におけるそれらの変化を含む。したがって、信号処理技術に加えて、画像処理方法を使用して、心臓トリガーを生成するためのPPG信号など、関心の1次元信号を得る。
【0010】
例えば、WO2015/117084A1では、MRI検査中にビデオカメラとアクティブ照明とを使用して心臓信号及び呼吸信号を検出する方法が開示されている。例えば、毎秒30フレームのレートでカメラによって取得されたビデオデータからわずかな強度変化及び動き情報が抽出される。平均ピクセル値がフレーム全体、又は画像の所定のサブセクション全体で計算され、その後に通過帯域フィルタを適用して(例えば、0.6Hz~10Hzの周波数を通過)、心周期を表す信号が得られる。さらに、1次元のサブピクセル画像レジストレーションを下位/上位方向で使用して、わずかなうなずき動きを検出する。これをさらに通過帯域フィルタ(0.2Hz~0.6Hz)でフィルタリングして、呼吸周期を表す信号が得られる。
【0011】
さらなる例として、米国特許第8,542,877B2号では、ビデオシーケンスを処理する別の方法が開示されている。露光時間、取得レート、及びゲインなどのカメラ設定が、キャリブレーション段階で自動的に調整されて、画像の平均輝度の変動の大きさが最大化される。セグメンテーション方法を適用して、ビデオ内の顔(又は他の関心部位)を認識し、特定する。これにより、この関心領域(顔など)を画像のシーケンスを通して追跡できる。例えば(空間的)勾配変動が最小である連続的なゾーンなどの関心領域内の1つ以上の測定ゾーンが決定される。例えば、この測定ゾーンは、シーケンスの基準画像において決定できる。これにより、セグメント化された関心領域内の相対位置を使用することで、測定ゾーン内の画像ポイントの位置をシーケンス全体で追跡できる。したがって、平均輝度などの時間的に変動する信号を測定ゾーンごとに抽出することができ、これは、フィルタリング後などに、関心の信号をレンダリングする。
【0012】
WO2019/068185A1では、ミラーを用いて患者に画像を表示し、患者の一部(又は基準)の画像をカメラに表示する撮像システムが開示されている。
【発明の概要】
【発明が解決しようとする課題】
【0013】
本発明の実施形態は、医用撮像手順を受けている対象者(患者など)の状態を示す信号を、対象者の遠隔観察(カメラ画像など)に基づいて決定するための優れたかつ効率的な手段及び方法を提供することを目的とする。
【課題を解決するための手段】
【0014】
本発明の実施形態は、生理学的パラメータを示す信号(心血管機能又は呼吸機能、動き、覚醒状態、動きなどを示す信号など)、及び/又は医用撮像検査を受けている対象者の気分を示す信号などの有用な信号を、対象者のカメラ観察から(例えば、自動的及び/又はアルゴリズム的に)決定できるという利点がある。
【0015】
本発明の実施形態は、MRI、CT、SPECT、又はPETスキャナなどのスキャナシステムを使用する診断撮像手順における心臓トリガリングに使用できる信号をカメラ観察から決定して、例えば、収集されたデータ又はそこから再構成された画像を、決定された信号で照合、補正、及び/又は注釈付けし、信号に応じて画像スキャンプロセスを制御できるという利点がある。このようなトリガー信号はまた、例えば放射線療法や同様の(例えば治療的)処置で使用でき、例えば、医用撮像用途に厳密に限定されるわけではない。
【0016】
本発明の実施形態は、対象者の状態を示す信号、例えば、PPG信号などの生理学的機能に関連する信号を、対象者と直接接触することなく決定できるという利点がある。例えば、心臓同期(例えば、ECG信号におけるRピークの発生時間を示す又は近似する信号による)は、ECG信号を記録するための接点電極を必要とせずに実現できる。接触電極や他の接触センサが不要になることで、モニタリングされる対象者の快適性が向上し、接触センサの装着や設定に時間がかかることを回避するなど、より効率的に手順を行うことができる。さらに、カメラベースの信号生成を実質的に自動化できるため、スタッフのトレーニングや経験の必要性を減らすことができる。例えば、接触センサは、身体に正確に配置したり、所定のやり方で配置したりする必要がある場合や、使用前に対象者固有のキャリブレーションや設定を行う必要がある場合がある。手順中に、患者との皮膚接触を回避又は低減することにより、ウイルスや細菌による汚染のリスクなど、生物学的汚染のリスクも低減できる。
【0017】
本発明の実施形態には、心臓トリガー、すなわち、心臓ゲーティング又は同期に使用するのに適した信号が、例えば磁気流体力学効果を使用する高い磁場強度を必要とする処置中に、信号取得に干渉する(例えば、歪める)ことなく得られるという利点がある。例えば、MRIスキャナ内で観察下の対象者から相当な距離に配置されたカメラを使用することができる。
【0018】
本発明の実施形態には、例えば、ECG又はPPG特徴を示す関連信号を、最適でない撮像条件下でも、カメラ画像から確実かつ正確に決定できるという利点がある。例えば、ゲーティングや他の制御目的に使用できる信号をほぼリアルタイムで提供するために、十分に高い時間分解能及び時間精度を得ることができる。したがって、トリガー信号をほぼリアルタイムで提供できる。患者の動きなど、対象者の移動に対して堅牢であるか、少なくとも有利に低い感度を有する信号を提供できる。実施形態によるアプローチでは、不十分な照明及び/又は最適でない視野角などの不十分な撮像条件に有利に対処できる。これは、MRIの使用事例、例えば、対象者が(例えば、ボアのフランジ上にある又はフランジ内に組み込まれたカメラを使用して)磁石ボアの外側から、及び/又はミラーを介して観察されるときに特に適している。さらに、カメラ撮像に使用される波長が理想的な範囲よりも小さい範囲に制限されている場合や、対象者が理想的な位置及び/又は姿勢にない場合がある。
【0019】
本発明の実施形態には、レトロスペクティブ(又はリストモード)トリガリング及び/又はプロスペクティブ(又は直接)トリガリングに使用可能な信号を生成できるという利点がある。
【0020】
本発明の実施形態には、画像及び信号処理にマルチ処理又は並列処理技術を使用して、わずかな遅延のみで信号を送達できるという利点がある。
【0021】
本発明の実施形態には、取得したカメラ画像内の信号抽出領域が(例えば自動的に)効率的に決定され、そこから情報を抽出して信号を生成できるという利点がある(例えば、トリガリングに有用な情報を含む領域が決定される)。これにより、必要な処理能力及び時間を有利に範囲内に収めることができる。
【0022】
本発明の実施形態による方法、デバイス、システム、及びコンピュータプログラム製品は、上記の目的を達成する。
【0023】
第1の態様では、本発明は、遠隔カメラ観察に基づいて診断撮像中又は治療処置中に対象者の状態を示す信号を決定する方法に関する。方法は、検査又は介入中に、対象者の身体部分を直接、及び/又は反射面における反射を介してモニタリングするように構成されたカメラからカメラ画像を取得することを含む。例えば、身体部分は、画像内の反射面と既知の又は推定可能な空間関係を有している。例えば、身体部分が反射面によってカメラに反射されたときに、反射面の輪郭の内側にある、又は反射面に対して既知の相対位置(及び/又は向き)にある。例えば、反射面に対して、少なくとも近似的に既知の距離(画像内の反射面のサイズに相対的な距離)下(又は別の所定の方向)にある。
【0024】
方法は、関心の身体部分に対応する画像情報を含む画像内の関心領域を画定するために、取得したカメラ画像のうちの少なくとも1つにおける反射面の形状又は輪郭を検出することを含む。方法は、関心の身体部分の特徴に対応する関心領域内のピクセル又は1つ以上の(サブ)領域を選択するために、取得したカメラ画像のうちの少なくとも1つにおける検出された関心領域をセグメント化することを含む。方法は、ピクセル強度(又は、多次元の(例えば、カラー)値)解析によって、カメラが取得した複数の画像において時間を通して観察されたピクセルの進化の動的解析によって、時間周波数解析によって、並びに/又は同様の画像及び/若しくは信号処理技術によって、例えば、時間の関数として、選択したピクセル又は領域から対象者の状態を示す信号を決定することを含む。
【0025】
本発明の実施形態による方法では、反射面(ミラーなど)の形状又は輪郭を検出することは、反射面のテンプレートを使用するマルチスケール探索を含み、マルチスケール探索では、カメラ画像内の複数の異なる候補位置とテンプレートの複数の異なるスケールとについて対応の尺度を評価して、カメラ画像に対するテンプレートの位置及びスケールにおける(例えば、最適な)対応が特定される。例えば、反射面(ミラーなど)の外観はスケール及び場所(また、任意選択で、向き)が異なる場合があるが、その形状、輪郭、アスペクト比、及び/又は外観の他のそのような特性は、(実質的に)一定又は不変であると見なされる。この1つ以上の特性は、反射体のそのような特徴をキャプチャするために構築されたテンプレートによって表すことができる。したがって、テンプレートは、同じシステムで、例えば、異なる撮像セッション、患者、…に対して再利用でき、又は、同じタイプのミラーや同じカメラシステムを使用する同じ汎用構成の異なるシステムで再現することさえも可能である。
【0026】
本発明の実施形態による方法では、上記のテンプレートは、カメラを使用してキャリブレーション画像を取得し、キャリブレーション画像を画像内の反射面のサイズに合わせてトリミングし、高周波空間カーネルを適用して低周波成分を抑制することによって(方法の一部として、又はキャリブレーション手順で独立して決定されて得られて)構築される。反射面を検出するステップは、上記の対応尺度を計算する前に、上記の高周波空間カーネル(又は類似のカーネル)をカメラ画像に適用することを含んでもよい。このようにして構築されたテンプレートを、異なるスケールの画像に適用して(例えば、テンプレートの異なるスケールのバージョンを使用して、すなわち、探索対象の撮像を相互にスケーリングするか、1つ以上のスケーリングパラメータを直接考慮する計算方法を使用することによって)、例えば、階層的スケール探索において、例えば、異なるスケールにある画像成分をマッチさせることができる。
【0027】
本発明の実施形態による方法では、反射面を検出することは、処置を行うための診断撮像又は治療実施システムによって提供される手順中の対象者の位置に関する情報を考慮し得る。
【0028】
本発明の実施形態による方法では、反射面を検出することは、関心領域(第1の画像領域など)を画定し得る。この関心領域は、反射面の輪郭で囲まれた第1の画像領域、及び/又は、反射面に対する第2の画像領域の所定の空間関係を使用することによって、反射面を介する反射なしでカメラによって身体部分が直接観察可能である関心領域(第2の画像領域など)を含む。
【0029】
本発明の実施形態による方法では、セグメンテーションは、ピクセル強度に基づいてカメラ画像内のピクセルを分類し、及び/又は、カメラ画像のシーケンスにおけるピクセル強度の動的変化を解析して、ピクセル又は画像領域が関心の身体部分の特徴に対応するかどうかを決定し得る。
【0030】
本発明の実施形態による方法は、異なる時間に取得されたカメラ画像間の身体部分の、又は身体部分内の動きを決定することを含み得、
動きが検出された関心領域内のピクセルは、セグメンテーションによって決定される選択から除外され、
検出された上記の動きを使用して、以前に取得した画像に基づくセグメンテーションによって決定された選択をレジストレーションして、画像内の身体部分の位置及び/又は他の空間特性の変化を考慮し、並びに/又は、
セグメンテーション及び/若しくは反射面検出は、検出された動きが、所定の閾値若しくはバルクの動きを示す他の基準を超えると、再び実行される。
【0031】
本発明の実施形態による方法では、動きは、オプティカルフローアルゴリズムによって決定され得る。
【0032】
本発明の実施形態による方法では、診断又は治療処置には、磁気共鳴撮像、コンピュータ断層撮影、陽電子放出断層撮影、及び/若しくは単光子放出コンピュータ断層撮影による対象者の撮像、並びに/又は外科的及び/若しくは放射線治療介入が含まれ得る。
【0033】
本発明の実施形態による方法では、身体部分は、顔又はその一部を含み得る。
【0034】
本発明の実施形態による方法では、カメラは、赤外線カメラ、可視波長範囲又はその一部で動作するモノクロカメラ、カラーカメラ、及び/又はマルチスペクトルカメラを含み得る。
【0035】
本発明の実施形態による方法では、信号は、対象者の心臓、心血管、及び/又は呼吸機能を示し得る。
【0036】
本発明の実施形態による方法では、信号は、容積脈波記録信号であり得る。
【0037】
本発明の実施形態による方法では、信号は、対象者の生理学的状態及び/又はパラメータを示し得る。
【0038】
本発明の実施形態による方法では、信号は、上記の診断撮像に使用されるシステムによるデータ取得をゲーティングするために(方法の一部として、又は、外部使用のための出力として提供されて)使用されるか、治療処置の実施を制御するために使用されるか、並びに/又は、診断撮像システムによって取得された画像データのソート、照合、選択、及び/若しくは注釈付けに使用され得る。
【0039】
第2の態様では、本発明は、遠隔カメラ観察に基づいて診断撮像中又は治療処置中に対象者の状態を示す信号を決定するデバイスに関する。デバイスは、診断撮像中又は治療処置中に対象者の身体部分を、直接及び/又は反射面における反射を介してモニタリングするように構成されたカメラからカメラ画像を受信する入力部を含む。デバイスは、関心の身体部分に対応する画像情報を含む画像内の関心領域を画定するために、受信したカメラ画像のうちの少なくとも1つにおける反射面の形状又は輪郭を検出する画像特徴検出器を含む。デバイスは、関心の身体部分の特徴に対応する関心領域内のピクセル又は1つ以上の領域を選択するために、取得したカメラ画像のうちの少なくとも1つにおける検出された関心領域をセグメント化するセグメンタを含む。デバイスは、選択したピクセル又は領域から対象者の状態を示す信号を決定する信号抽出器を含む。
【0040】
第3の態様では、本発明は、検査ゾーンを有する診断撮像システムに関する。システムは、検査ゾーンに配置された状態で検査を受けているときに対象者の画像を取得するカメラを含む。システムは、検査ゾーン内に配置され、(例えば、対象者の身体部分からの)光をカメラ上に反射する反射面を含む。システムは、取得した1つ以上のカメラ画像から、検査中の対象者の状態を示す信号を決定する画像プロセッサを含む。画像プロセッサは、本発明の第2の態様の実施形態によるデバイスを含む。
【0041】
第4の態様では、本発明は、コンピューティングデバイス(コンピュータ又はプロセッサなど)によって実行されると、本発明の第1の態様の実施形態による方法を行うためのコンピュータプログラム製品に関する。
【0042】
独立請求項及び従属請求項に、本発明の具体的かつ好ましい特徴を説明している。従属請求項の特徴は、独立請求項の特徴や他の従属請求項の特徴と適宜組み合わせることができ、必ずしも請求項に明示的に記載されているものだけではない。
【図面の簡単な説明】
【0043】
【
図1】本発明の実施形態による例示的な方法を示す。
【
図2】本発明の実施形態による、ミラーテンプレートを生成するためにキャリブレーションで使用するためのトリミングされたカメラ画像を示す。
【
図3】本発明の実施形態による、
図2に示すテンプレートに基づいてミラー領域を特定するためのバイナリマスクを示す。
【
図4】本発明の実施形態による、ミラーアセンブリがビデオカメラに相対的に近くに置かれた状況でのカメラ画像内のミラーテンプレートのマルチスケール探索における相互相関マップを示す。
【
図5】本発明の実施形態による、ミラーアセンブリがビデオカメラから相対的に遠く離れて置かれた状況でのカメラ画像内のミラーテンプレートのマルチスケール探索における相互相関マップを示す。
【
図6】カメラ観察に基づき、本発明の実施形態による方法で決定された抽出された光電式容積脈波記録(PPG)信号と、同時に取得された心電図(ECG)信号との比較を示す。
【
図8】本発明の実施形態による、
図7に示す実施例に対応するカメラ観測画像から抽出された信号を示す。
【発明を実施するための形態】
【0044】
図面は、概略的であり、限定的ではない。図面内の要素は、必ずしも縮尺どおりに提示されているわけではない。本発明は、必ずしも図面に示す本発明の具体的な実施形態に限定されるものではない。
【0045】
例示的な実施形態を以下に説明するが、本発明は、添付の特許請求の範囲によってのみ限定されるものである。添付の特許請求の範囲は、この詳細な説明に明示的に組み込まれており、特許請求の範囲において、各請求項、及び請求項によって定義された依存関係構造によって許容される請求項の各組み合わせは、本発明の別個の実施形態を形成する。
【0046】
特許請求の範囲で使用される場合、「含む」という語は、以降に説明する特徴、要素、又はステップに限定されず、また、追加の特徴、要素、又はステップを排除するものではない。したがって、これにより、1つ以上の特徴のさらなる存在又は追加を排除せずに、前述の特徴の存在が規定される。
【0047】
この詳細な説明では、さまざまな具体的な詳細が提示される。本発明の実施形態は、これらの具体的な詳細なしに実施できる。さらに、本開示の明瞭さ及び簡潔さのために、よく知られている特徴、要素、及び/又はステップについては必ずしも詳細に説明するわけではない。
【0048】
第1の態様では、本発明は、医用撮像手順を受けている対象者(患者など)の状態を示す信号を、対象者の遠隔観察(カメラ画像など)に基づいて決定する方法に関する。
【0049】
図1は、本発明の実施形態による例示的な方法100を示す。
【0050】
方法は、検査又は介入中に、対象者の身体部分を直接、及び/又はミラーなどの反射面における反射を介してモニタリングするように構成されたカメラからカメラ画像を取得すること(101)を含む。検査は、磁気共鳴撮像、コンピュータ断層撮影、陽電子放出断層撮影、又は単光子放出コンピュータ断層撮影検査などである。介入の例としては、手術や放射線療法などの治療的及び関連の処置が挙げられる。関連の処置は、一般的には医学的性質の処置や、健康が典型的な懸念事項である処置(例えば、整形手術などの美容介入も含む)を指す。特に、方法によって決定された信号は、検査又は介入に使用されるシステム若しくはデバイスを制御するために使用されるか、並びに/又は、例えば、動き、心臓機能、及び/若しくは呼吸機能を示す信号を使用してデータ取得若しくは治療の実施をゲーティングするか若しくは取得した(生又は再構成された)画像データ(これに限定されない)をソート若しくは照合するためなど、検査によって取得されたデータを処理する際に使用されることがある。身体部分は顔やその一部であり得るが、必ずしもそれらに限定されるわけではない(例えば、別の身体部分の皮膚がカメラで観察される場合もある)。信号は、心機能及び/又は心血管機能を示す信号、例えば、光電式容積脈波記録(PPG)信号であり得る。
【0051】
多くの状況では、関心の身体部分を直接観察することは困難である。例えば、スペースの制約や検査又は介入に使用するデバイスの特性により、カメラを直接の照準線上に設置することが困難になる。例えば、MRIでは、例えば、すでに制限されているスペース(ボア直径)を制限しないように、また、敏感なシステム(磁場及び/又は高周波放出/受信など)と干渉しないように(逆も同様に、スキャナシステムがカメラの動作に影響を与えないように)、カメラはスキャナボアの外側又は端に置く必要がある、又は、好ましくは置くべきである。ミラーなどの1つ以上の反射面を使用することで、少し離れて設置されたカメラが、例えば顔の皮膚の広い領域をその反射を介してモニタリングすることができる。これには、カメラがより広いオーバービューを維持するという利点もある。例えば、患者及び/又は補助機器の一般的な位置、姿勢、及び状態をモニタリングすると同時に、関心の身体部分の詳細ビューを得ることができる。
【0052】
しかし、関心の身体部分をモニタリングするためにミラーや類似の反射器を使用することはいくつかの困難を克服する(処置中のスキャナや治療システムの動作及び/若しくは特性、並びに/又は対象者の姿勢によって、カメラと身体部位との間の利用可能な光学経路に制約がある場合など)が、他の問題がある。例えば、ミラーは身体部分の限られたビューしか提供しない場合がある。この場合、顔認識や身体認識などのアルゴリズムで広い特徴を検出することは困難である。関心の身体部分の小さな領域しか可視ではなく、また、異なる検査又は治療処置間でミラーは異なる位置又は異なる向きにある場合がある。しかしながら、本発明の実施形態は、これらの課題を克服することができ、また、以下でさらに説明するように、このような不利な点を役立つように活用できる特性に変えることさえできる。
【0053】
したがって、カメラは、正しく設定されていると、例えば、患者の方向に向いていると、検査又は介入全体を通して対象者をモニタリングできる。その後、取得したビデオシーケンスから、PPG信号などの有用な信号を抽出できる。
【0054】
例えば、ワークフローを妨げることなく、例えば、(可視)照明条件を調整する必要なく、及び/又は(可視スペクトル内の)周囲光の影響を受けることなくPPG信号を抽出できるように、カメラは赤外線カメラ(例えば、近赤外範囲(NIR)で動作する、例えば、800~850nmの範囲で感度の高いカメラ)であり得る。人間の目は赤外光に反応しないため、モニタリングされている対象者は不快で、気に障り、及び/又は違和感のある(又は痛みを伴うことさえある)明るい光の影響を受けない。しかし、実施形態はこれに限定されない。例えば、可視光範囲での撮像からPPG信号(又は他の有用な信号)を抽出することも可能である。例えば、(脱)酸素化ヘモグロビンの光吸収は、(例えば赤)可視光よりも(近)赤外波長範囲でより強く、赤外光は皮膚のより奥まで浸透できる(例えば、皮膚のメラニンの影響はあまり顕著ではない)。また、例えば、半導体ピクセル検出器をベースとする赤外線カメラは、900nmを上回る波長よりもNIR範囲(例えば800~850nm)でより高い感度を有することができ、その結果、関心の身体部分が理想的に照明されていないときには、より高い信号対ノイズ比及び/又はより良い動作をもたらす可能性がある。しかし、本発明の実施形態はまた、他の周波数範囲がより良い又は等しく適している異なる種類の信号、例えば、動きを示す信号を生成することも目的とする。(IR又はNIR以外の)光範囲もPPG信号検出に使用できる。これは、例えば赤又は緑の波長範囲のビデオ撮像でも、使用される強度のわずかな変動を検出するのに十分な情報を提供できることが観察されているためである。
【0055】
カメラは、異なる波長範囲(赤、緑、及び/又は青の色成分など)、可視スペクトルにおける他の若しくはより小さな色範囲、NIR成分若しくは異なるNIR波長範囲の組み合わせ、及び/又はこれらの組み合わせ(これに限定されない)における画像情報を(例えば、実質的に同時に)検出できるマルチスペクトルカメラ、カラーカメラ、又は他のタイプのカメラであってもよい。
【0056】
方法100は、(少なくとも)関心の身体部分を光(カメラが反応する波長範囲との十分な重なりがあるなど、少なくとも、カメラによる撮像に適した範囲で放出する)で照明することを含み得る。例えば、カメラで高品質のビデオシーケンスが取得できるように、NIR赤外光源などの赤外光源又は可視光源を使用して身体部分を照明することができる。
【0057】
方法100は、取得したカメラ画像のうちの少なくとも1つにおける、ミラーなどの反射面の形状又は輪郭を検出すること(102)を含む。したがって、関心の身体部分に対応する画像情報を含む画像内の関心領域(ROI)が特定される。関心の身体部分が反射面によって反射されている場合、関心領域は、画像内の反射面を検出することで直接決定できるが、身体部位が反射体によって提供されるビューの外側にある場合でも、既知の位置を有し得るので(例えば、反射体に対して既知の方向の既知の距離にある)、反射面の形状の検出を使用することで依然として関心の身体部分の位置を突き止めることができる。関心領域が反射面によって反射され、別の関心領域が反射面に対して所定の相対位置/方向にある(例えば、ミラービューの外側にある)組み合わせも、必ずしも除外されるわけではない。
【0058】
手順中、反射体(ミラーなど)は静的カメラセットアップに対して固定されていると仮定され得るので、反射面は単一の画像内にのみ検出される。しかし、実施形態は必ずしもこれに限定されない。例えば、反射面は、例えば、手順の早期に誤検出の影響を軽減したり、患者の平行移動などによる撮像配置の変化を考慮したりするために、例えば、各ビデオフレームにおいて又はある時間間隔で(又は評価された基準又は外部トリガーによって、関心領域の再キャリブレーションが必要であることが示されているときに)、手順全体を通じて繰り返し検出されてもよい。通常、反射体は検出し易いことから、この検出は、非常に効率的に(例えば、検出アルゴリズムを使用するプロセッサによって自動的に)実行できるという利点がある。例えば、反射体は、検出のために比較的単純な形状及び/又は固定の形状をしている。例えば、円形、楕円形、正方形、長方形、本質的に長方形(例えば、ベースの長方形の形状を変調する丸みを帯びた角、凹部などを除く)、又はこれらの変形であり得る。
【0059】
以下の説明では、例えば、(後述する後続のステップで)有用な信号を抽出するために画像内で検出するターゲット要素として、対象者の皮膚が参照されているが、当業者は、異なる性質の信号(視標追跡信号又は覚醒信号など)を抽出できるようにするために、異なる関心の信号が、他の関心の特徴、(例を1つだけ挙げるならば)例えば眼球や瞳孔を特定することを目的とする場合があることを理解するであろう。したがって、「皮膚」、「皮膚領域」、「皮膚組織」などへの言及は、一般的に、観察及び信号抽出のための関心の身体の解剖学的又は生理学的特徴として解釈されるべきであり、必ずしも限定的に解釈されるべきではない。このような関心の特徴の少なくともいくつか(又はその一部)(適切な露出した皮膚領域、目、指など)が、反射面を介してカメラによって観察可能である、又は、カメラ画像内の反射面の特定された場所に基づいて(例えば、その既知の相対位置によって)、画像内で少なくとも近似的に位置を突き止めることが可能であることが理解されるであろう。
【0060】
反射面を検出するこのステップ102は、最初に大まかな関心領域の選択、例えば1つ(又は複数)のミラーの選択を提供し、これは、後述するさらなる絞り込みにおいて、1つ以上のより小さな関心のターゲット領域(又は1つ以上のポイント)にさらに小さくすることができる。例えば、ボアの外側に置かれたカメラを用いてMRIスキャナ内の患者を観察すると、通常、患者の頭部(又は他の関心の解剖学的部分)の皮膚領域がほとんど見えない。このため、顔認識などにおいて画像特徴を使用して、信号抽出に適したポイント又は領域を直接特定することが特に困難になる可能性がある。1つ以上のミラーなどの反射面は、信号抽出のためにカメラ画像内の適切な皮膚領域を観察できるように配備されているため、この反射面は、画像内の潜在的な皮膚組織の1つ以上の領域のさらなる探索を制限するのに理想的である。さらに、顔認識に基づく他のアプローチと比較して、異なる対象者の顔立ちは異なるが、ミラー又は他の適切な反射体は、同じシステム及び/又は観察システムのセットアップに対して同じ外観を有することに留意されたい。
【0061】
例えば、処置中に対象者を支持する患者台の姿勢及び/又は並進位置(
図4及び
図5の左上画像に示す患者台の異なる位置も参照)(これは、画像内の反射面の位置に影響を与える可能性があり、また、場合によってはその視点にも影響を与える可能性がある)に応じて、対象者は画像内で異なる位置にいる場合でも、これは、相対位置(ピクセル座標、つまり、撮像平面におけるxy空間シフトなど)、スケーリング(アスペクト比など)、並びに任意選択で回転及び/又はスキューによってモデル化できる画像内の比較的簡単に検出できる変動にしかならない。したがって、反射面の形状及び/又は輪郭を検出するこのステップは、ミラーなどの反射面の所定のテンプレートを使用するマルチスケール探索を使用することによってなど、簡単かつ非常に効率的に行うことができる。
【0062】
例えば、取得した画像と所定のテンプレートとの間の相互情報、相互相関などの対応の尺度を使用して、画像内の反射面の可能性が最も高い(例えば、数値最適化の意味で最適な)スケール及び/又は位置(及び任意選択で他の変換パラメータ)を決定できる。ミラーの最も可能性の高いスケールは第1のステップで決定され、その場所は次のステップで決定され得る(又は、統合パラメータ空間で組み合わされた探索/最適化が行われ得る)。例として、位置探索は、画像内の異なるスケールでシフトしたミラーテンプレートの相互相関を使用して実施される。
【0063】
所定のテンプレートは、例えば、システムのキャリブレーションにおいて、反射面のみを示すようにトリミングされたカメラ画像に基づいて決定されるか、又は、反射面のより高度なモデルを使用して、例えば、反射面の既知の特性に基づいてテンプレートを作成することもできる。このようなキャリブレーションは、カメラシステムセットアップ又はモデルシステムに対して1回だけ行えばよいという利点がある。ただし、より頻繁にキャリブレーションを行うこともオプションである。
図2に、キャリブレーション画像をトリミングして得られたミラーアセンブリのテンプレート画像の例を示す。
【0064】
反射面のトリミングされた画像は、さまざまな使用シナリオに合わせて機能を向上させるために(例えば、カメラシステム及び/又は検出アルゴリズムを設定するためのキャリブレーションの一部として)前処理され得る。例えば、テンプレートは高周波空間カーネルによって処理されて、高周波特徴を抽出し、平均強度(DC成分など)などの低周波成分を抑制できる。
【0065】
例えば、一次空間微分カーネルを使用して、画像のエッジ又は勾配特徴が抽出され、それにより、輪郭(エッジ及び/又は角など)が強調又は抽出される一方で、無関係な画像成分(使用中に(例えば、顔、他の身体部分、又はその下位部分の)全体的に可変の画像がカメラに反射される)反射面自体のバルク)は除去される。高次の空間微分が、追加で若しくは代替で使用されてもよく、又は、特定の微分に正確に対応しない空間フィルタリングカーネル(例えば、異なる次数の組み合わせ又は異なる解析形式を持つが、好ましくは、ゼロ次数、つまり、定数成分を除外又は強く抑制する)を使用することもできる。さらに又は或いは、方向性空間フィルタ(例えば、フィルタは、好ましいが、単純さと効率のために少なくともいくつかの実施形態では、必ずしも対称ではない)が使用されてもよい。
【0066】
固定のエッジ及び/又は一定の曲率を有する固定の形状のミラーなどの反射面では、高周波特徴のみ又は主に高周波特徴を使用すると、方法で使用するカメラ画像でより安定した及び/又は正確な検出が可能になる。例えば低周波特徴は、反射体とカメラとの距離、照明、及び光源までの距離など、周囲や環境条件の影響を受けやすい。反射面はまた、身体の比較的小さな部分の限られたビューを提供するため、低周波成分は、反射体によって反射される画像部分でより可変で、及び/又はより優勢に存在し得る。これは、(例えば、異なる対象者の)複数の検査又は処置によって異なる可能性がある。
【0067】
図3に、例えば、
図2のトリミングされたキャリブレーション画像に対応する(及びそれに関連する)関心領域を特定するためのバイナリマスクを示す。テンプレートが取得したカメラ画像に対してマッチングされると、マッチングアルゴリズムによって決定された位置及び/又は他のパラメータを簡単に適用して、テンプレートマスクをカメラ画像に投影して、カメラ画像空間の関心領域マスクを画定できる。当然ながら、このようなテンプレートマスクは、例えば、マッチング探索においてミラーでない画像成分を除外するために、対応尺度によって評価するピクセルを選択するためにも使用できる。また、当業者は、2つの異なるマスクを使用してもよいことを理解するであろう。例えば、1つは(例えば、ミラーのフレームやリムに対応する)比較するピクセルを画定するためのものである。もう1つは、例えば、関心の身体部分を示す反射体の反射領域に対応するピクセルを特定する、カメラ画像内で反射面が特定されたときに返す関心領域を画定するためのものである。
【0068】
カメラ画像は、マッチング探索を行う前に、テンプレートと同じ又は類似のアプローチを使用して前処理されて、例えば、相互相関などの比較的簡単な対応の尺度を使用して、画像内のある位置(及び/又はスケール、向き、…)にあるテンプレートをテンプレートにマッチングさせることが可能になる。したがって、入力された生カメラ画像は、テンプレートに使用されているものと同じアルゴリズム(ハイパスフィルタなど)を使用してミラーテンプレートとの(例えば、マルチスケール)相互相関マッチングを行う前に前処理されることがある。しかし、前処理要件を緩和するか、又は回避さえできる(又は、ある意味では、対応尺度に直接組み込まれる)ように、より感度の低い他の対応の尺度(例えば、情報理論や(任意で正規化された)空間微分に基づくメトリック)を使用することもできる。したがって、ミラーの最適なスケール及び場所(及び/又は他のパラメータ)は、全てのスケールと全ての位置にわたる(テンプレートマッチング又はレジストレーションの最適な類似性を示す)対応尺度の最適値(例えば、相互相関の最大値)に基づいて決定される。当技術分野で知られている他の(部分的な)画像レジストレーション技術も、この目的に適している場合がある。
【0069】
例えば、マルチスケール探索とは、テンプレート画像の異なるスケールのバージョンをカメラ画像成分にマッチングさせることを指し、各スケールで異なる位置(及び/又は回転若しくはスキューなどの他の変換)が評価される。これは、段階的なマルチステップ手順で実施することもできる。例えば最初に限られた数の異なる、大まかな、スケール(及び/又は位置、…)を評価し、最適なマッチを使用して、見つかったマッチの周囲のオプションの範囲を、より細かい(スケール、位置、…の)解像度で定義して、次のステップで評価する。
【0070】
当技術分野で知られている代替のアプローチが適用されてもよい。例えば、ウェーブレット又は類似の変換を使用して、位置-スケールの統合探索を行うことができる(他の変換パラメータが含まれる可能性もある)。
【0071】
或いは又はさらに、カメラ画像内の反射面の最適化ベースの探索には、例えば、(例えば、データのトレーニングセットに基づいて)画像内の反射面の特定の形状を認識するようにトレーニングされた機械学習分類アルゴリズムなどの機械学習ベースの方法を使用して、位置及び/又は他のパラメータ(回転、スキュー、スケール、及び/又は他の形状関連特性など)を特定できる。
【0072】
さらに、反射体の検出では、(自動式)患者台からの位置情報などの追加情報が考慮される場合がある。これは、例えば、(例えば機械学習ベースのアルゴリズムのための)追加の入力として使用したり、詳細探索アルゴリズムを適用する前にパラメトリック探索空間の制約を定義したりすることができる。或いは、このような情報を使用して関心領域を直接画定することもできる。例えば、患者台位置(及び/又はシステムの他のパラメータ)を基準として使用して、ルックアップテーブルに基づいて画像内のミラー位置を直接推測することができる。ただし、画像ベースの探索では、画像内で特定された関心領域により厳しい境界を提供することができる。
【0073】
この検出102の結果は、画像内の反射面に対応する関心領域のパラメトリック仕様の形式(例えば、長さ、幅、角若しくは中心の位置、配向角、及び/又は類似の代数的パラメータなどの反射面の長方形又は他のパラメトリック(代数的)モデルのパラメータの仕様として)となるか、又は、関心領域を特定する画像マスクの形式となり得る(ただし、これらに限定されない)。この検出された領域を使用して、信号抽出のための関心の皮膚領域を含む領域(例えば、皮膚以外の背景を含む)に画像をトリミングできる。検出ステップの結果は、例えば、対応する各ピクセルにおける反射体の存在(すなわち、不在)を示すブール値を有するバイナリマスクの形式となるか、又は、例えば、非バイナリ範囲のマスク画像値が、対応するピクセルにおける反射面の存在(又は不在)の確率を示すソフトマスクの形式(確率マップ又はファジィ理論マップなど)となり得る。
【0074】
検出ステップは、例えば、カメラ画像の異なる又は同じ皮膚領域の異なるビューを同時に提供するために、複数の反射面が使用される場合にも同様に適用できる。複数の反射体は、単一の統合検索(例えば、パラメータ探索スペースをそれに応じて拡張する)で、順次に又は並列に特定される。反射体は、対応する所定のテンプレートとともに異なる形状を有していても、実質的に同じ形状(したがって、同じテンプレートを使用する)を有していてもよい。例えば、ある反射体の検出アルゴリズムを別の反射体の存在に対する感度を低くする(又はその逆も同様に)ために、探索アルゴリズムを混同しないように、異なる形状及びテンプレートを使用することが有利であり得るが、これは厳密には必要ではない。均一な形状のミラーを使用することは、適用されるアルゴリズムの単純化、並びに/又はアルゴリズムに適用する及び/又は機械学習モデルをトレーニングするために必要な計算資源の削減などの利点もある。
【0075】
さらに、関心領域は、反射面の輪郭によって画定される領域に厳密には限定されないことに留意されたい。例えば、信号抽出に使用可能な皮膚領域の直接ビューは、画像内の反射面に対して固定された(少なくとも近似的に)位置で知られており、さらなる関心領域として含めることができる(又は関心領域に統合できる)。例えば、カメラが直接観察できる皮膚領域の大まかな場所は、例えば、特定された反射体の下の特定の距離にある事前に定義された撮像セットアップで決定できる(場合によっては、決定されたスケーリング及び/又は回転が考慮される)。例えば、反射面に対応するカメラ画像の領域を決定した後、皮膚への直接カメラビューが利用可能な画像の1つ以上の部分を、空間座標及びスケールのモデリング又は回帰に基づいて推測できる。
【0076】
図4及び
図5は、相互相関を使用してミラーアセンブリの場所及びスケールのためのマルチスケール探索の例を2つ示している。
図4及び
図5の左上にある生画像に見られるように、
図4の例では、患者台がカメラに比較的近いのに対し、
図5では患者台がカメラから離れている。これらの生画像には、最大相互相関で見つかった(マルチスケール)テンプレートの最適なマッチがオーバーレイされている。
図4及び
図5の残りの画像は、相互相関のマップを表す(ピクセルの場所が各画像内のテンプレートの位置を表し、ピクセルの強度値が計算された相互相関を表し、異なる画像が評価された異なるスケールに対応する)。これらの例では、各スケールで見つけられた最大相互相関は、各サブ画像のヘッダーに示されている。
【0077】
(例えば、ミラービューの内側や、場合によっては、ミラーに対して相対的に決定された所定の場所にある)関心の身体部分に対応する画像情報を含む1つ以上の関心領域を特定するために反射面を検出した(102)後、方法100は、1つ以上のカメラ画像内の検出された関心領域をセグメント化して(103)、関心の身体部分の画像特徴を決定することを含む。例えば、検出ステップ102で得られるソフトマスク又はハードマスクに限定される画像セグメント化を行う。例えば、露出した皮膚など(これに限定されず、抽出する関心信号に応じて、例えば、セグメント化され得る他の特徴は、瞳孔、眼球、指、又はその一部…)の関心の身体特徴に対応する画定された1つ以上の関心領域内のピクセル又はピクセル領域が選択される。
【0078】
このセグメンテーション(皮膚セグメンテーションなど)を使用して、関心領域を、信号抽出に関連する部分に絞り込むことができる。例えば、関心領域は、ミラーを介した反射を含む画像の領域に対応した領域、及び/又は、それに関連して画定された(一般的に粗い)領域(例えば、カメラによる直接ビューが想定されるミラーの下の領域)に対応する。したがって、関心領域には、皮膚ピクセルなどの関心ピクセルと、背景などからの皮膚以外のピクセルなどのピクセルの両方が含まれている可能性がある。画像から決定される信号(PPG信号など)の劣化を避けるために、関心領域の無関係な(例えば、皮膚以外の)ピクセルを却下することが重要である。
【0079】
前述のステップ102によって関心領域がソフトマスクとして画定されるときは、又は関心領域がブール指標ではなくピクセルあたりの確率として画定されるときは、セグメンテーションは、これを、例えば、適宜セグメンテーションに重み付けをすることによって考慮することができる。例えば、あるピクセルが関心ピクセルのセット(皮膚領域など)の内側にあると特定される確率は、そのピクセルが検出された関心領域の内側にある確率によって重み付けされる。関心領域の画定の曖昧さや確率的性質を考慮に入れるために、当技術分野で知られている他のより精巧な手法も考慮されてもよい。
【0080】
関心領域をセグメント化するステップ103の結果は、座標のリストやバイナリマスクなど、関心ピクセルの特定であり得る。ただし、実施形態は必ずしもこれに限定されない。例えば、場合によっては、さらなるソフトマスクを含めて特定されたピクセル又はサブ領域を記述する他の手段も考慮できる(例えば、これにより、信号を抽出するための関心のピクセルの確率を、例えば、確率に従って特定されたピクセルの加重平均を計算することによって、さらなるステップで考慮することができる)。
【0081】
関心領域内の関心の身体部分の決定された画像特徴は、単一のピクセル若しくは複数のピクセルか、又は例えば、セグメンテーションによって得られるマスクによって画定される関心領域の1つ以上の連続したサブ領域であり得る。このようなサブ領域は、通常、画像成分に合わせて不規則なエッジを有している。例えば、異なる個人が異なる皮膚セグメンテーションを有するか、及び/又は、ミラーを通して見た身体部分のビューは、撮像セッションによって異なる(これは、ミラーに対して相対的に画定されているが、反射の内側ではない直接カメラ観察のための大まかに特定された領域にも適用される)。
【0082】
本発明の実施形態に従ってセグメンテーションステップを行うために、多くの適切なセグメンテーションアルゴリズムが当技術分野で知られている。特に(有利に)単純なアプローチは、ピクセル強度に基づいて関心領域をセグメント化することである。例えば、各ピクセルの光強度を使用して、適切な光反射特性(皮膚反射など)を有するピクセルを他の画像要素(より明るい背景若しくはより暗い背景、目、口、…)と区別する「DCベース」アプローチである。
【0083】
DC及び後述のACへの言及は、例えば、時間的に一定の静的成分を直流電流(DC)と呼び、時間的に変化する動的成分を交流電流(AC)と呼ぶ従来の1次元信号処理と同様に理解する必要がある。しかし、これは単なる例示であることは、当業者には明らかであり、このような静的/動的な二分法が、「電流」が画像の強度値に置き換えられる状況に置き換えられている。DCベースとACベースの両方の方法では、ピクセルが単独で考慮される(ピクセルごとにピクセルあたりの静的な値又はピクセルあたりの時系列の値を処理する)、主に単独で考慮されるという特性が共通している。しかしながら、実施形態はこれに限定されず、当技術分野で知られているさまざまな技術を使用して空間情報も考慮される。例えば、あるピクセルのセグメンテーション結果は、そのピクセルについて取得されたデータに依存するだけでなく、隣接するピクセルからの情報も考慮される(例えば、使用される技術に応じて、必ずしもそのような影響がどこまで届くか、近隣におけるどのピクセルが考慮されるか、他のピクセルからの寄与がどれだけ強いかを制限することなく)。
【0084】
空間情報を考慮する他のアプローチでは、(単独で、又は強度と組み合わせて)輪郭又はエッジ効果を使用して連続する領域(又は複数の領域)の境界を見つけることができる。例えばエッジ検出のために一次空間微分又は高次空間微分を使用する。さらなる他のアプローチでは、パターン検出を(場合によっては、他の特徴と組み合わせて)使用して、関心の特徴の特定のテクスチャ(例えば、肌の特徴的なテクスチャ)を検出したり、形態学的操作及び/又は空間フィルタリング(例えば、ウェーブレットベース)を使用して特定の形状(例えば、瞳孔や目の形状)又は形状の組み合わせを検出したりする。
【0085】
時間の変化(カメラがビデオストリームを取得するため)を使用して、例えば「ACベース」のアプローチにおいて、関心の所望の動的挙動を示す(ROIの)ピクセル、ピクセルのグループ、又はサブ領域が特定される。例えば、このような動的挙動は、予想される皮膚の脈動性に対応している。したがって、この動的を示すものとして特定されたピクセルは、PPG信号を抽出するためにさらに使用される(これに限定されない)。したがって、「生きている皮膚」モデルを使用して、有用情報を抽出するために使用できる脈動挙動を示すピクセル(又は領域)を検出できる。例えば、そのような「ACベース」のアプローチは、(例えば、フーリエ変換に基づく)時間周波数領域における時間フィルタリング及び解析、一次及び/若しくは高次の時間微分、時間スケール解析、又は当技術分野で知られている代替手段を使用する。したがって、動的な皮膚ピクセル選択は、「生きている皮膚」のダイナミクスに基づくことができる。このダイナミクスでは、より強い脈動性を示すピクセル、例えば、DC強度振幅(つまり、フーリエ展開の定数項)に対して(例えば、正規化された)心拍数バンドにおいて大きい振幅を有するピクセルを、皮膚セグメンテーション成分に属するものとして選択できる。例えば、心拍数バンドは、約40Hz~240Hzの時間周波数範囲(又は同様の適切な範囲)に相当する。
【0086】
その利点は、このように選択されたピクセルから生成された信号(例えば、PPG信号など、信号がそのようなダイナミクスから派生した特性を表す場合)が優れた信号対ノイズ(SNR)比を有することができることである。例えば、これらのダイナミクスを考慮しないセグメンテーション方法によって選択されたピクセルから決定された同じ信号よりも、潜在的に優れている。しかし、高速フーリエ変換などに基づいてセグメンテーションを行う前に時間信号バッファを埋める必要があるため、信号の可用性に時間遅延が生じることもある。さらに、このアプローチは、少なくとも単独で使用する場合(例えば、他のセグメンテーション技術と組み合わされない)は、照明の変化や体動などの時間的歪みに敏感であり、例えば「DCベース」のセグメンテーションアプローチよりも安定性が低下する可能性がある。
【0087】
また、「ACベース」のアプローチと呼ばれる手法は、皮膚セグメンテーション及び/又はさらなるステップでのPPG信号抽出に必ずしも限定されないことにも留意されたい。一例として、眼球運動、瞬き、及び/又は瞳孔拡張のモデルを使用して、近くの画像成分よりも目や瞳孔のダイナミクスに関連付けられる可能性の高い特定の時間周波数帯を特定できる。
【0088】
セグメンテーション方法は、例えば、和集合や交わりを使用したり、中間セグメンテーション結果を組み合わせたマップに重み付けしたりすることによって、異なるアプローチの結果を組み合わせることによって、又は、例えば、最適化における目的関数の異なる項又は係数として、異なる性質の指標を直接考慮するセグメンテーションアルゴリズムを使用することによって、例えば上記の異なるアプローチを組み合わせてもよい(これに限定されない)。例示的な実施形態として、まず強度ベース(「DCベース」)のセグメンテーションが行われる。そして、このようにして得られた候補ピクセル又はサブ領域を周波数領域で解析して、それが脈動信号を伝達しているかどうかを決定できる(又は、十分なパルス応答又は検出可能なパルス応答を示さないピクセル又はその部分を却下できる)。後者の例には、強度ベースのセグメンテーションを非常に効率的に行うことができるという利点がある。これは、その単純な性質と、処理対象の関心領域がすでにカメラ画像全体の(場合により小さい)部分であるためである。そして、周波数領域解析の効率は、最初の大まかで単純なセグメンテーションによってまだ却下されていないピクセルのみを考慮することによって向上できる。さらに、この方法が皮膚のセグメント化を目的とする場合、所定のカメラセットアップでの皮膚の強度と非皮膚の強度とのコントラストは一般に非常に安定しており、十分に大きいため、単純な強度ベースのセグメンテーションは非常に安定している。このような強度ベースのセグメンテーションはすでに優れた結果をもたらすが、いくつかの実施形態に従って、動的挙動を考慮するさらなるステップによって、良好な観察可能な応答を示さないピクセル数を減らすことができ、したがって、さらなる処理のためにセグメンテーションによって選択されたピクセルに基づいて決定された信号のノイズを低減できる。
【0089】
また、すでに述べたように、カメラは、異なる波長範囲の画像情報を検出するマルチスペクトル(例えばカラー)カメラであり得ることに留意されたい。これにより、例えば多次元色空間でセグメンテーションを行うことによってなど、さまざまな波長範囲を考慮することで、セグメンテーションの結果を向上させることができる。したがって、「強度ベース」又は「DCベース」の方法への言及は、「強度」がスカラーではなく、ベクトル値である代替手段を包含すると考えることができる。同様に、他の(DC以外の)方法は、ベクトルエンティティに対して(ピクセルごとに)入力として同様に動作する場合がある。例えば、背景(又は他の無関係な情報)から信号を抽出するために関心のピクセルを区別することは、追加の画像情報が利用可能な場合(例えば、出力空間で多次元である場合)より容易である。例えば、強度ベース(又はそのベクトル拡張)セグメンテーションのような単純な方法をセグメンテーションアルゴリズムの一部として使用した場合でも、皮膚と非皮膚との区別が簡単になる場合がある。さまざまなアプローチがスペクトル(多次元)情報を考慮に入れると考えることができる。例えば、成分ごとにスカラー解析を組み合わせること、スカラー解析の入力としてスペクトル成分の重み付けされた組み合わせを使用すること、関心のセグメンテーション成分のターゲット強度範囲の代わりに、その成分の中へ選択されるスペクトルベクトルが配置されるべき多次元空間(色空間など)のターゲットボリュームを画定すること、及び/又はカラー若しくはマルチスペクトル画像セグメンテーションのために当技術分野で知られている他の技術が挙げられる。
【0090】
セグメンテーション103は、カメラでキャプチャされたビデオストリームの各画像に対して行うことも、少なくとも頻繁に行うこともできる(例えば、セグメンテーションを定期間隔で繰り返すなど)。セグメンテーションで動的挙動が使用される場合(「DCベース」)、「各画像上」では、当然ながら、シーケンス内の隣接する時間ポイント(画像フレーム)も考慮される。セグメンテーション103が1回だけ行われる実施形態(例えば、第1の画像又は画像の第1の時間ブロックで)は、必ずしも除外されるわけではない。セグメンテーションを定期間隔で繰り返す代わりに(例えば、100フレームごとに(これに限定されない。例えば、適切な間隔は、処理性能及び/又は出力信号の品質に応じて簡単に決定できる)、又はそれに加えて、さらなるステップで生成された信号を、品質メトリックを使用して評価できる。品質メトリックは、例えば、信号対ノイズを示し、閾値を下回るか、基準値(例えば、現在使用中のセグメンテーションが行われた時点又はその直後に決定され得る)に対して所定の係数で減少した場合など、信号の品質が低い場合にセグメンテーションの(再)実行をトリガーする。したがって、セグメンテーションは時間的に不定期の間隔で行われてもよい。例えば、動的に決定される品質メトリックや他の係数を条件として行われてもよい。
【0091】
また、方法100は、取得したカメラ画像間のモニタリング対象の身体部分の又はその中の動きを決定するステップ104を含んでいてもよい。信号は、セグメンテーションステップで特定されたピクセルから決定される。例えば、PPG信号は、空間的に平均化された皮膚ピクセル値を連結することによって、時間領域内の皮膚ピクセルから測定される。この信号(PPG信号の振幅など)は、体動による影響よりも著しく弱いか、又は少なくともそのような影響に敏感な場合がある。そのため、取得した信号は、頭部の動き、表情、及び/又は瞬きなどの動きによって汚染される可能性がある。
【0092】
検出された動きをさらに使用して、(例えば、皮膚/非皮膚境界において)抽出された信号が動きの影響を受ける可能性がある、例えば、検出された皮膚ピクセルであるセグメント化された画像領域内の領域又はピクセルをさらに除外できる。したがって、セグメンテーションマスクは、実質的に動きのない領域/ピクセルに縮小することができる。
【0093】
ビデオストリーム中の動きを検出するさまざまな方法が当技術分野で知られている。例えば、従来の画像レジストレーション技術を使用して、1つの画像を前の画像又は以前に取得した別の基準画像に投影するための適切な位置合わせ及び/又は変形を見つけることができる。しかし、効率の観点から、また、レイテンシを低減するために、動き推定アルゴリズムを使用して、例えば(例えば、高密度の)オプティカルフローを推定することによって、例えば画像を覆うグリッド上やピクセルごとに定義された動きベクトルの場を決定することが好ましい場合がある。オプティカルフローを非常に効率的に計算できる(また、例えば、グラフィックス処理ユニット、複数の処理コア、及び/又はコンピューティングクラスタを使用して、並列処理によって簡単に行うこともできる)ことが利点である。
【0094】
したがって、各ピクセルについて(直接、グリッド内の補間、又はレジストレーションによって決定された変換パラメータからの推論により)、動きを決定できる。これは、例えば、動きマスク(例えば、バイナリ(又はソフト)動きマスク)を生成して、ピクセル(又は少なくともセグメンテーションによって決定される関心の画像部分のピクセル)に注釈を付けるために使用できる。したがって、セグメンテーションステップ後に(信号を生成するための)処理のために依然として考慮されるピクセルをプルーニングして、実質的な動きを示すピクセルを却下したり、逆にセグメンテーションマスクを使用して動きマスクから無関係な部分をプルーニングしたりできる。
【0095】
したがって、実質的に動きのない領域を示す動きマスクをセグメンテーションマスクと組み合わせて、関心の領域及び/又はピクセルを示して、(堅牢な)信号抽出に適したピクセルを決定できる。例として、セグメンテーションの実行頻度を下げてもよく、場合により、1回のみに下げてもよく、動きマスクはより頻繁に決定されてもよく、例えば、画像フレームごとに決定されてもよく、これにより、コンピューティングリソースが効率的に使用され、実質的にリアルタイムの出力信号が生成される。しかしながら、実施形態によれば、セグメンテーションと動き推定の両方が実質的に同じ頻度で、例えば、ストリームの実質的に各画像に対して、例えば、並列処理チェーンで実行されることもある。
【0096】
任意選択で、動きマスクを、例えば、エロージョン/ダイレーション又は形態学的操作の組み合わせを使用して、及び/又はマスクを連続若しくは凸状形状又は限られた数のそのようなバラバラな形状の組み合わせに制約するためにさらに処理することもできる。したがって、特定の幾何学的パターンを使用して、セグメンテーションステップによる不適切な選択の影響、及び/又は動きアーチファクトに対して弱い領域の選択の影響を軽減できる。例えば、選択した皮膚領域を凸状領域に制限して、額やチェック領域を実質的にキャプチャできる。つまり、その自然な形状と一致することができる。当然ながら、このようなさらなる処理は、(さらに又は或いは)セグメンテーションマスクに適用することもできる。
【0097】
例えば、動きマスクとセグメンテーションマスクとを組み合わせることで、(セグメンテーションによって特定される)大きな動き振幅を示す関心ピクセルを抑制できる。例えば、瞬きなどの動きを伴う皮膚領域を除去できる。PPG信号抽出の例では、瞬きの動きは、PPG信号に突然の隆起を発生させる可能性があるため、好ましくは抑制する必要がある。患者が仰臥位になっており、ボアの外側にあるカメラで観察されている場合、胸部領域と顔領域との近接性のため、呼吸の動きを示すピクセルも抑制する必要がある。
【0098】
決定された動きはまた(さらに又は或いは)、セグメンテーションマスクの変換に使用できる。これにより、各フレームでセグメンテーションを行う必要なく、各ビデオフレームで関心のピクセルを特定できる。決定された動きはまた(さらに又は或いは)、十分に大きな動きが検出されたときに(フレーム単位でまだ実行されていない場合)、新しいセグメンテーション103をトリガーするために使用できる。決定された動きはまた(さらに又は或いは)、十分に大きな動きが検出されたときに、反射面の新しい検出102をトリガーするために使用できる。これらのトリガーには異なる閾値を使用してもよい。又は、手順全体を通して反射面が固定であると仮定してもよい。或いは、(診断)撮像システムのコントローラからの信号などの外部入力を使用して、例えば、患者台の動きを示すトリガーである反射面検出を再初期化することもできる。セグメンテーション及び/又は反射体検出を繰り返すためのトリガーは、平均移動ベクトルの十分に大きい大きさなどのバルク移動を検出するように適合され得る一方で、動き検出の他の用途では、例えば、(例えば、瞬き、表情の変化などを除外するために)動きマスクを生成したり、(比較的小さい)動きを考慮するようにセグメンテーションマスクを変換したりするためにより小さな動きに敏感になる場合がある。
【0099】
セグメンテーションマスクについてすでに説明したように、そのマスクはバイナリであり得るが、例えば、順序尺度又は(実質的に)連続尺度で複数値の場合もある。例えば、確率マスク、ファジーマスク、又は「ソフト」マスクの場合もある。同様のことは、動きを示すマスクにも当てはまり、例えば、これにより、関心の信号を決定する際に画像内のピクセルが考慮されるように、セグメンテーションマスクと動きマスクとを組み合わせてバイナリ(例えば、積集合による)又は複数値(例えば、確率や信頼度を示す)セレクタを形成することができる。
【0100】
方法はさらに、例えば、光電式容積脈波記録(PPG)信号である心臓、心血管、及び/又は呼吸機能を示す信号など、例えば、生理学的状態及び/又はパラメータを示す、対象者の状態を示す信号を決定するステップ105を含む。
【0101】
信号は、セグメンテーションマスク内にあり、好ましくは、動きマスク(例えば、十分に動きがないと仮定される)によっても除外されていない画像ピクセル(又は少なくともその関心の成分)の強度値に基づいて、セグメンテーションステップ及び/又は動き補正ステップによって特定された画像ピクセルから決定される。強度値は、時系列を構築するために各時間フレームから収集される(これに限定されない。例えば、より限られた時間を同等に解析することができ、及び/又はフレームの一部を却下又は無視して、例えば、効率を改善したり、不十分なデータに基づいているデータを回避したりできる)。
【0102】
例えば、検討下の各画像フレームについて、(例えば、動き却下によってフィルタリングされたセグメンテーション又はセグメンテーションからの)選択されたピクセルを、対応する時点を表す単一の値に、例えば、時点ごとの選択されたピクセルのピクセル強度を(空間的に)平均化することにより組み合わされ、時系列を形成するために組み合わされる。例えば中央値、加重平均、又は代替値など、ピクセル値を集約する又は組み合わせる他の尺度も使用できる。尺度は必ずしも中心性の測定値ではなく、例えば、抽出される信号に応じて、分散の尺度(分散、標準偏差、四分位間値など)であっても、データから推測する特定の信号に適していると見なされる異なる尺度でさえあってもよい。
【0103】
セグメンテーションによって生成されるマスクはバイナリマスクであり得るが、例えば、各ピクセルの確率や信頼度を示すソフトマスクであってもよい。同様に、動きマスクが使用される場合、これも、ピクセルに実質的に動きがない確率、ピクセルごとの検出された動きのレベル、又は別の適切な値を示すバイナリマスク又はソフトマスクであり得る。同様に、動きマスクは動き却下マスクであってもよく、動き却下マスクでは、値(例えば、マスクのピクセルごとに定義される)は、検出された動きの強度を示し(例えば、強度を表す、例えば強度に比例する)、例えば、これにより、画像内の強い動きの影響を受ける領域を(例えば、バイナリ、非バイナリ量子化、又は実数値の)動き却下マスクに基づいて除外できる。したがって、時間フレームごとに選択されたピクセルについて計算された集約尺度では、マスク又は組み合わせたマスクに従って尺度のピクセル成分を重み付けするなど、これが適宜考慮され得る。マスク(又は組み合わせたマスク)境界までの距離によって成分(例えば、集約尺度を決定するための平均化演算における項)を重み付けするなど、異なる重み付けアプローチを使用してもよい。このような距離は、ユークリッド距離、チェビシェフ距離、マンハッタン距離、又は他の適切な距離の測定基準など、さまざまなメトリックに従って決定できる。同様に、使用されるメトリックに関係なく、境界までの距離を画定することの異なる代替法を使用してもよい。例えば、境界上の法線投影線を使用し、最も近い距離を選択することによって境界上又は境界外の最も近い点までの距離が画定される。(例えば、効率のために、画像グリッド座標の意味において)水平方向及び垂直方向の最も近い距離のみを考慮する。場合によっては、他の代替法もある。このような距離重み付けは、単独で使用されても(又は、いくつかの実施形態ではまったく使用されなくても)、ソフトマスク固有の重み付け係数と組み合わされてもよい。選択したピクセル領域の境界から遠く離れたピクセルは、境界のジッターによる影響を受けにくくなると推定されるため、距離ベースの重み付け係数を使用することは有利な場合がある。
【0104】
信号を決定するステップ105は、このように決定された時間系列、例えば、選択したピクセルの平均(例えば)ピクセル強度を表す生信号を出力する(106)か、又は、この時系列をさらに処理して、出力106として提供される時系列の関心の特性として信号を決定する。例えば、周波数フィルタリング及び/又は解析を使用して、ノイズを低減するか、及び/又は関心の周波数帯域が選択される。
【0105】
生成される信号は、収縮期を表す生信号のバレーなど、生PPGの特性特徴(選択した皮膚ピクセルの平均強度など)に基づくトリガーであり得る。このようなトリガーは、例えば、撮像システムによるデータ取得をトリガーするために、及び/又はシステムによって取得されたデータの処理若しくは注釈付けに使用するために方法の出力として提供され得る。
【0106】
図6は、本発明の実施形態による方法によって生成されたPPG信号(「カメラPPG」と示す)を、時間の関数として示している。Y軸の目盛りは、任意とみなされるか、少なくとも、(プロット上の丸で示される)信号のバレー(極小値)に対応するトリガーを生成する目的ではあまり関係がない。比較のために、この下には、同時に取得された心電図(ECG)が示されている。このECGでは、Rピークが丸で示されている。見てわかるように、わずかな遅延はあるが、PPGベースのトリガーとRピークとの間には良好な対応が達成される。したがって、実際には、ECGトリガーの代理としてPPGマーカーを使用してMRI取得(又は同様の診断撮像用途又は治療実施用途における)をトリガーできると推定できる。
【0107】
或いは、信号は時間にわたって対応するピクセルをマッチさせることによって生成され、したがって、異なるピクセルに対応する(又はより小さなピクセルグループで平均化された)複数の時系列を収集し、これは、例えば、最初に各信号から関心の特性(信号トレースの極小値を示すトリガーなど)を抽出し、次に抽出された特性を平均化する(又はグローバル化する)(検出されたトリガーに関連付けられる時間点の平均化、多数決ストラテジの適用、信頼性を示す非バイナリ値を作成するための平均化の使用、及び/又は空間の異なるポイントについて抽出された情報を組み合わせるための別の適切なストラテジなどの)適切な処理によってグローバル信号に組み合わされ得ることに留意されたい。
【0108】
方法はさらに、例えば、システムによって取得又は治療実施ゲーティングのためのトリガーとして使用されて、(例えば、システムによって取得された再構成された又は生データに注釈を付けるために)システムによって取得されたデータとともに保存して、取得したデータの処理及び/又は類似の目的を支援する生成された信号を出力するステップ106を含み得る。
【0109】
また、実施形態による方法は、少なくともいくつかのステップ又は操作の並列処理に適していることにも留意されたい。例えば、動きが生じ易いピクセル領域(目、顔、胸部など)の検出104と、セグメンテーション103とは、例えば、別々の処理スレッドで同時に行われ、結果は、信号抽出105のためのピクセルの最終的な選択を得るために両方が利用可能になったときに組み合わされる。
【0110】
【0111】
カメラ画像91が取得される。カメラ画像91内に、マルチスケールテンプレート探索を使用してミラーアセンブリが検出される(画像上にオーバーレイされたアウトラインで示される)。これにより、画像内の関心領域を示すために第1のマスク92が作成される(カメラ画像91に対してわずかにトリミングされて示されている)。
【0112】
この第1のマスクによってマスクされたカメラ画像において、セグメンテーションが行われる(画像93を参照)。この例では、セグメンテーションから、信号抽出のための候補領域94が選択される。例えば、サイズで上位3つの領域が選択される(これに限定されない)。さらに、例えば同時に、画像内の実質的に動きのない領域を見つけるための動きマスク95が決定される。見てわかるように、目は動きが生じ易いとして検出され、この動きマスクで除外される。
【0113】
選択したセグメント化された領域から、また、動きが生じ易いピクセルを却下した後、信号を抽出できる。
図8は、この例では合成PPG信号として使用できる、時間(又は少なくともビデオフレーム)の関数としての平均ピクセル強度として構成されたこのような信号を示している。
【0114】
また、本発明の実施形態による方法を適用して、例えば、新しいカメラ画像を、それらが利用可能になったときに連続的に処理することにより、実質的にリアルタイムで信号を生成できることにも留意されたい。画像処理にはある程度の処理時間が必要であるが、例えば、並列処理能力を有利に使用することによって、優れた応答、例えば、低処理遅延を実現できる。
【0115】
第2の態様では、本発明は、遠隔カメラ観察に基づいて診断撮像又は治療処置中に対象者の状態を示す信号を決定するデバイスに関する。
【0116】
図9に、本発明の実施形態による例示的なデバイス50を概略的に示す。このデバイスは、診断撮像又は治療処置中に対象者の身体部分を、例えば、直接及び/又は反射面における反射を介してモニタリングするように構成されたカメラ52(又は複数のカメラ)からカメラ画像を受信する入力部51を含む。デバイスは、ミラーなどの反射面を含み得、及び/又は、使用中はカメラのビュー内に反射面があると想定される。
【0117】
デバイスはカメラ52を含み得る。デバイスはまた、ミラーやミラーアセンブリなどの反射面(又は複数の反射面)を含み得る。デバイスはまた、対象者の身体部分を照らす光源を含み得る。カメラは、赤外線カメラ、可視波長範囲又はその一部で動作するモノクロカメラ、カラーカメラ、及び/又はマルチスペクトルカメラを含み得る。
【0118】
デバイスは、関心の身体部分に対応する画像情報を含む画像内の関心領域を画定するために、受信したカメラ画像のうちの少なくとも1つにおける反射面の形状又は輪郭を検出する画像特徴検出器53を含む。
【0119】
画像特徴検出器は、反射面のテンプレートを使用して反射面の形状又は輪郭を検出するためのマルチスケール探索を行うように適応されていてもよい。例えば、マルチスケール探索では、カメラ画像内の複数の異なる候補位置とテンプレートの複数の異なるスケールの対応の尺度を評価し、カメラ画像に対するテンプレートの位置及びスケールにおける(例えば最適な)対応が特定される。
【0120】
例えば、デバイスは、テンプレートを受信する及び/又はテンプレートを保存するように適応されている。デバイスはまた、キャリブレーション手順を行うように適応されていてもよい。キャリブレーション手順では、キャリブレーション画像がカメラから受信され、キャリブレーション画像は(例えば、手動操作やより計算量の多い形状検出アルゴリズムを適用することによって)画像内の反射面のサイズに合わせてトリミングされ、また、(任意選択で)高周波空間カーネルを適用して、低周波成分を抑制する。同様に、特徴検出器は、カメラ画像に基づいて対応の尺度を計算する前に、高周波空間カーネル(又は同様のフィルタ)をカメラ画像に適用するように適応されていてもよい。
【0121】
デバイスはまた、手順中の対象者の位置に関する情報を、その処置を行うための診断撮像又は治療実施システムから受信するためのさらなる入力部を含み得る。この場合、特徴検出器は、この情報を考慮するように適応されていてもよい。
【0122】
特徴検出器によって画定された関心領域は、反射面の輪郭で囲まれた第1の画像領域を含む。さらに又は或いは、関心領域は、反射面に対する第2の画像領域の所定の空間関係を使用することによって、反射面を介する反射なしでカメラによって身体部分が直接観察できる第2の画像領域を含むことができる。関心領域は、複数の領域(例えば、バラバラな領域や隣接する領域)で構成されていてもよく、これらは異なる反射面(例えば、ミラーや、カメラによる直接ビューが想定される異なる領域)に対応し得る。
【0123】
デバイスは、関心の身体部分の特徴に対応する関心領域内のピクセル又は1つ以上の領域を選択するために、画像処理などによって、取得したカメラ画像のうちの少なくとも1つにおける検出された関心領域をセグメント化するセグメンタ54を含む。効率性などの理由で、セグメンタは、セグメンテーションを検出された関心領域のみに特に限定するように構成されていてもよい。
【0124】
セグメンタは、ピクセル強度(又は、多次元の(例えば、カラー)ピクセル値)に基づいてカメラ画像内のピクセルを分類して、ピクセル又は画像領域が関心の身体部分の特徴に対応しているかどうかを決定するように適応されてもよい。
【0125】
セグメンタは、カメラ画像のシーケンスにおけるピクセル強度(又は値)の動的変化の解析に基づいてカメラ画像内のピクセルを分類して、ピクセル又は画像領域が関心の身体部分の特徴に対応しているかどうかを決定するように適応されてもよい。
【0126】
デバイスは、選択したピクセル又は領域から対象者の状態を示す信号を決定する信号抽出器55を含む。信号抽出器は、対象者の心臓、心血管、及び/若しくは呼吸機能を示す信号、又は対象者の生理学的状態及び/若しくはパラメータを示す別の信号を生成するように適応されてもよい。信号抽出器は、光電式容積脈波記録信号を生成するように適応されてもよい。
【0127】
デバイスは、生成された信号(又はそこから派生した信号)を出力するための出力部57を含み得る。例えば、出力部は、診断撮像システム及び/又は治療実施システムにトリガー信号を提供して、診断撮像システムによるデータ取得をゲーティングして、治療処置の実施を制御するか、並びに/又は、診断撮像システムによって取得された画像データのソート、照合、選択、及び/若しくは注釈付けに使用する。
【0128】
デバイスはまた、異なる時間に取得されたカメラ画像間の身体部分の又は身体部分内の動きを決定する動き検出器56を含み得る。例えば、動きが検出された関心領域(画像特徴検出器53によって決定された領域)のピクセルは、セグメンタによって決定される選択から除外される。さらに又は或いは、検出された動きを使用して、以前に取得した画像に基づくセグメンテーションによって決定された選択をレジストレーションして、画像内の身体部分の位置及び/又は他の空間特性の変化を考慮することもできる。さらに又は或いは、セグメンタ及び/又は画像特徴検出器は、検出された動きが所定の閾値を超えると、又はバルクの動きを示す別の基準を満たすと、反射面検出及び/又はセグメンテーションを再び実行するトリガーを受信してもよい。例えば、動き検出器56は、オプティカルフロー推定アルゴリズムを適用してもよい。
【0129】
本発明の実施形態によるデバイスの他の特徴、又は上記の特徴の詳細は、本発明の実施形態による方法に関する上記の説明を鑑みて明らかになるであろう。例えば、デバイスは、プロセッサ、コンピュータ、又は同様の汎用コンピューティングデバイスを、上記の方法又は少なくともそのステップを行うために適応されたソフトウェアとの組み合わせで含み得る。或いは又はさらに、デバイスは、本発明の実施形態による方法及びそのステップを行うために設計された専用のハードウェアを含み得る。例えば、このような専用ハードウェアは、特定用途向け集積回路や、フィールドプログラマブルゲートアレイなどの構成可能なハードウェアを含み得る。
【0130】
第3の態様では、本発明は、磁気共鳴撮像システム又はコンピュータ断層撮影システムなどの診断撮像システムに関する。このシステムには検査ゾーンがあり、検査ゾーンに配置された状態で検査を受ける際に対象者をモニタリングするカメラシステムを含む。したがって、このシステムは、磁気共鳴撮像、コンピュータ断層撮影、陽電子放出断層撮影、及び/又は単光子放出コンピュータ断層撮影によって対象者を撮像するために適応させることができる。或いは、さらなる態様では、本発明は、例えば、カメラシステムと、本発明の第2の態様の実施形態によるデバイスとを含む、放射線治療介入を行う同様のシステムに関する。
【0131】
図10は、本発明の実施形態による診断撮像システム1を概略的に示す。この実施例では、システムは磁気共鳴撮像システムであるが、本発明の原理は、異なる診断撮像モダリティのシステムにも等しく適用できる。
【0132】
実施形態による磁気共鳴検査システムは、検査ゾーン11を画定する一次磁石アセンブリ10を含み得る。例えば、検査ゾーンは、磁石アセンブリによって実質的に作成及び制御される磁場条件が磁気共鳴撮像に適したボリュームによって形成される。したがって、検査ゾーンは、システムの磁石ボアに囲まれたボリューム(の少なくとも使用可能な部分)に対応する(これに限定されない。例えば、本発明の原理は、オープンボアシステムや、他のあまり頻繁には使用されていない磁石アセンブリ構成にも等しく適用される)。
【0133】
検査対象者(患者など)13は、システムを使用する際に、検査ゾーンの患者台14上に置かれる。一次磁石アセンブリは、検査ゾーンに定常均一磁場を発生させるために、同軸(例えば、超電導)巻線などの磁石巻線を含む。検査ゾーンは、これらの磁石巻線で囲まれた円筒形のボリュームであり得る。
【0134】
システムは、使用中のシステムによって取得された磁気共鳴信号から、断層画像MRI画像などの磁気共鳴画像を再構成する再構成器15を含み得る。再構成された画像は、見ること、処理、又は保存のために出力部16を介して提供され得る。
【0135】
RFのT/Rヘッドコイル12などの補助機器を、使用の際に検査ゾーンに配置して、対象者の頭部から磁気共鳴信号を取得できる。他の補助コイル構成を使用して、他の身体部分から、又は異なる使用事例の信号を取得する一方で、通常、信号は、一次磁石アセンブリのハウジングにすでに組み込まれている受信コイルによっても受信され得る。
【0136】
システムは、カメラ52、又は、例えば、複数のカメラを含むカメラアセンブリを含む。カメラシステムは、例えば、バイタルサイン、動き、苦痛の指標などを得るために、検査対象者から情報を得るように適応されている。画像は、評価のために、つまり、画像を観察することで、例えば、機器及び/又は患者の状態を示す有用な情報を得るためにオペレータに提示され、本発明の実施形態に従って、例えば、電子処理デバイスによる画像処理によって、関心のパラメータを表す有用な信号を決定するために使用され得る。
【0137】
カメラは、検査ゾーンの1つの入り口の近くに取り付けられ得る。例えば、カメラはMRボアのフランジ内に組み込まれるか、フランジに取り付けられ得る(例えば、これにより、使用可能なフリーボア直径が影響を受けない若しくは最小限にのみ縮小されるか、及び/又はMRシステムの動作への干渉を回避若しくは最小限に抑える)。例えば、(任意選択の)照明ライト29も、このフランジ内又はこのフランジ上にも設けられてもよい(これに限定されない)。
【0138】
カメラシステムはまた、カメラ52を制御する、例えば、光学軸の向き、焦点距離などのパラメータを調整するカメラ制御部25を含み得る。カメラシステムは、カメラによって取得された検査ゾーン11の内側の画像(生か又は適切な処理後)を表示するディスプレイ26を含み得る。これにより、オペレータは、検査ゾーン内の対象者を視覚的にモニタリングできる。
【0139】
カメラ52によって取得された画像は、取得されたカメラ画像から対象者に関する情報を導出する画像プロセッサ27(ソフトウェア、ハードウェア、又はその両方の組み合わせで実装され得る)に提供され得る。画像プロセッサは、本発明の第2の態様の実施形態によるデバイス50であるか、又はそれを含む。
【0140】
画像プロセッサ27は、カメラシステムによって取得された画像情報を処理して、例えば、静的及び/又は動的画像解析を行い、患者のバイタルサイン、患者の動き、患者の苦痛の徴候(又はより一般的には患者の気分検出)、光電式容積脈波記録(PPG)、及び/又はビデオベースの会話の検出(又は発話、例えば、単純な言葉や顔の特徴に基づく指示の認識)などの情報を患者から得るように適応され得る。患者の動きに関する情報には、例えば、呼吸周期及び/又は心周期の位相を示す呼吸の動き及び/又は心臓の動きなどが含まれ得る。例えば、患者の動きに関する情報は、患者の身体の外側の画像情報から得られる。情報は(例えば、画像ベースの動き検出器による)処理によって、及び/又はオペレータ若しくはスタッフによるシステムを介した患者の(直接)視覚的モニタリングによって決定され得る。
【0141】
呼吸位相及び/又は心位相情報(及び/又は動きを示すより一般的な情報)、例えば、デバイス50によって生成される信号を、再構成器15に提供して、取得された磁気共鳴信号を動きについて補正したり、再構成された磁気共鳴画像に動き補正を適用したりすることができる。例えば、心臓トリガー信号は、カメラからのビデオ信号に基づいて決定される。心臓トリガリングは、明らかな理由から、心臓MRIに特に有用であるが、より一般的に適用されてもよい。例えば、神経画像検査では、血液や脳脊髄液の脈動流によって引き起こされる頭部や頸部のスキャンにおけるアーチファクトは、このようなトリガリング技術又は心位相信号に基づく他の補償アプローチによって抑制又は低減され得る。これはまた、頸動脈の血流の定量的測定にも有用であり得る。さらに、額や頬などの対象者の顔などにおける皮膚ピクセルの微妙な強度変化を解析することで、ビデオ信号からPPG信号を抽出できる。
【0142】
したがって、デバイス50によって提供される信号は、MRIシステムや診断撮像処置を行う他のシステムなどのシステムによるデータ取得をゲーティングするために使用できる。又は、さらに、若しくは或いは、治療システムを使用して治療処置の実施を制御するために使用できる。さらに又は或いは、信号は、診断撮像システムによって取得された画像データのソート、照合、選択、及び/又は注釈付けに使用することもできる。
【0143】
本発明の実施形態による磁気共鳴撮像システムでは、カメラシステムはまた、1つ以上の光源29を含み得る。撮像にパッシブライティングに依存する実施形態は必ずしも除外されるわけではないが、当業者は、アクティブライティングを使用すると、ライティング条件をより適切に制御でき、撮像がより効果的であることを理解するであろう。
【0144】
光源29は、場合によっては、ミラー又は反射面によって支えられている検査ゾーン内/上に直接光線を向けるように構成して置くことができる。
【0145】
光源及び/又はカメラは、検査ゾーンの外側にあっても、そのエッジ領域の上又は近くにあってもよい。これにより、磁気共鳴撮像システムの構成が簡素化され(例えば、システムのRF及び磁場操作への干渉を回避又は低減する)、検査ゾーンのより大きいフリーボア幅が得られる可能性がある。例えば、円筒ボアシステムの場合、カメラと光源の両方(又はいずれか一方を個別に)はボアの一端でボアエンクロージャのフランジにあり、これにより、例えば(患者や保持機器を検査ゾーンに入れるための)検査ゾーンへの妨げられないアクセスを可能にし、システムによって撮像されている間の対象者の潜在的な閉所恐怖症の影響、したがって、可能な不快感を軽減するために、他端が実質的にフリーになる。
【0146】
本発明の実施形態による磁気共鳴撮像システムでは、カメラは(例えば狭い)赤外線波長範囲及び可視波長範囲外の光を操作する(例えば、実質的に排他的に反応する)ように適応され得る。
【0147】
本発明の実施形態による磁気共鳴撮像システムでは、カメラは、可視波長範囲で動作する(例えば、実質的に排他的にその範囲に反応する)、例えば、広い白色光スペクトル又はその一部(例えば、カラー帯域)に反応するように適応され得る。カメラはモノクロ情報を取得するように適応されても、例えば、赤、緑、及び青の成分など(これに限定されない)の異なる色成分を好ましくは独立して実質的に同時に検出するように適応されたカラーカメラであってもよい。また、カメラは比較的大きな(例えば3つよりも多くの)スペクトル成分を検出するようにも適応されてもよい。例えばマルチスペクトルカメラである。
【0148】
光源は、カメラに適したスペクトルで光を放出し得る。例えば、広帯域の白色光は、可視範囲のモノクロ又はカラーカメラが動作するために照明を提供する。同様に、赤外線光源を使用して、赤外線カメラが反応するスペクトル範囲で赤外線を放出してもよい。光源とカメラのスペクトルは必ずしも同一ではない、又は、必ずしも密接に関連しているわけではないことが理解されるであろう。例えば、光源のスペクトルは、カメラが反応するスペクトルと十分な重なりがある限り、より広くてもよい。
【0149】
カメラは、アナログカメラであってもよいが、好ましくは、例えば、ピクセル光検出器のアレイを含むデジタルカメラである。
【0150】
システムは、検査ゾーンに配置されて、顔やその一部(例えば、目、眼球、額のある領域、…)などの対象者の身体部分からの光をカメラ上に反射する、及び/又は光源からの光を身体部分上に反射するミラー又はミラーアセンブリ22を含む。ミラーアセンブリは、(例えば、非金属製の)ミラーを含む場合がある。「ミラー」という用語の使用は、狭く解釈されるべきではない。例えば、ミラーアセンブリは、ミラー及び/又は反射体として機能する、つまり、関心のスペクトル範囲の光を反射する構成要素から構成され得る。
【0151】
ミラー又はミラーアセンブリ22は、磁石ボアエンクロージャなどの検査ゾーンの内壁、及び/又はヘッドコイルアセンブリなどの補助機器に取り付けられ得る。したがって、ミラーアセンブリは、例えば、頸部、頭蓋、及び/又は神経放射線MR検査に使用する頭部T/Rコイルに取り付けられ得るか、又はその一部として形成され得る。ミラーをヘッドコイル内又は上に組み込むことで、スキャナボアなどの既存の機器のコストのかかる又は複雑な変更を回避できることに留意されたい。例えば、ボアのフランジ上に取り付けられているカメラ間の距離が比較的離れていることにより、例えば、額やその一部のみが示される非常に限られた視野となるが、いくつかの用途では、例えば、ピクセル強度のわずかな変動によって血中脈動をモニタリングするために十分であり得る。
【0152】
好ましくは、ミラー22は磁気共鳴撮像システムの高周波動作に干渉しない、及び/又はMRIシステムの磁場及びRFダイナミック透過磁場に摂動を与えない。非金属製ミラーは、この利点を達成するために特に適している場合がある。例えば、非金属製ミラーは誘電体ミラーであり、例えば、異なる屈折率の層のスタックから構成され、例えば、誘電共振器がスタックによって形成される。このような配置は狭い波長範囲に特に適しているが、スタック内の層の厚さを変えることで、広帯域反射(又はその近似)又は複数の色成分の反射も容易に達成できるように異なる波長の反射に対応できることが理解されるであろう。
【0153】
本発明の実施形態による磁気共鳴撮像システムでは、ミラーアセンブリは、カメラの撮像面上での(カメラ観察のための)関心の身体部分の画像の形成を可能とするように、及び/又は光源からの光を関心の身体部分に反射するように、光を反射するように特に適応されている。したがって、ミラー(又はミラーアセンブリ)22は、検査領域の一部(つまり、対象者が検査を受けている際に身体部分がある場所)とカメラとの間に光学経路を配置し、これにより、カメラがその一部から画像情報を得られるようになる。ミラーアセンブリは、例えば、磁石ボアエンクロージャの内壁に取り付けるなどして、検査ゾーン内に置いてもよい。或いは、ミラーアセンブリは、例えば、検査ゾーンの患者台上に置かれているときの局所高周波(RF)コイルなどの検査ゾーン内の補助機器上に配置されてもよい。例えば、ミラーアセンブリをRFヘッドコイルに取り付けることが実用的な場合がある。
【0154】
第4の態様では、本発明は、コンピューティングデバイスによって実行されると、本発明の第1の態様の実施形態による方法を行うためのコンピュータプログラム製品に関する。例えば、コンピュータプログラム製品は、コンピュータなどのコンピューティングデバイスに実施形態の方法を実施するように指示する機械解釈可能な命令を含む。
【国際調査報告】