(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公表特許公報(A)
(11)【公表番号】
(43)【公表日】2024-08-01
(54)【発明の名称】カメラベースのバイタルサイン検出
(51)【国際特許分類】
A61B 5/02 20060101AFI20240725BHJP
H04N 23/60 20230101ALI20240725BHJP
A61B 5/0245 20060101ALI20240725BHJP
【FI】
A61B5/02 310Z
H04N23/60 500
A61B5/0245 100Z
【審査請求】未請求
【予備審査請求】有
(21)【出願番号】P 2024505258
(86)(22)【出願日】2022-07-26
(85)【翻訳文提出日】2024-01-29
(86)【国際出願番号】 EP2022070913
(87)【国際公開番号】W WO2023011981
(87)【国際公開日】2023-02-09
(32)【優先日】2021-08-02
(33)【優先権主張国・地域又は機関】EP
(81)【指定国・地域】
(71)【出願人】
【識別番号】590000248
【氏名又は名称】コーニンクレッカ フィリップス エヌ ヴェ
【氏名又は名称原語表記】Koninklijke Philips N.V.
【住所又は居所原語表記】High Tech Campus 52, 5656 AG Eindhoven,Netherlands
(74)【代理人】
【識別番号】100122769
【氏名又は名称】笛田 秀仙
(74)【代理人】
【識別番号】100163809
【氏名又は名称】五十嵐 貴裕
(74)【代理人】
【識別番号】100145654
【氏名又は名称】矢ヶ部 喜行
(72)【発明者】
【氏名】ウェイス ステフェン
(72)【発明者】
【氏名】ワン ウェイジン
(72)【発明者】
【氏名】トルモ アルベルト ガルシア
(72)【発明者】
【氏名】ヴエルベルン ヤン ヘンドリク
(72)【発明者】
【氏名】デン ブリンケル アルベルトゥス コルネリス
【テーマコード(参考)】
4C017
5C122
【Fターム(参考)】
4C017AA02
4C017AA10
4C017AC27
4C017BC11
4C017FF15
5C122DA12
5C122DA13
5C122DA25
5C122DA30
5C122EA59
5C122FA17
5C122FF17
5C122FH11
5C122GG21
5C122HB02
5C122HB10
(57)【要約】
バイタルサイン検出システムは、検査ゾーン42から画像フレームを取得するように構成されたカメラ10を有する。信号プロセッサ11は、取得した画像フレームからバイタルサイン情報を導出する。照明コントローラ12は、検査ゾーンの照明を制御し、照明の時間変調を生成し、変調された照明とカメラフレームレートを同期させる。本発明のバイタルサイン検出システムは、ダイナミックレンジを増加させ、ひいてはバイタルサイン信号の信号対雑音比も増加させることを達成する。
【特許請求の範囲】
【請求項1】
検査ゾーンから画像フレームを取得するよう構成されるカメラと、
前記取得された画像フレームからバイタルサイン情報を導出する信号プロセッサと、
前記検査ゾーンの照明を制御し、前記照明の時間変調を生成し、前記カメラのフレームレートを、変調される照明と同期させる照明コントローラと、
を有するバイタルサイン検出システムであって、
連続する画像フレーム間で検出される当該画像フレームの変調深度を検出する信号解析器が使用され、
前記照明コントローラは、前記検査ゾーンの前記照明の波長帯域変調を生成するとともに、前記変調深度に応じて前記カメラのフレームレートを同期させるように構成されている、バイタルサイン検出システム。
【請求項2】
前記信号プロセッサは、異なる変調位相で連続的に取得される画像フレームから差分画像を形成するように構成される、請求項1に記載のバイタルサイン検出システム。
【請求項3】
前記検査ゾーンを照明する照明装置を更に有し、前記照明装置は、ヘモグロビンのスペクトル吸収帯域内のスペクトル成分を含む照明を発するように構成されている、請求項1に記載のバイタルサイン検出システム。
【請求項4】
前記時間変調が、20~60Hzのレンジの変調周波数を有する振幅変調である、請求項1に記載のバイタルサイン検出システム。
【請求項5】
前記フレームレートが、前記照明の時間変調周波数の2倍である、請求項2に記載のバイタルサイン検出システム。
【請求項6】
前記カメラは、位相ロックモードで動作するように構成されている、請求項2に記載のバイタルサイン検出システム。
【請求項7】
前記照明の前記時間変調周波数は、周囲光の時間変調周波数に等しい、請求項5又は6に記載のバイタルサイン検出システム。
【請求項8】
前記照明コントローラは、連続する画像フレーム間の前記変調深度の最大値に前記カメラのフレームレートを調整することによって、前記カメラのフレームレートを同期させるように構成される、請求項1に記載のバイタルサイン検出システム。
【請求項9】
前記照明制御は、π/2位相角が前記波長帯域変調及び前記画像フレームレートに導入されるインターリーブ再同期測定を実行するように構成される、請求項1又は8に記載のバイタルサイン検出。
【請求項10】
前記カメラがモノクロカメラである、請求項1、8及び9のいずれか1項に記載のバイタルサイン検出システム。
【請求項11】
バイタルサイン検出を行う方法であって、
検査ゾーンの照明の時間変調を適用するステップと、
前記検査ゾーンからの画像フレームの取得を、変調された照明と同期させるステップと、
取得された前記画像フレームからバイタルサイン情報を導出するステップと、
連続する画像フレーム間の変調深度を検出するステップと、
前記検査ゾーンの照明の波長帯域変調を生成するステップと、
前記変調深度に応じてカメラのフレームレートを同期させるステップと、
を有する方法。
【請求項12】
前記照明の前記時間変調は、時間的な波長帯域変調として実現され、画像フレーム間の連続する画像フレームの輝度変調深度が検出され、前記画像フレームの取得は、前記変調深度に応じて同期される、請求項11に記載のバイタルサイン検出方法。
【請求項13】
検査ゾーンの照明の時間変調を適用するステップと、
前記検査ゾーンからの画像フレームの取得を変調された照明と同期させるステップと、
取得される前記画像フレームからバイタルサイン情報を導出するステップと、
連続する前記画像フレーム間で検出される画像フレームの変調深度を検出するステップと、
前記検査ゾーンの前記照明の波長帯域変調を生成するステップと、
前記変調深度に応じてカメラのフレームレートを同期させるステップと、
を有する方法。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、検査ゾーンから画像フレームを取得するように構成されたカメラと、取得された画像からバイタルサイン情報を導出する信号プロセッサとを有するバイタルサイン検出システムに関する。
【背景技術】
【0002】
多波長タイプの遠隔PPG(MV-rPPG、multi-wavelength variant of remote PPG)は、それがロバストネスを改善し、SpO2測定を可能にするので、カメラベースの脈拍測定のために望ましい。時間多重化は、カメラハードウェアの変更なしに、Philips MR VitalEyeにおけるようなモノクロカメラ遠隔PPGソリューションをMVに変えるために魅力的である。しかしながら、時間多重化は、光スイッチングとカメラフレーム取得との間の正確な同期を必要とする。これは、典型的には、ケーブルをトリガすることによって達成されるが、MR VitalEyeとして既存のセットアップに設置することができないか、又は容易でない場合がある。
【発明の概要】
【発明が解決しようとする課題】
【0003】
遠隔フォトプレチスモグラフィ(rPPG、remote photoplethysmography)は、人間の被検体の顔のビデオストリームに基づいて、リアルタイムで脈拍数及び現在の心位相さえも測定するために使用することができる。rPPG信号発生のためにいくつかの異なる波長を同時に使用する多波長rPPGが、rPPG信号のSNR、自動皮膚選択、及び被検体の周囲照明及び動きの変化に関するこの信号のロバストネスを改善するために提案されている。多波長rPPGを実現するための簡単な方法は、カラーカメラを使用することである。ただし、カラーカメラにはRGBカラーが固定されている。これらのRGB色以外の、例えば赤外線(IR)光を含む波長帯域の他の組み合わせが使用されるきである場合、又はセットアップがすでにモノクロカメラのみからなる場合、又はコストを節約するため、又はフォームファクタを低減するためにモノクロカメラを使用すべきである場合(コンパクト設計)、単一のモノクロカメラ及び波長帯域ごとに1つのいくつかの光源を使用することによって、多波長特徴を実現することが可能である。このアプローチは、カメラのフレーム取得と光源のスイッチとの正確な同期を必要とする。典型的には、これは、カメラ及び光源のコントローラを同じトリガ信号でトリガすることによって実現される。しかしながら、これは、光コントローラ及びカメラへの高速信号リンクを必要とする。このようなバイタルサイン検出システムは、米国特許出願第2017/0354334号から知られている。
【0004】
知られているバイタルサイン検出システムは、被検体のバイタルサインのカメラベースの測定を利用する。特に、ビデオ画像が取得され、処理されて、関心領域の遠隔反射率フォトプレチスモグラム(rPPG)が取得される。信号平均化は、rPPG信号の信号対雑音比を改善するために使用される。
【0005】
本発明の目的は、バイタルサイン信号の生成においてよりロバストなバイタルサイン検出システムを提供することである。
【課題を解決するための手段】
【0006】
この目的は、請求項1に記載のバイタルサイン検出システムによって達成される。技術的利点(非限定的な実施例)については、より効率的な生体検出システムのための高速同期を有するようなカメラ及び光源を有することである。
【0007】
バイタルサイン検出システムのカメラは、検査ゾーンから、特に検査ゾーンに配置された監視される被検体の画像フレームを取得する。被検体を有する検査ゾーンは、主に被検体の関心領域、特に被検体のむき出しの皮膚の領域を照明するように構成された照明装置によって照明され、その結果、カメラは、(非鏡面)反射において照明された被検体から画像フレームを取得することができる。照明装置は、ボア内照明システムとして構成されることができる。取得された画像フレームから、信号プロセッサは、1つ又は複数のバイタルサイン信号を導出する。特に、被検体の組織における血液量の時間的変動は、照明の光の吸収及び反射の変動をもたらす。従って、画像フレームから、時間的rPPG信号が導出されることができる。照明は時間的な変調(以下「時間変調」)を有し、カメラのフレームレートが前記時間変調と同期される。これは、信号プロセッサが、画像フレームからベースライン照明を除去し、画像フレームからバイタルサイン(例えば、血流)の寄与を分離することを可能にする。従って、ダイナミックレンジ、ひいてはバイタルサイン信号の信号対雑音比も増大される。更に、照明は、バイタルサイン検出システムが配置された検査室を照明する照明装置によって生成されることができる。
【0008】
本発明のこれら及び他の態様は、従属請求項に定義される実施形態を参照して更に詳述される。
【0009】
バイタルサイン検出システムの好ましい実施形態では、信号プロセッサは、連続する画像フレーム間の差を計算することができる。これらの連続する画像フレームは、照明の変調位相がそれぞれの画像フレームにおいて異なるように、照明の時間変調に関して選択される。これは、画像フレームからの照明のベースライン寄与を排除し、より高い信号対雑音比でバイタルサイン信号を保持することを可能にする。
【0010】
バイタルサイン検出システムの更に好ましい実施形態では、照明システムは、バイタルサイン検出システムの一部とみなされ、ヘモグロビンスペクトル吸収帯域内のスペクトル成分を有する照明を発するように構成される。これにより、画像フレームは、特に550~600nmの波長範囲において、被検体の組織における血液による吸収に特に敏感になる。その結果、rPPG信号は、照明がヘモグロビンの吸収極大の周りに非常に強いスペクトル成分を含むので、大幅に増強される。この実施形態は、ヘモグロビンの吸収極大の周りのそのような非常に強いスペクトル成分を含む白色光によって検査ゾーンが照明される磁気共鳴検査システムに組み込むことができる。
【0011】
実際的な例では、時間変調周波数は、20~60Hzのレンジである。このレンジでは、変調周波数は、バイタルサイン信号の時間的バリエーションをカバーするのに十分に高く、一方、巨視的外因による照明の変動は、しばしば、数十ミリ秒よりもはるかに遅い時間スケールである。
【0012】
他の実際の例では、カメラの画像フレームレートは、照明の時間変調の2倍である。好ましくは、カメラ動作は、変調される照明と位相ロックされる。この例では、時間的に隣接する任意の画像フレームの対は、変調される照明の互いに逆の変調位相で取得され、例えば、照明オン時に対の一方の画像フレームが取得され、照明オフ時に対の他方の画像フレームが取得される。その結果、連続する画像が、カメラによって、照明の寄与有り及び寄与無しで取得される。対の連続する画像間の差分画像は、周囲背景が打ち消されるので、主にバイタルサインの寄与を含む。これは、各対の画像フレームを減算することによって、ベースライン照明を排除し、バイタルサイン情報を保持することを可能にする。
【0013】
別の例では、バイタルサイン検出システムは、外部周囲光を有する部屋に配置されることもできる。外部周囲光は、周囲光が給電される主電源周波数にリンクされる固有の時間変調周波数を有しうる。固有の時間変調周波数に等しい検査ゾーンの照明の時間変調周波数を選択することは、外部周囲光と検査ゾーンの(追加の)照明との間のビート(beats、うなり)を回避する。例えば、バイタルサイン検出システムは、磁気共鳴検査システムと組み合わされることができ又は磁気共鳴検査システムに組み込まれることができ、磁気共鳴検査システムの磁石ボア内の検査ゾーンは、磁気共鳴検査システムに組み込まれたボアライトによって照明され、磁気共鳴検査システムが設置されている部屋からの周囲光が検査ゾーンに到達することによっても照明される。本発明のこの実施例は、ボア光と部屋からの周囲光との間のバイタルサイン信号のビートを妨害することを回避する。
【0014】
実際の実現例において、カメラフレームレートと照明変調との同期は、画像輝度の変調深度が最大であるか又はほぼ最大となるように調整される。そして、カメラのフレームレート及び照明変調は同位相になる。
【0015】
カメラは、照明の異なる波長帯域による輝度差のみが必要であるため、モノクロカメラであってもよい。特に、同期は、カラー画像のフォーメーションを必要としない。
【0016】
別の実施形態では、バイタルサイン検出システムは、連続する画像フレーム間の画像フレームの検出された輝度の変調深度を検出する信号解析器を有する。照明コントローラは、検査ゾーンの照明の波長帯域変調を生成し、変調深度に応じてカメラフレームレートを同期するように構成される。画像の明るさは、波長帯域ごとに異なる。これは、例えば、検査ゾーンにおける被検体(例えば、検査される患者)からの吸収及び反射の波長依存性による。更に、それぞれの波長帯域に対するカメラの検出感度の波長依存性は、取得された画像フレームの異なる画像輝度に追加することができる。この実施形態は、変調深度が、波長変調とカメラフレームレートとの同期に依存するという洞察に基づく。連続する画像フレームの画像輝度間の差は、波長変調とカメラフレームレートが同位相であるときに最大である。次いで、各個々の画像フレームは、1つの波長帯域からの照明からの画像に関連付けられる。波長変調及びカメラフレームレートが同位相でない(又は逆位相である)とき、各個々の画像フレームの画像輝度は、異なる波長帯域にわたって実質的に平均であり、連続する画像フレームの画像輝度間の差は最小、又はゼロでさえある。従って、波長変調に基づく本実施形態は、取得された画像フレームの取得されたストリームに基づいて、カメラフレームレートと照明変調との同期を達成する。このようにして、同期は、正確であり、簡単な方法で実現される。特に、カメラ及び照明コントローラへの信号リードの長さが異なるため、信号送信時間を正確に調整する必要がない。単純な実現例では、照明コントローラは、画像フレームの(各画像フレームのピクセルにわたる)平均輝度値を計算するように構成される。この時系列の平均輝度のフーリエ変換は、例えば、所定数の画像フレームのスライディングウィンドウによって計算される。平均輝度値は、異なる波長を有する照明間の差が比較的高い画像フレーム内の選択された関心領域から導出されることができる。更に、波長帯域変調の速度が画像フレーム速度よりもはるかに遅い間に、波長帯域変調の変調深度を測定することができる。そして、照射の時間パターンは、矩形波形に近づく。これは、実際には、色LEDの異なるセットのオン/オフを切り替え、10~100Hzの範囲の画像フレームレートを使用することによって波長帯域変調を生成することが容易な方法で実現されることができ、その結果、変調深度は、1秒以内に測定されることができる。代替的に、マークされた色差を有する追加の対象が、カメラの範囲内に配置されることができる。例えば、ステッカー上のハードウェア試験画像が使用されることができる。照明の波長帯域とカメラフレームレートとの正確な同期は、一連の平均輝度値における支配的な周波数コンポーネント(すなわち、最大振幅を有する)に対応する。2つの異なる照明波長のみが使用される単純な実現例では、後続の画像フレームの明るさの差のモジュラスのスライディングウィンドウ平均が、変調深度を表わす。
【0017】
照明の波長帯域変調のレートに対するカメラフレームレートの制御は、画像フレームの変調深度の変調深度が最大であるフィードバックループによって達成されることができる。照明変調の時間経過における正及び負の位相遅延は、このフィードバックループによって導入されることができ、最大変調深度は、次いで、照明の波長帯域変調を用いて、安定した方法で、正確に同位相であるカメラフレームレートにおいて得られる。
【0018】
実際の実施形態では、照明波長帯域変調及びカメラフレームレートは、バイタルサイン検出システムの共通プロセッサによって制御される。現在の画像フレームがプロセッサに到来すると、照明の波長帯域が切り替えられる。これは、LEDベースの照明と、それぞれの波長帯域で動作する異なる(組の)LEDのスイッチオン/オフとによって実現されることもできる。このようにして、カメラフレームレート(すなわち、画像フレームレート)及び照明波長帯域変調の周波数は、等しい周波数である。カメラ及び照明のための制御信号間の異なる通過時間によって導入されることができる任意の位相遅延は、照明の変調深度を最大にすることによって補正されることができる。この補正は、個々の信号遅延の特定の決定なしに、画像フレームから導出されることができる。
【0019】
別の実施形態では、波長帯域変調及び画像フレームレートにπ/2位相角が導入される、インターリーブされた再同期測定が使用される。その場合、変調深度は、画像フレームレートと照明波長帯域変調との同期における小さな位相バリエーションに対して高い感度を有する。小さい追加の位相を有する変調深度変化のバリエーションの符号は、同位相同期に再同期させるために、画像フレームレートと照明の波長帯域変調との間の位相を増加又は低下させるかを決定する。
【0020】
バイタルサイン検出システムからのバイタルサイン信号は、磁気共鳴検査システム又はコンピュータトモグラフィなどの別のイメージングシステムのためのトリガ信号として使用されることができる。次いで、本発明のバイタルサイン検出システムは、k空間プロファイル、X線吸収プロファイル又はサイノグラムなどの取得された画像データを、検出されたバイタルサインを同期させる撮像システムのための同期システムとして機能する。例えば、バイタルサインは、患者の心拍数であってもよく、その結果、バイタルサイン信号は、患者の心電図におけるRピークを表し、画像データは、患者の心拍数と同期して取得される。これは、取得された画像データから再構成される画像における心臓運動アーチファクトを回避することを可能にする。
【0021】
臨床実践における本発明のバイタルサイン検出システムのカメラベースの実現例は、とりわけ、(i)多次元色空間におけるより良好な関心領域検出(又は皮膚検出)を達成し、すなわち、物体/皮膚のDC色は、より良好な皮膚及び非皮膚セグメンテーションのために使用されることができる;(ii)より良好なバイタルサイン信号(例えば、PPG信号)信号品質、すなわち、脈動成分は、歪み(例えば、身体運動)から区別するために使用されることができる多次元色空間における特性フィーチャを有する。
【0022】
本発明はまた、請求項12に規定されるようなバイタルサイン検出方法に関する。本発明のこのバイタルサイン検出方法は、ダイナミックレンジ、ひいてはバイタルサイン信号の信号対雑音比を増加させることを達成する。本発明は更に、請求項14に記載のコンピュータプログラムに関する。本発明のコンピュータプログラムは、CD-romディスク又はUSBメモリスティックなどのデータ担体上に提供することができ、又は本発明のコンピュータプログラムは、ワールドワイドウェブなどのデータネットワークからダウンロードされることができる。バイタルサイン検出システムに含まれるコンピュータにインストールされると、バイタルサイン検出システムは、本発明に従って動作することが可能になり、ダイナミックレンジ、ひいてはバイタルサイン信号の信号対雑音比を増加させることを達成する。
【0023】
本発明のこれら及び他の態様は、以下に記載される実施形態を参照し、添付の図面を参照して説明される
【図面の簡単な説明】
【0024】
【
図1】本発明のバイタルサイン検出システムの実施形態が組み込まれたトモグラフィック撮像システムの概略側面図。
【
図2】変調された照明、カメラによって取得された信号、及び提示された信号のバイタルサイン情報の経時変化を示す概略図。
【
図3】本発明のバイタルサイン検出システムの別の実施形態が組み込まれたトモグラフィック撮像システムを示す概略側面図。
【発明を実施するための形態】
【0025】
いくつかの実施形態において、ビデオ解析に基づくトリガレス同期が開示される。これは、完全な同期のために、時間に対するフレーム強度の空間平均の変調が最大であるという洞察に基づく。この変調を最大にする小さな遅延によって光スイッチングを連続的に適応させる。関心領域ベースの解析及び2つの光源のみにかかる他の実施形態が、この方法のロバストネスを増加させるために与えられる。
【0026】
図1は、本発明のバイタルサイン検出システムの一実施形態が組み込まれたトモグラフィック撮像システムの概略側面図を示す。トモグラフィック撮像システム40は、そのフレーム41、患者キャリア42、及びガントリによって規定される検査ゾーン43によって概略的に表されている。例えば、コンピュータトモグラフィックシステムの場合、フレームは、X線源及びX線検出器が検査ゾーンの周りを回転するように回転可能に取り付けられるガントリによって形成される。磁気共鳴検査システムの別の例では、フレームは、磁石アセンブリを担持する構造を構成し、検査ゾーンは、磁石アセンブリが均一な磁場及び正確な線形勾配磁場を印加するボリュームによって画定される。例えば、検査ゾーンは、磁石アセンブリの円筒形状の磁石ボア(の部分)によって形成されるか、又は開放型磁石アセンブリの対向する磁極片間の空間によって形成される。照明システム20は、検査ゾーン43を照明するために設けられ、照明装置21及び照明コントローラ12を有する。照明コントローラ12は、検査ゾーンの振幅変調される照明を生成するように照明装置21を駆動する。照明装置は、550~600nmの緑色波長範囲内の顕著なスペクトル成分を有するLED白色光源のアレイを有することができる。この波長範囲では、LED白色光源の輝度レベルは、安全性の問題に直面することなく、赤外線照明の輝度レベルよりも高くなり得る。照明コントローラ12は、典型的には、35~45Hzの範囲の変調周波数、例えば40Hzで、振幅変調モードで照明装置21を駆動するように構成される。この変調周波数の範囲は、人間の視覚システムの時間分解能を超えており、その結果、検査される患者及びオペレータ又はサポートスタッフは、照明システムのちらつきによって妨げられない。照明制御はまた、検査ゾーン(及び検査される患者)からの画像フレームが取得されるカメラのフレームレートを照明システムの振幅変調と同期させるために、カメラ10に通信する。このようにして、カメラが照明のそれぞれの変調位相で画像を取得することが達成される。カメラからの画像フレームは、画像フレームからバイタルサイン情報13、すなわちrPPG信号を導出する信号プロセッサ11に与えられる。特に、信号プロセッサは、バイタル信号情報を分離するために、それぞれの変調位相の画像フレームを減算することができる。良好な結果は、異なる変調位相から連続する画像フレームを減算することによって達成される。これは、照明のオン及びオフに関する検査ゾーンからの連続画像であってもよい。検査される患者のバイタルサイン情報に主に関連するバックグラウンド信号が、減算で除去される。変調周波数は、例えば、部屋の周囲照明30、又は他の外部要因からの周囲光の時間的変動よりもはるかに高いので、減算画像内の残留信号は小さく、特に変調周波数に反比例する。照明コントローラは、検査ゾーンの照明と周囲照明の光出力の周期性との間のビートを回避するために、照明システムを周囲照明と位相ロックする位相ロック回路を更に有することができる。これは、周囲照明が主電源周波数(50~60Hz)で直接駆動される場合に有益である。これは、本発明のバイタルサイン検出システムが、主電源周波数で直接駆動される周囲照明がある環境に設置されることを可能にする。これにより、本発明のバイタル歌検出システムを用いた断層イメージングシステムの配置が容易になる。
【0027】
図2は、変調された照明、カメラによって取得された信号、及びバイタルサイン情報を表わす信号の時間変化を概略的に示す。トレースIモードは、照明の経時的な振幅変調を表わす。このトレースモードは、高輝度及び低輝度の交互する変調位相61、62を有する。トレースrPPG-BGは、バックグラウンド信号レベルに付加される遠隔(remote)PPG信号を表わす。このrPPG信号は、高照明位相では高(high)であり、バックグラウンド信号上の低(暗)照明位相では、カメラによって検出される。信号トレースrPPGは、照明変調の交互する変調位相における連続する画像フレームの減算から形成される。
【0028】
図3は、本発明のバイタルサイン検出システムの別の実施形態が組み込まれたトモグラフィック撮像システムの概略側面図を示す。
図3の実施形態では、照明コントローラは、照明装置21を時間波長で動作するように制御する波長変調器51を有する。例えば、照明装置21には、波長変調器51によって交互に切り替えられる異なる色のLEDを取り付けることができる。この実施形態におけるバイタルサイン検出システムには、カメラ10から画像フレームを受信するように回路接続された信号解析器が設けられている。信号解析器52は、カメラフレームレートと照明の波長変調との間の相対位相に依存する画像フレーム間の画像フレームの輝度値の変調深度を決定するように構成される。画像フレームの検出された変調深度に基づいて、照明コントローラ12は、照明装置によって放射された照明の波長帯域変調を生成する。また、相対位相の関数として検出された変調深度に基づいて、カメラフレームレートは変調された照明と同期され、それにより、照明の波長変調とカメラフレームレートの相対的な同位相が最大波長変調深度で見つけられる。具体的には、信号解析器は、照明の時間変調レートに依存して最大変調深度を決定する。次いで、カメラフレームレートが設定され、最大であるフレームレート照明変調と同期される。すなわち、カメラフレームレートは、カメラフレームレートの情報に基づいて照明変調に同期される。これは、連続する画像フレーム間の波長変調深度が、信号解析器52によって連続的に測定され、信号解析器52は、最大波長変調深度を維持するか、又は波長変調深度が事前に設定されたしきい値を超えるように維持することによって、カメラフレームレート及び照明変調を調整し、それらの相対位相が同位相に保たれるように調整する。
【0029】
本発明の実施の更なる詳細は、光源(スイッチング位相)とカメラ(サンプリング位相)との間の同期の品質を測定するためのメトリックに関する。品質メトリックは、新しく到来する各フレームの品質を評価するためにオンラインで(リアルタイムの形で)実行される。同期が完全に同位相である場合、多波長DC値間のコントラストは、最大(例えば、DCベクトル内の値間の急峻/大きなコントラスト)となる;同期が不十分である(同位相でない)場合、フレームが2つの波長の結合部分から取得されるので(例えば、それぞれ異なる波長が単一のフレームに寄与する)、コントラストは低減される。従って、DCベクトルはよりフラットになる。同期が完全に逆位相である最悪の場合、ベクトルはフラットである。従って、本発明者らは、異なる波長における関心領域ピクセルのDC値を測定するDCベクトルを、以下のように規定する(例えば、ここでは、ショーケースとして3波長を使用する):
DC=[mean(ROIwavelength1)、mean(ROIwavelength2)、mean(ROIwavelength3)]
【0030】
解釈及び最適化を容易にするために、全強度はここでは問題ではなく、コントラストのみが問題であるので、DCベクトルをその全エネルギ(例えば、L1-ノルム又はL2-ノルム)によって正規化する:
【0031】
これは、多波長値の正規化されたDCベクトルである。このベクトルは、新しいフレームごとにリアルタイムで測定される。
【0032】
不十分な同期の場合、ベクトルが最大のコントラストを有するように(カメラに関する)時間遅延が決定され、これは、ベクトルが[1,1,1]方向(例えば、フラット)からできるだけ逸脱する必要があることを意味する。従って、以下の最適化関数が採用されることができる:
【0033】
これは、正規化されたDCベクトルと望ましくない[1,1,1]方向との間のL2距離を最大にする。2つのベクトル間の(コサイン)角度を最大にするなど、他の距離も使用されることができることに留意されたい。この最適化関数の出力は、カメラがその非同期位相を補償し、光源と再び同期させる必要がある時間遅延である。
【0034】
いくつかの実施形態では、それぞれのフレームiの平均輝度Iiが計算される。同期が完全である場合、変調振幅Iiは、
図4aに示すように最大である。光のスイッチングと画像取得の同期が外れる場合、変調振幅は
図4(b)のように低下する。いくつかの実施形態では、この変調振幅を連続的に評価し、低下が検出された場合に光スイッチング周波数の位相を優先的に適応させることが提案される。代替的に、小さな正又は負の遅延が、光スイッチングの時間経過において繰り返し導入される。この効果の1つは、光スイッチング及びフレーム取得が同期するよう維持されることである。いくつかの実施形態では、アルゴリズムは、時間ドメインにおいて適応させることができ、他の実施形態では、アルゴリズムは、空間ドメインにおいて適応される。時間ドメインでは、光源の変調周波数(カメラサンプリングレートのn倍)は、変調周波数でのビデオ信号のスペクトルピークを可能な限り高くすることができる遅延を与えることが知られている。空間ドメインにおいて最適化するために、このサブセット内の波長帯域間のDCコントラストを増加させるためのピクセルの最適化されたサブセットが使用されている。これにより、取得間の遅延を減少させることができる。
【0035】
いくつかの実施形態では、rPPGデータ収集は、同期測定をインターリーブするために変更されることができ、例えば数フレームの間停止されることができる。この実施形態における同期測定のために、光スイッチングの位相は、光スイッチングとフレーム取得との間に90°の位相角を導入するように、周期の4分の1だけ意図的にオフセットされることができ、それにより
図4aと
図4bとの間の状況を効果的に実現する。これは、位相に対する変調振幅の最大微分を用いて、システムを動作点にセットする。これは、以下の技術的効果をもたらすことができる:a)位相の小さな偏差は、変調振幅の最大変化をもたらし、b)この振幅変化の符号は、位相を増加させるか減少させるかの情報をもつ。わずか数サイクルだけ続くことができる同期測定の後、システムは、rPPGデータ収集を継続するために同位相に切り替わることができる。
【0036】
本発明によって克服される課題の1つは、変調装置21によって生成される光が最適ではなく、同期していないことである。この実施形態では、変調装置21からの光源は、最終的にフレームを受信する同じコンピュータから制御され、フレーム到来の時点は、周波数同期のために使用されることができる。従って、フレームが信号処理部11に到来するたびに、変調装置21の光源が切り替えられる。このアプローチの技術的利点の1つは、カメラ10と光源の両方が、正確に同じ周波数で(いかなる累積する誤差なしに)動作することである。しかしながら、両方の信号間の位相(遅延)は依然として未知であり、本発明に記載の方法を使用して、それを決定し、光スイッチング及びフレーム取得を完全に同期させることができる。
【国際調査報告】