(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】
(24)【登録日】2025-06-30
(45)【発行日】2025-07-08
(54)【発明の名称】非接触式方式で獲得される情報に基づいて正確度の高い生体信号を提供するための電子装置、サーバー、システム、その動作方法
(51)【国際特許分類】
A61B 5/02 20060101AFI20250701BHJP
A61B 5/00 20060101ALI20250701BHJP
【FI】
A61B5/02 310Z
A61B5/00 A
A61B5/02 310A
(21)【出願番号】P 2024551904
(86)(22)【出願日】2024-02-22
(86)【国際出願番号】 KR2024002306
(87)【国際公開番号】W WO2024210322
(87)【国際公開日】2024-10-10
【審査請求日】2024-08-28
(31)【優先権主張番号】10-2023-0043885
(32)【優先日】2023-04-04
(33)【優先権主張国・地域又は機関】KR
(73)【特許権者】
【識別番号】524321319
【氏名又は名称】ジービー ソフト カンパニーリミテッド
(74)【代理人】
【識別番号】110000877
【氏名又は名称】弁理士法人RYUKA国際特許事務所
(72)【発明者】
【氏名】パク、キ バム
【審査官】上田 正樹
(56)【参考文献】
【文献】特開2018-164587(JP,A)
【文献】特開2022-141984(JP,A)
【文献】米国特許出願公開第2022/0096008(US,A1)
【文献】米国特許出願公開第2020/0229715(US,A1)
(58)【調査した分野】(Int.Cl.,DB名)
A61B 5/02
A61B 5/00
(57)【特許請求の範囲】
【請求項1】
電子装置であって、
通信回路;および
少なくとも一つのプロセッサ;を含み、
前記少なくとも一つのプロセッサは:
前記通信回路を通じて、第1外部電子装置のカメラを利用して獲得される使用者の顔を含む複数のイメージを獲得し、
前記通信回路を通じて、前記複数のイメージを獲得する間前記第1外部電子装置によって獲得された撮影に関連した撮影情報を獲得し、
前記通信回路を通じて、前記複数のイメージを獲得する間、同時に獲得される前記使用者の第1手の第1指に接触された前記第1外部電子装置の第1センサに基づいて獲得される特定の種類の第1生体信号および前記使用者の第2手の前記第1指に対応する第2指に接触された第2外部電子装置に基づいて獲得される前記特定の種類の第2生体信号を獲得し、
前記通信回路を通じて、前記使用者の個人特性に関連した個人情報を獲得し、
前記複数のイメージ、前記撮影に関連した情報、前記第1生体信号、前記第2生体信号、および前記個人情報をトレーニングデータとしてラーニングを遂行することによって、少なくとも一つの人工知能モデルを獲得するように設定され、
前記少なくとも一つの人工知能モデルは、前記第1外部電子装置のカメラを利用して獲得される前記複数のイメージ、前記撮影に関連した情報、前記第1外部電子装置の前記第1センサに基づいて獲得される前記第1生体信号に対する情報、および前記個人情報の入力を受けたことに対する応答として、前記第2生体信号に対する情報を提供するように具現される、電子装置。
【請求項2】
前記撮影情報は前記第1外部電子装置の撮影に関連した状態に関連した情報、および前記第1外部電子装置の外部環境に関連した情報を含む、請求項1に記載の電子装置。
【請求項3】
前記少なくとも一つのプロセッサは:
前記第1生体信号、および前記第2生体信号の時間同期化を遂行するように設定された、請求項1または2に記載の電子装置。
【請求項4】
前記少なくとも一つのプロセッサは:
前記複数のイメージに基づいて識別される生体信号を基準として、前記第1生体信号および前記第2生体信号の時間同期化を遂行するように設定された、請求項3に記載の電子装置。
【請求項5】
前記少なくとも一つのプロセッサは:
前記時間同期化が遂行されていない状態で、前記少なくとも一つの人工知能モデルを生成するように設定された、請求項3に記載の電子装置。
【請求項6】
電子装置の動作方法であって、
前記電子装置の通信回路を通じて、第1外部電子装置のカメラを利用して獲得される使用者の顔を含む複数のイメージを獲得する動作;
前記通信回路を通じて、前記複数のイメージを獲得する間前記第1外部電子装置によって獲得された撮影に関連した撮影情報を獲得する動作;
前記通信回路を通じて、前記複数のイメージを獲得する間、同時に獲得される前記使用者の第1手の第1指に接触された前記第1外部電子装置の第1センサに基づいて獲得される特定の種類の第1生体信号および前記使用者の第2手の前記第1指に対応する第2指に接触された第2外部電子装置に基づいて獲得される前記特定の種類の第2生体信号を獲得する動作;
前記通信回路を通じて、前記使用者の個人特性に関連した個人情報を獲得する動作;および
前記複数のイメージ、前記撮影に関連した情報、前記第1生体信号、前記第2生体信号、および前記個人情報をトレーニングデータとしてラーニングを遂行することによって、少なくとも一つの人工知能モデルを獲得する動作;を含み、
前記少なくとも一つの人工知能モデルは、前記第1外部電子装置のカメラを利用して獲得される前記複数のイメージ、前記撮影に関連した情報、前記第1外部電子装置の前記第1センサに基づいて獲得される前記第1生体信号に対する情報、および前記個人情報の入力を受けたことに対する応答として、前記第2生体信号に対する情報を提供するように具現される、動作方法。
【請求項7】
前記電子装置の撮影に関連した撮影情報は前記第1外部電子装置の撮影に関連した状態に関連した情報、および前記第1外部電子装置の外部環境に関連した情報を含む、請求項6に記載の動作方法。
【発明の詳細な説明】
【技術分野】
【0001】
本発明の多様な実施例は、非接触式方式で獲得される情報に基づいて正確度の高い生体信号を提供するための電子装置、サーバー、システムおよびその動作方法に関する。
【背景技術】
【0002】
光を利用して光電容積測定法(Photoplethysmography、PPG)を測定する最も一般的な技術は人体に照射した光に対する透過光の光量を分析する方法を利用し、吸光度が吸収する物質の濃度および吸収層の厚さに比例するというBeer-Lambert法則で説明される。この法則によると、透過光の変化は透過する物質の体積の変化に比例する信号となる結果が導き出されるので、物質の吸収度が分からない場合にもPPGを利用して心臓の状態などを把握することができる。
【0003】
最近ではPPGを利用した技術から一段階さらに進んでrPPG(remote Photoplethysmography)を利用した技術が登場している。PPGを利用して心臓拍動に関する信号を把握する最も大衆化した技術として、スマートフォンのようにカメラと照明が近距離に付着された装置を人体に直接的に接触させて光を照射して直ちに透過光を測定してPPGを獲得する技術があるとすれば、最近ではカメラで撮影した映像で獲得した信号から血管の体積の変化を把握するrPPG(remote Photoplethysmography)に関する技術が持続的に研究および開発されている状況である。
【0004】
rPPGを利用した技術は対象体と測定装備間の接触が要求されないという点で空港の出入国管理所、遠隔診療などカメラを具備した装置および場所で多様に応用され得る。
【0005】
ただし、rPPGに関する技術はカメラで対象体を撮影する過程で周辺光および対象体の動きにより発生するノイズが信号に及ぼす影響が大きいため、撮影された映像から測定対象体の体積変化に関連した信号のみを抽出する技術がrPPGを利用して生体信号を測定する技術のうち核心技術と言える。
【発明の概要】
【発明が解決しようとする課題】
【0006】
rPPG(remote Photoplethysmography)は、接触式方式のセンサを利用して獲得されるPPGと比較して、低い正確度を有することになる。多様な実施例によると、非接触式方式で獲得される情報に基づいて接触式方式で獲得される生体信号に対応する正確度を有する生体信号に対する情報を提供する電子装置、サーバー、システム、およびその動作方法が提供され得る。
【0007】
本発明が解決しようとする課題は以上で言及した課題に制限されず、言及されていないさらに他の課題は下記の記載から本発明が属する技術分野で通常の知識を有する者に明確に理解され得るであろう。
【課題を解決するための手段】
【0008】
多様な実施例によると、電子装置であって、第1通信回路、および少なくとも一つの第1プロセッサ;を含み、前記少なくとも一つの第1プロセッサは:前記通信回路を通じて、第1外部電子装置のカメラを利用して獲得される使用者の顔を含む複数のイメージを獲得し、前記通信回路を通じて、前記複数のイメージを獲得する間、同時に前記使用者の身体の第1一部に接触された前記第1外部電子装置の第1センサに基づいて獲得される第1データおよび前記使用者の身体の第2一部に接触された第2外部電子装置に基づいて獲得される第2データを獲得し、前記複数のイメージに基づいた特定の種類の第1生体信号、前記第1データに基づいた前記特定の種類の第2生体信号、および前記第2データに基づいた第3生体信号を獲得するように設定された、電子装置が提供され得る。
【0009】
多様な実施例によると、電子装置の動作方法であって、前記通信回路を通じて、第1外部電子装置のカメラを利用して獲得される使用者の顔を含む複数のイメージを獲得する動作;前記通信回路を通じて、前記複数のイメージを獲得する間、同時に前記使用者の身体の第1一部に接触された前記第1外部電子装置の第1センサに基づいて獲得される第1データおよび前記使用者の身体の第2一部に接触された第2外部電子装置に基づいて獲得される第2データを獲得する動作;および前記複数のイメージに基づいた特定の種類の第1生体信号、前記第1データに基づいた前記特定の種類の第2生体信号、および前記第2データに基づいた第3生体信号を獲得する動作;を含む、動作方法が提供され得る。
【発明の効果】
【0010】
多様な実施例によると、電子装置、サーバー、システム、およびその動作方法は、非接触式方式で獲得される情報に基づいて接触式方式で獲得される生体信号に対応する正確度を有する生体信号に対する情報を提供することができる。
【図面の簡単な説明】
【0011】
【
図1】多様な実施例に係る、生体信号測定システムの構成の例を説明するための図面である。
【
図2】多様な実施例に係る、電子装置の例を説明するための図面である。
【
図3】多様な実施例に係る、電子装置、およびサーバー(例:学習サーバーおよび利用サーバーの構成の例を説明するための図面である。
【
図4】多様な実施例に係る、生体信号測定モジュールの例を説明するための図面である。
【
図5】多様な実施例に係る、学習サーバーの人工知能モデル学習のための、データを獲得(または収集)する動作の例を示すフローチャートである。
【
図6】多様な実施例に係る、電子装置の非接触式方式そして、接触式方式で生体信号を同時に収集する動作の例を説明するための図面である。
【
図7】多様な実施例に係る、学習サーバーで人工知能モデル学習のための、データを蓄積する動作の例を説明するための図面である。
【
図8】多様な実施例に係る、学習サーバーの非接触式生体信号を獲得する動作の例を示すフローチャートである。
【
図9】多様な実施例に係る、ノイズ低減のために、色チャネル(例:G値とR値、G値とB値)間の差値を獲得する動作の例を説明するための図面である。
【
図10】多様な実施例に係る、特性値を獲得する動作の例を説明するための図面である。
【
図11】多様な実施例に係る、特性値を獲得する動作の例を説明するための図面である。
【
図12】多様な実施例に係る、学習サーバーの非接触式生体信号を獲得する動作の例を示すフローチャートである。
【
図13】多様な実施例に係る、生体信号の例を説明するための図面である。
【
図14】多様な実施例に係る、学習サーバーの生体信号の時間同期化動作の例を説明するための図面である。
【
図15】多様な実施例に係る、学習サーバーの非接触式方式で獲得された特定の種類の生体信号に基づいて、接触式方式に対応するだけの正確度を有する特定の種類の生体信号に対する情報を提供するように具現される人工知能モデルを生成する動作の例を示すフローチャートである。
【
図16】多様な実施例に係る、学習サーバーの人工知能モデルを生成する動作の例を説明するための図面である。
【
図17】多様な実施例に係る、学習サーバーによって生成される少なくとも一つの人工知能モデルの一例を説明するための図面である。
【
図18a】多様な実施例に係る、学習サーバーによって生成される少なくとも一つの人工知能モデルの他の例を説明するための図面である。
【
図18b】多様な実施例に係る、学習サーバーによって生成される少なくとも一つの人工知能モデルのさらに他の例を説明するための図面である。
【
図19】多様な実施例に係る、学習サーバーの時間同期化なしに人工知能モデルを生成する動作の例を示すフローチャートである。
【
図20】多様な実施例に係る、学習サーバーのさらに他の人工知能モデルの生成動作の例を示すフローチャートである。
【
図21】多様な実施例に係る、学習サーバーが人工知能モデルを生成するために、rPPGおよびPPGを利用する動作の例を説明するための図面である。
【
図22】多様な実施例に係る、学習サーバーが人工知能モデルを生成するために、MPPGおよびPPGを利用する動作の例を説明するための図面である。
【
図23】多様な実施例に係る、学習サーバーによって生成される少なくとも一つの人工知能モデルの一例を説明するための図面である。
【
図24】多様な実施例に係る、電子装置の人工知能モデルを利用して、接触式方式と類似する正確度の生体信号を提供する動作の例を説明するためのフローチャートである。
【
図25】多様な実施例に係る、電子装置の人工知能モデルを利用して、接触式方式と類似する正確度の生体信号を提供する動作の説明するための図面である。
【
図26】多様な実施例に係る、電子装置の撮影をガイドする動作を説明するためのフローチャートである。
【
図27】多様な実施例に係る、電子装置の撮影をガイドする動作の例を説明するための図面である。
【
図28】多様な実施例に係る、サーバー(例:利用サーバー)の、人工知能モデルを利用する動作の例を説明するためのフローチャートである。
【
図29】多様な実施例に係る、サーバー(例:利用サーバー)の、人工知能モデルを利用する動作の例を説明するための図面である。
【発明を実施するための形態】
【0012】
本文書に開示された多様な実施例に係る電子装置は多様な形態の装置となり得る。電子装置は、例えば、携帯用通信装置(例:スマートフォン)、コンピュータ装置、携帯用マルチメディア装置、携帯用医療機器、カメラ、ウェアラブル装置、または家電装置を含むことができる。本文書の実施例に係る電子装置は前述した機器に限定されない。
【0013】
本文書の多様な実施例およびこれに使われた用語は、本文書に記載された技術的特徴を特定の実施例に限定しようとするものではなく、該当実施例の多様な変更、均等物、または代替物を含むものと理解されるべきである。図面の説明に関連して、類似するまたは関連した構成要素に対しては類似する参照符号が使われ得る。アイテムに対応する名詞の単数形は関連した文脈上明白に異なって指示しない限り、前記アイテム一つまたは複数個を含むことができる。本文書で、「AまたはB」、「AおよびBのうち少なくとも一つ」、「AまたはBのうち少なくとも一つ」、「A、BまたはC」、「A、BおよびCのうち少なくとも一つ」、および「A、B、またはCのうち少なくとも一つ」のような文面それぞれはその文面のうち該当する文面に共に羅列された項目のうちいずれか一つ、またはそれらのすべての可能な組み合わせを含むことができる。「第1」、「第2」、または「最初」または「二番目」のような用語は単純に該当構成要素を他の該当構成要素と区分するために使われ得、該当構成要素を他の側面(例:重要性または順序)に限定しない。或る(例:第1)構成要素が他の(例:第2)構成要素に、「機能的に」または「通信的に」という用語とともにまたはこのような用語なしに、「カップルド」または「コネクテッド」と言及された場合、それは前記或る構成要素が前記他の構成要素に直接的に(例:有線で)、無線で、または第3構成要素を通じて連結され得るということを意味する。
【0014】
本文書の多様な実施例で使われた用語「モジュール」はハードウェア、ソフトウェアまたはファームウェアで具現されたユニットを含むことができ、例えば、ロジック、論理ブロック、部品、または回路のような用語と互いに互互換的に使われ得る。モジュールは、一体に構成された部品または一つまたはそれ以上の機能を遂行する、前記部品の最小単位またはその一部となり得る。例えば、一実施例によると、モジュールはASIC(application-specific integrated circuit)の形態で具現され得る。
【0015】
本文書の多様な実施例は機器(machine)(例:電子装置)によって読み取り可能な保存媒体(storage medium)(例:内蔵メモリ)または外装メモリ)に保存された一つ以上の命令語を含むソフトウェア(例:プログラム))で具現され得る。例えば、機器(例:電子装置)のプロセッサ(例:プロセッサ)は、保存媒体から保存された一つ以上の命令語のうち少なくとも一つの命令を呼び出し、それを実行することができる。これは機器が前記呼び出された少なくとも一つの命令語により少なくとも一つの機能を遂行するように運営されることを可能にする。前記一つ以上の命令語はコンパイラによって生成されたコードまたはインタープリタによって実行され得るコードを含むことができる。機器で読み取り可能な保存媒体は、非一時的(non-transitory)保存媒体の形態で提供され得る。ここで、「非一時的」は保存媒体が実在(tangible)する装置であり、信号(signal)(例:電磁波)を含まないということを意味するだけであり、この用語はデータが保存媒体に半永久的に保存される場合と臨時的に保存される場合を区分しない。
【0016】
一実施例によると、本文書に開示された多様な実施例に係る方法はコンピュータプログラム製品(computer program product)に含まれて提供され得る。コンピュータプログラム製品は商品として販売者および購買者間で取り引きされ得る。コンピュータプログラム製品は機器で読み取り可能な保存媒体(例:compact disc read only memory(CD-ROM))の形態で配布されるか、またはアプリケーションストア(例:プレイストアTM)を通じて、または二つの使用者装置(例:スマートフォン)間で直接、オンラインで配布(例:ダウンロードまたはアップロード)され得る。オンライン配布の場合に、コンピュータプログラム製品の少なくとも一部はメーカーのサーバー、アプリケーションストアのサーバー、または中継サーバーのメモリのような機器で読み取り可能な保存媒体に少なくとも一時保存されたり、臨時的に生成され得る。
【0017】
多様な実施例によると、前記記述した構成要素のそれぞれの構成要素(例:モジュールまたはプログラム)は単数または複数の個体を含むことができ、複数の個体のうち一部は他の構成要素に分離配置されてもよい。多様な実施例によると、前述した該当構成要素のうち一つ以上の構成要素または動作が省略されたり、または一つ以上の他の構成要素または動作が追加され得る。大まかにまたは追加的に、複数の構成要素(例:モジュールまたはプログラム)は一つの構成要素で統合され得る。このような場合、統合された構成要素は前記複数の構成要素それぞれの構成要素の一つ以上の機能を前記統合以前に前記複数の構成要素のうち該当構成要素によって遂行されるのと同一または類似するように遂行できる。多様な実施例によると、モジュール、プログラムまたは他の構成要素によって遂行される動作は順次、並列的に、繰り返し、またはヒューリスティックに実行されたり、前記動作のうち一つ以上が異なる順序で実行または省略されたり、または一つ以上の他の動作が追加され得る。
【0018】
多様な実施例によると、電子装置であって、第1通信回路、および少なくとも一つの第1プロセッサ;を含み、前記少なくとも一つの第1プロセッサは:前記通信回路を通じて、第1外部電子装置のカメラを利用して獲得される使用者の顔を含む複数のイメージを獲得し、前記通信回路を通じて、前記複数のイメージを獲得する間、同時に前記使用者の身体の第1一部に接触された前記第1外部電子装置の第1センサに基づいて獲得される第1データおよび前記使用者の身体の第2一部に接触された第2外部電子装置に基づいて獲得される第2データを獲得し、前記複数のイメージに基づいた特定の種類の第1生体信号、前記第1データに基づいた前記特定の種類の第2生体信号、および前記第2データに基づいた第3生体信号を獲得するように設定された、電子装置が提供され得る。
【0019】
多様な実施例によると、前記少なくとも一つのプロセッサは:前記通信回路を通じて前記複数のイメージを獲得する間前記第1外部電子装置の第2センサによって獲得される前記第1外部電子装置の撮影に関連した情報をさらに獲得するように設定された、電子装置が提供され得る。
【0020】
多様な実施例によると、前記電子装置の撮影に関連した撮影情報は前記第1外部電子装置の撮影に関連した状態に関連した情報、および前記第1外部電子装置の外部環境に関連した情報を含む、電子装置が提供され得る。
【0021】
多様な実施例によると、前記少なくとも一つのプロセッサは:前記通信回路を通じて前記第1外部電子装置の前記使用者の個人特性に関連した個人情報をさらに獲得するように設定された、電子装置が提供され得る。
【0022】
多様な実施例によると、前記少なくとも一つのプロセッサは:前記第1生体信号、前記第2生体信号、前記第3生体信号、前記撮影情報、または前記個人情報のうち少なくとも一部に基づいて学習を遂行することによって、少なくとも一つの人工知能モデルを生成するように設定され、前記少なくとも一つの人工知能モデルは、接触式方式でセンシングされる前記特定の種類の生体信号に対する値を提供するように具現される、電子装置が提供され得る。
【0023】
多様な実施例によると、前記少なくとも一つの人工知能モデルは、前記第1生体信号、前記第2生体信号、前記撮影情報、または前記個人情報のうち少なくとも一部の入力を受けたことに基づいて、前記第3生体信号を出力するように具現される、電子装置が提供され得る。
【0024】
多様な実施例によると、前記少なくとも一つのプロセッサは:前記第1生体信号、前記第2生体信号、および前記第3生体信号の時間同期化を遂行するように設定された、電子装置が提供され得る。
【0025】
多様な実施例によると、前記少なくとも一つのプロセッサは:前記第1生体信号、前記第2生体信号、および前記第3生体信号の中で、心臓と最も近い前記顔に関連した前記第1生体信号を基準として選択し、前記選択された第1生体信号を基準として、残りの前記第2生体信号および前記第2生体信号それぞれを前記第1生体信号に同期化するように設定された、電子装置が提供され得る。
【0026】
多様な実施例によると、前記少なくとも一つのプロセッサは:前記第1生体信号、前記第2生体信号、および前記第3生体信号に対する時間同期化が遂行されていない状態で、前記少なくとも一つの人工知能モデルを生成するように設定された、電子装置が提供され得る。
【0027】
多様な実施例によると、電子装置の動作方法であって、前記通信回路を通じて、第1外部電子装置のカメラを利用して獲得される使用者の顔を含む複数のイメージを獲得する動作;前記通信回路を通じて、前記複数のイメージを獲得する間、同時に前記使用者の身体の第1一部に接触された前記第1外部電子装置の第1センサに基づいて獲得される第1データおよび前記使用者の身体の第2一部に接触された第2外部電子装置に基づいて獲得される第2データを獲得する動作;および前記複数のイメージに基づいた特定の種類の第1生体信号、前記第1データに基づいた前記特定の種類の第2生体信号、および前記第2データに基づいた第3生体信号を獲得する動作;を含む、動作方法が提供され得る。
【0028】
多様な実施例によると、前記通信回路を通じて前記複数のイメージを獲得する間前記第1外部電子装置の第2センサによって獲得される前記第1外部電子装置の撮影に関連した情報を獲得する動作;をさらに含む、動作方法が提供され得る。
【0029】
多様な実施例によると、前記電子装置の撮影に関連した撮影情報は前記第1外部電子装置の撮影に関連した状態に関連した情報、および前記第1外部電子装置の外部環境に関連した情報を含む、動作方法が提供され得る。
【0030】
多様な実施例によると、前記通信回路を通じて前記第1外部電子装置の前記使用者の個人特性に関連した個人情報をさらに獲得する動作;をさらに含む、動作方法が提供され得る。
【0031】
多様な実施例によると、前記第1生体信号、前記第2生体信号、前記第3生体信号、前記撮影情報、または前記個人情報のうち少なくとも一部に基づいて学習を遂行することによって、少なくとも一つの人工知能モデルを生成する動作;をさらに含み、前記少なくとも一つの人工知能モデルは、接触式方式でセンシングされる前記特定の種類の生体信号に対する値を提供するように具現される、動作方法が提供され得る。
【0032】
多様な実施例によると、前記少なくとも一つの人工知能モデルは、前記第1生体信号、前記第2生体信号、前記撮影情報、または前記個人情報のうち少なくとも一部の入力を受けたことに基づいて、前記第3生体信号を出力するように具現される、動作方法が提供され得る。
【0033】
以下では、多様な実施例に係る、生体信号測定システム1について説明する。
【0034】
多様な実施例によると、生体信号測定システム1は、非接触方式で使用者および/または検体(例:顔のような使用者の身体の一部)に対する分析に基づいて、獲得される生体信号を提供するように具現されるシステムであり得る。前記生体信号は、脈波(photoplethysmography、PPG)、酸素飽和度(SPO2)、心拍変移度(heart rate variability、HRV)心電図(electrocardiogram、ECG)、脳電図(electroencephalogram、EEG)、筋電図(electromyogram、EMG)、皮膚伝導度(galvanic skin response、GSR)、皮膚温度(skin temperature、SKT)を含むことができるが、記載された例に制限されず多様な種類の生体信号をさらに含んでもよい。前記生体信号測定システム1は、非接触方式で獲得される生体信号の正確度を向上するために、非接触方式そして、前記非接触方式より正確度の高い接触方式で同時に特定の種類の複数の生体信号を収集し、前記収集された複数の生体信号に基づいて学習される人工知能(artificial intelligence、AI)モデルを利用できるが、具体的な実施例については以下で記述する。
【0035】
図1は、多様な実施例に係る、生体信号測定システム1の構成の例を説明するための図面である。以下では、
図2を参照して、
図1についてさらに説明する。
【0036】
図2は、多様な実施例に係る、電子装置10の例を説明するための図面である。
【0037】
多様な実施例によると、
図1を参照すると、前記生体信号測定システム1は、電子装置10、およびサーバー20を含むことができる。ただし、図示されたおよび/または記載された例に制限されず、前記生体信号測定システム1はより多くの装置を含むように具現されてもよい。
【0038】
多様な実施例によると、前記電子装置10は、生体信号測定システム1を利用して非接触式方式で生体信号(例:remote Photoplethysmography、rPPG)を測定することを望む使用者の電子装置であり得る。例えば、前記電子装置200は
図2の(a)に図示された通り、スマートフォン、ウェアラブル装置、HMD(head mounted display)装置などのような使用者端末、および
図2の(b)に図示された通り、キオスク、スマートミラー、などのように設置および/または配置された形態で利用される使用者装置を含むことができる。電子装置10は検体Sを非接触式方式で検出し、検出結果に基づいて生体信号を提供するように具現され得る。例えば、
図2に図示された通り、電子装置10は、検体S(例:使用者Uの顔)を撮影したことに基づいて複数のイメージ(または動画、または単一のイメージ)を獲得し、前記サーバー20から前記複数のイメージに対応する生体信号(例:PPG)を受信し、前記受信された生体信号を使用者が認識可能な形態で提供(例:ディスプレイ上に表示、および/またはスピーカーを通じてサウンド形態で出力)することができる。
【0039】
多様な実施例によると、前記検体SはPPGの測定のための場合には顔となり、呼吸数の測定のための場合には胸となり得るが、記載された例に制限されず使用者Uの多様な身体部位が非接触方式で測定され得る。
【0040】
多様な実施例によると、サーバー20は、非接触式方式で検出された検体Sに基づいて生体信号を獲得し、獲得された生体信号に対する情報を電子装置10に提供することができる。例えば、サーバー20は学習サーバー20aおよび利用サーバー20bを含むことができる。ただし、図示されたおよび/または記載された例に制限されず、前記サーバー20は学習サーバー20aの機能と利用サーバー20bの機能をすべて遂行する単一のサーバーで具現されてもよい。前記学習サーバー20aは、生体信号を提供するように学習される少なくとも一つの人工知能モデルを構築することができる。例えば、前記学習サーバー20aは、非接触式方式で検出された検体Sに基づいて獲得される非接触式生体信号とは異なる少なくとも一つの情報の入力を受けたことに対する応答として、接触式方式の検出正確度と類似する正確度の生体信号を出力するように具現される人工知能モデルを構築することができる。前記学習サーバー20aによりラーニングされた人工知能モデルは、前記利用サーバー20bに提供され得る。前記利用サーバー20bは前記電子装置10と通信の連結を設定し、前記電子装置10から前記電子装置10により非接触式方式で獲得された検体Sに対する情報を受信することができる。前記利用サーバー20bは前記検体Sに対する情報を前記人工知能モデルに入力し、前記人工知能モデルから出力される生体信号に対する情報を獲得し、前記獲得された生体信号に対する情報を前記電子装置10に伝送することができる。
【0041】
一方、記載された例に制限されず、前記サーバー20の動作なしに、電子装置10が生体信号を提供可能であるように電子装置10がオン-デバイス(on-device)の形態で具現されてもよい。
【0042】
以下では、多様な実施例に係る、電子装置10、およびサーバー20の構成の例について説明する。
【0043】
図3は、多様な実施例に係る、電子装置10、およびサーバー20(例:学習サーバー20aおよび利用サーバー20bの構成の例を説明するための図面である。或る実施例では、
図3に図示された例に制限されず、電子装置20およびサーバー20からこの構成要素のうち少なくとも一つが省略されたり、電子装置20およびサーバー20に一つ以上の他の構成要素が追加され得る。或る実施例では、この構成要素のうち一部は一つの統合された回路で具現され得る。以下では、
図4を参照して、
図3についてさらに説明する。
【0044】
図4は、多様な実施例に係る、生体信号測定モジュールの例を説明するための図面である。
【0045】
以下では、多様な実施例に係る、電子装置10の構成の例について説明する。
【0046】
多様な実施例によると、電子装置10は、ディスプレイ11、カメラ12、第1通信回路13、センサ14、第1メモリ17、および第1プロセッサ18を含むことができる。一方、図示されたおよび/または記載された例に制限されず、電子装置10は、使用者端末に備えられる多様な電子部品(例:スピーカー)および装置をさらに含むように具現されるか、および/またはさらに少ない構成要素を含むように具現され得る。以下では、各構成の例について説明する。
【0047】
多様な実施例によると、ディスプレイ11は電子装置200の外部(例:使用者)に情報を視覚的に提供することができる。ディスプレイ11は、例えば、ディスプレイ、ホログラム装置、またはプロジェクタおよび該当装置を制御するための制御回路を含むことができる。一実施例によると、ディスプレイ11はタッチを感知するように設定されたタッチ回路(touch circuitry)、または前記タッチによって発生する力の強さを測定するように設定されたセンサ回路(例:圧力センサ)を含むことができる。
【0048】
多様な実施例によると、カメラ12は、撮影のためのイメージセンサを含むことができる。
【0049】
多様な実施例によると、第1通信回路13は電子装置10と外部電子装置(例:サーバー20)間の無線通信チャネルの樹立および樹立された通信チャネルを通じての通信の遂行を支援することができる。第1通信回路13は第1プロセッサ18と独立的に運営され、無線通信を支援する一つ以上のコミュニケーションプロセッサを含むことができる。
【0050】
多様な実施例によると、センサ14は生体信号を接触式方式で獲得(またはセンシング)するための測定センサ15、および撮影に関連した多様な種類の情報(撮影情報)を獲得(またはセンシング)するための環境センサ16を含むことができる。
【0051】
例えば、前記測定センサ15は、PPGセンサ、SPO2センサ、HRVセンサ、ECGセンサ、EEGセンサ、EMGセンサ、GSRセンサ、および/またはSKTセンサを含むことができ、記載された例に制限されず、多様な種類のセンサをさらに含むことができる。一例として、前記PPGセンサは、皮膚に接触した状態で光を発光するので、受信される光の感光量の変化に基づいて、PPG信号を測定するように具現されたセンサであり得る。
【0052】
例えば、前記環境センサ16により獲得される撮影情報は、撮影される周辺環境(例:光量、照度、温度、など)に関連した情報を測定するための第1環境センサ(例:照度センサ16A、など)、および撮影時の電子装置10の状態(例:傾き、動き、位置、高さ、方向)に関連した情報を測定するための第2環境センサ(例:傾きセンサ16b、モーションセンサ(図示されず)、など)を含むことができる。前記環境センサ16により獲得されるデータは、データと定義され得る。前記環境センサ16により獲得される情報のうち少なくとも一部は、環境センサ16ではなく、カメラ12により撮影されるイメージを分析するための分析モジュール(図示されず)によって獲得されてもよい。例えば、前記分析モジュール(図示されず)はイメージのピクセルの値(例:明るさ値)に基づいて前記光量、照度などを識別することができる。
【0053】
多様な実施例によると、第1メモリ17は、電子装置210の少なくとも一つの構成要素(例:第1プロセッサ18)により使われる多様なデータを保存することができる。例えば、第1メモリ17は所定のアプリケーションを保存することができる。前記アプリケーションの実行に基づいて、後述される電子装置10の動作が遂行され得る。
【0054】
多様な実施例によると、電子装置10は、アプリケーションは付加情報を獲得するように具現され得る。例えば、前記付加情報は使用者の性別、年、年齢、人種、BMI指数などのような個人情報、カメラ12のパラメータ(例:焦点距離など)に対するカメラ情報、検体との距離、撮影ビデオ解像度、秒当たりフレーム数(frame per second(FPS))などのような撮影状態を示す撮影情報、およびイメージ(または映像)から分析可能な特性(例:検体に照らす光の方向(例:順光、逆光))を示すイメージ情報を含むことができる。この時、前記付加情報のうち一部(例:BMI指数)は、これを算出するための人工知能モデルに基づいて、獲得されてもよい。
【0055】
多様な実施例によると、第1プロセッサ18は、例えば、ソフトウェアを実行して第1プロセッサ520に連結された電子装置200の少なくとも一つの他の構成要素(例:ハードウェアまたはソフトウェア構成要素)を制御でき、多様なデータ処理または演算を遂行できる。一実施例によると、データ処理または演算の少なくとも一部として、第1プロセッサ520は他の構成要素(例:第2通信回路540または第3通信回路550)から受信された命令またはデータを揮発性メモリにロードし、揮発性メモリに保存された命令またはデータを処理し、結果データを不揮発性メモリに保存することができる。一実施例によると、第1プロセッサ520はメインプロセッサ(例:中央処理装置またはアプリケーションプロセッサ)、およびこれとは独立的にまたは共に運営可能な補助プロセッサ(例:グラフィック処理装置、イメージシグナルプロセッサ、センサハブプロセッサ、またはコミュニケーションプロセッサ)を含むことができる。追加的にまたは大まかに、補助プロセッサはメインプロセッサより低電力を使うか、または指定された機能に特化するように設定され得る。補助プロセッサはメインプロセッサとは別個に、またはその一部として具現され得る。
【0056】
以下では、多様な実施例に係る、サーバー20の構成の例について説明する。
【0057】
多様な実施例によると、学習サーバー20aは、第2通信回路21a、第2プロセッサ22a、およびメモリ23aを含むことができる。前記第2通信回路21aは前述した第1通信回路13、前記第2プロセッサ22aは前述した第1プロセッサ18、そして、前記第2メモリ23aは前述した第1メモリ17とともに具現され得るため、重複する説明は省略する。一方、図示されたおよび/または記載された例に制限されず、学習サーバー20aはより多くの構成要素をさらに含むように具現されるか、および/またはさらに少ない構成要素を含むように具現され得る。以下では、各構成の例について説明する。
【0058】
多様な実施例によると、前記メモリ23aは、データベース24a、人工知能モデル生成モジュール25a、および第1生体信号測定モジュール26aを含むことができる。前記モジュール25a、26aはコンピュータ読み取り可能なコンピュータコード、プログラム、ソフトウェア、アプリケーション、API、および/またはインストラクション(instructions)の形態で具現され、前記モジュール25a、26aが実行されることに基づいて学習サーバー20aの第2プロセッサ22aが特定動作を遂行するように誘発され得る。
【0059】
多様な実施例によると、前記データベース24aは、人工知能モデル生成のための多様な種類の情報を蓄積するように具現され得る。例えば、前記データベース24aは、後述される第1生体信号測定モジュール26aにより獲得される非接触式方式で測定される生体信号とそれに対応する接触式方式で測定される生体信号、環境センサ16により測定される環境データ、および付加情報を保存することができる。前記付加情報は、前述した通り、個人情報、カメラ情報、撮影情報、および/またはイメージ情報などを含むことができる。
【0060】
多様な実施例によると、前記人工知能モデル生成モジュール25aは、非接触式方式で測定される生体信号(例:rPPG)に基づいて接触式方式で測定される生体信号(例:PPG)の正確度と類似する(または近い)正確度の生体信号を提供可能な人工知能モデルをラーニングすることができる。前記人工知能モデルのラーニングの例については、具体的に後述する。
【0061】
多様な実施例によると、前記第1生体信号測定モジュール26aは、電子装置10から受信される情報に基づいて非接触式生体信号および接触式生体信号を測定するように具現され得る。例えば、前記第1生体信号測定モジュール26aは
図4に図示された通り、非接触式方式で収集される情報(例:カメラ12により撮影される検体Sを含む複数のイメージ
【0062】
)に基づいて生体信号(例:非接触生体信号)を獲得するための非接触獲得モジュール421、および接触式方式で収集される情報(例:センサ14から収集されるセンシング情報)に基づいて生体信号(例:接触生体信号)を獲得するための接触獲得モジュール423を含むことができる。
【0063】
一方、記載された例に制限されず、前記構成のうち少なくとも一部(例:データベース24a、人工知能モデル生成モジュール25a、および第1生体信号測定モジュール26a)は電子装置10に具現され得る。例えば、第1生体信号測定モジュール26aが電子装置10に具現されることによって、電子装置10は非接触式生体信号および接触式生体信号を獲得し、前記複数の信号を学習サーバー20aに伝送して、前記学習サーバー20aが人工知能モデルをラーニングするようにすることができる。
【0064】
多様な実施例によると、利用サーバー20bは、第3通信回路21b、第3プロセッサ22b、およびメモリ24bを含むことができる。前記第3通信回路21bは前述した第1通信回路13、前記第3プロセッサ22bは前述した第1プロセッサ18、そして、前記第3メモリ24bは前述した第1メモリ17とともに具現され得るため、重複する説明は省略する。一方、図示されたおよび/または記載された例に制限されず、利用サーバー20bはより多くの構成要素をさらに含むように具現されるか、および/またはさらに少ない構成要素を含むように具現され得る。以下では、各構成の例について説明する。
【0065】
多様な実施例によると、第3メモリ24bは、学習サーバー20a(例:人工知能モデル生成モジュール25a)によりラーニングされた少なくとも一つの人工知能モデル23b、23c、および前述した第1生体信号測定モジュール26aと同一の第2生体信号測定モジュール24bを保存するように具現され得る。前記利用サーバー20bは電子装置10から受信される非接触方式で検出される検体Sに対する複数のイメージ、環境データ(例:環境センサ14によりセンシングされる情報)、付加情報(例:個人情報、カメラ情報、撮影情報、またはイメージ情報のうち少なくとも一部)、および前記少なくとも一つの人工知能モデル23b、23cに基づいて、特定の種類の生体信号を獲得し、獲得された特定の種類の生体信号を電子装置10に伝送することができる。
【0066】
一方、記載された例に制限されず、前記構成のうち少なくとも一部(例:少なくとも一つの人工知能モデル23b、23c、および前述した第2生体信号測定モジュール24b)は電子装置10に具現され得る。例えば、第2生体信号測定モジュール24bが電子装置10に具現されることによって、電子装置10は非接触式生体信号および接触式生体信号を獲得し、前記複数の信号を利用サーバー20bに伝送することができる。
【0067】
一方、記載された例に制限されず、利用サーバー20bが具現されず、ラーニングされた少なくとも一つの人工知能モデル23b、23cは学習サーバー20aの機能と利用サーバー20bの機能をすべて遂行する単一のサーバー、および/または電子装置10に保存された形態で利用されてもよい。
【0068】
以下では、多様な実施例に係る、学習サーバー20aの人工知能モデル学習のための、データを獲得(または収集)する動作の例を説明する。
【0069】
図5は、多様な実施例に係る、学習サーバー20aの人工知能モデル学習のための、データを獲得(または収集)する動作の例を示すフローチャートである。図示されたおよび/または記載された動作の順序とは無関係に動作が遂行され得、さらに多くの動作が遂行されるかおよび/またはさらに少ない動作が遂行されてもよい。以下では、
図6~
図7を参照して
図5についてさらに説明する。
【0070】
図6は、多様な実施例に係る、電子装置10の非接触式方式そして、接触式方式で生体信号を同時に収集する動作の例を説明するための図面である。
図7は、多様な実施例に係る、学習サーバー20aで人工知能モデル学習のための、データを蓄積する動作の例を説明するための図面である。
【0071】
多様な実施例によると、学習サーバー20a(例:第2プロセッサ22a)は、動作501で、電子装置10のカメラ12を利用した検体Sに対する撮影に基づいて、特定の種類の第1生体信号を獲得し、第1接触センサ15に基づいて第2生体信号を獲得し、503動作で、第2接触センサに基づいて前記特定の種類の第3生体信号を獲得することができる。例えば、
図6を参照すると、学習サーバー20aは使用者U、前記使用者Uが把持する電子装置10、および前記使用者Uの身体の一部に接触する外部測定センサ600を利用して、前述した特定の種類の互いに関連した第1生体信号、第2生体信号、および第3生体信号をすべて(または同時に、または特定期間の間に)獲得することができる。前記生体信号が互いに関連するという意味は、互いに関連性が臨界値以上高い特定期間の間獲得されたものであることを意味し得る。例えば、前記生体信号の特定の種類はPPGであり得る。
図6に図示された通り、使用者Uは生体信号測定装置600が使用者Uの第3検体(例:第1手の指S3)に具備(または装着)された状態で、電子装置12のカメラ10を利用して使用者の第1検体(例:顔S1)を撮影して電子装置12の特定領域(例:後面)に配置される接触式センサS2に第2検体(例:第2手の指S2)を接触させることができる。これに伴い、
図7を参照すると、学習サーバー20aは電子装置10のカメラ12により撮影された第1検体S1に対する複数のイメージ、および測定センサ15により測定されたセンシングデータ(例:mobile PPG、MPPG)を受信し、前記外部測定センサ600から外部測定センサ600により測定されたセンシングデータ(例:PPG)を受信することができる。
【0072】
例えば、前記学習サーバー20aの非接触測定モジュール421は、第1検体S1に対する複数のイメージを分析したことに基づいて、特定の種類の非接触生体信号を獲得することができる。例えば、前記特定の種類の非接触生体信号は、rPPGであり得る。前記複数のイメージは、前記カメラの少なくとも一つのパラメータが特定範囲内の値で設定されることに基づいて、獲得されるイメージであり得る。例えば、前記FPSが秒当たり20~30の範囲で、動画が撮影されるように前記カメラパラメータが設定された状態で、獲得されるイメージであり得る。
【0073】
例えば、前記学習サーバー20aの第1接触測定モジュール423aは測定センサ15から受信されるセンシングデータに基づいて電子装置10により自体測定された前記特定の種類の第1接触生体信号を獲得することができる。電子装置10により自体測定された特定の種類の第1接触生体信号はPPGであり、MPPG(mobile PPG)と定義され得る。前記第1接触測定モジュール423aはすでに電子装置10により測定されて電子装置10から学習サーバー20aに受信されるMPPGを獲得できるが、記載された例に制限されず測定センサ15から受信されるセンシングデータを獲得し、獲得されたセンシングデータを分析することに基づいてMPPGを測定するように具現されてもよい。
【0074】
例えば、前記学習サーバー20aの第2接触測定モジュール423bは外部測定装置600から受信されるセンシングデータに基づいて前記特定の種類の第2接触生体信号を獲得することができる。第2特定の種類の接触生体信号はPPGであり、前述したMPPG(mobile PPG)の正確度と比較して相対的に高い正確度を有することができる。前記第2接触測定モジュール423bはすでに外部測定装置600により測定されて外部測定装置600から学習サーバー20aに受信されるPPGを獲得できるが、記載された例に制限されず外部測定装置600から受信されるセンシングデータを獲得し、獲得されたセンシングデータを分析することに基づいてPPGを測定するように具現されてもよい。
【0075】
多様な実施例によると、学習サーバー20a(例:データ獲得モジュール700)は、動作505で、追加の学習情報を獲得することができる。前記追加学習情報は環境センサ16に基づいて獲得される環境データおよびアプリケーション(図示されず)に基づいて獲得される個人情報、カメラ情報、撮影情報、またはイメージ情報のうち少なくとも一部を含む付加情報を含むことができる。例えば、電子装置10は環境センサ16を利用して、撮影される周辺環境に関連した情報および撮影時の電子装置10の状態に関連した情報を獲得し、学習サーバー20aに伝送することができる。また、例えば、電子装置10はアプリケーションの実行に基づいて、実行画面を通じて入力される個人情報を学習サーバー20aに伝送することができる。また、例えば、電子装置10はアプリケーションの実行に基づいて、設定される権限に基づいて獲得されるカメラ情報、およびカメラ12により撮影される映像および/またはイメージを分析したことに基づいて獲得される撮影情報とイメージ情報のうち少なくとも一部を学習サーバー20aに伝送することができる。
【0076】
多様な実施例によると、データ獲得モジュール700は前述した特定の種類の生体信号(例:非接触式生体信号、接触式第1生体信号、および接触式第2生体信号)および追加の学習情報を互いに関連した形態で、データベース24aに保存することができる。この時、データ獲得モジュール700は特定の種類の生体信号(例:非接触式生体信号、接触式第1生体信号、および接触式第2生体信号)の時間同期化を遂行するように具現されてもよいが、記載された例に制限されず時間同期化が遂行されなくてもよい。
【0077】
以下では、多様な実施例に係る、学習サーバー20aの501動作のうち少なくとも一部として、非接触式生体信号を獲得する動作の例を説明する。
【0078】
図8は、多様な実施例に係る、学習サーバー20aの非接触式生体信号を獲得する動作の例を示すフローチャートである。図示されたおよび/または記載された動作の順序とは無関係に動作が遂行され得、より多くの動作が遂行されるかおよび/またはさらに少ない動作が遂行されてもよい。以下では、
図9~
図11を参照して
図8についてさらに説明する。
【0079】
図9は、多様な実施例に係る、ノイズ低減のために、色チャネル(例:G値とR値、G値とB値)間の差値を獲得する動作の例を説明するための図面である。
図10は、多様な実施例に係る、特性値を獲得する動作の例を説明するための図面である。
図11は、多様な実施例に係る、特性値を獲得する動作の例を説明するための図面である。
【0080】
多様な実施例によると、学習サーバー20a(例:非接触測定モジュール421)は、動作801で検体を含む複数のイメージを獲得し、動作803で、複数のイメージに基づいて第1生体信号を獲得することができる。例えば、学習サーバー20a(例:非接触測定モジュール421)は、検体を含む複数のイメージから、色チャネル別値を獲得し、色チャネル別値に基づいてrPPGを獲得することができる。例えば、前記色チャネルはRGB色空間のRチャネル、Gチャネル、およびBチャネルそれぞれを意味し得るが、記載されたおよび/または図示された例に制限されず、他の色空間(例:CMY、HSVなど)のチャネルを意味してもよい。
【0081】
この時、多様な実施例によると、
図9を参照すると、ノイズ低減のために、色チャネル(例:G値とR値、G値とB値)間の差値に基づいて、rPPGを獲得する動作が遂行され得る。
【0082】
図9の(a)はRGB色空間により抽出されたRedチャネル値を示すグラフであり、
図9の(b)はRGB色空間により抽出されたGreenチャネル値を示すグラフである。
図9の(a)および(b)を参照すると、抽出された色チャネル値は時間により変動が発生することが分かる。この時、抽出された色チャネル値は心臓の拍動により変動が発生したりもするが、被測定者の動きや、外部光の強度の変化により変動が発生したりもし得る。より具体的には、色チャネル値の変動が大きくゆっくり発生するのは、被測定者の動きや、外部光の強度の変化にさらに影響を多く受けて変動が発生するのであり、変動が小さく早く発生するのは被測定者の心臓の拍動にさらに影響を多く受けて変動が発生するものであり得る。したがって、心臓の拍動による変動より被測定者の動きや外部光の強度の変化による値の変動がさらに大きいので、これを低減させるために少なくとも二つの色チャネル値の相対的な差を利用することができる。
【0083】
例示的に、ノイズを低減させるためにGreenチャネル値とRedチャネル値の差値を利用することができる。より具体的には、同じイメージフレームで獲得されたGreenチャネル値とRedチャネル値は同じ動きおよび同じ外部光の強度を反映することができ、同じフレームのGreenチャネル値とRedチャネル値の差値は被測定者の動きおよび外部光の強度の変化などによるノイズを低減させることができるが、これに限定されず、少なくとも二つの色チャネル値の相対的な差を利用してノイズを低減させることができる。
【0084】
図9の(c)は、前記Greenチャネル値と前記Redチャネル値の差値を示すグラフである。
図9の(c)に図示された通り、前記Greenチャネル値と前記Redチャネル値の差値は被測定者の動きおよび外部光の強度の変化などによるノイズを低減させることができる。
【0085】
また、前述したノイズを低減させる方法は獲得された複数個のイメージフレームのうち少なくとも一つのイメージフレームに対して遂行され得、連続した複数個のイメージフレームそれぞれに対して遂行されてもよい。
【0086】
また、
図9の(c)に図示されてはいないが、前記Greenチャネル値と前記Blueチャネル値の差値を利用してノイズを低減させることもでき、前記Redチャネル値と前記Blueチャネル値の差値を利用してノイズを低減させることもできる。
【0087】
また、前述した通り、少なくとも二つの色チャネル値の相対的な差を利用してノイズを低減させるために差値を求めるために少なくとも二つの色チャネル値が選択され得る。
【0088】
この時、前記少なくとも二つの色チャネル値は血液の吸光度を考慮して選択され得る。
【0089】
多様な実施例によると、
図10~
図11を参照すると、学習サーバー20aは前記Greenチャネル値と前記Redチャネル値の差値と前記Greenチャネル値と前記Blueチャネル値の差値それぞれのタイム-シリーズデータ(例:第1特性値、および第2特性値)を獲得し、獲得されたタイム-シリーズデータを併合することによって第3特性値を獲得し、前記第3特性値に基づいてrPPGを獲得することができる。
【0090】
図10の(a)は一実施例により獲得された色チャネル値を示すグラフであり、より具体的には、Greenチャネル値とRedチャネル値の差値を示すグラフである。ただし、これは説明の便宜上Greenチャネル値とRedチャネル値の差値で特定して示したものに過ぎず、これに限定されず多様な色チャネル値、差値および加工値などになり得る。
【0091】
図10の(a)を参照すると、Greenチャネル値とRedチャネル値の差値(以下、「G-R値」として叙述する。)は時間により値の変化の大きさが一定でないこともあることが分かる。
【0092】
この時、G-R値は被測定者の動きによって値が一定でないこともある。例えば、被測定者の動きが少ない場合にはG-R値の変化が小さくなり得、被測定者の動きが多い場合はG-R値の変化が大きくなり得るが、これに限定されはしない。
【0093】
また、G-R値は外部光の強度により値が一定でないことがある。例えば、外部光の強度が弱い場合はG-R値の変化が小さくなり得、外部光の強度が強い場合はG-R値の変化が大きくなり得るが、これに限定されはしない。
【0094】
したがって、このように被測定者の動きや外部光の強度などによるノイズを低減させるために特性値が抽出され得る。
【0095】
また、前記特性値を抽出するために前記特性値に対するウインドウが設定され得る。
【0096】
この時、前記特性値に対するウインドウは予め設定された時間区間を意味し得、予め設定されたフレーム個数を意味することもあるが、これに限定されず前記特性値を獲得するために複数個のフレームのうち少なくとも一部のフレームグループを設定するためのウインドウを意味し得る。
【0097】
図10の(b)は特性値に対するウインドウを説明するための概略図であり、より具体的には、180個のイメージフレームを10等分した18個のイメージフレームで設定された特性値に対するウインドウを説明するための概略図である。ただし、これは説明の便宜上180個のイメージフレームを10等分した18個のイメージフレームで設定された特性値に対するウインドウを示したものに過ぎず、これに限定されず多様な方法と個数で特性値に対するウインドウが設定され得る。
【0098】
図10の(b)を参照すると、獲得された複数個のイメージフレームは特性値に対するウインドウによってグループとして設定され得る。例えば、
図19の(b)に図示された通り、180個のイメージフレームは特性値に対するウインドウによって各18個のイメージフレームを含むグループとして設定され得る。より具体的には、第1イメージフレームから第18イメージフレームまで第1イメージフレームグループ2210に含まれ得、第19イメージフレームから第36イメージフレームまで第2イメージフレームグループ2220に含まれ得るがこれに限定されない。
【0099】
この時、前記特性値は特性値に対するウインドウによって設定されたイメージフレームグループに対して獲得され得る。例えば、前記特性値は第1イメージフレームグループ2210に対する色チャネル値に対して獲得され得、第2イメージフレームグループ2220に対する色チャネル値に対して獲得され得る。
【0100】
また、例えば、前記特性値が平均値である場合、イメージフレームグループに対する色チャネル値の平均値が獲得され得る。より具体的には、第1イメージフレームグループ2210に含まれる第1~第18イメージフレームに対するG-R値の平均値が獲得され得、第2イメージフレームグループ2220に含まれる第19~第36イメージフレームに対するG-R値の平均値が獲得され得るが、これに限定されはしない。
【0101】
また、例えば、前記特性値が標準偏差値である場合、イメージフレームグループに対する色チャネル値の標準偏差値が獲得され得る。より具体的には、第1イメージフレームグループ2210に含まれる第1~第18イメージフレームに対するG-R値の標準偏差値が獲得され得、第2イメージフレームグループ2220に含まれる第19~第36イメージフレームに対するG-R値の標準偏差値が獲得され得るが、これに限定されはしない。
【0102】
ただし、前述した例示に限定されず、多様な特性値がイメージフレームグループに対して獲得され得る。
【0103】
また、前記特性値は特性値に対するウインドウによって分けられたイメージフレームグループに含まれる少なくとも一部のイメージフレームに対して獲得され得る。例えば、前記特性値は第1イメージフレームグループ2210に含まれる18個のイメージフレームのうち少なくとも一部のイメージフレームに対する色チャネル値に対して獲得され得、第2イメージフレームグループ2220に含まれる18個のイメージフレームのうち少なくとも一部のイメージフレームに対する色チャネル値に対して獲得され得る。
【0104】
また、例えば、前記特性値が偏差値である場合、イメージフレームグループに含まれる少なくとも一部のイメージフレームに対する色チャネル値の偏差値が獲得され得る。より具体的には、第1イメージフレームグループ2210のG-R値平均に対する第1イメージフレームグループに含まれる第1イメージフレームのG-R値の偏差値が獲得され得、第2イメージフレームグループ2220のG-R値平均に対する第2イメージフレームグループに含まれる第19イメージフレームのG-R値の偏差値が獲得され得るが、これに限定されはしない。
【0105】
また、例えば、前記特性値が偏差値である場合、イメージフレームグループに含まれる少なくとも一部のイメージフレームに対する色チャネル値の偏差値が獲得され得る。より具体的には、第1イメージフレームグループ2210のG-R値平均に対する第1イメージフレームグループに含まれる第1イメージフレームのG-R値の偏差値が獲得され得、第1イメージフレームグループ2210に含まれる第2イメージフレームのG-R値の偏差値が獲得され得るが、これに限定されはしない。
【0106】
また、獲得された特性値は正規化され得る。
【0107】
例えば、前記特性値が偏差値である場合、前記偏差値は標準偏差値によって正規化され得る。より具体的には、第1イメージフレームグループ2210のG-R値平均に対する第1イメージフレームグループ2210に含まれる第1イメージフレームのG-R値の偏差値が獲得された場合、前記第1イメージフレームのG-R値の偏差値は前記第1イメージフレームグループ2210の標準偏差値によって正規化され得るが、これに限定されず多様な方法で正規化され得る。
【0108】
また、このように正規化される場合、変化量の大きさが正規化されて心臓拍動による値の変化をさらによく反映することができ、被測定者の動きによるノイズおよび外部光の強度変化などによるノイズを効果的に低減させることができる。
【0109】
図11の(a)は一実施例により獲得された二つの特性値を示すグラフであり、より具体的には、G-R値に基づいて獲得された第1特性値とG-B値に基づいて獲得された第2特性値を示すグラフである。ただし、これは説明の便宜上特定して示したものに過ぎず、これに限定されず多様な色チャネル値、差値および加工値に基づいて獲得された特性値となり得る。
【0110】
この時、G-R値に基づいて獲得された第1特性値はG-R値に影響を受け得る。例えば、外部光がBlueチャネルに近い光である場合、G-R値は心臓拍動による血液の変化をよく反映できないこともある。
【0111】
または例えば、Greenチャネルの吸光度およびRedチャネルの吸光度の差に影響を受けて心臓拍動による血液の変化を反映することができる。
【0112】
また、G-B値に基づいて獲得された第2特性値はG-B値に影響を受け得る。例えば、外部光がRedチャネルに近い光である場合、G-B値は心臓拍動による血液の変化をよく反映できないこともある。
【0113】
または例えば、Greenチャネルの吸光度およびBlueチャネルの吸光度の差に影響を受けて心臓拍動による血液の変化を反映することができる。
【0114】
また、
図11の(a)を参照すると、第1特性値と第2特性値は互いに補完的な関係を有することができる。例えば、第1特性値が心臓拍動による変化をよく反映できない区間で第2特性値が心臓拍動による変化をよく反映することができ、その反対の場合も含まれる。
【0115】
したがって、外部光の波長の変化によるノイズを低減させたり、心臓拍動による血液の変化をさらによく反映できるように第1特性値および第2特性値が利用され得る。
【0116】
図11の(b)は前記第1特性値および前記第2特性値を利用して獲得された第3特性値を示すグラフであり、より具体的には、前記第1特性値および前記第2特性値を合わせて獲得された第3特性値を示すグラフである。ただし、これは説明の便宜上特定して示したものに過ぎず、これに限定されない。
【0117】
また、前記第3特性値は前記第1特性値および前記第2特性値の演算に基づいて獲得され得る.例えば、前記第3特性値は前記第1特性値および前記第2特性値の和演算に基づいて獲得され得るが、これに限定されず、差演算、積演算などの多様な演算に基づいて獲得され得る。
【0118】
また、前記第3特性値は前記第1特性値および前記第2特性値に多様な加重値を付与して獲得され得る。例えば、以下の数1に基づいて獲得され得るが、これに限定されない。
【0119】
(数1)
第3特性値=a・第1特性値+b・第2特性値
【0120】
また、
図11の(a)および(b)を参照すると、前記第3特性値は前記第1特性値および前記第2特性値より心臓拍動による血液の変化をよく反映することができ、外部光の波長の変化によるノイズを低減させることができる。
【0121】
以下では、多様な実施例に係る、学習サーバー20aの505動作のうち少なくとも一部として、複数の生体信号に対する時刻同期化を遂行する動作の例を説明する。
【0122】
図12は、多様な実施例に係る、学習サーバー20aの非接触式生体信号を獲得する動作の例を示すフローチャートである。図示されたおよび/または記載された動作の順序とは無関係に動作が遂行され得、より多くの動作が遂行されるかおよび/またはさらに少ない動作が遂行されてもよい。以下では、
図13~
図14を参照して、
図12についてさらに説明する。
【0123】
図13は、多様な実施例に係る、生体信号の例を説明するための図面である。
図14は、多様な実施例に係る、学習サーバー20aの生体信号の時間同期化動作の例を説明するための図面である。
【0124】
多様な実施例によると、学習サーバー20a(例:データ獲得モジュール700)は、動作1201で、複数の生体信号間の時間同期化を遂行し、動作1203で、時間同期化された複数の生体信号を保存することができる。例えば、
図13を参照すると、複数の生体信号1301、1301が測定される検体S1、S2の位置が異なることに基づいて、複数の生体信号1301、1303それぞれは互いに時間別の大きさ(または強度)が異なり得る(またはパターンが異なり得る)。例えば、使用者Uの心臓から近い検体S1(例:顔)を撮影したことに基づいて獲得される第1生体信号1301より、相対的に心臓から遠い検体S2(例:第1手の指)が接触されることに基づいて測定センサ15により獲得される第2生体信号1303が特定時間tdだけ遅くなり得る。これに伴い、学習サーバー20aは、さらに精巧な学習のために、前記特定時間tdに基づいて複数の生体信号1301、1303の時間を同期化することができる。例えば
図14を参照すると、学習サーバー20aは、前記第2生体信号1303の特定時間tdに対応するだけの信号1303aを削除(または除外)させるか、前記第2生体信号1303の時間を特定時間tdだけ操り上げる動作を遂行できる。また、例えば、学習サーバー20aは特定時間tdだけ前記第1生体信号1303を後に移動させる動作(例:タイムシフティング)を遂行できる。一方、図示されてはいないが、外部測定センサ600により測定される第3生体信号に対する時刻同期化も遂行できる。
【0125】
多様な実施例によると、学習サーバー20aは、複数の生体信号1301、1303の中で、基準生体信号を選択し、前記選択された基準生体信号を基準として識別される前記特定時間tdに基づいて残りの生体信号を時刻同期化することができる。例えば、学習サーバー20aは、複数の生体信号1301、1303の中で心臓から最も近い検体S1に関連した第1生体信号1301を基準信号として選択することができる。学習サーバー20aは、残りの第2生体信号1303(および/または外部測定センサ600により測定された生体信号)に関連した検体S2と第1基準信号1301に対応する検体S2の距離差に基づいて、前記特定時間tdを識別し、前述した時刻同期化動作を遂行できる。一方、図示されてはいないが、外部測定センサ600により測定される第3生体信号に対する時刻同期化もこのように遂行され得る。
【0126】
多様な実施例によると、学習サーバー20aは、使用者の個人特性情報に基づいて、前記特定時間tdを決定することができる。学習サーバー20aは、複数の遅延時間に対する情報を保存し、複数の遅延時間の中で前記使用者の個人特性情報に対応する特定時間tdを識別することができる。一例として、身長が大きいほど、相対的にさらに長い前記特定時間tdが選択され得る。
【0127】
多様な実施例によると、学習サーバー20aは、前記時刻同期化のための人工知能モデルを具現し、具現された人工知能モデルに基づいて時刻同期化を遂行してもよい。
【0128】
以下では、多様な実施例に係る、学習サーバー20aの非接触式方式で獲得された特定の種類の生体信号に基づいて、接触式方式に対応するだけの正確度を有する特定の種類の生体信号に対する情報を提供するように具現される人工知能モデルを生成する動作の例を説明する。以下では、前記特定の種類の生体信号がPPGであるものを例に挙げて説明するが、記載された例に制限されず、多様な種類の生体信号を測定するための人工知能モデルが具現され得る。
【0129】
図15は、多様な実施例に係る、学習サーバー20aの非接触式方式で獲得された特定の種類の生体信号に基づいて、接触式方式に対応するだけの正確度を有する特定の種類の生体信号に対する情報を提供するように具現される人工知能モデルを生成する動作の例を示すフローチャートである。図示されたおよび/または記載された動作の順序とは無関係に動作が遂行され得、より多くの動作が遂行されるかおよび/またはさらに少ない動作が遂行されてもよい。以下では、
図16~
図18bを参照して、
図15についてさらに説明する。
【0130】
図16は、多様な実施例に係る、学習サーバー20aの人工知能モデルを生成する動作の例を説明するための図面である。
図17は、多様な実施例に係る、学習サーバー20aにより生成される少なくとも一つの人工知能モデルの一例を説明するための図面である。
図18aは、多様な実施例に係る、学習サーバー20aにより生成される少なくとも一つの人工知能モデルの他の例を説明するための図面である。
図18bは、多様な実施例に係る、学習サーバー20aにより生成される少なくとも一つの人工知能モデルのさらに他の例を説明するための図面である。
【0131】
多様な実施例によると、学習サーバー20aは、動作1501で、電子装置10のカメラ12を利用した検体Sに対する撮影に基づいて、特定の種類の第1生体信号を獲得し、第1接触センサ15に基づいて第2生体信号を獲得し、動作1503で、第2接触センサに基づいて前記特定の種類の第3生体信号を獲得し、動作1505で、第2接触センサに基づいて、前記特定の種類の第3生体信号を獲得することができる。前記学習サーバー20aの動作1501~動作1505は、前述した学習サーバー20aの動作501~動作505のように具現され得るので重複する説明は省略する。
【0132】
多様な実施例によると、学習サーバー20aは、動作1507で、複数の生体信号および前記追加学習情報に基づいて、前記特定の種類の生体信号を獲得するための少なくとも一つの人工知能モデルを獲得することができる。例えば、
図16を参照すると、人工知能モデル生成モジュール25aは、データ獲得モジュール700によりデータベース24aに保存された複数の生体信号(MPPG1720、rPPG1740、PPG1750)および追加学習情報1730(例:付加情報1731、および環境データ1733)に基づいて、少なくとも一つの人工知能モデル1700a~1700f、および1800を生成することができる。この時、データベース24aに保存されたPPGデータは互いに時間同期化がされていることもあり得るが、記載された例に制限されず時間同期化がされていないこともあり得る。前記少なくとも一つの人工知能モデル1700a~1700f、および1800は、非接触方式で獲得された検体に対する情報(例:顔を含む複数のイメージ)に基づいて、接触方式で獲得されるPPGに対応する正確度のPPG推定値を提供するように具現され得る。例えば、人工知能モデル生成モジュール25aは教師あり学習、教師なし学習、半教師あり学習、強化学習等を通じて人工知能モデルを具現することができる。また、一実施例に係る人工知能モデル生成モジュール25aは、人工ニューラルネットワーク(artificial neural network、ANN)で人工知能モデルを具現することができる。例えば、前記人工知能モデル生成モジュール25aは、フィードフォワードニューラルネットワーク(Feedforward neural network)、放射ニューラルネットワーク(radial basis function network)またはコホネン自己組織化ニューラルネットワーク(kohonen self-organizing network)等を利用することができるが、これに限定されない。また、一実施例に係る人工知能モデル生成モジュール25aは深層ニューラルネットワーク(Deep neural network、DNN)で人工知能モデルを具現することができる。例えば、前記人工知能モデル生成モジュール25aは畳み込みニューラルネットワーク(Convolutional neural network、CNN)、循環人工ニューラルネットワーク(Recurrent neural network、RNN)、LSTM(Long Short Term Memory Network)またはGRUs(Gated Recurrent Units)等を利用することができるが、これに限定されない。
【0133】
多様な実施例によると、学習サーバー20aは非接触PPG(rPPG)を獲得するためのモデル1700a、1700c、1700eおよび接触PPGを獲得するためのモデル1700b、1700d、1700fをラーニングするように具現され得る。これに伴い、前記rPPG獲得モデル1700a、1700c、1700eにイメージ情報1710(例:複数のイメージ)が入力されることにより出力されるrPPG1740が第2PPG獲得モデル1700b、1700d、1700fに入力されることによって出力される、PPG1750が獲得され得る。
【0134】
一実施例で、
図17の(a)を参照すると、学習サーバー20aは非接触PPG(rPPG)を獲得するための人工知能モデル(例:第1rPPG獲得モデル1700a)および接触PPGを獲得するための人工知能モデル(例:第1PPG獲得モデル1700b)をラーニングするように具現され得る。例えば、学習サーバー20aは、データベース24a内に保存された互いに関連した情報の中で、カメラ12により撮影されたイメージ情報1710および追加学習情報1730(例:付加情報1731、および環境データ1733)を入力データとし、rPPG1740を出力データとしてラーニングすることで、第1rPPG獲得モデル1700aを獲得することができる。前記第1rPPG獲得モデル1700aはイメージ情報1710および追加学習情報1730(例:付加情報1731、環境データ1733)が入力される場合、rPPG1740を出力するように具現され得る。また、例えば、学習サーバー20aは、データベース24a内に保存された情報の中で、rPPG1740およびMPPG1720を入力データとし、PPG1750を出力データとしてラーニングすることで、第1PPG獲得モデル1700bを獲得することができる。前記第2PPG獲得モデル1700bは、rPPG1740およびMPPG1720が入力される場合、PPG1750を出力するように具現され得る。前記第1rPPG獲得モデル1700aにイメージ情報1710および追加学習情報1730(例:付加情報1731、環境データ1733)が入力されることにより出力されるrPPG1740と電子装置10により獲得されるMPPG1720が第2PPG獲得モデル1700bに入力されることによって出力される、PPG1750が獲得され得る。
【0135】
また、一実施例で、
図17の(b)を参照すると、学習サーバー20aは非接触PPG(rPPG)を獲得するためのモデル(例:第2rPPG獲得モデル1700c)および接触PPGを獲得するための人工知能モデル(例:第2PPG獲得モデル1700d)をラーニングするように具現され得る。例えば、学習サーバー20aは、データベース24a内に保存された互いに関連した情報の中で、カメラ12により撮影されたイメージ情報1710を入力データとし、rPPG1740を出力データとしてラーニングすることで、第2rPPG獲得モデル1700cを獲得することができる。前記第2rPPG獲得モデル1700cはイメージ情報1710が入力される場合、rPPG1740を出力するように具現され得る。一方、記載された例に制限されず、第2rPPG獲得モデル1700cは
図9で前述した、G-R、およびG-Bに基づいて第3特性値を獲得するソフトウェアおよび/またはアルゴリズムであり得る。また、例えば、学習サーバー20aは、データベース24a内に保存された情報の中で、rPPG1740、追加学習情報1730、およびMPPG1720を入力データとし、PPG1750を出力データとしてラーニングすることで、第2PPG獲得モデル1700dを獲得することができる。前記第2PPG獲得モデル1700dは、rPPG1740、追加学習情報1730およびMPPG1720が入力される場合、PPG1750を出力するように具現され得る。前記第2rPPG獲得モデル1700cにイメージ情報1710が入力されることにより出力されるrPPG1740と電子装置10により獲得されるMPPG1720と追加学習情報1730(例:付加情報1731、環境データ1733)が第2PPG獲得モデル1700dに入力されることによって出力される、PPG1750が獲得され得る。
【0136】
また、一実施例で、
図17の(c)を参照すると、学習サーバー20aは非接触PPG(rPPG)を獲得するための人工知能モデル(例:第3rPPG獲得モデル1700e)および接触PPGを獲得するための人工知能モデル(例:第3PPG獲得モデル1700f)をラーニングするように具現され得る。例えば、学習サーバー20aは、データベース24a内に保存された互いに関連した情報の中で、カメラ12により撮影されたイメージ情報1710、MPPG1720、および追加学習情報1730を入力データとし、rPPG1740を出力データとしてラーニングすることで、第3rPPG獲得モデル1700eを獲得することができる。前記第3rPPG獲得モデル1700eはイメージ情報1710、MPPG1720、および追加学習情報1730(例:付加情報1731、環境データ1733)が入力される場合、rPPG1740を出力するように具現され得る。また、例えば、学習サーバー20aは、データベース24a内に保存された情報の中で、rPPG1740を入力データとし、PPG1750を出力データとしてラーニングすることで、第3PPG獲得モデル1700dを獲得することができる。前記第3PPG獲得モデル1700fは、rPPG1740が入力される場合、PPG1750を出力するように具現され得る。前記第3rPPG獲得モデル1700eにイメージ情報1710、MPPG1720、および追加学習情報1730(例:付加情報1731、環境データ1733)が入力されることにより出力されるrPPG1740が第3PPG獲得モデル1700fに入力されることによって出力される、PPG1750が獲得され得る。
【0137】
多様な実施例によると、学習サーバー20aは、PPGを獲得するための単一の統合人工知能モデル(例:第1統合人工知能モデル1800)をラーニングしてもよい。例えば、
図18aを参照すると、学習サーバー20aはイメージ情報1710、MPPG1720、および追加学習情報1730を入力データとし、PPG1740を出力データとしてラーニングすることで、第1統合人工知能モデル1800を獲得することができる。前記第1-1統合人工知能モデル1800aは、イメージ情報1710、MPPG1720、および追加学習情報1730(例:付加情報1731、環境データ1733)が入力される場合、PPG1750を出力するように具現され得る。一方、記載された例に制限されず、前記第1-1統合人工知能モデル1800aは、イメージ情報1710、MPPG1720、および追加学習情報1730(例:付加情報1731、環境データ1733)が入力される場合、rPPG1720を出力するように具現され得る。
【0138】
多様な実施例によると、学習サーバー20aは、PPGを獲得するための単一の統合人工知能モデル(例:第1統合人工知能モデル1800)をラーニングしてもよい。例えば、
図18bを参照すると、学習サーバー20aはイメージ情報1710、PPG1750、および追加学習情報1730を入力データとし、rPPG1740またはMPPG1720を出力データとしてラーニングすることで、第1-2統合人工知能モデル1800bを獲得することができる。前記第1-2統合人工知能モデル1800bは、イメージ情報1710、PPG1750、および追加学習情報1730(例:付加情報1731、環境データ1733)が入力される場合、MPPG1720またはrPPG1740を出力するように具現され得る。
【0139】
以下では、多様な実施例に係る、学習サーバー20aの1507動作の少なくとも一部として、時間同期化なしに人工知能モデルを生成する動作の例を説明する。
【0140】
図19は、多様な実施例に係る、学習サーバー20aの時間同期化なしに人工知能モデルを生成する動作の例を示すフローチャートである。図示されたおよび/または記載された動作の順序とは無関係に動作が遂行され得、より多くの動作が遂行されるかおよび/またはさらに少ない動作が遂行されてもよい。
【0141】
多様な実施例によると、学習サーバー20aは、動作1901で、互いに異なる複数の生体信号(例:rPPG、MPPG、PPG)間の時間同期化の遂行なしに、トレーニングデータとして複数の生体信号(例:rPPG、MPPG、PPG)を獲得することができる。これに伴い、学習サーバー20aは、時間同期化が遂行されていない複数の生体信号(例:rPPG、MPPG、PPG)に基づいて前述した少なくとも一つの人工知能モデル1700a~1700f、および1800を学習する動作を遂行できる。これに伴い、具現された少なくとも一つの人工知能モデル1700a~1700f、および1800は、今後電子装置10により獲得された情報が時間同期化されていない状態で入力されても、正確度の高いPPGに対する情報を出力するように具現され得る。
【0142】
以下では、多様な実施例に係る、学習サーバー20aのさらに他の人工知能モデルの生成動作の例を説明するための図面である。以下では、前記特定の種類の生体信号がPPGであるものを例に挙げて説明するが、記載された例に制限されず、多様な種類の生体信号を測定するための人工知能モデルが具現され得る。
【0143】
多様な実施例によると、前記複数の生体信号(例:rPPG、MPPG、PPG)の間の時間差tdは、血圧のような身体情報を測定するのに利用されてもよい。
【0144】
図20は、多様な実施例に係る、学習サーバー20aのさらに他の人工知能モデルの生成動作の例を示すフローチャートである。図示されたおよび/または記載された動作の順序とは無関係に動作が遂行され得、より多くの動作が遂行されるかおよび/またはさらに少ない動作が遂行されてもよい。以下では、
図21~
図23を参照して、
図20についてさらに説明する。
【0145】
図21は、多様な実施例に係る、学習サーバー20aが人工知能モデルを生成するために、rPPGおよびPPGを利用する動作の例を説明するための図面である。
図22は、多様な実施例に係る、学習サーバー20aが人工知能モデルを生成するために、MPPGおよびPPGを利用する動作の例を説明するための図面である。
図23は、多様な実施例に係る、学習サーバー20aにより生成される少なくとも一つの人工知能モデルの一例を説明するための図面である。
【0146】
多様な実施例によると、学習サーバー20aは、動作2001で、電子装置10のカメラ12を利用した検体Sに対する撮影に基づいて、特定の種類の第1生体信号を獲得し、動作2003で接触センサ(例:外部測定センサ600、接触センサ15)に基づいて第2生体信号を獲得し、動作2005で、前記追加の学習情報を獲得することができる。例えば、学習サーバー20aは、人工知能モデルの生成のためにrPPG、PPG、およびMPPGをすべて獲得するのではなく、
図21に図示された通り、rPPGおよびPPGを獲得したり、または
図22に図示された通り、rPPGおよびMPPGを獲得することができる。その他に重複する説明は省略する。
【0147】
多様な実施例によると、学習サーバー20aは、動作2007で、複数の生体信号および前記追加学習情報のうち少なくとも一部に基づいて、前記特定の種類の生体信号を獲得するための少なくとも一つのモデル2300a、2300b、2300c、2300d、2300eを獲得することができる。例えば、学習サーバー20aは、結果的にMPPGに対する情報またはPPGに対する情報を出力するように具現される少なくとも一つの人工知能モデルを生成することができる。
【0148】
また、一実施例で、
図23の(a)を参照すると、学習サーバー20aは非接触PPG(rPPG)を獲得するための人工知能モデル(例:第4rPPG獲得モデル2300a)およびPPG2301(例:MPPG、またはPPG)を獲得するための人工知能モデル(例:第4PPG獲得モデル2300b)をラーニングするように具現され得る。例えば、学習サーバー20aは、データベース24a内に保存された互いに関連した情報の中で、カメラ12により撮影されたイメージ情報1710を入力データとし、rPPG1740を出力データとしてラーニングすることで、第4rPPG獲得モデル2300aを獲得することができる。前記第4rPPG獲得モデル2300aはイメージ情報1710が入力される場合、rPPG1740を出力するように具現され得る。一方、記載された例に制限されず、第4rPPG獲得モデル2300aは
図9で前述した、G-R、およびG-Bに基づいて第3特性値を獲得するソフトウェアおよび/またはアルゴリズムであり得る。また、例えば、学習サーバー20aは、データベース24a内に保存された情報の中で、rPPG1740および追加学習情報1730を入力データとし、PPG2301(例:MPPG、またはPPG)を出力データとしてラーニングすることで、第4PPG獲得モデル2300bを獲得することができる。前記第4PPG獲得モデル2300bは、rPPG1740および追加学習情報1730(例:付加情報1731、環境データ1733)が入力される場合、PPG2301(例:MPPG、またはPPG)を出力するように具現され得る。前記第4rPPG獲得モデル2300aにイメージ情報1710が入力されることにより出力されるrPPG1740とともに追加学習情報1730(例:付加情報1731、環境データ1733)が第4PPG獲得モデル2300bに入力されることによって出力される、PPG2301(例:MPPG、またはPPG)が獲得され得る。
【0149】
また、一実施例で、
図23の(a)を参照すると、学習サーバー20aは非接触PPG(rPPG)を獲得するための人工知能モデル(例:第4rPPG獲得モデル2300a)およびPPG2301(例:MPPG、またはPPG)を獲得するための人工知能モデル(例:第4PPG獲得モデル2300b)をラーニングするように具現され得る。例えば、学習サーバー20aは、データベース24a内に保存された互いに関連した情報の中で、カメラ12により撮影されたイメージ情報1710を入力データとし、rPPG1740を出力データとしてラーニングすることで、第4rPPG獲得モデル2300aを獲得することができる。前記第4rPPG獲得モデル2300aはイメージ情報1710が入力される場合、rPPG1740を出力するように具現され得る。また、例えば、学習サーバー20aは、データベース24a内に保存された情報の中で、rPPG1740および追加学習情報1730を入力データとし、PPG2301(例:MPPG、またはPPG)を出力データとしてラーニングすることで、第4PPG獲得モデル2300bを獲得することができる。前記第4PPG獲得モデル2300bは、rPPG1740が入力される場合、PPG2301(例:MPPG、またはPPG)を出力するように具現され得る。前記第4rPPG獲得モデル2300aにイメージ情報1710が入力されることにより出力されるrPPG1740が第4PPG獲得モデル2300bに入力されることによって出力される、PPG2301(例:MPPG、またはPPG)が獲得され得る。
【0150】
また、一実施例で、
図23の(b)を参照すると、学習サーバー20aは非接触PPG(rPPG)を獲得するための人工知能モデル(例:第5rPPG獲得モデル2300c)およびPPG2301(例:MPPG、またはPPG)を獲得するための人工知能モデル(例:第5PPG獲得モデル2300d)をラーニングするように具現され得る。例えば、学習サーバー20aは、データベース24a内に保存された互いに関連した情報の中で、カメラ12により撮影されたイメージ情報1710および追加学習情報1730を入力データとし、rPPG1740を出力データとしてラーニングすることで、第5rPPG獲得モデル2300cを獲得することができる。前記第5rPPG獲得モデル2300cはイメージ情報1710および追加学習情報1730(例:付加情報1731、環境データ1733)が入力される場合、rPPG1740を出力するように具現され得る。また、例えば、学習サーバー20aは、データベース24a内に保存された情報の中で、rPPG1740を入力データとし、PPG2301(例:MPPG、またはPPG)を出力データとしてラーニングすることで、第5PPG獲得モデル2300dを獲得することができる。前記第5PPG獲得モデル2300dは、rPPG1740が入力される場合、PPG2301(例:MPPG、またはPPG)を出力するように具現され得る。前記第5rPPG獲得モデル2300cにイメージ情報1710が入力されることにより出力されるrPPG1740が第5PPG獲得モデル2300dに入力されることによって出力される、PPG2301(例:MPPG、またはPPG)が獲得され得る。
【0151】
多様な実施例によると、学習サーバー20aは、PPGを獲得するための単一の統合人工知能モデル(例:第2統合人工知能モデル2300e)をラーニングしてもよい。例えば、
図23の(c)を参照すると、学習サーバー20aはイメージ情報1710、MPPG1720、および追加学習情報1730を入力データとし、PPG2301(例:MPPG、またはPPG)を出力データとしてラーニングすることで、第2統合人工知能モデル2300eを獲得することができる。前記第2統合人工知能モデル2300eは、イメージ情報1710、MPPG1720、および追加学習情報1730(例:付加情報1731、環境データ1733)が入力される場合、PPG2301(例:MPPG、またはPPG)を出力するように具現され得る。
【0152】
以下では、多様な実施例に係る、電子装置10の人工知能モデルを利用して、非接触式方式で獲得された情報に基づいて接触式方式と類似する正確度の生体信号を提供する動作の例を説明するための図面である。以下では、前記特定の種類の生体信号がPPGであるものを例に挙げて説明するが、記載された例に制限されず、多様な種類の生体信号を測定するための人工知能モデルが具現され得る。
【0153】
図24は、多様な実施例に係る、電子装置10の人工知能モデルを利用して、接触式方式と類似する正確度の生体信号を提供する動作の例を説明するためのフローチャートである。図示されたおよび/または記載された動作の順序とは無関係に動作が遂行され得、より多くの動作が遂行されるかおよび/またはさらに少ない動作が遂行されてもよい。以下では、
図25を参照して、
図24についてさらに説明する。
【0154】
図25は、多様な実施例に係る、電子装置10の人工知能モデルを利用して、接触式方式と類似する正確度の生体信号を提供する動作の説明するための図面である。
【0155】
多様な実施例によると、電子装置10は、動作2401で、アプリケーションを実行することができる。例えば、前記アプリケーションは、非接触式方式で使用者Uの身体の一部(すなわち、検体)に対する情報を獲得したことに基づいて、接触式方式の正確度を有する生体信号に対する情報および/または前記生体信号に基づいて分析される生体情報(例:血圧、血糖など)を提供するように具現されたアプリケーションであり得る。
【0156】
多様な実施例によると、電子装置10は、動作2403で、追加の学習情報を獲得することができる。例えば、前記電子装置10は追加学習情報として、個人情報を獲得することができる。前記個人情報(例:性別、年、年齢、人種など)に対する情報を入力するためのアプリケーションの実行画面を表示し、前記実行画面を通じて入力される使用者の特性情報を保存し、および/またはサーバー20(例:利用サーバー20b)に伝送することができる。前記アプリケーションの実行画面は、使用者の加入時に提供される実行画面、および/または使用者の個人情報を入力するための実行画面であり得る。一方、記載された例に制限されず、前記電子装置10は、追加学習情報としてカメラ情報、撮影情報、および/またはイメージ情報を獲得することができる。
【0157】
多様な実施例によると、電子装置10は、動作2405で、電子装置10のカメラ12を利用して複数のイメージを獲得し、動作2407で電子装置10の接触センサ15を利用してセンシングデータを獲得することができる。例えば、
図21に図示された通り、電子装置10は、使用者に、カメラ12を利用して使用者の顔を撮影しながら、接触センサ15に身体の一部(例:指)を接触させるようにガイドするためのアプリケーションの実行画面2501を表示することができる。前記実行画面2501は、使用者の顔が表示される領域2501a、ガイドするためのテキスト(例:「センサに指を接触して顔を撮影します。」)が表示される領域2501b、および使用者の撮影環境に対する情報(例:電子装置10と顔との距離、位置、傾き、照度など)が表示される領域2501cを含むことができる。これに伴い、電子装置10は、カメラ12を利用して使用者の顔を含む複数のイメージを獲得し、後面に配置される接触センサ15を利用してセンシングデータを獲得し、撮影時に追加学習情報(例:環境センサ16により獲得される環境データ、および付加情報)を獲得することができる。一方、前述した通り、前記付加情報は個人情報、カメラ情報、撮影情報、および/またはイメージ情報を含むことができる。電子装置10は、前記獲得された情報をサーバー20(例:利用サーバー20b)に伝送することができる。
【0158】
多様な実施例によると、アプリケーションは、実行時、電子装置10のカメラ12、接触センサ15、および環境センサ14を駆動し、それぞれに対する権限を有するように具現され得る。
【0159】
多様な実施例によると、電子装置10は、動作2409で、前記複数のイメージ、前記センシングデータ、および前記追加学習情報に基づいて、特定の種類の生体信号を獲得し、動作2411で、前記特定の種類の生体信号に対応する少なくとも一つの生体情報を獲得することができる。例えば、利用サーバー20bは、前述した通り、ラーニングされた少なくとも一つの人工知能モデル(例:
図17の人工知能モデル1700a~1700f、
図18a~
図18bの人工知能モデル1800a~1800b、
図23の人工知能モデル2300a~2300e)に、受信された情報を入力したことに対する応答として、最終的に出力されるPPGを獲得することができる。結果的に、前記PPGは、接触式方式の正確度を有することができる。また、前記利用サーバー20bは、前記PPGに基づいて、使用者の身体情報(例:血圧、心拍数情報)を獲得することができる。結果的に、前記電子装置10は、前記利用サーバー20bから、前記PPGに対する情報、および/または前記使用者の身体情報(例:血圧)を受信し、アプリケーションの実行画面2503に表示することができる。例えば、前記実行画面2503は、心拍数に対する情報2503a、および血圧に対する情報2503bを含むことができる。
【0160】
以下では、多様な実施例に係る、電子装置10の、2403動作のうち少なくとも一部で、撮影をガイドする動作の例を説明するための図面である。
【0161】
図26は、多様な実施例に係る、電子装置10の撮影をガイドする動作を説明するためのフローチャートである。図示されたおよび/または記載された動作の順序とは無関係に動作が遂行され得、より多くの動作が遂行されるかおよび/またはさらに少ない動作が遂行されてもよい。以下では、
図27を参照して、
図26についてさらに説明する。
【0162】
図27は、多様な実施例に係る、電子装置10の撮影をガイドする動作の例を説明するための図面である。
【0163】
多様な実施例によると、電子装置10は、動作2601で、撮影のためのアプリケーションの実行画面を表示することができる。例えば、
図27に図示された通り、電子装置10は、撮影のためのアプリケーションの実行画面2701を提供することができる。
【0164】
多様な実施例によると、電子装置10は、動作2603で、特定条件が満足されるかどうかを判断し、特定条件が満足される場合(2603-Y)、動作2605で少なくとも一つのカメラパラメータ(例:シャッタースピード、FPS、撮影解像度など)が特定値で設定された状態で、撮影を遂行できる。例えば、電子装置10は、特定条件を満足するかどうかを判断する動作の少なくとも一部で、電子装置10の環境センサ16を利用して、撮影される周辺環境に関連した情報(例:照度など)および/または撮影時の電子装置10の状態に関連した情報(例:位置、気鬱期など)が特定条件を満足するかどうかを判断することができる。一例として、
図27に図示された通り、電子装置10は、電子装置10の位置が特定位置(例:第2位置)を満足するかどうかを判断することができる。電子装置10は、前記電子装置10の位置が特定位置(例:第2位置)である場合に、カメラ12を利用して撮影を遂行できる。これに伴い、非接触式方式で獲得されるイメージの偏差が減少して、PPGの正確度がより向上し得る。
【0165】
多様な実施例によると、
図27に図示された通り、電子装置10は、撮影のためのアプリケーションの実行画面2701上に、位置に対する情報(例:第1位置、および第2位置)を更新して提供することによって、使用者が認知するようにすることができる。
【0166】
多様な実施例によると、前記撮影時に少なくとも一つのカメラパラメータ(例:シャッタースピード、FPSなど)が特定値として設定され得る。例えば、前記FPSが秒当たり20~30の範囲で、動画が撮影されるように前記カメラパラメータが設定され得る。
【0167】
以下では、多様な実施例に係る、サーバー20(例:利用サーバー20b)の、人工知能モデルを利用する動作の例を説明するための図面である。
【0168】
図28は、多様な実施例に係る、サーバー20(例:利用サーバー20b)の、人工知能モデルを利用する動作の例を説明するためのフローチャートである。図示されたおよび/または記載された動作の順序とは無関係に動作が遂行され得、より多くの動作が遂行されるかおよび/またはさらに少ない動作が遂行されてもよい。以下では、
図29を参照して、
図28についてさらに説明する。
【0169】
図29は、多様な実施例に係る、サーバー20(例:利用サーバー20b)の、人工知能モデルを利用する動作の例を説明するための図面である。
【0170】
多様な実施例によると、利用サーバー20bは、動作2801で、複数の人工知能モデルそれぞれに対応する少なくとも一つの入力データを獲得し、動作2803で、少なくとも一つの入力データを複数の人工知能モデルそれぞれに入力したことに対する応答として、特定の種類の複数の生体信号を獲得することができる。例えば、利用サーバー20bは、前述したラーニングされた少なくとも一つの人工知能モデル(例:
図17の人工知能モデル1700a~1700f、
図18a~
図18bの人工知能モデル1800a~1800b、
図23の人工知能モデル2300a~2300e)を保存することができる。この時、利用サーバー20bは、電子装置10から受信されたイメージ情報1710、MPPG1720、および/または追加学習情報1730を基盤として、各人工知能モデル(例:
図17の人工知能モデル1700a~1700f、
図18a~
図18bの人工知能モデル1800a~1800b、
図23の人工知能モデル2300a~2300e)に関連した入力データを入力することによって、出力される複数のPPGを獲得することができる。
【0171】
多様な実施例によると、利用サーバー20bは、動作2805で、前記特定の種類の前記複数の生体信号に基づいて、前記特定の種類の特定生体信号を獲得することができる。一実施例で、利用サーバー20bは、前記複数のPPGの中で最も信頼度が高いものとして決定される、特定PPGを選択し、前記特定PPGに対する情報および/または身体情報を電子装置10に提供することができる。また、一実施例で、利用サーバー20bは、前記複数のPPGに基づいて所定の計算(例:平均)を遂行することによって、特定PPGに対する情報を獲得し、前記特定PPGに対する情報および/または身体情報を電子装置10に提供することができる。また、一実施例で、利用サーバー20bは、前記複数のPPGのうち使用者に最も適合した人工知能モデルで出力される特定PPGを選択し、前記特定PPGに対する情報および/または身体情報を電子装置10に提供することができる。