【国等の委託研究の成果に係る記載事項】(出願人による申告)平成26年度、総務省戦略的情報通信研究開発推進事業「次世代ヒューマンセンシングに向けたRGB−Xイメージングシステムの研究開発」に係る委託研究、産業技術力強化法第19条の適用を受ける特許出願
(58)【調査した分野】(Int.Cl.,DB名)
原色の波長帯域より狭い波長帯域を有し、可視光帯域に透過スペクトルの最大値を有する狭帯域光を透過させる第1狭帯域フィルタと、原色の波長帯域より狭い波長帯域を有し、前記狭帯域フィルタと異なる可視光帯域に透過スペクトルの最大値を有する狭帯域光を透過させる第2狭帯域フィルタと、非可視光帯域に透過スペクトルの最大値を有する狭帯域光を透過させる第3狭帯域フィルタと、を用いて所定の配列パターンを形成し、該配列パターンを形成する個々の狭帯域フィルタが複数の画素のいずれかに対応する位置に配置された撮像素子によって生成された画像データを取得する取得部と、
前記撮像素子が前記画像データを生成した際の環境下における前記非可視光帯域の光量が閾値より大きいか否かを判定する判定部と、
前記判定部によって前記非可視光帯域の光量が前記閾値以上であると判定された場合、前記画像データに対応する画像において前記第3狭帯域フィルタが配置された画素の位置に対応する画素値および前記第2狭帯域フィルタが配置された画素の位置に対応する画素値を用いて被写体のバイタル情報を生成する一方、前記判定部によって前記非可視光帯域の光量が前記閾値以上でないと判定された場合、前記画像データに対応する画像における前記第1狭帯域フィルタが配置された画素の位置に対応する画素値および前記第2狭帯域フィルタが配置された画素の位置に対応する画素値を用いて被写体のバイタル情報を生成する生成部と、
を備えたことを特徴とする画像処理装置。
前記判定部は、前記データに対応する画像における前記第3狭帯域フィルタが配置された画像の位置に対応する画素値に基づいて、前記非可視光帯域の光量が前記閾値より大きいか否かを判定することを特徴とする請求項1に記載の画像処理装置。
前記撮像素子は、赤色の波長帯域の光、緑色の波長帯域の光および青色の波長帯域の光のいずれか1つを透過する広帯域フィルタと、前記第1狭帯域フィルタと、前記第2狭帯域フィルタと、前記第3狭帯域フィルタと、を用いて所定の配列パターンを形成し、該配列パターンを形成する個々のフィルタが複数の画素のいずれかに対応する位置に配置されていることを特徴とする請求項1〜3のいずれか一つに記載の画像処理装置。
原色の波長帯域より狭い波長帯域を有し、可視光帯域に透過スペクトルの最大値を有する狭帯域光を透過させる第1狭帯域フィルタと、原色の波長帯域より狭い波長帯域を有し、前記狭帯域フィルタと異なる可視光帯域に透過スペクトルの最大値を有する狭帯域光を透過させる第2狭帯域フィルタと、非可視光帯域に透過スペクトルの最大値を有する狭帯域光を透過させる第3狭帯域フィルタと、を用いて所定の配列パターンを形成し、該配列パターンを形成する個々の狭帯域フィルタが複数の画素のいずれかに対応する位置に配置された撮像素子によって生成された画像データを取得する取得ステップと、
前記撮像素子が前記画像データを生成した際の環境下における前記非可視光帯域の光量が閾値より大きいか否かを判定する判定ステップと、
前記判定ステップによって前記非可視光帯域の成分が前記閾値以上であると判定された場合、前記画像データに対応する画像における前記第3狭帯域フィルタが配置された画素の位置に対応する画素値および前記第2狭帯域フィルタが配置された画素の位置に対応する画素値を用いて被写体のバイタル情報を生成する一方、前記判定ステップによって前記非可視光帯域の光量が前記閾値以上でないと判定された場合、前記画像データに対応する画像における前記第1狭帯域フィルタが配置された画素の位置に対応する画素値および前記第2狭帯域フィルタが配置された画素の位置に対応する画素値を用いて被写体のバイタル情報を生成する生成ステップと、
を画像処理装置に実行させることを特徴とするプログラム。
【発明の概要】
【発明が解決しようとする課題】
【0005】
しかしながら、上述した特許文献1,2では、赤色の光および近赤外の光それぞれを照射する光源を必要とするため、装置が大型化するという問題点があった。
【0006】
本発明は、上記に鑑みてなされたものであって、小型化を図ることができる画像処理装置、撮像装置、画像処理方法およびプログラムを提供することを目的とする。
【課題を解決するための手段】
【0007】
上述した課題を解決し、目的を達成するために、本発明に係る画像処理装置は、原色の波長帯域より狭い波長帯域を有し、可視光帯域に透過スペクトルの最大値を有する狭帯域光を透過させる第1狭帯域フィルタと、原色の波長帯域より狭い波長帯域を有し、前記狭帯域フィルタと異なる可視光帯域に透過スペクトルの最大値を有する狭帯域光を透過させる第2狭帯域フィルタと、非可視光帯域に透過スペクトルの最大値を有する狭帯域光を透過させる第3狭帯域フィルタと、を用いて所定の配列パターンを形成し、該配列パターンを形成する個々の狭帯域フィルタが複数の画素のいずれかに対応する位置に配置された撮像素子によって生成された画像データを取得する取得部と、前記撮像素子が前記画像データを生成した際の環境下における前記非可視光帯域の光量が閾値より大きいか否かを判定する判定部と、前記判定部によって前記非可視光帯域の光量が前記閾値以上であると判定された場合、前記画像データに対応する画像において前記第3狭帯域フィルタが配置された画素の位置に対応する画素値および前記第2狭帯域フィルタが配置された画素の位置に対応する画素値を用いて被写体のバイタル情報を生成する一方、前記判定部によって前記非可視光帯域の光量が前記閾値以上でないと判定された場合、前記画像データに対応する画像における前記第1狭帯域フィルタが配置された画素の位置に対応する画素値および前記第2狭帯域フィルタが配置された画素の位置に対応する画素値を用いて被写体のバイタル情報を生成する生成部と、を備えたことを特徴とする。
【0008】
また、本発明に係る画像処理装置は、上記発明において、前記判定部は、前記データに対応する画像における前記第3狭帯域フィルタが配置された画像の位置に対応する画素値に基づいて、前記非可視光帯域の光量が前記閾値より大きいか否かを判定することを特徴とする。
【0009】
また、本発明に係る画像処理装置は、上記発明において、当該画像処理装置の周囲における前記非可視光帯域の光を検出する検出部をさらに備え、前記判定部は、前記検出部が検出した検出結果に基づいて、前記非可視光帯域の光量が前記閾値より大きいか否かを判定することを特徴とする。
【0010】
また、本発明に係る画像処理装置は、上記発明において、前記撮像素子は、赤色の波長帯域の光、緑色の波長帯域の光および青色の波長帯域の光のいずれか1つを透過する広帯域フィルタと、前記第1狭帯域フィルタと、前記第2狭帯域フィルタと、前記第3狭帯域フィルタと、を用いて所定の配列パターンを形成し、該配列パターンを形成する個々のフィルタが複数の画素のいずれかに対応する位置に配置されていることを特徴とする。
【0011】
また、本発明に係る画像処理装置は、上記発明において、前記判定部は、前記画像を複数の領域に分割し、該複数の領域それぞれに対して前記非可視光帯域の成分が前記閾値より大きいか否かを判定し、前記生成部は、前記複数の領域それぞれの前記バイタル情報を生成することを特徴とする。
【0012】
また、本発明に係る画像処理装置は、上記発明において、前記判定部は、前記画像データに対応する画像の一部である部分領域に対して、前記非可視光帯域の成分が前記閾値より大きいか否かを判定し、前記生成部は、前記部分領域に対して前記バイタル情報を生成することを特徴とする。
【0013】
また、本発明に係る画像処理装置は、上記発明において、前記画像データに対応する画像に含まれる被写体の顔を検出する顔検出部をさらに備え、前記判定部は、前記顔検出部が検出した前記顔を含む領域に対して、前記非可視光帯域の成分が前記閾値より大きいか否かを判定することを特徴とする。
【0014】
また、本発明に係る画像処理装置は、上記発明において、前記第1狭帯域フィルタは、緑色の波長帯域の一部に含まれる狭帯域光を透過し、前記第2狭帯域フィルタは、赤色の波長帯域の一部に含まれる狭帯域光を透過し、前記第3狭帯域フィルタは、近赤外の波長帯域の一部に含まれる狭帯域光を透過することを特徴とする。
【0015】
また、本発明に係る画像処理装置は、上記発明において、前記第1狭帯域フィルタは、波長帯域が490〜550nmに含まれる狭帯域光を透過し、前記第2狭帯域フィルタは、波長帯域が620〜700nmに含まれる狭帯域光を透過し、前記第3狭帯域フィルタは、波長帯域が800〜1000nmに含まれる狭帯域光を透過することを特徴とする。
【0016】
また、本発明に係る画像処理装置は、上記発明において、前記バイタル情報は、酸素飽和度、心拍および血圧のいずれかであることを特徴とする。
【0017】
また、本発明に係る撮像装置は、上記の画像処理装置と、前記撮像素子と、を備えたことを特徴とする。
【0018】
また、本発明に係る画像処理方法は、画像処理装置が実行する画像処理方法であって、原色の波長帯域より狭い波長帯域を有し、可視光帯域に透過スペクトルの最大値を有する狭帯域光を透過させる第1狭帯域フィルタと、原色の波長帯域より狭い波長帯域を有し、前記狭帯域フィルタと異なる可視光帯域に透過スペクトルの最大値を有する狭帯域光を透過させる第2狭帯域フィルタと、非可視光帯域に透過スペクトルの最大値を有する狭帯域光を透過させる第3狭帯域フィルタと、を用いて所定の配列パターンを形成し、該配列パターンを形成する個々の狭帯域フィルタが複数の画素のいずれかに対応する位置に配置された撮像素子によって生成された画像データを取得する取得ステップと、前記撮像素子が前記画像データを生成した際の環境下における前記非可視光帯域の光量が閾値より大きいか否かを判定する判定ステップと、前記判定ステップによって前記非可視光帯域の成分が前記閾値以上であると判定された場合、前記画像データに対応する画像における前記第3狭帯域フィルタが配置された画素の位置に対応する画素値および前記第2狭帯域フィルタが配置された画素の位置に対応する画素値を用いて被写体のバイタル情報を生成する一方、前記判定ステップによって前記非可視光帯域の光量が前記閾値以上でないと判定された場合、前記画像データに対応する画像における前記第1狭帯域フィルタが配置された画素の位置に対応する画素値および前記第2狭帯域フィルタが配置された画素の位置に対応する画素値を用いて被写体のバイタル情報を生成する生成ステップと、を含むことを特徴とする。
【0019】
また、本発明に係るプログラムは、原色の波長帯域より狭い波長帯域を有し、可視光帯域に透過スペクトルの最大値を有する狭帯域光を透過させる第1狭帯域フィルタと、原色の波長帯域より狭い波長帯域を有し、前記狭帯域フィルタと異なる可視光帯域に透過スペクトルの最大値を有する狭帯域光を透過させる第2狭帯域フィルタと、非可視光帯域に透過スペクトルの最大値を有する狭帯域光を透過させる第3狭帯域フィルタと、を用いて所定の配列パターンを形成し、該配列パターンを形成する個々の狭帯域フィルタが複数の画素のいずれかに対応する位置に配置された撮像素子によって生成された画像データを取得する取得ステップと、前記撮像素子が前記画像データを生成した際の環境下における前記非可視光帯域の光量が閾値より大きいか否かを判定する判定ステップと、前記判定ステップによって前記非可視光帯域の成分が前記閾値以上であると判定された場合、前記画像データに対応する画像における前記第3狭帯域フィルタが配置された画素の位置に対応する画素値および前記第2狭帯域フィルタが配置された画素の位置に対応する画素値を用いて被写体のバイタル情報を生成する一方、前記判定ステップによって前記非可視光帯域の光量が前記閾値以上でないと判定された場合、前記画像データに対応する画像における前記第1狭帯域フィルタが配置された画素の位置に対応する画素値および前記第2狭帯域フィルタが配置された画素の位置に対応する画素値を用いて被写体のバイタル情報を生成する生成ステップと、を画像処理装置に実行させることを特徴とする。
【発明の効果】
【0020】
本発明によれば、小型化を図ることができるという効果を奏する。
【発明を実施するための形態】
【0022】
以下、本発明を実施するための形態を図面とともに詳細に説明する。なお、以下の実施の形態により本発明が限定されるものではない。また、以下の説明において参照する各図は、本発明の内容を理解でき得る程度に形状、大きさ、および位置関係を概略的に示してあるに過ぎない。即ち、本発明は、各図で例示された形状、大きさ、および位置関係のみに限定されるものではない。また、同一の構成には同一の符号を付して説明する。
【0023】
(実施の形態1)
〔撮像装置の構成〕
図1は、本発明の実施の形態1に係る撮像装置の概略構成を示すブロック図である。
図1に示す撮像装置1は、被写体を撮像し、被写体のRAW画像データを生成する撮像部2と、撮像部2が生成したRAW画像データを取得し、取得したRAW画像データに対して所定の処理を行う画像処理部3と、画像処理部3が処理を行ったRAW画像データに対応する画像を表示する表示部4と、を備える。なお、本実施の形態1では、画像処理部3が画像処理装置として機能する。また、本実施の形態1では、撮像部2、画像処理部3および表示部4は、有線または無線によって双方向に通信可能に接続されている。
【0024】
〔撮像部の構成〕
まず、撮像部2の構成について説明する。
撮像部2は、光学系21と、撮像素子22と、A/D変換部23と、を備える。
【0025】
光学系21は、一または複数のレンズ、例えばフォーカスレンズやズームレンズ、絞りおよびシャッタ等を用いて構成され、被写体像を撮像素子22の受光面に結像する。
【0026】
撮像素子22は、光学系21が受光面に結像した被写体像を受光して光電変換を行うことによって、RAW画像データを生成する。撮像素子22は、格子状に配置された複数の画素がそれぞれ受光した光を光電変換し、電気信号を生成するCMOS(Complementary Metal Oxide Semiconductor)を用いて構成される。また、撮像素子22は、原色の波長帯域の光を透過する複数の広帯域フィルタと、この広帯域フィルタを透過する光の波長帯域より狭い狭帯域の光を透過させる複数の狭帯域フィルタと、を含むフィルタアレイ(CFA)を有する。
【0027】
図2は、フィルタアレイの構成を模式的に示す図である。
図2に示すフィルタアレイ221は、撮像素子22を構成する各画素の受光面に配置され、緑色の光(495〜570nm)を透過する広帯域フィルタC1、青色の光(450〜495nm)を透過する広帯域フィルタC2と、赤色の光(620〜750nm)を透過する広帯域フィルタC3と、緑色の波長帯域の一部に最大値を有し、緑色の波長帯域より狭い光の成分を透過する狭帯域フィルタC4(第1狭帯域フィルタ)と、赤色の波長帯域の一部に最大値を有し、赤色の波長帯域より狭い光の成分を透過する狭帯域フィルタC5(第2狭帯域フィルタ)と、近赤外の光の成分を透過する狭帯域フィルタC6(第3狭帯域フィルタ)と、を用いて構成される。フィルタアレイ221は、広帯域フィルタC1、広帯域フィルタC2および広帯域フィルタC2を合わせた数が狭帯域フィルタC4、狭帯域フィルタC5および狭帯域フィルタC6を合わせた数より多い。具体的には、フィルタアレイ221は、一つの狭帯域フィルタを基準に見た場合、右に3つ画素を進んだ後に、下に1つ進んだ画素の位置に配置される。より具体的には、フィルタアレイ221は、
図2の左上端にある狭帯域フィルタC4を基準に見た場合、右に広帯域フィルタC1、広帯域フィルタC3、広帯域フィルタC1の順で進んだ後に、下段の画素に狭帯域フィルタC5が設けられている。
【0028】
図3は、フィルタアレイ221を構成する各フィルタの分光感度特性の一例を示す図である。なお、
図3において、横軸が波長を示し、縦軸が透過率を示す。
図3において、曲線LC1が広帯域フィルタC1の透過率を示し、曲線LC2が広帯域フィルタC2の透過率を示し、曲線LC3が広帯域フィルタC3の透過率を示し、曲線LC4が狭帯域フィルタC4の透過率を示し、曲線LC5が狭帯域フィルタC5の透過率を示し、曲線LC6が狭帯域フィルタC6の透過率を示す。
【0029】
図3に示すように、狭帯域フィルタC4は、緑色の波長帯域の一部に含まれる狭帯域光を透過する。具体的には、狭帯域フィルタC4は、波長帯域が490〜550nmに含まれる狭帯域光を透過する。より好ましくは、狭帯域フィルタC4は、520nmの光を透過する。また、狭帯域フィルタC5は、赤色の波長帯域の一部に含まれる狭帯域光を透過する。具体的には、狭帯域フィルタC5は、波長帯域が620〜700nmに含まれる狭帯域光を透過する。より好ましくは、狭帯域フィルタC5は、660nmの光を透過する。さらに、狭帯域フィルタC6は、近赤外の波長帯域の一部に含まれる狭帯域光を透過する。具体的には、狭帯域フィルタC6は、波長帯域が800〜1000nmに含まれる狭帯域光を透過する。より好ましくは、狭帯域フィルタC6は、940nmの光を透過する。なお、本実施の形態1では、狭帯域フィルタC4が透過する透過スペクトルを520nm、狭帯域フィルタC5が透過する透過スペクトルを660nm、狭帯域フィルタC6が透過する透過スペクトルを940nmとして説明する。
【0030】
図1に戻り、撮像部2の構成の説明を続ける。
A/D変換部23は、撮像素子22が生成したアナログのRAW画像データをデジタルに変換する。
【0031】
〔画像処理部の構成〕
次に、画像処理部3の構成について説明する。
画像処理部3は、取得部31と、判定部32と、選択部33と、生成部34と、顔検出部35と、を有する。
【0032】
取得部31は、撮像部2から撮像素子22によって生成されたRAW画像データを取得し、取得したRAW画像データを判定部32、生成部34および顔検出部35それぞれに出力する。
【0033】
判定部32は、撮像素子22が画像データを生成した際の環境下における非可視光帯域の光量が閾値より大きいか否かを判定する。具体的には、判定部32は、取得部31が撮像部2から取得したRAW画像データに近赤外情報が含まれているか否かを判定する。例えば、判定部32は、取得部31が撮像部2から取得したRAW画像データに対応する画像において狭帯域フィルタC6が配置された画素の位置に対応する対応する画素の画素値を抽出後、この抽出した狭帯域フィルタC6に対応する画素の画素値の平均値を算出し、算出した平均値が閾値より大きいか否かを判定することによって、撮像素子22が画像データを生成した際の環境下における非可視光帯域の光量(近赤外情報)が閾値より大きいか否かを判定する。
【0034】
選択部33は、判定部32の判定結果に基づいて、生成部34がバイタル情報を生成する際に用いる狭帯域フィルタを選択する。具体的には、選択部33は、判定部32がRAW画像データに近赤外情報が十分に含まれていると判定した場合、生成部34がバイタル情報生成に用いる狭帯域フィルタ(バンド)として狭帯域フィルタC6を選択する一方、判定部32がRAW画像データに近赤外情報が十分に含まれていないと判定した場合、生成部34がバイタル情報生成に用いる狭帯域フィルタとして狭帯域フィルタC4を選択する。
【0035】
生成部34は、選択部33の選択結果、取得部31が撮像部2から取得したRAW画像データおよび顔検出部35の検出結果に基づいて、RAW画像データに対応するRAW画像に含まれる被写体の顔を含む顔領域のバイタル情報を生成する。ここで、バイタル情報とは、酸素飽和度、心拍および血圧のいずれかである。具体的には、生成部34は、判定部32によって非可視光帯域の成分が閾値以上であると判定された場合、撮像素子22によって生成されたRAW画像データに対応する画像において狭帯域フィルタC4が配置された画素の位置に対応する画素値および狭帯域フィルタC5が配置された画素の位置に対応する画素値を用いて被写体のバイタル情報を生成する一方、判定部32によって非可視光帯域の光量が閾値以上でないと判定された場合、撮像素子22によって生成された画像データに対応する画像における狭帯域フィルタC4が配置された画素の位置に対応する画素値および狭帯域フィルタC5が配置された画素の位置に対応する画素値を用いて被写体のバイタル情報を生成する。
【0036】
顔検出部35は、取得部31から入力されたRAW画像データに対応する画像に含まれる被写体の顔を含む領域を、周知のパターンマッチング等を用いて検出し、この検出結果を生成部34へ出力する。
【0037】
〔表示部の構成〕
次に、表示部4の構成について説明する。
表示部4は、画像処理部3が処理を施した画像データに対応する画像を表示する。表示部4は、有機EL(Electro Luminescence)や液晶等の表示パネルや表示駆動ドライバ等を用いて構成される。
【0038】
このように構成された撮像装置1は、撮像部2で被写体を撮像して被写体のRAW画像データを生成し、画像処理部3が撮像部2によって生成されたRAW画像データを用いて被写体のバイタル情報を生成し、表示部4が画像処理部3によって生成された被写体のバイタル情報を表示する。これにより、ユーザは、バイタル情報を直感的に把握することができる。
【0039】
〔画像処理部の処理〕
次に、画像処理部3が実行する処理について説明する。
図4は、画像処理部3が実行する処理の概要を示すフローチャートである。
【0040】
図4に示すように、まず、取得部31は、撮像部2からRAW画像データを取得する(ステップS101)。
【0041】
続いて、判定部32は、取得部31が撮像部2から取得したRAW画像データに基づいて、近赤外情報が十分に含まれているか否かを判定する光源情報判定処理を実行する(ステップS102)。
【0042】
〔光源情報判定処理の概要〕
図5は、上述したステップS102の光源情報判定処理の概要を示すフローチャートである。
【0043】
図5に示すように、判定部32は、取得部31が撮像部2から取得したRAW画像データから狭帯域フィルタC6に対応する画素の画素値を抽出し(ステップS201)、判定部32は、RAW画像データに対応する画像全体の平均値Ave_C6を算出する(ステップS202)。ここで、平均値Ave_C6とは、RAW画像データから狭帯域フィルタC6に対応する各画素の画素値を加算して平均した値である。
【0044】
その後、判定部32は、ステップS202で算出した平均値Ave_C6が閾値Th_ILLより大きいか否かを判定する(ステップS203)。ここで、閾値Th_ILLとは、予め実験等によって算出された値である。平均値Ave_C6が閾値Th_ILLより大きい場合(ステップS203:Yes)、判定部32は、RAW画像データに近赤外情報が十分に含まれていると判定する(ステップS204)。ステップS204の後、画像処理部3は、
図4のメインルーチンへ戻る。
【0045】
ステップS203において、平均値Ave_C6が閾値Th_ILL以下の場合(ステップS203:No)、判定部32は、RAW画像データに近赤外情報が十分に含まれていないと判定する(ステップS205)。ステップS205の後、画像処理部3は、
図4のメインルーチンへ戻る。
【0046】
図4に戻り、ステップS103以降の説明を続ける。
ステップS103において、選択部33は、判定部32の判定結果に基づいて、バイタル情報を生成するためのフィルタを選択するバイタル情報生成用フィルタ選択処理を実行する。
【0047】
〔バイタル情報生成用フィルタ選択処理の概要〕
図6は、上述したステップS103のバイタル情報生成用フィルタ選択処理の概要を示すフローチャートである。
【0048】
図6に示すように、選択部33は、判定部32がRAW画像データに近赤外情報が十分に含まれていると判定したと場合(ステップS301:Yes)、生成部34がバイタル情報生成に用いる狭帯域フィルタとして狭帯域フィルタC6を選択する(ステップS302)。ステップS302の後、画像処理部3は、
図4のメインルーチンへ戻る。
【0049】
ステップS301において、選択部33は、判定部32がRAW画像データに近赤外情報が十分に含まれていない判定した場合(ステップS301:No)、生成部34がバイタル情報生成に用いる狭帯域フィルタとして狭帯域フィルタC4を選択する(ステップS303)。ステップS303の後、画像処理部3は、
図4のメインルーチンへ戻る。
【0050】
ここで、バイタル情報生成に用いるフィルタの波長帯域について詳細に説明する。
図7は、ヘモグロビンの吸収特性を示す図である。
図7において、横軸が波長(nm)を示し、縦軸がモル吸収係数(cm
-1/m)を示す。また、
図7において、曲線L1が還元ヘモグロビンのモル吸収係数を示し、曲線L2が酸化ヘモグロビンのモル吸収係数を示す。また、
図7において、直線B1が狭帯域フィルタC4に対応する波長帯域を示し、直線B2が狭帯域フィルタC5に対応する波長帯域を示し、直線B3が狭帯域フィルタC6に対応する波長帯域を示す。
【0051】
血液中のヘモグロビンには、酸素と結合していない還元ヘモグロビン(Hb)および酸素と結合している酸化ヘモグロビン(HbO
2)の2種類がある。本実施の形態1で用いるバイタル情報の1つには、血液中の全てのヘモグロビンにおける酸化ヘモグロビンの割合を示す酸素飽和度(SPO
2)がある。この酸素飽和度は、以下の式(1)によって算出される。
SPO
2=(C((HbO
2)/(C(HbO
2)+(C(Hb))))×100・・・(1)
ここで、C((HbO
2)は、酸化ヘモグロビンの濃度を示し、(C(Hb))は、還元ヘモグロビンの濃度を示す。
【0052】
本実施の形態1においては、酸化ヘモグロビンおよび還元ヘモグロビンそれぞれの波長毎の吸収特性の違いを利用する。即ち、
図7に示すように、本実施の形態1では、酸化ヘモグロビンおよび還元ヘモグロビンそれぞれの吸収特性の差が大きい波長660nmと、酸化ヘモグロビンおよび還元ヘモグロビンそれぞれの吸収特性の差が小さい波長940nmまたは波長520nmとを用いることによって、後述する生成部34がバイタル情報として酸素飽和度を算出する(なお、酸素飽和度の原理的な方法は、特許文献1を参照。また、非接触による酸素飽和度の方法(画像データを用いて間接的に推定する方法)は、Lingqin Kong et al. ,“Non−contact detection of oxygen saturation based on visible light imaging device using ambient light”, Optics Express, Vol. 21, Issue 15, pp. 17464− 17471 (2013)を参照)。このため、選択部33は、判定部32がRAW画像データに近赤外情報が十分に含まれていると判定している場合、生成部34がバイタル情報生成に用いるフィルタとして狭帯域フィルタC6を選択する一方、判定部32がRAW画像データに近赤外情報が十分に含まれていないと判定した場合、生成部34がバイタル情報生成に用いるフィルタとして狭帯域フィルタC4を選択する。
【0053】
図4に戻り、ステップS104以降の説明を続ける。
ステップS104において、生成部34は、選択部33の選択結果と取得部31が撮像部2から取得したRAW画像データとに基づいて、RAW画像データに対応するRAW画像に含まれる被写体の顔を含む顔領域のバイタル情報を生成するバイタル情報生成処理を実行する。
【0054】
〔バイタル情報生成処理の概要〕
図8は、上述したステップS104のバイタル情報生成処理の概要を示すフローチャートである。
【0055】
図8に示すように、顔検出部35は、取得部31が撮像部2から取得したRAW画像データに対応するRAW画像に含まれる被写体の顔を含む顔領域を検出する(ステップS401)。具体的には、
図9に示すように、顔検出部35は、RAW画像データに含まれる広帯域フィルタC1〜C3それぞれの画素値の画像データに対応する広帯域画像P1(カラー画像)に対して、周知のパターンマッチング等の技術を用いて被写体A1の顔を含む顔領域R1を検出する。
【0056】
続いて、生成部34は、上述したステップS103で選択部33が選択した狭帯域フィルタに対応する画素の画素値と狭帯域フィルタC5に対応する画素の画素値との比率の時系列変動データを算出する(ステップS402)。
【0057】
図10は、上述したステップS103で選択部33が選択した狭帯域フィルタに対応する画素の画素値の時系列変動を模式的に示す図であり、例えば狭帯域フィルタC5に対応する画素の画素値の時系列変動を模式的に示す図である。
図10において、横軸が時間を示し、縦軸が比率を示す。また、折れ線L3は、選択部33が選択した狭帯域フィルタC5に対応する画素を全て加算した画素値の時系列変動を示す。
【0058】
ここで、生成部34が時系列変動データを用いる理由は、上述した2つの波長を観察することによって生成部34が酸素飽和度を算出することができるが、バイタル情報として特に有効なのが動脈血の酸素飽和度である。生体には、血液以外の組織層、動脈層および静脈層が存在する。これらの組織層のうち動脈層は、短時間で厚みが変化するが、皮膚や肉等の組織や静脈層は、短時間で厚みが変化しない。このため、生成部34は、選択部33が選択した狭帯域フィルタに対応する画素の画素値を全て加算した値(例えば
図10を参照)と狭帯域フィルタC5に対応する画素の画素値を全て加算した値との比率の時系列データの変動成分を検出することによって、動脈血のみの成分を検出する。即ち、生成部34は、選択部33が選択した狭帯域フィルタに対応する画素の画素値を全て加算した値と狭帯域フィルタC5に対応する画素の画素値を全て加算した値との比率の時系列データの変動成分に基づいて、動脈血の酸素飽和度を算出する。
【0059】
ステップS403において、生成部34は、上述したステップS402で算出した時系列変動データに基づいて、バイタル情報を算出する。なお、生成部34は、酸素飽和度に限らず、時系列データの変動成分から算出できる心拍数、複数箇所の心拍数を算出し、その時間差から血圧と相関の高い脈波伝播速度の算出、および予め設定された時系列データとの比較による感情やストレス(McDuff, S. Gontarek, R. W. Picard, “Improvements in Remote Cardio-Pulmonary Measurement Using a Five Band Digital Camera”, IEEE Transactions on Biomedical Engineering, (2014)を参照。)等を含む複数のバイタル情報を生成してもよい。また、生成部34は、ステップS403で生成したバイタル情報を表示部4へ出力する。これにより、ユーザは、バイタル情報を直感的に把握することができる。ステップS403の後、画像処理部3は、
図4のメインルーチンへ戻り、本処理を終了する。
【0060】
以上説明した本発明の実施の形態1によれば、生成部34が判定部32によってRAW画像データに非可視光領域の光量に対応する近赤外情報が十分に含まれていると判定された場合、狭帯域フィルタC5が配置された画素の画素値および狭帯域フィルタC6が配置された画素の画素値を用いて被写体のバイタル情報を生成する一方、判定部32によって非可視光帯域の光量に対応する近赤外情報が十分に含まれていないと判定された場合、狭帯域フィルタC5が配置された画素の画素値および狭帯域フィルタC4が配置された画素の画素値を用いて被写体のバイタル情報を生成する。これにより、非可視光を照射する光源を設けなくてもよいので、装置の小型化を図ることができる。
【0061】
また、本発明の実施の形態1によれば、生成部34が撮像素子22によって生成されたRAW画像データに基づいて、被写体のバイタル情報を生成することによって、デジタルサイネージのような屋外での計測および不特定多数の被写体を対象とするような利用シーンにおいて特定の波長帯域の光を正確に照射する必要がないので、簡易に被写体のバイタル情報を生成することができる。
【0062】
さらに、本発明の実施の形態1によれば、生成部34が狭帯域フィルタC6を含むフィルタアレイ221を有する撮像素子22によって生成されたRAW画像データに基づいて、被写体のバイタル情報を生成するので、非可視光を照射することなく、非接触でバイタル情報を取得する場合に高精度で取得することができる。
【0063】
さらにまた、本発明の実施の形態1によれば、被写体の計測時の環境下によって近赤外情報が十分に得られない場合、例えば蛍光灯のように近赤外成分が十分に含まれていない光源の環境下で計測を行った場合であっても、生成部34が狭帯域フィルタC4に対応する画素の画素値を用いて被写体のバイタル情報を生成するので、高精度なバイタル情報を得ることができる。
【0064】
また、本発明の実施の形態1によれば、非可視光を照射しない場合であっても、撮影時の光源の環境下に応じて、選択部33が適切な狭帯域フィルタを選択し、生成部34が選択部33によって選択された狭帯域フィルタに対応する画素の画素値を用いてバイタル情報を生成するので、高精度なバイタル情報を得ることができる。
【0065】
なお、本発明の実施の形態1では、顔検出部35が周知技術を用いて被写体の顔の表情(例えば笑顔や)を検出してもよい。この場合、生成部34は、顔検出部35が検出した顔の表情と選択部33によって選択された狭帯域フィルタが配置された画素の画素値とを用いて、被写体のバイタル情報を生成してもよい。
【0066】
(実施の形態2)
次に、本発明の実施の形態2について説明する。本実施の形態2に係る撮像装置は、上述した実施の形態1に係る撮像素子22と構成が異なる。具体的には、本実施の形態2に係る撮像素子は、カラーフィルタが狭帯域フィルタのみによって形成されている。さらに、本実施の形態2に係る撮像装置は、判定部が行う光源情報判定処理が異なる。このため、以下においては、本実施の形態2に係る撮像素子の構成を説明後、本実施の形態2に係る判定部が行う光源情報判定処理について説明する。なお、以下において、上述した実施の形態1に係る撮像装置1と同一の構成には同一の符号を付して説明を省略する。
【0067】
図11は、本実施の形態2に係る撮像素子のフィルタアレイの構成を模式的に示す図である。
図12は、フィルタアレイを構成する各フィルタの分光感度特性の一例を示す図である。なお、
図12において、横軸が波長を示し、縦軸が透過率を示す。
【0068】
図11および
図12に示すように、フィルタアレイ221aは、撮像素子22を構成する各画素の受光面に配置され、狭帯域フィルタC4〜C6を用いて構成される。フィルタアレイ221aは、狭帯域フィルタC5の数が狭帯域フィルタC4および狭帯域フィルタC6の数より多く、狭帯域フィルタC4の数と狭帯域フィルタC6の数とが同じである。
【0069】
〔光源情報判定処理の概要〕
次に、画像処理部3が実行する光源情報判定処理について説明する。
図13は、光源情報判定処理の概要を示すフローチャートである。
【0070】
図13に示すように、まず、顔検出部35は、取得部31が撮像部2から取得したRAW画像データに対応するRAW画像に対して、周知のパターンマッチング等の技術を用いて被写体の顔が含まれる顔領域を検出する。具体的には、
図14に示す場合、顔検出部35は、顔領域R10,R11を検出する(ステップS501)。
【0071】
続いて、判定部32は、顔検出部35によって検出された各顔領域の狭帯域フィルタC6に対応する画素の画素値を抽出する(ステップS502)。
【0072】
その後、判定部32は、顔検出部35によって検出された各顔領域の平均値Ave_C6を算出する(ステップS503)。
【0073】
続いて、判定部32は、ステップS503で算出した各顔領域の平均値Ave_C6が閾値Th_ILLより大きいか否かを判定する(ステップS504)。平均値Ave_C6が閾値Th_ILLより大きい場合(ステップS504:Yes)、判定部32は、顔領域に近赤外情報が十分に含まれていると判定する(ステップS505)。これに対して、ステップS503で算出した顔領域の平均値Ave_C6が閾値Th_ILL以下の場合(ステップS504:No)、判定部32は、顔領域に近赤外情報が十分に含まれていないと判定する(ステップS506)。
【0074】
ステップS505またはステップS506の後、顔検出部35が検出した全ての顔領域に対して判定部32による判定が終了した場合(ステップS507:Yes)、画像処理部3は、
図4のメインルーチンへ戻る。これに対して、顔検出部35が検出した全ての顔領域に対して判定部32による判定が終了していない場合(ステップS507:No)、画像処理部3は、ステップS504へ戻る。
【0075】
以上説明した本発明の実施の形態2によれば、上述した実施の形態1と同様の効果を有するうえ、広帯域フィルタC1〜C3を省略しているので、安価にすることができる。
【0076】
さらに、本発明の実施の形態2によれば、フィルタアレイ221aを狭帯域フィルタC4〜C6のみで構成しているので、バイタル情報を高精度に生成することができる。
【0077】
なお、本発明の実施の形態2では、判定部32が顔検出部35によって検出された顔領域に対して近赤外情報が十分に含まれているか否かを判定していたが、RAW画像を所定の領域毎、例えばRAW画像を4分割した領域毎に近赤外情報が十分に含まれているか否かの判定を行ってもよい。
【0078】
(実施の形態3)
次に、本発明の実施の形態3について説明する。本実施の形態3に係る撮像装置は、上述した実施の形態1と構成が異なる。具体的には、上述した実施の形態1に係る撮像装置は、撮像部2が生成したRAW画像データに基づいて、近赤外の情報が十分に含まれているか否かを判定したが、本実施の形態3に係る撮像装置は、近赤外の情報を検出するセンサをさらに備える。このため、以下においては、本実施の形態3に係る撮像装置の構成を説明後、本実施の形態3が実行する処理について説明する。なお、上述した実施の形態1に係る撮像装置1と同一の構成には同一の符号を付して説明を省略する。
【0079】
〔撮像装置の構成〕
図15は、本実施の形態3に係る撮像装置の機能構成を示すブロック図である。
図15に示す撮像装置1aは、上述した実施の形態1に係る撮像装置1の構成に加えて、検出部5をさらに備える。また、撮像装置1aは、上述した実施の形態1に係る画像処理部3に換えて、画像処理部3aを備える。
【0080】
検出部5は、光源から照射された光を受光して所定の波長帯域の強度を検出し、この検出結果を判定部32aへ出力する。
【0081】
画像処理部3aは、上述した実施の形態1に係る画像処理部3における判定部32に換えて、判定部32aを有する。判定部32aは、検出部5から入力された検出結果に基づいて、撮像部2が生成したRAW画像データに近赤外情報が十分に含まれているか否かを判定する。
【0082】
このように構成された撮像装置1aは、上述した実施の形態1と同様の処理(
図4を参照)を実行する。
【0083】
以上説明した本発明の実施の形態3によれば、判定部32aが検出部5の検出結果に基づいて、撮像部2によって生成されたRAW画像データに近赤外情報が十分に含まれているか否かを判定するので、高精度に光源情報を判定することができる。
【0084】
(実施の形態4)
次に、本発明の実施の形態4について説明する。本実施の形態4は、上述した実施の形態3と構成が異なる。具体的には、本実施の形態4は、判定部が検出部の検出結果または撮像部が生成したRAW画像データに基づいて、近赤外情報が十分に含まれているか否かを判定する。このため、以下においては、本実施の形態4の構成について説明する。なお、上述した実施の形態3に係る撮像装置1aと同一の構成には同一の符号を付して説明を省略する。
【0085】
図16は、本実施の形態4に係る撮像装置の機能構成を示すブロック図である。
図16に示す撮像装置1bは、上述した画像処理部3aに換えて、画像処理部3bを有する。画像処理部3bは、上述した画像処理部3aの構成に加えて、切替部36をさらに有する。
【0086】
切替部36は、生成部34の制御のもと、判定部32bに入力されるデータを、取得部31が撮像部2から取得したRAW画像データおよび検出部5の検出結果のどちらか一方に切り替える。例えば、切替部36は、判定部32bがRAW画像データに近赤外情報が十分に含まれていないと判定した場合、切替部36を駆動させて検出部5の検出結果を判定部32bに入力させる。
【0087】
以上説明した本発明の実施の形態4によれば、判定部32bが検出部5の検出結果または取得部31が撮像部2から取得したRAW画像データに基づいて、撮像部2によって生成されたRAW画像データに近赤外情報が十分に含まれているか否かを判定するので、高精度に光源情報を判定することができる。
【0088】
(その他の実施の形態)
上述した実施の形態1〜4では、生成部34が狭帯域フィルタC4に対応する画素の画素値および狭帯域フィルタC6に対応する画素の画素値のいずれか一方を用いてバイタル情報を生成していたが、例えばハロゲン光源のように可視光波長帯域および近赤外波長帯域に感度を有する光源の場合、狭帯域フィルタC4に対応する画素の画素値および狭帯域フィルタC6に対応する画素の画素値それぞれを用いてバイタル情報を生成してもよい。
【0089】
図17は、光源スペクトルと感度との関係を示す図である。
図17において、横軸が波長(nm)を示し、縦軸が輝度(W/m
2)を示す。また、
図17において、曲線L10が蛍光灯(その1)の輝度分布を示し、曲線L11が蛍光灯(その2)の輝度分布を示し、曲線L12がハロゲン光源の輝度分布を示す。
【0090】
図17の曲線L12に示すように、ハロゲン光源は、可視光波長帯域および近赤外波長帯域に感度を有する。このため、生成部34は、狭帯域フィルタC4に対応する画素の画素値を用いて生成したバイタル情報と狭帯域フィルタC6に対応する画素の画素値を用いて生成したバイタル情報とを比較し、信頼度が高い方のバイタル情報を表示部4に出力する。ここで、信頼度とは、撮像部2が連続的に生成した複数のフレーム間でのバイタル情報の安定性、例えば変化率である。これにより、バイタル情報の精度をより向上させることができる。
【0091】
また、本発明では、生成部34がRAW画像データに対応する画像全体に対して、同一の狭帯域フィルタを用いてバイタル情報を生成していたが、例えば画像を所定の領域毎または顔検出部35が検出した顔領域毎に用いる狭帯域フィルタを選択してバイタル情報を生成してもよい。
【0092】
本発明は、上述した実施の形態に限定されるものではなく、本発明の要旨の範囲内で種々の変形や応用が可能なことは勿論である。例えば、本発明の説明に用いた撮像装置以外にも、携帯電話やスマートフォンにおける撮像素子を備えた携帯機器やウエアラブル機器、ビデオカメラ、内視鏡、監視カメラ、顕微鏡のような光学機器を通して被写体を撮影する撮像装置等、被写体を撮像可能ないずれの機器にも適用できる。
【0093】
また、本明細書において、前述の各動作フローチャートの説明において、便宜上「まず」、「次に」、「続いて」、「その後」等を用いて動作を説明しているが、この順で動作を実施することが必須であることを意味するものではない。
【0094】
また、上述した実施の形態における画像処理装置による各処理の手法、即ち、各フローチャートに示す処理は、いずれもCPU等の制御部に実行させることができるプログラムとして記憶させておくこともできる。この他、メモリカード(ROMカード、RAMカード等)、磁気ディスク、光ディスク(CD−ROM、DVD等)、半導体メモリ等の外部記憶装置の記憶媒体に格納して配布することができる。そして、CPU等の制御部は、この外部記憶装置の記憶媒体に記憶されたプログラムを読み込み、この読み込んだプログラムによって動作が制御されることにより、上述した処理を実行することができる。
【0095】
また、本発明は、上述した実施の形態および変形例そのままに限定されるものではなく、実施段階では、発明の要旨を逸脱しない範囲内で構成要素を変形して具体化することができる。また、上述した実施の形態に開示されている複数の構成要素を適宜組み合わせることによって、種々の発明を形成することができる。例えば、上述した実施の形態および変形例に記載した全構成要素からいくつかの構成要素を削除してもよい。さらに、各実施の形態および変形例で説明した構成要素を適宜組み合わせてもよい。
【0096】
また、明細書または図面において、少なくとも一度、より広義または同義な異なる用語とともに記載された用語は、明細書または図面のいかなる箇所においても、その異なる用語に置き換えることができる。このように、発明の主旨を逸脱しない範囲内において種々の変形や応用が可能である。