(54)【発明の名称】自律神経機能評価装置、自律神経機能評価システム、自律神経機能評価サーバー、自律神経機能評価装置プログラム、および、自律神経機能評価サーバープログラム
(58)【調査した分野】(Int.Cl.,DB名)
【発明を実施するための形態】
【0017】
実施形態の自律神経機能評価装置は、血流に応じて変化する皮膚の輝度を撮影して輝度データを得るカメラと、画像表示をするディスプレイと、輝度データからRR間隔時系列データを検出するRR間隔時系列データ(アールアール間隔時系列データ)の検出処理部と、RR間隔時系列データをフーリエ変換するフーリエ変換処理部と、フーリエ変換処理された信号の高周波成分と低周波成分とを分離する高周波成分・低周波成分の検出処理部と、高周波成分に対応する副交感神経の活動と低周波成分に対応する交感神経の活動とをディスプレイに表示するための解析結果データを出力する解析結果データ出力処理部と、を備える。
【0018】
実施形態の自律神経機能評価装置は、RR間隔時系列データに含まれるノイズを除去するためのローパスフィルタリング処理部を備えてもよい。
【0019】
実施形態の自律神経機能評価装置は、輝度データに含まれるノイズを除去しピーク検出をするためのSavitzky-Golayフィルタ(サビツキ・ゴレイフィルタ)を備えてもよい。
【0020】
実施形態の自律神経機能評価装置は、輝度データの連続補間をするための関数化処理部を備えてもよい。
【0021】
実施形態の自律神経機能評価装置は、輝度データの値が連続して同値である場合には、予め定める所定複数回数以上の輝度データを処理の対象から除く前倒しロジック処理部を備えてもよい。
【0022】
実施形態の自律神経機能評価装置は、輝度データの検出をおこなうに際してディスプレイに輝度データの波形を表示してもよい。
【0023】
実施形態の自律神経機能評価装置は、輝度データの検出をおこなう前にディスプレイに指の画像を表示するとともに輝度データの波形を表示してもよい。
【0024】
実施形態の自律神経機能評価装置は、RR間隔時系列データの値に逆比例する瞬時心拍数を得て、現在の瞬時心拍数と直前の瞬時心拍数との差分が第1所定値よりも大きい場合には、現在のRR間隔時系列データを処理の対象から除去するRR間隔時系列データの異常値除去処理部を備えてもよい。
【0025】
実施形態の自律神経機能評価装置は、RR間隔時系列データの値に逆比例する瞬時心拍数を得て、現在の瞬時心拍数と直前までの瞬時心拍数の移動平均値との差分が第2所定値よりも大きい場合には、現在のRR間隔時系列データを処理の対象から除去するRR間隔時系列データの異常値除去処理部を備えてもよい。
【0026】
実施形態の自律神経機能評価装置プログラムは、自律神経機能評価装置のコンピュータに、カメラによって血流に応じて変化する皮膚の輝度データを撮影する撮影処理と、輝度データからRR間隔時系列データを検出するRR間隔時系列データの検出処理と、RR間隔時系列データをフーリエ変換するフーリエ変換処理と、フーリエ変換処理された信号の高周波成分と低周波成分とを分離する検出処理と、高周波成分に対応する副交感神経の活動と低周波成分に対応する交感神経の活動とを自律神経機能評価装置のディスプレイに表示するための解析結果データを出力する解析結果データ出力処理と、を実行させる。
【0027】
実施形態の自律神経機能評価システムは、自律神経機能評価端末装置と、自律神経機能評価サーバーとを備え、自律神経機能評価端末装置は、血流に応じて変化する皮膚の輝度を撮影するカメラと、皮膚の輝度に応じた輝度データを自律神経機能評価サーバーに対して出力するサーバーへの輝度データ出力処理部と、解析結果データを自律神経機能評価サーバーから入力するサーバーからの解析データ入力処理部と、解析結果データに応じた画像を表示するディスプレイと、を具備し、自律神経機能評価サーバーは、自律神経機能評価端末からの輝度データを入力する輝度データ入力処理部と、輝度データからRR間隔時系列データを検出するRR間隔時系列データの検出処理部と、RR間隔時系列データをフーリエ変換するフーリエ変換処理部と、フーリエ変換処理された信号の高周波成分と低周波成分とを分離する高周波成分・低周波成分の検出処理部と、高周波成分に対応する副交感神経の活動と低周波成分に対応する交感神経の活動とをディスプレイに表示するための解析結果データを出力する解析結果データ出力処理部と、を具備する。
【0028】
実施形態の自律神経機能評価サーバーは、自律神経機能評価システムにおいて自律神経機能評価端末装置と協調して動作する自律神経機能評価サーバーであって、自律神経機能評価端末装置で得られる輝度データからRR間隔時系列データを検出するRR間隔時系列データの検出処理部と、RR間隔時系列データをフーリエ変換するフーリエ変換処理部と、フーリエ変換処理された信号の高周波成分と低周波成分とを分離する高周波成分・低周波成分の検出処理部と、高周波成分に対応する副交感神経の活動と低周波成分に対応する交感神経の活動とを自律神経機能評価端末装置のディスプレイに表示するための解析結果データを出力する解析結果データ出力処理部と、を備える。
【0029】
実施形態の自律神経機能評価サーバープログラムは、自律神経機能評価システムにおいて自律神経機能評価端末装置と協調して動作する自律神経機能評価サーバーのコンピュータに、自律神経機能評価端末装置で得られる輝度データからRR間隔時系列データを検出するRR間隔時系列データの検出処理と、RR間隔時系列データをフーリエ変換するフーリエ変換処理と、フーリエ変換処理された信号の高周波成分と低周波成分とを分離する、高周波成分・低周波成分の検出処理と、高周波成分に対応する副交感神経の活動と低周波成分に対応する交感神経の活動とを自律神経機能評価端末装置のディスプレイに表示するための解析結果データを出力する解析結果データ出力処理と、を実行させる。
【0030】
実施形態の自律神経機能評価端末装置は、自律神経機能評価システムにおいて自律神経機能評価サーバーと協調して動作する自律神経機能評価端末装置であって、血流に応じて変化する皮膚の輝度を撮影するカメラと、皮膚の輝度に応じた輝度データを自律神経機能評価サーバーに対して出力するサーバーへの輝度データ出力処理部と、解析結果データを自律神経機能評価サーバーから入力するサーバーからの解析データ入力処理部と、解析結果データに応じた画像を表示するディスプレイと、を備える。
【0031】
実施形態の自律神経機能評価端末装置プログラムは、自律神経機能評価システムにおいて自律神経機能評価サーバーと協調して動作する自律神経機能評価端末装置のコンピュータに、血流に応じて変化する皮膚の輝度をカメラで撮影する撮影処理と、皮膚の輝度に応じた輝度データを自律神経機能評価サーバーに対して出力するサーバーへの輝度データ出力処理と、自律神経機能評価サーバーからの解析結果データを入力するデータ入力処理と、自律神経機能評価端末装置のディスプレイに解析結果データに応じた画像を表示する解析結果の画像表示処理と、を実行させる。
【0032】
『第1実施形態』
(自律神経機能評価システムの概要)
【0033】
図1は、実施形態の自律神経機能評価システムを示す図である。
【0034】
実施形態の自律神経機能評価システム1は、クライアント・サーバー・システムを構成し、自律神経機能評価端末装置の1実施形態としてのスマートフォン(高機能携帯電話)10と自律神経機能評価サーバーの1実施形態としてのサーバー20とを有している。スマートフォン10とサーバー20とは、インターネット回線30を介して接続され、協調して動作する。
【0035】
スマートフォン10は、インターネットとの親和性が高いパソコンをベースとして作られた携帯電話の一種であり、世界中に普及している。スマートフォン10は、例えば、アンドロイド(登録商標)を用いている。アンドロイドは、リナックス(登録商標)をベースとするオープンソース・オペレーティングシステム、ミドルウエア、各種アプリケーションから構成されるソフトウエア集合パッケージである。アンドロイドはMPU(マイクロプロセッサ)において実行される。
【0036】
スマートフォン10は、電話機能以外に、ディスプレイ機能、音声送出機能、音声入力機能、カメラ機能、インターネット接続機能、GPS(Global Positioning System)機能を備えるのが一般的である。そして、一般的なパーソナルコンピュータと同様に、MPUを中心としてラム、ロム、インターフェイスデバイス等の周辺機器がバスラインによって接続されている。アンドロイドはMPU(マイクロプロセッサ)において実行され、周辺機器を制御して所望の上述した機能を発揮する。スマートフォン10は自律神経機能評価端末装置の1実施形態であり、他の実施形態として、上述した各種機能を有するタブレット(多機能携帯端末)、本実施形態の使用に特化した自律神経機能評価端末装置であってもよい。
【0037】
サーバー20は、インターネット回線30に常時接続されるとともに、インストールされているサーバーソフト(自律神経機能評価サーバープログラム)が起動中であり、クライアントからの要求に応じて即時にサーバーソフトが実行可能とされるコンピュータである。サーバー20は、高速、高機能なCPU(セントラルプロセッシングユニット)、大容量ラム、大容量ロム等を備え、複雑な処理を高速でおこなうことができる。よって、多数のクライアントがインターネット回線30を介してサーバー20にアクセスした場合であっても、高速にクライアントからの要求を受信し、瞬時に情報の処理をおこない、その結果を、インターネット回線30を介してクライアントに送信する。
【0038】
スマートフォン10は無線を用いてインターネット回線30に接続される。サーバー20は高速回線を用いてインターネット回線30に接続される。
【0039】
スマートフォン10からサーバー20に対して輝度データを送信し、サーバー20における演算処理の後、サーバー20からスマートフォン10に対して解析結果データを送信する。このように、実施形態においては、スマートフォン10とサーバー20とで処理の分担をおこなっている。その理由は、スマートフォン10にインストールできるアプリケーションの許容サイズ、処理速度に限界があるので全ての処理をスマートフォン10の内部で処理する場合には、解析結果データを得るために要する時間が長くなるからである。クライアント・サーバー・システムを採用することによってこのような課題は解決する。また、サーバーにおいてクライアントから得られる多量のデータを集積し、これをクライアントの共通の資産として利用できる。
【0040】
「スマートフォンにおける自律神経機能評価の処理」
(スマートフォンにおける輝度データ検出について)
図2は、MPUが、スマートフォン10において実行する処理のフローチャートである。
【0041】
図2のフローチャートの処理をおこなうためのソフトウエア(自律神経機能評価端末装置プログラム)は、アプリケーションの一つとしてスマートフォン10にインストールされる。インストールは、パーソナルコンピュータ(図示せず)とスマートフォン10とをケーブルで接続しておこなってもよく、インターネット回線30を介してスマートフォン10にダウンロードサイトからダウンロードしておこなってもよい。
【0042】
図2の説明の前に、スマートフォン10のカメラ機能の実施形態における役割について簡単に説明をする。
【0043】
カメラは、いずれも図示しない、集光レンズとCMOSイメージセンサ(シーモスイメージセンサ)とを有している。スマートフォン10に設けられるカメラは、通常のカメラと同様に風景、人物等を撮影するために用いられる。実施形態においては、このカメラを、あたかも特許文献1に記載の心電計、特許文献2に記載の心電図モニタの一部であるかのように機能させる。
【0044】
カメラを例えば手の人差し指に接近させれば、皮膚の下にある血管に流れる血流に応じた皮膚の輝度の変化を撮影することができる。血管に流れる血流は心臓の動きと同期しており、皮膚の輝度の変化も心臓の動きと同期する。したがって、カメラで撮影される皮膚の輝度の変化が電気信号に変換されるCMOSイメージセンサからの情報である輝度データは、心電計、心電図モニタにおける電気信号と同様に心臓の動きの情報を含む。
【0045】
指先の皮膚の輝度の変化の検出によって得られる信号は、心臓の動きが反映される脈波を間接的に検出する信号である。よって、CMOSイメージセンサの全画素からの出力を平均して得られる輝度変化、または、R画素から得られる輝度変化から、品質が良好なる脈波データ(心拍データ)を検出するためには、高度のフィルタリング処理を必要とする。そこで、複雑かつ高速性が要求される高度のフィルタリング処理をサーバー20でおこなうために、スマートフォン10は輝度データを送信する。
【0046】
図2(a)を参照して以下に説明をする。
図2(a)は、スマートフォン10において実行される輝度データ検出処理を中心とする各処理のフローチャートである。
【0047】
MPUは、脈波測定モード開始処理をおこなう(ステップST10)。
スマートフォン10のメニュー選択ボタンによって動作モードの一つである「脈波測定モード」を選択する。これによって、スマートフォン10のMPUは、脈波測定のためのアプリケーションを起動して、ステップST10の脈波測定モード開始処理をおこなう。ステップST10の処理の詳細は
図3を参照して後述する。なお、スマートフォン10のメニュー選択ボタンによって動作モードを切り替えることは周知技術である。
【0048】
MPUは、測定の開始通知処理をおこなう(ステップST11)。
測定の開始通知処理は、MPUがスマートフォン10の画面表示機能を操作して、ディスプレイに「ただいま測定中です・・・」との画像表示をしてもよく(
図3(g)を参照)、MPUがスマートフォン10の音声ガイダンス機能を操作して、スピーカによって「ただいま測定中です」との音声を送出してもよい。
【0049】
MPUは、ハードウエアを制御して、カメラに近接した手の指の画像の撮影処理をおこなう(ステップST12)。
MPUはCMOSイメージセンサからの手の指の画像を動画として、例えば60秒間撮影し続ける。また、60秒以上、例えば、70秒測定してローリング処理をして測定精度を向上させることも可能である。
【0050】
MPUは、ハードウエアを制御して、撮影画像から輝度データ検出処理をおこなう(ステップST13)。
MPUはステップST12において撮像したCMOSイメージセンサの全セルからの信号をYUV形式によって取得し、画像の輝度成分(Y)の総和から輝度平均を算出する。この輝度平均を算出した結果を輝度データとし、輝度データの振幅をメモリに順次格納する。輝度データは、1フレームに対応する時間毎に得られる離散時間データであり、
図16A、
図16Bに記載のECG(Electrocardiogram:心電図)に対応するものである。
【0051】
スマートフォン10においては、ステップST11ないしステップST13の処理は、MPUがハードウエアを制御することによって同時に進行する。ただし、ステップST11の処理は、必ずしも常時、同時におこなわなければならないものではない。例えば、MPUが音声ガイダンス機能を操作して、スピーカによって「ただいま測定中です」との音声を1回ないし数回だけ送出してもよい。
【0052】
MPUは、測定の終了通知処理をおこなう(ステップST14)。
終了通知処理は、MPUがスマートフォン10の画面表示機能を操作して、ディスプレイに「脈波の測定を終了しました。お疲れさまでした。」との画像表示をしてもよく、MPUがスマートフォン10の音声ガイダンス機能を操作して、スピーカによって「脈波の測定を終了しました。お疲れさまでした。」との音声を送出してもよく、
図3(g)に示す「ただいま測定中です・・・」との画像表示を消去するだけでもよい。
【0053】
MPUは、サーバーへの輝度データ出力処理をおこなう(ステップST15)。
MPUは、サーバー20のURL(ユニフォームリソースロケータ)を送出して、サーバー20とスマートフォン10とをインターネット回線30によって接続する。そして、接続が完了すると、MPUは、スマートフォン10(端末)毎に割り振られたユニークな識別符号と輝度データとをサーバー20に送信する。
【0054】
MPUは、輝度データ送出完了処理をおこなう(ステップST16)。
MPUは、スマートフォン10をインターネット回線30から切り離し、スマートフォン10の動作モードを「脈波測定モード」からそれ以前のモードに自動復帰させる。
【0055】
(輝度データ検出処理においてディスプレイに表示される画像)
スマートフォン10のディスプレイにはタッチセンサが積層されており、ディスプレイ上に表示される画像とタッチセンサとによってソフトウエアボタンを形成することができるようになされている。ソフトウエアボタンはディスプレイの画面上に形成されるボタンであり、タッチすることによってソフトウエアボタンで表す機能をアクティブとすることができる。以下では、ソフトウエアボタンを単にボタンと称する。
【0056】
図3は、脈波測定モード開始処理ないし輝度データ検出処理においてスマートフォン10のディスプレイに表示する画面である。
【0057】
(ステップST10の処理における表示画面)
図3(a)〜
図3(f)を参照してステップST10の処理における表示画面について説明をする。
【0058】
<同意画面の表示>
ステップST10の処理に移るとともに、
図3(a)に示す「同意画面」が表示される。「同意画面」の「同意する」のボタンを押せば、
図3(b)に示す「登録画面」が表示され処理は続行する。所定時間経過しても「同意する」のボタンを押さなければ、処理は自動終了し、「脈波測定モード」からそれ以前のモードに自動復帰する。
【0059】
<登録画面の表示>
図3(b)に示す「登録画面」の「男性」、または、「女性」のいずれかのボタンを押して「性別」を入力し、「生年月日」、「職業」、「都道府県」を各欄に入力し、「登録する」のボタンを押せば、
図3(c)に示す「登録完了画面」が表示され処理は続行する。所定時間経過しても「登録する」のボタンを押さなければ、処理は自動終了し、「脈波測定モード」からそれ以前のモードに自動復帰する。
【0060】
<登録完了画面の表示>
図3(c)に示す「登録完了画面」の「始める」のボタンを押せば、
図3(d)に示す「測定・バッチリ行動ランキング画面」が表示され処理は続行する。所定時間経過しても「始める」のボタンを押さなければ、処理は自動終了し、「脈波測定モード」からそれ以前のモードに自動復帰する。
【0061】
上述する
図3(a)、
図3(b)、
図3(c)に示す画像は、初回の登録時にのみ表示される画像である。「脈波測定モード」の2回目以降の実行に際しては、
図3(a)、
図3(b)、
図3(c)の各画面は表示されず、「脈波測定モード」の開始後、直ちに、
図3(d)の画面が表示される。
【0062】
<「測定」、「バッチリ行動ランキング」の選択の表示>
図3(d)に示す「測定・バッチリ行動ランキング画面」の「測定」のボタンを押せば、
図3(e)に示す質問画面が表示され処理は続行する。一方、
図3(d)に示す「測定・バッチリ行動ランキング画面」の「バッチリ行動ランキング」のボタンを押せば、「脈波測定モード」の処理は終了し、後述する
図2(b)に示す解析結果データ表示処理に移り、
図4(b)に示す画像が表示される。所定時間経過しても「測定」、または、「バッチリ行動ランキング」のいずれかのボタンを押さなければ、処理は自動終了し、「脈波測定モード」からそれ以前のモードに自動復帰する。「バッチリ行動ランキング」の内容については、後述する。また、設定ヘルプボタンを押せば、各種設定をおこなうことができる。
【0063】
<質問画面の表示>
図3(e)に示す「質問画面」のQ1の「今何している?」、Q2の「今の気持ちは?」に被験者が答え、「次へ」を押せば、
図3(f)に示す「測定開始準備画面」が表示され処理は続行する。Q1に対する回答である「デスクワーク」の横の下向き矢印をクリックすることによって、被験者はQ1に対する答えの内容を選択することができ、Q2に対する回答である「ぐったり」の横の下向き矢印をクリックすることによって、被験者はQ2に対する答えの内容を選択することができる。所定時間経過しても「次へ」のボタンを押さなければ、処理は自動終了し、「脈波測定モード」からそれ以前のモードに自動復帰する。
【0064】
Q1の「今何している?」に対する答えとしては、例えば、「デスクワーク」、「会議・接客」、「その他の家事」、「子供の世話」、「通勤・移動」、「勉強」、「睡眠・昼寝」、「趣味」、「入浴」、「通勤」、「買い物」、「飲み会」等を予め用意する。Q2の「今の気持ちは?」に対する答えとしては、「ストレス」、「ぐったり」、「のんびり」、「理想的」の4つを予め用意する。「ストレス」は例えば「緊張」、「ぐったり」は例えば「疲労」、「のんびり」は例えば「リラックス」、「理想的」は例えば「アイデアル」等の同義の他の種々の言葉におきかえてもよい。
【0065】
<測定開始準備画面の表示>
図3(f)に示す「測定開始準備画面」の最上段部に「指をカメラに当ててください。測定中は指を動かさず、安静にしてください。波形が一定になったら「測定開始」を押してください。」と表示される。「測定開始準備画面」の2段目左側にどのように指をカメラに当てるかが模式図によって表示される。「測定開始準備画面」の2段目右側にカメラが検出する指の画像が表示される。「測定開始準備画面」の3段目にカメラが検出する輝度データが表示される。
【0066】
被験者は、
図3(f)に示す「測定開始準備画面」の2段目右側の指の画像、「測定開始準備画面」の3段目の輝度データの波形を見ながらカメラに対する指の位置を調整して精度が良好な安定した輝度データの検出の開始をすることができる。「測定準備画面」の2段目右側に指の画像を表示するとともに、「測定準備画面」の3段目に輝度データを表示するのは、異なる観点から2重にカメラと指との位置関係を確認し、良好な輝度データを得るためである。
【0067】
(ステップST11の処理における表示画面)
被験者は、適切に指がカメラに当たっていることを確認後、
図3(f)に示す「測定開始準備画面」の4段目に表示される「測定開始」のボタンを押す。これによって、処理は「測定の開始通知処理」(ステップST12)に移り、
図3(g)に示す「測定中画面」が表示される。
図3(g)の中段に表示されるバーグラフの先端とハート印とは、「測定開始」のボタンを押した直後は、最も左側の位置に表示される。所定時間経過しても「測定開始」のボタンを押さなければ、処理は自動終了し、「脈波測定モード」からそれ以前のモードに自動復帰する。
【0068】
(ステップST12の処理とステップST13の処理とにおける表示画面)
<測定中画面の表示>
図3(g)に示す「測定中画面」が、ステップST12の処理とステップST13の処理が続行している間は表示される。表示画面の上段に「ただいま測定中です・・・」と表示される。表示画面の中段のバーグラフとハート印が左側から右側に移動して、予定する測定時間全体のどの程度の割合が進捗したかを示す。また、波形の振幅の安定性、すなわち、適切に指がカメラに当たっていること、を確認できるように表示画面の下段に輝度データが表示される。
【0069】
(ステップST14の処理における表示画面)
予定された時間分の輝度データが取得されると、ステップST13の処理は終了する。
図3(g)に示す測定中画面は消え、「脈波測定モード」に移行する直前のモードに対応する画面(画面は図示せず)、または、デフォルト画面(画面は図示せず)に自動的に変化する。
【0070】
(スマートフォンにおける解析結果データの表示について)
サーバー20における処理については後述するが、最終的には、サーバー20は、スマートフォン10に対して解析結果データを送出する。
図2(b)を参照して解析結果データを受信したスマートフォンがおこなう処理の説明をする。
図2(b)は、スマートフォン10において実行される解析結果データ表示処理のフローチャートである。
【0071】
MPUは、サーバー20からの解析結果データの入力処理をおこなう(ステップST17)。
サーバー20からの接続要求を受けて、スマートフォン10は、解析結果データを受け取る。
【0072】
MPUは、解析結果データの画像表示処理をおこなう(ステップST18)。
MPUは、サーバー20からの解析結果データに応じた画像をスマートフォン10のディスプレイに表示する制御をおこなう。表示画像の内容については後述する。
【0073】
MPUは、解析結果データ表示終了処理をおこなう(ステップST19)。
MPUは、ディスプレイに積層されたタッチパネルの操作により、または、所定時間の経過により解析結果データの画像表示を終了する。
【0074】
<スマートフォンにおける解析結果データの表示画面>
図4は、解析結果データをスマートフォンのディスプレイに表示する画面である。
【0075】
<測定結果の表示>
図4(a)は、サーバー20が送出した解析結果データによって、スマートフォン10のディスプレイに表示される画面である。画面の最上段に「理想ゾーン」、「ストレス」、「ぐったり」、「のんびり」と4つに分類された領域が表示され、ハートの位置が、被験者の状態を示す。
【0076】
図4(a)の画面の2段目右側に「あなたの気持ち」を表示する領域があり、
図3(e)においてQ2の「今の気持ちは?」に答えた被験者の答えが表示される。そして解析結果データと被験者の答えとが一致するときに、「的中」の表示がされる。
【0077】
図4(a)の画面の3段目に「今のあなたは「ストレス」を感じているようです。あなたもそう思っているみたいですね。ストレス対策には○○がいいですよ。」と表示される。○○の部分は、例えば、「スポーツ」等、適宜に記載される。
【0078】
図4(a)の画面の4段目に「終了」と「共有」の2つのボタンがあり、「共有」を押すと、Gmail(グループメール)、Facebook(フェイスブック)等の画面が起動して、測定の結果の画像を送信できる。「終了」を押すと上記の共有の処理が終わった後に
図4(a)の表示が消える。「共有」を押さずに「終了」を押すと上記の共有の処理をすることなく
図4(a)の表示が消える。
【0079】
<バッチリ行動ランキングの表示>
図4(b)は、今までの被験者の自分の気持ち(主観評価)と解析結果データ(客観評価)とが、どの程度一致したかを示すものである。
図4(b)においては、(主観評価)と(客観評価)との一致する度合である的中率が、「ストレス」、「ぐったり」、「のんびり」、「理想的」(「理想ゾーン」)の順に並べられている。例えば、「ストレス」の的中率は87%であり、「ストレス」であると解析結果データから客観評価された行動のうちから発生頻度が高い行動の順に、「デスクワーク」、「会議・接客」、「その他の家事」とランキングずけされる。
図4(b)に示すように、「ぐったり」の的中率は55%であり、「のんびり」の的中率は40%であり、「理想的」の的中率は80%である。「ぐったり」、「のんびり」、「理想的」の各々の行動ランキングについても、「ストレス」と同様にランキング順に上位3つまで並べられる。そして、所定時間が経過した後に、
図4(b)に示す画面表示は自動消去され、ディスプレイの表示は、解析結果データを表示する以前のモード、または、デフォルトのモードに対応する画面が表示される。
【0080】
「ストレス」を例にして的中率について説明をする。サーバー20が「ストレス」であると客観的に判断した数のうちで、被験者が「ストレス」と主観的に判断した数の割合を「ストレス」の的中率と定義する。的中率は100%以下の数である。演算式は以下で表される。
【0081】
「ストレス」の的中率(%)=100×(被験者が「ストレス」と主観を入力した回数)/(サーバー20が「ストレス」と判断した回数)
【0082】
「ぐったり」の的中率、「理想ゾーン」の的中率、「のんびり」の的中率についても同様に演算できる。
【0083】
上述した実施形態においては、スマートフォン10とサーバー20とを接続し、輝度データをスマートフォン10からサーバー20に対して送信をした後にスマートフォン10とサーバー20との接続を切断した。そして、サーバー20からスマートフォン10に対して解析結果データを送信するに際して、再びサーバー20とスマートフォン10とを接続し、解析結果データをサーバー20からスマートフォン10に対して送信をした後にサーバー20とスマートフォン10との接続を切断した。しかしながら、スマートフォン10がサーバー20に対して輝度データを送信し、解析結果データをサーバー20ーからスマートフォン10に対して送信するまで、スマートフォン10とサーバー20との接続を維持してもよい。
【0084】
スマートフォン10とサーバー20との接続を、
図2(a)の「脈波測定モードの開始処理」(ステップST10)から
図2(b)の「解析結果データ表示処理」(ステップST19)までの間維持する場合には、
図2に示すフローチャートを以下のように読み替える。ステップST16の「脈波測定モードの終了処理」は不要となる。そして、ステップST15の「サーバーへの輝度データ出力処理」に続いて、ステップST17の「サーバーからの解析結果データ入力処理」を実行する。また、ステップST19の「解析結果データ表示処理終了」を「脈波測定モードの終了処理」に読み替える。さらに、ステップST15の「サーバーへの輝度データ出力処理」の終了後からステップST17の「サーバーからの解析結果データ入力処理」の前までの間は、ディスプレイの画像表示面には、「解析中です」の文言が表示される。
【0085】
「サーバーにおける自律神経機能評価の処理について」
(サーバーにおける処理の全体の流れについて)
図5は、CPUが、サーバー20において実行する処理のフローチャートである。
【0086】
図5を参照して以下に説明をする。なお、各処理の詳細については後述する。
【0087】
サーバー20のCPUは、端末装置からの輝度データ入力処理をおこなう(ステップST20)。
輝度データ入力処理は、クライアントから送出されるスマートフォンの識別符号と輝度データと
図3(b)に示す画面から入力した被験者の性別、生年月日、職業および都道府県のデータとをサーバー20のメモリに記憶する処理である。ステップST20の処理の後、順次、ステップST21からステップST30までの処理をおこなう。
【0088】
CPUは、前倒しロジック処理をおこなう(ステップST21)。
前倒しロジック処理とは、輝度データ信号のピークをより検出しやすいようにする処理であり、輝度データの値が連続して同値である場合には、予め定める所定複数回数以上の同値の連続する輝度データを処理の対象から除く処理である。
【0089】
CPUは、輝度データの関数化処理をおこなう(ステップST22)。
輝度データは、離散時間サンプリングデータであり、そのサンプリング時刻はスマートフォン10内の時刻に同期している。関数化処理は、サーバー20内の時刻に同期するために、スマートフォン10で検出する輝度データが存在しない時間における輝度データを関数化して連続的に補間し、リサンプリングを可能とする。リサンプリング可能とすることによってステップST27におけるフーリエ変換処理を精度よく実行できるようにする。
【0090】
CPUは、Savitzky-Golay(サビツキ・ゴレイ)フィルタによるノイズ除去およびピーク検出処理をおこなう(ステップST23)。
Savitzky-Golayフィルタ自体は公知のフィルタリング技術である。輝度データ信号の波形はECGで検出する脈波波形に比べて精度が悪く、簡単なフィルタリングではECGで検出するような脈波のピークを再生することは困難である。ここで、脈波のピークを再生する際に、単純な微分を用いる場合には、高域のノイズが増加してしまいその目的を達することができない。よって、ノイズを増加させることなくピークが明確に表れるようなフィルタとしてSavitzky-Golayフィルタを用いている。
【0091】
CPUは、RR間隔時系列データの検出処理をおこなう(ステップST24)。
RR間隔時系列データ(アールアール間隔時系列データ)の検出処理は、ECG信号(イーシージー信号)に対応する輝度データ信号をRR間隔時系列データに変換する処理である。RR間隔時系列データの検出処理は、ステップST23のSavitzky-Golayフィルタによって明瞭に再生された輝度データ信号に含まれる脈波のピークを微分演算により検出する処理と、この微分演算により検出された隣接する2つのピーク間の時間を検出する処理とを含んでいる。
【0092】
CPUは、ローパスフィルタリング処理をおこなう(ステップST25)。
ローパスフィルタリング処理は、輝度データからRR間隔時系列データを検出した後において、輝度データが正確に脈波を検出したならば本来得られるであろうRR間隔時系列データに変換する処理である。
【0093】
CPUは、RR間隔時系列データの異常値除去処理をおこなう(ステップST26)。
RR間隔時系列データの異常値除去処理は、RR間隔時系列データに含まれる異常値を除去する処理である。ここで異常値とは通常は検出されないであろうRR間隔時系列データの値である。異常値の検出には、60をRR間隔時系列データの値で除して得る、RR間隔時系列データの値に逆比例する瞬時心拍数(H.R)を用いる。異常値が検出された場合には、RR間隔時系列データに混入したノイズ(すなわち、輝度データ信号に混入したノイズ)がなせるものとして、ステップST27以降の処理において、異常値を示したRR間隔時系列データを用いない。以下の第1のルールないし第3のルールいずれか1つが成立する場合に異常値であるとしてもよく、第1のルールないし第3のルールの任意の2つ以上の組み合わせが成立する場合に異常値であるとしてもよい。
【0094】
<第1のルール>
nを正整数、t(n)はn回目に検出するRR間隔時系列データとして、|60/t(n)-60/t(n-1)|≦第1所定値ではないときは、異常値であるする。すなわち、現在の瞬時心拍数と直前の瞬時心拍数との差分が第1所定値よりも大きい場合には、そのときのRR間隔時系列データを除去する。
【0095】
<第2のルール>
(meanH.R(N))は移動平均値であり、Nは正整数(例えば、5、8)として、|60/t-meanH.R(N)|≧第2所定値の範囲であるときは、異常値であるとする。すなわち、現在の瞬時心拍数と直前までの瞬時心拍数の移動平均値との差分が第2所定値よりも大きい場合には、そのときのRR間隔時系列データを除去する。
【0096】
<第3のルール>
第2のルールを適用した結果、所定回数(例えば、8回)連続して異常値である場合に、meanH.R(8)をリセットして、再び、meanH.R(8)を算出し直す。すなわち、第3のルールは、第2のルールを適用するに際して、現在の瞬時心拍数と移動平均値との差分が第2所定値よりも大きい場合が所定回数連続したときには、その移動平均値をリセットして、新たに、移動平均値を求めるものである。
【0097】
CPUは、フーリエ変換処理 をおこなう(ステップST27)。
周知のハミング窓を用い、周知の高速フーリエ変換によって、ステップST26で得られた異常値除去処理後のRR間隔時系列データをフーリエ変換処理する。ステップST22において輝度データの関数化処理がなされているので、高速フーリエ変換に際しては、スマートフォン10におけるデータサンプリングタイミングとは異なるタイミングにおいてリサンプリングすることができる。また、異常値除去処理後のRR間隔時系列データをフーリエ変換するので、輝度データ信号にノイズが混入しない場合に本来得られるであろうフーリエ変換後のパワースペクトルを得ることができる。
【0098】
CPUは、高周波成分HF・低周波成分LFの検出処理をおこなう(ステップST28)。
フーリエ変換した後、高周波成分HF、低周波成分LFを検出する。高周波成分HFは、フーリエ変換され得られた所定周波数範囲の高域のパワースペクトルの積分値である。低周波成分LFは、フーリエ変換され得られた所定周波数範囲の低域のパワースペクトルの積分値である。
【0099】
CPUは、性・年代調整のうえプロット処理をおこなう(ステップST29)。
プロット処理は、一言でいえば、スマートフォン10へ送信する解析結果データの生成である。
ステップST28で得られた高周波成分HF、低周波成分LF値は測定時点における被験者に特有の値である。高周波成分HF値、低周波成分LF値は性別・年代に依存して異なる値となる。予め、性・年代が異なる多くの被験者について高周波成分HF値、低周波成分LF値を同一性・同一年代毎に基準データとしてサーバー20に蓄積しておく。
スマートフォン10の被験者の高周波成分HF値、低周波成分LF値を基準データと比較して、被験者の状態を2次元表示するための解析結果データを生成する。
2次元表示に際しては、スペクトルを正規分布に近づけるために、公知の論文等でも用いている高周波成分HFを対数表示するLnHF、低周波成分LFを対数表示するLnLFを用いる。
以下、LnHFを自律神経活動指標LnHFと称し、LnLFを自律神経活動指標LnLFと称する。
2次元表示に際しては、直交座標を用い、第1座標軸(X軸)が自律神経活動指標LnHFの高低を表し、第2座標軸(Y軸)が自律神経活動指標LnLFの高低を表す。基準データの自律神経活動指標LnHFの分布の平均値を第1座標軸の原点とし、自律神経活動指標LnLFの分布の平均値を第1座標軸と直交する第2座標軸の原点とする。
第1座標軸と第2座標軸との交点を原点する。第1座標軸と第2座標軸で4象限に分ける。第1象限が「理想ゾーン」、第2象限が「ストレス」、第3象限が「ぐったり」、第4象限が「のんびり」である。
2次元表示に際しては、スマートフォン10の被験者の自律神経活動指標LnHFと自律神経活動指標LnLFとがどの領域に該当するかをプロットする。
以上の4象限表示をし、被験者の自律神経活動指標LnLFと自律神経活動指標LnHFとの交点がどの領域に位置するかをプロットするための画像データが解析結果データである。
【0100】
CPUは、端末装置への解析結果データ出力処理をおこなう(ステップST30)。
CPUは、スマートフォン10に対して解析結果データを送信する。上述したようにスマートフォン10にインストールされたアプリケーションを用いて解析結果データに応じた画像表示をスマートフォン10のディスプレイに表示させることが可能となる。
【0101】
「サーバーにおける各処理の詳細について」
上述したステップST21ないしステップST30に記載の処理の詳細について順に説明をする。
【0102】
(ステップST21の前倒しロジック処理)
図6は、前倒しロジック処理を模式的に示す図である。
【0103】
前倒しロジック処理は、輝度データの数値が3回以上同じ場合に、2回連続に縮めるロジックである。すなわち、予め定める所定複数回数(例えば3回)以上の同値の連続する輝度データを処理の対象から除く。ここで、同値には幅を持たせて、微小な所定範囲内の値のばらつきは、同値であるとして前倒しロジック処理の対象に含めるようにしてもよい。この処理によって、ステップST24のRR間隔時系列データの検出処理において、ピークがより検出しやすいようにできる。
図6(a)は、前倒しロジック処理前の輝度データである。
図6(a)では、同じデータが4回連続している。
図6(b)は、前倒しロジック処理後の輝度データである。
図6(b)では、同じデータの4回連続は2回連続に処理されている。
【0104】
(ステップST22の輝度データの関数化処理)
輝度データの関数化は、全ての輝度データのサンプル点を通過するB-スプライン関数によっておこなう。B-スプライン関数を用いることによってスマートフォン10で検出する輝度データが存在しない時間における輝度データも滑らかに連続関数として補間できるので、サーバー20のCPUのクロック信号を基準としてステップST23以降の処理をおこなうことができる。また、FFT(高速フーリエ変換)をおこなうための一定サンプル周期(10msec(ミリ秒))毎の輝度データを新たな時系列データとして得ることができる。B-スプライン関数自体は公知技術である。なお、データ補間の手法としては、直線補間も知られているが、B-スプライン関数を用いることによってデータの補間精度は直線補間に比べてより向上する。
【0105】
(ステップST23のSavitzky-Golayフィルタによるノイズ除去処理およびピーク検出処理)
Savitzky-Golayフィルタは、ディジタル平滑化多項式フィルタ、最小二乗平滑化フィルタとも称されている。時間領域で設計される平滑フィルタであり、かつ微分フィルタである。実施形態のSavitzky-Golayフィルタは、例えば、窓は0.9(秒)、3次多項式で近似して2階微分を実行する。
【0106】
(ステップST24のRR間隔時系列データの検出処理)
輝度データ信号のピーク検出をおこなった後、隣接するピーク間の時間であるRR間隔時系列データの検出をおこなう。ピーク検出のロジックは、公知技術である単純な符号逆転としている。隣接するピーク間の時間の検出は、クロック信号に同期して動作するるカウンタによっておこなう。ここで、単純な符合逆転ロジックでピーク検出が可能となり、RR間隔時系列データの検出が可能となったのは、ステップST23におけるSavitzky-Golayフィルタの効果が寄与している。
【0107】
(ステップST21からステップST24までの処理による時系列データの一覧)
【0108】
図7は、サーバー20における各ステップの処理終了後の輝度データを示す図である。
【0109】
図7(a)は、ステップST20の輝度データ入力処理終了後の輝度データを示す図である。
図7(b)は、ステップST22の輝度データの関数化処理終了後の輝度データを示す図である。
図7(c)は、ステップST23のSavitzky-Golayフィルタによるノイズ除去処理およびピーク検出処理後の輝度データを示す図である。
【0110】
*RR間隔時系列データ(すみません、私の理解が間違いでした。)
(ステップST25のローパスフィルタリング処理)
カメラに入射する周囲の光は迷光としてノイズ発生原となる。スマートフォン10のカメラは、通常の風景、人物を写すカメラの機能を発揮するように設計されている。よって、カメラがとらえるごくわずかな皮膚の輝度の変化に対してノイズとなる迷光のレベルは相対的に大きく、ステップST24において輝度データから検出したRR間隔時系列データ(RRI)にはノイズが含まれるので、ステップST24において得られるRR間隔時系列データの中から適切にノイズを除かないとRR間隔時系列データを精度よく分離することができない。
【0111】
そこで、ノイズを除去するのに最適なフィルタ特性を予め実験によって求め、このような特性を有するローパスフィルタをステップST25の処理において用いた。以下、どのようにして、最適なフィルタ特性を求めたかについて説明をする。
【0112】
市販の心拍センサ(ユニオンツール株式会社のMyBeat(登録商標))から得られるRR間隔(RRI)時系列データの波形を基準波形として、この基準波形にステップST25の処理後に得られるRR間隔時系列データの波形を近づけるローパスフィルタの特性を求めた。ステップST25のローパスフィルタリング処理によってスマートフォン10のカメラから得られた輝度信号から検出されるRR間隔時系列データからノイズが除去されて、本来検出されるべきであろうRR間隔時系列データにより近いRR間隔時系列データが得られた。
【0113】
図8、
図9は、ローパスフィルタの定数をどのように定めるかについての説明図である。
【0114】
図8は、市販の心拍センサから得られるRR間隔時系列データとスマートフォン10から得られるステップST25のローパスフィルタリング処理をしないRR間隔時系列データとを対比する図である。
【0115】
図8(a)は、市販の心拍センサから得られるRR間隔時系列データである。
図8(b)は、スマートフォン10から得られるステップST25のローパスフィルタリング処理をしないRR間隔時系列データである。
図8(a)と
図8(b)とは、同一人から同時に得られたデータである。
【0116】
図8(a)の市販の心拍センサのデータと
図8(b)のスマートフォン10からのステップST25のローパスフィルタリング処理前のRR間隔時系列データとはかなり異なっている。そこで、平滑化スプラインを用いたローパスフィルタによってスマートフォン10からのRR間隔時系列データをフィルタリングすることを試みた。
【0117】
図9は、平滑化パラメータ(spar)を変化させたときに、ローパスフィルタリング処理後のRR間隔時系列データがどのように変化するかを示す図である。
【0118】
図9(a)の平滑化パラメータ(spar)は、0.7である。
図9(b)の平滑化パラメータ(spar)は、0.6である。
図9(c)の平滑化パラメータ(spar)は、0.5である。
図9(d)の平滑化パラメータ(spar)は、0.4である。
図9(e)の平滑化パラメータ(spar)は、0.3である。
図9(f)の平滑化パラメータ(spar)は、0.2である。
【0119】
図8(a)に示す市販の心拍センサから得られるRR間隔時系列データを基準として、
図9(a)〜
図9(f)に示すローパスフィルタリング処理後のRR間隔時系列データを対比する。平滑化パラメータ(spar)が0.2〜0.4の範囲で両者が近似する好適な結果が得られる。平滑化パラメータ(spar)が0.3の〜0.4の範囲で両者がより近似するより好適な結果が得られる。よって、本実施形態においては、市販の心拍センサから得られるRR間隔時系列データとスマートフォン10から得られるRR間隔時系列データを最も近くする平滑化パラメータ(spar)の値として0.3の〜0.4の範囲を用いている。
【0120】
(ステップST26のRR間隔時系列データの異常値除去処理)
表1は、RR間隔時系列データの異常値除去処理を説明するための表である。表1を参照して以下に説明をする。
【0122】
表1の第1列目は、RR間隔時系列データが検出された順番に対応する数字である。RR間隔時系列データが最初に検出された1回目から14回目までが表1には記載されている。
【0123】
表1の第2列目は、RR間隔時系列データの値であり、1回目に検出されたRR間隔時系列データの値は時間t1、2回目に検出されたRR間隔時系列データの値は時間t2・・・13回目に検出されたRR間隔時系列データの値は時間t13、14回目に検出されたRR間隔時系列データの値は時間t14である。
【0124】
表1の第3列目は、60をRR間隔時系列データの値で除して、RR間隔時系列データの値に逆比例する瞬時心拍数(H.R)を得た値である。
【0125】
表1の第4列目は、瞬時心拍数(H.R)の1回毎の増減量の絶対値|60/tn -60/tn-1|を演算した結果である。ルール1に対応する演算である。
【0126】
表1の第5列目は、当該瞬時心拍数(H.R)と、当該瞬時心拍数(H.R)の前の所定拍数(表1の例では8拍)の瞬時心拍数を移動平均によって平均化した値との差分の絶対値である。ルール2に対応する演算である。すなわち、9回目の瞬時心拍数(H.R)である60/t9と、9回目に対応する移動平均であるmeanH.R(8(t1,t2,t3,t4,t5,t6,t7,t8))(1回目から8回目までの移動平均)との差分の絶対値が9回目のHR差分である。同様に、10回目の瞬時心拍数(H.R)である60/t10と、10回目の測定に対応する移動平均であるmeanH.R(8(t2,t3,t4,t5,t6,t7,t8,t9))(2回目から9回目までの移動平均)との差分の絶対値が10回目のHR差分である。以下同様にして、11回目以降についても演算をする。
【0127】
表1の12回目の第4列目が「error」と記載されているのは、12回目の瞬時心拍数(H.R)である60/t12 をエラー値であるとして、HR差分の演算に用いず、当該RR間隔時系列データであるt12を除去してデータ処理の対象としないことを意味している。
【0128】
RR間隔時系列データの除去に際しては 、上述した第1のルール、第2のルール、第3のルールの3つのルールが適用される。第1のルールないし第3のルールのいずれか1つでもクリアしない場合には、当該RR間隔時系列データは除去されデータ処理の対象とはしないとしてもよく、第1のルールないし第3のルールの任意の2つ以上の組み合わせ(第1のルールないし第3のルールの全ての組み合わせも当然に含む)をクリアしない場合には、当該RR間隔時系列データは除去されデータ処理の対象とはしないとしてもよい。
【0129】
本実施形態においては、第1のルール(ルール1)、第2のルール(ルール2)、第3のルール(ルール3)を以下のように組み合わせて用いている。
【0130】
第1のルールは、以下のように用いている。1回目にはRR間隔時系列データの前のデータがないので第1のルールは適用しない。2回目以降は、当該瞬時心拍数と1回前の瞬時心拍数との差分である|60/t(n)-60/t(n-1)|の演算結果が第1所定値以下のときにのみ、RR間隔時系列データを採用する、それとともに、8拍の瞬時心拍数(H.R)であるmeanH.R(8)の算出に際して、|60/t(n)-60/t(n-1)|の演算結果が第1所定値以下のときにのみ当該瞬時心拍数(60/t(n))を用いる。
【0131】
表1の1回目〜11回目はこのルール1に則り、|60/t(n)-60/t(n-1)|の演算結果が第1所定値以下のときの処理をおこなう。
【0132】
|60/t(n)-60/t(n-1)|の演算結果が第1所定値よりも大きい場合には、突然に前と異なる瞬時心拍数(H.R)がノイズ等により発生したと判断して(すなわち、突然に前と異なるRR間隔時系列データがノイズ等により発生したと判断して)、当該RR間隔時系列データは除去されデータ処理の対象とはしない。それとともに、本実施形態においては8拍の瞬時心拍数(H.R)であるmeanH.R(8)の算出に際しても、第1のルールを適用してerror(エラー)となった瞬時心拍数(H.R)を移動平均の演算に用いない。ここで、meanH.R(8)の表記は8拍の瞬時心拍数(H.R)についての移動平均値を意味し、N拍の移動平均値であれば、meanH.R(N)と記載する。Nの値は適宜に決め得るものである。
【0133】
表1の13回目のmeanH.R(8)の算出はこのルールに則っており、meanH.R(8)として|60/t13-meanH.R(8(t4,t5,t6,t7,t8,t9,t10,t11))|(4回目から11回目の移動平均)を用いている。本来あるべき13回目のmeanH.R(8)である|60/t13-meanH.R(8(t5,t6,t7,t8,t9,t10,t11,t12))|は、用いていない。また、14回目のmeanH.R(8)の算出もこのルールに則っており、meanH.R(8)として|60/t14-meanH.R(8 (t5,t6,t7,t8,t9,t10,t11,t13))|(5回目から13回目までで12回目を除く移動平均)を用いている。
【0134】
また、表1には表れていないが、本実施形態では第2のルールも用いている。第2のルールは、|60/t-meanH.R(8)|の演算結果が第2所定値以上のときは、前の8拍の平均値と異なる異常な瞬時心拍数(H.R)が発生したと判断して、当該RR間隔時系列データは除去されデータ処理の対象とはしない。なお、第1所定値と第2所定値の大小関係によって、|60/t(n)-60/t(n-1)|≦第1所定値ではない(第1のルール)、または、|60/t-meanH.R(N)|≧第2所定値である(第2のルール)のいずれか一方に該当し、または、その双方に該当して、異常値であると判断される。
【0135】
また、表1には表れていないが、本実施形態では第3のルールも用いている。第3のルールは、所定拍数(例えば、8拍)についての移動平均値(meanH.R(8))の演算結果が、所定回数(例えば、8回)連続して第2所定値の範囲にない場合は、meanH.R(8)をリセットして、再び、meanH.R(8)を算出し直す。この演算は、表1の1回目から8回目の処理に対応するが、表1とは異なり、この場合には1回目の値が検出されるので1回目についても第1のルールが適用され、1回早く表1の8回目において移動平均値が得られる。
【0136】
(ステップST27のフーリエ変換処理)
フーリエ変換処理は、窓として、周知技術の方形窓(窓なし)、ハニング窓、ハミング窓の3種類の窓を試みた。その結果、ハミング窓が後述する高周波成分HFと低周波成分LFとの分離において最も良好な結果が得られので、ハミング窓を用いる。RR間隔時系列データは、関数化処理がなされているので、一定の周期でリサンプリングをおこなう高速フーリエ変換が可能となる。
【0137】
(ステップST28の高周波成分HF・低周波成分LFの検出処理)
高周波成分HFは副交感神経の活動を表し、低周波成分LFは交感神経の活動を表す指標として定義されて既住の論文、文献において用いられている。高周波成分HFは、フーリエ変換した後、0.15〜0.4Hzの帯域を通過させるフィルタによって得られる0.15〜0.4Hzのパワースペクトルの積分値である。低周波成分LFは、0.04〜0.15Hzの帯域を通過させるフィルタによって得られるパワースペクトルの積分値である。
【0138】
(ステップST29の性・年代調整のうえプロット処理)
この処理は、被験者の性・年代に応じて高周波成分HFの分布、低周波成分LFの分布を予め測定しておき、ステップST28において測定されるスマートフォン10によって測定をする被験者の副交感神経の活動(高周波成分HF)と交感神経の活動(低周波成分LF)とがどのような状態にあるかを2次元に表示するものである。2次元表示された結果の精度は、いかに多くの被験者のデータを集めるかに依存し、また、どのようにそれらのデータを評価し、活用するかにかかわっているので詳しく説明をする。
【0139】
図10は、破線内がサーバーからの解析結果データに基づきスマートフォン10のディスプレイに表示される2次元表示を示す図である。
図10は、
図4(a)に表示される表示画面の一部である。
【0140】
図10に示すように、第1座標軸(X軸)の原点よりも高く、第2座標軸(Y軸)の原点よりも高い領域(第1象限)が「理想ゾーン」、第1座標軸の原点よりも低く、第2座標軸の原点よりも高い領域(第2象限)が「ストレス」、第1座標軸の原点よりも低く、第2座標軸の原点よりも低い領域(第3象限)が「ぐったり」、第1座標軸の原点よりも高く、第2座標軸の原点よりも低い領域(第4象限)が「のんびり」である。ハート印が被験者のデータである。破線の外のLnLF、LnHF、分布のグラフ、X軸、Y軸、黒丸、一点鎖線のいずれも、スマートフォン10のディスプレイには表示されない。
【0141】
自律神経活動指標LnLFは、低周波成分LFの対数表示である。対数表示によって自律神経活動指標LnLFは、正規分布に近づく。自律神経活動指標LnHFは、高周波成分HFの対数表示である。対数表示によって自律神経活動指標LnHFは、正規分布に近づく。
【0142】
自律神経活動指標LnLFの値が高い程、交感神経の活動は高く、自律神経活動指標LnLFの値が低い程、交感神経の活動は低い。また、自律神経活動指標LnHFの値が高い程、副交感神経の活動は高く、自律神経活動指標LnHFの値が低い程、副交感神経の活動は低い。
【0143】
自律神経活動指標LnHFの値、自律神経活動指標LnLFの値によって精神の活動は分類される。自律神経活動指標LnLFの値が平均値よりも高く、自律神経活動指標LnHFの値が平均値よりも高い領域が「理想ゾーン」である。自律神経活動指標LnLFの値が平均値よりも低く、かつ、自律神経活動指標LnHFの値が平均値よりも高い領域が「のんびり」である。自律神経活動指標LnLFの値が平均値よりも高く、自律神経活動指標LnHFの値が平均値よりも低い領域が「ストレス」である。自律神経活動指標LnLFの値が平均値よりも低く、自律神経活動指標LnHFの値が平均値よりも低い領域が「ぐったり」である。
【0144】
自律神経活動指標LnLFおよび自律神経活動指標LnHFの値に応じて4象限に分ける境界線(X軸の平均値を通る線とY軸の平均値を通る線)は、性・年代別に予め統計処理がされサーバー20の内部に記憶されている。サーバー20は、スマートフォン10の被験者の性・年代別の情報に基づき4象限に分ける境界線の位置情報を取り出し、性・年代別の4象限表示を可能とする情報をスマートフォン10に送信する解析結果データに含ませる。
【0145】
一方、ハート印の4象限表示上の位置は、スマートフォン10の被験者の低周波成分LFおよび高周波成分HFがステップST27で得られた後、自律神経活動指標LnLFおよび自律神経活動指標LnHFが演算されて決定される。サーバー20は、ハート印の4象限表示上の位置の情報もスマートフォン10に送信する解析結果データに含ませる。
【0146】
(自律神経活動指標LnHF、自律神経活動指標LnLFの分布の求め方について)
自律神経活動指標LnHF、自律神経活動指標LnLFの分布を求めるためには、性・年代別の多数の被験者のデータが必要となる。まず、データ収集手法の概略を簡単にまとめた後、詳細を後述する。
【0147】
スマートフォン10でデータを収集するのは効率が悪いので、スマートフォン10よりもより精度が高い専用システムである市販の心拍センサ(MyBeat)を用いた。市販の心拍センサを用いた場合の過去に蓄積した自律神経活動指標LnHF、自律神経活動指標LnLFの分布の膨大なデータが既に蓄積されている。この膨大なデータを利用するために以下の3ステップの手順をおこなってこれらのデータを本実施形態において利用可能とした。
【0148】
第1ステップとして、実施形態のスマートフォン10によって検出する自律神経活動指標LnHFおよび自律神経活動指標LnLFと、市販の心拍センサによって検出する自律神経活動指標LnHFおよび自律神経活動指標LnLFとを比較して、スマートフォン10によって収集したデータに十分な精度があることを確かめる。第2ステップとして、スマートフォン10で得たデータと市販の心拍センサによって得たデータとの間の変換式を求める。第3ステップとして、市販の心拍センサによって得た膨大なデータを実施形態のスマートフォン10で使えるように、第2ステップで得た変換式に当てはめ本実施形態に適用できるような性・年代別に正規分布の平均値、標準偏差を得る。
【0149】
スマートフォン10から得られる自律神経活動指標LnHF、自律神経活動指標LnLFの精度確認をするために、実施形態による測定と市販の心拍センサによる測定とを同時におこなった。被験者を12名とし、のべ24回分のデータでの比較を行った。本出願の願書に記載の発明者(以下、発明者と省略する)は、実施形態のスマートフォン10による計測の精度がおおむね良好であることを確認し、第1ステップの手順を終了した。
【0150】
次に、変換式を求める第2ステップの説明をする。市販の心拍センサから得られる自律神経活動指標LnLFの正規分布の平均値をE(X)、分散をV(X)とし、数1が得られる。E(Y)、V(Y)、SD(Y)の各々はスマートフォン10から得られる自律神経活動指標LnLFの平均値、分散、標準偏差を示す。
【0152】
市販の心拍センサから得られる自律神経活動指標LnHFの正規分布の平均値をE(X)、分散をV(X)とし、数2が得られる。E(Y)、V(Y)、SD(Y)の各々はスマートフォン10から得られる自律神経活動指標LnHFの平均値、分散、標準偏差を示す。
【数2】
【0153】
数1を用いて、市販の心拍センサから得られる自律神経活動指標LnLFの各値をスマートフォン10の対応する自律神経活動指標LnLFの平均値、分散、標準偏差に変換することができる。また、数2を用いて、市販の心拍センサから得られる自律神経活動指標LnHFの各値をスマートフォン10の対応する自律神経活動指標LnHFの平均値、分散、標準偏差に変換することができる。
【0154】
次に、第3ステップの説明をする。第3ステップにおいては、市販の心拍センサを用いて蓄積した自律神経活動指標LnLFと自律神経活動指標LnHFとの平均値、標準偏差の性・年代別の分布を数1、数2を用いてスマートフォン10に特化した数値を推定する。
【0155】
(性・年代別の60秒測定の自律神経活動指標(LnLF、LnHF)の分布)
【0156】
市販の心拍センサによって蓄積した男性、女性の年代別の60秒測定の自律神経活動指標の分布を以下の
図11ないし
図14に示す。60秒間測定は、静止していた時間のみを用いている。
【0157】
図11は、心拍センサから得られる男性の年代別の60秒測定の自律神経活動指標LnLFの分布を示す図である。
【0158】
図12は、心拍センサから得られる男性の年代別の60秒測定の自律神経活動指標LnHFの分布を示す図である。
【0159】
図13は、心拍センサから得られる女性の年代別の60秒測定の自律神経活動指標LnLFの分布を示す図である。
【0160】
図14は、心拍センサから得られる女性の年代別の60秒測定の自律神経活動指標LnHFの分布を示す図である。
【0161】
上述した
図11ないし
図14に示す結果を用い、上述したように第3ステップにおいて数1、数2を用いて、スマートフォン10を用いる場合における自律神経活動指標LnHFおよび自律神経活動指標LnLFを推定する。そして、
図10に示すようにこの推定値を用いて4象限に各ゾーンを分離して、スマートフォン10で検出した輝度データを演算処理してどのゾーンに現在の被験者の精神の状態が対応するかを表示できるようになる。
【0162】
「第1実施形態の変形例」
(ハードウエアの変形例)
上述した実施形態においては、自律神経機能評価システムのクライアントとサーバーとの接続は、インターネット回線を用いるものとして説明をしたが、両者の接続はこれに限るものではなく、専用回線、公衆回線を問わず、有線通信回線、無線回線を問わず、あらゆる回線を用いることができる。例えば、LAN、専用の微弱電波を用いた専用回線、電話回線等も用いることができる。
【0163】
クライアントとしての自律神経機能評価端末装置は、スマートフォン、タブレット、専用端末を始めとして、種々のものを使用できる。また、自律神経機能評価端末装置はMPUとMPUにおいて実行されるプログラムを中心にして構成するのみならず、ステップST10ないしステップST16の処理の一部、または、全部をランダムロジック回路でおこなうようにしてもよい。この場合においては、ランダムロジック回路等のハードウエアでおこなう各処理は、コンピュータとプログラムとで実行するのでなく、ハードウエアで構成する各処理部で実行する。
【0164】
例えば、脈波測定モード開始処理部で脈波測定モード開始処理を実行してもよく、測定の開始通知処理部で測定の開始通知処理を実行してもよく、カメラに近接した手の指の画像の撮影処理部でカメラに近接した手の指の画像の撮影処理を実行してもよく、撮影画像から輝度データ検出処理部で撮影画像から輝度データ検出処理を実行してもよく、測定の終了通知処理部で測定の終了通知処理を実行してもよく、サーバーへの輝度データ出力送信処理部でサーバーへの輝度データ出力処理を実行してもよく、脈波測定モード終了処理部で測定の脈波測定モード終了処理を実行してもよく、サーバーからの解析結果データ入力処理部でサーバーからの解析結果データ入力処理を実行してもよく、解析結果データ表示終了処理部で解析結果データ表示終了処理を実行してもよい。さらに、上述した各ハードウエア構成部の一部または全部を集積回路で構成してもよい。
【0165】
サーバーとしての自律神経機能評価サーバーは、コンピュータとソフトウエアとの組み合わせによってのみならず、ステップST20ないしステップST30の処理の一部、または、全部を集積回路、ランダムロジック回路等のハードウエアで構成しておこなってもよい。この場合においては、ランダムロジック回路等のハードウエアでおこなう各処理は、コンピュータとプログラムとで実行するのでなく、ハードウエアで構成する各処理部で実行する。
【0166】
また、前倒しロジック処理、Savitzky-Golayフィルタによるノイズ除去処理およびピーク検出処理、ローパスフィルタリング処理、RR間隔時系列データの異常値除去処理は、いずれも、輝度データに含まれるノイズ、または、RR間隔時系列データに含まれるノイズを除去するための処理であり、これらのいずれかの一つ、または、これらの二つ以上の組み合わせ(これらの全部の組み合わせを含む)を適宜に用いることができる。
【0167】
ハードウエア構成においては、端末装置からの輝度データ入力処理部で端末装置からの輝度データ入力処理を実行してもよく、前倒しロジック処理部で前倒しロジック処理を実行してもよく、輝度データの関数化処理部で輝度データの関数化処理を実行してもよく、Savitzky-Golayフィルタ部でノイズ除去およびピーク検出処理を実行してもよく、RR間隔時系列データの検出処理部でRR間隔時系列データの検出処理を実行してもよく、ローパスフィルタリング処理部でローパスフィルタリング処理を実行してもよく、RR間隔時系列データの異常値除去処理部でRR間隔時系列データの異常値除去処理を実行してもよく、フーリエ変換処理部でフーリエ変換処理を実行してもよく、高周波成分HF・低周波成分LFの検出処理部で高周波成分HF・低周波成分LFの検出処理を実行してもよく、性・年代調整のうえプロット処理部で性・年代調整のうえプロット処理を実行してもよく、端末装置への解析結果データ出力処理部で端末装置への解析結果データ出力処理を実行してもよい。さらに、上述した各ハードウエア構成部の一部または全部を集積回路で構成してもよい。
【0168】
クライアント側の自律神経機能評価端末装置における処理と、サーバー側の自律神経機能評価サーバーにおける処理とをどのように分けるかは、適宜に決め得るものである。例えば、自律神経機能評価端末装置にあるカメラに応じて異なる性能を自律神経機能評価端末装置において補正するために、前倒しロジック処理(ステップST21)、輝度データの関数化処理(ステップST22)、Savitzky-Golayフィルタによるノイズ除去およびピーク検出処理(ステップST23)、RR間隔時系列データの検出処理(ステップST24)、ローパスフィルタリング処理(ステップST25)、RR間隔時系列データの異常値除去処理(ステップST26)のうちの一部または、その全部を自律神経機能評価端末装置においておこなうようにしてもよい。このようにすることによって、カメラの特性にあわせた適切な処理を自律神経機能評価端末装置においておこなうことができる。
【0169】
クライアント側の自律神経機能評価端末装置は、ステップST18、ステップST19の処理に加え、ステップST29の処理をおこなうことも可能である。この場合には、サーバー側の自律神経機能評価サーバーはステップST29の処理をおこなわない。すなわち、自律神経機能評価端末装置が、被験者の好みにあわせ、自律神経機能評価端末装置の側においてどのような画像表示をするかを設定することができる。
【0170】
(特定の被験者に特化した2次元表示)
上述した実施形態においては、不特定の多数の被験者を対象として、市販の心拍センサから得られる自律神経活動指標LnLF、自律神経活動指標LnHFの分布を基準としてスマートフォン10によって輝度データを送出する者の精神活動を判定した。すなわち、自己の精神状態を同年代、同性の一般的な者と比較して自己の精神活動の状態をスマートフォン10に画像表示した。
【0171】
しかしながら、自己の精神状態が必ずしも一般的者の自律神経活動指標LnLF、自律神経活動指標LnHFと一致するとは限らない。そこで、スマートフォン10で取得した特定の者の輝度データに基づき、サーバー20において算出する自律神経活動指標LnLF、自律神経活動指標LnHFを蓄積し、自己の自律神経活動指標LnLF、自律神経活動指標LnHFの分布を基準として、自己の精神活動の状態をスマートフォン10に画像表示するようにしてもよい。
【0172】
実施形態の自律神経機能評価端システムを用いれば、単に自己の精神活動を知ることができるのみならず、積極的に精神活動を自己管理することができる。いくつかの具体的な実施形態について簡単に説明をする。
【0173】
(音楽を用いる精神活動の管理)
スマートフォン10にダウンロードされた音楽を聞きながら、スマートフォン10における自律神経機能評価の処理を実行する。カメラで取り込んだ輝度データをサーバー20において解析をするに際して、測定の前半30秒程度と後半30秒程度の輝度データの解析の結果(心拍変動解析結果)を比較して、前半30秒程度に比べて後半30秒程度の自律神経活動指標LnLFがより高くなれば(「低周波優位(つまり、交感神経優位)」になれば)、「盛上げ音楽」であるとサーバー20は判断する。逆に、前半30秒程度に比べて後半30秒程度の自律神経活動指標LnHFがより高くなれば(「高周波優位(副交感神経優位)」になれば)、「癒し音楽」であるとサーバー20は判断する。どのような音楽が、「盛上げ音楽」となり、「癒し音楽」となるかは、被測定者の過去の経験、感覚に依存し、その者に固有の分類がなされる。
【0174】
スマートフォン10を用いる被験者が輝度データの測定をし、解析結果データの表示を見たときに、「ストレス」という結果が出たら、被験者はスマートフォン10の予め定めるボタンを押し、ディスプレイに「癒し音楽」一覧を表示させることができる。そして、被験者はその一覧の中から所望の音楽を選択して聴くことができる。このようにして、「ストレス」を解消できる。
【0175】
(写真を用いる精神活動の管理)
上述した音楽を用いる場合と同様に、スマートフォン10に蓄積している写真を見ながら、スマートフォン10における自律神経機能評価の処理を実行する。カメラで取り込んだ輝度データをサーバー20において解析をするに際して、例えば、測定の前半30秒程度と後半30秒程度の輝度データの解析の結果(心拍変動解析結果)を比較して、前半30秒程度に比べて後半30秒程度の自律神経活動指標LnLFがより高くなれば(「低周波優位(つまり、交感神経優位)」になれば)、「盛上げ写真」であるとサーバー20は判断する。逆に、前半30秒程度に比べて後半30秒程度の自律神経活動指標LnHFがより高くなれば(「高周波優位(副交感神経優位)」になれば)、「癒し写真」であるとサーバー20は判断する。どのような写真が、「盛上げ写真」となり、「癒し写真」となるかは、被測定者の過去の経験、感覚に依存し、その者に固有の分類がなされる。
【0176】
スマートフォン10を用いる被験者が輝度データの測定をし、解析結果データの表示を見たときに、「ストレス」という結果が出たら、被験者はスマートフォン10の予め定めるボタンを押し、ディスプレイに「癒し写真」一覧を表示させることができる。そして、被験者はその一覧の中から所望の写真を選択して見ることができる。このようにして、「ストレス」を解消できる。
【0177】
(ディスプレイに表示されるカラーを用いる精神活動の管理)
上述した音楽、写真と同様にディスプレイに表示される「カラー(色)」についても同様の処理をすることができる。「ストレス」という結果が出たら、被験者はスマートフォン10の予め定めるボタンを押し、「癒しカラー」一覧から所望のカラーを選択して、そのカラーをディスプレイに表示することができる。RGBの色の配合から、その人に最適なオリジナルの「盛上げカラー」、「癒しカラ―」を作成することができる。
【0178】
(旅のスポットを用いる精神活動の管理)
旅行のコースの中で、「癒しスポット」、「パワースポット」等と呼ばれる場所に行くと、スマートフォン10に内蔵のGPS機能によってその場所を感知し、「測定しましょう!」という表示がスマホ画面にポップアップする。そこで、輝度データを測定すると自分の状態がわかるとともに、その場所が、被測定者にとって本当に「癒しスポット」なのか、否かがわかる。これらの個人測定データは匿名でサーバー20に蓄積され、蓄積すればするほど、その「癒しスポット」の効果測定データとして有用性が増し多くの人の有効活用ができる。
【0179】
(天気を用いる精神活動の管理)
スマートフォン10でダウンロードまたはサーバー20でダウンロードした一日の天気データとサーバー20で演算した解析結果データとを連動させることで、データが蓄積されるほど、お天気とその者の自律神経状態(メンタルコンディション)の相関がわかるようになる。長期間使用すると、曇りや雨などの陰鬱なお天気のときは、「ストレス」が高いなどの一般人の傾向のみならず、その者の特定の傾向がわかるようになる。
【0180】
(GPSの位置情報を用いる精神活動の管理)
スマートフォン10の被験者の個々人が輝度データをサーバー20にアップロードする際に、GPS機能による位置情報もあわせてアップすることで、どの場所(都道府県、市町村単位等)で、ストレスを抱えた人が多いか、あるいは、リラックスした人が多いかが地図上にマッピングでき、それを公開することで、地域特性を知る一つの手段とすることができる。これにより、多くの人がこの結果を利用できる。
【0181】
『第2実施形態』
第1実施形態においては、クライアント・サーバー・システムとして自律神経機能評価システムを構成した。しかしながら、第1実施形態のサーバー側における全ての処理、をクライアント側でおこなうことも可能である。第2実施形態は、このような実施形態である自律神経機能評価装置に関する。このような自律神経機能評価装置は、例えば、
図1に記載されたスマートフォン10がサーバーの支援を受けることなく、単独で全ての処理をおこなう場合に相当する。スマートフォン単体で上述した処理の全てをおこなう場合には、第1実施形態に比べて、多少長い処理時間を必要とするが、サーバーを用いなくともよい。また、スマートフォンの処理能力は、年々向上しており、処理時間は、年々短縮化され続けている。
【0182】
図15は、実施形態の自律神経機能評価装置における処理を示すフローチャートである。
【0183】
図15を参照して、第2実施形態について説明をする。第2実施形態と第1実施形態との対応関係を以下に記載して、第2実施形態における各部の処理の内容の説明を省略する。
【0184】
ステップST300の処理は、ステップST10の処理に対応する。ステップST301の処理は、ステップST11の処理に対応する。ステップST302の処理は、ステップST12の処理に対応する。ステップST303の処理は、ステップST13の処理に対応する。ステップST304の処理は、ステップST14の処理に対応する。ここで、ステップST14の処理は「測定の終了通知処理」であるのに対して、ステップST304の処理は「測定の終了通知処理・演算中の表示処理」であるのは、自律神経機能評価装置(例えば、スマートフォン)の内部でステップST305以降の処理がおこなわれていることを被験者に知らせる表示をするからである。
【0185】
ステップST305の処理は、ステップST21の処理に対応する。ステップST306の処理は、ステップST22の処理に対応する。ステップST307の処理は、ステップST23の処理に対応する。ステップST308の処理は、ステップST24の処理に対応する。ステップST309の処理は、ステップST25の処理に対応する。ステップST310の処理は、ステップST26の処理に対応する。ステップST311の処理は、ステップST27の処理に対応する。ステップST312の処理は、ステップST28の処理に対応する。ステップST313の処理は、ステップST29の処理に対応する。ステップST314の処理は、ステップST18の処理に対応する。ステップST315の処理は、脈波測定モードの処理を終了し、脈波測定モードから抜け出す処理でありステップST19の「解析結果データの表示終了処理」に対応する。
【0186】
また、第2実施形態においては、MPUにおいてサーバーのCPUがおこなった処理をおこなうが、MPUとCPUとは、その機能に本質的な異なりはなく、MPUにおいてもCPUと同じ処理をおこなうことができる。このようにして第2実施形態においては、第1実施形態におけるようにサーバーを用いることなく、自律神経機能評価装置のみで全ての処理をおこなうことができる。第2実施形態においては、サーバーに個人情報を送る必要がないので、個人の秘密が保たれる。
【0187】
『その他の変形例』
第1実施形態においても、第2実施形態においても、ステップST21(ステップST305)ないしステップST23(ステップST307)、ステップST25(ステップST309)および、ステップST26(ステップST310)の処理を全ておこなうのではなく、適宜に選択した処理、または、適宜に選択した組み合わせの処理をおこなうことも可能である。ステップST21(ステップST305)ないしステップST23(ステップST307)の各処理は、カメラからノイズとともに検出する輝度データに含まれる脈波の検出精度を向上させる処理である。また、ステップST25(ステップST309)および、ステップST26(ステップST310)の各処理は、RR間隔時系列データに含まれるノイズ(原因はノイズとともに検出する輝度データ)を除去する処理である。よって、カメラの性能に応じて、各処理の奏する効果が異なる場合があり、全体の効果と全体の処理速度とを考慮して、各処理の採用を選択することが全体の性能の向上に資するからである。
【0188】
上述した各実施形態の一部または全部を組み合わせた実施形態も実施可能である。また、本発明は、上述した実施形態に限定されるものではなく、同一の技術的思想の範囲に及ぶことは言うまでもない。