(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】
(24)【登録日】2023-09-04
(45)【発行日】2023-09-12
(54)【発明の名称】ノイズ波形除去装置、モデル訓練装置、ノイズ波形除去方法、モデル訓練方法、及びウェアラブル機器
(51)【国際特許分類】
A63B 71/06 20060101AFI20230905BHJP
A61B 5/11 20060101ALI20230905BHJP
G06M 3/00 20060101ALI20230905BHJP
【FI】
A63B71/06 G
A61B5/11 200
G06M3/00 L
(21)【出願番号】P 2020157821
(22)【出願日】2020-09-18
【審査請求日】2021-12-20
(73)【特許権者】
【識別番号】000001443
【氏名又は名称】カシオ計算機株式会社
(74)【代理人】
【識別番号】100107766
【氏名又は名称】伊東 忠重
(74)【代理人】
【識別番号】100070150
【氏名又は名称】伊東 忠彦
(72)【発明者】
【氏名】上田 将司
【審査官】右田 純生
(56)【参考文献】
【文献】米国特許出願公開第2019/0187297(US,A1)
【文献】中国特許出願公開第111564160(CN,A)
【文献】特開2009-195590(JP,A)
【文献】特開2006-101973(JP,A)
【文献】特開2017-023689(JP,A)
【文献】特開2009-212672(JP,A)
【文献】特開2013-201467(JP,A)
【文献】特開2020-042760(JP,A)
【文献】特表2020-507359(JP,A)
【文献】特表2014-531141(JP,A)
【文献】特開2013-059016(JP,A)
【文献】特開2018-079102(JP,A)
【文献】特開2018-057527(JP,A)
【文献】特開2017-059089(JP,A)
【文献】特開2020-010803(JP,A)
【文献】中国特許出願公開第104406604(CN,A)
【文献】米国特許出願公開第2007/0219059(US,A1)
【文献】国際公開第2017/085770(WO,A1)
【文献】米国特許出願公開第2015/0196213(US,A1)
【文献】国際公開第2015/004915(WO,A1)
(58)【調査した分野】(Int.Cl.,DB名)
A63B 71/06
A61B 5/11
G01C 22/00
G06M 3/00
(57)【特許請求の範囲】
【請求項1】
ノイズ有り運動波形データを取得する取得部と、
訓練済み生成モデルを利用して、前記ノイズ有り運動波形データに基づいてフィルタ寄与率を決定するフィルタ寄与率決定部と、
前記決定したフィルタ寄与率と前記ノイズ有り運動波形データとに基づいてノイズ無し運動波形データを生成するノイズ除去部と、
を有
し、
前記ノイズ除去部は、フィルタリングされたノイズ有り運動波形データに前記フィルタ寄与率Rを適用することによって第1の中間運動波形データを生成し、前記ノイズ有り運動波形データに(1-R)を適用することによって第2の中間運動波形データを生成し、前記第1の中間運動波形データと前記第2の中間運動波形データとを合成し、前記ノイズ無し運動波形データを生成する、ノイズ波形除去装置。
【請求項2】
前記取得部は、ユーザによって携行される慣性センサから前記ノイズ有り運動波形データを取得する、請求項
1記載のノイズ波形除去装置。
【請求項3】
前記ノイズ無し運動波形データは、前記ノイズ有り運動波形データから、前記ユーザの着地衝撃以外の衝撃に起因して前記慣性センサによって検出されたノイズを除去した運動波形データに対応する、請求項
2記載のノイズ波形除去装置。
【請求項4】
訓練用ノイズ有り運動波形データと訓練用ノイズ無し運動波形データとを含む訓練データを格納する訓練データ格納部と、
前記訓練用ノイズ有り運動波形データに基づいてフィルタ寄与率を決定する生成モデルと、前記フィルタ寄与率及び前記訓練用ノイズ有り運動波形データに基づいて生成された擬似ノイズ無し運動波形データと前記訓練データとを識別する識別モデルとをGAN(Generative Adversarial Network)に従って訓練するモデル訓練部と、を有
し、
前記モデル訓練部は、フィルタリングされた訓練用ノイズ有り運動波形データに前記フィルタ寄与率Rを適用することによって第1の中間運動波形データを生成し、前記訓練用ノイズ有り運動波形データに(1-R)を適用することによって第2の中間運動波形データを生成し、前記第1の中間運動波形データと前記第2の中間運動波形データとを合成し、前記擬似ノイズ無し運動波形データを生成する、モデル訓練装置。
【請求項5】
訓練用ノイズ有り運動波形データと訓練用ノイズ無し運動波形データとを含む訓練データを格納する訓練データ格納部と、
前記訓練用ノイズ有り運動波形データに基づいてフィルタ寄与率を決定する生成モデルと、前記フィルタ寄与率及び前記訓練用ノイズ有り運動波形データに基づいて生成された擬似ノイズ無し運動波形データと前記訓練データとを識別する識別モデルとをGAN(Generative Adversarial Network)に従って訓練するモデル訓練部と、を有し、
前記モデル訓練部は、前記識別モデルの識別結果と各時刻のフィルタ寄与率の総和とに基づき前記生成モデル及び前記識別モデルを訓練する、モデル訓練装置。
【請求項6】
前記識別モデルは、前記擬似ノイズ無し運動波形データ、前記訓練用ノイズ有り運動波形データ及び前記訓練用ノイズ無し運動波形データの1つを入力データとして取得し、前記入力データが擬似データ又は訓練データであるか、及び、ノイズ有り又はノイズ無しであるか識別する、請求項
4又は5記載のモデル訓練装置。
【請求項7】
前記モデル訓練部は、正しい識別結果を出力するよう前記識別モデルを訓練し、前記識別モデルが誤った識別結果を出力するよう前記生成モデルを訓練する、請求項
4又は5何れか一項記載のモデル訓練装置。
【請求項8】
1つ以上のプロセッサが、ノイズ有り運動波形データを取得するステップと、
前記1つ以上のプロセッサが、訓練済み生成モデルを利用して、前記ノイズ有り運動波形データに基づいてフィルタ寄与率を決定するステップと、
前記1つ以上のプロセッサが、前記決定したフィルタ寄与率と前記ノイズ有り運動波形データとに基づいてノイズ無し運動波形データを生成するステップと、
を有
し、
前記1つ以上のプロセッサが、フィルタリングされたノイズ有り運動波形データに前記フィルタ寄与率Rを適用することによって第1の中間運動波形データを生成し、前記ノイズ有り運動波形データに(1-R)を適用することによって第2の中間運動波形データを生成し、前記第1の中間運動波形データと前記第2の中間運動波形データとを合成し、前記ノイズ無し運動波形データを生成する、ノイズ波形除去方法。
【請求項9】
1つ以上のプロセッサが、訓練用ノイズ有り運動波形データと訓練用ノイズ無し運動波形データとを含む訓練データを格納するステップと、
前記1つ以上のプロセッサが、前記訓練用ノイズ有り運動波形データに基づいてフィルタ寄与率を決定する生成モデルと、前記フィルタ寄与率及び前記訓練用ノイズ有り運動波形データに基づいて生成された擬似ノイズ無し運動波形データと前記訓練データとを識別する識別モデルとをGAN(Generative Adversarial Network)に従って訓練するステップと、を有
し、
前記1つ以上のプロセッサが、フィルタリングされた訓練用ノイズ有り運動波形データに前記フィルタ寄与率Rを適用することによって第1の中間運動波形データを生成し、前記訓練用ノイズ有り運動波形データに(1-R)を適用することによって第2の中間運動波形データを生成し、前記第1の中間運動波形データと前記第2の中間運動波形データとを合成し、前記擬似ノイズ無し運動波形データを生成する、モデル訓練方法。
【請求項10】
1つ以上のプロセッサが、訓練用ノイズ有り運動波形データと訓練用ノイズ無し運動波形データとを含む訓練データを格納するステップと、
前記1つ以上のプロセッサが、前記訓練用ノイズ有り運動波形データに基づいてフィルタ寄与率を決定する生成モデルと、前記フィルタ寄与率及び前記訓練用ノイズ有り運動波形データに基づいて生成された擬似ノイズ無し運動波形データと前記訓練データとを識別する識別モデルとをGAN(Generative Adversarial Network)に従って訓練するステップと、を有し、
前記1つ以上のプロセッサが、前記識別モデルの識別結果と各時刻のフィルタ寄与率の総和とに基づき前記生成モデル及び前記識別モデルを訓練する、モデル訓練方法。
【請求項11】
慣性センサと、
請求項1乃至
3何れか一項記載のノイズ波形除去装置と、
を有するウェアラブル機器。
【発明の詳細な説明】
【技術分野】
【0001】
本開示は、ノイズ波形除去装置、モデル訓練装置、ノイズ波形除去方法、モデル訓練方法、及びウェアラブル機器に関する。
【背景技術】
【0002】
ランニングやウォーキングなどの運動中のユーザの運動状態を検知するため、加速度センサやジャイロセンサなどの慣性センサが利用される。ユーザは、このような慣性センサを内蔵したスマートフォン、スマートウィッチ、万歩計(登録商標)などのウェアラブル機器などを携行し、当該機器によって取得された運動状態を示す運動波形データに基づき解析された運動状態を確認することができる。
【先行技術文献】
【特許文献】
【0003】
【発明の概要】
【発明が解決しようとする課題】
【0004】
一方、このようなウェアラブル機器を携行する際、ユーザは、ポーチなどの携帯バッグにウェアラブル機器を入れて携行することがある。この場合、ウェアラブル機器は、ユーザの歩行による着地衝撃だけでなく、携帯バッグとの接触、携帯バッグ内の他の携行物との接触などによる非着地衝撃も検知するおそれがある。
【0005】
この場合、ウェアラブル機器によって検知される運動波形データは、所望データとしての着地衝撃に起因する波形だけでなく、ノイズである非着地衝撃による波形も含むことになり、ウェアラブル機器は、慣性センサにより取得された運動波形データからユーザの運動状態を正しく判定できなくなる。
【0006】
上記課題に鑑み、本開示は、ノイズを含む運動波形データからノイズを除去するための技術を提供することである。
【課題を解決するための手段】
【0007】
上記課題を解決するため、本開示の一態様は、ノイズ有り運動波形データを取得する取得部と、訓練済み生成モデルを利用して、前記ノイズ有り運動波形データに基づいてフィルタ寄与率を決定するフィルタ寄与率決定部と、前記決定したフィルタ寄与率と前記ノイズ有り運動波形データとに基づいてノイズ無し運動波形データを生成するノイズ除去部と、を有し、前記ノイズ除去部は、フィルタリングされたノイズ有り運動波形データに前記フィルタ寄与率Rを適用することによって第1の中間運動波形データを生成し、前記ノイズ有り運動波形データに(1-R)を適用することによって第2の中間運動波形データを生成し、前記第1の中間運動波形データと前記第2の中間運動波形データとを合成し、前記ノイズ無し運動波形データを生成するノイズ波形除去装置に関する。
【発明の効果】
【0008】
本開示によると、ノイズを含む運動波形データからノイズを除去することができる。
【図面の簡単な説明】
【0009】
【
図1】本開示の一実施例によるノイズ波形除去装置及びモデル訓練装置を示す概略図である。
【
図2】本開示の一実施例によるノイズ有り運動波形及びノイズ無し運動波形を示す図である。
【
図3】本開示の一実施例によるノイズ波形除去装置のハードウェア構成を示すブロック図である。
【
図4】本開示の一実施例によるモデル訓練装置のハードウェア構成を示すブロック図である。
【
図5】本開示の一実施例によるノイズ波形除去処理を示す概略図である。
【
図6】本開示の一実施例によるノイズ波形除去装置の機能構成を示すブロック図である。
【
図7】本開示の一実施例によるノイズ波形除去処理を示すフローチャートである。
【
図8】本開示の一実施例によるモデル訓練装置の機能構成を示すブロック図である。
【
図9】本開示の一実施例によるモデル訓練処理を示す概略図である。
【
図10】本開示の他の実施例によるモデル訓練処理を示す概略図である。
【
図11】本開示の一実施例によるモデル訓練処理を示すフローチャートである。
【発明を実施するための形態】
【0010】
以下の実施例では、訓練済み生成モデルを利用して、非着地衝撃に起因するノイズを含むノイズ有り運動波形データからノイズを除去したノイズ無し運動波形データを生成するノイズ波形除去装置と、識別モデルを利用して当該生成モデルをGAN(Generative Adversarial Network)に従って訓練するモデル訓練装置とが開示される。
[本開示の概要]
後述される実施例を概略すると、
図1に示されるように、ノイズ波形除去装置100は、非着地衝撃に起因するノイズを含むノイズ有り運動波形データを訓練済み生成モデルに入力し、訓練済み生成モデルからフィルタ寄与率を取得する。ノイズ波形除去装置100は、フィルタ寄与率に従ってフィルタリングを実行し、ノイズ有り運動波形データからノイズを除去し、ノイズ無し運動波形データを生成する。例えば、運動波形を検知するウェアラブル機器によって、
図2(a)に示されるようなポーチ衝撃に起因するノイズ有り運動波形データが検出されると、ノイズ波形除去装置100は、
図2(b)に示されるように、訓練済み生成モデルから出力されたフィルタ寄与率に応じてフィルタリングを実行し、当該ノイズを除去したノイズ無し運動波形データを生成する。
【0011】
当該生成モデルは、モデル訓練装置200によってGANに従って訓練される。すなわち、モデル訓練装置200は、訓練用ノイズ有り運動波形データと訓練用ノイズ無し運動波形データとのペアから構成される訓練データ又は正解データを訓練データデータベース50から取得し、生成モデルと当該生成モデルに対応する識別モデルとをGANに従って訓練する。生成モデルは、訓練用ノイズ有り運動波形データからフィルタ寄与率を生成し、モデル訓練装置200は、出力されたフィルタ寄与率に応じて訓練用ノイズ有り運動波形データにフィルタリングを実行し、擬似ノイズ無し運動波形データを取得する。
【0012】
識別モデルは、擬似ノイズ無し運動波形データ、訓練用ノイズ有り運動波形データ及び訓練用ノイズ無し運動波形データの何れかを入力データとして取得すると、入力データが生成モデルによって生成された擬似データか、あるいは、訓練データであるか識別し、更に入力データがノイズを含むか否か識別する。モデル訓練装置100は、GANに従って、正しい識別結果を出力するように識別モデルを訓練すると共に、誤った識別結果が出力されるように生成モデルを訓練する。
【0013】
本開示によると、通常のGANの学習と異なり、出力波形を直接生成する代わりに、各時刻のローパスフィルタの適用強度を生成する。出力波形そのものの多様性に比べて、ローパスフィルタの適用強度の多様性は低いため、少数の訓練データによって生成モデルを訓練することが可能になる。また、生成モデルの出力をノイズ無し運動波形データでなく、フィルタ寄与率とすることによって、GANに固有のモード崩壊(mode collapse)の問題、すなわち、入力データに関わらず生成モデルが識別モデルを欺く特定のデータを出力するという問題を回避することが可能になる。
[ハードウェア構成]
ここで、ノイズ波形除去装置100は、例えば、ウェアラブル機器に搭載され、
図3に示されるようなハードウェア構成を有してもよい。すなわち、ノイズ波形除去装置100は、CPU(Central Processing Unit)101、メモリ装置102、補助記憶装置103、センサ104、通信装置105及び操作手段106を有する。
【0014】
ノイズ波形除去装置100における後述される各種機能及び処理を実現するプログラム又は命令を含む各種コンピュータプログラムは、補助記憶装置103にインストールされ、メモリ装置102は、ノイズ波形除去装置100の起動指示があった場合に、補助記憶装置103からプログラムやデータを読み出して格納する。補助記憶装置103及びメモリ装置102は、プログラム又は命令を格納する非一時的なコンピュータ可読記憶媒体として実現される。プロセッサとして機能するCPU101は、メモリ装置102に格納されたプログラムやプログラムを実行するのに必要なパラメータなどの各種データに従って、センサ104から取得したセンサデータに基づきノイズ波形除去装置100の各種機能及び処理を実行する。センサ104は、加速度センサ、ジャイロセンサなどであってもよく、ユーザの移動に関連する各種データを検知する。通信装置105は、センサデータをスマートフォン、スマートウォッチなどの他の情報端末に送信する。操作手段106は、ノイズ波形除去装置100を搭載するウェアラブル機器の電源オン/オフのためのスイッチ、電源オン/オフ状態を示すランプ、設定ボタン、表示パネルなどであってもよい。
【0015】
一方、モデル訓練装置200は、例えば、パーソナルコンピュータ、サーバなどの計算装置であってもよく、バスBを介し相互接続されるドライブ装置201、補助記憶装置202、メモリ装置203、CPU204、インタフェース装置205及び通信装置206を有する。
【0016】
モデル訓練装置200における後述される各種機能及び処理を実現するプログラム又は命令を含む各種コンピュータプログラムは、CD-ROM(Compact Disk-Read Only Memory)などの記録媒体207によって提供されてもよい。プログラムを記憶した記録媒体207がドライブ装置201にセットされると、プログラムが記録媒体207からドライブ装置201を介して補助記憶装置202にインストールされる。但し、プログラムのインストールは必ずしも記録媒体207により行う必要はなく、ネットワークなどを介し何れかの外部装置からダウンロードするようにしてもよい。補助記憶装置202は、インストールされたプログラムを格納すると共に、必要なファイルやデータなどを格納する。メモリ装置203は、プログラムの起動指示があった場合に、補助記憶装置202からプログラムやデータを読み出して格納する。補助記憶装置202及びメモリ装置203は、プログラム又は命令を格納する非一時的なコンピュータ可読記憶媒体として実現される。プロセッサとして機能するCPU204は、メモリ装置203に格納されたプログラムやプログラムを実行するのに必要なパラメータなどの各種データに従って、モデル訓練装置200の各種機能及び処理を実行する。インタフェース装置205は、キーボード、マウスなどの入力装置、ディスプレイなどの出力装置などであり、ユーザとのユーザインタフェースとして用いられる。通信装置206は、外部装置と通信するための各種通信処理を実行する。
【0017】
しかしながら、ノイズ波形除去装置100及びモデル訓練装置200は、上述したハードウェア構成に限定されるものでなく、例えば、ノイズ波形除去装置100及びモデル訓練装置200による機能及び処理の1つ以上を実現する1つ以上の回路などの他の何れか適切なハードウェア構成により実現されてもよい。
[ノイズ波形除去装置]
次に、
図5及び6を参照して、本開示の一実施例によるノイズ波形除去装置100を説明する。
図5は、本開示の一実施例によるノイズ波形除去処理を示す概略図である。
【0018】
図5に示されるように、ノイズ波形除去装置100によると、着地衝撃に起因する波形部分と、ウェアラブル機器を入れたポーチとの接触による非着地衝撃に起因する波形部分とを含むノイズ有り運動波形データが慣性センサ(例えば、加速度センサ、ジャイロセンサなど)によって検知されると、ノイズ有り運動波形データは、訓練済み生成モデルに入力されると共に、波形全体にローパスフィルタリングが適用される。本実施例では、フィルタリング手法としてローパスフィルタリングが適用されるが、本開示はこれに限定されず、除去対象のノイズに適した他の何れか適切なタイプのフィルタリングが利用されてもよい。
【0019】
本開示による生成モデルは、非着地衝撃によるノイズ有り運動波形データのサンプリングデータから、ノイズを除去するために当該時刻においてノイズ有り運動波形データにどの程度ローパスフィルタリングが適用されるべきかを示すローパスフィルタ寄与率を予測する。
【0020】
ノイズ波形除去装置100は、ローパスフィルタリングされたノイズ有り運動波形データにローパスフィルタ寄与率Rを乗算して第1の中間運動波形データを導出し、更にノイズ有り運動波形データに(1-R)を乗算して第2の中間運動波形データを導出する。そして、ノイズ波形除去装置100は、第1の中間運動波形データと第2の中間運動波形データとの和をとり、図示されるようなポーチ衝撃に起因するノイズが除去されたノイズ無し運動波形データを取得する。
【0021】
図6は、本開示の一実施例によるノイズ波形除去装置100の機能構成を示すブロック図である。
図6に示されるように、ノイズ波形除去装置100は、測定データ取得部110、ローパスフィルタ寄与率決定部120及びノイズ除去部130を有する。
【0022】
測定データ取得部110は、ノイズ有り運動波形データを取得する。具体的には、測定データ取得部110は、ユーザによって携行される慣性センサ(例えば、加速度センサ、ジャイロセンサなど)からユーザの運動波形データ、すなわち、ノイズ有り運動波形データを検知し、ローパスフィルタ寄与率決定部120及びノイズ除去部130に提供する。例えば、運動波形データは、加速度データ及び/又は角速度データから構成される。
【0023】
ローパスフィルタ寄与率決定部120は、訓練済み生成モデルを利用して、ノイズ有り運動波形データに基づいてローパスフィルタ寄与率を決定する。具体的には、ローパスフィルタ寄与率決定部120は、所定のサンプリングレートによって抽出されたノイズ有り運動波形データを訓練済み生成モデルに入力し、当該ノイズ有り運動波形データから非着地衝撃に起因するノイズを除去するのに適用されるローパスフィルタリングのローパスフィルタ寄与率R(0≦R≦1)を決定する。
【0024】
ローパスフィルタ寄与率Rは、ローパスフィルタリングの適用の程度又は強さを示す値であり、Rが1に近いほど、ノイズ有り運動波形データにより強いローパスフィルタリングが適用され、Rが0に近いほど、ノイズ有り運動波形データにより弱いローパスフィルタリングが適用される。例えば、非所望波形としての非着地衝撃に起因した波形部分には、より強いローパスフィルタリングが適用されるように1に近いRが割り当てられる。他方、所望波形としての着地衝撃に起因した波形部分には、当該波形部分を維持するように0に近いRが割り当てられる。
【0025】
ノイズ除去部130は、決定したローパスフィルタ寄与率とノイズ有り運動波形データとに基づいてノイズ無し運動波形データを生成する。具体的には、ノイズ除去部130は、ローパスフィルタ寄与率決定部120によって決定されたローパスフィルタ寄与率に従ってノイズ有り運動波形データに対してローパスフィルタリングを実行し、非着地衝撃に対応する波形部分をより強力にフィルタリングし、着地衝撃に対応する波形部分を維持した擬似ノイズ無し運動波形データを生成する。すなわち、ノイズ除去部130によって出力されたノイズ無し運動波形データは、ノイズ有り運動波形データから、ユーザの着地衝撃以外の衝撃に起因して慣性センサによって検出されたノイズを除去した運動波形データに対応しうる。
【0026】
一実施例では、ノイズ除去部130は、ローパスフィルタリングされたノイズ有り運動波形データにローパスフィルタ寄与率Rを適用することによって第1の中間運動波形データを生成し、ノイズ有り運動波形データに(1-R)を適用することによって第2の中間運動波形データを生成し、第1の中間運動波形データと第2の中間運動波形データとを合成し、擬似ノイズ無し運動波形データを生成してもよい。すなわち、
図5に示されるように、ノイズ除去部130は、測定データ取得部110から取得したノイズ有り運動波形データ全体に対してローパスフィルタリングを実行し、図示されるようなローパスフィルタリングされたノイズ有り運動波形データを取得する。そして、ノイズ除去部130は、訓練済み生成モデルから取得したローパスフィルタ寄与率Rとローパスフィルタリングされたノイズ有り運動波形データとを乗算し、第1の中間運動波形データを取得する。また、ノイズ除去部130は、ローパスフィルタリングされていないノイズ有り運動波形データと(1-R)とを乗算し、第2の中間運動波形データを取得する。そして、ノイズ除去部130は、第1の中間運動波形データと第2の中間運動波形データとの和をとり、非着地衝撃に対応する波形部分、すなわち、ノイズをローパスフィルタリングした擬似ノイズ無し運動波形データを取得することができる。なお、本実施例で述べた擬似ノイズ無し運動波形データの取得の方策は上述した方法に限定されるものではなく、例えばローパスフィルタのサイズを変更したり、ローパスフィルタ寄与率Rの係数を0≦R≦1の間以外の範囲に設定したり等して、算出方法を変えたものであってもよい。例えば、ローパスフィルタの寄与率R´の係数を0<R≦1として、ローパスフィルタ寄与率決定部120で寄与率R´を決定し、ノイズ有り運動データと寄与率R´と全体にローパスフィルタを掛けた場合のローパスフィルタ強度とに基づいて擬似ノイズ無し運動波形データを取得するようにしてもよい。
[ノイズ波形除去処理]
次に、
図7を参照して、本開示の一実施例によるノイズ波形除去処理を説明する。当該ノイズ波形除去処理は、上述したノイズ波形除去装置100によって実現され、例えば、プロセッサがプログラム又は命令を実行することによって実現されてもよい。
図7は、本開示の一実施例によるノイズ波形除去処理を示すフローチャートである。
【0027】
図7に示されるように、ステップS101において、ノイズ波形除去装置100は、ノイズ有り運動波形データを取得する。具体的には、ノイズ波形除去装置100は、ユーザが携行するウェアラブル機器に搭載された加速度センサ、ジャイロセンサなどの慣性センサから運動波形データを取得する。当該運動波形データは、着地衝撃に対応する波形部分だけでなく、慣性センサを搭載したウェアラブル機器と当該ウェアラブル機器を収納したポーチとの接触に起因する非着地衝撃に対応する波形部分とを含みうる。運動波形データは、加速度センサによって検知される空間上の3つの軸に関する運動波形データを含んでもよい。
【0028】
ステップS102において、ノイズ波形除去装置100は、処理対象次元のノイズ有り運動波形データを抽出する。例えば、ノイズ有り運動波形データが空間上の3つの軸の各軸に関する運動波形データから構成される場合、ノイズ波形除去装置100は、各軸に対して以降のステップS102~S106を実行してもよい。
【0029】
ステップS103において、ノイズ波形除去装置100は、抽出したノイズ有り運動波形データに対してローパスフィルタリングを適用する。具体的には、ノイズ波形除去装置100は、ノイズ有り運動波形データの波形全体に対してローパスフィルタリングを実行する。
【0030】
ステップS104において、ノイズ波形除去装置100は、訓練済み生成モデルに基準時刻のノイズ有り運動波形データを入力し、当該基準時刻のローパスフィルタ寄与率R(0≦R≦1)を決定する。例えば、Rが1に近いほど、当該波形部分に対してより強くローパスフィルタリングが適用され、Rが0に近いほど、当該波形部分に対してより弱くローパスフィルタリングが適用される。
【0031】
ステップS105において、ノイズ波形除去装置100は、ローパスフィルタリングされたノイズ有り運動波形データにRを乗算し、第1の中間運動波形データを取得する。また、ノイズ波形除去装置100は、ノイズ有り運動波形データに(1-R)を乗算し、第2の中間運動波形データを取得する。そして、ノイズ波形除去装置100は、第1の中間運動波形データと第2の中間運動波形データとを合成し、着地衝撃に起因する波形部分が維持され、非着地衝撃に起因する波形部分がフィルタリングされたノイズ無し運動波形データを取得する。
【0032】
ステップS106において、ノイズ波形除去装置100は、処理対象の全ての次元が処理されたか判断する。全ての次元が処理された場合(S106:YES)、当該ノイズ波形除去処理は終了され、未処理の次元がある場合(S106:NO)、ノイズ波形除去装置100は、ステップS102~S106を繰り返す。
[モデル訓練装置]
次に、
図8~10を参照して、本開示の一実施例によるモデル訓練装置200を説明する。モデル訓練装置200は、上述したノイズ波形除去装置100に提供する生成モデルを訓練する。具体的には、モデル訓練装置200は、ノイズ有り運動波形データからローパスフィルタ寄与率を決定する生成モデルをGANに従って訓練する。すなわち、モデル訓練装置200は、生成モデルに対応して、生成モデルからの出力データと訓練データとの何れかを入力データとして取得し、入力データが出力データ又は訓練データの何れであるか識別する識別モデルを準備する。そして、モデル訓練装置200は、GANに従って、正しい識別結果を出力するよう識別モデルを訓練し、識別モデルが誤った識別結果を出力するよう生成モデルを訓練する。本実施例では、フィルタリング手法としてローパスフィルタリングが適用されるが、本開示はこれに限定されず、除去対象のノイズに適した他の何れか適切なタイプのフィルタリングが利用されてもよい。
【0033】
図8は、本開示の一実施例によるモデル訓練装置200の機能構成を示すブロック図である。
図8に示されるように、モデル訓練装置200は、訓練データ格納部210及びモデル訓練部220を有する。
【0034】
訓練データ格納部210は、訓練用ノイズ有り運動波形データと訓練用ノイズ無し運動波形データとを含む訓練データを格納する。当該訓練データは、正解データと呼ばれてもよい。例えば、ユーザがポーチに収容したウェアラブル機器と、ポーチなどに収容することなくユーザに装着されたウェアラブル機器とを一緒に携行してウォーキング、ジョギングなどの運動を行い、2つのウェアラブル機器から同時に運動波形データを収集することによって、前者のウェアラブル機器の慣性センサからは訓練用ノイズ有り運動波形データが取得され、後者のウェアラブル機器の慣性センサからは訓練用ノイズ無し運動波形データが取得されうる。
【0035】
モデル訓練部220は、訓練用ノイズ有り運動波形データに基づいてローパスフィルタ寄与率を決定する生成モデルと、ローパスフィルタ寄与率及び訓練用ノイズ有り運動波形データに基づいて生成された擬似ノイズ無し運動波形データと訓練データとを識別する識別モデルとをGANに従って訓練する。
【0036】
具体的には、
図9に示されるように、モデル訓練部220は、訓練用ノイズ有り運動波形データを訓練対象の生成モデルに入力し、ローパスフィルタ寄与率Rを取得する。例えば、生成モデルは、ニューラルネットワークにより実現されてもよい。モデル訓練部220は、訓練用ノイズ有り運動波形データの全体に対してローパスフィルタリングを実行し、取得したローパスフィルタ寄与率Rとローパスフィルタリングされた訓練用ノイズ有り運動波形データとに基づき、擬似ノイズ無し運動波形データを取得する。例えば、モデル訓練部220は、ローパスフィルタリングされた訓練用ノイズ有り運動波形データにローパスフィルタ寄与率Rを適用することによって第1の中間運動波形データを生成し、訓練用ノイズ有り運動波形データに(1-R)を適用することによって第2の中間運動波形データを生成し、第1の中間運動波形データと第2の中間運動波形データとを合成し、擬似ノイズ無し運動波形データを生成してもよい。
【0037】
そして、モデル訓練部220は、生成モデルから出力された擬似ノイズ無し運動波形データ、訓練用ノイズ有り運動波形データ及び訓練用ノイズ無し運動波形データの何れかを入力データとして取得し、入力データが擬似データ(False)又は訓練データ(Real)であるか識別すると共に、入力データがノイズ有り(Noise)又はノイズ無し(Normal)であるか識別する訓練対象の識別モデルを訓練する。
【0038】
具体的には、識別モデルが擬似ノイズ無し運動波形データを入力データとして取得した場合、モデル訓練部220は、入力データが擬似データ(False)であるとの識別結果を出力するよう識別モデルを訓練する。
【0039】
また、識別モデルが訓練用ノイズ有り運動波形データを入力データとして取得した場合、モデル訓練部220は、入力データが訓練データ(Real)であって、ノイズ有り(Noise)であるとの識別結果を出力するよう識別モデルを訓練する。
【0040】
また、識別モデルが訓練用ノイズ無し運動波形データを入力データとして取得した場合、モデル訓練部220は、入力データが訓練データ(Real)であって、ノイズ無し(Normal)であるとの識別結果を出力するよう識別モデルを訓練する。
【0041】
なお、実際上は、識別結果はReal/False及びNoise/Normalのブール値である必要はなく、確信度を示す実数値であってもよい。
【0042】
一方、モデル訓練部220は、擬似ノイズ無し運動波形データが識別モデルによって訓練データ(Real)であって、ノイズ無し(Normal)であるとの識別結果を出力するよう生成モデルを訓練する。すなわち、生成モデルは、識別モデルが誤った識別結果を出力するよう訓練される。
【0043】
例えば、生成モデル及び識別モデルがニューラルネットワークから構成される場合、モデル訓練部220は、識別モデルが正しい識別結果を出力するように、誤差逆伝播法に従って識別モデルのパラメータを更新し、識別モデルが誤った識別結果を出力するように、誤差逆伝播法に従って生成モデルのパラメータを更新してもよい。
【0044】
そして、終了条件を充足するまで、モデル訓練部220は、上述したモデル訓練処理を繰り返してもよい。終了条件としては、例えば、準備した全ての訓練データに対してモデル訓練処理を実行したことなどであってもよい。
【0045】
本実施例によると、通常のGANの学習と異なり、出力波形を直接生成する代わりに、各時刻のローパスフィルタの適用強度を生成する。出力波形そのものの多様性に比べて、ローパスフィルタの適用強度の多様性は低いため、比較的少ない訓練データによって生成モデルを訓練することが可能になると共に、生成モデルの出力をノイズ無し運動波形データでなく、ローパスフィルタ寄与率とすることによって、GANに固有のモード崩壊の問題、すなわち、入力データに関わらず識別モデルを欺く特定のデータを出力し続けるという問題を回避することが可能になる。
【0046】
一実施例では、モデル訓練部220は、識別モデルの識別結果と各時刻のローパスフィルタ寄与率の総和とに基づき生成モデル及び識別モデルを訓練してもよい。具体的には、
図10に示されるように、所定のサンプリンレートによりサンプリングされた訓練用ノイズ有り運動波形データに対して、モデル訓練部220は、各サンプルに対応するローパスフィルタ寄与率を取得すると、取得したローパスフィルタ寄与率を合計し、ローパスフィルタ寄与率の総和を算出する。モデル訓練部220は、ローパスフィルタ寄与率の総和TRが小さくなるように、生成モデル及び識別モデルを訓練してもよい。本実施例によると、ノイズの影響を受けない波形部分については、ローパスフィルタリングの影響を抑えることが可能になる。
[モデル訓練処理]
次に、
図11を参照して、本開示の一実施例によるモデル訓練処理を説明する。当該モデル訓練処理は、上述したモデル訓練装置200によって実現され、例えば、プロセッサがプログラム又は命令を実行することによって実現されてもよい。
図11は、本開示の一実施例によるモデル訓練処理を示すフローチャートである。
【0047】
図11に示されるように、ステップS201において、モデル訓練装置200は、訓練用ノイズ有り運動波形データの波形全体に対してローパスフィルタリングを実行する。
【0048】
ステップS202において、モデル訓練装置200は、訓練対象の生成モデルに訓練用ノイズ有り運動波形データを入力し、ローパスフィルタ寄与率を取得する。
【0049】
ステップS203において、モデル訓練装置200は、訓練用ノイズ有り運動波形データにローパスフィルタ寄与率を乗算し、擬似ノイズ無し運動波形データを生成する。
【0050】
ステップS204において、モデル訓練装置200は、擬似ノイズ無し運動波形データと訓練データとの何れかを入力データとして訓練対象の識別モデルに入力し、入力データが擬似データ又は訓練データであるかの識別結果を取得する。
【0051】
ステップS205において、モデル訓練装置200は、識別モデルが正しい識別結果を出力するよう識別モデルを訓練し、識別モデルが誤った識別結果を出力するよう生成モデルを訓練する。具体的には、生成モデル及び識別モデルがニューラルネットワークにより実現される場合、モデル訓練装置200は、識別モデルが正しい識別結果を出力するよう識別モデルのパラメータを更新し、識別モデルが誤った識別結果を出力するよう生成モデルのパラメータを更新する。
【0052】
ステップS206において、モデル訓練装置200は、終了条件を充足したか判断する。例えば、終了条件は、所定数の訓練データを処理したことであってもよい。終了条件を充足しない場合(S206:NO)、モデル訓練装置200は、次の訓練データに対してステップS201~S206を繰り返す。他方、終了条件を充足する場合(S206:YES)、モデル訓練装置200は、当該処理を終了し、取得した生成モデルを訓練済み生成モデルとしてノイズ波形除去装置100に提供する。
【0053】
以上、本発明の実施例について詳述したが、本発明は上述した特定の実施形態に限定されるものではなく、特許請求の範囲に記載された本発明の要旨の範囲内において、種々の変形・変更が可能である。
【0054】
以下に、本願出願の当初の特許請求の範囲に記載された発明を付記する。
[付記]
本開示の一態様では、
ノイズ有り運動波形データを取得する取得部と、
訓練済み生成モデルを利用して、前記ノイズ有り運動波形データに基づいてフィルタ寄与率を決定するフィルタ寄与率決定部と、
前記決定したフィルタ寄与率と前記ノイズ有り運動波形データとに基づいてノイズ無し運動波形データを生成するノイズ除去部と、
を有するノイズ波形除去装置が提供される。
【0055】
一実施例では、前記ノイズ除去部は、フィルタリングされたノイズ有り運動波形データに前記フィルタ寄与率Rを適用することによって第1の中間運動波形データを生成し、前記ノイズ有り運動波形データに(1-R)を適用することによって第2の中間運動波形データを生成し、前記第1の中間運動波形データと前記第2の中間運動波形データとを合成し、前記ノイズ無し運動波形データを生成してもよい。
【0056】
一実施例では、前記取得部は、ユーザによって携行される慣性センサから前記ノイズ有り運動波形データを取得してもよい。
【0057】
一実施例では、前記ノイズ無し運動波形データは、前記ノイズ有り運動波形データから、前記ユーザの着地衝撃以外の衝撃に起因して前記慣性センサによって検出されたノイズを除去した運動波形データに対応してもよい。
【0058】
本開示の他の態様では、
訓練用ノイズ有り運動波形データと訓練用ノイズ無し運動波形データとを含む訓練データを格納する訓練データ格納部と、
前記訓練用ノイズ有り運動波形データに基づいてフィルタ寄与率を決定する生成モデルと、前記フィルタ寄与率及び前記訓練用ノイズ有り運動波形データに基づいて生成された擬似ノイズ無し運動波形データと前記訓練データとを識別する識別モデルとをGAN(Generative Adversarial Network)に従って訓練するモデル訓練部と、
を有するモデル訓練装置が提供される。
【0059】
一実施例では、前記モデル訓練部は、フィルタリングされた訓練用ノイズ有り運動波形データに前記フィルタ寄与率Rを適用することによって第1の中間運動波形データを生成し、前記訓練用ノイズ有り運動波形データに(1-R)を適用することによって第2の中間運動波形データを生成し、前記第1の中間運動波形データと前記第2の中間運動波形データとを合成し、前記擬似ノイズ無し運動波形データを生成してもよい。
【0060】
一実施例では、前記識別モデルは、前記擬似ノイズ無し運動波形データ、前記訓練用ノイズ有り運動波形データ及び前記訓練用ノイズ無し運動波形データの1つを入力データとして取得し、前記入力データが擬似データ又は訓練データであるか、及び、ノイズ有り又はノイズ無しであるか識別してもよい。
【0061】
一実施例では、前記モデル訓練部は、正しい識別結果を出力するよう前記識別モデルを訓練し、前記識別モデルが誤った識別結果を出力するよう前記生成モデルを訓練してもよい。
【0062】
一実施例では、前記モデル訓練部は、前記識別モデルの識別結果と各時刻のフィルタ寄与率の総和とに基づき前記生成モデル及び前記識別モデルを訓練してもよい。
【0063】
本開示の他の態様では、
1つ以上のプロセッサが、ノイズ有り運動波形データを取得するステップと、
前記1つ以上のプロセッサが、訓練済み生成モデルを利用して、前記ノイズ有り運動波形データに基づいてフィルタ寄与率を決定するステップと、
前記1つ以上のプロセッサが、前記決定したフィルタ寄与率と前記ノイズ有り運動波形データとに基づいてノイズ無し運動波形データを生成するステップと、
を有するノイズ波形除去方法が提供される。
【0064】
本開示の他の態様では、
1つ以上のプロセッサが、訓練用ノイズ有り運動波形データと訓練用ノイズ無し運動波形データとを含む訓練データを格納するステップと、
前記1つ以上のプロセッサが、前記訓練用ノイズ有り運動波形データに基づいてフィルタ寄与率を決定する生成モデルと、前記フィルタ寄与率及び前記訓練用ノイズ有り運動波形データに基づいて生成された擬似ノイズ無し運動波形データと前記訓練データとを識別する識別モデルとをGAN(Generative Adversarial Network)に従って訓練するステップと、
を有するモデル訓練方法が提供される。
【0065】
本開示の他の態様では、
ノイズ有り運動波形データからフィルタ寄与率を決定する生成モデルであって、
前記生成モデルは、訓練用ノイズ有り運動波形データに基づいてフィルタ寄与率を決定し、前記フィルタ寄与率と前記訓練用ノイズ有り運動波形データとに基づいて生成された擬似ノイズ無し運動波形データと訓練データとを識別する識別モデルを利用したGAN(Generative Adversarial Network)に従って訓練される生成モデルが提供されてもよい。
【0066】
本開示の他の態様では、
慣性センサと、
上述したノイズ波形除去装置と、
を有するウェアラブル機器が提供されてもよい。
【符号の説明】
【0067】
50 訓練データデータベース
100 ノイズ波形除去装置
110 測定データ取得部
120 ローパスフィルタ寄与率決定部
130 ノイズ除去部
200 モデル訓練装置
210 訓練データ格納部
220 モデル訓練部