IP Force 特許公報掲載プロジェクト 2022.1.31 β版

知財求人 - 知財ポータルサイト「IP Force」

▶ 株式会社島津製作所の特許一覧

特許7752114データ計測システムおよび計測データの提示方法
<>
  • 特許-データ計測システムおよび計測データの提示方法 図1
  • 特許-データ計測システムおよび計測データの提示方法 図2
  • 特許-データ計測システムおよび計測データの提示方法 図3
  • 特許-データ計測システムおよび計測データの提示方法 図4
  • 特許-データ計測システムおよび計測データの提示方法 図5
  • 特許-データ計測システムおよび計測データの提示方法 図6
  • 特許-データ計測システムおよび計測データの提示方法 図7
  • 特許-データ計測システムおよび計測データの提示方法 図8
< >
(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】
(24)【登録日】2025-10-01
(45)【発行日】2025-10-09
(54)【発明の名称】データ計測システムおよび計測データの提示方法
(51)【国際特許分類】
   H04Q 9/00 20060101AFI20251002BHJP
   G01D 9/00 20060101ALI20251002BHJP
   G08C 15/00 20060101ALI20251002BHJP
   G08C 15/06 20060101ALI20251002BHJP
   H04L 67/125 20220101ALI20251002BHJP
【FI】
H04Q9/00 311J
G01D9/00 A
G08C15/00 E
G08C15/06 H
H04L67/125
【請求項の数】 12
(21)【出願番号】P 2022534922
(86)(22)【出願日】2021-05-11
(86)【国際出願番号】 JP2021017850
(87)【国際公開番号】W WO2022009515
(87)【国際公開日】2022-01-13
【審査請求日】2022-12-19
【審判番号】
【審判請求日】2024-10-29
(31)【優先権主張番号】P 2020116405
(32)【優先日】2020-07-06
(33)【優先権主張国・地域又は機関】JP
(73)【特許権者】
【識別番号】000001993
【氏名又は名称】株式会社島津製作所
(74)【代理人】
【識別番号】110001195
【氏名又は名称】弁理士法人深見特許事務所
(72)【発明者】
【氏名】古田 雅史
(72)【発明者】
【氏名】村田 耕一
(72)【発明者】
【氏名】吉田 康紀
(72)【発明者】
【氏名】浦岡 泰之
(72)【発明者】
【氏名】木瀬 香保利
【合議体】
【審判長】丸山 高政
【審判官】寺谷 大亮
【審判官】松原 徳久
(56)【参考文献】
【文献】国際公開第2017/221968(WO,A1)
【文献】特開2019-41156(JP,A)
(58)【調査した分野】(Int.Cl.,DB名)
H04Q 9/00
(57)【特許請求の範囲】
【請求項1】
第1装置および第2装置を含む複数の計測装置と、
前記複数の計測装置に対して第1信号を送信する送信機と、
前記複数の計測装置から取得したデータを処理するデータ処理装置とを備え、
各計測装置は、
前記第1信号を受信した時刻の前後にわたる計測データを取得し、
取得した前記計測データとともに前記第1信号を独立して、または前記計測データに重畳させる形で記憶し、
前記データ処理装置は、
前記複数の計測装置の各々から、第1時刻に送信された前記第1信号に対応する開始信号と、前記第1時刻よりも時間的に遅延した第2時刻に送信された前記第1信号に対応する終了信号との間に計測された計測データを取得し、
当該取得したデータにおける開始信号同士および終了信号同士を、前記第1装置における開始信号から終了信号までの第1間隔と、前記第2装置における開始信号から終了信号までの第2間隔とが一致するように時間的に合致させて、前記複数の計測装置の計測データをユーザに提示し
記複数の計測装置の各々は、環境情報を計測する環境センサ、生体情報を計測する生体センサ、および、画像を撮影する画像センサのいずれかのセンサを含み、
前記複数の計測装置から取得した計測データは、前記環境センサ、前記生体センサおよび前記画像センサによって検出されるデータのうち、少なくとも2種類のデータを含む、データ計測システム。
【請求項2】
前記複数の計測装置の計測データをユーザに表示するための表示装置をさらに備える、請求項1に記載のデータ計測システム。
【請求項3】
前記第1装置における開始信号から終了信号までの第1間隔が、前記第2装置における開始信号から終了信号までの第2間隔と異なる場合には、前記データ処理装置は、前記第2間隔が前記第1間隔となるように、前記第2装置の計測データを補正する、請求項1に記載のデータ計測システム。
【請求項4】
前記送信機は、前記複数の計測装置のうちのいずれかの計測装置、または前記データ処理装置に含まれる、請求項1に記載のデータ計測システム。
【請求項5】
前記複数の計測装置の各々は、当該計測装置で計測された計測データを記憶するための記憶装置を含み、前記センサから前記記憶装置までの信号伝達手段を有線で行なう、請求項1に記載のデータ計測システム。
【請求項6】
前記複数の計測装置の各々において、前記第1信号のサンプリングレートは、前記計測データのサンプリングレート以上である、請求項1に記載のデータ計測システム。
【請求項7】
前記第1信号は、前記計測データに統合されて記憶される、請求項1に記載のデータ計測システム。
【請求項8】
前記送信機から送信された前記第1信号を受信したことに応答して、前記複数の計測装置のうちの対応する計測装置に第2信号を送信する少なくとも1つの受信機をさらに備え、
前記開始信号は、前記第1時刻に送信された前記第1信号に対応する前記第2信号であり、
前記終了信号は、前記第2時刻に送信された前記第1信号に対応する前記第2信号であり、
前記複数の計測装置は、ビデオカメラを含み、
前記ビデオカメラに対応する受信機は、発光装置または音声出力装置である、請求項1に記載のデータ計測システム。
【請求項9】
各計測装置は、前記第2信号を受信した時刻の前後にわたる計測データを取得する、請求項8に記載のデータ計測システム。
【請求項10】
請求項8に記載のデータ計測システムに用いられる、受信機。
【請求項11】
請求項1に記載のデータ計測システムに用いられる、データ処理装置。
【請求項12】
第1装置および第2装置を含む複数の計測装置を含むデータ計測システムにおいて、計測データを処理する方法であって、
前記データ計測システムは、送信機と、データ処理装置とを備え、
前記方法は、
前記送信機によって、前記複数の計測装置に対して第1信号を送信するステップと、
各計測装置により、前記第1信号を受信した時刻の前後にわたる計測データを取得するステップと、
取得した前記計測データとともに前記第1信号を独立して、または前記計測データに重畳させる形で記憶するステップと、
前記データ処理装置において、前記複数の計測装置の各々から、第1時刻に送信された前記第1信号に対応する開始信号と、前記第1時刻よりも時間的に遅延した第2時刻に送信された前記第1信号に対応する終了信号との間に計測された計測データを取得するステップと、
前記データ処理装置において、取得したデータにおける開始信号同士および終了信号同士を、前記第1装置における開始信号から終了信号までの第1間隔と、前記第2装置における開始信号から終了信号までの第2間隔とが一致するように時間的に合致させて、前記複数の計測装置の計測データをユーザに提示するステップとを含み、
前記複数の計測装置の各々は、環境情報を計測する環境センサ、生体情報を計測する生体センサ、および、画像を撮影する画像センサのいずれかのセンサを含み、
前記複数の計測装置から取得した前記計測データは、前記環境センサ、前記生体センサおよび前記画像センサによって検出されるデータのうち、少なくとも2種類のデータを含む、方法。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、データ計測システムおよび計測データの提示方法に関し、より特定的には、複数の計測装置によって計測されたデータを時系列的に同期させて提示する技術に関する。
【背景技術】
【0002】
近年、人の動作解析に関する研究が進められている。たとえば、以下の非特許文献1には、作業者に取り付けた複数のモーションセンサおよび生体センサと、作業者の作業中の画像とに基づいて作業姿勢を可視化するシステムが紹介されている。非特許文献1に示されるシステムは、作業中に作業者に加わる負荷を認識および解析して作業環境を改善することによって、生産性の向上を図ることを目的としている。
【0003】
また、非特許文献2には、上記のようなシステムに適用可能な生体センサの一例である視線計測装置が開示されている。非特許文献2に開示されている視線計測装置においては、計測の開始および終了させるための外部信号の入力端子が備えられている。
【先行技術文献】
【非特許文献】
【0004】
【文献】Creact社 CAPTIV-L7000ソリューション,https://www.creact.co.jp/item/measure/ergonomics/captiv-l7000/l7000-top
【文献】Tobii社 Tobii Pro Glasses 2 User's Manual,https://www.tobiipro.com/siteassets/tobii-pro/user-manuals/tobii-pro-glasses-2-user-manual.pdf/?v=1.1.3
【発明の概要】
【発明が解決しようとする課題】
【0005】
上記のような動作解析においては、被験者の動作を記録するための画像情報、体温および脈拍などの被験者の状態を示す生体情報、ならびに、気温および騒音などの被験者が置かれた環境の状態を示す環境情報との時系列的な関係を把握することが重要となる。一方で、これらの情報はカメラ、生体センサおよび温湿度センサなど個別の計測装置で取得される場合が多い。
【0006】
複数の計測装置によって取得された計測データを時系列的に同期させる手法として、たとえば、各計測装置が有する計時機能によるタイムスタンプを参照し、取得した計測データを、当該タイムスタンプが同時刻であることを根拠に同期させる場合がある。この場合、独立して動作しているすべての計測装置の時刻が一致していることは稀であり、各計測装置における時刻は、実際の時刻に対して少なからず時間的なオフセットが生じ得る。
【0007】
また、各計測装置において計時機能を行なうためのクロック信号のクロック周波数についても、クロック信号を生成するための発振器のクロック周波数に少なからず誤差が生じ得る。そのため、仮に計測装置間での開始時刻のオフセットがない場合であっても、同じクロック数で示される時間が、計測装置ごとにずれてしまう可能性がある。そうすると、各計測装置の開始時刻が一致していた場合であっても、特に計測期間が長くなるほど計測データ間の時刻のずれが大きくなり、データ間の関連度合いが低下し得る。
【0008】
このような課題に対して、システムに用いられるセンサおよびカメラのすべてを、共通の制御装置を用いて集中制御することによって計測データの同時性を担保することが考えられる。しかしながら、このようなシステムにおいては、制御装置およびセンサ/カメラを専用機器とすることが必要となる。そのため、市販のセンサ等を用いることができず汎用性が劣ってしまい、さらにシステム自体が大規模かつ高額になってしまう可能性がある。
【0009】
本発明は、上記のような課題を解決するためになされたものであって、その目的は、複数の計測装置から取得した計測データを収集して提示するシステムにおいて、比較的に簡便な手法で、取得した計測データを時系列的に同期させることである。
【課題を解決するための手段】
【0010】
本発明ある局面に従うデータ計測システムは、複数の計測装置と、送信機と、データ処理装置とを備える。送信機は、複数の計測装置に対して第1信号を送信する。データ処理装置は、複数の計測装置から取得したデータをユーザに提示する。データ処理装置は、複数の計測装置の各々から、第1時刻に送信された前記第1信号に対応する開始信号と、前記第1時刻よりも時間的に遅延した第2時刻に送信された前記第1信号に対応する終了信号との間に計測された計測データを取得し、当該取得したデータにおける開始信号同士および終了信号同士を時間的に合致させて、複数の計測装置の計測データをユーザに提示する。
【0011】
本発明の他の局面に従う方法は、複数の計測装置を含むデータ計測システムにおいて、計測データをユーザに提示する方法に関する。データ計測システムは、送信機と、データ処理装置とを備える。方法は、i)送信機によって、複数の計測装置に対して第1信号を送信するステップと、ii)データ処理装置において、複数の計測装置の各々から、第1時刻に送信された第1信号に対応する開始信号と、第1時刻よりも時間的に遅延した第2時刻に送信された第1信号に対応する終了信号との間に計測された計測データを取得するステップと、iii)データ処理装置において、取得したデータにおける開始信号同士および終了信号同士を時間的に合致させて、複数の計測装置の計測データをユーザに提示するステップとを含む。
【発明の効果】
【0012】
本発明に係るデータ計測システムによれば、共通の送信機から送信された第1信号(トリガ信号)に基づく開始信号から終了信号までの間の計測データが複数の計測装置の各々から取得され、取得された計測データは開始信号同士および終了信号同士を時間的に合致させてユーザに提示される。このように、各計測装置において開始信号および終了信号を基準として計測データを合致させて複数の計測データを時系列的に同期させることによって、計測データの同期精度を高めることができる。さらに、共通のトリガ信号を用いることで、外部入力を有する計測装置であれば、市販されているセンサ等を用いることができるため、比較的簡便にシステムを構築することができる。
【図面の簡単な説明】
【0013】
図1】実施の形態に係るデータ計測システムの全体ブロック図である。
図2】計測装置における計測データとマーカ信号との関係を説明するための図である。
図3】複数の計測装置の場合における、各計測データとマーカ信号との関係を説明するための図である。
図4】計測データにマーカ信号を重畳させた場合の波形の例を示す図である。
図5】カメラ画像におけるマーカ信号を説明するための図である。
図6】データ計測システムにおける表示の一例である。
図7】2つの計測データにおけるマーカ信号のタイミングが不一致の場合の補正処理を説明するための図である。
図8】データ計測システムにおける各機器の処理を説明するためのフローチャートである。
【発明を実施するための形態】
【0014】
以下、本発明の実施の形態について、図面を参照しながら詳細に説明する。なお、図中同一または相当部分には同一符号を付してその説明は繰り返さない。
【0015】
[データ計測システムの構成]
図1は実施の形態に係るデータ計測システム10の全体ブロック図である。図1を参照して、データ計測システム10は、信号送信機110と、複数の信号受信機120A,120B,120X(以下、包括的に「信号受信機120」とも称する。)と、計測装置130A,130Bと、ビデオカメラ130X,130Yと、データ処理装置150と、表示装置160とを備える。なお、以下の説明において、計測装置130A,130Bおよびビデオカメラ130X,130Yを、包括的に「計測装置130」とも称する。データ計測システム10は、複数の計測装置130から取得される、画像データを含む計測データを時系列的に同期させて表示する。データ計測システムは、たとえば、被験者あるいは観察対象物が受けるイベントと、当該イベントに起因して当該被験者あるいは対象物に生じる状態変化との関連を観察および解析するために用いられる。
【0016】
信号送信機110は、複数の計測装置130における計測データを同期させるために用いられるトリガ信号(第1信号)を送信する。信号送信機110は、たとえば、無線通信および/または有線通信を用いて、パルス状のトリガ信号を一斉送信(ブロードキャスト)する。本実施の形態においては、トリガ信号は、各計測装置の起動信号および計測開始信号ではなく、各計測装置における計測対象期間を特定するための信号であり、計測対象期間の開始時と終了時に送信される。基本的には、トリガ信号は、各計測装置130が起動され計測を実行している間に発信される。なお、トリガ信号は、必ずしもパルス信号に限られず、正弦波のような特定のパターンを有する信号、あるいは識別用のIDデータを含んだパケット信号などであってもよい。
【0017】
信号受信機120は、信号送信機110から送信されたトリガ信号を受信することが可能に構成されている。信号受信機120は、トリガ信号を受信したことに応答して、トリガ信号に対応したマーカ信号(第2信号)を計測装置130に送信する。
【0018】
図1の例においては、信号受信機120Aは計測装置130Aに接続されており、信号受信機120Bは計測装置130Bに接続されている。この場合、信号受信機120A,120Bは、受信したトリガ信号を計測装置130A,130Bにそれぞれ送信する。なお、トリガ信号がパルス信号である場合には、信号受信機120から計測装置130には、受信したトリガ信号がそのまま転送される。トリガ信号がパルス信号以外の形態の信号の場合には、信号受信機120によってトリガ信号がパルス信号に変換されて計測装置130へ送信される。
【0019】
なお、信号受信機は計測装置ごとに個別に配置されていなくてもよく、1つの信号受信機からの信号が2つ以上の計測装置に送信されていてもよい。後述するように、計測装置130A,130Bにおいては、信号受信機120A,120Bから送信された信号が、計測データとともに時系列的に記憶装置133に記憶される。
【0020】
信号受信機120Xは発光装置であり、LEDなどの発光部(図示せず)を有している。信号受信機120Xは、トリガ信号を受信したことに応答して発光部を点灯あるいは消灯させる。計測装置がビデオカメラの場合、上記のようなパルス信号を画像データと独立した信号として記憶することができない。ビデオカメラの視野範囲内に信号受信機120Xを配置しておくことで、連続した画像フレーム内に発光部の変化(点灯/消灯)が記録される。そのため、発光部の変化タイミングを用いて、計測データを同期させることができる。
【0021】
計測装置130A,130Bは、たとえば、気温、気圧、湿度および騒音などの被験者あるいは対象物が置かれた環境の状態を検出するための環境センサ、および/または、体温、脈拍、呼吸、心拍数、脳波、視線、脳血流および加速度などの被験者の状態を検出するための生体センサである。計測装置130A,130Bの各々には、CPU131、検出部132、および記憶装置133が含まれる。CPU131は、計測装置130を統括的に制御するための制御装置である。計測装置130A,130Bにおいては、検出部132で検出されたデータが記憶装置133に記憶される。また、計測装置130A,130Bにおいては、信号受信機120A,120Bから送信されたマーカ信号が、計測データとともに記憶装置133に記憶される。
【0022】
計測装置130A,130Bは、データ処理装置150との間で通信することが可能である。図1の例においては、計測装置130Aは、記憶された計測データおよびマーカ信号を有線通信を用いてデータ処理装置150へ送信する。また、計測装置130Bの場合には、無線通信を用いて計測データおよびマーカ信号をデータ処理装置150へ送信する。
【0023】
ビデオカメラ130X,130Yは、撮像部(画像センサ)135および記憶装置136を含む。ビデオカメラ130X,130Yは、撮像部135によって取得した被験者あるいは観察対象物の動作の画像データを記憶装置136に記憶する。ビデオカメラ130X,130Yにおいては、たとえば、被験者の作業シーンを複数の角度から撮影した画像、被験者の顔の表情を撮影した画像、および被験者の瞳孔の変化を撮影した画像などが取得される。
【0024】
記憶装置136に記憶された画像データは、メモリカードのような取り外し可能な外部記憶媒体140によって取り出されて、データ処理装置150に読み込まれる。なお、ビデオカメラからデータ処理装置150への計測データの転送は、上述の計測装置130A,130Bと同様に、有線通信あるいは無線通信で実行されてもよい。
【0025】
各計測装置130においては、機器内部に記憶装置133,136が設けられており、データを取得する検出部132および撮像部135とこれらの記憶装置133,136との間の信号伝達手段は有線で行なわれる。無線方式によるデータ伝送においてはデータ欠陥となる可能性が高くなる。そのため、データ取得部と記憶装置との間のデータ伝送を有線方式とすることで、計測データおよびマーカ信号のデータ欠損を抑制することができる。
【0026】
データ処理装置150は、CPU151と、記憶装置152とを含む。データ処理装置150は、各計測装置130からの計測データを、通信あるいは外部記憶媒体を介して取得する。データ処理装置150は、各計測データとともに送信されたマーカ信号に基づいて、各計測データの取得期間が一致するように同期処理を行ない、処理後の計測データを表示装置160に表示する。当該データ計測システム10のユーザは、表示装置160に表示されたデータを用いて、発生したイベントに対して、被験者の状態がどのように変化するかを解析することができる。
【0027】
なお、図1においては、信号受信機120が計測装置130と独立した機器として記載されているが、計測装置130に信号受信機120の機能が含まれていてもよい。計測装置130が、本実施の形態のシステムに適応した専用機器である場合には、信号受信機と計測装置とが一体となった構成とすることがより好ましい。一方で、汎用の計測装置の場合には、別体の信号受信機を用いることで、簡便に本システムへの適用が可能となる。
【0028】
また、計測装置130のいずれかに、信号送信機110の機能が含まれていてもよい。この場合、信号送信機の機能を含む当該計測装置において計測開始(終了)の操作をすることで、それに応答して他の計測装置における計測およびデータの記憶を開始(終了)することができる。
【0029】
このような、複数の計測装置によって取得された計測データを時系列的に同期させる手法として、たとえば、各計測装置が有する計時機能によるタイムスタンプを参照し、当該タイムスタンプが同時刻となるように計測データを同期させる場合がある。この場合、すべての計測装置の時刻が一致していることは稀であり、各計測装置における時刻は、実際の時刻に対して少なからず時間的なオフセットが生じ得る。
【0030】
また、各計測装置において計時機能を行なうためのクロック信号のクロック周波数についても、クロック信号を生成するための発振器のクロック周波数に少なからず誤差が生じ得る。そのため、仮に計測装置間での開始時刻のオフセットがない場合であっても、同じクロック数で示される時間が、計測装置ごとにずれてしまう可能性がある。そうすると、各計測装置の開始時刻が一致していた場合であっても、特に計測期間が長くなるほど計測データ間の時刻のずれが大きくなり、データ間の関連度合い(同期精度)が低下し得る。
【0031】
本実施の形態に係るデータ計測システム10においては、各計測装置において、信号送信機110から一斉送信されるトリガ信号に基づくマーカ信号を計測データとともに記憶し、データ処理装置150において、計測対象期間の開始時のマーカ信号(開始信号)と終了時のマーカ信号(終了信号)とに基づいて各計測データを同期させる手法を採用する。このような構成とすることで、仮に各計測装置におけるタイムスタンプあるいはクロック周期に誤差がある場合であっても、各計測装置において認識される2つのマーカ信号の間の相対時間の差は、少なくとも各計測装置における制御周期の1周期以下となる。したがって、本実施の形態のような同期処理を用いることで、計測対象期間内のデータ間の同期精度を高めることができる。
【0032】
[同期処理の説明]
図2は、計測装置130における計測データとマーカ信号との関係を説明するための図である。図2の上段には検出部132で検出された計測値が示されており、下段にはマーカ信号が示されている。
【0033】
図2を参照して、時刻t1において開始時のマーカ信号が受信され、時刻t2において終了時のマーカ信号が受信されている(線LN11)。すなわち、計測対象期間は時刻t1~t2の間である。計測装置130においては、線LN10のように変化する計測データを所定のサンプリングレートでサンプリングし、記憶装置133に記憶する。このとき、機器内の計時機能におけるタイムスタンプ(時刻)に関連付けて、計測データおよびマーカ信号が記憶される。
【0034】
図3は、複数の計測装置の場合における、各計測データとマーカ信号との関係を説明するための図である。図3において、たとえば、(a)は図1における計測装置130Aにおけるデータであり、(b)は図1における計測装置130Bにおけるデータである。図3の例では、計測装置130Aにおけるタイムスタンプにおいては、計測対象期間の開始時刻はt10であり、終了時刻はt11である。一方、計測装置130Bにおけるタイムスタンプにおいては、計測対象期間の開始時刻はt10A(≠t10)であり、終了時刻はt11A(≠t11)である。なお、計測対象期間の長さ、すなわち時刻t10~t11の長さと、時刻t10A~t11Aの長さは同じである。
【0035】
このように各計測装置のタイムスタンプにずれがある場合、各計測装置のタイムスタンプで示された時刻を一致させても、計測装置130Aの計測値1(図3の実線LN20)と計測装置130Bの計測値2(図3の破線LN26)との関連性は正しいものではない。本実施の形態の同期処理においては、開始のマーカ信号(開始信号)同士および終了のマーカ信号(終了信号)同士を一致させる(図3の実線LN25)。これにより、計測対象期間の計測データの同期精度を高めることができる。
【0036】
なお、図2および図3は、計測装置130が、信号受信機120からのマーカ信号を計測データとは異なる個別のチャンネルで記憶することが可能な構成である場合の例について説明したが、計測装置130によっては、外部信号が入力できない仕様である場合がある。そのような場合には、図4の線LN30で示されるように、計測データにマーカ信号を重畳させることによって、計測対象期間の開始/終了を記憶するようにしてもよい。
【0037】
次に、図5において計測装置がビデオカメラ130Xである場合の同期処理について説明する。ビデオカメラの場合、一般的には、図2のようにマーカ信号を別チャンネルで記憶させることはできない。そのため、上述のように、カメラの撮像範囲内に発光機能を有する信号受信機120Xを配置し、信号受信機120Xの発光状態に基づいて同期処理が行なわれる。
【0038】
図5を参照して、一般的に、ビデオカメラにおいては、動画は、所定のフレームレートで連続して撮影された一連の静止画像として記録される。図5においては、フレーム1からフレーム(N+1)までの画像が時系列的に示されている。記録された各画像においては、撮像範囲内に信号受信機120Xが配置されており、信号受信機120Xの発光部の発光状態が認識できるようになっている。
【0039】
図5の例においては、フレーム2およびフレームNにおいて信号受信機120Xが発光状態となっている。すなわち、フレーム2が撮影された時刻において開始のトリガ信号が受信され、フレームNが撮影された時刻において終了のトリガ信号が受信されている。したがって、フレーム2からフレームNまでの期間が計測対象期間となる。そして、データ処理装置150において、フレーム2が他の計測装置の開始信号(たとえば、図3の時刻t10)に紐付けられ、フレームNが終了信号(図3の時刻t11)に紐付けられる。これにより、ビデオカメラ130Xで取得された計測対象期間内の画像データ(フレーム2~フレームN)を、計測装置130Aの計測データと同期させることができる。
【0040】
なお、図5の例においては、画像内における発光部の発光状態によってトリガ信号を認識する構成であったが、ビデオカメラにおいては画像データとともに音声データも記録することが可能であるため、トリガ信号を音声信号によって認識するようにしてもよい。この場合、ビープ音のような特定の音声信号を出力できる信号受信機を用い、トリガ信号の受信に応答して当該音声信号が出力されるようにする。そして、音声データにおいて当該音声信号が記録されたタイミングを用いて、データ処理装置150において計測対象期間の開始および終了を判断して他の計測データとの同期を行なう。このように、音声信号を用いて同期処理を行なってもよい。このような、ビデオカメラにおける発光部の状態および/または音声信号の記録を用いた同期処理も、計測データ(画像データ)にマーカ信号(発光部の状態,音声信号)を重畳させることに対応する。
【0041】
図6は、本実施の形態のデータ計測システム10の表示装置160における表示の一例を示す図である。図6においては、上段に3つのビデオカメラで撮影された画像データ161,162,163が示されており、下段には計測装置(環境センサ/生体センサ)で検出された計測データ(a)~(e)が示されている。
【0042】
図6の例では、画像データ161は、作業者(被験者)の作業状態を撮影するカメラ1の画像である。画像データ162は、作業者の顔の表情を撮影するカメラ2の画像である。画像データ163は、作業者の瞳孔の状態を撮影するためのカメラ3の画像である。
【0043】
また、計測データとしては、(a)室温、(b)湿度、(c)体温、(d)心拍数、(e)呼吸数が示されている。各画像データおよび計測データは、図3および図5で説明した同期処理によって対応付けられている。図6においては、カーソル165によって示される時刻t50の場合のデータが示されている。表示装置160の図示しない操作部(たとえば、キーボードあるいはマウス)によってカーソル165を動かすことによって、当該カーソル165が示す時刻に対応する画像および各計測データの値が表示される。このような表示によって、作業者に生じたイベントと、そのときの環境状態および生体状態を関連付けて解析することができる。
【0044】
(変形例)
上述の実施の形態においては、計測装置において認識される開始のマーカ信号と終了のマーカ信号との間の間隔、すなわち計測対象期間が各計測装置について一致する場合について説明した。この場合、各計測装置におけるサンプリングレートが多少異なっていたとしても、当該計測対象期間における計測値であることが担保され得る。
【0045】
しかしながら、計測装置間のサンプリングレートの差によっては、マーカ信号の認識タイミングにずれが生じてしまい、計測装置ごとに計測対象期間が異なる状態となる場合が生じ得る。そうすると、各計測値間の対応が適切にとれない状態となる可能性がある。
【0046】
そこで、本変形例においては、上記のようにマーカ信号の認識のずれに起因して計測対象期間に差が生じる場合に、記憶された計測値のタイムスタンプ間隔を補正することによって、計測値同士を適切に対応させる構成について説明する。
【0047】
図7は、2つの計測データにおけるマーカ信号のタイミングが不一致の場合の補正処理を説明するための図である。図7において、上段の図7(a)には計測装置130Aで計測された計測値およびマーカ信号が示されており、中段の図7(b)には計測装置130Bで計測された計測値およびマーカ信号が示されている。また、下段の図7(c)には、補正処理後の計測装置130Bの計測値およびマーカ信号が示されている。なお、図7(a)~図7(c)においては、開始信号のタイミング(時刻t30,t30A,t30B)が一致するように記載されている。
【0048】
図7を参照して、計測装置130Aは、サンプリングレートST1で計測値をサンプリングしており、開始信号(時刻t30)から終了信号(時刻t31)までの計測対象期間はT1となっている(図7(a)の線LN41)。
【0049】
一方、計測装置130Bにおいては、計測装置130Aよりも長いサンプリングレートST2(>ST1)で計測値がサンプリングされている。すなわち、特定の期間における計測値のサンプリング数は、計測装置130Bのほうが計測装置130Aよりも少ない。この場合、計測装置130Bにおいては、開始信号の検出後、T1の期間が到来する前の時刻t31Aのサンプリングタイミングにおいて、終了信号が検出される状態となり得る(図7(b)の線LN51)。この場合の計測対象期間T2は計測装置130Aで認識される計測対象期間T1よりも短くなる(T2<T1)。
【0050】
このような状態においては、各計測装置で計測された計測値間の時系列的な対応が適切にとれない場合が生じるため、データ処理装置150は、各計測装置で認識された計測対象期間における計測値のサンプリング数が最も多い計測装置(すなわち、サンプリングレートの最も高い計測装置)の計測対象期間に一致するように、他の計測装置における計測対象期間および各計測値のサンプリング間隔を補正する処理を行なう。
【0051】
図7の場合には、計測装置130Bの計測データの計測対象期間T2が、計測装置130Aの計測対象期間T1に一致するように(図7(c)の線LN51A)、各計測値のサンプリング間隔を補正する(図7(c)の線LN50A)。これにより、サンプリングレートの異なる計測装置を使用する場合においても、計測データを同期させることが可能となる。
【0052】
図7の例においては、計測装置130Bで認識される計測対象期間T2が、計測装置130Aで認識される計測対象期間T1よりも短くなる場合について説明したが、マーカ信号の発信タイミングによっては、計測装置130Bにおける終了のマーカ信号の検出が計測装置130Aよりも遅くなる(すなわち、T2>T1)場合が生じ得る。この場合においても、認識される計測対象期間内のサンプリング数が計測装置130Bよりも計測装置130Aの方が多い場合には、計測装置130Bにおける計測対象期間T2を計測対象期間T1に短縮するように、計測装置130Bの計測データのサンプリング間隔が修正される。
【0053】
なお、上記の説明においては、各計測装置において、計測データを検出するためのサンプリングレートと、マーカ信号を検出するためのサンプリングレートが同じである場合について説明した。一方で、計測データのサンプリングレートが遅い計測装置については、マーカ信号を検出するためのサンプリングレートを、計測データを検出するためのサンプリングレートよりも高くしてマーカ信号の検出精度を向上させることによって、他の計測装置との計測対象期間のずれを低減するようにしてもよい。
【0054】
[データ計測システムの制御]
図8は、本実施の形態に係るデータ計測システムにおける各機器の処理を説明するためのフローチャートである。なお、図8のフローチャートにおいては、上記の変形例の補正処理を含めた処理となっている。
【0055】
図8を参照して、信号送信機110は、ステップ(以下、ステップをSと略す。)10において、ユーザによる操作のタイミング、あるいは、信号送信機110に予め登録された所定のタイミングにおいて、計測対象期間の開始を示すトリガ信号(開始トリガ信号)をブロードキャストする。
【0056】
信号送信機110は、ユーザによる操作のタイミング、あるいは、当該開始信号から予め定められた期間が経過したタイミングにおいて、計測対象期間の終了を示すトリガ信号(終了トリガ信号)をブロードキャストする(S12)。
【0057】
計測装置130においては、S20にて、ユーザからの操作によって計測処理が開始され、記憶装置133への計測データの記憶が開始される。なお、計測装置130における計測処理の開始は、信号受信機120からのマーカ信号の受信に先立って行なわれることが好ましいが、S22におけるマーカ信号の受信に応答して開始されてもよい。
【0058】
計測装置130は、S22にて、信号送信機110からのトリガ信号に応答して信号受信機120から送信されるマーカ信号(開始信号)を受信したか否かを判定する。マーカ信号(開始信号)を受信していない場合(S22にてNOは、計測装置130は、処理がS22に戻されて、計測処理を継続しつつ、マーカ信号が受信されるのを待つ。
【0059】
マーカ信号(開始信号)が受信された場合(S22にてYES)は、処理がS24に進められて、計測装置130は、受信したマーカ信号を計測データと関連付けて記憶装置133に記憶する。そして、計測装置130は、S26にて、計測の終了を示すマーカ信号(終了信号)を信号受信機120から受信したか否かを判定する。信号受信機120からマーカ信号(終了信号)を受信していない場合(S26にてNO)、処理がS24に進められて、計測装置130は、所定のサンプリングレートで計測データの記憶を継続する。
【0060】
一方、信号受信機120からマーカ信号(終了信号)を受信した場合(S26にてYES)は、処理がS28に進められて、計測装置130は、開始信号から終了信号までの計測対象期間における計測データおよびマーカ信号のデータをデータ処理装置150へ出力する。その後、計測装置130は、ユーザによる操作等により、計測処理を停止する(S30)。
【0061】
なお、計測装置130に記憶されたデータを、外部記憶装置を用いてデータ処理装置150に読み込ませる場合には、S28のステップは省略される。また、計測装置がビデオカメラ130X,130Yの場合には、マーカ信号は画像データ内に発光信号として記録されるため、S22およびS26のようなマーカ信号の受信判定ができない場合がある。そのような場合には、計測期間中の画像データ全体をデータ処理装置150に読み込ませて、データ処理装置150において、ユーザの操作あるいは自動で同期処理が行なわれる。
【0062】
また、計測処理が長期間にわたって行なわれる場合、各計測装置130間のサンプリングレートの差による影響が計測時間とともに大きくなる。このような場合には、全体の計測期間内のデータをより短い期間に分割してデータ処理装置150に送信することによって、サンプリングレートの差による影響を小さくすることが好ましい。この場合、計測装置130においては、図7のS28において計測データをデータ処理装置150に送信することと並行して、S24における計測データおよびマーカ信号の記憶が継続され、信号受信機120からマーカ信号が送信される度に、前回のマーカ信号の受信以降に記憶された計測データおよびマーカ信号のデータがデータ処理装置150に送信される。
【0063】
このように、計測データを分割してデータ処理装置150に送信して処理することで、送信された計測データのブロック単位で、各計測装置130の計測データの同期処理が実行されるため、長期間にわたる計測の場合であってもデータの同期精度を維持することが可能となる。
【0064】
次に、データ処理装置150における処理について説明する。データ処理装置150は、S40にて、各計測装置130からの計測データおよび画像データを取得する。データ処理装置150は、S42にて、取得されたデータに含まれるマーカ信号から、隣接するマーカ信号間の計測期間を算出する。そして、データ処理装置150は、S44にて、各計測装置130の計測データに対して算出された計測期間の長さが一致するか否かを判定する。
【0065】
各計測装置130における計測期間の長さが一致する場合(S44にてYES)は、処理がS48に進められて、データ処理装置150は、各計測装置130の計測データについて、開始信号同士、および終了信号同士を合致させて、図6で示したように表示装置160に表示する。当該表示を用いて、ユーザは被験者についての動作解析を行なう。
【0066】
一方、計測期間の長さが不一致である計測装置がある場合(S44にてNO)は、処理がS46に進められて、データ処理装置150は、図7で説明したような補正処理を実行する。その後、S48に処理が進められて、上述のように、各計測データが同期された状態で表示装置160に表示される。
【0067】
以上のような処理に従って各機器において制御が行なわれることによって、複数の計測装置を用いたデータ計測システムにおいて、計測されたデータを適切に同期させて提示することができる。これによって、複数の計測データ間の同期精度を向上することができ、これらの因果関係の分析精度を向上させることができる。
【0068】
[態様]
(第1項)一態様に係るデータ計測システムは、複数の計測装置と、送信機と、データ処理装置とを備える。送信機は、複数の計測装置に対して第1信号を送信する。データ処理装置は、複数の計測装置から取得したデータをユーザに提示する。データ処理装置は、複数の計測装置の各々から、第1時刻に送信された第1信号に対応する開始信号と、第1時刻よりも時間的に遅延した第2時刻に送信された第1信号に対応する終了信号との間に計測された計測データを取得し、当該取得したデータにおける開始信号同士および終了信号同士を時間的に合致させて、複数の計測装置の計測データをユーザに提示する。
【0069】
第1項に記載のデータ計測システムによれば、共通の送信機からの第1信号に基づく開始信号から終了信号までの間の計測データが各計測装置から取得され、取得された計測データは開始信号同士および終了信号同士を時間的に合致させてユーザに提示される。このように、各計測装置において開始信号および終了信号を基準として計測データを合致させて複数の計測データを時系列的に同期させることによって、計測データの同時性を確保することができる。また、特に長時間の計測を行なう場合には、第1信号を適切な間隔で送信することによって、同期処理が逐次実行されるため、サンプリングレートのずれ、あるいは、クロック信号のずれの影響を低減することが可能となる。さらに、共通の第1信号を用いることで、外部入力を有する計測装置であれば、市販されているセンサ等を用いることができるため、比較的簡便にシステムを構築することができる。
【0070】
(第2項)第1項に記載のデータ計測システムにおいて、複数の計測装置の計測データをユーザに表示するための表示装置をさらに備える。
【0071】
第2項に記載のデータ計測システムによれば、ユーザは、表示装置に表示された計測データを用いて、観察および解析することができる。
【0072】
(第3項)第1項または第2項に記載のデータ計測システムおいて、複数の計測装置は、第1装置および第2装置を含む。第1装置における開始信号から終了信号までの第1間隔が、第2装置における開始信号から終了信号までの第2間隔と異なる場合には、データ処理装置は、第2間隔が第1間隔となるように、第2装置の計測データを補正する。
【0073】
第3項に記載のデータ計測システムによれば、各計測装置のサンプリングレートのずれ等によって開始信号と終了信号との間隔が異なる場合には、当該間隔が短い計測データを補正して計測データの同期処理が実行される。これによって、計測データ間の同期精度を高めることができる。
【0074】
(第4項)第1項~第3項のいずれか1項に記載のデータ計測システムにおいて、送信機は、複数の計測装置のうちのいずれかの計測装置に含まれる。
【0075】
第4項に記載のデータ計測システムによれば、複数の計測装置のうちの1つに送信機の機能が含まれる。そのため、送信機を別途準備することなくシステムを構築することが可能となる。
【0076】
(第5項)第1項~第3項のいずれか1項に記載のデータ計測システムにおいて、送信機は、データ処理装置に含まれる。
【0077】
第5項に記載のデータ計測システムによれば、データ処理装置に送信機の機能が含まれる。そのため、送信機を別途準備することなくシステムを構築することが可能となる。
【0078】
(第6項)第1項~第5項のいずれか1項に記載のデータ計測システムにおいて、複数の計測装置の各々は、環境情報を計測する環境センサ、生体情報を計測する生体センサ、および、画像を撮影する画像センサのいずれかのセンサを含む。
【0079】
第6項に記載のデータ計測システムによれば、計測装置として、環境センサ、生体センサ、および画像センサ(カメラ)を用いることができる。
【0080】
(第7項)第6項に記載のデータ計測システムにおいて、複数の計測装置の各々は、当該計測装置で計測された計測データを記憶するための記憶装置を含み、センサから記憶装置までの信号伝達手段を有線で行なう。
【0081】
第7項に記載のデータ計測システムによれば、各計測装置において、センサから記憶装置までの信号伝達手段に無線が用いられない。無線通信を行なった場合、少なからずデータの欠損が生じる危険性があるが、有線通信を用いて記憶装置内に計測データを記憶することで、データ欠損を低減することができる。
【0082】
(第8項)第1項~第7項のいずれか1項に記載のデータ計測システムにおいて、複数の計測装置の各々において、第2信号のサンプリングレートは、計測データのサンプリングレート以上である。
【0083】
第8項に記載のデータ計測システムによれば、他の計測データとの同期処理に用いられる第2信号のサンプリングレートが、計測データのサンプリングレート以上に設定される。計測装置によっては、計測データのサンプリングレートが比較的遅い場合があり、当該サンプリングレートで第2信号をサンプリングすると、他の計測装置における第2信号とのずれが大きくなって同期精度が低下するおそれがある。そのため、計測データのサンプリングレートが比較的遅い場合には、第2信号のサンプリングレートを計測データのサンプリングレートよりも高くすることで、同期精度の低下を抑制することができる。
【0084】
(第9項)第1項~第8項のいずれか1項に記載のデータ計測システムにおいて、送信機は、無線通信により第1信号を送信する。
【0085】
第9項に記載のデータ計測システムによれば、送信機によって無線通信を用いて第1信号がブロードキャストされる。これにより、送信機と受信機との間を接続する配線が不要となるので、システムの構築が容易になる。
【0086】
(第10項)第1項~第9項のいずれか1項に記載のデータ計測システムにおいて、第1信号は、計測データに統合されて記憶される。
【0087】
第10項に記載のデータ計測システムによれば、計測装置において計測データと第1信号とを独立の信号として記憶できない場合には、計測データに第1信号を重畳させたり、カメラの場合には撮影データ内に第1信号を記録したりすることで、第1信号を記憶させることができる。
【0088】
(第11項)第1項に記載のデータ計測システムにおいて、送信機から送信された第1信号を受信したことに応答して、複数の計測装置のうちの対応する計測装置に第2信号を送信する少なくとも1つの受信機をさらに備える。開始信号は、第1時刻に送信された第1信号に対応する第2信号である。終了信号は、第2時刻に送信された第1信号に対応する第2信号である。
【0089】
第11項に記載のデータ計測システムによれば、送信機からの第1信号を第2信号に変換する受信機を用いることによって、外部入力を有する計測装置であれば、市販されているセンサ等を当該データ計測システムに利用することが可能となる。したがって、比較的簡便にシステムを構築することができる。
【0090】
(第12項)他の態様に係る計測装置は、第1項に記載のデータ計測システムに用いられる。計測装置は、送信機を含む。
【0091】
(第13項)他の態様に係る送信機は、第1項~第12項のいずれか1項に記載のデータ計測システムに用いられる。
【0092】
(第14項)他の態様に係る受信機は、第1項~第12項のいずれか1項に記載のデータ計測システムに用いられる。
【0093】
(第15項)他の態様に係るデータ処理装置は、第1項~第12項のいずれか1項に記載のデータ計測システムに用いられる。
【0094】
(第16項)他の態様に係る方法は、複数の計測装置を含むデータ計測システムにおいて、計測データをユーザに提示する方法に関する。データ計測システムは、送信機と、データ処理装置とを備える。方法は、i)送信機によって、複数の計測装置に対して第1信号を送信するステップと、ii)データ処理装置において、複数の計測装置の各々から、第1時刻に送信された第1信号に対応する開始信号と、第1時刻よりも時間的に遅延した第2時刻に送信された第1信号に対応する終了信号との間に計測された計測データを取得するステップと、iii)データ処理装置において、取得したデータにおける開始信号同士および終了信号同士を時間的に合致させて、複数の計測装置の計測データをユーザに提示するステップとを含む。
【0095】
第16項に記載の方法によれば、共通の送信機からの第1信号に基づく開始信号から終了信号までの間の計測データが各計測装置から取得され、取得された計測データは開始信号同士および終了信号同士を時間的に合致させてユーザに提示される。このように、各計測装置において開始信号および終了信号を基準として計測データを合致させて複数の計測データを時系列的に同期させることによって、計測データの同時性を確保することができる。また、特に長時間の計測を行なう場合には、第1信号を適切な間隔で送信することによって、同期処理が逐次実行されるため、サンプリングレートのずれ、あるいは、クロック信号のずれの影響を低減することが可能となる。さらに、共通の第1信号を用いることで、外部入力を有する計測装置であれば、市販されているセンサ等を用いることができるため、比較的簡便にシステムを構築することができる。
【0096】
今回開示された実施の形態は、すべての点で例示であって制限的なものではないと考えられるべきである。本発明は、上記した実施の形態の説明ではなくて請求の範囲によって示され、請求の範囲と均等の意味および範囲内でのすべての変更が含まれることが意図される。
【符号の説明】
【0097】
10 データ計測システム、110 信号送信機、120,120A,120B,120X 信号受信機、130,130A,130B 計測装置、130X,130Y ビデオカメラ、131,151 CPU、132 検出部、133,136,152 記憶装置、135 撮像部、140 外部記憶媒体、150 データ処理装置、160 表示装置。
図1
図2
図3
図4
図5
図6
図7
図8