(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公開特許公報(A)
(11)【公開番号】P2024142698
(43)【公開日】2024-10-11
(54)【発明の名称】作業分析方法、作業分析プログラム及び作業分析システム
(51)【国際特許分類】
G06Q 50/08 20120101AFI20241003BHJP
【FI】
G06Q50/08
【審査請求】未請求
【請求項の数】11
【出願形態】OL
(21)【出願番号】P 2023054949
(22)【出願日】2023-03-30
(71)【出願人】
【識別番号】720001060
【氏名又は名称】ヤンマーホールディングス株式会社
(74)【代理人】
【識別番号】100167302
【弁理士】
【氏名又は名称】種村 一幸
(74)【代理人】
【識別番号】100135817
【弁理士】
【氏名又は名称】華山 浩伸
(74)【代理人】
【識別番号】100167830
【弁理士】
【氏名又は名称】仲石 晴樹
(72)【発明者】
【氏名】石塚 大介
(72)【発明者】
【氏名】島田 皓平
【テーマコード(参考)】
5L049
5L050
【Fターム(参考)】
5L049CC07
5L050CC07
(57)【要約】
【課題】作業の分析に掛かる手間を軽減しやすい作業分析方法、作業分析プログラム及び作業分析システムを提供する。
【解決手段】作業分析方法は、1以上の作業に関する特徴を含む分析用データに対するクラスタリング結果を提示することと、クラスタリング結果に含まれるクラスタに対応付けるラベルの指定を受け付けることと、指定されたラベルをクラスタに対応付けることと、を有する。
【選択図】
図5
【特許請求の範囲】
【請求項1】
1以上の作業に関する特徴を含む分析用データに対するクラスタリング結果を提示することと、
前記クラスタリング結果に含まれるクラスタに対応付けるラベルの指定を受け付けることと、
指定された前記ラベルを前記クラスタに対応付けることと、を有する、
作業分析方法。
【請求項2】
前記ラベルの指定を受け付ける際に、前記クラスタの抽出に用いられた前記分析用データを提示すること、を更に有する、
請求項1に記載の作業分析方法。
【請求項3】
前記クラスタリング結果は複数のクラスタを含み、
前記ラベルは前記複数のクラスタの各々に対して指定可能である、
請求項1又は2に記載の作業分析方法。
【請求項4】
前記ラベルが対応付けられた前記クラスタに関する修正処理を行うこと、を更に有する、
請求項1又は2に記載の作業分析方法。
【請求項5】
前記修正処理は、前記クラスタを他のクラスタと統合するマージ処理、前記クラスタを前記クラスタリング結果から除外する除外処理、及び、前記クラスタの抽出に用いられた前記分析用データについて再度クラスタリングを行う再分類処理の少なくとも1つを含む、
請求項4に記載の作業分析方法。
【請求項6】
前記修正処理は、時系列データである前記分析用データのうち指定された期間のデータについて行われる、
請求項4に記載の作業分析方法。
【請求項7】
前記ラベルの指定を受け付ける際に、前記ラベルの候補としてのラベル候補を提示すること、を更に有する、
請求項1又は2に記載の作業分析方法。
【請求項8】
前記ラベル候補は、前記ラベルが対応付けられる前記クラスタに関連する別クラスタに対応付けられたラベルに基づいて決定される、
請求項7に記載の作業分析方法。
【請求項9】
前記クラスタリング結果を時系列に沿って提示すること、を更に有する、
請求項1又は2に記載の作業分析方法。
【請求項10】
請求項1又は2に記載の作業分析方法を、
1以上のプロセッサに実行させるための作業分析プログラム。
【請求項11】
1以上の作業に関する特徴を含む分析用データに対するクラスタリング結果を提示する提示処理部と、
前記クラスタリング結果に含まれるクラスタに対応付けるラベルの指定を受け付けるラベル指定処理部と、
指定された前記ラベルを前記クラスタに対応付けるラベル付与処理部と、を備える、
作業分析システム。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、1以上の作業に関する特徴を含む分析用データを用いて作業の分析を行う作業分析方法、作業分析プログラム及び作業分析システムに関する。
【背景技術】
【0002】
関連技術として、作業者の動作を示す時系列情報を取得する取得部と、時系列情報を、作業者により実行された複数の要素動作に対応する複数の部分情報に分類する第1分類部と、少なくとも一つの部分情報を、作業者の動作に関する1又は複数の基準により複数のグループのいずれかに分類する第2分類部と、を備える作業分析(動作分析)システムが知られている(例えば、特許文献1参照)。関連技術に係る作業分析システムでは、第1分類部は、映像データ等の分析用データ(時系列情報)に含まれる動作情報と、作業者の動作について比較の基準となる基準動作を示す座標値を含む基準動作情報との比較に基づいて、動作情報を複数の部分情報に分類する。
【先行技術文献】
【特許文献】
【0003】
【発明の概要】
【発明が解決しようとする課題】
【0004】
上記関連技術の構成では、特に定型化されていない作業又は未知の作業に関しては、分析用データ(映像データ等)からの作業の分析に手間が掛かる場合がある。
【0005】
本発明の目的は、作業の分析に掛かる手間を軽減しやすい作業分析方法、作業分析プログラム及び作業分析システムを提供することにある。
【課題を解決するための手段】
【0006】
本発明の一の局面に係る作業分析方法は、1以上の作業に関する特徴を含む分析用データに対するクラスタリング結果を提示することと、前記クラスタリング結果に含まれるクラスタに対応付けるラベルの指定を受け付けることと、指定された前記ラベルを前記クラスタに対応付けることと、を有する。
【0007】
本発明の一の局面に係る作業分析プログラムは、前記作業分析方法を、1以上のプロセッサに実行させるためのプログラムである。
【0008】
本発明の一の局面に係る作業分析システムは、提示処理部と、ラベル指定処理部と、ラベル付与処理部と、を備える。前記提示処理部は、1以上の作業に関する特徴を含む分析用データに対するクラスタリング結果を提示する。前記ラベル指定処理部は、前記クラスタリング結果に含まれるクラスタに対応付けるラベルの指定を受け付ける。前記ラベル付与処理部は、指定された前記ラベルを前記クラスタに対応付ける。
【発明の効果】
【0009】
本発明によれば、作業の分析に掛かる手間を軽減しやすい作業分析方法、作業分析プログラム及び作業分析システムを提供することができる。
【図面の簡単な説明】
【0010】
【
図1】
図1は、実施形態1に係る作業分析システムのシステム構成を示す図である。
【
図2】
図2は、実施形態1に係る作業分析システムで分析用データとして用いられる映像データの一例を示す概略図である。
【
図3】
図3は、実施形態1に係る作業分析システムによるクラスタリング処理を模式的に示す説明図である。
【
図4】
図4は、実施形態1に係る作業分析システムにおけるラベル指定画面の表示例を示す概略図である。
【
図5】
図5は、実施形態1に係る作業分析システムにおけるラベル指定画面の表示例を示す概略図である。
【
図6】
図6は、実施形態1に係る作業分析システムにおける作業分析画面の表示例を示す概略図である。
【
図7】
図7は、実施形態1に係る作業分析システムにおける詳細分析画面の表示例を示す概略図である。
【
図8】
図8は、実施形態1に係る作業分析システムにおいてデータ格納部に格納されるデータの一例を示す説明図である。
【
図9】
図9は、実施形態1に係る作業分析システムにおける分類修正画面の表示例を示す概略図である。
【
図10】
図10は、実施形態1に係る作業分析システムにおける分類修正画面の表示例を示す概略図である。
【
図11】
図11は、実施形態1に係る作業分析システムにおけるラベル修正画面の表示例を示す概略図である。
【
図12】
図12は、実施形態1に係る作業分析システムにおける追加分析画面の表示例を示す概略図である。
【
図13】
図13は、実施形態1に係る作業分析システムにおける要約動画画面の表示例を示す概略図である。
【
図14】
図14は、実施形態1に係る作業分析方法の代表的な処理の一例を示すフローチャートである。
【
図15】
図15は、実施形態2に係る作業分析システムのシステム構成を示す図である。
【発明を実施するための形態】
【0011】
以下、添付図面を参照しながら、本発明の実施形態について説明する。以下の実施形態は、本発明を具体化した一例であって、本発明の技術的範囲を限定する趣旨ではない。
【0012】
(実施形態1)
[1]概要
本実施形態に係る作業分析方法は、1以上の作業に関する特徴を含む分析用データを用いて作業の分析を行う方法である。
【0013】
作業分析方法は、コンピュータシステムを主構成とする作業分析システム10(
図1参照)にて実行される。言い換えれば、作業分析方法は、作業分析システム10にて実行される作業分析プログラムにて具現化される。本実施形態に係る作業分析プログラムは、作業分析方法(に係る各処理)を1以上のプロセッサに実行させるためのコンピュータプログラムである。このような作業分析プログラムは、例えば、サーバ装置1及び端末装置2等によって協働して実行されてもよい。
【0014】
本実施形態に係る作業分析システム10は、
図1に示すように、サーバ装置1と、端末装置2と、監視装置3と、を備えている。ただし、サーバ装置1、端末装置2及び監視装置3の全てが作業分析システム10の構成要素に含まれることは必須ではなく、例えば、作業分析システム10は、端末装置2及び監視装置3を構成要素に含まなくてもよい。
【0015】
サーバ装置1、端末装置2及び監視装置3は、相互に通信可能に構成されている。本開示でいう「通信可能」とは、有線通信又は無線通信(電波又は光を媒体とする通信)の適宜の通信方式により、直接的、又は通信網(ネットワーク)N1若しくは中継器等を介して間接的に、情報を授受できることを意味する。サーバ装置1と端末装置2とは、例えば、インターネット、LAN(Local Area Network)、WAN(Wide Area Network)、公衆電話回線、携帯電話回線網、パケット回線網又は無線LAN等の通信網N1を介して通信可能である。同様に、サーバ装置1と監視装置3とは、通信網N1を介して通信可能である。サーバ装置1、端末装置2及び監視装置3間の通信手段は、上記の例に限らず、適宜の通信手段によって実現される。また、サーバ装置1、端末装置2及び監視装置3が互いに通信可能であることは、作業分析システム10において必須の構成ではない。
【0016】
作業分析システム10は、1以上の「作業」に関する特徴を含む分析用データを用いて作業の分析を行う。本開示でいう「作業」は、作業分析システム10による分析の対象であって、例えば、建設作業及び農作業等の種々の作業を含む。本実施形態では特に、作業機械4(
図1参照)を用いて行われる作業を、作業分析システム10による分析対象とする。この場合、作業分析システム10は、例えば、作業機械4の動作状態(稼働状態)の監視結果から、この作業機械4が行った作業の分析を行うことが可能である。
【0017】
本開示でいう「作業機械」は、各種の作業用の機械を意味し、一例として、バックホー(油圧ショベル、ミニショベル等を含む)、ホイルローダー及びキャリア等の作業車両である。作業機械4は、1つ以上の作業を実行可能に構成された作業機41を備えている。作業機械4は、「車両」に限らず、例えば、作業用船舶、ドローン又はマルチコプター等の作業飛翔体等であってもよい。さらに、作業機械4は建設作業を行う建設機械(建機)に限らず、例えば、田植機、トラクタ又はコンバイン等の農作業を行う農業機械(農機)であってもよい。
【0018】
本実施形態では、特に断りが無い限り、作業機械4が乗用タイプのバックホーであって、掘削作業、整地作業、溝掘削作業又は積込作業等の建設作業を作業として実行可能である場合を例に挙げて説明する。つまり、作業分析システム10による分析対象である「作業」は、作業機械4としてのバックホーによって行われる建設作業である。この作業機械4は、作業機41に加えて、走行部42及び旋回部43を備えている。作業機械4は、走行部42により作業現場F1内を走行(移動)し、走行部42の情報に配置された旋回部43にて作業機41を旋回させることが可能である。作業機41は、ブーム及びアームが個別に回転可能に構成された多関節型の構造を有し、全体として伸ばしたり、折りたたんだりする動作が可能である。したがって、作業機械4は、これに搭乗したオペレータの操作に応じて、走行(移動)、旋回等の動作と適宜組み合わせて、作業機41による掘削作業等の作業を行う。
【0019】
また、本開示でいう「作業現場」は、作業分析システム10による分析対象である「作業」が行われる場所を意味し、建設作業であれば建設現場が作業現場F1となり、農作業であれば圃場等が作業現場F1となる。本実施形態では一例として、作業現場F1は、作業機械4としてのバックホーによって建設作業が行われる屋外の建設現場である。この作業現場F1では、複数台(本実施形態では「2台」とする)の作業機械4を用いて作業が行われることとする。
【0020】
ここにおいて、作業分析システム10は、分析用データを用いて作業の分析を行う。本開示でいう「分析用データ」は、1以上の作業に関する特徴を含むデータである。そのため、作業分析システム10は、分析用データに含まれる特徴に着目して、当該分析用データから特定される作業の分析を行う。本実施形態では作業機械4によって行われる作業が分析の対象であるので、分析用データは、作業が行われている期間の作業機械4の動作に関する時系列データである。本実施形態では一例として、分析用データは、撮像装置31(
図1参照)によって撮像される作業現場F1の映像データである。ここでいう映像データは、作業現場F1を撮像して得られる映像データであればよく、例えば、フルカラー画像、白黒画像及び赤外線画像のいずれであってもよいし、動画(コマ送り動画を含む)及び静止画のいずれであってもよい。
【0021】
本実施形態に係る作業分析システム10は、このような「作業」を対象として作業分析方法(に係る各処理)を実行することで、当該作業の分析を支援する。作業分析方法によって得られる分析結果は、例えば、表示、印刷、音声出力、他装置への送信、又は非一時的記録媒体への書き込み等の態様で、出力される。出力された分析結果は、例えば、ユーザ又はコンピュータシステムにおいて、作業効率の向上等の作業の改善、作業スケジュールの変更等の作業の管理、又は作業実績の評価等に利用可能である。
【0022】
ところで、本実施形態に係る作業分析方法は、コンピュータシステムを主構成とするサーバ装置1及び端末装置2等にて、特定の表示画面を表示し、この表示画面上にてユーザ等の操作を受け付ける。これにより、ユーザにおいては、作業分析システム10をインタラクティブに操作して、作業分析方法による作業の分析を実現することが可能である。言い換えれば、本実施形態に係る作業分析方法は、コンピュータシステムのグラフィカルユーザインタフェース(GUI:Graphical User Interface)上で用いられる。
【0023】
[2]作業分析システムの構成
次に、作業分析システム10の構成について、
図1を参照して詳しく説明する。本実施形態に係る作業分析システム10は、上述したように、通信網N1を介して通信可能に構成された、サーバ装置1、端末装置2及び監視装置3を備えている。
【0024】
端末装置2は、ユーザに使用される装置であって、例えば、タブレット端末、スマートフォン又はラップトップコンピュータ等の汎用端末である。汎用端末からなる端末装置2には、専用のアプリケーションソフト(プログラム)がインストールされており、このアプリケーションソフトを起動することにより、端末装置2は、サーバ装置1等との間でデータ(情報)の送受信が可能となる。
【0025】
端末装置2は、表示部21と、操作部22と、通信部23と、を有している。表示部21は、例えば、液晶ディスプレイ又は有機ELディスプレイ等を含む。操作部22は、例えば、タッチパネル、物理スイッチ、マウス又はキーボード等を含む。本実施形態では一例として、液晶ディスプレイからなる表示部21とタッチパネルからなる操作部22とが一体化されて、タッチパネルディスプレイを構成する。そのため、表示部21に表示画面が表示されている状態で操作部22が操作されることにより、端末装置2は、表示画面においてユーザ操作を受け付けることが可能となる。
【0026】
通信部23は、サーバ装置1等の外部機器との通信機能を有する通信インターフェースである。具体的には、通信部23は、端末装置2を有線又は無線で通信網N1に接続し、通信網N1を介してサーバ装置1等との間で、所定の通信プロトコルに従ったデータ通信を実行する。
【0027】
これにより、端末装置2は、ユーザに種々の情報を提示(例えば表示)し、かつユーザの操作を受け付けるためのユーザインタフェースを構成する。端末装置2は、1以上のプロセッサを含む制御部、音(音声を含む)出力部及び1以上のメモリ(非一時的記録媒体)等を更に有している。端末装置2は、複数台設けられていてもよい。
【0028】
監視装置3は、作業現場F1を監視する装置であって、例えば、作業現場F1内、又は作業現場F1の周辺に設置される。監視装置3は、撮像装置31と、前処理部32と、通信部33と、を有している。
【0029】
撮像装置31は、作業現場F1の少なくとも一部を視野に含むカメラ(イメージセンサ)であって、分析用データとして作業現場F1の映像データを出力する機能を有する。撮像装置31は、例えば、定位置に設置されており、作業現場F1を撮像可能に構成されている。撮像装置31が撮像する映像は、フルカラー画像、白黒画像及び赤外線画像のいずれであってもよいし、動画及び静止画のいずれであってもよい。本実施形態では一例として、撮像装置31は、作業現場F1をフルカラーの動画として撮像し、映像データをリアルタイムで出力する。
【0030】
前処理部32は、撮像装置31から出力される映像データに対して種々の前処理を実行する。ここでいう前処理は、例えば、映像データ中の作業機械4等の物体を認識する認識処理、作業機械4等の物体の追跡(トラッキング)処理、作業機械4等の物体の動きを検出するオプティカルフロー処理、及びその他の特徴(量)抽出処理等を含む。具体的に、前処理部32は、映像データに含まれる作業機械4の画像(映像)に関し、例えば、作業機41のアーム角度、ブーム角度及びバケット位置等、各部の動作状態(角度、位置、向き、移動速度及び移動方向等)を特徴として抽出する。そして、前処理部32は、抽出した作業機械4の各部の動作状態を表す特徴量を、時系列データとして出力する。
【0031】
通信部33は、サーバ装置1等の外部機器との通信機能を有する通信インターフェースである。具体的には、通信部33は、監視装置3を有線又は無線で通信網N1に接続し、通信網N1を介してサーバ装置1等との間で、所定の通信プロトコルに従ったデータ通信を実行する。
【0032】
これにより、監視装置3は、分析用データとしての作業現場F1の映像データを、サーバ装置1に随時送信することが可能である。監視装置3は、1以上のプロセッサを含む制御部、ユーザインタフェース及び1以上のメモリ(非一時的記録媒体)等を更に有している。監視装置3は複数台設けられていてもよく、この場合、複数台の監視装置3にて、作業現場F1の全域を撮像可能であってもよい。
【0033】
サーバ装置1は、情報処理部11と、通信部12と、データ格納部13と、を有している。
【0034】
通信部12は、端末装置2及び監視装置3等の外部機器との通信機能を有する通信インターフェースである。具体的には、通信部12は、サーバ装置1を有線又は無線で通信網N1に接続し、通信網N1を介して端末装置2及び監視装置3等との間で、所定の通信プロトコルに従ったデータ通信を実行する。
【0035】
データ格納部13は、各種の情報を記憶するHDD(Hard Disk Drive)又はSSD(Solid State Drive)等の不揮発性のストレージデバイスを含む。データ格納部13には、情報処理部11に後述の作業分析方法に係る各処理を実行させるための作業分析プログラム等の制御プログラムが格納(記憶)されている。作業分析プログラム等の制御プログラムは、例えば、コンピュータ読取可能な非一時的記録媒体に記録されて提供され、サーバ装置1の読取装置で非一時的記録媒体から読み取られて、データ格納部13に記憶される。制御プログラムは、作業分析システム10以外の外部サーバ等から電気通信回線(通信網N1)を介して作業分析システム10に提供(ダウンロード)されて、データ格納部13に記憶されてもよい。また、データ格納部13は、作業分析方法で用いられる分析用データ(映像データ)、分析結果、ユーザによって設定される各種の設定事項、及び後述する学習方法により機械学習される学習済みモデル等の情報も記憶する。
【0036】
情報処理部11は、CPU(Central Processing Unit)等の1以上のプロセッサと、ROM(Read Only Memory)及びRAM等の1以上のメモリとを有し、種々の処理(情報処理)を実行する。情報処理部11は、取得処理部110、クラスタリング処理部111、提示処理部112、ラベル指定処理部113、ラベル付与処理部114及び修正処理部115等の機能部を有する。また、情報処理部11は、粒度指定処理部116、追加処理部117、分割処理部118及び圧縮処理部119等の機能部を更に有する。情報処理部11に含まれる、これら複数の機能部は、複数の筐体に分散して設けられていてもよいし、1つの筐体に設けられていてもよい。
【0037】
情報処理部11は、1以上のプロセッサで作業分析プログラムを実行することによって、上記各種の機能部(処理部)として機能する。また、情報処理部11における上記各種の機能部の少なくとも一部は、電子回路で構成されていてもよい。
【0038】
取得処理部110は、分析用データ等を取得する取得処理を行う。具体的に、取得処理部110は、分析用データとしての作業現場F1の映像データを、通信部12を介して、監視装置3から取得する。ここで、取得処理部110が取得する作業現場F1の映像データは、前処理部32により前処理が施された映像データ(前処理結果)であってもよいし、前処理結果と前処理が施されていない映像データとの両方を含んでもよい。取得処理部110は、監視装置3から定期的又は不定期に送信される映像データを取得してもよいし、定期的又は不定期に監視装置3に要求を出し当該要求への返信として映像データを取得してもよい。本実施形態では、特に断りがない限り、取得処理部110は、監視装置3からフルカラーの動画を映像データとして取得することとする。
【0039】
クラスタリング処理部111は、(1以上の作業に関する特徴を含む)分析用データに対するクラスタリング処理を行う。本開示でいう「クラスタリング処理」は、機械学習(Machine Learning)の一種であって、ある特徴量空間におけるデータ間の類似度に基づいて、データをグループ分けする手法を意味し、クラスタ分析又はデータクラスタリングとも呼ばれる。特に、クラスタリング処理は、機械学習の中でも、教師あり学習(Supervised Learning)である分類(Classification)とは異なり、教師なし学習(Unsupervised Learning)の一種である。つまり、教師あり学習である「分類」では、どのグループに所属するかの解を元に学習したモデルを用いて、解が未知のデータがどのグループに所属するかを予測するのに対し、クラスタリング処理では、どのグループに所属するとの解がなく、データを元に特徴を学習しグループ分けを行う。本実施形態では特に、クラスタリング処理部111は、時系列データからなる分析用データについてクラスタリング処理を行うので、クラスタリング処理部111が行うクラスタリング処理は「時系列クラスタリング」である。
【0040】
クラスタリング処理部111は、クラスタリング処理の結果として、類似性のあるデータのグループである「クラスタ」を生成する。つまり、クラスタリング処理によって類似すると推定されたデータの集まりが「クラスタ」を構成し、クラスタリング処理部111は、クラスタリング処理を行うことによって、クラスタを1つ以上含むクラスタリング結果を出力する。クラスタリング処理部111は、機械学習を用いて、分析用データ(作業現場F1の映像データ)についてクラスタリング処理を実行し、1以上のクラスタを含むクラスタリング結果を得る。本実施形態では、クラスタリング結果は、作業に関する特徴を含む分析用データに対するクラスタ処理の結果であるので、作業(の内容)ごとにクラスタが生成される。
【0041】
提示処理部112は、分析用データに対するクラスタリング結果を提示する提示処理を実行する。本開示でいう「提示」は、ユーザ等に対し情報を示して知らせることを意味する。提示の態様としては、例えば、表示、印刷、音声出力、他装置への送信、及び非一時的記録媒体への書き込み等がある。すなわち、提示処理部112は、クラスタリング処理部111で分析用データに対するクラスタリング処理が行われることによって得られる、1以上のクラスタを含むクラスタリング結果を、例えば、表示又は印刷等の態様によってユーザに提示する。本実施形態では一例として、提示処理部112は、クラスタリング結果を、端末装置2の表示部21に表示させることにより、クラスタリング結果の提示を行うこととする。
【0042】
ラベル指定処理部113は、クラスタリング結果に含まれるクラスタに対応付けるラベルの指定を受け付けるラベル指定処理を行う。本開示でいう「ラベル」は、クラスタを識別するための識別子としてクラスタに付される情報(データ)を意味し、例えば、フリーテキスト入力されるクラスタの名称である。本実施形態では一例として、作業(の内容)ごとにクラスタが生成されているので、各クラスタに対応する作業の名称が、当該クラスタに対応付けるラベルとして指定される。
【0043】
また、本開示でいう「ラベルの指定」は、ユーザ等が、例えば、選択肢からの選択、又はフリーテキスト入力等の態様でラベルを指定することを意味する。つまり、ユーザ等においては、例えば、ラベル候補からなる複数の選択肢の中から任意の選択肢(ラベル候補)を選択することで、ラベルの指定を行うことができる。本実施形態では一例として、ラベル指定処理部113は、端末装置2(の操作部22)に対するユーザ操作によるラベルの指定を受け付ける。
【0044】
ラベル付与処理部114は、指定されたラベルをクラスタに対応付けるラベル付与処理を行う。すなわち、ラベル付与処理部114は、クラスタリング処理部111でのクラスタリング処理の結果として得られるクラスタに対して、ラベル指定処理部113で指定されたラベルの対応付けを行う。これにより、クラスタに対してラベルが付与されることになる。具体的に、ラベル付与処理部114は、例えば、クラスタに対応するラベルの情報(ラベル情報)を、当該クラスタと紐づく形式でデータ格納部13に格納することによって、クラスタに対するラベルの付与を行う。
【0045】
修正処理部115は、ラベルが対応付けられたクラスタに関する修正処理を行う。本開示でいう「修正処理」は、(ラベルが対応付けられた)クラスタに関する修正全般の処理を含み、例えば、クラスタ自体の修正の他、クラスタに対応付けられているラベルの修正等も含む。
【0046】
粒度指定処理部116は、クラスタリング処理の粒度の指定を受け付ける粒度指定処理を実行する。本開示でいう「粒度」は、分析用データをどの程度細かくクラスタに分けるかを、クラスタの構成単位の粗さ(大きさ)によって表す指標である。具体的には、例えば、「掘り方」のような1つの「工程」に分類される分析用データについては、クラスタリング処理の粒度が細かく(小さく)なると、複数の「単位作業」に分類される。クラスタリング処理の粒度が更に細かくなると、1つの「単位作業」に分類される分析用データが複数の「要素作業」に分類され、クラスタリング処理の粒度が更に細かくなると、1つの「要素作業」に分類される分析用データが複数の「動作」に分類される。つまり、最も大まかに分類される作業が「工程」、最も細分化された作業の要素が「動作」であるとすれば、同一の分析用データについて、クラスタリング処理の粒度が細かくなるにつれて、「工程」、「単位作業」、「要素作業」、「動作」の順で徐々に細かく分類される。
【0047】
また、本開示でいう「粒度の指定」は、ユーザ等が、例えば、選択肢からの選択、スライダ等の操作、又はフリーテキスト入力等の態様で粒度を指定することを意味する。つまり、ユーザ等においては、例えば、複数の選択肢の中から任意の選択肢(粒度)を選択することで、粒度の指定を行うことができる。本実施形態では一例として、粒度指定処理部116は、端末装置2(の操作部22)に対するユーザ操作による粒度の指定を受け付ける。
【0048】
要するに、本実施形態では、クラスタリング処理部111は、ユーザ等が指定した粒度にてクラスタリング処理を実行することができる。したがって、同一の分析用データであっても、粒度指定処理部116で受け付けられた「粒度」に応じて、異なるクラスタリング結果が得られることになる。
【0049】
追加処理部117は、クラスタリング処理された分析用データに関して、粒度を変更してクラスタリングを行う追加処理を行う。要するに、追加処理によれば、クラスタリング処理部111は、ユーザ等が指定したある粒度にてクラスタリング処理を行った後、粒度指定処理部116で受け付けられた別の粒度にて、再度、クラスタリング処理を実行する。これにより、同一の分析用データから、互いに異なる粒度での複数のクラスタリング結果が得られることになる。
【0050】
分割処理部118は、分析用データを複数の分割データに分割する分割処理を行う。本実施形態では、分析用データは作業現場F1の映像データであるので、分割処理部118は映像データを複数の分割データに分割する。ここで、分割処理部118は、映像データをクラスタごとに分割データに分割する。
【0051】
圧縮処理部119は、分析用データを圧縮する圧縮処理を行う。これにより、分析用データのデータ容量を小さく抑えることができ、例えば、分析用データを他装置に送信する際の伝送負荷を小さく抑えることができる。また、分析用データをデータ格納部13等に記録(格納)する際には、使用する記憶容量を小さく抑えることができる。本実施形態では、圧縮処理部119は、分割処理部118で分割された分割データごとに圧縮処理を行う。
【0052】
[3]作業分析方法
以下、
図2~
図14を参照しつつ、作業分析システム10によって実行される作業分析方法の一例について説明する。
【0053】
図4~
図7、及び
図9~
図13は、端末装置2の表示部21に表示される表示画面を例示している。本開示でいう表示画面等の「画面」は、表示部21等に表示される映像(画像)を意味し、図像、図形、写真、テキスト及び動画等を含む。すなわち、作業分析システム10は、例えば、クラスタリング結果等を含む表示画面を、表示部21に表示させることが可能である。ここで、表示画面が動画等を含む場合には、当該表示画面は一定の映像ではなく、刻一刻と変化する映像を含む。
図4等の表示部21に表示される表示画面を示す図面において、領域を表す一点鎖線、引出線及び参照符号は、いずれも説明のために付しているに過ぎず、実際に端末装置2に表示される訳ではない。
【0054】
ここで、作業分析システム10は、作業分析プログラムを実行させるための予め設定された特定の開始操作が行われた場合に、作業分析方法に係る下記の各種処理を実行する。開始操作は、例えば、サーバ装置1に対する端末装置2の接続(アプリケーションソフトウェアの起動)、並びにユーザID及びパスワードの入力を伴う専用サイトへのログイン等を含む。一方、作業分析システム10は、予め設定された特定の終了操作が端末装置2に対して行われた場合に、作業分析方法に係る下記の各種処理を終了する。終了操作は、例えば、ログアウト、及びサーバ装置1と端末装置2との間の接続切断等を含む。
【0055】
[3.1]クラスタリング処理
まず、クラスタリング処理について、
図2及び
図3を参照して説明する。
【0056】
クラスタリング処理部111は、取得処理部110が取得した分析用データに対してクラスタリング処理を実行する。本実施形態では、分析用データは、1以上の作業に関する特徴を含む時系列データであって、
図2に示すように、撮像装置31によって撮像される作業現場F1の映像データD1である。すなわち、クラスタリング処理部111は、作業現場F1の映像データD1に対してクラスタリング処理を実行する。
【0057】
本実施形態では、複数台(2台)の作業機械4を用いて作業が行われる場合を想定しているので、クラスタリング処理は、これら複数台の作業機械4のそれぞれについて行われる。つまり、
図2に示すように、映像データD1に2台の作業機械4が写っている場合には、映像データD1における各作業機械4に対応する領域をそれぞれオブジェクトOb1,Ob2とし、オブジェクトOb1,Ob2ごとにクラスタリング処理が実行される。
【0058】
本実施形態では特に、映像データD1に対して、監視装置3の前処理部32にて、例えば、作業機41のアーム角度、ブーム角度及びバケット位置等、各部の動作状態が特徴として抽出されている。そこで、クラスタリング処理部111は、映像データから抽出される作業機械4の各部の動作状態を表す特徴量のデータ(時系列整形データD2)に対して、クラスタリング処理を実行する。
【0059】
具体的に、クラスタリング処理部111は、
図3に示すように、作業機械4の各部の動作状態を表す時系列整形データD2に対して、窓関数によるサンプリング(P1)、時系列特徴量の抽出(P2)、クラスタリング(P3)を、この順で実施する。すなわち、時系列整形データD2に対して窓関数によるサンプリングが施されることで(P1)、時系列特徴量D3が抽出され(P2)、時系列特徴量D3に対してクラスタリングが行われることにより(P3)、クラスタリング結果D4が得られる。
【0060】
ここで、窓関数によるサンプリング(P1)の具体的な手法の一例としては、窓幅L1の矩形窓(Rectangular Window)又はガウス窓(Gaussian Window)等を用いたサンプリングがある。時系列特徴量の抽出(P2)の具体的な手法の一例としては、基本統計量又は遷移確率モデル等がある。クラスタリング(P3)の具体的な手法の一例として、階層的クラスタリング、k平均(k-means)法又は隠れマルコフモデル(HMM:Hidden Markov Model)等がある。クラスタリング処理部111は、これらの具体的な手法を適宜採用して、クラスタリング処理を実行する。
【0061】
すなわち、本実施形態に係る作業分析方法では、ある期間の作業機械4の動作を表す時系列整形データD2に対して、指定の時間窓幅Lにおける類似性又は非類似性(異常度)に基づくクラスタリング処理を行う。これにより、例えば、作業機械4が「掘削」等の同一の作業をしているときの2つの映像データから抽出される時系列整形データD2同士であれば、クラスタリング処理により同一のクラスタに分類される。一方、例えば、それぞれ作業機械4が「掘削」の作業及び「移動」の作業をしているときの2つの映像データから抽出される時系列整形データD2同士は、クラスタリング処理により異なるクラスタに分類される。
【0062】
このように、本実施形態に係る作業分析方法によれば、クラスタリング処理によって、作業の分析が自動的に行われるため、例えば、定型化されていない作業又は未知の作業に関しても、分析用データ(映像データ等)からの作業の分析に手間を軽減しやすい。
【0063】
[3.2]ラベルの付与
次に、クラスタに対してラベルを付与するためのラベル指定処理及びラベル付与処理について、
図4~
図6を参照して説明する。
【0064】
ラベルを付与するに際し、まず提示処理部112は、分析用データに対するクラスタリング結果を提示する提示処理を実行する。本実施形態では一例として、提示処理部112は、
図4に示すように、クラスタリング結果を含むラベル指定画面G1を、端末装置2の表示部21に表示させる。ラベル指定画面G1は、クラスタリング処理の終了後に、作業分析方法によって最初に表示される表示画面である。
【0065】
ラベル指定画面G1は、
図4に示すように、オブジェクト選択領域R11、クラスタ選択領域R12、代表系列表示領域R13及びラベル入力領域R14を含んでいる。端末装置2においては、ラベル指定画面G1に対するユーザ操作を、操作部22にて受付可能である。
【0066】
オブジェクト選択領域R11には、映像データD1に複数(本実施形態では2つ)のオブジェクトOb1(Object 1)及びオブジェクトOb2(Object 2)が含まれている場合に、いずれのオブジェクトOb1,Ob2についてのクラスタリング結果を表示するかを選択するための選択肢が表示される。例えば、オブジェクト選択領域R11においてオブジェクトOb1が選択されていると、ラベル指定画面G1には、オブジェクトOb1についてのクラスタリング結果が表示される。
【0067】
クラスタ選択領域R12には、クラスタリング結果が表示される。
図4では、オブジェクトOb1についてのクラスタリング結果として、「クラスタ1」(Cluster 1)~「クラスタ4」(Cluster 4)の4つのクラスタが生成された場合を例示している。そのため、クラスタ選択領域R12には、「クラスタ1」~「クラスタ4」の4つのクラスタが表示されている。クラスタ選択領域R12においては、いずれかのクラスタを選択可能である。
【0068】
代表系列表示領域R13には、選択中のクラスタについての代表系列の分析用データ(映像データD1)が表示される。つまり、
図4に例示するように、クラスタ選択領域R12において「クラスタ1」が選択されていると、代表系列表示領域R13には、「クラスタ1」に分類されている映像データのうち代表系列となる映像データD1が表示される。ここで、「代表系列」の分析用データは、当該クラスタを代表するデータであって、一例として、特徴量空間上において当該クラスタの中心に近い位置にあるデータ等からなる。また、代表系列表示領域R13には、例えば、更新、再生、一時停止及びスライダのように、代表系列の映像データD1に対するユーザ操作を受け付けるための操作ボタンが更に表示される。
【0069】
ラベル入力領域R14には、選択中のクラスタに対応付けるラベルの入力欄が表示される。つまり、
図4に例示するように、クラスタ選択領域R12において「クラスタ1」が選択されていると、ラベル入力領域R14には、「クラスタ1」に対応付けるラベルを入力するための入力欄が表示される。
【0070】
本実施形態では、ラベル入力領域R14には、
図5に示すように、プルダウンリストR141を表示可能である。プルダウンリストR141は、ラベル候補からなる複数の選択肢を含んでおり、ユーザ等においては、これら複数の選択肢(ラベル候補)の中から任意の選択肢を選択することで、ラベルの指定を行うことができる。
図5の例では、ラベル候補として「掘削」、「移動」及び「停止」が用意されている。さらに、ユーザは、「カスタム」を選択することで、フリーテキスト入力により任意のラベルを追加することも可能である。
【0071】
ユーザにおいては、このようなラベル指定画面G1上で、各クラスタに対応付けるラベルを順次指定する。つまり、ラベル指定処理部113は、ラベル指定画面G1の表示中に、クラスタリング結果に含まれるクラスタに対応付けるラベルの指定を受け付けるラベル指定処理を行う。そして、ラベルが指定された状態で、ラベル入力領域R14の登録ボタンR142が操作されると、ラベル付与処理部114は、指定されたラベルをクラスタに対応付けるラベル付与処理を実行する。
【0072】
すなわち、ユーザは、例えば、オブジェクトOb1について、「クラスタ1」を選択した状態で当該「クラスタ1」に対応付けるラベルとして「移動」を指定し、登録ボタンR142を操作する。これにより、「クラスタ1」に「移動」というラベルが対応付けられる。ユーザが、同様の操作を繰り返すことにより、「クラスタ1」~「クラスタ4」に対して、それぞれラベルが対応付けられることになる。
【0073】
このように、本実施形態に係る作業分析方法は、1以上の作業に関する特徴を含む分析用データに対するクラスタリング結果を提示することと、クラスタリング結果に含まれるクラスタに対応付けるラベルの指定を受け付けることと、を有する。作業分析方法は、指定されたラベルをクラスタに対応付けること、を更に有する。
【0074】
上記作業分析方法によれば、ユーザにおいては、クラスタリング処理によって自動的に分類されたクラスタに対して、これに対応付けるラベルを指定するだけで、作業を分析することが可能となる。したがって、例えば、定型化されていない作業又は未知の作業に関しても、分析用データ(映像データD1等)からの作業の分析に掛かる手間を軽減しやすい、という利点がある。
【0075】
また、本実施形態に係る作業分析方法は、ラベルの指定を受け付ける際に、クラスタの抽出に用いられた分析用データを提示すること、を更に有する。ここでいう「ラベルの指定を受け付ける際」は、少なくともラベルの指定を受け付ける時点を含んでいればよく、例えば、ラベルの指定を受け付ける前後にも分析用データを提示してもよい。具体的には、ラベルの指定を受け付けるラベル指定画面G1に、クラスタの抽出に用いられた分析用データである(代表系列の)映像データD1が表示されている。したがって、ユーザにおいては、あるクラスタに対応付けるラベルを指定する際、当該クラスタの根拠となる分析用データ(映像データD1)を確認して、当該クラスタに対応付けるべきラベルを特定することが可能である。
【0076】
また、本実施形態に係る作業分析方法では、クラスタリング結果は複数のクラスタを含み、ラベルは複数のクラスタの各々に対して指定可能である。すなわち、クラスタリング結果が「クラスタ1」~「クラスタ4」を含む場合には、ユーザは、ラベル指定画面G1上で「クラスタ1」~「クラスタ4」のいずれかのクラスタを選択して、当該クラスタに対応付けるラベルを指定可能である。したがって、ユーザにおいては、複数のクラスタに対して別々のラベルを対応付けることが可能である。
【0077】
さらに、本実施形態に係る作業分析方法は、ラベルの指定を受け付ける際に、ラベルの候補としてのラベル候補を提示すること、を更に有する。ここでいう「ラベルの指定を受け付ける際」は、少なくともラベルの指定を受け付ける時点を含んでいればよく、例えば、ラベルの指定を受け付ける前後にもラベル候補を提示してもよい。すなわち、ラベル指定画面G1のラベル入力領域R14には、複数のラベル候補を含むプルダウンリストR141を表示可能である。ユーザは、これら複数のラベル候補の中から任意のラベル候補を選択するだけで、クラスタに対応付けるラベルを容易に指定することができる。
【0078】
また、ラベル候補は、ラベルが対応付けられるクラスタに関連する別クラスタに対応付けられたラベルに基づいて決定される。本開示でいう「別クラスタ」は、ラベルの付与対象であるクラスタに何かしら関連するクラスタであって、例えば、過去にラベルが付与された類似のクラスタ、又は同一の分析用データに対して粒度の異なるクラスタリング処理を施した結果得られるクラスタ等を含む。このような別クラスタに対応付けられたラベルに基づいてラベル候補が決定されることで、適切なラベル候補が提示されやすくなる。
【0079】
ところで、全てのクラスタに対してラベルが対応付けられると、提示処理部112は、
図6に示すように、クラスタリング結果を含む作業分析画面G2を、端末装置2の表示部21に表示させる。
【0080】
作業分析画面G2は、
図6に示すように、オブジェクト選択領域R21、クラスタリング結果領域R22、映像表示領域R23及び凡例領域R24を含んでいる。端末装置2においては、作業分析画面G2に対するユーザ操作を、操作部22にて受付可能である。
【0081】
オブジェクト選択領域R21には、映像データD1に複数(本実施形態では2つ)のオブジェクトOb1(Object 1)及びオブジェクトOb2(Object 2)が含まれている場合に、いずれのオブジェクトOb1,Ob2についてのクラスタリング結果を表示するかを選択するための選択肢が表示される。例えば、オブジェクト選択領域R11においてオブジェクトOb1が選択されていると、作業分析画面G2には、オブジェクトOb1についてのクラスタリング結果が表示される。
【0082】
クラスタリング結果領域R22には、クラスタリング結果が表示される。
図6では、オブジェクトOb1についてのクラスタリング結果として、それぞれ「掘削」、「移動」及び「停止」のラベルが対応付けられた3種類のクラスタが表示される場合を例示している。そのため、クラスタリング結果領域R22には、「掘削」、「移動」及び「停止」の3種類のクラスタが表示されている。クラスタリング結果領域R22では、例えば、横方向を時間軸として各クラスタが時系列に沿って並べて表示される。
図6では一例として、「停止」、「掘削」、「移動」、「掘削」、「停止」、「掘削」のクラスタが、この順で並ぶようにクラスタリング結果領域R22に表示されている。
【0083】
映像表示領域R23には、クラスタリング処理に用いた映像データD1が表示される。映像表示領域R23に表示される映像データD1は、クラスタリング結果領域R22に表示されるスライダに連動して変化する動画である。
【0084】
凡例領域R24には、クラスタリング結果領域R22における各クラスタとラベルとの対応関係を示す凡例が表示される。さらに、凡例領域R24には、クラスタリング結果における各クラスタの割合(比率)が表示される。
図6の例では、「掘削」のラベルが対応付けられたクラスタが、映像データD1の半分以上の時間を占めている。
【0085】
ユーザにおいては、このような作業分析画面G2が提示(表示)されることで、ラベルが付与された状態のクラスタリング結果(複数のクラスタ)を、一覧可能な態様で確認することができる。これにより、連続的に行われる一連の作業を、例えば、「掘削」、「移動」及び「停止」等の細かな作業に分類して、当該作業の分析が可能となる。
【0086】
特に、本実施形態に係る作業分析方法は、クラスタリング結果を時系列に沿って提示すること、を更に有する。すなわち、作業分析画面G2のクラスタリング結果領域R22には、ラベルが対応付けられた複数のクラスタが時系列に沿って表示されている。ユーザは、このように提示(表示)されるクラスタリング結果から、例えば、「掘削」、「移動」及び「停止」等の細かな作業が、どのような段取りで行われたかを把握しやすくなる。
【0087】
[3.3]粒度の設定
次に、クラスタリング処理における粒度を設定するための粒度指定処理について、
図7及び
図8を参照して説明する。
【0088】
本実施形態では、粒度指定処理部116が、クラスタリング処理の粒度の指定を受け付ける粒度指定処理を実行する。そのため、クラスタリング処理部111は、ユーザが指定した粒度にてクラスタリング処理を実行することができる。したがって、同一の分析用データであっても、粒度指定処理部116で受け付けられた「粒度」に応じて、異なるクラスタリング結果が得られることになる。
【0089】
同一の分析用データに対して異なる粒度でクラスタリング処理が実行された場合、提示処理部112は、作業分析画面G2に代えて、例えば、
図7に示すような詳細分析画面G3を、端末装置2の表示部21に表示可能となる。詳細分析画面G3は、作業分析画面G2と同様に、全てのクラスタに対してラベルが対応付けられることで表示される画面である。
【0090】
詳細分析画面G3は、
図7に示すように、オブジェクト選択領域R31、クラスタリング結果領域R32及び映像表示領域R33を含んでいる。端末装置2においては、詳細分析画面G3に対するユーザ操作を、操作部22にて受付可能である。
【0091】
オブジェクト選択領域R31には、映像データD1に複数(本実施形態では2つ)のオブジェクトOb1(Object 1)及びオブジェクトOb2(Object 2)が含まれている場合に、いずれのオブジェクトOb1,Ob2についてのクラスタリング結果を表示するかを選択するための選択肢が表示される。例えば、オブジェクト選択領域R11においてオブジェクトOb1が選択されていると、詳細分析画面G3には、オブジェクトOb1についてのクラスタリング結果が表示される。
【0092】
クラスタリング結果領域R32には、粒度が異なる複数のクラスタリング結果が表示される。
図7では、粒度が「50」、「30」及び「10」の3パターンのクラスタリング結果が表示される場合を例示している。
図7では一例として、粒度「50」のクラスタリング結果R321、粒度「30」のクラスタリング結果R322、粒度「10」のクラスタリング結果R323が、この順で上方から並ぶようにクラスタリング結果領域R32に表示されている。つまり、複数のクラスタリング結果は、粒度が粗い(大きい)側から順に、時間軸と直交する方向(上下方向)に並べて配置されている。ここで、粒度が異なる複数のクラスタリング結果R321,R322,R323は、同一の時間軸に沿って表示されている。そのため、粒度が粗い上位の作業の下方には、当該作業を細分化した作業が位置することになる。
【0093】
映像表示領域R33には、クラスタリング処理に用いた映像データD1が表示される。映像表示領域R33に表示される映像データD1は、クラスタリング結果領域R32に表示されるスライダに連動して変化する動画である。
【0094】
ここにおいて、本実施形態に係る作業分析方法では、
図8に示すように、個々のクラスタに対して、粒度ごとにラベルを対応付ける形でラベルの指定及び付与を可能とする。すなわち、データ格納部13に格納されている分析用データには「ラベル」(label)欄が含まれているところ、「ラベル」欄には「50」、「30」及び「10」の粒度ごとにラベルが記述されている。言い換えれば、ラベルは粒度を指定するパラメータと紐づける形で、階層構造を持ってクラスタに付与される。これにより、ユーザにおいては、例えば、階層構造に基づき、各作業をドリルアップ/ドリルダウンすることで階層的に分析することが可能となる。
【0095】
以上説明したように、本実施形態に係る作業分析方法は、1以上の作業に関する特徴を含む分析用データに対するクラスタリング処理を行うことと、クラスタリング処理の粒度の指定を受け付けることと、を有する。
【0096】
上記作業分析方法によれば、ユーザにおいては、クラスタリング処理の粒度を指定して、分析用データ(映像データD1等)に対するクラスタリング処理を行わせることが可能である。これにより、ユーザにおいては、所望の粒度でクラスタリング処理によって自動的に分類されたクラスタにより、作業を分析することが可能となる。したがって、例えば、定型化されていない作業又は未知の作業に関しても、分析用データからの作業の分析に掛かる手間を軽減しやすい、という利点がある。
【0097】
ここで、粒度が細かくなるほどに、時系列データである分析用データのうちのある期間のデータが多くのクラスタを含む。つまり、分析用データのある期間に着目すると、粒度が細かくなるほどに多くのクラスタに分類されることになる。したがって、このような粒度をユーザが指定できることで、所望のクラスタ数に落ち着くように、クラスタリング処理を行うことが可能である。
【0098】
また、本実施形態に係る作業分析方法は、クラスタリング処理によって得られるクラスタリング結果を、時系列に沿って提示すること、を更に有する。すなわち、詳細分析画面G3のクラスタリング結果領域R32には、複数のクラスタが時系列に沿って表示されている。ユーザは、このように提示(表示)されるクラスタリング結果から、例えば、「掘削」、「移動」及び「停止」等の細かな作業が、どのような段取りで行われたかを把握しやすくなる。
【0099】
さらに、クラスタリング結果の提示に際しては、互いに粒度が異なる複数のクラスタリング結果が一覧可能な態様で提示される。すなわち、詳細分析画面G3のクラスタリング結果領域R32には、「50」、「30」及び「10」のように粒度が異なる複数のクラスタリング結果が一覧表示される。そのため、ユーザにおいては、これら複数のクラスタリング結果から、各作業をドリルアップ/ドリルダウンすることで階層的に分析することが可能となる。
【0100】
特に、本実施形態では、これら複数のクラスタリング結果は、同一時間軸に沿って提示される。そのため、ユーザにおいては、これら複数のクラスタリング結果から、各作業をドリルアップ/ドリルダウンすることで階層的に分析することが容易になる。
【0101】
さらに、これら複数のクラスタリング結果は、粒度の順に並べて提示される。そのため、ユーザにおいては、これら複数のクラスタリング結果から、各作業をドリルアップ/ドリルダウンすることで階層的に分析することが容易になる。
【0102】
ところで、本実施形態に係る作業分析方法は、ラベルの指定を受け付ける際に、ラベルの候補としてのラベル候補を提示すること、を有する。ここで、ラベル候補は、別クラスタに対応付けられたラベルに基づいて決定される。別クラスタは、ラベルが対応付けられるクラスタと同一の分析用データに対する異なる粒度でのクラスタリング処理により得られるクラスタを含む。ここでいう「ラベルの指定を受け付ける際」は、少なくともラベルの指定を受け付ける時点を含んでいればよく、例えば、ラベルの指定を受け付ける前後にもラベル候補を提示してもよい。
【0103】
一例として、ある分析用データに対する粒度を「50」とするクラスタリング処理により得られるクラスタに、「掘り方」とのラベルが付与されている場合を想定する。この場合、同一の分析用データに対して、粒度を「30」とするクラスタリング処理によって得られるクラスタに対応付けるラベルの指定を受け付ける際、ラベル指定画面G1のラベル入力領域R14には「掘り方」に基づいて決定されるラベル候補(例えば、「掘削」及び「移動」等)が提示される。このように、粒度が異なるクラスタに対応付けられたラベルに基づいてラベル候補が決定されることで、適切なラベル候補が提示されやすくなる。
【0104】
[3.4]修正処理
次に、ラベルが対応付けられたクラスタに関する修正を行うための修正処理について、
図9~
図11を参照して説明する。
【0105】
修正処理部115が行う修正処理は、上述したように、クラスタ自体の修正の他、クラスタに対応付けられているラベルの修正等も含む。そこで、以下では、これらの修正処理を区別する場合、クラスタ自体を修正するための修正処理を「分類修正処理」と呼び、ラベルを修正するための修正処理を「ラベル修正処理」と呼ぶ。
【0106】
まず、分類修正処理を実施するに際して、修正処理部115は、
図9及び
図10に例示するような分類修正画面G4を、端末装置2の表示部21に表示させる。分類修正画面G4は、
図9に示すように、オブジェクト選択領域R41、クラスタ選択領域R42及び分類結果表示領域R43を含んでいる。端末装置2においては、分類修正画面G4に対するユーザ操作を、操作部22にて受付可能である。
【0107】
オブジェクト選択領域R41には、映像データD1に複数(本実施形態では2つ)のオブジェクトOb1(Object 1)及びオブジェクトOb2(Object 2)が含まれている場合に、いずれのオブジェクトOb1,Ob2についての分類修正処理を行うかを選択するための選択肢が表示される。例えば、オブジェクト選択領域R41においてオブジェクトOb1が選択されていると、分類修正画面G4には、オブジェクトOb1についてのクラスタリング結果が表示される。
【0108】
クラスタ選択領域R42には、クラスタリング結果が表示される。
図9では、オブジェクトOb1についてのクラスタリング結果として、「クラスタ1」(Cluster 1)~「クラスタ4」(Cluster 4)の4つのクラスタが生成された場合を例示している。そのため、クラスタ選択領域R42には、「クラスタ1」~「クラスタ4」の4つのクラスタが表示されている。クラスタ選択領域R42においては、いずれかのクラスタを選択可能である。
【0109】
分類結果表示領域R43には、選択中のクラスタに分類されている分析用データ(映像データD1)が表示される。つまり、
図9に例示するように、クラスタ選択領域R42において「クラスタ1」が選択されていると、分類結果表示領域R43には、「クラスタ1」に分類されている全ての映像データD1が表示される。また、分類結果表示領域R43には、例えば、更新、再生、一時停止及びスライダのように、映像データD1に対するユーザ操作を受け付けるための操作ボタンが更に表示される。
【0110】
ユーザにおいては、このような分類修正画面G4上で、各クラスタに分類されている分析用データ(映像データD1)について分類修正処理の指示を行う。つまり、修正処理部115は、分類修正画面G4の表示中に、分類修正処理を行う分析用データの指定を受け付ける。具体的に、分類結果表示領域R43において、各映像データD1に対応して配置されている分類修正ボタンR431~R433が操作されると、修正処理部115は、操作された分類修正ボタンR431に対応する映像データD1について分類修正処理を実行する。
【0111】
すなわち、ユーザは、例えば、オブジェクトOb1について、「クラスタ1」を選択した状態で当該「クラスタ1」に分類されている分析用データ(映像データD1)の中から、任意の分析用データを選択し、これに対応する分類修正ボタンR431を操作する。これにより、分類修正ボタンR431が対応する(
図9における左端の)映像データD1を対象として、分類修正処理が行われる。
【0112】
一例として、分類修正処理の内容は、
図10に示すような、指示画面G41にて指定される。指示画面G41は、例えば、分類修正画面G4上にポップアップ表示される。指示画面G41は、修正内容領域R44及び修正詳細領域R45を含んでいる。
【0113】
修正内容領域R44には、分類修正指示の内容(アクション)を指定するための入力欄が表示される。本実施形態では、修正内容領域R44には、
図10に示すように、プルダウンリストR441を表示可能である。プルダウンリストR441は、「マージ」、「除外」及び「再分類」からなる複数の選択肢を含んでおり、ユーザ等においては、これら複数の選択肢の中から任意の選択肢を選択することで、分類修正処理の内容を指定することができる。修正詳細領域R45には、修正内容領域R44で指定された分類修正処理の詳細を指定するための入力欄が表示される。
【0114】
ここでいう「マージ」処理は、クラスタを他のクラスタと統合する処理である。「除外」処理は、クラスタをクラスタリング結果から除外する処理である。「再分類」処理は、クラスタの抽出に用いられた分析用データについて再度クラスタリングを行う処理である。すなわち、本実施形態では、修正処理は、クラスタを他のクラスタと統合するマージ処理、クラスタをクラスタリング結果から除外する除外処理、及び、クラスタの抽出に用いられた分析用データについて再度クラスタリングを行う再分類処理の少なくとも1つを含む。
【0115】
これにより、例えば、クラスタリング処理によって上手く分類できていない分析用データがある場合には、当該分析用データに対するクラスタリング処理の結果を修正することが可能である。一例として、修正対象のクラスタが、他のクラスタと同じ動きの分析用データからなる場合、修正対象のクラスタを当該他のクラスタと統合するマージ処理が行われる。一方、撮像装置31の不具合(転倒等)に起因して、クラスタリング処理にとって不要な分析用データに関しては、クラスタリング結果から除外する除外処理が行われる。また、同一クラスタに分類されている分析用データの中で、明らかに異なる動きの分析用データについては、再度クラスタリングを行う際分類処理が行われる。
【0116】
一方、ラベル修正処理を実施するに際して、修正処理部115は、
図11に例示するようなラベル修正画面G5を、端末装置2の表示部21に表示させる。ラベル修正画面G5は、作業分析画面G2(
図6参照)において、クラスタリング結果領域R22に表示されているいずれかのクラスタがラベル修正対象として選択操作(一例としてタップ)されることにより、作業分析画面G2から遷移して表示される画面である。
【0117】
ラベル修正画面G5は、
図11に示すように、オブジェクト選択領域R51、クラスタ選択領域R52、映像表示領域R53及びラベル修正領域R54を含んでいる。端末装置2においては、ラベル修正画面G5に対するユーザ操作を、操作部22にて受付可能である。
【0118】
オブジェクト選択領域R51には、映像データD1に複数(本実施形態では2つ)のオブジェクトOb1(Object 1)及びオブジェクトOb2(Object 2)が含まれている場合に、いずれのオブジェクトOb1,Ob2についてのラベル修正処理を行うかを選択するための選択肢が表示される。例えば、オブジェクト選択領域R51においてオブジェクトOb1が選択されていると、ラベル修正画面G5には、オブジェクトOb1についてのクラスタリング結果が表示される。
【0119】
クラスタ選択領域R52には、作業分析画面G2のクラスタリング結果領域R22と同様に、クラスタリング結果が表示される。ただし、クラスタ選択領域R52においては、作業分析画面G2でラベル修正対象として選択されたクラスタのみがアクティブ表示され、それ以外のクラスタは非アクティブ表示(例えばグレーアウト表示)される。これにより、クラスタ選択領域R52では、ラベル修正対象としているクラスタを確認可能である。
【0120】
映像表示領域R53には、ラベル修正対象としているクラスタの分類に用いた映像データD1が表示される。つまり、分析用データ(映像データD1)のうち、クラスタ選択領域R52においてラベル修正対象としてアクティブ表示されているクラスタの映像データD1のみが、映像表示領域R53に表示される。
【0121】
ラベル修正領域R54には、ラベル修正対象としているクラスタに対して現在対応付けられているラベル情報R541が表示される。また、ラベル修正領域R54には、編集ボタンR542が更に表示される。
【0122】
ユーザにおいては、このようなラベル修正画面G5上で、ラベル修正対象として選択されているクラスタのラベルを修正するための指示を行う。具体的に、ラベル修正領域R54の編集ボタンR542が操作されると、修正処理部115は、ラベル修正対象のクラスタに対応付けられているラベルの修正(ラベル修正処理)を実行する。
【0123】
このように、本実施形態では、ユーザは、作業分析画面G2において、クラスタリング結果領域R22に表示されているいずれかのクラスタをラベル修正対象として選択操作することにより、当該ラベル修正対象についてのみラベルを修正することができる。すなわち、クラスタリング処理により得られた複数のクラスタについて、一括してラベルを付与する処理だけでは、全てのクラスタについて正しくラベルを付与できない場合がある。このような場合に、ユーザは、複数のクラスタのうちのいずれかをラベル修正対象として指定して、個別にラベルの修正を行うことができる。つまり、修正処理は、時系列データである分析用データのうち指定された期間のデータについて行われる。したがって、精度の高いラベルの付与を実現可能である。
【0124】
しかも、本実施形態によれば、ユーザは、ラベルが付与されたクラスタリング結果を時系列に沿って提示(表示)した上で、その中で不自然なラベルが付与されているクラスタを、ラベル修正対象として指定することが可能である。したがって、ユーザにおいては、不適切なラベルが付与されているクラスタを見つけやすくなる。
【0125】
[3.5]追加処理
次に、クラスタリング処理された分析用データに関し、粒度を変更してクラスタリングを行う追加処理について、
図12を参照して説明する。
【0126】
追加処理を実施するに際して、追加処理部117は、
図12に例示するような追加分析画面G6を、端末装置2の表示部21に表示させる。追加分析画面G6は、作業分析画面G2(
図6参照)において、クラスタリング結果領域R22に表示されているいずれかのクラスタが追加処理対象として選択操作(一例として長押し)されることにより、作業分析画面G2から遷移して表示される画面である。
【0127】
追加分析画面G6は、
図12に示すように、条件設定領域R61、追加前領域R62及び追加後領域R63を含んでいる。端末装置2においては、追加分析画面G6に対するユーザ操作を、操作部22にて受付可能である。
【0128】
追加前領域R62には、作業分析画面G2のクラスタリング結果領域R22と同様に、クラスタリング結果が表示される。ただし、追加前領域R62においては、作業分析画面G2で追加処理対象として選択されたクラスタと同種のクラスタのみがアクティブ表示され、それ以外のクラスタは非アクティブ表示(例えばグレーアウト表示)される。これにより、追加前領域R62では、追加処理対象としているクラスタを確認可能である。
【0129】
ユーザにおいては、条件設定領域R61において、分類数及び粒度といった、追加分析処理におけるクラスタリング処理の条件を設定し、実行ボタンR611を操作する。これにより、追加前領域R62上で、追加処理対象として選択されているクラスタについて、粒度を変更してクラスタリングを行う追加処理が実行される。追加処理の結果は、追加後領域R63に表示される。
【0130】
このように、本実施形態では、ユーザは、作業分析画面G2において、クラスタリング結果領域R22に表示されているいずれかのクラスタを追加処理対象として選択操作することにより、当該追加処理対象についてのみ、粒度を変更したクラスタリング(追加処理)を行うことができる。すなわち、クラスタリング処理により得られた複数のクラスタについて、一括して追加処理を行っても、クラスタによっては更なる細分化ができない場合もある。これに対して、本実施形態に係る作業分析方法では、粒度を変更したクラスタリングが必要なクラスタについてのみ、追加処理を行うことができるので、効率的な分析が可能となる。
【0131】
[3.6]圧縮処理
次に、分析用データを圧縮する圧縮処理について、
図13を参照して説明する。
【0132】
本実施形態では、例えば
図13に示すような、端末装置2の表示部21に表示される要約動画画面G7において、要約動画の作成の指示があると、分析用データとしての映像データD1から圧縮処理によって要約動画が生成される。
【0133】
要約動画画面G7は、
図13に示すように、条件設定領域R71及び操作領域R72を含んでいる。端末装置2においては、要約動画画面G7に対するユーザ操作を、操作部22にて受付可能である。
【0134】
条件設定領域R71には、圧縮処理に係る条件として、画質(例えば高/中/低の3段階)、最大FPS(frames per second)及び最小FPSの設定値が表示される。操作領域R72の作成ボタンR721が操作されると、サーバ装置1の圧縮処理部119が、条件設定領域R71に示されている条件で圧縮処理を実行して、映像データD1を圧縮した要約画像を生成する。操作領域R72のダウンロードボタンR722が操作されると、端末装置2はサーバ装置1から要約画像をダウンロードする。
【0135】
ここで、圧縮処理を行うに際しては、まず分割処理部118が、分析用データ(映像データD1)をクラスタごとに分割データに分割する。そして、圧縮処理部119は、分割された分割データごとに分析用データ(映像データD1)の圧縮処理を行う。
【0136】
ところで、圧縮処理では、分析用データについて、粒度の下限値に応じた圧縮率で圧縮する。例えば、「掘削」のクラスタについては粒度を下げる(細かくする)ことで更なる細分化が可能であるのに対し、「停止」のクラスタについては更なる細分化は不可能である。つまり、「掘削」に比べて「停止」の方が、粒度の下限値が高い(粗い)と言える。この場合、「掘削」に分類された分析用データ(映像データD1)については、より細かい動作の分析の必要性に鑑みて、FPSを比較的高く維持することが好ましい。対して、「停止」に分類された分析用データ(映像データD1)については、より細かい動作の分析は不要であるため、FPSを比較的低く抑えることが可能である。
【0137】
要するに、本実施形態では、圧縮処理部119は、粒度の下限値が低い(細かい)ほど、圧縮率が大きくなる(圧縮前のデータに近くなる)ように、粒度の下限値に応じた圧縮率で圧縮処理を実行する。このように、階層的な分類情報(粒度)を用いることで、分析データの重要度に応じた圧縮率を自動的に判別することで、データの損失を低減しつつ、適切な圧縮処理を行うことができる。
【0138】
[3.7]フローチャート
図14は、以上説明した本実施形態に係る作業分析方法の代表的な処理の一例を示すフローチャートである。
【0139】
まず、クラスタリング処理部111が、取得処理部110が取得した分析用データに対してクラスタリング処理を実行する(S1)。このとき、クラスタリング処理部111は、各クラスタについて分析用データから代表系列の分析用データを抽出する(S2)。
【0140】
次に、作業分析システム10は、粒度の調整が必要か否かを判断する(S3)。このとき、作業分析画面G2において、例えば、クラスタリング結果領域R22に表示されているいずれかのクラスタが追加処理対象として選択操作(一例として長押し)されると、作業分析システム10は、粒度の調整が必要と判断し(S3:Yes)、粒度の指定を受け付け(S4)、処理をステップS1に戻す。一方、粒度の調整が不要であれば(S3:No)、作業分析システム10は、処理をステップS5に移行させる。
【0141】
ステップS5では、ユーザが、ラベル指定画面G1上で、いずれかのクラスタを選択する。このとき、ラベル指定画面G1の代表系列表示領域R13には、選択中のクラスタについての代表系列の分析用データ(映像データD1)が表示される。そして、ラベル指定処理部113は、ラベル指定画面G1のラベル入力領域R14にて、選択中のクラスタに対応付けるラベルの指定を受け付ける(S6)。ラベル付与処理部114は、指定されたラベルをクラスタに対応付けるラベル付与処理を実行する(S7)。
【0142】
次に、作業分析システム10は、ラベルの付与(ラベリング)を終了するか否かを判断する(S8)。このとき、ラベル指定画面G1において、全てのクラスタに対してラベルが対応付けられると、作業分析システム10は、ラベリングの終了と判断し(S8:Yes)、処理をステップS9に移行させる。一方、全てのクラスタに対するラベリングが終了していなければ(S8:No)、作業分析システム10は、処理をステップS3に戻す。
【0143】
ステップS9では、提示処理部112が、クラスタリング結果を含む作業分析画面G2を、端末装置2の表示部21に表示させる。作業分析システム10は、ステップS1~S9を繰り返し実行する。ただし、
図14に示すフローチャートは一例に過ぎず、処理が適宜追加又は省略されてもよいし、処理の順番が適宜入れ替わってもよい。
【0144】
[4]変形例
以下、実施形態1の変形例を列挙する。以下に説明する変形例は、適宜組み合わせて適用可能である。
【0145】
本開示における作業分析システム10は、コンピュータシステムを含んでいる。コンピュータシステムは、ハードウェアとしての1以上のプロセッサ及び1以上のメモリを主構成とする。コンピュータシステムのメモリに記録されたプログラムをプロセッサが実行することによって、本開示における作業分析システム10としての機能が実現される。プログラムは、コンピュータシステムのメモリに予め記録されてもよく、電気通信回線を通じて提供されてもよく、コンピュータシステムで読み取り可能なメモリカード、光学ディスク、ハードディスクドライブ等の非一時的記録媒体に記録されて提供されてもよい。
【0146】
また、作業分析システム10に含まれる一部又は全部の機能部は電子回路で構成されていてもよい。
【0147】
また、作業分析システム10の少なくとも一部の機能が、1つの筐体内に集約されていることは作業分析システム10に必須の構成ではなく、作業分析システム10の構成要素は、複数の筐体に分散して設けられていてもよい。さらに、作業分析システム10の少なくとも一部の機能がクラウド(クラウドコンピューティング)等によって実現されてもよい。反対に、実施形態1において、複数の装置に分散されている作業分析システム10の機能が、1つの筐体内に集約されていてもよい。
【0148】
また、作業分析システム10による分析対象である「作業」に用いられる作業機械4は、1種類に限らず、例えば、バックホー、ホイルローダー及びキャリア等の複数種類の作業機械4が混在してもよい。この場合、作業機械4の種類ごとに異なる作業を行うことができるため、作業分析システム10はより多くの「作業」について分析可能となる。さらに、作業機械4は、有人機に限らず、自動運転又は遠隔操作により動作する無人機であってもよい。
【0149】
また、作業分析システム10による分析対象である「作業」は、作業機械4を用いて行われる作業に限らず、例えば、作業者が道具を適宜用いて自ら行う作業等を含んでもよい。さらに、作業分析システム10による分析対象である「作業」は、作業機械4を用いて行われる作業と、作業者が自ら行う作業との両方を含んでいてもよい。
【0150】
また、操作部22は、タッチパネルに加えて又は代えて、例えば、物理スイッチ、マウス又はキーボード等を含んでもよいし、音声入力、ジェスチャ入力又は他の端末からの操作信号の入力等の態様を採用してもよい。
【0151】
(実施形態2)
本実施形態に係る作業分析システム10Aは、
図15に示すように、エッジコンピュータ5を備える点で、実施形態1に係る作業分析システム10と相違する。以下、実施形態1と同様の構成については、共通の符号を付して適宜説明を省略する。
【0152】
本実施形態では、監視装置3は、例えば、作業機械4に実装されている慣性センサ又は位置検出部等の作業機械4の動作に係る検知を行うデバイス、及び、作業者が装着するスマートグラス等のウェアラブルデバイス等を含む。エッジコンピュータ5は、複数の監視装置3と通信可能に構成されており、これら複数の監視装置3から、分析用データとしての種々の検知データを取得する。すなわち、本実施形態では、分析用データは、基本的には映像データではなく、センサ等から出力される検知データである。本実施形態では、分割処理部118及び圧縮処理部119が省略されている。
【0153】
エッジコンピュータ5は、通信部51と、前処理部52と、を有している。通信部51は、サーバ装置1等の外部機器との通信機能を有する通信インターフェースである。前処理部52は、監視装置3から取得するデータに対して種々の前処理を実行する。ここでいう前処理は、例えば、複数の監視装置3から取得したデータの統合(結合)処理等を含む。
【0154】
本実施形態のように、映像データを分析用データと用いない場合であっても、クラスタリング処理によって作業の分析を行うことが可能である。また、映像データがない場合、例えば、分析用データとしての検知データを作業の内容を表す図表等に変換して、代表系列の分析用データとしてユーザに提示することが好ましい。
【0155】
実施形態2に係る構成は、実施形態1で説明した種々の構成(変形例を含む)と適宜組み合わせて採用可能である。
【0156】
〔発明の付記〕
以下、上述の実施形態から抽出される発明の概要について付記する。なお、以下の付記で説明する各構成及び各処理機能は取捨選択して任意に組み合わせることが可能である。
【0157】
<付記1>
1以上の作業に関する特徴を含む分析用データに対するクラスタリング結果を提示することと、
前記クラスタリング結果に含まれるクラスタに対応付けるラベルの指定を受け付けることと、
指定された前記ラベルを前記クラスタに対応付けることと、を有する、
作業分析方法。
【0158】
<付記2>
前記ラベルの指定を受け付ける際に、前記クラスタの抽出に用いられた前記分析用データを提示すること、を更に有する、
付記1に記載の作業分析方法。
【0159】
<付記3>
前記クラスタリング結果は複数のクラスタを含み、
前記ラベルは前記複数のクラスタの各々に対して指定可能である、
付記1又は2に記載の作業分析方法。
【0160】
<付記4>
前記ラベルが対応付けられた前記クラスタに関する修正処理を行うこと、を更に有する、
付記1~3のいずれかに記載の作業分析方法。
【0161】
<付記5>
前記修正処理は、前記クラスタを他のクラスタと統合するマージ処理、前記クラスタを前記クラスタリング結果から除外する除外処理、及び、前記クラスタの抽出に用いられた前記分析用データについて再度クラスタリングを行う再分類処理の少なくとも1つを含む、
付記4に記載の作業分析方法。
【0162】
<付記6>
前記修正処理は、時系列データである前記分析用データのうち指定された期間のデータについて行われる、
付記4又は5に記載の作業分析方法。
【0163】
<付記7>
前記ラベルの指定を受け付ける際に、前記ラベルの候補としてのラベル候補を提示すること、を更に有する、
付記1~6のいずれかに記載の作業分析方法。
【0164】
<付記8>
前記ラベル候補は、前記ラベルが対応付けられる前記クラスタに関連する別クラスタに対応付けられたラベルに基づいて決定される、
付記7に記載の作業分析方法。
【0165】
<付記9>
前記クラスタリング結果を時系列に沿って提示すること、を更に有する、
付記1~8のいずれかに記載の作業分析方法。
【0166】
<付記10>
付記1~9のいずれかに記載の作業分析方法を、
1以上のプロセッサに実行させるための作業分析プログラム。
【符号の説明】
【0167】
10,10A 作業分析システム
112 提示処理部
113 ラベル指定処理部
114 ラベル付与処理部
D1 映像データ(分析用データ)
D4 クラスタリング結果