(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公開特許公報(A)
(11)【公開番号】P2024158253
(43)【公開日】2024-11-08
(54)【発明の名称】作業評価装置
(51)【国際特許分類】
G06V 20/52 20220101AFI20241031BHJP
G06T 7/00 20170101ALI20241031BHJP
G06T 7/11 20170101ALI20241031BHJP
G06T 7/20 20170101ALI20241031BHJP
【FI】
G06V20/52
G06T7/00 350B
G06T7/00 660Z
G06T7/11
G06T7/20 300Z
【審査請求】未請求
【請求項の数】5
【出願形態】OL
(21)【出願番号】P 2023073298
(22)【出願日】2023-04-27
(71)【出願人】
【識別番号】000003207
【氏名又は名称】トヨタ自動車株式会社
(74)【代理人】
【識別番号】100087480
【弁理士】
【氏名又は名称】片山 修平
(72)【発明者】
【氏名】竹内 伸一
(72)【発明者】
【氏名】倉持 知貴
(72)【発明者】
【氏名】田端 淳
【テーマコード(参考)】
5L096
【Fターム(参考)】
5L096BA08
5L096FA05
5L096FA59
5L096GA51
5L096HA05
5L096KA04
(57)【要約】
【課題】 評価対象の作業者を適切に評価することができる作業評価装置を提供する。
【解決手段】 作業評価装置は、複数の人物を撮像した画像から前記複数の人物の骨格をそれぞれ検出する検出部と、前記人物ごとの前記骨格における左右の肩と左右の腰との4点を通る外形線を有した略四角形状の領域の面積を算出する算出部と、前記複数の人物のうち、前記面積が第1閾値より大きい人物を評価対象の作業者として特定する特定部と、前記画像内の前記作業者の前記骨格の座標の時間変化に基づいて前記作業者の作業を評価する評価部とを有する。
【選択図】
図2
【特許請求の範囲】
【請求項1】
複数の人物を撮像した画像から前記複数の人物の骨格をそれぞれ検出する検出部と、
前記人物ごとの前記骨格における左右の肩と左右の腰との4点を通る外形線を有した略四角形状の領域の面積を算出する算出部と、
前記複数の人物のうち、前記面積が第1閾値より大きい人物を評価対象の作業者として特定する特定部と、
前記画像内の前記作業者の前記骨格の座標の時間変化に基づいて前記作業者の作業を評価する評価部とを有する、
作業評価装置。
【請求項2】
前記特定部は、前記複数の人物のうち、前記面積が第2閾値より小さい人物を評価対象の作業者として特定する、
請求項1に記載の作業評価装置。
【請求項3】
前記算出部は、前記人物ごとの前記骨格の前記4点の前記画像内の座標の時間変化に従って前記面積の時間平均を算出し、
前記特定部は、前記面積の時間平均に基づいて前記作業者を特定する、
請求項1または2に記載の作業評価装置。
【請求項4】
前記評価部は、前記作業者の前記骨格の座標の時間変化から、前記画像内において前記作業が行われる作業領域を画定し、
前記検出部は、前記画像内の前記作業領域以外の領域を前記骨格の検出範囲から除外する、
請求項1または2に記載の作業評価装置。
【請求項5】
前記評価部は、前記画像内の前記骨格の座標を入力として、前記作業の種類を出力する、教師あり学習による機械学習済みの判別モデルを用い、前記骨格の座標の時間変化に基づいて前記作業の種類を判別して評価する、
請求項1または2に記載の作業評価装置。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、作業評価装置に関する。
【背景技術】
【0002】
例えば特許文献1には、作業者の作業を撮像した画像から作業者の骨格情報を抽出することにより、作業者が規定動作を行っているか否かを判定する点が開示されている。
【先行技術文献】
【特許文献】
【0003】
【発明の概要】
【発明が解決しようとする課題】
【0004】
上記のように作業を評価する際、画像には必ずしも評価対象の作業者だけが写っているとは限らず、画像の撮像位置によっては作業者の前方や後方に評価対象以外の他の作業者などが写ってしまうため、作業を適切に評価することが難しい。これに対し、評価対象の作業者のみが画像に写るように、例えば評価対象の作業者の作業場の正面近傍にカメラを設置することが考えられる。
【0005】
しかし、カメラが作業の邪魔になるおそれがあるだけでなく、例えば作業場の天井から吊るされた電動インパクトなどの大型の工具などの影に作業者が隠れてしまい、やはり、作業者の作業を適切に評価することができないおそれがある。
【0006】
そこで本発明は上記の課題に鑑みてなされたものであり、評価対象の作業者を適切に評価することができる作業評価装置を提供することを目的とする。
【課題を解決するための手段】
【0007】
本発明の作業評価装置は、複数の人物を撮像した画像から前記複数の人物の骨格をそれぞれ検出する検出部と、前記人物ごとの前記骨格における左右の肩と左右の腰との4点を通る外形線を有した略四角形状の領域の面積を算出する算出部と、前記複数の人物のうち、前記面積が第1閾値より大きい人物を評価対象の作業者として特定する特定部と、前記画像内の前記作業者の前記骨格の座標の時間変化に基づいて前記作業者の作業を評価する評価部とを有する。
【0008】
上記の作業評価装置において、前記特定部は、前記複数の人物のうち、前記面積が第2閾値より小さい人物を評価対象の作業者として特定してもよい。
【0009】
上記の作業評価装置において、前記算出部は、前記人物ごとの前記骨格の前記4点の前記画像内の座標の時間変化に従って前記面積の時間平均を算出し、前記特定部は、前記面積の時間平均に基づいて前記作業者を特定してもよい。
【0010】
上記の作業評価装置において、前記評価部は、前記作業者の前記骨格の座標の時間変化から、前記画像内において前記作業が行われる作業領域を画定し、前記検出部は、前記画像内の前記作業領域以外の領域を前記骨格の検出範囲から除外してもよい。
【0011】
上記の作業評価装置において、前記評価部は、前記画像内の前記骨格の座標を入力として、前記作業の種類を出力する、教師あり学習による機械学習済みの判別モデルを用い、前記骨格の座標の時間変化に基づいて前記作業の種類を判別して評価してもよい。
【発明の効果】
【0012】
本発明によれば、評価対象の作業者を適切に評価することができる。
【図面の簡単な説明】
【0013】
【
図1】
図1は、作業評価システムの一例を示す構成図である。
【
図2】
図2は、評価対象の作業者の特定方法を説明するためのカメラ装置の画像の一例を示す図である。
【
図3】
図3は、作業者の作業動作を撮像したカメラ装置の画像の一例を示す図である。
【
図4】
図4は、マスク処理を施した画像の一例を示す図である。
【
図5】
図5は、作業評価サーバの動作の一例を示すフローチャートである。
【
図6】
図6は、作業の評価動作の一例を示すフローチャートである。
【発明を実施するための形態】
【0014】
(作業評価システムの構成例)
図1は、作業評価システム9の一例を示す構成図である。作業評価システム9は、一例として自動車などの組立工場に設置される。
【0015】
作業評価システム9は、LAN(Local Area Network)90を介して互いに通信可能な作業評価サーバ1及びカメラ装置2を含む。作業評価サーバ1は作業評価装置の一例である。作業評価サーバ1は作業者の作業動作を評価する。カメラ装置2は作業者を撮像する。
【0016】
作業評価サーバ1は、コンピュータの一例であり、CPU(Central Processing Unit)10、ROM(Read Only Memory)11、RAM(Random Access Memory)12、HDD(Hard Disk Drive)13、及び通信ポート14を有する。CPU10は、互いに信号の入出力ができるように、ROM11、RAM12、HDD13、及び通信ポート14と、バス19を介して電気的に接続されている。
【0017】
ROM11は、CPU10を駆動するプログラムが格納されている。RAM12は、CPU10のワーキングメモリとして機能する。通信ポート14は、例えば無線LAN(Local Area Network)カードであり、LAN90を介したCPU10の通信を処理する。
【0018】
CPU10は、ROM11からプログラムを読み込むと、ソフトウェア機能として、装置制御部100、骨格検出部101、面積算出部102、評価対象特定部103、及び作業評価部104を形成する。また、HDD13には、骨格データ130及び評価データ131が格納されている。装置制御部100は、プログラムに規定されたシーケンスに従い骨格検出部101、面積算出部102、評価対象特定部103、及び作業評価部104に対して動作を指示する。なお、装置制御部100、骨格検出部101、面積算出部102、評価対象特定部103、及び作業評価部104は、ソフトウェアに限定されず、ASIC(Application Specified Integrated Circuit)などのハードウェアにより実現されてもよい。
【0019】
骨格検出部101は検出部の一例である。骨格検出部101は、カメラ装置2により複数の人物を撮像した画像から各人物の骨格を検出する。骨格検出部101は、カメラ装置2からLAN90を介して画像を受信する。骨格検出部101は、例えば汎用的なAI(Artificial Intelligence)を用いた画像解析により作業者の骨格の座標を検出する。
【0020】
例えば骨格検出部101は、各人物の骨格の複数個所の座標を時系列の骨格データ130としてHDD13に記憶させる。骨格データ130は、例えば画像のフレーム番号ごとに画像内の各人物#1~#N(N:正の整数)の鼻、左肩、右肩、左肘、右肘、左手、右手、左腰、右腰の各座標を示す。座標は、例えば画像の矩形状のフレームの横方向及び縦方向をX軸及びY軸とそれぞれ定義したとき、X座標及びY座標(x,y)により示される。なお、原点の位置に限定はない。
【0021】
面積算出部102は算出部の一例である。面積算出部102は、人物ごとの骨格における左右の肩と左右の腰との4点を通る外形線を有した略四角形状の領域の面積を算出する。この領域は各人物の胴部に該当する。胴部の形状は、例えば上記の4点に角を有した四角形状であるが、これに限定されず、例えば4点をそれぞれ通る4つの丸い角を有した図形の形状であってもよい。カメラ装置2は、評価対象の作業者の作業動作が画像に写るように実質的に作業者の正面に配置されるため、画像内の複数の人物のうち、少なくとも評価対象の作業者の胴部を明確に撮像することができる。面積算出部102は、骨格データ130から4点の座標を取得して幾何学的な算出手法により面積を算出する。なお、胴部は略四角形状の領域の一例である。
【0022】
評価対象特定部103は特定部の一例である。評価対象特定部103は、上記の胴部の面積に基づいて複数の人物から評価対象の作業者を特定する。胴部の面積は、カメラ装置2の設置位置に近い人物ほど大きく、カメラ装置2の設置位置から遠い人物ほど小さい。つまり、面積はカメラ装置2と人物の距離に応じて決まる。このため、評価対象特定部103は、胴部の面積が、カメラ装置2と評価対象の作業者の距離に応じた範囲内である場合、評価対象の作業者を特定することができる。
【0023】
評価対象特定部103は、胴部の面積が閾値S1より大きい人物を評価対象の作業者として特定する。このため、カメラ装置2と評価対象の作業者の距離に応じて適切に閾値S1を設定することにより、カメラ装置2の画像において評価対象の作業者の後方に写っている人物を評価対象から除外される。なお、閾値S1は第1閾値の一例である。
【0024】
また、評価対象特定部103は、胴部の面積が閾値S2(>S1)より大きい人物を評価対象の作業者として特定する。このため、カメラ装置2と評価対象の作業者の距離に応じて適切に閾値S2を設定することにより、カメラ装置2の画像において評価対象の作業者の前方に写っている人物を評価対象から除外される。なお、閾値S2は第2閾値の一例である。
【0025】
したがって、評価対象特定部103は、評価対象の作業者を胴部の面積から容易に特定することができる。これにより、作業評価部104は作業を適切に評価することができる。
【0026】
作業評価部104は評価部の一例である。作業評価部104は、画像内の評価対象の作業者の骨格の座標の時間変化に基づいて作業者の作業を評価する。作業評価部104は、骨格データ130から評価対象の作業者の骨格の各座標を取得し、各座標の時間変化から作業者の動作を判別する。例えば作業評価部104は、作業者の動作が所定の動作に一致するか否かを判定し、判定結果を評価データ131として記録する。
【0027】
(評価対象の作業者の特定例)
図2は、評価対象の作業者の特定方法を説明するためのカメラ装置2の画像Gaの一例を示す図である。画像Ga内のX軸及びY軸は紙面の横方向及び縦方向にそれぞれ該当する。なお、これは以降の図面においても同様である。
【0028】
画像Gaは、例えば作業開始前の作業場を示す。カメラ装置2は、例えば評価対象の作業者Haが画像Gaの略中央に位置し、かつ、作業者Haの作業の邪魔にならないように作業者Haの作業台80から十分な距離だけ離れた位置に設置されている。このため、画像Gaには、作業者Ha以外の他の作業者Hb及び人物Hc,Hdも写っている。人物Hc,Hdとしては、例えば作業場の見学者や監督者が挙げられるが、これに限定されない。
評価対象外の作業者Hb及び人物Hcは作業者Haの後方に位置し、評価対象外の人物Hdは作業者Haの前方に位置する。
【0029】
骨格検出部101は画像Gaから作業者Ha,Hb及び人物Hc,Hdの骨格の座標を検出する。作業者Haの骨格の座標としては、例えば、作業者Haの鼻の位置P0、左肩の位置P23、右肩の位置P13、左肘の位置P22、右肘の位置P12、左手の位置P21、右手の位置P11、左腰の位置P32、及び右腰の位置P31の各座標が挙げられる。また、符号は省略するが、他の作業者Hb及び人物Hc,Hdにもこれと同様に骨格の座標が検出される。なお、位置P0,P11~P13,P21~P23,P31,P32は画像Gaのみに示し、以降に示す画像では図示を省略する。
【0030】
骨格検出部101は、作業者Ha,Hb及び人物Hc,Hdの骨格の各座標を骨格データ130にそれぞれ記録する。面積算出部102は、骨格データ130から作業者Ha,Hb及び人物Hc,Hdの胴部の面積Sa~Sdを算出する。例えば面積算出部102は、作業者Haの骨格について、左肩の位置P23、右肩の位置P13、左腰の位置P32、及び右腰の位置P31の4つの座標から面積Saを算出する。また、他の作業者Hb及び人物Hc,Hdの胴部の面積Sb~Sdもこれと同様に算出される。面積算出部102は、面積Sa~Sdを所定の閾値S1,S2と比較する。
【0031】
閾値S1,S2は、例えばカメラ装置2と評価対象の作業者Haとの距離に基づいて、評価対象の作業者Haの胴部の面積Saを含む範囲を規定する。このため、面積Saについて、S1<Sa<S2が成立するが、面積Sb,Scは閾値S1以下であり、面積Sdは閾値S2以上である。したがって、評価対象特定部103は、S1<Sa<S2の成立を判定することにより評価対象の作業者Haを特定する。
【0032】
また、面積算出部102は、骨格の画像Ga内の座標の時間変化に従って面積Sa~Sdの時間平均を算出してもよい。この場合、評価対象特定部103は、上記と同様に、面積Sa~Sdの時間平均が閾値S1,S2の範囲内であるか否かを判定する。これにより、作業者Ha,Hb及び人物Hc,Hdの位置や向きの時間的な変化が面積Sa~Sdの算出に与える影響を低減することができる。
【0033】
(作業動作の例)
図3は、作業者Haの作業動作を撮像したカメラ装置2の画像G1b,G2bの一例を示す図である。
図3において、
図2と共通する構成には同一の符号を付し、その説明は省略する。
【0034】
本例では、部品Cを用いた作業動作として、
図2の取得動作で取得した部品CをワークWに組み付ける動作を挙げるが、これに限定されない。作業動作としては、部品Cを塗装する作業、部品CをワークWに溶接する作業、及び、部品Cを検査する作業などが挙げられる。
【0035】
作業評価部104は、評価対象特定部103が特定した作業者Haの骨格の各部の座標の時間変化に基づき作業者Haの作業動作を特定する。画像G1bは、作業者HaがワークWを左手で抑え、右手で部品Cの組付け位置を合わせている様子を示し、画像G2bは、作業者HaがワークWに部品Cを組付けた様子を示す。作業評価部104は、画像G1b,G2b内の骨格の座標、及び図示を省略した他のフレームの画像内の骨格の座標の時間変化のパターン照合により作業動作を判別する。作業評価部104は、パターン照合により作業動作が規定の動作か否かを評価して、評価データ131を生成する。
【0036】
作業評価部104は、上記以外にも各種の作業動作を判別する。この判別には、例えばAIを用いることができる。例えば作業評価部104は、画像G1b,G2b内の骨格の座標を入力として、作業動作の種別を出力する、教師あり学習による機械学習済みの判別モデルを用い、作業の種類を判別して評価する。
【0037】
具体的には、判別モデルの学習処理では、教師データの骨格の座標の時間変化から、作業者の動作の種別についてアノテーションが行われる。判別モデルは、人間の脳機能を数学的にモデル化したニューラルネットワークであり、ニューロンに該当する部分の活性化関数の重み係数を機械学習に基づいて決定する。このように作業評価部104は、教師あり学習による機械学習済みの判別モデルを用いることにより、高精度に作業動作を判別することができる。
【0038】
(画像のマスク処理例)
図4は、マスク処理を施した画像Gcの一例を示す図である。
図4において、
図2と共通する構成には同一の符号を付し、その説明は省略する。
【0039】
作業評価部104は、作業者Haの骨格の座標の時間変化から、画像Gc内において作業が行われる作業領域Rを画定する。例えば作業評価部104は、所定の作業動作を判別したとき、その作業動作において骨格の各部の座標が変位した範囲から作業領域Rを画定する。作業評価部104は、網掛けで示されるように、画像Gc内の作業領域R以外の領域をマスク処理する。
【0040】
骨格検出部101は、画像Gc内の作業領域R以外の領域を骨格の検出範囲から除外する。つまり、骨格検出部101は、画像Gc内の作業領域R以外の領域から骨格を検出しない。このため、骨格検出部101は、評価対象外の作業者Hb及び人物Hc,Hdの骨格を検出する負荷を削減することができる。
【0041】
(作業評価サーバの動作例)
図5は、作業評価サーバ1の動作の一例を示すフローチャートである。まず、骨格検出部101は、カメラ装置2からLAN90を介して画像データを受信する(ステップSt1)。次に骨格検出部101は、画像データの画像から複数の人物#1~#Nの骨格をそれぞれ検出する(ステップSt2)。次に骨格検出部101は、人物#1~#Nごとの骨格データ130を記録する(ステップSt3)。
【0042】
次に面積算出部102は1人の人物#i(i:1以上N以下の整数)を選択する(ステップSt4)。次に面積算出部102は、骨格データ130から選択中の人物#iの左肩の位置P23、右肩の位置P13、左腰の位置P32、及び右腰の位置P31の4つの座標から面積Sを算出する(ステップSt5)。
【0043】
次に評価対象特定部103は、面積Sを閾値S1,S2とそれぞれ比較する(ステップSt6)。S1<S<S2が成立する場合(ステップSt6のYes)、評価対象特定部103は選択中の人物#iを評価対象の作業者に設定する(ステップSt7)。次に作業評価部104は評価対象の作業者を評価する(ステップSt8)。なお、評価の動作例は後述する。その後、本動作は終了する。
【0044】
また、S1<S<S2が成立しない場合(ステップSt6のNo)、面積算出部102は未選択の人物#1~#Nの有無を判定する(ステップSt9)。未選択の人物#1~#Nが有る場合(ステップSt9のYes)、再びステップSt4以降の動作が行われる。このとき、面積算出部102は他の人物#iを選択する。また、未選択の人物#1~#Nが無い場合(ステップSt9のNo)、本動作は終了する。
【0045】
なお、上記のステップSt6では、面積Sを閾値S1,S2と比較したが、カメラ装置2の画像において評価対象の作業者の前方に他の人物が存在しない場合、面積Sを閾値S1のみと比較してもよい。この場合、S1<Sが成立する場合に評価対象の作業者が特定される。
【0046】
図6は、作業の評価動作の一例を示すフローチャートである。本動作は、
図7のステップSt8において実行される。
【0047】
まず、骨格検出部101は、カメラ装置2からLAN90を介して画像データを受信する(ステップSt11)。次に骨格検出部101は、画像データの画像から1以上の人物#1~#Nの骨格をそれぞれ検出する(ステップSt12)。次に骨格検出部101は、人物#1~#Nの骨格データ130を記録する(ステップSt13)。
【0048】
次に作業評価部104は、評価対象の作業者の骨格の座標の所定期間内の変位を閾値THと比較する(ステップSt14)。例えば作業評価部104は、所定のフレーム数分の骨格の座標の変位を算出する。評価対象の作業者の骨格の座標の所定期間内の変位が閾値THより大きい場合(ステップSt14のYes)、評価対象特定部103は、評価対象の作業者が作業場から離れたと判断し、再び特定処理を行う(ステップSt20)。このとき、評価対象特定部103は、
図5に示される手法により作業者を再度特定する。再特定が完了した場合(ステップSt21のYes)、後述するステップSt19の動作が行われ、再特定が未完了である場合(ステップSt21のNo)、再びステップSt20の動作が行われる。
【0049】
評価対象の作業者の骨格の座標の所定期間内の変位が閾値TH以下である場合(ステップSt14のNo)、評価対象特定部103は、画像内の作業者の骨格の座標の時間変化に基づいて作業者の作業動作を特定する(ステップSt15)。次に作業評価部104は、特定した作業動作を規定動作と比較することにより作業を評価する(ステップSt16)。このとき、作業評価部104は評価結果を評価データ131に記録する。
【0050】
次に作業評価部104は、画像内の作業領域Rが未画定である場合(ステップSt17のNo)、作業者の前格の座標の時間変化から作業領域Rを画定し、作業領域R以外の領域のマスク処理を行う(ステップSt18)。マスク処理された領域内の骨格は、ステップSt12において検出されなくなる。また、画像内の作業領域Rが画定済みである場合(ステップSt17のYes)、ステップSt18は行われない。
【0051】
次に作業評価部104は、骨格データ130から全ての作業が終了したか否かを判定する(ステップSt19)。未終了の作業が存在する場合(ステップSt19のNo)、再びステップSt11以降の各処理が行われ、全ての作業が終了している場合(ステップSt19のYes)、本処理は終了する。このように作業評価サーバ1は動作する。
【0052】
上述した実施形態は本発明の好適な実施の例である。但し、これに限定されるものではなく、本発明の要旨を逸脱しない範囲内において種々変形実施可能である。
【符号の説明】
【0053】
1 作業評価サーバ(作業評価装置)、10 CPU、101 骨格検出部(検出部)、102 面積算出部(算出部)、103 評価対象特定部(特定部)、104 作業評価部(評価部)、130 骨格データ、Ha,Hb 作業者、Hc,Hd 人物