(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公開特許公報(A)
(11)【公開番号】P2024114478
(43)【公開日】2024-08-23
(54)【発明の名称】作業判定装置
(51)【国際特許分類】
G06V 40/20 20220101AFI20240816BHJP
G06T 7/20 20170101ALI20240816BHJP
【FI】
G06V40/20
G06T7/20 300Z
【審査請求】未請求
【請求項の数】3
【出願形態】OL
(21)【出願番号】P 2023020274
(22)【出願日】2023-02-13
(71)【出願人】
【識別番号】301021533
【氏名又は名称】国立研究開発法人産業技術総合研究所
(71)【出願人】
【識別番号】000003218
【氏名又は名称】株式会社豊田自動織機
(74)【代理人】
【識別番号】100105957
【弁理士】
【氏名又は名称】恩田 誠
(74)【代理人】
【識別番号】100068755
【弁理士】
【氏名又は名称】恩田 博宣
(72)【発明者】
【氏名】佐々木 洋子
(72)【発明者】
【氏名】的野 晃整
(72)【発明者】
【氏名】吉田 有壽木
(72)【発明者】
【氏名】岡本 和也
(72)【発明者】
【氏名】松浦 慶伍
(72)【発明者】
【氏名】小出 幸和
【テーマコード(参考)】
5L096
【Fターム(参考)】
5L096BA08
5L096CA04
5L096DA01
5L096DA04
5L096FA02
5L096FA09
5L096FA69
5L096FA72
5L096GA51
5L096HA02
5L096JA11
(57)【要約】
【課題】人が作業を行ったか否かを判定すること。
【解決手段】作業判定装置は、人を撮像する撮像装置と、制御装置と、を備える。制御装置は、撮像装置から画像データを取得する。制御装置は、人の位置情報を取得する。制御装置は、人が行うべき作業が規則として設定された規則領域に人が位置しているか否かを位置情報から判定する。制御装置は、人が規則領域に位置している場合、当該規則領域に設定された作業を人が行ったか否かを画像データから判定する。
【選択図】
図3
【特許請求の範囲】
【請求項1】
人を撮像する撮像装置と、
制御装置と、を備え、
前記制御装置は、
前記人の位置情報を取得し、
前記撮像装置から画像データを取得し、
前記人が行うべき作業が規則として設定された規則領域に前記人が位置しているか否かを前記位置情報から判定し、
前記人が前記規則領域に位置している場合、当該規則領域に設定された前記作業を前記人が行ったか否かを前記画像データから判定する、作業判定装置。
【請求項2】
前記制御装置は、前記画像データにおける前記人の関節の位置から前記作業を前記人が行ったか否かを判定する、請求項1に記載の作業判定装置。
【請求項3】
前記制御装置は、前記人が前記規則領域に進入してからの経過時間が所定時間になる前に前記人が当該規則領域に設定された前記作業を行った場合、前記人が前記作業を行ったと判定する、請求項1又は請求項2に記載の作業判定装置。
【発明の詳細な説明】
【技術分野】
【0001】
本開示は、作業判定装置に関する。
【背景技術】
【0002】
特許文献1に開示の搬送車用車載器は、回転角度検出部と、制御装置と、を備える。回転角度検出部は、搬送車に搭乗する人の頭部の回転角度を検出する。制御装置は、人の頭部の回転角度から人を評価する。
【先行技術文献】
【特許文献】
【0003】
【発明の概要】
【発明が解決しようとする課題】
【0004】
頭部の回転角度から人を評価する場合、人の行動を適切に評価することができない場合がある。例えば、人は、種々の作業を行うが、頭部の回転角度が変化しない作業については、人が当該作業を行ったかを判定できない場合がある。
【課題を解決するための手段】
【0005】
上記課題を解決する作業判定装置は、人を撮像する撮像装置と、制御装置と、を備え、前記制御装置は、前記人の位置情報を取得し、前記撮像装置から画像データを取得し、前記人が行うべき作業が規則として設定された規則領域に前記人が位置しているか否かを前記位置情報から判定し、前記人が前記規則領域に位置している場合、当該規則領域に設定された前記作業を前記人が行ったか否かを前記画像データから判定する。
【0006】
制御装置は、位置情報から人が規則領域に位置しているか否かを判定できる。制御装置は、人が規則領域に位置している場合、当該規則領域に設定された作業を人が行ったか否かを判定する。この判定は、人を撮像する撮像装置から取得した画像データによって行われる。画像データを用いることによって、人が作業を行ったか否かを判定することができる。
【0007】
上記作業判定装置について、前記制御装置は、前記画像データにおける前記人の関節の位置から前記作業を前記人が行ったか否かを判定してもよい。
上記作業判定装置について、前記制御装置は、前記人が前記規則領域に進入してからの経過時間が所定時間になる前に前記人が当該規則領域に設定された前記作業を行った場合、前記人が前記作業を行ったと判定してもよい。
【発明の効果】
【0008】
本発明によれば、人が作業を行ったか否かを判定することができる。
【図面の簡単な説明】
【0009】
【
図2】
図1の領域で用いられる車両の概略構成図である。
【
図3】
図2の制御装置が実行する作業判定制御を示すフローチャートである。
【
図4】
図2の撮像装置から取得した画像データの一例を示す図である。
【
図5】
図4の画像データから人が写る範囲を抽出した図である。
【
図6】
図3の実施表示及び未実施表示で表示部に表示される表示内容の一例を示す図である。
【発明を実施するための形態】
【0010】
作業判定装置の一実施形態について説明する。
図1に示すように、作業判定システム10は、少なくとも1つの車両20と、作業判定装置60と、を備える。車両20は、車両20に搭乗した人P1によって操作されることで動作する。車両20は、例えば、フォークリフトである。
【0011】
<車両>
車両20は、予め定められた領域A11で運用される。領域A11は、例えば、工場、物流倉庫、港湾、商業施設、又は公共施設である。
【0012】
領域A11は、少なくとも1つの規則領域A1を備える。規則領域A1は、人P1が行うべき作業が規則として設定された領域である。例えば、規則領域A1には、人P1が行うべき作業として指差呼称が設定されている。指差呼称は、人P1が特定の方向に対して指差し確認をする安全行動である。人P1が行うべき作業として指差呼称が設定された規則領域A1は、例えば、交差点、又は建物の出入口に設定されている。交差点は、物流倉庫内の保管棚によって形成される通路が交差するものを含む。
【0013】
図2に示すように、車両20は、車両制御装置21を備える。車両制御装置21は、プロセッサ22と、記憶部23と、を備える。プロセッサ22は、例えば、CPU(Central Processing Unit)、GPU(Graphics Processing Unit)、又はDSP(Digital Signal Processor)である。記憶部23は、RAM(Random Access Memory)及びROM(Read Only Memory)を含む。記憶部23は、処理をプロセッサ22に実行させるように構成されたプログラムコードまたは指令を格納している。記憶部23、即ち、コンピュータ可読媒体は、汎用または専用のコンピュータでアクセスできるあらゆる利用可能な媒体を含む。車両制御装置21は、ASIC(Application Specific Integrated Circuit)やFPGA(Field Programmable Gate Array)等のハードウェア回路によって構成されていてもよい。処理回路である車両制御装置21は、コンピュータプログラムに従って動作する1つ以上のプロセッサ、ASICやFPGA等の1つ以上のハードウェア回路、或いは、それらの組み合わせを含み得る。
【0014】
車両20は、走行モータ24を備える。走行モータ24は、車両20を走行させるためのモータである。走行モータ24の駆動によって車両20は走行する。
車両20は、モータドライバ25を備える。モータドライバ25は、走行モータ24の制御を行う。例えば、モータドライバ25は、車両制御装置21からの指令に応じて走行モータ24を制御する。これにより、車両20の速度が調整される。
【0015】
車両20は、補助記憶装置32を備える。補助記憶装置32は、データを書き換え可能な不揮発性記憶装置である。補助記憶装置32は、例えば、ハードディスクドライブ、又はソリッドステートドライブである。
【0016】
補助記憶装置32は、地図データMD1を記憶している。地図データMD1は、領域A11の構造を地図座標系の座標で表したデータである。地図座標系は、2次元座標系であってもよいし、3次元座標系であってもよい。地図座標系は、車両20が用いられる領域A11の任意の一点を原点とする座標系である。
【0017】
車両20は、通信装置51を備える。通信装置51は、通信制御部やポート等を備え、通信網を通じて情報の送受信を行うことができるネットワーク機器である。
車両制御装置21は、車両20の自己位置を推定する。自己位置とは、地図座標系での車両20の一点を示す座標である。車両20の一点は任意であるが、例えば、車両20の水平方向での中心位置を挙げることができる。
【0018】
車両制御装置21は、後述する撮像装置31から取得した画像データによって自己位置を推定する。車両制御装置21は、画像データから得られた特徴点と地図データMD1との照合によって自己位置を推定する。
【0019】
車両制御装置21は、推定した自己位置を示す位置情報、画像データ、及び車両20のIDコードを、所定の間隔で通信装置51から送信する。車両20に搭乗した人P1の位置と車両20との位置は同一とみなすことができるため、位置情報は、車両20に搭乗した人P1の領域A11における位置を示す。車両20のIDコードは、車両20毎に設定された個別の識別情報である。
【0020】
<作業判定装置>
作業判定装置60は、人P1が規則領域A1に設定された規則に従って作業を行ったか否かを判定する装置である。
【0021】
作業判定装置60は、撮像装置31を備える。撮像装置31は、例えば、デジタルカメラである。撮像装置31は、撮像素子を備える。撮像素子は、例えば、CCDイメージセンサ(Charge Coupled Device image sensor)、又はCMOSイメージセンサ(Complementary Metal Oxide Semiconductor image sensor)である。撮像装置31は、所定のフレームレートで撮像を行って画像データを生成する。
【0022】
撮像装置31は、車両20に搭乗した人P1、及び車両20の周辺環境を撮像できるように配置されている。本実施形態において、撮像装置31は、車両20に設けられている。撮像装置31は、例えば、ヘッドガードに設けられる。撮像装置31は、領域A11の一定位置に設置され、特定の場所を常時監視するように用いられてもよい。
【0023】
作業判定装置60は、制御装置61を備える。制御装置61は、例えば、車両制御装置21と同様のハードウェア構成を備える。制御装置61は、プロセッサ62と、記憶部63と、を備える。
【0024】
作業判定装置60は、通信装置64を備える。通信装置64は、例えば、車両20が備える通信装置51と同様の装置である。通信装置64は、通信装置51から送信された情報を取得可能である。通信装置64は、通信装置51に情報を送信可能である。
【0025】
作業判定装置60は、表示部65を備える。表示部65は、例えば、液晶ディスプレイ又は有機エレクトロルミネッセンスディスプレイである。表示部65は、作業判定装置60のユーザが視認可能である。
【0026】
作業判定装置60は、補助記憶装置66を備える。補助記憶装置66は、意味地図データMD2を記憶している。意味地図データMD2は、地図座標系によって表される領域A11のうち所定の場所に意味を付与したデータである。意味地図データMD2は、車両20が運用される領域A11を表す。意味地図データMD2は、領域A11の一部である規則領域A1に人P1が行うべき作業を規則として設定したデータである。即ち、地図座標系の座標に対して人P1が行うべき作業を対応付けたデータが意味地図データMD2である。例えば、地図座標系で規則領域A1に対応する座標には、人P1が行うべき作業として指差呼称が設定されている。意味地図データMD2は、規則領域A1に設定された規則を地図データMD1に反映したデータである。
【0027】
<作業判定制御>
制御装置61が行う作業判定制御について説明する。作業判定制御は、所定の制御周期で繰り返し行われる。作業判定制御は、IDコード毎に個別に行われる。即ち、領域A11に複数の車両20が存在する場合には、車両20に搭乗する人P1毎に作業判定制御が行われる。
【0028】
図3に示すように、ステップS1において、制御装置61は、通信装置64を介して車両20から位置情報を取得する。
次に、ステップS2において、制御装置61は、通信装置64を介して車両20から画像データを取得する。この画像データは、ステップS1の位置情報によって示される自己位置が推定された時点での画像データである。
【0029】
次に、ステップS3において、制御装置61は、作業ラベルを設定する。作業ラベルは、車両20に搭乗した人P1の作業を表すラベルである。制御装置61は、画像データから人P1が行っている作業を判別する。そして、制御装置61は、人P1が行っている作業に対応した作業ラベルを設定する。作業を判別する手法は、例えば、人P1の関節位置を用いる手法、又は機械学習を用いる手法であってもよい。一例として、人P1の関節位置を用いて作業を判別する手法について説明する。
【0030】
図4に示すように、制御装置61は、画像データIM1から人P1が写る範囲IM2を抽出する。人P1が写る範囲IM2の抽出は、例えば、画像データIM1から特徴量を抽出することによって行われてもよい。この場合、制御装置61は、人P1の特徴量と類似する範囲IM2を人P1が写る範囲IM2として抽出する。制御装置61は、画像データIM1の予め定められた範囲IM2を人P1が写る範囲IM2として抽出してもよい。例えば、画像データIM1において運転席が写る範囲IM2を予め定められた範囲IM2として抽出してもよい。
【0031】
図5に示すように、制御装置61は、画像データIM1における人P1の関節J1の位置を取得する。制御装置61は、範囲IM2に対して骨格推定を行う。骨格推定により、人P1の首、肩、肘、手首、腰、股、膝、足首などの関節J1と、これらの関節J1を直線状のリンクで連結したモデルを得ることができる。制御装置61は、モデルから画像データIM1における人P1の関節J1の位置を取得する。画像データIM1における人P1の関節J1の位置は、横画素の位置を表すX軸の座標と、縦画素の位置を表すY軸の座標とで示される。
【0032】
制御装置61は、画像データIM1における人P1の関節J1の位置から人P1が行っている作業を判別する。指差呼称の場合、指差し確認によって手首の関節J1が所定の高さに位置する。指差呼称の際に手首の関節J1が位置する高さの範囲を予め設定しておき、この範囲に手首の関節J1が位置している場合には指差呼称が行われていると判定されてもよい。例えば、画像データのY軸の座標に範囲を設定しておけばよい。そして、この範囲に手首の関節J1が位置している場合、制御装置61は、指差呼称が行われていると判定してもよい。
【0033】
人P1が行っている作業は、後進姿勢を行っていることを含んでいてもよい。車両20がフォークリフトの場合、後進を行う際の人P1の姿勢が運用で定められている場合がある。例えば、異なる工場間を走行する際や、荷役動作を通常行わない所定の通路(すなわち、物品の搬入出動作を行わない通路)を走行する際に、ピラーを把持した状態で後方を視認しながら後進を行うことが運用で定められている場合がある。制御装置61は、規則領域A1が設定されている、異なる工場間を走行する経路や荷役動作を通常行わない所定の通路において、手首の関節J1がピラーに対応する位置に存在している場合、後進姿勢を行っていると判定してもよい。人P1の作業は、左右確認を含んでいてもよい。
【0034】
制御装置61は、人P1の作業を判別すると、当該作業に対応した作業ラベルを設定する。
図3に示すように、次に、ステップS4において、制御装置61は、人P1が規則領域A1に位置しているか否かを判定する。制御装置61は、位置情報によって表される自己位置が規則領域A1に含まれている場合、人P1が規則領域A1に位置していると判定する。ステップS4の判定結果が肯定の場合、制御装置61は、ステップS5の処理を行う。ステップS4の判定結果が否定の場合、制御装置61は、作業判定制御を終了する。
【0035】
ステップS5において、制御装置61は、規則領域A1に規則として設定された作業を人P1が実施したか否かを判定する。一例として、規則領域A1で指差呼称が行われたか否かを判定する場合について説明を行う。
【0036】
制御装置61は、ステップS4で人P1が規則領域A1に位置していると判定された場合、意味地図データMD2から規則領域A1に設定された作業を認識する。制御装置61は、規則領域A1には人P1が行うべき作業として指差呼称が設定されていることを認識する。制御装置61は、人P1が位置する規則領域A1に設定された作業と作業ラベルによって表される作業が一致するか否かを判定する。制御装置61は、作業ラベルが指差呼称を表している場合、規則領域A1に設定された作業が行われたと判定する。制御装置61は、人P1が規則領域A1に進入してからの経過時間が所定時間になる前に人P1が規則領域A1に設定された作業を行った場合、人P1が作業を行ったと判定する。本実施形態であれば、人P1が規則領域A1に進入してからの経過時間が所定時間になる前に作業ラベルによって表される作業が指差呼称になった場合、制御装置61はステップS5の判定結果を肯定にする。人P1が規則領域A1に進入してからの経過時間が所定時間になる前に作業ラベルによって表される作業が指差呼称にならなかった場合、制御装置61はステップS5の判定結果を否定にする。所定時間は、任意に設定することができる。所定時間は、規則領域A1に人P1が進入した場合に、人P1が規則領域A1に設定された作業を行うのに要する時間である。所定時間は、例えば、3秒である。所定時間は、規則領域A1に設定された作業に応じて異なる時間が設定されていてもよい。作業ラベルは画像データIM1に応じて設定されるため、制御装置61は、規則領域A1に設定された作業を人P1が行ったか否かを画像データIM1から判定する。ステップS5の判定結果が肯定の場合、制御装置61は、ステップS6の処理を行う。ステップS5の判定結果が否定の場合、制御装置61は、ステップS7の処理を行う。
【0037】
ステップS6において、制御装置61は、実施表示を行う。実施表示は、作業判定装置60のユーザに、人P1が規則領域A1に設定された作業を実施していることを通知する表示である。例えば、
図6に示すように、表示部65に規則領域A1を表す地図を表示し、地図に人P1の軌跡T1を表示してもよい。そして、軌跡T1に実施を示すマーク71を重畳して表示させてもよい。
図6に示す例では、規則領域A1を表示しているが、表示部65には領域A11の全体が表示されてもよい。領域A11に複数の車両20が存在している場合、表示部65には複数の車両20に搭乗した人P1に対応した表示が行われてもよい。
【0038】
ステップS7において、制御装置61は、未実施表示を行う。未実施表示は、作業判定装置60のユーザに、人P1が規則領域A1に設定された作業を未実施であることを通知する表示である。例えば、
図6に示すように、軌跡T1に未実施を示すマーク72を重畳して表示させてもよい。未実施を示すマーク72は、実施を示すマーク71と異なっていれば、どのようなマークであってもよい。
【0039】
[本実施形態の作用]
制御装置61は、位置情報を取得する。制御装置61は、取得した位置情報から人P1が規則領域A1に位置しているか否かを判定できる。制御装置61は、人P1が規則領域A1に位置している場合、当該規則領域A1に設定された作業を意味地図データMD2から認識することができる。制御装置61は、規則領域A1に設定された作業を人P1が行ったか否かを判定する。この判定は、人P1を撮像する撮像装置31から取得した画像データIM1によって行われる。画像データIM1を用いることによって、人P1の変化を捉えやすい。例えば、回転角度検出部によって人P1の部位の回転角度を検出しようとすると、回転角度検出部が設けられた部位しか回転角度を検出することができない。これに対し、撮像装置31であれば、人P1の部位のうち撮像範囲に含まれている部分の変化を捉えることができる。
【0040】
[本実施形態の効果]
(1)制御装置61は、画像データIM1を用いることによって、人P1が作業を行ったか否かを判定することができる。
【0041】
(2)制御装置61は、画像データIM1における人P1の関節J1の位置から規則領域A1に設定された作業を人P1が行ったか否かを判定する。規則領域A1に設定された作業には、指差呼称等の特定の動作を人P1が行う作業が含まれる。特定の動作を行うと、人P1の関節J1の位置が変化する。このため、関節J1の位置から規則領域A1に設定された作業を人P1が行ったか否かを判定することができる。
【0042】
(3)制御装置61は、人P1が規則領域A1に進入してからの経過時間が所定時間になる前に人P1が作業を行った場合、規則領域A1に設定された作業を人P1が行ったと判定する。人P1が規則領域A1に進入してから作業を行うまでには時間を要する場合がある。所定時間を設定することで、人P1が作業を行ったか否かの判定が過剰に厳しくなることを抑制できる。
【0043】
(4)制御装置61は、規則領域A1に設定された作業を人P1が行ったか否かを表示部65に表示する。これにより、作業判定装置60のユーザに、人P1が規則領域A1に設定された作業を行ったか否かを評価させることができる。
【0044】
[変更例]
実施形態は、以下のように変更して実施することができる。実施形態及び以下の変更例は、技術的に矛盾しない範囲で互いに組み合わせて実施することができる。
【0045】
○制御装置61は、規則領域A1に設定された作業を人P1が行わなかった場合、人P1に対して警告を行ってもよい。例えば、制御装置61は、ブザーを動作させる指令、又は人P1が視認可能な表示部に警告表示をさせる指令を通信装置64から送信してもよい。ブザーは、車両20に設けられていてもよいし、領域A11に設けられていてもよい。人P1が視認可能な表示部は、車両20に設けられていてもよいし、領域A11に設けられていてもよい。制御装置61が指令を送信する場合、表示部65の表示は行われてもよいし、行われなくてもよい。
【0046】
○規則領域A1は、人P1が行うべき作業として左右確認が設定された領域を含んでいてもよい。この場合、規則領域A1は、例えば、交差点に設定される。左右確認は、人P1が左右を視認する作業である。
【0047】
○規則領域A1は、人P1が行うべき作業として一時停止が設定された領域を含んでいてもよい。
○車両制御装置21は、測距センサの測定結果と地図データMD1との照合によって自己位置を推定してもよい。測距センサは、例えば、レーザー距離計、ミリ波レーダー、又はステレオカメラである。自己位置の推定は、測距センサから推定される周辺環境の形状と、地図データMD1の形状とを照合する周知の方法で実現できる。
【0048】
○車両20が作業判定装置を備えていてもよい。この場合、作業判定制御は、車両制御装置21が行ってもよい。補助記憶装置32には、地図データMD1に代えて、又は加えて意味地図データMD2が記憶される。この場合、車両制御装置21が制御装置である。
【0049】
○制御装置61は、領域A11に設けられたマーカーから人P1が行うべき作業を認識してもよい。この場合、車両20が規則領域A1に位置している場合に撮像装置31によってマーカーが撮像されるようにマーカーが配置される。マーカーには、人P1が行うべき作業が対応付けられている。制御装置61は、画像データIM1から人P1が行うべき作業を認識する。そして、制御装置61は、マーカーから認識した作業と作業ラベルで表される作業とが一致しているか否かを判定する。マーカーは、車両20が規則領域A1に位置している場合に撮像装置31によって撮像されるように配置されるため、マーカー自体が位置情報である。マーカーは、例えば、AR(Augmented Reality)マーカーである。
【0050】
○作業判定装置60は、車両20に搭乗していない人P1が規則領域A1に設定された作業を行ったか否かを判定してもよい。この場合、例えば、人P1が装着するヘルメットに撮像装置31を設けることによって、撮像装置31によって人P1を撮像できるようにする。そして、この撮像装置31の撮像によって得られた画像データIM1を作業判定装置60に送信する通信装置51を設けることによって、画像データIM1を作業判定装置60に送信する。通信装置51は、撮像装置31とユニット化されていてもよい。通信装置51は、撮像装置31と別に設けられていてもよい。
【0051】
○車両20は、人P1を撮像する撮像装置と自己位置を推定するための撮像装置とを別々に備えていてもよい。
○ステップS3で判別される人P1が行っている作業は、前進姿勢を行っていることを含んでいてもよい。車両20がフォークリフトの場合、前進を行う際の人P1の姿勢が運用で定められている場合がある。
【符号の説明】
【0052】
A1…規則領域、IM1…画像データ、J1…関節、P1…人、31…撮像装置、60…作業判定装置、61…制御装置。