IP Force 特許公報掲載プロジェクト 2022.1.31 β版

知財求人 - 知財ポータルサイト「IP Force」

▶ オムロン株式会社の特許一覧

(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公開特許公報(A)
(11)【公開番号】P2024034024
(43)【公開日】2024-03-13
(54)【発明の名称】検出システム、方法およびプログラム
(51)【国際特許分類】
   G06T 7/00 20170101AFI20240306BHJP
   G06V 10/56 20220101ALI20240306BHJP
   G01B 11/00 20060101ALI20240306BHJP
【FI】
G06T7/00 660B
G06V10/56
G01B11/00 H
【審査請求】未請求
【請求項の数】12
【出願形態】OL
(21)【出願番号】P 2022138011
(22)【出願日】2022-08-31
(71)【出願人】
【識別番号】000002945
【氏名又は名称】オムロン株式会社
(74)【代理人】
【識別番号】110001195
【氏名又は名称】弁理士法人深見特許事務所
(72)【発明者】
【氏名】森 澪希
(72)【発明者】
【氏名】宇治田 康浩
(72)【発明者】
【氏名】藤本 慎也
【テーマコード(参考)】
2F065
5L096
【Fターム(参考)】
2F065AA04
2F065AA09
2F065AA17
2F065BB15
2F065BB27
2F065CC16
2F065FF04
2F065JJ03
2F065MM26
2F065QQ03
2F065QQ24
2F065QQ25
2F065QQ28
2F065QQ31
2F065RR09
2F065UU05
5L096BA02
5L096CA02
5L096CA22
5L096FA02
5L096FA67
5L096FA69
5L096GA41
5L096HA05
5L096JA11
(57)【要約】
【課題】作業場における作業者の位置と位置検出に用いたカメラの撮像画像を出力する。
【解決手段】方法は、作業場の上方に設置され略鉛直下向きの撮像方向を有するカメラによって撮像された当該作業場の撮像画像を取得するステップと、取得された撮像画像から、作業者が装着している装着物を表す部分画像を検出するステップと、取得された撮像画像において、部分画像が検出された位置を示す位置情報を取得するステップと、取得された撮像画像について、明るさが調整された当該撮像画像を表示するための調整情報を取得するステップと、取得された撮像画像について、当該撮像画像から取得された位置情報と、当該撮像画像について取得された調整情報とを出力するステップと、を備える。
【選択図】図1
【特許請求の範囲】
【請求項1】
作業場の上方に設置され略鉛直下向きの撮像方向を有するカメラによって撮像された前記作業場の撮像画像を取得する画像取得部と、
取得された撮像画像から、作業者が装着している装着物を表す部分画像を検出する部分画像検出部と、
取得された撮像画像において、前記部分画像が検出された位置を示す位置情報を取得する位置情報取得部と、
取得された前記撮像画像について、明るさが調整された当該撮像画像を表示するための調整情報を取得する調整情報取得部と、
取得された前記撮像画像について、当該撮像画像から取得された位置情報と、当該撮像画像について取得された前記調整情報とを出力する出力部と、を備える、検出システム。
【請求項2】
前記調整情報は、調整パラメータに基づき、前記明るさが調整された前記撮像画像を含む、請求項1に記載の検出システム。
【請求項3】
前記調整情報は、取得された前記撮像画像と、当該撮像画像に対する明るさ調整のための調整パラメータとを含む、請求項1に記載の検出システム。
【請求項4】
前記調整情報取得部は、前記調整パラメータを設定するためのユーザ操作を受付けるGUIを出力する設定部を含む、請求項2または3に記載の検出システム。
【請求項5】
前記GUIは、前記明るさが調整される前の撮像画像を表示する領域と、前記調整パラメータを変更するためのユーザ操作を受付けるオブジェクトと、前記調整パラメータに基づき明るさが調整された撮像画像を表示する領域と、を含む、請求項4に記載の検出システム。
【請求項6】
色の種類を判定するために参照される基準情報を格納する格納部と、
取得された撮像画像における作業者の装着物を表す部分画像から、前記格納部に格納された基準情報に基づいて、当該装着物の色の種類を検出する色検出部と、をさらに備える、請求項1または2に記載の検出システム。
【請求項7】
前記基準情報は、複数種類の色のそれぞれについて、色空間における当該色が有する属性値の分布を含み、
前記色検出部は、
取得された前記撮像画像における作業者の装着物を表す部分画像が有する色の属性値が、前記基準情報が示す各種の色の分布における属性値に該当するか否かに基づいて、当該装着物の色の種類を検出する、請求項6に記載の検出システム。
【請求項8】
前記基準情報を取得し前記格納部に格納する設定部を、さらに備え、
前記基準情報は、
複数種類の色の装着物のそれぞれについて、異なる撮像条件のもとで前記カメラによって撮像された撮像画像における当該装着物の部分画像が有する色の属性値の前記色空間における分布を含む、請求項7に記載の検出システム。
【請求項9】
前記作業場を撮像した撮像画像において、マスク領域を設定するマスク領域設定部を、さらに備え、
前記位置情報取得部は、
取得された撮像画像における前記マスク領域を除いた領域において、前記装着物を表す部分画像の位置を示す位置情報を取得する、請求項1または2に記載の検出システム。
【請求項10】
前記画像取得部によって取得された撮像画像は、前記カメラによって時系列に撮像される撮像画像を含み、
前記位置情報取得部は、さらに、取得された前記時系列の撮像画像において、前記部分画像が検出された時刻の情報を取得し、
前記位置情報は、前記位置の情報に関連付けて前記時刻の情報を含む、請求項1または2に記載の検出システム。
【請求項11】
作業場の上方に設置され略鉛直下向きの撮像方向を有するカメラによって撮像された前記作業場の撮像画像を取得するステップと、
取得された撮像画像から、作業者が装着している装着物を表す部分画像を検出するステップと、
取得された撮像画像において、前記部分画像が検出された位置を示す位置情報を取得するステップと、
取得された前記撮像画像について、明るさが調整された当該撮像画像を表示するための調整情報を取得するステップと、
取得された前記撮像画像について、当該撮像画像から取得された位置情報と、当該撮像画像について取得された前記調整情報とを出力するステップと、を備える、方法。
【請求項12】
請求項11に記載の方法をコンピュータに実行させるためのプログラム。
【発明の詳細な説明】
【技術分野】
【0001】
本開示は、検出システム、方法およびプログラムに関する。
【背景技術】
【0002】
複数の工程を含む生産現場では、作業効率の改善のために作業分析が実施されている。このような作業分析では、生産現場での「作業者位置」を検出する仕組みとして、無線を利用する方式もあるが、機器の携帯が不要なカメラ方式が提案されている。カメラ方式の場合、作業場の天井に設けられた「天井カメラ」が利用される。天井カメラで撮像した画像を用いて作業者位置を検出し、検出された情報を分析する技術が、例えば、特許文献1(特開2020-204819号公報)によって提案されている。
【先行技術文献】
【特許文献】
【0003】
【特許文献1】特開2020-204819号公報
【発明の概要】
【発明が解決しようとする課題】
【0004】
特許文献1のように検出された作業者位置の情報を分析する場合に、ユーザは当該情報のみならずカメラで撮像された画像も提供して欲しいとのニーズがあった。
【0005】
それゆえに、本開示の目的は、作業場における作業者の位置と当該位置の検出に用いたカメラの撮像画像を出力するシステム、方法およびプログラムを提供することである。
【課題を解決するための手段】
【0006】
本開示の一例によれば、検出システムは、作業場の上方に設置され略鉛直下向きの撮像方向を有するカメラによって撮像された当該作業場の撮像画像を取得する画像取得部と、取得された撮像画像から、作業者が装着している装着物を表す部分画像を検出する部分画像検出部と、取得された撮像画像において、部分画像が検出された位置を示す位置情報を取得する位置情報取得部と、取得された撮像画像について、明るさが調整された当該撮像画像を表示するための調整情報を取得する調整情報取得部と、取得された撮像画像について、当該撮像画像から取得された位置情報と、当該撮像画像について取得された調整情報とを出力する出力部と、を備える。
【0007】
上記に検出システムによれば、撮像画像から取得した位置情報が出力され、また、位置検出に用いた撮像画像が表示され得る。このように表示される撮像画像は、調整情報によって明るさが調整された撮像画像を含み得る。
【0008】
上記の検出システムにおいて、調整情報は、調整パラメータに基づき、明るさが調整された撮像画像を含む。これにより、調整情報を、明るさが調整された撮像画像を含む情報として出力することができる。
【0009】
上記の検出システムにおいて、調整情報は、取得された撮像画像と、当該撮像画像に対する明るさ調整のための調整パラメータとを含む。これにより、調整情報を、撮像画像と当該撮像画像の明るさ調整のためのパラメータとを含む情報として出力することができる。
【0010】
上記の検出システムにおいて、調整情報取得部は、調整パラメータを設定するためのユーザ操作を受付けるGUIを出力する設定部を含む。これにより、調整パラメータを取得するためのGUIが提供される。
【0011】
上記の検出システムにおいて、GUIは、明るさが調整される前の撮像画像を表示する領域と、調整パラメータを変更するためのユーザ操作を受付けるオブジェクトと、調整パラメータに基づき明るさが調整された撮像画像を表示する領域と、を含む。このようなGUIによって、ユーザに対し、明るさ調整が実施される前後の画像を見ながらパラメータ調整のユーザ操作を可能にする環境が提供される。
【0012】
上記の検出システムは、色の種類を判定するために参照される基準情報を格納する格納部と、取得された撮像画像における作業者の装着物を表す部分画像から、格納部に格納された基準情報に基づいて、当該装着物の色の種類を検出する色検出部と、をさらに備える。これにより、検出システムでは、位置検出された部分画像の色の種類が検出される。
【0013】
上記の検出システムにおいて、基準情報は、複数種類の色のそれぞれについて、色空間における当該色が有する属性値の分布を含み、色検出部は、取得された撮像画像における作業者の装着物を表す部分画像が有する色の属性値が、基準情報が示す各種の色の分布における属性値に該当するか否かに基づいて、当該装着物の色の種類を検出する。これにより、色の種類の検出には、各種色の色中心情報を利用することができる。
【0014】
上記の検出システムは、基準情報を取得し格納部に格納する設定部を、さらに備え、基準情報は、複数種類の色の装着物のそれぞれについて、異なる撮像条件のもとでカメラによって撮像された撮像画像における当該装着物の部分画像が有する色の属性値の色空間における分布を含む。これにより、検出システムにおいて、カメラの様々な撮像条件をカバーする各種の色に対応の分布を設定する機能が提供される。
【0015】
上記の検出システムは、作業場を撮像した撮像画像において、マスク領域を設定するマスク領域設定部を、さらに備え、位置情報取得部は、取得された撮像画像におけるマスク領域を除いた領域において、装着物を表す部分画像の位置を示す位置情報を取得する。これにより、位置情報の検出対象から除外するべきマスク領域を設定することができる。
【0016】
上記に検出システムにおいて、画像取得部によって取得された撮像画像は、カメラによって時系列に撮像される撮像画像を含み、位置情報取得部は、さらに、取得された時系列の撮像画像において、部分画像が検出された時刻の情報を取得し、位置情報は、位置の情報に関連付けて時刻の情報を含む。このように取得される位置情報によって、部分画像の動きをトラッキングした情報(位置/時刻)を示すことができる。
【0017】
本開示の一例によれば、方法は、作業場の上方に設置され略鉛直下向きの撮像方向を有するカメラによって撮像された当該作業場の撮像画像を取得するステップと、取得された撮像画像から、作業者が装着している装着物を表す部分画像を検出するステップと、取得された撮像画像において、部分画像が検出された位置を示す位置情報を取得するステップと、取得された撮像画像について、明るさが調整された当該撮像画像を表示するための調整情報を取得するステップと、取得された撮像画像について、当該撮像画像から取得された位置情報と、当該撮像画像について取得された調整情報とを出力するステップと、を備える。
【0018】
本開示の一例によれば、上記の方法をコンピュータに実行させるためのプログラムが提供される。
【発明の効果】
【0019】
本開示によれば、作業場における作業者の位置と当該位置の検出に用いたカメラの撮像画像を出力することができる。
【図面の簡単な説明】
【0020】
図1】実施の形態に係る検出システムが適用されるネットワークシステム1の一例を示す図である。
図2】情報処理装置のハードウェア構成の一例を示す模式図である。
図3】本実施の形態に係る分析装置10のハードウェア構成の一例を示す模式図である。
図4】本実施の形態に係る制御装置30のハードウェア構成の一例を示す模式図である。
図5】本実施の形態に係る画像の一例を示す図である。
図6】作業場2における作業者の軌跡情報80の一例を模式的に示す図である。
図7図6の軌跡情報80から取得される動線情報70の一例を示す図である。
図8】作業場2における作業者の軌跡情報80の他の例を模式的に示す図である。
図9図8の軌跡情報80から取得される動線情報70の一例を示す図である。
図10図8の軌跡情報80から取得される動線情報70の一例を示す図である。
図11】本実施の形態に係る情報処理装置のモジュール構成の一例を示す図である。
図12】本実施の形態に係る設定処理の概略フローチャートである。
図13】本実施の形態に係る検出処理の概略フローチャートである。
図14】本実施の形態に係る色分布情報241の一例を示す図である。
図15】本実施の形態に係る向きDiの検出方法を模式的に示す図である。
図16】本実施の形態に係る動線情報70の分析結果に基づく表示例を模式的に示す図である。
図17】本実施の形態に係る動線情報70の分析結果に基づく表示例を模式的に示す図である。
図18】本実施の形態に係る領域設定の一例を示す図である。
図19】オプティカルフローを利用して補完される軌跡の一例を模式的に示す図である。
図20】本実施の形態に係るホワイトバランス調整のGUI画面例を模式的に示す図である。
図21】本実施の形態に係るゲイン調整のGUI画面例を模式的に示す図である。
図22】本実施の形態に係るガンマ値を設定するためのGUI画面例を模式的に示す図である。
図23】本実施の形態に係る色分布情報241を設定するためのGUI画面例を模式的に示す図である。
図24】本実施の形態に係る色分布情報241を設定するためのGUI画面例を模式的に示す図である。
【発明を実施するための形態】
【0021】
本発明の実施の形態について、図面を参照しながら詳細に説明する。なお、図中の同一または相当部分については、同一符号を付してその説明は繰返さない。以下で説明される各変形例は、適宜選択的に組み合わされてもよい。
【0022】
<A.適用例>
図1を参照して、本実施の形態に係る検出システムの適用例について説明する。図1は、実施の形態に係る検出システムが適用されるネットワークシステム1の一例を示す図である。図1に示されるように、ネットワークシステム1は、分析装置10と、情報処理装置20と、PLC(Programmable Logic Controller)などの制御装置30と、生産現場に対応する作業場2に配置される複数の機械40と、1または複数のカメラ50と、を備える。
【0023】
カメラ50は、例えばLAN(Local Area Network)を介して情報処理装置20に接続される。このLANケーブルには、PoE(Power over Ethernet)が適用されることで、カメラ50には、LANケーブルを介して電力が供給される。また、制御装置30と情報処理装置20は、両者が一体的に構成されたIPC(Industrial Personal Computer)として提供されてもよい。
【0024】
作業場2では、作業者は、例えば、作業者が被っている帽子8の色の種類によって一意に識別される。帽子8の色は、作業場2に配置される設備や部材などに用いられていない種類の色であって、より好ましくは明るく、鮮やかな種類の色である。
【0025】
作業場2では、例えば、各種の製品が、設備を備える複数の工程Prを経て生産される。複数の工程Prは、例えば、「塗装」工程、「主要ワークの組み立て」工程、「主要ワークの本体への組み込み」工程、「検査」工程などを含む。複数の工程Prの各々を区別する必要がある場合には、符号に「(1)」、「(2)」、「(3)」、・・・、「(n)」等の添え字を付して区別する。例えば、「工程Pr(1)」,「工程Pr(2)」,・・・,「工程Pr(n)」と記載して区別する。複数の工程の各々を特に区別する必要がない場合は単に「工程Pr」と称する。
【0026】
複数の機械40は、複数の工程Prにおいてそれぞれ用いられる。つまり、工程Prと機械40とは予め対応付けられている。複数の機械40を相互に区別する必要がある場合には、符号に「(1)」,「(2)」,・・・,「(n)」等の添え字を付して区別し、特に区別する必要がない場合は単に「機械40」と称する。例えば、工程Pr(m)の実施には1台以上の機械40(m)が用いられる。すなわち、工程Pr(1)の実施には1台以上の機械40(1)が用いられる。同様に、工程Pr(2)の実施には1台以上の機械40(2)が用いられる。
【0027】
複数の工程Prは、サイクルごとに作業者と機械40との協調作業が繰り返し実施される協調工程を含み得る。協調作業は、例えば、作業者による投入作業(機械40にワークを投入する作業)と、投入作業の後に機械40によって実施される本作業(ワークの加工など)と、を含む。なお、複数の工程Prは、機械40が設けらない工程も含み得る。そのような工程Prでは、作業者は機械40を利用しない作業を実施する。このように、工程Prにおいて機械40は必須の構成と解釈されるべきでない。
【0028】
カメラ50は、作業場2の上方に設置されたカメラであって、略鉛直下向きの撮像方向を有する。具体的には、カメラ50は、作業場2の全体を俯瞰できる位置(典型的には天井の梁など)に設置され、作業場2の全体を撮像することにより時系列の画像データで構成される動画データ(以下、単に「動画」と称する。)を生成する。カメラ50は、例えば広角カメラまたは超広角カメラを含み、固定または移動可能なように設置されてよい。
【0029】
情報処理装置20は、制御装置30およびカメラ50と通信可能に接続される。情報処理装置20は、カメラ50から出力される撮像画像を取得し(ステップS1)、取得された画像から、作業者が被る帽子を表す部分画像を検出する(ステップS2)。情報処理装置20は、撮像画像において、上記に述べた部分画像が検出された位置を示す位置情報を取得する(ステップS4)。また、情報処理装置20は、カメラ50から取得される撮像画像について、明るさが調整された当該撮像画像を表示するための調整情報を取得する(ステップT1b)。情報処理装置20は、カメラ50から取得される撮像画像について、当該撮像画像から取得された位置情報と、当該撮像画像について取得された調整情報とを分析装置10に転送する。情報処理装置20から分析装置10に転送される位置情報は、カメラ50から取得される動画における、装着物の部分画像の動きをトラッキングして得られる軌跡情報80を少なくとも含む。また、位置情報には、軌跡情報80に基づき取得される後述する動線情報70が含まれてもよい。また、分析装置10に転送される調整情報には、カメラ50の撮像画像であって、位置情報の取得に用いられた動画を、例えばガンマ補正により明るさが調整された調整後動画ファイル46が含まれる。
【0030】
制御装置30は、作業場2全体を制御し、複数の機械40の各々と通信可能に接続される。制御装置30は、例えばPLC(Programmable Logic Controller)である。制御装置30と複数の機械40とを通信可能に接続するネットワークとして、各種の産業用イーサネット(登録商標)が用いられる。産業用イーサネット(登録商標)としては、たとえば、EtherCAT(登録商標)、Profinet IRT、MECHATROLINK(登録商標)-III、Powerlink、SERCOS(登録商標)-III、CIP Motionなどが知られており、これらのうちのいずれを採用してもよい。さらに、産業用イーサネット(登録商標)以外のフィールドネットワークが用いられてもよい。例えば、モーション制御を行わない場合であれば、DeviceNet、CompoNet/IP(登録商標)などが用いられてもよい。
【0031】
制御装置30は、マスタスレーブ制御システムにおけるマスタとして動作し、入力デバイス(計測デバイス)としての複数の機械40の各々からの情報を入力データとして取得する。制御装置30は、予め組み込まれたユーザプログラムに従って、取得した入力データを用いた演算処理を実行する。制御装置30は、演算処理の実行に応じて、マスタスレーブ制御システムに対する制御内容を決定し、その制御内容に対応する制御データを、複数の機械40の各々へと出力データとして出力する。制御装置30は、複数の機械40の各々からの状態を示す入力データの取得と、複数の機械40の各々への制御データの取得とを、所定の周期(制御周期)で繰り返し実行する。制御装置30は、所定の周期毎に取得された制御データ(出力データ)と入力データを含む制御データ345を、予め定められたタイミングで分析装置10に転送する。
【0032】
分析装置10は、情報処理装置20および制御装置30と通信可能に接続され、複数の工程Prを含む作業場2の作業状況を分析する。分析装置10は、例えば汎用のコンピュータを含んで構成されて、ディスプレイでなどの表示装置170に接続される。
【0033】
分析装置10は、情報処理装置20から転送される調整後動画ファイル46と位置情報を受信する。分析装置10は、情報処理装置20から受信した位置情報を分析し、分析結果を可視化する可視化データ17a(グラフィカルデータ)を生成し、表示装置170に転送する。可視化データ17aには、当該位置情報を取得するために用いられた撮像画像を明るさ調整した、調整後動画ファイル46に基づく画像を表示するためのデータを含む。また、分析装置10は、表示装置170に、可視化データ17aに基づき、動線チャートを表示させ、また、明るさ調整された画像を表示させる。動線チャートは動線情報70に基づく情報であって、作業者について、各工程Prの滞在時間または作業時間を表すグラフ等を含む。
【0034】
また、分析装置10は、制御装置30から転送される制御データ345に基づく情報を動線チャートと関連付けて視覚化する視覚化データを生成してもよい。例えば、分析装置10は、制御データ345に基づき、各工程Prについて、機械40が稼働していた時間帯を抽出し、抽出された稼働時間帯を、当該工程Prにおける滞在時間と関連付けて視覚化する視覚化データを生成するようにしてもよい。
【0035】
本実施の形態によれば、作業場2における作業者の位置を、作業者が被る帽子8の部分画像で検出できる。また、位置の検出に用いられた撮像画像は、明るさが調整された画像として表示装置170に表示されるので、ユーザに対して視認性に優れた画像を提供することができる。
【0036】
図1の検出システムでは、情報処理装置20が、部分画像の検出(ステップS2)、位置情報の取得(ステップS4)および調整情報取得(ステップT1b)の処理を実施する主体であったが、これら処理を実施する主体は情報処理装置20に限定されない。例えば、分析装置10がこれら処理を実施する主体は装置間で分散されるように構成されてもよい。検出システムがこのように構成される場合は、カメラ50から動画を取得する処理(ステップS1)と調整情報を取得する処理(ステップT1b)は情報処理装置20によって実施されて、他の処理(ステップS2、S4)は分析装置10によって実施されるような、分散処理が実現され得る。なお、検出システムにおける処理の分散のさせ方は、これに限定されない。また、検出システムは、カメラ50が、ステップS1、S2およびS4の処理モジュールを実装することにより構成されてもよい。以下では、検出システムの具体的な応用例として、情報処理装置20によって、ステップS1、S2、S4およびT1bの処理が実施されるケースについて説明する。
【0037】
<B.装置構成>
図2は、情報処理装置のハードウェア構成の一例を示す模式図である。情報処理装置20は、典型的には、汎用的なコンピュータアーキテクチャに従う構造を有する。図2に示されるように、情報処理装置20は、CPU(Central Processing Unit)やMPU(Micro-Processing Unit)などのプロセッサ21と、メモリ22と、ストレージ23と、カメラインターフェイス24と、通信インターフェイス25と、入出力インターフェイス26と、ドライバ22Aを含む。これらの各部は、バスを介して、互いにデータ通信可能に接続される。
【0038】
プロセッサ21は、ストレージ23に非一時的に記憶されている各種のプログラムを読出し、メモリ22に展開して実行することで、本実施の形態に従う各種処理を実現する。
【0039】
メモリ22は、典型的には、DRAM(Dynamic Random Access Memory)などの揮発性の記憶装置であり、ストレージ23から読み出されたプログラム、カメラ50から受けた動画などを記憶する。
【0040】
ドライバ22Aは、光学ディスク22Bなどの記憶媒体が脱着自在に装着され、装着された記憶媒体から情報(プログラム、データ)を読出し、ストレージ23に格納する。
【0041】
カメラインターフェイス24は、プロセッサ21とカメラ50との間のデータ伝送を仲介する。より具体的には、プロセッサ21からカメラインターフェイス24を介してカメラ50に撮像指示が出力される。カメラインターフェイス24は、撮像指示に応じてカメラ50から受けた動画をプロセッサ21に出力する。図2では情報処理装置20に、1台のカメラ50が接続される。
【0042】
通信インターフェイス25は、プロセッサ21と外部デバイス(例えば制御装置30、分析装置10)との間のデータ伝送を仲介する。通信インターフェイス25は、典型的には、イーサネット(登録商標)やUSB(Universal Serial Bus)などを含む。
【0043】
入出力インターフェイス26には情報を出力するディスプレイ7aと情報処理装置20に対するユーザ指示を受付けるために操作されるキーボードやマウスなどの操作部7bを接続する。ディスプレイ7aと操作部7bは一体的に構成されたタッチパッド27として提供されてもよい。
【0044】
ストレージ23は、典型的には、ハードディスクトライブなどの不揮発性の記憶装置を含んで構成される。ストレージ23は、OS(Operating System)を含むシステムプログラム230と、アプリケーションプログラム23Aと、情報23Bを格納する。
【0045】
アプリケーションプログラム23Aは、設定プログラム231と、画像取得プログラム233と、色検出プログラム234と、作業者識別プログラム235を有する動線検出プログラム236と、転送プログラム237とを含む。
【0046】
情報23Bは、後述する設定処理によって取得される情報と、複数種類の色と各種色に関連付けられた作業者IDとを含む色/ID情報244と、検出情報347とを含む。設定処理によって取得される情報は、画像の明るさ調整処理のパラメータとしてのガンマ値4Gと、検出に用いられる情報24Bとを含む。情報24Bは、色分布情報241と、マスク情報242と、監視領域Arを示す監視領域情報243とを含むが、これら情報の詳細は後述する。
【0047】
検出情報347は、1つ以上の動画ファイル45と、各動画ファイル45に紐付けされた動線情報70および軌跡情報80とを含む。動線情報70および軌跡情報80は、例えばCSV(Comma Separated Values)ファイルの形式を有する。動画ファイル45は、カメラ50によって撮像された時系列の複数フレームからなる動画を構成する。この動画は、1秒あたり予め定められた枚数のフレーム画像から構成される。
【0048】
本実施の形態では、分析システムは、カメラ50の撮像視野に対応のフレーム画像、すなわち作業場2を鉛直下方向で撮像したフレーム画像を2次元座標平面として扱うことで、フレーム画像において帽子の部分画像が検出された位置を座標(xi,yi)に換算する。また、分析システムは、後述するように帽子の部分画像を解析することにより2次元座標平面における帽子の向きDiを検出する。
【0049】
軌跡情報80は、対応の動画ファイル45の動画から検出された帽子の色の種類を示すカラーIDと、当該色の種類に関連付けされた作業者IDと、時系列の複数の要素(ti,(xi,yi),Di)から構成される軌跡情報80を含む。
【0050】
軌跡情報80の時系列の要素(ti,(xi,yi),Di)は、対応の動画において、対応のカラーIDが示す種類の色の帽子8の画像(部分画像)の動きを追跡する(以下、トラッキングともいう)ことで取得される情報である。具体的には、要素は、時刻tiと、当該時刻tiに関連付けて当該時刻tiにおいて検出された位置(xi,yi)および向きDiとを含む。動線情報70は、分析システムが、対応の軌跡情報80の時系列の要素(ti,(xi,yi),Di)を基づいて、軌跡情報80を解析することにより取得した情報を示す。動線情報70は、各工程Prの予め定められた領域である後述する監視領域Arに、作業者が滞在した時間を示す。
【0051】
ストレージ23にインストールされるアプリケーションプログラム23Aは、光学ディスク22Bまたはメモリカードなどの記憶媒体に格納された状態で流通する。同様に、ストレージ23にインストールされる情報23Bも、このような記憶媒体に格納された状態で流通させることができる。または、アプリケーションプログラム23Aや情報23Bは、通信インターフェイス25を介して、図示しない配信サーバなどからダウンロードされてもよい。
【0052】
上述の情報処理装置20のような汎用的なコンピュータアーキテクチャに従う構造を有するコンピュータを利用する場合には、本実施の形態に係る機能を提供するためのアプリケーションに加えて、コンピュータの基本的な機能を提供するためのOSを含むシステムプログラム230がインストールされていてもよい。この場合には、本実施の形態に係るアプリケーションプログラム23Aは、このようなシステムプログラムの一部として提供されるプログラムモジュールのうち、必要なモジュールを所定の順序およびタイミングで呼出して処理を実行するものであってもよい。すなわち、本実施の形態に係るアプリケーションプログラム23Aは、OSを含むシステムプログラム230と協働して実行される場合もある。
【0053】
なお、代替的に、情報処理装置20には、アプリケーションプログラム23Aの実行により提供される機能の一部もしくは全部は専用のハードウェア回路、例えばASIC(Application Specific Integrated Circuit)、FPGA(Field Programmable Gate Array)などとして実装されてもよい。
【0054】
図3は、本実施の形態に係る分析装置10のハードウェア構成の一例を示す模式図である。図3に示されるように、分析装置10は、典型的には、汎用的なコンピュータアーキテクチャに従う構造を有する。
【0055】
分析装置10は、CPUやMPUなどのプロセッサ11と、メモリ12と、ストレージ13と、表示コントローラ14と、入力インターフェイス15と、通信インターフェイス16と、を含む。これらの各部は、バスを介して、互いにデータ通信可能に接続される。
【0056】
プロセッサ11は、ストレージ13から各種のプログラムを読出しメモリ12に展開して実行することで、本実施の形態に従う各種処理を実現する。
【0057】
メモリ12は、典型的には、DRAMなどの揮発性の記憶装置であり、ストレージ13から読み出されたプログラムなどを記憶する。
【0058】
ストレージ13は、典型的には、プログラムを非一時的に記憶するハードディスクトライブなどの不揮発性の記憶装置である。ストレージ13は、制御装置30から転送された、工程Prごとの制御データ345と、情報処理装置20から転送された検出情報347を格納するとともに、プロセッサ11で実行される可視化プログラム17と分析プログラム18とを格納する。プロセッサ11は、分析プログラム18を実行することにより、制御データ345および検出情報347について分析処理を実施する。プロセッサ11は、可視化プログラム17を実行することにより、検出情報347の分析処理の結果を可視化するための可視化データ17aを生成する。表示コントローラ14は、可視化データ17aに基づく画像(動線チャート、動画など)をディスプレイに表示するよう表示装置170を制御する。
【0059】
入力インターフェイス15は、プロセッサ11とキーボード、マウス、タッチパネル、専用コンソールなどの入力装置75との間のデータ伝送を仲介する。すなわち、入力インターフェイス15は、ユーザが入力装置75を操作することで与えられる操作指令を受け付ける。
【0060】
通信インターフェイス16は、プロセッサ11と外部デバイス(例えば情報処理装置20、制御装置30)との間のデータ伝送を仲介する。通信インターフェイス16は、典型的には、イーサネット(登録商標)やUSB(Universal Serial Bus)などを含む。
【0061】
図4は、本実施の形態に係る制御装置30のハードウェア構成の一例を示す模式図である。図4に示されるように、制御装置30は、CPUやMPUなどのプロセッサ31と、チップセット32と、主メモリ33と、ストレージ34と、制御系ネットワークコントローラ35と、情報系ネットワークコントローラ36と、USBコントローラ37と、メモリカードインターフェイス38と、を含む。
【0062】
プロセッサ31は、ストレージ34に格納された各種プログラムを読み出して、主メモリ33に展開して実行することで、制御対象を制御するための制御演算を実現する。チップセット32は、プロセッサ31と各コンポーネントとのデータ伝送などを制御する。
【0063】
ストレージ34には、基本的な処理を実現するためのシステムプログラム341と、制御演算を実現するためのユーザプログラム342と、図示しない時刻同期サーバと通信して時刻同期を管理する管理プログラム343と、転送プログラム344と、制御データ345が格納される。ユーザプログラム342は、時刻同期に基づき周期的に実行されることで、機械40から検出された状態値に基づき、機械40を制御するための指令が算出される。このように周期的に取得される状態値および制御指令は、制御データ345として格納される。なお、管理プログラム343は、ユーザプログラム342の一部であってもよい。
【0064】
制御系ネットワークコントローラ35は、制御系ネットワークを介して、制御装置30から制御指令を機械40に転送するとともに、機械40から転送される状態値を受信する。
【0065】
情報系ネットワークコントローラ36は、情報系ネットワークを介して、制御装置30と外部の装置(例えば分析装置10、情報処理装置20など)との間のデータのやり取りを制御する。
【0066】
USBコントローラ37は、USB接続を介した外部の装置(例えば、サポート装置)とのデータのやり取りを制御する。
【0067】
メモリカードインターフェイス38は、メモリカード228などの外部記憶媒体が着脱可能に構成されており、メモリカード228に対してデータを書き込み、メモリカード228から各種データ(ユーザプログラムやトレースデータなど)を読み出すことが可能になっている。
【0068】
<C.作業場の画像と動線情報>
図5は、本実施の形態に係る画像の一例を示す図である。図5の画像は、カメラ50が5つの工程Prを含む作業場2を撮像することにより得られる動画のフレームを示す。図示されるように、動画の各フレームは、作業場2の画像と、作業場2に作業者がいる場合は作業者Peの画像とを含む。なお、動画の各フレームは、図示しない時刻同期サーバを用いて特定された撮像時刻と対応付けられている。
【0069】
作業場2は、セル生産方式が採用される。セル生産方式は、1人または少数の作業者が、部品(ワーク)や機械40をU字型に配置したセルと呼ばれるラインで製品の組立を完成させる生産方式である。図5では、6つの工程Pr(1)~Pr(6)の各々に対して、作業者Peが作業するために位置する場所に相当する予め定められた作業領域として、監視領域Arが設定される。監視領域Arは、動画のフレーム内の部分領域を構成する。図5では、例えば、工程Pr(2)の監視領域Ar(2)と工程Pr(4)に対応する監視領域Ar(4)が示される。監視領域Arは、例えば矩形であり、4つの頂点の座標によって定義される。
【0070】
情報処理装置20のプロセッサ21は、カメラ50によって撮像されたフレーム画像を、予め定められた部分画像、すなわち帽子を表す部分画像に基づき走査する。プロセッサ21は、走査結果に基づき、フレームにおいて当該部分画像の座標位置を検出することによって、作業場2において作業者Peがいる位置Ppを検出する。より具体的には、プロセッサ21は、帽子の部分画像の中心を作業者Peの位置Ppとして検出する。図5に示す例では、プロセッサ21によって、作業者Pe(1),Pe(2)の位置Pp(1),Pp(2)がそれぞれ検出されている。
【0071】
プロセッサ21は、各フレームの撮像時刻において、各工程Prに対して設定された監視領域Arに作業者Peがいるか否かを判定する。具体的には、プロセッサ21は、監視領域Ar内に作業者Peの位置Ppが含まれることに応じて、監視領域Ar内に作業者Peがいると判定する。
【0072】
プロセッサ21は、各工程Prについて、動画の中から、当該工程Prに対応する監視領域Ar内に作業者Peがいると判定された、時系列に連続する複数のフレームを特定する。プロセッサ21は、特定した複数のフレームに対して、当該工程Prを識別する工程IDを含むレコードを作成する。当該レコードは、さらに滞在時間を示すIN時刻とOUT時刻の組を含む。具体的には、プロセッサ21は、特定された複数のフレームのうちの1番目のフレームの撮像時刻をIN時刻として決定し、かつ、特定したフレームのうちの最後のフレームの撮像時刻をOUT時刻として決定する。決定されたIN時刻とOUT時刻の組によってIN時刻からOUT時刻までの長さの時間である滞在時間が示される。プロセッサ21は、このようにして作成された各工程Prのレコードを含む動線情報70を生成する。
【0073】
(c1.動線情報70の具体例)
図6は、作業場2における作業者の軌跡情報80の一例を模式的に示す図である。図7は、図6の軌跡情報80から取得される動線情報70の一例を示す図である。図6では、例えば緑の帽子8を被った作業者Peは、作業場2に入場してから退場するまでの間に工程Pr(1)~Pr(6)を、この順番に移動した場合に取得される軌跡情報80が示される。図6の軌跡情報80から取得される動線情報70は、図7に示されるように、作業者Peが被っている帽子8の色の種類を示すカラーID(緑:G)、当該色の種類に対応の作業者ID(“124”)、および工程Pr(1)~Pr(6)のそれぞれに対応のレコードを含む。各レコードは、対応の工程Prの監視領域Ar内における作業者Peの滞在時間を示すIN時刻とOUT時刻の組を含む。
【0074】
帽子8の色の種類は、作業者Peの役割または作業に対する習熟度に基づき異ならせてもよい。この役割としては、例えば、作業場2の管理者、作業の指導者などを含み、習熟度としては熟練者、初心者などを含む。図8は、作業場2における作業者の軌跡情報80の他の例を模式的に示す図である。図9図10は、それぞれ、図8の軌跡情報80から取得される動線情報70の一例を示す図である。図8では、例えばピンクの帽子8を被った初心者に当たる作業者Peについて、作業場2に入場し工程Pr(1)、工程Pr(2)、工程Pr(1)、工程Pr(5)および工程Pr(4)を、この順番に移動し、その後に退場した場合に取得される軌跡情報80が示される。図9には、このような軌跡情報80に基づいて取得される動線情報70の一例が示される。図9の動線情報70は工程Pr(2)から工程Pr(1)に作業が戻っていることが示される。このような動線情報70に基づき、分析装置10は、例えば初心者のために手戻りの作業があったことが推定され得る。
【0075】
図8では、例えば黄色の帽子8を被った指導者に当たる作業者Peについて、作業場2に入場し工程Pr(3)の監視領域Ar(3)内にいて、その後に退場したことを示す軌跡情報80が取得される。図10には、このような軌跡情報80に基づいて取得される動線情報70の一例が示される。図10の動線情報70は工程Pr(3)において比較的長時間の滞在時間が示される。このような動線情報70に基づき、分析装置10は、例えば工程Pr(3)において作業の指導が実施されたことを推定する。
【0076】
<D.情報処理装置の機能構成>
図11は、本実施の形態に係る情報処理装置のモジュール構成の一例を示す図である。図11に示されるように、情報処理装置20は、設定プログラム231が実行されることにより実現されるアナログ設定部201およびデジタル設定部203と、画像取得プログラム233が実行されることにより実現される画像録画部202と、作業者識別プログラム235を含む動線検出プログラム236および色検出プログラム234が実行されることにより実現される検出部204と、転送プログラム237が実行されることにより実現されるアップロード部205とを含む。
【0077】
アナログ設定部201は、情報処理装置20に対するユーザ操作を受付け、受付けたユーザ操作に従って、カメラ50に対し撮像に関する設定を実施する。デジタル設定部203は、情報処理装置20に対するユーザ操作を受付け、受付けたユーザ操作に従ってガンマ値4Gと、情報24Bとを取得し格納する。なお、デジタル設定部203は、受付けたユーザ操作に基づき、色/ID情報244を取得し格納するよう構成されてもよい。
【0078】
画像録画部202は「画像取得部」の一実施例である。画像録画部202は、カメラ50から時系列に出力される画像(動画)をファイル形式の動画ファイル45としてストレージ23に格納する。検出部204は、撮像画像から帽子8の部分画像を検出する「部分画像検出部」と、「色検出部」と、作業者の「識別部」と、「位置情報取得部」とを構成する。「位置情報取得部」は、部分画像の検出位置と時間から構成される軌跡情報80を取得する「第1情報取得部」と、軌跡情報80に基づいて動線情報70を取得する「第2情報取得部」を構成し得る。検出部204は、動画ファイル45を情報24Bおよび色/ID情報244を用いて処理することにより、作業者の帽子8の色の種類から当該作業者を識別し、トラッキングに基づき軌跡情報80および動線情報70を取得する。
【0079】
動画ファイル45は分析装置10に転送されるとともに、動画ファイル45に関連付けされた動線情報70は、アップロード部205によって分析装置10に転送される。
【0080】
<E.フローチャート>
図12は、本実施の形態に係る設定処理の概略フローチャートである。図13は、本実施の形態に係る検出処理の概略フローチャートである。図12では、プロセッサ21は、設定処理(ステップT1)を実施する。設定処理では、プロセッサ21は、アナログ設定部201としてアナログ設定処理(ステップT1a)と、デジタル設定部203としてデジタル設定処理(ステップT1b)を実施する。アナログ設定処理では、後述するホワイトバランス調整とゲイン調整とが実施されることにより、カメラ50に撮像に関する設定が実施される。デジタル設定処理では、上述したマスク領域28および監視領域Arの設定と、後述するガンマ値4Gの設定と色分布情報241の設定が実施される。このようなデジタル設定処理によって、ガンマ値4Gおよび情報24B(色分布情報241、マスク情報242および監視領域情報243)が、ストレージ23に格納される。ステップT1の設定処理が実施されると、その後に、図13の検出処理が実施される。
【0081】
図13では、プロセッサ21は、画像取得処理を実施する(ステップS1)。具体的には、プロセッサ21は、画像録画部202として、カメラ50から出力される動画を受付けて、動画ファイル45として格納する。このような動画の受付と格納は、カメラ50からの画像の出力に同期して繰返し実施される。動画ファイル45は、予め定められた大きさのサイズを有する。
【0082】
プロセッサ21は、色検出処理(ステップS2)を実施する。具体的には、プロセッサ21は、検出部204の「部分画像検出部」として、動画ファイル45のフレーム画像を、予め登録されたパターン画像で走査し、走査結果に基づき当該パターン画像にマッチングする、すなわちパターン画像が有する特徴量と類似する度合いが一定以上である特徴量を有した部分画像を、帽子8の部分画像として検出する。このようなパターン画像は、帽子8の1つ以上の特徴量(頭頂部、ツバ形状、帽子8をカメラ50で撮像した場合のサイズなどの形状)を有する。
【0083】
プロセッサ21は、検出された部分画像の色の種類を、色の属性(色相、彩度、明度)を用いて示される色分布情報241を用いて検出する。色分布情報241は、プロセッサ21が帽子8の色の種類を判定するために参照する基準情報を構成する。図14は、本実施の形態に係る色分布情報241の一例を示す図である。図14では、色相の大きさをパラメータとして割当てられた座標軸、彩度をパラメータとして割当てられた座標軸および明度をパラメータとして割当てられた座標軸が互いに直交する3次元の座標系に対応する色空間において、異なる種類の色のそれぞれについて色分布の値(座標値)が示される。
【0084】
例えば、帽子8に適用される色の種類として、緑、黄色、ピンク、オレンジがある場合、図14の座標系では、これら各色の範囲が(色相、彩度、明度)の属性値の分布として、すなわち当該属性値に対応の座標値の分布として斜線で示される。また、緑、黄色、ピンクおよびオレンジのそれぞれについて、斜線で示される色分布C1、C2、C3、C4が示される。このような色分布情報241の取得方法については後述する。
【0085】
プロセッサ21は、フレーム画像から検出された帽子8の部分画像が有する色の属性(色相、彩度、明度)の値を算出し、この算出値を座標系における座標値に換算する。プロセッサ21は、換算された座標値を、色分布C1、C2、C3およびC4それぞれについて当該分布を構成する複数の座標値と照合し、照合の結果に基づき、当該換算された座標値は、いずれの色分布の座標値に該当するかを特定する。図14では、例えば換算された座標値d1については色分布C1が特定されて、プロセッサ21は、帽子8の色の種類は、特定された色分布C1に対応の「緑」と決定する。一方、部分画像から座標値d2が算出された場合、図14に示すように、座標値d2はいずれの色分布にも該当しない、すなわち色の種類は決定されない。なお、画像の色の属性を構成する「色相」、「彩度」、「明度」の値は、プロセッサ21が帽子8の部分画像を構成する画素値(例えば、RGB値)に基づき予め定められた演算式に従って算出される。このように、部分画像から検出された色の属性値が、色分布情報241によって定義された色の範囲に該当すると特定されることによって、プロセッサ21は作業場2に作業者がいると判定することができる。
【0086】
なお、図14では、各種の色について、色分布は1つ設定されているが、色の変化に対応した複数の色分布が設定されてもよい。
【0087】
プロセッサ21は、検出部204として、作業者IDと動線情報70の取得処理(ステップS3)を実施する。具体的には、プロセッサ21は、検出された色の種類に基づき、色/ID情報244を検索することにより、当該色の種類に対応の作業者IDを取得する。また、プロセッサ21は、動画ファイル45の連続するフレーム画像にわたって、帽子8の部分画像の動きをトラッキングすることにより、時系列の複数の要素(ti,(xi,yi),Di)から構成される軌跡情報80を生成し格納する(ステップS4a)。
【0088】
要素(ti,(xi,yi),Di)を構成する向きDiの検出方法が図15に示される。図15は、本実施の形態に係る向きDiの検出方法を模式的に示す図である。図15は、1台のカメラ50が作業者Peを鉛直下向きの方向から撮像した画像であって、作業者が被る帽子8の部分画像とその周囲の画像を含む。プロセッサ21は、帽子8の部分画像を解析することにより、帽子8の頭頂点とツバの先端を結ぶ直線が、頭頂点をX軸方向に延びる仮想軸となす角度θを検出し、検出角度θを、帽子8の向きDiと決定する。なお、向きDiの検出方法は、これに限定されない。
【0089】
プロセッサ21は、検出部204として、軌跡情報80に基づき動線情報70を取得する(ステップS4b)。具体的には、プロセッサ21は、軌跡情報80を構成する要素(ti,(xi,yi),Di)のうちの、座標(xi,yi)を各工程Prの監視領域情報243が示す座標と比較し、比較結果に基づき、当該座標(xi,yi)が監視領域243内の位置を示すと判定すると、対応の時刻tiにおいて、作業者Peは監視領域Ar内にいると検出される。このような時刻tiを各工程Prの監視領域Arについて検出されることにより、動線情報70を構成する各工程PrのIN時刻~OUT時刻で示される滞在時間が検出される。
【0090】
また、本実施の形態では、工程Prの作業者Peの滞在時間のうち、作業者Peが作業を実施する作業時間が検出される。具体的には、作業者Peは、帽子8のツバの先端の向きが顔の正面の向きと一致するように帽子8を被るので、作業者Peの顔の向きを向きDiによって示すことができる。プロセッサ21は、工程Prに滞在する作業者Peの向きDiが、作業時の作業者の姿勢に対応する予め定められた向きと一致する度合を検出する。検出された一致の度合いが予め定められた値を超える判定する時刻tiは、作業者Peの作業時間にあたると判定する。このように向きDiに基づいて、滞在時間のうち作業時間を推定(取得)することができる。なお、このような作業時間の検出を実施する主体は、情報処理装置20に限定されず、分析装置10であってもよい。
【0091】
プロセッサ21は、例えばユーザ操作に基づき、動線情報70の検出処理が終了するか否かを判定する(ステップS5)。検出処理を終了しないと判定されると(ステップS5でNO)、プロセッサ21は、ステップS3とステップS4で取得した情報(動画ファイル45に対応の動線情報70および軌跡情報80)を用いて検出情報347を生成し、検出情報347をストレージ23に格納する(ステップS8)。その後、次に取得される動画ファイル45について、ステップS3~ステップS5の処理が、上述と同様に繰り返される。
【0092】
検出処理を終了すると判定されると(ステップS5でYES)、プロセッサ21は、アップロード部205として、情報処理装置20に対するユーザ操作に基づき、ステップS3とステップS4で取得した情報(ストレージ23の検出情報347)を、分析装置10に転送する(ステップS7)。ステップS7で情報処理装置20から分析装置10に転送される情報は、動画ファイル45と動線情報70を含むが、転送情報には軌跡情報80も含めることができる。
【0093】
また、ステップS7で動画ファイル45が転送されるとき、ステップS6において、プロセッサ21は、調整部19として、動画ファイル45を構成するフレーム画像について、ガンマ値4Gを用いたガンマ補正を実施する。これにより、明るさが調整されたフレーム画像から構成され動画ファイル45が出力される。この出力の態様は、分析装置10に転送されること(ステップS7)、またはディスプレイに表示されること、または、ストレージに格納されること等を含む。
【0094】
具体的には、上記に述べたゲイン調整後のカメラ50によって撮像された画像は、後述するように全体的に暗い画像を示す。プロセッサ21は、ステップS6において動画ファイル45の画像を明るくなるよう調整(補正)し、その後に、ステップS7で当該動画ファイル45を転送する。これにより、分析装置10の表示装置170には、動画ファイル45の画像は適切な明るさで表示される。
【0095】
なお、画像の明るさ調整を実施する主体は、情報処理装置20に限定されず、分析装置10であってもよい。この場合、ステップS7ではガンマ値4Gが分析装置10に転送されて、分析装置10は、情報処理装置20から転送された動画ファイル45の各フレーム画像を、情報処理装置20から転送されたガンマ値4Gを用いてガンマ補正を施して、補正後の画像を表示装置170に表示させる。
【0096】
<F.動線情報の出力例>
図16および図17は、本実施の形態に係る動線情報70の分析結果に基づく表示例を模式的に示す図である。分析装置10の表示装置170は、動線情報70の分析処理によって取得される可視化データ17aに基づく画像を表示する。可視化データ17aに基づく図16の動線チャートは、横軸に時間がとられ、縦軸の工程Pr(1)~Pr(6)が取られる。図16では、作業者IDが「ID1」の動線情報70に基づく破線の動線チャートと、作業者IDが「ID3」の動線情報70に基づく実線の動線チャートとが示される。動線チャートは、各工程Prにおける作業時間を示す。なお、動線チャートにおいて、作業時間に替えて、各工程Prにおける滞在時間が示されるようにしてもよい。
【0097】
図17では、複数の工程Prの各々について、作業時間の時間帯を示すガントチャート51が示される。さらに、図17では、複数の工程Prの各々について、作業時間のばらつきを示す箱ひげ図52を含む。なお、図17の画面は、ガントチャート51および箱ひげ図52のうちの一方のみを含んでもよい。
【0098】
<G.変形例>
上記に述べた情報処理装置20の処理には、以下の処理を適用することができる。
【0099】
(g1.マスク処理)
作業場2には、生産設備を含む各種のモノが配置されるから、軌跡情報80の検出時に、これらモノの誤検出された場合、動線情報70も誤差を含むことになる。本実施の形態では、これら各種のモノの情報に起因した誤差を排除するために、マスク処理は実施される。
【0100】
具体的には、軌跡情報80に基づき動線情報70が取得される処理(ステップS4b)は、マスク情報242を利用したマスク処理によって動線情報70が取得されるように構成され得る。
【0101】
図18は、本実施の形態に係る領域設定の一例を示す図である。設定される領域は、監視領域Arに対応の作業領域と作業者Peが作業をしない領域(以下、マスク領域という)を含む。これら領域の設定のために、デジタル設定部203によって、タッチパッド27を介したGUI(Graphical User Interface)が提供される。当該GUIの一例が図18に示される。
【0102】
図18の(A)は、領域設定前のフレーム画像の一例を示し、図18の(B)は、フレーム画像に作業領域である監視領域Ar(2)が設定され、図18の(C)では、フレーム画像のマスク領域28が設定される。プロセッサ21は、ドラッグおよびドロップ操作を含むユーザ操作に基づき監視領域Arおよびマスク領域28の部分画像が設定された画像を表示する。デジタル設定部203は、図18の(B)と図18の(C)の監視領域Arおよびマスク領域28を表す座標を、監視領域情報243およびマスク情報242として設定する。監視領域情報243およびマスク情報242は、フレーム画像に対応の2次元座標平面において、監視領域Arおよびマスク領域28の部分画像が占める範囲の座標を用いて表される。
【0103】
プロセッサ21は、色検出処理(ステップS2)において、軌跡情報80の時系列の要素(ti,(xi,yi),Di)のうち、マスク情報242が示す座標、すなわちマスク領域28に該当する座標(xi,yi)を有した要素があるか否かを判断し、あれば当該要素を軌跡情報80から削除する。プロセッサ21は、このようなマスク処理がなされた軌跡情報80に基づき動線情報70を取得する。このように、フレーム画像のうち、マスク領域28を除いた領域を対象にした軌跡情報80から動線情報70が取得できるから、動線情報70から上記の誤差を排除することができる。
【0104】
また、マスク情報242を用いたマスク処理は、フレーム画像のパターン画像を用いた走査および色の種類の検出を含む色検出処理(ステップS2)およびトラッキングによる軌跡情報80の生成(ステップS4a)に適用されてもよい。具体的には、プロセッサ21は、動画ファイル45のフレーム画像をパターン画像で走査することにより帽子8の部分画像を検出する場合に、フレーム画像のうちマスク領域28に該当する領域を除外した領域をパターン画像によって走査する。これにより、フレーム画像のうち、マスク領域28を除いた領域を対象にして色検出処理(ステップS2)が実施されるから、色検出の結果に、上記の誤差を排除することができる。また、フレーム画像において帽子8の部分画像をトラッキングする範囲を、マスク領域28に該当する領域を除外した領域に限定できる。これにより、トラッキングによって取得される軌跡情報80に、上記の誤差が含まれるのを防止できる。
【0105】
(g2.オプティカルフローを用いた軌跡情報の取得)
プロセッサ21は、帽子8の部分画像の動きをトラッキングする場合に、オプティカルフローを用いてトラッキングを実施してもよい。具体的には、プロセッサ21は、フレーム画像間で部分画像の予め定められた特徴点の差分(動き)をベクトルとして算出し、算出されたベクトルを用いて、フレーム間の部分画像の動きを示す軌跡を補完する。これにより、動く物体である帽子8の動きに追従するような軌跡を示す軌跡情報80を取得することができる。
【0106】
図19は、オプティカルフローを利用して補完される軌跡の一例を模式的に示す図である。図19の(A)で補完前の軌跡を示し、図19の(B)は破線のベクトルで補完された軌跡を示す。オプティカルフローでは、フレーム間で動きのある特徴点のみを抽出するから、作業場2に各種のモノが配置されるとしても、オプティカルフローではこれら配置されたモノの特徴点はフレーム間では動きとして検出されない。その結果、軌跡情報80に、これらモノに起因した誤差が含まれるのを防止できる。
【0107】
(g3.高さを利用した帽子の部分画像の検出)
本実施の形態では、プロセッサ21は「部分画像検出部」として、フレーム画像をパターン画像で走査することにより、帽子8の部分画像を検出するが、この検出処理は、部分画像の大きさを利用するように構成されてもよい。
【0108】
具体的には、作業場2の床面から予め定められた高さに設置されるカメラ50が撮像するフレーム画像では、プロセッサ21は、帽子8の部分画像の大きさから、帽子8の床面からの高さを判定することができる。すなわち、部分画像の帽子8が、作業者Peが被っている帽子8である場合、当該帽子8の位置は床面から一定の高さを示すから、プロセッサ21は、パターン画像で走査された部分画像の特徴量の1つであるサイズ(大きさ)が、当該一定の高さに対応の予め定められたサイズを示す場合、当該部分画像は、作業者Peが被っている帽子8の画像であると判定することができる。
【0109】
カメラ50は、作業場2の床面から予め定められた高さに設置されるので、撮像画像は、作業者が被る帽子8について、この予め定められた高さに応じたサイズの部分画像として含む。プロセッサ21は、このサイズを示す特徴量を有したパターン画像で撮像画像を走査することにより、作業者が被る帽子8の部分画像を検出する。このように、パターン画像の特徴量は、撮像画像から作業者が被る帽子8の部分画像を他の部分画像(ワークや生産設備の部分画像)と区別して検出することをサポートする情報として利用できる。
【0110】
また、プロセッサ21は、帽子8の部分画像のサイズに基づき、予め定められた演算式に従って帽子8の床面からの高さhiを算出する。プロセッサ21は、座標(xi,yi)で算出された高さhiを追加することにより、複数の要素(ti,(xi,yi),di, hi)で構成される軌跡情報80を取得する。分析処理では、軌跡情報80を構成する要素(ti,(xi,yi),di, hi)に基づき、工程Prにおける作業者Peの姿勢(立つ姿勢、座り姿勢)を判定することが可能となる。
【0111】
また、帽子8について検出される色の種類が、作業場2の管理者、作業の指導者が被る帽子8の予め定められた種類を示すとき、当該予め定められた色の種類の帽子8を被る作業者については、上記に述べた作業時間を取得しないとしてもよい。
【0112】
<H.設定処理>
本実施の形態では、アナログ設定部201およびデジタル設定部203それぞれによって、タッチパッド27を介したGUIが提供される。当該GUIは、カメラ50を調整するためのGUIと、カメラ50からの画像の処理に関する設定のGUIとを含む。カメラ50の調整として、ホワイトバランス調整と、ゲイン調整とを含む。画像処理の設定としてガンマ値の設定と、色分布情報の設定とを含む。
【0113】
(h1.カメラ50のホワイトバランス調整)
図20は、本実施の形態に係るホワイトバランス調整のGUI画面例を模式的に示す図である。カメラ50は、ホワイトバランスを自動的に実行するように設計されている。例えば、カメラ50は、リファレンスに基づいて撮像画像(デジタル画像)の色のバランス調整するよう設計される。ホワイトバランス調整のために、本実施の形態では、カメラ50の視野である作業場2の床面などにリファレンスとなる基準色のモノ(例えばグレー色のカード20A)が設置される。好ましくは、カード20Aはカメラ50のレンズの直下に設置される。図20の左側には、ホワイトバランス調整前のカメラ50からの撮像画像274が表示され、右側にはホワイトバランス調整後の撮像画像275が表示される。ユーザは、画像274においてグレーのカード20Aの部分画像の内側の領域を選択する操作をするとともに、調整開始のボタン271のクリック操作をすると、アナログ設定部201は、ユーザ操作を受付け、指定された領域の画像の色値をリファレンスとしてホワイトバランスを実施するよう、カメラ50に指令を出力する。カメラ50は、指令に従ってホワイトバランス調整を実施し、アナログ設定部201は、調整後の撮像画像275をカメラ50から取得し表示する。また、タッチパッド27のディスプレイ7aの領域273には、ホワイトバランス調整後の画像275の画素が有するRGB値のそれぞれの成分の分布である、カラースペクトルが示される。ユーザはボタン272を操作すると、アナログ設定部201は、当該操作を受付け、受付けた操作内容に従い、カメラ50にホワイトバランス調整の完了指令を送信する。
【0114】
(h2.カメラ50のゲイン調整)
カメラ50からの撮像画像において、いわゆる白飛びが発生すると、帽子8の部分画像の検出精度が低下する。カメラ50の視野内に照度の極端に高い部分(極端に明るい部分)がある場合、極端に明るい部分において、いわゆる白飛び現象が発生して画像の視認性が低下する。本実施の形態では、帽子8が明るい鮮やかな色を有する場合、帽子8の部分画像が白飛びの原因となり得る。
【0115】
そこで、アナログ設定部201は白飛びしない画像の明るさとなるようにカメラ50の露光量を調整する。より具体的には、カメラ50のアイリスを駆動する電圧(ゲイン)を変化させて、カメラ50の絞りの開口面積すなわち露光量を変化させて、それにより、カメラ50が撮像する画像の明るさを変化させる。
【0116】
図21は、本実施の形態に係るゲイン調整のGUI画面例を模式的に示す図である。図21の左側には、ゲイン調整前のカメラ50からの撮像画像27Aが表示され、右側には、ゲイン調整後のカメラ50からの画像27Bが表示される。これら画像では、例えばオレンジ色の帽子8または帽子8を被った作業者はカメラ50のレンズの直下付近に配置される。画像27Aでは帽子8の部分画像が「白飛び」の画像となっている。
【0117】
ユーザはボタン271を操作すると、アナログ設定部201は、当該ユーザ操作を受付け、受付けたユーザ操作に基づき、ゲイン調整の指令をカメラ50に出力する。カメラ50は指令に応答してゲインを調整し、調整後の撮像画像27Bを出力する。図21の画面のアイコン27Dは、現在表示中の画像27Bに対応のゲイン値を示す。
【0118】
ユーザは、画像27Bにおいて「オレンジ色」が白飛びしない色、例えば略「黒色」と視認されるまで、ボタン271を繰り返し操作する。アナログ設定部201は、ボタン271が操作される毎に、ゲイン調整の指令をカメラ50に出力する。これにより、カメラ50は、指令を受付ける毎に、調整(変更)後のゲインが設定されて、画像27Bは、このように調整後のゲインが設定されたカメラ50によって撮像された画像を示す。
【0119】
ユーザは、画像27Bにおいて「オレンジ色」が略「黒色」になったことを視認すると、ボタン272を操作する。アナログ設定部201は、ボタン272の操作に応じて、ゲイン調整を完了する指令をカメラ50に出力する。これにより、撮像画像に白飛びが生じないような露光量となるようなゲインが決定されて、当該ゲインがカメラ50に設定される。
【0120】
画像27Bにおいて「オレンジ色」が略「黒色」になったとき、画像27Bは、目視では暗い画像を示し、且つ、領域273における画像27Bのカラースペクトルにおいて、カーソル273Aが示す右端の値(最小値)が概ねゼロを示す。
【0121】
なお、このようなカメラ50の露光時間の変更は、アイリスの駆動電圧の調整に限定されない。例えば、カメラ50の撮像素子に関連する光透過素子に印加する電圧(ゲイン)の調整であってもよい。または、アイリスの駆動電圧と光透過素子への印加電圧の両者を調整してもよい。
【0122】
(h3.ガンマ値の設定)
上記に述べたように、白飛びを防止するようなゲインが設定されたカメラ50の撮像画像は全体的に暗くなる傾向にある。このような撮像画像であっても、適切な明るさの画像として出力可能なように、例えばディスプレイに表示可能なように、プロセッサ21は、画像に対する明るさ調整(補正)処理のパラメータを決定する。このパラメータは、ガンマ値4Gとして格納される。図22は、本実施の形態に係るガンマ値を設定するためのGUI画面例を模式的に示す図である。
【0123】
具体的には、図22のGUIの画像は、明るさ調整がなされる前の撮像画像を表示する図22の左側領域と、調整パラメータであるガンマ値4Gを変更するためのユーザ操作を受付けるグラフィカルオブジェクトと、変更後の調整パラメータに基づき明るさ調整がなされた撮像画像を表示する図22の右側領域と、を含む。このように、図22の左側には、ゲイン調整後のカメラ50によって撮像された暗い画像27Bが表示され、右側には画像27Cが表示される。画像27Cは、画像27Bの画像データについて、プロセッサ21がデジタル設定部203として、ユーザ操作により変更されるガンマ値4Gを用いた画像処理を施すことによって、明るく補正された補正後画像を示す。領域273のカーソル273Aは、ユーザ操作を受付け可能に構成されるグラフィカルオブジェクトの一例である。カーソル273Aは、図22の画面の左右方向に延在した領域273に表示されるカラースペクトルのオブジェクトにそって、左右方向にスライド操作が可能なスライダーを構成する。
【0124】
カーソル273Aがスライド操作されると、デジタル設定部203は、操作後のカーソル273Aの位置に対応したスペクトル分布のRGB値を取得し、取得したRGB値に基づき、ストレージ23に格納されたLUT(look Up Table)から、対応のガンマ値を検索する。このようなLUTは、複数のRGB値と、各RGB値に対応の画像の明るさを示すガンマ値とが登録されている。デジタル設定部203は、取得されたガンマ値に基づき、画像27Bの画像データについて、画像の明るさ補正のための公知のガンマ補正処理を実施し、補正後画像を取得し、当該補正後画像を示す画像27Cを表示する。ユーザは、ガンマ補正後の画像27Cが所望明るさを示すと視認できるまで、カーソル273Aのスライド操作を継続する。このようなスライド操作毎に、デジタル設定部203は、操作後のカーソル273Aの位置に対応したガンマ値を用いたガンマ補正処理を実施し、補正後画像の画像27Cを表示する。
【0125】
ユーザは、画像27Cが所望する明るさで表示されると視認すると、ボタン272を操作する。デジタル設定部203は、ボタン272が操作されたときのカーソル273Aの位置に対応のガンマ値を、ガンマ値4Gとして格納する。
【0126】
なお、本実施の形態では、撮像された画像の明るさ調整処理として、ガンマ補正処理を示したが、これに限定されない。例えば、プロセッサ21は、画像を構成する各画素の値である明度成分、または、彩度成分、または、両者を用いて、所定演算を実施し、各画素の値を演算後の値に変更することにより、画像全体の明るさを調整してもよい。
【0127】
(h4.色分布情報の設定)
図23図24は、本実施の形態に係る色分布情報241を設定するためのGUI画面例を模式的に示す図である。カメラ50の帽子8の撮像条件は、作業場2における照明条件(人工光、自然光、外乱光を含む光の種類など)または被写体条件(帽子8の位置、被り方による帽子8の姿勢など)によって変化し、このような撮像条件の変化に伴い、カメラ50の撮像画像における帽子8の部分画像の色が有する属性(色相、彩度、明度)も変化する。したがって、プロセッサ21はデジタル設定部203として、撮像条件の変化によらずに帽子8の色の種類を検出可能なように、様々に異なる撮像条件で帽子8を撮像して取得される画像から色分布情報241を取得する。
【0128】
図23の左側画像はカメラ50の撮像画像である。撮像視野である作業場2において、オレンジ色の帽子8を被った作業者が移動する。ユーザは、アイコン27Hを操作してカメラ50を設定し、アイコン27Iを操作して帽子8の色である「オレンジ」を設定する。ユーザは、タブ27Jを操作すると、デジタル設定部203によって色検出が実施される。
【0129】
図24を参照して、ユーザがボタン27Eを操作すると、プロセッサ21は、当該操作に応じてカメラ50に撮像開始指令を出力し、カメラ50から出力される画像(動画)を録画する。プロセッサ21は、このような録画を、ユーザから終了の操作を受付けるまで継続する。この撮像開始から終了までの期間、オレンジ色の帽子8を被った作業者は様々な姿勢または様々な被り方で作業場2を歩く。
【0130】
ユーザが、上記の終了操作の後にボタン27Fを操作すると、プロセッサ21は当該操作に応じて、録画された動画を構成する各フレーム画像について、当該フレーム画像における帽子8の色の属性を算出し、各フレーム画像について算出された色の属性を、図14の空間にプロットする。これにより、図14のオレンジについての斜線で示す属性の分布が取得される。このように属性の分布の取得が済むと、アイコン27Gにおいて「済」の文字が表示されて、オレンジの色分布の設定が完了した旨が報知される。
【0131】
他の色の種類(ピンク、黄色、オレンジ)の帽子8についても、上記に述べた「オレンジ」の色の帽子8と同様な方法で、図14の対応の色についての斜線で示す属性の分布が取得される。このように、デジタル設定部203は、図23および図24のGUIを介して受付けたユーザ操作に従って、色分布情報241を取得し、設定する。本実施の形態では、複数のカメラ50が利用される場合は、各カメラ50について、上記に述べたアナログ設定部201による設定と、デジタル設定部203による設定が実施される。
【0132】
<I.変形例>
プロセッサ21は、作業者の歩幅と軌跡情報80とに基づき、作業者が作業場2に入場してから退場するまでの歩行量(歩行距離、歩行数など)を算出して、算出した歩行量を動線情報70に含めるようにしてもよい。このように算出される歩行量は、作業場2における作業者の移動の仕方が適正であるかを判断するサポート情報となり得る。
【0133】
<J.利点>
上記に述べた実施の形態によれば、カメラ50の撮像画像から作業者が被る帽子8の色色の種類から作業者が識別されるから、特許文献1のような帽子に付されたIDを識別する方法に比べて、簡単な識別の仕組みを提供できる。
【0134】
また、色の種類の判定するために参照される色分布情報241は、帽子8を被る作業者が歩く作業場2をカメラ50によって撮像した画像から取得される。このように取得される色分布情報241は、カメラ50について想定され得る撮像条件を反映した情報となる。したがって、色分布情報241を用いた作業者が被る帽子8の色の種類を、撮像条件のバラツキによることなく、精度良く判定可能となる。
【0135】
また、色の種類の検出のためにカメラ50の露光量が制限されて撮像画像が暗い画像になるとしても、当該撮像画像はガンマ補正などで明るい画像に調整された後に出力(分析装置10への転送、ディスプレイにおける表示、ストレージへの格納等)される。これにより、ユーザに視認性に優れた画像を提供できる。
【0136】
<K.付記>
この開示では、次のような構成が示される。
【0137】
(構成1)
作業場(2)の上方に設置され略鉛直下向きの撮像方向を有するカメラ(50)によって撮像された前記作業場の撮像画像を取得する画像取得部(202)と、
取得された撮像画像から、作業者が装着している装着物を表す部分画像を検出する部分画像検出部(204)と、
取得された撮像画像において、前記部分画像が検出された位置を示す位置情報を取得する位置情報取得部(204)と、
取得された前記撮像画像について、明るさが調整された当該撮像画像を表示するための調整情報を取得する調整情報取得部と、
取得された前記撮像画像について、当該撮像画像から取得された位置情報と、当該撮像画像について取得された前記調整情報とを出力する出力部(205、19)と、を備える、検出システム。
【0138】
(構成2)
前記調整情報は、調整パラメータ(4G)に基づき、前記明るさが調整された前記撮像画像を含む、構成1に記載の検出システム。
【0139】
(構成3)
前記調整情報は、取得される前記撮像画像と、当該撮像画像に対する明るさ調整のための調整パラメータ(4G)とを含む、構成1に記載の検出システム。
【0140】
(構成4)
前記調整情報取得部は、前記調整パラメータを設定するためのユーザ操作を受付けるGUIを出力する設定部(203)を含む、構成2または3に記載の検出システム。
【0141】
(構成5)
前記GUIは、前記明るさ調整前の撮像画像を表示する領域と、前記調整パラメータを変更するためのユーザ操作を受付けるオブジェクトと、前記調整パラメータに基づき明るさが調整された撮像画像を表示する領域と、を含む、構成4に記載の検出システム。
【0142】
(構成6)
色の種類を判定するために参照される基準情報(241)を格納する格納部(23)と、
取得された撮像画像における作業者の装着物を表す部分画像から、前記格納部に格納された基準情報に基づいて、当該装着物の色の種類を検出する色検出部(204)と、をさらに備える、請求項1から5のいずれか1に記載の検出システム。
【0143】
(構成7)
前記基準情報は、複数種類の色のそれぞれについて、色空間における当該色が有する属性値の分布を含み、
前記色検出部は、
取得される前記撮像画像における作業者の装着物を表す部分画像が有する色の属性値が、前記基準情報が示す各種の色の分布における属性値に該当するか否かに基づいて、当該装着物の色の種類を検出する、構成6に記載の検出システム。
【0144】
(構成8)
前記基準情報を取得し前記格納部に格納する設定部(203)を、さらに備え、
前記基準情報は、
複数種類の色の装着物のそれぞれについて、異なる撮像条件のもとで前記カメラによって撮像された撮像画像における当該装着物の部分画像が有する色の属性値の前記色空間における分布を含む、構成7に記載の検出システム。
【0145】
(構成9)
前記作業場を撮像した撮像画像において、マスク領域(28)を設定するマスク領域設定部を、さらに備え、
前記位置情報取得部は、
取得された撮像画像における前記マスク領域を除いた領域において、前記装着物を表す部分画像の位置を示す位置情報を取得する、構成1~8のいずれか1に記載の検出システム。
【0146】
(構成10)
前記画像取得部によって取得される撮像画像は、前記カメラによって時系列に撮像される撮像画像を含み、
前記位置情報取得部は、さらに、取得される前記時系列の撮像画像において、前記部分画像が検出された時刻の情報を取得し、
前記位置情報は、前記位置の情報に関連付けて前記時刻の情報を含む、構成1~9のいずれか1に記載の検出システム。
【0147】
(構成11)
作業場(2)の上方に設置され略鉛直下向きの撮像方向を有するカメラ(50)によって撮像された前記作業場の撮像画像を取得するステップと、
取得された撮像画像から、作業者が装着している装着物を表す部分画像を検出するステップと、
取得された撮像画像において、前記部分画像が検出された位置を示す位置情報を取得するステップと、
取得された前記撮像画像について、明るさが調整された当該撮像画像を表示するための調整情報を取得するステップと、
取得された撮像画像について、当該撮像画像から取得された位置情報と、当該撮像画像について取得された調整情報とを出力するステップと、を備える、方法。
【0148】
(構成12)
構成11に記載の方法をコンピュータに実行させるためのプログラム。
【0149】
本発明の実施の形態について説明したが、今回開示された実施の形態はすべての点で例示であって制限的なものではないと考えられるべきである。本発明の範囲は特許請求の範囲によって示され、特許請求の範囲と均等の意味および範囲内でのすべての変更が含まれることが意図される。
【符号の説明】
【0150】
1 ネットワークシステム、2 作業場、4G ガンマ値、7a ディスプレイ、7b 操作部、8 帽子、10 分析装置、11,21,31 プロセッサ、12,22 メモリ、13,23,34 ストレージ、14 表示コントローラ、15 入力インターフェイス、16,25 通信インターフェイス、17 可視化プログラム、17a 可視化データ、18 分析プログラム、19 調整部、20 情報処理装置、22B 光学ディスク、23A アプリケーションプログラム、24 カメラインターフェイス、26 入出力インターフェイス、27 タッチパッド、28 マスク領域、30 制御装置、40 機械、45 動画ファイル、50 カメラ、70 動線情報、75 入力装置、80 軌跡情報、170 表示装置、201 アナログ設定部、202 画像録画部、203 デジタル設定部、204 検出部、205 アップロード部、228 メモリカード、230,341 システムプログラム、231 設定プログラム、233 画像取得プログラム、234 色検出プログラム、235 作業者識別プログラム、236 動線検出プログラム、237,344 転送プログラム、241 色分布情報、242 マスク情報、243 監視領域情報、273 領域、273A カーソル、342 ユーザプログラム、343 管理プログラム、345 制御データ、347 検出情報、Ar 監視領域、Di 向き、Pr 工程、Pe 作業者、Pp 位置、d1 距離、hi 高さ、ti 時刻。
図1
図2
図3
図4
図5
図6
図7
図8
図9
図10
図11
図12
図13
図14
図15
図16
図17
図18
図19
図20
図21
図22
図23
図24