【文献】
高橋健太,外3名,Kinectを用いたピッキング作業モニタリングシステム,情報処理学会第75回全国大会,日本,情報処理学会,2013年,2-587−2-588
【文献】
宇田吉広,外2名,深度カメラを用いたピッキング工程における作業ミス検知システム,情報処理学会研究報告,日本,情報処理学会,2015年10月 1日,Vol.2015-MBL-76 No.2,p.1-10
(58)【調査した分野】(Int.Cl.,DB名)
前記モニタリング装置は、前記標識が表示された間口以外において手の位置が深度方向に変位していることを検出した場合、外部に異常信号を出力する、請求項1に記載の支援システム。
【背景技術】
【0002】
商品、製品などをピッキングすることは、流通分野、生産分野など各種分野で行われている。ピッキングとは、流通分野では倉庫、流通センタ、配送センタにおいて、注文品に関する情報に基いて注文品をピックアップすることであり、生産分野では工場において、材料や部品から必要な物を採取して配付することである。ピッキング作業を支援するシステムについて特許文献1乃至3が知られている。
【0003】
特許文献1では、タグを利用して次の二種類の確認を交互にすることにより、ピッキングミスを極力防止している。一つは、入荷パレット置き場に設置されたパレットから取り出したアイテムを確認することであり、もう一つは、出荷パレット置き場に設置されたパレットに格納したアイテムを確認することである。
【0004】
特許文献2では、本体フレームに上下方向に複数のトレイが並設されたピッキングキャビネットにおいて、各トレイの前面に表示灯を有する表示器を設けることにより、トレイが引き出された状態であっても表示手段に表示される情報がどの位置から見ても確認することができるようにしている。
【0005】
特許文献3では、部品在庫エリア内の在庫データを統轄的に管理して記憶する在庫管理コンピュータに対し、部品在庫エリアに新たに供給されるパレット内の部品情報を入力するデータ入力装置と、効率的なピッキング作業を可能ならしめるパレットの最適格納位置を算出し作業者に指示する搬入指示装置と、最も効率的にピッキング作業をなしうる目的パレットの格納位置を算出し、作業者に指示する目的パレット指示装置とを、それぞれ接続することにより、作業者による迅速かつ効率的なピッキングが行えるようにしている。
【発明の概要】
【発明が解決しようとする課題】
【0007】
しかしながら、特許文献1乃至3に開示されているピッキングに関する技術では、既に設置してあるピッキングキャビネットを交換したり、ピッキングシステムを改造したりする必要がある。
【0008】
そこで本発明は、既存のピッキングシステムに後付けすることができる支援システムを提供することを目的とする。
【課題を解決するための手段】
【0009】
本発明のコンセプトは以下のとおりである。
[1]物品毎に割り当てられた複数の領域のうち次に取り出すべき物品が収納されている領域へ標識を順に表示するピッキングシステムに取り付けられ、
前記複数の領域に関する画像データにおいて前記標識を検出することにより、画像データにおいて前記標識が表示されている領域の間口を特定し、かつピッキングする作業者の手の位置を追跡し、その特定した間口と追跡した手の位置とが対応しているか否かを判定するモニタリング装置を備える、支援システム。
[2]前記モニタリング装置は、前記標識が表示された間口以外において手の位置が深度方向に変位していることを検出した場合、外部に異常信号を出力する、前記[1]に記載の支援システム。
[3]前記モニタリング装置は、画像データにおける前記標識の色に基いて前記標識を検出する、前記[1]又は[2]に記載の支援システム。
[4]前記モニタリング装置は、作業者が装着する手袋の色を基準に、作業者の手の位置を追跡する、前記[1]乃至[3]の何れかに記載の支援システム。
[5]前記モニタリング装置は、
ビデオカメラと、
位置計測カメラと、
前記ビデオカメラからの出力データに基いて、前記標識を検出すると共にピッキングする作業者の手の位置を追跡する一方、前記位置計測カメラからの出力データに基いて、前記標識が表示されている領域の間口を特定し、ピッキングする作業者の手の位置であって前記ビデオカメラからの出力データから求めた追跡する手の位置を計測する処理ユニットと、
を備える、前記[1]乃至[4]の何れかに記載の支援システム。
【発明の効果】
【0010】
本発明によれば、モニタリング装置が複数の領域に関する画像データにおいて標識を検出することにより、画像データにおいて標識が表示されている領域の間口を特定し、かつピッキングする作業者の手の位置を追跡し、その特定した間口と追跡した手の位置とが対応しているか否かを判定することができる。よって、既存のピッキングシステムに後付けすることができる。
【発明を実施するための形態】
【0012】
以下、本発明を実施形態に基づいて詳細に説明するが、本発明の実施形態に係る支援システムは、図面を参照して説明するものに限られることなく、ICT(Information Communication Technology)に関する技術進歩や、適用される社会や制度に応じて適宜変更されるものも含まれる。
【0013】
(支援システムを組み込んだシステム全体の構成)
図1は本発明の実施形態に係る支援システム10を組み込んだピッキングシステム1の全体構成図である。ピッキングシステム1は、本発明の実施形態に係る支援システム10と、キャビネット20と、ピッキング管理システム30と、を含んで構成される。
【0014】
キャビネット20は、物品毎に割り当てられた複数の領域21が区分けされており、複数の領域21のそれぞれに標識が表示されるように構成されている。
図1に示す形態では、表示部22が各領域21に取り付けられており、キャビネット20がピッキング管理システム30に接続されている。ピッキング管理システム30では、少なくとも次の二つが管理対象となっており、ピッキング作業の管理をしている。管理対象の一つは、物品単位で割り当てられた各領域21における間口である。管理対象のもう一つは、領域21の物品を取り出す順序である。
【0015】
ピッキング管理システム30が、次に取り出すべき物品の在る領域に対して順に標識を表示することにより、ピッキング作業が管理されている。具体的には、ピッキング管理システム30からの信号により、少なくとも1つの表示部22が順に点灯する。表示部22は消灯するためのスイッチを備え、ピッキングの作業者が物品を取り出すと、スイッチを押すことにより、表示部22を消灯するようにしてもよい。
【0016】
ここで、「標識が表示される」とは、ピッキングの作業者に対し、その標識が表示されている領域21から物品をピックアップするように促すことを指す。標識の表示の形態は、ピッキングする作業の現場、物品の種類、物品の数により、任意に設定される。例えば、表示部22が順次点灯するようにしてもよい。表示部22に文字、図形、記号などを表示することにより、取り出すべき物品の数を表示するようにしてもよい。一つの物品を常に取り出すピッキング作業にあっては、ピッキングする順番を番号で示すことでもよい。
【0017】
ピッキング管理システム30は、作業者が標識に従って領域21から物品を取り出すと、取り出す毎に例えばキャビネット20から信号を受けることによって1回のピッキングが終了したことを確認する。確認すると、ピッキング管理システム30からキャビネット20へ、次に取り出すべき物品の領域21に対して標識を表示する指令を送信する。
【0018】
(支援システム)
本発明の実施形態に係る支援システム10は、キャビネット20における複数の領域を撮像するためのカメラセンサ11と、カメラセンサ11から入力された信号を処理してピッキング作業をモニターするモニタリング装置12と、を備える。
【0019】
カメラセンサ11は、キャビネット20の複数の領域21を撮影するように配置される。
図2はカメラセンサ11とキャビネット20の位置関係を示す平面図であり、
図3はカメラセンサ11とキャビネット20の位置関係を示す側面図である。カメラセンサ11は、複数の領域21に対向するように設置される。カメラセンサ11は一つでもよいし、
図1乃至
図3に示すように、キャビネット20の前面に向って斜めに左右それぞれに設けるよう二つでもよいし、左右と正面に設けるように三つでもよし、複数の領域21の全体の寸法に応じてカメラセンサ11の数を設定する。
【0020】
図4は、支援システム10のブロック構成図である。カメラセンサ11は、カラーセンサ13と位置距離センサ14とを備えている。カラーセンサ13は、例えばRGBカラーカメラであって、通常のビデオカメラに相当し、動画像信号を画像データとして出力する。
【0021】
位置距離センサ14は、3D深度センサ、深度カメラなどの位置計測センサに相当し、画像データの指定したポイントに対する位置計測センサからの位置情報を出力する。3D深度センサは、対象に光を照射する照射部15と、対象からの光の反射光を受光する受光部16と、照射部15及び受光部16と接続され、照射、受光及び外部へのデータ出力に関する制御をする制御部17とを含んで構成されている。照射部15は、赤外線レーザからの発振した光を単一の照射パターンに変換し、対象物体に照射する。照射パターンとしては、ランダムなドットが散りばめられた四角形などのパターンなどがある。照射パターンは対象物体に当たると歪んで、照射部15からの距離が長くなると歪みは大きく広がる。受光部16は、照射部15から異なる距離の複数の照射パターンを複眼で検出する。検出した信号が制御部17に入力されて統計処理されることにより、対象物体との距離、つまり深度を検出することができる。
【0022】
位置距離センサ14は、受光部16におけるビデオの画像領域を例えば640ドット×480ドットに分割し、ドット毎に深度カメラからそのドットに対応した画像までの距離を出力する。ビデオカメラにおける画素としてのドットと位置計測センサのドットの位置関係を対応づけることで、間口を構成する格子点と手に対して、それぞれの座標(x
i,y
i)と深度カメラからの距離が求まる。
【0023】
本発明の実施形態において、位置計測の手法はこれに限られることなく、次のような手法でもよい。すなわち、赤外線を発射し、戻ってくるまでの遅延時間から位置計測センサと指定位置との間の距離や位置計測センサを起点とする指定位置の座標を求める方法であってもよい。
【0024】
モニタリング装置12は処理ユニット18を備える。処理ユニット18は、カメラセンサ11のうちカラーセンサ13からのデータと、位置距離センサ14からのデータとの入力を受ける。処理ユニット18は、入力されたデータに基いてピッキング作業者の動きから適切にピッキング作業がなされているか否かを判定する。具体的には、処理ユニット18は、カメラセンサ11からの複数の領域21に関する画像データにおいて表示されている標識を検出することにより、画像データにおいて標識が表示されている領域の間口を特定し、かつピッキングする作業者の手の位置を追跡し、その特定した間口と追跡した手の位置とが対応しているか否かを判定する。
【0025】
ここで、処理ユニット18での処理手順について具体的に説明する。
初期設定は次のようになされる。先ず、キャビネット20に対してカメラセンサ11を設置する。次に、カラーセンサ13から出力される画像の各画素と、位置距離センサ14から出力される画像の各画素とを対応させておき、実空間であるキャビネット20における複数の領域21の各格子点に関する座標データを定める。
図1乃至
図3に示されるように、格子点がxy平面座標で規定される場合には、i番目の格子点が座標(x
i,y
i)として規定される。
【0026】
具体的な初期設定として、カラーセンサ13からの画像データにおいて、各間口を構成する格子点を選択したのち、位置距離カメラ14からの画像データにおいて、その格子点について位置距離カメラ14の座標軸における座標(x
i,y
i)と距離を計測する。このように事前に計測した各間口の四隅の格子点の座標(x
i,y
i)からピッキング作業者の手の前にある間口を特定することができ、四隅の格子点までの距離と手までの距離から手が間口に入ったことを識別することができる。
【0027】
作業者によるピッキング作業についてのモニタリングは次のようになされる。先ず、ピッキング管理システム30により、物品毎に割り当てられた複数の領域のうち、次に取り出すべき物品の領域21へ標識が表示される。
【0028】
処理ユニット18には、カラーセンサ13からの画像データが逐次入力される。処理ユニット18は、入力された画像データに基いて標識が示されている領域の間口を特定する。これと同時に、処理ユニット18には、位置距離センサ14から位置及び距離に関するデータが逐次入力される。ここで、「位置及び距離に関するデータ」は、位置距離センサ14から入力された画像データの画像領域の各ドットと、位置距離センサ14の設置位置などの基準位置からのドット毎の距離とを含むデータである。
【0029】
処理ユニット18は、このように、カラーセンサ13からの画像データからピッキング作業者の手の位置を平面的に追跡し、位置距離センサ14からのデータからピッキング作業者の手の位置を空間的に追跡する。処理ユニット18は、これらの追跡した位置と、標識が示されている領域の格子点と、が対応しているか否か、つまり、次に取り出すべき領域の間口に対応しているか否かを照合する。照合が正しいことを条件に、深さデータが、標識が示された領域の間口を画する面よりもカメラセンサ11から遠いか否かを判定する。これにより、標識が示された領域において、標識を画する平面よりも奥行き方向に手が挿入されているか否かの判定をすることができる。また、取り出すべき領域以外の間口に手が挿入されたことも判定することができる。
【0030】
作業者によるピッキング作業についてのモニタリングは、上述に限らず、次のようになされてもよい。先ず、ピッキング管理システム30により、物品毎に割り当てられた複数の領域のうち、次に取り出すべき物品の領域21へ標識が表示される。
【0031】
処理ユニット18には、カラーセンサ13からの画像データが逐次入力され、当該画像データにおいて当該標識を検出する。すると、処理ユニット18は、位置距離センサ14に対してその検出位置に関するデータを送信し、位置距離センサ14において、次に取り出すべき領域21に対応した格子点を特定することにより、管理すべき間口を認識させる。
【0032】
次に、処理ユニット18は、カラーセンサ13からの画像データの逐次入力を受けて、ピッキング作業者の手の位置を追跡する。その追跡位置は、例えば座標(Xt、Yt)として時間毎に表される。ここで、座標(Xt,Yt)の“t”は時間のパラメータであることを示す。
【0033】
処理ユニット18は、その追跡した位置のデータを位置距離センサ14に出力する。すると、位置距離センサ14は、実際に計測した位置データと共にその位置における手の進入程度を示す深さを計測し、位置データと深さデータとを処理ユニット18に出力する。処理ユニット18は、位置データと深さデータとを得ると、標識が示された領域の格子点に対応するか否か、つまり、次に取り出すべき領域の間口に対応しているか否かを照合する。照合が正しいことを条件に、深さデータが、標識が示された領域の間口を画する面よりもカメラセンサ11から遠いか否かを判定する。これにより、標識が示された領域において、標識が示された領域の間口を画する面よりも奥行き方向に手が挿入されているか否かの判定をすることができる。また、取り出すべき領域以外の間口に手が挿入されたことも判定することができる。
【0034】
処理ユニット18は、その判定結果に関し、手が入ったと判定した間口が、標識が表示されている間口と同一と判定すると、「合格」という意味の表示や音を出力する。逆に、手を入れた間口が、標識が表示されている間口と異なると判定すると、「不合格」という意味の表示や音を出力する。
【0035】
本発明の実施形態によれば、処理ユニット18が複数の領域21に関する画像データにおいて標識を検出することにより、画像データにおいて標識が示された領域の間口を特定し、かつピッキングする作業者の手の位置を追跡し、その特定した間口と追跡した手の位置とが対応しているか否かを判定する。よって、既存のピッキングシステムに後付けすることができる支援システムを提供することができる。
【0036】
さらに、本発明の実施形態では、処理ユニット18が、特定した間口以外において手の位置が深度方向に変位していることを検出した場合には外部に異常信号を出力することにより、「不合格」の意味を示す文字などの情報を表示したり、音を鳴らしたりすることができる。
【0037】
本発明の実施形態では、処理ユニット18において標識が示されている間口を特定した後に、ピッキング作業者の手の追跡を行い、所定の時間内に、その間口に手が挿入されていないことが判定されると、ピッキング作業者が取り出すべき間口から物品を取り出さないことが分かる。そのような際においても、「不合格」という意味の表示や音を出力する。
【0038】
処理ユニット18は、「不合格」の判定をすると、異常信号をピッキング管理システム30に出力してもよい。そうすることによって、ピッキングシステム1についてピッキング作業者による作業の異常を把握することになるので、システム的な対処を施すことができ、ピッキング作業の質についての維持に資する。
【0039】
次に、本発明の実施形態において特徴的な事項を詳細に説明する。
【0040】
(標識の検出)
キャビネット20の表示部22には標識が示される。当該標識として「赤」、「緑」、「青」などの特定の色のランプが点灯する場合には、その点灯した標識を次のように検出することができる。
【0041】
初期設定として、カラーセンサ13によって標識の点灯を撮影して処理ユニット18に出力する。処理ユニット18は、入力された画像データを画像変換し、例えばHSVデータにする。そして明度、彩度、色相のHSVチャンネルに分割し、色相チャンネルから標識に関するヒストグラムを作成しておく。この作成したヒストグラムを「基準ヒストグラム」と呼ぶことにする。
【0042】
作業者によるピッキング作業についてのモニタリングにおいて、処理ユニット18は、カラーセンサ13から逐次入力された画像データについて画像変換し、例えばHSVデータにする。そして明度、彩度、色相のHSVチャンネルに分割し、色相チャンネルと基準ヒストグラムとを比べて、色分布画像を作成する。作成した色分布画像に対してHSVの明度・彩度の値から作成したフィルタを使用して範囲外の色を排除する。さらに、メディアンフィルタを使用してカラーセンサ13から出力された画像データに点在するノイズを除去する。これにより、標識の色及びそれに近似した色だけを残すことができ、標識を検出し易くすることができる。
【0043】
このように、モニタリング装置が、画像データにおける標識の色に基いて標識を検出することにより、標識を効率良くかつ的確に検出することができる。
【0044】
(ピッキング作業者の手の位置の検出・追跡)
本発明の実施形態において、カラーセンサ13の出力される画像データからピッキング作業者が手に装着する軍手の色情報を検出し、色情報を追跡するようにしてもよい。この色情報の追跡した位置において、位置距離センサ14から位置データ及び深度を計測する。これにより、手の位置の検出・追跡が容易になる。
【0045】
具体的な処理手順について説明する。
図5は、ピッキング作業者の手の位置の検出・追跡の処理手順を示すフローチャートである。
【0046】
カラーセンサ13から出力される画像データを、ビットマップデータに変換する(STEP1)。ビットマップデータは、モニター用のGUIに利用される(STEP2)。
【0047】
ビットマップデータをHSVに変換し(STEP3)、さらにHSVチャンネル分割することにより、色相(Hue)、彩度(Saturation)、明度(Value)の3つの数値に分割する(STEP4)。色相チャンネルから色情報を取り出すことができる。
【0048】
ピッキング作業に先立ち、軍手に対してその色相チャンネルデータから色相ヒストグラムを作成しておく(STEP5)。また、作業環境における明度の最小値と最大値及び彩度の最小値をマニュアル設定し(STEP6)、軍手の色に近い色だけをHSVデータから抽出するためのマスク画像を作成する(STEP7)。
【0049】
位置距離センサ14からの画像データについて、STEP1乃至STEP4を行い、色を検出し色分布画像を得る(STEP8)。そして、マスク画像を用いて検出領域を絞り(STEP9)、メディアンフィルタを使用したノイズの除去(STEP10)、CamShift法による色追跡により、一致領域の座標を求める(STEP11)。
【0050】
このようにして、事前に取得しておいた色相ヒストグラムとピッキング作業中に得られる色情報とを比較し(STEP12)、一致したものだけを出力して、軍手のヒストグラムと照合することにより、ピッキング作業中の軍手に対して色で以って追跡することができる(STEP13)。
【0051】
(誤判定の防止)
精度の良いカメラセンサ11を利用することにより、データ処理で生じる誤判を防止することができる。しかしながら、一台のキャビネット20において一台のモニタリング装置が使用されることから、精度の良いカメラセンサ11を使用すると、モニタリング装置の設備導入を踏まえてコスト高を招き、ひいては、製品・サービスのコスト高を招く。そこで、高品質でないカメラセンサ11を用いてもデータ処理によって誤判を防止することができる。そのデータ処理は次のようなコンセプトに基づく。ピッキング作業においては、今回のピッキングの際に標識が示される領域は、一回前又は複数回前のピッキングの際に標識が示された領域とは異なるということである。つまり、一定時間が経過しないと、同じ領域に対して標識が示されないということである。
【0052】
そのデータ処理としては、例えば、ピッキング作業者の手の追跡により判明した領域が、一定時間経過しないで、同一の領域を判明したときには、その判定結果を異常とする。
【0053】
本発明の実施形態では、商品、仕掛品、材料、製品等の物品の取り出し順序と、各物品が存在するピッキングの領域の間口を管理しており、次に取り出すべき物品が存在する領域の間口に取り付けたランプ等を点灯させることにより、ピッキング作業者にピッキング対象物を知らせるシステムにおいて、次のような特徴を有する。
【0054】
カラーセンサ13としてのビデオカメラと位置距離センサ14としての深度カメラとが一体となったカメラセンサ11であって、指定した箇所の位置を検出するカメラセンサ11を用いる。点灯したランプを検出することにより、物品の取り出し間口を特定すると共に、カメラセンサ11により手の位置を追跡することで物品の間口を検出する。そして、点灯したランプに対応した間口から物品を取り出したか否かを判定する。
【0055】
その際、カメラセンサ11を利用して、点灯時のランプの色を検出するとよい。カメラセンサ11を利用して、手の位置として作業者の手袋の色を追跡し、その位置での座標を測定することで、物品を取り出した間口を検出する。
【0056】
点灯したランプに対応した間口から物品を取り出したか否かの判定を行い、パトライト(登録商標)で表示したり、アラーム音を鳴らしたりすることにより、作業者に通知する。
【0057】
このように、本発明の実施形態に係る支援システムによれば、モニタリング装置12が複数の領域21に関する画像データにおいて標識を検出することにより、画像データにおいて標識が表示されている領域21の間口、即ち領域21における取出口を特定し、かつピッキングする作業者の手の位置を追跡し、その特定した間口と追跡した手の位置とが対応しているか否かを判定する。よって、既存のピッキングシステムに後付けすることができる。