(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】
(24)【登録日】2024-02-09
(45)【発行日】2024-02-20
(54)【発明の名称】センサ装置および荷役システム
(51)【国際特許分類】
G01S 15/06 20060101AFI20240213BHJP
G01S 13/06 20060101ALI20240213BHJP
B25J 13/08 20060101ALI20240213BHJP
【FI】
G01S15/06
G01S13/06
B25J13/08 A
(21)【出願番号】P 2020001063
(22)【出願日】2020-01-07
【審査請求日】2022-11-08
(73)【特許権者】
【識別番号】000003078
【氏名又は名称】株式会社東芝
(73)【特許権者】
【識別番号】598076591
【氏名又は名称】東芝インフラシステムズ株式会社
(74)【代理人】
【識別番号】110002147
【氏名又は名称】弁理士法人酒井国際特許事務所
(72)【発明者】
【氏名】鮫田 芳富
(72)【発明者】
【氏名】小川 純平
(72)【発明者】
【氏名】西川 浩行
【審査官】藤脇 昌也
(56)【参考文献】
【文献】特開2012-027835(JP,A)
【文献】特開2010-210283(JP,A)
【文献】特開2019-005871(JP,A)
【文献】米国特許出願公開第2019/0114577(US,A1)
(58)【調査した分野】(Int.Cl.,DB名)
G01S 7/00 - 7/42
13/00 - 13/95
G01S 1/72 - 1/82
3/80 - 3/86
5/18 - 5/30
7/52 - 7/64
15/00 - 15/96
B25J 1/00 - 21/02
B65G 57/00 - 57/32
60/00 - 61/00
(57)【特許請求の範囲】
【請求項1】
荷役装置によって物品が荷役可能な載置領域の載置面積に対応する第1の面積を有する領域であって、当該載置領域より上方且つ当該載置領域に対向する位置に存在する第1の領域に配置され、前記載置領域に向けて超音波または電波を送信波として送信する第1の送信素子と、
前記載置領域と前記第1の領域との間に存在する物品に対して、前記載置領域と前記第1の領域を結ぶ方向と略垂直の方向から、前記送信波を送信可能な位置に配置された第2の送信素子と、
前記第1の領域に配置され、前記送信波の反射波を受信する第1の受信素子と、を備え、
前記第1の送信素子及び前記第1の受信素子のうち少なくとも一つ以上は、前記第1の領域のうち外縁近傍に配置される、
センサ装置。
【請求項2】
前記第1の送信素子及び前記第1の受信素子のうち少なくともそれぞれ一つ以上は、前記第1の領域のうち外縁近傍に配置される、
請求項1に記載のセンサ装置。
【請求項3】
前記第1の領域が多角形であり、
前記第1の送信素子と前記第1の受信素子とを有するセンサヘッドが、前記第1の領域の各角の隅毎に設けられている、
請求項1又は2に記載のセンサ装置。
【請求項4】
前記センサヘッドが多角形であり、
前記センサヘッドの各角の隅毎に前記第1の送信素子が配置される、
請求項3に記載のセンサ装置。
【請求項5】
前記第2の送信素子は、前記載置領域と前記第1の領域を結ぶ方向に複数設けられる、
請求項
1に記載のセンサ装置。
【請求項6】
前記第2の送信素子は、前記載置領域と前記第1の領域とを結ぶ方向に移動可能に配置される、
請求項
1に記載のセンサ装置。
【請求項7】
前記載置領域と前記第1の領域とを結ぶ第1の方向において、前記載置領域と前記第1の領域との間に位置し、前記第1の方向と交差する第2の方向において、前記載置領域の外で支持され、且つ前記載置領域と前記第1の領域との間に存在する物品で反射した反射波を受信可能な方向を向いて配置された第2の受信素子を、さらに備える、
請求項1乃至
4のいずれか一つに記載のセンサ装置。
【請求項8】
前記第2の受信素子は、前記載置領域と前記第1の領域を結ぶ方向に複数設けられる、
請求項
7に記載のセンサ装置。
【請求項9】
前記第2の受信素子は、前記載置領域と前記第1の領域とを結ぶ方向に移動可能に配置される、
請求項
7に記載のセンサ装置。
【請求項10】
前記センサヘッドが四角形であり、
前記第1の送信素子は、前記センサヘッドの4隅の各々に設けられ、
前記第1の領域が四角形であり、
前記センサヘッドは、前記第1の領域の4隅の各々に設けられる、
請求項4に記載のセンサ装置。
【請求項11】
荷役装置によって物品が荷役可能な載置領域の載置面積に対応する第1の面積を有する領域であって、当該載置領域より上方且つ当該載置領域に対向する位置に存在する第1の領域に配置され、前記載置領域に向けて、超音波または電波を送信波として送信する第1の送信素子と、
前記載置領域と前記第1の領域との間に存在する物品に対して、前記載置領域と前記第1の領域を結ぶ方向と略垂直の方向から、前記送信波を送信可能な位置に配置された第2の送信素子と、
前記第1の領域に配置され、前記送信波の反射波を受信する第1の受信素子と、
前記第1の領域の中央近傍に配置され、前記載置領域の方向を撮像可能な撮像装置と、
前記第1の受信素子が受信した前記反射波及び前記撮像装置で撮像された撮像画像に基づいて認識された第1の物品を把持して、前記第1の物品を移動させる移動装置と、を備え、
前記第1の送信素子及び前記第1の受信素子のうち少なくとも一つ以上は、前記第1の領域のうち外縁近傍に配置される、
荷役システム。
【発明の詳細な説明】
【技術分野】
【0001】
本発明の実施形態は、センサ装置および荷役システムに関する。
【背景技術】
【0002】
従来、物流倉庫等に設置され、超音波センサ装置やカメラ等のセンシング結果に基づいて、物品を把持して当該物品を移動させる荷役システムが知られている。荷役システムには、例えば、超音波等の送信波を送信する送信素子と、送信波の反射波を受信する受信する受信素子とを有したセンサ装置が設けられている。
【先行技術文献】
【特許文献】
【0003】
【文献】特許第3849514号公報
【文献】特開2017-75915号公報
【発明の概要】
【発明が解決しようとする課題】
【0004】
荷役システムで定められた物品の載置領域に物品が存在する場合に、当該物品の認識精度を向上させるセンサ装置および荷役システムを提供する
【課題を解決するための手段】
【0005】
実施形態のセンサ装置は、第1の送信素子と、第2の受信素子と、を備える。第1の送信素子は、荷役装置によって物品が荷役可能な載置領域の載置面積に対応する第1の面積を有する領域であって、当該載置領域より上方且つ当該載置領域に対向する位置に存在する第1の領域に配置され、載置領域に向けて、超音波または電波を送信波として送信する。第2の受信素子は、第1の領域に配置され、送信波の反射波を受信する。第1の送信素子及び第1の受信素子のうち少なくとも一つ以上は、第1の領域のうち外縁近傍に配置される。
【図面の簡単な説明】
【0006】
【
図1】
図1は、実施形態の荷役システムの構成の一例を示す図である。
【
図2】
図2は、実施形態の荷役システムのフレームの上面の領域におけるセンサヘッド及びカメラの配置例を示した図である。
【
図3】
図3は、実施形態のセンサ装置のセンサヘッドの超音波送信素子及び超音波受信素子の配置例を示した図である。
【
図4】
図4は、実施形態の荷役システムの一部の側面図である。
【
図5】
図5は、実施形態のセンサ装置から送信された超音波の伝搬経路の一例を示す図である。
【
図6】
図6は、実施形態のセンサ装置から送信された超音波の伝搬経路の一例を示す図である。
【
図7】
図7は、実施形態のあるセンサヘッドから送信された超音波の物品での鏡面反射領域であって、反射波が各センサヘッドに到達する鏡面反射領域の一例を示す図である。
【
図8】
図8は、実施形態のあるセンサヘッドから送信された超音波の物品での鏡面反射領域であって、反射波が各センサヘッドに到達する鏡面反射領域の一例を示す図である。
【
図9】
図9は、実施形態の全てのセンサヘッドから送信された超音波の物品での鏡面反射領域であって、反射波が各センサヘッドに到達する鏡面反射領域の一例を示す図である。
【
図10】
図10は、実施形態の制御装置のハードウェア構成の一例を示す図である。
【
図11】
図11は、実施形態の制御装置の機能構成の一例を示す図である。
【
図12】
図12は、実施形態のセンサ装置のセンシングによる物品の検出方法を説明するための図である。
【
図13】
図13は、実施形態のセンサ装置のセンシングによる物品の検出方法を説明するための図である。
【
図14】
図14は、実施形態の物品群、センシング結果、および撮像画像の一例を説明するための図である。
【
図15】
図15は、実施形態の物品群、センシング結果、および撮像画像の一例を説明するための図である。
【
図16】
図16は、実施形態の物品群、センシング結果、および撮像画像の一例を説明するための図である。
【
図17】
図17は、実施形態の物品群、センシング結果、および撮像画像の一例を説明するための図である。
【
図18】
図18は、実施形態のセンサ装置が実行する物品の検出処理のフローチャートである。
【
図19】
図19は、実施形態の制御装置が実行する物品の認識処理のフローチャートである。
【発明を実施するための形態】
【0007】
以下、本発明の例示的な実施形態が開示される。以下に示される実施形態の構成、ならびに当該構成によってもたらされる作用、結果、および効果は、一例である。本発明は、以下の実施形態に開示される構成以外によっても実現可能であるとともに、基本的な構成に基づく種々の効果や、派生的な効果のうち、少なくとも一つを得ることが可能である。
【0008】
図1は、実施形態の荷役システムの構成の一例を示す図である。
図1に示すように、荷役システム1は、荷役装置10と、センサ装置20と、カメラ30と、フレーム40と、を備える。また、荷役装置10は、移動装置50と、制御装置60と、を備える。ここで、制御装置60と、カメラ30、センサ装置20および移動装置50とは、例えば、シリアルケーブルやLAN(Local Area Network)等を介して接続される。
【0009】
以下の説明において、本実施形態の荷役システム1における上下方向とは、例えば、下方向は、重力が向かう方向ベクトルを含んでおり、上方向は、当該下方向と反対方向であって、例えば、荷役装置10が物品W1を持ち上げる方向とする。
【0010】
フレーム40は、四角枠状の下枠部材41と、四角枠状の上枠部材42と、四つ(複数)の柱部材43と、を有する。下枠部材41は、床面に固定されている。上枠部材42は、下枠部材の上方に設けられている。四つの柱部材43は、下枠部材41の四つの角部と上枠部材42の四つの角部とを接続している。
【0011】
本実施形態においては、下枠部材41の床面にパレット2が配置されている。本実施形態のフレーム40は、上枠部材42と、下枠部材41と、が四角枠状になる場合について説明する。本実施形態は、上枠部材42と下枠部材41とが四角枠状になる場合に制限するものではなく、四角以外の多角枠状であってもよいし、円枠状であってもよい。
【0012】
荷役装置10は、パレット2の上面2a上に載置された物品W1を目的地(不図示)に荷役(移動)するための装置である。本実施形態の目的地は、物品W1の移動先であればよく、例えばコンベアが考えられる。パレット2は、フレーム40が設置された床面に配置されている。すなわち、パレット2は、フレーム40を基準として規定の位置に位置されており、当該規定の位置に位置されたパレット2の上面2aの全領域が、物品W1の載置領域R1である。なお、載置領域R1は、これに限定されない。例えば、載置領域R1は、床面等に設けられていてもよい。載置領域R1には、複数の物品W1が載置されうる。物品W1は、どのような物品でもよく、例えば、ペットボトルや箱等である。本実施形態においては、1以上の物品W1を含む複数の物品を指す場合に、物品群Wという。パレット2は、フォークリフト等により、移動される。物品W1は、対象物や移動対象物、把持対象物、荷物等とも称される。
【0013】
本実施形態の上枠部材42内の領域R2は、荷役装置10によって物品W1が荷役可能な載置領域R1と略同一の面積を有する領域であって、載置領域R1より上方且つ当該載置領域R1に対向する位置に存在する。
【0014】
本実施形態においては、領域R2の各角の隅毎に、センサヘッド21を設けることで、載置領域R1に存在する全ての物品W1を検出可能とする。載置領域R1に存在する全ての物品W1を検出するためのセンサヘッド21内の超音波受信素子及び超音波送信素子の配置については後述する。
【0015】
領域R2の形状は四角形に制限するものはない。領域R2は、載置領域R1に対応した形状であればよい。領域R2が四角形以外の多角形の場合であっても、各角の隅毎にセンサヘッド21が設けられている点で共通する。また、領域R2は円形状であってもよい。領域R2が円形状の場合、例えば、センサヘッド21も円形状であって、3個のセンサヘッドを備えることが考えられる。このような場合に、領域R2の円周に接するように3個のセンサヘッド21が等間隔に設けることが考えられる。
【0016】
さらには、領域R2のうち、4個のセンサヘッド21間に、カメラ30が設けられている。なお、センサヘッド21及びカメラ30は、フレーム40の上枠部材42内の領域R2に取付部材(不図示)を介して固定されている。
【0017】
図1および
図2に示すように、カメラ30は、上枠部材42の枠内の中央部に配置されている。カメラ30は、一例として3Dカメラである。カメラ30は、撮像装置の一例である。
【0018】
カメラ30は、パレット2の載置領域R1に載置された物品群Wを上方から撮像し、撮像によって得られた撮像画像を制御装置60に出力する。カメラ30の撮像範囲は、少なくとも物品群Wを含むように設定されている。
【0019】
図1に示すセンサ装置20は、センサヘッド21から送信される超音波を用いて、例えばエコーロケーション技術等により、物品検出を行う。センサ装置20は、パレット2に載置された物品群Wの上方から当該物品群Wが存在する可能性がある載置領域R1を、センサヘッド21を用いてセンシングし、そのセンシング結果を制御装置60に出力する。例えば、センサ装置20は、センサヘッド21を用いて、パレット2の載置領域R1に対して超音波を送信波として送信し、当該送信波の反射波を受信し、当該反射波に基づいて、載置領域R1に存在する物品W1の各々を検出する。カメラ30の撮像範囲と、センサ装置20の検出範囲は、同一の範囲でもよいし、いずれか一方が他方よりも広い範囲でもよい。
【0020】
図2は、実施形態の荷役システム1のセンサヘッド21及びカメラ30の配置例を示した図である。
図2に示すように、領域R2には、四つ(複数)のセンサヘッド21と、カメラ30と、が設けられている。本実施形態の領域R2は、2個の辺L1と、2個の辺L2と、で構成された四角形とする。辺L1の方向においては、センサヘッド21の間にL1/5の間隔が設けられ、辺L2の方向においては、センサヘッド21の間にL2/5の間隔が設けられている。
【0021】
図2に示されるように、センサヘッド21の四隅に、超音波送信素子23Aが設けられることで、領域R2には、辺L1に4個の超音波送信素子23Aが設けられ、辺L2に4個の超音波送信素子23Aが設けられることになる。合計16個の超音波送信素子23Aを、間隔を設けて配置することで、載置領域R1全体に超音波を当てることが可能となる。つまり、辺L1の方向においてセンサヘッド21の間にL1/5の間隔が設けられ、辺L2の方向においてセンサヘッド21の間にL2/5の間隔が設けられていたとしても、載置領域R1全体に超音波を当てることが可能となる。
【0022】
また、領域R2の4個のセンサヘッド21の各々に、複数の超音波受信素子24Aがばらつき且つ満遍なく配置されている。つまり、複数の超音波受信素子24Aは、載置領域R1で鏡面反射した反射波であれば、受信可能に設けられている。これにより、本実施形態は、載置領域R1のいずれの領域に存在する物品W1であっても検出可能となる。
【0023】
図3は、実施形態のセンサ装置のセンサヘッドの超音波送信素子及び超音波受信素子の配置例を示した図である。
図3に示すように、センサヘッド21は、ハウジング22と、複数の超音波送信素子23Aと、複数の超音波受信素子24Aと、を有する。ハウジング22は、上下方向に扁平かつ平面視(底面視)で四角形状に形成されている。なお、本実施形態は、ハウジング22を四角形状に制限するものではなく、多角形状や円形状であってもよい。
【0024】
超音波送信素子23Aは、一例として、ハウジング22の四隅に一つずつ配置されている。超音波送信素子23Aは、載置領域R1に載置された物品W1の上方から載置領域R1に向けて、すなわち下方に向けて送信波として超音波を送信する。つまり、超音波送信素子23Aは、載置領域R1に載置された物品W1に向けて超音波を送信する。超音波送信素子23Aは、アンテナ素子によって構成されている。超音波送信素子23Aは、第1の送信素子の一例である。
【0025】
超音波受信素子24Aの数は、超音波送信素子23Aの数よりも多い。超音波受信素子24Aは、超音波送信素子23Aから送信された超音波の反射波を受信する。具体的には、超音波受信素子24Aは、載置領域R1に載置された物品W1の上方で、超音波送信素子23Aから送信され物品W1で反射した超音波(反射波)を受信する。すなわち、超音波受信素子24Aは、下方からの超音波(反射波)を受信可能である。超音波受信素子24Aは、アンテナ素子によって構成されている。超音波受信素子24Aは、第1の受信素子の一例である。
【0026】
複数の超音波受信素子24Aは、載置領域R1の広さと略同じ広さの平面領域に不規則に分散配置されている。これにより、センサ装置20によって得られる、基準位置に対する物品W1の距離における虚像が低減される。
【0027】
図2に示すように、四隅(換言すれば、四角形の角毎の隅)に超音波送信素子23Aが配置されたセンサヘッド21を、領域R2の四隅(換言すれば、四角形の角毎の隅)に設けることで、超音波送信素子23Aが、領域R2の外縁から所定距離内側の縁部R2a(換言すれば外縁近傍の縁部R2a)近傍に所定の間隔で配置されたことになる。本実施形態では、領域R2の外縁近傍の縁部R2aに沿って、超音波送信素子23Aが設けられたことで、載置領域R1の外縁近傍に、箱などの物品W1が水平に配置されている場合に、当該物品W1で鏡面反射した受信波を、センサヘッド21の超音波受信素子24Aで受信できる。これにより、載置領域R1に外縁近傍に存在する物品W1を漏れなく検出することが可能となる。
【0028】
なお、本実施形態は、領域R2の外縁近傍の縁部R2aに沿って、超音波送信素子23Aが設けられた例について説明するが、このような態様に制限するものではなく、例えば、領域R2の外縁近傍の縁部R2aに沿って、超音波受信素子24Aが設けられてもよい。
【0029】
図2に示される例では、超音波送信素子23だけではなく、超音波受信素子24も縁部R2a近傍、換言すれば、外縁近傍に配置されている。このように、超音波送信素子23、及び超音波受信素子24のうち少なくともそれぞれ一つ以上は、領域R2のうち外縁近傍に配置されている。当該配置によって、超音波受信素子24は、超音波送信素子23の送信波が載置領域R1の外縁近傍に存在する物品W1で鏡面反射した反射波を受信できる。これにより、物品の認識精度を向上させることができる。
【0030】
載置領域R1に対置される物品W1が透明のシート等でまとめられたことで、透明のシートによる傾斜面を有している場合がある。このような場合には、領域R2に設けられたセンサヘッド21及びカメラ30では、物品W1を正確に検出できない可能性がある。そこで、本実施形態においては、フレーム40の側部にも、超音波送信素子23を設けることとした。
【0031】
図4は、実施形態の荷役システムの一部の側面図である。
図4に示すように、センサヘッド21の他に、フレーム40の側部に設けられた超音波送信素子23Bおよび超音波送信素子23Cを有する。超音波送信素子23Bおよび超音波送信素子23Cは、センサ装置20に接続されている。そして、超音波送信素子23Bおよび超音波送信素子23Cは、センサ装置20からの制御に従って、送信波を送信する。なお、
図1等では超音波送信素子23Bおよび超音波送信素子23Cの図示が省略されている。
【0032】
図4に示すように、例えば、物品W1がビニールシート等の透明なシートEによって覆われて、シートEに傾斜面Eaが形成されている場合、シートEの表面の凸凹は小さいため、超音波は、シートEの表面で略鏡面反射する。よって、超音波送信素子23Bから物品W1(シートE)に向けて送信された超音波は、例えば、シートEの傾斜面Eaで鏡面反射して、センサヘッド21の超音波受信素子24Aに到達する。シートEは、ラッピングシートやフィルムとも称される。
【0033】
超音波送信素子23Bおよび超音波送信素子23Cは、載置領域R1と領域R2との間に存在する、シートEでまとめられた複数の物品W1に対して、側方向401から送信波を送信可能な位置に配置されている。このため、超音波送信素子23Bおよび超音波送信素子23Cは、フレーム40の柱部材43に支持されている。側方向401とは、載置領域R1と領域R2を結ぶ上下方向と略垂直な方向とする。
【0034】
そして、超音波送信素子23Bから側方向401に送信された送信波は、シートEの傾斜面Eaで反射し、反射波が上方向402に出力される。センサヘッド21の超音波受信素子24Aが、当該反射波を受信できる。これにより、センサ装置20は、シートEでまとめられた複数の物品W1を認識できる。
【0035】
超音波送信素子23Bおよび超音波送信素子23Cは、上下方向の位置を調整可能に柱部材43に支持されてもよいし、上下方向の位置が調整不可であってもよい。超音波送信素子23B、23Cは、第2の送信素子の一例とする。
【0036】
超音波送信素子23B、23Cは、載置領域R1よりも上方かつ素子群25よりも下方に位置し、載置領域R1に載置された物品W1の側方から送信波としての超音波を物品W1に向けて送信する。以後、超音波送信素子23A,23B,23Cの総称として、超音波送信素子23を用いる場合がある。
【0037】
本実施形態の超音波送信素子23Bと超音波送信素子23Cとは、柱部材43の異なる高さに設けられている。これにより、センサ装置20は、超音波送信素子23B、及び超音波送信素子23Cによって、異なる高さの物品W1を認識できる。なお、本実施形態は、柱部材43に設けられる超音波送信素子23の数を2つに制限するものではなく、1つ、又は3つ以上であってもよい。つまり、パレット2に配置可能な物品W1の種類に対応した高さに超音波送信素子23が設けられていればよい。
【0038】
図5では、超音波送信素子23Bが超音波送信素子23Bの上方に配置された例が示されているが、これに限定されない。超音波送信素子23Bが超音波送信素子23Bの下方に配置されていてもよいし、超音波送信素子23Bと超音波送信素子23Bとの上下方向の位置が同じであってもよい。
【0039】
次に、センサ装置20における超音波の伝搬経路について説明する。複数のセンサヘッド21を区別する場合には、センサヘッド21a~21dと表記する場合がある(
図2)。また、一つのセンサヘッド21中における複数の超音波送信素子23Aを区別する場合には、超音波送信素子23Aa~23Adと表記する場合がある(
図3)。
【0040】
図5および
図6は、実施形態のセンサ装置から送信された超音波の伝搬経路の一例を示す図である。
図5および
図6に示すように、例えば、波長が数十kHzの超音波に対しては、段ボール等の物品W1では上面の表面(上面)の凹凸が比較的小さいため、超音波は物品W1(物品群W)の表面(上面)で略鏡面反射、すなわち正反射する。
【0041】
具体的には、
図5は、センサヘッド21aの超音波送信素子23Abから送信された超音波の伝搬経路の一例を示す。
図5で示されるように、超音波送信素子23Abから送信された送信波(例えば、送信波501、502)が、物品W1の上面の領域A1内で反射した場合に、センサヘッド21a内の超音波受信素子24は、反射波(例えば、反射波511、512)を受信できる。一方、超音波送信素子23Abから送信された送信波(例えば、送信波503、504)が、物品W1の上面の領域A2内で反射した場合に、センサヘッド21c内の超音波受信素子24は、反射波(例えば、反射波513、514)を受信できる。換言すれば、センサ装置20は、超音波送信素子23Abが送信波を送信することで、領域A1、A2内を検出対象にできる。
【0042】
図7は、
図5で示したセンサヘッド21aの超音波送信素子23Abが送信された超音波によって検出可能な領域A1、A2を例示した図である。
図7に示されるように、領域A1、A2は、載置領域R1の外縁近傍の領域を含んでいる。換言すれば、領域R2の外縁近傍に設けられた超音波送信素子23Abが送信波を送信することで、載置領域R1の外縁近傍の領域を含んだ、領域A1、A2を検出対象にできる。
【0043】
図6は、センサヘッド21aの超音波送信素子23Acから送信された超音波の伝搬経路の一例を示す。
図6で示されるように、超音波送信素子23Acは、
図5で示した超音波送信素子23Abと比べて、領域R2の中央近傍に設けられている。そして、超音波送信素子23Acから送信された送信波(例えば、送信波601、602)が、物品W1の上面の領域B1内で反射した場合に、センサヘッド21a内の超音波受信素子24は、反射波(例えば、反射波611、612)を受信できる。一方、超音波送信素子23Acから送信された送信波(例えば、送信波603、604)が、物品W1の上面の領域B2内で反射した場合に、センサヘッド21c内の超音波受信素子24は、反射波(例えば、反射波613、614)を受信できる。換言すれば、センサ装置20は、超音波送信素子23Acが送信波を送信することで、領域B1、B2内を検出対象にできる。
【0044】
図8は、
図6で示したセンサヘッド21aの超音波送信素子23Acが送信された超音波によって検出可能な領域B1、B2を例示した図である。
図8に示されるように、領域B1、B2は、載置領域R1の中央近傍の領域を含んでいる。換言すれば、領域R2の中央近傍に設けられた超音波送信素子23Acが送信波を送信することで、載置領域R1の中央近傍の領域を含んだ、領域B1、B2を検出対象にできる。
【0045】
図9は、四つ(複数)のセンサヘッド21の各超音波送信素子23Aが超音波を送信した場合に、載置領域R1のうち検出可能な領域を例示した図である。
図9で示す例では、一つの超音波送信素子23Aから送信された超音波の鏡面反射領域を白抜きの四角で示している。複数の超音波送信素子23Aから送信された超音波の鏡面反射領域が重なる領域をハッチングや黒塗りで示している。濃度が濃くなるほど、より多くの鏡面反射領域が重なっていることを示している。つまり、
図9で示される例では、四つ(複数)のセンサヘッド21の各超音波送信素子23Aから超音波を送信することで、載置領域R1内の水平面で鏡面反射した反射波を、センサヘッド21ですべて受信できる。
【0046】
図1に戻って、荷役装置10は、移動装置50と、制御装置60と、を備える。移動装置50は、パレット2、およびコンベアの周囲に配置されている。
【0047】
移動装置50は、基台111と、基台111に支持されたアーム部112と、アーム部112の先端に設けられた把持部113と、を備える。
【0048】
基台111は、床面Gに固定された筐体である。
【0049】
アーム部112は、一例として多関節ロボットアームである。アーム部112は、把持部113によって保持された物品W1を上下方向に移動する動作、および水平方向に移動する動作を実行可能に構成されている。
【0050】
例えば、アーム部112は、1軸または2軸回りに回動可能な複数の関節により連結された3つの可動部112a~112cで構成される。
【0051】
アーム部112(可動部112c)の先端には、把持部113が取り付けられている。把持部113は、1つの物品W1を挟み込んで把持する。把持部113は、一対の爪部を備えるものであってもよい。なお、物品W1の把持は、挟持による把持方法に限定されない。例えば、把持部113は、負圧によって物品W1を吸着把持してもよい。また、把持部113は、2つの物品W1を一度に把持してもよい。なお、把持部113は保持部ともいう。
【0052】
制御装置60は、移動装置50、センサ装置20、およびカメラ30を制御する装置である。すなわち、制御装置60は、荷役システム1全体を制御する装置である。制御装置60は、カメラ30の撮像結果およびセンサ装置20のセンシング結果に基づき、移動装置50の動作を制御する。制御装置60は、移動装置50と一体的に設けられてもよいし、移動装置50と別体として設けられてもよい。
【0053】
なお、本実施形態では、移動装置50と制御装置60とを荷役装置としたが、これに限らず、制御装置60を荷役装置としてもよい。
【0054】
次に、上述した制御装置60のハードウェア構成について説明する。
図10は、制御装置60のハードウェア構成の一例を示す図である。なお、
図10では、制御装置60に接続される各種装置のうち、センサ装置20の構成の一例をあわせて示している。
【0055】
図10に示すように、制御装置60は、プロセッサ121、表示部122、操作部123、カメラインタフェース124、移動装置インタフェース125、センサインタフェース126、通信部127、および記憶部128を備える。
【0056】
プロセッサ121は、CPU(Central Processing Unit)、GPU(Graphics Processing Unit)、ASIC(Application Specific Integrated Circuit)等の制御装置である。表示部122は、例えば、液晶ディスプレイ、タッチパネル式ディスプレイ等の表示デバイス(出力装置)によって実現される。操作部123は、キーボードやポインティングデバイス等の入力デバイス(入力装置)によって実現される。なお、操作部123は、表示部122の画面上に設けられるタッチパネルであってもよい。
【0057】
カメラインタフェース124は、カメラ30と通信可能に接続するインタフェースとする。プロセッサ121は、カメラインタフェース124に接続されたカメラ30を制御する。移動装置インタフェース125は、移動装置50と通信可能に接続するインタフェースとする。プロセッサ121は、移動装置インタフェース125に接続された移動装置50を制御する。センサインタフェース126は、センサ装置20と通信可能に接続するインタフェースとする。プロセッサ121は、センサインタフェース126に接続されたセンサ装置20を制御する。
【0058】
ここで、センサ装置20は、
図10に示すように、例えば、送信制御部301、オペアンプ302、超音波送信素子23、超音波受信素子24、オペアンプ305、混合器306および処理部307等を備える。
【0059】
送信制御部301は、使用する超音波の周波数(超音波波形)に応じた周波数信号を生成して送信する。送信制御部301で生成された周波数信号は、オペアンプ302を介して増幅された後、超音波送信素子23に入力される。また、送信制御部301で生成された周波数信号は、混合器306にも入力される。より具体的には、送信制御部301は、バースト信号またはチャープ信号を複数の超音波送信素子23に順番に送信する。これにより、超音波送信素子23から送信される超音波が、バースト波またはチャープ波となる。より詳細には、送信制御部301は、複数の超音波送信素子23を、一定周期で順番に、1個または複数個まとめて駆動する。送信制御部301は、信号生成部とも称される。
【0060】
超音波送信素子23および超音波受信素子24は、上述のようにそれぞれアンテナ素子によって構成されている。超音波送信素子23は、周波数信号に応じた超音波(超音波)として送信し、その反射波を超音波受信素子24が受信する。超音波受信素子24で受信された反射波は、オペアンプ302を介して増幅された後、反射波信号として混合器306に入力される。なお、
図10では、超音波送信素子23および超音波受信素子24が、それぞれ一つずつ示されているが、実際には超音波送信素子23および超音波受信素子24は、それぞれ複数設けられている。また、オペアンプ302およびオペアンプ305も、超音波送信素子23および超音波受信素子24に対応して複数設けられている。
【0061】
混合器306は、入力された周波数信号および反射波信号の両信号に対して乗算の演算を行い、それら信号(周波数)の差(または和)を示す信号を処理部307に出力する。
【0062】
処理部307は、混合器306から入力される信号を超音波送信素子23(超音波受信素子24)毎に検波した後、検出信号としてセンサインタフェース126に出力することができる。また、処理部307は、CPUがプログラムを実行することにより実現されてもよいし、専用のハードウェアによって構成されてもよい。
【0063】
上記の構成により、センサ装置20では、センシング範囲内に存在する物品W1をセンシングし、そのセンシング結果を検出信号として制御装置60(センサインタフェース126)に出力する。かかる検出信号は、センシング範囲内に存在する物品W1の上面および側面等の形状を超音波強度(電波強度)等の測定値で表したものとなる。
【0064】
制御装置60の通信部127は、外部装置と接続するための通信インタフェースである。通信部127は、プロセッサ121の制御の下、外部装置との間で各種データの授受を行う。外部装置としては、例えば、荷役システム1を監視する監視装置が考えられる。そして、通信部127は、異常が生じた場合に、監視装置に異常が生じた旨の通知を行う。
【0065】
記憶部128は、例えば、RAM(Random Access Memory)等の主記憶装置、フラッシュメモリ等の半導体メモリ素子やハードディスク等の補助記憶装置によって実現される。記憶部128は、荷役装置10の動作に係るプログラムや設定情報等を記憶する。また、記憶部128は、移動装置50の上下方向および水平方向の移動限界位置や、アーム部112の可動範囲、把持部113の把持可能な物品W1の寸法の上限および下限等を示した限界情報を記憶する。また、記憶部128は、物品W1のサイズ(寸法)や形状等を示した荷物情報を記憶する。
【0066】
次に、
図11を参照して、制御装置60とセンサ装置20の機能構成の構成について説明する。ここで、
図11は、制御装置60とセンサ装置20の機能構成の一例を示す図である。
【0067】
図11に示すように、制御装置60においては、プロセッサ121が記憶部128に記憶されたプログラムを実行することで、認識部1211、検出部1212、計画部1213、計画実行部1214、および出力部1215を機能部として実現する。
【0068】
認識部1211は、カメラ30で撮像された撮像画像を取得する。認識部1211は、カメラインタフェース124を介して撮像画像を直接取得してもよいし、カメラインタフェース124を介して一時的に記憶部128に記憶された撮像画像を取得してもよい。
【0069】
認識部1211は、取得した撮像画像に基づいて、パレット2上に置かれた物品W1を認識する。例えば、本実施形態の認識部1211は、撮像画像に対して画像処理を行うことで、撮像されている物品の輪郭を抽出し、当該輪郭に基づいて、パレット2上に置かれた物品W1を認識する。なお、本実施形態の認識部1211は、さらに、記憶部128に記憶された荷物情報で示されている物品W1のサイズ(寸法)や形状と、抽出された輪郭と、を比較することで、パレット2上に置かれた物品W1を認識してもよい。さらには、認識部1211は、カメラ30が設けられた位置と、撮像画像に写っている物品W1の位置と、に基づいて、実際の3次元空間上における、パレット2上に置かれた物品W1の位置情報を特定する。
【0070】
センサ装置20の処理部307は、例えば、CPU、及びROMやRAM等のメモリの組み合わせで実現してもよい。処理部307は、混合器306から入力される信号を超音波送信素子23(超音波受信素子24)毎に検波するだけではなく、当該CPUが、ROMに格納されているプログラムを読み込み、実行することで、距離測定部307aと、位置認識部307bと、を実現する。
【0071】
距離測定部307aは、混合器306から入力される信号を取得する。距離測定部307aは、取得した信号に基づいて、センサヘッド21から物品W1までの距離を算出する。
【0072】
位置認識部307bは、算出された距離を用いて、物品W1の形状及び位置を認識する。位置認識部307bは、認識した物品W1の形状及び位置を、制御装置60に送信する。本実施形態の位置認識部307bは、認識した物品W1の形状及び位置を、距離イメージとして出力する。
【0073】
認識部1211は、物品W1の認識結果を、計画部1213に送出する。物品W1の認識結果は、一例として、物品群Wに含まれる物品W1の個数と、物品W1の各々の寸法、形状、デザイン、梱包特徴、および積載特徴、位置である。また、物品W1の各々の位置は、パレット2上の水平方向の位置、および高さ方向の位置である。また、物品W1の各々の位置は、把持部113からの相対距離によって表されてもよい。
【0074】
また、認識部1211は、物品W1の認識に使用した撮像画像を、計画部1213に送出する。
【0075】
検出部1212は、センサ装置20の位置認識部307bが認識した物品W1の位置及び形状に基づいて、物品W1を検出する。検出部1212による検出結果は、例えば、物品群Wに含まれる物品W1の個数、寸法、または形状を含むものとする。
【0076】
計画部1213は、認識部1211の画像認識結果および検出部1212の検出結果に基づいて、移動装置50のアーム部112および把持部113の駆動機構を動作させるための行動計画を導出(算出)する。本実施形態の計画部1213は、検出部1212によって検出された物品W1の個数、寸法、または形状の少なくとも1つに基づいて、行動計画を導出するものとする。
【0077】
より詳細には、計画部1213は、認識部1211から取得した画像認識結果と、検出部1212から取得した検出結果に含まれる物品W1の個数、寸法、および形状を比較する。上述のように、検出結果に含まれる物品W1の個数、寸法、および形状の方が、画像認識結果に含まれる物品W1の個数、寸法、および形状よりも高精度であるため、計画部1213は、画像認識結果と、検出結果とが不一致の場合は、検出結果に基づいて行動計画を導出する。
【0078】
計画部1213は、認識または検出された物品W1の1つを、移動対象候補とする。また、計画部1213は、画像認識結果または検出結果に基づいて、移動対象候補の物品W1を、把持部113が把持可能か否かを判定する。例えば、計画部1213は、物品W1の寸法が、記憶部128に記憶された移動装置50の限界情報に定義された把持部113の把持可能な物品W1の寸法の上限から下限の範囲に含まれない場合に、当該物品W1の把持を回避すると判定する。この場合、計画部1213は、行動計画を導出せずに、把持を回避することを、出力部1215に送出する。また、計画部1213は、把持を回避する対象である物品W1が映り込んだ撮像画像を、出力部1215に送出する。また、計画部1213は、検出部1212が把持を回避する対象である物品W1を検出した検出結果を、出力部1215に送出してもよい。
【0079】
計画部1213は、移動対象候補の物品W1を把持部113に把持させると判定した場合は、行動計画を導出し、導出した行動計画を、計画実行部1214に送出する。例えば、計画部1213は、移動対象に設定された物品W1を目的地まで移動する経路(最短経路)を示した行動計画を導出する。なお、計画部1213は、2つ以上の物品W1を同時に把持して移動させる行動計画を導出してもよい。行動計画の導出の手法は、公知の技術を採用することができる。
【0080】
また、把持を回避するか否かの基準は、上述の例に限定されるものではなく、計画部1213は、その他の条件に基づいて把持を回避するか否かを決定してもよい。
【0081】
計画実行部1214は、計画部1213で導出された行動計画に基づいて、移動装置50の動作(駆動機構)を制御する。例えば、計画実行部1214は、行動計画に基づき移動装置50の動作を制御することで、移動対象の物品W1を行動計画に示された経路で目的地まで移動させる。また、行動計画は、計画部1213によって、検出部1212による検出結果と認識部1211による認識結果とに基づいて導出されているため、換言すれば、計画実行部1214は、検出結果と認識結果とに基づいて、物品W1を把持するよう制御する。計画実行部1214の制御対象は、例えば、把持部113の駆動機構である。
【0082】
出力部1215は、計画部1213から物品W1の把持を回避することを通知された場合に、外部装置に把持回避の報知情報を出力する。例えば、出力部1215は、把持回避の理由と、把持回避される物品W1が映り込んだ撮像画像とを、外部装置に出力する。また、計画部1213は、出力部1215は、把持回避される物品W1の検出結果を、外部装置に出力してもよい。また、計画部1213は、把持回避の理由と、把持回避される物品W1が映り込んだ撮像画像とを、制御装置60の表示部122に表示させてもよい。
【0083】
上述した機能構成により、荷役装置10では、パレット2に置かれた物品W1を、目的地に荷役(移動)させることができる。
【0084】
次に、センサ装置20のセンシングによる物品W1の検出方法について詳細に説明する。
図12および
図13は、実施形態のセンサ装置20で物体の検出を説明するための座標系を例示した図である。
【0085】
図12および
図13に示すように、センサ装置20は、XYZ座標系(3軸直交座標系)を用いて物品W1のある点(検出点P)の位置を求める。ここで、i(iは1~nの正数)番目の超音波送信素子23の座標を(Xi,Yi,Zi)とし、j(jは1~mの正数)番目の超音波受信素子24の座標を(Xj,Yj,Zj)とし、物品W1の超音波を反射する検出点Pの座標を(Zptanθ,Zptanφ,Zp)とする。ここで、θは、原点から検出点Pへの直線をXZ平面へ投影した直線と、Z軸と、の角度とする。φは、原点から検出点Pへの直線をYZ平面へ投影した直線と、Z軸と、の角度とする。なお、物品W1のある点(検出点P)の位置を算出するための超音波送信素子23の座標は、上述した座標に制限するものではない。例えば、側面に設けられたi’(i’は1~nの正数)番目の超音波送信素子23の座標を(Xi’,Yi’,Zi’)とし、j(jは1~mの正数)番目の超音波受信素子24の座標を(Xj,Yj,Zj)として、物品W1の超音波を反射する検出点Pの座標を(Zptanθ,Zptanφ,Zp)を求めてもよい。
【0086】
処理部307の位置認識部307bは、距離イメージを生成する。その際に、位置認識部307bは、超音波受信素子24の各々が受信した受信信号(反射波)に基づいて、超音波の反射地点の位置を算出する。その際に、超音波受信素子24毎の遅延時間を算出する。
【0087】
原点から検出点Pまでの距離Lopが、原点から超音波受信素子24の座標(Xj,Yj)よりも十分に大きいと考えられる(ファーフィールド)ならば、位置認識部307bは、検出点Pで反射した超音波が、原点に達するまでの時間とj番目の超音波受信素子24に達するまでの時間との間の差Δjを、角度θ,φから算出する。差Δjは遅延時間とも称する。差Δjは、次式(1)で表される。なお、超音波の音速Cとする。
【数1】
【0088】
各超音波受信素子24の差Δj(遅延時間)を算出し、各受信信号に対して求めた差Δj(遅延時間)だけ遅延させた信号全てを加算する。
【0089】
i番目の超音波送信素子23で送信され、j番目の超音波受信素子24で受信した信号(超音波)をRij(t)とすると、超音波受信素子24全ての信号を合計した、θ,φ方向の信号合成値Sfar(θ,φ,t)は、次式(2)で表される。
【数2】
【0090】
位置認識部307bは、複数の調整用のパラメータ(θ,φ,tの組み合わせ)を備えておく。そして、位置認識部307bは、複数の超音波受信素子24で受信した反射波の信号合成値Sfar(θ,φ,t)に対して、複数の調整用パラメータを用いて調整することで、反射地点に強く反応する、信号合成値Sfar(θ,φ,t)を示す信号を得られる。そして、位置認識部307bは、反射地点に強く反応した時に適用された角度(θ,φ)から、反射地点が存在する方向を認識できる。
【0091】
この際、位置認識部307bは、信号合成値Sfar(θ,φ,t)が最大となる、タイミングt=Tmax(θ,φ)が得られる。このため、位置認識部307bは、θ,φ方向の物品W1までの距離Dfar(θ,φ)を算出できる。距離Dfar(θ,φ)を算出する式(3)を下記に示す。
Dfar(θ,φ)=Tmax(θ,φ)×C ・・・(3)
【0092】
このように、原点から検出点Pまでの2次元距離Dfar(θ,φ)、角度θ,φに基づいて、原点から検出点Pの方向を算出できる。
【0093】
このように、処理部307は、各超音波受信素子24の受信信号に基づいて、原点から検出点Pまでの距離及び方向、換言すれば検出点Pの位置を算出できる。
【0094】
また、処理部307は、上記と同じ座標系を用いて、以下のように距離を求める。原点から検出点Pまでの距離Lopが、原点から超音波受信素子24の座標(Xj,Yj)よりも十分に大きくないと考えられる(ニアフィールド)ならば、i番目の超音波送信素子23から送信した超音波が、原点からθ,φ方向の検出点Pで反射し、j番目の超音波受信素子24に達するまでの時間Tij(θ,φ,Zp)は、次式(4)で算出される。
Tij(θ,φ,Zp)=(Lip+Lpj)/C ・・・(4)
【0095】
また、距離測定部307aは、i番目の超音波送信素子23から検出点Pまでの距離Lipを、次式(5)を用いて算出する。
【数3】
【0096】
また、距離測定部307aは、検出点Pからj番目の超音波受信素子24までの距離Lpjを、次式(6)を用いて算出する。
【数4】
【0097】
i番目の超音波送信素子23で送信し、j番目の超音波受信素子24で受信した信号をRij(t)とすると、超音波受信素子24全ての信号を合計した、原点からθ,φ方向の検出点P位置での信号合成値Snear(θ,φ,Zp)は、次式(7)で表される。
【数5】
【0098】
位置認識部307bは、物品W1が存在すると考えられる範囲用の調整用のパラメータ(θ,φ,Zpの組み合わせ)を備えておく。そして、位置認識部307bは、複数の超音波受信素子24で受信した反射波の信号合成値Snear(θ,φ,Zp)に対して、複数の調整用パラメータを用いて調整することで、反射地点に強く反応する、信号合成値Snear(θ,φ,Zp)を示す信号を得られる。そして、位置認識部307bは、反射地点に強く反応した時に適用された角度(θ,φ)から、反射地点が存在する方向を認識できる。
【0099】
この際、位置認識部307bは、信号合成値Snear(θ,φ,Zp)が最大となるZpmax(θ,φ)が得られる。このため、位置認識部307bは、θ,φ方向の物品W1までの距離Dnear(θ,φ)を算出できる。距離Dnear(θ,φ)を算出する式(8)を下記に示す。
Dnear(θ,φ)=Zpmax(θ,φ)/cosθ/cosφ ・・・(8)
【0100】
このように、原点から検出点Pまでの2次元距離Dnear(θ,φ)、角度θ,φに基づいて、原点から検出点Pの方向を算出できる。
【0101】
このように、処理部307の位置認識部307bは、各超音波受信素子24の受信信号に基づいて、原点から検出点Pまでの距離及び方向、換言すれば検出点Pの位置を算出できる。
【0102】
以上のように、センサ装置20では、上方からセンシングすることで、センシング範囲内に存在する物品W1の形状及び位置をセンシング結果として取得する。より具体的には、センサ装置20は、超音波を送信し、センシング範囲の各位置(検出点)で反射した反射波を受信する。そして、センサ装置20は、超音波および反射波の差分等から、センシング範囲内に存在する物品W1の表面(上面、側面)の形状を超音波強度等の物理量として取得する。本実施形態では、複数の超音波送信素子23および複数の超音波受信素子24を用いて超音波および反射波の送受信を行う構成であるため、各検出点の超音波強度を3次元的に捉えることができ、物品W1の表面の形状及び位置を精度よく取得することができる。
【0103】
センサ装置20は、算出した複数の検出点Pの距離をまとめた2次元の距離イメージを作成する。距離イメージは、例えば距離イメージ画像である。距離イメージ画像は、載置領域R1に対応する画像領域を有している。そして、載置領域R1に含まれる検出点Pの距離を、当該検出点Pに対応するピクセルの画素値(例えば輝度値)で示している。
【0104】
次に、物品群Wのセンシング結果および撮像画像について
図14~
図17を参照して説明する。
図14~
図17は、実施形態の物品群、センシング結果、および撮像画像の一例を説明するための図である。
図14~
図17で示される例では、輝度値の違い、換言すれば検出点Pまでの距離を、色の濃淡で示している。例えば、色が濃くなるほど、センサヘッド21に近くなり、色が淡くなるほど、センサヘッド21から遠くなることを示している。
【0105】
図14は、物品群Wを構成する物品W1が段ボールの例である。本例では、5個の物品W1が2段に積み重ねられており、下段の物品W1が4個であり、上段の物品W1が1個である。センシング結果において、ドットハッチングの部分1401は、黒塗りの部分1402に比べて、センサヘッド21からの距離が長いことを示している。
図14に示される例では、原点から下段の物品W1の上面までの距離と、原点から上段の物品W1の上面までの距離とが異なるため、2つの群とみなせる。そこで、処理部307の位置認識部307bは、それらを別々の物体(物品W1)として認識する。また、このとき、
図14には表現されていないが、下段の複数の物品W1間の境界部分は、物品W1の角部の形状によって、当該物品W1の上面よりも原点からの距離が長く算出される。これにより、上段の物品W1が移動された後に、距離測定部307aと位置認識部307bとが処理を行うことで、下段の物品W1が4個であることが認識されうる。
【0106】
図15は、
図14の例に対して、物品群WがシートEで覆われている点が異なる。センシング結果において、ドットハッチングの部分1502~1505は、黒塗りの部分1501に比べて、算出された距離が長いことを示している。また、黒塗りの部分1501を囲むとともに種類の異なるドットハッチングが付与された四角枠状の部分1502~1505は、内側から外側に向かうにしたがい、算出された距離が長いことを示している。本例では、シートEの傾斜面Eaの部分において算出された距離が連続的に変わるので、処理部307の位置認識部307bは、物品群Wを一つのまとまった物体として認識する。
【0107】
一方、
図14および
図15から分かるように、物品群WがシートEに覆われていない場合の撮像画像(
図14)と、物品群WがシートEに覆われている場合の撮像画像(
図15)は、略同じとなる。これは、透明なシートEが撮像されないからである。このため、撮像画像だけでは、物品群WがシートEに覆われているか否かを判別するのが困難である。しかしながら、本実施形態においては、センサ装置20からのセンシング結果を用いるため、物品群WがシートEに覆われているか否かを判別できる。これによって、移動装置50は、シートEに覆われているか否かを考慮して、適切な物品W1の把持を実行できる。
【0108】
図16は、物品群Wを構成する物品W1がペットボトルの例である。
図16で示される例では、6個の物品W1が1段かつ行列状に並べられている。センシング結果において、ドットハッチングの部分1602は、黒塗りの部分1601に比べて、センサヘッド21からの距離が長いことを示している。さらに白地領域1603は、ドットハッチングの部分1603より距離が長く、パレット2と同等の距離と認識できる。この結果から、処理部307の位置認識部307bは、6個の物品W1を互いに別々の物体として認識する。この場合、把持部113が例えば吸着式のときには、吸着対象部(把持対象部)は、1つの黒塗り部分(ペットボトルのキャップ)である。
【0109】
図17は、
図16の例に対して、物品群WがシートEで覆われている点が異なる。センシング結果において、2種類のドットハッチングの部分1702、1703は、黒塗りの部分1701に比べて、センサヘッド21からの距離が長いことを示している。また、2種類のドットハッチング1702、1703のうち、ドットハッチング1703は、他方のドットハッチング1702よりも、センサヘッド21からの距離が短いことを示している。
図17で示される例では、黒塗り部分(キャップ)1701の間の部分(シートEの傾斜面Ea)も黒塗り部分1701の距離に近い距離の点群が得られる。すなわち、例17で示される例では、黒塗りの部分1701(ペットボトルのキャップ)同士の間のシートEで覆われた領域について、ドットハッチング1703による距離が算出される。処理部307の位置認識部307bは、ドットハッチング1703から算出された距離が、ペットボトルの外面を示したドットハッチング1702から算出された距離よりも、センサヘッド21に近いため、物品群Wを一つのまとまった物体として認識する。把持部113が例えば吸着式のときには、吸着対象部(把持対象部)は、6つの黒塗り部分(ペットボトルのキャップ)である。このように、
図16の例と
図17の例とで、把持部113の把持対象部が変わる。
【0110】
一方、
図16および
図17から分かるように、物品群WがシートEに覆われていない場合の撮像画像(
図16)と、物品群WがシートEに覆われている場合の撮像画像(
図17)は、略同じとなる。これは、透明なシートEが撮像されないからである。このため、撮像画像だけでは、物品群WがシートEに覆われているか否かを判別するのが困難である。しかしながら、本実施形態においては、センサ装置20からのセンシング結果を用いるため、物品群WがシートEに覆われているか否かを判別できる。これによって、移動装置50は、シートEに覆われているか否かを考慮して、物品群Wの適切な把持を実行できる。
【0111】
次に、センサ装置20が実行する物品の検出処理の流れを説明する。
図18は、実施形態のセンサ装置が実行する物品の検出処理のフローチャートである。
【0112】
図18に示すように、センサ装置20は、超音波を送受信して、信号Rij(t)を得る(S101)。具体的には、センサ装置20は、複数(1~n番目)の超音波送信素子23について1個ずつまたはいくつかグループにして順番に超音波を送信し、複数(1~m番目)の超音波受信素子24で受信した信号Rij(t)を得る。
【0113】
次に、センサ装置20は、式(1)~(3)または式(4)~(7)に従って距離Dfar(θ,φ)または距離Dnear(θ,φ)を得る(S102)。以後、距離Dfar(θ,φ)および距離Dnear(θ,φ)の総称として距離D(θ,φ)を用いる場合がある。
【0114】
次に、センサ装置20は、距離D(θ,φ)から、距離D、角度θ,φが所定の範囲で近い検出点Pの群(以後、検出点群とも称する)を物品として一つにまとめることにより、複数の検出点Pをグループ分けする(S103)。そして、センサ装置20は、グループ分けした物品(検出点群)に識別情報としてk(kは1~pの正数)を付与する。すなわち、センサ装置20(処理部307)は、距離イメージの複数のピクセルのうち距離の値の差が規定の範囲内のピクセルに対応する検出点Pの群を物品とし、当該物品の基準点(原点)からの距離および位置を認識する。このとき、例えば、
図14の例では、原点から下段の物品W1の上面までの距離と、原点から上段の物品W1の上面までの距離とが、異なる二つの群となるので、それらが別々の物体(物品W1)として認識される。また、
図15の例では、シートEの傾斜面Eaの部分において算出された距離が連続的に変わるので、算出した距離のうち原点から載置領域R1までの距離よりも長い距離の群が一つのまとまった物体として認識される。
【0115】
次に、センサ装置20は、グループ分けした物品(k)に属する検出点群の距離Dから、原点から物品kまでの距離を求め、角度θ、φおよび距離Dから、物品(k)の位置((X,Y)=(Dsinθ,Y=Dsinφ))を求める(S104)。
【0116】
次に、制御装置60が実行する物品W1の認識処理を説明する。
図19は、実施形態の制御装置が実行する物品の認識処理のフローチャートである。
【0117】
図19に示すように、制御装置60は、カメラ30の撮像画像を取得する(S201)。
【0118】
次に、制御装置60は、撮像画像とセンシング結果とから物品W1を認識する(S202)。具体的には、制御装置60は、撮像画像における、
図18のS104で求められた物品のθ,φに対応する部分、の濃淡エッジまたはテクスチャを求めて、物品W1を認識する。濃淡エッジあるいやテクスチャがあれば、撮像画像でとらえることができる物品W1であることがわかる。また、テクスチャの特徴を予め登録して照合することで、物品W1の種別の判定が可能である。すなわち、制御装置60は、撮像画像の物品W1の色やテクスチャから物品W1の位置と種類を認識することができる。
【0119】
以上のように、本実施形態では、超音波を用いて物品W1の距離を得るので、黒い箱や、透明な箱、透明なシート(ラッピングシート、シュリンクフィルム(フィルム))でまとめられた複数の段ボール箱やペットボトルなどの物品W1の位置認識が可能となる。
【0120】
また、以上から分かるように、本実施形態の荷役システム1は、1以上の物品W1を含む物品群Wの上方から物品W1に対して出力された超音波によるセンシング結果に基づく物品W1の検出結果と、物品群Wの上方から撮像された撮像画像に基づく物品W1の認識結果と、に基づいて、物品W1を把持する。
【0121】
以上のように、本実施形態及び変形例では、センサ装置20は、物品W1が載置される載置領域R1に対するセンシング結果に基づいて物品W1を把持して当該物品W1を移動させる荷役システム1、に設けられる。センサ装置20は、載置領域R1より上方且つ当該載置領域R1に対向する位置に存在する領域R2に配置され、載置領域R1に向けて超音波または電波を送信波として送信する1以上の超音波送信素子23(第1の送信素子)と、領域R2に配置され、送信波の反射波を受信する1以上の超音波受信素子24(第1の受信素子)と、を備える。超音波送信素子23及び超音波受信素子24のうち少なくとも一つ以上は、領域R2のうち外縁近傍に配置されている。よって、載置領域R1に配置された物品が外縁近傍に存在するか否かにかかわらず検出できるので、物品の認識精度を向上させる。
【0122】
上述した実施形態及び変形例では、センサ装置20は、超音波送信素子23Aと超音波受信素子24Aとを有した複数のセンサヘッド21を備える。複数のセンサヘッド21が、当該領域R2の角毎の隅毎に設けられている。よって、本実施形態によれば、センサヘッド21が複数設けられているので、センシング結果の精度が向上する。
【0123】
また、本実施形態及び変形例では、センサヘッド21は、複数の超音波送信素子23Aと複数の超音波受信素子24Aと、を有する。よって、本実施形態によれば、センシング結果の精度が向上する。
【0124】
また、本実施形態及び変形例では、センサ装置20は、載置領域R1よりも上方かつ領域R2よりも下方に位置し、載置領域R1に載置された物品W1の側方から送信波を物品W1に向けて送信する超音波送信素子23B、23C(第2の送信素子)を備える。よって、本実施形態によれば、センシング結果の精度が向上する。
【0125】
また、変形例では、センサ装置20は、載置領域R1よりも上方かつ領域R2よりも下方に位置し、載置領域R1に載置された物品W1の側方で反射波を受信する超音波受信素子24B、24C(第2の受信素子)を備える。よって、本実施形態によれば、センシング結果の精度が向上する。
【0126】
また、本実施形態では、荷役システム1は、物品W1が載置される載置領域R1に対し、超音波を送信波としてセンシングを行なうセンサ装置20と、物品W1を把持して当該物品W1を移動させる移動装置50と、センサ装置20のセンシング結果に基づいて、移動装置50を制御する制御装置60と、を備える。よって、載置領域R1に配置された物品が外縁近傍に存在するか否かにかかわらず検出できるので、物品の認識精度を向上させる。
【0127】
また、本実施形態では、荷役システム1は、載置領域R1の上方に配置され、載置領域R1に載置された物品W1を上方から撮像するカメラ30(撮像装置)を備える。素子群25が、カメラ30の周囲に配置されている。よって、カメラ30の台数を例えば1台にしやすい。
【0128】
(変形例1)
上述した実施形態においては、
図4に示すように、フレーム40の側部に複数の超音波送信素子23Bおよび超音波送信素子23Cを備える例について説明した。しかしながら、上述した実施形態は、フレーム40の側部に複数の超音波送信素子23Bおよび超音波送信素子23Cを備える例に制限するものではない。そこで、本変形例では、フレーム40の側部に、超音波受信素子24Bおよび超音波受信素子24Cを備える例について説明する。
【0129】
超音波受信素子24Bおよび超音波受信素子24Cは、
図4で示した超音波送信素子23Bおよび超音波送信素子23Cと同様に、載置領域R1と領域R2とを結ぶ第1の方向において、載置領域R1と領域R2との間に位置している。超音波受信素子24Bおよび超音波受信素子24Cは、フレーム40の側部に設けられている。つまり、超音波受信素子24Bおよび超音波受信素子24Cは、第1の方向と交差する第2の方向において、載置領域R1及び領域R2より外で支持されている。超音波受信素子24Bおよび超音波受信素子24Cは、載置領域R1と領域R2との間に存在する物品で反射した反射波を受信可能な方向を向いて配置されている。これにより、本変形例の超音波受信素子24Bおよび超音波受信素子24Cは、超音波送信素子23から送信された送信波が物品W1の傾斜面で反射した場合でも、反射波を受信できる。
【0130】
本変形例においては、センサヘッド21に設けられた超音波送信素子23Aから送信された送信波を、載置領域R1と領域R2との間に存在する、シートEでまとめられた物品W1の傾斜面Eaで反射する。これにより、反射波は、側方向に生じる。側方向とは、載置領域R1と領域R2を結ぶ上下方向と略垂直方向とする。
【0131】
そして、超音波受信素子24B又は超音波受信素子24Cが、当該側方向からの反射波を受信する。センサ装置20は、超音波受信素子24B又は超音波受信素子24Cからの反射波を示す信号によって、シートEでまとめられた物品W1を認識できる。
【0132】
また、フレーム40の側部に、超音波送信素子23又は超音波受信素子24を設ける例に制限するものではなく、超音波送信素子23及び超音波受信素子24を設けてもよい。さらには、フレーム40の側部に、センサヘッド21を設けてもよい。
【0133】
(変形例2)
上述した実施形態においては、
図4に示すように、フレーム40の側部に複数の超音波送信素子23Bおよび超音波送信素子23Cを備える例について説明した。しかしながら、上述した実施形態は、フレーム40の側部に複数の超音波送信素子23Bおよび超音波送信素子23Cを備える手法に制限するものではない。そこで変形例1では、柱部材43毎に超音波送信素子23Bが1個設けられ、当該超音波送信素子23Bは、柱部材43に沿って上下方向に移動可能な例について説明する。
【0134】
本変形例のセンサ装置20は、超音波送信素子23Bに対して制御信号を送信することで、超音波送信素子23Bを上下方向に移動させる。本実施形態のセンサ装置20は、載置領域R1に、シートEでまとめられた複数の物品W1が存在する場合に、当該物品W1の高さを測定するために、超音波送信素子23Bを上下方向に移動させる。シートEでまとめられた複数の物品W1は、上述した実施形態と同様に、傾斜面Eaを備えている。このため、超音波送信素子23Bから送信された送信波の反射波を、センサヘッド21の超音波受信素子24Aが、受信する。
【0135】
例えば、センサ装置20は、超音波送信素子23Bが送信波を送信した後、センサヘッド21の超音波受信素子24Aが、当該送信波の反射波を受信したか否かを判定する。反射波を受信した場合には、超音波送信素子23Bを上方向に移動制御させる。当該制御を繰り返すことで、センサ装置20は、透明フィルムでまとめられた複数の物品W1の高さを認識できる。
【0136】
なお、本変形例は、超音波送信素子23Bを上下方向に移動させる例について説明したが、超音波送信素子23Bを上下方向に移動させる例に制限するものではなく、超音波受信素子24Bを上下方向に移動させてもよい。
【0137】
本変形例では、上述した制御を行うことで、シートEでまとめられた複数の物品W1の高さを検出できるため、移動装置50は、シートEでまとめられた複数の物品W1を適切に把持することが可能となる。
【0138】
また、本変形例では、フレーム40の側部に設けられた超音波送信素子23Bを移動制御する場合について説明した。しかしながら、超音波送信素子23Bを移動制御する場合に制限するものではなく、変形例1のように、フレーム40の側部に、超音波受信素子24Bを設けた場合に、超音波受信素子24Bを移動制御してもよい。
【0139】
上述した実施形態及び変形例においては、載置領域R1と略同一の面積を有する領域R2に、センサヘッド21及びカメラ30を設ける例について説明する。しかしながら、上枠部材42内の領域R2と、載置領域R1と、を略同一の面積に制限するものではなく、領域R2から送信された送信波を送信した場合に、載置領域R1に配置された物品で鏡面反射した反射波を受信可能となるように、領域R2の面積と、載置領域R1の面積と、が対応していればよい。
【0140】
以上説明したとおり、上述した実施形態及び変形例によれば、領域R2にセンサヘッド21を角毎の隅に設けることで、領域R2の外縁近傍に沿って超音波送信素子23Aが配置される。これにより、載置領域R1の外縁近傍の物品W1の検出精度が向上する。これにより、荷役システム1は、載置領域R1に存在する物品W1について、外縁近傍に存在するか否かにかかわらず把持が容易になる。
【0141】
上述の各実施形態の制御装置60で実行されるプログラムおよびセンサ装置20で実行されるプログラムは、インストール可能な形式または実行可能な形式のファイルでCD-ROM、フレキシブルディスク(FD)、CD-R、DVD(Digital Versatile Disk)等のコンピュータで読み取り可能な記録媒体に記録されて提供される。
【0142】
また、上述の各実施形態の制御装置60で実行されるプログラムおよびセンサ装置20で実行されるプログラムを、インターネット等のネットワークに接続されたコンピュータ上に格納し、ネットワーク経由でダウンロードさせることにより提供するように構成してもよい。また、上述の各実施形態の制御装置60で実行されるプログラムおよびセンサ装置20で実行されるプログラムをインターネット等のネットワーク経由で提供または配布するように構成してもよい。また、上述の各実施形態のプログラムを、ROM等に予め組み込んで提供するように構成してもよい。
【0143】
上述の各実施形態の制御装置60で実行されるプログラムは、上述した各部(認識部、検出部、計画部、計画実行部、出力部)を含むモジュール構成となっており、実際のハードウェアとしてはCPU(プロセッサ)が上記記憶媒体からプログラムを読み出して実行することにより上記各部が主記憶装置上にロードされ、認識部、検出部、計画部、計画実行部、出力部が主記憶装置上に生成されるようになっている。
【0144】
上述の各実施形態のセンサ装置20で実行されるプログラムは、上述した各部(距離測定部、位置認識部)を含むモジュール構成となっており、実際のハードウェアとしてはCPU(プロセッサ)が上記記憶媒体からプログラムを読み出して実行することにより上記各部が主記憶装置上にロードされ、距離測定部、位置認識部が主記憶装置上に生成されるようになっている。
【0145】
なお、上記実施形態では、センサ装置20は、超音波に替えて電波(ミリ波)を送受信して、物品W1を検出してもよい。この場合には、センサ装置20は、超音波送信素子23Aおよび超音波受信素子24Aに替えて、電波送信素子と電波受信素子とを有する。
【0146】
また、上記実施形態では、複数のセンサヘッドが間隔をあけて配置された例が示されたが、これに限定されない。例えば、センサヘッドは、当該センサヘッド上方からの視線で、載置領域R1の外縁R1aに沿った無端状(環状)であってもよい。
【0147】
また、上記実施形態では、超音波送信素子23Aおよび超音波受信素子24Aをそれぞれ設けたが、これに限定されない。例えば、超音波送信素子23Aおよび超音波受信素子24Aに替えて、超音波送信素子23Aおよび超音波受信素子24Aの超音波送受信機能を有した超音波素子を設けてもよい。
【0148】
本発明のいくつかの実施形態を説明したが、これらの実施形態は、例として提示したものであり、発明の範囲を限定することは意図していない。これら新規な実施形態は、その他の様々な形態で実施されることが可能であり、発明の要旨を逸脱しない範囲で、種々の省略、置き換え、変更を行うことができる。これら実施形態やその変形は、発明の範囲や要旨に含まれるとともに、特許請求の範囲に記載された発明とその均等の範囲に含まれる。
【符号の説明】
【0149】
1…荷役システム
20…センサ装置(センサ装置)
21…センサヘッド
23…超音波送信素子(送信素子)
23A…超音波送信素子(第1の送信素子)
23B、23C…超音波送信素子(第2の送信素子)
24…超音波受信素子(受信素子)
24A…超音波受信素子(第1の受信素子)
24B、24C…超音波受信素子(第2の受信素子)
25…素子群
30…カメラ(撮像装置)
50…移動装置
R1…載置領域
R2…領域
W1…物品