IP Force 特許公報掲載プロジェクト 2022.1.31 β版

知財求人 - 知財ポータルサイト「IP Force」

▶ 独立行政法人農業・食品産業技術総合研究機構の特許一覧

<>
  • 特許-ピッキング方法及びピッキングシステム 図1
  • 特許-ピッキング方法及びピッキングシステム 図2
  • 特許-ピッキング方法及びピッキングシステム 図3
  • 特許-ピッキング方法及びピッキングシステム 図4
  • 特許-ピッキング方法及びピッキングシステム 図5
  • 特許-ピッキング方法及びピッキングシステム 図6
  • 特許-ピッキング方法及びピッキングシステム 図7
  • 特許-ピッキング方法及びピッキングシステム 図8
  • 特許-ピッキング方法及びピッキングシステム 図9
  • 特許-ピッキング方法及びピッキングシステム 図10
  • 特許-ピッキング方法及びピッキングシステム 図11
  • 特許-ピッキング方法及びピッキングシステム 図12
  • 特許-ピッキング方法及びピッキングシステム 図13
  • 特許-ピッキング方法及びピッキングシステム 図14
  • 特許-ピッキング方法及びピッキングシステム 図15
  • 特許-ピッキング方法及びピッキングシステム 図16
< >
(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】
(24)【登録日】2024-06-17
(45)【発行日】2024-06-25
(54)【発明の名称】ピッキング方法及びピッキングシステム
(51)【国際特許分類】
   B25J 13/08 20060101AFI20240618BHJP
【FI】
B25J13/08 A
【請求項の数】 5
(21)【出願番号】P 2021034480
(22)【出願日】2021-03-04
(65)【公開番号】P2022134951
(43)【公開日】2022-09-15
【審査請求日】2023-11-02
(73)【特許権者】
【識別番号】501203344
【氏名又は名称】国立研究開発法人農業・食品産業技術総合研究機構
(74)【代理人】
【識別番号】100077665
【弁理士】
【氏名又は名称】千葉 剛宏
(74)【代理人】
【識別番号】100116676
【弁理士】
【氏名又は名称】宮寺 利幸
(74)【代理人】
【識別番号】100191134
【弁理士】
【氏名又は名称】千馬 隆之
(74)【代理人】
【識別番号】100136548
【弁理士】
【氏名又は名称】仲宗根 康晴
(74)【代理人】
【識別番号】100136641
【弁理士】
【氏名又は名称】坂井 志郎
(74)【代理人】
【識別番号】100180448
【弁理士】
【氏名又は名称】関口 亨祐
(72)【発明者】
【氏名】山田 哲資
(72)【発明者】
【氏名】太田 智彦
【審査官】國武 史帆
(56)【参考文献】
【文献】特開2021-146403(JP,A)
【文献】特開2011-73066(JP,A)
【文献】特開2015-214012(JP,A)
(58)【調査した分野】(Int.Cl.,DB名)
B25J 1/00 - 21/02
B07C 1/00 - 99/00
G01B 11/00 - 11/30
G06T 1/00 - 7/90
(57)【特許請求の範囲】
【請求項1】
球状の複数の作物の中から1つの前記作物を選定して取り上げるピッキング方法であって、
複数の前記作物を上方から撮像した画像を取得する画像取得ステップと、
前記画像において、前記作物同士が所定の間隔以内で近接する近接部を検出するとともに前記作物毎に前記近接部の数を検出する近接検出ステップと、
複数の前記作物の各々と前記近接部の数とを紐づけた数テーブルを生成する生成ステップと、
前記数テーブルに基づいて、複数の前記作物を1つずつ取り上げる順番を選定する選定ステップと、
を含み、
前記選定ステップは、
前記数テーブルの中で前記近接部の数が最小となる前記作物を1番目に取り上げる前記作物として選定する第1選定ステップと、
前記数テーブルから、選定された前記作物と前記近接部の数とを紐づけた情報を削除し、且つ、選定された前記作物と近接する前記作物の前記近接部の数を1だけ減らした前記数テーブルを再生成する再生成ステップと、
直近に再生成された前記数テーブルの中で前記近接部の数が最小となる前記作物を次に取り上げる前記作物として選定する第2選定ステップと、
を有し、
全ての前記作物が選定されるまで前記再生成ステップと前記第2選定ステップとを繰り返し実行することで、複数の前記作物を1つずつ取り上げる順番を選定する、ピッキング方法。
【請求項2】
請求項1に記載のピッキング方法であって、
前記生成ステップでは、前記作物に識別番号を付与し、前記識別番号と前記近接部の数とを紐づけるとともに、前記近接部を共有する前記作物の前記識別番号を紐づけた前記数テーブルを生成し、
前記再生成ステップでは、前記第1選定ステップで選定された前記作物と近接する前記作物を、前記数テーブルを参照することによって判定し、判定された前記作物の前記近接部の数を1だけ減らす、ピッキング方法。
【請求項3】
請求項1又は2に記載のピッキング方法であって、
前記近接検出ステップでは、前記画像において、前記作物を含む仮想の円を生成し、前記円同士が重畳又は接する部分を前記近接部として検出する、ピッキング方法。
【請求項4】
請求項3に記載のピッキング方法であって、
前記近接検出ステップでは、前記円の半径を、前記作物の外接円の半径よりも所定の長さだけ長くする、ピッキング方法。
【請求項5】
球状の複数の作物の中から1つの前記作物を選定して取り上げるピッキングシステムであって、
前記作物を把持するピッキング装置と、
複数の前記作物を上方から撮像して複数の前記作物の画像を取得するカメラと、
前記ピッキング装置を制御する制御回路と、を備え、
前記制御回路は、
前記カメラから前記画像を取得する画像取得部と、
前記画像において、前記作物同士が所定の間隔以内で近接する近接部を検出するとともに前記作物毎に前記近接部の数を検出する近接検出部と、
複数の前記作物の各々と前記近接部の数とを紐づけた数テーブルを生成する生成部と、
前記数テーブルの中で前記近接部の数が最小となる前記作物を1番目に取り上げる前記作物として選定する第1選定部と、
前記数テーブルから、選定された前記作物と前記近接部の数とを紐づけた情報を削除し、且つ、選定された前記作物と近接する前記作物の前記近接部の数を1だけ減らした前記数テーブルを再生成する再生成部と、
直近に再生成された前記数テーブルの中で前記近接部の数が最小となる前記作物を次に取り上げる前記作物として選定する第2選定部と、を有する、ピッキングシステム。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、球状の複数の作物の中から1つの作物を選定して取り上げるピッキング方法及びピッキングシステムに関する。
【背景技術】
【0002】
現在、様々な分野において、ピッキング装置(例えば多関節ロボット)を用いた物品のピッキング(取り上げ)が行われている。ピッキング装置は、物品を把持する把持部を有する。把持部には、互いに離間する方向と接近する方向に移動可能な一対の指部が設けられる。ピッキング装置は、開いた状態の一対の指部を上方から物品の横まで移動させ、一対の指部を閉じて物品を把持する。
【0003】
特許文献1には、物品の重心位置と他の物品の重心位置の平均値である平均重心位置から求められる離散度を計算し、離散度が最大となる物品から順番にピッキングを行う技術が開示される。
【先行技術文献】
【特許文献】
【0004】
【文献】特開平4-146090号公報
【発明の概要】
【発明が解決しようとする課題】
【0005】
特許文献1では、ピッキング対象の物品の周囲の状況については検討されていない。ピッキング装置が一対の指部を把持対象の物品の横まで移動させる際に、ピッキング対象以外の他の物品がピッキング対象の物品に近接していると、ピッキング装置の指部が他の物品に接触する虞がある。
【0006】
物品が工業製品である場合は大きな問題はない。一方、物品が作物である場合は、指部が接触することによって作物の表面が損傷する虞がある。損傷した作物は価格が下がる。このようなことから、ピッキング対象が作物である場合は、ピッキング装置の指部が作物にできるだけ接触しないようにすることが望まれる。
【0007】
本発明はこのような課題を考慮してなされたものであり、ピッキング装置の指部が作物に極力接触しないような順番でピッキングを行うことができるピッキング方法及びピッキングシステムを提供することを目的とする。
【課題を解決するための手段】
【0008】
本発明の第1の態様は、球状の複数の作物の中から1つの前記作物を選定して取り上げるピッキング方法であって、複数の前記作物を上方から撮像した画像を取得する画像取得ステップと、前記画像において、前記作物同士が所定の間隔以内で近接する近接部を検出するとともに前記作物毎に前記近接部の数を検出する近接検出ステップと、複数の前記作物の各々と前記近接部の数とを紐づけた数テーブルを生成する生成ステップと、前記数テーブルに基づいて、複数の前記作物を1つずつ取り上げる順番を選定する選定ステップと、を含み、前記選定ステップは、前記数テーブルの中で前記近接部の数が最小となる前記作物を1番目に取り上げる前記作物として選定する第1選定ステップと、前記数テーブルから、選定された前記作物と前記近接部の数とを紐づけた情報を削除し、且つ、選定された前記作物と近接する前記作物の前記近接部の数を1だけ減らした前記数テーブルを再生成する再生成ステップと、直近に再生成された前記数テーブルの中で前記近接部の数が最小となる前記作物を次に取り上げる前記作物として選定する第2選定ステップと、を有し、全ての前記作物が選定されるまで前記再生成ステップと前記第2選定ステップとを繰り返し実行することで、複数の前記作物を1つずつ取り上げる順番を選定する。
【0009】
本発明の第2の態様は、球状の複数の作物の中から1つの前記作物を選定して取り上げるピッキングシステムであって、前記作物を把持するピッキング装置と、複数の前記作物を上方から撮像して複数の前記作物の画像を取得するカメラと、前記ピッキング装置を制御する制御回路と、を備え、前記制御回路は、前記カメラから前記画像を取得する画像取得部と、前記画像において、前記作物同士が所定の間隔以内で近接する近接部を検出するとともに前記作物毎に前記近接部の数を検出する近接検出部と、複数の前記作物の各々と前記近接部の数とを紐づけた数テーブルを生成する生成部と、前記数テーブルの中で前記近接部の数が最小となる前記作物を1番目に取り上げる前記作物として選定する第1選定部と、前記数テーブルから、選定された前記作物と前記近接部の数とを紐づけた情報を削除し、且つ、選定された前記作物と近接する前記作物の前記近接部の数を1だけ減らした前記数テーブルを再生成する再生成部と、直近に再生成された前記数テーブルの中で前記近接部の数が最小となる前記作物を次に取り上げる前記作物として選定する第2選定部と、を有する。
【発明の効果】
【0010】
本発明によれば、ピッキング装置の指部が作物に極力接触しないような順番でピッキングを行うことができる。
【図面の簡単な説明】
【0011】
図1図1は、本実施形態に係るピッキングシステム及び周辺装置を示す図である。
図2図2は、本実施形態に係るピッキングシステムを示すブロック図である。
図3図3は、数テーブルを示す図である。
図4図4は、第1実施形態の処理工程を示すフローチャートである。
図5図5は、カメラによって取得される画像を示す図である。
図6図6は、青果物に対して生成される円を示す図である。
図7図7Aは、隣り合う円同士が重畳する場合に形成される近接部を示す図であり、図7Bは、隣り合う円同士が接する場合に形成される近接部を示す図である。
図8図8は、再生成された数テーブルを示す図である。
図9図9は、取り上げ順が決められる前の複数の青果物を示す図である。
図10図10は、幾つかの青果物の取り上げ順が決められた後の複数の青果物を模式化して示す図である。
図11図11は、幾つかの青果物の取り上げ順が決められた後の複数の青果物を模式化して示す図である。
図12図12は、幾つかの青果物の取り上げ順が決められた後の複数の青果物を模式化して示す図である。
図13図13は、幾つかの青果物の取り上げ順が決められた後の複数の青果物を模式化して示す図である。
図14図14は、幾つかの青果物の取り上げ順が決められた後の複数の青果物を模式化して示す図である。
図15図15は、全ての青果物の取り上げ順が決められた後の複数の青果物を模式化して示す図である。
図16図16は、第2実施形態の処理工程を示すフローチャートである。
【発明を実施するための形態】
【0012】
以下、この発明に係るピッキング方法及びピッキングシステムについて実施形態を挙げ、添付の図面を参照して詳細に説明する。
【0013】
[1 ピッキングシステム10の構成]
図1は、本実施形態に係るピッキングシステム10及び周辺装置を示す図である。図2は、本実施形態に係るピッキングシステム10を示すブロック図である。選別作業が行われる作業所には、ピッキング装置12とベルトコンベア112が互いに隣接して配置される。コンテナ110は、上方に開放された状態でピッキング装置12の近傍の所定位置に置かれる。コンテナ110の内部には収穫された複数の作物が入れられている。ピッキング装置12は、コンテナ110の内部から作物を1つずつ取り上げて、ベルトコンベア112まで搬送する。ベルトコンベア112は、作物を搬送先(例えば選別機や作業場等)まで搬送する。なお、本実施形態に係るピッキングシステム10は、球状の作物をピッキング対象とする。本実施形態では、作物として、トマト等の青果物114を想定する。なお、ここでいう球状というのは、2次元形状が真円、楕円及び歪んだ円のいずれかになる形状を含む。
【0014】
本実施形態に係るピッキングシステム10は、ピッキング装置12と、1以上のカメラ14と、コントローラ16と、操作装置18と、を有する。
【0015】
ピッキング装置12は、コンテナ110の内部に入れられた複数の青果物114の中から1つの青果物114を把持して取り上げてベルトコンベア112まで搬送する装置である。ピッキング装置12としては、多関節ロボットが使用される。多関節ロボットは、例えば、アーム22と、アーム22の先端に装着される把持部24と、を有する。アーム22の各関節にはサーボモータ26と、モータ軸の回転位置(回転角度)を検出する複数の角度センサ28(例えばロータリエンコーダ)と、が設けられる。サーボモータ26は、コントローラ16から供給される電力によって動作する。角度センサ28は、検出した回転位置の情報をコントローラ16に出力する。なお、ピッキング装置12は、多関節ロボットである必要はなく、青果物114を把持して搬送を行うことができる他の装置であっても良い。
【0016】
カメラ14は、コンテナ110の上方からコンテナ110の内部を撮像して画像32を取得する。本実施形態では、カメラ14として、グローバルカメラ14aとローカルカメラ14bが使用される。
【0017】
グローバルカメラ14aは、コンテナ110が置かれる所定位置の真上に配置され、支持装置30によって支持される。グローバルカメラ14aの位置は、グローバルカメラ14aの画角内にコンテナ110の全体が収まる位置である。グローバルカメラ14aは、コンテナ110の内部を撮像して第1画像32aを取得し、取得した第1画像32aをコントローラ16に出力する。
【0018】
ローカルカメラ14bは、例えばピッキング装置12のアーム22に取り付けられる。グローバルカメラ14aが定位置に固定されるのに対して、ローカルカメラ14bは、アーム22の動作に応じてコンテナ110の上方で水平方向及び鉛直方向に移動可能である。このため、ローカルカメラ14bは、コンテナ110に接近して把持対象の青果物114を撮像することが可能である。なお、ローカルカメラ14bは、ローカルカメラ14bの画角内にコンテナ110の全体が収まる位置に移動して、グローバルカメラ14aの代わりにコンテナ110の内部を撮像することも可能である。ローカルカメラ14bは、コンテナ110の内部を撮像して第2画像32bを取得し、取得した第2画像32bをコントローラ16に出力する。
【0019】
コントローラ16は、角度センサ28が出力するサーボモータ26の回転位置の情報と、1以上のカメラ14が出力する画像32と、に基づいて、ピッキング装置12の動作を制御する。
【0020】
図2に示されるように、コントローラ16は、制御回路34と、記憶装置36と、ドライバ38と、を有する。制御回路34は、画像取得部40と、近接検出部42と、生成部44と、第1選定部46と、再生成部48と、第2選定部50と、制御部52等として機能する。制御回路34は、例えば、CPU、GPU等のプロセッサによって構成される。この場合、記憶装置36に記憶されるプログラムがプロセッサによって実行されることによって、上記各部が実現される。なお、制御回路34は、例えば、ASIC、FPGA等の集積回路によって構成されても良い。また、制御回路34は、ディスクリートデバイスを含む電子回路によって構成されても良い。なお、GPU等のプロセッサによって人工知能が構成されても良い。この場合、人工知能は、機械学習又はディープラーニングによって青果物114の特徴量を学習することによって、青果物114を識別する。
【0021】
記憶装置36は、RAM、ROM及びハードディスク等の記憶媒体によって構成される。記憶装置36は、制御回路34によって生成される数テーブル54を記憶する。数テーブル54は、制御回路34によって生成される情報であって、図3に示されるように、青果物114の識別番号と、その青果物114に含まれる近接部60の数と、その青果物114が近接部60を共有する他の青果物114の識別番号と、を紐づけた情報である。近接部60の詳細については後述する。
【0022】
また、記憶装置36は、グローバルカメラ14aの位置を示す位置情報と、グローバルカメラ14aの撮像位置(コンテナ110が置かれる位置)を示す位置情報を記憶する。制御回路34は、これらの位置情報と第1画像32aに基づいて青果物114の位置を算出することができる。
【0023】
ドライバ38は、制御回路34から各サーボモータ26に関する動作指令(回転位置、回転速度等の目標値)を入力し、各サーボモータ26に電力を供給する。この際、ドライバ38は、各角度センサ28から各サーボモータ26の回転位置の情報(フィードバック信号)を入力し、各サーボモータ26の回転位置が動作指令の目標値に近づくようにフィードバック制御する。
【0024】
操作装置18は、マンマシンインターフェースとしてのタッチパネル(又はボタン)とディスプレイ等を有する。操作装置18は、オペレータがタッチパネルを操作した場合に、操作に応じた指示信号をコントローラ16に出力する。
【0025】
[2 ピッキング処理の具体例]
[2.1 第1実施形態]
図4を用いてピッキングシステム10が行うピッキング処理の第1実施形態の手順を説明する。図4は、第1実施形態の処理工程を示すフローチャートである。第1実施形態は、コンテナ110の内部に平置きされた複数の青果物114をベルトコンベア112に搬送する際に、青果物114に含まれる近接部60(図7A図7B)の数に応じて取り上げ順を決めるものである。
【0026】
コンテナ110が所定位置に置かれた状態で、オペレータは、操作装置18を操作してピッキング処理を開始させる。オペレータの操作に応じて、操作装置18からコントローラ16に開始指示信号が出力され、以下で説明する一連の処理が開始される。
【0027】
ステップS1において、グローバルカメラ14aは、コンテナ110の内部を撮像し、第1画像32a(図5)を取得する。このとき、画像取得部40は、グローバルカメラ14aから第1画像32aを取得する。なお、グローバルカメラ14aは、コントローラ16が出力する撮像指示に応じて第1画像32aを取得しても良いし、任意のタイミングで第1画像32aを取得しても良い。また、グローバルカメラ14aの代わりに、ローカルカメラ14bが所定位置まで上昇してコンテナ110の内部を撮像しても良い。ステップS1が終了すると、処理はステップS2に移行する。
【0028】
ステップS2において、近接検出部42は、青果物114の輪郭56に対応する仮想の円58を生成する。例えば、近接検出部42は、第1画像32aにおいて円形のテンプレート画像を用いてテンプレートマッチングを行い、第1画像32a内の複数の青果物114を認識する。そして、近接検出部42は、図6に示されるように、各青果物114の周囲に仮想の円58を生成する。この円58は青果物114とみなされる。
【0029】
例えば、近接検出部42は、青果物114の輪郭56の外接円58a(最小包含円)を生成し、これを円58としても良い。但し、外接円58aの精度は、照明、グローバルカメラ14aの状況、又は、画像処理等によって変わる。外接円58aの精度が低い場合、2つの青果物114同士が実際に接していても、外接円58a同士が接しない場合がある。2つの青果物114同士が接している又は近接していることを見落とさないためには、外接円58aを大きくすれば良い。このような観点で、例えば、近接検出部42は、外接円58aから外側にD/2だけ離間する外周円58bを生成し、これを円58としても良い。外周円58bを円58とすることにより、下記ステップS4において近接検出部42は、所定間隔D以内だけ離間する2つの青果物114が共有する1つの近接部60を検出することができる。なお、ここでいう所定間隔Dは、青果物114の直径よりも小さい距離であり、好ましくは、青果物114の半径よりも小さい距離である。ステップS2が終了すると、処理はステップS3に移行する。
【0030】
ステップS3において、近接検出部42は、各円58に識別番号を付与する。例えば、近接検出部42は、各円58に1から順に連番となる識別番号を付与する。識別番号は任意の方法で付与可能である。ステップS3が終了すると、処理はステップS4に移行する。
【0031】
ステップS4において、近接検出部42は、図7Aに示されるように隣り合う円58同士が重畳する部分と、図7Bに示されるように隣り合う円58同士が接する部分と、を検出する。近接検出部42は、これらの部分を近接部60として認識する。また、近接検出部42は、各円58に含まれる近接部60の数を検出する。例えば、ある円58にn個の他の円58が近接する場合、近接部60の数はnになる。ステップS4が終了すると、処理はステップS5に移行する。
【0032】
ステップS5において、生成部44は、青果物114毎に、円58の識別番号と、その円58に含まれる近接部60の数と、その円58が近接部60を共有する他の円58の識別番号と、を紐づけた数テーブル54を生成する。そして、生成部44は、数テーブル54を記憶装置36に保存する。ステップS5が終了すると、処理はステップS6に移行する。
【0033】
ステップS6において、第1選定部46は、数テーブル54の中で近接部60の数が最小となる識別番号を判別する。更に、第1選定部46は、判別された識別番号により識別される青果物114を選定する。このとき、近接部60の数が最小となる識別番号が複数存在する場合、第1選定部46は、例えば最小の識別番号が付与されている青果物114を選定する。又は、第1選定部46は、近接部60の数が最小となる識別番号の中からその時点の把持部24の位置に最も近い位置にある青果物114を選定しても良い。そして、第1選定部46は、選定した青果物114に取り上げ順としてn(n=1)番目を割り振る。ステップS6が終了すると、処理はステップS7に移行する。
【0034】
ステップS7において、再生成部48は、数テーブル54を再生成する。図8は再生成された数テーブル54の一例を示す。例えば、ステップS6で第1選定部46が識別番号「1」の青果物114にn(n=1)番目を割り振った場合、再生成部48は、図8に示されるように、再生成前の数テーブル54から識別番号「1」の情報を削除する。更に、再生成部48は、削除前の識別番号「1」の情報を参照する。仮に、識別番号「1」に近接部60を共有する青果物114(円58)の識別番号が登録されていない場合、識別番号「1」の情報を削除するのみでステップS7は終了する。一方、図3に示されるように、識別番号「1」に近接部60を共有する青果物114(円58)の識別番号が登録されている場合、再生成部48は、近接部60を共有する青果物114(円58)の識別番号「2」を判別する。そして、再生成部48は、識別番号「2」の情報から、識別番号「1」の情報を削除し、識別番号「2」の近接部60の数を1だけ減らす。
【0035】
なお、ここでいう数テーブル54の再生成とは、既存の数テーブル54に基づいて数テーブル54を新たに作成することに加えて、既存の数テーブル54の一部を修正することを含む概念である。すなわち、再生成部48は、ステップS7の処理を行う度に新規の数テーブル54を作成しても良いし、ステップS7の処理を行う度に既存の数テーブル54の一部を修正するとともに残りの部分を再利用しても良い。ここでいう数テーブル54の修正というのは、各データの近接部60の数の修正、各データの近接部60を共有する青果物114の識別番号の修正、データ自体の削除等のことをいう。ステップS7が終了すると、処理はステップS8に移行する。
【0036】
ステップS8において、第2選定部50は、直近に再生成された数テーブル54の中で近接部60の数が最小となる識別番号を判別する。更に、第2選定部50は、判別された識別番号により識別される青果物114を選定する。ここで行われる基本的な処理はステップS6の処理と同じである。第2選定部50は、選定した青果物114に取り上げ順としてn(n=n+1)番目を割り振る。ステップS8が終了すると、処理はステップS9に移行する。
【0037】
ステップS9において、第2選定部50は、順番が割り振られていない青果物114の有無を判定する。順番が割り振られていない青果物114がある場合(ステップS9:YES)、処理はステップS7に戻る。一方、順番が割り振られていない青果物114がない場合(ステップS9:NO)、処理はステップS10に移行する。
【0038】
ステップS7~ステップS9の処理は、順番が割り振られていない青果物114がなくなるまで繰り返し実行される。
【0039】
ステップS10において、制御部52は、青果物114を決められた順番で取り上げるようにピッキング装置12を制御する。このとき、制御部52は、ピッキング装置12の各角度センサ28が出力する回転位置の情報から、把持部24及びローカルカメラ14bの位置を算出することができる。制御部52は、取り上げる青果物114の位置を特定し、把持部24を青果物114の上方に移動させる。
【0040】
青果物114の上方に把持部24が移動した後、ローカルカメラ14bは、選定された青果物114を上方から撮像し、第2画像32bを取得する。ローカルカメラ14bは、取得した第2画像32bをコントローラ16に出力する。このとき、画像取得部40は、第2画像32bを取得する。なお、ローカルカメラ14bは、コントローラ16が出力する撮像指示に応じて第2画像32bを取得しても良いし、任意のタイミングで第2画像32bを取得しても良い。
【0041】
制御部52は、第2画像32bを使用して青果物114の大きさ及び位置を認識し、把持部24の回転角度等を調整した後に、目標高さ位置を設定して把持部24を下方に移動させる。ピッキング装置12は、把持部24を目標高さ位置で青果物114を把持して取り上げてベルトコンベア112まで搬送する。
【0042】
青果物114の搬送後、制御部52は、次の順番の青果物114を取り上げるようにピッキング装置12を制御する。制御部52が最後の順番の青果物114を搬送し終えたときに、一連の処理は終了する。
【0043】
[取り上げ順の割り振りの一例]
図9図14を用いて青果物114の取り上げ順の割り振りの一例を説明する。図9図14は、上方からみた1以上の青果物114を模式化して示す。各図に示される各円形は青果物114である。このうち実線の円形は取り上げ順が決められていない青果物114を示し、破線の円形は取り上げ順が決められた青果物114を示す。また、破線の円形の内部に付される数字は割り振られた順番を示す。また、各円形の近傍に付される()内の左側の数字は青果物114の識別番号を示し、右側の数字は近接部60の数を示す。各図で示される識別番号と近接部60の数は、直近に再生成される数テーブル54に記録されるものである。
【0044】
以下の一例において、ピッキングシステム10は、1個の青果物114に順番を割り振ると、その青果物114に近接する他の青果物114(の識別情報)に紐づけられる近接部60の数を1つ減らす処理を行う。なお、以下の一例では、第1選定部46及び第2選定部50は、近接部60の数が最小となる識別番号が複数存在する場合に最小の識別番号が付与されている青果物114を選定する。
【0045】
図9には、識別番号「1」~「10」の10個の青果物114がある。生成部44は、()内の2つの数字を紐づけた数テーブル54(図3)を生成する。複数の青果物114のうち、近接部60の数が最も少ない青果物114は2個(青果物114a、114b)ある(近接部60の数=1)。第1選定部46は、2個の青果物114のうち、識別番号が小さい青果物114aを選定して1番目の順番を割り振る。
【0046】
すると、図10に示されるように、識別番号「2」~「10」の9個の青果物114が順番を割り振られていない青果物114として残る。再生成部48は、()内の2つの数字を紐づけた数テーブル54(図8)を再生成する。第2選定部50は、複数の青果物114のうち、近接部60の数が最も少ない識別番号「10」の青果物114bを選定して2番目の順番を割り振る。
【0047】
すると、図11に示されるように、識別番号「2」~「9」の8個の青果物114が順番を割り振られていない青果物114として残る。再生成部48は、()内の2つの数字を紐づけた数テーブル54を再生成する。第2選定部50は、複数の青果物114のうち、近接部60の数が最も少ない識別番号「9」の青果物114cを選定して3番目の順番を割り振る。
【0048】
すると、図12に示されるように、識別番号「2」~「8」の7個の青果物114が順番を割り振られていない青果物114として残る。ここで、順番が割り振られた青果物114cに近接していた識別番号「8」の青果物114gの近接部60の数が1だけ減らされる。複数の青果物114のうち、近接部60の数が最も少ない青果物114は4個(青果物114d~114g)ある(近接部60の数=2)。第1選定部46は、4個の青果物114のうち、識別番号が小さい青果物114dを選定して4番目の順番を割り振る。
【0049】
図10図12を用いて説明した処理と同等の処理が繰り返し実行される。すると、順番が割り振られていない青果物114は、図13図14に示されるように徐々に減っていき、図15に示されるように、全ての青果物114に順番が割り振られる。
【0050】
[2.2 第2実施形態]
図16を用いてピッキングシステム10が行うピッキング処理の第2実施形態の手順を説明する。図16は、第2実施形態の処理工程を示すフローチャートである。第2実施形態は、コンテナ110の内部に積み上げられた複数の青果物114をベルトコンベア112に搬送する際に、青果物114に含まれる近接部60の数に応じて取り上げ順を決めるものである。
【0051】
図16に示されるステップS15とステップS17~ステップS24の処理は、図4に示されるステップS2~ステップS10の処理と同じである。このため、以下では、第1実施形態と異なるステップS11~ステップS14及びステップS16の処理について説明する。
【0052】
なお、第2実施形態では、青果物114の3次元の位置を検出する必要がある。このため、グローバルカメラ14aとして、2次元の第1画像32aと距離画像(不図示)とを同時に取得することができるTOFカメラ等が使用される。
【0053】
ステップS11において、グローバルカメラ14aは、コンテナ110の内部を撮像し、第1画像32a及び距離画像を取得する。このとき、画像取得部40は、グローバルカメラ14aから第1画像32a及び距離画像を取得する。ステップS11が終了すると、処理はステップS12に移行する。
【0054】
ステップS12において、近接検出部42は、第1画像32aに基づいてコンテナ110の内部に青果物114があるか否かを判定する。青果物114がある場合(ステップS12:YES)、処理はステップS13に移行する。一方、青果物114がない場合(ステップS12:NO)、図16に示される一連の処理は終了する。
【0055】
ステップS13において近接検出部42は、距離画像に基づいて複数の青果物114の中でグローバルカメラ14aから最も近い最高点を特定する。最高点というのは、コンテナ110の内部で最も高い点(頂点)のことをいう。コンテナ110の内部に複数の青果物114が入れられている場合、複数の青果物114の中で最も高い位置に置かれた青果物114の頂点が最高点となる。ステップS13が終了すると、処理はステップS14に移行する。
【0056】
ステップS14において、近接検出部42は、距離画像において、最高点から下方に所定距離以上離間する範囲を特定し、特定した範囲をマスク領域とするレイヤーマスクを作成する。なお、ここでいう所定距離は、青果物114の平均高さの70%~80%程度の長さである。所定距離は記憶装置36に予め記憶されている。そして、近接検出部42は、作成したレイヤーマスクで第1画像32aをマスクする。すると、第1画像32aにおいて、最高点から下方への離間距離が所定距離未満である範囲はそのまま画像が残される一方で、最高点から下方への離間距離が所定距離以上である範囲はマスクされる。ステップS14が終了すると、処理はステップS15に移行する。
【0057】
ステップS15において、ステップS2と同等の処理が行われた後に、処理はステップS16に移行する。ステップS16において、近接検出部42は、所定面積以下の円58を除去する。ここでいう除去とは、以降に行うステップS17及びステップS18の処理で処理対象の円58としないことを意味する。ステップS14とステップS16の処理を行うことによって、最高点に位置する青果物114に対して高さ方向に離間する青果物114を近接判定の対象から外すことができる。ステップS16が終了すると、処理はステップS17に移行し、図4に示されるステップS3以降の処理と同じ処理が実行される。
【0058】
そして、ステップS24の処理が終了すると、処理はステップS11に戻り、次の高さ範囲に置かれた複数の青果物114に対する処理が実行される。
【0059】
[3 実施形態から得られる技術的思想]
上記実施形態から把握しうる技術的思想について、以下に記載する。
【0060】
本発明の第1の態様は、球状の複数の作物(青果物114)の中から1つの前記作物を選定して取り上げるピッキング方法であって、複数の前記作物を上方から撮像した画像32を取得する画像取得ステップと、前記画像32において、前記作物同士が所定の間隔以内で近接する近接部60を検出するとともに前記作物毎に前記近接部60の数を検出する近接検出ステップと、複数の前記作物の各々と前記近接部60の数とを紐づけた数テーブル54を生成する生成ステップと、前記数テーブル54に基づいて、複数の前記作物を1つずつ取り上げる順番を選定する選定ステップと、を含み、前記選定ステップは、前記数テーブル54の中で前記近接部60の数が最小となる前記作物を1番目に取り上げる前記作物として選定する第1選定ステップと、前記数テーブル54から、選定された前記作物と前記近接部60の数とを紐づけた情報を削除し、且つ、選定された前記作物と近接する前記作物の前記近接部60の数を1だけ減らした前記数テーブル54を再生成する再生成ステップと、直近に再生成された前記数テーブル54の中で前記近接部60の数が最小となる前記作物を次に取り上げる前記作物として選定する第2選定ステップと、を有し、全ての前記作物が選定されるまで前記再生成ステップと前記第2選定ステップとを繰り返し実行することで、複数の前記作物を1つずつ取り上げる順番を選定する。
【0061】
近接部60の数が多い作物の周囲は密であり、その作物の取り上げの際にはピッキング装置12の指部が周囲の作物に接触する可能性が比較的高い。一方、近接部60の数が少ない作物の周囲は疎であり、その作物の取り上げの際にはピッキング装置12の指部が周囲の作物に接触する可能性は低い。上記構成によれば、ピッキング装置12は、作物同士が近接する近接部60の数が少ない作物から順に取り上げを行う。言い換えると、ピッキング装置12は、近接部60の数が多い作物の取り上げは後回しにする。但し、当初は近接部60の数が多い作物であっても、作物の取り上げが進むにつれて周囲の作物の数が減っていく。このため、結果として、当初は近接部60の数が多い作物も、取り上げ時には近接部60の数が少なくなっている。従って、上記構成によれば、ピッキング装置12の指部が作物に接触しないような順番でピッキングを行うことができる。
【0062】
また、上記構成によれば、第1画像32aを1回取得することで同一高さの全作物の取り上げ順が決められるため、1個の作物が取り上げられる度に第1画像32aを取得してその都度順番を決める場合よりもピッキング処理を高速に行うことができる。
【0063】
また、上記構成によれば、近接部60の数の計算と比較といった単純な処理で作物の取り上げ順を決定することができる。
【0064】
第1の態様において、前記生成ステップでは、前記作物に識別番号を付与し、前記識別番号と前記近接部60の数とを紐づけるとともに、前記近接部60を共有する前記作物の前記識別番号を紐づけた前記数テーブル54を生成し、前記再生成ステップでは、前記第1選定ステップで選定された前記作物と近接する前記作物を、前記数テーブル54を参照することによって判定し、判定された前記作物の前記近接部60の数を1だけ減らしても良い。
【0065】
第1の態様において、前記近接検出ステップでは、前記画像32において、前記作物を含む仮想の円58を生成し、前記円58同士が重畳又は接する部分を前記近接部60として検出しても良い。
【0066】
上記構成によれば、作物の輪郭56を単純な円58に置換するため、輪郭56が曖昧であっても近接部60を生成することができる。
【0067】
第1の態様において、前記近接検出ステップでは、前記円58の半径を、前記作物の外接円58aの半径よりも所定の長さだけ長くしても良い。
【0068】
上記構成によれば、円58を大きくするため、近接すると判定する範囲を広くすることができ、ピッキング装置12の指部がより作物に接触しないような順番でピッキングを行うことができる。
【0069】
本発明の第2の態様は、球状の複数の作物(青果物114)の中から1つの前記作物を選定して取り上げるピッキングシステム10であって、前記作物を把持するピッキング装置12と、複数の前記作物を上方から撮像して複数の前記作物の画像32を取得するカメラ14と、前記ピッキング装置12を制御する制御回路34と、を備え、前記制御回路34は、前記カメラ14から前記画像32を取得する画像取得部40と、前記画像32において、前記作物同士が所定の間隔以内で近接する近接部60を検出するとともに前記作物毎に前記近接部60の数を検出する近接検出部42と、複数の前記作物の各々と前記近接部60の数とを紐づけた数テーブル54を生成する生成部44と、前記数テーブル54の中で前記近接部60の数が最小となる前記作物を1番目に取り上げる前記作物として選定する第1選定部46と、前記数テーブル54から、選定された前記作物と前記近接部60の数とを紐づけた情報を削除し、且つ、選定された前記作物と近接する前記作物の前記近接部60の数を1だけ減らした前記数テーブル54を再生成する再生成部48と、直近に再生成された前記数テーブル54の中で前記近接部60の数が最小となる前記作物を次に取り上げる前記作物として選定する第2選定部50と、を有する。
【0070】
上記構成によれば、第1の態様と同じ効果が得られる。
【0071】
なお、本発明に係るピッキング方法及びピッキングシステムは、前述の実施形態に限らず、本発明の要旨を逸脱することなく、種々の構成を採り得ることはもちろんである。
【符号の説明】
【0072】
10…ピッキングシステム 12…ピッキング装置
14…カメラ 14a…グローバルカメラ
32…画像 32a…第1画像
34…制御回路 40…画像取得部
42…近接検出部 44…生成部
46…第1選定部 48…再生成部
50…第2選定部 54…数テーブル
58…円 60…近接部
114…青果物(作物)
図1
図2
図3
図4
図5
図6
図7
図8
図9
図10
図11
図12
図13
図14
図15
図16