(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】
(24)【登録日】2024-01-12
(45)【発行日】2024-01-22
(54)【発明の名称】対象ワークの識別移載装置及び識別移載方法
(51)【国際特許分類】
B25J 13/08 20060101AFI20240115BHJP
G06T 7/70 20170101ALI20240115BHJP
G06T 7/00 20170101ALI20240115BHJP
【FI】
B25J13/08 A
G06T7/70 Z
G06T7/00 350B
(21)【出願番号】P 2020088802
(22)【出願日】2020-05-21
【審査請求日】2023-04-18
(31)【優先権主張番号】P 2019095564
(32)【優先日】2019-05-21
(33)【優先権主張国・地域又は機関】JP
【早期審査対象出願】
(73)【特許権者】
【識別番号】505384449
【氏名又は名称】株式会社別川製作所
(73)【特許権者】
【識別番号】000231637
【氏名又は名称】株式会社ニップン
(74)【代理人】
【識別番号】100105809
【氏名又は名称】木森 有平
(72)【発明者】
【氏名】魚岸 祐志
(72)【発明者】
【氏名】高筒 正義
(72)【発明者】
【氏名】本田 敦
(72)【発明者】
【氏名】石田 沙弥香
【審査官】杉山 悟史
(56)【参考文献】
【文献】特開2014-108868(JP,A)
【文献】特開2014-058004(JP,A)
【文献】特開2018-027581(JP,A)
【文献】特開2018-201447(JP,A)
【文献】特開2017-173142(JP,A)
(58)【調査した分野】(Int.Cl.,DB名)
B25J 1/00 ~ 21/02
G06T 7/00 ~ 7/90
(57)【特許請求の範囲】
【請求項1】
調味料や具材などの食品が封入された対象ワークを識別して移載する対象ワークの識別移載装置であって、
撮像部と、制御部と、アームロボットを備え、
前記撮像部は、無造作に積まれた複数の対象ワークを撮像し、
前記制御部は、前記撮像部で撮像された情報から捕捉対象ワークを検出する捕捉対象ワーク検出機能と、捕捉対象ワークを移載させるように前記アームロボットを制御するアームロボット制御機能を有し、
捕捉対象ワーク検出機能は、前記撮像部で撮像した対象ワークの情報と、制御部が有する対象ワークの情報から、類似度を判定し、前記類似度の値に、事前にスコア化された前記アームロボットからの距離に応じて付与されるスコアを加算して合計値を求め、
前記合計値の最も大きな対象ワークを捕捉対象ワークと判定し、アームロボット制御機能によりアームロボットで移載することを特徴とする対象ワークの識別移載装置。
【請求項2】
前記制御部が類似度を判定するために有する対象ワークの情報は、
深層学習や機械学習といった人工知能(AI)により得られる情報であることを特徴とする請求項1に記載の対象ワークの識別移載装置。
【請求項3】
前記制御部による類似度の判定において、前記対象ワークが調味料や具材などの食品が封入された袋体であり、その大きさ、形状、色、表面の図柄のうちの少なくとも一つ撮像画像が利用されることを特徴とする請求項1または2記載の対象ワークの識別移載装置。
【請求項4】
前記制御部は、捕捉対象ワークの中心位置を検出する中心位置検出機能を有し、捕捉対象ワークの中心位置と前記撮像部との距離を算出し、捕捉対象ワークの中心位置をアームロボットにより捕捉することを特徴とする請求項1から3のうちいずれか一項に記載の対象ワークの識別移載装置。
【請求項5】
前記制御部は、捕捉対象ワークの向き・傾き判別機能を有し、捕捉対象ワークの向き・傾きに応じてアームロボットを捕捉に最適な角度に制御し、捕捉した対象ワークを一定の向きで移載することを特徴とする請求項1から4のうちいずれか一項に記載の対象ワークの識別移載装置。
【請求項6】
調味料や調理用の具材などの食品が封入された対象ワークを識別して移載する対象ワークの識別移載方法であって、
撮像部と、制御部と、アームロボットを備え、
前記撮像部は、無造作に積まれた複数の対象ワークを撮像し、
前記制御部は、前記撮像部で撮像された情報から捕捉対象ワークを検出する捕捉対象ワーク検出機能と、捕捉対象ワークを移載させるように前記アームロボットを制御するアームロボット制御機能を有し、
捕捉対象ワーク検出機能は、前記撮像部で撮像した対象ワークの情報と、制御部が有する対象ワークの情報から、類似度を判定する判定ステップと、前記類似度の値に、事前にスコア化された前記アームロボットからの距離に応じて付与されるスコアを加算して合計値を求める合計値算出ステップにより、
前記合計値の最も大きな対象ワークを捕捉対象ワークと判定し、アームロボット制御機能によりアームロボットで移載することを特徴とする対象ワークの識別移載方法。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、調味料や具材などの食品が封入された対象ワーク(袋体)を識別して所定位置に運搬する対象ワークの識別移載装置及び識別移載方法に関する。
【背景技術】
【0002】
本願発明は、調味料や調理用の具材などの食品を封入した対象ワーク(袋体)を捕捉し、コンベアで搬送されている容器などの移載先に収容する対象ワークの識別移載装置に関する。調味料や調理用具材を封入する袋体は、封入物を視認することができる一部または全体が透明な樹脂製等のフィルム、ないしは、封入物を視認することができない不透明な樹脂製等のフィルムで構成されているのが一般的である。袋体に封入される調味料としては、醤油、ソース、ドレッシング、タレ、つゆ等の液体状調味料、刻み海苔、刻みネギ、七味、擦りゴマ、胡椒等の固形状又は粉末状調味料、練りわさび、大根おろし、おろし生姜、マヨネーズ、ケチャップ、コチュジャン等のペースト状調味料等が知られている。袋体に封入される調理用の具材として、うどんやパスタ等の茹で麺類、チャーシュー等の食肉加工食品、味付け卵等の卵加工食品、乾燥カット野菜や乾燥エビ等の乾燥食品等が知られている。このような調味料や調理用の具材などを封入した袋体は、弁当等の容器詰め食品の製造ラインにおいて、その種別ごとにコンテナボックスや深底あるいは浅底トレーにバラ積みされた状態で供給され、製造ライン上で順次に手作業あるいは装置により容器に収容される。このようなバラ積み状態の調味料や調理用の具材を封入した袋体を移載する識別移載装置に関しての先行文献は少ないが、このような装置に関するものとしては下記のものがあり、本願出願人も関連するものを出願している。
【0003】
特許文献1は、「(課題)不定形状、不定重量の対象物に対するピッキング機能を向上する。(解決手段)対象物の形状情報を取得するカメラ2及び制御手順(ステップS105~S120)と、対象物の形状情報に基づいて当該対象物の重量を推定する重量推定部32と、対象物に対するピッキング動作を行うピッキングロボット5と、重量推定部32で推定した重量に基づいてピッキングロボット5のピッキング動作を制御する作業計画部33と、を有し、重量推定部32は、入力される対象物の形状情報と出力すべき重量との対応関係を学習した機械学習(例えば人工ニューラルネットワーク)により当該対象物の重量を推定する。」ピッキング装置が開示されている。
【0004】
特許文献2は、「(課題)高い再現性を伴って粉末状ないし粒子状の食材を自動的に振りかけることができる自動選別移載装置を提供すること。(解決手段)下方に向けて垂下された回転軸と、回転軸を軸線回りに回転させる回転駆動機構と、回転軸の下端部に設けられた底板14と、底板の周囲を取り囲むように設けられ、平面視で底板よりも大きい内面を有する下方筒体22と、底板の上方側に設けられ、平面視で底板よりも小さい内面を有する上方筒体21と、を備え、上方筒体の下端と底板の上面との間には、隙間Gが設けられている。」自動選別移載装置が開示されている。
【0005】
特許文献3は、「(課題)照明光や外光による照明条件や板材の切削油の塗布状態等の撮影条件に左右されずに正確に板材等の計測対象物の位置や傾き情報を求めることが可能な画像処理装置および画像処理方法を提供する。(解決手段)本発明の画像処理装置100は、計測対象物5に照明光を照射する照明部6と、前記計測対象物5をはさんで前記照明部6と相対する位置から前記計測対象物5全体の撮像画像を取得する撮像部12と、前記計測対象物5の特定形状の範囲の位置計測データを計測する位置計測部2と、画像処理部4を備え、前記画像処理部4は、前記撮像画像から前記位置計測部2が計測する計測範囲を算出する計測位置算出部43と、前記位置計測データと3次元基準データから前記計測対象物の傾き情報を求める傾き情報抽出部44を有することを特徴とする。」画像処理装置を開示している。
【先行技術文献】
【特許文献】
【0006】
【文献】特開2018-27581号公報
【文献】特開2018-201447号公報
【文献】特開2017-173142号公報
【発明の概要】
【発明が解決しようとする課題】
【0007】
しかしながら、調味料や具材などの食品を封入した対象ワーク(袋体)を弁当箱などの容器に収容する際に、バラ積みされた袋体を一つずつ正確に認識・捕捉し、効率よく容器に収容することは難しかった。例えば、バラ積みされた袋体が多数入れられたトレーの中では、袋体の重なり度合、形状、向き、傾きなどが雑然とした状態となっており、また、透明な袋体では、袋体の形状を機械では識別できない場合があるといった課題を有する。
【0008】
そこで本発明の目的は、対象ワークの形状や、色、表面の図柄などに関わらず、無造作に配された対象ワークの中から対象ワークを正確に識別して、効率的に運搬する精度の高い対象ワークの識別移載装置及び識別移載方法を提供することにある。
【0009】
本発明は、調味料や具材などの食品が封入された対象ワークを識別して、移載する対象ワークの識別移載装置であって、撮像部と、制御部と、アームロボットを備え、前記撮像部は、無造作に積まれた複数の対象ワークを撮像し、前記制御部は、前記撮像部で撮像された情報から捕捉する対象ワークを検出する、捕捉対象ワーク検出機能と、捕捉対象ワークを移載させるように前記アームロボットを制御するアームロボット制御機能を有し、捕捉対象ワーク検出機能は、前記撮像部で撮像した対象ワークの情報と、制御部が有する対象ワークの情報から、類似度を判定するステップと、前記類似度の値に、事前にスコア化された前記アームロボットからの距離スコアを加算して合計値を求めるステップにより、前記合計値の最も大きな対象ワークを捕捉対象ワークと判定し、アームロボットにより移載することを特徴とする。
本発明によれば、複数の対象ワークが無造作に積まれた中から、正確に対象ワークを検出し、検出された複数の対象ワークのうち、アームロボットからの距離が近いものを捕捉対象ワークと判定することで、効率的な移載作業を行うことができる。
【0010】
次に、本発明は、制御部が類似度を判定するために有する対象ワークの情報は、深層学習や機械学習といった人工知能(AI)により得られる情報であることを特徴とし、制御部による類似度の判定には、撮像部で撮像された情報のうち、対象ワークの大きさ、形状、色、表面の図柄のうち、少なくとも一つが利用されることを特徴とする。
本発明によれば、制御部は深層学習や機械学習といった人工知能(AI)によって、対象ワークの情報を習得するので、対象ワークの大きさ、形状、色、表面の図柄などに制限がなく、どのような情報を制御部に提供するかによって、所望する様々な形態の対象ワークの識別が可能となり、その精度も向上させていくことができる。
【0011】
さらに、本発明の制御部は、対象ワークの中心位置を検出する中心位置検出機能を有し、対象ワークの中心位置と前記撮像部との距離を算出し、対象ワークの中心位置をアームロボットにより捕捉することを特徴とする。
本発明によれば、深層学習や機械学習といった人工知能(AI)による学習を応用し、対象ワークの中心位置を検出する機能を持たせることで、比較的大きな対象ワーク、円形など多様な形状の対象ワークであっても、捕捉後の脱落などのミスなく移載を行うことができる。
【0012】
また、本発明の制御部は、対象ワークの向き・傾き判別機能を有し、対象ワークの向きに応じてアームロボットを捕捉に最適な角度に制御し、捕捉した対象ワークを一定の向きで移載先に配することを特徴とする。
本発明によれば、深層学習や機械学習といった人工知能(AI)による学習を応用し、対象ワークの向き判別機能を持たせることで、移載先(ここでは、弁当などの食品用容器内)に、所望する向きに揃えて捕捉された対象ワークを収容することができ、収容(盛付け)抜けの発見が容易になり、製品の美観にも貢献する。
また傾き判別機能により、アームロボットを対象ワークの傾きに応じ、捕捉に最適な角度に制御するので、移載ミスの低減が図られる。
【発明の効果】
【0013】
本発明によれば、無造作に積まれた複数の対象ワークから、人工知能(AI)によって得られた情報を基に対象ワークを識別し、移載用のアームロボットからの距離を勘案して対象ワークとして検出するので、効率的な作業が可能となり、対象ワークの識別に利用する類似度など対象ワークの識別移載に必要な情報を深層学習や機械学習を行うことで、その作業精度向上を図ることも可能となる。
この効率化、精度向上により、人手不足の環境下、労働環境の改善や労働力の確保にも貢献する。
【図面の簡単な説明】
【0014】
【
図1】本発明の第1の実施形態である対象ワークの識別移載装置の配される搬送ラインを示す図である。
【
図2】上記実施形態の対象ワークの識別移載装置を示す図である。
【
図3】上記実施形態の捕捉対象ワーク判定プロセスを示す概略図である。
【
図4】上記実施形態による類似度判定状況を示す図である。
【
図5】上記実施形態によるトッピングの例を説明する図である。
【
図6】上記実施形態の撮像部による画像を示す図である。
【
図7】上記実施形態における距離スコアを説明する図である。
【
図8】上記実施形態における向き判別機能を説明する図である。
【
図9】上記実施形態の全体のステップを示す概略図である。
【
図10】上記実施形態の全体のステップの詳細を示す概略図である。
【発明を実施するための形態】
【0015】
本発明を適用した具体的な実施の形態について、図面を参照しながら以下、詳細に説明する。
【0016】
(本発明の第1の実施の形態)
図1は食品加工工場における搬送ラインHrを示す概略図であり、搬送ラインにおける対象ワークの識別移載装置100を詳細に示す図である。
対象ワークの識別移載装置100は、搬送ラインのベルトコンベア上を上流側から下流側へ流れる容器を移載先とし、前記ベルトコンベアを挟んで、アームロボットZ7と複数の対象ワークが無造作に積まれたトレーZ10が対向して配され、トレー上部には鉛直下向きにトレーを撮像できるように撮像部12が配されている(
図1、
図2)。
また、撮像部12と、撮像部12で撮像された画像データが処理される制御部46がネットワーク接続され、制御部46からの指示によりアームロボットZ7が対象ワークを捕捉し、容器に盛付け、下流側の蓋閉め等の工程に送られる。
本実施の形態における、対象ワーク5は麺つゆ、わさび等の薬味、醤油やソース等の調味料が封入してあり、ポリエステルや多層フィルム等によって構成された一般的な袋体であり、対象ワーク5を収容する移載先は弁当用の容器や透明な麺類の容器である。
【0017】
(撮像部12)
本実施の形態における撮像部12は、複数の対象ワーク(袋体)5が無造作にバラ積まれたトレーZ10の上部に鉛直下向きにトレー内を撮像できるように配され、撮像した画像データは、制御部において画像処理され判定や位置情報の取得に使用される。本実施の形態における撮像部12には、2Dカメラ、3Dカメラなどの産業用カメラや、奥行き認識可能なデプスカメラ(Depth Camera)を使用している。
【0018】
(制御部における捕捉対象ワーク検出機能)
本実施の形態の制御部46における対象ワーク検出機能47は、機械学習や深層学習といった人工知能(AI)によって得られる対象ワーク5の情報を基に、撮像部12によって撮像された画像データから、移載対象として検出すべき対象ワーク5を識別する。
ここで、「対象ワークの識別」とは、撮像部12で得られたRGB画像データやDepth画像データと、対象ワークを検出するために深層学習のうちSSDによる学習済みモデルによって得られる対象ワークの情報とを照合し、その合致度合いを「類似度」Rとして数値化し、類似度(数値)が高いものほど検出すべき対象ワーク5である可能性が増加することを意味する。類似度判定部48は、撮像部12で得られた画像を、画像処理部4を経て、前記学習済みモデルと照合することで、捕捉する対象ワーク(以後、捕捉対象ワーク)5aを判定する(
図3)。その一例としては、
図4から、対象ワーク5を識別し、類似度の高いものから順に5件検出していることが分かる。類似度Rの算出には(前記制御部による類似度の判定)には、前記撮像部12で撮像された撮像情報のうち対象ワーク5の大きさ、形状、色、表面の図柄のうちの少なくとも一つが利用される。
【0019】
図5は、麺類の容器Z8に、わさびの袋5Wと麺つゆの袋5MをアームロボットZ7で詰め込む作業を行うことを説明する図である。
図6は、撮像部12によって得られたRGB画像Z21とDepth画像Z22を示した例を説明する図である。
次に、前述の撮像部12によって得られる画像データの画角(撮影領域)に、後述するアームロボットZ7からの距離に応じた距離スコアをあらかじめ設定しておき、検出された対象ワーク5の位置に応じて距離スコアを付与し、類似度に加算し、最も値が大きく表れた対象ワーク5を移載する捕捉対象ワーク5として判定する。
【0020】
図7は、あらかじめ設定された距離スコアを示す図であり、本実施の形態においては、アームロボットZ7の位置を中心とし、対象ワーク5の大きさを基に、所定の半径rの半円から、半径2rの半円、半径3r・・・Nrと徐々に半径の大きな同心円の半円をN個描き、N個の半円内に対象ワーク5があれば150点を加点するが、抽出された対象ワーク5のうち、複数がN個の半円内にある場合は、N個のうち幾つの半円に重なるかにより、半円に重なった数をMとして、類似度+150点×Mとする計算式で最も値が大きく表れた対象ワーク5を捕捉対象ワーク5aであると判定することになる。
これによりアームロボットZ7の移動距離を短縮させ、効率的な移載(容器への盛付け)が可能となるが、距離スコアの付与方法は、アームロボットZ7からの距離が近い半円から順に大きなスコアを設定するようにするなど上記方法に限定されない。
【0021】
(制御部における捕捉対象ワーク5aの向き判別機能及び中心検出機能)
そして、画像データから最も値が大きく表れて捕捉対象ワーク5aであると判定された対象ワーク5aの所定の領域を、前述の画像データから抽出し、対象ワーク5aの向きを判別する。
本実施の形態においては、捕捉対象ワーク5aの向きとは、その検出範囲が-180°<θ≦+180°で、画像データはトレーを上方から鉛直下向きに撮像されたものであるため、鉛直方向に対し、対象ワーク5aが0°を基準に何度回転した状態かを判別することになる(
図8)。
さらに、捕捉対象ワーク5aの中心5cを求めることになるが、捕捉対象ワーク5aの向きの判別、中心検出にも深層学習によってモデル化された情報が用いられる。
捕捉対象ワーク5aの向き判別機能は、移載先である容器への盛付に際し、捕捉対象ワーク5aの向きも所望の向きに揃えることを可能とするものであり、対象ワーク5の中心位置検出機能は、比較的サイズや重量の大きな対象ワーク5や円形など多様な形状の対象ワーク5をアームロボットZ7で捕捉する際、捕捉ミスや運搬中の脱落を防止する効果も得られる。
これらの機能は、盛付け抜けなどのミスも防止でき、ミスの有無確認が容易になると同時に、完成した製品の美観などの観点からも有意義なものと言える。
【0022】
(制御部における高さ位置測定機能)
上記ステップにより、捕捉対象ワーク5aが平面上(X-Y平面)でどこにどの向きで存在しているかが把握できたが、次に、検出された捕捉対象ワーク5aの中心と撮像部12との距離を測定することで、捕捉対象ワーク5aの高さ位置(Z軸)を測定し、位置を3次元的(X-Y-Z)に把握することになる。本実施の形態では、奥行(ここでは高さ)を認識できるDepth画像を基に、撮像部(デプスカメラ)12と捕捉対象ワーク5aの中心との距離を求める。
【0023】
この後、捕捉対象ワーク5aの位置情報を、画像データを基にしたピクセル座標系(px)からワールド座標系(mm)へ変換すると同時に、捕捉対象ワーク5aの向き情報と高さ位置情報を基に傾きを求め、アームロボットZ7が捕捉対象ワーク5aにどのようにアプローチして捕捉すればよいかの最適解を伝達し、捕捉するよう指令を出すことになる。
【0024】
(アームロボット)
アームロボットZ7は、制御部46と接続されており、制御部からの指令に基づき、トレー内に無造作に積まれた複数の対象ワーク5の中から捕捉対象ワーク5aを捕捉し、移載先である容器に盛付けする。本実施の形態のアームロボットZ7は、アームを2つ有しており、それぞれ別のトレーZ10から対象ワークを識別して容器に移載する。
図9は上記一連のステップをフロー図で表したものであり、上記ステップが繰り返し行われることとなる。
本実施の形態では、アームロボットZ7は捕捉対象となる袋体の向き、傾きに応じて袋体を捕捉する方法として、真空式で、対象となる袋体を吸着させる方法が取られているが、その方法は限定されるものではない。
【符号の説明】
【0025】
100 対象ワークの識別移載装置、
12 撮像部(撮像カメラ)、
4 画像処理部、
46 制御部、
47 対象ワーク検出機能、
48 類似度判定部、
5 対象ワーク(袋体)、
5a 捕捉対象ワーク、
5c 対象ワークの中心、
5W わさび(ワサビの入った合成樹脂製の袋体)、
5M 麺つゆ(麺つゆの入った合成樹脂製の袋体)、
Hr 搬送ライン、
R 類似度、
r,2r,3r 距離スコア、
Z7 アームロボット、
Z8 移載先(プラスチック製の食品容器)、
Z10 トレー(対象ワークが無造作に積まれた容器)、
Z21 RGB画像、
Z22 Depth画像