(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公開特許公報(A)
(11)【公開番号】P2022101326
(43)【公開日】2022-07-06
(54)【発明の名称】ロボットアーム用のツールチェック装置、ツールチェックプログラム、及びツールチェック方法
(51)【国際特許分類】
B25J 13/08 20060101AFI20220629BHJP
【FI】
B25J13/08 A
【審査請求】未請求
【請求項の数】9
【出願形態】OL
(21)【出願番号】P 2020215843
(22)【出願日】2020-12-24
(71)【出願人】
【識別番号】000148357
【氏名又は名称】株式会社前川製作所
(74)【代理人】
【識別番号】110000785
【氏名又は名称】誠真IP特許業務法人
(72)【発明者】
【氏名】平山 潤太
(72)【発明者】
【氏名】徳本 大
(72)【発明者】
【氏名】山下 智輝
(72)【発明者】
【氏名】木村 憲一郎
【テーマコード(参考)】
3C707
【Fターム(参考)】
3C707BS10
3C707ES03
3C707ET02
3C707HS14
3C707KT01
3C707KT06
3C707KT11
3C707LW12
3C707NS02
3C707NS26
(57)【要約】
【課題】ツールがツール条件を満たすか精度良く判定できるロボットアーム用のツールチェック装置、ツールチェックプログラム、及びツールチェック方法を提供する。
【解決手段】ロボットアーム用のツールチェック装置は、ロボットアームに装着されたツールが規定位置まで移動するようにロボットアームを制御するためのツール移動制御部と、規定位置まで移動したツールを撮影するように撮影装置を制御するための撮影制御部と、撮影装置によって撮影された撮影画像に基づき、ツールが満たすべきツール種別又はツール状態に関するツール条件の充足の有無を判定するための判定部とを備える。
【選択図】
図1
【特許請求の範囲】
【請求項1】
ロボットアームに装着されたツールが規定位置まで移動するように前記ロボットアームを制御するためのツール移動制御部と、
前記規定位置まで移動した前記ツールを撮影するように撮影装置を制御するための撮影制御部と、
前記撮影装置によって撮影された撮影画像に基づき、前記ツールが満たすべきツール種別又はツール状態に関するツール条件の充足の有無を判定するための判定部と
を備えるロボットアーム用のツールチェック装置。
【請求項2】
前記判定部は、前記撮影画像に関する評価値に基づき、前記ツール条件の充足の有無を判定するように構成され、
前記ツール移動制御部は、前記ツールが前記撮影装置の撮影範囲内にある内側位置から、該内側位置よりも前記ツール条件の充足の有無に応じた前記評価値の差が大きくなる前記規定位置まで移動するよう前記ロボットアームを制御するように構成される請求項1に記載のロボットアーム用のツールチェック装置。
【請求項3】
前記撮影画像に含まれる領域の輝度値を取得するための輝度値取得部を備え、
前記判定部は、取得された前記輝度値に基づき、前記ツール条件の充足の有無を判定するように構成された請求項1または2に記載のロボットアーム用のツールチェック装置。
【請求項4】
前記輝度値取得部は、前記撮影画像に含まれる前記領域の輝度値の総和を取得するように構成され、
前記判定部は、取得された前記輝度値の前記総和に基づき、前記ツール条件の充足の有無を判定するように構成された請求項3に記載のロボットアーム用のツールチェック装置。
【請求項5】
前記ツール移動制御部は、複数の前記ロボットアームのうち制御対象となる前記ロボットアームを選択的に制御するよう構成され、
前記判定部は、制御対象となる前記ロボットアームに装着された前記ツールについて前記ツール条件の充足の有無を判定するように構成された請求項1から4のいずれかに記載のロボットアーム用のツールチェック装置。
【請求項6】
前記撮影画像に対して、前記ツール条件に関連付けられた画像処理を施し、前記ツール条件に関連付けられた関連領域を抽出した処理済画像を生成するための画像処理部を備え、
前記判定部は、前記処理済画像に基づき、前記ツール条件の充足の有無を判定するように構成された請求項1から5のいずれかに記載のロボットアーム用のツールチェック装置。
【請求項7】
前記画像処理部は、前記撮影画像に対して、前記ツール条件に関連付けられた基準画像を用いてマスク処理を施し、前記ツール条件に関連付けられた前記関連領域を抽出した画像を前記処理済画像として生成するように構成された請求項6に記載のロボットアーム用のツールチェック装置。
【請求項8】
コンピュータに
ロボットアームに装着されたツールが定位置まで移動するように前記ロボットアームを制御するためのツール移動制御ステップと、
前記定位置まで移動した前記ツールを撮影するように撮影装置を制御するための撮影制御ステップと、
前記撮影装置によって撮影された撮影画像に基づき、前記ツールが満たすべきツール種別又はツール状態に関するツール条件の充足の有無を判定するための判定ステップと
を実行させるためのロボットアーム用のツールチェックプログラム。
【請求項9】
ロボットアームに装着されたツールが定位置まで移動するように前記ロボットアームを制御するためのツール移動制御工程と、
前記定位置まで移動した前記ツールを撮影するように撮影装置を制御するための撮影制御工程と、
前記撮影装置によって撮影された撮影画像に基づき、前記ツールが満たすべきツール種別又はツール状態に関するツール条件の充足の有無を判定するための判定工程と
を備えるロボットアーム用のツールチェック方法。
【発明の詳細な説明】
【技術分野】
【0001】
本開示は、ロボットアーム用のツールチェック装置、ツールチェックプログラム、及びツールチェック方法に関する。
【背景技術】
【0002】
従来、物体に対して加工又は操作を実行するためのツールが交換可能に装着されるロボットアームが知られている。例えば、特許文献1に開示されるロボットアームでは、物体に対する加工などに応じて、複数種類のいずれかのツールがロボットアームに装着される。上記ロボットアームは、ツールを開閉させることによって物体を把持することが可能である。
【先行技術文献】
【特許文献】
【0003】
【発明の概要】
【発明が解決しようとする課題】
【0004】
上記ロボットアームによる加工などの作業が適切になされるためには、実行される加工に応じて、装着されたツールが適正な種別であること、装着されたツールが適正な状態(例えば開状態又は閉状態)であること、といったツール条件を満たす必要がある。この点、特許文献1には、ツールがツール条件を満たすか精度良く判定するための具体的構成の開示はない。
【0005】
本開示に係る一実施形態は、ツールがツール条件を満たすか精度良く判定できるロボットアーム用のツールチェック装置、ツールチェックプログラム、及びツールチェック方法を提供することである。
【課題を解決するための手段】
【0006】
本発明の少なくとも一実施形態に係るロボットアーム用のツールチェック装置は、
ロボットアームに装着されたツールが規定位置まで移動するように前記ロボットアームを制御するためのツール移動制御部と、
前記規定位置まで移動した前記ツールを撮影するように撮影装置を制御するための撮影制御部と、
前記撮影装置によって撮影された撮影画像に基づき、前記ツールが満たすべきツール種別又はツール状態に関するツール条件の充足の有無を判定するための判定部と
を備える。
【0007】
本発明の少なくとも一実施形態に係るロボットアーム用のツールチェックプログラムは、
コンピュータに
ロボットアームに装着されたツールが定位置まで移動するように前記ロボットアームを制御するためのツール移動制御ステップと、
前記定位置まで移動した前記ツールを撮影するように撮影装置を制御するための撮影制御ステップと、
前記撮影装置によって撮影された撮影画像に基づき、前記ツールが満たすべきツール種別又はツール状態に関するツール条件の充足の有無を判定するための判定ステップと
を実行させる。
【0008】
本発明の少なくとも一実施形態に係るロボットアーム用のツールチェック方法は、
ロボットアームに装着されたツールが定位置まで移動するように前記ロボットアームを制御するためのツール移動制御工程と、
前記定位置まで移動した前記ツールを撮影するように撮影装置を制御するための撮影制御工程と、
前記撮影装置によって撮影された撮影画像に基づき、前記ツールが満たすべきツール種別又はツール状態に関するツール条件の充足の有無を判定するための判定工程と
を備える。
【発明の効果】
【0009】
幾つかの実施形態によれば、ツールがツール条件を満たすか精度良く判定できるロボットアーム用のツールチェック装置、ツールチェックプログラム、及びツールチェック方法を提供できる。
【図面の簡単な説明】
【0010】
【
図1】一実施形態に係るワーク加工システムを示す図である。
【
図2】一実施形態に係るツール40が規定位置P2まで移動する流れを示す図である。
【
図3】一実施形態に係るツール種別に応じた規定位置P2を示す図である。
【
図4】一実施形態に係る画像処理を実行するための基準画像のデータである基準画像データを示す図である。
【
図5A】一実施形態に係る判定部による判定手法を説明する図である。
【
図5B】一実施形態に係る判定部による判定手法を説明する別の図である。
【
図6】一実施形態に係るワーク加工システムの電気的構成を示すブロック図である。
【
図7】一実施形態に係る加工制御処理のフローチャートである。
【発明を実施するための形態】
【0011】
以下、添付図面を参照して本発明の幾つかの実施形態について説明する。ただし、実施形態として記載され又は図面に示されている構成部品の寸法、材質、形状、その相対的配置等は、本発明の範囲をこれに限定する趣旨ではなく、単なる説明例にすぎない。
例えば、「ある方向に」、「ある方向に沿って」、「平行」、「直交」、「中心」、「同心」或いは「同軸」等の相対的或いは絶対的な配置を表す表現は、厳密にそのような配置を表すのみならず、公差、若しくは、同じ機能が得られる程度の角度や距離をもって相対的に変位している状態も表すものとする。
例えば、「同一」、「等しい」及び「均質」等の物事が等しい状態であることを表す表現は、厳密に等しい状態を表すのみならず、公差、若しくは、同じ機能が得られる程度の差が存在している状態も表すものとする。
例えば、四角形状や円筒形状等の形状を表す表現は、幾何学的に厳密な意味での四角形状や円筒形状等の形状を表すのみならず、同じ効果が得られる範囲で、凹凸部や面取り部等を含む形状も表すものとする。
一方、一つの構成要素を「備える」、「具える」、「具備する」、「含む」、又は「有する」という表現は、他の構成要素の存在を除外する排他的な表現ではない。
【0012】
図1は、一実施形態に係るワーク加工システム1を示す図である。一実施形態のワーク加工システム1は、ツール40を用いてワーク5を加工するために設けられる。ワーク5はツール40の加工対象である。一例として、ワーク5は農産物、畜産物、又は水産物などの食品である。食品は生鮮食品又は加工食品のいずれであってもよい。以下では、ワーク5が生鮮肉となる一実施形態を説明する。
【0013】
一実施形態に係るワーク加工システム1は、ワーク5を搬送するための搬送装置7、ワーク5を加工するためのロボットアーム30、ツール40を撮影するための撮影装置8、撮影装置8の撮影領域を照らすための照明部4、及びロボットアーム用のツールチェック装置50を備える。
一実施形態の搬送装置7はワーク5を水平方向に搬送するベルトコンベアである。
一実施形態の撮影装置8は、上方からツール40を撮影するように設けられる。この実施形態では撮影装置8の撮影画像15は平面視の画像となる。
図1では、ツール40の一例であるクランパ41(後述)の撮影画像15を例示している。
一実施形態では、ロボットアーム30はツール40を装着するように構成される。一実施形態では、ツールチェック装置50は該ツール40が適正かどうか撮影画像15に基づきチェックする。ロボットアーム30、ツール40、及びツールチェック装置50の構成の詳細は後述する。
なお他の実施形態では、搬送装置7は、ワーク5を吊り下げた姿勢で把持して搬送してもよい。また、撮影装置8は水平方向に沿ってツール40を撮影するよう構成されてもよいし、水平方向に対して傾斜する方向に沿ってツール40を撮影するよう構成されてもよい。さらに、ワーク加工システム1は照明部4を備えなくてもよい。この場合、照明部4の機能が撮影装置8に含まれてもよい。
【0014】
ロボットアーム30の構成を説明する。一実施形態のロボットアーム30は、産業用ロボットである。より詳細には一例として、ロボットアーム30は多関節ロボットである。ロボットアーム30は、垂直多関節ロボット、水平多関節ロボット、又はこれらの組み合わせであってもよい。
【0015】
一実施形態のロボットアーム30は、ロボットアーム30a、30b、30cを含む。一実施形態において、このロボットアーム30に装着されるツール40は、金属材料により形成される。また、一実施形態のツール40は、例えばワーク5などに比べて、光を反射し易い表面を有する。
一実施形態のツール40は、ワーク5を掴むためのクランパ41、ワーク5をチャックするためのチャック42、及びワーク5を切断するためのナイフ43を含む。
一実施形態では、クランパ41はロボットアーム30aに装着され、チャック42とナイフ43はロボットアーム30b又はロボットアーム30cに装着される。
一実施形態では、ワーク5の種類に応じた使い分けがなされるよう左右対称なツール40が用意される。具体的な一例として、チャック42はチャック42L、42Rを含み、ナイフ43はナイフ43L、43Rを含み、これらのツール40が選択的にロボットアーム30b、30cに装着される。例えば、搬送装置7により搬送されるワーク5が家畜の左肢肉又は右肢肉のいずれか一方である場合には、ロボットアーム30b、30cの各々にチャック42L、ナイフ43Rが装着される。また、ワーク5がいずれか他方である場合には、ロボットアーム30b、30cの各々にナイフ43L、チャック42Rが装着される。一実施形態では、これらの装着作業は作業者により行われる。他の実施形態では、これらの装着作業が別のロボットによって行われてもよい。
一実施形態のクランパ41とチャック42は駆動源から駆動力を得て開閉動作を行う。一実施形態では、駆動源として、図示外のエアシリンダが採用される。この場合、クランパ41とチャック42の各々に設けられた流入口及び流出口が空気管を介してエアシリンダに接続される。なお、駆動源として油圧シリンダ又はモータが採用されてもよい。
【0016】
他の実施形態では、ワーク加工システム1は、左右対称なツール40を備えなくてもよい。例えば、チャック42はチャック42L、42Rのいずれか一方しか含まなくてもよい。同様にナイフ43もいずれか一方しか含まなくてもよい。さらに別の実施形態では、複数のロボットアーム30は各々、単一のツール40しか装着しなくてもよい。
また、ロボットアーム30が複数設けられることにワーク加工システム1は限定されない。単一のロボットアーム30が、複数種類のツール40を選択的に装着してもよいし、単一のツール40しか装着しなくてもよい。
【0017】
ロボットアーム用のツールチェック装置50(以下、ツールチェック装置50という場合がある)の構成を説明する。ツールチェック装置50はチェックの判定基準として、ツール40が満たすべきツール種別又はツール状態に関するツール条件を採用する。一実施形態では、撮影画像15に関する評価値に基づきツールチェックは行われる。一実施形態の評価値は、後述するように撮影画像15に関する輝度値である。
【0018】
ツール種別は、ロボットアーム30に装着されるべきツール40の種別である。一実施形態のツール種別は、クランパ41、チャック42、又はナイフ43のいずれかである。例えば、チャック42Lが装着されるべきであるにも関わらず、ナイフ43Lがロボットアーム30bに装着された場合には、ツール種別に関するツール条件は満たされない。こういった事例は、例えば作業者によるツール40の交換作業に不備があると生じ得る。
【0019】
ツール状態は、ロボットアーム30に装着されているツール40が満たすべき状態である。一実施形態のツール状態は、クランパ41及びチャック42の開状態又は閉状態と、ナイフ43の正常状態とを含む。例えば、クランパ41又はチャック42が閉状態であるべきにも関わらず、これらのツール40が開状態である場合には、ツール状態に関するツール条件は満たされない。こういった事例は、例えば、クランパ41又はチャック42とエアシリンダとを空気管で接続させる作業に不備があると生じ得る。あるいは、ナイフ43が正常状態であるべきにも関わらず、ナイフ43が欠損している場合には、ツール状態に関するツール条件は満たされない。こういった事例は、例えば、ナイフ43が継続的に使用されることで生じ得る。
【0020】
一実施形態では、上記のツール種別とツール状態が対応付けて管理される。従って、ツールチェック装置50は、一度のチェックで、ツール40の種別と状態のそれぞれが適正かチェックできる。具体的な一例として、ツールチェック装置50は、ツール種別としてクランパ41、ツール状態として開状態が対応付けられたツール条件の充足の有無を一度のチェックで判定できる。あるいは、ツール種別としてナイフ43L、ツール状態として正常状態が対応付けられたツール条件の充足の有無を一度のチェックで判定できる。
【0021】
なお他の実施形態では、ツール種別とツール状態は対応付けられなくてもよい。例えば、ツールチェック装置50は、ツール種別に関するツール条件と、ツール状態に関するツール条件との各々の条件が充足されるか、個別に判定してもよい。
他の実施形態では、ツール条件はツール種別のみに関する条件であってもよい。つまり、ロボットアーム30に装着されたツール40の種別が適正かどうかだけ、判定されてもよい。あるいは、ツール条件はツール状態のみに関する条件であってもよい。例えば、ロボットアーム30が単一のツール40しか装着しない実施形態においては、ツール40の状態が適正かどうかだけ、判定されればよい。
【0022】
ツールチェック装置50の構成を説明する。一実施形態のツールチェック装置50は、条件取得部51、ツール移動制御部52、撮影制御部53、画像処理部55、輝度値取得部56、及び判定部59を備える。これらの構成要素の機能は後述するようにプロセッサ91(
図6参照)によって実現される。
【0023】
一実施形態の条件取得部51は、ツール条件が充足されると判定された後のロボットアーム30の作業予定(動作予定)に応じて、ツール条件を取得するように構成される。例えば、ツール条件が充足されると判定された後の作業として、開状態のクランパ41による作業が予定されているのであれば、ツール種別がクランパ41で、且つツール状態が開状態となるツール条件を条件取得部51は取得する。
一実施形態では、複数のロボットアーム30の各々に応じて複数の作業が予定されていてもよい。この場合、条件取得部51は、複数のロボットアーム30に応じてツール条件を取得してもよい。
【0024】
一実施形態のツール移動制御部52は、ロボットアーム30に装着されたツール40が規定位置P2(
図2参照)まで移動するようにロボットアーム30を制御するために設けられる。より具体的な一例として、撮影装置8の撮影範囲内にある内側位置P1(
図2参照)から、内側位置P1よりもツール条件の充足の有無に応じた評価値の差が大きくなる規定位置P2までツール40が移動するよう、ツール移動制御部52はロボットアーム30を制御するために設けられる。
また、一実施形態のツール移動制御部52は、複数のロボットアーム30のうちで制御対象となるロボットアーム30を選択的に制御するように構成される。一実施形態では、制御対象となるロボットアーム30は、条件取得部51によって取得されたツール条件に基づき特定される。
【0025】
一実施形態の撮影制御部53は、規定位置P2まで移動したツール40を撮影するように撮影装置8を制御するために設けられる。
【0026】
一実施形態の画像処理部55は、撮影画像15に対して、ツール条件に関連付けられた画像処理を施し、ツール条件に関連付けられた関連領域17を抽出した処理済画像18(
図5A、
図5B参照)を生成するように構成される。生成される処理済画像18は撮影画像15に基づく画像である。処理済画像18は、撮影画像15の全体に画像処理が施されることで生成されてもよいし、撮影画像15の部分画像に画像処理が施されることで生成されてもよい。
一実施形態の関連領域17は、ツール条件が満たされる場合と満たされない場合とで、画像に違いが生じるように設定された領域である。この関連領域17を抽出した処理済画像18が、ツール条件が満たされるかの判定部59による判定時に利用される。
ツール条件に対応付けられた関連領域17の一例を説明する。例えば、クランパ41のツール状態に関するツール条件に対応付けられた関連領域17は、クランパ41の状態(開状態又は閉状態)に応じて、クランパ41の可動部の少なくとも一部が進入又は退出する領域となるよう設定される。なお、関連領域17は、判定部59の判定時に設定されてもよいし、判定前に予め設定されてもよい。
一実施形態の関連領域17は、ツール条件を満たすツール40の輪郭の少なくとも一部に沿った領域であり、トリミング対象となる領域である。
一実施形態では、関連領域17を抽出した処理済画像18はマスク処理により生成された画像である。この実施形態では、画像処理部55は、ツール条件に関連付けられた基準画像14(
図4参照)を用いてマスク処理を施し、ツール条件に関連付けられた関連領域17を抽出した画像を処理済画像18として生成するように構成される。ツール条件に関連付けられた基準画像14は後述する。
【0027】
一実施形態の輝度値取得部56は、撮影画像15に含まれる領域の輝度値を、撮影画像15に基づく評価値として取得するように構成される。撮影画像15に含まれる領域は、一例として、処理済画像18の全領域である。なお、撮影画像15に含まれる領域として関連領域17における輝度値のみを輝度値取得部56は取得してもよい。
一実施形態では、輝度値取得部56は撮影画像15に含まれる領域のRGB輝度値を取得する。
【0028】
一実施形態の判定部59は、撮影装置8によって撮影された撮影画像15に基づき、ツール40が満たすべきツール種別又はツール状態に関するツール条件の充足の有無を判定するように構成される。より具合的な一例として、判定部59は、ツール移動制御部52の制御対象となるロボットアーム30に装着されたツール40の撮影画像15に基づき、ツール条件の充足の有無を判定するように構成される。なお、制御対象となるロボットアーム30が複数ある一実施形態では、判定部59は、これらロボットアーム30に装着されたツール40について、順次、ツール条件の充足の有無を判定してもよい。
一実施形態の判定部59は、撮影画像15に関する評価値に基づき、ツール条件の充足の有無を判定するように構成される。該評価値は、一例として処理済画像18の輝度値であり、より具体的な一例として処理済画像18の輝度値の総和である。なお、評価値は画像処理が施されていない撮影画像15の輝度値であってもよい。
【0029】
なお、他の実施形態では、条件取得部51が設けられなくてもよい。例えば、ツール条件が一意に定まっているのであれば、画像処理部55は、該ツール条件に関連付けられた画像処理を施して処理済画像18を生成すればよいし、判定部59は該処理済画像18に基づきツール条件を満たすか判定すればよい。
【0030】
図2は、一実施形態に係るツール40が規定位置P2まで移動する流れを示す図である。
図2では、ツール40の一例としてのクランパ41を、搬送装置7の搬送方向に沿ってみた図を例示する。
一実施形態のクランパ41は、ツール移動制御部52がロボットアーム30aを制御することで、移動開始位置P0から内側位置P1を経由して規定位置P2まで移動する。移動開始位置P0は、撮影装置8の撮影範囲外となる位置または撮影範囲内となる位置のいずれでもよい。また、内側位置P1と規定位置P2は撮影範囲内での互いに異なる位置である。
一実施形態では、移動開始位置P0、内側位置P1、及び規定位置P2は、三次元座標位置と水平方向を軸方向とした回転位置(回転姿勢)とを含む概念である。従って、クランパ41が内側位置P1から規定位置P2まで移動する過程で、三次元座標系におけるクランパ41の位置と、水平方向を軸方向としたクランパ41の回転位置(回転姿勢)とが調整される。
一実施形態では、規定位置P2は、ツール条件の充足時と非充足時とにおいて、撮影画像15に関する評価値の差が内側位置P1に比べて大きくなる位置である。より具体的な一例として、規定位置P2にあるクランパ41は、内側位置P1にある場合に比べて、撮影装置8に向けて反射する光量が増加する。従って、クランパ41が規定位置P2にある方が、ツール条件充足時における撮影画像15の輝度値が大きくなる。一方、ツール条件の非充足時における撮影画像15の輝度値は、クランパ41が規定位置P2又は内側位置P1のいずれに配置されていても、大きく変化しない。結果として、規定位置P2は、ツール条件の充足時と非充足時とにおいて、撮影画像15に関する評価値の差が内側位置P1に比べて大きくなる。
なお、内側位置P1における撮影画像15に関する評価値は、判定部59による判定前に予め試験的に(例えば実験により又はシミュレーションにより)取得されていればよい。
上記説明では、クランパ41が規定位置P2まで移動する過程を説明したが、他のツール40(例えば、チャック42又はナイフ43)も、ツール移動制御部52がロボットアーム30b、30cを制御することで、同様の移動を行う。詳細な説明は省略する。
【0031】
なお、他の実施形態では、移動開始位置P0は内側位置P1と一致してもよい。つまり、ツール移動制御部52は、内側位置P1からツール40の移動を開始してもよい。
他の実施形態では、ツール40が規定位置P2まで移動する過程で、鉛直方向を軸方向とした回転位置(回転姿勢)が調整されてもよい。
【0032】
図3は、一実施形態に係るツール40の規定位置P2を示す図である。
図3では、便宜上、ツール40のうちでロボットアーム30との連結部位の重心位置を規定位置P2として図示するが、上述したように、規定位置P2は、ツール40の水平方向又は鉛直方向を軸方向とした回転位置(回転姿勢)を含んでもよい。
一実施形態では、満たすべきツール種別に応じて異なる規定位置P2が設定される。例えば、クランパ41、チャック42L、42R、ナイフ43L、43Rごとに、搬送方向において互いに異なる規定位置P2が設定されている。なお、これらの規定位置P2は、同一の高さ位置であってもよい。
一実施形態では、満たすべきツール種別が同じであれば、満たすべきツール状態によらず同一の規定位置P2が設定されている。例えば、満たすべきツール種別がクランパ41である場合、満たすべきツール状態(開状態または閉状態)によらず、同一の規定位置P2が設定される。
一実施形態では、撮影装置8は、いずれの規定位置P2も撮影可能となるような広い撮影範囲を有する。この場合、撮影装置8で生成された画像のうちで、規定位置P2に応じて抽出された部分画像が撮影画像15となる。部分画像を抽出する画像処理は、例えば、トリミング処理又はクロップ処理である。
なお、他の実施形態では、撮影画像15の撮影範囲がいずれかの規定位置P2しか含むことができない程度に狭くてもよい。この場合、規定位置P2に応じて撮影装置8の光軸方向が調整され、撮影装置8で生成された画像がそのまま撮影画像15として扱われてもよい。
【0033】
図4は、一実施形態に係る画像処理を実行するための基準画像14のデータである基準画像データ96を示す図である。
一実施形態の基準画像14はツール条件に関連付けられる。
一実施形態の画像処理部55は、撮影画像15に対して、ツール条件に関連付けられた基準画像14を用いてマスク処理を施す。これにより、ツール条件に関連付けられた関連領域17を抽出した画像が処理済画像18として生成される(
図5A、
図5B参照)。
一実施形態では、一例として、ツール条件に対応付けて計8種の基準画像14a~14hが用意されている。
【0034】
図5A、
図5Bは、一実施形態に係る判定部59a、59b(59)による判定手法を説明する図である。
図5A、
図5Bで示される判定においては、満たされるべきツール条件が開状態のクランパ41であるとする。図中の「チェックA」は上記ツール条件を満たす開状態のクランパ41のチェック過程を示す。また、同図の「チェックB」は、上記ツール条件を満たさない閉状態のクランパ41のチェック過程を示す。
一実施形態では、チェックA、Bのいずれにおいても、撮影装置8による撮影時にワーク5がツール40の下方に配置されている(
図5A、
図5Bでは、図面を見や易くする都合、ワーク5にハッチングを施している)。なお、撮影装置8による撮影時、ツール40の背景にワーク5が写らなくてもよい。
一実施形態では、チェックA、Bの実行時に、画像処理部55が、上記ツール条件に関連付けられた基準画像14を用いて各々の撮影画像15にマスク処理を施し、各々の処理済画像18を生成する。その後、この処理済画像18の輝度値を輝度値取得部56a、56b(56)が取得する。
【0035】
図5Aで示される輝度値取得部56aは、処理済画像18における輝度値の総和X
1を取得するよう構成される。
例えば処理済画像18のx方向(横方向)の画素数をMとし、y方向(縦方向)の画素数をNとし、任意の画素における輝度値をBとすると、輝度値取得部56aによって取得される輝度値の総和X
1は、式(1)によって定義される。なお、iは処理済画像18の横方向における画素数以下の任意の自然数であり、jは縦方向における画素数以下の任意の自然数である。
【数1】
なお、他の実施形態では、X
1は、処理済画像18のうちで関連領域17の輝度値の総和であってもよい。
【0036】
一実施形態の判定部59aは、取得された輝度値の総和X1に基づき、ツール条件の充足の有無を判定するように構成される。
一実施形態では、判定部59aは、チェックA、Bの各々において輝度値取得部56aによって取得された輝度値の総和X1に基づき、チェックA、Bでツール条件が充足されるかを判定する。例えば、チェックAでは、処理済画像18の関連領域17のほぼ全域にわたってクランパ41が写り、クランパ41以外の物体(例えばワーク5)は関連領域17には殆ど映らない。この場合、輝度値取得部56aによって取得される処理済画像18の輝度値の総和X1は判定基準となる閾値T1を超え、判定部59aはツール条件が満たされていると判定できる。
一方、チェックBでは、処理済画像18の関連領域17においてクランパ41が占める割合は小さくなる(クランパ41の可動部の殆どは関連領域17から退出する)。結果、関連領域17において、他の物体(例えばワーク5)が占める割合が大きくなる。これにより、処理済画像18における輝度値の総和X1は閾値T1以下となり、判定部59aはツール条件が満たされていないと判定できる。
【0037】
図5Bで示される輝度値取得部56bは、処理済画像18における画素ごとの輝度値B
ijと、ツール条件に対応して該画素ごとに設定された輝度値Bs
ijとを用いた以下の式(2)によって特定される輝度値の差分の総和X
2を取得するように構成される。
【数2】
一実施形態の輝度値取得部56bは、チェックA、Bの各々において、処理済画像18の各画素における輝度値B
ijと、処理済画像18の各画素に対応する正常画像12の各画素の輝度値Bs
ijとの差分の総和X
2を取得する。
一実施形態では、事前準備として、ツール条件を満たすことが確定しているツール40の撮影画像15に対して画像処理部55がマスク処理を施す。これにより、ツール条件に関連する関連領域17を抽出した処理済みの画像である正常画像12が予め生成されている。輝度値取得部56bは、正常画像12を取得することで、輝度値Bs
ijを取得する。
なお、他の実施形態では、画像処理部55が正常画像12を生成しなくてもよい。例えば、処理済画像18の各画素に対応付けて設定された輝度値Bs
ijが予め何かしらのメモリに記憶されていればよい。
また、他の実施形態では、B
ijが、処理済画像18における画素ごとの輝度値の代わりに、関連領域17のみにおける画素ごとの輝度値であってもよい。この場合、Bs
ijも関連領域17のみに対応する画素の輝度値を示す。
【0038】
一実施形態の判定部59bは、取得された輝度値の差分の総和X2に基づき、ツール条件の充足の有無を判定する。
一実施形態の判定部59bは、チェックA、Bの各々において輝度値取得部56bによって取得された輝度値の差分の総和X2に基づき、各々のチェックでツール条件が充足されるかを判定する。例えば、チェックAでは、処理済画像18と正常画像12との間で画像の違いが小さいため、輝度値の差分の総和X2は判定基準となる閾値T2を下回り、判定部59bはツール条件が満たされていると判定できる。
一方、チェックBでは、処理済画像18と正常画像12との画像の違いが大きいため、輝度値の差分の総和X2は、閾値T2以上となる。これにより、判定部59bはツール条件が満たされていないと判定できる。
【0039】
なお、
図5A、
図5Bでは、ツール条件を満たさないツール40が、閉状態のクランパ41である例を示したが、ツール条件を満たさない他のツール40が判定対象になっても、同様の判定手法が適用されて、同様の判定結果が得られる。
また、
図5A、
図5Bでは、満たされるべきツール条件の例として、開状態のクランパ41を挙げたが、その他のツール条件が判定対象になっても、同様の判定手法が適用されて、同様の判定結果が得られる。
【0040】
図6は、一実施形態に係るワーク加工システム1の電気的構成を示すブロック図である。既述のツールチェック装置50の構成要素は、
図6で示される加工制御部90によって実現される。具体的な実現の仕方は、
図7を用いて後述する。
【0041】
ワーク加工システム1は、プロセッサ91を含む加工制御部90を備える。
プロセッサ91は、ROM92に記憶される加工制御プログラム(ツールチェックプログラム)95を読み出してRAM93にロードし、ロードした加工制御プログラム95に含まれる命令を実行するように構成される。プロセッサ91は、CPU、GPU、MPU、DSP、これら以外の各種演算装置、又はこれらの組み合わせである。プロセッサ91は、PLD、ASIC、FPGA、及びMCU等の集積回路により実現されてもよい。ROM92は記憶装置の一例である。
加工制御部90の構成要素であるメモリ94は、基準画像データ96と、規定位置P2を示す規定位置データ97とを記憶する不揮発性メモリである。一実施形態の規定位置データ97は、制御対象となるロボットアーム30を示す識別データを併せて含んだデータテーブルであってもよい。例えば、規定位置データ97は、クランパ41の規定位置P2を示すデータと、クランパ41が装着されるロボットアーム30aの識別データとを対応付けていてもよい。
【0042】
一実施形態のプロセッサ91は、図示外のインターフェースを介して、受付ボタン6、搬送装置7、ロボットアーム30、撮影装置8、及び発報装置9に接続されている。
【0043】
一実施形態の受付ボタン6は、ツール40が満たすべきツール条件を受付ける。受付ボタン6は、機械的な構造を有するボタンであってもよいし、タッチパネルボタンであってもよい。
一実施形態では、作業者が、ツール40をロボットアーム30に装着する際に、ツール条件を受付ボタン6に入力する。入力されるツール条件は、例えばロボットアーム30の個数に応じた複数条件であってもよい。受付ボタン6は受付けたツール条件をプロセッサ91に出力する。なお、作業者は、ツール条件を受付ボタン6に入力する際、該ツール条件に対応するロボットアーム30も併せて入力してもよい。
プロセッサ91は、受付ボタン6から出力されるデータを取得することで、ツール条件を取得する。
なお他の実施形態では、受付ボタン6が設けられなくてもよい。この場合、プロセッサ91は、例えば加工制御プログラム95に含まれるデータが示すツール条件を取得してもよい。
【0044】
一実施形態の搬送装置7、ロボットアーム30、撮影装置8、及び発報装置9は、各々、プロセッサ91から受信する制御信号に応じて作動する。一実施形態のロボットアーム30は、受信する制御信号に応じてツール40を規定位置P2まで移動させる。一実施形態ではさらに、ロボットアーム30は、受信する制御信号に応じて、ワーク5に対して加工作業を行う。
一実施形態の撮影装置8は、受信した制御信号に応じて撮影を実行し、生成した撮影画像15をプロセッサ91に出力する。一実施形態のプロセッサ91は、撮影装置8から取得した画像をRAM93に出力する。なお、撮影画像15は、RAM93に代えてメモリ94に記憶されてもよい。
一実施形態の発報装置9は、ツール条件が満たされていないとプロセッサ91が判定した場合、受信した制御信号に応じて発報するための装置である。一実施形態の発報装置9は、画像表示装置、スピーカ、発光装置、又はこれらの組み合わせであってもよい。
【0045】
図7は、一実施形態に係る加工制御処理のフローチャートを示す。加工制御処理は、プロセッサ91がROM92に記憶される加工制御プログラム95をRAM93にロードすることによって、以下のステップを実行する。処理の実行に伴いプロセッサ91が処理する情報は、適宜、RAM93又はメモリ94に記憶される。以下の説明では、「ステップ」を「S」と略記する。
【0046】
プロセッサ91は、加工領域までワーク5が搬送されるよう、搬送装置7を制御する(S11)。
次いで、プロセッサ91は、ツール40が満たすべきツール条件を取得する(S13)。例えば、プロセッサ91は、受付ボタン6から出力されるデータに基づき、ツール条件を取得する。S11を実行するプロセッサ91が条件取得部51として機能する。なお、ロボットアーム30が複数設けられる実施形態においては、プロセッサ91は、各々のロボットアーム30に応じたツール条件を取得してもよい。
【0047】
プロセッサ91は、S13で取得したツール条件と、メモリ94に記憶される規定位置データ97とを参照し、制御対象となるロボットアーム30を選択的に制御する(S15)。これにより、制御対象となるロボットアーム30に装着されたツール40が規定位置P2まで移動する。例えば、S11で取得されたツール条件に「開状態のクランパ41」が含まれる場合、プロセッサ91による制御によって、ロボットアーム30aに装着されたクランパ41は規定位置P2まで移動し、ロボットアーム30b、30cに装着されたチャック42、ナイフ43は他の位置(例えば移動開始位置P0)まで退避する。S15を実行するプロセッサ91はツール移動制御部52として機能する。
プロセッサ91は、S15の実行によって規定位置P2まで移動したツール40が撮影されるよう撮影装置8を制御する(S17)。プロセッサ91は、撮影装置8の撮影に基づく撮影画像15を例えばRAM93に記憶する。S17を実行するプロセッサ91は撮影制御部53として機能する。
【0048】
プロセッサ91はS17で生成された撮影画像15を画像処理する(S19)。一実施形態では、プロセッサ91は、メモリ94に記憶された基準画像データ96を参照し、S13で取得されたツール条件に応じた基準画像14を取得する。そして、取得した基準画像14を用いて、S17で取得された撮影画像15に対してマスク処理を施す。これにより、プロセッサ91は、ツール条件に関連付けられた関連領域17を抽出した画像を処理済画像18として生成する。なお、S19を実行するプロセッサ91が画像処理部55として機能する。
【0049】
プロセッサ91は、生成された処理済画像18に基づき、処理済画像18の輝度値を取得する(S21)。一実施形態では、プロセッサ91は、例えば上述の式(1)又は式(2)に基づき、輝度値の総和X1又は輝度値の差分の総和X2を取得する。
なお、プロセッサ91は、輝度値の差分の総和X2を取得する場合、メモリ94に記憶された正常画像12を参照し、各画素の輝度値Bsijを取得してもよい。
S21を実行するプロセッサ91は輝度値取得部56a、56b(56)として機能する。
【0050】
プロセッサ91は取得された輝度値に基づき、S13で取得されたツール条件が満たされているかを判定する(S23)。
例えば、プロセッサ91は、上述の輝度値の総和X1又は輝度値の差分の総和X2と、閾値T1又は閾値T2とを比較することによって、ツール条件の充足の有無を判定する。S23を実行するプロセッサ91が判定部59a、59b(59)として機能する。
【0051】
ツール条件が満たされていないと判定された場合(S23:NO)、プロセッサ91は、発報が実行されるように発報装置9を制御し(S25)、本制御処理を終了する。
一実施形態では、発報がなされることにより、作業者は、ツール条件が満たされていないことを認識し、ツール条件が満たされるようロボットアーム30に対してツール40の交換作業などを行うことができる。
【0052】
一実施形態では、ツール条件が満たされていると判定された場合(S23:YES)、プロセッサ91はツールチェックが完了したかを判定する(S27)。例えば、S13で取得された複数のツール条件のうちで、充足の有無を判定していないツール条件が残っている場合(S27:NO)、プロセッサ91はS15~S23を繰り返す。一方、全てのツール条件の判定が完了した場合(S27:YES)、プロセッサ91は処理をS29に進める。
【0053】
プロセッサ91は、規定位置P2にあったツール40が別の位置(例えば移動開始位置P0)まで退避するようロボットアーム30を制御する(S29)。その後、プロセッサ91は、ワーク5が撮影されるよう撮影装置8を制御し(S31)、撮影装置8で生成された画像を分析する(S33)。一実施形態では、プロセッサ91は、撮影されたワーク5に適した加工を行うための画像分析を実行する。具体的な一例として、ワーク5が家畜の骨付き肢肉である場合には、ワーク5に含まれる骨の位置を特定するための画像分析が実行される。該分析は、例えば、予め機械学習された学習モデルに対して、S31で撮影された画像が入力されることで実行されてもよい。この場合、プロセッサ91は、機械学習された学習モデルに基づき演算処理を実行するためのGPUを備えてもよい。プロセッサ91は、画像分析の結果に基づいたワーク5の加工作業がなされるよう、ロボットアーム30を制御する(S35)。ワーク5の加工が終了した後、プロセッサ91は本制御処理を終了する。
【0054】
なお、他の実施形態では、S11の実行タイミングは、ツールチェックが完了したと判定された後(S27:YES)であってもよい。この場合、S17で実行される撮影では、撮影画像15にワーク5は映らない。
他の実施形態では、例えば、判定対象となるツール条件が一意に定まっている場合、S13とS27がいずれも実行されてなくてもよい。なお、一意に定まるツール条件とは、単一のツール条件を意味するだけでなく、複数のツール条件をも意味する。
【0055】
以下、幾つかの実施形態に係るロボットアーム用のツールチェック装置50、ロボットアーム用のツールチェックプログラム95、ロボットアーム用のツールチェック方法を説明する。
【0056】
(1)本発明の少なくとも一実施形態に係るロボットアーム用のツールチェック装置50は、
ロボットアーム30に装着されたツール40が規定位置P2まで移動するように前記ロボットアーム30を制御するためのツール移動制御部52と、
前記規定位置P2まで移動した前記ツール40を撮影するように撮影装置8を制御するための撮影制御部53と、
前記撮影装置8によって撮影された撮影画像15に基づき、前記ツール40が満たすべきツール種別又はツール状態に関するツール条件の充足の有無を判定するための判定部59と
を備える。
【0057】
上記(1)の構成によれば、撮影装置8が撮影を実行する前、ツール40が規定位置P2まで移動するようにツール移動制御部52がロボットアーム30を制御する。これにより、ツール条件充足時のツール40の撮影画像15のバラつきが小さくなる。従って、撮影画像15に基づいたツール条件の充足の有無の判定を判定部59は高い精度で実行できる。よって、ツール40がツール条件を満たすか精度良く判定できる。
【0058】
(2)幾つかの実施形態では、上記(1)の構成において、
前記判定部59は、前記撮影画像15に関する評価値に基づき、前記ツール条件の充足の有無を判定するように構成され、
前記ツール移動制御部52は、前記ツール40が前記撮影装置8の撮影範囲内にある内側位置P1から、該内側位置P1よりも前記ツール条件の充足の有無に応じた前記評価値の差が大きくなる前記規定位置P2まで移動するよう前記ロボットアーム30を制御するように構成される。
【0059】
上記(2)の構成によれば、ツール移動制御部52の制御に伴いツール40が規定位置P2まで移動することによって、撮影画像15に関する評価値はツール条件の充足の有無に応じて大きく変化する。よって、ツール条件の充足の有無を精度良く判定できる。
例えば、クランパ41が内側位置P1よりも規定位置P2にある方が、ツール条件充足時における関連領域17の輝度値が大きくなる。一方、クランパ41が、内側位置P1と規定位置P2のいずれの位置に配置されても、ツール条件が非充足であると、関連領域17にはワーク5などのツール40以外の物体が写り、両位置における関連領域17の輝度値に大きな違いは生じない。結果として、クランパ41が規定位置P2にある方が、ツール条件の充足の有無に応じた輝度値の差が大きくなる。これにより、判定部59は、ツール条件の充足の有無を精度良く判定できる。
【0060】
(3)幾つかの実施形態では、上記(1)または(2)の構成において、
ツールチェック装置50は、前記撮影画像15に含まれる領域(関連領域17)の輝度値を取得するための輝度値取得部56を備え、
前記判定部59は、取得された前記輝度値に基づき、前記ツール条件の充足の有無を判定するように構成される。
【0061】
上記(3)の構成によれば、ツール条件の充足の有無について、判定部59は撮影画像15に含まれる領域の輝度値に基づき定量的な判定を実行できる。よって、ツール40がツール条件を満たすか精度良く判定できる。
【0062】
(4)幾つかの実施形態では、上記(3)の構成において、
前記輝度値取得部56a(56)は、前記撮影画像15に含まれる前記領域(関連領域17)の輝度値の総和X1を取得するように構成され、
前記判定部59a(59)は、取得された前記輝度値の前記総和X1に基づき、前記ツール条件の充足の有無を判定するように構成される。
【0063】
上記(4)の構成によれば、判定部59a(59)は、撮影画像15に含まれる領域の輝度値の総和X1に基づき、ツール条件の充足の有無を判定する。従って、ツール40の撮影条件が変化したときであっても、ツール条件の充足の有無について精度良く判定することができる。
例えば、ツール40が継続的に使用される場合、ワーク5がツール40に付着することによる撮影条件の変化が生じ得る。この場合、判定対象となるツール40がツール条件を満たしていても、撮影画像15における輝度値は減少する傾向にあり、ツール条件の充足の有無に関して誤判定が生じ得る。この点、輝度値取得部56aが輝度値の総和X1を取得する実施形態においては、ワーク5がツール40に付着しても、輝度値の総和X1の減少割合が小さい。従って、撮影条件が変化しても、ツール条件の充足の有無に関する判定の精度は維持される。
【0064】
(5)幾つかの実施形態では、上記(1)から(4)のいずれかの構成において、
前記ツール移動制御部52は、複数の前記ロボットアーム30のうち制御対象となる前記ロボットアーム30を選択的に制御するよう構成され、
前記判定部59は、制御対象となる前記ロボットアーム30に装着された前記ツール40について前記ツール条件の充足の有無を判定するように構成される。
【0065】
上記(5)の構成によれば、ツール移動制御部52は、ツール条件に関する判定が必要なツール40を装着したロボットアーム30を選択的に移動させる。従って、ツールチェック装置50は、効率的にツール条件の充足の有無を判定できる。
【0066】
(6)幾つかの実施形態では、上記(1)から(5)のいずれかの構成において、
ツールチェック装置50は、前記撮影画像15に対して、前記ツール条件に関連付けられた画像処理を施し、前記ツール条件に関連付けられた関連領域17を抽出した処理済画像18を生成するための画像処理部55を備え、
前記判定部59は、前記処理済画像18に基づき、前記ツール条件の充足の有無を判定するように構成される。
【0067】
上記(6)の構成によれば、ツール条件に関連付けられた関連領域17を抽出した処理済画像18が生成され、この生成された処理済画像18に基づき判定部59はツール条件の充足の有無を判定する。よって、ツール条件に関連付けられた関連領域17に基づき、ツール40がツール条件を満たすかを精度良く判定できる。
【0068】
(7)幾つかの実施形態では、上記(6)の構成において、
前記画像処理部55は、前記撮影画像15に対して、前記ツール条件に関連付けられた基準画像14を用いてマスク処理を施し、前記ツール条件に関連付けられた前記関連領域17を抽出した画像を前記処理済画像18として生成するように構成される。
【0069】
上記(7)の構成によれば、判定部59は、ツール40がツール条件を満たすか、マスク処理された処理済画像18に基づいて精度良く判定できる。
【0070】
(8)本発明の少なくとも一実施形態に係るロボットアーム用のツールチェックプログラム95は、
コンピュータに
ロボットアーム30に装着されたツール40が規定位置P2まで移動するように前記ロボットアーム30を制御するためのツール40移動制御ステップ(S15)と、
前記規定位置P2まで移動した前記ツール40を撮影するように撮影装置8を制御するための撮影制御ステップ(S17)と、
前記撮影装置8によって撮影された撮影画像15に基づき、前記ツール40が満たすべきツール種別又はツール状態に関するツール条件の充足の有無を判定するための判定ステップ(S23)と
を実行させる。
【0071】
上記(8)の構成によれば、上記(1)の理由により、ツール40がツール条件を満たすか精度良く判定できる。
【0072】
(9)本発明の少なくとも一実施形態に係るロボットアーム用のツールチェック方法は、
ロボットアーム30に装着されたツール40が規定位置P2まで移動するように前記ロボットアーム30を制御するためのツール40移動制御工程(S15)と、
前記規定位置P2まで移動した前記ツール40を撮影するように撮影装置8を制御するための撮影制御工程(S17)と、
前記撮影装置8によって撮影された撮影画像15に基づき、前記ツール40が満たすべきツール種別又はツール状態に関するツール条件の充足の有無を判定するための判定工程(S23)と
を備える。
【0073】
上記(9)の構成によれば、上記(1)の理由により、ツール40がツール条件を満たすか精度良く判定できる。
【符号の説明】
【0074】
8 :撮影装置
14 :基準画像
17 :関連領域
18 :処理済画像
30 :ロボットアーム
40 :ツール
50 :ツールチェック装置
52 :ツール移動制御部
53 :撮影制御部
55 :画像処理部
56 :輝度値取得部
59 :判定部
95 :ツールチェックプログラム
P1 :内側位置
P2 :規定位置