(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】
(24)【登録日】2023-08-07
(45)【発行日】2023-08-16
(54)【発明の名称】テンプレート作成装置、物体認識処理装置、テンプレート作成方法、物体認識処理方法及びプログラム
(51)【国際特許分類】
G01B 21/20 20060101AFI20230808BHJP
G01B 11/00 20060101ALI20230808BHJP
G06T 7/00 20170101ALI20230808BHJP
G06T 7/70 20170101ALI20230808BHJP
【FI】
G01B21/20 101
G01B11/00 H
G06T7/00 C
G06T7/00 300D
G06T7/70 Z
(21)【出願番号】P 2021534434
(86)(22)【出願日】2019-07-22
(86)【国際出願番号】 JP2019028691
(87)【国際公開番号】W WO2021014542
(87)【国際公開日】2021-01-28
【審査請求日】2021-12-28
(73)【特許権者】
【識別番号】000002945
【氏名又は名称】オムロン株式会社
(74)【代理人】
【識別番号】110002860
【氏名又は名称】弁理士法人秀和特許事務所
(72)【発明者】
【氏名】小西 嘉典
【審査官】飯村 悠斗
(56)【参考文献】
【文献】特表2017-524085(JP,A)
【文献】特開2010-112729(JP,A)
【文献】特開2018-197685(JP,A)
(58)【調査した分野】(Int.Cl.,DB名)
G01B 21/20
G01B 11/00
G06T 7/00
G06T 7/70
(57)【特許請求の範囲】
【請求項1】
対象物体の3次元計測データに基づいて、該対象物体に対応するテンプレートを作成するテンプレート作成装置であって、
前記対象物体の3次元計測データを取得する3次元計測データ取得部と、
前記対象物体を3次元計測する視点としての計測視点の位置姿勢に関するデータを取得する計測視点位置姿勢データ取得部と、
前記対象物体の対称性を特定する対称性パラメータを
ユーザから受け付けて設定する対称性パラメータ設定部と、
前記計測視点に対応する前記3次元計測データと、前記対象物体の前記対称性パラメータに基づいて前記計測視点に対応する前記3次元計測データを複製した3次元データを用いて、該対象物体の3次元データを生成する3次元データ複製部と、
前記テンプレートを作成するための視点としてのテンプレート作成視点の位置姿勢に関するデータを取得するテンプレート作成位置姿勢データ取得部と、
生成された前記対象物体の3次元データに基づいて、前記テンプレート作成視点からの3次元データを生成する作成視点3次元データ生成部と、
を備えることを特徴とするテンプレート作成装置。
【請求項2】
前記対称性パラメータは、前記対象物体が面対称であることを特定するパラメータであることを特徴とする請求項1に記載のテンプレート作成装置。
【請求項3】
前記対称性パラメータは、前記対象物体が回転対称であることを特定するパラメータであることを特徴とする請求項1又は2に記載のテンプレート作成装置。
【請求項4】
前記対称性パラメータは、前記対象物体が(360/N)度(Nは2以上の自然数)の回転について対称であることを特定するパラメータであることを特徴とする請求項1又は2に記載のテンプレート作成装置。
【請求項5】
前記対象物体を含む画像を取得する画像取得部と、
前記取得された画像から特徴量を抽出する特徴抽出部と、
請求項1乃至4のいずれか1項に記載のテンプレート作成装置によって作成されたテンプレートを用いたテンプレートマッチングにより前記取得された画像に含まれる前記対象物体を認識するテンプレートマッチング部と、
を備えた物体認識処理装置。
【請求項6】
対象物体の3次元計測データに基づいて、該対象物体に対応するテンプレートを作成するテンプレート作成方法であって、
前記対象物体の3次元計測データを取得するステップと、
前記対象物体を3次元計測する視点としての計測視点の位置姿勢に関するデータを取得するステップと、
前記対象物体の対称性を特定する対称性パラメータを
ユーザから受け付けて設定する
ステップと、
前記計測視点に対応する前記3次元計測データと、前記対象物体の前記対称性パラメータに基づいて前記計測視点に対応する前記3次元計測データを複製した3次元データを用いて、該対象物体の3次元データを生成するステップと、
前記テンプレートを作成するための視点としてのテンプレート作成視点の位置姿勢に関するデータを取得するステップと、
生成された前記対象物体の3次元データに基づいて、前記テンプレート作成視点からの3次元データを生成するステップと、
を含むことを特徴とするテンプレート作成方法。
【請求項7】
テンプレートを用いて対象物体を認識する物体認識処理方法であって、
前記対象物体を含む画像を取得するステップと、
前記取得された画像から特徴量を抽出するステップと、
請求項
6に記載のテンプレート作成方法により作成されたテンプレートを用いたテンプレートマッチングにより前記対象物体を認識するステップと、
を含むことを特徴とする物体認識処理方法。
【請求項8】
請求項
6に記載のテンプレート作成方法の各ステップをコンピュータに実行させるためのプログラム。
【請求項9】
請求項
7に記載の物体認識処理方法の各ステップをコンピュータに実行させるためのプログラム。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、テンプレート作成装置、物体認識処理装置、テンプレート作成方法、物体認識処理方法及びプログラムに関する。
【背景技術】
【0002】
画像から物体を認識(検出)する方法の一つとしてテンプレートマッチングがある。テンプレートマッチングは、認識対象となる物体のモデル(テンプレート)を予め用意しておき、入力画像とモデルとの間の画像特徴の一致度を評価することで入力画像に含まれる物体を検出する方法である。テンプレートマッチングによる物体認識は、例えばFA(Factory Automation)における検査やピッキング、ロボットビジョン、監視カメラなど、多岐にわたる分野で利用されている。
【0003】
このようなテンプレートは、認識対象となる物体(以下、「対象物体」ともいう。)の3DCADデータを用いて作成することができる。しかし、対象物体の3DCADデータがない場合や、3DCADデータと実際の対象物体との差異が大きい場合のように、3DCADデータと用いることができない、又は適切でない場合がある。このような場合には、実際の対象物体を3次元計測した3次元計測データを用いてテンプレートを作成する。
【0004】
従来、認識対象となる物体(以下「対象物体」ともいう。)の完全な3次元モデルを作成するためには、あらゆる角度から対象物体を撮影した3次元計測データを取得する必要があった。このため、必要な撮影回数が多くなり、計測に長時間を要していた。
【0005】
このため、様々な姿勢で配置された複数個の対象物体を撮影することにより、様々な角度からの対象物体を撮影した場合と同等の3次元計測データを取得する技術が提案されている(例えば、特許文献1参照)。
【0006】
しかし、このような場合でも、完全な3次元モデルを作成しようとすれば、大量の物体を、当該物体のあらゆる面をカバーするように配置する必要があるため、撮影に長時間を要していた。
【先行技術文献】
【特許文献】
【0007】
【発明の概要】
【発明が解決しようとする課題】
【0008】
本発明は、上記のような問題に鑑みてなされたものであり、対象物体の3次元計測データを用いて物体認識用のテンプレートを作成する際に必要な撮影回数を削減し、テンプレート作成の所要時間を短縮することを目的とする。
【課題を解決するための手段】
【0009】
上記の課題を解決するための本発明は、
対象物体の3次元計測データに基づいて、該対象物体に対応するテンプレートを作成するテンプレート作成装置であって、
前記対象物体の3次元計測データを取得する3次元計測データ取得部と、
前記対象物体を3次元計測する視点としての計測視点の位置姿勢に関するデータを取得する計測視点位置姿勢データ取得部と、
前記対象物体の対称性を特定する対称性パラメータを設定する対称性パラメータ設定部と、
前記計測視点に対応する前記3次元計測データと、前記対象物体の前記対称性パラメータに基づいて前記計測視点に対応する前記3次元計測データを複製した3次元データを用いて、該対象物体の3次元データを生成する3次元データ複製部と、
前記テンプレートを作成するための視点としてのテンプレート作成視点の位置姿勢に関するデータを取得するテンプレート作成位置姿勢データ取得部と、
生成された前記対象物体の3次元データに基づいて、前記テンプレート作成視点からの3次元データを生成する作成視点3次元データ生成部と、
を備えることを特徴とするテンプレート作成装置である。
【0010】
本発明によれば、対称性パラメータによって設定された対称性に基づいて、対象物体の部分的な3次元計測データを複製して全体の3次元データを生成するので、対象物体の3次元計測データの計測回数がより少なくて済む。このようにして生成された3次元データに基づいてテンプレートを作成するので、テンプレート作成に要する時間を短縮することができる。
また、対称性を利用して対象物体の3次元計測データを複製して、対象物体全体の3次元データを生成することで、計測誤差や撮影視点位置姿勢の誤差等による、複数の3次元計測データを統合する際のずれを軽減でき、より実物に近いテンプレートを作成できるので、より少ない計測回数でより正確なテンプレートを作成することができる。
【0011】
また、本発明においては、
前記対称性パラメータは、前記対象物体が面対称であることを特定するパラメータであってもよいし、前記対象物体が回転対称であることを特定するパラメータであってもよいし、前記対象物体が(360/N)度(Nは2以上の自然数)の回転について対称であることを特定するパラメータであってもよい。
【0012】
対象物体の対称性としては、例えば、面対称、回転対称、(360/N)度(Nは2以上の自然数)の回転について対称等があるが、これに限定されず、これらを組み合わせた対称性も含む。また、対象物体が面対称である場合には、対称性パラメータとして対称面を特定するパラメータを設定することができる。対象物体が回転対称である場合には、対称性パラメータとして回転軸を特定するパラメータを設定することができる。また、対象物体が(360/N)度(Nは2以上の自然数)の回転について対称である場合には、対称性パラメータとして回転軸とNとを特定するパラメータを設定することができる。このような対称性パラメータを設定することにより、対象物体の対称性に応じた対称性を設定することができる。
【0013】
また、本発明において、
前記対称性パラメータ及び前記計測視点の位置姿勢の少なくともいずれか一方について、ユーザの設定を受け付けるようにしてもよい。
【0014】
このようにすれば、ユーザが、実際の対象物体の形状に応じ適切な対称性パラメータや計測視点の位置姿勢を設定することができるので、テンプレート作成に要する時間をより短縮できる。また、より正確なテンプレートの作成が可能となる。
【0015】
また、本発明は、
前記対象物体を含む画像を取得する画像取得部と、
前記取得された画像から特徴量を抽出する特徴抽出部と、
前記テンプレート作成装置によって作成されたテンプレートを用いたテンプレートマッチングにより前記取得された画像に含まれる前記対象物体を認識するテンプレートマッチング部と、
を備えた物体認識処理装置である。
【0016】
本発明によれば、対象物体の3次元計測データに基づいて作成されたテンプレートによって物体認識が行われるので、物体認識に要する時間を短縮することができる。また、より正確なテンプレートにより高精度の物体認識が可能となる。
【0017】
また、本発明は、
対象物体の3次元計測データに基づいて、該対象物体に対応するテンプレートを作成するテンプレート作成方法であって、
前記対象物体の3次元計測データを取得するステップと、
前記対象物体を3次元計測する視点としての計測視点の位置姿勢に関するデータを取得するステップと、
前記対象物体の対称性を特定する対称性パラメータを設定すると、
前記計測視点に対応する前記3次元計測データと、前記対象物体の前記対称性パラメータに基づいて前記計測視点に対応する前記3次元計測データを複製した3次元データを用いて、該対象物体の3次元データを生成するステップと、
前記テンプレートを作成するための視点としてのテンプレート作成視点の位置姿勢に関するデータを取得するステップと、
生成された前記対象物体の3次元データに基づいて、前記テンプレート作成視点からの3次元データを生成するステップと、
を含むことを特徴とするテンプレート作成方法である。
【0018】
本発明によれば、対称性パラメータによって設定された対称性に基づいて、対象物体の部分的な3次元計測データを複製して全体の3次元データを生成するので、対象物体の3次元計測データの計測回数がより少なくて済む。このようにして生成された3次元データに基づいてテンプレートを作成するので、テンプレート作成に要する時間を短縮することができる。
また、対称性を利用して対象物体の3次元計測データを複製して、対象物体全体の3次元データを生成することで、計測誤差や撮影視点位置姿勢の誤差等による、複数の3次元計測データを統合する際のずれを軽減でき、より実物に近いテンプレートを作成できるので、より少ない計測回数でより正確なテンプレートを作成することができる。
また、本発明に含まれる各ステップの順序は記載された順序に限定されるものではない。
【0019】
テンプレートを用いて対象物体を認識する物体認識処理方法であって、
前記対象物体を含む画像を取得するステップと、
前記取得された画像から特徴量を抽出するステップと、
前記テンプレート作成方法により作成されたテンプレートを用いたテンプレートマッチングにより前記対象物体を認識するステップと、
を含むことを特徴とする物体認識処理方法である。
【0020】
本発明によれば、対象物体の3次元計測データに基づいて作成されたテンプレートによって物体認識が行われるので、物体認識に要する時間を短縮することができる。また、より正確なテンプレートにより高精度の物体認識が可能となる。
【0021】
また、本発明は、
前記テンプレート作成方法の各ステップをコンピュータに実行させるためのプログラムである。
【0022】
また、本発明は、
前記物体認識処理方法の各ステップをコンピュータに実行させるためのプログラムである。
【発明の効果】
【0023】
本発明によれば、対象物体の3次元計測データを用いて、物体認識用のテンプレートを作成する際に必要な撮影回数を削減し、テンプレート作成の所要時間を短縮することができる。
【図面の簡単な説明】
【0024】
【
図1】
図1は、本発明の実施形態における物体認識装置の全体構成図である。
【
図2】
図2は、本発明の実施形態における画像処理装置の概略構成を示すブロック図である。
【
図3】
図3は、本発明の実施例形態におけるテンプレート作成処理の手順を示すフローチャートである。
【
図4】
図4A及び
図4Bは、本発明の実施例形態における3次元データ複製処理の手順を示すフローチャートである。
【
図5】
図5は、本発明の実施形態における対象物体の撮影及び撮影視点位置姿勢の取得構成を説明する図である。
【
図6】
図6は、本発明の実施形態における対象物体の6回対称性を説明する図である。
【
図7】
図7は、本発明の実施形態における対象物体の面対称性を説明する図である。
【
図8】
図8A及び
図8Bは、本発明の実施形態における3次元データ複製処理の一例を示す図である。
【
図9】
図9は、本発明の実施形態における3次元データ複製処理の他の例を示すである。
【
図10】
図10は、本発明の実施例1における物体認識処理の手順を示すフローチャートである。
【
図11】
図11は、従来の対象物体の撮影視点の一例を示す図である。
【
図12】
図12は、従来の対象物体の撮影視点の他の例を示す図である。
【発明を実施するための形態】
【0025】
〔適用例〕
以下、本発明の適用例について、図面を参照しつつ説明する。
図11に示すような、六角形のナットの対象物体271の3次元計測データを用いて、物体認識のためのテンプレートを作成する場合に、従来であれば、対象物体271の6面、すなわち斜め前方からの撮影視点IMP11,IMP12,IMP13,IMP14,IMP15,IMP16からの3次元計測を、それぞれ表(紙面手前側)と裏(紙面奥側)から行う必要があり、計12回の3次元計測が必要となっていた。
このような対象物体271は、
図6に示すように、ナット271の略円筒形の中空内部の中心軸(紙面に直交するZ軸)の方向から見たときに、ナット271は、この中心軸のまわりに60度回転させると対称となる。また、
図7に示すように、ナット271の中心軸方向に直交する方向の平面PLに対して面対称となる。
本発明では、上述のような対象物体の対称性に着目し、
図8に示すように、斜め上方からの1つの3次元計測データを中心軸の周りに60度ずつ6回回転させて複製することにより、中心軸回りに60度回転させた部分の3次元データを生成している。さらに、このように生成された3次元データを、面PLに対して面対称に複製することにより、3次元データを生成する。従って、斜め上方の1つ撮影視点からの3次元計測によって、対象物体271の3次元データを生成できる。
【0026】
また、
図12に示すような、柱状の対象物体272の3次元計測データを用いて、物体認識のためのテンプレートを作成する場合に、従来であれば、対象物体272の4面、すなわち斜め前方からの撮影視点IMP21,IMP24,IMP25,IMP26からの3次元計測を、それぞれ表(紙面手前側)と裏(紙面奥側)から行う必要があり、計8回の3次元計測が必要となっていた。
このような対象物体272は、
図9に示すように、対象物体272の斜め上方の撮影視点IMP21からみたとき、紙面に平行な面に対して面対称であり、斜め右上方の撮影視点IMP22と斜め左上方の撮影視点IMP23からみたときに紙面に直交する軸の周りにそれぞれ2回対称である。
本発明では、上述のような対象物体の対称性に着目し、
図9に示すように、撮影視点IMP21からの1つの3次元計測データを面対称に複製し、紙面に平行な面に面対称な部分の3次元データを生成し、撮影視点IMP22及びIMP23からの3次元計測データをそれぞれ180度回転させて、紙面に直交する軸の周りに180度回転させた部分の3次元データを生成する。従って、IMP21~23の3つの撮影視点からの3回の3次元計測によって、対象物体271の3次元データを生成できる。
【0027】
このようにすれば、対象物体の3次元計測データの計測回数がより少なくて済む。このようにして生成された3次元データに基づいてテンプレートを作成するので、テンプレート作成に要する時間を短縮することができる。
また、対称性を利用して対象物体の3次元計測データを複製して、対象物体全体の3次元データを生成した場合には、計測誤差や撮影視点位置姿勢の誤差等による、複数の3次元計測データを統合する際のずれを軽減でき、より実物に近いテンプレートを作成できるので、より少ない計測回数でより正確なテンプレートを作成することができる。
【0028】
〔実施形態〕
(物体認識装置の全体構成)
図1を参照して、本発明の実施形態に係る物体認識装置について説明する。
【0029】
物体認識装置2は、物品の組み立てや加工などを行う生産ラインに設置され、センサユニット20から取り込まれたデータを用いて、テンプレートマッチングによりトレイ26に積載された対象物体27の位置・姿勢を認識(3次元の物体認識)するシステムである。トレイ26上には、認識対象の物体(以下、「対象物体」ともいう。)27がバラ積みされている。
【0030】
物体認識装置2は、概略、センサユニット20と画像処理装置21から構成される。センサユニット20と画像処理装置21のあいだは有線又は無線で接続されており、センサユニット20の出力は画像処理装置21に取り込まれる。画像処理装置21は、センサユニット20から取り込まれたデータを用いて各種の処理を行うデバイスである。画像処理装置21の処理としては、例えば、距離計測(測距)、3次元形状認識、物体認識、シーン認識などが含まれてもよい。物体認識装置2の認識結果は、例えばPLC(プログラマブルロジックコントローラ)25やディスプレイ22などに出力される。認識結果は、例えば、ピッキング・ロボット28の制御、加工装置や印字装置の制御、対象物体27の検査や計測などに利用される。
【0031】
(センサユニット)
センサユニット20は、対象物体27の光学像を撮影するためのカメラを少なくとも有する。さらに、センサユニット20は、対象物体27の3次元計測を行うために必要な構成(センサ、照明装置、投光装置など)を含んでもよい。例えば、ステレオマッチング(ステレオビジョン、ステレオカメラ方式などとも呼ばれる。)によって奥行き距離を計測する場合には、センサユニット20に複数台のカメラが設けられる。アクティブステレオの場合はさらに、対象物体27にパターン光を投射する投光装置がセンサユニット20に設けられる。空間コード化パターン投影方式により3次元計測を行う場合には、パターン光を投射する投光装置とカメラがセンサユニット20に設けられる。他にも、照度差ステレオ法、TOF(タイムオブフライト)法、位相シフト法など、対象物体27の3次元情報を取得可能な方法であればいかなる方式を用いてもよい。
【0032】
(画像処理装置)
画像処理装置21は、例えば、CPU(プロセッサ)、RAM(メモリ)、不揮発性記憶装置(ハードディスク、SSDなど)、入力装置、出力装置などを備えるコンピュータにより構成される。この場合、CPUが、不揮発性記憶装置に格納されたプログラムをRAMに展開し、当該プログラムを実行することによって、後述する各種の構成が実現される。ただし、画像処理装置21の構成はこれに限られず、後述する構成のうちの全部又は一部を、FPGAやASICなどの専用回路で実現してもよいし、クラウドコンピューティングや分散コンピューティングにより実現してもよい。
【0033】
図2は、画像処理装置21の構成を示すブロック図である。画像処理装置21は、テンプレート作成装置30の構成と、物体認識処理装置31の構成を有している。
テンプレート作成装置30は、物体認識処理で利用するテンプレートを作成するための構成であり、撮影視点3次元位置姿勢データ取得部300、対象物体の3次元計測データ取得部301、対称性パラメータ設定部302、3次元データ複製部303、テンプレート作成視点位置姿勢情報取得部304、テンプレート作成視点の3次元データ生成部305、特徴抽出部306、テンプレート作成部307、テンプレート情報出力部308を有する。本実施形態では、撮影視点3次元位置姿勢データ取得部300が本発明の「計測視点位置姿勢データ取得部」に対応する。また、本実施形態では、対象物体の3次元計測データ取得部301が本発明の「3次元計測データ取得部」に対応する。また、本実施形態では、3次元データ複製部303が、本発明の「3次元データ複製部」に対応する。また、本実施形態では、テンプレート作成視点位置姿勢情報取得部304が本発明の「テンプレート作成視点位置姿勢データ取得部」に対応する。そして、本実施形態では、テンプレート作成視点の3次元データ生成部305が、本発明の「作成視点3次元データ生成部」に対応する。
物体認識処理装置31は、テンプレートマッチングによる物体認識処理を実行するための構成であり、画像取得部310、画像ピラミッド作成部311、特徴抽出部312、テンプレート情報取得部313、テンプレートマッチング部314、認識結果出力部315を有する。本実施形態では、画像取得部310、特徴抽出部312、テンプレートマッチング部314が、それぞれ本発明の「画像取得部」、「特徴抽出部」、「テンプレートマッチング部」に対応する。
【0034】
(3次元データ複製処理)
図3は、テンプレート作成装置30において行われるテンプレート作成方法としてのテンプレート作成処理の全体的な手順を示すフローチャートである。ここでは、まず、このうち、ステップS101の3次元データ複製処理について、
図4A及び
図4Bを参照して説明する。
図4A及び
図4Bは、3次元データ複製処理手順を説明するフローチャートである。
図4Aは対象物体が面対称の場合、
図4Bは対称物体が回転対称又は後述するN回対称(Nは2以上の自然数)の場合である。
【0035】
まず、
図4Aに示すフローチャートを参照して、対象物体が面対称である場合の3次元データ複製処理手順を説明する。
ステップS11において、3次元データ複製部303が、3次元計測時の撮影視点の3次元位置姿勢に関するデータを撮影視点3次元位置姿勢データ取得部300から、対象物体の3次元計測データを対象物体の3次元計測データ取得部301から、対称性パラメータ設定部302から対称性パラメータをそれぞれ取得する。本実施形態では、撮影視点が本発明の「計測視点」に対応する。
【0036】
図5は、対象物体の3次元計測データ及び撮影視点の3次元位置姿勢に関する情報を取得する構成の概略を説明する図である。
対象物体271に対して、3次元センサ220を所定の位置姿勢に配置して、対象物体271の3次元計測データを取得(撮影)するとともに、撮影視点の位置姿勢情報を取得する。3次元センサ220によって対象物体を異なる視点から撮影して3次元計測データを取得する場合には、3次元センサ220を固定して、対象物体271の姿勢を変えるようにしてもよいし、対象物体271を固定して、3次元センサ220の姿勢を変えるようにしてもよく、3次元センサ220と対象物体271の相対的な位置関係が変わればよい。
図5では、3次元センサ220によって載置面32上に載置された対象物体271を撮影して3次元計測データを取得する場合の一例を示す。ここでは、3次元センサ220を固定して、載置面32の姿勢を変えてもよいし、載置面32の姿勢を固定し、3次元センサ220の姿勢を変えるようにしてもよい。
また、撮影視点の3元位置姿勢は、対象物体の載置面32に表示された平面マーカ33や、載置面に対して固定して配置された参照物体(3DCADデータ等により形状が分かっている物体)を認識することによって取得してもよいし、対象物体の載置面32をゴニオステージ上に設けることによって取得してもよい。
【0037】
ここで、対称性パラメータとは、ある位置姿勢の撮影視点から見た対象物体と他の位置姿勢の撮影視点から見た対象物体が対称性を有する場合に、一方の位置姿勢の撮影視点からの3次元計測データを複製し、対称性を有する他方の位置姿勢からの3次元計測データとして用いるための、対称性の指標である。
このような対称性パラメータとしては、回転軸のまわりの回転対称があり、対象物体の回転軸を特定するデータが対称性パラメータとなる。
【0038】
図6に示すように、対象物体が六角形のナット271である場合には、ナットの略円筒形の中空内部の中心軸(紙面に直交するZ軸)の方向から見たときに、ナット271は、この中心軸のまわりに60度回転させると対称となる。すなわち、60度ずつ回転させた場合のナット271の3次元形状は同一である。なお、ここでは、同一は厳密な意味での同一ではなく、テンプレートを作成するための3次元計測データという目的に応じた同一を意味する。このように対称軸の回りに(360/N)度回転させると同一となり、N(N=6)回回転させるともとの形状となるような対称性を、N回対称(以下「N」を対象数という。)と称する。この場合には、対象物体の回転軸を特定するデータと、対象数Nが対称性パラメータとなる。
また、
図7に示すように、ナット271は、中心軸に沿った高さ方向の1/2の位置で、高さ方向に直交する面PLに対して面対称である。この場合には、対象物体の対称面を特定するデータが対称性パラメータとなる。
【0039】
このような対称性パラメータは、ユーザが入力装置を介して設定してもよいし、ユーザが指定した対象物体の形状に応じて算出するようにしてもよい。
【0040】
ステップS11で取得された対称性パラメータが面対称を示すパラメータを含む場合には、ステップS12において、全撮影視点の3次元計測データから対象物体の高さ(H)を算出する。対象物体の高さは、対称面に直交する方向(法線方向)の高さである。
【0041】
ステップS13において、まだ複製されていない撮影視点の3次元計測データを一つ取り出す。
【0042】
ステップS14において、3次元計測データの奥行き方向距離のみ対象物体の半分の高さで反転させたデータを複製する。このとき、複製される3次元計測データの奥行き方向をZ軸方向とすると、Z座標としてZorgを有する3次元計測データを、対象物体の半分の高さで反転させたZnewのZ座標を有する3次元データを、複製データとして生成する。
【0043】
ステップS15において、複製により、対象物体に対する全ての視点に対する3次元データが生成された否かを判断する。
【0044】
ステップS15において、複製により、対象物体に対する全ての視点に対する3次元データが生成されたと判断された場合には、面対称に対する3次元データ複製処理を終了する。
ステップS15において、複製により3次元データが生成されていない視点がある場合には、ステップS13以降の処理を繰り返す。
【0045】
次に、
図4Bに示すフローチャートを参照して、対象物体が回転対称又はN回対称である場合の3次元データ複製処理手順を説明する。
図4Aと共通する処理については、同様の符号を用いて詳細な説明は省略する。
【0046】
まず、ステップS11において、3次元データ複製部303が、3次元計測時の撮影視点の3次元位置姿勢に関するデータ、対象物体の3次元計測データ、対称性パラメータをそれぞれ取得する。
以下に説明するのは、対称性パラメータが回転対称又はN回対称を示すパラメータを含む場合の処理である。
【0047】
次に、ステップS16において、まだ、複製されていない撮影視点の3次元計測データを一つ取り出す。
【0048】
ステップS17において、Z軸を対象物体の回転軸として、N回対称の場合には、すでに生成されている撮影視点の3次元計測データを、Z軸回りに(360/N)度だけ回転させて複製することにより、当該撮影視点の3次元データを生成する。また、回転対称の場合には、すでに生成されている撮影視点の3次元計測データを、Z軸回りに任意の角度だけ回転させて複製することにより、当該撮影視点の3次元データを生成する。
ここで、対象物体がN回対称や回転対称である場合には、回転させた3次元データと元の3次元計測データとの回転中心を一致させる必要がある。3次元データ間で回転中心を一致させるには、2次元平面に投影したシルエット画像同士を用いてテンプレートマッチングの方法で回転中心を同定することができる。また、3次元点群同士を用いてICP(Iterative Closest Point)法による位置合わせの方法により回転中心を同定するようにしてもよい。また、上述したように対称性パラメータとしてユーザが回転中心を指定することもできるし、視野内の既知の点に対象物体の回転中心が一致するように対象物体を設置するようにしてもよい。
【0049】
ステップS18において、複製により、対象物体に対する全ての視点に対する3次元データが生成された否かを判断する。
【0050】
ステップS18において、複製により、対象物体に対する全ての視点に対する3次元データが生成されたと判断された場合には、回転対称又はN回対称に対する3次元データ複製処理を終了する。
ステップS18において、複製により3次元データが生成されていない視点がある場合には、ステップS16以降の処理を繰り返す。
【0051】
図4A及び
図4Bでは、対称性パラメータが面対称を示すパラメータを含む場合と、対称性パラメータが回転対称又はN回対称を示すパラメータを含む場合とを分けて説明したが、対称性パラメータが面対称を示すパラメータと、回転対称又はN回対称を示すパラメータの両者を含む場合は、
図4A及び
図4Bの両者の処理を行う。この場合の両者の処理の順序は適宜設定すればよい。
対象物体271が六角形のナットの場合には、例えば、
図8Aに示すように、斜め上方から対象物体を撮影した3次元計測データを、
図8Bの撮影視点IMP11に対する6回対称と、中空内部の中心軸方向に直交する方向の面対称とを利用して複製し、対象物体271の全体の3次元データを生成する。
また、
図9に示すような、柱状の対象物体272の場合には、撮影視点IMP11に対して面対称であり、撮影視点IMP12及びIMP13のそれぞれに対して2回対称である。このように対称性パラメータが面対称を示すパラメータと、回転対称又はN回対称を示すパラメータの両者を含む場合には、撮影視点IMP11に対する3次元計測データの面対称による複製と、撮影視点IMP12及びIMP13のそれぞれに対する2回対称による複製により、全ての視点に対する3次元計測データを生成することができる。
【0052】
(テンプレート作成処理)
図3に戻って、テンプレート作成処理手順を説明する。
【0053】
上述の3次元データ複製処理(ステップS101)に続いて、テンプレート作成視点の3次元データ生成部305は、ステップS102において、テンプレート作成視点位置姿勢情報取得部304から、対象物体に対してテンプレートを作成する視点であるテンプレート作成視点の位置姿勢に関する情報を取得する。このテンプレート作成視点の位置姿勢に関する情報は、ユーザが入力装置を介してしてもよいし、所定の方法によって複数のテンプレート作成視点の位置姿勢を設定しておくようにしてもよい。
【0054】
ステップS103において、し、ステップS101で複製された対象物体の3次元データに基づき、ステップS102で取得されたテンプレート作成視点における3次元データを生成する。
【0055】
ステップS104において、特徴抽出部306が、ステップS103で生成された、テンプレート作成視点に対する対象物体27の3次元計測データに基づいて、対象物体27の画像特徴を抽出する。画像特徴としては、例えば、輝度、色、輝度勾配方向、量子化勾配方向、HoG(Histogram of Oriented Gradients)、表面の法線方向、HAAR-like、SIFT(Scale-Invariant Feature Transform)などを用いることができる。輝度勾配方向は、特徴点を中心とする局所領域での輝度の勾配の方向(角度)を連続値で表すものであり、量子化勾配方向は、特徴点を中心とする局所領域での輝度の勾配の方向を離散値で表す(例えば、8方向を0~7の1バイトの情報で保持する)ものである。画像特徴が得られた点を特徴点と呼ぶ。
【0056】
ステップS105において、テンプレート作成部307が、ステップS104で抽出された画像特徴に基づいて、テンプレート作成視点に対応するテンプレートを作成する。テンプレートは、例えば、各特徴点の座標値と抽出された画像特徴とを含むデータセットである。
【0057】
ステップS106において、テンプレート作成部307は、ステップS102で取得された全てのテンプレート作成視点に対するテンプレートが作成されたか否かを判断する。
ステップS106において、ステップS102で取得された全てのテンプレート作成視点に対するテンプレートが作成されたと判断された場合には、テンプレート作成部307は、テンプレート情報出力部308を介して、テンプレートのデータを物体認識処理装置に出力する。
ステップS106において、ステップS102で取得されたテンプレート作成視点のうち、テンプレートが作成されていないテンプレート作成視点がある場合には、ステップS103~S105の処理を繰り返す。
【0058】
(物体認識処理)
図10のフローチャートを参照して、物体認識処理装置31による物体認識処理方法の一例を説明する。
【0059】
まず、ステップS201において、テンプレート情報取得部313は、テンプレート作成装置30のテンプレート情報出力部308から出力されるテンプレートのデータを取得し、テンプレートマッチング部314に供給する。
【0060】
次に、ステップS202において、画像取得部310が、対象物体を含み、物体認識処理の対象となる画像を取得する。この画像は、画像処理装置21の内部記憶装置から読み込んでもよいし、外部のストレージ等からネットワークを介して取得してもよい。また、センサユニット20で撮影された画像を取得するようにしてもよい。なお、認識結果をピッキング・ロボット28の制御に用いる場合には、センサユニット20をピッキング・ロボット28のアームに取り付けるようにしてもよい。
【0061】
次に、ステップS203において、画像ピラミッド作成部311が、画像取得部310によって取得された画像から低解像度画像を生成し、画像ピラミッドを生成する。例えば、第1層画像として160画素×120画素、第2層画像として320画素×240画素等のように低解像度画像から高解像度画像へと解像度を段階的に異ならせた複数の画像から画像ピラミッドを構成することができる。
【0062】
次に、ステップS204において、特徴抽出部312は、画像ピラミッドを構成する各層画像に対して画像特徴を抽出する。抽出される画像特徴は、テンプレート作成の際の画像特徴と同種の特徴量である。画像ピラミッドの最上層である第1層画像(最も解像度が低い画像)に対する画像特徴の抽出の結果として、第1層画像と同じ解像度を有し、第1層画像の各画素位置で抽出された特徴量データを画素値としてもつ画像(以下、「第1層特徴画像」ともいう。)が得られる。同様に、第2層画像に対する画像特徴の抽出の結果として、第2層特徴画像が得られる。
【0063】
次に、ステップS205において、テンプレートマッチング部314は、テンプレート情報取得部313から供給される視点ごとのテンプレートのデータと、各テンプレートのデータに対応する特徴抽出部312算出した各特徴量とを用いてテンプレートマッチングを行う。
ここでは、テンプレートマッチング部314は、まず、第1層特徴画像と第1層用の視点ごとのテンプレートを用いてマッチング処理を行う。テンプレートマッチング部314は、第1層用の視点ごとのテンプレートを用いたマッチング処理の結果、正解候補となるテンプレートを検出すると、検出結果に基づき、第2層特徴画像の探索範囲を設定し、第2層特徴画像と第2層用の視点ごとのテンプレートを用いてマッチング処理を行う。第3層画像、第4層画像が存在する場合には、これらの層画像に対しても同様の処理が行われる。このような処理が行われる結果、最下層(最も画像の解像度が高い層)における物体の存在位置姿勢を認識することができる。
【0064】
次に、ステップS206において、テンプレートマッチング部314は、対象物体の存在位置や姿勢などを認識すると、認識結果を示す認識情報を認識結果出力部315に出力する。認識結果出力部315は、テンプレートマッチング部314から供給される認識情報を、外部装置や液晶パネル等に出力する。認識情報は、例えば、対象物体の検査・計測や、ピッキング・ロボット28の制御などに利用される。
【0065】
(本実施形態の利点)
以上述べた構成及び処理では、指定された対称性に基づいて、対象物体の部分的な3次元計測データを複製して全体の3次元データを生成するので、対象物体の3次元計測データの計測回数がより少なくて済む。このようにして生成された3次元データに基づいてテンプレートを作成するので、テンプレート作成に要する時間を短縮することができる。
また、対称性を利用して対象物体の3次元計測データを複製して、対象物体全体の3次元データを生成した場合には、計測誤差や撮影視点位置姿勢の誤差等による、複数の3次元計測データを統合する際のずれを軽減でき、より実物に近いテンプレートを作成できるので、より少ない計測回数でより正確なテンプレートを作成することができる。
【0066】
<その他>
上記実施形態は、本発明の構成例を例示的に説明するものに過ぎない。本発明は上記の具体的な形態には限定されることはなく、その技術的思想の範囲内で種々の変形が可能である。
対象物体の3次元計測を行う場合には、撮影視点の数は、ユーザが決定してもよい。撮影視点は1視点でもよいし、複数視点でもよい。
計測視点位置姿勢は、ユーザが対象物体の対称性を考慮した上で、対象物体の全体の3次元データを生成できるように決定することができる。複製によって3次元データの生成を行いながら、次の、撮影視点を決定するようにしてもよい。
面対称な対象物体の複製の際に必要な高さは、各3次元計測データのZ最大値(Z方向の高さの最大値)近傍の測定結果の平均としてもよい。外れ値やノイズを考慮するために、各3次元計測データのZ値(Z方向の高さ)のヒストグラムを作成し、閾値以上の投票があった最大のビンのZ値としてもよい。
また、面対称な対象物体の複製の際に必要な高さは、実測値をユーザが入力するようにしてもよい。
3次元計測データを複製する場合には、法線ベクトルや点群の色等の各3次元点に付随するデータがあれば、これらも同時に複製する。例えば、回転対称の場合には法線ベクトルも同様に回転させ、面対称の場合は奥行き成分のみを符号反転させる。
回転対称の場合には、回転させる角度は適宜設定することができるが、例えば30度から45度程度のように1視点で計測できる範囲に応じて設定することが好ましい。
3次元計測データの信頼性の高い範囲が分かっている場合には、その信頼性が高い範囲の3次元計測データを複製に用いるようにすれば、より正確な3次元データが生成できるので、より正確なテンプレートを生成することができる。
【0067】
なお、以下には本発明の構成要件と実施例の構成とを対比可能とするために、本発明の構成要件を図面の符号付きで記載しておく。
<発明1>
対象物体(27)の3次元計測データに基づいて、該対象物体(27)に対応するテンプレートを作成するテンプレート作成装置(30)であって、
前記対象物体(271)の3次元計測データを取得する3次元計測データ取得部(301)と、
前記対象物体を3次元計測する視点としての計測視点の位置姿勢に関するデータを取得する計測視点位置姿勢データ取得部(300)と、
前記対象物体の対称性を特定する対称性パラメータを設定する対称性パラメータ設定部(302)と、
前記計測視点に対応する前記3次元計測データと、前記対象物体(27)の前記対称性パラメータに基づいて前記計測視点に対応する前記3次元計測データを複製した3次元データを用いて、該対象物体(27)の3次元データを生成する3次元データ複製部(303)と、
前記テンプレートを作成するための視点としてのテンプレート作成視点の位置姿勢に関するデータを取得するテンプレート作成位置姿勢データ取得部(304)と、
生成された前記対象物体の3次元データに基づいて、前記テンプレート作成視点からの3次元データを生成する作成視点3次元データ生成部(305)と、
を備えることを特徴とするテンプレート作成装置(30)。
【符号の説明】
【0068】
2:物体認識装置
21:画像処理装置
27:対象物体
30:テンプレート作成装置
31:物体認識処理装置
300:撮影視点3次元位置姿勢データ取得部
301:対象物体の3次元計測データ取得部
302:対称性パラメータ設定部
303:3次元データ複製部
304:テンプレート作成視点位置姿勢情報取得部
305:テンプレート作成視点の3次元データ生成部
310:画像取得部
312:特徴抽出部
314:テンプレートマッチング部