(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公開特許公報(A)
(11)【公開番号】P2023182014
(43)【公開日】2023-12-26
(54)【発明の名称】物体照合装置及び物体照合方法
(51)【国際特許分類】
G06T 7/00 20170101AFI20231219BHJP
【FI】
G06T7/00 C
【審査請求】未請求
【請求項の数】12
【出願形態】OL
(21)【出願番号】P 2022095365
(22)【出願日】2022-06-14
(71)【出願人】
【識別番号】591036457
【氏名又は名称】三菱電機エンジニアリング株式会社
(74)【代理人】
【識別番号】110003166
【氏名又は名称】弁理士法人山王内外特許事務所
(72)【発明者】
【氏名】向山 弘記
【テーマコード(参考)】
5L096
【Fターム(参考)】
5L096AA09
5L096FA18
5L096FA64
5L096FA66
5L096FA69
5L096GA51
(57)【要約】 (修正有)
【課題】軽負荷で物体の照合する装置及び方法を提供する。
【解決手段】物体照合装置において、照合処理部は、製品の点群データを取得するデータ取得部1302と、取得された点群データに基づいて、製品のバウンディングボックス(BB)を算出するBB算出部1303と、製品モデルのBBと製品のBBとを比較する比較部1304と、大きさの差が閾値以内であると判定した場合、取得した点群データ又はポリゴン(以下、点群データ等)から、部品モデルの相対的な位置に対応する位置における部品モデルのBBに対応する点群データ等を抽出するデータ抽出部1305と、抽出された点群データ等に基づいて、部品の断面シルエット形状(SS)を算出するSS算出部1306と、部品モデルのSSと部品のSSとを比較する比較部1307と、比較結果に基づいて、部品が、部品モデルに対応する物体と同一種別の物体であるかを判定する照合部1308と、を備えた。
【選択図】
図3
【特許請求の範囲】
【請求項1】
第1の物体の3次元形状を示す座標の点群データを取得するデータ取得部と、
前記データ取得部により取得された第1の物体の3次元形状を示す座標の点群データに基づいて、当該第1の物体における特定方向である第1の基準軸を基準に、当該第1の物体のバウンディングボックスを算出する第1のバウンディングボックス算出部と、
第1の物体モデルのバウンディングボックスと、前記第1のバウンディングボックス算出部により算出された第1の物体のバウンディングボックスとを比較する第1の比較部と、
前記第1の比較部により第1の物体モデルのバウンディングボックスと第1の物体のバウンディングボックスとの大きさの差が閾値以内であると判定された場合、当該第1の物体モデルに含まれた第2の物体モデルのバウンディングボックス及び当該第2の物体モデルの当該第1の物体モデルにおける相対的な位置、及び、前記データ取得部により取得された第1の物体の3次元形状を示す座標の点群データ又は当該点群データから生成されたポリゴンに基づいて、当該点群データ又は当該ポリゴンから、当該相対的な位置に対応する位置における当該第2の物体モデルのバウンディングボックスに対応する範囲を含む所定範囲内の点群データ又はポリゴンを抽出するデータ抽出部と、
前記データ抽出部により抽出された点群データ又はポリゴンに基づいて、前記第1の基準軸に基づく第1の基準面における第2の物体の断面シルエット形状を算出する第1の断面シルエット形状算出部と、
第2の物体モデルの断面シルエット形状と、前記第1の断面シルエット形状算出部により算出された第2の物体の断面シルエット形状とを比較する第2の比較部と、
前記第2の比較部による比較結果に基づいて、第2の物体が、第2の物体モデルに対応する物体と同一種別の物体であるかを判定する照合部と
を備えた物体照合装置。
【請求項2】
第1の物体モデルの3次元形状を示すデータに基づいて、当該第1の物体モデルにおける特定方向である第2の基準軸を基準に、当該第1の物体モデルのバウンディングボックスを算出する第2のバウンディングボックス算出部を備え、
前記第1の比較部は、前記第2のバウンディングボックス算出部により算出された第1の物体モデルのバウンディングボックスを用いて比較を行う
ことを特徴とする請求項1記載の物体照合装置。
【請求項3】
第1の物体モデルの3次元形状を示すデータに基づいて、前記第2の基準軸に基づく第2の基準面における第2の物体モデルの断面シルエット形状を算出する第2の断面シルエット形状算出部を備え、
前記第2の比較部は、前記第2の断面シルエット形状算出部により算出された第2の物体モデルの断面シルエット形状を用いて比較を行う
ことを特徴とする請求項2記載の物体照合装置。
【請求項4】
前記第2の比較部は、前記第1の断面シルエット形状算出部により算出された第2の物体の断面シルエット形状のうち、前記データ抽出部により点群データ又はポリゴンが得られた範囲を比較対象とする
ことを特徴とする請求項1記載の物体照合装置。
【請求項5】
前記照合部により第2の物体が第2の物体モデルに対応する物体と同一種別の物体であると判定された場合、当該第2の物体の基準となる位置を算出する第1の位置算出部と、
第2の物体モデルに対する付加情報の相対的な位置、及び、前記第1の位置算出部により算出された第2の物体の基準となる位置に基づいて、当該付加情報を表示する位置を算出する第2の位置算出部と、
前記付加情報の表示内容を示すデータ、及び、前記第2の位置算出部により算出された位置に基づいて、当該付加情報を表示する情報付加部とを備えた
ことを特徴とする請求項1記載の物体照合装置。
【請求項6】
第1の物体の3次元形状を示す座標の点群データを取得するデータ取得部と、
前記データ取得部により取得された第1の物体の3次元形状を示す座標の点群データに基づいて、当該第1の物体における特定方向である第1の基準軸を基準に、当該第1の物体のバウンディングボックスを算出する第1のバウンディングボックス算出部と、
第1の物体モデルのバウンディングボックスと、前記第1のバウンディングボックス算出部により算出された第1の物体のバウンディングボックスとを比較する第1の比較部と、
前記第1の比較部により第1の物体モデルのバウンディングボックスと第1の物体のバウンディングボックスとの大きさの差が閾値以内であると判定された場合、前記データ取得部により取得された第1の物体の3次元形状を示す座標の点群データ又は当該点群データから生成されたポリゴンに基づいて、前記第1の基準軸に基づく第1の基準面における当該第1の物体の断面シルエット形状を算出する第1の断面シルエット形状算出部と、
第1の物体モデルの断面シルエット形状と、前記第1の断面シルエット形状算出部により算出された第1の物体の断面シルエット形状とを比較する第2の比較部と、
前記第2の比較部による比較結果に基づいて、第1の物体が、第1の物体モデルに対応する物体と同一種別の物体であるかを判定する照合部と
を備えた物体照合装置。
【請求項7】
第1の物体モデルの3次元形状を示すデータに基づいて、当該第1の物体モデルにおける特定方向である第2の基準軸を基準に、当該第1の物体モデルのバウンディングボックスを算出する第2のバウンディングボックス算出部を備え、
前記第1の比較部は、前記第2のバウンディングボックス算出部により算出された第1の物体モデルのバウンディングボックスを用いて比較を行う
ことを特徴とする請求項6記載の物体照合装置。
【請求項8】
第1の物体モデルの3次元形状を示すデータに基づいて、前記第2の基準軸に基づく第2の基準面における当該第1の物体モデルの断面シルエット形状を算出する第2の断面シルエット形状算出部を備え、
前記第2の比較部は、前記第2の断面シルエット形状算出部により算出された第1の物体モデルの断面シルエット形状を用いて比較を行う
ことを特徴とする請求項7記載の物体照合装置。
【請求項9】
前記第2の比較部は、前記第1の断面シルエット形状算出部により算出された第1の物体の断面シルエット形状のうち、前記データ取得部により点群データが得られた範囲を比較対象とする
ことを特徴とする請求項6記載の物体照合装置。
【請求項10】
前記照合部により第1の物体が第1の物体モデルに対応する物体と同一種別の物体であると判定された場合、当該第1の物体の基準となる位置を算出する第1の位置算出部と、
第1の物体モデルに対する付加情報の相対的な位置、及び、前記第1の位置算出部により算出された第1の物体の基準となる位置に基づいて、当該付加情報を表示する位置を算出する第2の位置算出部と、
前記付加情報の表示内容を示すデータ、及び、前記第2の位置算出部により算出された位置に基づいて、当該付加情報を表示する情報付加部とを備えた
ことを特徴とする請求項6記載の物体照合装置。
【請求項11】
データ取得部が、第1の物体の3次元形状を示す座標の点群データを取得するステップと、
第1のバウンディングボックス算出部が、前記データ取得部により取得された第1の物体の3次元形状を示す座標の点群データに基づいて、当該第1の物体における特定方向である第1の基準軸を基準に、当該第1の物体のバウンディングボックスを算出するステップと、
第1の比較部が、第1の物体モデルのバウンディングボックスと、前記第1のバウンディングボックス算出部により算出された第1の物体のバウンディングボックスとを比較するステップと、
データ抽出部が、前記第1の比較部により第1の物体モデルのバウンディングボックスと第1の物体のバウンディングボックスとの大きさの差が閾値以内であると判定された場合、当該第1の物体モデルに含まれた第2の物体モデルのバウンディングボックス及び当該第2の物体モデルの当該第1の物体モデルにおける相対的な位置、及び、前記データ取得部により取得された第1の物体の3次元形状を示す座標の点群データ又は当該点群データから生成されたポリゴンに基づいて、当該点群データ又は当該ポリゴンから、当該相対的な位置に対応する位置における当該第2の物体モデルのバウンディングボックスに対応する範囲を含む所定範囲内の点群データ又はポリゴンを抽出するステップと、
第1の断面シルエット形状算出部が、前記データ抽出部により抽出された点群データ又はポリゴンに基づいて、前記第1の基準軸に基づく第1の基準面における第2の物体の断面シルエット形状を算出するステップと、
第2の比較部が、第2の物体モデルの断面シルエット形状と、前記第1の断面シルエット形状算出部により算出された第2の物体の断面シルエット形状とを比較するステップと、
照合部が、前記第2の比較部による比較結果に基づいて、第2の物体が、第2の物体モデルに対応する物体と同一種別の物体であるかを判定するステップと
を有する物体照合方法。
【請求項12】
データ取得部が、第1の物体の3次元形状を示す座標の点群データを取得するステップと、
第1のバウンディングボックス算出部が、前記データ取得部により取得された第1の物体の3次元形状を示す座標の点群データに基づいて、当該第1の物体における特定方向である第1の基準軸を基準に、当該第1の物体のバウンディングボックスを算出するステップと、
第1の比較部が、第1の物体モデルのバウンディングボックスと、前記第1のバウンディングボックス算出部により算出された第1の物体のバウンディングボックスとを比較するステップと、
第1の断面シルエット形状算出部が、前記第1の比較部により第1の物体モデルのバウンディングボックスと第1の物体のバウンディングボックスとの大きさの差が閾値以内であると判定された場合、前記データ取得部により取得された第1の物体の3次元形状を示す座標の点群データ又は当該点群データから生成されたポリゴンに基づいて、前記第1の基準軸に基づく第1の基準面における当該第1の物体の断面シルエット形状を算出するステップと、
第2の比較部が、第1の物体モデルの断面シルエット形状と、前記第1の断面シルエット形状算出部により算出された第1の物体の断面シルエット形状とを比較するステップと、
照合部が、前記第2の比較部による比較結果に基づいて、第1の物体が、第1の物体モデルに対応する物体と同一種別の物体であるかを判定するステップと
を有する物体照合方法。
【発明の詳細な説明】
【技術分野】
【0001】
本開示は、物体の照合を行う物体照合装置及び物体照合方法に関する。
【背景技術】
【0002】
従来、現実世界と仮想現実とを組み合わせた複合現実(MR:Mixed Reality)と呼ばれる技術が知られている。このMRにおいて、ある物体に対して情報を視覚的に付加する場合、その物体そのものを認識するのではなく、その物体の基準座標を示すマーカを配置し、そのマーカを例えばQRコード(登録商標)等を用いて認識している。そして、この認識したマーカに対する所定の相対座標の位置に、上記情報を表示するという手段が用いられている(例えば特許文献1参照)。
【0003】
このように、従来では、物体の認識をせずに、その物体の基準位置を示すマーカを認識している。そのため、物体の実際の位置が変化した場合、物体の実際の位置がマーカが示す基準位置からずれてしまう。また、マーカの配置位置が決められた正しい位置からずれていた場合にも、物体の位置がマーカが示す基準位置からずれてしまう。よって、ある物体に対して情報を視覚的に付加する場合に、その情報の位置が物体の実際の位置からずれてしまう場合があり、適切ではない。
【0004】
これに対し、従来から物体そのものの認識を行う技術も知られている(例えば特許文献1参照)。しかしながら、従来の物体認識の手法では、3次元的に照合処理を行うことで物体の認識を行っており、処理に大きな負荷がかかる。
【先行技術文献】
【特許文献】
【0005】
【発明の概要】
【発明が解決しようとする課題】
【0006】
上記のように、従来では、物体の認識をせずに、その物体の基準位置を示すマーカを認識している。そのため、物体の実際の位置が変化した場合、物体の実際の位置がマーカが示す基準位置からずれてしまう。よって、ある物体に対して情報を視覚的に付加する場合に、その情報の位置が物体の実際の位置からずれてしまう場合があり、適切ではない。
【0007】
よって、上記の問題を解決するためには、物体そのものを認識する必要がある。しかしながら、従来では、物体そのものを認識するには処理に大きな負荷がかかる。
【0008】
本開示は、上記のような課題を解決するためになされたもので、従来に対し、軽負荷で物体を照合が可能となる物体照合装置を提供することを目的としている。
【課題を解決するための手段】
【0009】
本開示に係る物体照合装置は、第1の物体の3次元形状を示す座標の点群データを取得するデータ取得部と、データ取得部により取得された第1の物体の3次元形状を示す座標の点群データに基づいて、当該第1の物体における特定方向である第1の基準軸を基準に、当該第1の物体のバウンディングボックスを算出する第1のバウンディングボックス算出部と、第1の物体モデルのバウンディングボックスと、第1のバウンディングボックス算出部により算出された第1の物体のバウンディングボックスとを比較する第1の比較部と、第1の比較部により第1の物体モデルのバウンディングボックスと第1の物体のバウンディングボックスとの大きさの差が閾値以内であると判定された場合、当該第1の物体モデルに含まれた第2の物体モデルのバウンディングボックス及び当該第2の物体モデルの当該第1の物体モデルにおける相対的な位置、及び、データ取得部により取得された第1の物体の3次元形状を示す座標の点群データ又は当該点群データから生成されたポリゴンに基づいて、当該点群データ又は当該ポリゴンから、当該相対的な位置に対応する位置における当該第2の物体モデルのバウンディングボックスに対応する範囲を含む所定範囲内の点群データ又はポリゴンを抽出するデータ抽出部と、データ抽出部により抽出された点群データ又はポリゴンに基づいて、第1の基準軸に基づく第1の基準面における第2の物体の断面シルエット形状を算出する第1の断面シルエット形状算出部と、第2の物体モデルの断面シルエット形状と、第1の断面シルエット形状算出部により算出された第2の物体の断面シルエット形状とを比較する第2の比較部と、第2の比較部による比較結果に基づいて、第2の物体が、第2の物体モデルに対応する物体と同一種別の物体であるかを判定する照合部とを備えたことを特徴とする。
【発明の効果】
【0010】
本開示によれば、上記のように構成したので、従来に対し、軽負荷で物体の照合が可能となる。
【図面の簡単な説明】
【0011】
【
図1】実施の形態1に係る物体照合装置の構成例を示す図である。
【
図2】実施の形態1におけるデータベース作成部の構成例を示す図である。
【
図3】実施の形態1における照合処理部の構成例を示す図である。
【
図4】実施の形態1に係る物体照合装置によるデータベースの作成動作例を示すフローチャートである。
【
図5】実施の形態1に係る物体照合装置により算出された製品モデルのバウンディングボックスの一例を示す図である。
【
図6】
図6A~
図6Cは、実施の形態1に係る物体照合装置により算出された部品モデルのバウンディングボックスの一例を示す図である。
【
図7】
図7A~
図7Cは、
図6Aに示す部品モデルの断面シルエット形状の一例を示す図であり、
図7AはXY平面での断面シルエット形状を示し、
図7BはYZ平面での断面シルエット形状を示し、
図7CはXZ平面での断面シルエット形状を示している。
【
図8】実施の形態1に係る物体照合装置による物体の照合動作例を示すフローチャートである。
【
図9】実施の形態1に係る物体照合装置による製品のバウンディングボックスの算出動作例を示す図である。
【
図10】実施の形態1に係る物体照合装置による点群データの抽出動作例を示す図である。
【
図11】実施の形態1に係る物体照合装置による部品の断面シルエット形状の算出動作例を示す図である。
【
図12】実施の形態1に係る物体照合装置による部品モデルの断面シルエット形状と部品の断面シルエット形状との比較動作例を図である。
【
図13】実施の形態2におけるデータベース作成部の構成例を示す図である。
【
図14】実施の形態2における照合処理部の構成例を示す図である。
【
図15】実施の形態3における照合処理部の構成例を示す図である。
【
図16】実施の形態3に係る物体照合装置により算出された一部欠損している部品の断面シルエット形状の一例を示す図である。
【
図17】実施の形態3に係る物体照合装置による部品モデルの断面シルエット形状と部品の断面シルエット形状との比較動作例を図である。
【
図18】実施の形態4に係る物体照合装置の構成例を示す図である。
【
図19】実施の形態4における表示処理部の構成例を示す図である。
【発明を実施するための形態】
【0012】
以下、実施の形態について図面を参照しながら詳細に説明する。
実施の形態1.
図1は実施の形態1に係る物体照合装置1の構成例を示す図である。
物体照合装置1は、物体の照合を行う装置である。この物体照合装置1は、例えば、MRの他、拡張現実(AR:Augmented Reality)の分野にも適用可能である。
【0013】
なお、実施の形態1では、物体照合装置1が照合対象とする物体が、製品(第1の物体)に含まれた部品(第2の物体)である場合を例に説明を行う。この照合対象である部品は、製品に対して1つ又は複数存在する。
【0014】
この物体照合装置1は、
図1に示すように、データ記憶部11、データベース作成部12、及び、照合処理部13を備えている。
【0015】
データ記憶部11は、物体照合装置1で扱われる各種のデータを記憶する。
【0016】
なお、データ記憶部11としては、例えば、RAM(Random Access Memory)、ROM(Read Only Memory)、フラッシュメモリ、EPROM(Erasable Programmable ROM)、EEPROM(Electrically EPROM)等の不揮発性又は揮発性の半導体メモリ、磁気ディスク、フレキシブルディスク、光ディスク、コンパクトディスク、ミニディスク、又はDVD(Digital Versatile Disc)等が該当する。
【0017】
また、
図1では、データ記憶部11が物体照合装置1の内部に設けられた場合を示した。しかしながら、これに限らず、データ記憶部11は物体照合装置1の外部に設けられ、物体照合装置1は、外部に設けられたデータ記憶部11との間でデータのやり取りを行うように構成されていてもよい。
【0018】
データベース作成部12は、照合処理部13による照合で用いられる物体モデルに関するデータを作成する。このデータベース作成部12は、
図2に示すように、バウンディングボックス算出部(第2のバウンディングボックス算出部)1201、及び、断面シルエット形状算出部(第2の断面シルエット形状算出部)1202を備えている。
【0019】
バウンディングボックス算出部1201は、製品モデルの3次元形状を示すデータに基づいて、モデル基準軸(第2の基準軸)を基準に、当該製品モデルのバウンディングボックスを算出する。
なお、製品モデルは、上記製品に対応するモデルである。
また、モデル基準軸は、製品モデルにおける特定方向である。例えば、バウンディングボックス算出部1201は、モデル基準軸として、製品モデルの短手方向又は長手方向等を採用することができる。
【0020】
また、バウンディングボックス算出部1201は、製品モデルの3次元形状を示すデータに基づいて、モデル基準軸を基準に、部品モデルのバウンディングボックスを算出する。なお、部品モデルは、上記部品に対応するモデルである。
また、バウンディングボックス算出部1201は、上記部品モデルの製品モデルにおける相対的な位置を算出する。
【0021】
断面シルエット形状算出部1202は、製品モデルの3次元形状を示すデータに基づいて、モデル基準面(第2の基準面)における部品モデルの断面シルエット形状を算出する。
なお、モデル基準面は、モデル基準軸に基づく平面である。例えば、製品モデルの長手方向をX軸とした場合、断面シルエット形状算出部1202は、基準面として、例えばXY平面、YZ平面又はXZ平面を採用することができる。
また、断面シルエット形状算出部1202は、複数のモデル基準面における部品モデルの断面シルエット形状をそれぞれ算出することが好ましい。
【0022】
照合処理部13は、データベース作成部12により作成されたデータを用いて、物体の照合を行う。この照合処理部13は、
図3に示すように、深度センサ1301、データ取得部1302、バウンディングボックス算出部(第1のバウンディングボックス算出部)1303、比較部(第1の比較部)1304、データ抽出部1305、断面シルエット形状算出部(第1の断面シルエット形状算出部)1306、比較部(第2の比較部)1307、及び、照合部1308を備えている。
【0023】
深度センサ1301は、所定の計測領域に存在する製品の3次元形状を示す座標の点群データを計測する。
この深度センサ1301により計測された製品の3次元形状を示す座標の点群データは、データ取得部1302に送信される。
【0024】
なお、
図1では、深度センサ1301が物体照合装置1の内部に設けられた場合を示した。しかしながら、これに限らず、深度センサ1301は物体照合装置1の外部に設けられ、物体照合装置1は、外部に設けられた深度センサ1301との間でデータのやり取りを行うように構成されていてもよい。
【0025】
データ取得部1302は、深度センサ1301により計測された製品の3次元形状を示す座標の点群データを取得する。
なお、深度センサ1301では、計測領域に対して計測を行う。そのため、通常、深度センサ1301による計測結果には、計測領域に存在する製品の3次元形状を示す座標の点群データの他に、計測領域に存在する製品以外の物体の3次元形状を示す座標の点群データも含まれている。そして、データ取得部1302は、上記の点群データをまとめて取得することになる。なお、製品以外の物体としては、例えば、製品の周囲に存在する床、壁、又は製品が置かれた台等の物体が挙げられる。
【0026】
バウンディングボックス算出部1303は、データ取得部1302により取得された製品の3次元形状を示す座標の点群データに基づいて、物体基準軸(第1の基準軸)を基準に、当該製品のバウンディングボックスを算出する。
なお、物体基準軸は、製品における特定方向である。また、物体基準軸とモデル基準軸は、同一の方向である。例えば、バウンディングボックス算出部1303は、物体基準軸として、製品における短手方向又は長手方向等を採用することができる。
【0027】
なお、上記のように、データ取得部1302により取得された点群データには、通常、製品の3次元形状を示す座標の点群データの他に、その周囲に存在する他の物体の3次元形状を示す座標の点群データが含まれている。
そこで、まず、バウンディングボックス算出部1303は、データ取得部1302により取得された点群データから、上記他の物体の3次元形状を示す座標の点群データを除去する。なお、点群データの除去方法については既存手法を適用可能である。
そして、バウンディングボックス算出部1303は、上記除去後の点群データに基づいて、ポリゴンを生成する。なお、ポリゴンの生成方法については既存手法を適用可能である。
そして、バウンディングボックス算出部1303は、このポリゴンに基づいて、物体基準軸を基準に、製品のバウンディングボックスを算出する。
【0028】
なお、上記では、バウンディングボックス算出部1303がポリゴンを生成する場合を示した。しかしながら、バウンディングボックス算出部1303の処理において、このポリゴンの生成は必須の処理ではない。すなわち、バウンディングボックス算出部1303は、上記除去後の点群データから直接、物体基準軸を基準に、製品のバウンディングボックスを算出してもよい。
【0029】
比較部1304は、バウンディングボックス算出部1201により算出された製品モデルのバウンディングボックスと、バウンディングボックス算出部1303により算出された製品のバウンディングボックスとを比較する。
この際、比較部1304は、製品モデルのバウンディングボックスと製品のバウンディングボックスとの大きさの差が閾値以内であるかを判定する。なお、閾値は、事前に、製品モデルと製品との照合が可能な値に適宜設定される。
また、上記大きさとは、バウンディングボックスにおける任意の平面(例えばxy平面)の面積、又は、バウンディングボックスにおける任意の方向の長さである。
【0030】
データ抽出部1305は、比較部1304により製品モデルのバウンディングボックスと製品のバウンディングボックスとの大きさの差が閾値以内であると判定された場合、バウンディングボックス算出部1201により算出された部品モデルのバウンディングボックス及び当該部品モデルの製品モデルにおける相対的な位置、及び、データ取得部1302により取得された製品の3次元形状を示す座標の点群データに基づいて、当該点群データから、当該相対的な位置に対応する位置における当該部品モデルのバウンディングボックスに対応する範囲を含む所定範囲内の点群データを抽出する。
すなわち、データ抽出部1305は、データ取得部1302により取得された点群データから、照合対象である部品が存在すると考えられる範囲を含む所定範囲内の点群データを抽出する。
【0031】
又は、バウンディングボックス算出部1303が点群データからポリゴンを生成している場合には、データ抽出部1305は、点群データではなく当該ポリゴンから、上記相対的な位置に対応する位置における上記部品モデルのバウンディングボックスに対応する範囲を含む所定範囲内のポリゴンを抽出してもよい。すなわち、データ抽出部1305は、バウンディングボックス算出部1303により生成されたポリゴンから、照合対象である部品が存在すると考えられる範囲を含む所定範囲内のポリゴンを抽出してもよい。
【0032】
断面シルエット形状算出部1306は、データ抽出部1305により抽出された点群データ又はポリゴンに基づいて、物体基準面(第1の基準面)における部品の断面シルエット形状を算出する。
なお、物体基準面は、物体基準軸に基づく平面である。また、物体基準面とモデル基準面は、同一の平面である。例えば、製品における長手方向を物体基準軸としてX軸とした場合、断面シルエット形状算出部1306は、基準面として、例えばXY平面、YZ平面又はXZ平面を採用することができる。
また、断面シルエット形状算出部1306は、複数の物体基準面における部品の断面シルエット形状をそれぞれ算出することが好ましい。
【0033】
ここで、データ抽出部1305により点群データが抽出された場合、断面シルエット形状算出部1306は、当該点群データから直接、物体基準面における部品の断面シルエット形状を算出してもよい。
また、データ抽出部1305により点群データが抽出された場合、断面シルエット形状算出部1306は、当該点群データからポリゴンを生成し、当該ポリゴンから、物体基準面における部品の断面シルエット形状を算出してもよい。
また、データ抽出部1305によりポリゴンが抽出された場合、断面シルエット形状算出部1306は、当該ポリゴンから、物体基準面における部品の断面シルエット形状を算出してもよい。
【0034】
なお、ポリゴンでは、点群データに対して点の数が間引かれている。そのため、断面シルエット形状算出部1306は、2次元の断面シルエット形状を算出する際に、点群データではなくポリゴンから算出することで、処理の効率化及び処理負荷の軽減につながるものと考えられる。
【0035】
また、バウンディングボックス算出部1303でポリゴンを生成する場合には、製品の3次元形状を示す座標の点群データからポリゴンを生成する。一方、断面シルエット形状算出部1306でポリゴンを生成する場合には、照合対象である部品が存在すると考えられる範囲を含む所定範囲内の点群データからポリゴンを生成する。そのため、断面シルエット形状算出部1306でポリゴンの生成を行う場合の方が、バウンディングボックス算出部1303でポリゴンの生成を行う場合に対して、点群データの量が少ないため、処理の効率化及び処理負荷の軽減につながるものと考えられる。
【0036】
比較部1307は、断面シルエット形状算出部1202により算出された部品モデルの断面シルエット形状と、断面シルエット形状算出部1306により算出された部品の断面シルエット形状とを比較する。この際、比較部1307は、パターンマッチング等の既存手法を用いて、部品モデルの断面シルエット形状と部品の断面シルエット形状との一致率を判定する。
なお、物体基準面及びモデル基準面の組が複数存在する場合、比較部1307は、対応する物体基準面及びモデル基準面毎に、断面シルエット形状の比較を行う。
【0037】
照合部1308は、比較部1307による比較結果に基づいて、部品が、部品モデルに対応する部品と同一種別の部品であるかを判定する。
この際、例えば、照合部1308は、比較部1307により部品モデルの断面シルエット形状と部品の断面シルエット形状との一致率が閾値以上であると判定された場合、部品が、部品モデルに対応する部品と同一種別の部品であると判定する。なお、閾値は、事前に、部品モデルと部品との照合が可能な値に適宜設定される。
また、比較部1307により断面シルエット形状の比較が複数回実施された場合には、照合部1308は、当該複数回の比較結果を総合的に判定して、部品が、部品モデルに対応する部品と同一種別の部品であるかを判定する。
【0038】
また、
図1では、物体照合装置1に、データベース作成部12が設けられた場合を示した。しかしながら、このデータベース作成部12は、物体照合装置1に必須の構成ではなく、物体照合装置1に設けられていなくてもよい。
【0039】
次に、
図1に示す実施の形態1に係る物体照合装置1の動作例について説明する。ここでは、実施の形態1に係る物体照合装置1が照合対象とする物体が、製品に含まれた部品である場合を例に説明を行う。
まず、
図1に示す実施の形態1に係る物体照合装置1によるデータベースの作成動作例について、
図4を参照しながら説明する。
また、以下で示す
図5~7,9~12が示す図は、機能説明のために製品を模倣して作図した画像を示す図であり、実物の製品画像とは異なる画像を示す図である。
【0040】
図1に示す実施の形態1に係る物体照合装置1によるデータベースの作成動作例では、
図4に示すように、まず、バウンディングボックス算出部1201は、製品モデルの3次元形状を示すデータに基づいて、モデル基準軸を基準に、当該製品モデルのバウンディングボックスを算出する(ステップST401)。
【0041】
図5はバウンディングボックス算出部1201により算出された製品モデルのバウンディングボックスの一例を示している。
図5において、符号51が製品モデルのバウンディングボックスを示している。この
図5では、モデル基準軸として、製品モデルの水平長手方向が採用された場合を示している。
【0042】
また、バウンディングボックス算出部1201は、製品モデルの3次元形状を示すデータに基づいて、モデル基準軸を基準に、部品モデルのバウンディングボックスを算出する(ステップST402)。
【0043】
図6はバウンディングボックス算出部1201により算出された部品モデルのバウンディングボックスの一例を示している。この
図6では、製品モデルの中に、照合対象である部品モデルが3つ存在する場合が示されている。
図6において、符号61~符号63が各部品モデルのバウンディングボックスを示している。また、この
図6では、モデル基準軸として、製品モデルの水平長手方向が採用された場合を示している。
【0044】
また、バウンディングボックス算出部1201は、上記部品モデルの製品モデルにおける相対的な位置を算出する(ステップST403)。
なお、この際、製品モデルの基準位置として重心位置等の位置が適宜設定され、バウンディングボックス算出部1201は、その基準位置に対する部品モデルの相対的な位置を算出する。
【0045】
次いで、断面シルエット形状算出部1202は、製品モデルの3次元形状を示すデータに基づいて、モデル基準面における部品モデルの断面シルエット形状を算出する(ステップST404)。
【0046】
図7は断面シルエット形状算出部1202により算出された部品モデルの断面シルエット形状の一例を示している。
図7では、
図6Aに示す部品モデルの断面シルエット形状を示している。この
図7では、製品モデルの水平長手方向をX軸とし、基準面として、XY平面、YZ平面、及び、XZ平面の3つの平面が採用された場合を示している。
【0047】
次に、
図1に示す実施の形態1に係る物体照合装置1による物体の照合動作例について、
図8を参照しながら説明する。なお、以下では、データ抽出部1305が点群データを抽出する場合を例に説明を行う。
【0048】
図1に示す実施の形態1に係る物体照合装置1による物体の照合動作例では、
図8に示すように、まず、深度センサ1301は、所定の計測領域に存在する製品の3次元形状を示す座標の点群データを計測する(ステップST801)。
【0049】
次いで、データ取得部1302は、深度センサ1301により計測された製品の3次元形状を示す座標の点群データを取得する(ステップST802)。
なお、深度センサ1301では、計測領域に対して計測を行う。そのため、通常、深度センサ1301による計測結果には、計測領域に存在する製品の3次元形状を示す座標の点群データの他に、計測領域に存在する製品以外の物体の3次元形状を示す座標の点群データも含まれている。そして、データ取得部1302は、上記の点群データをまとめて取得することになる。
【0050】
次いで、バウンディングボックス算出部1303は、データ取得部1302により取得された製品の3次元形状を示す座標の点群データに基づいて、物体基準軸を基準に、当該製品のバウンディングボックスを算出する(ステップST803)。
【0051】
図9はバウンディングボックス算出部1303により算出された製品のバウンディングボックスの一例を示している。
図9において、左側の図は、データ取得部1302により取得された点群データを示し、右側の図は、当該点群データから製品以外の物体の3次元形状を示す座標の点群データが除外された後に算出されたバウンディングボックスを示している。
なお、
図9では、説明を容易とするため、点群データをモデルの状態に置き換えて示している。また、
図9において、符号91は製品のバウンディングボックスを示している。この
図9では、物体基準軸として、製品の水平長手方向が採用された場合を示している。
【0052】
上記のように、データ取得部1302により取得された点群データには、通常、製品の3次元形状を示す座標の点群データの他に、その周囲に存在する他の物体の3次元形状を示す座標の点群データが含まれている。
そこで、まず、バウンディングボックス算出部1303は、データ取得部1302により取得された点群データから、上記他の物体の3次元形状を示す座標の点群データを除去する。
図9の例では、左側の図に示すように、製品が台の上に置かれており、製品以外の物体としては、床、壁及び台が存在している。そのため、バウンディングボックス算出部1303は、データ取得部1302により取得された点群データから、上記床、壁及び台の3次元形状を示す座標の点群データを除去する。
そして、バウンディングボックス算出部1303は、上記除去後の点群データに基づいて、ポリゴンを生成する。
そして、バウンディングボックス算出部1303は、このポリゴンに基づいて、物体基準軸を基準に、製品のバウンディングボックスを算出する。
【0053】
なお、上記では、バウンディングボックス算出部1303がポリゴンを生成する場合を示した。しかしながら、バウンディングボックス算出部1303の処理において、このポリゴンの生成は必須の処理ではない。すなわち、バウンディングボックス算出部1303は、上記除去後の点群データから直接、物体基準軸を基準に、製品のバウンディングボックスを算出してもよい。
【0054】
次いで、比較部1304は、バウンディングボックス算出部1201により算出された製品モデルのバウンディングボックスと、バウンディングボックス算出部1303により算出された製品のバウンディングボックスとを比較する(ステップST804)。
この際、比較部1304は、製品モデルのバウンディングボックスと製品のバウンディングボックスとの大きさの差が閾値以内であるかを判定する。なお、閾値は、事前に、製品モデルと製品との照合が可能な値に適宜設定される。
また、上記大きさとは、バウンディングボックスにおける任意の平面(例えばxy平面)の面積、又は、バウンディングボックスにおける任意の方向の長さである。
【0055】
次いで、データ抽出部1305は、比較部1304により製品モデルのバウンディングボックスと製品のバウンディングボックスとの大きさの差が閾値以内であると判定された場合、バウンディングボックス算出部1201により算出された部品モデルのバウンディングボックス及び当該部品モデルの製品モデルにおける相対的な位置、及び、データ取得部1302により取得された製品の3次元形状を示す座標の点群データに基づいて、当該点群データから、当該相対的な位置に対応する位置における当該部品モデルのバウンディングボックスに対応する範囲を含む所定範囲内の点群データを抽出する(ステップST805)。
【0056】
すなわち、
図10に示すように、データ抽出部1305は、データ取得部1302により取得された点群データから、照合対象である部品が存在すると考えられる範囲を含む所定範囲内の点群データを抽出する。この際、
図10の上段に示すように、データ抽出部1305は、照合対象である部品に対応する部品モデルのバウンディングボックス及び当該部品モデルの製品モデルにおける相対的な位置を、データ取得部1302により取得された点群データに当てはめる。なお、
図10の上段において、左側の図は部品モデルのバウンディングボックスを示し、右側の図はデータ取得部1302により取得された点群データ(図では製品以外の物体の3次元形状を示す座標の点群データが除去された状態)を示している。そして、
図10の下段に示すように、データ抽出部1305は、当該当てはめた範囲を含む所定範囲内の点群データを抽出する。なお、所定範囲の大きさは、上記部品モデルのバウンディングボックスの大きさそのものでもよいが、当該バウンディングボックスよりも大きめに設定されることが望ましい。
なお、
図10では、
図6Aに示す部品モデルのバウンディングボックスを用いて点群データの抽出を行った場合を示しているが、その他の部品についても同様に点群データが抽出される。また、
図10では、説明を容易とするため、点群データをモデルの状態に置き換えて示している。
【0057】
次いで、断面シルエット形状算出部1306は、データ抽出部1305により抽出された点群データに基づいて、物体基準面における部品の断面シルエット形状を算出する(ステップST806)。
【0058】
図11は断面シルエット形状算出部1306による部品の断面シルエット形状の算出動作例を示している。
図11では、
図10で点群データが抽出された部品の断面シルエット形状の算出について示している。また、この
図11では、製品の水平長手方向をX軸とし、基準面として、XY平面が採用された場合を示している。
また、断面シルエット形状算出部1306は、複数の物体基準面における部品の断面シルエット形状をそれぞれ算出することが好ましい。
【0059】
次いで、比較部1307は、断面シルエット形状算出部1202により算出された部品モデルの断面シルエット形状と、断面シルエット形状算出部1306により算出された部品の断面シルエット形状とを比較する(ステップST807)。この際、比較部1307は、パターンマッチング等の既存手法を用いて、部品モデルの断面シルエット形状と部品の断面シルエット形状との一致率を判定する。
【0060】
図12は比較部1307による断面シルエット形状の比較動作例を示している。
図12において、左側の図は
図7Aに示す部品モデルの断面シルエット形状を示し、右側の図は
図11に示す部品の断面シルエット形状を示している。
【0061】
次いで、照合部1308は、比較部1307による比較結果に基づいて、部品が、部品モデルに対応する部品と同一種別の部品であるかを判定する(ステップST808)。
この際、例えば、照合部1308は、比較部1307により部品モデルの断面シルエット形状と部品の断面シルエット形状との一致率が閾値以上であると判定された場合、部品が、部品モデルに対応する部品と同一種別の部品であると判定する。なお、閾値は、事前に、部品モデルと部品との照合が可能な値に適宜設定される。
【0062】
なお、物体基準面及びモデル基準面の組が複数存在する場合、比較部1307は、対応する物体基準面及びモデル基準面毎に、断面シルエット形状の比較を行う。そして、照合部1308は、比較部1307による複数回の比較結果を総合的に判定して、部品が、部品モデルに対応する部品と同一種別の部品であるかを判定する。このように、比較部1307によって断面シルエット形状の比較を様々な平面を基準にして行うことで、照合部1308における照合精度を高めることができる。
【0063】
この際、例えば、まず、比較部1307は、正面側から見た平面での断面シルエット形状の比較を行う。そして、両者の断面シルエット形状の一致率が予め定められた閾値を超えた場合には、次に、比較部1307は、側面側から見た平面での断面シルエット形状の比較を行う。そして、両者の断面シルエット形状の一致率が予め定められた閾値を超えた場合には、次に、比較部1307は、上面側から見た平面での断面シルエット形状の比較を行う。そして、両者の断面シルエット形状の一致率が予め定められた閾値を超えた場合には、照合部1308は、上記部品が、上記部品モデルに対応する部品と同一種別の部品であると判定する。
【0064】
このように、実施の形態1に係る物体照合装置1では、製品の3次元形状を示す座標の点群データに対してバウンディングボックスを求め、この製品のバウンディングボックスと製品モデルのバウンディングボックスとを比較することで製品の照合を簡易的に行う。そして、実施の形態1に係る物体照合装置1では、製品の簡易的な照合が行われた後、その製品に含まれる部品に対して断面シルエット形状を求め、この部品の断面シルエット形状と部品モデルの断面シルエット形状とを比較することで部品の照合を行う。この際、実施の形態1に係る物体照合装置1は、複数の基準面における断面シルエット形状の比較を行うことが好ましい。このように、実施の形態1に係る物体照合装置1では、物体の比較を3次元上で行うのではなく、より処理が軽い2次元上で行うことで、従来に対し、軽負荷で物体の照合が可能となる。また、実施の形態1に係る物体照合装置1は、従来に対し、高速に物体の照合が可能となる。
【0065】
以上のように、この実施の形態1によれば、物体照合装置1は、製品の3次元形状を示す座標の点群データを取得するデータ取得部1302と、データ取得部1302により取得された製品の3次元形状を示す座標の点群データに基づいて、当該製品における特定方向である物体基準軸を基準に、当該製品のバウンディングボックスを算出するバウンディングボックス算出部1303と、製品モデルのバウンディングボックスと、バウンディングボックス算出部1303により算出された製品のバウンディングボックスとを比較する比較部1304と、比較部1304により製品モデルのバウンディングボックスと製品のバウンディングボックスとの大きさの差が閾値以内であると判定された場合、当該製品モデルに含まれた部品モデルのバウンディングボックス及び当該部品モデルの当該製品モデルにおける相対的な位置、及び、データ取得部1302により取得された製品の3次元形状を示す座標の点群データ又は当該点群データから生成されたポリゴンに基づいて、当該点群データ又は当該ポリゴンから、当該相対的な位置に対応する位置における当該部品モデルのバウンディングボックスに対応する範囲を含む所定範囲内の点群データ又はポリゴンを抽出するデータ抽出部1305と、データ抽出部1305により抽出された点群データ又はポリゴンに基づいて、物体基準軸に基づく物体基準面における部品の断面シルエット形状を算出する断面シルエット形状算出部1306と、部品モデルの断面シルエット形状と、断面シルエット形状算出部1306により算出された部品の断面シルエット形状とを比較する比較部1307と、比較部1307による比較結果に基づいて、部品が、部品モデルに対応する物体と同一種別の物体であるかを判定する照合部1308とを備えた。これにより、実施の形態1に係る物体照合装置1は、従来に対し、軽負荷で物体の照合が可能となる。
【0066】
なお、上記では、第1の物体が製品であり、第2の物体が部品である場合を例に説明を行ったが、第1の物体及び第2の物体はこれに限らない。
【0067】
実施の形態2.
実施の形態1では、物体照合装置1が照合対象とする物体が、製品に含まれた部品である場合を例に説明を行った。しかしながら、これに限らず、物体照合装置1が照合対象とする物体は、製品であってもよい。以下、この場合での物体照合装置1の構成例について説明する。
【0068】
図13は実施の形態2におけるデータベース作成部12の構成例を示す図である。この
図13に示す実施の形態2におけるデータベース作成部12の構成例では、
図2に示す実施の形態1におけるデータベース作成部12の構成例に対し、バウンディングボックス算出部1201、及び、断面シルエット形状算出部1202が、バウンディングボックス算出部1201b、及び、断面シルエット形状算出部1202bに変更されている。
また、
図14は実施の形態2における照合処理部13の構成例を示す図である。この
図14に示す実施の形態2における照合処理部13の構成例では、
図3に示す実施の形態1における照合処理部13の構成例に対し、データ抽出部1305が取り除かれ、断面シルエット形状算出部1306、比較部1307、及び、照合部1308が、断面シルエット形状算出部1306b、比較部1307b、及び、照合部1308bに変更されている。
実施の形態2に係る物体照合装置1におけるその他の構成例については、実施の形態1に係る物体照合装置1の構成例と同様であり、同一の符号を付して異なる部分についてのみ説明を行う。
【0069】
バウンディングボックス算出部1201bは、製品モデルの3次元形状を示すデータに基づいて、モデル基準軸を基準に、当該製品モデルのバウンディングボックスを算出する。
なお、モデル基準軸は、製品モデルにおける特定方向である。例えば、バウンディングボックス算出部1201bは、モデル基準軸として、製品モデルの短手方向又は長手方向等を採用することができる。
【0070】
一方、バウンディングボックス算出部1201bは、実施の形態1におけるバウンディングボックス算出部1201とは異なり、部品モデルのバウンディングボックスの算出及び当該部品モデルの製品モデルにおける相対的な位置の算出は行わない。
【0071】
また、断面シルエット形状算出部1202bは、製品モデルの3次元形状を示すデータに基づいて、モデル基準面における製品モデルの断面シルエット形状を算出する。
なお、モデル基準面は、モデル基準軸に基づく平面である。例えば、製品モデルの長手方向をX軸とした場合、断面シルエット形状算出部1202は、基準面として、例えばXY平面、YZ平面又はXZ平面を採用することができる。
また、断面シルエット形状算出部1202は、複数のモデル基準面における製品モデルの断面シルエット形状をそれぞれ算出することが好ましい。
【0072】
また、断面シルエット形状算出部1306bは、比較部1304により製品モデルのバウンディングボックスと製品のバウンディングボックスとの大きさの差が閾値以内であると判定された場合、データ取得部1302により取得された製品の3次元形状を示す座標の点群データに基づいて、物体基準面における製品の断面シルエット形状を算出する。
なお、物体基準面は、物体基準軸に基づく平面である。また、物体基準面とモデル基準面は、同一の平面である。例えば、製品における長手方向を物体基準軸としてX軸とした場合、断面シルエット形状算出部1306bは、基準面として、例えばXY平面、YZ平面又はXZ平面を採用することができる。
また、断面シルエット形状算出部1306bは、複数の物体基準面における製品の断面シルエット形状をそれぞれ算出することが好ましい。
【0073】
ここで、断面シルエット形状算出部1306bは、上記点群データから直接、物体基準面における部品の断面シルエット形状を算出してもよい。
また、断面シルエット形状算出部1306bは、上記点群データからポリゴンを生成し、当該ポリゴンから、物体基準面における部品の断面シルエット形状を算出してもよい。
【0074】
又は、バウンディングボックス算出部1303が点群データからポリゴンを生成している場合には、断面シルエット形状算出部1306bは、点群データではなく当該ポリゴンに基づいて、物体基準面における製品の断面シルエット形状を算出してもよい。
【0075】
なお、ポリゴンでは、点群データに対して点の数が間引かれている。そのため、断面シルエット形状算出部1306bは、2次元の断面シルエット形状を算出する際に、点群データではなくポリゴンから算出することで、処理の効率化及び処理負荷の軽減につながるものと考えられる。
【0076】
また、比較部1307bは、断面シルエット形状算出部1202bにより算出された製品モデルの断面シルエット形状と、断面シルエット形状算出部1306bにより算出された製品の断面シルエット形状とを比較する。この際、比較部1307bは、パターンマッチング等の既存手法を用いて、製品モデルの断面シルエット形状と製品の断面シルエット形状との一致率を判定する。
なお、物体基準面及びモデル基準面の組が複数存在する場合、比較部1307bは、対応する物体基準面及びモデル基準面毎に、断面シルエット形状の比較を行う。
【0077】
照合部1308bは、比較部1307bによる比較結果に基づいて、製品が、製品モデルに対応する製品と同一種別の製品であるかを判定する。
この際、例えば、照合部1308bは、比較部1307bにより製品モデルの断面シルエット形状と製品の断面シルエット形状との一致率が閾値以上であると判定された場合、製品が、製品モデルに対応する製品と同一種別の製品であると判定する。なお、閾値は、事前に、製品モデルと製品との照合が可能な値に適宜設定される。
また、比較部1307bにより断面シルエット形状の比較が複数回実施された場合には、照合部1308bは、当該複数回の比較結果を総合的に判定して、製品が、製品モデルに対応する製品と同一種別の製品であるかを判定する。
【0078】
なお、
図15では、物体照合装置1に、データベース作成部12が設けられた場合を示した。しかしながら、このデータベース作成部12は、物体照合装置1に必須の構成ではなく、物体照合装置1に設けられていなくてもよい。
【0079】
このように、実施の形態2に係る物体照合装置1では、製品の3次元形状を示す座標の点群データに対してバウンディングボックスを求め、この製品のバウンディングボックスと製品モデルのバウンディングボックスとを比較することで製品の照合を簡易的に行う。そして、実施の形態2に係る物体照合装置1では、製品の簡易的な照合が行われた後、その製品に対して断面シルエット形状を求め、この製品の断面シルエット形状と製品モデルの断面シルエット形状とを比較することで製品の照合を行う。この際、実施の形態2に係る物体照合装置1は、複数の基準面における断面シルエット形状の比較を行うことが好ましい。このように、実施の形態2に係る物体照合装置1では、物体の比較を3次元上で行うのではなく、より処理が軽い2次元上で行うことで、従来に対し、軽負荷で物体の照合が可能となる。また、実施の形態2に係る物体照合装置1は、従来に対し、高速に物体の照合が可能となる。
【0080】
以上のように、この実施の形態2によれば、物体照合装置1は、製品の3次元形状を示す座標の点群データを取得するデータ取得部1302と、データ取得部1302により取得された製品の3次元形状を示す座標の点群データに基づいて、当該製品における特定方向である物体基準軸を基準に、当該製品のバウンディングボックスを算出するバウンディングボックス算出部1303と、製品モデルのバウンディングボックスと、バウンディングボックス算出部1303により算出された製品のバウンディングボックスとを比較する比較部1304と、比較部1304により製品モデルのバウンディングボックスと製品のバウンディングボックスとの大きさの差が閾値以内であると判定された場合、データ取得部1302により取得された製品の3次元形状を示す座標の点群データ又は当該点群データから生成されたポリゴンに基づいて、物体基準軸に基づく物体基準面において、当該製品の断面シルエット形状を算出する断面シルエット形状算出部1306bと、製品モデルの断面シルエット形状と、断面シルエット形状算出部1306bにより算出された製品の断面シルエット形状とを比較する比較部1307bと、比較部1307bによる比較結果に基づいて、製品が、製品モデルに対応する物体と同一種別の物体であるかを判定する照合部1308bとを備えた。これにより、実施の形態2に係る物体照合装置1は、従来に対し、軽負荷で物体の照合が可能となる。
【0081】
なお、上記では、第1の物体が製品である場合を例に説明を行ったが、第1の物体はこれに限らない。
【0082】
実施の形態3.
実施の形態1に係る物体照合装置1では、点群データの欠損については考慮せずに説明を行った。しかしながら、実際には、全ての点群データが得られるとは限らず、一部の点群データが欠損してしまう場合が考えられる。そこで、実施の形態3に係る物体照合装置1では、この課題を解決するための構成例について説明する。
【0083】
図15は実施の形態3における照合処理部13の構成例を示す図である。この
図15に示す実施の形態3における照合処理部13の構成例では、
図3に示す実施の形態1における照合処理部13の構成例に対し、比較部1307が比較部1307cに変更されている。
実施の形態3に係る物体照合装置1におけるその他の構成例については、実施の形態1に係る物体照合装置1の構成例と同様であり、同一の符号を付して異なる部分についてのみ説明を行う。
【0084】
比較部1307cは、断面シルエット形状算出部1202により算出された部品モデルの断面シルエット形状と、断面シルエット形状算出部1306により算出された部品の断面シルエット形状とを比較する。この際、比較部1307は、パターンマッチング等の既存手法を用いて、部品モデルの断面シルエット形状と部品の断面シルエット形状との一致率を判定する。
また、比較部1307cは、断面シルエット形状算出部1306により算出された部品の断面シルエット形状のうち、データ抽出部1305により点群データ又はポリゴンが得られた範囲を比較対象とする。
なお、物体基準面及びモデル基準面が複数存在する場合、比較部1307cは、対応する物体基準面及びモデル基準面毎に、断面シルエット形状の比較を行う。
【0085】
例えば
図16に示すように、断面シルエット形状算出部1306により算出された部品の断面シルエット形状が、一部欠損していたとする。
図16において、符号161は、点群データの欠損による欠損領域を示している。
この場合、例えば
図17の上段に示すように、比較部1307cが、欠損した部分を含めて断面シルエット形状の比較を行ってしまうと、一致率が下がってしまうため、誤検知の可能性が高くなる。なお、
図17の上段において、左側の図は
図16に示す一部欠損した部品の断面シルエット形状を示し、右側の図は
図7Aに示す部品モデルの断面シルエット形状を示している。
【0086】
そこで、比較部1307cでは、上記のように点群データで欠損した領域については比較対象から除外して比較を行う。例えば
図17の下段に示すように、比較部1307cは、
図7Aに示す部品モデルの断面シルエット形状のうち、
図16に示す部品の断面シルエット形状における欠損領域に相当する領域を、比較対象から除外して比較を行う。
この際、例えば
図17の下段に示すように、
図16に示す部品の断面シルエット形状、及び、
図7Aに示す部品モデルの断面シルエット形状から、上記欠損領域を含む所定形状の除外領域をそれぞれ除外した上で、両者の比較を行う。なお、
図17において符号171は除外領域を示し、
図17では除外領域が矩形領域である場合を示している。
【0087】
なお、
図16,17が示す図は、機能説明のために製品を模倣して作図した画像を示す図であり、実物の製品画像とは異なる画像を示す図である。
【0088】
このように、実施の形態3に係る物体照合装置1では、断面シルエット形状の比較を行う際に、点群データ又はポリゴンが得られた範囲のみを対象として比較を行う。これにより、データ取得部1302により得られた点群データに欠損がある場合においても精度よく照合を行うことが可能となる。
【0089】
なお、上記では、実施の形態1に係る物体照合装置1に対し、比較部1307が比較部1307cに変更された場合を示した。しかしながら、これに限らず、実施の形態2に係る物体照合装置1に対し、比較部1307bが比較部1307cに変更されてもよく、上記と同様の効果が得られる。
なお、この場合、比較部1307cは、断面シルエット形状算出部1306bにより算出された製品の断面シルエット形状のうち、データ取得部1302により点群データが得られた範囲を比較対象とする。
【0090】
実施の形態4.
実施の形態1では、物体の照合に関する構成について示した。これに対し、実施の形態4では、その照合によってモデルと同一種別の物体であると判定された物体に対し、付加情報を視覚的に表示する構成について説明する。
【0091】
図18は実施の形態4に係る物体照合装置1の構成例を示す図である。この
図18に示す実施の形態4に係る物体照合装置1では、
図1に示す実施の形態1に係る物体照合装置1に対し、表示処理部14が追加されている。
実施の形態4に係る物体照合装置1におけるその他の構成例については、実施の形態1に係る物体照合装置1における構成例と同様であり、異なる部分についてのみ説明を行う。
【0092】
表示処理部14は、照合処理部13による照合結果に基づいて、付加情報の表示を行う。なお、付加情報は、照合対象である物体に対して視覚的に付加する情報である。この表示処理部14は、
図19に示すように、位置算出部(第1の位置算出部)1401、位置算出部(第2の位置算出部)1402及び情報付加部1403を備えている。
【0093】
位置算出部1401は、照合部1308により部品が部品モデルに対応する部品と同一種別の部品であると判定された場合、当該部品の基準となる位置を算出する。この際、位置算出部1401は、データ抽出部1305により抽出された点群データに基づいて、部品の基準となる位置を算出する。なお、基準となる位置は、事前に、部品の重心位置等のような位置に適宜設定される。
【0094】
位置算出部1402は、部品モデルに対する付加情報の相対的な位置及び位置算出部1401により算出された部品の基準となる位置に基づいて、当該付加情報を表示する位置を算出する。この際、位置算出部1402は、上記付加情報の相対的な位置を、上記部品の基準となる位置に足し合わせることで、当該付加情報を表示する位置を算出する。
【0095】
情報付加部1403は、付加情報の表示内容を示すデータ及び位置算出部1402により算出された位置に基づいて、MRグラス等の表示装置(不図示)に、当該付加情報を表示する。この際、情報付加部1403は、表示装置に上記付加情報を上記位置に表示する。
【0096】
このように、実施の形態4に係る物体照合装置1では、物体の照合結果に基づいて、当該物体に対して付加情報の表示を行う。これにより、実施の形態4に係る物体照合装置1では、従来に対し、実際の物体の位置に合わせて付加情報の表示を行うことができる。
【0097】
なお、上記では、実施の形態1に係る物体照合装置1に対し、表示処理部14が追加された場合を示した。しかしながら、これに限らず、実施の形態2,3に係る物体照合装置1に対し、表示処理部14が追加されてもよく、上記と同様の効果が得られる。
【0098】
なお、実施の形態2に係る物体照合装置1に対して表示処理部14が追加される場合には、位置算出部1401は、照合部1308により製品が製品モデルに対応する製品と同一種別の製品であると判定された場合、当該製品の基準となる位置を算出する。この際、位置算出部1401は、データ取得部1302により取得された点群データに基づいて、製品の基準となる位置を算出する。なお、基準となる位置は、事前に、製品の重心位置等のような位置に適宜設定される。
また、位置算出部1402は、製品モデルに対する付加情報の相対的な位置及び位置算出部1401により算出された製品の基準となる位置に基づいて、当該付加情報を表示する位置を算出する。この際、位置算出部1402は、上記付加情報の相対的な位置を、上記製品の基準となる位置に足し合わせることで、当該付加情報を表示する位置を算出する。
【0099】
最後に、
図20を参照して、実施の形態1-4に係る物体照合装置1のハードウェア構成例を説明する。なお、以下では、実施の形態1に係る物体照合装置1のハードウェア構成例について説明するが、実施の形態2-4に係る物体照合装置1のハードウェア構成例についても同様である。
物体照合装置1におけるデータベース作成部12及び照合処理部13の各機能は、処理回路501により実現される。処理回路501は、
図20Aに示すように、専用のハードウェアであってもよいし、
図20Bに示すように、メモリ503に格納されるプログラムを実行するCPU(Central Processing Unit、中央処理装置、処理装置、演算装置、マイクロプロセッサ、マイクロコンピュータ、プロセッサ、又はDSP(Digital Signal Processor)ともいう)502であってもよい。
【0100】
処理回路501が専用のハードウェアである場合、処理回路501は、例えば、単一回路、複合回路、プログラム化したプロセッサ、並列プログラム化したプロセッサ、ASIC(Application Specific Integrated Circuit)、FPGA(Field Programmable Gate Array)、又はこれらを組み合わせたものが該当する。データベース作成部12及び照合処理部13の各部の機能それぞれを処理回路501で実現してもよいし、各部の機能をまとめて処理回路501で実現してもよい。
【0101】
処理回路501がCPU502の場合、データベース作成部12及び照合処理部13の機能は、ソフトウェア、ファームウェア、又はソフトウェアとファームウェアとの組み合わせにより実現される。ソフトウェア及びファームウェアはプログラムとして記述され、メモリ503に格納される。処理回路501は、メモリ503に記憶されたプログラムを読み出して実行することにより、各部の機能を実現する。すなわち、物体照合装置1は、処理回路501により実行されるときに、例えば
図4,8に示した各ステップが結果的に実行されることになるプログラムを格納するためのメモリ503を備える。また、これらのプログラムは、データベース作成部12及び照合処理部13の手順及び方法をコンピュータに実行させるものであるともいえる。ここで、メモリ503としては、例えば、RAM(Random Access Memory)、ROM(Read Only Memory)、フラッシュメモリ、EPROM(Erasable Programmable ROM)、EEPROM(Electrically EPROM)等の不揮発性又は揮発性の半導体メモリ、磁気ディスク、フレキシブルディスク、光ディスク、コンパクトディスク、ミニディスク、又はDVD(Digital Versatile Disc)等が該当する。
【0102】
なお、データベース作成部12及び照合処理部13の各機能について、一部を専用のハードウェアで実現し、一部をソフトウェア又はファームウェアで実現するようにしてもよい。例えば、データベース作成部12については専用のハードウェアとしての処理回路501でその機能を実現し、照合処理部13については処理回路501がメモリ503に格納されたプログラムを読み出して実行することによってその機能を実現することが可能である。
【0103】
このように、処理回路501は、ハードウェア、ソフトウェア、ファームウェア、又はこれらの組み合わせによって、上述の各機能を実現することができる。
【0104】
なお、各実施の形態の自由な組合わせ、或いは各実施の形態の任意の構成要素の変形、若しくは各実施の形態において任意の構成要素の省略が可能である。
【0105】
以下、本開示の諸態様を付記としてまとめて記載する。
【0106】
(付記1)
第1の物体の3次元形状を示す座標の点群データを取得するデータ取得部と、
前記データ取得部により取得された第1の物体の3次元形状を示す座標の点群データに基づいて、当該第1の物体における特定方向である第1の基準軸を基準に、当該第1の物体のバウンディングボックスを算出する第1のバウンディングボックス算出部と、
第1の物体モデルのバウンディングボックスと、前記第1のバウンディングボックス算出部により算出された第1の物体のバウンディングボックスとを比較する第1の比較部と、
前記第1の比較部により第1の物体モデルのバウンディングボックスと第1の物体のバウンディングボックスとの大きさの差が閾値以内であると判定された場合、当該第1の物体モデルに含まれた第2の物体モデルのバウンディングボックス及び当該第2の物体モデルの当該第1の物体モデルにおける相対的な位置、及び、前記データ取得部により取得された第1の物体の3次元形状を示す座標の点群データ又は当該点群データから生成されたポリゴンに基づいて、当該点群データ又は当該ポリゴンから、当該相対的な位置に対応する位置における当該第2の物体モデルのバウンディングボックスに対応する範囲を含む所定範囲内の点群データ又はポリゴンを抽出するデータ抽出部と、
前記データ抽出部により抽出された点群データ又はポリゴンに基づいて、前記第1の基準軸に基づく第1の基準面における第2の物体の断面シルエット形状を算出する第1の断面シルエット形状算出部と、
第2の物体モデルの断面シルエット形状と、前記第1の断面シルエット形状算出部により算出された第2の物体の断面シルエット形状とを比較する第2の比較部と、
前記第2の比較部による比較結果に基づいて、第2の物体が、第2の物体モデルに対応する物体と同一種別の物体であるかを判定する照合部と
を備えた物体照合装置。
(付記2)
第1の物体モデルの3次元形状を示すデータに基づいて、当該第1の物体モデルにおける特定方向である第2の基準軸を基準に、当該第1の物体モデルのバウンディングボックスを算出する第2のバウンディングボックス算出部を備え、
前記第1の比較部は、前記第2のバウンディングボックス算出部により算出された第1の物体モデルのバウンディングボックスを用いて比較を行う
ことを特徴とする付記1記載の物体照合装置。
(付記3)
第1の物体モデルの3次元形状を示すデータに基づいて、前記第2の基準軸に基づく第2の基準面における第2の物体モデルの断面シルエット形状を算出する第2の断面シルエット形状算出部を備え、
前記第2の比較部は、前記第2の断面シルエット形状算出部により算出された第2の物体モデルの断面シルエット形状を用いて比較を行う
ことを特徴とする付記2記載の物体照合装置。
(付記4)
前記第2の比較部は、前記第1の断面シルエット形状算出部により算出された第2の物体の断面シルエット形状のうち、前記データ抽出部により点群データが得られた範囲を比較対象とする
ことを特徴とする付記1から付記3のうちの何れか1項記載の物体照合装置。
(付記5)
前記照合部により第2の物体が第2の物体モデルに対応する物体と同一種別の物体であると判定された場合、当該第2の物体の基準となる位置を算出する第1の位置算出部と、
第2の物体モデルに対する付加情報の相対的な位置、及び、前記第1の位置算出部により算出された第2の物体の基準となる位置に基づいて、当該付加情報を表示する位置を算出する第2の位置算出部と、
前記付加情報の表示内容を示すデータ、及び、前記第2の位置算出部により算出された位置に基づいて、当該付加情報を表示する情報付加部とを備えた
ことを特徴とする付記1から付記4のうちの何れか1項記載の物体照合装置。
(付記6)
第1の物体の3次元形状を示す座標の点群データを取得するデータ取得部と、
前記データ取得部により取得された第1の物体の3次元形状を示す座標の点群データに基づいて、当該第1の物体における特定方向である第1の基準軸を基準に、当該第1の物体のバウンディングボックスを算出する第1のバウンディングボックス算出部と、
第1の物体モデルのバウンディングボックスと、前記第1のバウンディングボックス算出部により算出された第1の物体のバウンディングボックスとを比較する第1の比較部と、
前記第1の比較部により第1の物体モデルのバウンディングボックスと第1の物体のバウンディングボックスとの大きさの差が閾値以内であると判定された場合、前記データ取得部により取得された第1の物体の3次元形状を示す座標の点群データ又は当該点群データから生成されたポリゴンに基づいて、前記第1の基準軸に基づく第1の基準面における当該第1の物体の断面シルエット形状を算出する第1の断面シルエット形状算出部と、
第1の物体モデルの断面シルエット形状と、前記第1の断面シルエット形状算出部により算出された第1の物体の断面シルエット形状とを比較する第2の比較部と、
前記第2の比較部による比較結果に基づいて、第1の物体が、第1の物体モデルに対応する物体と同一種別の物体であるかを判定する照合部と
を備えた物体照合装置。
(付記7)
第1の物体モデルの3次元形状を示すデータに基づいて、当該第1の物体モデルにおける特定方向である第2の基準軸を基準に、当該第1の物体モデルのバウンディングボックスを算出する第2のバウンディングボックス算出部を備え、
前記第1の比較部は、前記第2のバウンディングボックス算出部により算出された第1の物体モデルのバウンディングボックスを用いて比較を行う
ことを特徴とする付記6記載の物体照合装置。
(付記8)
第1の物体モデルの3次元形状を示すデータに基づいて、前記第2の基準軸に基づく第2の基準面における当該第1の物体モデルの断面シルエット形状を算出する第2の断面シルエット形状算出部を備え、
前記第2の比較部は、前記第2の断面シルエット形状算出部により算出された第1の物体モデルの断面シルエット形状を用いて比較を行う
ことを特徴とする付記7記載の物体照合装置。
(付記9)
前記第2の比較部は、前記第1の断面シルエット形状算出部により算出された第1の物体の断面シルエット形状のうち、前記データ取得部により点群データが得られた範囲を比較対象とする
ことを特徴とする付記6から付記8のうちの何れか1項記載の物体照合装置。
(付記10)
前記照合部により第1の物体が第1の物体モデルに対応する物体と同一種別の物体であると判定された場合、当該第1の物体の基準となる位置を算出する第1の位置算出部と、
第1の物体モデルに対する付加情報の相対的な位置、及び、前記第1の位置算出部により算出された第1の物体の基準となる位置に基づいて、当該付加情報を表示する位置を算出する第2の位置算出部と、
前記付加情報の表示内容を示すデータ、及び、前記第2の位置算出部により算出された位置に基づいて、当該付加情報を表示する情報付加部とを備えた
ことを特徴とする付記6から付記9のうちの何れか1項記載の物体照合装置。
(付記11)
データ取得部が、第1の物体の3次元形状を示す座標の点群データを取得するステップと、
第1のバウンディングボックス算出部が、前記データ取得部により取得された第1の物体の3次元形状を示す座標の点群データに基づいて、当該第1の物体における特定方向である第1の基準軸を基準に、当該第1の物体のバウンディングボックスを算出するステップと、
第1の比較部が、第1の物体モデルのバウンディングボックスと、前記第1のバウンディングボックス算出部により算出された第1の物体のバウンディングボックスとを比較するステップと、
データ抽出部が、前記第1の比較部により第1の物体モデルのバウンディングボックスと第1の物体のバウンディングボックスとの大きさの差が閾値以内であると判定された場合、当該第1の物体モデルに含まれた第2の物体モデルのバウンディングボックス及び当該第2の物体モデルの当該第1の物体モデルにおける相対的な位置、及び、前記データ取得部により取得された第1の物体の3次元形状を示す座標の点群データ又は当該点群データから生成されたポリゴンに基づいて、当該点群データ又は当該ポリゴンから、当該相対的な位置に対応する位置における当該第2の物体モデルのバウンディングボックスに対応する範囲を含む所定範囲内の点群データ又はポリゴンを抽出するステップと、
第1の断面シルエット形状算出部が、前記データ抽出部により抽出された点群データ又はポリゴンに基づいて、前記第1の基準軸に基づく第1の基準面における第2の物体の断面シルエット形状を算出するステップと、
第2の比較部が、第2の物体モデルの断面シルエット形状と、前記第1の断面シルエット形状算出部により算出された第2の物体の断面シルエット形状とを比較するステップと、
照合部が、前記第2の比較部による比較結果に基づいて、第2の物体が、第2の物体モデルに対応する物体と同一種別の物体であるかを判定するステップと
を有する物体照合方法。
(付記12)
データ取得部が、第1の物体の3次元形状を示す座標の点群データを取得するステップと、
第1のバウンディングボックス算出部が、前記データ取得部により取得された第1の物体の3次元形状を示す座標の点群データに基づいて、当該第1の物体における特定方向である第1の基準軸を基準に、当該第1の物体のバウンディングボックスを算出するステップと、
第1の比較部が、第1の物体モデルのバウンディングボックスと、前記第1のバウンディングボックス算出部により算出された第1の物体のバウンディングボックスとを比較するステップと、
第1の断面シルエット形状算出部が、前記第1の比較部により第1の物体モデルのバウンディングボックスと第1の物体のバウンディングボックスとの大きさの差が閾値以内であると判定された場合、前記データ取得部により取得された第1の物体の3次元形状を示す座標の点群データ又は当該点群データから生成されたポリゴンに基づいて、前記第1の基準軸に基づく第1の基準面における当該第1の物体の断面シルエット形状を算出するステップと、
第2の比較部が、第1の物体モデルの断面シルエット形状と、前記第1の断面シルエット形状算出部により算出された第1の物体の断面シルエット形状とを比較するステップと、
照合部が、前記第2の比較部による比較結果に基づいて、第1の物体が、第1の物体モデルに対応する物体と同一種別の物体であるかを判定するステップと
を有する物体照合方法。
【符号の説明】
【0107】
1 物体照合装置、11 データ記憶部、12 データベース作成部、13 照合処理部、14 表示処理部、501 処理回路、502 CPU、503 メモリ、1201 バウンディングボックス算出部(第2のバウンディングボックス算出部)、1202 断面シルエット形状算出部(第2の断面シルエット形状算出部)、1301 深度センサ、1302 データ取得部、1303 バウンディングボックス算出部(第1のバウンディングボックス算出部)、1304 比較部(第1の比較部)、1305 データ抽出部、1306 断面シルエット形状算出部(第1の断面シルエット形状算出部)、1307 比較部(第2の比較部)、1308 照合部、1401 位置算出部(第1の位置算出部)、1402 位置算出部(第2の位置算出部)、1403 情報付加部。