(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公開特許公報(A)
(11)【公開番号】P2022102484
(43)【公開日】2022-07-07
(54)【発明の名称】情報処理方法、情報処理システム、プログラム
(51)【国際特許分類】
G06T 7/00 20170101AFI20220630BHJP
G01B 11/24 20060101ALI20220630BHJP
【FI】
G06T7/00 C
G01B11/24 A
G06T7/00 610C
【審査請求】有
【請求項の数】10
【出願形態】OL
(21)【出願番号】P 2020217246
(22)【出願日】2020-12-25
(11)【特許番号】
(45)【特許公報発行日】2021-08-11
【新規性喪失の例外の表示】特許法第30条第2項適用申請有り 令和2年10月2日にトヨタ自動車株式会社に納品
(71)【出願人】
【識別番号】517425446
【氏名又は名称】リンクウィズ株式会社
(74)【代理人】
【識別番号】110002790
【氏名又は名称】One ip特許業務法人
(72)【発明者】
【氏名】鈴木 基史
(72)【発明者】
【氏名】池ヶ谷 文生
【テーマコード(参考)】
2F065
5L096
【Fターム(参考)】
2F065AA04
2F065AA17
2F065AA53
2F065CC15
2F065DD06
2F065FF05
2F065FF09
2F065FF11
2F065GG04
2F065MM16
2F065MM26
2F065QQ13
2F065QQ17
2F065QQ18
2F065QQ23
2F065QQ25
2F065SS13
5L096AA09
5L096BA03
5L096BA05
5L096CA22
5L096DA01
5L096FA09
5L096FA62
5L096FA69
(57)【要約】 (修正有)
【課題】三次元点群データモデルである基準対象物モデルを直接フィッティングに用いずに実質的にフィッティングが可能となり、実対象物モデルと基準対象物モデルとを比較する情報処理方法、情報処理システム、プログラムを提供する。
【解決手段】情報処理方法は、基準対象物からセンサにより基準三次元モデルデータを取得するステップと、基準点座標取得部により、基準三次元モデルデータから三以上の任意の数の基準点座標情報を取得するステップと、測定対象物からセンサにより対応三次元モデルデータを取得するステップと、基準探索範囲設定部により、基準点座標情報に基づく基準探索範囲を設定するステップと、対応点座標情報取得部により、対応三次元モデルデータにおいて基準探索範囲内における対応点座標情報を取得するステップと、を含む。
【選択図】
図6
【特許請求の範囲】
【請求項1】
情報処理方法であって、
基準対象物からセンサにより基準三次元モデルデータを取得するステップと、
基準点座標取得部により、前記基準三次元モデルデータから三以上の任意の数の基準点座標情報を取得するステップと、
測定対象物からセンサにより対応三次元モデルデータを取得するステップと、
基準探索範囲設定部により、前記基準点座標情報に基づく基準探索範囲を設定するステップと、
対応点座標情報取得部により、前記対応三次元モデルデータにおいて基準探索範囲内における対応点座標情報を取得するステップと、
を含む、ことを特徴とする情報処理方法。
【請求項2】
請求項1に記載の情報処理方法であって、
前記三次元モデルデータのそれぞれは、三次元点群データである、
ことを特徴とする情報処理方法。
【請求項3】
請求項1または2のいずれかに記載の情報処理方法であって、
前記基準点座標情報を取得するステップは、
特定形状部位検出部により、前記基準三次元モデルデータにおける特定形状の部位を検出し、当該部位の座標情報を基準点座標情報として取得するステップと、を含む、
ことを特徴とする情報処理方法。
【請求項4】
請求項1ないし3のいずれかに記載の情報処理方法であって、
基準点座標平面算出部により、前記基準三次元モデルデータにおいて、前記基準点座標を含む基準平面を算出するステップと、
基準差分値情報取得部により、前記基準平面上を所定の座標軸方向の基準値として設定し、前記基準平面に対する前記所定の座標軸方向における前記基準三次元モデルデータと前記基準値との基準差分値情報を取得するステップと、をさらに含む、
ことを特徴とする情報処理方法。
【請求項5】
請求項1ないし3のいずれかに記載の情報処理方法であって、
対応点座標平面算出部により、前記対応三次元モデルデータにおいて、前記対応点座標を含む対応平面を算出するステップと、
対応差分値情報取得部により、前記対応平面上を所定の座標軸方向の基準値として設定し、前記対応平面に対する前記所定の座標軸方向における前記対応三次元モデルデータと前記基準値との対応差分値情報を取得するステップと、をさらに含む、
ことを特徴とする情報処理方法。
【請求項6】
請求項1ないし3のいずれかに記載の情報処理方法であって、
基準点座標平面算出部により、前記基準三次元モデルデータにおいて、前記基準点座標を含む基準平面を算出するステップと、
基準差分値情報取得部により、前記基準平面上を所定の座標軸方向の基準値として設定し、前記基準平面に対する前記所定の座標軸方向における前記基準三次元モデルデータと前記基準値との基準差分値情報を取得するステップと、
対応点座標平面算出部により、前記対応三次元モデルデータにおいて、前記対応点座標を含む対応平面を算出するステップと、
対応差分値情報取得部により、前記対応平面上を所定の座標軸方向の基準値として設定し、前記対応平面に対する前記所定の座標軸方向における前記対応三次元モデルデータと前記基準値との対応差分値情報を取得するステップと、をさらに含む、
ことを特徴とする情報処理方法。
【請求項7】
請求項6に記載の情報処理方法であって、
差分値情報比較部により、基準差分値情報及び対応差分値情報を互いに比較し、その比較結果情報を算出するステップをさらに含む、
ことを特徴とする情報処理方法。
【請求項8】
請求項7に記載の情報処理方法であって、
前記比較結果情報は、基準差分値情報が示す値と対応差分値情報が示す値との差分をさらに算出することで取得された両者のずれ量情報である、。さらに、例えばユーザにより設定されたずれ量の許容範囲情報に基づき、許容範囲内外を示すフラグを設定してもよい。、
ことを特徴とする情報処理方法。
【請求項9】
請求項8に記載の情報処理方法であって、
前記差分値情報比較部により、ユーザにより設定されたずれ量の許容範囲情報と前記ずれ量情報を比較し、許容範囲内外に応じて異なる色で対応三次元モデルデータの少なくとも一部を表示するステップをさらに含む、
ことを特徴とする情報処理方法。
【請求項10】
情報処理システムであって、
基準対象物及び測定対象物からセンサにより基準三次元モデルデータ及び対応三次元モデルデータを取得する三次元モデルデータ取得部と、
前記基準三次元モデルデータから三以上の任意の数の基準点座標情報を取得する基準点座標取得部と、
前記基準点座標情報に基づく基準探索範囲を設定する基準探索範囲設定部と、
前記対応三次元モデルデータにおいて基準探索範囲内における対応点座標情報を取得する対応点座標情報取得部と、
を含む、ことを特徴とする情報処理システム。
【請求項11】
情報処理方法をコンピュータに実行させるためのプログラムであって、
前記プログラムは、前記情報処理方法として、
基準対象物からセンサにより基準三次元モデルデータを取得するステップと、
基準点座標取得部により、前記基準三次元モデルデータから三以上の任意の数の基準点座標情報を取得するステップと、
測定対象物からセンサにより対応三次元モデルデータを取得するステップと、
基準探索範囲設定部により、前記基準点座標情報に基づく基準探索範囲を設定するステップと、
対応点座標情報取得部により、前記対応三次元モデルデータにおいて基準探索範囲内における対応点座標情報を取得するステップと、
をコンピュータに実行させる、ことを特徴とするプログラム。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、情報処理方法、情報処理システム、プログラムに関する。
【背景技術】
【0002】
従来から対象物(例えばワーク)を事前にスキャンして基準対象物モデルを作成しておき、実際の対象物をスキャンして実対象物モデルを作成し、基準対象物モデルとの比較結果に応じて位置ずれの補正を行う技術が知られている。例えば特許文献1には、基準画像及び入力画像を互いに比較して位置ずれ量を求める技術が示されている。
【先行技術文献】
【特許文献】
【0003】
【発明の概要】
【発明が解決しようとする課題】
【0004】
このように、実際の対象物の位置が想定位置よりもずれていたとしても、基準対象モデルを記憶しておくことで、実対象物モデルとのずれ量を求め、これを補正する(いわゆるフィッティング)ことで実対象物モデルを用いて正確な作業ができる。しかしながら、例えば、対象物モデルとして三次元点群データを用いた場合などには、三次元点群データは単なる点データの集まりであるため、実対象物モデルの点データごとに対応する基準対象物モデルの点データを探索する必要があり、フィッティングが可能な程度に両モデルの形状が同一または近似した形状である必要があった。
【0005】
すなわち、例えば両モデルを用いて形状比較等をする場合には、実対象物モデルの形状が基準対象物モデルに対してフィッティングが可能な程度の形状変化範囲内であるか、フィッティングのためにさらなる補間を行う必要があり得た。
【0006】
本発明はこのような背景を鑑みてなされたものであり、三次元点群データモデルである基準対象物モデルを直接フィッティングに用いずに実質的にフィッティングが可能となり、実対象物モデルと基準対象物モデルとを比較することのできる技術を提供することを目的とする。
【課題を解決するための手段】
【0007】
上記課題を解決するための本発明の主たる発明は、基準対象物からセンサにより基準三次元モデルデータを取得するステップと、基準点座標取得部により、前記基準三次元モデルデータから三以上の任意の数の基準点座標情報を取得するステップと、測定対象物からセンサにより対応三次元モデルデータを取得するステップと、基準探索範囲設定部により、前記基準点座標情報に基づく基準探索範囲を設定するステップと、応点座標情報取得部により、前記対応三次元モデルデータにおいて基準探索範囲内における対応点座標情報を取得するステップと、を含む、ことを特徴とする情報処理方法である。
【0008】
その他本願が開示する課題やその解決方法については、発明の実施形態の欄及び図面により明らかにされる。
【発明の効果】
【0009】
本発明によれば、三次元点群データモデルである基準対象物モデルを直接フィッティングに用いずに実質的にフィッティングが可能となり、実対象物モデルと基準対象物モデルとを比較することのできるようにする。
【図面の簡単な説明】
【0010】
【
図1】本実施形態1の情報処理システム100の全体構成例を示す図である。
【
図2】本実施形態1に係る端末1のハードウェア構成例を示す図である。
【
図3】本実施形態1に係る端末1の機能構成例を示す図である。
【
図4】本実施形態1に係る三次元モデルデータの表示例を示す図を示す。
【
図5】本実施形態1に係る特定形状部位検出の例を示す図である。
【
図6】本実施形態1に係る情報処理方法のフローチャート例を示す図である。
【
図7】本実施形態1に係る基準三次元モデルデータの表示例を示す図を示す。
【
図8】本実施形態1に係る基準三次元モデルデータの表示例を示す図を示す。
【
図9】本実施形態1に係る対応三次元モデルデータの表示例を示す図を示す。
【
図10】本実施形態1に係るフィッティングの概念を説明する図である。
【
図11】本実施形態2に係る端末1の機能構成例を示す図である。
【
図12】本実施形態2に係る情報処理方法のフローチャート例を示す図である。
【
図13】本実施形態2に係る基準探索範囲の一例を説明する図である。
【
図14】本実施形態2に係る差分値情報の表示例を示す図である。
【
図15】本実施形態2に係る比較結果情報の表示例を示す図である。
【発明を実施するための形態】
【0011】
本発明の実施形態の内容を列記して説明する。本発明は、たとえば以下のような構成を備える。
【0012】
[項目1]
情報処理方法であって、
基準対象物からセンサにより基準三次元モデルデータを取得するステップと、
基準点座標取得部により、前記基準三次元モデルデータから三以上の任意の数の基準点座標情報を取得するステップと、
測定対象物からセンサにより対応三次元モデルデータを取得するステップと、
基準探索範囲設定部により、前記基準点座標情報に基づく基準探索範囲を設定するステップと、
対応点座標情報取得部により、前記対応三次元モデルデータにおいて基準探索範囲内における対応点座標情報を取得するステップと、
を含む、ことを特徴とする情報処理方法。
[項目2]
項目1に記載の情報処理方法であって、
前記三次元モデルデータのそれぞれは、三次元点群データである、
ことを特徴とする情報処理方法。
[項目3]
項目1または2のいずれかに記載の情報処理方法であって、
前記基準点座標情報を取得するステップは、
特定形状部位検出部により、前記基準三次元モデルデータにおける特定形状の部位を検出し、当該部位の座標情報を基準点座標情報として取得するステップと、を含む、
ことを特徴とする情報処理方法。
[項目4]
項目1ないし3のいずれかに記載の情報処理方法であって、
基準点座標平面算出部により、前記基準三次元モデルデータにおいて、前記基準点座標を含む基準平面を算出するステップと、
基準差分値情報取得部により、前記基準平面上を所定の座標軸方向の基準値として設定し、前記基準平面に対する前記所定の座標軸方向における前記基準三次元モデルデータと前記基準値との基準差分値情報を取得するステップと、をさらに含む、
ことを特徴とする情報処理方法。
[項目5]
項目1ないし3のいずれかに記載の情報処理方法であって、
対応点座標平面算出部により、前記対応三次元モデルデータにおいて、前記対応点座標を含む対応平面を算出するステップと、
対応差分値情報取得部により、前記対応平面上を所定の座標軸方向の基準値として設定し、前記対応平面に対する前記所定の座標軸方向における前記対応三次元モデルデータと前記基準値との対応差分値情報を取得するステップと、をさらに含む、
ことを特徴とする情報処理方法。
[項目6]
項目1ないし3のいずれかに記載の情報処理方法であって、
基準点座標平面算出部により、前記基準三次元モデルデータにおいて、前記基準点座標を含む基準平面を算出するステップと、
基準差分値情報取得部により、前記基準平面上を所定の座標軸方向の基準値として設定し、前記基準平面に対する前記所定の座標軸方向における前記基準三次元モデルデータと前記基準値との基準差分値情報を取得するステップと、
対応点座標平面算出部により、前記対応三次元モデルデータにおいて、前記対応点座標を含む対応平面を算出するステップと、
対応差分値情報取得部により、前記対応平面上を所定の座標軸方向の基準値として設定し、前記対応平面に対する前記所定の座標軸方向における前記対応三次元モデルデータと前記基準値との対応差分値情報を取得するステップと、をさらに含む、
ことを特徴とする情報処理方法。
[項目7]
項目6に記載の情報処理方法であって、
差分値情報比較部により、基準差分値情報及び対応差分値情報を互いに比較し、その比較結果情報を算出するステップをさらに含む、
ことを特徴とする情報処理方法。
[項目8]
項目7に記載の情報処理方法であって、
前記比較結果情報は、基準差分値情報が示す値と対応差分値情報が示す値との差分をさらに算出することで取得された両者のずれ量情報である、。さらに、例えばユーザにより設定されたずれ量の許容範囲情報に基づき、許容範囲内外を示すフラグを設定してもよい。、
ことを特徴とする情報処理方法。
[項目9]
項目8に記載の情報処理方法であって、
前記差分値情報比較部により、ユーザにより設定されたずれ量の許容範囲情報と前記ずれ量情報を比較し、許容範囲内外に応じて異なる色で対応三次元モデルデータの少なくとも一部を表示するステップをさらに含む、
ことを特徴とする情報処理方法。
[項目10]
情報処理システムであって、
基準対象物及び測定対象物からセンサにより基準三次元モデルデータ及び対応三次元モデルデータを取得する三次元モデルデータ取得部と、
前記基準三次元モデルデータから三以上の任意の数の基準点座標情報を取得する基準点座標取得部と、
前記基準点座標情報に基づく基準探索範囲を設定する基準探索範囲設定部と、
前記対応三次元モデルデータにおいて基準探索範囲内における対応点座標情報を取得する対応点座標情報取得部と、
を含む、ことを特徴とする情報処理システム。
[項目11]
情報処理方法をコンピュータに実行させるためのプログラムであって、
前記プログラムは、前記情報処理方法として、
基準対象物からセンサにより基準三次元モデルデータを取得するステップと、
基準点座標取得部により、前記基準三次元モデルデータから三以上の任意の数の基準点座標情報を取得するステップと、
測定対象物からセンサにより対応三次元モデルデータを取得するステップと、
基準探索範囲設定部により、前記基準点座標情報に基づく基準探索範囲を設定するステップと、
対応点座標情報取得部により、前記対応三次元モデルデータにおいて基準探索範囲内における対応点座標情報を取得するステップと、
をコンピュータに実行させる、ことを特徴とするプログラム。
【0013】
<実施の形態1の詳細>
本発明の一実施形態に係る情報処理システム100の具体例を、以下に図面を参照しつつ説明する。なお、本発明はこれらの例示に限定されるものではなく、特許請求の範囲によって示され、特許請求の範囲と均等の意味及び範囲内でのすべての変更が含まれることが意図される。以下の説明では、添付図面において、同一または類似の要素には同一または類似の参照符号及び名称が付され、各実施形態の説明において同一または類似の要素に関する重複する説明は省略することがある。また、各実施形態で示される特徴は、互いに矛盾しない限り他の実施形態にも適用可能である。
【0014】
図1は、本実施形態の情報処理システム100の一例を示す図である。
図1に示されるように、本実施形態の情報処理システム100では、端末1と、作業用ロボット2、コントローラ3とを有している。作業用ロボット2は、少なくともアーム21、ツール22、センサ23を有している。端末1・コントローラ3と作業用ロボット2とは、有線または無線にて互いに通信可能に接続されている。
【0015】
<端末1>
図2は、端末1のハードウェア構成を示す図である。端末1は、例えばパーソナルコンピュータのような汎用コンピュータとしてもよいし、或いはクラウド・コンピューティングによって論理的に実現されてもよい。なお、図示された構成は一例であり、これ以外の構成を有していてもよい。例えば、端末1のプロセッサ10に設けられる一部の機能が外部のサーバや別端末により実行されてもよい。
【0016】
端末1は、少なくとも、プロセッサ10、メモリ11、ストレージ12、送受信部13、入出力部14等を備え、これらはバス15を通じて相互に電気的に接続される。
【0017】
プロセッサ10は、端末1全体の動作を制御し、少なくとも作業用ロボット2とのデータ等の送受信の制御、及びアプリケーションの実行及び認証処理に必要な情報処理等を行う演算装置である。例えばプロセッサ10はCPU(Central Processing Unit)および/またはGPU(Graphics Processing Unit)であり、ストレージ12に格納されメモリ11に展開された本システムのためのプログラム等を実行して各情報処理を実施する。
【0018】
メモリ11は、DRAM(Dynamic Random Access Memory)等の揮発性記憶装置で構成される主記憶と、フラッシュメモリやHDD(Hard Disc Drive)等の不揮発性記憶装置で構成される補助記憶と、を含む。メモリ11は、プロセッサ10のワークエリア等として使用され、また、端末1の起動時に実行されるBIOS(Basic Input / Output System)、及び各種設定情報等を格納する。
【0019】
ストレージ12は、アプリケーション・プログラム等の各種プログラムを格納する。各処理に用いられるデータを格納したデータベースがストレージ12に構築されていてもよい。
【0020】
送受信部13は、端末1を少なくとも作業用ロボット2と接続し、プロセッサの指示に従い、データ等の送受信を行う。なお、送受信部13は、有線または無線により構成されおり、無線である場合には、例えば、WiFiやBluetooth(登録商標)及びBLE(Bluetooth Low Energy)の近距離通信インターフェースにより構成されていてもよい。
【0021】
入出力部14は、例えば端末1がパーソナルコンピュータで構成されている場合は情報出力機器(例えばディスプレイ)と情報入力機器(例えばキーボードやマウス)により構成され、スマートフォンまたはタブレット端末で構成されている場合はタッチパネル等の情報入出力機器により構成されている。
【0022】
バス15は、上記各要素に共通に接続され、例えば、アドレス信号、データ信号及び各種制御信号を伝達する。
【0023】
<作業用ロボット2>
図1に戻り、本実施形態に係る作業用ロボット2について説明する。
【0024】
上述のとおり、作業用ロボット2は、アーム21と、ツール22と、センサ23とを有する。なお、図示された構成は一例であり、この構成に限定されない。
【0025】
アーム21は、三次元のロボット座標系に基づき、端末1にその動作を制御される。また、アーム21は、有線または無線で作業用ロボット2と接続されたコントローラ3をさらに備え、これによりその動作を制御されてもよい。
【0026】
ツール22は、三次元のツール座標系に基づき、端末1にその動作を制御される。また、ツール22の構成は、用途に合わせて何れのツールを備えていてもよく、例えば、溶接用トーチや塗装用塗料噴射装置、把持装置、掘削装置、研磨装置などであってもよい。
【0027】
センサ23は、三次元のセンサ座標系に基づき、対象物のセンシングを行う。センサ23は、例えば三次元スキャナとして動作するレーザセンサであり、センシングにより対象物の三次元モデルデータ40を取得する。三次元モデルデータ40は、例えば、
図4及び
図5に示されるような三次元点群データであり、それぞれの点データがセンサ座標系の座標情報を有し、点群により対象物の形状を把握することが可能となる。なお、センサ23は、レーザセンサに限らず、例えばステレオ方式などを用いた画像センサなどであってもよいし、作業用ロボットとは独立したセンサであってもよく、三次元のセンサ座標系における座標情報が取得できるものであればよい。また、説明を具体化するために、以下では三次元モデルデータ40として、三次元点群データを用いた構成を一例として説明する。
【0028】
なお、作業前に所定のキャリブレーションを行い、ロボット座標系及びツール座標系、センサ座標系を互いに関連付け、例えばセンサ座標系を基にユーザが位置(座標)を指定することにより、アーム21やツール22が対応した位置を基に動作制御されるように構成をなしてもよい。
【0029】
<端末1の機能>
図3は、端末1に実装される機能を例示したブロック図である。本実施の形態においては、端末1のプロセッサ10は、三次元モデルデータ取得部(三次元点群データ取得部)101、三次元モデルデータ表示部(三次元点群データ表示部)102、基準点座標取得部103、特定形状部位検出部104、基準探索範囲設定部105、対応点座標情報取得部106を有している。また、端末1のストレージ12は、三次元モデルデータ記憶部(三次元点群データ記憶部)121、基準点座標情報記憶部122、対応点座標情報記憶部123を有している。
【0030】
三次元点群データ取得部101は、端末1の入出力部14からの指示により、例えば作業用ロボット2を制御し、センサ23により対象物の三次元点群データを取得する。取得した三次元点群データは、例えばセンサ座標系に基づく三次元座標情報データであり、三次元点群データ記憶部121に記憶される。
【0031】
三次元点群データ表示部102は、三次元点群データ取得部101により取得された三次元点群データを、例えば
図4に例示されるように端末1の入出力部14に表示する。ユーザは、表示された三次元点群データを任意の方向から視認可能である。この場合、入出力部14は、前述のとおり、例えば端末1がパーソナルコンピュータで構成されている場合は情報出力機器(例えばディスプレイ)と情報入力機器(例えばキーボードやマウス)により構成され、スマートフォンまたはタブレット端末で構成されている場合はタッチパネル等の情報入出力機器により構成されており、入出力部14により、上記任意の方向を指定可能である。
【0032】
基準点座標取得部103は、
図7等に例示されるような基準三次元モデルデータ41(例えば基準三次元点群データ)を基に、例えばユーザの所定操作に応じて任意の数の基準点座標情報を取得する。具体例としては、例えば原点とする基準原点座標情報、当該原点からX方向の基点とするX基準点座標情報、当該原点からY方向の基点とするY基準点座標情報の3点を取得するようにしてもよい。各基準座標情報の取得方法は、例えばユーザが端末1の入出力部14にて三次元点群データ表示部102により表示された基準三次元点群データ41から所定の点を直接選択するようにしてもよいし、基準対象物上の特定形状の部位における所定の点を所定の演算により決定可能としてもよい。当該特定形状の部位とは、例えばホール(穴部)であったり、円錐状や円柱状などの突起であったりしてもよく、所定の演算方法については、例えば後述する方法によりホール(穴部)を検出し、当該ホールの中心座標情報を基準座標情報としてもよいし、既知の方法により突起の先端部座標情報を基準座標情報としてもよいが、これらに限らず、特に演算により一意に定まる形状であればどのような形状であっても、特定形状の部位といえる。なお、取得した基準点座標情報は、基準点座標情報記憶部122に記憶される。
【0033】
特定形状部位検出部104は、例えばユーザの所定操作に応じて基準三次元点群データ41内の特定形状の部位を検出し、当該部位から基準座標情報を取得する。具体例としては、例えば、
図5に例示されるように、端末1において、三次元点群データ40(基準三次元点群データ41)における対象物の所定の平面上に設けられたホール周辺の任意の3点の座標情報P
1-P
3をそれぞれ取得し、各3点の座標情報からホール中心座標情報P
11を算出する。より具体的な例としては、特徴的形状部位検出部104は、例えば、ホール周辺の各3点の座標情報P
1-P
3から垂直二等分線を用いるなどして仮円中心座標情報を算出し、3点を通る円と仮円中心座標情報から所定高さの円柱状の探索範囲を設定し、当該探索範囲内の三次元点群データに対して既知のエッジ検出方法を用いることでホールの輪郭座標情報を導出する。そして、当該輪郭座標情報を基に、既知の演算(例えば、円の最小二乗法など)により、ホール中心座標情報P
11を算出する。
【0034】
基準探索範囲設定部105は、基準点座標情報に基づき、他の測定対象物モデルデータ51(例えば、他の三次元点群データ)における基準点座標情報に対応する対応点座標情報を取得するための基準探索範囲を設定する。例えば、特定形状部位検出部104において、すでに円柱状の探索範囲が生成されている場合にはこれを基準探索範囲として設定してもよいし、基準点座標情報を中心とした球、立方体、直方体、角柱、円柱、楕円体などの任意の三次元形状(立体形状)の基準探索範囲を設定してよい。
【0035】
対応点座標情報取得部106は、他の測定対象物モデルデータ51(例えば、他の三次元点群データ)に対して設定された基準探索範囲に基づき、測定対象物モデルデータ51における対応点座標情報を取得する。なお、取得した対応点座標情報は、対応点座標情報記憶部123に記憶される。
【0036】
<情報処理方法のフローチャート>
図6は、本実施の形態1の情報処理システム100における情報処理方法のフローチャートの一例である。
【0037】
まず、ユーザは、端末1の三次元点群データ取得部101による制御に基づき、センサ23により、例えば作業台上に位置する基準対象物の基準三次元点群データ41を取得する(SQ101)。
【0038】
次に、
図7に示されるように、三次元点群データ表示部102により取得した基準三次元点群データ41を端末1上で表示する(SQ102)。
【0039】
次に、基準点座標取得部103により基準三次元点群データ41を基に、例えばユーザの所定操作に応じて任意の数の基準点座標情報を取得する(SQ103)。この時、
図8に示されるように、特定形状部位検出部104により、例えばユーザの所定操作に応じて基準三次元点群データ41内の特定形状の部位(ホール)を検出し、当該部位から基準座標情報であるホールA-Cの各中心座標を取得してもよい。
【0040】
ここで、次に、ユーザは、端末1の三次元点群データ取得部101による制御に基づき、センサ23により、例えば作業台上に位置する他の測定対象物(ただし、上記基準対象物と形状が同一または略同一、近似、類似、同種類、同型番等の対象物)の三次元点群データ51を取得する(SQ104)。
【0041】
次に、基準探索範囲設定部105により、基準点座標情報に基づき、他の測定対象物モデルデータ51(例えば、他の三次元点群データ)における基準点座標情報に対応する対応点座標情報を取得するための基準探索範囲を設定する(SQ105)。この時、例えば、特定形状部位検出部104において生成された円柱状の探索範囲を基準探索範囲として設定する。
【0042】
次に、
図9に示されるように、対応点座標情報取得部106により、他の三次元点群データに対して設定された基準探索範囲に基づき、他の三次元点群データにおける対応点座標情報であるホールA’-C’の各中心座標を取得する(SQ106)。
【0043】
これにより、基準三次元点群データ及び他の三次元点群データにおいて、同様の特定形状部位に基づく基準点座標情報及び対応点座標情報が3点取得された状態となる。上述の通り、これら各3点の座標情報は、例えば原点とする基準原点座標情報、当該原点からX方向の基点とするX基準点座標情報、当該原点からY方向の基点とするY基準点座標情報となり得るので、これらを用いて各対象物に対して同一の位置を原点とするセンサ座標系(XYZ座標系)が設定可能となる。
【0044】
したがって、本実施の形態1の情報処理システム100は、従来の三次元モデルデータ同士の対応付けによるフィッティングに代えて、基準三次元モデルデータ(特に基準三次元点群データ)におけるセンサ座標系(XYZ座標系)を設定するための基準点座標情報に基づく基準探索範囲を他の三次元モデルデータに適用することで、同一の規則により対応点座標情報が導き出される。その結果、
図10に示されるように、両者が対象物に対して同一位置を原点とするセンサ座標系が設定されることで、実質的に両者がフィッティングされたこととなる。
【0045】
<実施の形態2の詳細>
上述の実施の形態1にて説明したシステム構成及びフィッティング方法については同様であるので説明を省略する。本実施の形態2においては、フィッティング後に基準対象物の三次元モデルデータ(基準三次元点群データ)と他の測定対象物の三次元モデルデータ(他の三次元点群データ)とを互いに形状比較する際の構成の一例について説明する。
【0046】
図11は、端末1に実装される機能を例示したブロック図であり、
図3に示される機能を省略した本実施の形態2に関わる機能を例示したブロック図である。本実施の形態2においては、端末1のプロセッサ10は、さらに、基準点座標平面算出部201、基準平面差分値情報取得部202、対応点座標平面算出部203、対応平面差分値情報取得部204、差分値情報表示部205、差分値情報比較部206を有している。また、端末1のストレージ12は、基準差分値情報記憶部221、対応差分値情報記憶部222、比較結果情報記憶部223を有している。
【0047】
基準点座標平面算出部201は、取得済みの基準点座標情報に基づき、既知の算出方法により、当該基準点座標情報を含む基準平面(XY平面)を算出する。例えば、三次元座標系においては、少なくとも3点の基準点座標情報があればXYZ座標系におけるXY平面が定まる。当該基準平面の範囲は、例えば、無限遠の平面範囲であったり、三次元点群データに基づき対象物が全て含まれる平面範囲が設定されてもよいし、対象物の一部を含む範囲をセンサ座標系の座標情報によりユーザが設定してもよい。
【0048】
基準平面差分値情報取得部202により、当該基準平面上を所定の座標軸方向(Z軸方向)の基準値(例えば0)として設定し、基準平面に対する所定の座標軸方向における基準対象物モデルデータと基準値の基準差分値情報を取得する。当該基準差分値情報は、例えば基準平面がXY平面で、基準値がZ軸方向の0である場合には、各点データのZ座標情報が基準差分値情報となる。なお、取得した基準差分値情報は、基準差分値情報記憶部221に記憶される。
【0049】
対応点座標平面算出部203は、取得済みの対応点座標情報に基づき、既知の算出方法により、当該対応点座標情報を含む対応平面(XY平面)を算出する。例えば、三次元座標系においては、少なくとも3点の対応点座標情報があればXYZ座標系におけるXY平面が定まる。当該対応平面の範囲は、基準平面同様に設定可能であり、基準平面と同一の範囲であることが望ましいが、この限りではない
【0050】
対応平面差分値情報取得部204により、当該対応平面上を所定の座標軸方向(Z軸方向)の基準値(例えば0)として設定し、対応平面に対する所定の座標軸方向における測定対象物モデルデータと基準値との対応差分値情報を取得する。当該対応差分値情報は、例えば対応平面がXY平面で、基準値がZ軸方向の0である場合には、各点データのZ座標情報が対応差分値情報となる。なお、取得した対応差分値情報は、対応差分値情報記憶部222に記憶される。
【0051】
差分値情報表示部205は、基準平面または対応平面に対する各差分値情報を、例えば
図14に例示されるように端末1の入出力部14に表示する。表示例としては、例えば、
図14に示されるように、基準平面または対応平面を仮想的に形成して表示し、基準値よりもプラスまたはマイナスの少なくとも何れかの差分値情報を有する点データを表示するようにしてもよい。また、表示の際には、例えば差分値情報を所定の数値範囲ごとに区切り、数値範囲ごとに色を設定して表示する(いわゆる、ヒートマップ)ようにしてもよい。
【0052】
差分値情報比較部206は、基準差分値情報及び対応差分値情報を互いに比較し、その比較結果情報を算出する。比較結果情報は、例えば各点データにおける基準差分値情報が示す値と対応差分値情報が示す値との差分をさらに算出し、両者のずれ量情報を取得してもよい。さらに、例えばユーザにより設定されたずれ量の許容範囲情報に基づき、許容範囲内外を示すフラグを設定してもよい。そして、当該フラグに対して色を設定し(例えば
図15に示されるように、許容範囲内でOKなら緑色、許容範囲外でNGなら赤色、さらに許容範囲外においてもプラス側なら赤色、マイナス側なら青色など)、
図13に例示される表示または
図14に例示される表示において、当該色を反映させて表示してもよい。なお、算出した比較結果情報は、比較結果情報記憶部223に記憶される。
【0053】
<情報処理方法のフローチャート>
図12は、本実施の形態2の情報処理システム100における情報処理方法のフローチャートの一例である。
【0054】
まず、基準点座標平面算出部201により、取得済みの基準点座標情報に基づき、当該基準点座標情報を含む基準平面(XY平面)を算出する(SQ201)。例えば、
図13に示されるように、対象物が全て含まれる平面範囲を設定する。
【0055】
つぎに、基準平面差分値情報取得部202により、当該基準平面上を所定の座標軸方向(Z軸方向)の基準値(例えば0)として設定し、基準平面に対する所定の座標軸方向における基準対象物モデルデータと基準値の基準差分値(例えば各点データのZ座標情報)を取得する(SQ202)。この時、差分値情報表示部205により、基準平面に対する基準差分値情報を、例えば
図14に例示されるように端末1の入出力部14に表示してもよい。
【0056】
つぎに、対応点座標平面算出部203により、取得済みの対応点座標情報に基づき、当該対応点座標情報を含む対応平面(XY平面)を算出する(SQ203)。例えば、
図13に示されるような、基準平面と同一範囲として設定する。
【0057】
つぎに、対応平面差分値情報取得部204により、当該対応平面上を所定の座標軸方向(Z軸方向)の基準値(例えば0)として設定し、対応平面に対する所定の座標軸方向における測定対象物モデルデータと基準値の対応差分値(例えば各点データのZ座標情報)を取得する(SQ204)。この時、差分値情報表示部205により、対応平面に対する対応差分値情報を、例えば
図14に例示されるように端末1の入出力部14に表示してもよい。
【0058】
つぎに、差分値情報比較部206により、基準差分値情報及び対応差分値情報を互いに比較し、その比較結果情報を算出する(SQ205)。さらに、差分値情報比較部206により、例えば、両者のずれ量情報を取得し、
図15に示されるように、当該ずれ量情報を許容範囲情報と比較し、許容範囲内外で色分け表示を行ってもよい(SQ205)。
【0059】
したがって、本実施の形態2の情報処理システム100は、実施の形態1の構成により各対象物に対して同一位置を原点とするセンサ座標系が設定されているので、例えば同一平面を基準位置として差分を確認することが可能である。そして、さらには両者のずれ量を容易に算出することも可能であるので、測定対象物の形状を基準対象物の形状と容易に比較可能となる。
【0060】
以上、本実施形態について説明したが、上記実施形態は本発明の理解を容易にするためのものであり、本発明を限定して解釈するためのものではない。本発明は、その趣旨を逸脱することなく、変更、改良され得ると共に、本発明にはその等価物も含まれる。
【符号の説明】
【0061】
1 端末
2 作業用ロボット
21 アーム
22 ツール
23 センサ
3 コントローラ
【手続補正書】
【提出日】2021-04-22
【手続補正1】
【補正対象書類名】特許請求の範囲
【補正対象項目名】全文
【補正方法】変更
【補正の内容】
【特許請求の範囲】
【請求項1】
情報処理方法であって、
基準対象物からセンサにより基準三次元モデルデータを取得するステップと、
基準点座標取得部により、前記基準三次元モデルデータから三以上の任意の数の基準点座標情報を取得するステップと、
測定対象物からセンサにより対応三次元モデルデータを取得するステップと、
基準探索範囲設定部により、前記基準点座標情報に基づく基準探索範囲を設定するステップと、
対応点座標情報取得部により、前記対応三次元モデルデータにおいて基準探索範囲内における対応点座標情報を取得するステップと、
対応点座標平面算出部により、前記対応三次元モデルデータにおいて、前記対応点座標を含む対応平面を算出するステップと、
対応差分値情報取得部により、前記対応平面上を所定の座標軸方向の基準値として設定し、前記対応平面に対する前記所定の座標軸方向における前記対応三次元モデルデータと前記基準値との対応差分値情報を取得するステップと、
を含む、ことを特徴とする情報処理方法。
【請求項2】
請求項1に記載の情報処理方法であって、
前記三次元モデルデータのそれぞれは、三次元点群データである、
ことを特徴とする情報処理方法。
【請求項3】
請求項1または2のいずれかに記載の情報処理方法であって、
前記基準点座標情報を取得するステップは、特定形状部位検出部により、前記基準三次元モデルデータにおける特定形状の部位を検出し、当該部位の座標情報を基準点座標情報として取得するステップと、を含む、
ことを特徴とする情報処理方法。
【請求項4】
請求項1ないし3のいずれかに記載の情報処理方法であって、
基準点座標平面算出部により、前記基準三次元モデルデータにおいて、前記基準点座標を含む基準平面を算出するステップと、
基準差分値情報取得部により、前記基準平面上を所定の座標軸方向の基準値として設定し、前記基準平面に対する前記所定の座標軸方向における前記基準三次元モデルデータと前記基準値との基準差分値情報を取得するステップと、をさらに含む、
ことを特徴とする情報処理方法。
【請求項5】
請求項1ないし3のいずれかに記載の情報処理方法であって、
基準点座標平面算出部により、前記基準三次元モデルデータにおいて、前記基準点座標を含む基準平面を算出するステップと、
基準差分値情報取得部により、前記基準平面上を所定の座標軸方向の基準値として設定し、前記基準平面に対する前記所定の座標軸方向における前記基準三次元モデルデータと前記基準値との基準差分値情報を取得するステップと、
対応点座標平面算出部により、前記対応三次元モデルデータにおいて、前記対応点座標を含む対応平面を算出するステップと、
対応差分値情報取得部により、前記対応平面上を所定の座標軸方向の基準値として設定し、前記対応平面に対する前記所定の座標軸方向における前記対応三次元モデルデータと前記基準値との対応差分値情報を取得するステップと、をさらに含む、
ことを特徴とする情報処理方法。
【請求項6】
請求項5に記載の情報処理方法であって、
差分値情報比較部により、基準差分値情報及び対応差分値情報を互いに比較し、その比較結果情報を算出するステップをさらに含む、
ことを特徴とする情報処理方法。
【請求項7】
請求項6に記載の情報処理方法であって、
前記比較結果情報は、基準差分値情報が示す値と対応差分値情報が示す値との差分をさらに算出することで取得された両者のずれ量情報である、
ことを特徴とする情報処理方法。
【請求項8】
請求項7に記載の情報処理方法であって、
前記差分値情報比較部により、ユーザにより設定されたずれ量の許容範囲情報と前記ずれ量情報を比較し、許容範囲内外に応じて異なる色で対応三次元モデルデータの少なくとも一部を表示するステップをさらに含む、
ことを特徴とする情報処理方法。
【請求項9】
情報処理システムであって、
基準対象物及び測定対象物からセンサにより基準三次元モデルデータ及び対応三次元モデルデータを取得する三次元モデルデータ取得部と、
前記基準三次元モデルデータから三以上の任意の数の基準点座標情報を取得する基準点座標取得部と、
前記基準点座標情報に基づく基準探索範囲を設定する基準探索範囲設定部と、
前記対応三次元モデルデータにおいて基準探索範囲内における対応点座標情報を取得する対応点座標情報取得部と、
前記対応三次元モデルデータにおいて、前記対応点座標を含む対応平面を算出する対応点座標平面算出部と、
前記対応平面上を所定の座標軸方向の基準値として設定し、前記対応平面に対する前記所定の座標軸方向における前記対応三次元モデルデータと前記基準値との対応差分値情報を取得する対応差分値情報取得部と、
を含む、ことを特徴とする情報処理システム。
【請求項10】
情報処理方法をコンピュータに実行させるためのプログラムであって、
前記プログラムは、前記情報処理方法として、
基準対象物からセンサにより基準三次元モデルデータを取得するステップと、
基準点座標取得部により、前記基準三次元モデルデータから三以上の任意の数の基準点 座標情報を取得するステップと、
測定対象物からセンサにより対応三次元モデルデータを取得するステップと、
基準探索範囲設定部により、前記基準点座標情報に基づく基準探索範囲を設定するステップと、
対応点座標情報取得部により、前記対応三次元モデルデータにおいて基準探索範囲内における対応点座標情報を取得するステップと、
対応点座標平面算出部により、前記対応三次元モデルデータにおいて、前記対応点座標を含む対応平面を算出するステップと、
対応差分値情報取得部により、前記対応平面上を所定の座標軸方向の基準値として設定し、前記対応平面に対する前記所定の座標軸方向における前記対応三次元モデルデータと前記基準値との対応差分値情報を取得するステップと、
をコンピュータに実行させる、ことを特徴とするプログラム。
【手続補正書】
【提出日】2021-06-21
【手続補正1】
【補正対象書類名】特許請求の範囲
【補正対象項目名】全文
【補正方法】変更
【補正の内容】
【特許請求の範囲】
【請求項1】
情報処理方法であって、
基準対象物からセンサにより基準三次元モデルデータを取得するステップと、
基準点座標取得部により、前記基準三次元モデルデータから三以上の任意の数の基準点座標情報を取得するステップと、
測定対象物からセンサにより対応三次元モデルデータを取得するステップと、
基準探索範囲設定部により、前記基準点座標情報に基づく三次元の基準探索範囲を設定するステップと、
対応点座標情報取得部により、前記三次元の基準探索範囲内において前記基準点座標情報に対応する対応点座標情報を、前記対応三次元モデルデータを構成する三次元点群データから取得するステップと、
対応点座標平面算出部により、前記対応三次元モデルデータにおいて、前記対応点座標を含む対応平面を算出するステップと、
対応差分値情報取得部により、前記対応平面上を所定の座標軸方向の基準値として設定し、前記対応平面に対する前記所定の座標軸方向における前記対応三次元モデルデータと前記基準値との対応差分値情報を取得するステップと、
を含む、ことを特徴とする情報処理方法。
【請求項2】
請求項1に記載の情報処理方法であって、
前記三次元モデルデータのそれぞれは、三次元点群データである、
ことを特徴とする情報処理方法。
【請求項3】
請求項1または2のいずれかに記載の情報処理方法であって、
前記基準点座標情報を取得するステップは、特定形状部位検出部により、前記基準三次元モデルデータにおける特定形状の部位を検出し、当該部位の座標情報を基準点座標情報として取得するステップと、を含む、
ことを特徴とする情報処理方法。
【請求項4】
請求項1ないし3のいずれかに記載の情報処理方法であって、
基準点座標平面算出部により、前記基準三次元モデルデータにおいて、前記基準点座標を含む基準平面を算出するステップと、
基準差分値情報取得部により、前記基準平面上を所定の座標軸方向の基準値として設定し、前記基準平面に対する前記所定の座標軸方向における前記基準三次元モデルデータと前記基準値との基準差分値情報を取得するステップと、をさらに含む、
ことを特徴とする情報処理方法。
【請求項5】
請求項1ないし3のいずれかに記載の情報処理方法であって、
基準点座標平面算出部により、前記基準三次元モデルデータにおいて、前記基準点座標を含む基準平面を算出するステップと、
基準差分値情報取得部により、前記基準平面上を所定の座標軸方向の基準値として設定し、前記基準平面に対する前記所定の座標軸方向における前記基準三次元モデルデータと前記基準値との基準差分値情報を取得するステップと、
対応点座標平面算出部により、前記対応三次元モデルデータにおいて、前記対応点座標を含む対応平面を算出するステップと、
対応差分値情報取得部により、前記対応平面上を所定の座標軸方向の基準値として設定し、前記対応平面に対する前記所定の座標軸方向における前記対応三次元モデルデータと前記基準値との対応差分値情報を取得するステップと、をさらに含む、
ことを特徴とする情報処理方法。
【請求項6】
請求項5に記載の情報処理方法であって、
差分値情報比較部により、基準差分値情報及び対応差分値情報を互いに比較し、その比較結果情報を算出するステップをさらに含む、
ことを特徴とする情報処理方法。
【請求項7】
請求項6に記載の情報処理方法であって、
前記比較結果情報は、基準差分値情報が示す値と対応差分値情報が示す値との差分をさらに算出することで取得された両者のずれ量情報である、
ことを特徴とする情報処理方法。
【請求項8】
請求項7に記載の情報処理方法であって、
前記差分値情報比較部により、ユーザにより設定されたずれ量の許容範囲情報と前記ずれ量情報を比較し、許容範囲内外に応じて異なる色で対応三次元モデルデータの少なくとも一部を表示するステップをさらに含む、
ことを特徴とする情報処理方法。
【請求項9】
情報処理システムであって、
基準対象物及び測定対象物からセンサにより基準三次元モデルデータ及び対応三次元モデルデータを取得する三次元モデルデータ取得部と、
前記基準三次元モデルデータから三以上の任意の数の基準点座標情報を取得する基準点座標取得部と、
前記基準点座標情報に基づく三次元の基準探索範囲を設定する基準探索範囲設定部と、
前記三次元の基準探索範囲内において前記基準点座標情報に対応する対応点座標情報を、前記対応三次元モデルデータを構成する三次元点群データから取得する対応点座標情報取得部と、
前記対応三次元モデルデータにおいて、前記対応点座標を含む対応平面を算出する対応点座標平面算出部と、
前記対応平面上を所定の座標軸方向の基準値として設定し、前記対応平面に対する前記所定の座標軸方向における前記対応三次元モデルデータと前記基準値との対応差分値情報を取得する対応差分値情報取得部と、
を含む、ことを特徴とする情報処理システム。
【請求項10】
情報処理方法をコンピュータに実行させるためのプログラムであって、
前記プログラムは、前記情報処理方法として、
基準対象物からセンサにより基準三次元モデルデータを取得するステップと、
基準点座標取得部により、前記基準三次元モデルデータから三以上の任意の数の基準点 座標情報を取得するステップと、
測定対象物からセンサにより対応三次元モデルデータを取得するステップと、
基準探索範囲設定部により、前記基準点座標情報に基づく三次元の基準探索範囲を設定するステップと、
対応点座標情報取得部により、前記三次元の基準探索範囲内において前記基準点座標情報に対応する対応点座標情報を、前記対応三次元モデルデータを構成する三次元点群データから取得するステップと、
対応点座標平面算出部により、前記対応三次元モデルデータにおいて、前記対応点座標を含む対応平面を算出するステップと、
対応差分値情報取得部により、前記対応平面上を所定の座標軸方向の基準値として設定し、前記対応平面に対する前記所定の座標軸方向における前記対応三次元モデルデータと前記基準値との対応差分値情報を取得するステップと、
をコンピュータに実行させる、ことを特徴とするプログラム。