(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公開特許公報(A)
(11)【公開番号】P2024120305
(43)【公開日】2024-09-05
(54)【発明の名称】三次元計測装置
(51)【国際特許分類】
G01B 11/25 20060101AFI20240829BHJP
【FI】
G01B11/25 H
【審査請求】未請求
【請求項の数】7
【出願形態】OL
(21)【出願番号】P 2023027011
(22)【出願日】2023-02-24
(71)【出願人】
【識別番号】501428545
【氏名又は名称】株式会社デンソーウェーブ
(74)【代理人】
【識別番号】100095795
【弁理士】
【氏名又は名称】田下 明人
(74)【代理人】
【識別番号】100143454
【弁理士】
【氏名又は名称】立石 克彦
(72)【発明者】
【氏名】井上 槙人
(72)【発明者】
【氏名】三谷 勇介
【テーマコード(参考)】
2F065
【Fターム(参考)】
2F065AA04
2F065AA53
2F065BB05
2F065DD06
2F065FF01
2F065FF02
2F065FF08
2F065FF09
2F065GG23
2F065HH06
2F065HH07
2F065HH12
2F065JJ03
2F065JJ08
2F065JJ26
2F065LL18
2F065PP22
2F065QQ04
2F065QQ08
2F065QQ31
(57)【要約】
【課題】イベントデータを利用することでより高速に計測対象物の三次元計測を実施可能な構成を提供する。
【解決手段】投影部20が計測対象物Rに対して投影する縞パターンPは、左右方向(第1の方向)において輝度が所定の割合で変化し上下方向(第1の方向に直交する第2の方向)において輝度が変化しない縞領域Pa~Pdが左右方向に沿って複数配置されるように生成される。撮像部30は、受光した際に輝度変化のあった画素に対応して当該画素の位置が特定される二次元点データを含めたイベントデータを出力する撮像素子を備え、計測部40は、単位時間内にて計測対象物Rを撮像した際に同時間帯に出力される負極性のイベントデータから特定される画素の位置に基づいて計測対象物Rの三次元形状を光切断法により計測する。
【選択図】
図4
【特許請求の範囲】
【請求項1】
計測対象物に対して所定の縞パターンを投影する投影部と、
前記所定の縞パターンが投影された前記計測対象物を撮像する撮像部と、
前記撮像部により撮像される前記計測対象物の三次元形状を計測する計測部と、
前記投影部を制御する制御部と、
を備える三次元計測装置であって、
前記所定の縞パターンは、第1の方向において輝度が所定の割合で変化し前記第1の方向に直交する第2の方向において輝度が変化しない縞領域が前記第1の方向に沿って複数配置されるように生成され、
前記撮像部は、受光した際に輝度変化のあった画素に対応して当該画素の位置が特定される二次元点データを含めたイベントデータを出力する撮像素子を備え、
前記計測部は、単位時間内にて前記計測対象物を撮像した際に同時間帯に出力される前記イベントデータから特定される画素の位置に基づいて前記計測対象物の三次元形状を光切断法により計測することを特徴とする三次元計測装置。
【請求項2】
前記計測部は、撮像時に出力される前記イベントデータの前記出力タイミングを縦軸として前記第1の方向の画素の位置を横軸とするように生成されるイベント波形を利用して、同時間帯に出力される前記イベントデータから特定される画素の位置に基づいて前記計測対象物の三次元形状を光切断法により計測することを特徴とする請求項1に記載の三次元計測装置。
【請求項3】
前記撮像素子は、明るくなる輝度変化の場合に正極性のイベントデータを出力し、暗くなる輝度変化の場合に負極性のイベントデータを出力するように構成され、
前記計測部は、撮像時に出力される前記負極性のイベントデータの前記出力タイミングを縦軸として前記第1の方向の画素の位置を横軸とするように生成されるイベント波形を利用して、同時間帯に出力される前記イベントデータから特定される画素の位置に基づいて前記計測対象物の三次元形状を光切断法により計測することを特徴とする請求項1に記載の三次元計測装置。
【請求項4】
前記投影部は、最初に前記所定の縞パターンを第1縞パターンとして投影した後に前記第1縞パターンでの前記所定の割合を明暗について逆にした第2縞パターンを投影し、
前記計測部は、前記第1縞パターンの撮像時に最も早く出力される前記イベントデータの前記出力タイミングを縦軸として前記第1の方向の画素の位置を横軸とするように生成される第1イベント波形と、前記第2縞パターンの撮像時に最も早く出力される前記イベントデータの出力タイミングを縦軸として前記第1の方向の画素の位置を横軸とするように生成される第2イベント波形とを求めて、前記第1イベント波形と反転した前記第2イベント波形とを合成した合成波形を利用して、同時間帯に出力される前記イベントデータから特定される画素の位置に基づいて前記計測対象物の三次元形状を光切断法により計測することを特徴とする請求項1に記載の三次元計測装置。
【請求項5】
前記撮像素子は、明るくなる輝度変化の場合に正極性のイベントデータを出力し、暗くなる輝度変化の場合に負極性のイベントデータを出力するように構成され、
前記投影部は、最初に前記所定の縞パターンを第1縞パターンとして投影した後に前記第1縞パターンでの前記所定の割合を明暗について逆にした第2縞パターンを投影し、
前記計測部は、前記第1縞パターンの撮像時に最も早く出力される前記負極性のイベントデータの前記出力タイミングを縦軸として前記第1の方向の画素の位置を横軸とするように生成される第1イベント波形と、前記第2縞パターンの撮像時に最も早く出力される前記負極性のイベントデータの出力タイミングを縦軸として前記第1の方向の画素の位置を横軸とするように生成される第2イベント波形とを求めて、前記第1イベント波形と反転した前記第2イベント波形とを合成した合成波形を利用して、同時間帯に出力される前記イベントデータから特定される画素の位置に基づいて前記計測対象物の三次元形状を光切断法により計測することを特徴とする請求項1に記載の三次元計測装置。
【請求項6】
前記投影部は、さらに、前記縞領域を他の縞領域と区別する縞番号を特定するための縞番号特定用パターンを投影し、
前記計測部は、前記縞番号特定用パターンを投影した前記計測対象物の撮像時に出力される前記イベントデータの出力タイミングに基づいて前記縞番号を特定する縞番号特定手段を備え、
前記縞番号特定手段は、非透明体及び透明体を撮像しているために2つの縞番号が特定される画素について、予め想定される前記計測対象物の三次元形状に基づいて、前記非透明体の縞番号と前記透明体の縞番号とをそれぞれ特定することを特徴とする請求項2~5のいずれか一項に記載の三次元計測装置。
【請求項7】
前記投影部は、さらに、前記縞領域を他の縞領域と区別する縞番号を特定するための第1縞番号特定用パターンと第2縞番号特定用パターンとを投影し、
前記第1縞番号特定用パターンは、前記第1の方向において輝度が前記縞領域単位で異なるように所定の段階にて変化し前記第2の方向において輝度が変化しないように生成されて投影され、
前記第2縞番号特定用パターンは、前記第1縞パターンでの前記所定の段階を明暗について逆にしたように生成されて投影され、
前記計測部は、前記第1縞番号特定用パターンを投影した前記計測対象物の撮像時に最も早く出力される前記イベントデータの出力タイミングと前記第2縞番号特定用パターンを投影した前記計測対象物の撮像時に最も早く出力される前記イベントデータの出力タイミングとに基づいて前記縞番号を特定する縞番号特定手段を備え、
前記縞番号特定手段は、非透明体及び透明体を撮像しているために2つの縞番号が特定される画素について、予め想定される三次元形状に基づいて、前記非透明体の縞番号と前記透明体の縞番号とをそれぞれ特定することを特徴とする請求項2~5のいずれか一項に記載の三次元計測装置。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、計測対象物の三次元形状を計測する三次元計測装置に関するものである。
【背景技術】
【0002】
従来、計測対象物の三次元形状等を計測する三次元計測装置として、例えば、位相シフト法を利用した装置が知られている。位相シフト法は、位相をずらした複数枚の縞パターン画像を投影することでこの縞パターン画像を投影した計測対象物に関して三次元計測を行う手法である。
【0003】
このように位相シフト法を利用して三次元計測を行う技術に関して、より高速に計測対象物の画像を生成するため、下記特許文献1に開示される三次元計測装置が知られている。この三次元計測装置では、位相シフト法用の所定の縞パターンとしてサイン波パターンが採用されるとともに、受光した際に輝度変化のあった画素に対応して当該画素の位置が特定される二次元点データを含めたイベントデータを出力するイベントカメラが採用されて、イベントデータから縞パターンが投影された計測対象物の撮像画像を生成するように構成されている。イベントカメラは、従来のカメラのように輝度変化のない画素情報、つまり冗長なデータ(イベントデータ)は出力しないといった特徴があるため、データ通信量の軽減や画像処理の軽量化等が実現されることで、より高速に計測対象物の形状に関する情報を取得することができる。その一方で、イベントデータには位相シフト法に利用する輝度情報が含まれないため、画素単位で投光時に出力されるプラス輝度変化のイベントデータ(正極性のイベントデータ)の発生時間と消灯時に出力されるマイナス輝度変化のイベントデータ(負極性のイベントデータ)の発生時間との時間差に基づいて輝度情報(縞パターン情報)を求めることで、イベントデータを利用した計測対象物の三次元形状の計測を実施可能としている。
【先行技術文献】
【特許文献】
【0004】
【発明の概要】
【発明が解決しようとする課題】
【0005】
また、上記特許文献1に開示される三次元計測装置では、計測対象物に対して輝度が左側から右側にかけて一定の割合で増加するように変化し上下方向において輝度が変化しないように生成される光切断法用のパターンを投影して、その撮像時に出力されるイベントデータを利用した光切断法により計測対象物の三次元形状を計測している。具体的には、同時間帯に出力されるイベントデータから特定される画素の位置を光切断法でのライン状の光が照射された画素の位置として取り扱うことで、光切断法による三次元計測を可能としている。
【0006】
しかしながら、上述のように生成される光切断法用のパターンを投影する計測手法では、投影領域の左端から右端にかけて輝度を変化させる必要があり、左右方向の画素が多くなるほど、撮像時間、すなわち、三次元計測処理に要する処理時間が長くなるという問題がある。
【0007】
本発明は、上述した課題を解決するためになされたものであり、その目的とするところは、イベントデータを利用することでより高速に計測対象物の三次元計測を実施可能な構成を提供することにある。
【課題を解決するための手段】
【0008】
上記目的を達成するため、特許請求の範囲の請求項1に記載の発明は、
計測対象物(R)に対して所定の縞パターン(P)を投影する投影部(20)と、
前記所定の縞パターンが投影された前記計測対象物を撮像する撮像部(30)と、
前記撮像部により撮像される前記計測対象物の三次元形状を計測する計測部(40)と、
前記投影部を制御する制御部(11)と、
を備える三次元計測装置(40)であって、
前記所定の縞パターンは、第1の方向において輝度が所定の割合で変化し前記第1の方向に直交する第2の方向において輝度が変化しない縞領域(Pa~Pd)が前記第1の方向に沿って複数配置されるように生成され、
前記撮像部は、受光した際に輝度変化のあった画素に対応して当該画素の位置が特定される二次元点データを含めたイベントデータを出力する撮像素子を備え、
前記計測部は、単位時間内にて前記計測対象物を撮像した際に同時間帯に出力される前記イベントデータから特定される画素の位置に基づいて前記計測対象物の三次元形状を光切断法により計測することを特徴とする。
なお、上記各括弧内の符号は、後述する実施形態に記載の具体的手段との対応関係を示すものである。
【発明の効果】
【0009】
請求項1の発明では、投影部が計測対象物に対して投影する所定の縞パターンは、第1の方向において輝度が所定の割合で変化し第1の方向に直交する第2の方向において輝度が変化しない縞領域が第1の方向に沿って複数配置されるように生成される。撮像部は、受光した際に輝度変化のあった画素に対応して当該画素の位置が特定される二次元点データを含めたイベントデータを出力する撮像素子を備え、計測部は、単位時間内にて計測対象物を撮像した際に同時間帯に出力されるイベントデータから特定される画素の位置に基づいて計測対象物の三次元形状を光切断法により計測する。
【0010】
これにより、同時間帯に出力されるイベントデータから特定される画素の位置を繋げた輝線が縞領域ごとに得られるため、所定の縞パターンでの縞領域の数が多くなるほど、撮像時間、すなわち、三次元計測処理に要する処理時間を短縮することができる。したがって、イベントデータを利用することでより高速に計測対象物の三次元計測を実施することができる。
【0011】
請求項2の発明では、計測部は、撮像時に出力されるイベントデータの出力タイミングを縦軸として第1の方向の画素の位置を横軸とするように生成されるイベント波形を利用して、同時間帯に出力されるイベントデータから特定される画素の位置に基づいて計測対象物の三次元形状を光切断法により計測する。
【0012】
撮像部では、1つの画素に対して非透明体からの光と透明体からの光とが受光されることで、その1つの画素について2つのイベントデータが出力される場合がある。このような場合、各画素において最も早く出力される最初のイベントデータが非透明体によるものと透明体によるものとで混在するために、正確な三次元計測の妨げになる場合がある。
【0013】
このため、撮像時に出力されるイベントデータの出力タイミングを縦軸として第1の方向の画素の位置を横軸とするようにイベント波形を生成する。このイベント波形は、非透明体及び透明体を撮像している画素では、その画素について2つのイベントデータが出力されるため、非透明体の形状に起因する一方のイベント波形と透明体の形状に起因する他方のイベント波形とが含まれるように生成される。このため、上述のように生成されたイベント波形から分離される一方のイベント波形と他方のイベント波形とを利用することで、非透明体と透明体とを区別して三次元計測を実施することができる。
【0014】
請求項3の発明では、計測部は、撮像時に出力される負極性のイベントデータの出力タイミングを縦軸として第1の方向の画素の位置を横軸とするように生成されるイベント波形を利用して、同時間帯に出力されるイベントデータから特定される画素の位置に基づいて計測対象物の三次元形状を光切断法により計測する。イベント波形は、非透明体及び透明体を撮像している画素では、その画素について2つの負極性のイベントデータが出力される場合に、非透明体の形状に起因する一方のイベント波形と透明体の形状に起因する他方のイベント波形とが含まれるように生成される。このため、上述のように生成されたイベント波形から分離される一方のイベント波形と他方のイベント波形とを利用することで、非透明体と透明体とを区別して三次元計測を実施することができる。特に、撮像素子は、負極性のイベントデータが出力される直前の明るい状態では、電圧が高い状態で受光しているために、感度が比較的低くなることでノイズの影響が抑制される。このため、負極性のイベントデータの出力タイミングを利用することで、正極性のイベントデータの出力タイミングを利用する場合と比較して、三次元計測に関する計測精度を向上させることができる。
【0015】
請求項4の発明では、投影部は、最初に所定の縞パターンを第1縞パターンとして投影した後に第1縞パターンでの所定の割合を明暗について逆にした第2縞パターンを投影する。計測部は、第1縞パターンの撮像時に最も早く出力されるイベントデータの出力タイミングを縦軸として第1の方向の画素の位置を横軸とするように生成される第1イベント波形と、第2縞パターンの撮像時に最も早く出力されるイベントデータの出力タイミングを縦軸として第1の方向の画素の位置を横軸とするように生成される第2イベント波形とを求めて、第1イベント波形と反転した第2イベント波形とを合成した合成波形を利用して、同時間帯に出力されるイベントデータから特定される画素の位置に基づいて計測対象物の三次元形状を光切断法により計測する。
【0016】
請求項2の発明のように、1度の撮像で画素ごとに出力される2つのイベントデータを利用する場合、最初のイベントデータが出力された後に同じ画素で同じ極性のイベントデータが連続して出力される場合等の理由で、本来出力すべきでないイベントデータがノイズとして生じて、正確な三次元計測の妨げになる場合がある。
【0017】
これに対して、上記第1イベント波形及び第2イベント波形は、それぞれ最も早いイベントデータの出力タイミングに基づいて生成されるため、上述したノイズの影響がない。そして、第2縞パターンは、第1縞パターンでの所定の割合を明暗について逆にしていることから、同じ画素位置での非透明体と透明体との明暗の大小関係が反転するため、第1縞パターンの投影時に2番目に出力されるべきイベントデータが最も早く出力されることになる。このため、第1縞パターンの投影時に生成された第1イベント波形と第2縞パターンの投影時に生成された第2イベント波形を反転した波形とを合成した合成波形は、非透明体の形状に起因する一方のイベント波形と透明体の形状に起因する他方のイベント波形とが含まれるように生成される。これにより、ノイズの影響を抑制しつつ非透明体と透明体とを区別して三次元計測を実施することができる。
【0018】
請求項5の発明では、投影部は、最初に所定の縞パターンを第1縞パターンとして投影した後に第1縞パターンでの所定の割合を明暗について逆にした第2縞パターンを投影する。計測部は、第1縞パターンの撮像時に最も早く出力される負極性のイベントデータの出力タイミングを縦軸として第1の方向の画素の位置を横軸とするように生成される第1イベント波形と、第2縞パターンの撮像時に最も早く出力される負極性のイベントデータの出力タイミングを縦軸として第1の方向の画素の位置を横軸とするように生成される第2イベント波形とを求めて、第1イベント波形と反転した第2イベント波形とを合成した合成波形を利用して、同時間帯に出力されるイベントデータから特定される画素の位置に基づいて計測対象物の三次元形状を光切断法により計測する。
【0019】
上記第1イベント波形及び第2イベント波形は、それぞれ最も早い負極性のイベントデータの出力タイミングに基づいて生成されるため、上述したノイズの影響がない。そして、第2縞パターンは、第1縞パターンでの所定の割合を明暗について逆にしていることから、同じ画素位置での非透明体と透明体との明暗の大小関係が反転するため、第1縞パターンの投影時に2番目に出力されるべき負極性のイベントデータが最も早く出力されることになる。このため、第1縞パターンの投影時に生成された第1イベント波形と第2縞パターンの投影時に生成された第2イベント波形を反転した波形とを合成した合成波形は、非透明体の形状に起因する一方のイベント波形と透明体の形状に起因する他方のイベント波形とが含まれるように生成される。これにより、ノイズの影響を抑制しつつ非透明体と透明体とを区別して三次元計測を実施することができる。特に、撮像素子は、負極性のイベントデータが出力される直前の明るい状態では、電圧が高い状態で受光しているために、感度が比較的低くなることでノイズの影響が抑制される。このため、負極性のイベントデータの出力タイミングを利用することで、正極性のイベントデータの出力タイミングを利用する場合と比較して、三次元計測に関する計測精度を向上させることができる。
【0020】
請求項6の発明では、投影部は、さらに、縞領域を他の縞領域と区別する縞番号を特定するための縞番号特定用パターンを投影する。縞番号特定手段は、縞番号特定用パターンを投影した計測対象物の撮像時に出力されるイベントデータの出力タイミングに基づいて縞番号を特定するもので、非透明体及び透明体を撮像しているために2つの縞番号が特定される画素について、予め想定される計測対象物の三次元形状に基づいて、非透明体の縞番号と透明体の縞番号とをそれぞれ特定する。
【0021】
投影された縞番号特定用パターンの撮像時に、各画素において最も早く出力されるイベントデータの出力タイミングに基づいて縞番号を特定する構成では、非透明体及び透明体のために2つのイベントデータが異なるタイミングで出力されることで、誤った縞番号が特定される可能性がある。
【0022】
このため、縞番号特定手段は、縞番号特定用パターンの撮像時に画素単位で2つのイベントデータが異なるタイミングで出力される場合があることを前提に縞番号を特定することで、最も早く出力されるイベントデータの出力タイミングのみに基づいたために誤って縞番号が特定されることを抑制することができる。そして、非透明体及び透明体を撮像しているために2つの縞番号が特定される画素については、予め想定される計測対象物の三次元形状に基づいて、非透明体の縞番号と透明体の縞番号とをそれぞれ特定することで、非透明体と透明体との縞番号を取り違えることを抑制することができる。
【0023】
請求項7の発明では、投影部は、さらに、縞領域を他の縞領域と区別する縞番号を特定するための第1縞番号特定用パターンと第2縞番号特定用パターンとを投影する。第1縞番号特定用パターンは、第1の方向において輝度が縞領域単位で異なるように所定の段階にて変化し第2の方向において輝度が変化しないように生成されて投影され、第2縞番号特定用パターンは、第1縞パターンでの所定の段階を明暗について逆にしたように生成されて投影される。縞番号特定手段は、第1縞番号特定用パターンを投影した計測対象物の撮像時に最も早く出力されるイベントデータの出力タイミングと第2縞番号特定用パターンを投影した計測対象物の撮像時に最も早く出力されるイベントデータの出力タイミングとに基づいて縞番号を特定するもので、非透明体及び透明体を撮像しているために2つの縞番号が特定される画素について、予め想定される三次元形状に基づいて、非透明体の縞番号と透明体の縞番号とをそれぞれ特定する。
【0024】
請求項6の発明のように、1度の撮像で画素ごとに出力される2つのイベントデータを利用する場合、最初のイベントデータが出力された後に同じ画素で同じ極性のイベントデータが連続して出力される場合等の理由で、本来出力すべきでないイベントデータがノイズとして生じて、正確な縞番号の特定の妨げになる場合がある。
【0025】
これに対して、縞番号特定手段は、上記第1縞番号特定用パターンの撮像時に最も早く出力されるイベントデータの出力タイミングと上記第2縞番号特定用パターンの撮像時に最も早く出力されるイベントデータの出力タイミングとに基づいて縞番号を特定するため、縞番号の特定に関して上述したノイズの影響がない。そして、第2縞番号特定用パターンは、第1縞番号特定用パターンでの所定の段階を明暗について逆にしていることから、第1縞番号特定用パターンの投影時に2番目に出力されるべきイベントデータが最も早く出力されることになる。このため、ノイズの影響を抑制しつつ非透明体と透明体との縞番号を取り違えることを抑制することができる。
【図面の簡単な説明】
【0026】
【
図1】第1実施形態に係る三次元計測装置の概略構成を示すブロック図である。
【
図2】
図2(A)は、第1実施形態に係る光切断法用の縞パターンを例示する説明図であり、
図2(B)は、
図2(A)の縞パターンを投影するための発光時間と左右方向の画素の位置との関係を説明する説明図である。
【
図3】平面に対して
図2の縞パターンが投影された状態で出力されるイベントデータを利用して生成される撮像画像を説明する説明図であり、
図3(A)は、
図2の縞パターンの投影を開始してから10μs後の状態を示し、
図3(B)は、20μs後の状態を示し、
図3(C)は、30μs後の状態を示す。
【
図4】球面を有する計測対象物に対して
図2の縞パターンが投影された状態で出力されるイベントデータを利用して生成される撮像画像を説明する説明図であり、
図4(A)は、
図2の縞パターンの投影を開始してから10μs後の状態を示し、
図4(B)は、20μs後の状態を示し、
図4(C)は、30μs後の状態を示す。
【
図5】左右方向の画素の位置を基準に、4つの縞領域からなる縞パターンを撮像した際の負極性のイベントデータの出力タイミングと1つの縞領域からなる縞パターンを撮像した際の負極性のイベントデータの出力タイミングとの比較結果を示す説明図である。
【
図6】
図6(A)は、第1実施形態の変形例に係る光切断法用の縞パターンを例示する説明図であり、
図6(B)は、
図6(A)の縞パターンを投影するための発光時間と左右方向の画素の位置との関係を説明する説明図である。
【
図7】第2実施形態において黒板の手前に透明板がある計測対象物を計測する状態を説明する説明図である。
【
図8】
図8(A)は、三角波の縞パターンを説明する説明図であり、
図8(B)は、黒板のみを撮像した際に生成されるイベント波形を説明する説明図であり、
図8(C)は、透明板のみを撮像した際に生成されるイベント波形を説明する説明図であり、
図8(D)は、黒板の手前に透明板がある計測対象物を撮像した際に生成されるイベント波形を説明する説明図である。
【
図9】
図9(A)は、透明板の存在を考慮しない場合に三次元計測に利用されるイベント波形部分を説明する説明図であり、
図9(B)は、
図9(A)のイベント波形部分を利用した計測結果を説明する説明図である。
【
図10】第3実施形態における2種類の縞パターンを説明する説明図であり、
図10(A)は、第1縞パターンを示し、
図10(B)は、第2縞パターンを示す。
【
図11】
図11(A)は、
図10(A)に示す第1縞パターンの撮像時に生成される第1イベント波形を説明する説明図であり、
図11(B)は、
図11(A)の第1イベント波形を利用した計測結果を説明する説明図であり、
図11(C)は、
図10(B)に示す第2縞パターンの撮像時に生成される第2イベント波形を説明する説明図であり、
図11(D)は、
図11(C)の第2イベント波形を利用した計測結果を説明する説明図である。
【
図12】第1イベント波形と反転した第2イベント波形とを合成した合成波形を説明する説明図である。
【
図13】第4実施形態における縞番号特定用パターンを説明する説明図であり、
図13(A)は、縞番号「1」の縞領域での発光時間を示し、
図13(B)は、縞番号「2」の縞領域での発光時間を示し、
図13(C)は、縞番号「3」の縞領域での発光時間を示し、
図13(D)は、縞番号「4」の縞領域での発光時間を示す。
【
図14】黒板の手前に透明板がある計測対象物を計測した際に生成されるイベント波形と黒板の形状に起因する一方のイベント波形で特定される縞番号と透明板の形状に起因する他方のイベント波形で特定される縞番号との関係を説明する説明図である。
【
図15】
図15(A)は、黒板と透明板とで縞番号が同じになる場合に1つの負極性のイベントデータが出力される場合を説明する説明図であり、
図15(B)は、黒板と透明板とで縞番号が異なる場合に2つの負極性のイベントデータが出力される場合を説明する説明図である。
【
図16】第5実施形態における縞番号特定用パターンを説明する説明図であり、
図16(A)は、第1縞番号特定用パターンを示し、
図16(B)は、第2縞番号特定用パターンを示す。
【
図17】縞パターンの生成に利用する所定の割合を説明する説明図である。
【発明を実施するための形態】
【0027】
[第1実施形態]
以下、本発明の三次元計測装置を具現化した第1実施形態について、図面を参照して説明する。
本実施形態に係る三次元計測装置10は、計測対象物Rの三次元形状を計測する装置であって、
図1に示すように、全体制御を司る制御部11と、計測対象物Rに対して所定の縞パターンを投影する投影部20と、所定の縞パターンが投影された計測対象物Rを撮像する撮像部30と、この撮像画像から計測対象物Rの三次元形状を計測する計測部40と、を備えるように構成されている。このように構成される三次元計測装置10は、例えば、ロボットのハンドに組み付けられることで、ハンドに対して高速に相対移動することになるワーク等の計測対象物Rの三次元形状を計測する。ここで、相対移動とは、ロボットのハンドに組付けられた三次元計測装置10の移動と計測対象物Rの高速移動との間での相対的な移動を指している。三次元計測装置10の位置が固定されている場合には相対移動は計測対象物Rの移動となる。
【0028】
制御部11は、マイコンを主体として構成されるものであり、CPU、システムバス、入出力インタフェース等を有し、ROM,RAM、不揮発性メモリなどからなる記憶部とともに情報処理装置を構成している。記憶部には、ロボット制御に関するプログラムに加えて、投影部20の制御に関するプログラムや計測部40による三次元計測結果を利用した制御処理を実行するためのプログラム等が制御部11により実行可能に予め格納されている。
【0029】
投影部20は、いわゆるDLPプロジェクタであって、制御部11により制御されて、光源からの光をDMD素子にて反射することで後述するように所定の縞パターンを投影する。DMD素子は、スクリーンに投影された画像の各画素に相当する微細なミラーをアレイ状に配置したものであり、各ミラーの角度を変化させてスクリーンへ出射する光を、マイクロ秒単位でON/OFFするように構成されている。このため、ミラー単位で、反射OFFから反射ONになることで投光状態に切り替えられ、反射ONから反射OFFになることで消灯状態に切り替えられる。すなわち、投影部20は、複数のミラーをアレイ状に配置したDMDによる入射光の反射のON/OFFがミラーごとに制御部11によって制御されることで、所定の縞パターンを投影するように機能する。このため、各ミラーをONにしている時間とOFFにしている時間の比率によって、反射される光の階調(明るさ)を変化させることにより、投影する画像の画像データに基づいた階調表示が可能になる。本実施形態では、投影部20は、左上を(1、1)、右下を(k、l)とするk×l画素(例えば、1140×912)に対応するミラーを備えている。
【0030】
このような構成では、発光状態ごとに確保される単位時間内に1回発光される単パルス発光の発光時間(反射ONから反射OFFまでの時間)が長くなるほどその発光状態が明るくなるため、発光時間に応じて発光状態を特定することができる。例えば、DMD素子に入射する光として、R色(赤色)、G色(緑色)、B色(青色)が用意される場合には、R色がミラーにて反射することで発光するR色発光状態とG色がミラーにて反射することで発光するG色発光状態とB色がミラーにて反射することで発光するB色発光状態とが短時間の所定の周期で繰り返されて、それぞれの発光時間が個別に調整されることで、カラー画像が投影可能となる。このため、制御部11は、単位時間中での反射のON/OFFタイミングを、後述する所定の縞パターンに応じてミラーごとに設定するように機能する。
【0031】
撮像部30は、いわゆるイベントカメラであって、受光した際に輝度変化のあった画素に対応して当該画素の位置が特定される二次元点データを含めたイベントデータ(具体的には、二次元点データ、時間、輝度変化の極性)を出力する撮像素子を備えて、当該撮像素子から出力されるイベントデータから撮像画像を生成可能に構成されている。このため、撮像部30では、撮像画像での各画素単位に関して、光を受光することで明るくなる輝度変化が生じると正極性(プラス輝度変化)のイベントデータが出力され、その光が消えることで暗くなる輝度変化が生じて負極性(マイナス輝度変化)のイベントデータが出力される。一定期間内に出力される複数のイベントデータの二次元点データをそれぞれ点として所定の平面にプロットすることで計測対象物Rを撮像した画像データが生成可能となり、撮像部30は、このように生成された画像データ又はイベントデータ(二次元点データ,時間,輝度変化の極性)を計測部40に出力するように構成されている。
【0032】
計測部40は、制御部11により制御されて、投影部20から予め決められた所定の縞パターンが投影されている状態の計測対象物Rを撮像部30により撮像した撮像画像に基づいて、光切断法によりその計測対象物Rの三次元形状を計測するものである。
【0033】
このため、投影部20は、光切断法用の所定の縞パターン(以下、縞パターンPともいう)を投影する。本実施形態における縞パターンPは、第1の方向において輝度が所定の割合で変化しこの第1の方向に直交する第2の方向において輝度が変化しない縞領域が第1の方向に沿って複数配置されるように生成される。具体的には、縞パターンPは、
図2(A)(B)に例示するノコギリ波のように、4つの縞領域Pa~Pdが左右方向(第1の方向)に沿って配置され、各縞領域Pa~Pdは、それぞれ、左右方向(第1の方向)において輝度が左側から右側にかけて一定の割合で増加するように変化し上下方向(第2の方向)において輝度が変化しないように生成される。
図2(B)からわかるように、縞領域ごとに右側の画素ほど発光時間を長くすることで、
図2(A)に示す縞パターンPが生成されて投影される。
【0034】
このように生成された縞パターンPが投影された面を撮像した撮像部30では、同時間帯に出力される負極性のイベントデータから特定される画素の位置を繋げた輝線が縞領域Pa~Pdごとに上下方向にライン状となって、単位時間内で左側から右側にそれぞれ移動するように動画的に撮像される。縞領域の左端に近づくほど暗くなるために発光終了のタイミングが左端に近づくほど早くなり、縞領域の右端に近づくほど明るくなるために発光終了のタイミングが右端に近づくほど遅くなり、上下方向では発光終了のタイミングがほぼ同じになるからである。
【0035】
具体的には、例えば、投影部20により平面に対して縞パターンPの投影を開始してから10μs後に撮像部30にて撮像された状態では、
図3(A)に示すように、各縞領域Pa~Pdの左端近傍にて輝線Sa~Sdがそれぞれ上下方向にライン状となるように撮像される。その後、例えば、20μs後では、
図3(B)に示すように、輝線Sa~Sdが右側に移動するように撮像され、30μs後では、
図3(C)に示すように、輝線Sa~Sdがさらに右側に移動するように撮像される。
【0036】
このようにライン状で移動するように撮像される輝線(負極性のイベントデータから特定される画素の位置を繋げた線)は、光切断法にて用いられるライン状のレーザ光として利用することができる。
【0037】
以下、球面を有する計測対象物Rに対して上述した縞パターンPを投影した際に撮像部30にて撮像される各輝線Sa~Sdを例に、その計測対象物Rの光切断法による三次元形状計測について、
図4(A)~(C)を参照して説明する。なお、
図4(A)~(C)では、便宜上、計測対象物Rを二点鎖線にて図示している。
【0038】
計測対象物Rに対する縞パターンPの撮像直後の縞領域Pb,Pcでは、輝線Sb,Scが、計測対象物Rの形状に応じて変形するように撮像される。そして、撮像開始から10μs後のPb,Pcでは、
図4(A)に示すように、輝線Sb,Scが、計測対象物Rに対してそれぞれ右側に移動しつつその輝線Sb,Scの位置と計測対象物Rの形状との関係に応じて変形するように撮像される。その後も、撮像開始から20μs後及び30μs後のPb,Pcでは、
図4(B)(C)に示すように、輝線Sb,Scが、計測対象物Rに対してさらに右側に移動しつつその輝線Sb,Scの位置と計測対象物Rの形状との関係に応じて変形するように撮像される。その一方で、縞領域Pa,Pdでは、
図4(A)~(C)からわかるように、輝線Sa,Sdは、計測対象物Rに重ならないために、それぞれ上下方向にライン状で右側に移動するように撮像される。
【0039】
このため、計測部40では、上記単位時間内にて計測対象物Rを撮像した際に撮像される各輝線Sa~Sd、すなわち、同時間帯に出力される負極性のイベントデータから特定される画素の位置に基づいて、その計測対象物Rの三次元形状を光切断法により計測することができる。
【0040】
以上説明したように、本実施形態に係る三次元計測装置10では、投影部20が計測対象物Rに対して投影する縞パターンPは、左右方向(第1の方向)において輝度が所定の割合で変化し上下方向(第1の方向に直交する第2の方向)において輝度が変化しない縞領域Pa~Pdが左右方向に沿って複数配置されるように生成される。撮像部30は、受光した際に輝度変化のあった画素に対応して当該画素の位置が特定される二次元点データを含めたイベントデータを出力する撮像素子を備え、計測部40は、単位時間内にて計測対象物Rを撮像した際に同時間帯に出力される負極性のイベントデータから特定される画素の位置に基づいて計測対象物Rの三次元形状を光切断法により計測する。
【0041】
これにより、同時間帯に出力される負極性のイベントデータから特定される画素の位置を繋げた輝線(Sa~Sd)が縞領域(Pa~Pd)ごとに得られるため、投影部20から投影される所定の縞パターンでの縞領域の数が多くなるほど、その縞パターンPを撮像するための撮像時間を短縮することができる。
【0042】
例えば、左右方向に輝度が一定の割合で変化する1つの縞領域のみからなる縞パターンは、右端まで徐々に発光時間を長くするように投影される。このため、その縞パターンを平面に投影して撮像した際の負極性のイベントデータの出力タイミングは、右端ほど遅くなることから(
図5の破線Lb参照)、その縞パターンを撮像するための撮像時間(
図5の符号Tbに相当)が長くなる。その一方で、本実施形態のように4つの縞領域Pa~Pdからなる縞パターンPを撮像した際の負極性のイベントデータの出力タイミングは、4つの縞領域で同時に発生することから(
図5の実線La参照)、上記撮像時間(
図5の符号Taに相当)を1/4に短縮することができる。
【0043】
このように、縞パターンを撮像するための撮像時間、すなわち、三次元計測処理に要する処理時間を短縮することができる結果、イベントデータを利用することでより高速に計測対象物Rの三次元計測を実施することができる。
【0044】
なお、投影部20から投影される光切断法用の所定の縞パターンは、
図2(A)(B)に例示するようなノコギリ波として生成されることに限らず、例えば、
図6(A)(B)に例示するような三角波など、第1の方向において輝度が所定の割合で変化しこの第1の方向に直交する第2の方向において輝度が変化しない縞領域が第1の方向に沿って複数配置されるように生成されてもよい。
【0045】
[第2実施形態]
次に、本発明の第2実施形態に係る三次元計測装置について、図面を参照して説明する。
本第2実施形態では、非透明体及び透明体を区別して光切断法により三次元計測する点が、上記第1実施形態と主に異なる。したがって、第1実施形態と実質的に同一の構成部分には、同一符号を付し、その説明を省略する。
【0046】
撮像部30では、1つの画素に対して非透明体からの光と透明体からの光とが受光されることで、その1つの画素について2つの負極性のイベントデータが出力される場合がある。このような場合、各画素において最も早く出力される最初の負極性のイベントデータが非透明体によるものと透明体によるものとで混在するために、正確な三次元計測の妨げになる場合がある。
【0047】
例えば、
図7に示すように、黒板R1の手前に透明板R2がある計測対象物Rに対して、
図8(A)に示すような三角波の縞パターン(隣り合う縞の輝度変化の割合が明暗について逆にした縞パターン)Pを投影した状態で、上述したように計測対象物Rの三次元形状を光切断法により計測する場合を想定する。なお、黒板R1は、「非透明体」の一例に相当し、透明板R2は、「透明体」の一例に相当し得る。
【0048】
この場合、黒板R1のみを撮像していると、その撮像時に出力される負極性のイベントデータの出力タイミングを縦軸として左右方向(第1の方向)の画素の位置を横軸とする波形(以下、イベント波形ともいう)は、
図8(B)に例示するように生成される。また、透明板R2のみを撮像していると、イベント波形は、
図8(C)に例示するように生成される。そうすると、黒板R1の手前に透明板R2がある計測対象物Rを撮像した際に生成されるイベント波形は、
図8(D)のようになる。なお、
図8及び後述する
図9では、黒板R1の形状に起因して生成されるイベント波形を実線にて示し、透明板R2の形状に起因して生成されるイベント波形を破線にて示している。
【0049】
透明板R2の存在を考慮しない場合、各画素において最も早く出力される最初の負極性のイベントデータを利用して三次元計測を行うことになる。そうすると、
図9(A)に示す太線部分の黒板R1に関するイベント波形部分と透明板R2に関するイベント波形部分とを利用して三次元計測を行うことになるため、
図7のように計測されるべき黒板R1及び透明板R2が、
図9(B)に示すように、黒板R1の一部と透明板R2の一部とが欠損するように計測されてしまう。
【0050】
このため、本実施形態における計測部40は、透明体が非透明体の手前にある計測対象物Rを計測している場合を想定して、上述のように生成されるイベント波形を利用して、同時間帯に出力されるイベントデータから特定される画素の位置に基づいて計測対象物Rの三次元形状を光切断法により計測する。
【0051】
具体的には、計測部40は、撮像時に出力される負極性のイベントデータの出力タイミングを縦軸として左右方向(第1の方向)の画素の位置を横軸とするようにイベント波形を生成する。このイベント波形は、非透明体及び透明体を撮像している画素では、その画素について2つの負極性のイベントデータが出力されるため、
図8(D)に例示するように、非透明体の形状に起因する一方のイベント波形(
図8(D)の実線波形参照)と透明体の形状に起因する他方のイベント波形(
図8(D)の破線波形参照)とが含まれるように生成される。非透明体と透明体とは離れているため、一方のイベント波形と他方のイベント波形とを容易に分離することができる。このため、上述のように生成されたイベント波形から分離される一方のイベント波形と他方のイベント波形とを利用することで、非透明体と透明体とを区別して三次元計測を実施することができる。特に、一般的に、撮像素子は、負極性のイベントデータが出力される直前の明るい状態では、電圧が高い状態で受光しているために、感度が比較的低くなることでノイズの影響が抑制される。このため、負極性のイベントデータの出力タイミングを利用することで、正極性のイベントデータの出力タイミングを利用する場合と比較して、三次元計測に関する計測精度を向上させることができる。
【0052】
[第3実施形態]
次に、本発明の第3実施形態に係る三次元計測装置について、図面を参照して説明する。
本第3実施形態では、2種類の縞パターンを投影することを前提に非透明体及び透明体を区別して光切断法により三次元計測する点が、上記第2実施形態と主に異なる。したがって、第2実施形態と実質的に同一の構成部分には、同一符号を付し、その説明を省略する。
【0053】
上記第2実施形態のように、1度の撮像で画素ごとに出力される2つの負極性のイベントデータを利用する場合、最初の負極性のイベントデータが出力された後に同じ画素で同じ極性のイベントデータが連続して出力される場合等の理由で、本来出力すべきでないイベントデータがノイズとして生じて、正確な三次元計測の妨げになる場合がある。
【0054】
このため、本実施形態では、投影部20は、最初に所定の縞パターンを第1縞パターンP1として投影した後に第1縞パターンP1での所定の割合を明暗について逆にした第2縞パターンP2を投影する。具体的には、例えば、
図10(A)に示すように生成される第1縞パターンP1を投影した後に、
図10(B)に示すように生成される第2縞パターンP2を投影する。
図10(A)(B)に示すように、第2縞パターンP2の縞P2a~P2hは、第1縞パターンP1の縞P1a~P1hをそれぞれ左右反転することで、その左右方向(第1の方向)での輝度の変化割合を明暗について逆にするように生成される。
【0055】
そして、計測部40は、第1縞パターンP1の撮像時に最も早く出力される負極性のイベントデータの出力タイミングを縦軸として第1の方向の画素の位置を横軸とするように生成される第1イベント波形W1を求める。続いて、計測部40は、第2縞パターンP2の撮像時に最も早く出力される負極性のイベントデータの出力タイミングを縦軸として第1の方向の画素の位置を横軸とするように生成される第2イベント波形W2とを求める。そして、計測部40は、上述のように求めた第1イベント波形W1と反転した第2イベント波形W2とを合成した合成波形Wを利用して、同時間帯に出力されるイベントデータから特定される画素の位置に基づいて計測対象物Rの三次元形状を光切断法により計測する。
【0056】
具体的には、例えば、
図7に示すような黒板R1の手前に透明板R2がある計測対象物Rを撮像する場合、
図10(A)に示す第1縞パターンP1の撮像時での第1イベント波形W1は、
図11(A)に示すように生成される。この第1イベント波形W1は、
図11(B)に示すように、黒板R1の一部の形状と透明板R2の一部の形状とに応じて生成される。
【0057】
その後、
図10(B)に示す第2縞パターンP2の撮像時での第2イベント波形W2は、
図11(C)に示すように生成される。この第2イベント波形W2は、
図11(D)に示すように、黒板R1の残部の形状と透明板R2の残部の形状とに応じて生成される。
【0058】
第1イベント波形W1及び第2イベント波形W2は、それぞれ最も早い負極性のイベントデータの出力タイミングに基づいて生成されるため、上述したノイズの影響がない。そして、第2縞パターンP2は、第1縞パターンP1での所定の割合を明暗について逆にしていることから、同じ画素位置での黒板R1と透明板R2との明暗(時間)の大小関係が反転するため、第1縞パターンP1の投影時に2番目に出力されるべき負極性のイベントデータが最も早く出力されることになる。
【0059】
このため、
図12に示すように、第1縞パターンP1の投影時に生成された第1イベント波形W1と第2縞パターンP2の投影時に生成された第2イベント波形W2を反転した波形とを合成した合成波形Wは、非透明体の形状に起因する一方のイベント波形と透明体の形状に起因する他方のイベント波形とが含まれるように生成される。これにより、上述のように生成されたイベント波形から分離される一方のイベント波形と他方のイベント波形とを利用することで、ノイズの影響を抑制しつつ非透明体と透明体とを区別して三次元計測を実施することができる。なお、ノイズが発生しない場合には、
図12にて示す合成波形Wと
図8(D)にて示すイベント波形とは実質的に同じ波形となる。
【0060】
[第4実施形態]
次に、本発明の第4実施形態に係る三次元計測装置について、図面を参照して説明する。
本第4実施形態では、非透明体の縞番号と透明体の縞番号とをそれぞれ正確に特定しつつ非透明体及び透明体を区別して光切断法により三次元計測する点が、上記第2実施形態と主に異なる。したがって、第2実施形態と実質的に同一の構成部分には、同一符号を付し、その説明を省略する。
【0061】
複数の縞領域からなる縞パターンを撮像する場合、どの縞領域を撮像しているか画素ごとに特定する必要があることから、縞領域を他の縞領域と区別する縞番号を特定するため、投影部20は、上記縞パターンを投影して撮像した計測対象物Rに対して、さらに、縞番号特定用パターンを投影する。計測部40は、縞番号特定用パターンを投影した計測対象物Rの撮像時に負極性のイベントデータが出力される出力タイミングに基づいて、縞番号を特定するための縞番号特定処理を行う。なお、縞番号特定処理を行う計測部40は、「縞番号特定手段」の一例に相当し得る。
【0062】
具体的には、例えば、左から縞番号「1」~「4」の4つの縞領域がある縞パターン用の縞番号特定用パターンは、縞番号「1」の縞領域では、
図13(A)に例示するように、投影開始から1msで発光時間を終了し、縞番号「2」の縞領域では、
図13(B)に例示するように、投影開始から2msで発光時間を終了し、縞番号「3」の縞領域では、
図13(C)に例示するように、投影開始から3msで発光時間を終了し、縞番号「4」の縞領域では、
図13(D)に例示するように、投影終了まで発光時間を継続するように投影される。これにより、計測部40にてなされる縞番号特定処理では、例えば、縞番号特定用パターンの投影開始から1ms後に最初の負極性のイベントデータが出力される画素の縞番号は、「1」であると特定でき、投影開始から2ms後に最初に負極性のイベントデータが出力される画素の縞番号は、「2」であると特定することができる。なお、各縞領域に対応する発光時間は、計測対象物R等や計測環境等にあわせて、適宜変更することができる。
【0063】
しかしながら、投影された縞番号特定用パターンの撮像時に、上述のように各画素において最も早く出力される負極性のイベントデータの出力タイミングに基づいて縞番号を特定する構成では、非透明体及び透明体のために2つの負極性のイベントデータが異なるタイミングで出力されることで、誤った縞番号が特定される可能性がある。
【0064】
このため、本実施形態における縞番号特定処理では、縞番号特定用パターンの撮像時に画素単位で2つの負極性のイベントデータが異なるタイミングで出力される場合があることを前提に縞番号を特定する。
【0065】
具体的には、例えば、黒板R1の手前に透明板R2がある計測対象物Rの計測時に、4縞の三角波の縞パターンが投影されることで、黒板R1の形状に起因する一方のイベント波形(
図14の実線波形参照)と透明板R2の形状に起因する他方のイベント波形(
図14の破線波形参照)とが含まれるようにイベント波形が生成された際に、上述した縞番号特定用パターン(
図13(A)~(D)参照)が投影される場合を想定する。
【0066】
この場合、
図14からわかるように、画素G1では、黒板R1と透明板R2とで縞番号が同じ「1」となるため、
図15(A)に示すように、縞番号特定用パターンの投影開始から1ms後に輝度変化が生じたことで、正極性のイベントデータが発生してから1ms後に最初の負極性のイベントデータが出力される。このように、縞番号特定用パターンの撮像時に負極性のイベントデータが1つ出力される場合には、その画素について1つの縞番号が特定されるため、黒板R1と透明板R2とで誤った縞番号が特定されることもない。
【0067】
その一方で、画素G2では、黒板R1の縞番号が「1」であり、透明板R2の縞番号が「2」であるため、
図15(B)に示すように、投影開始から1ms後に1回目の輝度変化が生じたことで1回目の負極性のイベントデータが出力された後、投影開始から2ms後に2回目の輝度変化が生じたことで2回目の負極性のイベントデータが出力される。このように、縞番号特定用パターンの撮像時に1つの画素について2つの負極性のイベントデータが異なるタイミングで出力される場合には、2つの縞番号「1」「2」が候補として特定される。このように、2つの縞番号が候補として特定される場合には、予め想定される計測対象物Rの三次元形状に基づいて、黒板R1の縞番号と透明板R2の縞番号とをそれぞれ特定する。なお、計測対象物Rの三次元形状に関する情報は、予め、制御部11の記憶部等に記憶することができる。
【0068】
すなわち、黒板R1の縞番号が「1」であり透明板R2の縞番号が「2」である場合の計測結果と黒板R1の縞番号が「2」であり透明板R2の縞番号が「1」である場合の計測結果とで、どちらの計測結果が予め想定される計測対象物Rの三次元形状に近いか判定する。上述した例であれば、黒板R1の縞番号が「1」であり透明板R2の縞番号が「2」である場合の計測結果が計測対象物Rの三次元形状により近くなると判定されて、黒板R1の縞番号が「1」、透明板R2の縞番号が「2」と特定される。
【0069】
このように、縞番号特定処理では、縞番号特定用パターンの撮像時に画素単位で2つの負極性のイベントデータが異なるタイミングで出力される場合があることを前提に縞番号を特定することで、最も早く出力される負極性のイベントデータの出力タイミングのみに基づいたために誤って縞番号が特定されることを抑制することができる。そして、非透明体及び透明体を撮像しているために2つの縞番号が特定される画素については、予め想定される計測対象物の三次元形状に基づいて、非透明体の縞番号と透明体の縞番号とをそれぞれ特定することで、非透明体と透明体との縞番号を取り違えることを抑制することができる。
【0070】
[第5実施形態]
次に、本発明の第5実施形態に係る三次元計測装置について、図面を参照して説明する。
本第5実施形態では、2種類の縞番号特定用パターンを投影することを前提に非透明体の縞番号と透明体の縞番号とをそれぞれ正確に特定しつつ非透明体及び透明体を区別して光切断法により三次元計測する点が、上記第4実施形態と主に異なる。したがって、第4実施形態と実質的に同一の構成部分には、同一符号を付し、その説明を省略する。
【0071】
上記第4実施形態のように、1度の撮像で画素ごとに出力される2つの負極性のイベントデータを利用する場合、最初の負極性のイベントデータが出力された後に同じ画素で同じ極性のイベントデータが連続して出力される場合等の理由で、本来出力すべきでないイベントデータがノイズとして生じて、正確な縞番号の特定の妨げになる場合がある。
【0072】
このため、本実施形態では、投影部20は、さらに、縞領域を他の縞領域と区別する縞番号を特定するための第1縞番号特定用パターンPP1と第2縞番号特定用パターンPP2とを投影する。第1縞番号特定用パターンPP1は、左右方向(第1の方向)において輝度が縞領域単位で異なるように所定の段階にて変化し上下方向(第2の方向)において輝度が変化しないように生成されて投影される。そして、第2縞番号特定用パターンPP2は、第1縞番号特定用パターンPP1での所定の段階を明暗について逆にしたように生成されて投影される。
【0073】
具体的には、例えば、第1縞番号特定用パターンPP1が、
図13(A)~(D)のように発光時間が制御されることから、
図16(A)のように生成されて投影される場合には、第2縞番号特定用パターンPP2は、
図16(B)のように生成されて投影される。すなわち、第1縞番号特定用パターンPP1が、縞領域PP1a、縞領域PP1b、縞領域PP1cの順で暗くなるように生成されて投影される場合には、第2縞番号特定用パターンPP2が、縞領域PP1dに相当する縞領域PP2d、縞領域PP1cに相当する縞領域PP2c、縞領域PP1bに相当する縞領域PP2bの順で暗くなるように生成されて投影される。
【0074】
そして、計測部40にてなされる縞番号特定処理では、第1縞番号特定用パターンPP1を投影した計測対象物Rの撮像時に最も早く出力される負極性のイベントデータの出力タイミングと第2縞番号特定用パターンPP2を投影した計測対象物の撮像時に最も早く出力される負極性のイベントデータの出力タイミングとに基づいて縞番号を特定する。
【0075】
具体的には、画素ごとに、第1縞番号特定用パターンPP1の投影時での負極性のイベントデータの出力タイミングから特定される縞番号と、第2縞番号特定用パターンPP2の投影時での負極性のイベントデータの出力タイミングから特定される縞番号とを、それぞれ特定する。その際、第1縞番号特定用パターンPP1の投影時では、左側から縞番号「1」「2」「3」「4」の順で縞番号が特定され、第2縞番号特定用パターンPP2の投影時では、右側から縞番号「4」「3」「2」「1」の順で縞番号が特定される。そして、それぞれ特定される縞番号が一致する場合には、その縞番号が当該画素の縞番号として特定される。
【0076】
その一方で、それぞれ特定される縞番号が異なる画素がある場合には、透明体が非透明体の手前にある計測対象物Rを計測しているとして、上記第4実施形態と同様に、それら2つの縞番号を候補として特定する。例えば、上述した画素G2では、第1縞番号特定用パターンPP1の投影時に縞番号「1」が特定されて、第2縞番号特定用パターンPP2の投影時に縞番号「2」が特定される。第1縞番号特定用パターンPP1の投影時と第2縞番号特定用パターンPP2の投影時とで、特定される縞番号の順が左側からと右側からとで逆になるからである。
【0077】
このように、2つの縞番号が候補として特定される場合には、上述したように、予め想定される計測対象物Rの三次元形状に基づいて、非透明体の縞番号と透明体の縞番号とをそれぞれ特定する。
【0078】
第1縞番号特定用パターンPP1の撮像時に最も早く出力される負極性のイベントデータの出力タイミングと第2縞番号特定用パターンPP2の撮像時に最も早く出力される負極性のイベントデータの出力タイミングとに基づいて縞番号を特定するため、縞番号の特定に関して上述したノイズの影響がない。そして、第2縞番号特定用パターンPP2は、第1縞番号特定用パターンPP1での所定の段階を明暗について逆にしていることから、第1縞番号特定用パターンPP1の投影時に2番目に出力されるべき負極性のイベントデータが最も早く出力されることになる。このため、ノイズの影響を抑制しつつ非透明体と透明体との縞番号を取り違えることを抑制することができる。
【0079】
なお、本発明は上記各実施形態等に限定されるものではなく、例えば、以下のように具体化してもよい。
(1)上述した縞パターンPを構成する縞領域は、4つ設けられることに限らず、2つ又は3つ設けられてもよいし、5つ以上設けられてもよい。同様に、上述した第1縞パターンP1及び第2縞パターンP2を構成する縞領域は、8つ設けられることに限らず、2つ~7つ設けられてもよいし、9つ以上設けられてもよい。この場合、第1縞番号特定用パターンPP1及び第2縞番号特定用パターンPP2などの縞番号特定用パターンは、同数の縞領域を有するように生成することができる。
【0080】
(2)三次元計測装置10は、ロボットのハンドに組み付けられた状態で移動して、相対移動する計測対象物の三次元形状を計測することに限らず、例えば、固定状態で使用されて、搬送ライン上を移動する計測対象物の三次元形状を計測してもよい。
【0081】
(3)三次元計測装置10は、投影部20及び撮像部30と計測部40とが別体となって、計測部40が投影部20及び撮像部30と無線通信又は有線通信可能な情報処理端末として構成されてもよい。
【0082】
(4)上記各実施形態では、負極性のイベントデータの出力タイミングを利用して計測対象物Rの三次元計測を実施しているが、これに限らず、投影部20から投影される所定の縞パターンの輝度変化を適切に調整することを前提に、正極性のイベントデータの出力タイミングを利用して計測対象物Rの三次元計測を実施してもよい。
【0083】
(5)上記各実施形態において投影部20から投影される縞パターンは、
図2及び
図6等に例示するように生成されることに限らず、第1の方向において輝度が所定の割合で変化しこの第1の方向に直交する第2の方向において輝度が変化しない縞領域が第1の方向に沿って複数配置されるように生成されればよい。また、上記所定の割合は、予め設定されていることを前提に、縞領域ごとにことなってもよい。具体的には、上記所定の割合は、全ての画素で発光時間が設定されて、かつ、2以上の画素で同じ発光時間とならないことを前提に、例えば、
図17に例示するように、縞番号「1」(1周期目)で、最初の期間で直線的に増加して次の期間で対数的に増加して最後の期間で直線的に減少し、縞番号「2」(2周期目)で直線的に減少するように設定されてもよい。
【符号の説明】
【0084】
10…三次元計測装置
11…制御部
20…投影部
30…撮像部
40…計測部(縞番号特定手段)
P…縞パターン
P1…第1縞パターン
P2…第2縞パターン
Pa~Pd,P1a~P1h,P2a~P2h…縞領域
PP1…第1縞番号特定用パターン
PP2…第2縞番号特定用パターン
R…計測対象物
R1…黒板(非透明体)
R2…透明板(透明体)
Sa~Sd…輝線
W…合成イベント波形
W1…第1イベント波形
W2…第2イベント波形