IP Force 特許公報掲載プロジェクト 2022.1.31 β版

知財求人 - 知財ポータルサイト「IP Force」

▶ 興和株式会社の特許一覧

<>
  • 特許-把握方法 図1
  • 特許-把握方法 図2
  • 特許-把握方法 図3
  • 特許-把握方法 図4
  • 特許-把握方法 図5
  • 特許-把握方法 図6
  • 特許-把握方法 図7
  • 特許-把握方法 図8
< >
(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B1)
(11)【特許番号】
(24)【登録日】2023-10-13
(45)【発行日】2023-10-23
(54)【発明の名称】把握方法
(51)【国際特許分類】
   G01B 11/00 20060101AFI20231016BHJP
   G06T 7/70 20170101ALI20231016BHJP
【FI】
G01B11/00 C
G01B11/00 H
G06T7/70 Z
【請求項の数】 10
(21)【出願番号】P 2023072312
(22)【出願日】2023-04-26
(62)【分割の表示】P 2023015508の分割
【原出願日】2023-02-03
【審査請求日】2023-04-26
【早期審査対象出願】
(73)【特許権者】
【識別番号】000163006
【氏名又は名称】興和株式会社
(74)【代理人】
【識別番号】100120868
【弁理士】
【氏名又は名称】安彦 元
(72)【発明者】
【氏名】畔上 知久
(72)【発明者】
【氏名】阿部 宏軌
【審査官】仲野 一秀
(56)【参考文献】
【文献】特開2010-282100(JP,A)
【文献】国際公開第2007/148422(WO,A1)
【文献】特開2015-224949(JP,A)
【文献】特開2007-225522(JP,A)
【文献】特開2007-333697(JP,A)
【文献】中国特許出願公開第108106637(CN,A)
(58)【調査した分野】(Int.Cl.,DB名)
G01B 11/00-11/30
G01B 21/00-21/32
G01C 3/00-3/32
G01C 1/00-1/14
5/00-15/14
G02F 1/13
G06T 7/00-7/90
(57)【特許請求の範囲】
【請求項1】
水平に載置される対象物の異なる部分を上方から撮像するために前記対象物が載置される領域の上方に設置された複数のカメラの相対的な関係を把握する握方法であって、
複数のマークとして、2行2列に配列された4つの貫通孔を少なくとも含むマーク群が同一の主面上の2ヶ所以上に形成された基準部材を、前記複数のカメラの各撮像範囲に異なる前記マーク群が収まるように、前記領域に載置する用意ステップと、
前記領域に載置された前記基準部材の異なる前記マーク群を前記複数のカメラにより撮像して、前記4つの貫通孔の画像を少なくともそれぞれ含む複数の撮像画像を取得する取得ステップと、
前記複数の撮像画像、及び前記複数のマークに関する情報に基づき、前記複数のカメラの相対的な関係を示す情報を算出する算出ステップと、
を備える把握方法。
【請求項2】
前記複数のカメラの撮像範囲が、前記基準部材を基準とするグローバル座標上で把握される、請求項1に記載の把握方法。
【請求項3】
前記領域に対象物を載置するステップと、
前記領域に載置された前記対象物の異なる部分を前記複数のカメラにより撮像して、複数の撮像画像を取得するステップと、
をさらに備える、
請求項1又は2に記載の把握方法。
【請求項4】
前記マークに関する情報は、前記基準部材上の前記マークの位置を示す位置情報を含み、
前記相対的な関係を示す情報は、
前記主面に沿う第1方向における、前記カメラの撮像範囲の位置を示す第1位置情報と、
前記第1方向に交わり、前記主面に沿う第2方向における前記撮像範囲の位置を示す第2位置情報と、
前記第1方向、及び前記第2方向に交わる第3方向の中心軸に対し、前記撮像範囲の回転角を示す第3回転情報と、
を含み、
前記算出ステップは、
前記撮像画像に含まれる前記複数のマークに対応する前記位置情報を特定し、
前記撮像画像毎に特定された前記位置情報に基づき、前記第1位置情報、前記第2位置情報、及び前記第3回転情報を、それぞれ前記撮像画像毎に算出する、
請求項1又は2に記載の把握方法。
【請求項5】
前記マークに関する情報は、前記基準部材上の前記複数のマークの位置関係を示す形状情報を含み、
前記相対的な位置関係を示す情報は、
前記主面に沿う第1方向の中心軸に対し、前記カメラの撮像範囲の回転角を示す第1回転情報と、
前記第1方向に交わり、前記主面に沿う第2方向の中心軸に対し、前記撮像範囲の回転角を示す第2回転情報と、
を含み、
前記算出ステップは、
前記撮像画像に含まれる前記複数のマークに対応する前記形状情報を特定し、
前記撮像画像毎に特定された前記形状情報に基づき、前記第1回転情報、及び前記第2回転情報を、それぞれ前記撮像画像毎に算出する、
請求項1又は2に記載の把握方法。
【請求項6】
前記マークに関する情報は、前記基準部材上の互いに近接する前記マーク間の距離を示す距離情報を含み、
前記相対的な位置関係を示す情報は、前記カメラの縮尺を示す縮尺情報を含み、
前記算出ステップは、
前記撮像画像に含まれる前記複数のマークに対応する前記距離情報を特定し、
前記撮像画像毎に特定された前記距離情報に基づき、前記カメラ毎に前記縮尺情報を算出する、
請求項1又は2に記載の把握方法。
【請求項7】
記対象物の前記複数の撮像画像、及び前記相対的な関係を示す情報に基づき、前記対象物における2点間の距離を計測する計測ステップさらに備える、
請求項記載の把握方法。
【請求項8】
前記基準部材の形状は、平棒状を示し、
前記基準部材は、2つの前記マーク群を両端に有し、
前記取得ステップは、2つの前記カメラにより異なる前記マーク群を撮像して得られる2つの前記撮像画像を取得する、
請求項1又は2に記載の把握方法。
【請求項9】
前記2つのカメラの一方のカメラの撮像範囲と更に他のカメラの撮像範囲に、異なる前記マーク群が収まるように、前記一方のカメラと前記更に他のカメラの下方に平棒状の他の前記基準部材を載置するステップと、
前記一方のカメラおよび前記更に他のカメラにより前記他の基準部材の異なるマーク群を撮像して、2つの撮像画像を取得するステップと、
をさらに備える、
請求項8に記載の把握方法。
【請求項10】
前記基準部材の形状は、平板状を示し、
前記基準部材は、4つの前記マーク群を四隅に有し、
前記取得ステップは、4つの前記カメラにより異なる前記マーク群を撮像して得られる4つの前記撮像画像を取得する、
請求項1又は2に記載の把握方法。
【発明の詳細な説明】
【技術分野】
【0001】
この発明は、把握方法に関する。
【背景技術】
【0002】
従来、対象物の異なる部分を撮像するために設置された複数のカメラの相対的な関係を把握する方法として、例えば特許文献1のカメラ設置位置検出装置等が提案されている。
【0003】
特許文献1では、複数のCCDカメラの設置位置を検出するための検出用治具、検出用治具に設けられた検出用マーク、検出用マークがCCDカメラの視野に収まる範囲内で、検出用治具の位置を変位させるテーブル、テーブルより検出用治具を変位させることにより、複数の異なる位置でCCDカメラが撮像した検出用マークに基づいて、CCDカメラの位置を算出するカメラ位置算出部を有するカメラ設置位置検出装置が開示されている。
【先行技術文献】
【特許文献】
【0004】
【文献】特開2010-282100号公報
【発明の概要】
【発明が解決しようとする課題】
【0005】
ここで、特許文献1では、各CCDカメラに対して1つの検出用マークを用いて、CCDカメラの位置を算出することを前提としている。このため、特許文献1の開示技術では、複数のCCDカメラの相対的な関係を高精度に把握することが難しい。
【0006】
そこで本発明は、上述した問題点に鑑みて案出されたものであり、その目的とするところは、複数のカメラの相対的な関係を高精度に把握することができる把握方法を提供することにある。
【課題を解決するための手段】
【0007】
第1発明に係る把握方法は、水平に載置される対象物の異なる部分を上方から撮像するために前記対象物が載置される領域の上方に設置された複数のカメラの相対的な関係を把握する握方法であって、複数のマークとして、2行2列に配列された4つの貫通孔を少なくとも含むマーク群が同一の主面上の2ヶ所以上に形成された基準部材を、前記複数のカメラの各撮像範囲に異なる前記マーク群が収まるように、前記領域に載置する用意ステップと、前記領域に載置された前記基準部材の異なる前記マーク群を前記複数のカメラにより撮像して、前記4つの貫通孔の画像を少なくともそれぞれ含む複数の撮像画像を取得する取得ステップと、前記複数の撮像画像、及び前記複数のマークに関する情報に基づき、前記複数のカメラの相対的な関係を示す情報を算出する算出ステップと、を備える。
【0008】
第2発明に係る把握方法は、第1発明において、前記複数のカメラの撮像範囲が、前記基準部材を基準とするグローバル座標上で把握される。
第3発明に係る把握方法は、第1発明又は第2発明において、前記領域に対象物を載置するステップと、前記領域に載置された前記対象物の異なる部分を前記複数のカメラにより撮像して、複数の撮像画像を取得するステップと、をさらに備える。
第4発明に係る把握方法は、第1発明又は第2発明において、前記マークに関する情報は、前記基準部材上の前記マークの位置を示す位置情報を含み、前記相対的な関係を示す情報は、前記主面に沿う第1方向における、前記カメラの撮像範囲の位置を示す第1位置情報と、前記第1方向に交わり、前記主面に沿う第2方向における前記撮像範囲の位置を示す第2位置情報と、前記第1方向、及び前記第2方向に交わる第3方向の中心軸に対し、前記撮像範囲の回転角を示す第3回転情報と、を含み、前記算出ステップは、前記撮像画像に含まれる前記複数のマークに対応する前記位置情報を特定し、前記撮像画像毎に特定された前記位置情報に基づき、前記第1位置情報、前記第2位置情報、及び前記第3回転情報を、それぞれ前記撮像画像毎に算出する。
【0009】
発明に係る把握方法は、第1発明又は第2発明において、前記マークに関する情報は、前記基準部材上の前記複数のマークの位置関係を示す形状情報を含み、前記相対的な位置関係を示す情報は、前記主面に沿う第1方向の中心軸に対し、前記カメラの撮像範囲の回転角を示す第1回転情報と、前記第1方向に交わり、前記主面に沿う第2方向の中心軸に対し、前記撮像範囲の回転角を示す第2回転情報と、を含み、前記算出ステップは、前記撮像画像に含まれる前記複数のマークに対応する前記形状情報を特定し、前記撮像画像毎に特定された前記形状情報に基づき、前記第1回転情報、及び前記第2回転情報を、それぞれ前記撮像画像毎に算出する。
【0010】
発明に係る把握方法は、第1発明又は第2発明において、前記マークに関する情報は、前記基準部材上の互いに近接する前記マーク間の距離を示す距離情報を含み、前記相対的な位置関係を示す情報は、前記カメラの縮尺を示す縮尺情報を含み、前記算出ステップは、前記撮像画像に含まれる前記複数のマークに対応する前記距離情報を特定し、前記撮像画像毎に特定された前記距離情報に基づき、前記カメラ毎に前記縮尺情報を算出する。
【0012】
発明に係る把握方法は、第明において、前記対象物の前記複数の撮像画像、及び前記相対的な関係を示す情報に基づき、前記対象物における2点間の距離を計測する計測ステップをさらに備える。
【0013】
発明に係る把握方法は、第1発明又は明において、前記基準部材の形状は、平棒状を示し、前記基準部材は、2つの前記マーク群を両端に有し、前記取得ステップは、2つの前記カメラにより異なる前記マーク群を撮像して得られる2つの前記撮像画像を取得する。
第9発明に係る把握方法は、第8発明において、前記2つのカメラの一方のカメラの撮像範囲と更に他のカメラの撮像範囲に、異なる前記マーク群が収まるように、前記一方のカメラと前記更に他のカメラの下方に平棒状の他の前記基準部材を載置するステップと、前記一方のカメラおよび前記更に他のカメラにより前記他の基準部材の異なるマーク群を撮像して、2つの撮像画像を取得するステップと、をさらに備える。
【0014】
10発明に係る把握方法は、第1発明又は明において、前記基準部材の形状は、平板状を示し、前記基準部材は、4つの前記マーク群を四隅に有し、前記取得ステップは、4つの前記カメラにより異なる前記マーク群を撮像して得られる4つの前記撮像画像を取得する。
【発明の効果】
【0019】
第1発明~第10発明によれば、取得ステップは、基準部材の異なるマーク群を複数のカメラにより撮像した複数の撮像画像を取得する。また、算出ステップは、複数の撮像画像、及び複数のマークに関する情報に基づき、複数のカメラの相対的な関係を示す情報を算出する。即ち、マーク群に含まれる複数のマークを用いて、複数のカメラの相対的な関係を示す情報を算出することができる。このため、1つのマークのみを用いた算出方法に比べて、相対的な関係を示す情報を算出する際のパラメータを増やすことができる。これにより、複数のカメラの相対的な関係を高精度に把握することが可能となる。
【0020】
また、第1発明~第1発明によれば、撮像画像には、2行2列に配列された4つの貫通孔の画像が少なくとも含まれる。このため、貫通孔が1列のみに配列された場合に比べて、基準部材を基準として複数のカメラの相対的な関係を示す情報を算出し易くすることができる。これにより、複数のカメラの相対的な関係をさらに高精度に把握することが可能となる。
【0021】
特に、第発明によれば、算出ステップは、撮像画像毎に特定された位置情報に基づき、第1位置情報、第2位置情報、及び第3回転情報を、それぞれ撮像画像毎に算出する。このため、複数のカメラにおける撮像範囲の相対的な位置・姿勢(第1方向及び第2方向におけるカメラの位置、第3方向の軸周りのカメラの傾き)を、容易に把握することができる。これにより、複数のカメラの相対的な関係をさらに高精度に把握することが可能となる。
【0022】
特に、第発明によれば、算出ステップは、撮像画像毎に特定された形状情報に基づき、第1回転情報、及び第2回転情報を、それぞれ撮像画像毎に算出する。このため、複数のカメラにおける撮像範囲の相対的な形状(第1方向及び第2方向の軸周りのカメラの傾き)を、容易に把握することができる。これにより、複数のカメラの相対的な関係をさらに高精度に把握することが可能となる。
【0023】
特に、第発明によれば、算出ステップは、撮像画像毎に特定された距離情報に基づき、カメラ毎に縮尺情報を算出する。このため、複数のカメラにおける相対的な縮尺を、容易に把握することができる。これにより、複数のカメラの相対的な関係をさらに高精度に把握することが可能となる。
【0025】
特に、第発明によれば、計測ステップは、対象物の複数の撮像画像、及び相対的な関係を示す情報に基づき、対象物における2点間の距離を計測する。このため、カメラ毎の僅かな位置補正や角度補正を実施せずに、対象物における2点間の距離を計測することができる。これにより、カメラの微調整に必要な工数を削減することが可能となる。
【0026】
特に、第発明によれば、取得ステップは、2つのカメラにより異なるマーク群を撮像して得られる2つの撮像画像を取得する。このため、平棒状の基準部材を用いて、相対的な関係を示す情報を算出することができる。これにより、基準部材を準備する工数を削減することが可能となる。
【0027】
特に、第10発明によれば、取得ステップは、4つのカメラにより異なるマーク群を撮像して得られる4つの撮像画像を取得する。このため、1つの基準部材により4つのカメラの相対的な関係を示す情報を算出することができる。
【図面の簡単な説明】
【0030】
図1図1(a)及び図1(b)は、第1実施形態における把握方法の一例を示す模式図である。
図2図2は、基準部材の一例を示す模式図である。
図3図3は、第1実施形態における把握方法の一例を示すフローチャートである。
図4図4(a)は、第1実施形態における取得ステップの一例を示す模式図であり、図4(b)は、第1実施形態における算出ステップの一例を示す模式図である。
図5図5(a)及び図5(b)は、第1実施形態における算出ステップの他の例を示す模式図である。
図6図6は、第1実施形態における全相対関係特定ステップの一例を示す模式図である。
図7図7は、第1実施形態における把握方法の変形例を示す模式図である。
図8図8は、参考例における把握方法の一例を示す模式図である。
【発明を実施するための形態】
【0031】
以下、本発明の実施形態としての把握方法、画像処理方法、画像処理プログラム、画像処理装置、及び基準部材の一例について、図面を参照しながら説明する。なお、以下では、基準部材の設置に基づく座標(ワールド座標)、及びカメラの設置に基づく座標(カメラ座標)を用いて説明する。
【0032】
ワールド座標は、基準部材の主面に沿って互いに交わる方向を第1方向Xw及び第2方向Ywとし、第1方向Xw及び第2方向Ywに交わる方向を第3方向Zwとした座標を示し、各方向Xw、Yw、Zwは互いに直交してもよい。また、第1方向Xwを中心軸とした回転を示す第1回転角θx、第2方向Ywを中心軸とした回転を示す第2回転角θy、及び第3方向Zwを中心軸とした回転を示す第3回転角θzを用いて説明する。また、各方向Xw、Yw、Zwは、例えば基準部材の重心を基準点としてもよい。また、第3方向Zwは、例えばカメラから基準部材の向きを正とし、右手系又は左手系の何れかは任意である。
【0033】
カメラ座標は、撮像画像における撮像平面に沿って互いに直交する方向を第1画像方向x、第2画像方向yとし、第1画像方向x及び第2画像方向yに直交し、カメラの光軸方向に一致する方向を第3画像方向zとした座標を示す。また、第1画像方向xを中心軸とした回転を示す第1画像回転角α、第2画像方向yを中心軸とした回転を示す第2画像回転角β、及び第3画像方向zを中心軸とした回転を示す第3画像回転角γを用いて説明する。また、第3画像方向zは、例えばカメラから基準部材の向きを正とし、右手系又は左手系の何れかは任意である。
【0034】
(第1実施形態:把握方法)
図1(a)及び図1(b)は、第1実施形態における把握方法の一例を示す模式図である。図1(a)に示すように、本実施形態では、水平に載置される対象物2の上方に、複数のカメラ11、12(以下、「カメラ1」と称する)が設置されている。本実施形態における把握方法は、対象物2の異なる部分を撮像するために設置された複数のカメラ1の相対的な関係を把握するために用いられる。把握方法を実施することで、例えばカメラ1毎の配置を微調整することなく、対象物2における任意の2点2a、2b間の距離dabを計測することが可能となる。上記に加え、把握方法を実施することで、対象物2の寸法や、位置姿勢情報(水平面内における基準位置に対する位置ずれや傾き)を取得することができる。また、把握方法により算出された相対的な関係を示す情報は、対象物2の搬送等に用いるロボット座標系と関連付けることができるため、例えばビジュアルフィードバックによるロボットのハンド位置補正等のような、ロボットの制御に用いることができる。
【0035】
相対的な関係は、例えば複数のカメラ1における撮像範囲Iの相対的な位置や形状(傾き)のほか、複数のカメラ1における相対的な縮尺等を示す。相対的な関係は、ワールド座標に基づき表現されるほか、例えば特定のカメラ1におけるカメラ座標や、カメラ座標に紐づく画像座標に基づき表現されてもよい。
【0036】
対象物2は、例えばプリント基板のような絶縁体基材や、鋼板等の公知の平板状部材を示し、用途に応じて任意に設定できる。カメラ1は、CCDカメラ等の公知の撮像装置を用いることができる。カメラ1は、対象物2の全体を撮像する従来の撮像装置に比べ、安価で低解像度の撮像装置が用いられ得る。
【0037】
<基準部材S>
把握方法は、例えば図2に示すような基準部材Sを用いて、複数のカメラ1の相対的な関係を示す情報を算出する。基準部材Sは、例えば主面を有する平板状の部材を示す。基準部材Sとして、例えば長辺と短辺を有する平棒状の部材が用いられる。基準部材Sの大きさは任意であり、例えば対象物2と同等の大きさを示す。なお、基準部材Sの重心Gは、例えばグローバル座標系の基準点として設定される。
【0038】
<<マーク群F>>
基準部材Sは、複数のマークfを含むマーク群Fを有する。マーク群Fは、基準部材Sにおける同一の主面上の2ヶ所以上に形成される(図2では2つのマーク群F1、F2)。マーク群Fに含まれる複数のマークfは、例えば距離Pの間隔で配列される。マーク群Fは、例えば基準部材Sの両端、又は角C近傍に形成される。
【0039】
マーク群Fは、例えば2行2列に配列された4つのマークfを少なくとも含む。ここで、「2行2列に配列」とは、例えば第1方向Xwに沿って形成された2つのマークfの組が、第2方向Ywに沿って2組形成された状態を示す。
【0040】
なお、マークfの配列は、図2のように格子状に配列されるほか、例えば千鳥格子状等に配列されてもよく、用途に応じて任意に設定することができる。そのため、近接するマークf間の距離Pは、第1方向Xwに沿った距離、及び第2方向Ywに沿った距離を示すほか、第1方向Xw及び第2方向Ywに交わる方向に沿った距離を示してもよい。また、距離Pは、近接するマークf毎に異なってもよく、用途に応じて任意に設定することができる。
【0041】
マークfは、例えば直径dの貫通孔であるほか、溝(貫通していない穴)、凸部、印刷画像、シール画像等のように、撮像時に認識できる形態であれば任意である。特に、マークfとして貫通孔が用いられる場合、基準部材Sに対して高精度な貫通孔を加工することができるため、検出精度を向上させることが可能となる。
【0042】
把握方法は、例えば図3に示すように、用意ステップS110と、取得ステップS120と、算出ステップS130とを備え、例えば全相対関係特定ステップS140を備えてもよいほか、撮像ステップS150及び計測ステップS160を備えてもよい。
【0043】
<用意ステップS110>
用意ステップS110は、基準部材Sを用意する。用意ステップS110は、例えば予め設置された複数のカメラ1の想定される撮像範囲Iに、基準部材Sのマーク群Fを設置する。なお、基準部材Sは水平に設置される。
【0044】
<取得ステップS120>
取得ステップS120は、基準部材Sの異なるマーク群Fを複数のカメラ1により撮像して、複数の撮像画像Dを取得する。例えば図4(a)に示すように、取得ステップS120は、2つのカメラ1により撮像して得られた第1撮像画像D1、及び第2撮像画像D2を取得する。第1撮像画像D1には、基準部材Sの一方の端部に形成された第1マーク群F1の画像が含まれる。第2撮像画像D2には、基準部材Sの他方の端部に形成された第2マーク群F2の画像が含まれる。なお、「撮像画像D」は、カメラ1を用いて撮像された画像のデジタルデータ(画像データ)を示す。
【0045】
<算出ステップS130>
算出ステップS130は、複数の撮像画像D、及び複数のマークfに関する情報に基づき、複数のカメラ1の相対的な関係を示す情報を算出する。算出ステップS130は、例えばOpenCV(Open Source Computer Vision)ライブラリに実装される公知の関数を利用することで、実現することができる。
【0046】
算出ステップS130では、例えばマークfに関する情報として、基準部材Sの重心Gを基準点としたワールド座標におけるマークfの位置が用いられる。この場合、算出ステップS130は、撮像画像Dに撮像された複数のマークfに対し、カメラ座標に紐づく画像座標における位置を導出する。そして、算出ステップS130は、ワールド座標におけるマークfの位置、及び画像座標におけるマークfの位置に基づき、カメラ1毎に対応するカメラ行列を求める。なお、上述したカメラ行列の求め方として、公知の方法を用いることができる。
【0047】
算出ステップS130は、上述した複数のカメラ1に対応するカメラ行列を比較し、相対的な関係を示す情報として算出するほか、例えばカメラ行列を用いて、下記の少なくとも何れかを、相対的な関係を示す情報として算出してもよい。
【0048】
<<第1位置情報、第2位置情報、第3回転情報>>
例えばマークfに関する情報は、基準部材S上のマークfの位置を示す位置情報を含む。位置情報は、互いに隣接するマークf間の距離P(後述する距離情報)、及びマークfの数を含む。位置情報は、例えば基準部材Sの重心Gを基準点としたマークfの位置、基準部材Sの長辺、及び基準部材Sの短辺の少なくとも何れかを含んでもよい。
【0049】
マークfに関する情報が位置情報を含む場合、算出ステップS130は、第1位置情報、第2位置情報、及び第3回転情報の少なくとも何れかを、複数のカメラ1の相対的な関係を示す情報として算出することができる。これにより、例えば図4(b)に示すように、基準部材Sを基準とした複数の撮像範囲Iの相対的な位置を、容易に把握することができる。
【0050】
第1位置情報は、第1方向Xwにおける撮像範囲Iの位置を示す。第2位置情報は、第2方向Ywにおける撮像範囲Iの位置を示す。第3回転情報は、撮像範囲Iの第3回転角θzの大きさを示す。なお、第1位置情報、及び第2位置情報は、撮像範囲Iの中心位置を示すほか、例えば撮像範囲Iの対象となる範囲を示してもよい。
【0051】
例えば図4(b)に示す撮像範囲I1、I2を算出する場合、算出ステップS130は、撮像画像D1、D2に含まれる複数のマークfに対応する位置情報を特定する。そして、算出ステップS130は、撮像画像D1、D2毎に特定された位置情報に基づき、第1位置情報、第2位置情報、及び第3回転情報を、それぞれ撮像画像D1、D2毎に算出する。これにより、撮像画像D1、D2に対応する撮像範囲I1、I2と、基準部材Sとの位置関係を示すための情報を算出することができ、例えば図4(b)に示すように、基準部材Sの重心Gを基準点としたグローバル座標上に、撮像画像D1、D2に対応する撮像範囲I1、I2の相対的な位置を表現することができる。なお、図4(b)の相対関係を導く際の位置情報の一例は、下記の通りである。
基準部材Sの長辺:300mm
基準部材Sの短辺:30mm
マークf間の距離P:15mm
マークfの数:16(4行2列のマーク群Fが2つ)
横軸(第1方向Xw)、縦軸(第2方向Yw)の単位:mm
【0052】
<<第1回転情報、第2回転情報>>
例えばマークfに関する情報は、基準部材S上の複数のマークfの位置関係を示す形状情報を含む。形状情報は、例えば複数のマークfを頂点と見做した形(例えば長方形、正方形、三角形等)を示し、例えば複数のマークfの位置情報より算出され得る。形状情報は、例えばマークf毎の形(例えば孔状、円形状、矩形状等)を示してもよい。形状情報として、公知の画像認識技術により認識できる程度のであれば任意である。
【0053】
マークfに関する情報が形状情報を含む場合、算出ステップS130は、第1回転情報、及び第2回転情報の少なくとも何れかを、複数のカメラ1の相対的な関係を示す情報として算出することができる。これにより、複数のカメラ1における撮像範囲Iの相対的な形状(つまり、第1方向Xw周り及び第2方向Yw周りのカメラ1の傾き)を、容易に把握することができる。
【0054】
第1回転情報は、撮像範囲Iの第1回転角θxの大きさを示す。第2回転情報は、撮像範囲Iの第2回転角θyの大きさを示す。
【0055】
例えば算出ステップS130は、撮像画像Dに含まれる複数のマークfに対応する形状情報を特定する。そして、算出ステップS130は、撮像画像D毎に特定された形状情報に基づき、第1回転情報、及び第2回転情報を、それぞれ撮像画像D毎に算出する。これにより、撮像画像Dに対応する撮像範囲Iの相対的な形状(カメラ1の傾き)を示すための情報を算出することができる。
【0056】
例えば形状情報として、2行2列に配列された4つのマークfが正方形をなす情報が用いられる場合、撮像画像Dに含まれる4つのマークfが正方形をなしていれば、カメラ1が第1方向Xw及び第2方向Yw周りに傾いていないと推定することができる。他方、撮像画像Dに含まれる4つのマークfが正方形以外(例えば台形)をなしていれば、カメラ1が第1方向Xw及び第2方向Yw周りの少なくとも何れかに傾いており、撮像範囲Iの形状が理想的な形状とは異なると推定することができる。なお、撮像範囲Iの形状の導出は、例えばホモグラフィー変換等の公知の座標変換方法を用いることができる。
【0057】
なお、マークfに関する情報として、形状情報に加えて位置情報を用いた場合、例えば図5(a)に示すように、基準部材Sの重心Gを基準としたグローバル座標上に、撮像画像D1、D2に対応する撮像範囲I1、I2の相対的な位置及び形状を表現することができる。
【0058】
<<縮尺情報>>
例えばマークfに関する情報は、基準部材S上の互いに近接するマークf間の距離Pを示す距離情報を含む。マークfに関する情報が距離情報を含む場合、算出ステップS130は、カメラ1の縮尺を示す縮尺情報を、複数のカメラ1の相対的な関係を示す情報として算出することができる。これにより、複数のカメラ1における相対的な縮尺を、容易に把握することができる。
【0059】
縮尺情報は、例えばカメラ1の作動距離(WD:Working Distance)、焦点距離、及び画素ピッチに関する情報を含む。
【0060】
例えば算出ステップS130は、撮像画像Dに含まれる複数のマークfに対応する距離情報を特定する。そして、算出ステップS130は、撮像画像D毎に特定された距離情報に基づき、カメラ1毎に縮尺情報を算出する。これにより、撮像画像Dに対応するカメラ1の相対的な縮尺を示すための情報を算出することができる。
【0061】
なお、マークfに関する情報として、距離情報に加えて位置情報及び形状情報を用いた場合、例えば図5(b)に示すように、基準部材Sの重心Gを基準としたグローバル座標上に、撮像画像D1、D2に対応する撮像範囲I1、I2の相対的な位置、形状及び大きさを表現することができる。図5(b)では、撮像範囲I1に対応するカメラ1の作動距離が、撮像範囲I2に対応するカメラ1の作動距離よりも短い点が反映されており、撮像範囲I1の面積は、撮像範囲I2の面積よりも小さい。
【0062】
<全相対関係特定ステップS140>
例えば全相対関係特定ステップS140は、相対的な関係を示す情報が算出されたカメラ1を用いて、他の基準部材Sを撮像し、他の基準部材Sの配置状態を特定する。全相対関係特定ステップS140では、例えば図6に示すように、用意ステップS110、取得ステップS120及び算出ステップS130で用いた基準部材S(第1基準部材S1)の重心G1を基準点としたワールド座標において、他の基準部材S(第2基準部材S2)の位置を特定することができる。基準部材S2は、相対的な関係を示す情報が算出されたカメラ1に対応する撮像範囲I2と、相対的な関係を示す情報が算出されていないカメラ1に対応する撮像範囲I3との間に設置される。
【0063】
全相対関係特定ステップS140は、撮像範囲I2に含まれる複数のマークf(例えばf21、f22)を撮像し、撮像画像Dを取得する。この際、撮像範囲I2に対応するカメラ1の相対的な関係を示す情報は、算出ステップS130において算出済みである。
【0064】
そして、全相対関係特定ステップS140は、撮像されたマークf21、f22に対し、カメラ座標に紐づく画像座標における位置を導出する。そして、全相対関係特定ステップS140は、例えばカメラ行列に基づき、マークf21、f22の画像座標における位置を、ワールド座標における位置に変換する。この際、予め設定されたマークf21と、第2基準部材S2の重心G2との位置関係に基づき、重心G2のワールド座標における位置を導出することができる。そして、全相対関係特定ステップS140は、例えばマークf21からマークf22までのベクトルに基づき、基準部材S1に対して基準部材S2の設置された第3回転角θzを特定する。
【0065】
なお、全相対関係特定ステップS140のあと、例えば基準部材S2を用いて取得ステップS120及び算出ステップS130を実施することで、撮像範囲I2、I3に対応するカメラ1の相対的な関係を示す情報を算出することができる。これにより、撮像範囲I1~I3に対応するカメラ1の相対的な関係を示す情報を算出することができる。この際、第1基準部材S1の重心G1を基準点としたワールド座標を用いるほか、第2基準部材S2の重心G2を基準点としたワールド座標を用いて、カメラ1の相対的な関係を示す情報を算出してもよい。
【0066】
また、第3基準部材S3又は第4基準部材S4を用いて、全相対関係特定ステップS140、取得ステップS120、及び算出ステップS130を実施することで、撮像範囲I1~I4に対応するカメラ1の相対的な関係を示す情報を算出することができる。なお、第3基準部材S3を使用する場合(第1基準部材S1→撮像範囲I1→撮像範囲I2→第2基準部材S2→撮像範囲I3→第3基準部材S3→撮像範囲I4)と比較して、第4基準部材S4を使用する場合(第1基準部材S1→撮像範囲I2→第2基準部材S2→撮像範囲I3、第1基準部材S1→撮像範囲I1→第4基準部材S4→撮像範囲I4)の方が、誤差が少なく好ましい。
【0067】
<撮像ステップS150、計測ステップS160>
例えば算出ステップS130で求めた相対的な関係を示す情報に基づき、撮像ステップS150及び計測ステップS160を実施し、対象物2における2点間の距離を計測してもよい。この場合、例えば図1(a)及び図1(b)に示すように、計測対象とする計測位置2a、2bが撮像範囲Iに含まれることで、容易に計測を実施することが可能となる。
【0068】
撮像ステップS150は、複数のカメラ1により対象物2の異なる部分を撮像して、複数の撮像画像Dを取得する。例えば図1(a)及び図1(b)では、対象物2の異なる部分として、2つの計測位置2a、2bを示す。
【0069】
計測ステップS160は、対象物2の複数の撮像画像D、及び相対的な関係を示す情報に基づき、対象物2における2点間の距離を計測する。例えば相対的な関係を示す情報として、図1(a)に示す撮像範囲I1、I2の相対的な位置を示す情報が用いられた場合、計測ステップS160では、撮像範囲I1、I2に含まれる計測位置2a、2bのワールド座標における位置を特定することができる。これにより、計測ステップS160では、計測位置2a、2bの間の距離dabを求めることができる。
【0070】
上述した各ステップS110~S160を経て、把握方法が終了する。なお、画像処理方法では、上述した各ステップS110~S160の実施回数や、実施するタイミングは、任意に設定することができる。
【0071】
本実施形態によれば、取得ステップS120は、基準部材Sの異なるマーク群Fを複数のカメラ1により撮像した複数の撮像画像Dを取得する。また、算出ステップS130は、複数の撮像画像D、及び複数のマークfに関する情報に基づき、複数のカメラ1の相対的な関係を示す情報を算出する。即ち、マーク群Fに含まれる複数のマークfを用いて、複数のカメラ1の相対的な関係を示す情報を算出することができる。このため、1つのマークのみを用いた算出方法に比べて、相対的な関係を示す情報を算出する際のパラメータを増やすことができる。これにより、複数のカメラ1の相対的な関係を高精度に把握することが可能となる。
【0072】
また、本実施形態によれば、撮像画像Dには、2行2列に配列された4つのマークfの画像が少なくとも含まれる。このため、マークが1列のみに配列された場合に比べて、基準部材Sを基準として複数のカメラ1の相対的な関係を示す情報を算出し易くすることができる。これにより、複数のカメラ1の相対的な関係をさらに高精度に把握することが可能となる。
【0073】
また、本実施形態によれば、算出ステップS130は、撮像画像D毎に特定された位置情報に基づき、第1位置情報、第2位置情報、及び第3回転情報を、それぞれ撮像画像D毎に算出する。このため、複数のカメラ1における撮像範囲Iの相対的な位置・姿勢(第1方向Xw及び第2方向Ywにおけるカメラ1の位置、第3方向Zwの軸周りのカメラ1の傾き)を、容易に把握することができる。これにより、複数のカメラ1の相対的な関係をさらに高精度に把握することが可能となる。
【0074】
また、本実施形態によれば、算出ステップS130は、撮像画像D毎に特定された形状情報に基づき、第1回転情報、及び第2回転情報を、それぞれ撮像画像D毎に算出する。このため、複数のカメラ1における撮像範囲Iの相対的な形状(第1方向Xw及び第2方向Ywの軸周りのカメラ1の傾き)を、容易に把握することができる。これにより、複数のカメラ1の相対的な関係をさらに高精度に把握することが可能となる。
【0075】
また、本実施形態によれば、算出ステップS130は、撮像画像D毎に特定された距離情報に基づき、カメラ1毎に縮尺情報を算出する。このため、複数のカメラ1における相対的な縮尺を、容易に把握することができる。これにより、複数のカメラ1の相対的な関係をさらに高精度に把握することが可能となる。
【0076】
また、本実施形態によれば、全相対関係特定ステップS140は、相対的な関係を示す情報が算出されたカメラ1を用いて、他の基準部材Sを撮像し、他の基準部材Sの配置状態を特定する。このため、カメラ1毎の僅かな位置補正や角度補正を実施せずに、他の基準部材Sの配置状態を特定することができる。これにより、カメラ1の微調整に必要な工数を削減することが可能となる。
【0077】
また、本実施形態によれば、計測ステップS160は、対象物2の複数の撮像画像D、及び相対的な関係を示す情報に基づき、対象物2における2点間の距離を計測する。このため、カメラ1毎の僅かな位置補正や角度補正を実施せずに、対象物2における2点間の距離を計測することができる。これにより、カメラ1の微調整に必要な工数を削減することが可能となる。
【0078】
また、本実施形態によれば、取得ステップS120は、2つのカメラ1により異なるマーク群Fを撮像して得られる2つの撮像画像Dを取得する。このため、平棒状の基準部材Sを用いて、相対的な関係を示す情報を算出することができる。これにより、基準部材Sを準備する工数を削減することが可能となる。
【0079】
(第1実施形態:把握方法の変形例)
次に、本実施形態における把握方法の変形例について説明する。上述した実施形態と、変形例との違いは、1つの基準部材Sにより4つのカメラ1の関係を把握する点である。なお、上述した実施形態と同様の内容については、説明を省略する。
【0080】
本変形例における把握方法では、例えば図7に示すように、平板状の基準部材Sが用いられる。基準部材Sは、4つのマーク群F1~F4を四隅(例えば4つの角C1~C4近傍)に有し、各マーク群F1~F4は、3行3列に配列された9個のマークfをそれぞれ有する。基準部材Sの主面は、例えば撮像範囲Iよりも大きい面積を有する。なお、「角C近傍」とは、重心Gよりも角Cに近い位置を示す。
【0081】
取得ステップS120は、4つのカメラ1により異なるマーク群Fを撮像して得られる4つの撮像画像Dを取得する。例えば図7に示すように、4つのマーク群F1~F4は、それぞれ異なる撮像範囲I1~I4に含まれる。この場合、例えば角Cが、撮像範囲Iに含まれてもよい。また、各撮像範囲I1~I4は、例えば理想とする撮像範囲E1~E4とは異なる範囲を示してもよい。
【0082】
そして、算出ステップS130は、4つの撮像画像D、及びマークfに関する情報に基づき、4つのカメラ1の相対的な関係を示す情報を算出する。算出ステップS130は、上述した内容と同様の方法を用いることができる。
【0083】
本変形例によれば、取得ステップS120は、4つのカメラ1により異なるマーク群Fを撮像して得られる4つの撮像画像Dを取得する。このため、1つの基準部材Sにより4つのカメラ1の相対的な関係を示す情報を算出することができる。
【0084】
(実施形態:画像処理方法)
本実施形態における画像処理方法は、上述した取得ステップS120と、算出ステップS130とを備え、例えば全相対関係特定ステップS140を備えてもよく、例えば撮像ステップS150、及び計測ステップS160を備えてもよい。
【0085】
本実施形態における画像処理方法よれば、上述した把握方法と同様に、1つのマークのみを用いた算出方法に比べて、相対的な関係を示す情報を算出する際のパラメータを増やすことができる。これにより、複数のカメラ1の相対的な関係を高精度に把握することが可能となる。
【0086】
(実施形態:画像処理装置)
本実施形態における画像処理装置は、取得部と、算出部とを備え、例えば全相対関係特定部、及び計測部の少なくとも何れかを備えてもよい。取得部は、上述した実施形態における取得ステップS120を実施することができる。算出部は、上述した実施形態における算出ステップS130を実施することができる。全相対関係特定部は、上述した実施形態における全相対関係特定ステップS140を実施することができる。計測部は、上述した実施形態における撮像ステップS150及び計測ステップS160を実施することができる。
【0087】
画像処理装置は、例えばパーソナルコンピュータや、携帯端末等の公知の電子機器を示し、例えばユーザの操作に基づき、通信網を介して通信可能な電子機器を示す。画像処理装置は、例えばCPU(Central Processing Unit)と、ROM(Read Only Memory)と、RAM(Random Access Memory)と、記憶部とを含む。CPUは、画像処理装置全体を制御する。ROMは、CPUの動作コードを格納する。RAMは、CPUの動作時に使用される作業領域である。記憶部には、複数のマークfに関する情報や関数等の各種情報が記憶される。記憶部として、例えばHDD(Hard Disk Drive)のほか、SSD(Solid State Drive)等のデータ保存装置が用いられる。取得部及び算出部は、例えばCPUが、RAMを作業領域として、保存部等に記憶されたプログラムを実行することにより実現される。
【0088】
本実施形態における画像処理装置よれば、上述した把握方法と同様に、取得部は、基準部材Sの異なるマーク群Fを複数のカメラ1により撮像した複数の撮像画像Dを取得する。また、算出部は、複数の撮像画像D、及び複数のマークfに関する情報に基づき、複数のカメラ1の相対的な関係を示す情報を算出する。即ち、マーク群Fに含まれる複数のマークfを用いて、複数のカメラ1の相対的な関係を示す情報を算出することができる。このため、1つのマークのみを用いた算出方法に比べて、相対的な関係を示す情報を算出する際のパラメータを増やすことができる。これにより、複数のカメラ1の相対的な関係を高精度に把握することが可能となる。
【0089】
(実施形態:画像処理プログラム)
本実施形態における画像処理プログラムは、上述した取得ステップS120、及び算出ステップS130等を、コンピュータに実行させるためのプログラムを示す。画像処理プログラムは、例えば上述した画像処理装置の記憶部等に記憶される。
【0090】
本実施形態における画像処理プログラムによれば、上述した把握方法と同様に、1つのマークのみを用いた算出方法に比べて、相対的な関係を示す情報を算出する際のパラメータを増やすことができる。これにより、複数のカメラ1の相対的な関係を高精度に把握することが可能となる。
【0091】
(実施形態:基準部材S)
本実施形態における基準部材Sは、対象物2の異なる部分を撮像するために設置された複数のカメラ1の相対的な関係を把握するために用いられる。基準部材Sは、複数のマークfからなるマーク群Fが同一の主面上の2ヶ所以上に形成されている。基準部材Sは、上述した把握方法、画像処理方法、画像処理装置、及び画像処理プログラムの少なくとも何れかに用いることができる。
【0092】
本実施形態によれば、基準部材Sは、複数のマークfからなるマーク群Fが同一の主面上の2ヶ所以上に形成されている。即ち、マーク群Fに含まれる複数のマークfを用いて、複数のカメラ1の相対的な関係を示す情報を算出することができる。このため、1つのマークのみを用いた算出方法に比べて、相対的な関係を示す情報を算出する際のパラメータを増やすことができる。これにより、複数のカメラ1の相対的な関係を高精度に把握することが可能となる。
【0093】
(参考例:把握方法)
次に、参考例における把握方法の一例について説明する。上述した実施形態と、参考例との違いは、基準部材Sの角Cの変動度合に基づき、相対的な関係を示す情報を算出する点である。なお、参考例の基準部材Sは、不図示の移動機構により水平面内(第1方向Xw及び第2方向Yw)で移動可能に構成されており、基準部材Sにはマークが設けられていない。上述した実施形態と同様の内容については、説明を省略する。
【0094】
取得ステップS120は、例えば図8に示すように、予め設定された移動量Tに基づく移動前における基準部材Sfの角Cf、及び移動後における基準部材Ssの角Csを撮像対象として、複数のカメラ1を用いて撮像した複数の撮像画像Dを取得する。例えば4つのカメラ1を用いて取得ステップS120を実施した場合、撮像範囲I1~I4には、それぞれ異なる移動前の角Cf1~Cf4、及び移動後の角Cs1~Cs4が含まれるように、用意ステップS110において基準部材Sを設置する。これにより、撮像範囲I1~I4において撮像された複数の撮像画像Dを用いて、基準部材Sの移動前後における配置の違いを認識させることができる。
【0095】
移動量Tは、例えば移動前後における第1方向Xw及び第2方向Ywの変化量を示すほか、例えば移動前における角Cfの位置、及び移動後における角Csの位置を示してもよい。移動量Tは、例えば角Cの移動軌跡を示してもよい。なお、移動量Tは、例えば角C毎に異なる場合もあり、任意に設定することができる。
【0096】
取得ステップS120は、例えば複数回実施してもよい。即ち、基準部材Sの移動と角Csの撮像とが繰り返されることにより、1つの撮像範囲Iにおいて、3つ以上の撮像画像Dが撮像されてもよい。これにより、算出ステップS130において算出される相対的な関係を示す情報の精度を向上させることが可能となる。
【0097】
算出ステップS130は、複数の撮像画像D、及び移動量Tに関する移動情報に基づき、複数のカメラ1の相対的な関係を示す情報を算出する。算出ステップS130は、例えば上記と同様に、OpenCVライブラリに実装される公知の関数を利用することで、実現することができる。
【0098】
参考例によれば、取得ステップS120は、移動量Tに基づく移動前における基準部材Sfの角Cf、及び移動後における基準部材Ssの角Csを撮像対象として、複数のカメラ1を用いて撮像した複数の撮像画像Dを取得する。また、算出ステップS130は、複数の撮像画像D、及び移動量Tに基づき、複数のカメラ1の相対的な関係を示す情報を算出する。このため、撮像画像Dに含まれる移動前後の角Cf、Csにおける位置関係、及び移動量Tを用いて、複数のカメラ1の相対的な関係を示す情報を算出することができる。これにより、複数のカメラ1の相対的な関係を高精度に把握することが可能となる。
【0099】
本発明のいくつかの実施形態を説明したが、これらの実施形態は、例として提示したものであり、発明の範囲を限定することは意図していない。これら新規な実施形態は、その他の様々な形態で実施されることが可能であり、発明の要旨を逸脱しない範囲で、種々の省略、置き換え、変更を行うことができる。これら実施形態やその変形は、発明の範囲や要旨に含まれるとともに、特許請求の範囲に記載された発明とその均等の範囲に含まれる。
【符号の説明】
【0100】
1、11、12:カメラ
2 :対象物
C :角
D :撮像画像
E :理想とする撮像範囲
F :マーク群
G :重心
I :撮像範囲
P :距離
S :基準部材
S110 :用意ステップ
S120 :取得ステップ
S130 :算出ステップ
S140 :全相対関係特定ステップ
S150 :撮像ステップ
S160 :計測ステップ
T :移動量
Xw :第1方向
Yw :第2方向
Zw :第3方向
θx :第1回転角
θy :第2回転角
θz :第3回転角
dab :距離
f :マーク
x :第1画像方向
y :第2画像方向
z :第3画像方向
α :第1画像回転角
β :第2画像回転角
γ :第3画像回転角
【要約】
【課題】複数のカメラの相対的な関係を高精度に把握することができる把握方法、画像処理方法、画像処理プログラム、画像処理装置、及び基準部材を提供する。
【解決手段】対象物2の異なる部分を撮像するために設置された複数のカメラ1の相対的な関係を把握するための把握方法であって、用意ステップと、取得ステップと、算出ステップと、を備える。前記用意ステップは、複数のマークとして、2行2列に配列された4つの貫通孔を少なくとも含むマーク群が同一の主面上の2ヶ所以上に形成された基準部材を用意する。前記取得ステップは、前記基準部材の異なる前記マーク群を前記複数のカメラ1により撮像して、前記4つの貫通孔の画像を少なくともそれぞれ含む複数の撮像画像Dを取得する。前記算出ステップは、前記複数の撮像画像D、及び前記複数のマークに関する情報に基づき、前記複数のカメラの相対的な関係を示す情報を算出する。
【選択図】図1
図1
図2
図3
図4
図5
図6
図7
図8