(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公開特許公報(A)
(11)【公開番号】P2024135773
(43)【公開日】2024-10-04
(54)【発明の名称】情報生成システム
(51)【国際特許分類】
G06K 7/14 20060101AFI20240927BHJP
G01B 11/00 20060101ALI20240927BHJP
B25J 13/08 20060101ALI20240927BHJP
B65G 1/00 20060101ALN20240927BHJP
【FI】
G06K7/14 021
G01B11/00 H
B25J13/08 A
B65G1/00 501C
【審査請求】未請求
【請求項の数】18
【出願形態】OL
(21)【出願番号】P 2023046635
(22)【出願日】2023-03-23
(71)【出願人】
【識別番号】315014671
【氏名又は名称】東京ロボティクス株式会社
(74)【代理人】
【識別番号】100098899
【弁理士】
【氏名又は名称】飯塚 信市
(74)【代理人】
【識別番号】100163865
【弁理士】
【氏名又は名称】飯塚 健
(72)【発明者】
【氏名】岡 弘之
【テーマコード(参考)】
2F065
3C707
3F022
【Fターム(参考)】
2F065AA04
2F065BB27
2F065FF04
2F065JJ03
2F065JJ26
3C707AS02
3C707BS10
3C707CS08
3C707DS01
3C707KS06
3C707KS10
3C707KT01
3C707KT05
3C707KT11
3C707KV11
3C707KX07
3C707LV19
3C707WA16
3F022EE05
3F022EE09
3F022FF01
3F022JJ11
3F022LL07
3F022LL38
3F022NN12
3F022PP02
3F022QQ17
(57)【要約】 (修正有)
【課題】撮像装置を用いて読み取り可能なマーカ及び該マーカを用いた情報生成システムを提供する。
【解決手段】2種以上の要素図形を含み、棚5に取り付けられ、所定個数単位で所定の情報をコードする1次元マーカ55と、個数単位以上の要素図形を撮像することにより画像を生成するカメラ21と、生成した画像に基づいてマーカをデコードしてデコード情報を生成する情報生成部と、を備えるモバイルマニピュレータ1を有する情報生成システムであって、要素図形は、要素図形の輪郭となる輪郭図形と、輪郭図形の内部にあり、その中心を輪郭図形と共通にする中心図形と、中心図形の外側にあり、かつ、輪郭図形の内側の領域である中間領域を分割する分割部と、を備える。情報生成部は、前記画像のうち中間領域に相当する領域をスキャンすることにより要素図形を検出し、検出結果に基づいてデコード情報を生成する。
【選択図】
図1
【特許請求の範囲】
【請求項1】
2種以上の要素図形を含み、前記要素図形は所定個数単位で所定の情報をコードする、マーカと、
前記個数単位以上の前記要素図形を撮像することにより画像を生成する、撮像装置と、
前記画像に基づいて前記マーカをデコードしてデコード情報を生成する、情報生成部と、を備えた情報生成システムであって、
前記要素図形は、
前記要素図形の輪郭となる、輪郭図形と、
前記輪郭図形の内部にあって、その中心を前記輪郭図形と共通にする、中心図形と、
前記中心図形の外側であってかつ前記輪郭図形の内側の領域である中間領域を分割する、分割部と、を備え、
前記情報生成部は、前記画像のうち前記中間領域に相当し得る領域をスキャンすることにより要素図形を検出し、前記検出結果に基づいて、前記デコード情報を生成する、情報生成システム。
【請求項2】
前記輪郭図形は、円である、請求項1に記載の情報生成システム。
【請求項3】
前記中心図形は、円又は多角形である、請求項1に記載の情報生成システム。
【請求項4】
前記情報生成部は、前記画像のうち前記中間領域に相当し得る領域の色又は画素値を読み出すことによりスキャンを行う、請求項1に記載の情報生成システム。
【請求項5】
前記情報生成部は、前記中間領域に相当し得る領域において所定のエッジを検出することによって要素図形の検出を行う、請求項1に記載の情報生成システム。
【請求項6】
前記分割部は、前記中間領域を分割する直線又は曲線である、請求項1に記載の情報生成システム。
【請求項7】
前記中心図形の色を判定することにより前記要素図形の種類を判定する、中心図形判定部をさらに備える、請求項1に記載の情報生成システム。
【請求項8】
前記中間領域の色を判定することにより前記要素図形の種類を判定する、中間領域判定部をさらに備える、請求項1に記載の情報生成システム。
【請求項9】
前記情報生成部は、前記検出結果と、前記要素図形の配置に関するレイアウト情報に基づいて、前記デコード情報を生成する、請求項1に記載の情報生成システム。
【請求項10】
前記レイアウト情報は、前記画像において前記要素図形に相当する領域の直径に基づいて定義される、請求項9に記載の情報生成システム。
【請求項11】
前記レイアウト情報は、前記要素図形間の距離の比率である、請求項9に記載の情報生成システム。
【請求項12】
前記輪郭図形及び前記中心図形はいずれも円であり、前記輪郭図形の直径は前記中心図形の直径の約3倍であり、前記中間領域は前記分割部により6つの領域に等分されている、請求項1に記載の情報生成システム。
【請求項13】
前記中心図形は多角形であり、前記分割部は前記多角形の各辺を延長した線分である、請求項1に記載の情報生成システム。
【請求項14】
前記情報生成部は、さらに、前記デコード情報に基づいて、前記撮像装置と前記マーカとの間の3次元空間における相対的位置関係を示す3次元位置情報を生成する、請求項1に記載の情報生成システム。
【請求項15】
前記マーカは1次元マーカである、請求項1に記載の情報生成システム。
【請求項16】
前記要素図形は黒色及び白色の2色で構成される、請求項1に記載の情報生成システム。
【請求項17】
前記情報生成システムは、さらに、
移動可能に構成された、基部と、
前記基部に取り付けられた、マニピュレータと、を備え、
前記撮像装置は、前記マニピュレータに取り付けられている、請求項1に記載の情報生成システム。
【請求項18】
2種以上の要素図形を含み、前記要素図形は所定個数単位で所定の情報をコードする、マーカと、モバイルマニピュレータと、から成るシステムであって、
前記モバイルマニピュレータは、
移動可能に構成された、基部と、
前記基部に取り付けられた、多関節マニピュレータと、
前記多関節マニピュレータに取り付けられ、前記個数単位以上の前記要素図形を撮像することにより画像を生成する、撮像装置と、
前記画像に基づいて前記マーカをデコードしてデコード情報を生成する、情報生成部と、を備え、
前記要素図形は、
前記要素図形の輪郭となる、輪郭図形と、
前記輪郭図形の内部にあって、その中心を前記輪郭図形と共通にする、中心図形と、
前記中心図形の外側であってかつ前記輪郭図形の内側の領域である中間領域を分割する、分割部と、を備え、
前記情報生成部は、前記画像のうち前記中間領域に相当し得る領域をスキャンすることにより要素図形を検出し、前記検出結果に基づいて、前記デコード情報を生成する、システム。
【発明の詳細な説明】
【技術分野】
【0001】
この発明は、撮像装置を用いて読み取り可能なマーカ、及びマーカを用いたシステム等に関する。
【背景技術】
【0002】
近年、マニピュレータを用いて所定の作業を行う移動ロボット(モバイルマニピュレータとも称される)について開発が進められている。このような移動ロボットによる作業の例として、倉庫の棚等に保管されているコンテナやケース等を取り出して搬送を行ったり、又は、搬送して来たコンテナやケース等を棚等に収納する作業等がある。
【0003】
ところで、マニピュレータを用いて作業を実行するにあたっては、マニピュレータ又は本体部等に備えられたカメラを用いて作業対象に備えられたマーカを認識することで位置決めを行い、高精度に作業を実行することが行われることがある。
【0004】
この種のマーカを構成する図形として様々な図形が使用され得る。画像からの発見が容易な単純な図形として、例えば、黒で塗りつぶされた円形図形(すなわち、黒丸)、又は中央が円形に白抜きとされた黒色の円形図形(すなわち、白丸)が採用されることがある(例えば、非特許文献1の
図4.1)。また、より複雑化した図形として、例えば、同心円の数を増やした図形や、円内の模様をより複雑な文字や図形とした図形が採用されることもある(例えば、非特許文献1の
図2.2)。
【先行技術文献】
【特許文献】
【0005】
【非特許文献1】Michael Loipfuhrer著,"Efficient and Robust Circle Grids for Fiducial Detection",[online],令和4年5月16日,TECHNISCHE UNIVERSITAT MUNCHEN,[令和5年3月13日検索],インターネット<URL: https://cvg.cit.tum.de/_media/members/demmeln/loipfuehrer2022ma.pdf>
【発明の概要】
【発明が解決しようとする課題】
【0006】
しかしながら、従前の構成では、カメラ取得画像からマーカを安定して検出することが困難であった。
【0007】
例えば、上述の単純な図形(例えば、黒丸や白丸)を採用すると、それらの図形はカメラ視野内又は環境中においてありふれた図形であることから、マーカではない図形の誤検出を招くおそれがあった。
【0008】
また、マーカの誤検出低減のため、より複雑化したマーカ図形を採用すると、その模様が細かくなることから、カメラ解像度の不足、ピントぼけ、コントラスト不足等が生じ、マーカの検出漏れが生じるおそれがあった。
【0009】
本発明は、上述の技術的背景に鑑みてなされたものであり、その目的は、カメラ画像から安定的に検出可能なマーカ、及びそのマーカのデコード情報生成技術等を提供することにある。
【課題を解決するための手段】
【0010】
上述の技術的課題は、以下の構成を有する情報生成システム等により解決することができる。
【0011】
すなわち、本発明に係る情報生成システムは、2種以上の要素図形を含み、前記要素図形は所定個数単位で所定の情報をコードする、マーカと、前記個数単位以上の前記要素図形を撮像することにより画像を生成する、撮像装置と、前記画像に基づいて前記マーカをデコードしてデコード情報を生成する、情報生成部と、を備えた情報生成システムであって、前記要素図形は、前記要素図形の輪郭となる、輪郭図形と、前記輪郭図形の内部にあって、その中心を前記輪郭図形と共通にする、中心図形と、前記中心図形の外側であってかつ前記輪郭図形の内側の領域である中間領域を分割する、分割部と、を備え、前記情報生成部は、前記画像のうち前記中間領域に相当し得る領域をスキャンすることにより要素図形を検出し、前記検出結果に基づいて、前記デコード情報を生成する、ものである。
【0012】
このような構成によれば、環境中に比較的存在しにくい形状を有する部分を基礎として要素図形の検出を行うことができる。そのため、要素図形の誤検出のおそれが小さくなり、安定的なマーカ検出を行うことができる。また、要素図形の構成が無用に細かくないことから、要素図形の検出漏れを低減でき、安定的なマーカ検出を行うことができる。さらに、画像中の所定領域のスキャンのみで要素図形を特定することができることから、テンプレートマッチング等が不要で、要素図形の検出負荷が小さく、高速な処理等が可能である。
【0013】
前記輪郭図形は、円であってもよい。
【0014】
このような構成によれば、図形の中心等の検出が容易となるため、画像処理が容易となる。
【0015】
前記中心図形は、円又は多角形であってもよい。
【0016】
このような構成によれば、輪郭図形内の図形が複雑となることを防止することができる。
【0017】
前記情報生成部は、前記画像のうち前記中間領域に相当し得る領域の色又は画素値を読み出すことによりスキャンを行う、ものであってもよい。
【0018】
このような構成によれば、中間領域の画素から中間領域の状態を推測し、要素図形を検出することができる。
【0019】
前記情報生成部は、前記中間領域に相当し得る領域において所定のエッジを検出することによって要素図形の検出を行う、ものであってもよい。
【0020】
このような構成によれば、中間領域の所定のエッジの存在の有無により中間領域が所定の分割状態にあるか否かを推測し、要素図形の検出を行うことができる。
【0021】
前記分割部は、前記中間領域を分割する直線又は曲線であってもよい。
【0022】
このような構成によれば、直線的又は曲線的に分割された中間領域に基づいて、要素図形の検出を行うことができる。
【0023】
前記中心図形の色を判定することにより前記要素図形の種類を判定する、中心図形判定部をさらに備える、ものであってもよい。
【0024】
このような構成によれば、中心図形の色の判定により、より複雑なコードをデコードすることができる。
【0025】
前記中間領域の色を判定することにより前記要素図形の種類を判定する、中間領域判定部をさらに備える、ものであってもよい。
【0026】
このような構成によれば、中間領域の色の判定により、より複雑なコードをデコードすることができる。
【0027】
前記情報生成部は、前記検出結果と、前記要素図形の配置に関するレイアウト情報に基づいて、前記デコード情報を生成する、ものであってもよい。
【0028】
このような構成によれば、レイアウト情報を使用することで、より確実に対象とする要素図形のみを抽出することができる。
【0029】
前記レイアウト情報は、前記画像において前記要素図形に相当する領域の直径に基づいて定義される、ものであってもよい。
【0030】
このような構成によれば、取得画像において要素図形に相当する領域の実際の直径に基づいて要素図形を抽出することができ、安定的にマーカ検出することができる。
【0031】
前記レイアウト情報は、前記要素図形間の距離の比率であってもよい。
【0032】
このような構成によれば、取得画像における要素図形に相当する領域のピクセルサイズの変動等によらずに、要素図形を安定的に検出することができる。
【0033】
前記輪郭図形及び前記中心図形はいずれも円であり、前記輪郭図形の直径は前記中心図形の直径の約3倍であり、前記中間領域は前記分割部により6つの領域に等分されている、ものであってもよい。
【0034】
このような構成によれば、中心図形の直径を識別可能な解像度があれば、中間領域の各分割領域を識別できることが保証されるので、安定的なマーカ検出を実現することができる。
【0035】
前記中心図形は多角形であり、前記分割部は前記多角形の各辺を延長した線分であってもよい。
【0036】
このような構成によれば、人間心理への影響の少ないデザインとすることができる。
【0037】
前記情報生成部は、さらに、前記デコード情報に基づいて、前記撮像装置と前記マーカとの間の3次元空間における相対的位置関係を示す3次元位置情報を生成する、ものであってもよい。
【0038】
このような構成によれば、マーカを撮像することにより、撮像装置とマーカとの間の相対的位置関係を取得することができる。
【0039】
前記マーカは1次元マーカであってもよい。
【0040】
このような構成によれば、帯状領域等の限られた領域にマーカを配置することができる。
【0041】
前記要素図形は黒色及び白色の2色で構成される、ものであってもよい。
【0042】
このような構成によれば、マーカ検出の安定性をより向上させることができる。
【0043】
前記情報生成システムは、さらに、移動可能に構成された、基部と、前記基部に取り付けられた、マニピュレータと、を備え、前記撮像装置は、前記マニピュレータに取り付けられている、ものであってもよい。
【0044】
このような構成によれば、マニピュレータを動作させることにより所望の位置・姿勢に撮像装置を配置することができる。
【0045】
別の角度から見た本発明は、2種以上の要素図形を含み、前記要素図形は所定個数単位で所定の情報をコードする、マーカと、モバイルマニピュレータと、から成るシステムであって、前記モバイルマニピュレータは、移動可能に構成された、基部と、前記基部に取り付けられた、多関節マニピュレータと、前記多関節マニピュレータに取り付けられ、前記個数単位以上の前記要素図形を撮像することにより画像を生成する、撮像装置と、前記画像に基づいて前記マーカをデコードしてデコード情報を生成する、情報生成部と、を備え、前記要素図形は、前記要素図形の輪郭となる、輪郭図形と、前記輪郭図形の内部にあって、その中心を前記輪郭図形と共通にする、中心図形と、前記中心図形の外側であってかつ前記輪郭図形の内側の領域である中間領域を分割する、分割部と、を備え、前記情報生成部は、前記画像のうち前記中間領域に相当し得る領域をスキャンすることにより要素図形を検出し、前記検出結果に基づいて、前記デコード情報を生成する。
【発明の効果】
【0046】
本発明によれば、カメラ画像から安定的に検出可能なマーカ、及びそのマーカのデコード情報生成技術等を提供することができる。
【図面の簡単な説明】
【0047】
【
図1】
図1は、モバイルマニピュレータと棚とを含むシステムの全体構成図である。
【
図3】
図3は、目標となる物体を棚から取り出すときのモバイルマニピュレータの動作に関するゼネラルフローチャートである。
【
図4】
図4は、カメラを移動させた後のモバイルマニピュレータを示す概念図である。
【
図5】
図5は、デコード処理の詳細フローチャートである。
【
図6】
図6は、真円形状への変換処理後の要素図形に相当する画像の一例である。
【
図7】
図7は、仮想円の設定例に関する説明図である。
【
図9】
図9は、要素図形のレイアウト例に関する説明図である。
【
図10】
図10は、要素図形のレイアウトの他の例に関する説明図である。
【
図11】
図11は、カメラ、カメラに係る画像平面(P)、及び1次元マーカを構成する要素図形の関係性を表す説明図である。
【
図13】
図13は、ステレオカメラにより要素図形を撮像する場合の原理図である(第2の実施形態)。
【
図14】
図14は、ピンホールカメラモデルを用いた要素図形の撮像原理図である(第2の実施形態)。
【
図15】
図15は、要素図形の配色に関する他の構成例である。
【
図16】
図16は、要素図形の形状に関する他の構成例である。
【発明を実施するための形態】
【0048】
以下、本発明の好適な実施の形態について添付の図面を参照しつつ詳細に説明する。
【0049】
(1.第1の実施形態)
第1の実施形態として、モバイルマニピュレータ1が、棚5に取り付けられた1次元マーカ55を認識して、高精度に棚板51上の物体60を取り出す作業(又はタスク)について説明する。なお、当業者には明らかなように、棚板51上に物体60を載置する場合も略同一の工程により実行することができる。
【0050】
本実施形態においては、本発明をモバイルマニピュレータ1に対して適用した例について説明するものの、本発明は、カメラとマーカとの間の相対的位置関係を特定することが必要なあらゆる場面に適用することができる。そのため、他の種々の対象に対しても適用可能なことは勿論である。例えば、移動機能を備えないロボットや、マニピュレータを備えないロボットに対しても適用することができる。
【0051】
(1.1 システムの構成)
図1は、モバイルマニピュレータ1と棚5を含むシステムの全体構成図である。同図から明らかな通り、モバイルマニピュレータ1は、ベース10と、ベース10の天面に取り付けられた多関節のロボットアーム20と、を備えている。ベース10の底面には移動機構11が備えられ、ベース10の天面の後端にはLiDARユニット12が備えられている。なお、図示しないベース10の内部には、情報処理装置が設けられ、モバイルマニピュレータ1の制御を行う。
【0052】
移動機構11は、本実施形態では、全方位移動機構である。この移動機構によりモバイルマニピュレータは自在な向きで移動することができる。本実施形態では、全方位移動機構として、オムニホイールを採用している。
【0053】
なお、本実施形態においては、全方位への移動機構としてオムニホイールを採用するものの、本発明はこのような構成に限定されない。従って、メカナムホイール等、全方位移動を可能とする他の構成を採用してもよい。また、移動機構は、全方位移動機構に限定されない。従って、移動方位や方向が限定された他の移動機構(例えば、差動二輪機構によるライトレース等)を採用してもよい。さらに、地上を移動する機構に限定されず、天井から吊り下げられて移動する機構や飛行により空中を移動する機構であってもよい。
【0054】
LiDARユニット12は、レーザー光を用いて周辺の物体までの距離や方向の検出を行うものであり、このLiDARユニット12を用いて環境中を自律的に移動することができる。なお、環境検出手段として、LiDARユニット12を用いるものの、他のセンサユニットを利用してもよい。
【0055】
ロボットアーム20は、複数の駆動関節を有しており、その先端部にはグリッパ22が備えられている。このような構成により、ロボットアーム20は、目標位置に対して自在な角度からリーチングを行って、グリッパにより物体60を把持又は解放することができる。
【0056】
グリッパ22の近傍には、物体又は物体が載置される区画の認識、若しくは後述の1次元マーカ55の認識等に用いられるカメラ21が所定角度で設けられている。このカメラ21により1次元マーカ55の認識を行い後述の処理を行うことで、高精度の位置決めが可能となる。なお、本実施形態において、カメラ21は単眼カメラである。また、このカメラ21は、ベース10に取り付けてもよい。
【0057】
このような単眼カメラを備えた構成によれば、ステレオカメラ等に比してコストを低減することができる。
【0058】
図示しない情報処理装置は、CPU等で成りプログラムの実行を行う制御部と、ROM、RAM、フラッシュメモリ等から成りプログラムや後述のデータを記憶する記憶部と、通信ユニットなどを備え、それらはバスを介して接続されている。記憶部には、後述の各種の処理を行うにあたって必要な情報、例えば、目標(目標物体又は目標位置)に関する情報、1次元マーカ55が取り付けられる棚板51の高さに関する情報、照合用のコード情報、カメラ21に関する光学パラメータ、モバイルマニピュレータ1のキネマティクスに関する情報、要素図形のレイアウト情報等が格納されている。情報処理装置は、ロボットアーム20の各関節に設けられたアクチュエータ(不図示)及び各種センサ(不図示)、カメラ21、グリッパ22、移動機構11、LiDARユニット12等と接続され、それらの装置との間で情報の授受を行い、又は、それらの装置の制御を行う。
【0059】
本実施形態において、棚5は、3枚の棚板(51~53)を有する3段の棚であり、最上段の棚板51の上には一定の間隔で3つの物体60が載置されている。本実施形態においては、物体60は、コンテナであり、コンテナ内には種々の物体が格納されている。なお、物体60は、コンテナでなくてもよく、タスクに応じて任意に設定することができる。
【0060】
最上段の棚板51のモバイルマニピュレータ1と正対する側の側面には、水平に1次元マーカ55が配置されている。この棚板51は小さな厚みで構成されているため、2次元マーカの配置には適さない面である。すなわち、棚板15の側面は、その長辺(棚板51の長手方向)にはマーカを配置することが可能な十分な領域が存在するものの、それと直交する短辺(棚板51の厚み方向)にはそのような領域が十分に存在しない細長い面(又は帯状の面)であり、かつ、短辺の長さは撮像により認識可能な程度の大きさの2次元マーカの一辺の長さよりも小さいものである。後述する通り、カメラ21を用いてこの1次元マーカ55を撮像することにより、カメラ21と1次元マーカ55との間の相対的位置関係を決定することができる。
【0061】
図2は、1次元マーカ55の説明図である。同図から明らかな通り、本実施形態に係る1次元マーカ55は、要素図形を一直線上に合計16個配置して構成された帯状のマーカである。
【0062】
各要素図形は、輪郭図形となる円(大径円)の中心に、その中心が一致するように(又は同心円状に)中心図形となる径の小さい円(小径円)備えている。また、中心図形の外側であって輪郭図形の内側の領域である中間領域には、小径円の円周を六等分する円周上の点から大径円の円周上の点までそれぞれ放射状に延び中間領域を等分する6つの黒色の線分が配置されている。同図の例にあって、要素図形は、小径円が黒色で塗り潰された第1の要素図形と、小径円が白色で塗り潰された第2の要素図形の、2種類の要素図形を含む。なお、線分は、中間領域を分割可能なものであればよく、例えば、直線の他、曲線であってもよい。
【0063】
このように白色と黒色とから成るマーカによれば、後述の画像処理の際の要素図形の検出精度を向上させることができる。
【0064】
本実施形態においては、これらの要素図形の間隔(円の中心間距離L)は一定である。
【0065】
このような要素図形間の距離が一定である構成によれば、後述の計算が容易となるので、より容易にマーカを認識することができる。なお、要素図形間の距離は一定でなくてもよい。
【0066】
この1次元マーカ55は、隣り合う連続する4つの要素図形を抽出すると一意のパターンを表すことから、4つの要素図形を単位として要素図形の固有の位置情報(ID)をコードする。このように隣り合う所定の個数単位で観察することにより一意のパターンが観察される列をド・ブラウン列(De Brujin Sequence)と呼ぶことがある。例えば、
図2の例にあって「(第1の要素図形)→(第1の要素図形)→(第2の要素図形)→(第2の要素図形)」のパターンを抽出した場合には、IDが5~8の要素図形を抽出したことを一意に特定することができる。
【0067】
なお、本実施形態において、1次元マーカは白地に複数の要素図形が配置された細長い帯状物であり、任意の対象物に取り付けることができる。取り付け方法は、例えば、ステッカのように貼付するものであってもよいし、ボルト等の固定具を介した固定方法であってもよい。なお、必ずしもすべての要素図形を1つのセットとして帯状物とする必要はなく、例えば、対象物体に対して、直接要素図形を印刷してもよいし又は着色により要素図形を表してもよい。
【0068】
このような構成によれば、容易にマーカを取り付けることができるので、容易に所定の対象物と撮像装置との間の高精度な位置決めを行うことができる。
【0069】
本実施形態において、要素図形の仮想外接図形は正方形である。
【0070】
このような構成によれば、画像処理により要素図形の中心位置を算出することが容易となり、マーカの認識精度を向上させることができる。なお、仮想外接図形が正方形となる他の要素図形の形状として、例えば、正方形を採用することができる。
【0071】
本実施形態において、要素図形の輪郭となる図形は円である。
【0072】
このような構成によれば、中心座標等の算出が容易となり、画像処理が容易となる。
【0073】
本実施形態において、輪郭図形の内部の中心図形は円である。
【0074】
このような構成によれば、要素図形が無用に複雑となることを防止することができ、撮像装置の高解像度化等が不要となる。
【0075】
なお、中心図形は円形でなくてもよく、後述するように、例えば、多角形であってもよい。
【0076】
(1.2 モバイルマニピュレータの動作)
図3は、目標となる物体60を棚5から取り出すときのモバイルマニピュレータ1の動作に関するゼネラルフローチャートである。なお、どの物体や空間中の位置を目標とするかはモバイルマニピュレータ1自身が決定してもよいし、上位システムや他の装置等の外部装置から提供されるものであってもよい。
【0077】
処理が開始すると、モバイルマニピュレータ1は、移動機構11を制御して自律移動し、目標となる物体60の前、すなわち、物体60を格納する棚5の前へと移動する(S11)。なお、自律移動は、予め記憶している環境地図と、LiDARユニット12の検出結果とを照合して自己位置推定を行うことにより行ってもよい。
【0078】
この移動の後、モバイルマニピュレータ1は、ロボットアーム20を制御して、その画角内に所定個数以上の要素図形が含まれるようにカメラ21を移動させる(S12)。ここで、カメラ21を移動させる処理は、例えば、予め記憶している、1次元マーカ55が取り付けられる棚板51の高さにロボットアーム20の手先を移動させる処理であってもよい。また、所定個数は、本実施形態では、固有の位置情報をコードする単位である4個である。
【0079】
図4は、カメラ21を移動させた後のモバイルマニピュレータ1を示す概念図である。同図に示す通り、ロボットアーム20を制御することにより、カメラ21は水平方向に向けられると共に1次元マーカ55と正対している。また、カメラ21の画角内には1次元マーカ55のうちの4つの要素図形が含まれている。
【0080】
図3に戻り、カメラ21を移動させた後、モバイルマニピュレータ1は、カメラ21を用いて撮像を行い画像を取得する(S13)。モバイルマニピュレータ1は、取得画像から1次元マーカ55の一部をデコード処理して、コードされていた情報、すなわち、各要素図形のIDを取得する(S13)。
【0081】
図5は、デコード処理の詳細フローチャートである。同図から明らかな通り、処理が開始すると、モバイルマニピュレータ1は、カメラ21を用いて撮像処理を行い、画像を取得する(S131)。
【0082】
画像取得処理の後、モバイルマニピュレータ1に備えられた情報処理装置の制御部は、取得画像に対して、白黒の二色に変換する二値化処理を行う(S132)。
【0083】
二値化処理の後、制御部は、二値化処理がなされた画像に対して楕円形状検出処理を行う(S133)。この楕円形上検出処理により、各要素図形を構成する大径円及び小径円を含めた楕円形状が画像から検出される。
【0084】
このような楕円検出を行う構成によれば、マーカ姿勢に対してロバストな検出処理を行うことができる。
【0085】
楕円形状検出処理の後、制御部は、当業者に知られる公知の画像処理技術により、内包される楕円形状の除去処理を行う(S134)。このような処理により、大径円内にある小径円を排除することができる。また、放射線状の線分、小径円、及び大径円で囲まれた領域は本来楕円形状では無いものの、画像中のエッジが訛っている場合には楕円形状として検出されることがある。本工程の内包楕円形状の除去処理によれば、このような誤って検出された楕円図形も排除することができる。
【0086】
内包される楕円形状の除去処理の後、制御部は、当業者に知られる公知の画像処理技術により、各楕円に対して真円形状への変換処理を行う(S135)。例えば、各楕円形状を所定量だけ回転させた後、外接矩形のアスペクト比が1:1となるように変換する処理を行う。
【0087】
図6は、真円形状への変換処理後の要素図形に相当する画像の一例である。同図の例にあっては、直径がL'の大径円(最外側円)の中心に、その直径が大径円の1/3倍の小径円が中心を共通にして(すなわち、同心円状に)配置されている。また、小径円の外側であって大径円の内側の環状の領域(以下、中間領域と呼ぶことがある)には、小径円を円周方向に六等分する円周上の点から大径円の円周上の点までそれぞれ放射状に延びる6つの黒色の線分が配置されている。
【0088】
図5に戻り、真円形状への変換処理後、制御部は、各真円に対して小径円と重なる位置に仮想円を設定し、当該仮想円内の色について判定する処理を行う(S136)。仮想円内の色の判定は、当業者に知られる公知の様々な手法により行うことできるが、例えば、小径円内の各画素の色の多数決により判定してもよい。なお、色ではなく画素値に基づく判定を行ってもよい。
【0089】
図7は、仮想円の設定例に関する説明図である。同図の例にあっては、最外側にある大径円(C1)の直径はL'であり、小径円の直径はLである。また、小径円の直径Lは、大径円の直径L'の1/3である。このとき、仮想円(C2)は大径円(C1)と同心に直径が大径円(C1)の1/3となるように設定される。このように設定することで、小径円に相当する領域内の色の判定を行うことができる。
【0090】
このような構成によれば、小径円内の色を判定することができるので、要素図形候補が第1の要素図形の候補であるか、又は、第2の要素図形の候補であるかを判定することができる。なお、本処理(S136)は、要素図形の抽出処理の後段で行ってもよい。
【0091】
図5に戻り、仮想円内の色判定処理の後、制御部は、大径円内を所定半径で1周分スキャンする処理を行い、スキャン結果が所定の条件を満たすか否かに応じて、要素図形であるか否かの判定処理(すなわち、要素図形の検出処理)を行う(S137)。本実施形態において、所定半径は、小径円の半径(1/2×L)より大きく大径円の半径(3/2×L)より小さい半径であって、例えばLである。
【0092】
図8は、スキャン処理の概念説明図である。同図(A)から明らかな通り、本実施形態において、制御部は、矢印に示される通り、小径円の半径より大きく大径円の半径より小さい半径(=L)の円の円周上を1周分スキャンする処理を行う。同図(B)は、このようにスキャンされた1周分の画素データを並べた概念図である。
【0093】
このように、所定の半径(=L)で大径円内を1周分スキャンする処理を行うと、スキャン結果として、白色又は黒色のいずれかの画素を連続して配置した長さが2πL(≒6L)の一連のパターンが取得される。ここで、この一連のパターンは本実施形態においては6等分されていることから、各区分は小径円の直径L以上の長さを有していることが保証される。
【0094】
このような構成によれば、中心図形である小径円の直径を識別可能なカメラ解像度があれば、中間領域の各分割領域をスキャンできることが保証されるので、安定的なマーカ検出を実現することができる。なお、中間領域の各分割領域をスキャンできることを担保するにあたっては、必ずしも大径円の直径を小径円の直径の3倍とする必要はない。要するに、小径円の半径と大径円の半径の中間値等となる所定の半径でスキャンを行うことにより得られた画素データ列の各分割領域の長さが小径円の直径より大きくなるように、小径円(L)又は大径円の直径(L')、及び中間領域の分割数を調整すればよい。
【0095】
続いて、一連のパターンが所定の条件を満たすか否かにより、同図形が1次元マーカ55を構成する要素図形であるか否かを判定する。所定の条件とは、例えば、「白い画素の方が黒い画素よりも多いか否か」、「白い背景に対して黒いエッジが所定回数(本実施形態においては6回)現れるか否か」、「白い背景に対して黒いエッジが等間隔で現れるか否か」等である。これらの条件のいずれか1つ、2つ又はそのすべてを満たすか否かを判定することにより、参照図形が要素図形に該当するか否かの判定処理を行う。なお、必須条件の数を増やすほど誤検出が抑制されるため、検出結果の信頼性を向上させることができる。
【0096】
このような構成によれば、検出される色又は画素値の変動(特に、エッジ)に基づいて中間領域の分割状態を推定することができる。
【0097】
また、環境中に比較的存在しにくい形状を有する部分(すなわち、分割された中間領域)を基礎として要素図形の検出を行うことができる。そのため、要素図形の誤検出のおそれが小さくなり、安定的なマーカ検出を行うことができる(良好なマーカ適合率)。また、要素図形の構成が無用に細かくないことから、要素図形の検出漏れを低減でき、安定的なマーカ検出を行うことができる(良好なマーカ再現率(又は感度))。さらに、画像中の所定領域のスキャンのみで要素図形を特定することができることから、テンプレートマッチング等が不要で、要素図形の検出負荷が小さく、高速な処理等が可能となる。
【0098】
図5に戻り、要素図形の判定処理の後、制御部は、要素図形と判定された図形と、レイアウト情報に基づいて、1次元コードに相当する要素図形列を抽出(又は検出)する処理を行う(S138)。ここで、レイアウト情報とは、1次元マーカ55において各要素図形が配置されるべき位置に関する情報である。なお、要素図形列の抽出処理は、各要素図形の中心画素位置(u
i,v
i)の取得処理を含む。
【0099】
このようにレイアウト情報を用いることにより、対象とする要素図形をより確実に検出することができる。
【0100】
図9は、要素図形のレイアウト例に関する説明図である。同図の例にあっては、レイアウト情報は、要素図形の直径L'を基準として各要素図形が一直線状に並ぶものとして設定されている。より詳細には、要素図形は、1番左側の要素図形の中心から左から2番目の要素図形の中心までの距離は2L'、左から2番目の要素図形の中心から左から3番目の要素図形の中心までの距離は3L'、左から3番目の要素図形の中心から左から4番目の要素図形の中心までの距離は2L'として配置されている。このようなレイアウト情報に基づいて要素図形を抽出していくことによりデコードに用いる要素図形を抽出することができる。
【0101】
このような構成によれば、取得画像において要素図形に相当する領域の実際の直径に基づいて要素図形を抽出することができる。これにより、安定的にマーカ検出を行うことができる。
【0102】
図10は、要素図形のレイアウトの他の例に関する説明図である。同図の例にあっては、レイアウト情報は、一の要素図形間の距離を基準として各要素図形が一直線状に並ぶものとして設定されている。より詳細には、要素図形は、1番左側の要素図形の中心から左から2番目の要素図形の中心までの距離を2、左から2番目の要素図形の中心から左から3番目の要素図形の中心までの距離を4、左から3番目の要素図形の中心から左から4番目の要素図形の中心までの距離を1とする比率で配置されている。このようなレイアウト情報に基づいて要素図形を抽出していくことによりデコードに用いる要素図形を抽出することができる。
【0103】
このような構成によれば、取得画像における要素図形に相当する領域のピクセルサイズの変動等によらずに、要素図形を安定的に検出することができる。
【0104】
以上の通り、要素図形のレイアウトについては多様な構成が考え得るが、本実施形態においては、要素図形は一直線状に等間隔で配置されるものとする。
【0105】
図5に戻り、要素図形列の抽出が完了すると、制御部は、抽出された要素図形列と予め保持する既知のド・ブラウン列とを照合する処理を行い(デコード処理)、各要素図形のIDを特定する処理を行う(S139)。例えば、「(第1の要素図形)→(第1の要素図形)→(第2の要素図形)→(第2の要素図形)」の要素図形列を抽出した場合には、
図2のIDが5~8の要素図形を抽出したことを一意に特定することができる。各要素図形のIDを特定した後、処理は終了する。
【0106】
図3に戻り、デコード処理の後、モバイルマニピュレータ1は、各要素図形の中心画素位置(u
i,v
i)と、ピンホールカメラモデルを使用して、1次元マーカ55の各要素図形の3次元位置と、1次元マーカ55の長手方向の軸の向きを算出する(S15)。なお、本実施形態においては、長手方向の軸は、1次元マーカ55を構成する各要素図形の中心を通る直線である。
【0107】
1次元マーカ55の各要素図形の3次元位置と、1次元マーカ55の長手方向の軸の向きを算出する過程について詳細に説明する。
【0108】
図11は、カメラ21、カメラ21に係る画像平面(P)、及び1次元マーカ55を構成する要素図形の関係性を表す説明図である。ここでは、要素図形を左から、m
1、m、m
2と称する。
【0109】
同図において、(xc,yc,zc)はカメラ21の座標系を表している。(u,v)は2次元の画像平面上の画素位置を表している。(x,y,z)はカメラ座標系における要素図形mの3次元位置を表している。また、θは、長手方向軸のyc軸周りの回転量、φは、zc軸周りの回転量を表している。さらに、Lは、要素図形の中心座標間の距離を表している。
【0110】
なお、同図においては、カメラ21に対してピンホールカメラモデルが採用されている。また、x
c軸周りの回転(ξ(
図12参照))については、棚5が床に対して完全に鉛直方向に起立して配置されていることを仮定して、鉛直軸からの回転量が無いものとして扱われている。
【0111】
以上のような状態を仮定すると、カメラ座標系において、各要素図形(m1、m、m2)の3次元位置は以下のように表される。
【0112】
【0113】
これらの座標をそれぞれ画像平面(P)上に射影すると、各座標(u,v)は、以下の通りとなる。
【0114】
【0115】
ただし、fは、予め記憶されている光学パラメータであり、具体的には、レンズの焦点距離をセンサの1画素の物理サイズで除した値である。
【0116】
各要素図形の中心画素位置(u1,u,u2、v1,v,v2)の値は既知であることから、数式2をθについて解くと、以下の通りとなる。
【0117】
【0118】
同様に、数式2をφについて解くと、以下の通りとなる。
【0119】
【0120】
すなわち、2次元の中心画素位置(u,v)と光学パラメータfを取得することができれば、1次元マーカ55の長手方向軸の向き(θ、φ)を算出することが出来る。
【0121】
また、数式2から明らかな通り、要素図形の3次元位置は、2次元の中心画素位置(u,v)と光学パラメータfを用いて以下のように表すことができる。
【0122】
【0123】
数式2と数式5に基づいて、zについて解くと、以下の通りとなる。
【0124】
【0125】
f,L、θ、φ、u1、u、u2の値はいずれも既知であるので、上式よりzの値を求めることができる。また、数式5へとzの値を代入することにより、x、yの値についても求めることができる。
【0126】
すなわち、2次元の中心画素位置(u,v)を取得することができれば、1次元マーカ55を構成する各要素図形のカメラ座標系における3次元位置(x,y,z)を求めることができる。
【0127】
実際の演算処理(S15)においては、以上の計算を毎回行ってもよいし、最終的な算出式(例えば、数式3、4、5、6)のみ記憶しておき、画素位置から適宜に各要素図形の3次元位置を算出してもよい。
【0128】
図3に戻り、1次元マーカ55の各要素図形の3次元位置と、1次元マーカ55の長手方向の軸の向きを算出した後、モバイルマニピュレータ1は、軸の向きに関する情報(θ、φ)に基づいて、マーカ座標系からカメラ座標系への同次変換行列
mT
cを算出する(S16)。同次変換行列の算出には既知の種々の手法を採用することができる。
【0129】
この同次変換行列の算出処理の後、モバイルマニピュレータ1は、モバイルマニピュレータ1の構造に基づくキネマティクスに基づいて、カメラ座標系からロボット座標系への同次変換行列cTrを算出する。この同次変換行列の算出には既知の種々の手法を採用することができる。この算出処理の後、予め記憶しているマーカ座標系で表現された目標区画の位置・姿勢を、2つの同次変換行列mTc、cTrを用いて変換して、ロボット座標系における値に変換する(S17)。
【0130】
図12は、座標系の変換に関する説明図である。同図において、(x
m,y
m,z
m)はマーカ座標系を表している。(x
c,y
c,z
c)はカメラ座標系を表している。(x
r,y
r,z
r)はロボット座標系を表している。なお、マーカ座標系の原点は、同図の例にあっては、1次元マーカ55の長手方向軸上の所定位置、特に、IDが0の要素図形の中心位置に配置されている。
【0131】
目標区画の位置・姿勢(P)はマーカ座標系において定義されている。しかしながら、上述の処理により、マーカ座標系からカメラ座標系への同次変換行列mTcと、カメラ座標系からロボット座標系への同次変換行列cTrを算出することができる。そのため、目標区画の位置・姿勢(P)をロボット座標系における表現に変換することができる。
【0132】
このような構成によれば、マーカ座標系で定義された位置・姿勢をカメラ座標系又はロボット座標系に変換することができるので、高精度に作業を実行することができる。
【0133】
図3に戻り、ロボット座標系への変換処理の後、制御部は、ロボット座標系における目標区画の位置・姿勢(P)に基づいて、ロボットアーム20を制御して、目標区画において所定の位置・姿勢にある物体60をグリッパ22を用いて取り出す処理を行う(S18)。この作業の後、物体の取り出し動作は終了する。
【0134】
このような構成によれば、長手方向にはマーカを配置することができる領域が存在するものの、長手方向と直交する方向にはそのような領域が存在しない帯状領域が対象物上に存在する場合に利用可能な1次元マーカ55を利用して、カメラ21と1次元マーカ55の間の3次元空間における相対的位置関係を算出することができる。すなわち、このような構成によれば、対象物上においてマーカの配置領域が限られる場面においても、1次元マーカ55とカメラ21の間の高精度な位置決めを行うことができる。
【0135】
(2.第2の実施形態)
第1の実施形態においては、カメラ21として単眼カメラを採用した。本実施形態では、カメラ21としてステレオカメラを利用する例について説明する。
【0136】
本実施形態に係るモバイルマニピュレータ1の構成は、カメラ21がステレオカメラであることを除いて、第1の実施形態と略同一であるので、詳細な説明は省略する(
図1~2参照)。
【0137】
また、モバイルマニピュレータ1の動作(
図3)もカメラ21がステレオカメラであることから各要素図形の3次元位置と1次元マーカ55の軸の向きの算出方法(S15)が異なる点を除いて略同一である。従って、ステレオカメラであるカメラ21を用いて、各要素図形の3次元位置と1次元マーカ55の軸の向きを算出する方法についてのみ詳細に説明する。
【0138】
図13は、ステレオカメラにより要素図形を撮像する場合の原理図である。同図下端には左右のカメラ位置が点として描写され、左右のカメラ間の距離はBで表されている。なお、各カメラは互いに平行に同一面上に配置されている。なお、2つのカメラは物理的に平行に配置してもよいし、数学的に平行化変換処理を行ってもよい。
【0139】
これら左右のカメラ位置から深度Zの所定位置(Q)にある要素図形を観察する場合、各カメラの焦点距離fには同図上段の2次元のカメラ画像(L、R)が観察される。このとき、左右のカメラ画像の間には視差dが生じる。この視差dは、画像の水平方向の画素位置uL、uRを用いて以下のように表される。
【0140】
【0141】
ここで、深度Zは、カメラ間距離Bと焦点距離fを用いて以下の通り表すことができる。
【0142】
【0143】
従って、数式7と数式8により、深度Zは左右のカメラ21の画素位置(uL、uR)、既知のカメラ間距離B、焦点距離fにより求めることができる。
【0144】
図14は、ピンホールカメラモデルを用いた要素図形の撮像原理図である。同図において、(x
c,y
c,z
c)はカメラ21の座標系を表している。(u,v)は2次元の画像平面上の画素位置を表している。(x,y,z)はカメラ座標系における要素図形の3次元位置を表している。
【0145】
このとき、参照する要素図形の中心座標(x,y,z)は、画像平面上の画素位置(u,v)、深度Z(=z)を用いて以下の通り表すことができる。
【0146】
【0147】
従って、各要素図形に対して数式7~9を計算することにより、各要素図形の3次元位置(x,y,z)を算出することができる。
【0148】
また、各要素図形の3次元位置を算出した後は、最小二乗法等の手法により複数の要素図形を通る直線を求めることができるので、これにより、yc軸周りの回転量θと、zc軸周りの回転量φを求めることができる。
【0149】
すなわち、要素図形の3次元位置、yc軸周りの回転量θ、及びzc軸周りの回転量φを求めることができるので、その後は、第1の実施形態と同様に、マーカ座標系からカメラ座標系への同次変換行列mTc等を求めることができる。
【0150】
このような構成によれば、ステレオカメラを用いることにより、要素図形の高精度な認識を行うことができ、これにより作業の精度を向上させることができる。
【0151】
(3.変形例)
本発明は、様々に変形して実施することができる。
【0152】
上述の実施形態においては、輪郭線が黒色であって背景色が白色の円形の輪郭図形の中心に、中心図形として白色又は黒色で塗り潰された同心の小径円が配置されていた。また、小径円と大径円の間の中間領域には放射状に延びる線分が当該領域を6つに等分するように配置されていた。さらに、コードは、2種類の要素図形を所定の個数用いて固有の情報をコードした1次元コードを採用した。しかしながら、本発明はそのような構成に限定されず、様々に変形して実施することができる。
【0153】
例えば、要素図形内の背景色を白とする必要はなく、他の色、例えば、黒色等を採用してもよい。
【0154】
図15は、要素図形の配色に関する他の構成例である。同図(A)、同図(B)に示されるように、大径円内の基本背景色を黒色、輪郭線を白色としてもよい。また、このとき、小径円の内部の色を白色(同図(A))又は黒色(同図(B))としてもよい。このような要素図形も、検出対象の色が変更される点を除けば、上述の実施形態における手法(S13)と同様の手法でデコードすることができる。
【0155】
なお、同一の形状を有する、実施形態中の2種類の要素図形(背景色が白色で中心色が白色又は黒色)、
図15(A)の要素図形、及び
図15(B)の要素図形の4つの要素図形を用いて情報をコードしてもよい。この場合、抽出されたパターンを、4つの記号を用いたド・ブラウン列と照合することとなる。
【0156】
また、同図(C)に示されるように、小径円と大径円との間の中間領域の配色を一部変更してもよい。このような構成とする場合には、想定されるエッジの出現回数(S137、
図8参照)等を好適な数値に予め調整してもよい。
【0157】
また、要素図形の形状について変更してもよい。例えば、中心図形を、小径円ではなく他の図形、例えば、多角形(又は凸包図形)としてもよい。また、中心図形と輪郭図形との間の中間領域において、領域を分割する線分の形状や配置を適宜に変更してもよく、例えば、分割に用いる線分を中心図形の各辺に沿って配置してもよい。
【0158】
図16は、要素図形の形状に関する他の構成例である。同図の例にあっては、要素図形の中心図形は、大径円と中心を共通にする六角形である。中間領域の色は基本的に黒色(同図(A)及び同図(B))又は白色(同図(C)及び同図(D))を基調とし、その内部の六角形は、同図(A)と同図(C)の例にあっては白色であり、同図(B)及び同図(D)の例にあっては黒色である。これら4つの要素図形により情報をコードすることができる。
【0159】
六角形の外側であって円の内側の領域(すなわち、中間領域)は、六角形の各辺を延長した線分で分割されている。このような要素図形も、上述の実施形態における手法(S13)と同様の手法でデコードすることができる。
【0160】
このような構成によれば、中心図形が円である要素図形が多数並ぶとその形状が人間の眼を想起させて看者を不安にさせてしまうおそれのあるところ、中心図形が六角形であるので、そのような心理的作用を低減することができる。
【0161】
上述の実施形態においては、各要素図形を構成する色を白色又は黒色としたが、本発明はそのような構成に限定されず、他の色を採用してもよい。また、単に画素値に基づいて処理を行ってもよい。
【0162】
上述の実施形態においては、各要素図形を1次元マーカ55に対して適用したものの、本発明はそのような構成に限定されない。従って、他のマーカ、例えば、2次元マーカ等のより高次元のマーカに対して適用してもよい。
【0163】
上述の本実施形態においては、2種類の要素図形を用いた1次元コードにおいて、4つの要素図形により固有の情報をコードする構成としたが、本発明はそのような構成に限定されない。従って、例えば、他の複数個の要素図形で情報をコードしてもよい。また、要素図形の種類として、3種類以上の図形を採用してもよい。
【0164】
以上、本発明の実施形態について説明したが、上記実施形態は本発明の適用例の一部を示したに過ぎず、本発明の技術的範囲を上記実施形態の具体的構成に限定する趣旨ではない。また、上記の実施形態は、矛盾が生じない範囲で適宜組み合わせ可能である。
【産業上の利用可能性】
【0165】
本発明は、マーカ又はマーカを用いたシステム等を製造する産業において利用可能である。
【符号の説明】
【0166】
1 モバイルマニピュレータ
10 ベース(基部)
11 移動機構
12 LiDARユニット
20 ロボットアーム
21 カメラ
22 グリッパ
5 棚
51 棚板(上段)
52 棚板(中断)
53 棚板(下段)
55 マーカ(1次元マーカ)
60 物体