(58)【調査した分野】(Int.Cl.,DB名)
前記複数の標的物が能動的標的物であり、前記複数の能動的標的物のそれぞれが所定の周波数でのオン−オフ時系列及びデューティーサイクル又は時系列で変調される、請求項1に記載のシステム。
前記複数の能動的標的物それぞれの電力、前記デューティーサイクル、又は前記時系列が、ワイヤレス通信チャンネルのコマンドに応じて動的に可変である、請求項3に記載のシステム。
前記複数の標的物と関連付けられた前記位置データが標的物の位置データベースから得られ、前記複数のカメラからの前記画像データが画像空間ブロブである、請求項1に記載のシステム。
前記複数のカメラからの前記画像データが間引きフィルタにより処理された画像データで、前記処理された画像データが関心領域群であって、各関心領域が画像空間ブロブを含む、請求項1に記載のシステム。
【発明を実施するための形態】
【0021】
図1は、それぞれが基盤要素と同時に動作する、位置及び方向測定エンジン(以下POMEと称する)システムの3つの実施例を示す。計測範囲には、計測範囲の表面の様々な位置に取り付けた6つの標的物700が存在する。計測範囲の基準座標系は、参照符号800によって特定される。全標的物700の位置が基準座標系800において既知であり、この基準座標系に対する姿勢の計算が行われる。
【0022】
図1の左側は、測量ポール200に取り付けられたPOMEヘッドアセンブリ100である。ここでは、測量ポールの姿勢をリアルタイムで追跡するPOMEシステムの動的モードでの動作を示す。作業員300が作業空間で測量ポール200を動かすと、POMEシステムは測量ポールの先端の位置を判定する。所望の地点に対する位置又は位置の誤差がモバイル表示器900で作業員に表示される。
【0023】
図1の中央は、モバイルロボット機器400に装着されたPOMEヘッドアセンブリ100である。モバイルロボット機器の例としては、ロボットフォークリフト又は掃除ロボットがある。ここでは、モバイルロボット機の姿勢をリアルタイムで追跡するPOMEシステムの動的モードでの動作を示す。
【0024】
図1の右側は、POMEヘッドアセンブリ100と、回転補機500とを備えたアセンブリである。アセンブリは、測量用三脚600に装着されている。図では、静的モードで動作するPOMEシステムを示す。静的モードで回転補機を使用すると、POMEヘッドを段階的に回転させながら各カメラの測定値を多く取得することで姿勢測定の精度を向上させる。
【0025】
図1が示す各モードは、POMEシステムの動作モードとしてよい。
【0026】
図2は、POMEヘッドアセンブリ100の図である。アセンブリは、以下で説明するいくつかの要素が固定されたアセンブリ座標すなわちハウジング11から成る。
【0027】
1つまたは複数のカメラ/レンズ・アセンブリ1が備えられ、可視の標的物群を網羅する合成視野(FOV)を形成するカメラ群が配置されている。合成視野は、どのカメラの視野よりも大きい。標的物が全方向に分散している多くの場合において、所望の合成FOVは、半球よりも大きい。1つの実施例では、3つのカメラを4面体配置にし、3つのカメラの主軸を正4面体の上向きの面に直交するように整列させる。この実施例では、上半球に空白ができないようにするため、各カメラのFOVは150度以上でなければならない。その他の用途には、それに代わるカメラ配置が適用可能である。一般的に、視野が重複する際にはカメラの数を減らすことが望ましい。
【0028】
各カメラ/レンズ・アセンブリは、撮像センサと、関連のデータデシメーション(間引き)用の電子部品5とを備える。視野の広さ及び高精度を実現するために、大型の撮像センサが用いられる。5百万ピクセル超の撮像センサが使用可能である。標的物の構成によっては、カラーのカメラを使用するか、モノクロのカメラを使用するかを選択してよい。好ましい実施例において、能動的標的物の波長はIRスペクトルに近く、モノクロカメラは帯域外干渉の影響を低減する光学フィルタを用いる。10Hzの更新レートを実現するため、カメラの露光時間の同期を最適に行い、全てのカメラからの画像データを同時に処理する。これは、高データレートは画像処理ハードウェア及びソフトウェアで対応しなければならないことを示唆している。能動的標的物が同期されていると、標的物の時間軸に対してさらにカメラの露光時間を同期を行うことが必要性になり得る。
【0029】
POMEヘッドアセンブリ100は、複数の光ダイオード2をさらに備える。各光ダイオードには、光ダイオードが受信する信号を増幅及び復調するための電子部品8が付属している。光ダイオードの目的は、アナログ復調により、複数の標的物のどの標的物の組が光ダイオードの視野内で見えるかを判定することである。上記の光ダイオードは、以下、本明細書でより詳細に説明する通り、姿勢の概定(大まかな判定)に用いられる。姿勢の概定は、デシメーションされたデータサンプルに基づく正確な姿勢の計算のための候補解群を絞り込むために用いられる。
【0030】
ワイヤレス通信モジュール3、電力供給能力を有するバッテリー4、慣性センサパッケージ6、プログラム可能なマイクロコントローラ7、オプションの扇状ビームレーザモジュール9、オプションのポイントビームレーザ又はレーザ測距モジュール10、USBサムドライブ等の取り外しが可能な外部データ記憶装置12がさらに備えられている。
【0031】
校正後の安定性を確保するため、センサ要素はアセンブリ座標又はハウジング11に堅固に固定される。POMEヘッドアセンブリ100は、回転補機及び測量補機を含めた様々な付属品に装着することができる。
【0032】
上記の通り、POMEヘッドアセンブリは、慣性測定センサを備える。好ましい実施例では、MEMsをベースとする右手系で3組のジャイロスコープ及びMEMsをベースとする右手系で3組の加速度計が用いられる。慣性測定センサの目的は、以下、本明細書で説明する通り、光学測定値が入手不能又は無効な場合に短期間のデッドレコニング(推測)を実行することである。慣性測量センサは、動作モードの切り替えを有効にするために用いてもよい。例えば、POMEシステムを動的モードから静的モードに切り替えるために用いてもよい。
【0033】
図3は、POMEヘッドのデータの流れ並びにセンサ要素からコンピュータ及び通信要素へのデータの流れを示す。好ましい実施例において、ハードウェアのトリガにより全てのカメラ1への露光が同期される。ハードウェアのトリガは、様々なソースから発生させることができる。例えば、マイクロコントローラのプログラム可能なタイマーを使用することができる。
【0034】
プログラム可能なマイクロコントローラ7から各カメラに、コマンドデータ及び設定データが送信される。プログラム可能なマイクロコントローラ7から慣性センサパッケージ6に、及びプログラム可能なマイクロコントローラ7から扇状ビームレーザパッケージ9及び/又はラインレーザパッケージ10にコマンドデータ及び設定データが送信される。
【0035】
各カメラ/レンズ・アセンブリ1からの大量のデータサンプルはデータデシメーション電子部品5によるフィルタにかけられ、デシメーションされたデータサンプルはマイクロコントローラ7に入力される。入力は、ボード上の直列若しくは並列の通信チャンネル又はバスを介して送信される。
【0036】
慣性センサ6からのデータサンプルは、通常はUSBデータ通信チャンネルを介して、マイクロコントローラ7に入力される。
【0037】
光ダイオード電子部品8からのデータサンプルは、通常はUSBデータ通信チャンネルを介して、マイクロコントローラ7に入力される。
【0038】
扇状ビームレーザパッケージ9及び/又はラインレーザパッケージ10からのデータサンプルは、通常はUSBデータ通信チャンネルを介して、マイクロコントローラ7に入力される。
【0039】
マイクロコントローラ7は、双方向ワイヤレス通信モジュール3経由で外部と通信を行う。
【0040】
マイクロコントローラ7は、USBサムドライブ等の取り外し可能な外部データ記憶装置12を用いてデータの記録/検索を行う。記録装置は、動作モードでは通常使用しない。後のパッチ処理のための測量及び校正プロセス中にセンサデータを保存するために用いる。
【0041】
図4は、回転補機500のアセンブリの構成の概略を示す。回転補機500はPOMEヘッドアセンブリ100に接続することができ、垂直回転軸でPOMEヘッドアセンブリ100を段階的に回転させるように機能する。
【0042】
静的動作モードにおいて、回転補機500は、POMEヘッドアセンブリ100が1回又は複数回完全に回転する間にカメラによる多数の個別の測定値を収集することで姿勢の判定精度を改善する。
【0043】
校正中に回転補機は、POMEヘッドアセンブリを回転させ、POMEヘッドアセンブリの全カメラの画像面における多くの位置で既知の標的物群のサンプルを収集する。これらの両方において、精密なモータ制御は必要とされないものの、方位角の段階的増加を高精度で把握する必要がある。
【0044】
回転補機500は、設置機構59を介してPOMEヘッドアセンブリ100が取り付けられる回転盤53から成る。回転盤53は、角度エンコーダ54を有するステッパモータの軸に取り付けられる。ステッパモータは、回転補機の基部に対して回転盤53及び取付済みのPOMEヘッドアセンブリ100を回転させることができる。高精度のモータ駆動は必要ないものの、角度エンコーダは、連続する方向ステーション間において角度Δψの段階的増加を10秒角以上の精度で計測するに十分なものでなければならない。
【0045】
角度エンコーダ54を有するステッパモータは、ステッパモータの回転軸がローカル重力ベクトルと揃っていることを確認するために動作するセルフレベリングプラットフォーム55に装着される。ステッパモータ及びレベリングプラットフォームは、プログラム可能なマイクロコントローラ57によって制御される。
【0046】
プログラム可能なマイクロコントローラ57は、ワイヤレス通信モジュール58経由で回転補機の外部にある第2のワイヤレス通信モジュールと通信することができる。
【0047】
バッテリー56は、回転補機の全構成要素に電力を供給することができる。
【0048】
図5は、測量補機1000のアセンブリの図を示す。測量補機1000はPOMEヘッドアセンブリ100に接続することができ、垂直回転軸の周りでPOMEヘッドアセンブリ100を回転させるよう機能する。測量補機は回転補機500と類似しており、コンピュータ制御の仰角プラットフォーム1014が追加されている。
【0049】
測量補機1000は、標的物の位置のデータベースを計算するに十分なデータサンプルを収集するため、測量モードでPOMEヘッドアセンブリ100とともに用いられる。方位軸制御と仰角軸制御を組み合わせると、標的物を順番にレーザ測距計のスポットビームの標的とすることができる。標的物の位置特定は、FOVが狭い標的物フィードバックカメラ1011からの光学フィードバックを用いたコンピュータ制御による検索によって実現する。
【0050】
測量補機は、設置機構1009を介してPOMEヘッドアセンブリ100が取り付けられる回転盤1003から成る。回転盤1003は、角度エンコーダ1004を有するステッパモータの軸に取り付けられる。ステッパモータは、測量補機の基部に対して回転盤1003及び取付済みのPOMEヘッドアセンブリ100を回転させることができる。標的物フィードバックカメラ1011からのフィードバック制御を用いてレーザ測距計を標的物の中心に向けるためには、高精度のモータ駆動が必要である。方位角エンコーダは、出発点からの角度Δψの段階的増加を10秒角以上の精度で計測するに十分なものでなければならない。
【0051】
角度エンコーダ1004を有するステッパモータは、ステッパモータの回転軸がローカル重力ベクトルと揃っていることを確認するために動作するセルフレベリングプラットフォーム1005に装着される。
【0052】
上記の測量補機の構成要素は、上記の回転アセンブリ500の構成要素と同じでよい。下記の測量補機の構成要素は、測量補機として回転アセンブリ500とともに使用してよい。
【0053】
測量補機の仰角プラットフォーム1014は、回転プラッター1003に対して水平軸の周りを回転することができる。方位角ステッパモータとともに仰角ステッパモータ及び角度エンコーダ1010を使用して、標的物フィードバックカメラ1011からのフィードバック制御により標的物の中心にレーザ測距計を向けることができる。10秒角超の精度で水平面に対する仰角Θを測定するには、仰角エンコーダで十分である。
【0054】
標的物フィードバックカメラ1011は、所望の標的物の周辺でレーザ測距計の照射箇所を観測することができる。標的物の中心から逸れた観測箇所で、レーザスポットを標的物の中心に正確に定めるためのフィードバック制御が可能である。標的物フィードバックカメラ1011からのデータサンプルは、マイクロコントローラ1007への入力となる。
【0055】
レーザ測距計1012からの測定データサンプルは、マイクロコントローラ1007に入力される。
【0056】
ステッパモータ及びレベリングプラットフォームは、レベリング、検索及びフィードバック標的判定、並びにレーザ測距といった機能を実現するためにプログラム可能なマイクロコントローラ1007によって制御される。
【0057】
プログラム可能なマイクロコントローラ1007は、ワイヤレス通信モジュール1008経由で回転補機の外部の第2のワイヤレス通信モジュールと通信する。
【0058】
バッテリー1006は、測量補機の全ての構成要素に電力を供給することができる。
【0059】
図6は、能動的標的物700Aのアセンブリの概略模式図である。アセンブリは、下記の通り、数個の構成要素に固定された回路板から成る。
【0060】
能動的標的物はLED701Aを備える。LEDの活性領域が1mm
2以下で、放射電力が軸方向に対象且つ一様な仰角の関数であることが理想的である。
【0061】
LED701Aは、反射環状部702Aに囲まれており、その機能はレーザ照射の集光及び範囲を定めることである。
【0062】
物理的フィーチャーを指定するために用いる隅部は、可視の矢印703Aで印されている。
【0063】
標的物識別シンボル704Aは機械可読で、704Aに対応する標的物識別シンボル705Aは人間可読である。
【0064】
さらに、対象識別において、各標的物はオンラインの標的物データベースとともに用いられ、以下でさらに述べる通り、標的物の位置に関連する全ての情報が得られる固有の識別記号を有する。標的物に位置情報を保存する必要はなく、むしろアクセスが可能な標的物のデータベースに保存される。
【0065】
固有の識別記号は、標的物固有の内部識別記号(TIUI)と標的物外部識別記号(TEI)の組み合わせとすることができる。TEIは、それに限定されることなく、標的物の位置の概略的なGPS座標であり得る。そうなると、TIUIの範囲は限定される。概略的なGPS座標の精度が1キロで、1キロ半径内に標的物が1000個未満とすることができれば、必要となるのは10ビットのアドレスのみである。余裕をもって、TEIには12ビットのアドレスが割り当てられている。
【0066】
さらに、標的物種別識別記号(TTI)を割り当てることで、能動的壁標的物、電動工具に取り付ける可動標的物、EDM内蔵の標的物等の異なる種別の標的物を判別することができる。少なくとも16の異なるTTIに4ビットのアドレスが割り当てられるため、固有の識別記号であるTIUIには合計16ビットが割り当てることができる。
【0067】
標的物の電子部品に電力を供給するに十分な交換、再充電、又は使い捨てが可能なバッテリー706Aが備えられている。
【0068】
標的物変調用電子部品707Aが備えられ、電力水準、標的物のコード/電磁周波数/デューティーサイクル等はスイッチ又は同等の手段によって手動で設定が可能である。
【0069】
取付機構708Aは、標的物の取り付けのために備えられている。この取り付けは、例えば、接着剤、磁石、吸引等の機構の何れか1つ又は組み合わせで行われる。
【0070】
オプションのワイヤレス通信モジュールを有するマイクロコントローラ709Aが備えられる。マイクロコントローラ及び通信要素は、標的物の動的ネットワークとともに使用される。マイクロコントローラは、コマンド又は作業空間の活動の有無に応じて標的物のスイッチの開閉に用いることもできる。
【0071】
ポート710Aは、外部電源供給のために備えられている。ポート710Aは、バッテリー無しでの継続動作又は充電バッテリーを充電するために用いることができる。
【0072】
本発明のシステムの実施例では、所定の周波数でのオン−オフシーケンス及びデューティーサイクル又は時系列で、複数の能動的標的物がそれぞれ変調される。変調の目的は、かかる複数の標的物から各標的物を一義的に識別することである。各能動的標的物の電力、デューティーサイクル、又は時系列は、ワイヤレス通信チャンネルのコマンドに応じて大きく変化させることができる。
【0073】
全標的物の変調シーケンスは、全標的物の時系列が既知の位相でお互いが揃うように時間同期してもよい。好ましい実施例において、全標的物の時間同期は、各標的物がその場のAC配電網の位相を感知することで実現する。
【0074】
実施例では、能動的標的物のネットワークと複数のカメラの時間同期が行われる。
【0075】
さらに同期に関連して、能動的標的物の屋内の位置の特定では、上記の通り、カメラが撮像した画像を処理することにより姿勢の計算が行われる。これらの時系列の画像が得られると仮定する場合、能動的標的物は、干渉及びマルチパスの影響下にある場合及びその他の情報がない場合の姿勢の計算を支援するよう構成される。画像内にある領域があるとすれば、その領域が能動的標的物の画像であるか、標的物以外の物であるかが判断される。例えば、画像内の明るい小領域は、標的物であることもあれば、車両のウインドスクリーンからの窓越しの太陽光の反射でもあり得る。これらのプロセスは、干渉検出及び干渉除去という。
【0076】
画像内に能動的標的物と判定される領域があるとすれば、この画像領域が既知の標的物(の候補)群のどの能動的標的物を示すかが判定される。このプロセスは、標的物登録という。
【0077】
さらに、画像内の領域が特定の標的物と判定された場合は、画像が標的物への直接的な光学視線であるか、光学面の何らかのシーケンスから判定された標的物の反射であるかがさらに判定される。これらのプロセスをマルチパス検出及びマルチパス除去という。
【0078】
これらの判定及びプロセスを支援するため、上記の通り標的物は変調されるが、さらに下記の通りさらなる変調が行われる。
【0079】
例えば、標的物の輝度が継時的に知られた通りに変化することが分かっていると、この知見を利用して太陽光のきらめきを標的物として考慮することから排除することができる。この簡単な変調手順により、干渉検出及び除去が行われる。別の簡単な変調手法では、標的物から発信される色が経時的に変化する。
【0080】
各標的物が特定且つ固有の時間の関数としてその輝度又は色を変化させることがさらに分かっている場合、この知見により各標的物を判別(明確化する)することができる。
【0081】
特定の標的物へのマッピングとして画像内で領域を判定することは、またマルチパス検出の支援にもつながる。固有の時刻署名を確認して画像内の複数の領域が標的物と判定されると、かかる領域は全て、直接の標的物の画像と見做すのではなく、むしろ潜在的なマルチパスと見做さなければならない。この場合、追加情報、継続のための条件、又は組み合わせによるアプローチをマルチパスの除去に使用することができる。
【0082】
能動的標的物については、上述の通り、本発明の原則に基づき様々な変調アプローチが考えられる。上記の通り、簡単な変調手順は、特定の時間周波数及びデューティーサイクルのオン/オフである。もう一つの簡単な時間変調手順は、特定の時間周波数における振幅変調である。振幅変調では、輝度が継時的に変化するが、標的物はオンの状態が継続する。さらにもう一つの手順は、色(光学周波数)を変化させる手順である。またさらにもう一つの手順は、時間周波数のシーケンス又は上記の手法の組み合わせである。
【0083】
「高周波標的物変調」の定義は、カメラのフレームレートを超える周波数で標的物の変調を実行することである。この場合、カメラを標的物の変調の変化の観察に使用することはできない。例えば、数個の標的物の経時的変調の周波数が1kHzの場合、フレームレートが約10Hzで動作中のカメラは標的物を判別できない。この場合、上記の通り、位置感応性検出器(PSD)又は光ダイオード等の追加のセンサを用いると、アナログ信号処理による標的物の明確化が可能となる。
【0084】
「低周波標的物変調」の定義は、カメラのフレームレート以下の周波数で標的物の変調を実行することである。この場合、カメラの画像を標的物の変調の観察に直接使用することができる。
【0085】
よって、以下では「低周波標的物変調」について述べる。
【0086】
所与の基底周波数において複数の標的物のそれぞれが固有の色と振幅(出力)の時系列により変調される場合における、複数の標的物について考察する。ここで基底周波数は「低周波数標的物変調」の定義により制限されている。この色及び振幅の「シンボル」のシーケンスが継続的に繰り返され、各サイクルに可能であればプリアンブル又はパリティチェックが含まれる。
【0087】
予め定義付けられた色及び振幅の「シンボル」の時系列を固有のコードと定義する。
【0088】
固有のコードの数は繰り返し前のコードシーケンスの長さと定義する。
【0089】
姿勢の判定において、判別(明確化)することができる標的物の数と判別プロセスを完了するために必要な画像数との間にトレードオフの関係がある。カメラのフレームレートを増やすと、所与のコード長に必要となる時間の長さが減少する。
【0090】
関連事項としては、カメラの露光時間間隔と標的物のシンボルの位相とを合わせることがある。
【0091】
実施例において、前述した及び
図3が示す通り、ハードウェアの信号又はトリガによって全カメラの同期が図られる。これによって、全カメラからの画像が時間的に一致する。
【0092】
実施例では、ネットワーク内の全標的物からのコードのシンボルの位相が時間的に一致するように、全標的物がお互いに同期される。さらなる改良発展形としては(全標的物が同じ長さのコードを用いると仮定して)、ネットワーク内の全標的物からのコード繰り返し周期の開始の時間的な一致が図られていることである。この改良により、全標的物がぞれぞれのコードシーケンスを完了することを待たなくても、ある標的物を観察してその他の全ての標的物のコード位相を想定することができるようになる。また、これにより、判別プロセスの完了にかかる合計時間の短縮につながる。GPSコードの位相と異なり、「時間の飛躍」による時間の遅れはこの手法において重要ではない。
【0093】
上記の目的のため、対象物の同期には、カメラのフレームレートに関連付けられた期間のたかだか約10%程度になるようにシンボルの位相の一致が行われることが必要である。この精度水準は、下記のいくつかの手段によって容易に実現することができる。
【0094】
最後の関連事項は、カメラの露光時間間隔の同期及び標的物のネットワークのシンボルの位相である。例えば、カメラの時間軸が標的物の時間軸に対してずれることがあれば、後々カメラの露光時間が標的物のシンボルの遷移時間を超えてしまうことが起こりうる。この問題を回避するために、前述の通り、カメラの露光時間の時間軸を標的物のネットワークの時間軸と合わせることができる。
【0095】
第1の実施例において、カメラ及び/又は標的物のネットワークの同期は、各標的物により電力供給のグリッド偏差の位相を観察することにより実現される。
【0096】
第2の実施例において、カメラ及び/又は標的物のネットワークの同期は、各標的物により間欠光パルス又は無線周波数パルスを観察することにより実現される。
【0097】
第3の実施例において、カメラ及び/又は標的物のネットワークの同期は、各標的物により有線又はワイヤレスの同期サーバからのタイミングパケット又は同期パケットを受信することにより実現される。
【0098】
さらに標的物は、前記の通り、標的物の投影画像としてもよい。好ましい実施例において、標的物の投影画像は、例えば、ローカル重力ベクトルと揃うか、直交することが知られている投影レーザ平面に配置された、レーザドット又はラインである。
【0099】
図7は、POMEシステムの動作モードのための方法1100を示す。図は、センサ及び施設基盤/校正入力からのデータの流れ、及びこれらをどのように処理してアルゴリズム、ハードウェアモジュール、及びソフトウェアモジュールによりリアルタイムで姿勢を推定するかを示す。
【0100】
POMEヘッドアセンブリのみに関連付けられたデータの流れについて最初に説明する。続いて、静的モードでの回転補機のオプション追加について述べる。
【0101】
リアルタイムの信号に加え、POMEヘッドアセンブリ及び施設基盤設備に特有な追加情報源が4つ存在する。これらについて以下で述べる。
【0102】
(1)標的物の位置データベース
前述の通り、標的物の位置データベースは、計測範囲に存在する標的物及び各標的物と関連付けられた属性データの計測範囲別のリストである。標的物の位置データベースは、静的でも、ワイヤレス通信によりリアルタイムで更新が可能でもよい。標的物の属性リストでは以下を対象とするが、以下に限定されない。
(a)標的物の種別を表示:能動的、受動的、又は投影;
(b)有効、無効、又はバッテリーの状態;
(c)動的又は非動的;
(d)IR及び可視スペクトル波長を含む光送信波長;
(e)デューティーサイクル、変調周波数、変調コード識別記号、同期の種類及び状態等の変調の種別及び識別記号;
(f)計測空間の基準点を識別する場合はブーリアン;
(g)所定の座標における標的物の位置座標
(h)所定の座標における標的物の位置の不確定性(共分散);
(i)人間可読及び/又は機械可読の標的物の識別記号
【0103】
(2)カメラ/レンズ点像分布関数(P.S.F.)校正
カメラ/レンズ単位のP.S.F.校正は、画像面の全ての位置でのインパルス応答の形状に係る校正手順に基づくデータである。このデータは、重心決定アルゴリズムで使用される。
【0104】
(3)レンズ歪み補正
カメラ/レンズ単位のレンズ歪み補正は、画像面座標の2次元誤差関数と校正工程で用いられる理想的数学モデルのパラメータの組み合わせである。これらのデータは、校正手順の出力データである。2次元関数を用いて、画像面の位置を数学的に理想的なモデルの位置に修正する。これらのデータは、画像面の位置をカメラに対する光線角度に変換するために必要となる。
【0105】
(4)外部校正
外部校正はPOMEヘッドアセンブリを対象に実行され、POMEアセンブリ座標に各センサの位置及び姿勢を関連付ける。これらのデータは校正手順の出力データであるとともに、W.L.S.による姿勢の推定に必要な入力データである。
【0106】
動作モードと関連付けられたデータの流れに関する説明に続いて、姿勢の概定値の推定がプロセス工程1101で説明されている。能動的標的物の信号は光ダイオードに感知され、光ダイオードの電子部品を用いて光ダイオードの視野内の全標的物からの信号を復調する。これによってマイクロコントローラは、整列された光ダイオードの各々によって観察される、能動的標的物群の中の標的物を決定することができる。POMEアセンブリ座標に対する既知の光ダイオードの視野、各光ダイオードの概定角度分解能、及び標的物のデータベースと組み合わせることにより、上記の情報は、POMEヘッドアセンブリの位置及び方向(姿勢)の概定値の計算に用いることができる。
【0107】
デシメーションフィルタプロセス工程1102
各カメラで、データレートは、(ピクセル数)×(フレーム数/秒)×(ビット数/ピクセル)で与えられる。例えば、10Hz及び1ピクセル当たり16ビットで動作する5メガピクセルのカメラは、カメラ当たり毎秒800万ビットとなる。このデータでは、標的物の周辺の関心領域(ROI)が占める割合は一般的に全体の5%未満である。余分なデータ、不要なデータ、又は破損したデータを削除するために、デシメーション(間引き)フィルタが用いられる。好ましい実施例において、デシメーションフィルタはFPGA等のハードウェアに実装される。
図2がさらに示す通り、POMEヘッドアセンブリ100のデータデシメーション用の電子部品5にデシメーションフィルタが実装される。生のピクセル強度サンプル又は空間フィルタをかけた強度サンプルが閾値と比較される。閾値は、画像面の位置の関数でもよく、またコンピュータの制御下で動的に変化させてもよい。閾値を超えた場合、画像面の位置の関心領域は、画像面の原点に対するROIのオフセット量とともに抽出される。それ以外のピクセルデータは全て削除される。デシメーションフィルタは、後の計算工程において処理が必要となるデータ量を大幅に減少させる。デシメーションフィルタから出力されるのは、関心領域群及びそのそれぞれのオフセットデータである。このデシメーションデータはヘッドアセンブリ100のマイクロコントローラ7にパスされ、その後のプロセス工程はソフトウェアに実装される。
【0108】
登録プロセス工程1103
関心領域が統合され、各領域に画像空間ブロブ(デシメーションフィルターの出力)が含まれるとすると、関心領域の画像空間ブロブ群をブロブのエネルギー源である標的物群と関連付けるプロセスが登録である。上記の通り、標的物の反射ではない干渉源及び内部表面からの標的物の反射を検出及び削除することも必要である。姿勢の概定及び標的物の位置データベースを用いて、登録候補群に形状に関する制限を加える。標的物の識別記号と画像空間ブロブとの関連付けには不確実性が残る場合もある。この場合、少数の候補の関連付けをW.L.S.姿勢推定及び選択された最小の余剰候補に基づき検証する必要があるかもしれない。以下でさらに述べる通り、この選択プロセスの可能性は、W.L.S.姿勢推定工程後のフィードバックループ「余剰はOK?」により示唆される。登録プロセスの出力は、位置が既知の標的物と関連付けられている画像空間ブロブ群である。複数のカメラから見える標的物もあれば、どのカメラからも見えない標的物もある。
【0109】
重心決定プロセス工程1104
関心領域にブロブがあれば、ブロブの重心の画像面座標が決定される。ブロブの形状は、画像面の位置の関数であり、一般的に非凹状及び非対称である。点像分布関数(P.S.F.)による校正は、画像面の全位置を対象とする校正プロセスの間に記録されたブロブの形状群である。この記録されたデータは、重心決定プロセスで用いられる。好ましい実施例において、このプロセスでは画像面の局所特性に基づく基準ブロブとデータブロブとの最小2乗フィッティングが行われる。重心決定プロセスの出力は、ピクセル単位の画像面xの位置のベクトル及び画像面yの位置のベクトルである。さらに、標準偏差値σの1シグマのベクトルも生成される。標準偏差ベクトルは誤差モデルによって決まり、誤差モデルのパラメータは校正プロセスで決定される。各測定において、標準偏差は観測された信号水準、飽和状態の有無、標的物への距離と角度、及び画像面でのブロブの位置によって決定される。
【0110】
レンズ歪み補正プロセス工程1105
レンズ歪み補正では、カメラ/レンズ単位の2次元歪み補正関数を用いて、決定された重心の位置を補正する。2次元歪み補正関数は、校正プロセス中に生成される。補正された重心の位置は、理想的な投影モデルとともに用いられ、標的物群の共線性比を示唆する。レンズ歪み補正プロセスの出力は、共線性比群であり、この共線性比群はそれぞれが標的物の識別記号及び各測定で1つ割り当てられる標準偏差値σのベクトルと関連付けられている。各カメラは、内部で測定された気温を出力することができる。これによって、2次元歪みレンズ補正関数を校正中に気温が一定のいくつかの箇所で記録することができる。好ましい実装例において、動作中に用いられる2次元レンズ歪み補正関数の値は、カメラの測定温度を網羅する校正テーブルに基づく補間値である。
【0111】
加重最小二乗法による姿勢推定プロセス工程1106
姿勢推定工程のための入力としては、全登録標的物についての標的物の位置データベース、外部校正データ、姿勢の概定又はカルマンフィルタ姿勢推定、並びに共線性比及び標準偏差値がある。データ処理では、非線形加重最小二乗法(W.L.S.)による最適化により、所定の基準座標内のアセンブリ座標の姿勢の6つのパラメータ及びこれらのパラメータの推定の分散境界を特定する。姿勢及び分散の推定に加え、測定データと姿勢推定がどれだけ一致しているかを示す余剰ベクトルの計算が実行される。結果は、カメラデータが得られたカメラの露光時間の中間点にタイムスタンプで付される。発散、単一性、又は間違った結果への終息といったアルゴリズムの問題が可能性として考えられる。このような理由から、カルマンフィルタによる姿勢推定又は姿勢概定プロセスからの初期値を用いて、W.L.S.による推定校正を開始してよい。好ましい実装例において、動作中に用いられる外部校正データの値は、POMEヘッドアセンブリの測定温度を網羅する範囲の気温で取得した外部校正結果からの補間値である。
【0112】
登録候補反復
登録工程で標的物が不正確に登録されると、その検出は、W.L.S.推定工程後に余剰ベクトルを検証し、W.L.S.の結果と姿勢の概定及び/又はカルマンフィルタの状態を比較することにより行われ得る。無効と判定された場合、ループ1107の「余剰はOK?」が示唆する通りに他の登録候補の処理を実行することができる。最適の候補を選ぶことができるが、全ての候補が不適である場合、プロセスを中止することができる。
【0113】
カルマンフィルタプロセス工程1108
カルマンフィルタ(KF)は、様々な測定値からのデータを統合するための周知のアルゴリズムであるが、タイムスタンプが揃わない可能性があるうえ、測定が変動し不確実である。一般的にKFは、時刻更新(T.U.)シーケンス及び測定更新(M.U.)工程として実装されている。好ましい実装例では、慣性パッケージ(工程1109)からの高データレートでの測定値がT.U.シーケンスで用いられ、姿勢の推定を経時的に伝播させるとともに、この伝播期間において姿勢の共分散を増加させる。W.L.S.姿勢推定から有効な結果が得られた場合は、W.L.S.姿勢推定による低レートの結果はM.U.工程で用いられ、KFの状態を向上させるとともに、姿勢特定の不確実性を低減する。
【0114】
動的的動作中には、カメラの測定値が一定期間ブロックされる可能性又は角速度が大きくなりすぎてカメラの測定値を用いることができない可能性がある。かかる期間中にKFの向きの状態の伝播が数分間有効であり得るのは、その前の期間中にジャイロバイアスが校正された場合である。かかる期間中には、加速度計の測定値の誤差の二重積分により、KFの位置状況の伝播がほんの数秒発散する(無効になる)。かかる期間後にシステムを再初期化するために、光ダイオードのサンプルに基づく姿勢の概定とKFの向きの状態を組み合わせて信頼性の高い瞬時の登録を実現することが可能となる。
【0115】
本発明の原則及び実施例では、W.L.S.姿勢推定工程の完了をもって対象物の姿勢が決定される。しかし、上記の通り、この姿勢推定は、動的的モード等で座標が移動する場合には不正確になることがある。このような状況下では、上述の通り、カルマンフィルタプロセス工程を用いて対象物の姿勢をさらに計算してよい。従って、「リアルタイム」の姿勢は、POMEヘッドアセンブリの動的的状態に基づく姿勢の伝播、即ちデッドレコニングにより動的的モードでさらに計算することができる。
【0116】
さらに動作モードにおいて、デシメーションフィルタ並びに回転補機、MEMs、及び光ダイオードのハードウェア構成要素の機能以外の
図7が示す機能は、POMEヘッドアセンブリ100のマイクロコントローラ7により実行される。マイクロコントローラは、POMEヘッドアセンブリの計算機能を実行するようプログラムすることができる。
【0117】
静的モード。上記の通り、静的モードでは、可動範囲の位置でPOMEヘッドアセンブリが回転補機に取り付けられている。慣性測定値及びカメラ測定値は、POMEヘッドアセンブリが固定状態にあることを判定するために用いることができる。自動モードの選択及び変更も可能である。回転補機は、方位角が段階的に増加するようにPOMEヘッドアセンブリを垂直軸の周りを回転させるために用いられる。非限定的な例として、角度が毎秒5度増加する回転は妥当と思われる。段階的な回転の間の静止期間は、視野にある全標的物からカメラデータを取得することができる。すでに詳述した通り、これらのカメラデータはW.L.S.姿勢測定値の生成に用いることができる。KFは、W.L.S.姿勢測定値だけでなく、回転補機から得られる回転による方位角の増加に基づいて更新することができる(
図7の工程1110)。非限定的な例としては、回転による方位角の増加であるΔψが1秒間隔でKFに取り込まれる。
【0118】
図8は、POMEシステムの測量モードのための手法を示す。測量モードでは、標的物群が座標での測量へと取り込まれる。以下でさらに述べる通り、POMEヘッドアセンブリからの対象画像の測定値群は、標的物への正確なレーザ測距により増強される。よって、これらの測定値は、全体として標的物の位置群の計算を高精度で行うに十分である。
【0119】
図8は、センサ及び校正入力からのデータの流れ並びにこれらをどのように処理して標的物の位置データベースを処理後のバッチ工程において構築するかを示す。バッチ処理では、POMEヘッドアセンブリ及び測量補機の両方のセンサからディスクに保存されたデータを用いるうえ、POMEヘッドアセンブリ及び測量補機のアセンブリを複数の異なる形態で配置が可能な状況において該データを用いる。
【0120】
測量モードの実施例においては、POMEヘッドアセンブリから複数の標的物又は基準点が見える位置で、ユーザがPOMEヘッドアセンブリと測量補機(測量アセンブリ)を作業空間に置く。目的は、測量補機のレーザ測距要素を用いて、全標的物のカメラ測定値並びに全標的物及び基準点までの距離の測定値を収集することである。測量アセンブリを複数の位置に移動させて全標的物及び基準点のサンプルが収集されたことを確認する必要性もあり得る。このような必要性が生じるのは、作業空間が不規則な形状又は視線の妨げになるものが多い場合である。
【0121】
レーザ測距を行うには、レーザの光学軸を測定の対象となる標的物又は基準点の中心と整列させる(揃える)ことが必要である。整列工程は、レーザビームと整列されるとともに、レーザ波長に高感度の狭い視野を有する標的物フィードバックカメラにより効率よく実行される。レーザスポットの視程は、各標的物の中心の周りの反射リングによっても向上される。対象設定機能は、手動で実行することも、又はコンピュータ制御により自動化することもできる。レーザ測距に加え、角度エンコーダからの方位角及び仰角が記録される。方位角の測定は、未知の出発点に対して行われる。仰角の測定は、水平面に対して行われる。データ収集中は、セルフレベリング機能により、垂直回転軸がローカル重力ベクトルと整列させられる。POMヘッドアセンブリからの加速度計データは、局所水準の判定又は加速度計のバイアスを推定するために保存してもよい。
【0122】
図8は、様々なアルゴリズム、ハードウェア、及びソフトウェアを通じたカメラ、レーザ測距、及びエンコーダのデータの処理を示す。カメラ及びデシメーションフィルタ1202のブロックは、動作モードについて記載されたブロックと同一である。登録プロセス1203の相違点は、標的物の位置データベースがないにもかかわらず、整列された光ダイオードからの標的物の復調信号を用いると標的物の全般的な方向の判定及び識別が可能になることである。
【0123】
再度、登録プロセスの出力は、標的物のブロブと標的物の識別記号を関連付けるものである。作業空間内の基準点に能動的標的物が配置されていない場合、基準点を識別し、手動で標的物を定めるには人間の操作が必要となる。重心決定工程1204及びレンズ歪み補正工程1205は、動作モードについて記載された工程と同一である。
【0124】
測量アセンブリを配置する度に、視野内の各標的物及び各基準点について、以下のデータがディスク1211に記録される。
1.視野内の全標的物までのカメラ測定値1206
2.仰角測定値1207
3.方位角測定値1208
4.レーザ測距値1209
【0125】
POMEヘッドアセンブリからの加速度計データ1210は、局所水準の判定又は加速度計のバイアスを推定するために保存してもよい。
【0126】
データ収集完了後は、別のバッチ処理1212で収集データを処理する。バッチ処理により、各標的物の位置の不確実性の推定結果とともに標的物の位置データベース1213が出力される。
【0127】
デシメーションフィルタ並びに測量補機及びMEMsのハードウェア構成要素の機能以外の
図8が示す機能は、POMEヘッドアセンブリ100のマイクロコントローラ7及び/又は測量補機のマイクロコントローラ1007により実行される。マイクロコントローラは、これらの計算機能を実行するようプログラムすることができる。
【0128】
図9は、測量モードのデータ収集及び自動化のための手法を更に説明するフローチャートである。第1列は、基準点群を識別し、標的とするための人間による判断を必要とする工程を示す。基準点は、計測範囲内の既知の地点であって、標的物の位置を計測範囲の座標系と関連付けるのに使用される。それには少なくとも2つの基準点が必要である。
【0129】
第2列は、能動的標的物群の測距値を識別及び取集するために使用される工程を示す。第3列は、光学フィードバックを用いてレーザ標的の設定及び測距をコンピュータで自動化するために必要な詳細な工程を示す。
【0130】
図10は、POME校正用具1300を示す図である。この用具は、安定したプラットフォーム1303と安定/強固な構造物1305から成る。多数の標的物700が安定したプラットフォームの原点に対して既知の位置で安定した構造物に取り付けられている。好ましい実施例では、カメラが軸の周りを回転するので、標的物群がカメラの視野の境界線を超える平面に拘束される。カメラ画像内で標的物のブロブが密集する状態になるように、標的物がお互いに十分に近く配置される。点像分布関数が標的物の特徴と関連付けることができる程度に標的物を小さくするために、この用具はサイズが小さくなるように設計されている。サンプル化された点像分布関数は、画像面内の全地点で記録され、重心決定プロセスの動作モードで用いられる。
【0131】
標的物700は、能動的でも受動的でもよい。受動的標的物は、制御により外部から照光してもよい。
【0132】
上記の能動的及び受動的標的物に加え、投影標的物群を用いてもよい。投影標的物の画像は、どの形式でもよい。好ましい実施例において、投影標的物は、上記の通り、レーザビ−ム及びレーザファンを平面に投影して得られる点と線である。例えば、水平レーザ線1306は、POMEヘッドアセンブリの水平レーザファンビームを平面に投影することで形成される。
【0133】
校正を行うため、校正の対象となるPOMEヘッドアセンブリ100を、安定したプラットフォーム1303上の回転補機1302(
図4の回転補機500)に装着する。POMEヘッドアセンブリをコンピュータ制御により徐々に垂直軸の周りを回転させる。各ステーションで、カメラデータ及び方位角の測定値がディスクに保存される。
【0134】
好ましい実施例において、校正アセンブリ(POMEヘッドアセンブリ100及び回転補機1302)は、温度制御室内に配置される。温度制御室は、整列された標的物を可視化するスロットを有する。校正手順を2つ以上の制御された温度で実行することで、数個の校正データセットを記録することができる。動作モードでは、使用された校正データを、動作温度を含む2つのデータセットに基づく補間データとすべきである。
【0135】
図11は、POMEヘッドアセンブリの校正機能のための方法1400を示す。図は、標的物の位置での入力及びセンサからのデータの流れ並びにこれらがどのように処理されて、カメラ単位の内部校正及びPOMEヘッドアセンブリの外部校正が実行されているかを示す。バッチ処理では、POMEヘッドアセンブリと回転補機の両方のセンサからディスクに保存されたデータが用いられる。
【0136】
校正を実行するために、POMEヘッド100と回転補機1302のアセンブリを安定したプラットフォーム1303に設置する。データ収集中に、垂直回転軸は、自動レベリング機能によりローカル重力ベクトルと整列される。POMEヘッドアセンブリからの加速度計データは、局所水準の判定又は加速度計のバイアス及び姿勢の誤差を推定するために保存してもよい。垂直回転軸の周りでPOMEヘッドアセンブリを徐々に回転させると、標的物が存在する垂直面を通して各カメラの視野が順に回転する。視野全体で各カメラの画像面のサンプルを収集するには、全ての画像を統合するだけで足りる。
【0137】
図11は、様々なアルゴリズム、ハードウェア、及びソフトウェアを通じたカメラ及びエンコーダのデータの処理を示す。カメラ及びデシメーションフィルタのブロック1402は、動作モード及び測量モードについて記載されているブロックと同一である。標的物とブロブの関連付けが形状及び方位角の測定に基づき容易に決定できるため、登録プロセスについては割愛する。登録ステップは、後のバッチ処理の一部として実行される。
【0138】
回転シーケンスの各ステーションで、以下のデータがディスク1406に記録される。
1.視野内での全標的物のブロブに関する関心領域1403
2.方位角測定値1404
3.慣性測定値1405
【0139】
データ収集完了後、別のバッチ処理1407で収集データを処理する。バッチ処理の出力は以下の通り。
1.以下を含む各カメラの内部校正
(a)以下を含むレンズ誤差モデル1408
i.理想的な投影モデルパラメータ
ii.x−y二次元歪み補正機能2D
(b)レンズP.S.F.校正1409
2.POMEヘッドアセンブリ1410の外部校正
【0140】
好ましい実装例では、これらのデータは2つ以上の安定した温度において記録される。
【0141】
デシメーションフィルタ並びに回転補機及びMEMsのハードウェア構成要素の機能以外の
図11が示す機能は、POMEヘッドアセンブリ100のマイクロコントローラ7及び/又は回転補機500/1302のマイクロコントローラ57により実行することができる。これらのマイクロコントローラは、これらの計算機能を実行するようプログラムすることができる。
【0142】
さらに本発明の校正プロセスにおいて、実施例では、画像面の測定値群が校正レンズモデルに基づくセオドライト角度の推定に用いられる。次に推定セオドライト角度は、パン角度及びチルト角度の正確な測定値と直接比較される。このようにして、画像面の余剰とは対照的に、測定ノイズ、補間誤差、及び逆投影の非線形性の影響が推定ではなく直接測定される。
【0143】
上記の記載は、本願の発明を説明することをのみを目的し、限定することを目的としたものではない。本発明の精神と実体を取り込んだ、記載された実施例の変形は当業者に想到可能であることから、本発明は特許請求の範囲及びそれと同等の記載に基づく技術的範囲内の全てを網羅すると解釈されるべきである。