(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】
(24)【登録日】2022-05-18
(45)【発行日】2022-05-26
(54)【発明の名称】マルチレベル拡大被写界深度画像処理機能を備えた可変焦点距離レンズ
(51)【国際特許分類】
G02B 21/36 20060101AFI20220519BHJP
G02B 3/14 20060101ALI20220519BHJP
【FI】
G02B21/36
G02B3/14
(21)【出願番号】P 2017223985
(22)【出願日】2017-11-21
【審査請求日】2020-10-06
(32)【優先日】2016-11-23
(33)【優先権主張国・地域又は機関】US
(73)【特許権者】
【識別番号】000137694
【氏名又は名称】株式会社ミツトヨ
(74)【代理人】
【識別番号】100079108
【氏名又は名称】稲葉 良幸
(74)【代理人】
【識別番号】100109346
【氏名又は名称】大貫 敏史
(74)【代理人】
【識別番号】100117189
【氏名又は名称】江口 昭彦
(74)【代理人】
【識別番号】100134120
【氏名又は名称】内藤 和彦
(72)【発明者】
【氏名】ロバート カーミル ブリル
(72)【発明者】
【氏名】長濱 龍也
【審査官】堀井 康司
(56)【参考文献】
【文献】特開2015-104136(JP,A)
【文献】特開2006-145793(JP,A)
【文献】国際公開第2015/015966(WO,A1)
【文献】特開2010-050877(JP,A)
【文献】米国特許出願公開第2009/0166426(US,A1)
(58)【調査した分野】(Int.Cl.,DB名)
G02B 19/00-21/00
G02B 21/06-21/36
G02B 3/14
(57)【特許請求の範囲】
【請求項1】
撮像システムに関連するユーザインタフェースに表示されるワークピースのライブ拡大被写界深度(EDOF)画像を提供するための方法であって、
前記ワークピースは、前記撮像システムの視野に沿った方向に平行移動することができ、
前記撮像システムは、
可変音響式屈折率分布型(TAG)レンズを含み、前記TAGレンズに周期的に変更された光学パワー変動を与え、これによって前記撮像システムに対応する焦点距離変動を与えるように制御される、レンズシステムと、
前記TAGレンズを制御するように構成されたレンズ制御部を備える制御システムと、
前記撮像システムの複数の焦点距離において前記レンズシステムからワークピース画像光を入力すると共に、未処理EDOF画像に対応する未処理EDOF画像データセットを出力するように構成されたカメラと、
前記未処理EDOF画像データセットが入力されると共に、これを処理して、対応した表示されるEDOF画像におけるデフォーカスブラーを除去するための画像処理を実行することに基づくEDOF画像データセットを与えように構成された画像処理部と、
を備え、前記方法は、
前記カメラを繰り返し動作させて、経時的な前記ワークピースの未処理EDOF画像のシーケンスに対応した経時的な前記未処理EDOF画像データセットのシーケンスを出力することと、
現時点での前記撮像システムの視野に沿った方向の前記ワークピースの現在の平行移動速度に対応した平行移動状態信号を繰り返し決定することと、
現時点での前記平行移動状態信号の状態に基づいて、前記ユーザインタフェースに表示される前記ワークピース
のライブEDOF画像を繰り返し更新することと、
を含み、前記ライブEDOF画像を繰り返し更新することは、
第1の現在の平行移動速度に対応する第1の平行移動状態信号に応答して、前記ワークピースの第1のタイプのライブEDOF画像中のデフォーカスブラーを除去するための第1のレベルの画像処理を実行することに基づくEDOF画像データセットに対応して、前記ユーザインタフェースに、前記第1のタイプのライブEDOF画像を表示することと、
前記第1の現在の平行移動速度よりも速い第2の現在の平行移動速度に対応する第2の平行移動状態信号に応答して、
前記ワークピースの第2のタイプのライブEDOF画像中のデフォーカスブラーを除去するための、前記第1のレベルの画像処理よりも少ない画像処理に相当する第2のレベルの画像処理を実行するこ
とに基づくEDOF画像データセットに対応して、前記ユーザインタフェースに、前記第2のタイプのライブEDOF画像を表示することと、
を含
み、
前記第1のレベルの画像処理は、前記第1のタイプのライブEDOF画像において第1のレベルの解像度でデフォーカスブラーを除去し、
前記第2のレベルの画像処理は、前記第2のタイプのライブEDOF画像において第2のレベルの解像度でデフォーカスブラーを除去し、
前記第2のレベルの解像度は、前記第1のレベルの解像度よりも低い、
方法。
【請求項2】
前記第2のタイプのライブEDOF画像は、未処理EDOF画像データセットに対応する未処理EDOF画像であり、
前記EDOF画像データセットは、前記第2のタイプのライブEDOF画像で用いられる前記未処理EDOF画像からデフォーカスブラーを除去するための画像処理を実行しないことに基づいている、請求項1に記載の方法。
【請求項3】
デフォーカスブラーを除去する画像処理は、前記レンズシステムの動作を特徴付ける所定の積分点像分布関数に基づいた前記未処理EDOFデータセットのデコンボリューション処理を含む、請求項
1又は2に記載の方法。
【請求項4】
前記第1のレベルの解像度は、前記未処理EDOF画像データセットの解像度に対応する最大画素レベルの解像度である、請求項
1又は2に記載の方法。
【請求項5】
前記第2のタイプのライブEDOF画像は、前記第2のタイプのライブEDOF画像において前記第2のレベルの解像度でデフォーカスブラーを除去する第2のレベルの画像処理を実行することに基づくEDOF画像データセットに対応し、
前記第2のレベルの画像処理は、
前記未処理EDOF画像データを処理して、対応するマルチピクセルカーネルのセットを画定し、
各マルチピクセルカーネルの画素レベルのデータの平均化又は結合の少なくとも一方を行うことで、各マルチピクセルカーネルを特徴付ける低減量のマルチピクセルカーネルレベルデータを与え、
前記マルチピクセルカーネルレベルデータを処理して、前記第2のタイプのライブEDOF画像中の前記マルチピクセルカーネルのサイズに対応した解像度レベルでデフォーカスブラーを除去する、
ように構成されている、請求項
4に記載の方法。
【請求項6】
前記ライブEDOF画像を繰り返し更新することは、
前記第2の現在の平行移動速度よりも速い第3の現在の平行移動速度に対応する第3の平行移動状態信号に応答して、前記ユーザインタフェースに前記ワークピースの第3のタイプのライブEDOF画像を表示することを更に含み、
前記第3のタイプのライブEDOF画像は、デフォーカスブラーを除去するための画像処理を実行しないことに基づくEDOF画像データセットに対応する、請求項
1又は2に記載の方法。
【請求項7】
前記繰り返し更新することは、少なくとも前記第2の平行移動状態信号に対応した動作状態の間に、前記ユーザインタフェース(UI)に表示されるワークピースの前記ライブEDOF画像が少なくとも1秒当たり10回繰り返し更新されるようなレートで実行される、請求項1に記載の方法。
【請求項8】
前記繰り返し更新することは、少なくとも前記第2の平行移動状態信号に対応した動作状態の間に、前記ユーザインタフェース(UI)に表示されるワークピースの前記ライブEDOF画像が少なくとも1秒当たり25回繰り返し更新されるようなレートで実行される、請求項
7に記載の方法。
【請求項9】
前記TAGレンズは、少なくとも3kHzの周波数で周期的に変更される光学パワー変動を与えるように制御され、
前記カメラは、前記周期的に変更される光学パワー変動の複数の周期にわたる露光期間中に、前記撮像システムの複数の焦点距離において前記レンズシステムからワークピース画像光を入力するように構成されている、請求項1に記載の方法。
【請求項10】
前記複数の焦点距離は、前記撮像システムの最大焦点範囲の少なくとも70%に及ぶように構成されている、請求項
9に記載の方法。
【請求項11】
前記周期的に変更される焦点距離と同期された強度変動を有する照明を提供することを更に含み、
第1の照明強度が前記撮像システムの前記最大焦点範囲の少なくとも内側の70%の焦点距離に対して各露光成分を与え、前記第1の照明強度より小さい第2の照明強度が前記最大焦点範囲の少なくとも70%よりも外側の焦点距離に対して各露光成分を抑制する、請求項
10に記載の方法。
【請求項12】
前記平行移動状態信号を決定することは、
移動制御速度を決定すること、
倍率レベルと組み合わせて移動制御速度を決定すること、
前記ワークピースが配置されている前記撮像システムのステージの移動速度を決定すること、又は
一連の画像を解析して、前記画像中の少なくとも1つの要素の平行移動量を決定すること、
のうち少なくとも1つを含む、請求項1に記載の方法。
【請求項13】
前記第1のタイプのライブEDOF画像を表示することは、前記第1の平行移動状態信号又は前記第1の現在の平行移動速度のうち少なくとも一方が速度関連閾値未満であるという判定に応じて実行され、
前記第2のタイプのライブEDOF画像を表示することは、前記第2の平行移動状態信号又は前記第2の現在の平行移動速度のうち少なくとも一方が前記速度関連閾値を超えているという判定に応じて実行される、請求項1に記載の方法。
【請求項14】
前記速度関連閾値を規定する入力をユーザから受信することを更に含み、
前記ライブEDOF画像を繰り返し更新することは、前記速度関連閾値に従って自動的に実行される、請求項
13に記載の方法。
【請求項15】
前記焦点距離は、単一の焦点距離における撮像システムの被写界深度の少なくとも20倍に及ぶ複数の焦点距離にわたって周期的に変更される、請求項1に記載の方法。
【請求項16】
ワークピースのライブ拡大被写界深度(EDOF)画像を提供するためのビジョンシステムであって、
撮像システムと、1つ以上のプロセッサとを備え、
前記撮像システムは、
可変音響式屈折率分布型(TAG)レンズを含み、前記TAGレンズに周期的に変更された光学パワー変動を与え、これによって前記撮像システムに対応する焦点距離変動を与えるように制御される、レンズシステムと、
前記TAGレンズを制御するように構成されたレンズ制御部を備える制御システムと、
前記撮像システムの複数の焦点距離において前記レンズシステムからワークピース画像光を入力すると共に、未処理EDOF画像に対応する未処理EDOF画像データセットを出力するように構成されたカメラであって、繰り返し動作させることで経時的な前記ワークピースの未処理EDOF画像のシーケンスに対応した経時的な前記未処理EDOF画像データセットのシーケンスを出力する、カメラと、
前記未処理EDOF画像データセットが入力されると共に、これを処理して、対応した表示されるEDOF画像におけるデフォーカスブラーを除去するための画像処理を実行することに基づくEDOF画像データセットを与えように構成された画像処理部と、
プログラミングされた命令を記憶しているメモリと、
を備え、
前記1つ以上のプロセッサは、前記プログラミングされた命令を実行して、現時点での前記撮像システムの視野に沿った方向の前記ワークピースの現在の平行移動速度に対応した平行移動状態信号の状態に基づいて、ユーザインタフェースに表示される前記ワークピースのライブEDOF画像を繰り返し更新することを含む動作を実行するように構成されており、
前記ライブEDOF画像を繰り返し更新することは、
第1の現在の平行移動速度に対応する第1の平行移動状態信号に応答して、前記ワークピースの第1のタイプのライブEDOF画像中のデフォーカスブラーを除去するための第1のレベルの画像処理を実行することに基づくEDOF画像データセットに対応して、前記ユーザインタフェースに、前記第1のタイプのライブEDOF画像を表示することと、
前記第1の現在の平行移動速度よりも速い第2の現在の平行移動速度に対応する第2の平行移動状態信号に応答して、
前記ワークピースの第2のタイプのライブEDOF画像中のデフォーカスブラーを除去するための、前記第1のレベルの画像処理よりも少ない画像処理に相当する第2のレベルの画像処理を実行するこ
とに基づくEDOF画像データセットに対応して、前記ユーザインタフェースに、前記第2のタイプのライブEDOF画像を表示することと、
を含
み、
前記第1のレベルの画像処理は、前記第1のタイプのライブEDOF画像において第1のレベルの解像度でデフォーカスブラーを除去し、
前記第2のレベルの画像処理は、前記第2のタイプのライブEDOF画像において第2のレベルの解像度でデフォーカスブラーを除去し、
前記第2のレベルの解像度は、前記第1のレベルの解像度よりも低い、
ビジョンシステム。
【請求項17】
前記第2のタイプのライブEDOF画像は、未処理EDOF画像データセットに対応する未処理EDOF画像であり、
前記EDOF画像データセットは、前記第2のタイプのライブEDOF画像で用いられる前記未処理EDOF画像からデフォーカスブラーを除去するための画像処理を実行しないことに基づいている、請求項
16に記載のビジョンシステム。
【請求項18】
デフォーカスブラーを除去する画像処理は、前記レンズシステムの動作を特徴付ける所定の積分点像分布関数に基づいた前記未処理EDOFデータセットのデコンボリューション処理を含む、請求項
16に記載のビジョンシステム。
【請求項19】
撮像システムに関連するユーザインタフェースに表示されるワークピースのライブ拡大被写界深度(EDOF)画像を提供するための方法であって、
前記ワークピースは、前記撮像システムの視野に沿った方向に平行移動することができ、
前記撮像システムは、
可変音響式屈折率分布型(TAG)レンズを含み、前記TAGレンズに周期的に変更された光学パワー変動を与え、これによって前記撮像システムに対応する焦点距離変動を与えるように制御される、レンズシステムと、
前記TAGレンズを制御するように構成されたレンズ制御部を備える制御システムと、
前記撮像システムの複数の焦点距離において前記レンズシステムからワークピース画像光を入力すると共に、未処理EDOF画像に対応する未処理EDOF画像データセットを出力するように構成されたカメラと、
前記未処理EDOF画像データセットが入力されると共に、これを処理して、対応した表示されるEDOF画像におけるデフォーカスブラーを除去するための画像処理を実行することに基づくEDOF画像データセットを与えように構成された画像処理部と、
を備え、前記方法は、
前記カメラを繰り返し動作させて、経時的な前記ワークピースの未処理EDOF画像のシーケンスに対応した経時的な前記未処理EDOF画像データセットのシーケンスを出力することと、
現時点での前記撮像システムの視野に沿った方向の前記ワークピースの現在の平行移動速度に対応した平行移動状態信号を繰り返し決定することと、
現時点での前記平行移動状態信号の状態に基づいて、前記ユーザインタフェースに表示される前記ワークピースのライブEDOF画像を繰り返し更新することと、
を含み、前記ライブEDOF画像を繰り返し更新することは、
第1の現在の平行移動速度に対応する第1の平行移動状態信号に応答して、前記ワークピースの第1のタイプのライブEDOF画像中のデフォーカスブラーを除去するための第1のレベルの画像処理を実行することに基づくEDOF画像データセットに対応して、前記ユーザインタフェースに、前記第1のタイプのライブEDOF画像を表示することと、
前記第1の現在の平行移動速度よりも速い第2の現在の平行移動速度に対応する第2の平行移動状態信号に応答して、
前記ワークピースの第2のタイプのライブEDOF画像中のデフォーカスブラーを除去するための、前記第1のレベルの画像処理よりも少ない画像処理に相当する第2のレベルの画像処理を実行すること、又は
前記第2のタイプのライブEDOF画像中のデフォーカスブラーを除去するための画像処理を実行しないこと、
のうち少なくとも一方に基づくEDOF画像データセットに対応して、前記ユーザインタフェースに、前記第2のタイプのライブEDOF画像を表示することと、
を含み、
前記第2のタイプのライブEDOF画像は、前記第2のタイプのライブEDOF画像において前記第2のレベルの解像度でデフォーカスブラーを除去する第2のレベルの画像処理を実行することに基づくEDOF画像データセットに対応し、
前記第2のレベルの画像処理は、
前記未処理EDOF画像データを処理して、対応するマルチピクセルカーネルのセットを画定し、
各マルチピクセルカーネルの画素レベルのデータの平均化又は結合の少なくとも一方を行うことで、各マルチピクセルカーネルを特徴付ける低減量のマルチピクセルカーネルレベルデータを与え、
前記マルチピクセルカーネルレベルデータを処理して、前記第2のタイプのライブEDOF画像中の前記マルチピクセルカーネルのサイズに対応した解像度レベルでデフォーカスブラーを除去する、
ように構成されている、
方法。
【発明の詳細な説明】
【技術分野】
【0001】
本開示は、一般に可変焦点レンズを用いた精密計測に関し、より詳細には、マシンビジョン検査システム又はその他のビジョンシステムにおいて利用できるような拡大被写界深度撮像動作に関する。
【背景技術】
【0002】
精密マシンビジョン検査システム(又は略して「ビジョンシステム」)は、物体の精密な寸法測定値を得ると共に他の様々な物体の特徴を検査するために使用される。そのようなシステムは、コンピュータと、カメラと、光学システムと、ワークピースの走査及び検査を可能とするために移動する精密ステージと、を含み得る。汎用の「オフライン」精密ビジョンシステムとして特徴付けられる1つの例示的な従来技術のシステムは、イリノイ州オーロラに位置するMitutoyo America Corporation(MAC)から入手可能なQUICK VISION(登録商標)シリーズのPCベースのビジョンシステム及びQVPAK(登録商標)ソフトウェアである。QUICK VISION(登録商標)シリーズのビジョンシステム及びQVPAK(登録商標)ソフトウェアの機能及び動作については、概ね、例えば2003年1月に発表されたQVPAK 3D CNCビジョン測定機ユーザガイド、及び、1996年9月に発表されたQVPAK 3D CNCビジョン測定機動作ガイドに記載されている。このタイプのシステムは、顕微鏡型の光学システムを利用し、小型又は比較的大型のワークピースの検査画像を様々な倍率で提供するようにステージを移動させる。
【0003】
汎用の精密マシンビジョン検査システムは一般に、自動化ビデオ検査を行うようにプログラム可能である。このようなシステムは通常、「非専門家」の作業者が動作及びプログラミングを実行できるように、GUI機能及び既定の画像解析「ビデオツール」を含む。例えば米国特許第6,542,180号は、様々なビデオツールを使用する自動化ビデオ検査を利用したビジョンシステムを示している。
【0004】
具体的な検査イベントシーケンス(すなわち、各画像をどのように取得するか、及び取得した各画像をどのように解析/検査するか)を含むマシン制御命令は、一般に、特定のワークピース構成に固有の「パートプログラム」又は「ワークピースプログラム」として記憶されている。例えばパートプログラムは、各画像をどのように取得するか、どの照明レベルで、どの倍率レベルで、どのようにワークピースに対してカメラを位置決めするか等を規定する。更にパートプログラムは、例えば自動合焦ビデオツールのような1つ以上のビデオツールを用いることにより、取得した画像をどのように解析/検査するかを規定する。
【0005】
ビデオツール(又は略して「ツール」)及びその他のグラフィカルユーザインタフェース機能を、手動で用いて、(「手動モード」で)手動の検査及び/又はマシン制御動作を達成することができる。自動検査プログラム又は「パートプログラム」を生成するため、それらのセットアップパラメータ及び動作も学習モード中に記録することができる。ビデオツールには、例えばエッジ/境界検出ツール、自動合焦ツール、形状又はパターンマッチングツール、寸法測定ツール等が含まれ得る。
【発明の概要】
【発明が解決しようとする課題】
【0006】
いくつかの用途において、マシンビジョン検査システムの撮像システムは、単一の焦点位置で光学撮像システムによって与えられる被写界深度よりも深い拡大被写界深度(EDOF:extended depth of field)で画像を収集するように動作することが望ましい。拡大被写界深度で画像を収集するための様々な方法が知られている。そのような方法の1つは、焦点範囲全体にわたる様々な距離で合焦された同一視野又は位置合わせされた複数の画像から成る画像「スタック」を収集することである。画像スタックから、視野のモザイク画像(多数の画像により合成された画像)が構築される。モザイク画像における視野の各部分は、その部分を最もよい焦点で表す特定の画像から抽出されている。しかしながら、この方法は比較的速度が遅い。別の例として、Nagahara等(「Flexible Depth of Field Photography」、Proceedings of the European Conference on Computer Vision、2008年10月)は、一つの画像をその露光時間中に複数の焦点距離に沿って露光させる方法を開示している。この画像は比較的ぼけているが、複数の焦点距離にわたって取得された画像情報を含んでいる。この画像に、既知の又は所定の像のボケ核(以下、ブラーカーネル(blur kernel))を用いてデコンボリューションを行うことで、拡大被写界深度で比較的クリアな画像が得られる。Nagaharaに記載された方法では、撮像システムの光軸に沿って画像検出器を平行移動させることによって焦点距離を変化させる。この結果、露光中の様々な時点において検出器上で様々な焦点面が合焦される。しかしながら、このような方法は比較的速度が遅く、機械的に複雑であるので、いくつかのタイプの用途では問題が生じる可能性がある(例えば、視野に沿った方向に移動するワークピースのライブEDOF画像を表示する場合、処理が遅すぎてこの動きに追随できない等)。EDOF画像を提供するための改良された方法(例えばライブEDOF画像を提供する場合等に実行され得る)が望まれている。
【課題を解決するための手段】
【0007】
この概要は、以下で「発明を実施するための形態」において更に記載するいくつかの概念を簡略化した形態で紹介するために提示する。この概要は、特許請求される主題の重要な特徴を識別することを意図しておらず、特許請求される主題の範囲の決定に役立てるため用いることも意図していない。
【0008】
撮像システムに関連するユーザインタフェースにワークピースのライブ拡大被写界深度(EDOF)画像が表示されるシステム及び/又は方法を提供する。ワークピースは、撮像システムの視野に沿った方向に平行移動することができる。撮像システムは、レンズシステム、制御システム、カメラ、及び撮像処理部を含む。レンズシステムは可変音響式屈折率分布型(TAG)レンズを含み、これは、TAGレンズに周期的に変更された光学パワー変動を与え、これによって撮像システムに対応する焦点距離変動を与えるように制御される。制御システムは、TAGレンズを制御するように構成されたレンズ制御部を含む。カメラは、撮像システムの複数の焦点距離においてレンズシステムからワークピース画像光を入力すると共に、未処理(raw)EDOF画像に対応する未処理EDOF画像データセットを出力するように構成されている。画像処理部は、未処理EDOF画像データセットが入力されると共に、これを処理して、対応した表示されるEDOF画像におけるデフォーカスによる像ボケ(以下、デフォーカスブラー(defocus blur))を除去するための画像処理を実行することに基づくEDOF画像データセットを与えように構成されている。
【0009】
様々な実施形態において、カメラは、経時的なワークピースの未処理EDOF画像のシーケンスに対応した経時的な未処理EDOF画像データセットのシーケンスを出力するように動作される。現時点での撮像システムの視野に沿った方向のワークピースの現在の平行移動速度に対応した平行移動状態信号を繰り返し決定する。現時点での平行移動状態信号の状態に基づいて、ユーザインタフェースに表示されるワークピースのライブEDOF画像を繰り返し更新する。平行移動状態信号の状態に応じて、異なるタイプの画像を表示する。より具体的には、第1の現在の平行移動速度(例えば比較的遅い速度)に対応する第1の平行移動状態信号に応答して、ワークピースの第1のタイプのライブEDOF画像中のデフォーカスブラーを除去するための第1のレベルの画像処理(例えば比較的多量の画像処理)を実行することに基づくEDOF画像データセットに対応して、ユーザインタフェースに、第1のタイプのライブEDOF画像を表示する。第1の現在の平行移動速度よりも速い第2の現在の平行移動速度に対応する第2の平行移動状態信号に応答して、ユーザインタフェースに、ワークピースの第2のタイプのライブEDOF画像を表示する、様々な実施形態において、第2のタイプのライブEDOF画像は、第2のタイプのライブEDOF画像中のデフォーカスブラーを除去するための、第1のレベルの画像処理よりも少ない画像処理に相当する第2のレベルの画像処理を実行すること、又は、第2のタイプのライブEDOF画像中のデフォーカスブラーを除去するための画像処理を実行しないこと、のうち少なくとも一方に基づくEDOF画像データセットに対応する。
【図面の簡単な説明】
【0010】
【
図1】汎用の精密マシンビジョン検査システムの種々の典型的な構成要素を示す図である。
【
図2】
図1のものと同様の、本発明に開示する特徴を含むビジョンシステムの制御システム部及びビジョン構成要素部のブロック図である。
【
図3】本明細書に開示する原理に従って動作することができる撮像システムの概略図である。
【
図4】ライブEDOF画像を提供するためのビジョンシステムの制御システムの第1の実施形態で用いられる構成要素のブロック図である。
【
図5】ライブEDOF画像を提供するためのビジョンシステムの制御システムの第2の実施形態で用いられる構成要素のブロック図である。
【
図6A】撮像システムに関連するユーザインタフェースを示す図であり、第1のレベルの画像処理を使用して、表示されている第1のタイプのライブEDOF画像において第1のレベルの解像度でデフォーカスブラーが除去されている。
【
図6B】
図6Aのユーザインタフェースを示す図であり、第2のレベルの画像処理を使用して、表示されている第2のタイプのライブEDOF画像において第2のレベルの解像度でデフォーカスブラーが除去されている。
【
図7】撮像システムに関連するユーザインタフェースに表示されるワークピースのライブEDOF画像を提供するためのルーチンの1つの例示的な実施形態を示すフロー図である。
【発明を実施するための形態】
【0011】
図1は、本明細書に開示する原理に従って使用可能である撮像システムを含む1つの例示的なマシンビジョン検査システム10のブロック図である。ビジョンシステム10は画像測定機12を含み、これは、制御コンピュータシステム14、モニタ又はディスプレイ16、プリンタ18、ジョイスティック22、キーボード24、及びマウス26と、データ及び制御信号を交換するように動作可能に接続されている。モニタ又はディスプレイ16は、ビジョンシステム10の制御及び/又はプログラミングのためのユーザインタフェースを表示することができる。タッチスクリーンタブレット等が、これらの構成要素のいずれか又は全ての機能の代用となること及び/又はこれらの機能を強化することも可能である。
【0012】
より一般的には、制御コンピュータシステム14は、任意のコンピューティングシステムもしくはデバイス、及び/又は分散型コンピューティング環境を含むことができるか又はそれらから構成可能であり、本明細書に記載する機能を実現するためにソフトウェアを実行する1つ以上のプロセッサを含み得る。プロセッサには、プログラマブル汎用又は特殊用途マイクロプロセッサ、コントローラ、特定用途向け集積回路(ASIC)、プログラマブル論理デバイス(PLD)等、又はそのようなデバイスの組み合わせが含まれる。ソフトウェアは、ランダムアクセスメモリ(RAM)、リードオンリメモリ(ROM)、フラッシュメモリ等、又はそれらの組み合わせに記憶することができる。また、ソフトウェアは、光学ベースのディスク、フラッシュメモリデバイス、又はデータを記憶するための他のいずれかのタイプの不揮発性記憶媒体に記憶してもよい。ソフトウェアは、特定のタスクを実行するか又は特定の抽象データ型を実装するルーチン、プログラム、オブジェクト、コンポーネント、データ構造等を含む1つ以上のプログラムモジュールを含み得る。プログラムモジュールの機能性は、有線又は無線のいずれかの構成において、多数のコンピューティングシステム又はデバイス間で組み合わせるか又は分散させ、サービスコールを介してアクセスすることができる。
【0013】
画像測定機12は、可動ワークピースステージ32と、ズームレンズ又は交換可能レンズを含み得る光学撮像システム34と、を含む。ズームレンズ又は交換可能レンズは一般に、様々な倍率(例えば0.5倍から100倍まで)を与える。同様のビジョンシステムが、本発明の譲受人に譲渡された米国特許第7,324,682号、第7,454,053号、第8,111,905号、及び8,111,938号にも記載されている。
【0014】
図2は、
図1のビジョンシステムと同様の、本明細書に記載する特徴を含むビジョンシステム100の制御システム部120及びビジョン構成要素部200のブロック図である。
図1のビジョンシステムと同様、ビジョンシステム100は、本明細書に開示する様々な原理に従って使用できる撮像システムを含む。これについては
図3を参照して以下で詳述する。
図2の例では、制御システム部120を用いてビジョン構成要素部200を制御する。ビジョン構成要素部200は、光学アセンブリ部205と、光源220、230、及び240と、中央の透明部212を有し得るワークピースステージ210と、を含む。ワークピースステージ210は、ワークピース20を位置決めすることができるステージの表面に対して概ね平行な面内にあるx軸及びy軸に沿って制御可能に移動させることができる。
【0015】
光学アセンブリ部205は、カメラシステム260(例えばカメラ、共焦点光学検出器等を含む)、可変焦点距離(VFL:Variable Focal Length)レンズ270を含み、更に、交換可能対物レンズ250及び、レンズ286と288を有するターレットレンズアセンブリ280も含む場合がある。ターレットレンズアセンブリの代わりに、固定もしくは手作業で交換可能な倍率可変レンズ(magnification-altering lens)、又はズームレンズ構成等を含んでもよい。様々な実施形態において、様々なレンズは、光学アセンブリ部205の可変倍率レンズ部の一部として含まれ得る。様々な実施形態において、交換可能対物レンズ250は、固定倍率対物レンズのセット(例えば0.5倍から100倍までの範囲のセット等)から選択することができる。
【0016】
様々な実施形態において、光学アセンブリ部205は、制御可能モータ294を用いることで、x軸及びy軸に概ね直交したz軸に沿って制御可能に移動させることができる。制御可能モータ294はアクチュエータを駆動して、画像の焦点を変えるために光学アセンブリ部205をz軸に沿って動かす。制御可能モータ294は信号ライン296を介して入出力インタフェース130に接続されている。以下で詳述するように、VFLレンズ270も、焦点位置を周期的に変更するように動作させることができる。撮像対象の1つ又は複数のワークピース20は、ワークピースステージ210上に配置されている。ワークピースステージ210は、光学アセンブリ部205に対して(例えばx軸及びy軸方向に)移動することで、撮像エリアが1つ又は複数のワークピース20上の複数の位置の間で移動するように、更に、1つ又は複数のワークピース20が撮像システムの視野に沿った方向に平行移動するようになっている。
【0017】
透過照明光源220、落射照明光源230、及び斜め照明光源240(例えばリング光)の1つ以上が、それぞれ光源光222、232、及び/又は242を発して、1つ又は複数のワークピース20を照明することができる。落射照明光源230は、ミラー290を含む経路に沿うように光232を発することができる。光源光はワークピース光255として反射又は透過され、ワークピース光(例えば撮像のため用いられる)は、交換可能対物レンズ250、ターレットレンズアセンブリ280、及びVFLレンズ270を通過して、カメラシステム260(例えばカメラ、共焦点光学検出器等を含む)によって集光される。様々な実施形態において、カメラシステム260は、ワークピース光を入力し、信号データ(例えば1つ又は複数のワークピース20の1つ以上の画像、共焦点輝度信号等)を、制御システム部120への信号ライン262上に出力する。光源220、230、及び240は、それぞれ信号ライン又はバス221、231、及び241を介して制御システム部120に接続することができる。制御システム部120は、画像の倍率を変更するため、ターレットレンズアセンブリ280を軸284に沿って回転させることで、信号ライン又はバス281を介してターレットレンズを1つ選択することができる。
【0018】
図2に示すように、種々の例示的な実施形態において制御システム部120は、制御部125、入出力インタフェース130、メモリ140、ワークピースプログラム生成器及び実行器170、及び電源部190を含む。これらの構成要素及び以下で説明する追加の構成要素の各々は、1つ以上のデータ/制御バス及び/又はアプリケーションプログラミングインタフェースによって、又は様々な要素間の直接接続によって、相互接続することができる。入出力インタフェース130は、撮像制御インタフェース131、移動制御インタフェース132、照明制御インタフェース133、及びレンズ制御部/インタフェース271を含む。移動制御インタフェース132は、位置制御要素132a、及び速度/加速度制御要素132bを含み得るが、これらの要素はマージされる及び/又は区別できない場合もある。照明制御インタフェース133は、照明制御要素133a、133n、及び133flを含むことができ、これらは、ビジョンシステム100の様々な対応する光源について、例えば選択、パワー、オン/オフ切り換え、及びストロボパルスタイミングを適用可能な場合に制御する。
【0019】
撮像制御インタフェース131は、拡大被写界深度(EDOF)モード131eを含むことができる。このモードは、(例えばユーザによって、自動的に等)選択されると、単一の焦点位置で合焦された場合にビジョン構成要素部200によって与え得るよりも深い被写界深度でワークピースの少なくとも1つの画像を収集することができる。レンズ制御部/インタフェース271は、レンズ焦点駆動回路及び/又はルーチン等を含むEDOFレンズ制御部を含み得る。本明細書に開示する原理に従って、1つの実施形態では、レンズ制御部/インタフェース271は、ユーザ及び/又は動作プログラムによって構成又は制御することができ、信号ライン271’を用いてVFLレンズ270を制御してその光学パワーを(例えば正弦波状に)周期的に変更させることで、Z高さ方向に沿った複数の焦点位置にわたって撮像システムの焦点位置を確定された動作周波数で周期的に変更することができる。周期的に変更されたVFLレンズの光学パワーは、撮像システムの焦点距離変動に対応した周期的な焦点変更を規定する。
【0020】
拡大被写界深度モード及びEDOFレンズ制御インタフェース及び/又は制御部に関連した特定の動作及び構成要素については、同時係属中の、本発明の譲受人に譲渡された米国特許公報第2015/0145980号にも記載されている。VFLレンズを含む他のシステム及び方法については、2015年7月9日に出願され、同時係属中の、本発明の譲受人に譲渡された「Adaptable Operating Frequency of a Variable Focal Length Lens in an Adjustable Magnification Optical System」と題する米国特許出願第14/795,409号、2015年8月31日に出願された「Multi-Level Image Focus Using a Tunable Lens in a Machine Vision Inspection System」と題する米国特許出願第14/841,051号、2015年9月15日に出願された「Chromatic Aberration Correction in Imaging System Including Variable Focal Length Lens」と題する米国特許出願第14/854,624号、及び、2016年5月3日に出願された「Phase Difference Calibration In A Variable Focal Lens System」と題する米国特許出願第15/145,682号に記載されている。
【0021】
メモリ140は、画像ファイルメモリ部141、エッジ検出メモリ部140ed、1つ以上のパートプログラム等を含み得るワークピースプログラムメモリ部142、及びビデオツール部143を含むことができる。ビデオツール部143は、対応する各ビデオツールのためのGUIや画像処理動作等を確定するビデオツール部143a及び他のビデオツール部(例えば143n)、並びに関心領域(ROI:region of interest)生成器143roiを含む。関心領域生成器143roiは、ビデオツール部143内に含まれる様々なビデオツールにおいて動作可能である様々なROIを規定する自動、半自動、及び/又は手動の動作をサポートする。ビデオツール部は、例えば自動合焦動作のためのGUIや画像処理動作等を確定する自動合焦ビデオツール143afも含む。自動合焦ビデオツール143afは更に、高速で焦点高さを測定するために利用可能である高速焦点高さツールも含むことができる。これについては、同時係属中の、本発明の譲受人に譲渡された米国特許公報第2014/0368726号に詳述されている。様々な実施形態において、本明細書に記載する様々な構成要素及び/又は機能は、ビデオツールの1つ以上(例えば自動合焦ビデオツール143af、別個のビデオツール等)と併用されるか、又は他の方法でそれらに含ませることができる。
【0022】
本開示のコンテキストにおいて、当業者に既知であるように、「ビデオツール」という言葉は概ね、マシンビジョンユーザが、ビデオツールに含まれる動作の段階的シーケンスを生成することなく、また汎用のテキストベースのプログラミング言語に頼ることもなく、比較的シンプルなユーザインタフェース(例えばグラフィカルユーザインタフェース、編集可能パラメータウィンドウ、メニュー等)を介して実施可能である比較的複雑な自動化又はプログラミングされた動作セットのことである。例えばビデオツールは、あらかじめプログラミングされた複雑な画像処理動作セット及び計算を含み、これらの動作及び計算を規定する少数の変数及びパラメータを調整することによって特定のインスタンスでこれらを適用及びカスタム化することができる。ビデオツールは、基礎にある動作及び計算の他に、ビデオツールの特定のインスタンス向けにそれらのパラメータをユーザが調整することを可能とするユーザインタフェースも備えている。例えば、多くのマシンビジョンビデオツールによってユーザは、マウスを用いたシンプルな「ハンドルドラッグ」動作を行ってグラフィックの関心領域(ROI)インジケータを構成して、ビデオツールの特定のインスタンスの画像処理動作で解析対象となる画像サブセットの位置パラメータを定義することができる。場合によっては、目に見えるユーザインタフェース機能がビデオツールと称され、基礎にある動作は暗黙的に含まれることに留意すべきである。
【0023】
透過照明光源220、落射照明光源230、及び斜め照明光源240のそれぞれの信号ライン又はバス221、231、及び241は全て、入出力インタフェース130に接続されている。カメラシステム260からの信号ライン262、VFLレンズ270からの信号ライン271’、及び制御可能モータ294からの信号ライン296も、入出力インタフェース130に接続されている。信号ライン262は、画像データの伝達に加えて、いくつかのプロセス(例えば画像取得、共焦点輝度測定等)を開始する制御部125からの信号も伝達することができる。
【0024】
ディスプレイデバイス136(例えば
図1のディスプレイ16)及び入力デバイス138(例えば
図1のジョイスティック22、キーボード24、及びマウス26)も、入出力インタフェース130に接続することができる。ディスプレイデバイス136及び入力デバイス138を用いて、様々なグラフィカルユーザインタフェース(GUI)機能を含み得るユーザインタフェースを表示することができる。それらの機能は、検査動作の実行、及び/又はパートプログラムの生成及び/又は修正、カメラシステム260によってキャプチャされた画像の閲覧、及び/又はビジョンシステム構成要素部200の直接制御のために使用可能である。ディスプレイデバイス136は、(例えば撮像制御インタフェース131、EDOFモード131e、レンズ制御部/インタフェース271、移動制御インタフェース132、自動合焦ビデオツール143af等に関連付けて)ユーザインタフェース機能を表示することができる。
【0025】
種々の例示的な実施形態において、ユーザがビジョンシステム100を用いてワークピース20のためのパートプログラムを生成する場合、ユーザは、ビジョンシステム100を学習モードで動作させて所望の画像取得訓練シーケンスを提供することによって、パートプログラム命令を発生させる。例えば訓練シーケンスは、代表的ワークピースの特定のワークピース要素を視野(FOV:Field of View)内に位置決めし、照明レベルを設定し、合焦又は自動合焦を行い、画像を取得し、(例えばそのワークピース要素でビデオツールのうち1つ以上のインスタンスを用いて)画像に適用される検査訓練シーケンスを提供することを含み得る。このシーケンス(複数のシーケンス)がキャプチャ又は記録されて、対応するパートプログラム命令に変換される。パートプログラムが実行された場合、これは、ビジョンシステムに訓練した画像取得を再現させると共に、現在のワークピース(例えば実行モード(run mode)のワークピース)、又は、(学習モード中に)パートプログラムの生成時に用いた代表的ワークピースと同様のワークピースを、自動的に検査させる。EDOFモード131eに関して本明細書に開示されるシステム及び方法は、ユーザが視覚検査及び/又はワークピースプログラム生成のためにワークピースをナビゲートしながら、(例えば少なくともほぼリアルタイムで)ライブEDOF画像のビデオシーケンスを視認できるので、そのような学習モード及び/又は手動動作の際に特に有用である。ユーザは、ワークピース上の様々な顕微鏡的要素の高さに応じて高倍率画像を常に再合焦する必要がない。この再合焦は、特に高倍率では、退屈であると共に長い時間を要する可能性がある。
【0026】
図3は、ビジョンシステムに適合させることができ、本明細書に開示する原理に従って動作することができる撮像システム300の概略図である。以下で別段の記載がない限り、
図3の3XXと付番されたいくつかの構成要素は、
図2の2XXと同様に付番された構成要素に対応し得る及び/又は同様の動作を有し得ることは認められよう。様々な実施形態において、撮像システム300は、単一の焦点位置における光学撮像システムよりも深い被写界深度(様々な実施形態では10~20倍以上)を有するワークピースの少なくとも1つのEDOF画像を提供するように構成できる。
図3に示すように、撮像システム300は、撮像システム300の視野内でワークピース320を(例えばストロボ又は連続波照明を用いて)照明するように構成可能である光源330、対物レンズ350、チューブレンズ351、リレーレンズ352、可変焦点距離レンズ(VFL)370、リレーレンズ386、及びカメラシステム360を含む。
【0027】
動作において、光源330は、光源光332を、部分ミラー390を含む経路に沿って対物レンズ350を介してワークピース320の表面へと発するように構成することができる。対物レンズ350は、ワークピース320に近接した焦点位置FPで集束されたワークピース光355を受光し、ワークピース光355をチューブレンズ351に出力する。様々な実施形態において、対物レンズ350は交換可能対物レンズとすることができ、チューブレンズ351はターレットレンズアセンブリの一部として含めることができる(例えば
図2の交換可能対物レンズ250及びターレットレンズアセンブリ280と同様のもの)。様々な実施形態において、対物レンズ350、チューブレンズ351、又は本明細書で言及する他のレンズの任意のものは、個別のレンズ、複合レンズ等から形成するか、又はそれらのレンズと連携して動作することができる。チューブレンズ351はワークピース光355を受光し、これをリレーレンズ352に出力する。
【0028】
リレーレンズ352はワークピース光355を受光し、これをVFLレンズ370に出力する。VFLレンズ370はワークピース光355を受光し、これをリレーレンズ386に出力する。リレーレンズ386はワークピース光355を受光し、これをカメラシステム360に出力する。様々な実施形態において、カメラシステム360は画像露光期間中にワークピース320の画像をキャプチャし、この画像データを制御システム部に提供することができる(例えば、
図2の制御システム部120に画像を提供するためのカメラシステム260の動作と同様)。様々な実施形態において、撮像システムは更に、光学フィルタ(例えばカメラシステム360の前段に又はその一部として配置されている)を含んで、VFLレンズから予備画像光(preliminary image light)を受光して空間的にフィルタリングすると共に、このフィルタリングした画像光をEDOF画像の提供の一部として出力することができる。
【0029】
VFLレンズ370は、1回以上の画像露光中に撮像システムの焦点位置FPを変えるよう電子的に制御可能である。焦点位置FPは、焦点位置FP1と焦点位置FP2によって画定される範囲R内で動かすことができる。様々な実施形態において、範囲Rはユーザによって選択可能である(例えば撮像制御インタフェース131のEDOFモード131e等で)か、又は設計パラメータから与えられ得るか、又は他の方法で自動的に決定され得ることは認められよう。一般に
図3の例に関して、図示した寸法のいくつかは一定の縮尺通りに描かれていない場合があることは認められよう。例えば、VFLレンズ370は図示するものと異なる比例的寸法を有し得る(例えば、所望の量の屈折力(lensing power)等を与えるため、いくつかの用途では幅がもっと狭く長さが50mm以上であり得る)。
【0030】
様々な実施形態において、マシンビジョン検査システムは、撮像システム300の焦点位置を周期的に変更するため、レンズ制御部371と連携して動作するか又は他の方法でVFLレンズ370を制御するように構成可能である制御システム(例えば
図2の制御システム部120)を備えることができる。いくつかの実施形態では、VFLレンズ370は迅速に焦点位置を調整又は変更することができる(例えば周期的に、少なくとも300Hz、又は3kHz、又は70kHz、又はこれらよりもはるかに高いレートで)。1つの例示的な実施形態において、範囲Rは、(例えば1倍の対物レンズ350では)約10mmとすることができる。様々な実施形態において、VFLレンズ370は、焦点位置FPを変えるために撮像システムの巨視的な機械的調整及び/又は対物レンズ350とワークピース320との間の距離の調整を必要としないように、有利に選択される。そのような場合、本明細書に開示する原理に従って、EDOF画像を取得することができ、更に、(例えば数マイクロメートルのオーダーの精度の)精密測定等に用いられ得る固定焦点検査画像を取得するため同一の撮像システムを用いる場合に、精度を低下させる巨視的な調整要素も、これに伴う位置決めの非再現性も存在しない。例えばいくつかの実施形態では、ユーザへの表示画像としてライブEDOF画像を使用し、その後、焦点位置の周期的な変更を終了させて(例えば、前述のEDOFモード制御要素131e、又はアクティブ測定動作に基づく自動終了、又はVFLレンズ周波数と同期させたストロボ照明等を用いて)、撮像システムの固定焦点位置を与えることが望ましい。次いで、システムを用いて、固定焦点位置で撮像システムを使用して特定の要素の測定画像を露光することができる。これによって得られた安定した高解像度測定画像を処理して、ワークピースを高精度で測定できる。前述の726号公報に記載されているように、焦点位置FPの変化を利用して、ワークピース320に近接したZ高さ方向に沿った複数の位置における複数の画像を含む画像スタックを迅速に取得することができる。
【0031】
様々な実施形態において、VFLレンズ370は可変音響式屈折率分布型(「TAG」:tunable acoustic gradient index of refraction)レンズとすることができる。可変音響式屈折率分布型レンズは、流体媒質中で音波を用いて焦点位置を変更する高速VFLレンズであり、焦点距離範囲を数百kHzの周波数で周期的にスイープすることができる。このようなレンズは、論文「High-speed varifocal imaging with a tunable acoustic gradient index of refraction lens」(Optics Letters、Vol.33、No.18、2008年9月15日)の教示によって理解することができる。可変音響式屈折率分布型レンズ及びこれに関連した制御可能信号生成器は、例えばTAG Optics, Inc.(ニュージャージー州プリンストン)から入手可能である。例えば、モデルTL2.B.xxxシリーズのレンズは最大で約600KHzの変更が可能である。
【0032】
様々な実施形態において、前述の726号公報に詳述されているように、カメラシステム360は、グローバルシャッタを有するセンサ、すなわち各画素を同時に露光するセンサを備えることができる。このような実施形態は、ワークピースも撮像システム300のどの部分も動かすことなく画像スタックを測定する機能を与えるという点で有利である。種々の代替的な実施形態では、カメラシステム360は、電子ローリングシャッタ(ERS:Electronic Rolling Shutter)システムを有するセンサを備えることができる。例えばカメラシステムは、電子ローリングシャッタ(ERS)システムと組み合わせたSXGA解像度を用いる白黒CMOSセンサを備え得る(例えば、カリフォルニア州サンホゼのAptina ImagingのモデルMT9M001)。
【0033】
VFLレンズ370は、これを動作させる信号を生成することができるレンズ制御部371によって駆動され得る。一実施形態において、レンズ制御部371は市販の制御可能信号生成器とすればよい。いくつかの実施形態では、レンズ制御部371は、
図2を参照して先に概説したように、撮像制御インタフェース131、レンズ制御インタフェース271、及び/又はEDOFモード131eのユーザインタフェースを介して、ユーザ及び/又は動作プログラムによって構成又は制御され得る。いくつかの実施形態では、VFLレンズ370は、焦点位置FPが高周波数で経時的に正弦波状に変更されるように、周期的な信号を用いて動作させることができる。例えばいくつかの例示的な実施形態では、TAGレンズは400kHzという高さの焦点走査速度向けに構成可能であるが、様々な実施形態及び/又は用途では、もっと低速の焦点位置調整及び/又は変更周波数が望ましい場合があることは認められよう。例えば、様々な実施形態において、300Hz、又は3kHz、又は70kHz、又は250kHz等の周期的な変更を使用することができる。低速の焦点位置調整を用いる実施形態では、VFLレンズ370は制御可能液体レンズ(fluid lens)等を含み得る。
【0034】
様々な実施形態において、TAGレンズ370は、少なくとも3kHzの周波数で周期的に変更された光学パワー変動を与えるように制御することができ、周期的に変更される光学パワー変動の複数の周期にわたる露光期間中に、EDOF画像を生成するため、カメラ360は、撮像システムの複数の焦点距離においてレンズシステムからワークピース画像光を入力するように構成することができる。1つのそのような実施形態において、複数の焦点距離は、周期的に変更される光学パワー変動に応じた撮像システムの最大焦点範囲の少なくとも70%に及ぶように構成できる。様々な実施形態において、焦点距離/位置FPは、単一の焦点距離における撮像システムの被写界深度の少なくとも20倍に及ぶ複数の焦点距離にわたって、周期的に変更され得る。様々な実施形態では、EDOF画像を生成する場合、光源330を用いて、周期的に変更される焦点距離/位置FPと同期させた強度変動を有する照明を与えることができ、この照明は、周期的に変更される焦点距離の範囲R内の異なる焦点距離における各露光成分に対してそれぞれ異なる影響を及ぼすようになっている。具体的には、例えば、第1の照明強度が、撮像システムの最大焦点範囲の少なくとも内側の70%の焦点距離に対して各露光成分を与え、第1の照明強度より小さい第2の照明強度が、最大焦点範囲の少なくとも70%よりも外側の焦点距離に対して各露光成分を抑制するように構成されていてもよい。
【0035】
図3の例では、リレーレンズ352及び386及びVFLレンズ370は4f光学構成に含まれるものとして示され、リレーレンズ352及びチューブレンズ351はケプラー式望遠鏡構成に含まれるものとして示され、チューブレンズ351及び対物レンズ350は顕微鏡構成に含まれるものとして示されている。ここに示す構成は全て例示に過ぎないので、本開示に対する限定ではない。ケプラー式望遠鏡構成の一部として、チューブレンズ351の焦点距離FTUBEは、リレーレンズ352の焦点距離fと同様、レンズ351と352との間の中点とほぼ等距離にあるものとして示されている。代替的な実施形態では、チューブレンズ351の焦点距離FTUBEを、リレーレンズ352の焦点距離f(これは4f光学構成の4fの1つに相当する)とは異なるものにしてもよい。チューブレンズ351がターレットレンズアセンブリの一部として含まれ得る様々な実施形態では、ターレットレンズアセンブリの他のチューブレンズが動作位置まで回転した場合、同じ位置に焦点を有する(すなわちリレーレンズ352の焦点と合致する)ことが望ましい場合がある。
【0036】
前述の409号出願に詳述されているように、焦点距離fに対する焦点距離FTUBEの比を用いて、チューブレンズ351に入力するワークピース光355のコリメートビームに対してリレーレンズ352から出るワークピース光355のコリメートビームの直径を変えることができる。チューブレンズ351に入力するワークピース光355のコリメートビーム及びリレーレンズ352から出力するワークピース光355のコリメートビームに関して、様々な実施形態では、そのようなコリメートビームがもっと長い経路長に拡張され得ること、及び/又は(例えば異なるカメラシステム等へ向けられた)追加の光路を与えるためにそのようなコリメートビームに対してビームスプリッタが使用され得ることは認められよう。
【0037】
様々な実施形態において、図示する4f光学構成は、VFLレンズ370(例えば可変音響式屈折率分布型レンズ等の開口数(NA)が小さいデバイスであり得る)を、対物レンズ350のフーリエ面FPLに配置することを可能とする。この構成は、ワークピース320におけるテレセントリシティ(telecentricity)を維持すると共に、尺度変化及び画像歪みを最小限に抑えることができる(例えば、ワークピース320の各Z高及び/又は焦点位置FPで一定の倍率を与えることを含む)。ケプラー式望遠鏡構成(例えばチューブレンズ351及びリレーレンズ352を含む)は、顕微鏡構成と4f光学構成との間に含めることができ、VFLレンズの位置で対物レンズ有効径(clear aperture)の望ましいサイズの投射を与えて、画像収差等を最小限に抑えるように構成可能である。
【0038】
様々な実施形態において、いくつかのタイプの寸法測定では、回折限界に近いか又は回折限界の撮像が必要であり得ることは認められよう。
図3に示す構成は、VFLレンズ370に結像される、対物レンズ350の瞳の軸外範囲を制限することによって収差を低減する。この構成では、半径方向の範囲は、その最低共振周波数fR,MINでのVFLレンズ370(例えば可変音響式屈折率分布型)の定在波の屈折率プロファイルにおいて一次ベッセルリング(1st Bessel ring)の半径方向の範囲よりも小さく維持することができる。これについては、前述の409号出願に詳述されている。このように、顕微鏡構成(すなわち対物レンズ350及びチューブレンズ351を含む)からの光は、VFLレンズ370の最大有効径CAVFL,MAXを超えない。この光が最大有効径を超える実施形態では、光は、望ましくない屈折率を有し得るVFLレンズ370の定在波の領域と相互作用して収差を増大させ、寸法測定の精度を低減させる恐れがある。
【0039】
図3に示す撮像システムの動作に関して、様々な実施形態では、これに伴う信号処理は、未処理(例えば予備)EDOF画像の計算によるデコンボリューションを実行し、比較的クリアなライブEDOF画像を(例えばほぼリアルタイムで)与えるように構成することができる。例えば制御システム(例えば
図2に示す制御システム部120)は、画像露光中にEDOF焦点範囲全体にわたって変更焦点位置を少なくとも1度スイープする過程で未処理EDOF画像を収集し、ぼけている可能性のあるこの未処理EDOF画像を処理して比較的クリアなEDOF画像を決定するように構成されている。一実施形態において、未処理EDOF画像は、この未処理EDOF画像の焦点範囲に対応し、レンズシステムの動作を特徴付けることが意図された、既知の又は所定の積分点像分布関数(IPSF:integrated point spread function)を用いて処理又はデコンボリューションを行うことができる。点像分布関数P(FP)は、錯乱円(blur circle)を特徴付ける(すなわち、撮像システムから所与の距離における点光源の円形像を、錯乱円の半径r及び焦点位置FPの関数として特徴付ける)。点像分布関数は、既知の方法に従って、撮像システムについて実験的に決定されるか、又はピルボックス(pill box)もしくはガウス曲線のような関数でモデル化された点像分布関数を用いて推定するか、又は基本的な回折原理(例えばフーリエ光学)を用いて推定すればよい。焦点範囲内の様々な焦点距離におけるそのような点像分布関数は、それらに予想される露光成分又は適用性に従って重み付けを行うことができる。例えば、露光中に焦点距離が移動する場合、各焦点距離はその露光内の対応する時間期間だけ画像露光に寄与するので、その距離に対応した点像分布関数にそれに応じた重み付けを行うことができる。このような重み付けした点像分布関数成分を、予想される焦点範囲R全体で合計又は積分すればよい。あるいは、焦点距離の変化が既知の時間関数である場合、そのような点像分布関数成分を、予想される焦点範囲Rのスイープに対応した時間期間にわたって積分すればよい。これは、下記の式3を参照して示す手法に類似している。
【0040】
変更焦点位置を用いる撮像システムについて、積分点像分布関数hは以下の関係に従い得る。
【数1】
ここで、P(FP(t))は点像分布関数であり、FP(t)は時間に依存した焦点位置である。マシンビジョン検査システムの撮像システムの焦点位置は、未処理EDOF画像の画像露光又は積分時間に相当する合計積分時間Tにわたって、時間tの関数として変更され得る。
【0041】
未処理EDOF画像のデコンボリューションは、いくつかの用途では「ブラ―関数(blur function)」と称され得る積分点像分布関数hから、露光中にそれぞれ持続時間を有する複数の焦点位置の範囲にわたって露光された深い被写界深度の画像をデコンボリューションする逆演算(inverse operation)として理解することができる。未処理EDOF画像は、以下の式によって、シャープな(理想的な)拡大被写界深度画像f(x,y)(次元m×nの画像アレイに対応する)のコンボリューションである2次元関数g(x,y)として、積分点像分布関数hを用いて表すことができる。
【数2】
【0042】
周波数領域では、このコンボリューションを、f及びhのフーリエ変換の積によって、F及びHとして表すことができる。
【数3】
【0043】
f及びhのフーリエ変換は、高速フーリエ変換(FFT)アルゴリズムを用いて効率的に求めることができる。(周波数領域の)EDOF画像は、ここではH
rと表記するHの逆数によって画像Gを処理する(すなわち、これを乗算する)ことによって求めることができる。逆数H
rは、いくつかの既知の方法で計算できる。例えば、以下の式によって、単純なHの擬似逆行列(pseudo inverse)を求めることができる。
【数4】
【0044】
ここで、H*はHの複素共役であり、kは撮像システム300の特性に基づいて経験的に選択される実数である。1つの例示的な実施形態では、kは0.0001である。最終的に、拡大被写界深度画像fは以下のように計算することができる。
【数5】
【0045】
擬似逆行列に代わる更にロバストな代替案を、ウィーナーデコンボリューション(Wiener Deconvolution)、ルーシー・リチャードソン反復アルゴリズム(Lucy-Richardson iterative algorithm)、ヴァン・シテレ反復アルゴリズム(Van-Cittert iterative algorithm)、又はその他の既知のデコンボリューション手法に従って、計算することができる。その他の手法のうちいくつかは、例えば、Kenneth R.CastlemanによるDigital Image Processing(Prentice-Hall,Inc.1996年)に記載されている。更に、画像の処理は、例えばガイデットフィルタ(guided filter)又はバイラテラルフィルタ(bilateral filter)のようなエッジ保全ノイズ低減フィルタを用いたノイズ低減を含み得る。異なる実施形態では、前述の980号公報に詳述されているように、デコンボリューションは、比較的クリアなEDOF画像をリアルタイムで与えるため、フーリエ光学の基本的な方法に従って撮像システムのフーリエ面に配置された受動光学フィルタを用いて光学的に実行することができる。
【0046】
例示的な実施形態において、撮像システム300は、露光中に所望の焦点範囲全体で取得された情報を含むぼけた画像である未処理EDOF画像を提供することができる。次いで、未処理EDOF画像を上述のように計算によって処理することで、撮像システム300が単一の焦点位置で与え得るよりも深い(例えば100倍深い)被写界深度を含む処理済みEDOF画像を与えることができる。例えば、単一の焦点位置では撮像システム300の被写界深度は90μmであり、撮像システム300の同じ実施形態を用いて提供される拡大被写界深度画像は、9mmの深さの被写界深度を有し得る。
【0047】
上述の画像処理の例(例えばデコンボリューション等を含む計算による処理を含む)は、比較的クリアなライブEDOF画像を(例えばほぼリアルタイムで)提供するには効果的であるが、この画像処理は実行に時間がかかる。いくつかのタイプの用途では、画像処理に必要な時間量のために問題が生じる恐れがある(例えば、視野に沿った方向に移動しているステージ上のワークピースのビデオタイプのライブEDOF画像シーケンスを表示しようとする場合、処理が遅すぎるので、この移動に対する所望のフレームレートに追随できないことがある)。以下で詳述するように、本明細書に開示する原理に従って、比較的高速の移動(例えば、指定された速度関連閾値を超える)が発生した場合、解像度は低下するがライブEDOF画像をより迅速に提供するための低減処理を用いることができる。例えば式2に関して上述したように、この関数は、次元m×nの画像アレイに対応し得る(ここで、m及びnは画素の行及び列を表し得る)。処理対象の画素数が減ると、未処理EDOF画像の全体的な処理に必要な時間量も低減し得る。1つの実施形態では、画素群からのデータを平均化すること又は他の方法で結合する(例えばマルチピクセルカーネル(multi-pixel kernel)に)ことによって、処理対象の画素数を減らすことができる。この場合、マルチピクセルカーネルに結合させた群からのデータは、単一の画素と同様に処理できる。具体的な例として、640×480画素のアレイが有するデータを、4画素から成る四角形の群に結合させる(例えば、4画素から成る各群が単一のマルチピクセルカーネルに相当する)場合、これによって生じる処理対象のアレイは320×240カーネルとなる。別の例として、速度閾値を超えた場合、デフォーカスブラーを除去するための画像処理を行うことなく(例えばデコンボリューション処理を行うことなく)、未処理EDOF画像を利用することができる。
【0048】
図4は、ライブEDOF画像を提供するためのビジョンシステム400の制御システム420の第1の実施形態で用いられる構成要素のブロック図である。
図4に示すように、ビジョンシステム400は、制御システム420、平行移動状態信号生成器427、ライブEDOF画像UI/ディスプレイ436、及びカメラ460を含む。制御システム420は、平行移動状態信号解析器421、EDOF画像処理マネージャ422A、ライブEDOF画像UI/ディスプレイマネージャ422B、及びEDOF画像処理部423を含む。以下で詳述するように、特定の場合に、EDOF画像処理(例えばライブEDOF画像処理部423によって実行される)は、特定の画像(例えば高解像度)では比較的低速となり、この結果、ユーザインタフェース436において繰り返し与えられるライブEDOF画像でフレーム/ビデオレートが低くなる可能性がある。本明細書に開示する原理に従って、自動適応EDOF画像処理を用いてユーザの経験を改善することができる。
【0049】
例えば、(例えば撮像システムの視野に沿った方向のワークピースの)平行移動速度が比較的遅い場合は、高いEDOF画像品質に対応する高解像度(例えば最大解像度)のEDOF画像処理によって生成されたライブEDOF画像を表示することができる。平行移動速度が比較的速い場合は(例えば、撮像システムの視野に沿った方向のワークピースの高速の移動に対応する)、低減EDOF画像処理によって(又はEDOF画像処理を行わずに)生成されたライブEDOF画像が表示され、結果として、(例えばユーザインタフェース326において繰り返し与えられるライブEDOF画像の)フレームレートは高くなるが、EDOF画像の品質は低くなり得る。様々な実施形態において、そのような低いEDOF画像品質は許容できるものと見なされ得る。これは、平行移動速度が速い条件下では(例えば、ユーザインタフェース436における更新済みビデオ表示でモーションブラー(motion blur)及び/又は他の邪魔なもの(distraction)等が発生し得る)、ユーザが細部を知覚することができないからである。このような「モーションブラー」は「デフォーカスブラー」とは異なることは認められよう。モーションブラーは一般に、撮像システムの視野に対するx軸及び/又はy軸方向での平行移動によって生じるが、デフォーカスブラーは、様々なZ高さを有するワークピース要素に対してz軸方向で合焦することと、TAGレンズ370が画像露光全体を通して焦点距離を変更することに関連している。
【0050】
ライブEDOF画像を提供するための
図4の構成において、カメラ460は、撮像システムの複数の焦点距離でレンズシステムからワークピース画像光を入力し(例えば
図3を参照のこと)、未処理EDOF画像(例えばデフォーカスブラーを含み得る)に対応した未処理EDOF画像データセットを出力するように構成されている。未処理EDOF画像データセットは、EDOF画像処理マネージャ422Aに与えられる。EDOF画像処理部423は、EDOF画像処理マネージャ422Aから未処理EDOF画像データセットを入力し、未処理EDOF画像データセットを処理して、ユーザインタフェース436に表示することができる処理済みEDOF画像中のデフォーカスブラーを除去するための画像処理に基づく処理済みEDOF画像データセットを与えるように構成されている。
【0051】
ディスプレイマネージャ422Bは、EDOF画像処理マネージャ422Aから未処理EDOF画像データセット及び処理済みEDOF画像データセットの双方を受信し、更新済みライブEDOF画像データセットとしてどちらのEDOF画像データセットをユーザインタフェース436に与えるかを決定することができる。更に具体的には、
図4の例において、EDOF画像処理部423は、未処理EDOF画像データセットを受信すると、比較的高い解像度レベル(例えば最大解像度)で画像処理を開始し、画像処理が完了すると、処理済みEDOF画像データセットを、処理マネージャ422Aを介してディスプレイマネージャ422Bに渡すことができる。ディスプレイマネージャ422Bは、平行移動状態信号解析器421からの信号を使用して、ユーザインタフェース436で表示するために、比較的高い更新レートで繰り返し与えられている未処理EDOF画像データセットを使用するか、又は比較的低い更新レートで繰り返し与えられている処理済みEDOF画像データセットを使用するかを決定することができる。
【0052】
一つの実施形態において、このプロセスは、ディスプレイマネージャ422Bが平行移動状態信号解析器421からの信号を用いて、すぐに利用可能な未処理EDOF画像データセットを使用するか、又はEDOF画像処理部423による画像処理の完了後に処理済みEDOF画像データセットを受信するため短い時間期間だけ待機するかを決定することを含み得る。どちらの場合であっても、未処理EDOF画像データセットを取得した時点に対して少なくともほぼリアルタイムで画像を表示するのに充分な迅速さで処理が完了するので、選択されたデータセットが、ユーザインタフェース436にライブEDOF画像を表示するためのライブEDOF画像データセットとして提供されることは認められよう。様々な実施形態では、現時点で撮像システムの視野に沿った方向のワークピースの移動が生じていないことに応じて、ディスプレイマネージャ422Bは、以前の画像を再使用するためのオプションを有し得る(例えば、状態が「停止している」ことを平行移動状態信号解析器が示す場合)。
【0053】
様々な実施において、平行移動状態信号解析器421は、平行移動状態信号生成器427からの平行移動状態信号を解析することができる。この信号は、現時点での撮像システムの視野に沿った方向のワークピースの現在の平行移動速度に対応し(例えば、現在の平行移動速度が速いこと、遅いこと、停止していること等を示す)、特定の速度、又は時間制限、又は他の閾値等を基準として決定され得る。ビジョンシステム400の動作中、平行移動状態信号は繰り返し決定される。様々な実施形態において、平行移動状態信号を決定するため、様々なタイプの信号、解析等が利用され得る。例えば、ワークピースが配置されている撮像システムのステージの移動速度を求めてもよい(例えば、ステージのための制御信号に従って、又は移動速度を示すエンコーダ出力信号に従って等)。様々な実施形態において、そのような移動制御速度を倍率レベルと組み合わせて決定することができる。更に具体的には、現在の倍率レベルに応じて、撮像システムの視野に沿った方向のワークピースの平行移動速度は比較的速く又は遅くなり得る(例えば、所与のステージ移動量について、2倍の倍率レベルにおける視野に沿った方向の平行移動速度は、1倍の倍率レベルにおける速度の約2倍であり得る)。
【0054】
別の例として、平行移動状態信号の決定は、一連の画像を解析して、(例えば画像中の少なくとも1つの要素等の)平行移動の量を決定することを含み得る。1つのそのような実施形態では、現在の画像と、記憶されている以前の画像又は記憶されている以前の画像統計データ(例えばヒストグラム)との差を計算することができる。様々な実施形態において、画像間の差は様々な技法に従って決定できる。例えば、平均絶対画素差を決定することができる(例えば、絶対画素差の和を画素数に換算した画像サイズで除算する)。別の例として、2つの画像の平均グレースケールで正規化した平均絶対画素差を決定することができる(例えば、対応する尺度の輝度依存性を低減するため)。別の例として、2つの画像のヒストグラムの類似性を決定することができる(例えば2つのベクトル間のコサインとして計算され、双方のヒストグラムはN次元ベクトルとして処理される)。別の例として、2つの画像の平均グレースケール間の絶対差を決定することができるが、場合によっては、そのような技法では、計算が少量の移動を検出するのに充分な感度を有するか等について更に決定を行う必要があり得る。別の例として、オプティカルフロー推定技法を用いて、連続したEDOF画像間の移動(変位)ベクトルを決定することができる。
【0055】
様々な実施形態において、平行移動状態信号解析器421から受信された信号に関して、ディスプレイマネージャ422Bが未処理EDOF画像データセット又は処理済みEDOF画像データセットのどちらを更新済みライブEDOF画像データセットとしてユーザインタフェース436に出力するか決定するため、速度関連閾値を使用することができる。例えば、速度関連閾値は特定の平行移動速度に相当し、現在の平行移動速度が速度関連閾値を超えている場合、ディスプレイマネージャ422Bは未処理EDOF画像データセットを使用し、あるいは、現在の平行移動速度が速度関連閾値未満である場合、ディスプレイマネージャ422Bは処理済みEDOF画像データセットを使用し、あるいは、現在の平行移動速度がゼロである(例えば「停止している」状態に相当する)場合、以前のEDOF画像を再利用することができる。代替的な構成では、未処理EDOF画像データセットを用いるためのオプションに加えて、より低いレベルの解像度でデフォーカスブラーを除去する、より低いレベルの画像処理も利用可能とすることができる。例えば、EDOF画像処理部423は、最大レベルの解像度、又はより低いレベルの解像度の画像処理を実行することができる。そのような低レベル解像度の画像処理について、
図5を参照して更に詳しく説明する。
【0056】
図5は、ライブEDOF画像を提供するためのビジョンシステム500の制御システム520の第2の実施形態で用いられる構成要素のブロック図である。ビジョンシステム500は、
図4のビジョンシステム400といくつかの類似点を有し、以下で別段の記載がない限り、同様に付番された構成要素は同様に動作すると理解される。
図5に示すように、ビジョンシステム500は、制御システム520、平行移動状態信号生成器427、ライブEDOF画像UI/ディスプレイ436、及びカメラ460を含む。制御システム520は、平行移動状態信号解析器421、EDOF画像処理及びディスプレイマネージャ422、及びEDOF画像処理部423を含む。ビジョンシステム500の1つの相違点は、ライブEDOF画像処理及びディスプレイマネージャ422が、
図4のEDOF画像処理マネージャ422A及びライブEDOF画像UI/ディスプレイマネージャ422Bのいくつかの組み合わせた機能を実行することである。これについて以下で更に詳しく説明する。
【0057】
図5の例において、ライブEDOF画像処理及びディスプレイマネージャ422は、平行移動状態信号解析器421からの出力に応じて、異なる解像度レベルの処理を条件付きで実行することができる。更に具体的には、比較的遅い現在の平行移動速度に相当する平行移動状態信号に応答して、比較的高レベルの画像処理を画像処理部423により実行して、デフォーカスブラーを除去することができる。これに対して、比較的速い現在の平行移動速度に相当する平行移動状態信号に応答して、比較的少ない画像処理を画像処理部423により実行して、デフォーカスブラーを除去することができる。1つの実施形態において、そのようなプロセスは、平行移動状態信号に基づいて処理済みEDOF画像の解像度を低減させる自動適応EDOF画像サイズ変更によって実行される。そのような実施形態では、現在の平行移動速度が比較的速い場合、EDOF画像は低い解像度で処理されるので、結果として処理が高速になると共に、ユーザインタフェース436における高いビデオフレームレートに対応して、EDOF画像処理部423によって処理済みEDOF画像データセットが迅速に生成され得る。これに対して、現在の平行移動速度が比較的遅い場合、EDOF画像はEDOF画像処理部423によって高い解像度(例えば最大解像度)で処理されるので、結果として全処理時間が遅くなると共にフレームレートが低くなるが、ユーザインタフェース436において高いEDOF画像品質が得られる。
【0058】
1つの実施形態において、解像度の低減は、現在の画像について処理される画素又はカーネルの数を減らすことによって達成できる。例えば、指定された画素数(例えば640×480)の画像では、これらの画素のデータを結合することによって(例えば、4つの画素から成る四角形の群のデータを結合することによって)、処理対象の総画素数を減らすことができる。このような結合によれば、640×480画素アレイを320×240カーネルに低減することができる。次いで、320×240カーネルに対して、EDOF画像処理部423によってEDOF処理を低い解像度で実行すればよい。次いで、ライブEDOF画像処理及びディスプレイマネージャ422は、ユーザインタフェース436への送信のため、EDOF画像データセットを元の寸法に(例えば320×240から640×480に)サイズ変更することができる。
【0059】
様々な実施形態において、以前のデータ、以前の対応するヒストグラム、又はその他の関連する画像統計データ等のデータを記憶するため、指定された長さのバッファを使用することができる。そのようなデータを用いて、(例えば平行移動状態信号解析器421により)画像差履歴及びその他のファクタを解析して、現在の平行移動速度が速いか否かを判定すること、及び/又はいくつかのタイプのイベントに対して解像度の切り換えを無反応とする(insensitive)ことができる。例えば、記憶されている画像又は画像統計データのバッファに基づく平行移動状態信号の解析を行って、平行移動速度が変化した場合にのみ(例えば、カメラの移動が開始又は停止した場合等)、処理解像度を切り換えるように決定することができる。更に、特定の用途及びユーザの好みに応じて、移動又はその他のフレーム間変化(例えば画像輝度)に対する高解像度から低解像度への切り換えの感度を高くするか又は低くするため、速度関連閾値を制御する及び/又は他の方法で設定するための入力をユーザから受信することも可能である。様々な実施形態では、静止画像用の典型的なフレーム間の差を決定して、特定のセットアップに有効なフレーム差判断閾値を設けることができる(例えば、閾値は少なくとも部分的にカメラノイズ、照明レベル等に依存し得る)。
【0060】
様々な実施形態において、上述の技法を、所与の画像中の特定の関心領域に適用することも可能である。例えば、メガピクセルカメラによるEDOF画像のための上述の処理は、ユーザインタフェースにおけるビデオレート表示に比べて比較的遅い可能性がある。メガピクセルカメラによるビデオフレームのライブEDOF画像処理に対して充分に速い応答(例えば少なくともほぼリアルタイム)を与えるため、EDOF画像の特定の関心領域を高解像度処理用に選択することができる。1つの例示的な実施形態では、選択した関心領域(例えばユーザによって選択される)だけを処理し、処理を行っていない未処理EDOF画像部によって取り囲むことができる。そのような技法を、特定のカメラの関心領域に基づく高速フレームキャプチャと組み合わせて用いると、ノイズが低減した高速処理を達成することができる。これは、カメラでキャプチャした1つ以上の関心領域(例えば、フルフレームレートよりも高いフレームレートでキャプチャされる)を、各EDOF処理の前に平均化することで、処理済みEDOF画像中のノイズを低減できるからである。この例示的な実施形態では、EDOF処理済みの関心領域を、いくつかの構成では黒い画素によって取り囲むか、又は、カメラがフルフレームキャプチャモードから関心領域キャプチャモードに切り換わる直前にキャプチャされた未処理EDOF画像の部分によって取り囲むことができる。
【0061】
様々な実施形態において、制御システム420又は520は、撮像システム(例えば
図3の撮像システム300等)の一部として含めることができる。
図3を参照して上述したように、そのような撮像システムはTAGレンズ370を備えたレンズシステムを含むことができ、TAGレンズ370がレンズ制御部371によって制御されることで、TAGレンズの周期的に変更される光学パワー変動を与え、これに対応した撮像システム300の焦点距離変動を与える。撮像システムのカメラ360/460は、(例えば範囲R内の)撮像システムの複数の焦点距離においてレンズシステムからワークピース画像光を入力し、未処理EDOF画像に対応する未処理EDOF画像データセットを出力するように構成されている。
図4及び
図5に関して、撮像システムの画像処理部423は、未処理EDOF画像データセットを入力し、これを処理して、ユーザインタフェース436に表示される対応したEDOF画像中のデフォーカスブラーを除去するための画像処理に基づくEDOF画像データセットを与えるように構成されている。
【0062】
様々な実施形態において、カメラ460は、経時的なワークピースの未処理EDOF画像シーケンスに対応して、経時的な未処理EDOF画像データセットシーケンスを出力するように動作することができる。平行移動状態信号生成器427及び平行移動状態信号解析器421を用いて、現時点で撮像システムの視野に沿った方向のワークピース320の現在の平行移動速度に対応した平行移動状態信号を繰り返し決定する。ユーザインタフェース436に表示されるワークピースのライブEDOF画像は、現時点での平行移動状態信号の状態に基づいて繰り返し更新され、平行移動状態信号の状態に応じて様々なタイプのEDOF画像が表示される。
【0063】
更に具体的には、第1の現在の平行移動速度(例えば、指定された速度関連閾値よりも小さいと判定される比較的遅い平行移動速度)に対応する平行移動状態信号生成器427からの第1の平行移動状態信号に応答して、ディスプレイマネージャ422B又は画像処理及びディスプレイマネージャ422は、ワークピースの第1のタイプのライブEDOF画像をユーザインタフェース436に表示させるように動作する。第1のタイプのライブEDOF画像は、第1のタイプのライブEDOF画像中のデフォーカスブラーを除去するためEDOF画像処理部423によって行われる第1のレベルの画像処理(例えば、全量又は比較的多量の画像処理)に基づいたEDOF画像データセットに相当する。第1の現在の平行移動速度よりも速い第2の平行移動速度(例えば、第1の指定された速度関連閾値よりも高いと判定される)に対応する第2の平行移動状態信号に応答して、ディスプレイマネージャ422B又は画像処理及びディスプレイマネージャ422は、ワークピースの第2のタイプのライブEDOF画像をユーザインタフェース436に表示させるように動作する。
【0064】
様々な実施形態において、第2のタイプのライブEDOF画像は、以下のうち少なくとも一方に基づくEDOF画像データセットに対応し得る。すなわち、第2のタイプのライブEDOF画像中のデフォーカスブラーを除去するためEDOF画像処理部423によって行われ、第1のレベルの画像処理よりも少ない画像処理に相当する第2のレベルの画像処理を実行すること、又は、第2のタイプのライブEDOF画像中のデフォーカスブラーを除去するための画像処理を実行しないこと、である(例えば、カメラ460からの未処理EDOF画像データセットをユーザインタフェース436へ渡すことができる)。様々な実施形態において、ライブEDOF画像を繰り返し更新することは、更に、第2の現在の平行移動速度よりも速い第3の現在の平行移動速度(例えば、第2の指定された速度関連閾値よりも高いと判定される)に対応する第3の平行移動状態信号に応答して、ワークピースの第3のタイプのライブEDOF画像をユーザインタフェースに表示することを含み得る(例えば、第2のレベルの画像処理よりも少ない画像処理に相当する第3のレベルの画像処理を実行すること、又は、第3のタイプのライブEDOF画像中のデフォーカスブラーを除去するための画像処理を実行しないことに基づいたEDOF画像データセットに相当する)。様々な実施形態において、追加の速度関連閾値に関連付けて追加のレベルの画像処理を同様に使用してもよいことは認められよう。
【0065】
様々な実施形態において、制御システム420又は520は、例えばTAGレンズ光学パワー変動とストロボ照明を同期させることを可能とする照明制御部のような追加の要素も含み得る。別の例として、TAGレンズ光学パワー変動とカメラの「シャッタ機能」露光小分割(sub-inrements)を同期させるため、カメラ460のための露光制御部も含むことができる。そのような機能性を用いて、(例えば光源330からの)ストロボ照明の機能を置換又は強化して、露光中に露光小分割を与えることができる。いくつかの例では、平行移動状態信号生成器を制御システム420及び520に含めることも可能である。
【0066】
図6A及び
図6Bは、撮像システムに関連するユーザインタフェース600を示す図である。以下で詳述するように、
図6Aの例では、第1のレベルの画像処理を使用して、表示されている第1のタイプのライブEDOF画像610Aにおいて第1のレベルの解像度でデフォーカスブラーが除去されている。
図6Aに示す例示的な状態において、ユーザインタフェース600は、ワークピース611(例えば、中央部の語「newC」のように、様々な文字及び記号を含む表面を有する)のワークピース部611Aの第1のタイプのライブEDOF画像610Aを表示している視野ウィンドウ603を含む。1つの実施形態では、文字が配置されているワークピースの表面を傾斜させて、異なる文字及び記号をそれぞれ異なる焦点高さに置くことができる。他の例では、ワークピースが、異なる焦点高さにある検査対象の異なる要素を含み得ることは認められよう。これについては、引用文献に詳述されている。また、ユーザインタフェース600は、選択バー620及び640等の様々な測定及び/又は動作選択バー、リアルタイムX-Y-Z(位置)座標ウィンドウ630、及び光制御ウィンドウ650も含む。
【0067】
上述のように、EDOFモードに関して本明細書に記載されるシステム及び方法は、学習モード及び/又は手動動作中に特に有用である。ユーザは、ワークピース(例えばワークピース611)が(例えば視野ウィンドウ603内に表示されるように)撮像システムの視野に沿った方向に平行移動し得る視覚検査及び/又はワークピースプログラム生成を行うためワークピースをナビゲートしながら、(例えばユーザインタフェース600において)ライブEDOF画像のビデオを(例えば少なくともほぼリアルタイムで)見ることができる。そのような平行移動の一例として、
図6Bに示す視野ウィンドウ603では、
図6Aの視野ウィンドウ603に対してワークピース611が平行移動した位置にあることがわかる(例えば、語「newC」は下方に、かつわずかに左側に移動したことがわかる)。そのような移動/平行移動は、リアルタイムX-Y-Z(位置)座標ウィンドウ630において、X座標が30.81096mmから32.81096mmへ変化したことを示し、Y座標が34.31706mmから24.31706mmに変化したことを示すことからもわかる。様々な実施形態において、Z座標は同じままであり、VFLレンズ370によって与えられる変更焦点位置に対して静止/中央焦点位置を表し得る。ワークピースに沿った方向にナビゲートするためのそのような平行移動中にEDOFモードを利用することによって、ユーザがワークピース上の様々な顕微鏡的要素の高さに応じて画像を常に再合焦する必要がなくなることは認められよう。この再合焦は、(例えば特に高倍率等では)退屈であると共に長い時間を要する可能性がある。
【0068】
図6Aの例では、現時点で、ワークピース611のユーザナビゲーションは比較的遅い速度で移動中であるので、(例えば上述のような)第1の平行移動状態信号は、第1の現在の平行移動速度(例えば比較的遅い速度)に対応している。比較的遅い平行移動速度に応じて、ユーザインタフェース600には、ワークピース611の第1のタイプのライブEDOF画像610Aが表示されている。この画像は、第1のタイプのライブEDOF画像610Aにおけるデフォーカスブラーを除去するための第1のレベルの画像処理(例えば比較的多量の画像処理)に基づくEDOF画像データセットに対応する。
【0069】
これに対して
図6Bの例では、現時点で、ワークピース611のユーザナビゲーションは比較的速い速度で移動中である(例えば、ワークピースに沿った方向の走査のため、ユーザがビジョンシステムのステージを高速で移動させている)ので、第2の平行移動状態信号は、第2の現在の平行移動速度(例えば比較的速い速度)に対応している。比較的速い平行移動速度に応じて、ユーザインタフェース600には、ワークピース611のワークピース部611Bの第2のタイプのライブEDOF画像610Bが表示されている。様々な実施形態において、第2のタイプのライブEDOF画像は、第2のタイプのライブEDOF画像610Bにおけるデフォーカスブラーを除去するための第2のレベルの画像処理に基づくEDOF画像データセットに対応する。第2のレベルの画像処理は、第1のレベルの画像処理よりも少ない画像処理に相当する。様々な実施形態において、第1のレベルの画像処理は、第1のタイプのライブEDOF画像610Aにおいて第1のレベルの解像度でデフォーカスブラーを除去することができ、第2のレベルの画像処理は、第2のタイプのライブEDOF画像610Bにおいて第2のレベルの解像度でデフォーカスブラーを除去することができる。第2のレベルの解像度は第1のレベルの解像度よりも粗い(すなわち低い)。
図6A及び
図6Bの例では、ライブEDOF画像610Bの「粗い」解像度レベルは、ライブEDOF画像610Aに比べて視認できるものである。
【0070】
図7は、撮像システムに関連するユーザインタフェースに表示されるワークピースのライブEDOF画像を提供するためのルーチン700の1つの例示的な実施形態を示すフロー図である。ブロック710では、カメラを繰り返し動作させて、経時的なワークピースの未処理EDOF画像のシーケンスに対応した、経時的な未処理EDOF画像データセットのシーケンスを出力する。ブロック720では、現時点での撮像システムの視野に沿った方向のワークピースの現在の平行移動速度に対応した平行移動状態信号を繰り返し決定する。「平行移動速度」は、その原因にかかわらず、ワークピースと視野との間の相対移動を指すことは認められよう。撮像システムの構成要素の移動、又はワークピースの移動、又はそれら双方によって、相対移動が生じ得る。様々な実施形態において、ブロック720での平行移動状態信号の決定は、(例えば倍率レベルと組み合わせて)移動制御速度を決定すること、(例えば倍率レベルと組み合わせて)ワークピースが配置されている撮像システムのステージの移動速度を決定すること、一連の画像を解析して画像間の差の量を決定すること、又は、一連の画像を解析して画像中の少なくとも1つの要素の平行移動量を決定すること、のうち少なくとも1つを含み得る。
【0071】
ブロック730では、現時点での平行移動状態信号の状態に基づいて、撮像システムに関連するユーザインタフェースに表示されるワークピースのライブEDOF画像を繰り返し更新する。ユーザインタフェースにおけるライブ表示を繰り返し更新することは、以下の動作を含む。
・第1の現在の平行移動速度に対応する第1の平行移動状態信号に応答して、ユーザインタフェースに、ワークピースの第1のタイプのライブEDOF画像を表示する。第1のタイプのライブ画像は、第1のタイプのライブEDOF画像中のデフォーカスブラーを除去するための第1のレベルの画像処理に基づくEDOF画像データセットに対応する。
・第1の現在の平行移動速度よりも速い第2の現在の平行移動速度に対応する第2の平行移動状態信号に応答して、ユーザインタフェースに、ワークピースの第2のタイプのライブEDOF画像を表示する。第2のタイプのライブ画像は、(a)第2のタイプのライブEDOF画像中のデフォーカスブラーを除去するための、第1のレベルの画像処理よりも少ない画像処理に相当する第2のレベルの画像処理を実行すること、又は(b)第2のタイプのライブEDOF画像中のデフォーカスブラーを除去するための画像処理を実行しないこと、のうち少なくとも一方に基づくEDOF画像データセットに対応する。
【0072】
判断ブロック740では、(例えば、検査システムで従来の撮像モードを用いるためEDOF撮像モードを停止させることにより)ルーチンの繰り返し動作が完了したか否かについて判定を行う。繰り返し動作が完了していない場合、ルーチンは継続する。繰り返し動作が完了した場合、ルーチンは終了する。
【0073】
例示的であるが限定ではない1つの実施形態において、ブロック730の動作は、現在の平行移動状態信号を査定することを含み、その後、査定の結果に応じた動作を行うことができる(例えば以下で更に記載するように)。
【0074】
いくつかの実施形態では、現在の平行移動状態信号は、(例えば、要求された移動速度、又は第1と第2の連続画像間の要素の平行移動、又は本明細書に開示された変化指標の他の平行移動速度もしくは平行移動レートに従って)直接に又は間接的に決定される平行移動速度とすることができる。あるいは、現在の平行移動速度は、平行移動速度に相関付けられた他のいずれかの画像又は「画像変化」の尺度を反映することも可能である。いずれの場合であっても、平行移動速度又は速度関連尺度は、適切な所定の閾値レベルと比較される。次いで、(例えば以下のように)少なくとも部分的にこの決定に基づいて、ライブEDOF画像の次の更新を行うことができる。
【0075】
様々な実施形態では、速度関連閾値未満であると査定又は判定された第1の平行移動状態信号に応じて、第1のタイプのライブEDOF画像中のデフォーカスブラーを除去するための第1のレベルの画像処理に基づくEDOF画像データセットに対応して、ユーザインタフェースに、ワークピースの第1のタイプのライブEDOF画像が表示される。いくつかの実施形態では、第1のレベルの画像処理は比較的費用が高く、及び/又は可能な限り最良のEDOF画像を与える可能性がある。他の実施形態では、第1のレベルの画像処理は、様々なユーザにとって許容できる「充分な(good enough)」画像を生成するように選択すればよい。
【0076】
これに対して、速度関連閾値を超えていると査定又は判定された第2の平行移動状態信号に応じて、ユーザインタフェースに、ワークピースの第2のタイプのライブEDOF画像が表示される。これは、第2のタイプのライブEDOF画像中のデフォーカスブラーを除去するための、第1のレベルの画像処理よりも少ない画像処理(及び/又は短い処理時間)に相当する第2のレベルの画像処理を実行すること、又は、第2のタイプのライブEDOF画像中のデフォーカスブラーを除去するための画像処理を実行しないこと、のうち少なくとも一方に基づくEDOF画像データセットに対応している。
【0077】
様々な実施形態において、追加の速度関連閾値に関連付けて追加のレベルの画像処理を同様に実行可能であることは認められよう。様々な実施形態において、1つ以上の速度関連閾値を規定する入力をユーザから受信することができ、ライブEDOF画像を繰り返し更新するためのステップは、ユーザが規定した1つ又は複数の速度関連閾値に従って自動的に実行することができる。
【0078】
様々な実施形態において、第2のタイプのライブEDOF画像は、未処理EDOF画像データセットに対応する未処理EDOF画像とすることができ、EDOF画像データセットは、第2のタイプのライブEDOF画像で用いられる未処理EDOF画像からデフォーカスブラーを除去するための画像処理を実行しないことに基づいている。いくつかの実施形態では、第1のレベルの画像処理は、第1のタイプのライブEDOF画像において第1のレベルの解像度でデフォーカスブラーを除去することができ、ブロック730の第2のレベルの画像処理は、第2のタイプのライブEDOF画像において第2のレベルの解像度でデフォーカスブラーを除去することができ、第2のレベルの解像度は第1のレベルの解像度よりも粗い(すなわち低い)。様々な実施形態において、デフォーカスブラーを除去するいかなるレベルの画像処理も、レンズシステムの動作を特徴付ける所定の積分点像分布関数に基づいた未処理EDOFデータセットのデコンボリューション処理を含み得る。
【0079】
1つの特定の例示的な実施形態では、第1のレベルの画像処理に関連付けられた第1のレベルの解像度は、未処理EDOF画像データセットの解像度に対応する最大画素レベルの解像度とすることができる。第2のレベルの解像度でデフォーカスブラーを除去する第2のレベルの画像処理は、未処理EDOF画像データを処理して、対応するマルチピクセルカーネルのセットを画定するように構成することができる。各マルチピクセルカーネルの画素レベルのデータを、平均化するか又は他の方法で結合することで、各マルチピクセルカーネルを特徴付ける低減量のマルチピクセルカーネルレベルデータを与えることができる。このマルチピクセルカーネルレベルデータを処理して、第2のタイプのライブEDOF画像中のマルチピクセルカーネルのサイズに対応した解像度レベルでデフォーカスブラーを除去することができる。様々な実施形態において、マルチピクセルカーネル動作は、これに加えて又はこの代わりに、第2のレベルの画像処理の一部として種々の代替的なタイプの「画素ビニング(pixel binning)」動作を含むことも可能である。
【0080】
様々な実施形態において、方法700の繰り返しステップは、少なくとも第2の平行移動状態信号に対応した動作状態の間に、ユーザインタフェースに表示されるワークピースのライブEDOF画像が少なくとも1秒当たり最小回数(例えば10回、25回等)繰り返し更新されるようなレートで実行することができる。様々な実施形態において、方法700は更に、平行移動状態信号が平行移動なしの状態に対応しているか否かの判定を含むことができる。この場合、平行移動状態信号が平行移動の状態に対応するまで、ユーザインタフェースに表示されるワークピースのライブEDOF画像を繰り返し更新するステップを一時停止するか、又は同一のライブEDOF画像を繰り返すことができる。
【0081】
本開示の好適な実施形態について図示及び記載したが、本開示に基づいて、図示及び記載した特徴の構成及び動作のシーケンスにおける多数の変形が当業者には明らかであろう。種々の代替的な形態を用いて本明細書に開示した原理を実施してもよい。更に、上述の様々な実施形態を組み合わせて別の実施形態を提供することも可能である。これらの様々な特許及び出願の概念を用いて更に別の実施形態を提供するために必要な場合は、上述の実施の態様形態は変更可能である。
【0082】
前述の記載に照らして、実施形態に対してこれら及び他の変更を行うことができる。一般に、以下の特許請求の範囲において、用いる用語は本明細書及び特許請求の範囲に開示される特定の実施形態に特許請求の範囲を限定するものとして解釈されず、そのような特許請求の範囲の権利が与えられる均等物の全範囲に加えて全ての可能な実施形態を包含するものとして解釈されなければならない。
【符号の説明】
【0083】
10…マシンビジョン検査システム(ビジョンシステム)、12…画像測定機、14…制御コンピュータシステム、16…ディスプレイ、18…プリンタ、20…ワークピース、22…ジョイスティック、24…キーボード、26…マウス、32…可動ワークピースステージ、34…光学撮像システム、100…ビジョンシステム、120…制御システム部、125…制御部、130…入出力インタフェース、131…撮像制御インタフェース、131e…EDOFモード、132…移動制御インタフェース、132a…位置制御要素、132b…加速度制御要素、133…照明制御インタフェース、133a…照明制御要素、136…ディスプレイデバイス、138…入力デバイス、140…メモリ、140ed…エッジ検出メモリ部、141…画像ファイルメモリ部、142…ワークピースプログラムメモリ部、143,143a…ビデオツール部、143af…自動合焦ビデオツール、143roi…関心領域生成器、170…実行器、190…電源部、200…ジョンシステム構成要素部、205…光学アセンブリ部、210…ワークピースステージ、212…透明部、220…透過照明光源、220…透過照明光源、221…バス、222,232…光源光、230…落射照明光源、240…斜め照明光源、250…交換可能対物レンズ、255…ワークピース光、260…カメラシステム、262…信号ライン、VFL270…レンズ、271…レンズ制御部/インタフェース、280…ターレットレンズアセンブリ、281…バス、284…軸、286…レンズ、290…ミラー、294…制御可能モータ、296…信号ライン、300…撮像システム、320…ワークピース、326…ユーザインタフェース、330…光源、332…光源光、350…対物レンズ、351…チューブレンズ、352…リレーレンズ、355…ワークピース光、360…カメラシステム(カメラ)、370…レンズ、371…レンズ制御部、386…リレーレンズ、390…部分ミラー、400…ビジョンシステム、420…制御システム、421…平行移動状態信号解析器、422…ディスプレイマネージャ、422A…画像処理マネージャ、422B…ディスプレイマネージャ、423…画像処理部、427…平行移動状態信号生成器、436…ユーザインタフェース、460…カメラ、500…ビジョンシステム、520…制御システム、600…ユーザインタフェース、603…視野ウィンドウ、610A,610B…ライブEDOF画像、611…ワークピース、611A,611B…ワークピース部、620…選択バー、630…座標ウィンドウ、650…光制御ウィンドウ