(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公開特許公報(A)
(11)【公開番号】P2024022625
(43)【公開日】2024-02-16
(54)【発明の名称】光学撮像システムのオートフォーカス用レンジ弁別化装置
(51)【国際特許分類】
G02B 7/28 20210101AFI20240208BHJP
G02B 7/36 20210101ALI20240208BHJP
G03B 13/36 20210101ALI20240208BHJP
G03B 15/00 20210101ALI20240208BHJP
G03B 15/02 20210101ALI20240208BHJP
H04N 23/56 20230101ALI20240208BHJP
H04N 23/67 20230101ALI20240208BHJP
G06T 7/521 20170101ALI20240208BHJP
【FI】
G02B7/28 H
G02B7/36
G03B13/36
G03B15/00 T
G03B15/02 F
H04N23/56
H04N23/67 100
G06T7/521
【審査請求】有
【請求項の数】14
【出願形態】OL
(21)【出願番号】P 2023203097
(22)【出願日】2023-11-30
(62)【分割の表示】P 2019030025の分割
【原出願日】2019-02-22
(31)【優先権主張番号】62/634,870
(32)【優先日】2018-02-25
(33)【優先権主張国・地域又は機関】US
(71)【出願人】
【識別番号】501005438
【氏名又は名称】オルボテック リミテッド
(74)【代理人】
【識別番号】110001210
【氏名又は名称】弁理士法人YKI国際特許事務所
(72)【発明者】
【氏名】シャイ ウィセマン
(72)【発明者】
【氏名】イガル カッツィール
(72)【発明者】
【氏名】オフィール シュニト
(72)【発明者】
【氏名】イリア ルツケル
(72)【発明者】
【氏名】チャイ ゴールデンバーグ
(57)【要約】
【課題】光学撮像システムのオートフォーカスにおいて用いる深度レンジ弁別に関するシステム。
【解決手段】オートフォーカスに有用なレンジ弁別化装置120であって,上記レンジ弁別化装置は,様々な物理的深度のシーンの画像を提供する画像生成器,所定閾値未満の深度の上記画像の部分を,上記部分の形状に関係なく区別し,深度弁別化画像を提供する深度弁別化装置,および上記深度弁別化画像に基づいて,焦点距離を確認する焦点距離確認装置を含む。また閾値以上の深度の画像の部分に基づいて,焦点スコアを提供するように動作する。
【選択図】
図2
【特許請求の範囲】
【請求項1】
オートフォーカスに有用なレンジ弁別化装置であって,
様々な物理的深度のシーンの画像を提供する,波長420nm以下の波長を有する特徴特定照明器を有する画像生成器,
上記特徴特定照明器からの波長420nm以下の波長の照明の下での蛍光差を用いて,所定閾値未満の深度の上記画像の部分及び前記所定閾値以上の深度の上記画像の部分を,上記部分の形状と関係なく,区別して,深度弁別化画像を提供する深度弁別化装置,および
上記深度弁別化画像に基づいてフォーカス距離を確認するフォーカス距離確認装置を備え,さらに,
上記所定閾値以上の深度の上記画像の部分に基づいて焦点スコアを提供するように動作する画像焦点分析装置を備え,
上記フォーカス距離確認装置が上記焦点スコアに基づいて上記フォーカス距離を確認するように動作する,
レンジ弁別化装置。
【請求項2】
上記焦点スコアが上記部分の形状に関係なく割り当てられる,請求項1に記載のレンジ弁別化装置。
【請求項3】
上記焦点スコアが,上記所定閾値以上の深度の上記画像の上記部分に対応する各画素に個々に割り当てられる,請求項1に記載のレンジ弁別化装置。
【請求項4】
上記閾値以上の深度の上記画像の上記部分が機械識別可能である,請求項1に記載のレンジ弁別化装置。
【請求項5】
上記画像生成器が上記シーン上に繰り返しパターンを投影するプロジェクタを備え,上記深度弁別化装置が,上記繰り返しパターンの位相シフトを分析し,上記位相シフトに基づいて上記物理的深度のマップを導出するように動作する位相分析装置を備え,上記マップが上記深度弁別化画像を形成する,請求項1に記載のレンジ弁別化装置。
【請求項6】
上記フォーカス距離確認装置が,少なくとも一つの上記物理的深度に基づいて上記フォーカス距離を確認するように動作する,請求項5に記載のレンジ弁別化装置。
【請求項7】
上記繰り返しパターンが,正弦波繰り返しパターンおよび二値繰り返しパターンの少なくとも一方を含む,請求項5に記載のレンジ弁別化装置。
【請求項8】
上記繰り返しパターンが十分に低い空間周波数を有しており,上記位相分析装置が上記位相シフトを上記物理的深度に一意に相関させるように動作する,請求項7に記載のレンジ弁別化装置。
【請求項9】
上記物理的深度の上記マップが,2次元マップおよび3次元マップの一方である,請求項7に記載のレンジ弁別化装置。
【請求項10】
オートフォーカスに有用なレンジ弁別化装置であって,
様々な物理的深度のシーンの画像を提供する,波長420nm以下の波長を有する特徴特定照明器を有する画像生成器,
上記特徴特定照明器からの波長420nm以下の波長の照明の下での蛍光差を用いて,所定閾値未満の深度の上記画像の部分及び上記所定閾値以上の深度の上記画像の部分を区別する深度弁別化装置,
上記所定閾値以上の深度の上記画像の部分に基づいて焦点スコアを提供するように動作する画像焦点分析装置,および
上記焦点スコアに基づいてフォーカス距離を確認するフォーカス距離確認装置を備え,さらに,
上記所定閾値以上の深度の上記画像の部分に基づいて焦点スコアを提供するように動作する画像焦点分析装置を備え,上記フォーカス距離確認装置が上記焦点スコアに基づいて上記フォーカス距離を確認するように動作する,
レンジ弁別化装置。
【請求項11】
上記焦点スコアが上記部分の形状に関係なく割り当てられる,請求項10に記載のレンジ弁別化装置。
【請求項12】
上記焦点スコアが,上記所定閾値以上の深度の上記画像の上記部分に対応する各画素に個々に割り当てられる,請求項10に記載のレンジ弁別化装置。
【請求項13】
上記閾値以上の深度の上記画像の上記部分が機械識別可能である,請求項10に記載のレンジ弁別化装置。
【請求項14】
オートフォーカスに有用なレンジ弁別化装置であって,
第1の撮像モダリティを備え,様々な物理的深度のシーンの第1の画像を提供する,波長420nm以下の波長を有する特徴特定照明器を有する第1の画像生成器,
上記特徴特定照明器からの波長420nm以下の波長の照明の下での蛍光差を用いて,所定閾値未満の深度の上記第1の画像の部分及び上記所定閾値以上の深度の上記第1の画像の部分を区別して深度弁別化画像を提供する深度弁別化装置,
上記深度弁別化画像に基づいてフォーカス距離を確認するフォーカス距離確認装置,および
上記所定閾値以上の深度の上記第1の画像の部分に基づいて焦点スコアを提供するように動作する画像焦点分析装置を備え,
上記フォーカス距離確認装置が上記焦点スコアに基づいて上記フォーカス距離を確認するように動作し,
第2の撮像モダリティを備え,上記フォーカス距離に自動的に焦点合わせされた上記シーンの第2の画像を提供する第2の画像生成器を備えている,
レンジ弁別化装置。
【発明の詳細な説明】
【技術分野】
【0001】
関連出願の相互参照
本書において,2018年2月25日に出願された発明の名称「光学撮像システムのオートフォーカス用レンジ弁別化装置」(RANGE DIFFERENTIATORS FOR AUTO-FOCUSING IN OPTICAL IMAGING SYSTEMS)の米国仮特許出願第62/634,870を参照し,この米国仮出願の開示は引用によって本書に組み込まれ,37CFR1.78(a)(4)および(5)(i)にしたがってここにその優先権を主張する。
【0002】
この発明は概略的には光学撮像システムに関するもので,より詳細には光学撮像システムのオートフォーカス(自動合焦,自動焦点合わせ)に有用なシステムおよび方法に関する。
【背景技術】
【0003】
光学撮像システムに用いる様々なタイプのオートフォーカス・システムが従来技術において知られている。
【先行技術文献】
【特許文献】
【0004】
【発明の概要】
【発明が解決しようとする課題】
【0005】
この発明は,光学撮像システムのオートフォーカスにおいて用いる深度レンジ弁別(深度範囲差別化)(depth range differentiation)に関するシステムおよび方法を提供するものである。
【課題を解決するための手段】
【0006】
すなわち,この発明の好ましい実施態様では,オートフォーカスに有用なレンジ弁別化装置(a range differentiator)が提供され,上記レンジ弁別化装置は,様々な物理的深度のシーン(a scene)(場面,光景)の画像を提供する画像生成器,所定閾値未満の深度の上記画像の部分を,上記部分の形状(a shape)と関係なく区別(区分)して(distinguishing),深度弁別化画像(a depth differenciated image)を提供する深度弁別化装置,および上記深度弁別化画像に基づいてフォーカス距離を確認するフォーカス距離確認装置(a focus distance ascertainer)を含む。
【0007】
この発明の好ましい実施態様では,上記画像生成器が,上記画像の取得中に上記シーンを照明する特徴特定照明器(a feature specific illuminator)を含む。さらに,上記深度弁別化装置は,上記特徴特定照明器による照明の下,上記所定閾値未満の深度の上記画像の部分と上記所定閾値以上の深度の上記画像の部分を,それらの間の光学特性差(differences in optical properties)に基づいて区別するように動作する。
【0008】
この発明の好ましい実施態様では,上記特徴特定照明器はUV照明源を含み,上記深度弁別化装置が,上記画像の上記部分をそれらの間の蛍光差(differences in fluorescenence)に基づいて区別するように動作する。他の例では,上記特徴特定照明器は,暗視野照明源および明視野照明源を備え,上記深度弁別化装置が,上記画像の上記部分をそれらの間の反射率差(differences in reflectance)に基づいて区別するように動作する。
【0009】
好ましくは,上記フォーカス距離確認装置が,上記所定閾値未満の深度の上記画像の上記部分および上記所定閾値以上の深度の上記画像の上記部分の一方に基づいて上記フォーカス距離を確認するように動作する。
【0010】
この発明の好ましい実施態様では,上記レンジ弁別化装置は上記所定閾値以上の深度の上記画像の部分に基づいて焦点スコア(a focus score)を提供するように動作する画像焦点分析装置をさらに含み,上記フォーカス距離確認装置が上記焦点スコアに基づいて上記フォーカス距離を確認するように動作する。さらに,上記画像焦点分析装置は,上記所定閾値以上の深度の上記画像の上記部分の撮像テクスチャ(an imaged texture)(撮像質感)を強調する照明を用いて上記シーンを照明する照明器を含む。これに加えて,上記照明器は暗視野照明器を含む。これに代えてまたは加えて,上記焦点スコアは上記部分の形状に関係なく割り当てられる。この発明の好ましい実施態様では,上記焦点スコアが,上記所定閾値以上の深度の上記画像の上記部分に対応する各画素に個々に割り当てられる。
【0011】
好ましくは,上記閾値以上の深度の上記画像の上記部分が機械識別可能(machine identifiable)である。
【0012】
この発明の好ましい実施態様では,上記画像生成器がカメラを含み,上記深度弁別化画像が上記シーンの2次元画像を含む。これに加えてまたは代えて,上記画像生成器がプレノプティック・カメラ(a plenoptic camera)を備え,上記深度弁別化画像が上記シーンの3次元画像を含む。この発明の好ましい実施態様では,上記特徴特定照明器が暗視野照明器を含む。
【0013】
この発明の好ましい実施態様では,上記画像生成器が上記シーン上に繰り返しパターンを投影するプロジェクタ(投影機)を含み,上記深度弁別化装置が,上記繰り返しパターンの位相シフトを分析し,上記位相シフトに基づいて上記物理的深度のマップを導出するように動作する位相分析装置を含み,上記マップが上記深度弁別化画像を形成する。これに加えて,上記フォーカス距離確認装置が,少なくとも一つの上記物理的深度に基づいて上記フォーカス距離を確認するように動作する。
【0014】
この発明の好ましい実施態様では,上記繰り返しパターンが正弦波繰り返しパターン(a sinusoidal repeating pattern)および二値繰り返しパターン(a binary repeating pattern)の少なくとも一方を含む。さらに,上記繰り返しパターンが十分に低い空間周波数を有しており,上記位相分析装置が上記位相シフトを上記物理的深度に一意に相関させるように動作する。これに加えてまたは代えて,上記物理的深度の上記マップが2次元マップおよび3次元マップの一方である。
【0015】
また,この発明の他の好ましい実施態様によって提供されるオートフォーカスに有用なレンジ弁別化装置は,様々な物理的深度のシーンの画像(an image of a scene at various physical depths)を提供する画像生成器,所定閾値未満の深度の上記画像の部分を区別する深度弁別化装置,上記所定閾値以上の深度の上記画像の部分に基づいて焦点スコアを提供するように動作する画像焦点分析装置,および上記焦点スコアに基づいて上記フォーカス距離を確認するフォーカス距離確認装置を含む。
【0016】
この発明の好ましい実施態様では,上記画像生成器は上記画像の取得中に上記シーンを照明する特徴特定照明器を含む。さらに,上記深度弁別化装置はUV照明源を含み,上記深度弁別化装置がそれらの間の蛍光差(differences in fluorescence therebetween)に基づいて上記画像の上記部分を区別する。他の態様では,上記特徴特定照明器が暗視野および明視野結合照明器(a combined dark field and bright field illuminator)を含み,上記深度弁別化装置がそれらの間の反射率差に基づいて上記画像の部分を区別する。
【0017】
この発明の好ましい実施態様では,上記画像焦点分析装置が,上記所定閾値以上の深度の上記画像の上記部分の撮像テクスチャを強調する照明を用いて上記シーンを照明する照明器を含む。さらに,上記照明器は暗視野照明器を含む。これに加えてまたは代えて,上記照明器および上記特徴特定照明器が少なくとも一つの共通照明構成要素を共有している。
【0018】
この発明の好ましい実施態様では,上記焦点スコアが上記部分の形状に関係なく割り当てられる。これに加えてまたは代えて,上記焦点スコアが,上記所定閾値以上の深度の上記画像の上記部分に対応する各画素に個々に割り当てられる。
【0019】
好ましくは,上記閾値以上の深度の上記画像の上記部分が機械識別可能である。
【0020】
この発明のさらに他の好ましい実施態様によってさらに提供されるオートフォーカスに有用なレンジ弁別化装置は,画像中の対象物の機械識別可能な特徴をユーザが特定する(identify)ことができるようにするユーザ・インターフェースを含むターゲット特定装置(a target identifier),上記特徴の形状に関係なく,上記画像中の少なくとも一つの上記機械識別可能な特徴の発生を特定する(to identify at least one occurrence of the machine identifiable feature in an image)ように動作する特徴検出器,および上記機械識別可能な特徴に対するフォーカス距離を確認するフォーカス距離確認装置を含む。
【0021】
好ましくは,上記レンジ弁別化装置は上記画像の取得中に上記対象物を照明する特徴特定照明器をさらに含む。
【0022】
この発明の好ましい実施態様では,上記特徴特定照明器はUV照明源を含み,上記特徴識別装置はその蛍光に基づいて上記機械識別可能特徴を識別する。他の態様では,上記特徴特定照明器は暗視野および明視野結合照明器を含み,上記特徴識別装置がその反射に基づいて上記機械識別可能特徴を識別する。
【0023】
この発明の好ましい実施態様では,レンジ確認装置(range ascertainer)が,上記画像中の上記対象物の上記特徴の撮像テクスチャを強調する照明を用いて上記対象物を照明する照明器を含む。さらに,上記照明器は暗視野照明器を含む。
【0024】
好ましくは,上記照明器および上記特徴特定照明器は少なくとも一つの共通照明構成要素を共有している。
【0025】
この発明の好ましい実施態様では,上記対象物の上記特徴は導電性特徴(a conductive feature)を含む。さらに,上記対象物の上記特徴は上記導電性特徴中のインデントを含む。
【0026】
この発明のさらに他の好ましい実施態様によりさらに提供されるオートフォーカスに有用なレンジ弁別化装置は,第1の撮像モダリティ(a first imaging modality)を含み,様々な物理的深度のシーンの第1の画像を提供する第1の画像生成器,所定閾値未満の深度の上記第1の画像の部分を区別して深度弁別化画像を提供する深度弁別化装置,上記深度弁別化画像に基づいてフォーカス距離を確認するフォーカス距離確認装置,および第2の撮像モダリティ(a second imaging modality)を含み,上記フォーカス距離に自動的に焦点合わせされた上記シーンの第2の画像を提供する第2の画像生成器を含む。
【0027】
この発明の好ましい実施態様では,上記第1の撮像モダリティが明視野および暗視野結合照明を含み,上記第2の撮像モダリティが暗視野照明を含む。さらに,上記第2の画像生成器がプレノプティック・カメラを含む。
【0028】
この発明の好ましい実施態様では,上記第1の撮像モダリティが暗視野照明を含み,上記第2の撮像モダリティが明視野および暗視野結合照明を含む。さらに,上記第1の画像生成器がプレノプティック・カメラを含む。
【0029】
この発明のさらに他の好ましい実施態様によりさらに提供されるオートフォーカスに有用なレンジ弁別化装置は,様々な物理的深度の特徴を含む対象物上に繰り返しパターンを投影するプロジェクタ,上記対象物上に上記繰り返しパターンが投影されている上記対象物の画像を取得するセンサ,上記繰り返しパターンの位相シフトを分析し,上記位相シフトに基づいて上記特徴の上記物理的深度のマップを導出する位相分析装置,および少なくとも一つの上記特徴に対するフォーカス距離を確認する焦点分析装置を含む。
【0030】
この発明の好ましい実施態様では,上記繰り返しパターンが,正弦波繰り返しパターンおよび二値繰り返しパターンの少なくとも一方を含む。これに加えてまたは代えて,上記繰り返しパターンが十分に低い空間周波数を有しており,上記位相分析装置が上記位相シフトを上記物理的深度に一意に相関させるように動作する。
【0031】
好ましくは,上記物理的深度のマップが2次元マップまたは3次元マップの一方である。
【0032】
この発明は,図面に関連する以下の詳細な記載から充分に理解されかつ認識されよう。
【図面の簡単な説明】
【0033】
【
図1】この発明の好ましい実施態様によって構成されかつ動作する,オートフォーカス機能を含む光学撮像システムの概略図である。
【
図2】
図1に示すタイプのシステムの構成要素の簡略ブロック図である。
【
図3】(A),(B)および(C)は,
図1および
図2に示すタイプのシステムによって提供される簡略画像であり,それぞれ,特徴特定照明の下で取得された対象物の初期画像,上記初期画像に基づくオートフォーカスに有用な上記対象物のセグメント画像,および上記セグメント画像に基づく上記対象物の自動合焦画像を示す。
【
図4】
図3(C)に示すタイプの自動合焦画像を生成するのに有用な変数の傾向を示す簡略化グラフである。
【
図5】この発明の他の好ましい実施態様によって構成されかつ動作する,オートフォーカス機能を含む光学撮像システムの概略図である。
【
図6】
図5に示すタイプのシステムの構成要素の簡略化ブロック図である。
【
図7】(A),(B)および(C)は,
図5および
図6に示すタイプのシステムによって生成される簡略画像であり,それぞれ,特徴特定照明条件下で取得された対象物の初期画像,上記初期画像に基づくオートフォーカスに有用な上記対象物のセグメント画像,および上記セグメント画像に基づく上記対象物の自動合焦画像を示す。
【
図8】(A),(B)および(C)は,
図1-2および5-6のいずれかのシステムによって生成される簡略画像であり,それぞれ,特徴特定照明条件の下で取得された追加特徴の初期画像,上記初期画像に基づくオートフォーカスに有用な深度弁別化画像,および上記深度弁別化画像に基づく自動合焦画像を示す。
【
図9】
図8(C)に示すタイプの自動合焦画像を生成するのに有用な変数の傾向を示す簡略化グラフである。
【
図10】この発明のさらに好ましい実施態様によって構成されかつ動作する,オートフォーカス機能を含む光学処理システムの概略図である。
【
図11】(A),(B),(C)および(D)は,
図10に示すタイプのシステムによって生成される簡略画像であり,それぞれ,特徴特定照明条件下で取得された対象物の初期画像,初期画像に基づくオートフォーカスに有用な深度弁別化画像,上記深度弁別化画像に基づく2次元自動合焦画像,および3次元画像を示す。
【
図12】(A),(B),(C)および(D)は,
図10に示すタイプのシステムによって追加的にまたは代替的に生成される簡略画像であり,それぞれ,特徴焦点合わせ照明条件の下で取得された対象物の初期3次元画像,対応する2次元画像,上記初期画像に基づく深度弁別化3次元画像,および深度弁別化3次元画像に基づく2次元自動合焦画像を示す。
【
図13】この発明のさらなる好ましい実施態様にしたがって構成されかつ動作する,オートフォーカス機能を含む光学処理システムの概略図である。
【
図14】(A),(B)および(C)は,
図13に示すタイプのシステムによって生成される簡略画像であり,それぞれ,第1の照明条件下で取得された対象物の初期画像,上記初期画像に基づくオートフォーカスに有用な2次元高さマップ画像および3次元高さマップ画像を示す。
【発明を実施するための形態】
【0034】
図1を参照して,
図1はこの発明の好ましい実施態様において構成されかつ動作する,オートフォーカス(自動合焦,自動焦点合わせ)機能を含む光学撮像システムの簡略図であり,
図2を参照して,
図2は
図1に示すタイプのシステムの要素の簡略ブロック図である。
【0035】
図1および
図2に示すように,シャーシ104上に取り付けられる光学撮像ヘッド102を好ましくは含む光学撮像システム100が提供される。シャーシ104は好ましくはテーブル106を含み,テーブル上に撮像される対象物108が配置される。たとえば対象物108の検査または処理を目的にして,光学撮像システム100は好ましくは対象物108の画像を提供するように動作する。
【0036】
対象物108は好ましくは非平面物であり,複数の物理的深度(more than one physical depth)の物理的特徴(造作)(physical features)を備えている。ここでは,一例として,対象物108は上面に形成された金属トレース110を有する非導電性基板109を含むPCBとして具体化されて示されている。金属トレース110は埋め込まれていても,基板109の表面から突出していてもよい。なお,光学撮像ヘッド102は,限定はされないが,PCB,ウェハ・ダイ,アセンブルPCB,フラット・パネル・ディスプレイおよび太陽エネルギー・ウェハを含む,複数の物理的高さまたは深度の物理的特徴を持つ任意の適切なターゲットまたはシーンの画像を取得するために使用することができることを理解されたい。
【0037】
いくつかのケースでは,対象物108に含まれる関心特徴(注目特徴)(a feature of interest)の合焦画像(焦点合わせされた画像)(focused image)を生成することが望ましい場合があり,この関心特徴が対象物108の他の特徴に対して異なる物理的高さまたは深度を持つ。たとえば,対象物108の場合,その検査目的のために金属トレース110に焦点が合っている(in focus)画像を生成することが望ましいことがある。この発明の好ましい実施態様の特定の特徴は,光学撮像システム100が深度弁別化画像(depth differentiated images)を提供し,関心特徴と基板109のような他の特徴との間に物理的な深度の違いがあるとしても,金属トレース110のような関心特徴上にオートフォーカスできるようするレンジ弁別化装置(a range differentiator)120を含むことである。さらに,このオートフォーカスを,関心特徴の形状(a shape)にかかわらずにレンジ弁別化装置120によって達成することができる。
【0038】
図2に明確に示すように,レンジ弁別化装置120は,好ましくは様々な物理的深度のシーンの画像(an image of a scene at various physical depths)を提供するように動作する画像生成器を含み,ここでは,たとえば対象物108を照明する照明モジュール122を含むものとして具現化されている。照明モジュール122によって提供される照明は,好ましくは可動レンズ部124を介して対象物108に向けられ,この可動レンズ部124は,好ましくはコントローラ128によって制御される並進ステージ126上に取り付けられる。対象物108から発する光は,好ましくは可動レンズ部124を介してカメラ・センサ130に向かい,このカメラ・センサ130は好ましくはプロセッサ132に結合される。
【0039】
レンジ弁別化装置120は好ましくは2つのモードで動作する。レンジ弁別化装置120の第1の動作モードでは,好ましくは,対象物108は,関心特徴が,関心特徴と異なる物理的深度を有する対象物108の他の特徴と明確に区別(区分)可能な照明条件下で,カメラ・センサ130によって撮像される。この撮像は,好ましくは,対象物108上のカメラ・センサ130の初期粗焦点合わせ(an initial coarse focusing)に続いて実行され,これによって取得される画像が後続の処理のために十分良好に焦点が合うものになる。
【0040】
関心特徴を,関心特徴と異なる物理的深度を有する対象物108の他の特徴と明確に区別することができる照明は特徴特定照明(feature specific illumination)と呼ばれ,照明モジュール122に含まれる特徴特定照明器140によって提供することができる。ここでは,一例ではあるが,特徴特定照明器140はUV光源として具現化されるように示されており,好ましくは約420nm以下の波長を有する非常に短い波長の照明を提供する。
【0041】
特徴特定照明器140によって提供されるUV照明の下では,非導電性基板109は蛍光を放つが,金属トレース110は蛍光を放たない。
図3(A)は,UV特徴特定照明条件下での基板109およびその上の金属トレース110の例示画像を示す。
図3(A)に示すように,非導電性基板109はその蛍光に起因して明るく現れ,他方,金属トレース110は暗く現れる。このように,
図3(A)の画像において,非導電性基板109を金属トレース110から明確に区別することができる。さらに,基板109の蛍光の結果として,基板109の表面下にある可能性がある対象物108の追加特徴がマスクされ,これによって
図3(A)の画像には現れず,したがってその後の画像処理が簡単になる。
【0042】
図3(A)に示す初期特徴特定画像の生成に続いて,好ましくはタグまたはセグメント画像(a tagged or segmented image)が生成され,このセグメント画像は初期特徴特定画像に基づく。
図3(B)は
図3(A)の特徴特定画像に基づくセグメント画像の例を示す。
図3(B)のセグメント画像において,暗い金属トレース110に対応する画素は灰色でマークされてこれらの画素が関心領域に対応するものとして識別され,明るい基板領域109に対応する画素は白色でマークされてこれらの画素は非関心領域に対応するものとして識別される。非関心領域は後続の画像処理ステップにおいて無視されるべきものである。不明確な識別領域に対応する領域112中の画素は黒色でマークされ,この画素は疑義関心領域(regions of questionable interest)に対応するものとして識別され,この領域もまた後続の画像処理ステップにおいて無視されるべきものである。好ましくは,
図3(A)における画素の明るさのレベルについて所定の閾値が適用され,金属トレース110に対応する暗い画素と背景基板109に対応する明るい画素とが区別される。
【0043】
したがって,
図3(B)のセグメント画像は深度弁別化マスク画像(a depth differentiated mask image)を効果的に形成し,所与の深度以下にある
図3(A)の特徴特定画像の部分,一例として基板109を含む部分が,所与の深度よりも上の
図3(A)の特徴特定画像の部分,一例として金属トレース110を含む部分と区別されることが理解される。異なる物理的深度における
図3(A)の特徴特定画像の部分間の区別は,それらの間の光学特性の差,より具体的にはそれらの間のUV照射下での蛍光差に基づくものであり,特徴の物理的形状に依存しないまたは無関係であることが理解される。
【0044】
図3(B)のセグメントマスク画像の生成は,単なる例であるが,プロセッサ132として具現化されるシステム100に含まれる計算機能によって自動的に実行することができ,プロセッサ132はコンピュータ114に含められる。すなわち,プロセッサ132は,好ましくは,部分の形状に関係なく,
図3(A)の画像のように,所定の閾値を下回る深度(at depths below a predetermined threshold)の初期特徴特定画像の部分を区別するように動作する深度弁別化装置(深さ分別器)として動作し,
図3(B)の深度弁別化画像のような深度弁別化画像を提供することが理解される。
【0045】
さらには,センサ130およびプロセッサ132と組み合わされた特徴特定UV照明器140は,基板109および金属トレース110を含む対象物108の画像を提供する画像生成器の特に好ましい実施形態を構成することがさらに理解される。なお,レンジ弁別化装置120の画像生成機能は本書に記載の特定のカメラおよび照明構成要素に限定されず,むしろ様々な物理的深度を有する特徴をその形状とは無関係にその光学特性に基づいて区別することができる,様々な物理的深度のシーンの画像(an image of a scene at various physical depths)を生成する機能を有する任意の適切な構成要素を備えてもよいことを理解されたい。
【0046】
コンピュータ144は,
図3(A)における金属トレース110のような特徴特定画像における関心特徴(feature of interest)をユーザが特定(識別)する(identify)ことができるユーザ・インターフェースを備えてもよい。関心特徴は,ユーザによって特定(識別)可能であって,かつ好ましくは機械識別可能な特徴であり,上記特徴特定画像中の機械識別可能な特徴の存在が,その形状の特徴に関係なく,その外観(appearance)に基づいて,コンピュータ144によって検出することができることを理解されたい。したがって,コンピュータ144は,機械識別可能な特徴をユーザが特定することができるようにするターゲット特定装置(target identifier)としても,好ましくは機械識別可能な特徴を自動的に識別する特徴検出器(feature detector)としても,動作することができることを理解されたい。
【0047】
レンジ弁別化装置120の第2の動作モードでは,
図3(B)に示すようなセグメント画像の生成に続いて,好ましくは,対象物108が,ここでは金属トレース110として具現化される関心特徴の撮像テクスチャ(質感)(imaged texture)を高めるのに最も適する照明条件下において,カメラ・センサ130によって撮像される。このような照明は特徴フォーカス照明(feature focusing illumination)と呼ばれ,好ましくは照明モジュール122に含まれる特徴フォーカス照明器150によって提供される。ここでは,単なる一例であるが,特徴フォーカス照明器150が明視野照明器(bright field illuminator)として具体化されて示されている。
【0048】
特徴特定照明器140および特徴フォーカス照明器150は,ここでは照明モジュール122に含まれる2つの個別の照明器として具現化されるように示されているが,これに代えて,特徴特定照明器140および特徴フォーカス照明器150を,
図6を参照して以下に例示するように,特徴特定照明および特徴フォーカス照明の両方を提供する,少なくとも部分的にオーバーラップする機能を有する少なくとも部分的に共通の照明要素によって提供することができることを理解されたい。
【0049】
特徴フォーカス照明器150によって提供される照明の下で対象物108を撮像しているとき,対象物108に対するレンズ124の垂直位置が好ましくは段階的にシフトされ(incrementally shifted),対象物108に対するレンズ124の焦点高さ(focal height)がこれに対応して調整される。レンズ124の調整はコントローラ128によって制御することができ,コントローラ128は,好ましくは対象物108に対してステージ126を,これによってレンズ124を,段階的に移動させるように動作可能である。これに加えてまたは代えて,対象物108に対するレンズ124の焦点高さを,テーブル106の高さの調整および/または光学ヘッド102の全体の調整によって調整してもよい。
【0050】
好ましくはレンズ124の各位置について対象物108の画像がセンサ130によって取得される。すなわち,好ましくは対象物108の上方のレンズ124の焦点高さ範囲(a range of focal heights)において一連の画像(series of images)が生成される。 好ましくはプロセッサ132として具現化される画像焦点分析装置(an image focus analyzer)が,好ましくは,一連の画像に対して画像焦点分析を実行するように動作し,所定の深度以上の深度の各画像の部分に基づいて焦点スコアを提供し,上記焦点スコアに基づいてフォーカス距離を確認する。すなわち,プロセッサ132は,さらに好ましくは,
図3(B)の画像のような深度弁別化画像に基づいてフォーカス距離を確認するフォーカス距離確認装置(focus distance ascertainer)として動作することを理解されたい。
【0051】
上記焦点スコアは,好ましくは特徴フォーカス照明器150によって提供される照明条件下(under lighting conditions)で取得される各画像について算出され,焦点スコアは,
図3(B)の画像のようなセグメント深度弁別化画像において関心領域に対応するものとして識別(特定)される画素のみに基づくものとされる。基板109上の金属トレース110の場合,一例として,
図3(B)の画像のような深度弁別化画像において金属トレース110のような関心領域に対応するものとして識別された各画素には,局所的テクスチャに基づく焦点尺度(焦点測定値)(a focus measure based on the local texture)が割り当てられる。この焦点尺度は,一例として,画素近傍における勾配の大きさ(the gradient magnitude at the pixel neighborhood),または当該技術分野で知られている他の任意の焦点尺度とすることができる。
【0052】
図3(B)の画像のような深度弁別化画像において,基板109のような非関心領域に対応するものとして識別された画素は,好ましくはゼロの焦点尺度が割り当てられる。特徴フォーカス照明器150によって提供される照明条件下において取得された各画像の総合焦点スコアは,好ましくは,金属トレース110のような関心領域に対応する画像中の個々の画素のすべての焦点尺度の合計によって与えられる。基板109のような非関心領域に対応する画素の焦点尺度がゼロに設定されるので,非関心領域に対応する画素は上記画像の総合焦点スコアに貢献せず,焦点スコア算出において効果的に無視される。
【0053】
上述した実施態様において,各画像の焦点スコアは,好ましくは,所定深度以上の深度,ここでは金属トレース110の深度に対応する深度の画像の部分のみに基づき,所定深度未満,ここでは基板109に対応する画像の部分は考慮されないことを理解されたい。これに代えて,たとえば関心特徴が基板内に埋め込まれている場合には,上記焦点スコアを,所定深度未満の深度の深度弁別化画像の部分のみに基づいて算出してもよい。
【0054】
図4に示すように,各画像について得られる焦点スコアを,レンズ124の高さの関数としてプロットすることができる。関心特徴が最適焦点にあるレンズ位置は,最も高い焦点スコアを有する画像に対応するレンズ位置として識別される。
図4に表されるデータの場合,80の最も高い焦点スコアが約6487μmの焦点高さに対応していることが分かる。
図3(C)は,金属トレース110に最も焦点が合っている,最も高い焦点スコアを有する代表画像を示す。
図3(C)の焦点画像を考慮することから理解されるように,金属トレース110のテクスチャ(質感)が非常によく見え(highly visible),他方,基板109が滑らかに見えており,これは
図3(C)の画像が,金属トレース110と異なる物理的高さにある基板109が考慮されずに,金属トレース110上に焦点が最適に合う焦点高さにおいて取得されているからである。
【0055】
最も高い焦点スコアを有する画像の焦点高さに対応する最適焦点高さは,好ましくは,連続する画像間の高さ段階(the height step between consecutive images)よりも高い精度で見出されることを理解されたい。これは,単なる一例であるが,最大値に近い領域内のデータを放物関数に適合させることなど,関数の最大値を見つけるのに適する任意の方法によって達成することができる。
【0056】
好ましくは特徴特定照明器140によって提供される特徴特定照明は,UV照明に限定されず,様々な物理的深度の目標特徴が対応して異なる光学応答を示し,したがって画像中でそれを区別することができる任意の種類の照明下とすることができることをさらに理解されたい。一例として,UV特徴特定照明器140を,
図5および
図6の実施態様において示すような別の照明器によって置き換えることができる。
【0057】
次に
図5および
図6を参照して,光学撮像システム500は,その関連態様において光学撮像システム100に概略類似して提供されるものであるが,レンジ弁別化装置120の照明器122のUV特徴特定照明器140が,
図6に示すように,明視野および暗視野結合照明器(a combined bright and dark field illuminator)または広角照明器(broad angle illuminator)540に置き換えられている点が異なる。特徴特定照明器540は,2015年7月17日出願の中国特許出願201510423283.5に概略的に記載のタイプのもの,または当該技術分野において知られている他の照明器とすることができる。
【0058】
ここでは,単なる一例であるが,対象物108がラミネート領域509を含むPCB508として具現化されて示されており,ラミネート領域上に銅トレース510が形成され,かつそこから突出している。たとえば,PCB508の場合,その検査の目的のために,銅トレース510に焦点が合っている画像を生成することが望ましいことがある。
【0059】
特徴特定照明器540によって提供される明視野および暗視野結合照明または広角照明の下において,ラミネート領域509は銅トレース510よりもかなり反射率が低い。
図7(A)は,特徴特定照明器540によって提供される特徴特定反射照明条件の下でのラミネート領域509および銅トレース510の画像例を示す。
図7(A)に示すように,ラミネート領域509はその低い反射率のために暗く現れ,他方,銅トレース510は明るく現れる。このように
図7(A)の画像において,ラミネート領域509を銅トレース510から明確に区別することができる。さらに,ラミネート509の不透明外観のために,ラミネート509の下にあることがある対象物508の追加特徴がマスクされ,これによって
図7(A)の画像に現れず,したがってその後の画像処理が簡単になる。
【0060】
図7(B)は,
図7(A)の初期特徴特定画像に基づく深度弁別化画像またはセグメント画像を示す。
図7(B)のセグメント画像において,明るい銅トレース510に対応する画素は白色でマークされてこれらの画素が関心領域に対応するものとして識別され,かつ暗いラミネート領域509に対応する画素は黒色でマークされてこれらの画素が非関心領域に対応するものとして識別され,非関心領域は後続の画像処理ステップにおいて無視される。好ましくは,画素明るさのレベルの所定閾値が与えられ,銅トレース510に対応する白色画素とラミネート509に対応する黒色画素とが区別される。
【0061】
図7(B)のセグメント画像は,このように効果的に深度弁別化画像を形成し,所与の閾値未満の深度の
図7(A)の特徴特定画像の部分,ここでは一例としてラミネート509を構成する部分が,所与の閾値以上の深さの
図7(A)の特徴特定画像の部分,ここでは一例として銅トレース510を構成する部分から区別されることが理解される。様々な物理的深度の
図7(A)の特徴特定画像の部分間の弁別は,それらの間の光学的特性の相違に基づくもの,より具体的には明視野および暗視野結合照明または広角照明の下におけるそれらの間の反射率差に基づくものであって,特徴の物理的形状に依存しないことを理解されたい。
【0062】
図7(B)のセグメントマスク画像の生成は,単なる一例であるが,プロセッサ132として具現化されるシステム500に含まれる計算機能によって自動的に実行することができ,プロセッサ132はコンピュータ144に含めることができる。すなわち,プロセッサ132は,好ましくは,部分の形状に関係なく,所定の閾値を下回る深度の,
図7(A)の画像のような初期特徴特定画像の部分を区別するように動作する,システム500内の深度弁別化装置として動作し,これに基づいて
図7(B)の深度弁別化画像のような深度弁別化画像を提供することを理解されたい。
【0063】
特徴フォーカス照明150によって提供される照明条件下の一連の画像の取得,およびこれに続く,好ましくは
図7(B)の画像のようなセグメント化された深度弁別化画像において識別される銅トレース510に対応する画素のみに割り当てられる焦点スコアの比較に基づく,最適フォーカス距離において最も銅トレース510に焦点が合っている画像の自動的な選択は,概略的には
図3(B)-
図4を参照して上述した通りである。概略
図4を参照して上述したように,システム500内のプロセッサ132は,好ましくは,
図7(B)の画像のような深度弁別化画像に基づいて,フォーカス距離を確認するフォーカス距離確認装置として追加的に動作する。
【0064】
図7(C)は,金属トレース510に最適に焦点が合っている,最も高い焦点スコアが割り当てられる対象物508の画像である。焦点スコアは,好ましくは,ここでは突出する銅トレース510に対応する,所定の深度閾値以上の深度の
図7(B)の画像のような深度弁別化画像の部分のみに基づいて算出されることを理解されたい。これに代えて,たとえば関心特徴が基板内に埋め込まれている場合には,焦点スコアを,所定の深度閾値を下回る深度の深度弁別化画像の部分のみに基づいて算出してもよい。
【0065】
図3(C)および
図7(C)に示す画像のような
図1-
図2および
図5-
図6のシステムによって生成される自動合焦画像(automatically focused images)は,特定の関心特徴と他の特徴との間の物理的な高さまたは深度の違いが撮像される対象物の一部を形成するにもかかわらず,撮像される対象物の特定の関心特徴に最良に焦点合わせされる,そのようなフォーカス距離において得られる画像に対応することを理解されたい。
【0066】
なお,この発明のシステムは,代替的に,撮像される対象物またはシーンの特定の関心特徴の深度プロファイル(a depth profile)を取得するために,対象物またはシーンのレンジ画像(a range image)を自動的に生成するように動作させることができ,関心特徴は,好ましくは,撮像される対象物またはシーンの一部を形成する他の特徴の深度または高さと異なる物理的な深さまたは高さを持つ。
【0067】
対象物1108のレンジ画像の生成に関連して,
図5および
図6に示すタイプのシステムの動作を以下に記載する。対象物1108は非導電性基板1109を含み,その上に形成された銅領域1110を有するもので,
図8(A)-
図8(C)は対象物1108の画像を示す。
図5および
図6のシステムは,好ましくは,銅領域1110のレンジ画像を自動的に生成するように動作可能なもので,ここで銅領域1110は基板1109に対して突出しているまたは凹んでいる。レンジ画像は,たとえば,銅領域1110中のインデントの深さ(刻み深さ)の存在を検出しかつ測定するのに有用である。
図5および
図6のシステムを参照してレンジ画像の生成を以下に記載するが,これに代えて,上述のシステムのいずれかを,当業者に明らかな適切な修正を加えて,関心特徴のレンジ画像を提供するように構成してもよいことを理解されたい。
【0068】
システム500のレンジ弁別化装置120の動作の第1モードでは,対象物1108は,好ましくは,関心特徴が,関心特徴と異なる物理的深さを持つ対象物1108の他の特徴から明確に区別することができる照明条件の下,カメラ・センサ130によって撮像される。
図8(A)は,特徴特定照明条件下の基板1109および基板上の銅領域1110の画像例を示している。
図8(A)に示すように,非導電基板1109はその低反射のために暗く現れ,他方,銅領域1110は明るく現れる。このように,
図8(A)の画像において,非導電基板1109は銅領域1110から明確に区別可能である。さらに,基板1109の不透明外観のために,基板1109の下にあることがある対象物1108の追加特徴がマスクされ,これによって
図8(A)の画像には現れず,したがってその後の画像処理が簡単になる。
【0069】
図8(A)に示すような初期特徴特定画像の生成に続いて,好ましくは深度弁別化画像またはセグメント画像が生成され,このセグメント画像は初期特徴特定画像に基づく。
図8(B)は,
図8(A)の特徴特定画像に基づくセグメント画像例を示す。
図8(B)のセグメント画像において,明るい銅領域1110に対応する画素は白色でマークされて,これらの画素は関心領域に対応するものとして識別され,暗い基板領域1109に対応する画素は黒色でマークされて,これらの画素は非関心領域に対応するものとして識別され,非関心領域は後続の画像処理ステップにおいて無視される。好ましくは,画素明るさのレベルの所定閾値が適用され,銅領域1110に対応する明るい画素と背景基板1109に対応する暗い画素とが区別される。
【0070】
図8(B)のセグメント画像は,このように効果的に深度弁別化画像を形成し,所与の閾値未満の深度の
図8(A)の特徴特定画像の部分,ここでは一例として基板1109を構成する部分が,所与の閾値以上の
図8(A)の特徴特定画像の部分,ここでは一例として銅領域1110を構成する部分から区別されることが理解される。
【0071】
様々な物理的深度の
図8(A)の特徴特定画像の部分間の弁別は,それらの間の光学特性の差,より具体的にはそれらの間の適切な照明下における反射率差に基づくものであり,特徴の物理的形状に依存しないことを理解されたい。
【0072】
図8(B)のセグメントマスク画像の生成は,コンピュータ114に含まれるプロセッサ132によって自動的に実行することができる。したがってプロセッサ132は,好ましくは,所定閾値未満の深度の
図8(A)の画像のような初期特徴特定画像の部分を,上記部分の形状と無関係に,区別するように動作する深度弁別化装置として動作し,これに基づいて
図8(B)の深度弁別化画像のような深度弁別化画像を提供することを理解されたい。
【0073】
センサ130およびプロセッサ132と組み合わされる特徴特定照明器540は,したがって基板1109および銅領域1110を含む対象物1108の画像を提供する画像生成器の好ましい実施態様を構成することをさらに理解されたい。
【0074】
コンピュータ144は,
図8(A)における銅領域1110のような特徴特定画像における関心特徴をユーザが特定することができるインターフェースを備えてもよい。関心特徴は,ユーザによって特定可能であってかつ好ましくは機械識別可能な特徴であり,上記特徴特定画像中の機械識別可能特徴の存在が,その形状の特徴に関係なく,その外観に基づいて検出することができることを理解されたい。したがってコンピュータ144は,機械識別可能な特徴をユーザが特定することができるようにするターゲット特定装置としても,好ましくは機械識別可能な特徴を自動的に識別する特徴検出器としても,動作することができることを理解されたい。
【0075】
レンジ弁別化装置の動作の第2のモードにおいて,
図8(B)に示すセグメント深度弁別化画像の生成に続いて,好ましくは,対象物1108が,ここでは銅領域1110として具現化される関心特徴の深度プロファイルを生成するのに最も適する照明条件下において,カメラ・センサ130によって撮像される。
【0076】
特徴フォーカス照明器150によって提供される照明下で対象物1108を撮像しているとき,対象物1108に対するレンズ124の垂直位置が好ましくは段階的にシフトされ,対象物1108に対するレンズ124の焦点高さがこれに対応して調整される。レンズ124の調整はコントローラ128によって制御することができ,コントローラ128は好ましくはステージ126を,これによってレンズ124を,対象物1108に対して段階的に移動させるように動作可能である。これに加えてまたは代えて,対象物1108に対するレンズ124の焦点高さを,テーブル106の高さ調整および/または光学ヘッド102の全体の調整によって調整してもよい。
【0077】
レンズ124の各位置について,好ましくは対象物1108の画像がセンサ130によって取得される。すなわち,好ましくは対象物108の上方のレンズ124の焦点高さ範囲において一連の画像が生成される。好ましくは,プロセッサ132として具現化される画像焦点分析装置が一連の画像に画像焦点分析を実行するように動作し,各画像の部分に基づいて焦点スコアを提供し,焦点スコアに基づいてフォーカス距離を確認する。すなわち,プロセッサ132は,好ましくは,
図8(B)の画像のような弁別化画像に基づいてフォーカス距離を確認する,フォーカス距離確認装置として動作することが理解される。
【0078】
突出する銅領域1110の場合,上記焦点スコアは,
図8(B)の画像のような深度弁別化画像において,所定の深度閾値以上の部分のみにもとづいて算出することができることを理解されたい。これに代えて,たとえば,基板1109中に埋め込まれた銅領域1110の場合,所定の深度閾値未満の深度の深度弁別化画像の部分のみに基づいて焦点スコアを算出してもよい。
【0079】
この場合,好ましくは,焦点スコアは,特徴フォーカス照明器150によって提供される照明条件下で取得される画像のそれぞれにおいて画素ごとに算出され,焦点スコアは,関心領域に対応する,
図8(B)の画像のようなセグメント深度弁別化画像において識別される画素に対してのみ算出される。レンジ画像を生成するために,好ましくは画素ごとに焦点スコアが算出され,その画素内の最大測定特徴テクスチャ(maximum measured feature texture in that pixel)に対応する最適焦点高さが確認されることを理解されたい。システム100について上述した焦点スコア算出とは対照的に,各画像の関心領域中の全ての画素の焦点スコアの合計に基づく全体焦点スコアは,この実施形態において好ましくは算出されないことに留意されたい。
【0080】
基板1109上の銅領域1110の場合,一例として,銅領域1110に対応するものとして
図8(B)の画像のような深度弁別化画像において識別された各画素に,勾配の大きさまたは何らかの当技術分野で知られている他の適切な焦点尺度のような適切な局所的テクスチャ尺度に基づく焦点スコアが割り当てられる。図示する実施形態における基板1109に対応する,非関心領域として識別される
図8(B)の画像のような深度弁別化画像中の画素には,ゼロの焦点スコアが割り当てられる。基板1109に対応する部分である所定の明るさ閾値未満の各画像の部分について焦点スコアは算出されないことを理解されたい。
【0081】
図9に示すように,各画素について取得される焦点スコアを,レンズ124の焦点高さの関数としてプロットすることができる。
図9を参照して,第1のトレース1202は,
図8(A)に見られる第1のインデント1204に対応する画素の場合の焦点高さによる焦点スコアの変動を表しており,最も高い100の焦点スコアが約6486μmの絶対焦点高さに対応するように示されている。さらに
図9を参照して,第2のトレース1206は,第2のインデント1208に対応する別の画素の場合の焦点高さによる焦点スコアの変動を表している。この例では,第2のインデント1208は第1のトレース1202によって表される第1のインデント1204ほど深くはない。第1および第2のトレース1202および1206を対比することで分かるように,第2のインデント1208について最大焦点スコアを生じさせる高さは,それらの間の深度差のために,第1のインデント1204の最大焦点スコアに対してシフトされている。
【0082】
図9に示すような関数に基づいて,各画素に対してその画素が最も高い焦点スコアを有することが分かった焦点高さに等しい値が割り当てられた,高さ画像(a hight image)を作成することができる。
図8(C)はこの高さ画像を示しており,グレースケールがミクロン単位の画素高さに対応する。
図8(C)を参照して,領域1110中のグレー画素がより高い領域を表し,かつ領域1204および1208中の白色の画素はより低い領域を表している。領域1109中の黒色画素は焦点スコアが算出されなかった画素に対応し,これは
図8(B)の画像のようなセグメント深度弁別化画像に基づいて,これらの画素が非関心領域に属すると識別されたためである。
【0083】
図8(C)の高さまたはレンジ画像をさらに分析して,銅領域1110の大部分に対するインデント1204および1208の深度を見つけてもよいことを理解されたい。
【0084】
上述した手法においてオートフォーカスが達成されることに基づく焦点測距(focal metric)は関心特徴のみに適用され,好ましくは関心特徴の境界内に限定されることが理解される。これは,焦点測距が典型的にはカメラの全視野にわたって導出され,したがって本願発明のように深度のみではなく,形状およびサイズの様々な特徴が大きく影響する従来のオートフォーカス方法とは対照的である。
【0085】
ここで
図10を参照して,
図10は,この発明のさらに好ましい実施態様にしたがって構成されかつ動作する,深度弁別機能を含む光学処理システムの概略図である。
【0086】
図10を参照して,シャーシ1304上に取り付けられる光学撮像ヘッド1302を好ましくは含む光学撮像システム1300が提供される。好ましくは,シャーシ1304はテーブル1306を含み,その上に撮像される対象物1308が配置される。光学撮像システム1300は好ましくは対象物1308の深度プロファイル画像を提供するように動作し,これがたとえば対象物1308の検査または処理の目的に用いられる。
【0087】
対象物1308は好ましくは非平面物であり,複数の物理的深度の物理的特徴を備えている。ここでは,一例として,対象物1308はPCBとして具現化されて示されており,非導電性基板1309およびその上面に形成された金属トレース1310を有する。金属トレース1310は基板1309の表面に埋め込まれていても突出していてもよい。なお,限定はされないが,光学撮像ヘッド1302は,PCB,ウェハ・ダイ,アセンブルPCB,フラット・パネル・ディスプレイおよび太陽エネルギー・ウェハを含む,複数の物理的高さまたは深度の物理的特徴を有する任意の適切なターゲットまたはシーンの画像を取得するために用いることができることを理解されたい。
【0088】
検査目的において,多くの場合に対象物1308の二次元画像を生成することが望ましく,これによって金属トレース1310と基板1309とが,それらの間の光学的性質の違いに基づいて明確に区別される。
【0089】
いくつかのケースでは,対象物1308に含まれる関心特徴の三次元深度プロファイルを生成することが望まれることもあり,この関心特徴が,対象物1308の他の特徴に対して異なる物理的高さまたは深度を持つ。たとえば,基板1309の場合,その検査目的のために金属トレース1310の深度プロファイル画像を生成することが望ましいことがある。
【0090】
この発明の好ましい実施態様の特有の特徴は,光学撮像システム1300が,関心特徴と基板1309のような他の特徴との間の物理的深度の違いにかかわらず,金属トレース1310のような関心領域の空間セグメント画像および深度弁別化画像の両方を提供する2D空間および3Dレンジ結合弁別化装置(combined 2D spatial and 3D range differentiator)1320を含むことにある。特に好ましくは,レンジ弁別化装置1320は,関心特徴の深度プロファイル画像を生成するための3Dプレノプティック・カメラ(3D plenoptic camera)1321を含む。
【0091】
レンジ弁別化装置1320は好ましくは様々な物理的深度におけるシーンの画像を提供するように動作する画像生成器を含み,ここでは一例として,対象物1308を照明する照明モジュール1322を含むように具体化されている。照明モジュール1322によって提供される照明は好ましくはレンズ部1324を介して対象物1308に向けられる。対象物1308から発する光は,好ましくは,ビーム・スプリッタ1332を介して,二次元撮像カメラ1330とプレノプティック・カメラ1321とに向けられる。
【0092】
照明モジュール1322は好ましくは2Dモードと3Dモードの2つのモードにおいて動作する。2Dモードの動作では,対象物1308は,好ましくは,関心特徴が関心特徴と異なる物理的深度を有する対象物1308の他の特徴から明確に区別可能な照明条件の下,二次元撮像カメラ1330によって撮像される。この照明は特徴特定照明と呼ばれるもので,一例にすぎないが,照明モジュール1322に含まれる明視野照明器1340および暗視野照明器1342によって提供することができる。照明モジュール1322の明視野照明器1340と照明モジュール1322の暗視野照明器1342の組み合わせは,結合明視野および暗視野照明モダリティを伝達する(delivering combined bright field and dark field illumination modalities),画像生成器の第1の部分を構成すると考えることができる。
【0093】
明視野照明器1342および暗視野照明器1342によって提供される明視野照明および暗視野照明の組合せの下では,非導電性基板1309は,金属トレース1310によって示される反射率と比較して低い反射率を示す。
図11(A)は,特徴特定暗視野および明視野照明条件下の,基板1309および基板上の金属トレース1310の画像例である。
図11(A)に示すように,その低い反射率のために非導電性基板1309は金属トレース1310に対して暗く表れ,他方,金属トレース1310は基板1309に対して明るく表れる。このように
図11(A)の画像において非導電性基板1309を金属トレース1310から明確に区別することができる。さらに,基板1309の不透明性の結果として,基板1309の下に位置する可能性があるPCB1308の追加レイヤは不明瞭になり,これによって
図11(A)の画像に現れず,したがってその後の画像処理が簡単になる。
【0094】
図11(A)に示す初期特徴特定画像の生成に続いて,好ましくは深度弁別またはセグメント画像が生成され,このセグメント画像は初期特徴特定画像に基づく。
図11(A)の特徴特定画像に基づくセグメント画像の例を
図11(B)に示す。
図11(B)のセグメント画像において,明るい金属トレース1310に対応する画素が白色にマークされ,この画素が,黒色にマークされる暗い基板領域1309に対応する画素から区別される。好ましくは,画素明るさのレベルの所定の閾値が適用され,金属トレース1310に対応する明るい画素と背景基板1309に対応する暗い画素とが区別される。
【0095】
このように,
図11(B)のセグメント画像は深度弁別化画像を効果的に形成し,所与の閾値未満の深度の
図11(A)の特徴特定画像の部分,ここでは一例として基板1309に対応する部分が,所与の閾値を超える深度の
図11(A)の特徴特定画像の部分,ここでは一例として金属トレース1310に対応する部分から区別されることが理解される。異なる物理的深さにおける
図11(A)の特徴特定画像の部分間の弁別は,それらの間の光学特性の差,より具体的にはそれらの間の暗視野および明視野照明下の反射率差に基づくものであり,物理的形状の特徴に依存しないことが理解される。
【0096】
図11(B)のセグメントマスク画像の生成は,システム1300の一部を形成するプロセッサ(図示略)中に含まれる計算機能によって自動的に実行することができる。すなわちプロセッサは,第1の撮像モダリティによる照明の下で取得される
図11(A)の画像のような初期特徴特定画像の部分を,上記部分の形状に関係なく,所定閾値未満の深度において区別するように動作する深度弁別化装置として動作し,
図11(B)の深度弁別化画像のような深度弁別化画像を提供することが理解される。
【0097】
関心特徴は,
図11(A)および
図11(B)の特徴特定画像においてユーザによって識別(特定)可能であってもよく,かつ好ましくは機械識別可能な特徴であり,特徴特定画像中の機械識別可能な特徴の存在を,特徴の形状に関係なく,その外観に基づいて検出できることを理解されたい。
【0098】
システム1300の3Dモードの動作においては,
図11(B)に示すようなセグメント画像の生成に続いて,好ましくは対象物1308が,ここでは金属トレース1310として具現化されている関心特徴の撮像テクスチャ(imaged texture)を強調するのに最も適する照明条件下において,プレノプティック・カメラ1321によって撮像される。この照明は特徴フォーカス照明(feature focusing illumination)と呼ばれ,ここでは好ましくは暗視野照明器1342によって提供される。暗視野照明器1342は,対象物1308に暗視野照明モダリティ(a dark field illumination modality)を伝達する,画像生成器の第2の部分を構成すると考えることができる。
【0099】
図11(C)は,暗視野照明のみの下での金属トレース1310の外観を示す画像例であり,金属トレース1310の高められたテクスチャ(質感)が視認される。
【0100】
ここでは暗視野照明器1342が特徴特定照明および特徴フォーカス照明の両方に寄与するものとして説明されているが,これに代えて,特徴特定照明および特徴フォーカス照明を,重複する機能を持たない異なる照明要素によって提供できることを理解されたい。
【0101】
さらに,レンジ弁別化装置1320の画像生成機能は,本書に記載の特定のカメラおよび照明構成要素に限定されず,むしろ様々な物理的深度の特徴をその形状に関係なくその光学特性に基づいて区別することができる,様々な物理的深度のシーンの画像を生成するように機能する任意の適切な構成要素を備えることができることを理解されたい。
【0102】
一実施態様では,好ましくは,プレノプティック・カメラ1321は,
図11(B)の画像のような2Dセグメント画像に基づいて,疑欠陥(suspected defects)として識別される部分の深度プロファイル画像を提供する。疑欠陥の真の性質および重要性は,しばしばその3Dプロファイルを識別するときにだけ明らかにされるので,
図11(B)に示すタイプの2Dセグメント画像において識別可能な特定の疑欠陥の性質を,深度プロファイル画像によって良好に確認することができることを理解されたい。効率的な2Dセグメンテーションは,典型的には,基板1309と金属トレース1310との間に輝度差を生成することに加えて,金属トレースのテクスチャを抑制することを必要とする。これが,明視野および暗視野照明の両方の適切な組み合わせおよび注意深いバランスによって達成される。対照的に,プレノプティック・カメラ1321による3Dプロファイリングは,たとえば隣接するマイクロ画像間のステレオ視差を導出するときに表面質感に強く依存する。暗視野照明のみを使用することによって,金属トレース1310と基板1309の両方の表面テクスチャのコントラストが最大になり,プレノプティック・カメラ1321による正確な深度レンダリングがもたらされる。
【0103】
図11(D)は,暗視野照明器1342によって提供される暗視野照明の下,プレノプティック・カメラ1321によって取得された金属トレース1310の深度プロファイルを示す画像例である。
図11(D)の深度プロファイルが取得される視野は,
図11(A),11(B)および11(C)の初期画像およびセグメント画像のものよりも大きいが,これに代えて,金属トレース1310の深度プロファイルを疑欠陥の領域のような金属トレース1310のより小さい部分に限定してもよく,これによって欠陥の性質が確認されかつ欠陥が分類されることを理解されたい。この場合,プロセッサは,
図11(B)の画像のような深度弁別化画像に基づいて,疑欠陥が存在する領域の深度プロファイリングのために各点でフォーカス距離を確認するフォーカス距離確認装置として動作することができる。
【0104】
2D空間および3D深度レンジ弁別化装置1320の別の好ましい動作モードでは,プレノプティック・カメラ1321を使用して,2D画像の取得の前に2Dカメラ1330を自動焦点合わせするために用いることができる。
【0105】
このオートフォーカス・モードでは,好ましくは,最初に被検査対象物1308が好ましくは暗視野照明器1342によって提供される暗視野照明条件のような特徴フォーカス照明条件の下でプレノプティック・カメラ1321の粗焦点(coarse focus)にもたらされる。この予備的粗焦点はシステム最適化および工学的パラメータに基づくものであってもよく,当業者には既知のシステム1300の事前較正を含んでもよい。
図12(A)は,プレノプティック・カメラ1321によって取得された基板1410の粗焦点画像例を示している。例示する実施態様では,基板1410はシリコン・ウェハであり,その上にレーザ刻印ピット(laser inscribed pits)1430を持つ急激な高さ段差(abrupt height step)1420を含む。
図12(B)は,2Dカメラ1330によって受けられた対応する焦点の合っていない2D画像を示す。
【0106】
プレノプティック・カメラ1321によって取得された粗焦点画像は,次にシステム1300のプロセッサに含まれる計算機能によって処理されて,基板141の初期視野(the instant field of view)の深度プロファイルが導出される。
図12(C)は,
図12(A)の粗焦点画像に基づく深度弁別プロファイル画像の例を示す。
図11(A)~11(D)に例示するものと対照的に,レンジ弁別化装置1320のこの動作モードでは,明視野照明器1340によって提供される明視野照明モダリティが好ましくは第1の画像化照明モダリティを構成し,この照明の下で深度弁別可能画像が好ましくは取得されることを理解されたい。
【0107】
図12(C)の深度プロファイル画像に基づいて,2Dカメラ1330が最適に焦点合わせされるべき特徴深さを選択することができる。一例として,基板1410の場合,2Dカメラ1330の最適焦点深度を,
図12(C)の画像におけるシリコン・ウェハ内の段差の上側1440の高さに対応する深さとすることができる。当業者に理解されるように,プレノプティック・カメラ1321の焦点深度は,典型的には2Dカメラ1330の被写界深度をまたぎ(straddle),2~4倍大きい範囲とすることができ,その結果,
図12(A)のプレノプティック画像に基づく深度プロファイル分析の精度は,レンズ1324上の焦点深さに基づいて達成される精度と少なくとも同じ程度に良好である。
【0108】
2Dカメラ1330は次に,
図12(C)の深度プロファイル画像に基づいて特定された最適焦点深さにおいてシリコン段差の上側1440上に自動的に焦点合わせされ,これに応じて特徴特定明視野照明条件の下で焦点が合わされた基板1410の合焦2D画像が取得される。この例ではフォーカス特定照明は特徴特定照明と同じであることに留意されたい。これは,シリコン・ウェハとその表面のレーザ形成ピットの両方の光学反射特性の結果である。
図12(D)は特徴特定明視野照明条件下で取得された自動合焦2D画像(automatically focused 2D image)の例である。
【0109】
たとえば,
図11(C)および11(D)を参照して既述したように,2Dオートフォーカス画像中に存在する疑欠陥の性質をよりよく分類するために,自動合焦2D撮像に続いて,必要に応じて対象物1308の追加の3Dプレノプティック撮像を実行してもよい。
【0110】
ここで
図13を参照して,
図13は,この発明のさらに好ましい実施態様によって構成されかつ動作する,オートフォーカス機能を含む光学処理システムを概略的に示しており,
図14(A)-
図14(C)は
図13に示すタイプのシステムによって生成された画像の簡略例である。
【0111】
図13に示すように,対象物1508上にパターンを投影するように動作するプロジェクタ・モジュール1502を含む光学撮像システム1500が提供される。撮像システム1500はさらに,好ましくは,パターンがプロジェクタ・モジュール1502によって対象物上に投影されたときに対象物1508の画像を取得するように動作するカメラセンサ・モジュール1510を含む。好ましくは,プロジェクタ・モジュール1502およびカメラ・モジュール1510は,対象物1508に対して規定される長手軸1512に対して角度が付けられている(傾けられている)。カメラ・モジュール1510と組み合わされたプロジェクタ・モジュール1502を,対象物1508の画像を生成するように動作する画像生成器を形成するものとして考えることができる。
【0112】
対象物1508は好ましくは非平面対象物であり,2つ以上の物理的深度の物理的特徴を含むもので,限定はされないが,PCB,ウェハ・ダイ,アセンブルPCB,フラット・パネル・ディスプレイおよび太陽エネルギー・ウェハを含む。これに代えて,対象物1508をある物理的深さ範囲にある特徴を含む任意の対象物またはシーンとして具現化してもよい。
【0113】
いくつかのケースでは,対象物1508に含まれる,対象物1508の他の特徴に対して異なる物理的な高さまたは深さにある関心特徴の合焦画像を生成することが望ましい場合がある。これは,以下に詳述するように,正弦波または二値モアレ縞パターンなどの規則的な反復パターン(regularly repeating pattern, such as a sinusoidal or binary moire fringe patterrn)を対象物1508の表面上に投影し,投影された縞の位相シフトを分析することによって,システム1500において自動的に達成することができる。
【0114】
システム1500の動作は,それによって生成される画像を参照することにより最もよく理解することができ,その画像例を
図14(A)~
図14(C)に示す。
【0115】
図14(A)を参照して,好ましくはプロジェクタ・モジュール1502によって対象物1508の表面上に投影される縞パターン(a fringe pattern)1600の画像を示す。
図14(A)に示すように,縞パターン1600は対象物1508上の特徴の表面トポロジーに応じて可変位相シフトを受け,その上に縞パターンが落ち込む(upon which the fringe pattern falls)。システム1500の一部を形成するプロセッサ1516に含まれる計算機能は,好ましくはリアルタイムで縞パターン1600の位相シフトを算出し,縞パターンが投影される物理的特徴の少なくとも高さを導出するように動作する。プロセッサ1516は,その形状とは無関係に,カメラ・モジュール1510によって取得される画像部分を様々な物理的高さで区別するための深度弁別化装置として動作する。プロセッサ1516に含まれる計算機能によって実行される縞位相シフト分析は,たとえば窓フーリエ変換(a windowed Fourier transform)を含む。これに加えて,プロセッサ1516がプロジェクタ・モジュール1502によって投影される縞パターンの生成を制御してもよい。
【0116】
物理的特徴の高さは,好ましくはシステム1500に組み込まれる基準ターゲット(a reference target)の高さに対して算出される。上記基準ターゲットの高さは,対象物1508に対して焦点が合った状態に維持されているシステム1500の追加撮像機能(図示略)に対して較正することができる,またはカメラ・センサ1510に対して較正することができる。
【0117】
図14(B)および
図14(C)は,
図14(A)の投影縞マップ(projected fringe map)に基づく対象物1508の2次元高さマップおよび3次元高さマップをそれぞれ示す。
図14(B)および
図14(C)に示すように,投影縞パターンの位相シフトを,位相パターンにおける対応するシフトを生じさせる原因となる物理的特徴の相対的な高さにしたがって対象物1508をセグメント化するための基礎として使用することができる。すなわち,所与の特徴高さをそれに基づく最適フォーカシングのために選択することができ,他方,選択高さ以外の高さの特徴はその後の画像の焦点合わせにおいて効果的に無視される。このように
図14(B)および
図14(C)の高さマップはセグメント化されたまたは深度弁別化画像を構成し,それに基づいて,その上に最適に焦点が合うように選択された特徴深度を確かめることができることを理解されたい。したがって,高さ選択のみに基づいて,その特徴の形状とは無関係に,カメラ1510のオートフォーカスが所与の高さレベルの特徴に対して実行される。最適フォーカス距離は,
図14(B)および
図14(C)の深度弁別化画像に基づいてプロセッサ1516によって確かめることができる。
【0118】
好ましくは,プロジェクタ・モジュール1502によって投影される縞パターンの最適空間周波数は,いくつかの相反する要件を考慮しかつバランスをとることによって設定されることを理解されたい。好ましくは縞パターンの空間周波数は十分に低くされて良好なコントラストの投影およびその撮像を可能とするように選択される。さらに好ましくは,縞パターンの空間周波数は十分に高くされて充分に高解像度の高さ弁別を可能にするように選択される。さらに,縞パターン中の縞間隔は,好ましくは,位相のあいまいさなしに,対象物1508の全予想深度を包含するために十分に大きくなるように選択される。好ましくは,縞パターンは充分に低い空間周波数を持ち,これによってその位相シフトが,位相のあいまいさなしに,そのようなシフトを生じさせる物理的深さと一意に相関させることができる。
【0119】
好ましくは少なくともこれらの様々な要因のバランスがとられて,特定の撮像アプリケーションのための縞パターンの最適空間周波数が導出される。
【0120】
システム1500は,閉ループ追跡オートフォーカス・モード(a closed-loop tracking autofocus mode)における使用に特に好適なものであり,このモードでは対象物1508好ましくは連続的に走査される。連続走査モードにおいて,プロジェクタ・モジュール1502は好ましくはストロボ制御され,好ましくはカメラ・モジュール1510の動作と同期してパルス・モードにおいて動作する。これに代えて,プロジェクタ・モジュール1502を,好ましくはグローバルシャッタカメラ・モジュール1510と連携させて連続的に動作させてもよい。
【0121】
連続閉ループ・オートフォーカス動作のシステム1500の使用において,好ましくはシステム1500の様々な動作パラメータが最適化される。縞パターン1600の投影によって対象物1508の高さがサンプリングされるテンポラル・レート(temporal rate)およびこれに続くその位相シフトの分析は,好ましくは対象物1508の走査速度およびその高さのばらつきのレートに適するよう十分に高くなるように選択される。カメラ・モジュール1510の動作フレーム・レートは好ましくは高さサンプリング・レートにしたがって設定される。
【0122】
これに加えて,カメラ・モジュール1510による縞画像取得と分析高さマップの取得との間の経過時間(この時間遅延はシステム待ち時間(system latency)と呼ばれることがある)が,好ましくは最適化される。システム待ち時間は主にはシステム1500のシステム・コントローラの計算能力に依存する。好ましくは上記システム待ち時間は充分に短くされて,縞画像取得後のオートフォーカス機能の動作における,撮像機能の焦点合わせエラーにつながる過度の遅れが回避される。
【0123】
この発明の特定の実施形態では,カメラ・モジュール1510の画素解像度を,システム1500の性能を最適化するように設定することができる。カメラ1510の撮像画素が少なければ少ないほど,カメラフレーム・レートが高められかつ処理時間が短くなる。これに加えてまたは代えて,カメラ・モジュール1510によって取得される画像の全体にわたる位相シフトを算出するのではなく,カメラ・モジュール1510によって出力される画像フレーム内でまばらに選択される領域内でのみ位相シフトを算出してもよく,これによって処理時間を加速することができる。位相シフトが算出される上記領域の数,寸法,アスペクト比および間隔は,対象物1508の物理的特性または他の特性を考慮することによって選択される。
【0124】
当業者であれば,この発明は以下において特にクレームされるものに限定されないことを理解しよう。むしろ,この発明の範囲は,上述した特徴の組み合わせおよび部分組み合わせを含み,かつ,図面を参照して上記記載を読むことによって当業者が想起することができかつ従来技術にはない修正および変形を含む。