特許第6971653号(P6971653)IP Force 特許公報掲載プロジェクト 2022.1.31 β版

知財求人 - 知財ポータルサイト「IP Force」

▶ オリンパス株式会社の特許一覧

<>
  • 特許6971653-顕微鏡装置、表示制御方法、プログラム 図000002
  • 特許6971653-顕微鏡装置、表示制御方法、プログラム 図000003
  • 特許6971653-顕微鏡装置、表示制御方法、プログラム 図000004
  • 特許6971653-顕微鏡装置、表示制御方法、プログラム 図000005
  • 特許6971653-顕微鏡装置、表示制御方法、プログラム 図000006
  • 特許6971653-顕微鏡装置、表示制御方法、プログラム 図000007
  • 特許6971653-顕微鏡装置、表示制御方法、プログラム 図000008
  • 特許6971653-顕微鏡装置、表示制御方法、プログラム 図000009
  • 特許6971653-顕微鏡装置、表示制御方法、プログラム 図000010
  • 特許6971653-顕微鏡装置、表示制御方法、プログラム 図000011
  • 特許6971653-顕微鏡装置、表示制御方法、プログラム 図000012
  • 特許6971653-顕微鏡装置、表示制御方法、プログラム 図000013
  • 特許6971653-顕微鏡装置、表示制御方法、プログラム 図000014
  • 特許6971653-顕微鏡装置、表示制御方法、プログラム 図000015
  • 特許6971653-顕微鏡装置、表示制御方法、プログラム 図000016
  • 特許6971653-顕微鏡装置、表示制御方法、プログラム 図000017
  • 特許6971653-顕微鏡装置、表示制御方法、プログラム 図000018
< >
(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】6971653
(24)【登録日】2021年11月5日
(45)【発行日】2021年11月24日
(54)【発明の名称】顕微鏡装置、表示制御方法、プログラム
(51)【国際特許分類】
   G02B 21/36 20060101AFI20211111BHJP
【FI】
   G02B21/36
【請求項の数】12
【全頁数】17
(21)【出願番号】特願2017-121360(P2017-121360)
(22)【出願日】2017年6月21日
(65)【公開番号】特開2019-8022(P2019-8022A)
(43)【公開日】2019年1月17日
【審査請求日】2020年6月3日
(73)【特許権者】
【識別番号】000000376
【氏名又は名称】オリンパス株式会社
(74)【代理人】
【識別番号】100121083
【弁理士】
【氏名又は名称】青木 宏義
(74)【代理人】
【識別番号】100138391
【弁理士】
【氏名又は名称】天田 昌行
(74)【代理人】
【識別番号】100182936
【弁理士】
【氏名又は名称】矢野 直樹
(74)【代理人】
【識別番号】100074099
【弁理士】
【氏名又は名称】大菅 義之
(72)【発明者】
【氏名】古川 貴大
【審査官】 森内 正明
(56)【参考文献】
【文献】 特開2014−109492(JP,A)
【文献】 特開2015−82098(JP,A)
【文献】 特開2016−48195(JP,A)
【文献】 特表2015−534039(JP,A)
【文献】 特開2004−170573(JP,A)
【文献】 米国特許出願公開第2007/0121202(US,A1)
【文献】 中国特許出願公開第101561403(CN,A)
(58)【調査した分野】(Int.Cl.,DB名)
G02B 21/00 − 21/36
(57)【特許請求の範囲】
【請求項1】
被検物の三次元データと、前記被検物に含まれる繰り返し要素の形状の種類と、前記種類の形状を特徴付ける少なくとも1つの特徴パラメータの基準値と、に少なくとも基づいて、前記被検物に含まれる複数の繰り返し要素を検出する検出手段と、
少なくとも前記三次元データに基づいて前記複数の繰り返し要素を解析する解析手段と、
前記複数の繰り返し要素を含む画像を、前記複数の繰り返し要素に対応する部分が前記解析手段による解析結果に応じた表示態様で表示されるように、表示装置に表示させる表示制御手段と、
前記種類と前記基準値を設定する設定手段と、を備え
前記検出手段は、前記三次元データと、前記設定手段で設定された前記種類及び前記基準値と、に少なくとも基づいて、前記複数の繰り返し要素を検出する
ことを特徴とする顕微鏡装置。
【請求項2】
請求項1に記載の顕微鏡装置において、
前記表示制御手段は、前記複数の繰り返し要素に対応する部分を前記解析結果に応じて色付けした前記画像を表示するように、前記表示装置を制御する
ことを特徴とする顕微鏡装置。
【請求項3】
請求項2に記載の顕微鏡装置において、
前記表示制御手段は、前記複数の繰り返し要素に対応する部分を前記解析結果に応じて前記繰り返し要素単位で色付けした前記画像を表示するように、前記表示装置を制御する
ことを特徴とする顕微鏡装置。
【請求項4】
請求項1乃至請求項3のいずれか1項に記載の顕微鏡装置において、
前記解析手段は、前記複数の繰り返し要素の各々に対して、前記少なくとも1つの特徴パラメータの値を算出する
ことを特徴とする顕微鏡装置。
【請求項5】
請求項4に記載の顕微鏡装置において、
前記表示制御手段は、前記複数の繰り返し要素の各々に対して算出された前記値に応じた色で当該繰り返し要素に対応する部分を色付けした前記画像を表示するように、前記表示装置を制御する
ことを特徴とする顕微鏡装置。
【請求項6】
請求項1乃至請求項3のいずれか1項に記載の顕微鏡装置において、
前記解析手段は、前記複数の繰り返し要素の各々に対して、当該繰り返し要素を代表する座標を算出する
ことを特徴とする顕微鏡装置。
【請求項7】
請求項6に記載の顕微鏡装置において、
前記表示制御手段は、前記複数の繰り返し要素の各々に対して算出された前記座標に応じた色で当該繰り返し要素に対応する部分を色付けした前記画像を表示するように、前記表示装置を制御する
ことを特徴とする顕微鏡装置。
【請求項8】
請求項1乃至請求項3のいずれか1項に記載の顕微鏡装置において、
前記解析手段は、前記複数の繰り返し要素の各々に対して、当該繰り返し要素の形状と前記基準値に基づいて決定される形状との差分を算出する
ことを特徴とする顕微鏡装置。
【請求項9】
請求項8に記載の顕微鏡装置において、
前記表示制御手段は、前記複数の繰り返し要素の各々に対して算出された前記差分に応じた色で当該繰り返し要素に対応する部分を色付けした前記画像を表示するように、前記表示装置を制御する
ことを特徴とする顕微鏡装置。
【請求項10】
請求項に記載の顕微鏡装置において、
前記設定手段は、少なくとも前記三次元データと前記種類に基づいて前記被検物の指定された領域から算出した前記基準値を設定する
ことを特徴とする顕微鏡装置。
【請求項11】
被検物に含まれる繰り返し要素の形状の種類と、前記種類の形状を特徴付ける少なくとも1つの特徴パラメータの基準値を設定し、
前記被検物の三次元データと、設定された前記種類及び前記基準値と、に少なくとも基づいて、前記複数の繰り返し要素を検出し、
少なくとも前記三次元データに基づいて前記複数の繰り返し要素を解析し、
前記複数の繰り返し要素を含む画像を、前記複数の繰り返し要素に対応する部分が前記複数の繰り返し要素を解析した解析結果に応じた表示態様で表示されるように、表示装置に表示させる
ことを特徴とする表示制御方法。
【請求項12】
コンピュータに
被検物に含まれる繰り返し要素の形状の種類と、前記種類の形状を特徴付ける少なくとも1つの特徴パラメータの基準値を設定し、
前記被検物の三次元データと、設定された前記種類及び前記基準値と、に少なくとも基づいて、前記複数の繰り返し要素を検出し、
少なくとも前記三次元データに基づいて前記複数の繰り返し要素を解析し、
前記複数の繰り返し要素を含む画像を、前記複数の繰り返し要素に対応する部分が前記複数の繰り返し要素を解析した解析結果に応じた表示態様で表示されるように、表示装置に表示させる
処理を実行させることを特徴とするプログラム。
【発明の詳細な説明】
【技術分野】
【0001】
本明細書の開示は、顕微鏡装置、表示制御方法、プログラムに関する。
【背景技術】
【0002】
顕微鏡装置は、目視では検出することが困難な欠陥等を検出することが可能であり、様々な被検物の検査装置又は解析装置として利用されている(例えば、特許文献1参照)。
【0003】
検査装置又は解析装置として利用される顕微鏡装置では、例えば特許文献1に記載されるように、同形状を有するように設計された複数の要素(以降、この要素を繰り返し要素と記す。)を含む被検物を検査又は解析の対象とする機会が数多く存在する。複数の繰り返し要素を含む被検物としては、例えば、マイクロレンズアレイ、シリンドリカルレンズアレイ、導光板、ボールバンプが形成された基板、繊維、ワイヤーなどが挙げられる。
【先行技術文献】
【特許文献】
【0004】
【特許文献1】特開2015−055561号公報
【発明の概要】
【発明が解決しようとする課題】
【0005】
従来技術では、顕微鏡装置は、撮像素子で取得した二次元画像に基づいて被検物中に存在する繰り返し要素を検出する。このため、繰り返し要素を検出できる否かは二次元画像に表れる繰り返し要素の外観(大きさ、輝度、色等)に大きく影響されてしまう。例えば、被検物が傾いている等の理由により被検物に含まる複数の繰り返し要素の見かけ上の大きさが異なる場合などには、一部の繰り返し要素が検出できないといった事態が生じ得る。
【0006】
特定の繰り返し要素の検出に失敗すると、その特定の繰り返し要素が有する欠陥等を見逃す虞があるだけではなく、被検物に含まれる複数の繰り返し要素が有する全体的な傾向を把握することが困難になることがある。
【0007】
以上のような実情を踏まえ、本発明の一側面に係る目的は、被検物に含まれる複数の繰り返し要素が有する全体的な傾向の把握を支援することである。
【課題を解決するための手段】
【0008】
本発明の一態様に係る顕微鏡装置は、被検物の三次元データと前記被検物に含まれる繰り返し要素の形状の種類と前記種類の形状を特徴付ける少なくとも1つの特徴パラメータの基準値とに少なくとも基づいて前記被検物に含まれる複数の繰り返し要素を検出する検出手段と、少なくとも前記三次元データに基づいて前記複数の繰り返し要素を解析する解析手段と、前記複数の繰り返し要素を含む画像を前記複数の繰り返し要素に対応する部分が前記解析手段による解析結果に応じた表示態様で表示されるように表示装置に表示させる表示制御手段と、前記種類と前記基準値を設定する設定手段と、を備える。前記検出手段は、前記三次元データと、前記設定手段で設定された前記種類及び前記基準値と、に少なくとも基づいて、前記複数の繰り返し要素を検出する。
【0009】
本発明の一態様に係る表示制御方法は、被検物に含まれる繰り返し要素の形状の種類と、前記種類の形状を特徴付ける少なくとも1つの特徴パラメータの基準値を設定し、前記被検物の三次元データと、設定された前記種類及び前記基準値と、に少なくとも基づいて、前記複数の繰り返し要素を検出し、少なくとも前記三次元データに基づいて前記複数の繰り返し要素を解析し、前記複数の繰り返し要素を含む画像を、前記複数の繰り返し要素に対応する部分が前記複数の繰り返し要素を解析した解析結果に応じた表示態様で表示されるように、表示装置に表示させる。
【0010】
本発明の一態様に係るプログラムは、コンピュータに、被検物に含まれる繰り返し要素の形状の種類と、前記種類の形状を特徴付ける少なくとも1つの特徴パラメータの基準値を設定し、前記被検物の三次元データと、設定された前記種類及び前記基準値と、に少なくとも基づいて、前記複数の繰り返し要素を検出し、少なくとも前記三次元データに基づいて前記複数の繰り返し要素を解析し、前記複数の繰り返し要素を含む画像を、前記複数の繰り返し要素に対応する部分が前記複数の繰り返し要素を解析した解析結果に応じた表示態様で表示されるように、表示装置に表示させる、処理を実行させる。
【発明の効果】
【0011】
上記の態様によれば、被検物に含まれる複数の繰り返し要素が有する全体的な傾向の把握を支援することができる。
【図面の簡単な説明】
【0012】
図1】一実施形態に係る顕微鏡装置のハードウェアの構成の一例を示した図である。
図2】コンピュータのハードウェアの構成の一例を示した図である。
図3】コンピュータの機能ブロック図の一例である。
図4】コンピュータが行う表示制御処理の一例を示すフローチャートである。
図5】コンピュータが行う条件設定処理の一例を示すフローチャートである。
図6】検出条件を自動で設定する時の設定画面の一例を示した図である。
図7】球の特徴パラメータについて説明するための図である。
図8】円柱の特徴パラメータについて説明するための図である。
図9】法線方向の異なる2平面の特徴パラメータについて説明するための図である。
図10】検出条件を手動で設定する時の設定画面の一例を示した図である。
図11】検出用ROIを設定する画面の一例を示した図である。
図12】解析結果表示画面の一例を示した図である。
図13】繰り返し要素の見かけ上の大きさが異なる例を示した図である。
図14】画像表示領域の別の例を示した図である。
図15】画像表示領域の更に別の例を示した図である。
図16】画像表示領域の更に別の例を示した図である。
図17】コンピュータが行う表示制御処理の別の例を示すフローチャートである。
【発明を実施するための形態】
【0013】
[第1の実施形態]
図1は、本実施形態に係る顕微鏡装置100の構成を例示した図である。顕微鏡装置100は、繰り返し要素を含む被検物Sを解析してその解析結果を表示する装置である。顕微鏡本体10は、図1に示すように、顕微鏡本体10、コンピュータ20、表示装置30、及び、入力装置40を備えている。
【0014】
顕微鏡本体10は、共焦点レーザ走査型顕微鏡であり、レーザ光を出射するレーザ1と、被検物Sにレーザ光を照射する対物レンズ8と、被検物Sを載置するステージ9と、対物レンズ8を介して入射する被検物Sからの光を検出する光検出器13を備える。
【0015】
顕微鏡本体10は、さらに、レーザ1から出射したレーザ光がステージ9に載置された被検物Sへ至る照明光路上に、ミラー2、ハーフミラー3、走査部4、ミラー5、レンズ6、準焦部7、対物レンズ8を備える。
【0016】
レーザ1は、レーザ光を平行光として出射する光源である。レーザ1から出射されるレーザ光の光量は、コンピュータ20からの入力に基づいて制御される。具体的には、例えば、レーザ1の駆動電流がコンピュータ20からの入力によって変更されることで、レーザ1からの出射光量が変化する。
【0017】
走査部4は、ステージ9に載置された被検物Sを対物レンズ8の光軸と交わる方向に二次元に走査する二次元走査装置である。走査部4は、走査位置を互いに直交する方向に移動させるスキャナ4aとスキャナ4bを含んでいる。なお、走査位置とは、対物レンズ8から被検物Sへ向けて出射したレーザ光が集光し光スポットが形成される位置のことである。
【0018】
スキャナ4aは、対物レンズ8の光軸と直交するX方向に被検物Sを走査する、例えば、ガルバノスキャナ、共振スキャナ、音響光学素子である。スキャナ4bは、対物レンズ8の光軸及びX方向と直交するY方向に被検物Sを走査する、例えば、ガルバノスキャナである。
【0019】
走査部4は、後述する走査制御部14により、例えば、ラスタースキャンを行うように制御される。この場合、スキャナ4aはラインスキャンを行い、スキャナ4bよりも高速に被検物Sを走査する。スキャナ4bはスキャナ4aの走査方向(X方向)と直交するY方向に被検物Sを走査する。
【0020】
レンズ6は、対物レンズ8の瞳を走査部4に投影する瞳投影光学系である。準焦部7は、対物レンズ8とともに対物レンズ8の光軸の方向(以降、光軸方向、又はZ方向と記す)に移動して、ステージ9と対物レンズ8との距離を変更する。ステージ9は、例えば、対物レンズ8の光軸と直交するX方向とY方向に移動する可動ステージである。ステージ9は、電動ステージであっても手動ステージであってもよい。
【0021】
顕微鏡本体10は、さらに、被検物Sで反射したレーザ光が光検出器13へ至る検出光路上に、上述した、対物レンズ8、準焦部7、レンズ6、ミラー5、走査部4、ハーフミラー3に加えて、レンズ11及び共焦点絞り12を備える。
【0022】
レンズ11は、被検物Sで反射したレーザ光を集光させるレンズである。共焦点絞り12は、ピンホールが形成されたピンホール板であり、レンズ11の焦点位置にピンホールが位置するように配置される。
【0023】
共焦点絞り12の後段に配置された光検出器13は、例えば、フォトマルチプライヤ(PMT)、アバランシェフォトダイオード(APD)などである。光検出器13は、検出光量に応じたアナログ信号を画像出力部18へ出力する。光検出器13内でのアナログ信号の増幅率は、コンピュータ20からの入力に基づいて制御される。具体的には、例えば、光検出器13であるフォトマルチプライヤ又はアバランシェフォトダイオードへの印加電圧がコンピュータ20からの入力によって変更されることで、増幅率が変化し、アナログ信号の信号強度が変化する。
【0024】
顕微鏡本体10は、さらに、走査制御部14、変位計15、準焦駆動部16、準焦制御部17、及び画像出力部18を備えている。
【0025】
走査制御部14は、コンピュータ20からの入力に基づいて、例えば、走査部4がラスタースキャンを行うように、走査部4を制御する。さらに、走査制御部14は、フレーム有効信号(FVAL)、ライン有効信号(LVAL)、データ有効信号(DVAL)などの同期信号を画像出力部18へ出力する。フレーム有効信号は、走査部4による2次元走査の1フレーム分に相当するタイミング(垂直走査)を通知する同期信号である。ライン有効信号は、走査部4による2次元走査の1ライン分に相当するタイミング(水平走査)を通知する同期信号である。データ有効信号は、走査部4による2次元走査中に得られる画素データが有効なデータであるかを通知する同期信号である。
【0026】
変位計15は、準焦部7の光軸方向の位置を検出する位置検出部である。変位計15は、例えば、光学式のリニアスケールであり、準焦部7の光軸方向への移動によって生じる変位量、即ち、対物レンズ8とステージ9との距離の変化量、を測定して画像出力部18へ出力する。なお、変位計15は、静電容量式の変位計、その他の変位計であってもよい。
【0027】
準焦駆動部16は、例えばモータを備え、準焦部7を駆動し光軸方向に移動させる。準焦制御部17は、コンピュータ20からの入力に基づいて、準焦駆動部16を介して準焦部7の光軸方向への移動を制御する。
【0028】
画像出力部18は、光検出器13からのアナログ信号に基づいて取得した画像データをコンピュータ20へ出力する。具体的には、例えば、走査制御部14から出力される同期信号に基づいてサンプリングクロックを生成する。さらに、生成したサンプリングクロックに従って光検出器13からのアナログ信号をサンプリングし、取得した画素データをコンピュータ20へ出力する。さらに、画像出力部18は、変位計15からの信号に基づいて取得された準焦部7の位置を示す位置データをコンピュータ20へ出力する。
【0029】
顕微鏡本体10では、レーザ1から出射したレーザ光は、ミラー2を反射し、ハーフミラー3、走査部4を介してミラー5へ入射する。ミラー5で対物レンズ8の光軸方向に反射したレーザ光は、レンズ6により所定の光束径に拡大されて、対物レンズ8によりステージ9に載置された被検物Sに照射される。被検物Sを反射したレーザ光は、再び対物レンズ8に入射し、レンズ6、ミラー5、走査部4を介してハーフミラー3に入射する。ハーフミラー3で反射したレーザ光は、レンズ11により集光し共焦点絞り12に形成されたピンホールを通って光検出器13で検出される。
【0030】
走査部4が走査位置をX方向及びY方向に移動させながら、つまり、2次元走査を行いながら、画像出力部18が光検出器13からの信号のサンプリングを繰り返すことで、X方向とY方向の二次元に分布した各サンプリング位置のデジタル信号(つまり、画素データからなる画像データ)がコンピュータ20へ出力される。さらに、変位計15をZ方向に移動させながら、つまり、3次元走査を行いながら、上述の処理を繰り返すことで、X方向、Y方向及びZ方向の3次元に分布した各サンプリング位置のデジタル信号(つまり、複数の画像データ)がコンピュータ20へ出力される。
【0031】
表示装置30は、コンピュータ20から出力されたデータに基づいて、画像を表示するディスプレイである。表示装置30は、例えば、液晶ディスプレイであってもよく、又は、有機ELディスプレイであってもよい。
【0032】
入力装置40は、ユーザの操作に応じた命令をコンピュータ20へ入力する入力装置である。入力装置40は、例えば、マウス、キーボード、タッチパネルなどである。なお、表示装置30と入力装置40は、コンピュータ20と一体に構成されていても良く、コンピュータ20の一部であってもよい。
【0033】
図2は、コンピュータ20のハードウェアの構成を例示した図である。コンピュータ20は、例えば、標準的なコンピュータであり、図2に示すように、プロセッサ21、メモリ22、入出力インターフェース23、ストレージ24、及び、可搬記録媒体26が挿入される可搬記録媒体駆動装置25を備える。そして、これらの構成要素はバス27によって相互に接続されている。なお、図2は、コンピュータ20のハードウェア構成の一例であり、コンピュータ20はこの構成に限定されるものではない。
【0034】
プロセッサ21は、例えば、CPU(Central Processing Unit)、MPU(Micro Processing Unit)、DSP(Digital Signal Processor)などであり、プログラムを実行してプログラムされた処理を行う。プロセッサ21がプログラムを実行することにより、例えば、図3に示す各種の機能が実現され、また、図4及び図5に示す処理が行われる。
【0035】
メモリ22は、例えば、RAM(Random Access Memory)であり、プログラムの実行の際に、ストレージ24または可搬記録媒体26に記録されているプログラムまたはデータを一時的に記憶する。入出力インターフェース23は、コンピュータ20以外の装置(例えば、顕微鏡本体10、表示装置30、入力装置40など)と信号をやり取りする回路である。
【0036】
ストレージ24は、例えば、ハードディスク、フラッシュメモリであり、主に各種データやプログラムの記録に用いられる。可搬記録媒体駆動装置25は、光ディスクやコンパクトフラッシュ(登録商標)等の可搬記録媒体26を収容するものである。可搬記録媒体26は、ストレージ24を補助する役割を有する。
【0037】
図3は、コンピュータ20の機能ブロック図の一例である。コンピュータ20は、図3に示すように、各種データを記憶する記憶部(マスタデータ記憶部28a、三次元データ記憶部28b、設定情報記憶部28c、要素情報記憶部28d、解析結果記憶部28e)と、各種機能を実現する機能部(三次元データ生成部29a、設定部29b、検出部29c、解析部29d、表示制御部29e)と、を備えている。
【0038】
図4は、コンピュータ20が行う表示制御処理の一例を示すフローチャートである。図5は、コンピュータ20が行う条件設定処理の一例を示すフローチャートである。コンピュータ20では、プロセッサ21がプログラムを実行することで、上記の機能部が以下の処理を行う。
【0039】
まず、三次元データ生成部29aが被検物Sの三次元データを生成する(ステップS10)。ここでは、三次元データ生成部29aは、顕微鏡本体10からコンピュータ20へ出力された画像データ及び位置データ(以降、これらをまとめてマスタデータと記す)をマスタデータ記憶部28aから読み出して、三次元データを生成する。三次元データ生成部29aが生成した三次元データは、三次元データ記憶部28bに記憶される。
【0040】
具体的には、三次元データ生成部29aは、例えば、画素毎に輝度変化曲線(以降、IZカーブと記す)を生成してもよい。そして、IZカーブに基づいて各画素における被検物Sの高さを特定することで、被検物Sの形状を示す三次元データを生成してもよい。
【0041】
次に、設定部29bが被検物Sに含まれる繰り返し要素を検出するための検出条件を設定する(ステップS20)。ここでは、設定部29bは、少なくとも、被検物Sに含まれる繰り返し要素の形状の種類と、その種類の形状を特徴付ける少なくとも1つの特徴パラメータの基準値とを検出条件として設定する。設定部29bが設定した検出条件は、設定情報記憶部28cに記憶される。
【0042】
ステップS20についてさらに詳細に説明すると、図5に示すように、設定部29bは、まず、被検物Sに含まれる繰り返し要素の形状の種類を設定する(ステップS21)。ここでは、顕微鏡装置100の利用者は、図6に示すような検出条件を設定するための画面31が表示装置30に表示されている状態で、入力装置40を用いて画面31上で繰り返し要素の形状の種類を選択する。繰り返し要素の形状の種類は、例えば、球、円柱、異なる法線ベクトルを有する2平面、などから選択される。設定部29bは、利用者が入力装置40を用いて選択した形状の種類を検出条件として設定する。なお、図6には、領域31a内の“球”に対応するボタンが押下されることで、繰り返し要素の形状の種類として“球”が設定された様子が示されている。
【0043】
形状の種類が設定されると、設定部29bは、検出条件を手動で設定するか否かを判断する(ステップS22)。ここでは、設定部29bは、例えば、領域31b内において、“手動設定”タブが選択されているか、“自動設定”タブが選択されているかによって判断しても良い。
【0044】
ステップS22で検出条件を手動で設定すると判断すると、設定部29bは、検出条件を設定する(ステップS23)。ここでは、設定部29bは、利用者が入力装置40を用いて指定した少なくとも1つの特徴パラメータの基準値を検出条件として設定する。なお、特徴パラメータとは、形状の種類毎に設けられたその形状を特定するためのパラメータであり、見かけ上の大きさに依存しないパラメータである。従って、特徴パラメータは、形状の一部からでも算出することができる。例えば、球の特徴パラメータは、図7に示すように、球の半径Rsである。円柱の特徴パラメータは、図8に示すように、円柱底面の半径Rc、及び、軸ベクトルVaである。2平面の特徴パラメータは、図9に示すように、2平面の法線ベクトルVn1、Vn2である。また、基準値とは、繰り返し要素を検出する際に、繰り返し要素と比較する形状が有する特徴パラメータの値である。
【0045】
ステップS23では、特徴パラメータの基準値の他に、種々の条件が検出条件として設定されても良い。例えば、設定部29bは、図6に示すように、特徴パラメータである半径(100μm)に加えて、見かけ上のサイズ(100×100pixel)、類似許容度、などを検出条件として設定してもよい。なお、見かけ上のサイズとは、二次元画像上における繰り返し要素のサイズのことである。類似許容度とは、後述する検出処理においてどの程度異なる形状まで類似した形状とみなすかを指定する値である。換言すると、特徴パラメータにより特定される形状と検出される繰り返し要素の形状との違いをどの程度許容するかを示す値である。
【0046】
一方、ステップS22で検出条件を自動で設定すると判断すると、設定部29bは、まず、検出用関心領域(以降、検出用ROIと記す)を設定する(ステップS24)。ここでは、例えば、図10に示すような“自動設定”タブが選択されている状態で、利用者が入力装置40を用いて領域31b内の“ROI指定”ボタンを押下すると、図11に示すような、被検物Sの画像32aを表示した画面32が表示装置30に表示される。その後、利用者が入力装置40を用いて画像32a上でROI32bを指定することで、設定部29bは、ROI32bを検出用ROIに設定する。図11には、繰り返し要素のひとつが検出用ROI内に含まれるように検出用ROIを設定した様子が示されている。なお、ステップS21で形状の種類として2平面が設定されている場合には、ステップS24では、検出用ROIは2つ設定される。
【0047】
検出用ROIが設定されると、設定部29bは、検出用ROIから検出条件を算出して設定する(ステップS25)。ここでは、設定部29bは、検出用ROIの三次元データに対して、ステップS21で設定された種類の形状をフィッティングすることで、少なくとも1つの特徴パラメータの基準値を算出する。具体的なアルゴリズムは特に限定されないが、例えば、形状のフィッティングには最小二乗フィッティングが用いられ、フィッティングを用いた基準値の算出には、Levenberg−Marquardt法が用いられる。その後、設定部29bは、算出した少なくとも1つの基準値を検出条件として設定する。
【0048】
また、ステップS25では、少なくとも1つの基準値に加えて、類似許容度を検出条件として設定してもよい。類似許容度は、図10に示すように利用者に指定された値であってもよく、最小二乗フィッティングで使用されたフィッティングデータと検出用ROIの三次元データに基づいて算出してもよい。例えば、最小二乗フィッティングのフィッティングデータと三次元データの差についての二乗平均平方根を許容度に設定してもよい。
【0049】
検出条件が設定されると、検出部29cが被検物Sに含まれる複数の繰り返し要素を検出する(ステップS30)。ここでは、検出部29cは、被検物Sの三次元データとステップS20で設定した検出条件に基づいて、複数の繰り返し要素を検出する。換言すると、検出部29cは、被検物Sの三次元データと、被検物Sに含まれる繰り返し要素の形状の種類と、その種類の形状を特徴付ける少なくとも1つの特徴パラメータの基準値と、に少なくとも基づいて、複数の繰り返し要素を検出する。検出部29cが検出した繰り返し要素の情報は、要素情報記憶部28dに記憶される。
【0050】
具体的には、検出部29cは、例えば、RANSAC(Random sample consensus)を利用して、被検物Sから特徴パラメータの基準値により特定される形状(例えば、半径100μmの球)の一部又は全部に類似した形状を有する領域を推定し、推定した領域をセグメント化し、セグメント化した複数の領域の各々を繰り返し領域として検出してもよい。検出した複数の領域にはそれぞれ識別番号が付与される。
【0051】
複数の繰り返し要素が検出されると、解析部29dが複数の繰り返し要素を解析する(ステップS40)。ここでは、解析部29dは、少なくとも被検物Sの三次元データに基づいて、複数の繰り返し要素を解析する。解析部29dは、繰り返し要素毎に、検出処理と同様に、例えば最小二乗フィッティングを行い、そのフィッティング結果に基づいて特徴パラメータ等を算出してもよい。解析部29dが解析した解析結果は、解析結果記憶部28eに記憶される。
【0052】
具体的には、解析部29dは、複数の繰り返し要素の各々に対して、ステップS20で設定された種類の形状を特徴付ける少なくとも1つの特徴パラメータの値を算出してもよい。より具体的に説明すると、少なくとも1つの特徴パラメータは、繰り返し要素の形状の種類が球であれば、図7に示すように球の半径である。また、繰り返し要素の形状の種類が円柱であれば、図8に示すように円柱底面の半径Rc、及び、軸ベクトルVaである。また、繰り返し要素の形状の種類が2平面であれば、図9に示すように、2平面の法線ベクトルVn1、Vn2である。
【0053】
また、解析部29dは、複数の繰り返し要素の各々に対して、その繰り返し要素を代表する座標を算出してもよい。より具体的に説明すると、代表する座標は、繰り返し要素の形状の種類が球であれば、図7に示すように球の中心座標P1であり、繰り返し要素の形状の種類が円柱であれば、図8に示すように円柱の中心軸上の点であって原点に最も近い点P2の座標であり、繰り返し要素の形状の種類が2平面であれば、図9に示すように2平面の交線上の点であって原点に最も近い点P3の座標である。
【0054】
また、解析部29dは、複数の繰り返し要素の各々に対して、その繰り返し要素の形状とステップS20で設定された基準値に基づいて決定される形状との差分(以降、理想形状との差分と記す)を算出してもよい。
【0055】
さらに、設定部29bは、複数の繰り返し要素間の関係についての情報(以降、要素間情報と記す。)を算出してもよい。より具体的に説明すると、要素間情報は、繰り返し要素の形状の種類が球であれば、球の中心座標間の距離と位置関係であり、繰り返し要素の形状の種類が円柱であれば、円柱の中心軸間の距離と平行度であり、繰り返し要素の形状の種類が2平面であれば、2平面間のなす角度、及び、2平面の交線の情報、交線の平行度である。
【0056】
最後に、表示制御部29eが複数の繰り返し要素を含む画像を表示装置30に表示させて(ステップS50)、表示制御処理が終了する。ここでは、表示制御部29eは、複数の繰り返し要素を含む画像を、それらの複数の繰り返し要素に対応する部分がステップS40の解析結果に応じた表示態様で表示されるように、表示装置30に表示させる。
【0057】
具体的には、表示制御部29eは、複数の繰り返し要素に対応する部分を解析結果に応じて色付けした画像を表示するように、表示装置30を制御してもよい。より具体的には、表示制御部29eは、複数の繰り返し要素に対応する部分を解析結果に応じて繰り返し要素単位で色付けした画像を表示するように、表示装置30を制御してもよい。また、表示制御部29eは、複数の繰り返し要素に対応する部分を解析結果に応じてパターン化した画像を表示するように、表示装置30を制御してもよい。より具体的には、表示制御部29eは、複数の繰り返し要素に対応する部分を解析結果に応じて繰り返し要素単位でパターン化した画像を表示するように、表示装置30を制御してもよい。ここで、パターン化とは、例えば、網掛けやドット等を該当部分に付すことをいい、網掛けやドットの色はパターン毎に異なっていても同じであってもよい。
【0058】
更に具体的には、表示制御部29eは、ステップS40で特徴パラメータの値が算出されている場合であれば、複数の繰り返し要素の各々に対して算出された特徴パラメータの値に応じた色でその繰り返し要素に対応する部分を色付けした画像を表示するように、表示装置30を制御してもよい。また、表示制御部29eは、ステップS40で座標が算出されている場合であれば、複数の繰り返し要素の各々に対して算出された座標に応じた色でその繰り返し要素に対応する部分を色付けした画像を表示するように、表示装置30を制御してもよい。また、表示制御部29eは、ステップS40で理想形状との差分が算出されている場合であれば、複数の繰り返し要素の各々に対して算出された理想形状との差分に応じた色でその繰り返し要素に対応する部分を色付けした画像を表示するように、表示装置30を制御してもよい。
【0059】
図12は、ステップS50の画像表示処理により、表示装置30に表示された画面33の一例である。領域34には、複数の繰り返し要素を含む画像34aが表示されている。画像34aは、コントロール34bで指定された繰り返し要素の特徴パラメータである半径(の大きさ)に応じて画像34aに含まれる繰り返し要素の表示態様を異ならせた画像であり、半径が大きい繰り返し要素ほど濃い網掛けが付されている。画像34aを参照することで、画像中の右上部分に半径が比較的大きい繰り返し要素が、画像中の左下部分に半径の比較的小さい繰り返し要素が、存在することをひと目で把握することが可能であり、複数の繰り返し要素の全体的な傾向を把握することができる。なお、領域34に表示される画像は、特徴パラメータの値に応じて表示態様を異ならせた画像に限られない。例えば中心座標などの座標情報、理想形状との差分に応じて表示態様を異ならせてもよい。
【0060】
また、領域35には、ヒストグラム35aが表示されている。ヒストグラム35aは、コントロール35bで指定されている繰り返し要素の特徴パラメータ(半径)についてのヒストグラムである。ヒストグラム35aを参照することで、半径のばらつき、半径の平均的な大きさなどを把握することができる。なお、領域35に表示されるヒストグラムは、特徴パラメータについてヒストグラムに限らない。例えば中心座標などの座標情報についてのヒストグラム、理想形状との差分についてのヒストグラムが表示されてもよい。なお、領域35には、ヒストグラムに限らず、任意のグラフを表示してもよい。
【0061】
また、領域36には、表36aが表示されている。表36aは、繰り返し要素毎の、識別番号(ID)、中心座標、半径を含んでいる。表36aを参照することで、各繰り返し要素の数値情報を正確に把握することができる。なお、表36aに含まれる情報は、特徴パラメータや座標について情報に限らない。繰り返し要素の形状が2平面であれば、2平面のなす角度などを含んでも良い。なお、領域36には、表形式に限らず、任意の形式で数値情報を表示してもよい。
【0062】
上述したように、顕微鏡装置100では、三次元データと特徴パラメータの基準値を用いて複数の繰り返し要素が検出される。このため、二次元画像に基づいてパターンマッチング処理などを利用して繰り返し要素を検出する場合とは異なり、見かけ上の大きさ(つまり、二次元画像上での大きさ)に左右されることなく繰り返し要素を検出することができる。
【0063】
図13は、繰り返し要素の見かけ上の大きさが異なる例を示した図である。より具体的に説明すると、例えば、図13に示すように、繰り返し要素E3が他の繰り返し要素(繰り返し要素E1、E2、E4−E6)と比較して低い位置に形成された場合であれば、繰り返し要素E3の露出部分の大きさD3が他の繰り返し要素の露出部分の大きさ(大きさD1、D2、D4−D6)と比較して小さくなる。このため、二次元画像に基づいて検出処理を行うと、見かけ上の大きさの違いが主要な原因で繰り返し要素E3が検出されないことがある。しかしながら、顕微鏡装置100では、特徴パラメータの基準値により特定される三次元形状と、三次元データに基づいて特定される繰り返し要素E3の三次元形状と、が比較されるため、見かけ上の大きさが小さい場合であっても繰り返し要素E3を検出することができる。
【0064】
また、X方向及びY方向の長さに比べてZ方向の長さが短い被検物Sが多く存在し、例えば、マイクロレンズアレイ、シリンドリカルレンズアレイなどもしばしば上記のような特徴を有している。このため、これらの被検物Sに対して二次元画像に基づいて検出処理を行うと、三次元形状を推定することが困難であることが一要因となり、繰り返し要素を検出することができないことがある。しかしながら、顕微鏡装置100では、特徴パラメータの基準値により特定される三次元形状と、三次元データに基づいて特定される繰り返し要素の三次元形状と、が比較されるため、Z方向の長さが短い被検物Sであっても繰り返し要素を検出することができる。
【0065】
さらに、顕微鏡装置100では、複数の繰り返し要素を含む画像のうちの複数の繰り返し要素に対応する部分が解析結果に応じた表示態様で表示装置30に表示される。このため、顕微鏡装置100の利用者は、表示装置30に表示された画像を参照することで、複数の繰り返し要素が有する全体的な傾向をひと目で把握することができる。例えば、製造誤差の偏り、不良な繰り返し要素の存在などを、即座に把握することができる。
【0066】
従って、顕微鏡装置100によれば、顕微鏡装置100の利用者に対して、被検物Sに含まれる複数の繰り返し要素が有する全体的な傾向の把握を支援することができる。また、顕微鏡装置100では、設定された条件に従って、繰り返し要素の検出、解析、表示が自動的に行われる。このため、利用者の作業負担が小さく、且つ、利用者によらずに同じ結果を得ることができる。
【0067】
なお、図12に示す画面33は、画像表示処理により表示装置30に表示される画面の一例であり、表示装置30に表示される画面は、画面33に限らない。例えば、図14に示すように、画像34a上にドロネー三角形分割により算出された繰り返し要素の中心間を結ぶ線34cを描画してもよい。線34cは線分の長さに応じて色や線種を変えてもよい。
【0068】
また、繰り返し要素内を同じ表示態様(例えば、単色)で表示する代わりに、繰り返し要素内で表示態様を異ならせても良い。例えば、図15に示すように、繰り返し要素内の各位置における理想形状との差異(誤差)に応じて表示態様を異ならせても良い。これにより、繰り返し要素内で特に誤差の大きい部分等を特定することができる。
【0069】
また、複数の繰り返し要素を含む画像は、二次元画像に限らない。例えば、図16に示すような三次元画像である画像34eが、複数の繰り返し要素を含む画像として、表示装置30に表示されてもよい。
【0070】
また、繰り返し要素を識別する識別番号は、図12に示すように、画像34a上に表示されることが望ましい。画像34a中の繰り返し要素を選択することで、選択した繰り返し要素に対応する表36a中の行(つまり、識別番号によって関連付けられた行)の表示が変化してもよい。例えば、繰り返し要素の選択によって対応する行が強調して表示されてもよい。また、反対に、表36aの行を選択することで、選択した行に対応する画像34a中の繰り返し要素の表示が変化しても良い。例えば、行の選択によって、対応する繰り返し要素を強調表示してもよく、対応する繰り返し要素にピンを立てたり線で囲ったりするなどして目印を表示してもよい。さらに、表36aの行を選択することで、選択した行に対応する繰り返し要素以外の繰り返し要素を非表示にしても良い。
【0071】
また、顕微鏡装置100を検査装置として使用する場合には、予め特徴パラメータについて登録された公差に基づいて、繰り返し要素毎に良否を判定してもよい。検査結果は、例えば、合格した繰り返し要素と不合格の繰り返し要素を異なる色で表示するなどして、画像34a上に表示してもよい。また、検査結果は、表36aに合否を示す列を追加するなどして、表36a上に表示してもよい。
【0072】
[第2の実施形態]
図17は、コンピュータが行う表示制御処理の別の例を示すフローチャートである。なお、本実施形態に係る顕微鏡装置は、図4に示す表示制御処理の代わりに、図17に示す表示制御処理を行う点を除き、第1の実施形態に係る顕微鏡装置100と同様である。このため顕微鏡装置100と同じ構成要素については同じ符号で参照する。
【0073】
図17のステップS110からステップS150の処理は、図4に示すステップS10からステップS50の処理と同様である。コンピュータ20は、複数の繰り返し要素を含む画像が表示されると、繰り返し要素の追加指示があるかどうかを判定する(ステップS160)。そして、コンピュータ20は、利用者から追加指示が入力された場合には、画像更新処理を行う(ステップS170)。利用者は、例えば、画像34a上で繰り返し要素として扱われるべき領域を指定することで、繰り返し要素の追加を指示する。
【0074】
画像更新処理では、コンピュータ20は、まず、利用者が指定した領域を特定し、その領域に識別番号を付して、繰り返し要素として管理する。その後、コンピュータ20は、その繰り返し要素の三次元データに対してステップS140と同様の解析処理を行い、解析結果に基づいてその繰り返し要素を追加で表示する。
【0075】
本実施形態に係る顕微鏡装置によれば、自動検出処理(図4のステップS30、図17のステップS130)では検出できない繰り返し要素についても解析することができるため、繰り返し要素の全体的な傾向をより正確に把握することができる。従って、本実施形態に係る顕微鏡装置の利用は、画像取得時に大きなノイズが生じる場合や被検物Sに理想形状からかけ離れた繰り返し要素が含まれる場合などに、特に効果的である。
【0076】
上述した実施形態は、発明の理解を容易にするための具体例を示したものであり、本発明の実施形態はこれらに限定されるものではない。顕微鏡装置、表示制御方法、プログラムは、特許請求の範囲の記載を逸脱しない範囲において、さまざまな変形、変更が可能である。
【0077】
例えば、図1では、共焦点レーザ走査型顕微鏡が例示されているが、上述した顕微鏡装置は、三次元データを取得することができる限り、任意の顕微鏡に適用可能である。例えば、デジタルマイクロスコープ、測定顕微鏡、白色干渉顕微鏡などにも適用可能である。
【0078】
また、図6では、選択可能な繰り返し要素の形状の種類として、球、円柱、2平面を例示しているが、形状の種類はこれらに限らない。例えば、円錐等を含んでもよい。
【0079】
また、図17では、自動検出処理で検出できなかった領域中から繰り返し要素とすべき領域を指定する例を示したが、任意の領域を繰り返し要素として指定してもよい。例えば、自動検出処理を行うことなく、利用者が任意の領域を繰り返し要素として指定してもよい。自動検出処理を省略して利用者が繰り返し要素を指定することで、被検物Sの一部の領域のみを解析したい場合などに、より短時間で目的とする領域を解析することが可能となる。
【0080】
また、画面31で設定した検出条件は、ストレージ24に格納してもよい。そして、同種の被検物Sを検査する場合に、ストレージ24から検出条件を読み出して再利用してもよい。これにより、同種の被検物Sに対して同じ条件で繰り返し要素を検出することができるため、作業者によって検査結果が異なるといった事態を回避することができる。
【符号の説明】
【0081】
1・・・レーザ、2、5・・・ミラー、3・・・ハーフミラー、4・・・走査部、4a、4b・・・スキャナ、6、11・・・レンズ、7・・・準焦部、8・・・対物レンズ、9・・・ステージ、10・・・顕微鏡本体、12・・・共焦点絞り、13・・・光検出器、14・・・走査制御部、15・・・変位計、16・・・準焦駆動部、17・・・準焦制御部、18・・・画像出力部、20・・・コンピュータ、21・・・プロセッサ、22・・・メモリ、23・・・入出力インターフェース、24・・・ストレージ、25・・・可搬記録媒体駆動装置、26・・・可搬記録媒体、27・・・バス、28a・・・マスタデータ記憶部、28b・・・三次元データ記憶部、28c・・・設定情報記憶部、28d・・・要素情報記憶部、28e・・・解析結果記憶部、29a・・・三次元データ生成部、29b・・・設定部、29c・・・検出部、29d・・・解析部、29e・・・表示制御部、30・・・表示装置、31、32、33・・・画面、31a、31b、34、35、36・・・領域、32a、34a、34d、34e・・・画像、32b・・・ROI、34b、35b・・・コントロール、34c・・・線、35a・・・ヒストグラム、36a・・・表、40・・・入力装置、100・・・顕微鏡装置、D1、D2、D3、D4、D5、D6・・・大きさ、E1、E2、E3、E4、E5、E6・・・繰り返し要素、S・・・被検物
図1
図2
図3
図4
図5
図6
図7
図8
図9
図10
図11
図12
図13
図14
図15
図16
図17