(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公開特許公報(A)
(11)【公開番号】P2022127539
(43)【公開日】2022-08-31
(54)【発明の名称】拡大観察装置、拡大画像観察方法、拡大画像観察プログラム及びコンピュータで読み取り可能な記録媒体並びに記憶した機器
(51)【国際特許分類】
G02B 21/26 20060101AFI20220824BHJP
G02B 21/36 20060101ALI20220824BHJP
H04N 5/232 20060101ALI20220824BHJP
【FI】
G02B21/26
G02B21/36
H04N5/232 990
【審査請求】未請求
【請求項の数】23
【出願形態】OL
(21)【出願番号】P 2021025736
(22)【出願日】2021-02-19
(71)【出願人】
【識別番号】000129253
【氏名又は名称】株式会社キーエンス
(74)【代理人】
【識別番号】110003225
【氏名又は名称】弁理士法人豊栖特許事務所
(72)【発明者】
【氏名】近藤 亮介
【テーマコード(参考)】
2H052
5C122
【Fターム(参考)】
2H052AD18
2H052AD20
2H052AF14
2H052AF21
2H052AF25
5C122DA30
5C122EA42
5C122FA01
5C122FB03
5C122FC01
5C122FC02
5C122FD01
5C122FH04
5C122FK12
5C122FK28
5C122FK37
5C122FK42
5C122FL04
5C122FL05
5C122FL08
5C122GD11
5C122GG05
5C122GG12
5C122GG17
5C122GG21
5C122HA42
5C122HA87
5C122HA88
5C122HB01
5C122HB05
(57)【要約】
【課題】ユーザに細かな操作を強いることなく、所望の軌道に視野を移動可能とする。
【解決手段】拡大観察装置100は、ステージ部30上における対物レンズ部25の光軸の位置を異ならせて、表示制御部52によりディスプレイ部70に出力される観察視野が移動するように対物レンズ部25の光軸とステージ部30とを相対移動させる視野移動機構5と、ディスプレイ部70における観察視野の移動方向を示すユーザ入力に従い、視野移動機構5の移動方向を指示する移動方向指示部55aと、観察視野の移動方向の規定に関する軌跡情報を指示するための軌跡指示部81と、軌跡指示部81で指示された軌跡情報に基づいて、観察視野を移動させる視野移動軌跡を演算する軌跡演算部82と、軌跡演算部82で演算された視野移動軌跡に沿って、移動方向指示部55aによる移動方向の指示に従い、視野移動機構5の移動を制御する移動制御部83とを備える。
【選択図】
図1
【特許請求の範囲】
【請求項1】
観察対象物を載置するためのステージ部と、
前記ステージ部上の観察対象物に向けて配置される対物レンズ部と、
前記対物レンズ部を介して結像された観察対象物の像を撮像して、当該像を示す画像データを生成するカメラ部と、
前記カメラ部が生成する画像データに基づいて観察対象物を含む観察視野の画像をディスプレイ部に表示させる表示制御部と、
前記ステージ部上における前記対物レンズ部の光軸の位置を異ならせて、前記表示制御部によりディスプレイ部に出力される観察視野が移動するように前記対物レンズ部の光軸と前記ステージ部とを相対移動させる視野移動機構と、
前記ディスプレイ部における観察視野の移動方向を示すユーザ入力に従い、前記視野移動機構の移動方向を指示する移動方向指示部と、
観察視野の移動方向の規定に関する軌跡情報を指示するための軌跡指示部と、
前記軌跡指示部で指示された軌跡情報に基づいて、観察視野を移動させる視野移動軌跡を演算する軌跡演算部と、
前記軌跡演算部で演算された視野移動軌跡に沿って、前記移動方向指示部による移動方向の指示に従い、前記視野移動機構の移動を制御する移動制御部と、
を備える拡大観察装置。
【請求項2】
請求項1に記載の拡大観察装置であって、
前記軌跡指示部は、前記視野移動機構により移動される1又は複数の観察視野の画像を用いて、前記軌跡情報として複数の軌跡基準点の指示を受け付け、
前記軌跡演算部が、前記軌跡指示部で指示された複数の軌跡基準点に基づいて視野移動軌跡を演算するよう構成されてなる拡大観察装置。
【請求項3】
請求項1に記載の拡大観察装置であって、
前記軌跡指示部は、前記視野移動機構により移動させて複数の観察視野の画像を前記表示制御部によりディスプレイ部に表示させ、前記軌跡情報として各観察視野に対応した複数の軌跡基準点の指示を受け付け、
前記軌跡演算部が、前記軌跡指示部で指示された複数の軌跡基準点に基づいて視野移動軌跡を演算するよう構成されてなる拡大観察装置。
【請求項4】
請求項1~3のいずれか一項に記載の拡大観察装置であって、
前記移動制御部は、
前記軌跡演算部で演算された視野移動軌跡に沿うように、前記移動方向指示部で前記視野移動機構を制御するルートトレースモードと、
前記視野移動軌跡と無関係に、前記移動方向指示部で指示された移動方向に前記視野移動機構を制御するフリーモードと
を切替可能としてなる拡大観察装置。
【請求項5】
請求項1~4のいずれか一項に記載の拡大観察装置であって、さらに、
前記軌跡演算部で演算された視野移動軌跡に沿うように、前記移動方向指示部で前記視野移動機構を制御するルートトレースモードの実行中に、当該ルートトレースモードを解除して前記視野移動軌跡と無関係に、前記移動方向指示部で指示された移動方向に前記視野移動機構を制御可能なフリーモードとするルートガイド解除部を設けてなる拡大観察装置。
【請求項6】
請求項4又は5に記載の拡大観察装置であって、
前記移動制御部は、
前記視野移動機構を移動させる移動位置と、
前記軌跡演算部で演算された視野移動軌跡とが、
所定値以上異なる場合に、前記ルートトレースモードからフリーモードに切り替えるよう構成してなる拡大観察装置。
【請求項7】
請求項4~6のいずれか一項に記載の拡大観察装置であって、
前記移動制御部は、前記表示制御部によりディスプレイ部で表示されている画像データの観察視野に対し、
前記移動方向指示部で指示された移動方向の指示が、
前記軌跡演算部で演算された視野移動軌跡に沿って観察視野を移動させるべき方向に対し、
所定の第一角度の範囲内であれば、第一方向に沿った前記ルートトレースモードを継続し、
所定の第一角度の範囲外であれば、前記第一方向とは逆向きの第二方向に沿った前記ルートトレースモードを継続するよう構成してなる拡大観察装置。
【請求項8】
請求項4~6のいずれか一項に記載の拡大観察装置であって、
前記移動方向指示部は、前記視野移動軌跡に沿った第一方向と、前記視野移動軌跡に沿った方向のうち当該第一方向とは異なる第二方向を指示するよう構成してなる拡大観察装置。
【請求項9】
請求項2又は3に記載の拡大観察装置であって、
前記軌跡演算部が、前記軌跡指示部で指示された複数の軌跡基準点を通る視野移動軌跡を演算し、
前記軌跡演算部で演算される視野移動軌跡が、折曲部を含んでなる拡大観察装置。
【請求項10】
請求項2又は3に記載の拡大観察装置であって、
前記軌跡演算部が、前記軌跡指示部で指示された複数の軌跡基準点を、曲線を含む幾何形状で補間するように、前記視野移動軌跡を演算するよう構成されてなる拡大観察装置。
【請求項11】
請求項9又は10に記載の拡大観察装置であって、
前記軌跡演算部が、観察視野の中心の座標位置を軌跡基準点として、視野移動軌跡を演算するよう構成してなる拡大観察装置。
【請求項12】
請求項1~11のいずれか一項に記載の拡大観察装置であって、
前記視野移動機構が、前記ステージ部をX方向及びY方向に電動式に移動させる電動XYステージを含む拡大観察装置。
【請求項13】
請求項1~12のいずれか一項に記載の拡大観察装置であって、
前記視野移動機構は、さらに、前記対物レンズ部の焦点位置と前記ステージ部との間の相対距離を変化させ、
前記軌跡指示部により指示される軌跡情報は、前記相対距離に関する情報を含み、
前記軌跡演算部は、前記軌跡指示部で指示された軌跡情報に基づいて、観察視野の移動と前記相対距離の変化とを伴う視野移動軌跡を演算するよう構成してなる拡大観察装置。
【請求項14】
請求項13に記載の拡大観察装置であって、
前記電動Zステージが、前記表示制御部によりディスプレイ部に表示される画像データの焦点を、前記対物レンズ部から観察対象物までの距離に応じて合焦させるよう自動で焦点距離を調整するよう構成してなる拡大観察装置。
【請求項15】
請求項1~14のいずれか一項に記載の拡大観察装置であって、
前記移動方向指示手段が、ジョイスティックであり、
前記ジョイスティックを傾斜させる角度が大きいほど、前記移動制御部による前記視野移動機構の移動速度を速くするよう構成してなる拡大観察装置。
【請求項16】
請求項1~15のいずれか一項に記載の拡大観察装置であって、さらに、
前記観察視野の中心の位置がずれたことを検出して、当該視野ずれを自動で補正する視野ずれ補正部を備えており、
前記軌跡演算部は、前記視野ずれ補正部により視野ずれ補正が行われると、当該視野ずれ補正に応じて前記視野移動軌跡を自動でオフセットさせるよう構成してなる拡大観察装置。
【請求項17】
請求項13に記載の拡大観察装置であって、さらに、
前記観察視野の中心の位置又は前記相対距離がずれたことを検出して、当該視野ずれを自動で補正する視野ずれ補正部を備えており、
前記軌跡演算部は、前記視野ずれ補正部により視野ずれ補正が行われると、当該視野ずれ補正に応じて前記視野移動軌跡を自動でオフセットさせるよう構成してなる拡大観察装置。
【請求項18】
請求項1~17のいずれか一項に記載の拡大観察装置であって、さらに、
観察対象物に向けて照明方向を切り替え可能で、かつ
照明方向を順次切り替えて照射する第一照明パターンと、
選択された照射方向に照射する第二照明パターンと
に照射可能な照明部
を備えており、
前記視野移動軌跡に沿って観察視野を移動させる際には、前記照明部を前記第一照明パターンで照射させるよう構成してなる拡大観察装置。
【請求項19】
請求項1~18のいずれか一項に記載の拡大観察装置であって、
前記表示制御部は、前記カメラ部が生成する画像データに基づいて観察対象物を含む観察視野の画像をディスプレイ部に表示させ、
前記視野移動機構による観察視野の移動を停止させた際には、前記カメラ部が生成する複数の画像データに基づいて画像合成処理された合成画像をディスプレイ部に表示させ、
前記視野移動機構による観察視野を移動させた際には、前記カメラ部が生成する画像データに基づいてライブ画像を表示させるよう構成してなる拡大観察装置。
【請求項20】
請求項1~19のいずれか一項に記載の拡大観察装置であって、
前記軌跡演算部が、移動方向と速度に加えて、移動コマンドを監視するポーリング間隔から、到達する予測地点を算出し、
該算出した予測地点から軌跡に最も近い点を探索し、該探索された最も近い点に向けて方向と速度を補正して、前記視野移動機構を移動させるよう制御してなる拡大観察装置。
【請求項21】
ステージ部に載置された観察対象物を、対物レンズ部を介してカメラ部で撮像してディスプレイ部に表示させ、前記ステージ部上における前記対物レンズ部の光軸の位置を異ならせて前記ディスプレイ部に出力される観察視野が移動するように前記対物レンズ部の光軸と前記ステージ部とを視野移動機構で相対移動させて観察する拡大画像観察方法であって、
前記観察視野を移動させたい移動方向の規定に関する軌跡情報の指示を、軌跡指示部が促す工程と、
前記軌跡指示部で指示された軌跡情報に基づいて、前記観察視野を移動させる視野移動軌跡を軌跡演算部が演算する工程と、
前記軌跡演算部で演算された視野移動軌跡に沿って、前記ディスプレイ部における観察視野の移動方向を示すユーザ入力に従い、前記視野移動機構の移動方向を指示する移動方向指示部による移動方向の指示に従い、前記視野移動機構の移動を移動制御部で制御する工程と、
を含む拡大画像観察方法。
【請求項22】
観察対象物を載置するためのステージ部と、
前記ステージ部上の観察対象物に向けて配置される対物レンズ部と、
前記対物レンズ部を介して結像された観察対象物の像を撮像して、当該像を示す画像データを生成するカメラ部と、
前記カメラ部が生成する画像データに基づいて観察対象物を含む観察視野の画像を表示させるディスプレイ部と、
前記ステージ部上における前記対物レンズ部の光軸の位置を異ならせて、前記ディスプレイ部に出力される観察視野が移動するように前記対物レンズ部の光軸と前記ステージ部とを相対移動させる視野移動機構と、
前記ディスプレイ部における観察視野の移動方向を示すユーザ入力に従い、前記視野移動機構の移動方向を指示する移動方向指示部と、
を備える拡大観察装置を操作する拡大画像観察プログラムであって、
観察視野の移動方向の規定に関する軌跡情報を指示する軌跡指示機能と、
前記軌跡指示機能で指示された軌跡情報に基づいて、観察視野を移動させる視野移動軌跡を演算する軌跡演算機能と、
前記軌跡演算機能で演算された視野移動軌跡に沿って、前記移動方向指示部による移動方向の指示に従い、前記視野移動機構の移動を制御する移動制御機能と、
をコンピュータに実現させるための拡大画像観察プログラム。
【請求項23】
請求項22に記載のプログラムを格納したコンピュータで読み取り可能な記録媒体又は記憶した機器。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、拡大観察装置、拡大画像観察方法、拡大画像観察プログラム及びコンピュータで読み取り可能な記録媒体並びに記憶した機器に関する。
【背景技術】
【0002】
微小物体等の試料やワーク等の被写体を拡大して表示する拡大観察装置として、光学レンズを使った光学顕微鏡やデジタルマイクロスコープ等が利用されている。デジタルマイクロスコープは、光学系を介して入射され、ステージ部上に載置された観察対象物からの反射光又は透過光を、二次元状に配置された画素毎に電気的に読み取るCCDやCMOS等の撮像素子で受光し、電気的に読み取られた画像をディスプレイ部に表示する(例えば特許文献1)。ディスプレイ部に表示される観察視野を移動させるため、ステージ部にはX方向、Y方向に移動可能とするXYステージ等のステージ移動機構が設けられているものがある。
【0003】
このようなステージ移動機構は、手動でステージ部を移動させるものの他、電動式に移動させるようにした電動ステージを備えるものも開発されている。このような電動ステージの操作に関しては、ユーザがマウスやジョイスティックなどの入力コンソールを通じてステージ部の移動先を指定するよう構成されている。例えばXYステージの移動に際しては、
図7に示すように、ユーザがジョイスティックを所望の方向に傾けることで、ステージ部の移動方向を指定する。このような電動ステージを用いることにより、手動によるステージ部の操作よりも高速かつ高精度に、ステージ部の位置決めを行うことができる。またこのようなデジタルマイクロスコープにおいては、複数の観察箇所が離れている場合でも、複数の観察箇所間を高速で移動させて、精度高く位置決めすることが可能である。
【0004】
一方で、観察対象物として例えば刃物や工具の端縁などの、特定の形状に沿って傷や欠けが無いかを観察したい場合がある。このような場合には、複数の観察箇所間を指定して移動するのではなく、特定の形状、例えば線に沿って視野を移動させて観察を行うことになる。例えば
図6に示すような円筒状のワークWK2の端縁を、円弧に沿って視野を移動させて観察する場合などが考えられる。ところで、顕微鏡で観察を行う場合、倍率が高くなるほど電動ステージの移動量に対する観察視野の相対的な移動量が大きくなる。このため、高倍率で観察する場合にステージを動かした際、ユーザが意図していたよりも大きく移動してしまうことがあり、所望の観察位置に観察視野を合わせる作業が必要であった。ジョイスティックを用いて
図6のような円筒状のワークWK2の端縁を、円弧に沿って観察する場合を考える。この場合、ユーザは円弧が観察視野から外れないように、XY方向に微調整しながら観察を行うこととなる。このように、従来の操作方法で特定の形状に沿って観察視野を移動させる場合、ユーザは観察と同時に煩雑な作業を強いられていた。
【先行技術文献】
【特許文献】
【0005】
【発明の概要】
【発明が解決しようとする課題】
【0006】
本発明の目的の一は、ユーザに細かな操作を強いることなく、所望の軌道に視野を移動可能とした拡大観察装置、拡大画像観察方法、拡大画像観察プログラム及びコンピュータで読み取り可能な記録媒体並びに記憶した機器を提供することにある。
【課題を解決するための手段及び発明の効果】
【0007】
本発明の一の態様に係る拡大観察装置は、観察対象物を載置するためのステージ部と、前記ステージ部上の観察対象物に向けて配置される対物レンズ部と、前記対物レンズ部を介して結像された観察対象物の像を撮像して、当該像を示す画像データを生成するカメラ部と、前記カメラ部が生成する画像データに基づいて観察対象物を含む観察視野の画像をディスプレイ部に表示させる表示制御部と、前記ステージ部上における前記対物レンズ部の光軸の位置を異ならせて、前記表示制御部によりディスプレイ部に出力される観察視野が移動するように前記対物レンズ部の光軸と前記ステージ部とを相対移動させる視野移動機構と、前記ディスプレイ部における観察視野の移動方向を示すユーザ入力に従い、前記視野移動機構の移動方向を指示する移動方向指示部と、観察視野の移動方向の規定に関する軌跡情報を指示するための軌跡指示部と、前記軌跡指示部で指示された軌跡情報に基づいて、観察視野を移動させる視野移動軌跡を演算する軌跡演算部と、前記軌跡演算部で演算された視野移動軌跡に沿って、前記移動方向指示部による移動方向の指示に従い、前記視野移動機構の移動を制御する移動制御部とを備える。上記構成により、ユーザは移動方向指示部で詳細な観察視野の移動を指示しなくとも、軌跡演算部で演算された視野移動軌跡に沿って観察視野を容易に移動させることが可能となり、操作の簡素化が図られる。
【0008】
また本発明の他の態様に係る拡大画像観察方法は、ステージ部に載置された観察対象物を、対物レンズ部を介してカメラ部で撮像してディスプレイ部に表示させ、前記ステージ部上における前記対物レンズ部の光軸の位置を異ならせて前記ディスプレイ部に出力される観察視野が移動するように前記対物レンズ部の光軸と前記ステージ部とを視野移動機構で相対移動させて観察する拡大画像観察方法であって、前記観察視野を移動させたい移動方向の規定に関する軌跡情報の指示を、軌跡指示部が促す工程と、前記軌跡指示部で指示された軌跡情報に基づいて、前記観察視野を移動させる視野移動軌跡を軌跡演算部が演算する工程と、前記軌跡演算部で演算された視野移動軌跡に沿って、前記ディスプレイ部における観察視野の移動方向を示すユーザ入力に従い、前記視野移動機構の移動方向を指示する移動方向指示部による移動方向の指示に従い、前記視野移動機構の移動を移動制御部で制御する工程とを含む。これにより、ユーザは移動方向指示部で詳細な観察視野の移動を指示しなくとも、軌跡演算部で演算された視野移動軌跡に沿って観察視野を容易に移動させることが可能となり、操作の簡素化が図られる。
【0009】
さらに本発明の他の態様に係る拡大画像観察プログラムは、観察対象物を載置するためのステージ部と、前記ステージ部上の観察対象物に向けて配置される対物レンズ部と、前記対物レンズ部を介して結像された観察対象物の像を撮像して、当該像を示す画像データを生成するカメラ部と、前記カメラ部が生成する画像データに基づいて観察対象物を含む観察視野の画像を表示させるディスプレイ部と、前記ステージ部上における前記対物レンズ部の光軸の位置を異ならせて、前記ディスプレイ部に出力される観察視野が移動するように前記対物レンズ部の光軸と前記ステージ部とを相対移動させる視野移動機構と、前記ディスプレイ部における観察視野の移動方向を示すユーザ入力に従い、前記視野移動機構の移動方向を指示する移動方向指示部とを備える拡大観察装置を操作する拡大画像観察プログラムであって、観察視野の移動方向の規定に関する軌跡情報を指示する軌跡指示機能と、前記軌跡指示機能で指示された軌跡情報に基づいて、観察視野を移動させる視野移動軌跡を演算する軌跡演算機能と、前記軌跡演算機能で演算された視野移動軌跡に沿って、前記移動方向指示部による移動方向の指示に従い、前記視野移動機構の移動を制御する移動制御機能とをコンピュータに実現させるための拡大画像観察プログラムである。上記構成により、ユーザは移動方向指示部で詳細な観察視野の移動を指示しなくとも、軌跡演算部で演算された視野移動軌跡に沿って観察視野を容易に移動させることが可能となり、操作の簡素化が図られる。
【0010】
さらにまた、本発明の他の態様に係るコンピュータで読み取り可能な記録媒体又は記録した機器は、上記プログラムを格納したものである。記録媒体には、CD-ROM、CD-R、CD-RWやフレキシブルディスク、磁気テープ、MO、DVD-ROM、DVD-RAM、DVD±R、DVD±RW、HD DVD(AOD)、Blu-ray(商品名)、UHD BD(商品名)、USBメモリ、SSDメモリ等の磁気ディスク、光ディスク、光磁気ディスク、半導体メモリその他のプログラムを格納可能な媒体が含まれる。またプログラムには、上記記録媒体に格納されて配布されるものの他、インターネット等のネットワーク回線を通じてダウンロードによって配布される形態のものも含まれる。さらに記録媒体にはプログラムを記録可能な機器、例えば上記プログラムがソフトウェアやファームウェア等の形態で実行可能な状態に実装された汎用もしくは専用機器を含む。さらにまたプログラムに含まれる各処理や機能は、コンピュータで実行可能なプログラムソフトウエアにより実行してもよいし、各部の処理を所定のゲートアレイ(FPGA、ASIC)等のハードウエア、又はプログラムソフトウエアとハードウェアの一部の要素を実現する部分的ハードウエアモジュールとが混在する形式で実現してもよい。また本明細書においてコンピュータで読み取り可能な記録媒体は、非一過性で有形の媒体、又は一過性の伝搬信号を含む。
【図面の簡単な説明】
【0011】
【
図1】実施形態1に係る拡大観察装置の外観斜視図である。
【
図4】ジョイスティックの側面視における傾斜方向を示す模式図である。
【
図5】ジョイスティックの平面視における傾斜角度を示す模式側面図である。
【
図6】円筒状のワークの端縁に沿って観察視野を移動させる場合の、ジョイスティックの移動方向を示す模式図である。
【
図7】ジョイスティックでステージの移動方向を指示する様子を示す模式図である。
【
図8】ルートトレースモードにおけるジョイスティックの傾斜方向と観察視野の移動方向を示す模式図である。
【
図9】移動方向指示部をボタン操作で実現する例を示す模式図である。
【
図10】移動方向指示部をマウス操作で実現する例を示す模式図である。
【
図12】ルートガイド機能を実現する拡大画像観察方法を示すフローチャートである。
【
図14】基板上に離間して実装されたチップに対して視野移動軌跡を設定する様子を示す模式図である。
【
図15】
図14の観察対象物に設定された視野移動軌跡に沿って移動させる様子を示す模式図である。
【
図16】拡大観察装置を操作する拡大画像観察プログラムのユーザインターフェース画面である。
【
図17】拡大観察装置を操作する拡大画像観察プログラムのユーザインターフェース画面である。
【
図18】拡大観察装置を操作する拡大画像観察プログラムのユーザインターフェース画面である。
【
図20】
図20AはXYステージを移動中の観察視野、
図20BはさらにXYステージを移動させた最中の観察視野を示す模式図である。
【
図22】視野ずれ補正オフセット機能により視野移動軌跡をオフセットさせる様子を示す模式図である。
【
図23】
図23は観察視野に該当する位置に応じて視野移動軌跡をオフセットさせる様子を示す模式図である。
【
図24】視野移動軌跡から離れた位置を指定してルートトレースモードを解除する様子を示す模式図である
【
図25】
図24のルートトレースモードが解除されてフリーモードになった状態を示す模式図である。
【
図26】視野移動軌跡に近付けた位置を指定してルートトレースモードに復帰する様子様子を示す模式図である
【
図27】解除条件設定部の例を示すユーザインターフェース画面の模式図である。
【
図28】
図28Aはナビゲーション表示欄の全体に表示させた低倍率画像に重ねて視野移動軌跡を表示させた状態を、
図28Bはナビゲーション表示欄の一部に低倍率画像を表示させた状態で視野移動軌跡を重ねて表示させた状態を、それぞれ示すイメージ図である。
【
図29】
図29Aは、ルートガイド機能実行中、
図29Bはルートガイド機能停止中のルート表示領域をそれぞれ示す模式図である。
【
図30】実施形態2に係る拡大観察装置を示す模式図である。
【
図32】
図32Aは低倍率画像から観察対象物の三次元を取得する例、
図32Bは観察対象物の平面の傾きを推定する例を、それぞれ示す模式図である。
【
図33】低倍率の画像から3D形状を取得したプロファイルの一例を示す模式図である。
【
図34】XY移動を停止させた場合のルートガイド機能を示す模式図である。
【
図35】
図35Aは三次元空間で指定された視野移動軌跡及び基準点、
図35Bは基準点をXY平面に投影した状態、
図35Cは投影された基準点で規定された視野移動軌跡を、それぞれ示す模式図である。
【
図36】
図36Aは三次元空間で規定された平面、
図36Bはこの平面内の視野移動軌跡をXY平面に投影した状態を示す模式図である。
【
図37】
図37Aは三次元空間で規定された多角形状の視野移動軌跡、
図37Bはこの多角形状視野移動軌跡をXY平面に投影した状態を示す模式図である。
【
図38】視野移動軌跡が交差する場合に視野移動方向を決定する様子を示す模式図である。
【
図39】捻れの位置で交差する視野移動軌跡に対してルートガイド機能を実行する様子を示す模式図である。
【
図40】近接する登録点が設定された視野移動軌跡に対してルートガイド機能を実行する様子を示す模式図である。
【
図41】ルートガイド機能実行中にZ方向に移動させた場合の動作の一例を示す模式図である。
【
図42】ルートガイド機能実行中にZ方向に移動させた場合の動作の他の例を示す模式図である。
【発明を実施するための形態】
【0012】
以下、本発明の実施の形態を図面に基づいて説明する。ただし、以下に示す実施の形態は、本発明の技術思想を具体化するための拡大観察装置、拡大画像観察方法、拡大画像観察プログラム及びコンピュータで読み取り可能な記録媒体並びに記憶した機器を例示するものであって、本発明は拡大観察装置、拡大画像観察方法、拡大画像観察プログラム及びコンピュータで読み取り可能な記録媒体並びに記憶した機器を以下のものに特定しない。また、本明細書は特許請求の範囲に示される部材を、実施の形態の部材に特定するものではない。特に実施の形態に記載されている構成部品の寸法、材質、形状、その相対的配置等は特に特定的な記載がない限りは、本発明の範囲をそれのみに限定する趣旨ではなく、単なる説明例にすぎない。なお、各図面が示す部材の大きさや位置関係等は、説明を明確にするため誇張していることがある。さらに以下の説明において、同一の名称、符号については同一もしくは同質の部材を示しており、詳細説明を適宜省略する。さらに、本発明を構成する各要素は、複数の要素を同一の部材で構成して一の部材で複数の要素を兼用する態様としてもよいし、逆に一の部材の機能を複数の部材で分担して実現することもできる。
【0013】
本発明の実施例において使用される拡大観察装置とこれに接続される操作、制御、表示、その他の処理等のためのコンピュータ、プリンタ、外部記憶装置その他の周辺機器との接続は、例えばIEEE1394、RS-232xやRS-422、USB等のシリアル接続、パラレル接続、あるいは10BASE-T、100BASE-TX、1000BASE-T等のネットワークを介して電気的、あるいは磁気的、光学的に接続して通信を行う。接続は有線を使った物理的な接続に限られず、IEEE802.x等の無線LANやBluetooth(登録商標)等の電波、赤外線、光通信等を利用した無線接続等でもよい。さらにデータの交換や設定の保存等を行うための記録媒体には、メモリカードや磁気ディスク、光ディスク、光磁気ディスク、半導体メモリ等が利用できる。なお本明細書において拡大観察装置及び拡大画像観察方法とは、拡大観察装置本体のみならず、これにコンピュータ、外部記憶装置等の周辺機器を組み合わせた拡大観察システムも含む意味で使用する。
【0014】
また、本明細書において拡大観察装置は、拡大観察を行うシステムそのもの、ならびに撮像に関連する入出力、表示、演算、通信その他の処理をハードウェア的に行う装置や方法に限定するものではない。ソフトウェア的に処理を実現する装置や方法も本発明の範囲内に包含する。例えば汎用の回路やコンピュータにソフトウェアやプログラム、プラグイン、オブジェクト、ライブラリ、アプレット、コンパイラ、モジュール、特定のプログラム上で動作するマクロ等を組み込んで撮像そのものあるいはこれに関連する処理を可能とした装置やシステムも、本発明の拡大観察装置に該当する。また本明細書においてコンピュータには、汎用あるいは専用の電子計算機の他、ワークステーション、端末その他の電子デバイスも包含する。さらに本明細書においてプログラムとは、単体で使用されるものに限られず、特定のコンピュータプログラムやソフトウェア、サービス等の一部として機能する態様や、必要時に呼び出されて機能する態様、OS等の環境においてサービスとして提供される態様、環境に常駐して動作する態様、バックグラウンドで動作する態様やその他の支援プログラムという位置付けで使用することもできる。
[実施形態1]
【0015】
以下、
図1~
図2を用いて、本発明の実施形態1に係る拡大観察装置100を説明する。拡大観察装置100は、
図1に示すように撮像系1と制御系2に大別される。撮像系1は、観察対象物WKである試料又はワークその他の被写体を照明するための照明部60と、照明部60により照明された観察対象物WKを撮像するヘッド部4を備える。ヘッド部4は、
図2に示すように撮像素子12を含むカメラ部10と、カメラ部10の先端に着脱自在に装着される顕微鏡レンズ部20とを備える。顕微鏡レンズ部20は複数枚の光学レンズで構成された撮像光学系(レンズ光学系)を構成する。ここでは、顕微鏡レンズ部20は対物レンズ部25を含んでいる。またヘッド部4は、照明光の反射光又は透過光を受光する撮像手段として機能する。
(カメラ部10)
【0016】
カメラ部10は、
図2に示すように、照明部60により照明された観察対象物WKから、撮像光学系11を介して入射する反射光を電気的に読み取る撮像素子12を備える。撮像素子12は、この例ではCMOSを利用しているが、CCD等、他の受光素子も利用できる。対物レンズ部25は、ステージ部30上の観察対象物に向けて配置されている。またカメラ部10は、対物レンズ部25を介して結像された観察対象物の像を撮像して、この像を示す画像データを生成する。
【0017】
また撮像系1は、観察対象物WKを載置するステージ部30と、このステージ部30とヘッド部4との光軸方向における相対距離を変化させ焦点を調整する第一焦点調整部としてZ上ステージ及びこのZ上ステージを駆動するための上Z昇降器16とを備える。このステージ部30上に載置された観察対象物WKに対して、撮像光学系11を介して入射され、観察対象物WKで反射された反射光又は観察対象物WKの底面側から照射された透過光を、カメラ部10の撮像素子12で電気的に読み取る。
【0018】
さらに制御系2は、カメラ部10で撮像された拡大画像を表示するディスプレイ部70を有する本体部50を備える。カメラ部10は、ケーブル部3を介して本体部50と接続される。ディスプレイ部70は、カメラ部10が生成する画像データに基づいて観察対象物を含む観察視野の画像を表示させる。なお
図1の例では、ディスプレイ部70を本体部50と一体に設けているが、ディスプレイ部を本体部と別部材とすることもできる。例えば本体部50は、ディスプレイ部70に表示させる表示内容を生成する表示制御部52に加えて、本体部50にディスプレイ部70を接続するディスプレイ接続インターフェースを備えることができる。
【0019】
また本体部50は、プロセッサ部51を備えている。プロセッサ部51は、
図2のブロック図に示すように、複数の機能を実現する(詳細は後述)。本体部50は、汎用のコンピュータに専用のプログラムをインストールしたものや、専用に設計された機器が利用できる。この例では、汎用のコンピュータに拡大観察装置を操作する拡大画像観察プログラムをインストールしたものを本体部として利用している。この本体部50は、プロセッサ部51と、表示制御部52と、ストレージ部53と、インターフェース54と、操作部55と、メモリ部56を備える。
【0020】
またケーブル部3は、カメラ部10の撮像素子12で得られた画像情報を保体部50側に伝達するための電気的ケーブルに加えて、照明光を本体部50からヘッド部4側に伝達するための光学的ケーブル3bを備えている。ケーブル部3は、電気的ケーブルと光学的ケーブル3bと統合することもできるし、これらを個別に設けることもできる。
(ディスプレイ部70)
【0021】
ディスプレイ部70は液晶ディスプレイや有機EL、CRT等のモニタが利用できる。また本体部50は、ユーザが各種操作を行うための操作部55を接続している。操作部55はコンソールやマウス等の入力デバイスである。なおこの例においてもディスプレイ部70や操作部55は、本体部50と一体的に組み込むことも、外付けの部材とすることもできる。さらにディスプレイ部70をタッチパネルで構成すれば、ディスプレイ部70と操作部55を一体に構成することもできる。
【0022】
操作部55は本体部50又はコンピュータと有線もしくは無線で接続され、あるいはコンピュータに固定されている。一般的な操作部55としては、例えばマウスやキーボード、スライドパッド、トラックポイント、タブレット、ジョイスティック、コンソール、ジョグダイヤル、デジタイザ、ライトペン、テンキー、タッチパッド、アキュポイント等の各種ポインティングデバイスが挙げられる。またこれらの操作部55は、拡大観察用操作プログラムの操作の他、拡大観察装置自体やその周辺機器の操作にも利用できる。さらに、インターフェース画面を表示するディスプレイ自体にタッチスクリーンやタッチパネルを利用して、画面上をユーザが手で直接触れることにより入力や操作を可能としたり、又は音声入力その他の既存の入力手段を利用、あるいはこれらを併用することもできる。
図1の例では、操作部55はマウスとキーボード、ジョイスティック55bで構成される。
(照明部60)
【0023】
照明部60は、撮像素子12に結像される観察対象物WKを照明する照明光を生成する。照明部60の概略構成を
図3Aに示す。照明部60は、照明制御部66を備えている。照明制御部66は、設定された照明条件に従って照明光を制御する。照明条件は、照明部60から照射される照明光の明るさを調整する。例えば、照明部60の照射時間や照射強度を調整することで、照明光の明るさを調整できる。照明部60は光源としてLEDを含んでもよい。照明制御部66により光源の発光を制御してもよく、シャッターのような遮光部材により照射光の明るさを制御してもよい。
【0024】
照明光源65は、本体部50に内蔵され、光学的ケーブル3bを介して照明光がヘッド部4の照明部60に伝達される。なお照明部60は、ヘッド部4に組み込み式としたり、ヘッド部4と脱着可能な別体とする構成のいずれも採用できる。また照明光の照明方式としては、落射照明や透過照明等が適宜利用できる。落射照明とは、観察対象物の上方から照明光を落とす照明方法であり、リング照明や同軸照明等が含まれる。
【0025】
同軸照明は、偏射照明を備えることもできる。このような偏射照明機能を備えた同軸照明とリング照明の一例を、
図3Bの模式図に示す。この図に示す照明部60は、内輪側に配置された円環状の同軸落射照明部62と、外輪側に配置された同じく円環状のリング照明部63を備える。同軸落射照明部62、リング照明部63とも、円周上に沿って部分的に分割されており、分割されたブロック毎に点灯を切り替えることで、照明方向を変えた偏射照明が可能となる。
【0026】
このように照明部60は、観察対象物に向けて照射方向を切り替え可能としている。また照明部60は、照明方向を順次切り替えて照射する第一照明パターンと、選択された照射方向に照射する第二照明パターンとに照射可能としている。このような照明パターンの切り替えは、照明制御部66で行われる。
(照明制御部66)
【0027】
照明制御部66は、視野移動軌跡に沿って観察視野を移動させる際には、照明部60を第一照明パターンで照射させる。これにより、観察視野の移動中に照明方向を自動で変化させることができ、観察対象物の表面状態を異なる照明で観察することが可能となり、傷や欠け等を見つけ易くできる。また照明制御部66は、視野移動機構5による観察視野の移動を停止させた際には、バッファメモリ57に保持された照明方向の異なる複数の画像データを解析して、傷が最も鮮明となる照明方向の画像を選択し、照明部60を当該照明方向に固定した第二照明パターンで照射させる。これにより、観察視野の移動を停止させると、最も傷の見やすい照明方向の画像データが表示されるようになり、傷の探索に好適な観察が実現される。
【0028】
図1に示す照明部60は、観察対象物WKに同軸落射光を照射するための同軸落射照明部62(
図3A参照)と、リング状の光源からリング状照明光を照射するためのリング照明部63を備えている。これらの照明は、光学的ケーブル3bを介して本体部50と接続される。本体部50は光学的ケーブル3bを接続するコネクタを備えると共に、コネクタを介して光学的ケーブル3bに光を送出するための照明光源65を内蔵する(
図3A参照)。またリング照明部63は、全周照明と偏射照明を切り替えることができる。これを実現するため、リング照明部63として複数のLEDを環状に配置し、一部のLEDをON/OFFする構成や、照明光の一部をカットするターレット式のマスクを配置する構成等が利用できる。これら照明光の点灯制御や切り替えは、照明制御部66で行われる。
【0029】
また照明部60は、
図3Aの模式断面図に示すように、制御系2(例えば本体部50)側に光源を内蔵し、撮像系1側のヘッド部4に照明光を光ファイバ等で送出する構成を採用している。照明部60は、同軸落射照明部62とリング照明部63を含んでおり、同軸落射照明は、例えばシリコンウェハやLCDパネル等特に鏡面ワークの凸凹を見る場合に効果的となる。照明部60の点灯制御は、照明制御部66で行われる。
(照明光源65)
【0030】
照明光源65としては、発光ダイオード(Light Emitting Diode:LED)や半導体レーザ(Laser Diode:LD)といった半導体発光素子が利用できる。特にLEDはON/OFF応答性に優れるため、測定のスループットを向上できる利点も得られる。また長寿命で低消費電力であり、発熱量も少なく、機械的衝撃に強いといった特長も備える。あるいは、光源光の紫外線や可視光線で励起される蛍光体等の波長変換部材を利用した光源とすることもできる。さらに、可視光以外に紫外光や赤外光を照射可能なLEDを光源として用いることもできる。例えば赤外光による観察は、不良品の解析や生体組織の組織分布等において有用である。なお照明光源には半導体発光素子に限らず、幅広い波長域の白色光を発する白色光源として、ハロゲンランプ、キセノンランプ、HIDランプ等を利用してもよい。また可視光のみならず赤外光を照射可能な光源としてもよい。特にハロゲンランプは、発光波長の波長域が広いため好ましい。また、単一の光源を利用するのみならず、複数の光源を備え、これらを同時に点灯して混色光を照明光としたり、あるいは切り替えて照明することもできる。
【0031】
なお、照明光源は本体部に内蔵する構成に限られない。例えば、ステージ部や顕微鏡レンズ部に設けることもできる。すなわちステージ部側に照明光源として、透過照明光源を設けたり、顕微鏡レンズ部側に同軸落射照明やリング照明用の照明光源を備えてもよい。このような構成により、光ファイバ等で照明光を本体部側からヘッド部側に伝達する必要をなくし、外部に引き出すケーブルを少なくして構成を簡素化できる利点が得られる。また、ヘッド部側の内部においても、照明光源からの光を光ファイバで分岐する他、直接照明に高輝度のLED等の半導体発光素子を設けてもよい。特にLEDは、従来のハロゲンランプ等と比べて小型で発熱量も少なく、長寿命でメンテナンスフリー化も図ることができる。
(視野移動機構5)
【0032】
また拡大観察装置100は、ディスプレイ部70に表示される観察視野を移動させる視野移動機構5を備えている。視野移動機構5は、ステージ部30の載置面上における対物レンズ部25の光軸AXの位置を異ならせるため、対物レンズ部25とステージ部30の相対位置を変化させる。視野移動機構5で対物レンズ部25とステージ部30の相対位置を移動させると、ディスプレイ部70には、移動後の観察視野に更新された像を表示させることができる。
図1の例では視野移動機構5として、ステージ部30を移動させるXYステージを採用している。ただ、本発明はこれに代えて、あるいはこれに加えて、対物レンズ部側を移動させる視野移動機構を採用してもよい。視野移動機構は、光軸側から見た対物レンズ部とステージ部の相対位置、すなわちXY平面内の観察視野を移動させることができれば足りる。
【0033】
XYステージは、ステージ部30の載置面をX軸方向およびY軸方向に移動可能な電動ステージである。また視野移動機構5は、ステージ部30を回転可能なθステージを備えることもできる。
【0034】
さらにステージ部30は、視野移動機構5によるXY平面内でのステージ部30の移動に加えて、下ステージ昇降器35による高さ方向、すなわちZ方向への移動も可能としている。
【0035】
ここで下ステージ昇降器35の動作について説明する。本体部50は、モータ制御回路36に対してステッピングモータ37の制御に関する制御データを入力することによって、ステージ部30と、撮像光学系11および撮像素子12を有するヘッド部4との光軸方向における相対距離、ここではz方向における高さを変化させる。具体的には、本体部50は、下ステージ昇降器35の制御に必要な制御データをモータ制御回路36に入力することによってステッピングモータ37の回転を制御し、ステージ部30の高さz(z方向の位置)を昇降させる。ステッピングモータ37は、回転に応じた回転信号を生成する。本体部50は、モータ制御回路36を介して入力される回転信号に基づいて、ステージ部30と撮像光学系11の光軸方向における相対距離に関する情報としてのステージ部30の高さzを記憶する。このステージ部30は、観察対象物WKに対して観察位置の位置決めを行う観察位置決め手段として機能する。
【0036】
さらに本実施形態においては、ステージ部30の高さを変化させることによってステージ部30と撮像光学系11の光軸方向における相対距離を変化させるのみならず、撮像光学系の高さ、すなわちヘッド部4の高さも変化可能としている。ヘッド部4は本体部50とケーブル部3により接続される。これにより、ヘッド部4で取得したデータはケーブル部3を介して本体部50に送出され、本体部50側で必要な処理を行うことができる。なおステージ部は顕微鏡本体に設ける他、本体と別部材としたヘッド部に設けたり、あるいはステージを省略した撮像部をヘッド部に設けることもできる。ステージを省略した撮像部は、取り付けスタンドに装着したり、ユーザが手持ち可能とすることもできる。
【0037】
撮像素子12は、x方向およびy方向に2次元状に配置された画素毎に受光量を電気的に読み取ることができる。撮像素子12上に結像された観察対象物WKの像は、撮像素子12の各画素において受光量に応じて電気信号に変換され、撮像素子制御回路13においてさらにデジタルデータに変換される。本体部50は、撮像素子制御回路13において変換されたデジタルデータを受光データDとして、光軸方向(
図2中のz方向)とほぼ垂直な面内(
図2中のx、y方向)における観察対象物WKの2次元位置情報としての画素の配置情報(x、y)と共にストレージ部53に記憶する。ここで、光軸方向とほぼ垂直な面内とは、厳密に光軸に対して90°をなす面である必要はなく、その撮像光学系および撮像素子12における解像度において観察対象物WKの形状を認識できる程度の傾きの範囲内にある観察面であればよい。
【0038】
また、以上の説明ではステージ部30の一例として、観察対象物WKがステージ部30に載置される例を示したが、例えばステージ部の代わりにアームを取り付け、その先端に観察対象物WKを固定する構成とすることもできる。さらにヘッド部4は、カメラ取り付け部43に装着して使用する他、脱着可能として手持ち等の方法により所望の位置、角度に配置することもできる。
(移動方向指示部55a)
【0039】
制御系2は、操作部55を設けている。操作部55は、本体部50に接続された入力デバイスである。操作部55は、ディスプレイ部70における観察視野の移動方向を示すユーザ入力を受け付ける移動方向指示部55aとして機能する。この操作部55から入力された方向に従い、視野移動機構5の移動方向が指示される。この操作部55には、ジョイスティックやタッチパッド、マウス、キーボード(矢印キーあるいは特定のキー)などが利用できる。特に操作部55としてジョイスティック55bを利用することで、ユーザは、ジョイスティック55bを倒す方向によって観察視野の移動方向を感覚的に指示し易くなる。例えば順方向、逆方向、右回り、左回り、上下左右等を指示し易くなる。またジョイスティック55bを垂直姿勢から傾斜させる角度によって移動速度を指定することもできる。具体的には、
図4に示すように、側面視における傾斜角度αを大きくするほど移動速度が速くなり、傾斜角度αが小さくなるほど移動速度が遅くなる。なお
図5に示すように、ジョイスティック55bの平面視における傾斜角度βは、観察視野の移動方向を支持するものであるが、後述するルートガイド機能の実行中には、この平面視における傾斜角度βも、移動速度の指示に利用することも可能となる。
【0040】
なお、操作部55が受け付けるユーザ入力の方向と、視野移動機構5によるステージ部30や対物レンズ部25の移動方向は、操作部55がユーザ入力を受け付ける態様や、視野移動機構5が移動させる対象によって異なる。例えば、操作部55がジョイスティック55bであり、視野移動機構5がステージ部30側を移動させるXYステージの場合は、操作部55で入力された方向と逆の方向にXYステージでステージ部30を移動させることで、ユーザが入力した方向に観察視野が移動される。また視野移動機構5が対物レンズ部25側を移動させる場合は、ユーザ入力の方向とXYステージに移動方向が一致する。
この例では、視野移動機構5としてステージ部30を移動させるXYステージを、また移動方向指示部55aとしてジョイスティック55bを採用している。
【0041】
またジョイスティック55bのレバーを押し込むと、ステージ部30は原点又は初期位置に移動する。またステージ部30の移動先の座標を指定されたときは、ルートトレースモードを解除してそれに従う。
【0042】
さらにまたステージ部30は、下ステージ昇降器35による高さ方向、すなわちZ方向への移動に加えて、平面内での移動も可能としている。具体的には、X軸方向およびY軸方向に移動可能なXYステージを備える。また、ステージ部30を回転させる回転可能なステージ(θステージ)を備えることもできる。
【0043】
なお、この例では上Z昇降器16、及び下ステージ昇降器35を共に電動駆動とした例を説明した。ただ本発明では、対物レンズ部25とステージ部30のそれぞれの高さ情報が取得できておれば足り、上Z昇降器及び下ステージ昇降器が共に電動駆動であることは必須でない。例えば上Z昇降器と下ステージ昇降器のいずれか一方を手動で駆動させるように構成してもよい。
【0044】
本体部50は、
図2のブロック図に示すように、プロセッサ部51と、表示制御部52と、ストレージ部53と、インターフェース54と、操作部55と、メモリ部56を備える。この拡大観察装置100は、撮像光学系11を介して入射するステージ部30に固定された観察対象物WKからの反射光又は透過光を電気的に読み取る撮像素子12を用いて観察像を撮像し、ディスプレイ部70に表示させる。
【0045】
ストレージ部53は、表示制御部52によりディスプレイ部70に表示される画像データを動画像として保存する等、記憶部として機能する。インターフェース54は、本体部50がヘッド部4や下ステージ昇降器35等とデータを通信するため接続部である。メモリ部56は、RAMやROMなどで構成される。このメモリ部56は、視野移動機構5の移動中にカメラ部10で撮像された、照明方向の異なる画像データを逐次保持するバッファメモリ57を含んでいる。操作部55は、カメラ部10で画像を撮像する際の条件を設定するための撮像条件や、その他の必要な各種の設定や操作を行うための部材でもある。
(表示制御部52)
【0046】
表示制御部52は、カメラ部10が生成する画像データをディスプレイ部70に出力する。ディスプレイ部70は、表示制御部52から出力される観察視野の画像データを表示させる。この表示制御部52は、GPUなどで構成できる。
図2の例では、表示制御部52をプロセッサ部と別部材で構成した例を説明している。このような表示制御部52は、例えばGPUで構成される。ただ本発明はこの構成に限られず、表示制御部52をプロセッサ部に組み込んでもよい。例えばプロセッサを構成するCPUやMPUに、表示制御部52を統合してもよい。
(プロセッサ部51)
【0047】
このプロセッサ部51は、ディスプレイ部70に表示された画像データに対して、観察視野の移動方向の規定に関する軌跡情報を指示するための軌跡指示部81と、軌跡指示部81で指示された軌跡情報に基づいて、観察視野を移動させる視野移動軌跡を演算する軌跡演算部82と、軌跡演算部82で演算された視野移動軌跡に沿って、移動方向指示部55aによる移動方向の指示に従い、視野移動機構5の移動を制御する移動制御部83と、設定された領域に対応する観察対象物WKの一部又は全部に関するストレージ部53に記憶された焦点距離情報に基づいて、設定された領域に対応する観察対象物WKの光軸方向における高さを演算する画像処理部84と、基準座標取得部85を備える。基準座標取得部85は、画像表示領域111に表示された観察画像の中心の座標位置を基準位置として取得し、基準点の座標として登録する。また、後述するように、視野移動軌跡がz座標の情報も含む場合には、基準点の登録時に基準座標取得部85がxy座標だけではなくz座標も取得するようにしても良い。この拡大観察装置100は、撮像素子12を用いて指定された領域に対応する観察対象物WKの光軸方向における平均高さ(深さ)を演算できる。
【0048】
このプロセッサ部51は汎用のCPUやMPU、SoC、あるいは特定用途向けにカスタマイズされたASICやFPGA等のゲートアレイ等で構成できる。なおこの例では、一のCPUをプロセッサ部として、後述する複数の機能を実現する構成を示しているが、本発明はこの構成に限られず、複数のCPU等でプロセッサ部を構成してもよい。例えばいわゆるマルチコアのMPUでプロセッサ部を構成してもよい。この場合において、複数のコアで各機能を実現する他、コア毎に異なる機能を割り当てて実行してもよい。さらに、CPUとGPUの組み合わせでプロセッサ部を構成してもよい。この場合において、GPUは上述した表示制御部52の機能を果たす他、プロセッサ部に割り当てられた機能の一部又は全部を実行させるように構成してもよい。
(ルートガイド機能)
【0049】
この拡大観察装置100は、観察視野を予め設定したルートに沿って移動させ易くしたルートガイド機能を備えている。例えば観察対象物が
図6に示すような円筒状のワークWK2であり、その端面の円周上のバリや傷などを拡大観察装置で観察する用途を考える。この場合、ディスプレイ部70に表示させる観察視野が観察対象物の端縁の円弧状に沿って移動するように、ステージ部30を移動させる必要がある。
【0050】
デジタルマイクロスコープにおける観察時には倍率が高くなるため、意図した位置に観察視野を移動させるのに一定の難易度がある。手動でステージ部を動かす際には、XY軸を個別に移動させることが一般的である。例えばステージ移動用のつまみをX方向移動用、Y方向移動用にそれぞれ準備し、ユーザが各つまみを操作することで所望の方向へ移動させる。この方法では、X方向への移動、Y方向への移動のそれぞれについて、個別に操作する必要があり、目的の位置へ移動させるのに苦労を要する。例えば、
図6に示す円筒状のワークWK2の円弧に沿うように、X軸、Y軸の2軸を交互に動かしながら観察する必要があった。
【0051】
これに対し、デジタルマイクロスコープが進化したことで、近年では電動XYステージを利用するケースも増えてきている。これにより画面上のマウス操作や、
図7に示すようなジョイスティックを操作するなどしてXY平面の自由な移動が可能になった。
【0052】
しかしながら、ドラッグやダブルクリックといったマウス操作の場合は、長い距離を移動させる場合に操作を連続させる必要がある。
【0053】
またジョイスティック等で指定の方向に連続移動させる場合も、厳密にサンプルに沿って移動できるわけではなく、
図6に示すように、希望のルートに対して蛇行しながら進むことになる。観察視野が蛇行して移動している間、ユーザは希望のルートから外れないよう集中して操作し続ける必要があり、大きなストレスを感じることになる。
【0054】
一方で、画像連結機能を利用して事前に撮影しておき、あとから確認するという方法を採ることもできる。ただしこの場合は、撮影範囲を設定して撮影が完了するまでの間に多大な時間がかかることになり、バリの有無だけを確認したいようなユーザにとって毎回撮影から保存までの手間をかけることは大きな負担になってしまう。
【0055】
そこで本実施形態に係る拡大観察装置100では、予め観察視野を移動させるルートを設定しておき、移動方向指示部55aで観察視野を実際に指示する際には、設定されたルートに沿って観察視野が変化するように視野移動機構5を制御するルートトレースモードを備えている。ルートトレースモードを実行することで、ユーザはおおよその方向を移動方向指示部55aで指示するだけで、観察視野を複雑な経路であっても所望のルートで移動させることが可能となり、ステージ部30の移動などに煩わされることなく観察に集中できる。上述した
図7の例では、予め円筒状の端面に沿うように円弧状のルートRTを
図8に示すように設定しておく。そして移動方向指示部55aであるジョイスティック55bを概ね右方向に倒すだけで、観察視野を円弧に沿って移動させることができる。
図8において、矢印DJ1はジョイスティック55bを倒した方向を示している。本来であれば円弧状のルートの接線方向DS1に沿うようにジョイスティック55bの傾斜方向を右方向から上方向に徐々に変更しなければ、観察視野を円弧状に移動させることはできないところ、ルートトレースモードを実行することで、
図8に示すように一定方向DJ1にジョイスティック55bを倒したままでも、ステージ部30をルートRTに沿って円弧状、すなわちDS1の方向に移動させることが可能となる。すなわち、ジョイスティック55bの傾斜方向DJ1を円弧の位置に応じて徐々に変化させずとも、対物レンズ部25の光軸AXをステージ部30の載置面上で、
図8に示すように円周に沿って、DS1のように曲がって移動させることが可能となる。このように、ルートトレースモードにおいてはジョイスティック55bの傾斜方向DJ1と、ステージ部30の実際の移動方向DS1を乖離させた移動制御を許容している。
【0056】
また、視野移動軌跡にあらかじめ順方向と逆方向とが設定されており、視野移動軌跡と共にメモリ部56に記憶されていても良い。この場合、
図5のβが1°~179°の角度で倒されている場合には順方向に進み、181°~359°の角度に倒されている場合には逆方向に進むように移動制御される。なお0°と180°の角度に倒された場合にいずれの方向に進むかは適宜設定されればよい。角度βの倒し角と、順方向と逆方向の対応付けについてはこの例に限定されず、適宜設定されても良い。
【0057】
このような操作はジョイスティック55bに制限されるものでない。例えば
図9に示すような移動ボタン55cを仮想的に又は物理的に準備し、順方向や逆方向、あるいは右方向や下方向、上下方向や左右方向といったボタン操作による指示も可能である。また視野移動軌跡にあらかじめ順方向と逆方向とが設定されており、視野移動軌跡と共にメモリ部56に記憶されている場合は、進むボタンと戻るボタンのように二つの移動方向を指定するボタンがあればよい。この場合、進むボタンを押下すると順方向に観察視野が移動するように移動機構が制御され、戻るボタンを押下すると逆方向に観察視野が進むように移動機構が制御される。さらにホイールボタンを備えるマウスを移動方向指示部55aとして用いる場合、
図10に示すようにマウスホイールをクリックすることで表示されるアイコンICの周囲に、視野の移動方向を指示するマウスカーソルMCを移動させることで、ジョイスティックのように観察視野の移動方向を指示することもできる。
【0058】
上述のように軌跡演算部82で演算される視野移動軌跡には、曲線を含むことができる。これにより、従来は面倒であった観察視野の曲線状の移動を簡便に行える利点が得られる。また軌跡演算部82で演算される視野移動軌跡が、折曲部を含むこともできる。これにより、従来は面倒であった観察視野の、直線状でない折曲させた移動を簡便に行える利点が得られる。
(移動制御部83)
【0059】
移動制御部83は、視野移動機構5の制御方法として、ルートトレースモードと、フリーモードを切替可能としている。ルートトレースモードでは、軌跡演算部82で演算された視野移動軌跡に沿うように、移動方向指示部55aで視野移動機構5を制御する。またフリーモードでは、視野移動軌跡と無関係に、移動方向指示部55aで指示された移動方向又は指定された座標位置に視野移動機構5を制御する。これにより、ルートトレースモードでは視野移動軌跡に沿った観察視野の移動を簡便に実現しつつ、フリーモードにおいてユーザの自由な観察視野の移動にも対応できる。
【0060】
移動制御部83は、ジョイスティック55bなどの移動方向指示部55aで指示された移動方向に従って、観察視野が視野移動軌跡に沿ってスムーズに移動するように、視野移動軌跡の変化を予め想定しながらステージ部30等の視野移動機能のスムーズな移動を実現している。具体的には、移動制御部83は
図11Aに示すように、ステージ部30等の移動方向DS1と移動速度に加えて、ジョイスティック55b等で指示された移動方向DJ1、すなわち移動コマンドを監視するポーリング間隔から、到達する予測地点を算出する。そして
図11Bに示すように、算出した予測地点から視野移動軌跡に最も近い点を探索し、最も近い点に向けてステージ部30等の移動方向DS1と移動速度を補正して、移動させる。算出されたDS1を元にステージを移動させ、ポーリング周期が経過したら上記の処理を繰り返す。これによって、視野移動軌跡が曲線上であってもスムーズな移動が実現される。また、視野移動軌跡にあらかじめ順方向と逆方向とが設定されており、ジョイスティックの倒し角βとこれらの方向とが対応付けられている場合、βの角度に応じて移動速度が変化しても良い。この場合、例えばβの角度が90°に近いほど順方向の移動速度が速くなるよう移動機構が制御され、270°に近いほど逆方向への移動速度が速くなるよう移動機構が制御されても良い。
【0061】
ここで、ルートガイド機能を実現する拡大画像観察方法を、
図12のフローチャートに基づいて説明する。まず、ステップS1201において、観察視野の移動方向の規定に関する軌跡情報をユーザに指示させる。例えば軌跡指示部81でもって、ユーザによる基準点指定を軌跡情報として受け付ける。
【0062】
次にステップS1202において、軌跡情報に従い軌跡演算部82が視野移動軌跡を演算する。例えば軌跡指示部81でユーザにより指定された基準点に基づき、補完したルートを設定する。そしてステップS1203において、ユーザによるステージ部30の移動方向の指示を受け付ける。さらにステップS1204において、指定された移動方向及び補完したルートに基づいて、ステージ部30の移動方向を決定する。最後にステップS1205において、決定した移動方向に基づいてステージ部30を制御する。
(軌跡指示部81、軌跡演算部82)
【0063】
軌跡指示部81は、観察視野の移動方向の規定に関する軌跡情報を指示する。軌跡指示部81で指定された軌跡情報に基づいて、軌跡演算部82が観察視野を移動させる軌跡、すなわちルートを設定する。ここで軌跡情報としては、例えば複数の基準点が挙げられる。軌跡指示部81で指示された複数の基準点を通るルートを、軌跡演算部82が演算する。例えば、ルートが円形の場合は、基準点として円周上の3点を指定する。またルートが直線状の線分を組み合わせたものである場合は、線分の始点と終点、あるいは折曲点を基準点として指示する。なお軌跡指示部81及び軌跡演算部82は、別部材とする他、これらを統合してもよい。
【0064】
また軌跡指示部81及び軌跡演算部82は、ルートを予め用意された幾何形状で近似することができる。すなわち、軌跡指示部81から予め幾何形状を選択させた上で、この幾何形状を通る点を基準点として指定することにより、軌跡演算部82でもってルートを演算できる。幾何形状は、円形、楕円形、矩形、多角形、星形、直線や線分、円弧などの曲線などが挙げられる。幾何形状は、二次元平面で表現できるものであれば特に制限されない。円形や楕円形、ベジエ曲線などの指定は、3点以上を指定することで可能となる。また矩形などの多角形は、頂点を指定することで可能となる。
【0065】
幾何形状の選択は幾何形状選択部、基準点の指定は基準点指定部から行うことができる。例えば、幾何形状GS1として直線又は線分を選択した場合は、
図13Aに示すように、基準点としてディスプレイ部70上で2点を指定することで、この2点を通る直線又は線分をルートとして演算できる。なおこの例では説明の便宜上、ヘッド部4側をステージ部30に対して相対移動させた状態を示している。
【0066】
また
図13Bに示すように、幾何形状GS2として円形を選択した場合は、基準点として3点を指定することでこれらの点を通る円をルートとして演算できる。同様に
図13Cに示すように、幾何形状GS3として矩形を選択した場合は、基準点として3点の頂点又は四隅を指定することでこれらの点を基に規定した矩形をルートとして演算できる。なお四隅が90°である場合は、矩形を3点で規定することもできる。また、幾何形状は円形や矩形といった単純なものに限られず、複雑な形状を指定してもよい。例えば複数の図形の和集合や積集合、折曲部分を含む連続した線分、ポインティングデバイスで指示した軌跡をトレースした図形など、任意の形状が利用できる。例えば
図13Dでは、幾何形状GS4として部分的に欠けた円形を、
図13Eでは幾何形状GS5として星形を、また
図13Fでは幾何形状GS6として連続する複数の線分で構成された図形の例を示している。
【0067】
また幾何形状は、円形や矩形のような閉じた図形である必要はなく、直線や曲線等とすることもできる。例えば
図14のような、基板CB上に複数のチップCPを離散的に実装した観察対象物の、各チップCPを観察する例を考える。この場合は、チップCPの配置に従い、各チップCPの位置に基準点を設定することで、
図15のような折れ線状のルートRTが視野移動軌跡として設定される。
(軌跡指示部81の具体例)
【0068】
観察視野の移動方向の規定に関する軌跡情報を指示する具体例を、
図16~
図18に基づいて説明する。これらの図は、
図1の本体部50にインストールされて実行される、拡大観察装置を操作する拡大画像観察プログラムのユーザインターフェース画面である軌跡指示画面110で軌跡指示部81を実現する例を示している。このようなユーザインターフェース画面は、拡大観察装置100のディスプレイ部70や外部接続されたコンピュータのモニタ上に表示される。ユーザはディスプレイ部70に表示された画面上から、拡大観察装置100の各種設定や操作を行う。この拡大画像観察プログラムは、本体部50に組み込まれている。なおこれらのプログラムのユーザインターフェース画面の例において、各入力欄や各ボタン等の配置、形状、表示の仕方、サイズ、配色、模様等は適宜変更できることはいうまでもない。デザインの変更によってより見易く、評価や判断が容易な表示としたり操作しやすいレイアウトとすることもできる。例えば詳細設定画面を別ウィンドウで表示させる、複数画面を同一表示画面内で表示する等、適宜変更できる。またこれらのプログラムのユーザインターフェース画面において、仮想的に設けられたボタン類や入力欄に対するON/OFF操作、数値や命令入力等の指定は、操作部55で行う。ここでは、プログラムを組み込んだコンピュータに接続された入力デバイスでもって、撮像条件等の設定を行う。本明細書において「押下する」とは、ボタン類に物理的に触れて操作する他、入力部によりクリックあるいは選択して擬似的に押下することを含む。操作部55等を構成する入出力デバイスはコンピュータと有線もしくは無線で接続され、あるいはコンピュータ等に固定されている。一般的な入力部としては、例えばマウスやキーボード、スライドパッド、トラックポイント、タブレット、ジョイスティック、コンソール、ジョグダイヤル、デジタイザ、ライトペン、テンキー、タッチパッド、アキュポイント等の各種ポインティングデバイスが挙げられる。またこれらの入出力デバイスは、プログラムの操作のみに限られず、拡大観察装置100等のハードウェアの操作にも利用できる。さらに、インターフェース画面を表示するディスプレイ部70のディスプレイ自体にタッチスクリーンやタッチパネルを利用して、画面上をユーザが手で直接触れることにより入力や操作を可能としたり、又は音声入力その他の既存の入力手段を利用、あるいはこれらを併用することもできる。
【0069】
図16~
図18に示す拡大画像観察プログラムの軌跡指示画面110は、左側に画像表示領域111、右側に操作領域112をそれぞれ設けている。画像表示領域111には、観察視野の画像データが表示されている。また操作領域112には、ルートガイド機能を実行するために必要な設定を行うボタン類が表示されている。この例では、操作領域112の上から下に、ユーザが設定すべき項目順に並べられており、ユーザは操作領域112で示された順に設定を行うことでルートガイド機能を利用できるようになる。このように操作領域112は、拡大観察装置の操作に詳しくない者であっても必要な設定を簡単に行えるように誘導するガイダンス機能を果たしている。具体的に操作領域112には、上段にルートガイド設定部113が、中段にルート表示領域120、下段にルートガイド実行表示欄122、ルートガイド開始ボタン124が、それぞれ配置される。
【0070】
ルートガイド設定部113は、ルートの幾何形状を設定するための部材が配置される。具体的には、ルートガイド設定部113には、幾何形状選択ボタン114、「登録」ボタン115、「元に戻す」ボタン116、「リセット」ボタン117等が設けられている。幾何形状選択ボタン114は、ルートの幾何形状を選択するための部材である。この例では、円、楕円、多角形の3つが用意されており、ユーザにいずれかの幾何形状を選択させることができる。幾何形状選択ボタン114で選択された幾何形状に応じて指定しなければならない基準点の数も変化する。例えば、上述の通り幾何形状が円形の場合は、指定された3点の基準点を通る円になる。また多角形の場合は、指定された基準点同士を結ぶ直線となる。
【0071】
「登録」ボタン115は、指定した点を基準点として登録するための部材である。「元に戻す」ボタン116は、直前に指定した基準点を1つ削除するための部材である。「リセット」ボタン117は、指定した点をすべて削除するための部材である。
【0072】
この例では、幾何形状選択ボタン114で円を選択した状態を示している。円を選択すると、円を規定するために3点を指定することがルートガイド設定部113に模式図で示される。ユーザは、画像表示領域111で表示される観察視野を移動させて、3点を順次指定していく。具体的には、視野移動機構5を移動させて、観察対象物の所望の位置が観察視野の中央となるように調整する。位置決めが終わると、「登録」ボタン115を押下することで、
図2に示す基準座標取得部85が画像表示領域111に表示された観察画像の中心の座標位置を基準位置として取得し、基準点の座標として登録すると共に、ルート表示領域120に登録された基準位置を含む観察視野が縮小表示される。また後述するように、視野移動軌跡がz座標の情報も含む場合には、基準点の登録時に基準座標取得部85がxy座標だけではなくz座標も取得するようにしても良い。
【0073】
ルート表示領域120は、指定された基準点と設定された視野移動軌跡を表示させるための部材である。このルート表示領域120は、指定された基準点のすべてが画像内に収まるように、基準点が指定されるたびに表示スケールを変化させることができる。
【0074】
またルート表示領域120には、観察対象物の全体を示す広域画像を表示させることができる。広域画像は、対物レンズ部25の倍率を低くして観察視野を広くした状態で撮像した画像データである。広域画像中で、基準点として登録された観察視野と対応する部位が、矩形状に表示される。ユーザが画像表示領域111で順次、基準位置を指定していくと、これに応じてルート表示領域120で表示された広域画像の該当する部位に、登録済みの基準位置を含む観察視野の画像が矩形状に表示される。
図17は、
図16に続いて2つ目の基準位置を登録した状態を示している。さらに3つ目の基準位置を登録した状態を、
図18に示す。この状態で、3つの基準位置を通る円が確定され、視野移動軌跡が決定される。さらにルート表示領域120では、登録済みの基準位置がすべて表示されるよう、表示倍率が自動で調整される。
図18の例では、
図17の表示倍率では3つの基準位置をすべて表示できないため、表示倍率を下げることで3つの基準位置をすべて含めた円を表示できるように表示倍率を自動調整した例を示している。このように、一画像で視野移動軌跡の全体と、指定された基準位置を一覧できることで、ユーザは自身で指定した基準位置と視野移動軌跡の対応関係を視覚的に把握し易くできる。
【0075】
ルートガイド実行表示欄122には、ルートトレースモードが選択されていることをユーザに告知するための表示が行われる。例えばルートガイドの設定や実行中には「ルートガイド中」等と表示される。またルートトレースモードが解除されると「ルートガイド解除中」や「ルート上に移動するとガイドを開始します」等と表示して、ルートガイド機能に復帰させるための手順をユーザに示すことができる。
【0076】
ルートガイド開始ボタン124は、ルートガイド機能を実行するための部材である。ルートガイド開始ボタン124は、ルートガイド機能の実行に必要な設定が終わるまでは押下できない。具体的には、選択した幾何形状に応じて指定の必要な基準点の数が変化することから、必要な数の基準点を指定するまでは、ルートガイド開始ボタン124はグレーアウトされている。操作欄の上から順にユーザに設定を行わせ、一通りの設定作業を終えると、ルートガイド開始ボタン124が選択可能となる。この状態でルートガイド開始ボタン124を押下するとルートガイドが開始され、ステージ部30の移動が制限される。
(ルートの補完)
【0077】
視野移動軌跡の演算は、軌跡指示部81から入力された軌跡情報に基づいて、軌跡演算部82が行う。軌跡演算部82は、複数の基準点から、その間の座標を補完し、補完したルートとして視野移動軌跡を完成させる。また、選択された幾何形状に基づいて、軌跡演算部82は補完のアルゴリズムを変更する。なお軌跡情報は、複数の基準点に限らず、他の指定方法も適宜利用できる。例えば円形の軌跡を指定する軌跡情報として、円形の中心座標と半径で指定することができる。
【0078】
ここまででは、主に円形の軌跡を指定する方法を述べた。次に、折曲部を有する直線の視野移動軌跡を指定する場合について、
図14、
図15に基づいて説明する。まず
図13Bにて幾何形状GS2として直線を選択した場合は、基準点として2点以上を指定することでこれらの点を通る直線を視野移動軌跡として演算できる。
図14において、I~IVは観察視野を示しており、基準点として指定される順番を示している。幾何形状GS2として直線を指定した場合には、基準点が指定されると、基準点の座標と共に指定された順番も併せてメモリ部56に記憶されるようにしても良い。この場合基準点の指定された順に、基準点間が補完されるように視野移動軌跡が算出される。すなわち
図14において、I~IVの順で基準点を指定したとすると、
図15に示す視野移動軌跡が算出される。さらに、視野移動軌跡と共に前述の順方向と逆方向とが対応付けて記憶される場合、基準点の指定された順番が早い方から遅い方向に向かう方向を順方向、逆の方向を逆方向として設定されても良い。すなわち、
図15においてIからIVに向かう方向が順方向、IVからIに向かう方向が逆方向として設定される。
【0079】
さらに、観察視野の移動方向の規定に関する軌跡情報は、上述したディスプレイ部70の画面上で基準点を指定する方法のみに限られず、例えば座標位置を数値で直接入力したり、視野移動軌跡を数式で指定する等の方法も利用できる。
【0080】
なお、観察対象物をステージ部30上の定位置に配置する用途、例えば位置決め用の冶具などを使って同じサンプルを毎回ステージ部30の同じ位置に配置する場合は、一度冶具の設計値に合わせて視野移動軌跡を設定すれば、後は同じ条件でルートガイドを実施できる。いいかえると、毎回ステージ部30を移動させて基準位置を登録し視野移動軌跡を設定する必要はない。また、メモリ部56に視野移動軌跡の設定を記憶しておくことで、記憶された設定を呼び出して、ルートを再現することもできる。この場合、視野移動軌跡の設定情報として例えば、基準座標取得部85にて取得された各基準点の座標、軌跡指示部81にて選択を受け付けられた幾何形状が記憶される。記憶された設定を呼び出してルートを再現する場合は、各基準点の座標及び幾何形状に基づいてルートが再現される。さらに基準点が指定された時のレンズや倍率なども併せて記憶されている場合には、これらの情報と現在のレンズや倍率などの情報とに基づいて、後述する視野ずれ補正も行ったうえで視野移動軌跡が再現される。
【0081】
また視野移動軌跡は、幾何形状で指定する以外にも、画像から自動で抽出することもできる。例えば
図19Aのような観察対象物WK3の広域画像を撮像し、エッジ抽出により
図19Bのように輪郭PLを抽出する。この輪郭PLの全部又は一部に沿って移動するように設定すれば、軌跡指示部81又は軌跡演算部82が自動で軌跡情報を取得して視野移動軌跡を取得することが可能となり、ユーザが一々手動で軌跡情報を指定する作業を省力化できる。エッジ抽出は、例えば抽出点同士を接続して輪郭を取得する他、抽出点をつないだ線を直線や曲線で近似してもよい。
【0082】
また、
図19Aのように観察対象物の全体像を一画面に表示させて、観察対象物の形状を抽出して視野移動軌跡を設定する他、観察対象物を部分的に表示させつつ、観察視野を移動させながら輪郭を逐次抽出して視野移動軌跡を設定するよう構成してもよい。例えば
図20A~
図20Bに示すように、XYステージを移動させながら観察視野を更新し、リアルタイムに観察対象物WK4の画像から輪郭を取得して、自動的に視野移動軌跡を検出することもできる。このような視野移動軌跡の自動取得は、軌跡指示部81又は軌跡演算部82で行わせることができる。
【0083】
以上のようにして視野移動軌跡を設定した上で、ルートトレースモードを実行すると、ユーザは視野移動機構5の移動方向をジョイスティック55b等の移動方向指示部55aで詳細に指示することなく、大まかな指示でも視野移動軌跡に沿った観察視野の移動が実現される。すなわちルートトレースモードにおいては、移動方向指示部55aで指示された移動方向を、視野移動軌跡の方向と比較し、視野移動軌跡に対する所定の範囲内にあれば、視野移動方向に沿った移動指示が行われたと判断して、視野移動機構5を移動させる。この結果、観察視野が移動されている間も、観察視野の中心が常に視野移動軌跡上となるように移動させるので、ユーザは観察視野を移動させながらも観察対象物を常時見易い位置で観察することが可能となる。
【0084】
このように、ジョイスティック55bを大まかな方向に倒すだけで、規定されたルートに沿った見易い観察視野の移動が実現されることになる。ジョイスティック55bを倒す方向すなわち傾斜角度βは、例えば
図5で示す平面図において、0°~360°未満の範囲で規定される。このジョイスティック55bを用いて、上述した
図15に示すようなP3~P4の直線区間の視野移動軌跡のルートRTに沿って移動させる場合は、視野移動方向に対して±90°の範囲、すなわち視野移動方向と直交する線で確定された進行方向側の領域にジョイスティック55bが倒されている限りは、視野移動方向への移動を継続する。一方、この範囲内に含まれない場合、すなわちジョイスティック55bが進行方向に対して概ね逆方向に倒された場合、あるいは傾斜されない場合は、観察視野の移動を停止する。また、視野移動軌跡が円弧のような曲線の場合は、視野移動軌跡上の現在の位置における接線と移動方向とが比較され、同様に所定の角度範囲内にある場合はルートガイドが継続される。
【0085】
一方で
図15のP2の位置におけるような、視野移動軌跡が折曲された位置における移動方向指示部55aの移動方向の指示は、折曲位置がなす視野移動軌跡の角度を二等分する二等分線でもって、観察視野の移動可否を判定する。すなわち
図15の例において、破線で示す二等分線よりも上の範囲に属する角度で移動方向が指示された場合は、観察視野を2→3の方向に移動させる。一方、二等分線よりも下の範囲に属する角度で移動方向が指示された場合は、観察視野の移動を停止させる。
【0086】
また、ジョイスティック55bの傾斜方向で観察視野の移動速度を変化させるように構成してもよい。例えばジョイスティック55bの傾斜方向が、視野移動軌跡に沿っているほど、すなわち両者の角度差が小さいほど、観察視野の移動速度、例えばステージ部30の移動速度を速くし、角度差が大きいほど、移動速度を遅くするように構成してもよい。また、上述した通りジョイスティック55bの垂直方向の傾斜角度αに応じて観察視野の移動速度、例えばステージ部30の移動速度を変化させる場合は、このようなジョイスティック55bの平面視における傾斜方向(傾斜角度β)と、垂直方向における傾斜角度αとの組み合わせで、ステージの移動速度を変化させるように構成してもよい。
【0087】
また、メモリ部56にレンズの種別と倍率、および移動速度の設定とを対応付けて記憶させても良い。この場合、観察時に使用しているレンズの種別および倍率に応じて、観察視野の移動速度を変化させることができる。相対的に高倍率であるほど、視野移動機構5の移動量に対する観察視野の移動量が相対的に大きくなるため、レンズの種別や倍率に応じて移動速度の設定を変化させることが望ましい。この場合、選択したレンズの種別や倍率によらず、一定の操作感を得ることができる。また、観察視野のアスペクト比に応じて、移動速度の設定を変化させても良い。例えば観察視野が縦長の場合、横方向の移動が相対的に速いと感じる。そこで、アスペクト比に応じて縦と横方向の観察視野の移動速度が一定となるように設定することができる。
(視野ずれ補正オフセット機能)
【0088】
また、観察の途中で画像表示領域111における表示倍率を変更することも可能である。倍率を変更した後も、設定されたルート通りに動作させることができるよう、拡大観察装置100は倍率変更時の視野ずれを自動で補正する視野ずれ補正オフセット機能を備えている。以下、詳述する。
【0089】
倍率変更時に対物レンズ部25などを切り換えた際には、観察視野の中心の位置がずれることがある。例えば
図21Aに示す観察視野において、回転式のレボルバに複数備えられた対物レンズ部25を、レボルバを回転させることで機械的に切り替えて表示倍率を拡大すると、
図21Bに示すように、十字状に交差させたグリッド線の交点で示す視野中心CSがずれて表示される。このため、事前に視野中心CSのずれ量を算出して記憶しておき、倍率切り換え時にはXYZステージをずれ量の分だけ移動させて視野ずれを補正する技術が知られている。例えば
図21Bの状態から、従前の
図21Aで示していた視野中心CSと対応する位置が視野中心CSとなるよう、
図21Cに示すように視野移動機構5を自動で移動させる。
【0090】
しかしながら、ルートトレースモードにおいて設定されたルートをステージ座標で管理している場合、このような補正によりXYステージを動かしてしまうと、切り換え後の視野はルート上にいるのに、ステージ座標上ではルートから外れた扱いになってしまう。またルートトレースモードにおいて設定されるルートは、XY平面のみならずZ方向の情報も有しているところ、従来の視野ずれ補正機能ではXY平面での補正しか行われないため、高さ方向のずれを補正できなかった。そこで本実施形態に係る拡大観察装置100では、ずれ補正した場合などに、
図22に示すようにルート自体をずれの補正量でオフセットすることで、ずれ補正後のルートを一致させている。この視野ずれ補正オフセット機能は、XY平面のみならず、高さ方向であるZ方向に対しても行うことができる。このような視野ずれ補正オフセット機能は、軌跡演算部82で行うことができる。
【0091】
なお、倍率切り換え時の視野中心ずれは、レボルバ等を用いた対物レンズ部25の切り換えや物理的な対物レンズ部25の交換時に限られず、ズーム光学系を用いた拡大縮小においても発生することがある。本実施形態に係る拡大観察装置100は、視野ずれ補正オフセット機能の使用場面を対物レンズ部25の切り換え時に限定するものではなく、視野ずれの発生する任意の場面で利用できる。
【0092】
またルートのオフセット機能は他の用途にも利用できる。例えば、過去に設定したルートに対して同じ位置に毎回サンプルを配置することが難しい場合に、ルートの任意の点が現在の視野にあたることを指定することで、ルート全体をオフセットさせることもできる。例えば
図23においてRAのような観察視野に該当する視野移動軌跡上の位置を指定することで、RBに示すように視野移動軌跡の全体が当該指定に応じてオフセットされる。
【0093】
以上のように拡大観察装置100は、ルートガイド機能を実行するルートトレースモードと、ルートトレースモードを解除したフリーモードを備えている。ルートトレースモードにおいては、上述の通り、軌跡演算部82で演算された視野移動軌跡に沿うように、移動方向指示部55aで視野移動機構5を動作させるように移動制御部83が制御する。一方、フリーモードでは、視野移動軌跡と無関係に、移動方向指示部55aで指示された移動方向に視野移動機構5を動作させるよう移動制御部83が制御する。このような構成により、ルートトレースモードでは視野移動軌跡に沿った観察視野の移動を簡便に実現しつつ、ユーザの自由な観察視野の移動にも対応できる。
(ルートガイド解除部55d)
【0094】
また拡大観察装置100は、ルートガイド解除部55dを設けてもよい。ルートガイド解除部55dは、ルートトレースモードの実行中に、ルートトレースモードを解除するための部材である。ルートガイド解除部55dは、ルートトレースモードを解除する解除条件を検知して、自動的にルードガイドモードからフリーモードに移行するようにしてもよいし、又はユーザからルートトレースモードを解除する明示の指示を受け付けるように構成してもよい。ルートガイド解除部55dが自動でルートガイドを解除する解除条件としては、例えば視野移動機構5を移動させる移動方向や移動位置と、軌跡演算部82で演算された視野移動軌跡とが、所定値以上異なる場合が挙げられる。移動先が座標で指定された場合には倍率ごとに所定値が異なっていても良い。ここで解除条件を移動位置とする場合を、
図24~
図26に基づいて説明する。
図24の例では、円弧状に設定された視野移動軌跡のルートRTに対して、観察視野を移動させる移動位置として、マウスやタッチパネル等のポインティングデバイスで○の位置を移動位置PTとして指定した場合を示している。移動位置PTが新たに指定されると、ルートガイド解除部55dが、指定された移動位置と、視野移動軌跡との距離を演算する。そして、この距離が所定値以上の場合は、解除条件を満たすとして
図25に示すようにルートトレースモードを解除する。すなわち視野移動機構5は、視野移動軌跡を離れて、指定された移動位置に移動するようにステージ部30を制御する。あるいは、観察視野として表示されているエリア以外が指定された場合に、ルートトレースモードを解除するようにしてもよい。なお
図26に示すように、再度視野移動軌跡に近付けた位置を指定することで、ルートトレースモードに復帰させることもできる(詳細は後述)。
【0095】
また別の解除条件として、移動方向を用いてもよい。この場合は、移動方向指示部55aで指示された観察視野の移動方向が、視野移動軌跡に対して、所定の角度の範囲内にあるか否かをルートガイド解除部55dで判定する。角度範囲内の場合は、ルートトレースモードを継続し、角度範囲外の場合はルートトレースモードを解除してフリーモードに移行させる。ここで観察視野の移動方向は、ジョイスティック55bなどの移動方向指示部55aで指示された傾斜角度βである。また観察視野の移動方向と視野移動軌跡との角度は、視野移動軌跡が直線の場合は、この直線と観察視野の移動方向との角度差である。また視野移動軌跡が曲線の場合は、曲線の接線方向と観察視野の移動方向との角度差である。
(解除条件設定部)
【0096】
また、このようなルートトレースモードを解除する解除条件を、ユーザが設定可能としてもよい。例えば解除条件を設定する解除条件設定部として、
図27に示すような解除条件設定画面130を設けることができる。この例では、ユーザは解除条件として、移動位置と視野移動軌跡との距離か、移動方向と視野移動軌跡との角度差のいずれかを選択し、また選択された距離や角度の範囲を設定できる。
【0097】
また物理的なルートガイド解除部を設けることなく、移動制御部83が自動でルートトレースモードのON/OFFを切り替えるようにしてもよい。例えば画像データの観察視野に対し、移動方向指示部55aで指示された移動方向の指示が、軌跡演算部82で演算された視野移動軌跡に沿って観察視野を移動させるべき方向に対し、所定の角度の範囲内であれば、ルートトレースモードを継続し、所定の角度の範囲外であれば、ルートトレースモードからフリーモードに移行させるよう構成する。
【0098】
なおルートトレースモード中においては、移動方向を指定されたときはルートから外れないよう制御される。一方、マウスドラッグや座標指定、原点移動などにより移動先を座標で指定された場合は、ルートトレースモードがOFFになるよう制御される。この場合、ルートトレースモードが即座にOFFになるのではなく、ルートから一定距離以上離れたときにOFFになるよう制御される。一定距離は、例えば観察視野に対して30%などと設定できる。また一旦ルートから離れてルートトレースモードがOFFになっても、再度ルートに近づいて移動すれば自動的にONになる。このため、例えばルートに沿って観察視野を移動させている最中に気になるものを発見した場合は、その方向へマウスドラッグで移動し、確認した後に再度ルートの方向へジョイスティックを倒せば、自然とルートに沿った移動を再開することが可能となる。
(ルートガイドON/OFF表示機能)
【0099】
ルートガイド機能実行中においては、観察視野のXY方向への移動が制限されるため、ルートトレースモード中であることをユーザに告知することが好ましい。同様に、ルートトレースモードが解除されたことも告知することが望ましい。そこで本実施形態に係る拡大観察装置100は、ルートガイドのON/OFFを示すルートガイドON/OFF表示機能を備えている。具体的には、ディスプレイ部70における視野移動軌跡の表示態様を、ルートトレースモードのON/OFFに応じて変化させる。例えば画像表示領域111に表示された観察中の画像上に直接、視野移動軌跡をオーバーレイで描画させる。これにより、ユーザは操作をしながら、どちらの方向に進むのかを予想しながら操作をすることができる。また画像表示領域111のみならず、ルート表示領域120においても表示態様を変化させてもよい。さらには、
図28A、
図28Bに示すように、ディスプレイ部70において低倍率画像を表示させるナビゲーション表示画面140を別途設けて、このナビゲーション表示画面140で視野移動軌跡に対応するルートの表示態様を変更させてもよい。
図28Aは、ナビゲーション表示画面140の全体に表示させた低倍率画像に重ねて視野移動軌跡を表示させた状態を、
図28Bは得られている画像よりも広い視野をナビゲーション表示画面140に表示させ、画像データのない領域にまで視野移動軌跡を表示させた状態を、それぞれ示している。
【0100】
このようなルートガイドのON/OFFを示すルートガイドON/OFF表示機能を設けることで、ユーザは、ルートトレースモードが解除されたことを視覚的に認識することが可能となる。例えば
図24のルートトレースモードが解除されてフリーモードになると、
図25に示すように、画像表示領域111において実線で表示されていた視野移動軌跡のルートRTを、破線表示のルートRT’に変化させる。併せて
図29Aに示すように、ルート表示領域120に表示されていた円形の視野移動軌跡も、実線表示のルートRTから
図29Bに示すように破線表示のルートRT’に切り替わる。合わせて、「ルート上に移動するとガイドを開始します」等の説明文を表示させてもよい。これにより、ユーザに対し、ルートトレースモードを再開する手順を案内できる。また視野移動軌跡の表示はこの例のような実線と破線の切り替えに限られず、表示色を変化させたり、太線を細線に変化させる、グレーアウトさせる等、任意の態様が利用できる。このような視野移動軌跡の表示態様の変化は、ルートガイド解除部55dで行わせてもよいし、軌跡演算部82で行わせてもよい。
【0101】
さらにフリーモードの状態において、観察視野が視野移動軌跡に近付くと、再度ルートトレースモードに復帰させることもできる。すなわちフリーモードに移行後もルートガイド解除部55dは解除条件の充足可否を判別し続け、解除条件を充足しない状態となったことを検出すると、ルートトレースモードに復帰させる。例えば
図25の状態から、
図26に示すように、移動位置が視野移動軌跡に近付いたことを検出すると、再びルートトレースモードを実行させる。またこれに応じて、視野移動軌跡の表示態様も、フリーモードの状態からルートトレースモードの状態、例えば破線から実線に変更される。例えば、ルートトレースモードで観察対象物の対象部位を順次観察している最中に、一時的に気になる部位を発見して観察視野をルート外に移動させた場合であっても、当該一時的な観察を終えて再度、元の観察視野に戻して観察を継続したい場合は、観察視野を視野移動軌跡に近付けることで、ユーザは再び観察視野を視野移動軌跡に沿って移動方向指示部55aで移動させ易くなる。
【0102】
以上の例では、ルートガイド解除部55dでもって自動的にルートトレースモードの解除と復帰を切り替えるように構成した例を説明した。ただ本発明は、この構成に限られず、明示的にルートトレースモードのON/OFFを切り替えるように構成してもよい。例えばルートガイド解除部として、モード切替スイッチのような部材を設けて、ユーザが明示的にルートガイドのON/OFFを切り替えるように構成することもできる。
【0103】
なお以上の例において、ルートトレースモードを解除する指示は、観察視野を移動中の場合、又は観察視野を一時停止させている場合のいずれにおいても受付可能とできる。
【0104】
また以上の例では、ルートガイド解除部55dでもってルードガイドモードを解除する解除条件を満たすか否かを判定するよう構成しているが、別の部材、例えば軌跡演算部82や移動制御部83などで、解除条件を判定するように構成してもよい。また、プロセッサ部でルートガイド解除部55dや軌跡演算部82の機能を実現する場合は、共通の部材で解除条件の判定や視野移動軌跡の演算などを実行させることもできる。
[実施形態2]
【0105】
上述した例では、マウス等のポインティングデバイスをルートガイド解除部55dとして利用している。換言するとジョイスティック55b等の移動方向指示部55aとは別にルートガイド解除部55dを設けている。このように、移動方向指示部55aとルートガイド解除部55dを別部材で構成する他、共通の部材でもって移動方向指示部55aとルートガイド解除部55dの機能を実現してもよい。例えば
図30で示す実施形態2に係る拡大観察装置200では、一の操作部55でもって移動方向指示部55aとルートガイド解除部55dを実現している。例えばマウスを操作部55として、マウスのドラッグ操作で移動方向指示部55aの機能を実現し、またマウスの入力でルートガイド解除部55dの機能を実現してもよい。同様にキーボードでもって移動方向指示部55aとルートガイド解除部55dの機能を実現してもよいし、マウスやキーボードなどを組み合わせた入力デバイスでもって、移動方向指示部55aとルートガイド解除部55dの機能を実現してもよい。
(サーチライティング)
【0106】
さらにルートトレースモード中に、設定されたルートに沿って観察視野を移動している間に、照明方向を自動的に変化させるサーチライティング機能を実行すること可能である。例えば
図31A~
図31Dに示すように、照明部60の片射照明を4方向から順繰りに切り換える。これによりユーザはステージ部30を移動させながら、特定方向の照明でしか分かりづらいような傷などに気付けるようになる。すなわち従来であれば、正確に全周に沿って移動することも困難であった上、さらにすべての方向の照明パターンを試しながら行わねばならず、手間と時間を要するため、倍率を下げて一部のみを確認する等して簡易的に対応せざるを得ず、この結果見落としが発生するリスクがあった。これに対して本実施形態に係る拡大観察装置100によれば、ルートガイド機能にサーチライティング機能を併用することで、ユーザの負担を大幅に軽減した観察が実現される。
【0107】
図31A~
図31Dの例では、
図3Bで示した照明部60のリング照明部63や同軸照明を上下左右方向に四分割し、分割された各照明ブロックの点灯パターンを時計回りに順次切り替える例を説明している。このように一定方向に照明方向を回転させることで、照明の切り替わりが比較的スムーズになり、傷の見え方も徐々に見え易くなったり徐々に見え難くなるように変化させることが可能となり、ユーザに対して傷等の探索を行い易くできる。もちろん、照明方向は反時計回りなどとしてもよいし、また照明ブロックの切り分け方も4分割に限られず、2~3分割や5分割以上にしてもよい。
【0108】
またサーチライティング機能によれば、照明方向の切り換えは連続的に行われている。ユーザが傷らしきものを発見したときは、ディスプレイ部70の画面上で傷のある箇所を指定すると、指定された箇所がもっとも見易い照明方向に自動的に切り替わる。例えば観察視野の移動中でかつ照明方向が回転中に、画像表示領域111上で気になる部位をユーザがマウス等のポインティングデバイスでクリックすると、照明の回転が停止されて、傷が最も見え易い照明方向に自動的に切り替わる。ここで適切な照明方向の選択は、例えば画像処理部で行われる。例えばサーチライティング機能の実行中に、照明方向が切り替わる画像データ、ここでは上下左右の照明方向に対応する4枚の画像データをそれぞれバッファメモリ57に保持しておく。そしてマウスクリックを検出すると、照明方向の切り替えを停止すると共に、バッファメモリ57に保持された直近の各照明方向の画像データを解析する。例えば輝度ヒストグラム等に基づいて、傷が見え易くなる分布の画像データを選択すると共に、当該画像データで用いた照明方向を選択して、ディスプレイ部70の表示を当該照明方向に固定したライブ画像とする。例えば
図31A~
図31Dの例では、
図31Dの画像に対応する照明方向が選択される。これによって、傷の見やすい表示態様が実現される。
【0109】
表示倍率が高くなると、画像の画面全体にピントが合わなくなることがある。そこで、Zステージを動かしながら複数枚の画像を撮影し、ピントの合った画素を合成して全焦点画像を生成することもできる。特に、XYステージが停止したタイミングで、このような合成処理を実行させてもよい。このようにステージ部30の停止時に自動的に全焦点画像を合成することで、ユーザはルートに沿って移動しながら、気になる対象が映ったときにステージ部30を停止させるだけで、その箇所の全焦点画像を生成させて確認することができる。さらに、照明の明るさや露光時間といった撮影条件を切り換えて合成画像を作成することもできる。例えばDifferential Phase Contrastと呼ばれる異なる照明方向の画像を合成して、細かな凹凸をより強調して表示できるようにする。また、照明方向を切り換えてハレーションしていない画素を合成する技術や、HDR等も併用できる。
【0110】
観察対象物の部品のバリや欠けを検査する場合は、見落としがないかが非常に重要になる。そこで、部品の全周をルートとして観察している間、検査の記録として動画を録画し続けることもできる。
【0111】
また
図32Aに示すように事前に低倍率の画像からサンプルの3D形状を取得したり、あるいは
図32Bに示すように観察視野内でサンプル平面の傾きを推定するなどして、XY移動中にもフォーカスを合わせ続けることができる。なお、低倍率の画像から3D形状を取得する場合は、必ずしも精度よくピントが合うわけではない。
【0112】
ここで低倍率の画像から3D形状を取得したプロファイルの一例を、
図33に示す。この図において、観察対象物の真の形状を破線で、低倍率の画像から取得された3D形状を実線で、それぞれ示している。図の左側に示すように、視野の端部はレンズの鏡面湾曲の影響で持ち上がって検出される。また立ち上がりのような折曲された領域は、3D形状が鈍って検出される。
【0113】
そこで、ステージ部30のXY移動を停止したときにオートフォーカスを併用することもできる。オートフォーカス実行後のZ座標で3D形状全体をオフセットすれば、移動開始した際のピントずれも軽減される。これによりレンズの像面湾曲の影響などで3D形状が歪む場合などにも対応できる。
(オートフォーカス処理)
【0114】
画像のオートフォーカス処理では、Z位置を移動しながら焦点のあった位置の静止画を撮影する。この場合は、高さ方向に探索する範囲分の撮影処理が必要となる。通常は均等なピッチで数十枚の画像を撮影して合成する。オートフォーカス処理は、専用の実行ボタンを設けてユーザが手動で実行させる構成の他、自動で実行させてもよい。例えば、観察視野の移動が停止した状態で自動的にオートフォーカスを実行させる。観察視野の移動が停止したかどうかは、視野移動機構5からの操作信号の入力がなくなったとき、あるいは画像の変化を検出して、変化量が所定値以下となったとき等とできる。例えばライブ映像で画像が一定時間(例えば数秒)変化しない場合に、観察視野の移動が停止したと判定して、オートフォーカスを実行し、ピントの合った静止画(オートフォーカス画像)を表示できる。これにより、ユーザが視野移動を停止させた状態では常にピントの合った静止画が表示されるので、詳細を確認し易くなる。
【0115】
また観察視野内でサンプル平面の傾きを推定する方法では、XY移動が停止する度にZステージを動作させ、停止した視野における傾きを求め続ける。この様子を
図34に示す。図の左側に示すように、開始位置ではZ方向にステージ部30を移動させて平面を推定する。また図の中央に示すようにXY移動を停止したら、平面を推定する。先に測定した高さ情報と合わせて2点を用いることで精度が向上される。さらに図の右側に示すように、再度ステージ部30を停止した際には平面を推定する作業を繰り返し、さらに精度を向上させる。
【0116】
このようにして、平らだが傾きのある観察対象物のサンプルについては、移動/停止を繰り返すほど、推定する平面の精度は向上していく。また、ルートに沿ったXY移動中に照明を順次切り換えて、その様子を録画しておくなど、上述した各機能をそれぞれを組み合わせて利用可能であることはいうまでもない。
【0117】
次に、視野移動軌跡のルートの設定について詳述する。視野移動軌跡は、ステージ部30上に複数設定することも可能である。この場合において、複数のルート間を移動するときは、一時的にルートトレースモードをOFFにする。
【0118】
またルートを設定する際は、基準座標取得部85により、XY座標だけでなくZ座標、すなわち対物レンズ部25の焦点位置と観察対象物との相対距離に関する情報も登録できるように構成してもよい。これにより、傾斜面を有する観察対象物のような場合でも、観察したい位置に沿って移動が可能となる。例えば上述した円形の視野移動軌跡を設定する場合、基準点として3点を指定する際に、基準座標取得部85がZ方向の情報も取得することで、3点の基準点の情報から平面の傾きを演算できる。すなわち、3Dの視野移動軌跡を演算できる。したがって、演算された平面内に視野移動軌跡を設定することで、傾斜した平面に沿ってルートガイド機能をピントの合った状態で実現することが可能となる。すなわち、視野移動軌跡が対物レンズ部25の焦点位置と観察対象物表面の相対距離に関する情報を保持していることにより、3Dの視野移動軌跡に沿って観察視野が移動するように移動機構を制御することができる。
【0119】
また三次元空間上のルートを点群として管理することもできる。さらにXY平面上に投影した図形として管理することもできる。例えば真上から見た場合に円形の視野移動軌跡を設定する場合、
図35Aに示すように三次元空間で指定された3点を、
図35Bに示すようにXY平面に投影し、投影された3点を元に
図35Cに示すようにXY平面に円を定義する。これにより、三次元データをXY平面に写像したデータとして視野移動軌跡を扱うことが可能となり、演算処理を簡素化できる。
【0120】
またXYステージは、上述のようにして算出されたXY平面上の円の沿ってステージ部30を移動させれば良い。Zステージは
図36Aに示すように三次元空間で算出された平面を元に、移動するXY座標に相当するZ座標を随時算出することで、
図36Bに示すように三次元空間上で指定されたルートに沿った移動が可能となる。
図36A、
図36Bに示すような三次元空間で算出された傾斜平面を規定する式を把握しておくことで、XY平面からこの傾斜平面に射影すればZ座標が決定できる。
【0121】
多角形の場合も同様にしてXY平面に投影してXYステージを動作させることができる。この場合は、
図37A及び
図37Bに示すように点間の傾きを元にZ座標を算出することで、点と点の間を移動してる間もユーザが意図したルートに沿って移動することができるようになる。
【0122】
さらにXY平面上でルートが交差する場合も、どちらの方向に進むかはジョイスティック55bなどの方向を元に決定できる。例えば
図38に示すような例では、進行方向に対して±90°の範囲内にジョイスティック55bが傾斜されている場合は直進させ、+90°~+180°の範囲であれば左(図において上方)に折曲させ、-90°~-180°の範囲であれば右(図において下方)に折曲させる。
【0123】
また、線分や円といった登録されたときの形状単位で、どちらに進むかを自動的に判定しても良い。特にZ座標も追従している場合には、形状単位で移動方向を決めることが好ましい。例えば
図39のような捻れの位置で交差している場合等には意図せぬZ上昇などが発生してユーザにストレスになることが考えられるからである。Z座標が追従しているときにユーザがZステージを操作した場合は、操作が完了した位置にルートをオフセットする。ユーザがステージ部30を移動させるということは、観察対象物にピントが合っていない可能性が高く、例えば
図40に示すように登録点が近すぎる場合などは、移動したことでピントがボケることが起こりうる。ユーザの操作したZ座標にルートをオフセットする処理は、XYステージ停止中にZステージを移動されたときも同様とすることが好ましい。例えば
図41において左下に示すように、ルートに沿って自動でXYZ方向に追従させている状態から、XY移動を一時的に停止させ、手動でZ方向に移動させた場合は、再度XYX方向への移動を再開する際は、オフセット後のルートに沿って移動させるようにする。
【0124】
またXYステージ移動中のZステージ操作を管理すると煩雑になる場合は、Zステージ操作を排他するか、もしくは操作されたタイミングでZ追従を停止することもできる。例えば
図42において左下に示すように、ルートに沿って自動でXYZ方向に追従させている状態から、XY移動中に手動でZ方向に移動させた場合は、Z追従を停止させて、XY方向への移動に関してのみルートガイド機能を働かせる。
【0125】
なお、XY方向への移動中にはZ方向に移動させてもオフセットは行わず、XY方向への移動を停止している際にだけオフセットを実行するようにしてもよい。
【0126】
XYステージ移動を開始されたタイミングのZ座標でオフセットするようにしておけば、Z追従が動作しなくなりボケが目立つようになっても、ユーザはXYステージを停止させ、一度ピントを合わせてからXYステージ移動を再開すれば良い。
【0127】
マウスを画面上でクリックしてXYステージを移動する操作など、ユーザが明示的に特定の位置に移動しようとする場合は、一時的にルート外への移動を認めることもできる。こういった際に移動モードをOFFにしてから先端に移動し、再度モードONにしてルートに戻るといった手順は手間がかかる。そのため画面ドラッグではルート外への移動を認め、一時的にモードをOFFにする。そこからジョイスティック55bなどでルート上に戻れば、モードは自動的にONに戻る。一時的にモードがOFFになる際はプレビューなどの表示でユーザに伝わるようにする。ルートから外れる操作はドラッグ以外にもXYステージ原点への移動コマンドや、指定座標への移動なども可能である。ルート上にいるかどうかの判定は幅をもたせて管理することもできる。これによりルート上に戻った際に多少オーバーランが発生したとしても、モードのON・OFFがチャタリングすることがない。
(面状観察)
【0128】
以上の例では、観察対象物の輪郭に沿って観察を行う例を説明したが、本発明はこのような線状の観察のみならず、面状の観察にも適用できる。すなわち、予め設定された領域内部を自動的にルートとして設定することも可能である。例えば
図43Aに示すような円形の観察対象物の全域を、目視で全面スキャンするといった用途で有効となる。まず
図43Aの観察視野に対して、全体像を取得する。例えば
図43Bに示すように観察視野を移動させながら全景の画像を合成する。または観察視野を輪郭に沿って移動させたり、観察視野内に全景が収まるように低倍率に調整してもよい。このようにして観察対象物の輪郭が得られた状態で、この輪郭の内面の全体を観察できるように視野移動軌跡を設定する。例えば
図43Cに示すように、外周となる領域に対して、現在の観察視野のサイズを元に、軌跡演算部82がルートを自動的に演算する。
【0129】
以上のように、ユーザは移動方向指示部55aで詳細な観察視野の移動を指示しなくとも、軌跡演算部82で演算された視野移動軌跡に沿って観察視野を容易に移動させることが可能となり、操作の簡素化が図られる。すなわち拡大観察装置100は、軌跡指示部81により複数の基準点を元に補完したルートを軌跡演算部82で設定しておくことで、移動方向指示部55aにより移動方向の指示を受けた際に、設定されたルートに沿ってステージ部30を制御することができる。また基準点からルートを設定する際には、XY平面だけでなくZ座標も元にすることで、ルートに沿った観察視野の移動中は常にピントの合った観察が可能になる。設定されるルートは円、楕円、矩形、多角形といった二次元形状を元にしており、それらの外周に沿った移動や、形状内部を順繰りに移動するなどが可能である。
【0130】
カメラ部が生成する画像データに基づいて観察対象物を含む観察視野の画像をディスプレイ部に表示させる際には、画像合成処理された合成画像を表示させることができる。画像合成処理された合成画像には深度合成画像、HDR画像、凹凸強調画像、ハレーション除去画像などが挙げられる。ここで合成画像について説明する。画像処理部84は、複数枚の画像から画像を合成する機能(合成画像モード)を実現する。例えば焦点深度の浅い画像に対して、焦点位置を変えながら撮影した複数枚の画像のうち、焦点情報から合焦部位のみを合成して焦点深度の深い画像(深度合成画像)を得ることができる。また、いわゆる超解像技術により解像を高めた画像やダイナミックレンジを広げた画像を取得することもできる。このように画像処理部84で生成される合成画像には、深度合成画像、3D合成画像、画素ずらし画像、超解像画像、HDR画像等が挙げられる。HDR画像は、従来の画像よりダイナミックレンジ、すなわち最小光量と最大光量の比が格段に高い画像である。例えば標準的なコンピュータのモニタでは、標準色表現として8ビット~24ビットのカラーが採用されており、256~1677万階調で表現できるが、現実にはより多くの色が存在しており、人の目は瞳孔の大きさを変えることで適正と思われる基準の明るさに調整して見ている。そこで、モニタの表現能力等を超えた、より多くの色情報を持たせたHDR画像が利用される。このようなHDR画像の取得には、同一の観察対象を同一位置で、異なる撮像条件(典型的には、撮像素子の露光時間)で撮像した複数の画像を合成する等、既知の手法が利用できる。例えば輝度領域のダイナミックレンジを変更して撮像した複数枚の低階調の画像を合成することで高階調のHDR画像とできる。
【0131】
また合成画像をディスプレイ部に表示させる際、視野移動機構による観察視野の移動を停止させた際には、合成画像を静止画で表示させつつ、観察視野を移動させた際には、ライブ画像を表示させるように構成してもよい。
【産業上の利用可能性】
【0132】
本発明の拡大観察装置、拡大画像観察方法、拡大画像観察プログラム及びコンピュータで読み取り可能な記録媒体並びに記憶した機器は、顕微鏡や反射、透過型等のデジタルマイクロスコープ等に好適に利用できる。
【符号の説明】
【0133】
100、200…拡大観察装置
1…撮像系
2…制御系
3…ケーブル部;3b…光学的ケーブル
4…ヘッド部
5…視野移動機構
10…カメラ部
11…撮像光学系
12…撮像素子;13…撮像素子制御回路
16…上Z昇降器
20…顕微鏡レンズ部
25…対物レンズ部
30…ステージ部
35…下ステージ昇降器
36…モータ制御回路
37…ステッピングモータ
43…カメラ取り付け部
50…本体部;51…プロセッサ部;52…表示制御部
53…ストレージ部;54…インターフェース;
55…操作部;55a…移動方向指示部;55b…ジョイスティック
55c…移動ボタン;55d…ルートガイド解除部
56…メモリ部;
57…バッファメモリ
60…照明部
62…同軸落射照明部
63…リング照明部
65…照明光源
66…照明制御部
70…ディスプレイ部
81…軌跡指示部;82…軌跡演算部;83…移動制御部
84…画像処理部
85…基準座標取得部
110…軌跡指示画面
111…画像表示領域
112…操作領域
113…ルートガイド設定部
114…幾何形状選択ボタン
115…「登録」ボタン
116…「元に戻す」ボタン
117…「リセット」ボタン
120…ルート表示領域
122…ルートガイド実行表示欄
124…ルートガイド開始ボタン
130…解除条件設定画面
140…ナビゲーション表示画面
WK、WK4…観察対象物
WK2…円筒状のワーク
WK3…観察対象物
AX…光軸
α…側面視における傾斜角度
β…平面視における傾斜角度
DJ1…ジョイスティックの傾斜方向
DS1…ステージ部の移動方向
IC…アイコン
MC…マウスカーソル
GS1~GS6…幾何形状
CB…基板
CP…チップ
RT…ルート
PL…輪郭
CS…視野中心
PT…移動位置
RT’…破線表示のルート