(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公開特許公報(A)
(11)【公開番号】P2024171155
(43)【公開日】2024-12-11
(54)【発明の名称】処理装置、処理システム、処理方法及びプログラム
(51)【国際特許分類】
H04N 5/14 20060101AFI20241204BHJP
H04N 23/60 20230101ALI20241204BHJP
【FI】
H04N5/14
H04N23/60 500
【審査請求】未請求
【請求項の数】23
【出願形態】OL
(21)【出願番号】P 2023088075
(22)【出願日】2023-05-29
(71)【出願人】
【識別番号】000001007
【氏名又は名称】キヤノン株式会社
(74)【代理人】
【識別番号】110003281
【氏名又は名称】弁理士法人大塚国際特許事務所
(72)【発明者】
【氏名】増山 尚大
(72)【発明者】
【氏名】宇佐美 大輔
(72)【発明者】
【氏名】工藤 裕真
【テーマコード(参考)】
5C122
【Fターム(参考)】
5C122EA14
5C122EA68
5C122FA07
5C122FC01
5C122FC02
5C122FF15
5C122FH11
5C122FK24
5C122GA23
5C122GE05
5C122HA13
5C122HA35
5C122HA46
5C122HA86
5C122HA88
5C122HB01
5C122HB10
(57)【要約】
【課題】欠陥画素を検出する時間を短縮すること。
【解決手段】 処理装置は、イメージセンサの各画素の出力信号から得た第1画素情報と第1閾値との比較により第1欠陥画素を検出する第1検出処理を行う第1検出処理部と、第1検出処理において、第1欠陥画素の第1検出数が所定数以下になるまで、第1閾値の初期値に対して所定の割合で設定された第1変更量を用いて第1閾値を繰り返し変更する第1閾値変更部と、出力信号から得た、第1画素情報とは異なる第2画素情報と、第1閾値の繰り返し変更回数と第2変更量とを用いて得た第2閾値と、の比較により、第1欠陥画素とは異なる第2欠陥画素を検出する第2検出処理を行う第2検出処理部と、第1欠陥画素の第1検出数と第2欠陥画素の第2検出数との加算情報が所定数以下になるまで、第1閾値の初期値に対して所定の割合で設定された第2変更量を用いて第2閾値を変更する第2閾値変更部と、備える。
【選択図】
図1
【特許請求の範囲】
【請求項1】
イメージセンサの各画素の出力信号から得た第1画素情報と第1閾値との比較により第1欠陥画素を検出する第1検出処理を行う第1検出処理部と、
前記第1検出処理において、前記第1欠陥画素の第1検出数が所定数以下になるまで、前記第1閾値の初期値に対して所定の割合で設定された第1変更量を用いて前記第1閾値を繰り返し変更する第1閾値変更部と、
前記出力信号から得た、前記第1画素情報とは異なる第2画素情報と、前記第1閾値の繰り返し変更回数と第2変更量とを用いて得た第2閾値と、の比較により、前記第1欠陥画素とは異なる第2欠陥画素を検出する第2検出処理を行う第2検出処理部と、
前記第1欠陥画素の前記第1検出数と前記第2欠陥画素の第2検出数との加算情報が前記所定数以下になるまで、前記第2閾値の初期値に対して所定の割合で設定された第2変更量を用いて前記第2閾値を変更する第2閾値変更部と、
備える処理装置。
【請求項2】
前記イメージセンサから出力された複数フレームにおいて、前記各画素の出力信号を加算平均することにより前記第1画素情報を取得する平滑化部を更に備え、
前記第1検出処理部は、前記出力信号の加算平均により得られた前記第1画素情報と、前記第1閾値との比較により前記第1欠陥画素を検出する請求項1に記載の処理装置。
【請求項3】
前記第1閾値変更部は、前記第1欠陥画素の第1検出数が所定数以下になるまで、前記第1閾値に前記第1変更量を加算、または、前記第1閾値から前記第1変更量を減算することにより、前記第1閾値を変更する請求項1に記載の処理装置。
【請求項4】
前記第2検出処理部は、前記第1閾値の繰り返し変更回数と前記第2変更量との積を用いて取得した前記第2閾値と、前記第2画素情報との比較により、前記第2欠陥画素を検出する請求項1に記載の処理装置。
【請求項5】
前記イメージセンサから出力された複数のフレームにおいて、前記各画素の出力信号のうち最大値を前記第2画素情報として取得する和集合部を更に備え、
前記第2検出処理部は、前記第2画素情報として取得された前記出力信号の最大値と、前記第2閾値との比較により前記第2欠陥画素を検出する請求項1に記載の処理装置。
【請求項6】
前記加算情報が前記所定数以下になるまで、
前記第1閾値変更部は、前記第1変更量を用いて前記第1閾値を変更し、
前記第1検出処理部は、変更された前記第1閾値と前記第1画素情報との比較により前記第1検出処理を実行し、
前記第2閾値変更部は、前記第2変更量を用いて前記第2閾値を変更し、
前記第2検出処理部は、変更された前記第2閾値と前記第2画素情報との比較により前記第2検出処理を実行する請求項1に記載の処理装置。
【請求項7】
前記第2閾値変更部は、前記第2閾値に前記第2変更量を加算、または、前記第2閾値から前記第2変更量を減算することにより、前記第2閾値を変更する請求項6に記載の処理装置。
【請求項8】
複数のイメージセンサを有するカメラヘッドを更に備え、
前記複数のイメージセンサは、前記出力信号として、それぞれ異なる撮像信号を出力する請求項1に記載の処理装置。
【請求項9】
前記複数のイメージセンサは、前記出力信号として、複数の撮像モードに対応した撮像信号を出力し、
前記第1閾値変更部は、前記撮像信号ごとに異なる第1閾値を設定し、
前記第2閾値変更部は、前記撮像信号ごとに異なる第2閾値を設定する請求項8に記載の処理装置。
【請求項10】
前記第1検出処理部は、前記第1検出処理を実行して前記撮像信号ごとに前記第1欠陥画素を検出し、
前記第2検出処理部は、前記第2検出処理を実行して前記撮像信号ごとに前記第2欠陥画素を検出し、
前記第2閾値変更部は、
前記第1欠陥画素と前記第2欠陥画素とを用いて、前記撮像信号ごとに欠陥画素数を取得する請求項9に記載の処理装置。
【請求項11】
前記第2閾値変更部は、
前記撮像信号ごとの前記欠陥画素数の加算情報が前記所定数を超える場合に、前記撮像信号のうち、前記欠陥画素数の最も多い撮像信号を特定し、
前記第1閾値変更部は、特定された前記撮像信号に関して、前記第1閾値を変更し、
前記第2閾値変更部は、特定された前記撮像信号に関して、前記第2変更量を用いて前記第2閾値を変更する請求項10に記載の処理装置。
【請求項12】
前記第1検出処理部は、前記加算情報が前記所定数以下になるまで、特定された前記撮像信号に関して、前記第1検出処理を繰り返し実行し、
前記第2検出処理部は、前記加算情報が前記所定数以下になるまで、特定された前記撮像信号に関して、前記第2検出処理を繰り返し実行する請求項11に記載の処理装置。
【請求項13】
前記複数の撮像モードには、
可視光から分光されたRGBの撮像信号を用いて被写体を観察するための撮像モードと、
前記被写体に存在する蛍光物質から発せられる蛍光を観察するための撮像モードと、が含まれる請求項9に記載の処理装置。
【請求項14】
前記カメラヘッドに含まれる前記イメージセンサの出力信号の利得を変更するための感度モードを選択し、前記感度モードの選択信号を前記カメラヘッドに出力する感度モード選択部を更に備え、
前記カメラヘッドに含まれる前記複数のイメージセンサは、前記選択信号に基づいて、それぞれ異なる感度モードを設定する請求項8に記載の処理装置。
【請求項15】
前記複数のイメージセンサは、前記感度モードに基づいた撮像信号を出力し、
前記第1閾値変更部は、前記感度モードごとに異なる第1閾値を設定し、
前記第2閾値変更部は、前記感度モードごとに異なる第2閾値を設定する請求項14に記載の処理装置。
【請求項16】
前記第1検出処理部は、前記第1検出処理を実行して前記感度モードごとに前記第1欠陥画素を検出し、
前記第2検出処理部は、前記第2検出処理を実行して前記感度モードごとに前記第2欠陥画素を検出し、
前記第2閾値変更部は、
前記第1欠陥画素と前記第2欠陥画素とを用いて、前記感度モードごとに欠陥画素数を取得する請求項15に記載の処理装置。
【請求項17】
前記第2閾値変更部は、
前記感度モードごとの前記欠陥画素数の加算情報が前記所定数を超える場合に、前記感度モードのうち、前記欠陥画素数の最も多い感度モードを特定し、
前記第1閾値変更部は、特定された前記感度モードの撮像信号に関して、前記第1閾値を変更し、
前記第2閾値変更部は、特定された前記感度モードの撮像信号に関して、前記第2変更量を用いて前記第2閾値を変更する請求項16に記載の処理装置。
【請求項18】
前記第1検出処理部は、前記加算情報が前記所定数以下になるまで、特定された前記感度モードの前記撮像信号に関して、前記第1検出処理を繰り返し実行し、
前記第2検出処理部は、前記加算情報が前記所定数以下になるまで、特定された前記感度モードの前記撮像信号に関して、前記第2検出処理を繰り返し実行する請求項17に記載の処理装置。
【請求項19】
前記加算情報が前記所定数以下の場合に、前記第1欠陥画素の画素位置と前記第2欠陥画素の画素位置とを用いて、前記イメージセンサの欠陥画素の位置を示すアドレス情報を生成する生成部と、
前記アドレス情報を記憶する記憶部と、
前記記憶部に記憶された前記アドレス情報を用いて、前記イメージセンサに含まれる前記第1欠陥画素、及び前記第2欠陥画素の出力信号を補正する補正部と、
を更に備える請求項1に記載の処理装置。
【請求項20】
前記所定数は前記加算情報を前記記憶部に記憶することが可能なデータ数を示す請求項19に記載の処理装置。
【請求項21】
請求項1乃至請求項20のいずれか1項に記載の処理装置と、
前記処理装置から出力された信号に基づいた画像を表示部に表示させる表示制御を行う表示制御部を有する表示装置と、
を備える処理システム。
【請求項22】
イメージセンサの各画素の出力信号から得た第1画素情報と第1閾値との比較により第1欠陥画素を検出する第1検出処理を行う工程と、
前記第1検出処理において、前記第1欠陥画素の第1検出数が所定数を超える場合に、前記第1閾値の初期値に対して所定の割合で設定された第1変更量を用いて前記第1閾値を変更する工程と、
前記出力信号から得た、前記第1画素情報とは異なる第2画素情報と、前記第1閾値の繰り返し変更回数と第2変更量とを用いて得た第2閾値との比較により、前記第1欠陥画素とは異なる第2欠陥画素を検出する工程と、
前記第1欠陥画素の前記第1検出数と前記第2欠陥画素の第2検出数との加算情報が前記所定数以下になるまで、前記第2閾値の初期値に対して所定の割合で設定された第2変更量を用いて前記第2閾値を変更する工程と、
を有する処理方法。
【請求項23】
コンピュータに、請求項22に記載の処理方法を実行させるプログラム。
【発明の詳細な説明】
【技術分野】
【0001】
開示の技術は、処理装置、処理システム、処理方法及びプログラムに関する。
【背景技術】
【0002】
撮像装置は、イメージセンサ(例えば、CMOS(Complementary Metal Oxide Semiconductor)イメージセンサやCCD(Charge Coupled Device)イメージセンサ)を備え、このイメージセンサで光電変換を行うことにより画像を得ている。通常、イメージセンサに欠陥画素が含まれている場合には、映像として得られる画像は劣化し得る。その為、従来から、欠陥画素を検出し、欠陥画素を補正する画像処理が広く用いられている。
【0003】
特許文献1には、各画素の信号の出力値と閾値とを比較して閾値より高いまたは低い出力値のいずれかを判別し、判別された画素の数が所定数以下となるまで閾値を変化させて、判別される画素が所定数以下となるようにする技術が記載されている。
【先行技術文献】
【特許文献】
【0004】
【発明の概要】
【発明が解決しようとする課題】
【0005】
昨今ではより高精細な画像を得るためにイメージセンサが有する画素数が増えている。それに比例して、イメージセンサにおける欠陥画素の数も増える傾向にある。しかしながら、欠陥画素と判断されたアドレスをメモリに記憶できるデータ量は有限であることから、欠陥画素と判断するには十分な精査が必要となり、その為の処理には多大な時間が必要となり得る。
【0006】
開示の技術は、係る従来の課題を解決するためになされたものであり、欠陥画素を検出する時間を短縮することを可能にする技術の提供を目的とする。
【課題を解決するための手段】
【0007】
開示の技術の一態様による処理装置は、イメージセンサの各画素の出力信号から得た第1画素情報と第1閾値との比較により第1欠陥画素を検出する第1検出処理を行う第1検出処理部と、
前記第1検出処理において、前記第1欠陥画素の第1検出数が所定数以下になるまで、前記第1閾値の初期値に対して所定の割合で設定された第1変更量を用いて前記第1閾値を繰り返し変更する第1閾値変更部と、
前記出力信号から得た、前記第1画素情報とは異なる第2画素情報と、前記第1閾値の繰り返し変更回数と第2変更量とを用いて得た第2閾値と、の比較により、前記第1欠陥画素とは異なる第2欠陥画素を検出する第2検出処理を行う第2検出処理部と、
前記第1欠陥画素の前記第1検出数と前記第2欠陥画素の第2検出数との加算情報が前記所定数以下になるまで、前記第2閾値の初期値に対して所定の割合で設定された第2変更量を用いて前記第2閾値を変更する第2閾値変更部と、備える。
【発明の効果】
【0008】
開示の技術によれば、欠陥画素を検出する処理時間を短縮することができる。
【図面の簡単な説明】
【0009】
【
図1】第1実施形態の処理装置の構成を示すブロック図。
【
図2】第1実施形態の処理装置の構成を示すブロック図。
【
図3】第2実施形態の処理装置の構成を示すブロック図。
【
図4】第2実施形態の処理装置の変形例を示すブロック図。
【
図5】第3実施形態の処理装置の構成を示すブロック図。
【
図6】第1実施形態に係る欠陥画素の検出処理の流れを説明する図。
【
図7】第2実施形態に係る欠陥画素の検出処理の流れを説明する図。
【
図8】第3実施形態に係る欠陥画素の検出処理の流れを説明する図。
【
図9】第3実施形態に係る欠陥画素の検出処理の流れを説明する図。
【
図10】第3実施形態に係る欠陥画素の検出処理の流れを説明する図
【
図11】複数フレーム平滑化部の処理を模式的に示す図。
【
図12】複数フレーム和集合部の処理を模式的に示す図。
【
図13】第1実施形態乃至第3実施形態の処理装置を含む処理システムの概略的な構成を示す図。
【発明を実施するための形態】
【0010】
以下、添付図面を参照して実施形態を詳しく説明する。尚、以下の実施形態は特許請求の範囲に係る発明を限定するものではない。実施形態には複数の特徴が記載されているが、これらの複数の特徴の全てが発明に必須のものとは限らず、また、複数の特徴は任意に組み合わせられてもよい。さらに、添付図面においては、同一若しくは同様の構成に同一の参照番号を付し、重複した説明は省略する。
【0011】
(第1実施形態)
図1は、第1実施形態の処理装置の構成を示すブロック図である。
図1において、100はカメラヘッド、110はカメラコントロールユニット、130は表示装置である。また、
図13は、第1実施形態に係る処理装置を含む処理システムSTMの概略的な構成を示す図である。なお、処理システムSTMの構成は、後に説明する第2実施形態及び第3実施形態においても同様に適用することができる。処理装置1は、カメラヘッド100と、カメラコントロールユニット110とを有する。表示装置130は、カメラコントロールユニット110から出力された信号を表示可能に構成されている。光源1301は所定の光を被写体Pに照射する。光源1301には、例えば、可視光を照射する白色光源や蛍光観察に用いる励起光を照射する励起光光源が含まれ得る。カメラヘッド100は、被写体Pからの反射光を受光して撮像処理するように構成されている。カメラコントロールユニット110は、カメラヘッド100から得た撮像信号を処理する他、光源1301の出力(照射タイミングや照射光の強度)を制御することも可能である。
【0012】
(カメラヘッド100)
カメラヘッド100は、イメージセンサ101を有し、イメージセンサ101から出力された信号はカメラコントロールユニット110に入力される。イメージセンサ101としては、例えば、画素が二次元に配列された、CMOS(Complementary Metal Oxide Semiconductor)を用いる場合を想定するが、CCD(Charge Coupled Device)など他の撮像デバイスを用いてもよい。
【0013】
(カメラコントロールユニット110)
カメラコントロールユニット110は、カメラヘッド100から入力された信号(以下、撮像信号ともいう)を処理する信号処理部111と、信号処理部111で処理された情報を取得し、外部に出力する伝送部123(出力部)と、信号処理部111で処理された情報を記憶する記憶部122と、を有する。記憶部122は、信号処理部111で処理された情報を記憶する他に、操作部を介して、ユーザから設定された情報を記憶することが可能である。記憶部122は、情報の入力(書き込み)及び出力(読出し)が可能な種々のメモリを用いることが可能であり、例えば、RAM(Random Access Memory)であってもよい。
【0014】
(信号処理部111)
カメラヘッド100から入力された信号は信号処理部111に入力される。信号処理部111は、欠陥画素補正部112と、欠陥画素検出部113とを有し、入力された信号は、欠陥画素検出部113と欠陥画素補正部112とにそれぞれ入力される。欠陥画素検出部113は、入力された信号に基づいて、イメージセンサ101に含まれる欠陥画素を検出する処理を行い、欠陥画素補正部112は、欠陥画素検出部113で検出された欠陥画素における出力信号を補正する処理を行う。
【0015】
(欠陥画素検出部113)
欠陥画素検出部113は、複数フレーム平滑化部114、複数フレーム和集合部115、第一の欠陥画素検出部117、第二の欠陥画素検出部116及び検出アドレス生成部121を有する。
【0016】
所定のフレームレートで信号処理部111に入力された信号は、複数フレーム平滑化部114と複数フレーム和集合部115に入力される。例えば、フレームレートをN(fps:flame per second)とすると、複数フレームとして、Nフレームの信号(撮像信号)が複数フレーム平滑化部114と複数フレーム和集合部115とに入力される。
【0017】
(複数フレーム平滑化部114)
図11は、複数フレーム平滑化部114の処理を模式的に示す図である。複数フレーム平滑化部114は、複数フレーム(例えば、Nフレーム)にわたって各画素から出力される画素情報を平滑した平滑化画像を生成し、生成した平滑化画像を第一の欠陥画素検出部117に出力する。
【0018】
複数フレーム平滑化部114は、入力された複数フレームについて、各画素から出力される画素情報(例えば、画素値)の加算平均をとった画素情報を取得する。そして、複数フレーム平滑化部114は、加算平均をとった画素情報を平滑化画素情報として取得し、各画素位置において取得した平滑化画素情報を一つのフレームに設定した平滑化画像を取得(生成)する。そして、複数フレーム平滑化部114は、取得した平滑化画像を第一の欠陥画素検出部117検出部に出力する。
【0019】
例えば、
図11において、i番目のフレーム(Fi)の画素位置(x、y)における画素情報をPiとする。複数フレーム平滑化部114は、複数のフレーム(F1~Fn)における画素位置(x、y)の画素情報(P1~Pn)を取得し、画素情報(P1~Pn)の加算平均をとった画像情報Pave(x、y)を、画素位置(x、y)おける平滑化画素情報として取得する。そして、複数フレーム平滑化部114は、平滑化画素情報を一つのフレームに配置した平滑化画像1101を取得する。
【0020】
複数フレームにおいて、ノイズ成分が、高いフレームもあれば、低いフレームも含まれるが、ある画素が欠陥画素でなければ、最終的には、平滑化画素情報は、所定の範囲内のレベルに収束していく。
【0021】
しかしながら、ある画素が欠陥画素であれば、画素の欠陥(傷)の影響による信号レベルがオフセットされるため、加算平均をとった場合に、その欠陥画素だけ、信号レベルが高くなったり、あるいは、信号レベルが低くなったりする。
【0022】
後述する第一の欠陥画素検出部117では、平滑化画像1101における各画素の平滑化画素情報と、閾値(第1閾値)との比較により、欠陥画素を検出する。
【0023】
複数フレーム平滑化部114で、複数フレームにおける平滑化画像を取得することにより、例えば、信号レベルが高く、常時輝点として存在するような欠陥画素を、後述する第一の欠陥画素検出部117で検出し易くすることができる。
【0024】
(複数フレーム和集合部115)
図12は、複数フレーム和集合部115(以下、最大画素値取得部ともいう)の処理を模式的に示す図である。複数フレーム和集合部115は、イメージセンサ101から出力される各画素の画像情報(例えば、画素値)を複数フレームにわたって取得し、各画素の画像情報の最大値を各画素の画素位置に設定した、一つのフレームの最大画素情報画像(以下、最大画素値画像ともいう)を取得(生成)する。そして、複数フレーム和集合部115は、取得した最大画素情報画像を第二の欠陥画素検出部116検出部に出力する。
【0025】
例えば、
図12において、i番目のフレーム(Fi)の画素位置(x、y)における画素情報をPiとする。複数フレーム和集合部115は、複数フレームにわたって、画素位置(x、y)の画素情報(P1~Pn)を比較する。そして、複数フレーム和集合部115は、i番目のフレーム(Fi)の画素情報(Pi)が最大値の場合に、i番目のフレーム(Fi)の画素位置(x、y)における画素情報(Pi)を、最大画素情報Pmax(x、y)として設定する。複数フレーム和集合部115は、他の画素位置においても同様に、画像情報の比較を行い、各画素位置に、最大画素情報Pmaxを設定した、一つのフレームの最大画素情報画像1201を取得する。
【0026】
後述する第二の欠陥画素検出部116では、最大画素情報画像1201における各画素の最大画素情報と、閾値(第2閾値)との比較により、欠陥画素を検出する。
【0027】
複数フレーム和集合部115で、複数フレームにおける最大画素情報画像を取得することにより、例えば、複数フレームのうち最も信号レベルが高く、任意の時間で点滅するような欠陥画素を、後述する第二の欠陥画素検出部116で検出し易くすることができる。
【0028】
(第一の欠陥画素検出部117)
第一の欠陥画素検出部117は、閾値設定変更部119a(以下、第一の閾値設定変更部ともいう)と、検出処理部120a(以下、第一の検出処理部ともいう)とを有する。
【0029】
第一の欠陥画素検出部117は、入力された信号(各画素の平滑化画素情報)と閾値(第1閾値)との比較により欠陥画素を検出し、欠陥画素の検出結果を検出アドレス生成部121に出力する。
【0030】
検出処理部120a(第一の検出処理部)は、イメージセンサ101の各画素の出力信号から得た第1画素情報(平滑化画素情報)が第1閾値THAを超える画素を第1欠陥画素として検出する第1検出処理を行う。第1欠陥画素は、例えば、常時輝点として存在する欠陥画素であり、後の説明では、欠陥画素Aともいう。
【0031】
閾値設定変更部119a(第一の閾値設定変更部)は、第1閾値を変更した第1検出処理により、第1欠陥画素の第1検出数NAが所定数以下になるまで第1閾値の設定を繰り返し変更する。
【0032】
ここで、第1閾値の変更は、初期値の第1閾値をTHA、1回の変更における閾値の変更量をΔTAとし、変更を繰り返した回数をN1とすると、繰り返しをN1回繰り返した場合に、N1回分の第1閾値の累積変更量はΔTA×N1となる。
【0033】
このとき、第1閾値は、以下の(1)式により表すことができる。
【0034】
THA=THA(初期値)+ΔTA×N1 (1)
ここで、第1閾値の変更量ΔTAは、第1閾値THA(初期値)に対して、所定の割合(例えば、第1閾値THA(初期値)のm1%等)に設定することができる。
【0035】
記憶部122(RAM)において、記憶可能な欠陥画素のアドレス情報を記憶可能な検出数をS1とする。閾値設定変更部119aは、第1閾値を変更した第1検出処理により検出された欠陥画像の検出数である第1検出数NAが所定数以下(S1以下)になるまで、第1閾値の設定を繰り返し変更する。
【0036】
(第二の欠陥画素検出部116)
第二の欠陥画素検出部116は、閾値設定変更部119b(以下、第2の閾値変更部ともいう)と、検出処理部120b(以下、第2の検出処理部ともいう)とを有する。
【0037】
第二の欠陥画素検出部116は、入力した信号(各画素の最大画素情報)と閾値(第2閾値)との比較により欠陥画素を検出し、欠陥画素の検出結果を検出アドレス生成部121に出力する。
【0038】
検出処理部120b(第2の検出処理部)は、イメージセンサ101の出力信号から得た、第1画素情報(平滑化画素情報)とは異なる第2画素情報(最大画素情報)が、第1閾値の変更情報(ΔTA×N1)を用いて得た第2閾値THBを超える画素を、第1欠陥画素とは異なる第2欠陥画素として検出する第2検出処理を行う。第2欠陥画素は、例えば、任意の時間で点滅する欠陥画素であり、後の説明では、欠陥画素Bともいう。
【0039】
閾値設定変更部119b(第2の閾値変更部)は、第1閾値THAを更に変更(THA+ΔTA)した第1検出処理により得られた第1検出数(NA_A)と、第2閾値THBに変更量ΔTBを更に加算して第2閾値THBを変更(THB+ΔTB)した第2検出処理により得られた第2検出数(NB_B)と、の加算情報(総欠陥画素数)が所定数以下(例えば、所定数S2以下)になるまで第2閾値の設定を繰り返し変更する。
【0040】
ここで、第2閾値の変更は、初期値の第2閾値をTHB、1回の変更における閾値の変更量をΔTB、変更を繰り返した回数をN2とすると、繰り返しをN2回繰り返した場合に、N2回分の第2閾値の変更量はΔTB×N2となる。
【0041】
このとき、第2閾値は、以下の(2)式により表すことができる。
【0042】
THB=THB(初期値)+ΔTB×N2 (2)
第2閾値の変更量ΔTBは、第2閾値THB(初期値)に対して、所定の割合(例えば、第2閾値THB(初期値)のm2%等)に設定することができる。また、記憶部122(RAM)において、記憶可能な欠陥画素のアドレス情報を記憶可能な検出数を所定数S2(≦S1)とする。
【0043】
閾値設定変更部119bは、第2閾値を変更した第2検出処理により検出された欠陥画像の検出数である第2検出数NB_Bと、第1閾値THAを更に変更(THA+ΔTA)した第1検出処理により得られた欠陥画像の検出数である第1検出数NA_Aと、を加算した総欠陥画素数が、記憶部122でアドレス情報を記憶可能な検出数S2以下になるまで、第2閾値の設定と変更を繰り返す。
【0044】
欠陥画素の感度を揃えるために、閾値設定変更部119bで、第2閾値THBが変更されて第2検出処理が繰り返された場合に、閾値設定変更部119aで、第1閾値THAが変更されて第1検出処理が繰り返される。
【0045】
第1閾値THA、及び第2閾値THBが、それぞれ変更されて大きくなることにより、各閾値を超えて検出される総欠陥画素数は低下していく。欠陥画素の感度を揃えるために、第1閾値THA、及び第2閾値THBは連携して変更される。検出された全ての欠陥画素のアドレス情報が、記憶部122に記憶可能な検出数Nmax以下に収束するまで、第1閾値THA、及び第2閾値THBの設定変更と、第1検出処理及び第2検出処理と、は繰り返えされる。
【0046】
記憶部122(RAM)は、検出アドレス生成部121で生成された欠陥画素と判断された画素のアドレス情報を記憶する。
【0047】
欠陥画素補正部112は、イメージセンサ101から出力される信号に対して、欠陥画素検出部113から出力される欠陥画素の検出結果(アドレス情報)をもとに信号を補正する。欠陥画素補正部112による欠陥画素の補正処理は、欠陥画素として検出された画素の画素情報(画素値)を周辺の正常画素の画素情報(画素値)を用いて補間したり、所定のオフセット値を減算したりする処理であってもよい。欠陥画素補正部112は補正した信号を伝送部123に出力する。
【0048】
信号処理部111から出力される映像信号は、伝送部123を経由してカメラコントロールユニット110の出力信号として出力され、表示装置130に入力されて表示される。
【0049】
(表示装置130の構成)
本実施形態のカメラコントロールユニット110は、伝送部123を介して表示装置130と接続している。表示装置130は、表示部131、表示制御部132及び操作部133を有する。表示部131は、例えば、液晶ディスプレイや有機ELディスプレイなどで構成される。
【0050】
表示制御部132は、カメラコントロールユニット110から取得した出力信号を含む各種情報を表示部131に表示させる表示制御を行う。例えば、表示制御部132は、カメラコントロールユニット110から取得した出力信号に基づいて、カメラヘッド100で撮像された画像情報を表示部131に表示させる表示制御を行う。
【0051】
また、操作部133は、例えば、ダイヤルやマウスや操作ボタンなどで構成され、ユーザからの各種指示を入力する。表示部131と操作部133は、それらが一体となったタッチパネルとして実現されてもよい。
【0052】
表示制御部132は、操作部133を介したユーザの入力により、カメラコントロールユニット110に対する外部設定のパラメータを設定するための画面(ユーザインタフェース画面)を表示部131に表示させる表示制御を行うことも可能である。外部設定のパラメータには、例えば、閾値の初期値(第1閾値THAや第2閾値THB)、閾値の変更量の割合(第1閾値THA(初期値)のm1%、第2閾値THB(初期値)のm1%)等が含まれ、ユーザは、操作部133を介して、各種パラメータを設定することができる。
【0053】
(欠陥画素と閾値の関係)
次に、欠陥画素検出部113と閾値について説明する。欠陥画素とは、被写体に依らず固定レベルの信号が加算されて出力される画素、または均一な光量に対して出力が所定レベルとは異なる画素など、正常な信号を出力しない画素である。
【0054】
そのため、欠陥画素検出部113(第一の欠陥画素検出部117、第二の欠陥画素検出部116)において、例えば、画素からの出力が所定レベルよりも大きくなる輝点を対象とする場合、設定する閾値を上げるほど、信号レベルの低い欠陥画素を検出し難くなり得る。その結果、欠陥画素の検出画素数が減少していく。
【0055】
表示装置130に表示する出力画像において欠陥画素と認識されないようにするため、できるだけ多くの欠陥画素を検出できるように、閾値をできるだけ低く設定することが求められる。一方で、記憶部122のメモリ領域は有限であり、閾値を低く設定すると、欠陥画素として検出される画素が所定数以上となり、記憶部122に記憶する検出された欠陥画素のアドレス情報が記憶部122のメモリ領域を超えてしまう場合も生じ得る。その場合にはメモリ領域を超えない範囲内で、より多くの欠陥画素が検出できるように閾値を設定することが求められている。
【0056】
なお、上述した欠陥画素は、画素からの出力信号が所定レベルよりも大きくなる輝点に限れられず、画素からの出力信号が所定レベルよりも小さい黒点を対象としてもよく、その場合は閾値を高く設定すると欠陥画素として検出される欠陥画素の検出画素数は増加し得る。このため、欠陥画素として、黒点を対象とする場合には、リピート時における閾値は所定の変更量を減算して、下げる閾値の設定を下げるように変更すればよい。
【0057】
(欠陥画素の種類に応じた検出)
次に、欠陥画素の種類に応じた欠陥画素検出部113の処理について説明する。遮光状態のイメージセンサ101の各画素の撮像信号において、種類の異なる欠陥画素A(以下、第1欠陥画素ともいう)、欠陥画素B(以下、第2欠陥画素ともいう)が存在しているものとする。例えば、欠陥画素Aを常時輝点として存在する欠陥画素とし、欠陥画素Bを任意の時間で点滅するような欠陥画素とする。
【0058】
本実施形態の第一の欠陥画素検出部117は、先に説明した、検出処理部120aと閾値設定変更部119aとを有し、複数フレーム平滑化部114により生成された平滑化画像1101を入力して、平滑化画像1101における各画素の平滑化画素情報(画素値)と第1閾値THAとを比較して、欠陥画素A(第1欠陥画素)を検出する処理(以下、第1検出処理ともいう)を行う。
【0059】
第二の欠陥画素検出部116は、先に説明した、検出処理部120bと閾値設定変更部119bとを有し、複数フレーム和集合部115により生成された最大画素情報画像1201を入力して、最大画素情報画像1201における各画素の最大画素情報(画素値)と第2閾値THBとを比較して、欠陥画素B(第2欠陥画素)を検出する処理(以下、第2検出処理ともいう)を行う。
【0060】
欠陥画素の出力レベルは映像出力としてそのままのレベルで出力されるわけではなく、その他様々な画像処理の設定(例えば、ゲイン処理または輪郭強調処理など)に影響され得る。また、欠陥画素として、人が視認できるレベルも環境により異なる(例えば、R(赤)G(緑)B(青)などの色情報によっても視認レベルは変わる)。このような視認性と欠陥画素との関係をここでは感度と呼ぶ。
【0061】
信号として欠陥画素と判断される感度を同等にするため、第1検出処理、第2検出処理に用いる閾値THA、閾値THBは、感度が同等になるように設定する必要がある。そのため、第一の欠陥画素検出部117による第1検出処理を行った際に、欠陥画素Aの検出数が記憶部122にデータを記憶することが可能な上限のデータ数(以下、所定数と表現する)を超えて欠陥画素Aが取得された場合に、閾値THAを一定量変化させて、第一の欠陥画素検出部117による第1検出処理を再度行う事となるが、その際、感度を同等に保つために、閾値THBも一定量変化させて、第二の欠陥画素検出部116による第2検出処理を行う必要がある。
【0062】
(処理フロー)
図6は第1実施形態に係る欠陥画素の検出処理の流れを説明するフローチャートである。以下、
図6を参照して、第1実施形態に係る欠陥画素の検出処理の流れ説明する。
【0063】
ステップS201において、欠陥画素の検出処理を繰り返すリピート回数N1を0に初期化する。ここで、第1閾値THA、第2閾値THBの初期値、閾値の変更量ΔTA、ΔTBを設定してもよい。これらのパラメータは、予め記憶部122に記憶しておいてもよいし、操作部133を介してユーザが設定してもよい。
【0064】
ステップS202において、検出処理部120a(第一の検出処理部)は、第1検出処理を実行し、欠陥画素Aの欠陥画素数NA及び、検出した欠陥画素Aの位置情報を取得する。
【0065】
ステップS203において、閾値設定変更部119a(第一の閾値設定変更部)は、ステップS202で検出された欠陥画素数NAが所定数S1を超えているかどうかを判断する。欠陥画素数NAが所定数S1を超えている場合(S203-NO)、処理をステップS204へ進める。ここで、所定数S1は、記憶部122にデータを記憶することが可能な上限のデータ数である。
【0066】
ステップS204において、閾値設定変更部119aは、第1検出処理において、第1欠陥画素の第1検出数が所定数以下になるまで、第1閾値の初期値に対して所定の割合で設定された第1変更量(ΔTA)を用いて第1閾値を繰り返し変更する。閾値設定変更部119aは第1閾値THAに変更量ΔTAを加算して第1閾値THAの設定を上げる。
【0067】
ステップS205において、閾値設定変更部119aはリピート回数N1のカウントを1上げる(N1=N1+1)。その後、処理をステップS202に戻し、検出処理部120aは、第1検出処理を再度実行する。ステップS203で欠陥画素数NAが所定数S1以下になるまで(S203-YES)、ステップS202からステップS205を繰り返し行う。
【0068】
ステップS203において、閾値設定変更部119aは、欠陥画素数NAが所定数S1以下の場合(S203-YES)、処理をステップS206へ進める。
【0069】
ステップS206において、閾値設定変更部119b(第二の閾値設定変更部)は、第1検出処理で行ったリピート回数N1(リピート回数N1)と、1回の繰り返しにおける第2閾値の変更量ΔTBとを用いた変更量(リピート回数N1×ΔTB)を第2閾値THBに加算して、第2閾値THBの設定を変更する。
【0070】
第1検出処理で行ったリピート回数N1を用いて第2閾値THBを設定することにより、検出処理部120bによる欠陥画素の検出処理において、第2閾値THBの累積変更量に相当する第2検出処理の回数を低減することができる。また、第1検出処理で行ったリピート回数N1を用いて第2閾値THBを設定することにより、欠陥画素と判断するための感度を第1閾値THAに揃えることができる。
【0071】
その後、ステップS207において、検出処理部120b(第二の検出処理部)は、第2検出処理を実行し、欠陥画素Bの欠陥画素数NB及び、検出した欠陥画素Bの位置情報を取得する。
【0072】
ステップS208では、閾値設定変更部119bは、検出処理部120bにより検出された欠陥画素Bの欠陥画素数NBと、検出処理部120aにより検出された欠陥画素Aの欠陥画素数NAとを加算した総欠陥画素数を取得する。第一の欠陥画素検出部117、及び第二の欠陥画素検出部116は、相互に通信可能に接続されており、閾値の設定や欠陥画素の検出結果を相互に共有することが可能である。
【0073】
ステップS209において、閾値設定変更部119bは、ステップS208で取得した総欠陥画素数が所定数S2を超えているかを判断する。総欠陥画素数が所定数S2を超えている場合(S209-NO)、処理をステップS210に進める。ここで、所定数S2は、記憶部122にデータを記憶することが可能な上限のデータ数(所定数S1)以下であれば、所定数S1と同一であってもよいし、所定数S1より小さくてもよい。
【0074】
ステップS210において、閾値設定変更部119aは、1回の繰り返しにおける第1閾値の変更量(ΔTA)を第1閾値THAに加算して、第1閾値THAの設定を変更する。
【0075】
ステップS211において、検出処理部120aは、第1検出処理を実行し、欠陥画素Aの欠陥画素数NA及び、検出した欠陥画素Aの位置情報を取得する。
【0076】
ステップS212において、閾値設定変更部119bは、第2閾値の初期値に対して所定の割合で設定された第2変更量(ΔTB)を用いて前記第2閾値を変更する。閾値設定変更部119bは、1回の繰り返しにおける第2閾値の変更量ΔTBを第2閾値THBに加算して、第2閾値THBの設定を変更する。
【0077】
ステップS213において、検出処理部120b(第二の検出処理部)は、第2検出処理を実行し、欠陥画素Bの欠陥画素数NB及び、検出した欠陥画素Bの位置情報を取得する。
【0078】
ステップS209で総欠陥画素数が所定数S2以下になるまで、ステップS208からステップS213を繰り返し行う。
【0079】
ステップS209において、閾値設定変更部119bは、ステップS208で取得した総欠陥画素数が所定数S2を超えているかを判断し、総欠陥画素数が所定数S2以下である場合(S209―YES)、処理をステップS214に進める。
【0080】
ステップS214において、検出アドレス生成部121は、検出処理部120aで検出された欠陥画素Aの位置情報と、検出処理部120bで検出された欠陥画素Bの位置情報とを取得し、欠陥画素Aの位置情報及び欠陥画素Bの位置情報を合わせたアドレス情報を生成する。
【0081】
検出アドレス生成部121は、検出処理部120aから取得した位置情報の欠陥画素Aの種類と、検出処理部120bから取得した位置情報の欠陥画素Bの種類とを識別できるように、欠陥画素の種類を示す識別情報をアドレス情報に付与してもよい。
【0082】
アドレス情報において、識別情報を参照することにより、欠陥画素補正部112では、欠陥画素A(常時輝点として存在する欠陥画素)であるか、欠陥画素B(任意の時間で点滅する欠陥画素)であるかを識別することができる。
【0083】
ステップS215において、欠陥画素補正部112は、ステップS214で生成されたアドレス情報を取得して、欠陥画素の位置を特定する。そして、欠陥画素補正部112は、欠陥画素として検出された画素の出力信号を補正して、処理を終了とする。なお、欠陥画素の出力信号を補正する際に、欠陥画素補正部112は、識別情報を参照して欠陥画素の種類を識別し、欠陥画素の種類に応じて欠陥画素の出力信号を補正してもよい。
【0084】
なお、
図6の処理フローでは、欠陥画素として、輝点が発生した際のフローを説明したが、欠陥画素として、黒点の場合も同様の処理フローとなる。その際のリピート時における閾値は所定の変更量(ΔT
A、ΔT
B)を減算して、閾値(第1閾値THA、第2閾値THB)の設定を下げるように変更するものとすればよく、被写体へ照射する光は均一光とすればよい。
【0085】
従来技術では、総欠陥画素検出数が所定数S2を超えていた際には、総欠陥画素検出数が所定数S2以下となるまで、第一の欠陥画素検出部117、及び第二の欠陥画素検出部116における処理を、同一の閾値変更量Δを用いて繰り返し実施していた。
【0086】
ここで、従来技術と同じように、同一の閾値変更量Δを用いて、複数フレーム平滑化部114によって取得した画像に対して第1検出処理を実行するために要する時間をTAとし、複数フレーム和集合部115によって第2検出処理を実行するために要する時間をTBとする。そして、リピート回数をNrep回とすると、総欠陥画素数が所定数S2以下になるまでに要する時間T1は、以下の(3)式で表すことができる。
【0087】
T1=(TA+TB)×Nrep (3)
第1実施形態における欠陥検出処理では、第1検出処理により検出された欠陥画素検出数が所定数S1を超えた際、第一の欠陥画素検出部117による第1検出処理を欠陥画素検出数が所定数S1以下となるまで繰り返し行い、繰り返した回数(リピート回数)N1を取得する。
【0088】
そして、第二の欠陥画素検出部116が第2検出処理を行う際には、第2閾値THBを、第2閾値THBの累積変更量(ΔTB×N1)の相当分上げた状態で、第二の欠陥画素検出部116は第2検出処理を開始する。これにより、第二の欠陥画素検出部116では、第2閾値THBの累積変更量に相当する第2検出処理の回数を低減することができる。本実施形態における欠陥画素の検出処理において、第一の欠陥画素検出部117と第二の欠陥画素検出部116とを組み合わせた欠陥画素の検出に要する時間T2は、以下の(4)式で表すことができる。
【0089】
T2=TA×N1+(TA+TB)×N2 (4)
ここで、第一の欠陥画素検出部117を行う際、所定数S1を所定数S2以上に設定する(S1≧S2)と、リピート回数N1は、従来技術のリピート回数N回以下(N1≦N)となる。
【0090】
第二の欠陥画素検出部116において、第2検出処理を開始の際の第2閾値THBは、第2検出処理をN1回行った値(=変更量ΔTB×N1)と同じものとなる。総欠陥画素検出数が所定数S2以下となる際の総リピート回数Nsumは、次の(5)式の関係が成り立つ。
【0091】
Nsum=N1+N2 (5)
第1実施形態によれば、第一の欠陥画素検出部117でリピートを行った回数N1回分、第二の欠陥画素検出部116における第2検出処理を行う回数を削減できることから、T2≦T1となり、トータルの欠陥検出時間を短くすることが出来る。
【0092】
なお、本実施形態は上述した実施形態の構成に限定されるものではなく、要旨を逸脱しない範囲で構成要素を変形して具体化することが可能である。
【0093】
また、本実施形態では、欠陥画素の種類を例示的に、欠陥画素A、欠陥画素Bの2種類について説明したが、本実施形態の構成は、2種類の欠陥画素に限定されるものではなく、2種類以上の欠陥画素の種類においても同様に本実施形態における欠陥画素の検出処理を適用することができる。
【0094】
図2は、第1実施形態の処理装置の変形例の構成を示すブロック図である。
図2に示すように、複数フレーム平滑化部114及び第一の欠陥画素検出部117と、複数フレーム和集合部115及び第二の欠陥画素検出部116と、の組み合わせを、欠陥画素検出部113の内部にNset以上(Nset≧2)設けることにより、種々の欠陥画素の種類に対応した処理を行うことが可能である。
【0095】
(第2実施形態)
図3は第2実施形態の構成を示すブロック図である。第2実施形態のカメラヘッド100は、イメージセンサR102、イメージセンサG103、イメージセンサB104を有し、各イメージセンサから信号が出力され、信号処理部111に入力している。
【0096】
カメラヘッド100には、不図示のプリズムが設けられており、プリズムは、カメラヘッド100に入力される光(例えば、被写体Pからの反射光)を、赤色光、緑色光、青色光の三原色に分光(分離)する。以下、赤色光をR(赤)光と表記し、緑色光をG(緑)光と表記し、青色光をB(青)光と表記する。イメージセンサR102は、R(赤)光を光電変換し、電気信号であるR撮像信号を生成する。イメージセンサG103は、G(緑)光を光電変換し、電気信号であるG撮像信号を生成する。イメージセンサB104は、B(青)光を光電変換し、電気信号であるB撮像信号を生成する。以下では、R撮像信号、G撮像信号、B撮像信号をまとめて、RGB撮像信号とも呼ぶ。
【0097】
本実施形態において、撮像モードMRは、イメージセンサR102による撮像を行うモードとし、撮像モードMGは、イメージセンサG103による撮像を行うモードとし、撮像モードMBは、イメージセンサB104による撮像を行うモードとする。複数の撮像モードには、可視光から分光されたRGBの撮像信号を用いて被写体を観察するための撮像モードが含まれる。
【0098】
尚、本実施形態は上述した実施形態の構成に限定されるものではない。例えば、複数の撮像モードは、RGB撮像信号のように、3つの撮像モードに限定されるものではなく、例えば、
図4に示すようにカメラヘッド100において、蛍光観察用のイメージセンサIR105を設け、4つの撮像モードとしてもよい。すなわち、被写体に存在する蛍光物質から発せられる蛍光を観察するための撮像モード(蛍光観察モード)も含まれる。
【0099】
複数のイメージセンサ102~105は、出力信号として、複数の撮像モードに対応した撮像信号を出力する。閾値設定変更部119a(第1閾値変更部)は、撮像信号ごとに異なる第1閾値を設定し、閾値設定変更部119b(第2閾値変更部)は、撮像信号ごとに異なる第2閾値を設定する。
【0100】
図13に示した光源1301において、例えば、可視光を照射する白色光源の他に、被写体Pに存在する蛍光物質から発せられる蛍光を観察するための励起光光源(蛍光観察用光源)を設けてもよい。励起光光源からの光を被写体Pに照射して、被写体Pに存在する蛍光物質から発生する蛍光をイメージセンサIR105で処理してもよい。
【0101】
撮像モードとして、
図4のように、蛍光観察用のイメージセンサIR105が設けられている場合には、イメージセンサIR105についても同様に異なる感度モードを設定することが可能である。
【0102】
カメラヘッド100は、RGB撮像信号を信号処理部111に入力する。信号処理部111において、RGB撮像信号は、欠陥画素検出部113及び欠陥画素補正部112に入力される。本実施形態では、輝点を欠陥画素として判定することを前提として説明する。信号処理部111における機能的な構成は、第1実施形態と同様であるため、重複した説明は省略する。
【0103】
本実施形態では、欠陥画素検出部113は、入力されたRGB撮像信号に基づいて、各撮像信号について、欠陥画素の検出処理を行う。すなわち、複数フレーム平滑化部114は、入力されたRGB撮像信号のそれぞれの撮像信号の複数フレームについて、各画素から出力される画素情報(例えば、画素値)の加算平均をとった画素情報を取得する。加算平均をとった画素情報を平滑化画素情報とする。そして、各画素位置において取得した平滑化画素情報を設定した平滑化画像を取得(生成)する。
【0104】
また、複数フレーム和集合部115は、入力されたRGB撮像信号のそれぞれの撮像信号の複数フレームにわたって各画素の画像情報(画素値)を取得し、各画素の画像情報の最大値を各画素の画素位置に設定した最大画素情報画像(最大画素値画像)を取得(生成)する。
【0105】
(処理フロー2)
図7は第2実施形態に係る欠陥画素の検出処理の流れを説明するフローチャートである。以下、
図7を参照して、第2実施形態に係る欠陥画素の検出処理の流れ説明する。
【0106】
ステップS301で、欠陥画素検出部113は、撮像モードMRにおける欠陥画素検出処理Rを実行し、欠陥画検出数Nrを取得する。欠陥画素検出処理Rにおいて、検出処理部120a及び検出処理部120bは、R撮像信号に対して、
図6で説明した処理(第1検出処理、第2検出処理)を行い、欠陥画検出数Nrを取得する。
【0107】
ステップS302で、欠陥画素検出部113は、撮像モードMGにおける欠陥画素検出処理Gを実行し、欠陥画検出数Ngを取得する。欠陥画素検出処理Rにおいて、検出処理部120a及び検出処理部120bは、G撮像信号に対して、
図6で説明した処理(第1検出処理、第2検出処理)を行い、欠陥画検出数Ngを取得する。
【0108】
ステップS303で、欠陥画素検出部113は、撮像モードMBにおける欠陥画素検出処理Bを実行し、欠陥画検出数Nbを取得する。欠陥画素検出処理Bにおいて、検出処理部120a及び検出処理部120bは、B撮像信号に対して、
図6で説明した処理(第1検出処理、第2検出処理)を行い、欠陥画検出数Nbを取得する。
【0109】
次に、ステップS304において、閾値設定変更部119b(第2の閾値変更部)は、各撮像モードにおける欠陥画素数Nr、Ng、Nbを画素位置で加算した結果を総欠陥画素数として取得する。
【0110】
ステップS305において、閾値設定変更部119bは、総欠陥画素数が所定数(例えば、所定数S2)以下であるかを判断する。総欠陥画素数が所定数を超えた場合(S305-NO)、閾値設定変更部119bは、処理をステップS306へ進める。
【0111】
ステップS306において、閾値設定変更部119bは、欠陥画素数Nr、Ng、Nbの内、検出数の最も多い撮像モードが撮像モードMRであるかを判断する。欠陥画素数が一番多い撮像モードが撮像モードMRであった場合(S306-YES)、閾値設定変更部119bは、処理をステップS307に進める。閾値設定変更部119bは、撮像モードMRの閾値THrに、1回の変更における閾値THrの変更量ΔTrを加算する。ここで、撮像モードMRの閾値THrは、ステップS301の終了時の閾値THr(第1閾値THr、第2閾値THr)である。
【0112】
ステップS308では、検出処理部120a及び検出処理部120bは、変更された閾値THrを用いて、撮像モードMRの欠陥画素検出処理Rを返し回数1回分実行し、閾値設定変更部119bは、再度実行した欠陥画素検出処理Rに基づいて欠陥画素数Nrを取得し、処理をステップS304へ戻す。
【0113】
一方、ステップS306の判断処理において、欠陥画素数Nr、Ng、Nbの内、検出数の最も多い撮像モードが撮像モードMRでない場合(S306-NO)、欠陥画素検出部113は、処理をステップS309に進める。
【0114】
ステップS309において、閾値設定変更部119bは、欠陥画素数Nr、Ng、Nbの内、検出数の最も多い撮像モードが撮像モードMGであるかを判断する。欠陥画素数が一番多い撮像モードが撮像モードMRであった場合(S309-YES)、閾値設定変更部119bは、処理をステップS310に進める。閾値設定変更部119bは、撮像モードMGの閾値THgに、1回の変更における閾値THgの変更量ΔTgを加算する。ここで、撮像モードMGの閾値THgは、ステップS302の終了時の閾値THg(第1閾値THg、第2閾値THg)である。
【0115】
ステップS311では、検出処理部120a及び検出処理部120bは、変更された閾値THgを用いて、撮像モードMGの欠陥画素検出処理Gを返し回数1回分実行し、閾値設定変更部119bは、再度実行した欠陥画素検出処理Gに基づいて欠陥画素数Ngを取得し、処理をステップS304へ戻す。
【0116】
一方、ステップS309の判断処理において、欠陥画素数Nr、Ng、Nbの内、検出数の最も多い撮像モードが撮像モードMGでない場合(S309-NO)、閾値設定変更部119bは、処理をステップS312に進める。
【0117】
ステップS312において、閾値設定変更部119bは、撮像モードMBの閾値THbに、1回の変更における閾値THbの変更量ΔTbを加算する。ここで、撮像モードMBの閾値THbは、ステップS303の終了時の閾値THb(第1閾値THb、第2閾値THb)である。
【0118】
ステップS313では、検出処理部120a及び検出処理部120bは、変更された閾値THbを用いて、撮像モードMBの欠陥画素検出処理Bを返し回数1回分実行し、閾値設定変更部119bは、再度実行した欠陥画素検出処理Bに基づいて欠陥画素数Nbを取得し、処理をステップS304へ戻す。
【0119】
ステップS305において、閾値設定変更部119bは、総欠陥画素数が所定数(所定数S2)以下になった場合(S305-YES)、処理をステップS314に進める。
【0120】
ステップS314において、検出アドレス生成部121は、検出処理部120aで検出された、R撮像信号における欠陥画素A(r)、G撮像信号における欠陥画素A(g)、B撮像信号における欠陥画素A(b)の位置情報を取得する。ここで、欠陥画素A(r)、欠陥画素A(g)、欠陥画素A(b)は、RGB撮像信号において、常時輝点として存在する欠陥画素を示す。
【0121】
また、検出アドレス生成部121は、検出処理部120bで検出された、R撮像信号における欠陥画素B(r)、G撮像信号における欠陥画素B(g)、B撮像信号における欠陥画素B(b)の位置情報を取得する。ここで、欠陥画素B(r)、欠陥画素B(g)、欠陥画素B(b)は、RGB撮像信号において、任意の時間で点滅する欠陥画素を示す。
【0122】
そして、ステップS315において、欠陥画素補正部112は、ステップS314で生成されたアドレス情報を取得し、欠陥画素の位置情報を参照して、欠陥画素の位置を特定する。そして、欠陥画素補正部112は、欠陥画素として検出された画素の出力信号を補正して、処理を終了とする。
【0123】
なお、欠陥画素の出力信号を補正する際に、欠陥画素補正部112は、識別情報を参照して欠陥画素の種類を識別し、欠陥画素の種類に応じて欠陥画素の出力信号を補正してもよい。
【0124】
図7の処理フロー2では、欠陥画素として、輝点が発生した際の処理の流れを説明したが、黒点の場合も同様の処理フロー2となる。その際のリピート時における閾値は所定の変更量を減算して、閾値の設定を下げるように変更すればよい。
【0125】
第2実施形態では、カメラヘッド100から出力される撮像信号において、複数の撮像信号が含まれる場合に、複数の撮像信号毎に欠陥画素の検出処理(第1検出処理、第2検出処理)を行い、複数の撮像モード毎に欠陥画素数Nr、Ng、Nbを取得する。総欠陥画素数が所定数以上であった場合に、欠陥画素数の最も多い撮像モードを選択して、欠陥画素検出処理における閾値に所定の変更量の分を加算して閾値を上げて、総欠陥画素数を再計算し、総欠陥画素数が所定数以下になるまで、欠陥画素の検出処理(第1検出処理、第2検出処理)を繰り返し実行する。
【0126】
第2実施形態によれば、総欠陥画素数が所定数を超える場合であっても、全ての撮像モードにおいて欠陥画素検出処理をやり直す必要がなくなるため、従来技術のように、撮像モードによらず閾値が一つであった場合の処理と比較して、欠陥画素検出処理の所要時間を短縮することができる。
【0127】
さらに、従来技術のように、総欠陥画素数が所定値を超えるか否かの判断処理に一つの閾値を用いる場合に比べて、第2実施形態の処理では、閾値を細かく設定できる。このため、ある撮像モードのみについて閾値を上げて欠陥画素と判断される画素数の削減を行えることから、過度な欠陥画素数の削減を抑えることが可能となる。なお、本実施形態は上述した実施形態の構成に限定されるものではなく、要旨を逸脱しない範囲で構成要素を変形して具体化することが可能である。
【0128】
また、複数の撮像モードのうちから選択される撮像モードは、検出数が1以上の撮像モードの内、所定の序列に従って選択される撮像モードであってもよい。例えば、ユーザが優先する序列を設定し、設定された序列に応じて撮像モードを選択してもよい。また、選択される撮像モードは、複数の撮像モードの内、欠陥画素の検出数が最も少ない撮像モードでもよい。さらに、選択される撮像モードは、複数の撮像モードの内、撮像モードにおいて、固有の欠陥画素の検出数が最も多い撮像モードでもよい。さらに、選択される撮像モードは、複数の撮像モードの内、撮像モードにおいて、固有の欠陥画素の検出数が最も少ない撮像モードでもよい。
【0129】
(第3実施形態)
図3は第3実施形態の構成を示すブロック図である。第3実施形態のカメラヘッド100は、イメージセンサR102、イメージセンサG103、イメージセンサB104を有し、各イメージセンサから信号が出力され、信号処理部111に入力している。
【0130】
第3実施形態においても、第2実施形態と同様に、撮像モードMRは、イメージセンサR102による撮像を行うモードとし、撮像モードMGは、イメージセンサG103による撮像を行うモードとし、撮像モードMBは、イメージセンサB104による撮像を行うモードとする。
【0131】
複数の撮像モードは、それぞれ異なる複数の感度モードであってもよい。ここで、感度モードとは、イメージセンサR102、イメージセンサG103、イメージセンサB104に対する設定であり、各イメージセンサから出力される出力信号(R撮像信号、G撮像信号、B撮像信号)の利得(Gain)を変更するものである。つまり、同じ明るさのものを撮像していても、感度モードによって利得(Gain)を異なる設定とすることにより、イメージセンサR102、イメージセンサG103、イメージセンサB104から出力される撮像信号のレベルは異なったものとなり得る。
【0132】
図5のブロック図に示すように、信号処理部111は、欠陥画素検出部113、欠陥画素補正部112、感度モード選択部124を有する。感度モード選択部124は、カメラヘッド100に含まれるイメージセンサの出力信号の利得を変更するための感度モードを選択し、感度モードの選択信号をカメラヘッド100に出力する。
【0133】
カメラコントロールユニット110から伝送された感度モードの選択信号は、イメージセンサR102、イメージセンサG103、イメージセンサB104に入力される。イメージセンサR102、イメージセンサG103、イメージセンサB104は、入力された感度モードの選択信号に基づいて、各イメージセンサに、それぞれ異なる感度モードを設定する。
【0134】
本実施形態において、感度モードM1(以下、第1感度モードともいう)は、各イメージセンサにおける特定の感度モードによって撮像を行うモードとする。また、感度モードM2(以下、第2感度モードともいう)は、各イメージセンサにおける感度モードM1(第1感度モード)とは異なる感度モードによって撮像を行うモードとする。本実施形態では、複数の感度モードとして、2つの感度モードを例に説明しているが、この例に限定されず、更に複数の感度モードを選択できるようにしても、本実施形態を同様に適用することは可能である。
【0135】
複数のイメージセンサ102~105は、出力信号として、感度モードに基づいた撮像信号を出力する。閾値設定変更部119a(第1閾値変更部)は、感度モードごとに異なる第1閾値を設定し、閾値設定変更部119b(第2閾値変更部)は、感度モードごとに異なる第2閾値を設定する。
【0136】
(処理フロー3)
図8は第3実施形態に係る欠陥画素の検出処理の流れを説明するフローチャートである。また、
図9は、感度モードM1における欠陥画素検出処理の流れを説明するフローチャートであり、
図10は、感度モードM2における欠陥画素検出の流れを説明するフローチャートである。以下、
図8~10を参照して、第3実施形態に係る欠陥画素の検出処理の流れ説明する。
【0137】
図8のステップS401において、感度モードM1における欠陥画素検出処理を行う。
【0138】
(感度モード1の欠陥画素検出処理)
ステップS401は感度モード1の欠陥画素検出処理を表しており、本ステップの処理は、
図9のステップS501~ステップS513の処理に対応する。以下、
図9のステップS501からステップS513の処理の詳細を説明する。
【0139】
ステップS501において、欠陥画素の検出処理を繰り返すリピート回数R1を0に初期化する。
【0140】
ステップS502において、検出処理部120a(第一の検出処理部)は、第1検出処理1Aを実行し、欠陥画素Aの欠陥画素数N1A及び、検出した欠陥画素Aの位置情報を取得する。
【0141】
ステップS503において、閾値設定変更部119a(第一の閾値設定変更部)は、ステップS502で検出された欠陥画素数N1Aが所定数(例えば、S1)を超えているかどうかを判断する。欠陥画素数N1Aが所定数S1を超えている場合(S503-NO)、処理をステップS504へ進める。ここで、所定数S1は、記憶部122にデータを記憶することが可能な上限のデータ数である。
【0142】
ステップS504において、閾値設定変更部119aは第1閾値TH1Aに変更量ΔT1Aを加算して第1閾値TH1Aの設定を上げる。
【0143】
ステップS505において、閾値設定変更部119aはリピート回数R1のカウントを1上げる(R1=R1+1)。その後、処理をステップS502に戻し、検出処理部120aは、第1検出処理1Aを再度実行する。ステップS503で欠陥画素数N1Aが所定数S1以下になるまで(S503-YES)、ステップS502からステップS505を繰り返し行う。
【0144】
ステップS503において、閾値設定変更部119aは、欠陥画素数N1Aが所定数S1以下の場合(S503-YES)、処理をステップS506へ進める。
【0145】
ステップS506において、閾値設定変更部119b(第二の閾値設定変更部)は、変更量(累積変更量:リピート回数R1×ΔT1B)を第2閾値TH1Bに加算して、第2閾値TH1Bの設定を変更する。第1検出処理1Aで行ったリピート回数R1を用いて第2閾値TH1Bを設定することにより、検出処理部120bによる欠陥画素の検出処理において、第2閾値TH1Bの累積変更量に相当する第2検出処理の回数を低減することができる。また、第1検出処理1Aで行ったリピート回数R1を用いて第2閾値TH1Bを設定することにより、欠陥画素と判断するための感度を第1閾値TH1Aに揃えることができる。
【0146】
その後、ステップS507において、検出処理部120b(第二の検出処理部)は、第2検出処理1Bを実行し、欠陥画素Bの欠陥画素数N1B及び、検出した欠陥画素Bの位置情報を取得する。
【0147】
ステップS508では、閾値設定変更部119bは、検出処理部120bにより検出された欠陥画素Bの欠陥画素数N1Bと、検出処理部120aにより検出された欠陥画素Aの欠陥画素数N1Aとを加算した総欠陥画素数N1を取得する。第一の欠陥画素検出部117、及び第二の欠陥画素検出部116は、相互に通信可能に接続されており、閾値の設定や欠陥画素の検出結果を相互に共有することが可能である。
【0148】
ステップS509において、閾値設定変更部119bは、ステップS508で取得した総欠陥画素数N1が所定数(例えば、S2)を超えているかを判断する。総欠陥画素数N1が所定数S2を超えている場合(S509-NO)、処理をステップS510に進める。ここで、所定数S2は、記憶部122にデータを記憶することが可能な上限のデータ数(所定数S1)以下であれば、所定数S1と同一であってもよいし、所定数S1より小さくてもよい。
【0149】
ステップS510において、閾値設定変更部119aは、第1閾値TH1Aに変更量(ΔT1A)を加算して、第1閾値TH1Aの設定を変更する。
【0150】
ステップS511において、検出処理部120aは、第1検出処理1Aを実行し、欠陥画素Aの欠陥画素数N1A及び、検出した欠陥画素Aの位置情報を取得する。
【0151】
ステップS512において、閾値設定変更部119bは、第2閾値TH1Bに変更量ΔT1Bを加算して、第2閾値TH1Bの設定を変更する。
【0152】
ステップS513において、検出処理部120b(第二の検出処理部)は、第2検出処理を実行し、欠陥画素Bの欠陥画素数N1B及び、検出した欠陥画素Bの位置情報を取得する。
【0153】
ステップS509で総欠陥画素数N1が所定数S2以下になるまで、ステップS508からステップS513を繰り返し行う。
【0154】
ステップS509において、閾値設定変更部119bは、ステップS508で取得した総欠陥画素数N1が所定数S2を超えているかを判断し、総欠陥画素数N1が所定数S2以下である場合(S509―YES)、感度モードM1の欠陥画素検出処理を終了とし、処理を
図8のステップS402に進める。
【0155】
(感度モード2の欠陥画素検出処理)
ステップS402は感度モード2の欠陥画素検出処理を表しており、本ステップの処理は、
図10のステップS601~ステップS613の処理に対応する。以下、
図10のステップS601からステップS613の処理の詳細を説明する。
【0156】
ステップS601において、欠陥画素の検出処理を繰り返すリピート回数R2を0に初期化する。
【0157】
ステップS602において、検出処理部120a(第一の検出処理部)は、第1検出処理2Aを実行し、欠陥画素Aの欠陥画素数N2A及び、検出した欠陥画素Aの位置情報を取得する。
【0158】
ステップS603において、閾値設定変更部119a(第一の閾値設定変更部)は、ステップS602で検出された欠陥画素数N2Aが所定数(例えば、S1)を超えているかどうかを判断する。欠陥画素数N2Aが所定数S1を超えている場合(S603-NO)、処理をステップS604へ進める。ここで、所定数S1は、記憶部122にデータを記憶することが可能な上限のデータ数である。
【0159】
ステップS604において、閾値設定変更部119aは第1閾値TH2Aに変更量ΔT2Aを加算して第1閾値TH2Aの設定を上げる。
【0160】
ステップS605において、閾値設定変更部119aはリピート回数R2のカウントを1上げる(R2=R2+1)。その後、処理をステップS602に戻し、検出処理部120aは、第1検出処理2Aを再度実行する。ステップS603で欠陥画素数N2Aが所定数S1以下になるまで(S603-YES)、ステップS602からステップS605を繰り返し行う。
【0161】
ステップS603において、閾値設定変更部119aは、欠陥画素数N2Aが所定数S1以下の場合(S603-YES)、処理をステップS606へ進める。
【0162】
ステップS506において、閾値設定変更部119b(第二の閾値設定変更部)は、変更量(累積変更量:リピート回数R2×ΔT2B)を第2閾値TH2Bに加算して、第2閾値TH2Bの設定を変更する。第1検出処理2Aで行ったリピート回数R2を用いて第2閾値TH2Bを設定することにより、検出処理部120bによる欠陥画素の検出処理において、第2閾値TH2Bの累積変更量に相当する第2検出処理2Bの処理回数を低減することができる。また、第1検出処理1Aで行ったリピート回数R2を用いて第2閾値TH2Bを設定することにより、欠陥画素と判断するための感度を第1閾値TH2Aに揃えることができる。
【0163】
その後、ステップS607において、検出処理部120b(第二の検出処理部)は、第2検出処理2Bを実行し、欠陥画素Bの欠陥画素数N2B及び、検出した欠陥画素Bの位置情報を取得する。
【0164】
ステップS508では、閾値設定変更部119bは、検出処理部120bにより検出された欠陥画素Bの欠陥画素数N2Bと、検出処理部120aにより検出された欠陥画素Aの欠陥画素数N2Aとを加算した総欠陥画素数N2を取得する。第一の欠陥画素検出部117、及び第二の欠陥画素検出部116は、相互に通信可能に接続されており、閾値の設定や欠陥画素の検出結果を相互に共有することが可能である。
【0165】
ステップS609において、閾値設定変更部119bは、ステップS608で取得した総欠陥画素数N2が所定数(例えば、S2)を超えているかを判断する。総欠陥画素数N2が所定数S2を超えている場合(S609-NO)、処理をステップS610に進める。ここで、所定数S2は、記憶部122にデータを記憶することが可能な上限のデータ数(所定数S1)以下であれば、所定数S1と同一であってもよいし、所定数S1より小さくてもよい。
【0166】
ステップS610において、閾値設定変更部119aは、第1閾値TH2Aに変更量(ΔT2A)を加算して、第1閾値TH2Aの設定を変更する。
【0167】
ステップS611において、検出処理部120aは、第1検出処理2Aを実行し、欠陥画素Aの欠陥画素数N2A及び、検出した欠陥画素Aの位置情報を取得する。
【0168】
ステップS612において、閾値設定変更部119bは、第2閾値TH2Bに変更量ΔT2Bを加算して、第2閾値TH2Bの設定を変更する。
【0169】
ステップS613において、検出処理部120b(第二の検出処理部)は、第2検出処理2Bを実行し、欠陥画素Bの欠陥画素数N2B及び、検出した欠陥画素Bの位置情報を取得する。
【0170】
ステップS609で総欠陥画素数N2が所定数S2以下になるまで、ステップS608からステップS613を繰り返し行う。
【0171】
ステップS609において、閾値設定変更部119bは、ステップS608で取得した総欠陥画素数N2が所定数S2を超えているかを判断し、総欠陥画素数N2が所定数S2以下である場合(S609―YES)、感度モードM2の欠陥画素検出処理を終了とし、処理を
図8のステップS403に戻す。
【0172】
ステップS403において、欠陥画素検出部113は、各感度モードにおける欠陥画素数N1、N2を加算した結果を総欠陥画素数として取得する。
【0173】
ステップS404において、閾値設定変更部119bは、総欠陥画素数が所定数(例えば、S1)以下であるか判断する。総欠陥画素数が所定数を超えた場合(S404-NO)、閾値設定変更部119bは、処理をステップS405へ進める。
【0174】
ステップS405において、欠陥画素検出部113は、欠陥画素数N1、N2の内、検出数の多い感度モードが感度モードM1であるか判断する。欠陥画素数が一番多い感度モードが感度モードM1であった場合(S405-YES)、欠陥画素検出部113は、処理をステップS406に進める。
【0175】
ステップS406において、閾値設定変更部119aは、第1閾値TH1Aに変更量(ΔT1A)を加算して、第1閾値TH1Aの設定を変更する。
【0176】
ステップS407において、検出処理部120aは、第1検出処理1Aを実行し、欠陥画素Aの欠陥画素数N1A及び、検出した欠陥画素Aの位置情報を取得する。
【0177】
ステップS408において、閾値設定変更部119bは、第2閾値TH1Bに変更量ΔT1Bを加算して、第2閾値TH1Bの設定を変更する。
【0178】
ステップS409において、検出処理部120b(第二の検出処理部)は、第2検出処理を実行し、欠陥画素Bの欠陥画素数N1B及び、検出した欠陥画素Bの位置情報を取得する。
【0179】
ステップS410において、閾値設定変更部119bは、欠陥画素数N1A及び欠陥画素数N1Bを加算した結果を欠陥画素数N1として取得し、処理をステップS403へ再度戻す。
【0180】
一方、ステップS405において、欠陥画素数が一番多い感度モードが感度モードM2であった場合(S405-NO)、閾値設定変更部119bは、は、処理をステップS411に進める。
【0181】
ステップS411において、閾値設定変更部119aは、第1閾値TH2Aに変更量(ΔT2A)を加算して、第1閾値TH2Aの設定を変更する。
【0182】
ステップS412において、検出処理部120aは、第1検出処理2Aを実行し、欠陥画素Aの欠陥画素数N2A及び、検出した欠陥画素Aの位置情報を取得する。
【0183】
ステップS413において、閾値設定変更部119bは、第2閾値TH2Bに変更量ΔT2Bを加算して、第2閾値TH2Bの設定を変更する。
【0184】
ステップS414において、検出処理部120b(第二の検出処理部)は、第2検出処理2Bを実行し、欠陥画素Bの欠陥画素数N2B及び、検出した欠陥画素Bの位置情報を取得する。
【0185】
ステップS415において、閾値設定変更部119bは、欠陥画素検出数N2A及び欠陥画素数N2Bを加算した結果を欠陥画素数N2として取得し、処理をステップS403へ再度戻す。
【0186】
ステップS403において、閾値設定変更部119bは、各感度モードにおける欠陥画素数N1、N2を加算した結果を総欠陥画素数として再度取得する。
【0187】
ステップS404において、閾値設定変更部119bは、総欠陥画素数が所定数(例えば、S1)以下であるか判断する。総欠陥画素数が所定数以下になった場合(S404-YES)、閾値設定変更部119bは、処理をステップS416へ進める。
【0188】
ステップS416において、検出アドレス生成部121は、検出処理部120aで検出された、感度モードM1における欠陥画素A(M1)、欠陥画素A(M2)の位置情報を取得する。ここで、欠陥画素A(M1)は感度モードM1において、常時輝点として存在する欠陥画素を示す。また、欠陥画素A(M2)は感度モードM2において、常時輝点として存在する欠陥画素を示す。
【0189】
また、検出アドレス生成部121は、検出処理部120bで検出された、欠陥画素B(M1)、欠陥画素B(M2)の位置情報を取得する。ここで、ここで、欠陥画素B(M1)は感度モードM1において、任意の時間で点滅する欠陥画素を示す。また、欠陥画素B(M2)は感度モードM2において、任意の時間で点滅する欠陥画素を示す。
【0190】
そして、ステップS417において、欠陥画素補正部112は、ステップS416で生成されたアドレス情報を取得し、欠陥画素の位置情報を参照して、欠陥画素の位置を特定する。そして、欠陥画素補正部112は、欠陥画素として検出された画素の出力信号を補正して、処理を終了とする。
【0191】
なお、欠陥画素の出力信号を補正する際に、欠陥画素補正部112は、識別情報を参照して欠陥画素の種類(A、B)や感度モード(M1、M2)を識別し、欠陥画素の種類や感度モードに応じて欠陥画素の出力信号を補正してもよい。
【0192】
図8の処理フロー3では、欠陥画素として、輝点が発生した際の処理の流れを説明したが、黒点の場合も同様のフロー3となる。その際のリピート時における閾値は所定の変更量を減算して、閾値の設定を下げるように変更すればよい。
【0193】
第3実施形態では、複数の感度モード毎に欠陥画素の検出処理(第1検出処理、第2検出処理)を行い、複数の感度モード毎に欠陥画素数N1、N2を取得する。総欠陥画素数が所定数以上であった場合に、欠陥画素数の最も多い感度モードを選択して、欠陥画素検出処理における閾値に所定の変更量の分を加算して閾値を上げて、総欠陥画素数を再計算し、総欠陥画素数が所定数以下になるまで繰り返し実行する。
【0194】
第3実施形態によれば、総欠陥画素数が所定数を超える場合であっても、全ての感度モードにおいて欠陥画素検出処理をやり直す必要がなくなるため、従来技術のように、撮像モードによらず閾値が一つであった場合の処理と比較して、欠陥画素検出処理の所要時間を短縮することができる。
【0195】
さらに、従来技術のように、総欠陥画素数が所定値を超えるか否かの判断処理に一つの閾値を用いる場合に比べて、第3実施形態の処理では、閾値を細かく設定できる。このため、ある感度モードのみについて閾値を上げて欠陥画素と判断される画素数の削減を行えることから、過度な欠陥画素数の削減を抑えることが可能となる。
【0196】
さらに、従来の撮像モードによらず閾値が一つであった場合に比べ、閾値を細かく設定できるため、ある撮像モードのみ閾値を上げて欠陥画素と判断される画素の削減を行えることから、過度な欠陥画素数の削減を抑えることが可能となる。
【0197】
本明細書の開示は、以下の処理装置、処理システム、処理方法及びプログラムを含む。
(項目1) イメージセンサの各画素の出力信号から得た第1画素情報と第1閾値との比較により第1欠陥画素を検出する第1検出処理を行う第1検出処理部と、
前記第1検出処理において、前記第1欠陥画素の第1検出数が所定数以下になるまで、前記第1閾値の初期値に対して所定の割合で設定された第1変更量を用いて前記第1閾値を繰り返し変更する第1閾値変更部と、
前記出力信号から得た、前記第1画素情報とは異なる第2画素情報と、前記第1閾値の繰り返し変更回数と第2変更量とを用いて得た第2閾値と、の比較により、前記第1欠陥画素とは異なる第2欠陥画素を検出する第2検出処理を行う第2検出処理部と、
前記第1欠陥画素の前記第1検出数と前記第2欠陥画素の第2検出数との加算情報が前記所定数以下になるまで、前記第2閾値の初期値に対して所定の割合で設定された第2変更量を用いて前記第2閾値を変更する第2閾値変更部と、備える処理装置。
(項目2) 前記イメージセンサから出力された複数フレームにおいて、前記各画素の出力信号を加算平均することにより前記第1画素情報を取得する平滑化部を更に備え、
前記第1検出処理部は、前記出力信号の加算平均により得られた前記第1画素情報と、前記第1閾値との比較により前記第1欠陥画素を検出する項目1に記載の処理装置。
(項目3) 前記第1閾値変更部は、前記第1欠陥画素の第1検出数が所定数以下になるまで、前記第1閾値に前記第1変更量を加算、または、前記第1閾値から前記第1変更量を減算することにより、前記第1閾値を変更する項目1に記載の処理装置。
(項目4) 前記第2検出処理部は、前記第1閾値の繰り返し変更回数と前記第2変更量との積を用いて取得した前記第2閾値と、前記第2画素情報との比較により、前記第2欠陥画素を検出する項目1に記載の処理装置。
(項目5) 前記イメージセンサから出力された複数のフレームにおいて、前記各画素の出力信号のうち最大値を前記第2画素情報として取得する和集合部を更に備え、
前記第2検出処理部は、前記第2画素情報として取得された前記出力信号の最大値と、前記第2閾値との比較により前記第2欠陥画素を検出する項目1に記載の処理装置。(項目6) 前記加算情報が前記所定数以下になるまで、
前記第1閾値変更部は、前記第1変更量を用いて前記第1閾値を変更し、
前記第1検出処理部は、変更された前記第1閾値と前記第1画素情報との比較により前記第1検出処理を実行し、
前記第2閾値変更部は、前記第2変更量を用いて前記第2閾値を変更し、
前記第2検出処理部は、変更された前記第2閾値と前記第2画素情報との比較により前記第2検出処理を実行する項目1に記載の処理装置。
(項目7) 前記第2閾値変更部は、前記第2閾値に前記第2変更量を加算、または、前記第2閾値から前記第2変更量を減算することにより、前記第2閾値を変更する項目6に記載の処理装置。
(項目8) 複数のイメージセンサを有するカメラヘッドを更に備え、
前記複数のイメージセンサは、前記出力信号として、それぞれ異なる撮像信号を出力する項目1に記載の処理装置。
(項目9) 前記複数のイメージセンサは、前記出力信号として、複数の撮像モードに対応した撮像信号を出力し、
前記第1閾値変更部は、前記撮像信号ごとに異なる第1閾値を設定し、
前記第2閾値変更部は、前記撮像信号ごとに異なる第2閾値を設定する項目8に記載の処理装置。
(項目10) 前記第1検出処理部は、前記第1検出処理を実行して前記撮像信号ごとに前記第1欠陥画素を検出し、
前記第2検出処理部は、前記第2検出処理を実行して前記撮像信号ごとに前記第2欠陥画素を検出し、
前記第2閾値変更部は、
前記第1欠陥画素と前記第2欠陥画素とを用いて、前記撮像信号ごとに欠陥画素数を取得する項目9に記載の処理装置。
(項目11) 前記第2閾値変更部は、
前記撮像信号ごとの前記欠陥画素数の加算情報が前記所定数を超える場合に、前記撮像信号のうち、前記欠陥画素数の最も多い撮像信号を特定し、
前記第1閾値変更部は、特定された前記撮像信号に関して、前記第1閾値を変更し、
前記第2閾値変更部は、特定された前記撮像信号に関して、前記第2変更量を用いて前記第2閾値を変更する項目10に記載の処理装置。
(項目12) 前記第1検出処理部は、前記加算情報が前記所定数以下になるまで、特定された前記撮像信号に関して、前記第1検出処理を繰り返し実行し、
前記第2検出処理部は、前記加算情報が前記所定数以下になるまで、特定された前記撮像信号に関して、前記第2検出処理を繰り返し実行する項目11に記載の処理装置。
(項目13) 前記複数の撮像モードには、
可視光から分光されたRGBの撮像信号を用いて被写体を観察するための撮像モードと、
前記被写体に存在する蛍光物質から発せられる蛍光を観察するための撮像モードと、が含まれる項目9に記載の処理装置。
(項目14) 前記カメラヘッドに含まれる前記イメージセンサの出力信号の利得を変更するための感度モードを選択し、前記感度モードの選択信号を前記カメラヘッドに出力する感度モード選択部を更に備え、
前記カメラヘッドに含まれる前記複数のイメージセンサは、前記選択信号に基づいて、それぞれ異なる感度モードを設定する項目8に記載の処理装置。
(項目15) 前記複数のイメージセンサは、前記感度モードに基づいた撮像信号を出力し、
前記第1閾値変更部は、前記感度モードごとに異なる第1閾値を設定し、
前記第2閾値変更部は、前記感度モードごとに異なる第2閾値を設定する項目14に記載の処理装置。
(項目16) 前記第1検出処理部は、前記第1検出処理を実行して前記感度モードごとに前記第1欠陥画素を検出し、
前記第2検出処理部は、前記第2検出処理を実行して前記感度モードごとに前記第2欠陥画素を検出し、
前記第2閾値変更部は、
前記第1欠陥画素と前記第2欠陥画素とを用いて、前記感度モードごとに欠陥画素数を取得する項目15に記載の処理装置。
(項目17) 前記第2閾値変更部は、
前記感度モードごとの前記欠陥画素数の加算情報が前記所定数を超える場合に、前記感度モードのうち、前記欠陥画素数の最も多い感度モードを特定し、
前記第1閾値変更部は、特定された前記感度モードの撮像信号に関して、前記第1閾値を変更し、
前記第2閾値変更部は、特定された前記感度モードの撮像信号に関して、前記第2変更量を用いて前記第2閾値を変更する項目16に記載の処理装置。
(項目18) 前記第1検出処理部は、前記加算情報が前記所定数以下になるまで、特定された前記感度モードの前記撮像信号に関して、前記第1検出処理を繰り返し実行し、
前記第2検出処理部は、前記加算情報が前記所定数以下になるまで、特定された前記感度モードの前記撮像信号に関して、前記第2検出処理を繰り返し実行する項目17に記載の処理装置。
(項目19) 前記加算情報が前記所定数以下の場合に、前記第1欠陥画素の画素位置と前記第2欠陥画素の画素位置とを用いて、前記イメージセンサの欠陥画素の位置を示すアドレス情報を生成する生成部と、
前記アドレス情報を記憶する記憶部と、
前記記憶部に記憶された前記アドレス情報を用いて、前記イメージセンサに含まれる前記第1欠陥画素、及び前記第2欠陥画素の出力信号を補正する補正部と、
を更に備える項目1に記載の処理装置。
(項目20) 前記所定数は前記加算情報を前記記憶部に記憶することが可能なデータ数を示す項目19に記載の処理装置。
(項目21) 項目1乃至項目20のいずれか1項に記載の処理装置と、
前記処理装置から出力された信号に基づいた画像を表示部に表示させる表示制御を行う表示制御部を有する表示装置と、
を備える処理システム。
(項目22) イメージセンサの各画素の出力信号から得た第1画素情報と第1閾値との比較により第1欠陥画素を検出する第1検出処理を行う工程と、
前記第1検出処理において、前記第1欠陥画素の第1検出数が所定数を超える場合に、前記第1閾値の初期値に対して所定の割合で設定された第1変更量を用いて前記第1閾値を変更する工程と、
前記出力信号から得た、前記第1画素情報とは異なる第2画素情報と、前記第1閾値の繰り返し変更回数と第2変更量とを用いて得た第2閾値との比較により、前記第1欠陥画素とは異なる第2欠陥画素を検出する工程と、
前記第1欠陥画素の前記第1検出数と前記第2欠陥画素の第2検出数との加算情報が前記所定数以下になるまで、前記第2閾値の初期値に対して所定の割合で設定された第2変更量を用いて前記第2閾値を変更する工程と、
を有する処理方法。
(項目23) コンピュータに、項目22に記載の処理方法を実行させるプログラム。
【0198】
[その他の実施形態]
開示の技術は、上述の実施形態の1以上の機能を実現するプログラムを、ネットワーク又は記憶媒体を介してシステム又は装置に供給し、そのシステム又は装置のコンピュータにおける1つ以上のプロセッサーがプログラムを読出し実行する処理でも実現可能である。また、1以上の機能を実現する回路(例えば、ASIC)によっても実現可能である。
【0199】
開示の技術は上記実施形態に制限されるものではなく、発明の精神及び範囲から離脱することなく、様々な変更及び変形が可能である。従って、発明の範囲を公にするために請求項を添付する。
【符号の説明】
【0200】
100:カメラヘッド、101:イメージセンサ、102:イメージセンサR、103:イメージセンサG、104:イメージセンサB、110:カメラコントロールユニット、111:信号処理部、112:欠陥画素補正部
113:欠陥画素検出部、114:複数フレーム平滑化部、115:複数フレーム和集合部、117:第一の欠陥画素検出部、116:第二の欠陥画素検出部、119a、119b:閾値設定変更部、120a、120b:検出処理部、121:検出アドレス生成部、122:記憶部(RAM)、123:伝送部、124:感度モード選択部、130:表示装置