(58)【調査した分野】(Int.Cl.,DB名)
【発明を実施するための形態】
【0017】
図1は、GI管における例示的なカメラを示す。
図1に示すように、嚥下可能カプセルカメラシステム01が、例えば大腸、小腸、食道、または胃である人体の管腔00内に存在しているところが示されている。カプセルカメラシステム01は、人体内にある間に完全に自律的であり、その全ての要素は、防湿バリアを提供し体液から内部要素を保護するカプセルハウジング10に封入されている。カプセルハウジング10は、管腔の壁を照射するべく、照明システム12の発光ダイオード(LED)(複数可)からの光が、カプセルハウジング10の壁を通過できるようにし、かつ管腔00の壁から分散された光が、カプセルカメラ内に収集されてイメージ化されることを可能とするものである。カプセルハウジング10は、カプセルハウジング10内部の異物が直接接触しないように管腔00を保護する役目も果たす。カプセルハウジング10は、容易に嚥下可能で、後にGI管を効率的に通過できるような形状にされる。一般的に、カプセルハウジング10は、滅菌され、非毒性の材料から作られ、管腔内に留まってしまう可能性を最小化するのに十分な滑らかさを有している。
【0018】
図1に示すように、カプセルカメラシステム01は、照明システム12と、光学システム14およびイメージセンサ16を備えるカメラとを備えている。イメージセンサ16によって撮像されたイメージはイメージプロセッサ18によって処理され得るが、このイメージプロセッサ18は、例えばカメラの光学的視野内のGI管の部分に対してカプセルが移動しているか否かの判定等の種々のイメージ処理機能を実施する。イメージプロセッサ18は、デジタル信号プロセッサ(DSP)または中央処理装置(CPU)によって実現され得る。イメージプロセッサ18は、1以上の部分的フレームバッファを有し得る。カプセルが回収された後に、身体の外部のドッキングステーションまたはワークステーションで出力ポート28を通してイメージを取り出すことができるように、半導体非揮発アーカイブメモリ20が設けられ得る。アーカイブメモリ20のイメージは、データ圧縮モジュール22を用いて圧縮状態で格納され得る。(データ圧縮モジュール22は、ハードウェアで、またはイメージプロセッサ18上で動作するソフトウェアで実現され得る。)カプセルカメラシステム01は、電池式電源24によって電力供給される。カプセルカメラシステム01は、蠕動によってGI管を通して前進され得る。
【0019】
照明システム12はLEDによって実現され得る。
図1では、LED(複数可)はカメラの開口に隣接して配置されているが、他の配置も可能である。光源は、例えば開口の後ろ側に配置されてもよい。レーザダイオード等の他の光源を用いてもよい。或いは、白色光源または2以上の狭波長帯域光源の組み合わせを用いてもよい。一実施形態では、白色LEDが、青色LEDまたは紫色LED等の種々の構成部品と、LED光によって励起されてより長い波長の光を発光する蛍光材料とによって形成され得る。光を通過させるカプセルハウジング10の部分は、生体適合性ガラスまたはポリマーから作製され得る。
【0020】
複数の屈折、回折、または反射レンズを備えたものであり得る光学システム14は、イメージセンサ16の視野内に管腔00のイメージを提供する。イメージセンサ16、受光した光強度を対応する電気信号に変換する、電荷結合素子(CCD)または相補型金属酸化膜半導体(CMOS)型センサデバイスを備え得る。イメージセンサ16は、単色応答を有することができ、または(RGBまたはCYM色空間表現を用いた)カラーイメージを撮像可能にするカラーフィルタアレイを備え得る。イメージセンサ16からのアナログ信号は、好ましくは、デジタル処理技術を使用可能にするデジタル信号形態に変換される。そのような変換は、(本実施形態の場合のように)イメージセンサ16の内部、またはカプセルハウジング10内の他の場所に配置されたアナログ−デジタル(A/D)コンバータによって達成され得る。A/Dユニットは、イメージセンサ16とシステム内の残部との間に設けられ得る。LED照明システム12は、イメージセンサ16の動作と同期をとられる。制御モジュール26(図示せず)の機能の1つは、イメージ撮像動作中にLEDを制御することである。
【0021】
イメージプロセッサ18は、利用可能な限定された記憶スペースを保存するために、イメージが、前のイメージに対する十分な動きを示すときに保持すべきイメージを選択し得る。撮像されたイメージは、オンボード・アーカイブメモリシステム20内に格納され得る。
図1に示す出力ポート28は、生体内では動作しないが、カプセルカメラが身体内を通過して回収された後にワークステーションにデータをアップロードする。
【0022】
LED(複数可)がオン状態にされると、それらの光はカプセルハウジング10の透明ウィンドウを通過して、GI管内の対象物を照射する。これらの対象物からの反射光は透明ウィンドウを通過してレンズ14に達し、このレンズはイメージをイメージセンサ16に集束させる。LEDから発光された光の一部は、破線103に示すように透明ウィンドウ10の表面で反射されてイメージセンサ16に戻される。イメージセンサ16におけるセルアレイの各ピクセルがある程度独特の特性を有するので、イメージセンサ16は、外部から提供された一様な照明条件の下で(カプセルカメラシステム01のLEDはオフにして)、イメージセンサ16のピクセル毎のばらつきを決定するべく特性化される。実際には、これらのピクセルの異なる読み出し値が、ピクセル毎のばらつき及びピクセル値の非一様性に対するレンズの影響の両方を表すことになる。
【0023】
図2は、本発明の一実施形態による、カプセルカメラのピクセル毎のばらつき及び設計上の不完全性を特性化する方法を示す。
図2に示すように、レンズシステム、イメージセンサ、及び送信器またはアーカイブメモリを備えるカプセルカメラを準備する(ステップ201)。次にステップ202では、既知の色、光強度、コントラストまたはパターンの光によって照射される対象物を、レンズシステムの視野に置き、露出させる。次にこれらのイメージを用いて、カプセルカメラシステムを特性化または較正する。そのイメージを、アーカイブメモリに格納するか、送信することができる。その後の時点で(ステップ203)、これらのイメージを用いて、臨床診断の目的で患者から撮像したイメージを較正する。
【0024】
ピクセル応答性の及びカメラの応答による視野のばらつき(一様な対象物照射がなされている場合でも生ずるセンサ照射における非一様性)を補償する方法の1つは、較正中に一様な色と輝度の視野をカメラに与えることである。次にテストイメージを、この照射条件の下で撮像し、それを用いて全ピクセルの赤成分について平均値ARを得る。特定のピクセルの赤成分信号をPR
iとする場合、このピクセルの赤成分は、測定されたピクセル値の赤成分に係数A
R/PR
iを乗ずることによって、通常の動作中に補償することができる。他の色成分についても同様に補償することができる。(この方法は、他の色空間ドメインの色成分についても同様に適用することができる。)
【0025】
カプセルカメラ自身による照射(例えば照明システム12)の下でカプセルカメラシステムの特性化を行うことができる。
図3は、本発明の一実施形態による、カプセルカメラ自身による照射の下でカプセルカメラのピクセル毎のばらつき及び設計上の不完全性を特性化する方法を示す。照射及びイメージングシステムの組み合わせの「ホワイトバランス」を補正することができる。
図3に示すように、少なくともレンズシステム、イメージセンサ、カプセルカメラのハウジング内の照明システム、及び送信器またはアーカイブメモリを備えるカプセルカメラを準備する(ステップ301)。次にステップ302では、既知の色、光強度、コントラストまたはパターンの光によって照射される対象物を、レンズシステムの視野に置き、露出させる。次にこれらのイメージを用いて、カプセルカメラシステムを特性化または較正する。そのイメージを、アーカイブメモリに格納するか、送信することができる。その後の時点で(ステップ303)、これらのイメージを用いて、臨床診断の目的で患者から撮像したイメージを較正する。
【0026】
較正中、種々の色の視野のイメージを取ることができる。各試験視野についての平均赤、緑、及び青ピクセル応答を、決定された理想応答及び補正係数と比較することができる。例えば、赤成分についての平均測定値がA
Rで、予測平均値がA
REの場合、係数A
RE/A
Rを用いて−測定されたイメージの各ピクセルにこの係数を乗ずることによって、色忠実度を補正することができる。同様の係数を、緑及び青成分について導出することができる。異なるテスト色視野により、三原色について異なる較正係数を求めることができる。代替的に、白色視野を用いて、全ての色を補正してもよい。同一テストパターンの複数のイメージを取ることができ、その結果を平均して、測定されたピクセル値から時間依存性ノイズを減らすことができる。複数のテスト条件にわたる較正係数の重み付け平均を求めて、その後のイメージ補正のために格納しておくことができる。較正係数は、カメラシステム01のカプセル内、データレコーダ内、またはワークステーションのソフトウェア内に格納することができる。較正係数は、方程式、曲線、区分的曲線またはルックアップテーブルを用いて各々定義することができる。ピクセル当たりのパラメータの数は、2以上でもよい。
【0027】
センサ16内では、各ピクセル値が、光入力に無関係の効果によっても影響を受ける。そのような効果は、「ダーク(暗部)」ピクセルの出力値にみられる。ダークピクセルは、光学システム14の視野内になく、一般的には光不透過性の材料によって覆われているピクセルであり得る。そのようなピクセルの出力値は光入力によらないが、熱誘導電荷漏れのような効果によって決まる。動作ピクセルは、ダークピクセルにおける熱誘導漏れ電流(またはダークピクセル群の熱誘導漏れ電流の平均)等をオフセット値として加えることによって補償され得る。熱誘導漏れ電流は、温度及び時間両方の関数である。動作時のカプセルカメラの温度は、人体の体温に、カプセルカメラの電力消費量と熱誘導の両方よって決まる2〜3度を加えることによって比較的一定の温度であることが予想される。一次推定としては、熱誘導漏れ電流は、ピクセルのプリチャージと読み出しの間の時間に比例する。
【0028】
レンズシステム14の効果を含む、ピクセル毎のばらつき、すなわち不均一なピクセル応答性は、R、G、及びB色成分のそれぞれについて以下の式(1)によって補償され得る。
式中、P
R、P
G、及びP
Bは、イメージセンサ16のピクセルから読み出された3つの色成分についての測定された成分値であり、F
R、F
G、及びF
Bはピクセル毎のばらつきを補正し、ピクセル値の平均値を調節するための増倍係数であり、C
R、C
G、及びC
Bは、正または負であり得、各ピクセルについてのオフセットである。このモデルでは、ピクセル応答は、ピクセルによって吸収された受け取った放射エネルギーに線形従属すると仮定されている。線形従属の傾きは、「応答性」である。ダークピクセル(すなわち、ゼロ入力放射エネルギー)において、ゼロ光応答性(「暗電流」)は、オフセットを表す。補償のための増倍係数の使用は、その単純さのために便利である。しかし、ピクセル特性が、成分値に対して非線形である場合には、更に複雑な補償関数が必要となり得る。一般的な場合では、項xF
k,k=R,G,Bがf
k(P
k))で置き換えられ得る。そのような関数は、例えば、対数または指数項を含む関数または多項式であり得る。当然ながら、f
k(P
k))は、他のパラメータ、例えば後述するように温度等の関数であってもよい。R、G、及びBは原色である。P
R、P
G、及びP
Bは、非負値である(個々の値は、その計算された値が負である場合は、ゼロに保たれ、または計算された値が2
N−1を超える場合は、Nビットの解像度について2
N−1に保たれる)。
【0029】
パラメータG
IR、C
IG、及びC
IBは、熱誘導漏れ電流に対して補償するために与えられる。漏れ電流の各色成分への影響度は、セルのプリチャージとセルの読み出しの間の時間である時間t
lに比例する。F
R、C
IR、及びC
Rについて解くために、2つの異なる照明強度及び2つの異なるt
l値を含む3つのテストイメージを取らなければならない。漏れ電流は、カプセルカメラ内で、またはカプセルカメラの外部で計算することができる。カプセルカメラの外部での計算のために、各イメージについてのタイミングパラメータをフラッシュメモリに格納させるか、無線で送信させる。これらのタイミングパラメータを格納するために必要なメモリ空間は、イメージのサイズに対して非常に小さい。上述の議論では、単に例示の目的でRGB空間を用いたが、他の色空間を用いてもよい。
【0030】
各色成分についてのデータを読み出す。一次推定として、即ち後述する熱誘導漏れ電流に対する補償なしで、2つのパラメータF
i及びC
iを、各色成分R、GまたはBについて格納または送信することができる。生カラーイメージデータも格納または送信して、空間の要求または送信電力を減らすこともできる。これらの生カラーイメージデータは、少ない数の、異なる強度で照射された赤、青、及び緑の対象物のイメージに対応し得る。或いは、各々が均一な既知の色を有する複数の対象物のイメージを用いて、これらの係数を導出することができる。例えば、同じRGB比率が用いられているが、異なる強度が与えられる照明条件を用いて、C
R、C
G、及びC
Bパラメータについて解くことができる。
【0031】
暗電流及び応答性の両方が、ピクセル毎に異なることから、これらのパラメータの値は各ピクセルについて計算され、各ピクセルに対してそのピクセルに関連するパラメータの値に基づいた補償が適用される。或いは、ブロック全体のピクセル群について計算された同じパラメータ値(例えば、同じ増加係数または増倍係数)を用いて、あるブロックのピクセルにおける各ピクセルについての補償を与えることができる。
【0032】
本発明者は、本発明の方法は、体腔条件の下で動作するカプセルカメラとしてではない、他の用途のために用いられるカメラにも適用可能であることも確認している。これらの他の用途のためには、C
IR、C
IG、及びC
IB、C
R、C
G,及びC
Bにおける温度依存性と、増倍係数F
R、F
G、及びF
B(またはそれらの関数形式)を考慮に入れなければならないこともあり得る。一実施形態では、例えば、複数の温度で測定値がとられる。各温度において、F
k(またはその関数形式)、C
lR、及びC
k、k=R、G、またはBは、上述の手順に従って解かれる。
【0033】
上述のように、動作中に利用可能な補償を行うために、係数は、製造時に各ピクセルについて計算され、格納され得る。或いは、既知の均一な照明条件の下で取られたイメージデータが、後で係数の計算をするために格納され得る。カプセルカメラにおいて動作中に取られたイメージの数は、数万のオーダーであり、特性化のための2、3個の、または20、30個のテストイメージデータのためのデータ格納要求はごく僅かなものであり、オンボードアーカイブメモリ(例えば、メモリ20)に格納され得る。これらのテストデータは、外部レコーダに無線で送信されてもよく、これは後で外科医がイメージを調べる際に用いることができる。各カプセルカメラには、識別番号(ID)が与えられ得る。IDに基づいて、テストデータをウェブサイトにアップして、撮像されたイメージデータを外科医が調べるときにウェブサイトからダウンロードすることもできる。
【0034】
上述の単純な関係に基づき計数を抽出するための計算要求(例えば、回路領域及び電力に関するもの)は、比較的小さく、テストイメージデータ(例えば各色成分の値)、またはオンボード回路によって計算され得る計数は容易に格納または送信され得る。電力及び回路要求を例示するために、30個の300k解像度イメージを処理するために要求されるJPEG回路について規模推定を考えてみる。(種々のよく使用されるファウンドリのライブラリから入手可能な、各々が約50kゲート以下からなるJPEG回路の多くの選択肢が存在する。)0.09gmプロセスの場合、平均固有ゲート容量は、以下の式で推定される。
(係数4は、均等なゲートが4トランジスタを有するという仮定である)。0.2μmの項は、フリンジング容量を表す。今日広く採用されている1コードワード当たり1クロックのJPEG標準の場合、リアルタイムのスピードで30フレームを走らせるために約30MHzが必要である。従って、固有容量の2倍の配線容量と、全回路の1/3のアクティブ化レートを仮定すると、要求される電力は以下のように推定される。
30フレームを処理するエネルギーは、2.25mW×1秒=2.25mJであり、この値は、カプセルカメラのバッテリー容量のなかではごく僅かな値である。比較により、上述の補償係数の計算のための方程式は、ISO10918−2JPEGコーディング標準で特定されている他のステップのなかの、空間周波数ドメイン離散コサイン変換(DTC)演算及びエントロピーコード化を含むJPEG処理のための計算要求と比較して非常に単純なものである。更に、特性化のために必要なイメージの数は、通常は実質的に30イメージ未満である。従って、カプセルカメラ自体で係数を抽出することも、実際上容易に達成され得る。
【0035】
従って、本明細書に記載の方法、及び他の方法を用いて撮像されたイメージを補正する負担については、これは煩雑な操作ではない。加えて、未補正のイメージにおけるピクセル毎のばらつきは、イメージデータのノイズとして提示されるので、圧縮イメージの圧縮比と質の両方は未補正のイメージより補正イメージにおいてより好ましいものとなる。除去手順なしで、そのようなノイズは、有用な情報内に混合され、その結果、圧縮されたイメージにおけるビット数を増加させる。短距離での差(例えば、隣接するピクセル間)は、周波数ドメインデータを増加させ、従って、圧縮ファイルサイズ及びイメージの質の両方に影響を及ぼす。圧縮中に、イメージデータ中のノイズの処理は、更に電力消費を増加させる。例えば、MPEG処理の場合、現フレームと基準フレームとの差分をコード化するために、前基準フレームが展開される。長距離での差(例えば、センサアレイ内で違いに一定距離だけ離れた2つピクセル間)は、MPEG様圧縮において動き推定に影響を及ぼす。そのような圧縮アルゴリズムにおける動き推定は、圧縮が動き推定後の空間及び周波数ドメイン変換によって行われるので、短距離での差及び長距離での差の両方によって影響を受ける。
【0036】
本発明の方法は、カメラの外部のイメージセンサの特性化にも適用可能である。そのような方法は、ノイズを少なくし、より良いマッチングを可能とし、その結果周波数ドメイン項が少なくなるので、より良い質、より良い圧縮比を達成し、より少ない電力要求しか提供しない。MPEG圧縮への影響は2倍である。即ち、短距離及び長距離のばらつきが補正される。補正により、センサ内の隣接または近接するピクセル間の短距離の圧縮比が向上し、長距離のばらつきは、短距離のばらつきより1桁大きい大きさとなる。カメラの対物光学要素も、別途特性化され得る。典型的には、各々の対物光学要素を別々に測定する必要はない。イメージセンサ及び対物光学要素についてのそれぞれの較正データが結合され得る。
【0037】
本発明の一実施形態では、イメージセンサは、上述の方法の1つ(一様な条件または既知の条件の下でのレンズを用いる、またはレンズを用いない方法)を用いて特性化される。イメージセンサは、一般的には圧縮ノイズのためにより高い周波数成分を有する。レンズが与えられる場合は、ほぼ理想的なレンズを用いるべきである。そうでない場合、レンズは、その不完全性を考慮に入れて、使用前にオフラインで光学的に特性化されるべきである。次に補正データが導出されるが、これは次いで特定のセンサに関連付けられる。次いで補正データは、後の使用のためにカメラ製造者に提供され得る。
【0038】
光源からの光は、ある程度は、カプセルハウジング10の内外の表面、及びカプセルハウジング10内の他の物(例えば粒子汚れ)によって反射される。そのような反射は、鏡面反射と散乱の両方であり得る。反射光の一部は、カメラの入光部を通過して、イメージセンサ上に集光され得る。光は、イメージセンサ16に達する前に、複数の対象物で複数回反射され得る。
【0039】
LED光の反射によるスプリアス信号は、撮像される映像から独立したものである。カプセルハウジング10の透明ウィンドウの表面からのイメージセンサ16によって撮像される反射照明光を特性化するために、カプセルカメラは、光吸収環境(即ち環境からの光反射がない状態)に全体が配置され得る。この配置の下で、イメージセンサ16において検知される光は、カプセルカメラハウジング10から、またはカプセル内の他の物から反射された、LEDからの放射光のみからなる。単純化のため、以下の議論では、LED光源を仮定するが、代わりに、白熱光、蛍光、電界電離イオン源、リン光、または任意の他の発光プロセスに基づく光源のような、他の光源も用いることができる。
【0040】
測定された赤、緑、及び青のピクセル信号は、以下の式で表され得る。
式中、C
lr,...C
nr,C
lg,...C
ng,及びC
lb,...C
nbは、各LEDの光強度に関連するパラメータであり、I
l,...I
nはそれぞれLED
l〜LED
nにおける電流であり、時間t
LEDl,...t
LEDnは、対応するLED電流の期間である。C
lR及びC
R等の負の項は、それぞれ前述した手順を用いて決定された漏れパラメータ及びオフセット値である。LEDから放射される光学的強度は、電流に対して概ね線形であることから、イメージセンサで検知された反射光は、個々のLEDを流れる電流を時間積分したものに比例することが予測される。単純化のため、方程式(2)は、LED
iについての電流I
iが一定であることを仮定しているが、式(2)の電流項の各々は、電流と時間の積ではなく、瞬間電流を時間で積分したものとして表すこともできる。
【0041】
各色についてn個の独立した線形方程式を解くことを可能とするべくn個の異なるLED電流の組み合わせに対して測定を行う。理想的には、各LEDは、順番にそれ自身によってオン状態にされる。赤についてのn個の方程式は、n個のイメージ、方程式(1)のイメージ試験から得られるオフセット値C
R、漏れ電流係数の値C
lRを用いて解くことができる。或いは、2つの追加のイメージを取って、方程式(2)を用いて、漏れ電流及びオフセット係数を得ることもできる。その場合、必要となる全イメージの数はn+2である。
【0042】
カプセルハウジング10の外側表面からの反射は、カプセルカメラが浸漬された媒体に左右される。多くの場合、GI管では、カプセルが水分の多い液体中に浸漬される。場合によっては、カプセルが部分的にのみ液体に覆われた状態になる。1つのLED反射の較正データの組は、水で満たされた黒い容器内にあるカプセルを用いて取ることができる。別の較正データの組は、水のない状態で取ることができる。GIイメージデータが補正された場合には、光学的補正を提供する較正データの組を選択することができる。異なるイメージ領域を補正するために異なる較正データの組を選択することができる。イメージ領域に対する適切な補正は、例えば以下に示すような種々の基準によって示すことができる。
1.空間周波数スペクトルの高い周波数成分を最小化する。
2.検出されたエッジに対するイメージ処理アルゴリズムを用いて、イメージにおける急峻なエッジを最小化する。
3.連続するイメージ間の変化を最小化する。
通常は、イメージ領域内のカプセルに接触する媒体は、あるフレームと次のフレームとで同一であり、従ってカプセルハウジング10の外側面からのLED反射についての各ピクセルにおける適切な補正は、あるフレームと次のフレームで不変である。補正が正しく(即ち、適切な較正データセットを用いて)特定された場合、イメージにおける変化は最小化される。
4.負でない補正ピクセル信号のみ生成する。負の値は、誤った較正データセットが適用されていることを示す。
【0043】
(対象物と光源の間の有限な距離及びそれらの相対位置によって生ずる)LEDによって対象物上に投光された不均一な光及び各LEDの独自性も補償され得る。小腸内部及び大腸内部の距離が分からない場合であっても、光源の位置と強度が既知であり、平均的な人間の腸は形状とサイズがある一定の特徴的な範囲を有するので、依然として補正をなすことができる。
【0044】
補償パラメータを抽出するべくデザインされた試験または特性化は、製造プロセス中(例えば、組立プロセス中)に実施することができ、得られたイメージとし、関連する情報または導出される係数とがカプセルカメラの内部または外部に格納される。
【0045】
代替的に、病院の技術者または外科医が、カプセルカメラを制御された特性環境を提供する容器内に入れて自動試験プログラムを実行することによって、特性化または試験を行うことができる。関連する情報または抽出された係数を有するテストイメージ群は、オンボードメモリに記憶させることができ、またはカプセルカメラが無線送信器及びアンテナを有している場合には、係数データベースまたは関連情報を有するイメージを外部に送信することもできる。これらのデータは、後で表示とアーカイブ化のためにワークステーションにおいて取り出すことができる。特性化データは、患者の健康記録または生の(即ち未補正の)イメージデータと共にアーカイブ化され得る。代替的には、補正されたイメージ及び特性化データが、どのよう補償手順が実施されたについての記述とともに格納される。外科医は、特性化データを用いて補正を解除する自由を有し得る。
【0046】
図4は、本発明の一実施形態による、上述の特性化手順を用いたカプセルカメラを使用するための方法を示す。
図4に示すように、少なくともレンズシステム、イメージセンサ、カプセルハウジング内の2つのLEDを有する照明システム、アーカイブメモリ、及び出力ポートを備えるカプセルカメラを準備する(ステップ401)。次に、ステップ402において、カプセルカメラを、外部光源のない光吸収環境中に置く。次いで、異なる相対的照明で、照明システムによる照明を使用して2つのイメージを取る。(用語「相対的照明」は、露出時間と光強度との積を表す。)次にそのイメージをアーカイブメモリに格納する。ステップ403において、カプセルカメラを、外部の照明源を用いて均一な照明条件の環境に置く。均一の照明条件及び読み出し回数に対するピクセルプリチャージの異なる3つのイメージを撮像する。次にこれらのイメージをアーカイブメモリに格納する。
【0047】
代替的に、ステップ402において、暗環境において、各々1つのLEDを自身でオンにして複数のイメージを取る。次に、2つの異なる時間だけ両LEDをオフにした状態で、2つのイメージを取る。LED反射とともに、時間依存的漏れ電流信号が特性化される。次に特性化データを、アーカイブメモリに格納する。次に、ステップ403で、LED照明なしで均一な白色背景で1以上のイメージを取る。(応答性を決定するためにはただ1つのイメージしか必要としない。)
【0048】
ステップ404において、カプセルカメラの照明システムを光源として用いて患者のGI管のイメージを取るために、カプセルカメラを患者が嚥下する。これらのイメージは取られてアーカイブメモリシステムに格納される。ステップ405において、カプセルカメラが患者の身体から排出された後、カプセルカメラを回収し、撮像されたイメージと、ステップ402及び403で取られたイメージ(格納されている場合)とを、カプセルカメラの出力ポートを通して取り出す。カプセルカメラシステムの特性化または較正のために、ステップ402及び403で取られたイメージを用いて、それぞれ方程式(2)及び(1)に従ってパラメータ値を抽出する。次に、抽出されたパラメータ値を用いて撮像されたイメージを補償する。
【0049】
代替的に、テストデータまたは特性化データを、外部での保存のために、出力ポート(例えば出力ポート28)を通して伝送するか、または無線手段によってカプセルカメラの外部へ送信する。
図5は、
図4に関連付けて説明した本発明の代替的実施形態を示す。
図5に示す方法においては、アーカイブメモリの代わりに、不揮発性メモリバッファと送信器を備えたカプセルカメラが提供される。ステップ502及び503で取られたイメージを含むカプセルカメラで取られたイメージは、初めに不揮発性メモリバッファに格納され、外部の受信器に送信され、そこでイメージが後続のステップで使用するために保存される。一実施形態では、カプセルカメラが患者の測定情報を取得する直前に、格納された補正用イメージデータ及び係数が無線で受信器に送信される。
【0050】
カプセルカメラは、IDでマーキングされてもよく、外部で格納されたテストデータまたはテストデータから抽出されたパラメータは、ウェブサイトから、電子メールで、フラッシュメモリに保存して、ビデオCD(VCD)上に保存して、または他の手段によって利用可能とされ得る。一実施形態では、カプセルカメラがGI管を移動して回収された後、測定データをワークステーションにダウンロードすることができ、ワークステーションでは、テストデータまたはテストデータから取り出されたパラメータを取り出して撮像されたイメージデータを補償することができる。代替的に、IDまたはID情報を、テストまたは特性化イメージ若しくは係数データに埋め込むことができる。ワークステーションにおいて、技術者が、埋め込まれたIDを用いて、目的のテストまたは特性化データ若しくは係数を別の記憶媒体から取り出し、補償処理を行うことができる。
【0051】
図6は、
図4に関連付けて説明した本発明の代替的実施形態を示す。
図6に示す方法においては、アーカイブメモリの代わりに、デバイスIDを有し、送信器及びアンテナを備えたカプセルカメラが提供される。ステップ602及び603で取られたイメージを含むカプセルカメラで取られたイメージは、初めに不揮発性メモリバッファに格納され、外部の受信器に送信され、そこでイメージが後続のステップで使用するために保存される。イメージは、外部の保管場所に格納され、その保管場所は、インターネットで取り出す形での利用が可能なものとすることができる。保管場所から取り出されたこれらのイメージは、構造のステップで使用される。
【0052】
図7は、イメージセンサアレイ(例えばセンサアレイ16)と、例えば
図1のカプセルカメラ01のレンズ14等の光学システムによって生成されたイメージのフットプリントとの間の位置合わせを示す。理想的には、
図7に示すように、全ての要素に欠陥がなく、完全に位置合わせされている場合には、撮像されたイメージの光学中心が、センサアレイの中心に完全に一致する。しかし、実際には、撮像されたイメージの中心とセンサアレイの中心は完全には位置合わせされない。加えて、不完全性は典型的には、光学システムの構成要素に存在する。通常は、前イメージがセンサアレイに捕捉されることを確実にするために、撮像されたイメージは、センサアレイのサイズより僅かに小さくなるように設計される。上述の特性化のためのテストイメージを使用して、撮像されたイメージとセンサアレイの中心との位置ずれを導出することができる。例えば、均一照明の下で、センサアレイの各列のある色要素の平均値は、撮像されたイメージのエッジ(例えば、左から右にスキャニングして、暗状態から被照明状態への強度が遷移する右側の列、及び被照明状態から暗状態へイメージが遷移する左側の列)がどこにあるかを示す。複数の列に沿って同じ手順を行うと、イメージの上部及び下部のエッジがある場所が示される。
【0053】
他の例として、テストイメージが、反復パターンからなる場合、JPEGまたはMPEG処理で使用されているようなDCTを用いて、周波数ドメインのイメージ情報を計算することができる。イメージフットプリントは、パターンが明確に認識可能になる位置に対応する、DCT値が急激に増加する場所に配置される。光学中心とセンサアレイの中心との間のオフセット(例えば、xy座標で表される偏位)は、登録場所または不揮発性メモリ(例えばアーカイブメモリ20)に、後の基準のために格納され得る。センサアレイの動作境界を実際のイメージフットプリントまたはイメージフットプリントの「意味のある」部分(実際の視野となる領域が予測される部分)に切り取ることによって、センサアレイの実際の有用な視野の外側の領域上で電力が無駄に消費されないことになる。更に、イメージを格納するために必要な空間またはイメージを送信するために必要な帯域幅も減らされる。ワークステーションの利用率は向上し、アーカイブ管理も容易になる。
【0054】
DCTは、輝度のために8×8ブロックで行われ得る。従って、一実施形態では、ピクセルのM列の領域を処理するために、各行に対して、(M/8+1)ブロックが用いられる。そのような配置の下では、解像度は行及び列の両方向に8ピクセルである。64DCT値が前のブロックより増え始めるか減り始める場所の8×8ブロックが見いだされると、現8×8ブロックが、前ブロックの最終列を同じ列に含めることによって再形成され、新たなDCT値が計算される。DCT値が、更に増加または減少している場合には、その手順は、その前ブロックの1つの更なる列を含めるように反復される。この手順は、DCT値の最大値または最小値が見いだされるまで反復され、この最大値または最小値はDCT値が、行方向に増え始めるか減り始める場所を表す。列方向に適用されたとき、この方法で、DCT値が列方向に増え始めるか減り始めるピクセルが見つかる。
【0055】
別の例では、エッジ情報を用いて位置合わせ情報を提供することができる。現在の市販のカメラの多くや、イメージ後処理ソフトウェアでは、エッジ強調が用いられる。エッジを抽出するための1つの方法は、隣接する列のピクセル間の輝度の差を見いだすことである。その差は、一方向におけるエッジ情報を提供する。同じ手順を、隣接した対応するピクセル同士に用いて、列方法のエッジ情報を得ることもできる。列及び行方向について得られたエッジを一緒に用いることができる。
【0056】
図7にも示されているように、レンズにおける個々のばらつきのために、各レンズの拡大係数は全カプセルカメラにわたって同一でなく、カメラ毎に異なるフットプリントが生ずる。イメージフットプリントの代替的な表現は、例えば、矩形のイメージフットプリントの2つの頂点であり得る。上述のように、イメージ補償は、(例えば、イメージプロセッサ18、またはセンサアナログゲインを制御し、各ピクセルの各色成分に対してオフセットを提供することによって)カプセルカメラ内で行われ得る。補償または特性化パラメータ値に必要な記憶空間は、別体の不揮発性フラッシュメモリに、特定用途向け集積回路(ASIC)に提供されたメモリに、またはイメージセンサに与えられ得る。代替的に、補償または特性化パラメータ値を、撮像されたイメージデータのための同一の不揮発性フラッシュ記憶装置(例えばアーカイブメモリ20)に格納することもできる。
【0057】
図8Aは、LEDの放射パターンのランバート曲線(LEDの軸線に対する角度の関数として輝度を示す極座標)を示し、
図8Bは、角度の関数としての輝度(線形スケール)を示す。これらの図は、実際のLEDの設計の不完全性を示す。
【0058】
図9は、レンズの格子歪み図を示す。
図9に示すように、中央部の歪みは最小(即ち、実際の格子点が、基準格子によく一致している)であるが、中心から離れるにつれて歪みが現れるようになる。
【0059】
LED製品には、大量生産時のばらつきが存在するので、
図8A、
図8B、及び
図9によって示された設計上の問題の間には基本的な差異がある。或いは、レンズ製造において、格子歪みによって測定されるように、ばらつきは、小さくかつ決定論的なものである。
図9に示される問題は、データ取得の後であっても、表示前に、ワークステーションまたは他のコンピュータ上で取得したイメージの逆写像をとることによって、大部分を補償することができる。
図8A及び
図8Bにおける不完全性は、設計の不完全性と製造上のばらつきの両方によって生じている。そのような不完全性またはばらつきは、
図2〜
図6に示す上述の方法を用いて効率的に取り扱うことができる。
【0060】
一実施形態では、格子歪みは、表示前に、
図2〜
図6に示す方法を用いて、既知のパターン、例えば格子パターンをイメージングし、エッジを検出(前述)して、光学的不完全性(設計の不完全性及び製造上のばらつき)によって生じたセンサ表面上のイメージの歪みの程度を計算することによって補償することもできる。他の問題(例えば、横の色の影響)は、簡単に解決できる。決定論的なもの場合には、イメージは、そのイメージが表示される前にワークステーション上で補償することができ、欠陥が設計の不完全性及び製造上のばらつきの両方によって生じている場合には
図2〜
図6の方法のみを現実に用いて補償し、医療装置用との場合にも高い忠実度と高い検出率が得られる。
【0061】
撮像されたイメージの正確な再現もまた重要である。上述のもののような技術は、テレビセットを含む全ての表示装置に適用可能である。近年、表示装置産業では、標準精細度(SD)から、高精細度(HD)及び超高精細度(UHD)及び他の解像度までイメージ解像度を増加させてきた。解像度が大きくなることに加えて、表示装置は、その色解像度も、色成分当たり8ビットから9ビット、更には10ビットまで向上させてきた。従って、製造上のばらつきを制御する必要も、著しく高まってきており、その結果表示の質を確保するためのコストも著しく増加してきている。
【0062】
本発明の一態様によれば、表示装置の較正を提供するために、表示可能な色の全範囲のために設計された標準化カラーパターンが、制御された動作条件の下での表示装置上への表示のためのイメージとして提供される。このステップは、製造ステップとして実施され、または必要な場合に後のタイミングで反復することができる。多くの表示装置では、色/強度の再現の精度も、動作温度に応じて異なる。色/強度の再現の精度が動作温度に応じて異なる場合、較正に、動作条件として動作温度も考慮にいれることができる。動作温度を考慮に入れるために、表示装置は、好ましくは、表示パネルの動作温度を測定するように構成された温度計を備える。
【0063】
較正中、診断システムは、表示装置上に表示されたイメージの各ピクセルにおける各色成分の強度を検出する。診断システムは、動作範囲のなかのある範囲にわたる各ピクセルの色及び強度の決定のためのセンサ(例えば、フォトダイオード、フィルタ)を備える。各較正動作点において、各ピクセルの各色成分の強度は、その対応する予測値と比較されて、差があればそれが求められる。次に、診断システムは、測定された差に基づいて補正用データを提供することができる。補正用データは、例えば、所望の色及び強度を達成するため必要な各色成分の入力値に対する補償値の形態であり得る。次いで補正用データは、不揮発性メモリに記録されて、更なる表示動作のために各ピクセルに対する必要な補正がなされ得るようにする。
【0064】
本発明の一実施形態によれば、表示装置には、熱を測定する手段(熱電対等の「温度計」)が設けられ得る。動作温度は、動作パラメータと考えることができる。典型的には、表示装置の動作温度は、表示装置の電力消費、熱抵抗、及び周囲温度並びに空気流に応じて、周囲温度より高くなる。一部の表示装置では、動作温度を考慮に入れた補償が望ましいことがある。
【0065】
本発明の一実施形態によれば、補正用データは、不揮発性メモリにあらゆる適切なフォーマットで格納され得る。例えば、入力値及び動作温度の全範囲にわたる各ピクセルの各色成分に対する必要な補償値は、テーブル(表)形式で与えられ得る。イメージを表示する前に、入力値及び測定された動作温度を用いて、各ピクセルの各色成分についてテーブルにアクセスがなされる。こうして得られた補償値は、必要であれば補間または外挿を行った後に、対応する入力値に加えられて、表示される。代替的には、本発明の一実施形態によれば、1以上の補正用モデル(例えば、入力値及び温度の線形関数または多項式関数)に対して補正用データの曲線適合が行われた後、次にモデルのパラメータ(例えば多項式関数の係数やオフセット)を格納される。そのような場合には、イメージを表示する前に、表示装置が、対応する入力値及び動作温度に基づいて各ピクセルの各色成分についての補償値を計算する。次に、計算された補償値に基づいて各入力値を調節した後、イメージが表示される。
【0066】
上述の方法では多くの改変形態が利用可能である。例えば、補正用データを格納するためのメモリ要求を減らすトレードオフが、補正用データをピクセル単位でなく隣接するピクセル群単位に格納することによって利用可能となる。その形式によれば、グループ特有の補正用データを用いて、各ピクセルに対して補正がなされる。例えば、入力値の重み付け平均に基づいて格納された補正用データから導出された量の分、各ピクセルを補償することができる。一部の表示装置において、補正用データが特定グループ単位で格納される場合、各ピクセルの補償を決定する際に、ピクセルのグループで高コントラスト条件を考慮に入れることができることは有利である。別の改変形態では、各色成分及び温度の入力値を用いて、補正された値を探し出す。補正された値、従って取得され、置換された入力値を用いてイメージを表示することによって、補償が適用される。
【0067】
別の方法は、ルックアップテーブルの技術と補間または外挿の技術のハイブリッド方式である。例えば、補正用データは、モデルパラメータの値とともに、選択された入力範囲及び選択された温度範囲に対する補正値を含むテーブルの形式で格納され得る。そのような場合、各色成分についての実際の補正値は、モデルパラメータ値を用いてテーブルから得られた値から補間または外挿から計算することが可能である。
【0068】
補償は、デジタルまたはアナログドメインで行うことができる。例えば、
図10は、本発明の一実施形態による、デジタルドメインでのピクセル値を補償するために設けられる、表示装置1100内の構造を示す。
図10に示すように、表示されるイメージに対する入力値は、イメージ処理ユニット1101で受け取られ、イメージ処理ユニットは、不揮発性メモリ1102から補正用データまたはパラメータを取り出す。イメージ処理ユニット1101は、次に、必要であれば、イメージの各ピクセルの各色成分に対して必要な補償を計算し、適用する。次に得られた補正済みデータはディスプレイドライバ1103に供給され、ディスプレイドライバは、ディスプレイハードウェア1104の制御信号及びデータ信号を供給する。
【0069】
代替的に、
図11は、本発明の一実施形態による、アナログドメインでのピクセル値を補償するために設けられる、表示装置1200内の構造を示す。
図11に示すように、従来のイメージ処理の後に、表示されるイメージに対する入力値は、デジタル回路とアナログ回路の両方を備えたものであり得るディスプレイドライバユニット1203、及び不揮発性メモリ1202に供給される。入力値を用いて、不揮発性メモリ1202から補正用データを取り出す。次に、ディスプレイユニット1203は、イメージの各ピクセルの各色成分を所望の値に正確に再現するために必要な補償を適用する(例えば、各ピクセルにおけるゲインまたはオフセットを調節する)。補正された値に基づいて、ディスプレイドライバユニット1203は、ディスプレイハードウェア1204に制御信号及びデータ信号を供給する。
【0070】
本発明の一実施形態によれば、表示装置自身において補償を提供するのではなく、別の装置(例えばコンピュータ、表示装置にイメージデータを供給するセットトップボックス)が、表示装置が補償されたイメージデータを供給する前に、イメージデータに対して補償を行うことができる。その実施形態では、補償を行う装置は、表示装置の不揮発性メモリから補正用データを取り出す。
【0071】
上記の説明は、本発明の特定の実施形態を例示する目的で提示されたものであり、発明の限定を意図するものではない。本発明の範囲内で多種多様な改変形態が可能である。本発明の範囲は、特許請求の範囲の請求項の記載によって定められる。