(58)【調査した分野】(Int.Cl.,DB名)
前記第1及び第2の2Dモノクロ画像データを生成する前に、ダウンサンプリングされた2Dカラー画像データを生成するために、前記第1及び第2の2Dカラー画像データをダウンサンプリングすることを更に含む、請求項1に記載の方法。
前記3Dカラー画像データ、前記第1の2Dカラー画像データ、前記第2の2Dカラー画像データ、及び前記更なる2Dカラー画像データの少なくとも1つを表示するディスプレイユニットを更に備える、請求項25に記載の3Dスキャンシステム。
前記3Dカラー画像データ、前記第1の2Dカラー画像データ、前記第2の2Dカラー画像データ、及び前記更なる2Dカラー画像データの少なくとも1つをディスプレイユニット上に表示することを更に含む、請求項27に記載の方法。
【発明を実施するための形態】
【0031】
図1Aは、3Dスキャンされるオブジェクト50から色情報を収集し、オブジェクト50の3Dカラー表現を表示する、3Dスキャンシステム100のブロック図を示す。3Dスキャンシステム100は、ハンドピース102、ケーブル106を使用してハンドピースに接続されたコンピュータシステム104、及びケーブル110を使用してコンピュータシステム104に接続されたディスプレイユニット108を含む。
【0032】
ハンドピース102は、下側の表面内にウィンドウ114を有するハウジング112を含む。ハンドピース102はまた、ウィンドウ114を透過してオブジェクト50上に光119を投射する照明ユニット116を含む。本明細書における例示的な実施形態により、照明ユニット116は、発光ダイオード(LED)、例えば光119として白色光をオブジェクト50上に投射するLED118及び120を含む。本明細書における別の例示的な実施形態では、照明ユニット116は、複数の白色光投射LEDを含み、複数は、例えば12個のそのようなLED(図示せず)を含む。本明細書における更に別の例示的な実施形態により、照明ユニット116は、赤色、緑色、及び青色の光をそれぞれ投射する、複数のLED(例えば、3つのLED、図示せず)を含む。本明細書におけるまた更なる例示的な実施形態では、照明ユニット116は、例えば390nmから700nmの波長範囲などの、光の可視スペクトルの少なくとも実質的部分を合わせて含む、複数の有色LED(図示せず)を含む。本明細書におけるまた更なる例示的な実施形態により、照明ユニット116は、例えば、ランダムドットパターン、明暗ストライプパターン、又は有色ストライプパターンなどの特徴を有し、光の可視スペクトルの少なくとも実質的部分を含む、構造化された光を光119として投射する。他の実施形態では、上記の実施形態の1つ以上の態様は、合わせて使用することができる。
【0033】
照明ユニット116から放射された光119の少なくとも一部は、参照番号121で表されるように、オブジェクト50により反射されてウィンドウ114を透過してハンドピース102内に戻る。オブジェクト50により反射された光121を光学システム124に向けて反射するように、鏡122が設けられている。光学システム124は、少なくとも1つのレンズ126、並びに内部に形成された第1の開口部132及び第2の開口部134を有するマスク130を含む。レンズ126は、オブジェクト50及び鏡122により反射された光を、光が第1の開口部132及び第2の開口部134を通過するように、集束させる。
【0034】
第1の開口部132を通過する光は、カメラユニット140のカラー画素センサーアレイ148の第1の部分142上に、第1の画像を形成するように投射される。同様に、第2の開口部134を通過する光は、カメラユニット140のカラー画素センサーアレイ148の別個の第2の部分144上に、第2の画像を形成するように投射される。本明細書における例示的な実施形態により、第1の開口部132を通過する光は、光学コンポーネント136を経由して第1の部分142上に投射され、第2の開口部134を通過する光は、光学コンポーネント138を経由して第2の部分144上に投射される。本明細書における例示的な一実施形態では、光学コンポーネント136及び138は、菱形プリズムである。
【0035】
本明細書における例示的な実施形態により、本明細書で更に説明されるように、カラー画素センサーアレイ148の第1の部分142又は第2の部分144のいずれかの上のいずれかに投射された光が、最初にカラーフィルターアレイ150の対応する部分を透過し、次に画素センサーアレイ152の対応する部分に同様に伝達されるように、
図1A及び
図1Bに示されるように、カラー画素センサーアレイ148は、画素センサーアレイ152の前に配設されたカラーフィルターアレイ150を含む。
【0036】
再び
図1Aを参照して、カラー画素センサーアレイ148の第1の部分142及び第2の部分144は、カラー画素センサーアレイ148の第1の部分142及び第2の部分144のそれぞれの上に投射された赤色光、緑色光、及び青色光の強度にそれぞれ比例する3つの値を有するRGB信号を出力するように、受信した光に応答することにより、画像取得を実行する。カラー画素センサーアレイ148の第1の部分142及び第2の部分144の画素からの信号は、ケーブル106を介してコンピュータシステム104に(素子152を経由して)供給され、コンピュータシステム104は、信号から二次元(2D)画像データを既知の方法で生成することにより応答する。オブジェクト50の第1及び第2の2D画像データは、それにより、カラー画素センサーアレイ148の第1の部分142及び第2の部分144からそれぞれ取得される。
【0037】
いくつかの実施形態では、カメラユニット140から出力されるカラー画素センサーアレイ148の第1及び第2の部分142及び144からの信号は、アナログ信号であり、コンピュータシステム104内に含まれるアナログ−デジタル変換器により、対応するデジタル信号に変換される。他の実施形態では、カメラユニット140自体が、カラー画素センサーアレイ148の第1及び第2の部分142及び144から出力されるアナログ信号を対応するデジタル信号に変換するアナログ−デジタル変換器を含み、デジタル信号はその後カメラユニット140によりケーブル106を介してコンピュータシステム104に出力される。
【0038】
ハンドピース102はまた、駆動回路146も含む。本明細書における例示的な一実施形態では、駆動回路146は、カメラ140、LED118、及び/又はLED120のそれぞれを駆動及び/又は保持するための1つ以上の個別の回路基板などの、1つより多い電気的に接続された回路構成要素を含むことができる。駆動回路146は、例えば、カメラユニット140及び照明ユニット116を含むがこれらに限定されない、ハンドピース102内の電子素子及び様々な構成要素の動作を制御する。例示的な一実施形態では、オブジェクト50の照明及び画像取得が実質的に同時に起こるように、カメラユニット140は、駆動回路146をトリガーしてLED118及び120を画像がカメラユニット140により取得されるのと実質的に同時に明滅させる。
【0039】
以下に詳細を説明するように、コンピュータシステム104は、カメラユニット140により供給される信号を処理して3Dデータを生成し、3Dデータは、システム104によりケーブル110を介してディスプレイユニット108に供給され、ディスプレイユニットは、対応するカラー3D映像をリアルタイムに表示する。
【0040】
図2は、コンピュータシステム200のブロック図を示す。本明細書における例示的な一実施形態では、コンピュータシステム200の少なくともいくつかの構成要素(それらのすべての構成要素又は構成要素228以外のすべての構成要素など)は、
図1Aに示すコンピュータシステム104内に形成する又は含めることができ、コンピュータシステム200は、
図1Aに示すハンドピース102にケーブル106を介して、通信インターフェース246(以下に述べる)を経由して接続される。コンピュータシステム200は、少なくとも1つのコンピュータプロセッサ222(「コントローラ」とも呼ばれる)を含む。コンピュータプロセッサ222としては、例えば、中央処理ユニット、多重処理ユニット、特定用途向け集積回路(「ASIC」)、フィールド・プログラマブル・ゲート・アレイ(「FPGA」)等を挙げることができる。プロセッサ222は、通信基盤224(例えば、通信バス、クロスオーバーバーデバイス、又はネットワーク等)に接続される。この例示的なコンピュータシステム200に関して本明細書に種々の実施形態が説明されるが、この説明の一読後、当該技術分野(単数又は複数)の当業者には、他のコンピュータシステム及び/又はアーキテクチャを用いて本発明をどのように実装するかが明らかになる。
【0041】
コンピュータシステム200はまた、通信基盤224(又はフレームバッファ(図示せず))からのビデオグラフィックス、テキスト、及び他のデータを、ディスプレイユニット228上への表示のために転送する表示インターフェース(又は他の出力インターフェース)226を含む。本明細書における例示的な一実施形態では、ディスプレイユニット228は、ディスプレイユニット108内に形成する又は含めることができ、通信基盤224は、ケーブル110内に形成する又は含めることができる。表示インターフェース226は、例えば、グラフィックス処理ユニットを有するビデオカード、又は3D単一フレーム情報を計算することが可能なビデオカードを含むことができる。具体的には、そのようなビデオカードの例としては、ATI又はNVIDIAビデオカードを挙げることができる。
【0042】
コンピュータシステム200はまた、コンピュータプロセッサ222に情報を送信するように、コンピュータシステム200のユーザによって使用され得る入力ユニット230を含む。例えば、入力ユニット230は、キーボードデバイス及び/若しくはマウスデバイス、又は他の入力デバイスを含み得る。一例では、ディスプレイユニット228、入力ユニット230、及びコンピュータプロセッサ222は、ユーザインターフェースを集合的に形成することができる。
【0043】
タッチ画面を含む例示的な実施形態において、例えば、入力ユニット230及びディスプレイユニット228が組み合わされ得る。そのような実施形態において、ディスプレイユニット228に触れるオペレータは、対応する信号を、ディスプレイユニット228から、例えばプロセッサ222等のプロセッサへこれらの信号を転送することができる、表示インターフェース226へ送信させることができる。
【0044】
加えて、コンピュータシステム200は、好ましくはランダムアクセスメモリ(「RAM」)である主メモリ232を含み、また二次メモリ234も含み得る。二次メモリ234としては、例えば、ハードディスクドライブ236及び/又は取り外し可能な記憶ドライブ238(例えば、フロッピーディスクドライブ、磁気テープドライブ、光ディスクドライブ、フラッシュメモリドライブ等)を挙げることができる。取り外し可能な記憶ドライブ238は、周知の様式で、取り外し可能な記憶ユニット240から読み取る、及び/又は取り外し可能な記憶ユニット240へ書き込む。取り外し可能な記憶ユニット240は、取り外し可能な記憶ドライブ238によってそこに書き込まれる及びそこから読み取られる、例えば、フロッピーディスク、磁気テープ、光ディスク、フラッシュメモリデバイス等であり得る。取り外し可能な記憶ユニット240としては、コンピュータで実行可能なソフトウェア命令及び/又はデータを記憶する、非一時的なコンピュータ可読記憶媒体を挙げることができる。
【0045】
代替的な実施形態において、二次メモリ234は、コンピュータシステム200内にロードされる、コンピュータで実行可能なプログラム又は他の命令を記憶する、他のコンピュータ可読媒体を含み得る。そのようなデバイスとしては、取り外し可能な記憶ユニット244及びインターフェース242(例えば、ビデオゲームシステムで使用されるそれらに類似のプログラムカートリッジ及びカートリッジインターフェース)、取り外し可能なメモリチップ(例えば、消去可能でプログラム可能な読み出し専用メモリ(「EPROM」)又はプログラム可能な読み出し専用メモリ(「PROM」))及び関連付けられたメモリソケット、並びに、ソフトウェア及びデータが、取り外し可能な記憶ユニット244からコンピュータシステム200の他の一部に転送されることを可能にする、他の取り外し可能な記憶ユニット244及びインターフェース242を挙げることができる。
【0046】
コンピュータシステム200はまた、ソフトウェア及びデータが、コンピュータシステム200と外部デバイスとの間で転送されるのを可能にする、通信インターフェース246を含み得る。通信インターフェース246の例としては、モデム、ネットワークインターフェース(例えば、イーサネット(登録商標)カード)、通信ポート(例えば、ユニバーサルシリアルバス(「USB」)ポート又はFireWire(登録商標)ポート)、PCメモリカード国際協会(「PCMCIA」)インターフェース等が挙げられる。通信インターフェース246を介して転送されるソフトウェア及びデータは、電子、電磁気、光学、又は、通信インターフェース246によって送信及び/若しくは受信されることが可能である別の種類の信号であり得る、信号の形態であり得る。信号は、通信パス248(例えば、チャネル)を介して通信インターフェース246に提供される。通信パス248は信号を搬送し、ワイヤ又はケーブル、光ファイバ、電話線、セルラリンク、無線周波数(「RF」)リンク等を用いて実装され得る。通信インターフェース246は、コンピュータシステム200とリモートサーバー又はクラウドベースの記憶装置(図示せず)との間でソフトウェア又はデータを転送するために使用することができる。
【0047】
1つ以上のコンピュータプログラム(コンピュータ制御論理とも称される)は、主メモリ232及び/又は二次メモリ234に記憶される。コンピュータプログラムはまた、通信インターフェース246を介して受信され得る。コンピュータプログラムは、コントローラ/コンピュータプロセッサ222によって実行されるとき、コンピュータシステム200に、例えば、本明細書に記載され、
図3A及び
図3Bに示されるように手順を実施させる、コンピュータで実行可能な命令を含む。従って、コンピュータプログラムは、コンピュータシステム104及び3Dスキャンシステム100の他の構成要素(例えば、カメラユニット140及びディスプレイユニット108)を制御することができる。
【0048】
本明細書の1つの例示的な実施形態において、ソフトウェアは、取り外し可能な記憶ドライブ238、ハードディスクドライブ236、及び/又は通信インターフェース246を用いて、非一時的なコンピュータ可読記憶媒体に記憶され得、コンピュータシステム200内にロードされ得る。制御論理(ソフトウェア)は、コントローラ/コンピュータプロセッサ222によって実行されるとき、コンピュータシステム200及びより広くは3Dスキャンシステム100に、本明細書に記載の手順を実行させる。
【0049】
別の例示的な実施形態では、ACIS、FPGA等のハードウェア構成要素は、本明細書に記載の機能を実行するように使用され得る。本明細書における更なる例示的な実施形態では、ASIC若しくはFPGA又は他の回路は、例えば、画像圧縮などの画像前処理を実行するようにカメラの電子機器回路内に使用され得る。本明細書に記載の機能を実施するためのかかるハードウェア構成の実装は、本説明を考慮すれば、当該技術分野(単数又は複数)の当業者には明白になる。
【0050】
図2のコンピュータシステム200を説明してきたが、ここで、
図3から
図10に関連して3Dスキャンシステム100を更に説明する。
【0051】
図3Aは、本明細書の例示的な実施形態に係る、3Dスキャンされるオブジェクト50に関する色情報を生成及び表示するための処理300の流れ図である。処理は、ステップS302から開始される。
【0052】
3Dスキャンされるオブジェクト50が充分なコントラストを有しない場合、オブジェクト50に対応する高品質な3D画像データを得るのが困難なことがある。充分なコントラストを有するオブジェクトを提供するために、必要と思われる場合、ステップS304で、光学的コントラスト粉末を、オブジェクト50に付加することができる。
【0053】
すなわち、対応する3D画像データを得るために充分なコントラストを提供するように光学的コントラスト粉末がオブジェクト50に付加される実施形態では、ステップS304が実行される。ステップS304では、光学的コントラスト粉末がオブジェクト50に付加され、より具体的には、歯科医療従事者が、光学的コントラスト粉末をオブジェクト50上にはけで塗る、又は吹き付ける。光学的コントラスト粉末がオブジェクト50に付加されない他の実施形態では、ステップS304は実行されない。
【0054】
ステップS304で付加される光学的コントラスト粉末は、例えば白色、黒色、又は黒色及び白色の粒子で構成されていてもよい。本明細書の別の例示的な実施形態では、光学的コントラスト粉末は、複数の有色粒子で構成されていてもよい。光学的コントラスト粉末が、1色より多い色(例えば、黒色及び白色)粒子で構成されている場合、それぞれの色の粒子は、異なる量の光の特定の色(例えば、白色)を吸収することが望ましい。また、光学的コントラスト粉末が粒子(例えば、黒色及び白色)で構成される場合、本明細書の例示的な一実施形態では、それぞれの粒子のカラー画像は、粒子の像を映し出すために光が透過するカラーフィルターの色(すなわち、赤、青、又は緑)に関わらず同じように見えることが望ましい。オブジェクト50の色がカメラユニット140によりキャプチャすることができるように、光学的コントラスト粉末の粒子が、ブジェクト50の表面を完全には覆い隠さないこともまた有用であり得る。ステップS304でオブジェクト50に付加することができる光学的コントラスト粉末の一例は、Luらによる「Contrast Pattern Application For Three−Dimensional Imaging」と題された、米国特許出願公開第2013/0244199号に開示されており、本明細書にすべてが記載されたかのように参照によりその全体が本明細書に組み込まれる。
【0055】
ハンドピース102がオブジェクト50をスキャンするために移動されるときに、3Dスキャンシステム100がカメラユニット140の動きを補償することができるように、3Dスキャンシステム100は、正確な3Dデータを得るため及び基準点を提供するために、光学的コントラスト粉末を利用することができる。3Dスキャンシステム100がオブジェクト50をスキャンする際に、光学的コントラスト粉末の粒子がオブジェクト50を完全には覆い隠さないことは有用であり得る。オブジェクト50が光学的コントラスト粉末の粒子により完全には覆われていない場合、オブジェクト50の色(単数又は複数)に関する情報は、3Dスキャンシステム100によりキャプチャすることができる。加えて、以下に説明されるように、ステップS322で3Dデータを生成するために、カラー画素センサーアレイ148の第1の部分142により生成される2D画像データを、カラー画素センサーアレイ148の第2の部分144により生成される2D画像データと相関させるために、3Dスキャンシステム100は、光学的コントラスト粉末の粒子を基準マーカーとして使用することができる。
【0056】
ステップS306で、オブジェクト50は、光119により照明され、カメラユニット140は、少なくとも1つの画像をキャプチャする。例えば、コンピュータシステム104は、信号をケーブル106を介してハンドピース102に送信し、カメラユニット140に画像をキャプチャさせると一方で、同時に駆動回路146に照明ユニット116を制御させてオブジェクト50を照明するように出力光119を(所定の明滅速度で)明滅させる。オブジェクト50が光119(例えば、上述した種類の光のいずれか)で照明される結果として、上述したように、ハンドピース102内に反射されて戻る光121は、素子122、124、130、136、及び138を介して転送され、カメラユニット140の第1の部分142及び第2の部分144によりキャプチャされる。(前記の方法で、ステップS306で、複数の画像を(それぞれの時間に)キャプチャすることができる。)
【0057】
より具体的には、光119が白色光である例示的な実施形態により、照明ユニット116は、それぞれ白色光を放射するLED118及び120を含み、コンピュータシステム104は、駆動回路146の制御下でLED118及び120に白色光を所定の明滅速度で明滅させる。もちろん、上述したように、照明ユニット116は、2つの白色光を放射するLED以外のLED構成を含むことができる。
【0058】
オブジェクト50が充分なコントラストを有しない(それによりオブジェクト50に対応する3D画像データを得ることが困難になる)と思われ、光学的コントラスト粉末がステップS304で付加されない場合、照明ユニット116が、例えば、ランダムドットパターン、明暗ストライプパターン、又は有色ストライプパターンなどのコントラストを強調する特徴を有する構造化された光であるような、光119を投射することにより、ステップS306を実行することができる。構造化された光のコントラストを強調する特徴は、光学的コントラスト粉末と同様に、3Dスキャンシステム100がそれを使用してカメラユニット140の動きを補償し、ステップS322に関して以下に説明するように、3Dデータを生成するために、カラー画素センサーアレイ148の第1の部分142より生成される2D画像データを、カラー画素センサーアレイ148の第2の部分144により生成される2D画像データと相関させることができるような、基準点を提供する。
【0059】
本明細書の更に別の実施形態では、光学的コントラスト粉末は、ステップS304で付加され、照明ユニット116は、ステップS306で、構造化された光を光119としてオブジェクト50上に投射する。
【0060】
ステップS308で、3Dスキャンシステム100のカメラユニット140は、オブジェクト50に対応する2Dカラー画像データを、ステップS306でカメラユニット140の第1の部分142及び第2の部分144によりキャプチャされた光に基づいて生成する。
図4Aは、本明細書の例示的な一実施形態で、カメラユニット140のカラー画素センサーアレイ148のカラーフィルターアレイ150の第1の部分142及び第2の部分144のそれぞれに使用することができる、カラーフィルターアレイ400の例示的な表現を示す。カラーフィルターアレイ400は、ベイヤーパターンにより配置された複数のカラーフィルターCF1からCF64を含む。説明を簡単にするために、例示的なカラーフィルターアレイ400は、64個のみのカラーフィルターを含むが、本開示の範囲を逸脱することなく任意の好適な数のカラーフィルターを使用することができる。
【0061】
図4Bは、
図4Aに示すカラーフィルターアレイ400内に使用される色の例示的な表現を示す。「R」と表記されたそれぞれのカラーフィルターは、赤のカラーフィルターであり、「G」と表記されたそれぞれのカラーフィルターは、緑のカラーフィルターであり、「B」と表記されたそれぞれのカラーフィルターは、青のカラーフィルターである。
【0062】
図5Aは、本明細書の例示的な一実施形態で、カラー画素センサーアレイ148の画素センサーアレイ152の第1の部分142及び第2の部分144のそれぞれに使用することができる、画素センサーアレイ500の例示的な表現を示す。画素センサーアレイ500は、複数の画素P1からP64を含む。説明を簡単にするために、画素センサーアレイ500は、全部で64個のみの画素の8×8の画素のアレイを含むが、本開示の範囲を逸脱することなく任意の好適な数の画素を使用することができる。他の例示的な実施形態では、第1の部分142及び第2の部分144のそれぞれの内の画素センサーアレイ148が、例えば、3840×2748の画素のアレイ、若しくはビニングモードで動作することができ、ゆえに1920×1374の解像度の画素のアレイとして効率的に動作することができる3840×2748の画素のアレイ、又はなんらかの他のアレイ構成を含むように、他の画素センサーアレイ構成を代わりに用いることができる。
【0063】
カラーフィルターアレイ400は、カラーフィルターCF1を透過した光が画素P1を照明し、カラーフィルターCF2を透過した光が画素P2を照明するなどのように、カラー画素センサーアレイ(図示せず)を形成するように、画素センサーアレイ500の前に配置される。画素センサーアレイ500の画素P1、P2等は、以下の方法で記憶されるカラー画素値を出力することにより、照明光に応答する。
【0064】
図5Bは、本明細書の例示的な一実施形態で、
図5Aに示す画素センサーアレイ500により出力される信号に対応する値を記憶するために使用される、カラー画素値記憶アレイ510の例示的な表現を示す。コンピュータシステム104は、例えば、主メモリ232及び/又は二次メモリ234内に、複数のカラー画素値記憶アレイ510を記憶することができる。
【0065】
カラー画素値記憶アレイ510は、カラー画素値CPV1からCPV64を含む。例えば、カラー画素値CPV1は、画素センサーアレイ500の画素P1により出力される信号の値であり、カラー画素値CPV2は、画素センサーアレイ500の画素P2により出力される信号の値である。例示的な一実施形態では、それぞれのカラー画素値のデータ構造は、RGB形式の8ビットのアレイとすることができ、若しくは別の例示的な実施形態では、RGB形式の12ビットのアレイ、又は別の構成とすることができる。
【0066】
複数のカラー画素値記憶アレイ510は、カメラユニット140により取得された画像データの複数のフレームのそれぞれに対するカラー画素値CPV1からCPV64を記憶するために使用される。
【0067】
図9は、ステップS308により、3Dスキャンシステム100のカメラユニット140により生成され、カラー画素値記憶アレイ510内に記憶された、例示的な2Dカラー画像を示し、歯900及び902は、色がボーンホワイトであり、歯茎部分904は、色がピンクである。
【0068】
ステップS308で、コンピュータシステム104は、例えば、主メモリ232及び/又は二次メモリ234内に、ステップS306でカメラユニット140の第1の部分144及び第2の部分142により取得された画像データの複数のフレームに対するカラー画素値を記憶するために、複数のカラー画素値記憶アレイ510を使用する。一定の周波数又は定期的な時間間隔で、カメラユニット140は、カラー画素センサーアレイ148の第1の部分142及び第2の部分144からコンピュータシステム104にケーブル106を介して信号を出力する。周波数(フレーム速度としても知られる)は、例えば、5Hzから90Hzの範囲とすることができるが、これらの例は限定するものではない。各時間間隔で、コンピュータシステム104は、カメラユニット140から受信した信号に対応する値を、画像データのフレームとして(例えば、主メモリ232及び/又は二次メモリ242内に記憶することができる、カラー画素値記憶アレイ510内に)記憶し、画像データのそれぞれのフレームは、信号がカメラユニット140により出力された(又はコンピュータシステム104により受信された)時刻を示すタイムスタンプ若しくはシーケンス番号情報、又はフレームの相対順序、信号を供給するカラー画素センサーアレイ148の部分(例えば、第1の部分142又は第2の部分144)を示すセンサー識別子、及び対応するカラー画素値記憶アレイ510の識別子を含む。
【0069】
第1の部分142及び第2の部分144が、充分に高い解像度である場合、追加の処理を実行する前に、第1の部分142及び第2の部分144により出力された2Dカラー画像データをダウンサンプリングすることは有用であり得る。例示的な一実施形態では、1920×1374のカラー画像値アレイを有する高解像度2Dカラー画像データは、960×687のカラー画素値アレイを有する、より低解像度の2D画像カラーデータにダウンサンプリングすることができる。
【0070】
ダウンサンプリングが所望される場合、コンピュータシステム104は、ステップS308で第1の部分142及び第2の部分144により供給された信号から生成された2Dカラー画像データを(ステップS310で)ダウンサンプリングする。本明細書の例示的な実施形態によるカラー画素値のダウンサンプリングは、以下に述べる
図5Bから
図7Bを参照して説明される。
【0071】
上述したように、
図5Bは、カラー画素値記憶アレイ510の例示的な表現を示し、コンピュータシステム104は、第1の部分142及び第2の部分144により生成された信号の値を主メモリ232及び/又は二次メモリ234内に記憶するために、カラー画像データのフレーム内の複数のカラー画素値記憶アレイ510を使用する。
【0072】
図6Aを参照して、この図は、ステップS310でコンピュータ104により実行されるダウンサンプリング処理を概念的に説明するために本明細書で使用される、仮想カラーフィルターアレイ600の例示的な表現を示す。仮想カラーフィルターアレイ600は、ベイヤーパターンにより配置された複数のカラーフィルターCF1からCF16を含む。説明を簡単にするために、例示的なカラーフィルターアレイ600は、16個のみのカラーフィルターを含むが、本開示の範囲を逸脱することなく任意の好適な数のカラーフィルターを使用することができる。
【0073】
図6Bは、
図6Aに示す仮想カラーフィルターアレイ600の対応する位置内に使用される色の例を示す。「R」と表記されたそれぞれのカラーフィルターは、赤のカラーフィルターであり、「G」と表記されたそれぞれのカラーフィルターは、緑のカラーフィルターであり、「B」と表記されたそれぞれのカラーフィルターは、青のカラーフィルターである。
【0074】
図7Aは、ステップS310でコンピュータ104により実行されるダウンサンプリング処理を概念的に説明するために本明細書で使用される、仮想カラー画素センサーアレイ700の例示的な表現を示す。仮想カラー画素センサーアレイ700は、複数の画素P1からP16を含む。説明を簡単にするために、カラー画素センサーアレイ700は、16個のみの画素を含むが、本開示の範囲を逸脱することなく任意の好適な数の画素を使用することができる。上述したカラーフィルターアレイ600のカラーフィルターCF1からCF16は、仮想カラー画素センサーアレイ700の画素P1からP16にそれぞれ対応する。
【0075】
図7Bは、
図7Aに示す仮想カラー画素センサーアレイ700の画素に対応する値を記憶するために使用される、カラー画素値記憶アレイ710の例示的な表現を示す。カラー画素値記憶アレイ710は、カラー画素値CPV1からCPV16を含む。カラー画素値記憶アレイ710のカラー画素値CPV1からCPV16は、仮想カラー画素センサーアレイ700の画素P1からP16にそれぞれ対応する。
図6A、
図6B、及び
図7Aが、ステップS310のダウンサンプリング処理を概念的に説明する目的のために、仮想カラーフィルターアレイ600、仮想カラーフィルターアレイ600の色、及び仮想カラー画素センサーアレイ700の例示的な表現をそれぞれ示す一方、
図7Bに示すカラー画素値記憶アレイ710は、以下に更に説明するように、ステップS310のダウンサンプリング処理の出力を記憶するための実データ構造の例を示す。
【0076】
ステップS310で、コンピュータシステム104は、コンピュータシステム104により記憶されたカラー画像データの複数のフレームに対するダウンサンプリングされたカラー画素値CPV1からCPV16を記憶するために、複数のカラー画素値記憶アレイ710を使用する。コンピュータシステム104は、例えば、コンピュータシステム200の主メモリ232及び/又は二次メモリ234内に、複数のカラー画素値記憶アレイ710を記憶することができる。例示的な一実施形態では、各カラー画素値のデータ構造は、RGB形式で記憶されたカラー画素値のアレイサイズより小さいアレイサイズを有することが多い、YUV形式のアレイとすることができる。
【0077】
以下の例では、
図6Aに示すカラーフィルターCF1からCF16は、
図7Aに示す画素P1からP16にそれぞれ対応すると仮定する。加えて、
図7Aに示す画素P1からP16は、
図7Bに示すカラー画素値CPV1からCPV16にそれぞれ対応すると仮定する。
【0078】
加えて、表現「赤の画素値」は、
図4Bに示す赤フィルターを透過する光により照明される
図5Aに示す画素に対応する、
図5Bに示すカラー画素値を表すために使用される。表現「緑の画素値」は、
図4Bに示す緑フィルターを透過する光により照明される
図5Aに示す画素に対応する、
図5Bに示すカラー画素値を表すために使用される。表現「青の画素値」は、
図4Bに示す青フィルターを透過する光により照明される
図5Aに示す画素に対応する、
図5Bに示すカラー画素値を表すために使用される。
【0079】
コンピュータシステム104は、カラー画素値記憶アレイ510内に記憶されたカラー画素値の平均を算出し、算出された平均をカラー画素値記憶アレイ710内に記憶する。本明細書の例示的な実施形態により、コンピュータシステム104は、カラー画素値記憶アレイ510内に含まれる16個のカラー画素値の群内の平均を算出し、算出された平均をカラー画素値記憶アレイ710内に記憶する。より具体的には、コンピュータシステム104は、カラー画素値記憶アレイ510の16個のカラー画素値の群それぞれの内に含まれる4つの赤の画素値の平均を算出し、カラー画素値記憶アレイ710内の4つのカラー画素値の対応する群の赤の画素値内に算出された平均を記憶する。加えて、コンピュータシステム104は、カラー画素値記憶アレイ510の16個のカラー画素値の群それぞれの内に含まれる8つの緑の画素値の平均を算出し、カラー画素値記憶アレイ710内の4つのカラー画素値の対応する群の2つの緑の画素値内に算出された平均を記憶する。加えて、コンピュータシステム104は、カラー画素値記憶アレイ510の16個のカラー画素値の群それぞれの内に含まれる4つの青の画素値の平均を算出し、カラー画素値記憶アレイ710内の4つのカラー画素値の対応する群の青の画素値内に算出された平均を記憶する。
【0080】
カラー画素値記憶アレイ510の16個のカラー画素値の1つの群をカラー画素値記憶アレイ710内の4つのカラー画素値の1つの群にダウンサンプリングするための処理の例が、
図5B及び
図7Bを参照して説明される。コンピュータシステム104は、カラー画素値記憶アレイ510内の赤のカラー画素値CPV1、CPV3、CPV17、及びCPV19の平均を算出し、カラー画素値記憶アレイ710の赤のカラー画素値内CPV1内に平均を記憶する。コンピュータシステム104はまた、カラー画素値記憶アレイ510内の緑のカラー画素値CPV2、CPV4、CPV9、CPV11、CPV18、CPV20、CPV25、及びCPV27の平均を算出し、カラー画素値記憶アレイ710の緑のカラー画素値CPV2及びCPV5内に平均を記憶する。加えて、コンピュータシステム104は、カラー画素値記憶アレイ510内の青のカラー画素値CPV10、CPV12、CPV26、及びCPV28の平均を算出し、カラー画素値記憶アレイ710の青のカラー画素値内CPV6内に平均を記憶する。コンピュータシステム104は、次に、カラー画素値記憶アレイ510内の16個のカラー画素値のすべての他の群に対して、同様のダウンサンプリング処理を繰り返す。ステップS310でダウンサンプリングが実行された後、カラー画素値記憶アレイ510内に記憶される、第1及び第2の部分142及び144からの細かな2Dカラー画像データは、カラー画素値記憶アレイ710内に記憶される粗い2Dカラー画像データに変換される。
【0081】
上記のダウンサンプリング処理の1つの利点は、画素センサーアレイ500の画素(少なくとも1つの例では、
図1A及び
図1Bに示す第1及び第2の部分142及び144のために使用される)は、それぞれの区域内に均一に離間配置されるため、ダウンサンプリングされたカラー画像データは、色情報を保持するだけでなく、それぞれの区域内の画像情報損失を最小化することである。他の例示的な実施形態では、ダウンサンプリング(ステップS310)は実行されず、その場合、制御は、ステップS308からステップS312及びS320に直接進む(及び、以下で説明するように、ステップS308で生成された2Dカラー画像データは、ステップS312によりステップS314で実行される色算出に提供される)。
【0082】
ステップS312で、コンピュータシステム104は、色情報を色算出ステップ(ステップS314)に提供する。例えば、ダウンサンプリングがステップS310で実行された場合、色情報は、ステップS310で生成されたダウンサンプリングされた2Dカラー画像データを含む。ダウンサンプリングが実行されなかった場合(すなわち、ステップS310が実行されなかった場合)、ステップS312で提供される色情報は、ステップS308で生成された2Dカラー画像データを含む。
【0083】
ステップS314で、コンピュータシステム104は、算出された色情報を生成するために、ステップS312で提供される色情報を使用して色算出を実行する。例示的な一実施形態では、算出された色情報は、例えば、既知のデモザイク技術を使用して、モザイク状のカラー画素情報を実色情報に変換することによりステップS314で生成される。
【0084】
本明細書の更なる例示的な実施形態では、ステップS314は、以下のように算出された色情報の色補正を実行するためのサブステップを加えて含むことができる。例えば、ステップS304で光学的コントラスト粉末がオブジェクト50に付加される場合、光学的コントラスト粉末の粒子は、オブジェクト50の上に粒子が付加された部分を覆い隠す。ゆえに、ステップS314で上述のように生成された算出された色情報の少なくともいくつかの画素は、少なくとも一部、オブジェクト50を覆うコントラスト粉末の粒子から反射された光に対応する。そのような画素は、オブジェクト50の色を正確に表現しないことがあり、そのため影響を受けた画素と考えられる。色補正を実行するために、コンピュータシステム104は、最初に、例えば、算出された色情報の画素の近傍の色分布を統計的に分析することにより、影響を受けた画素を識別する(近傍は、例えば、n×mの画素の部分集合として規定することができる)。例えば、画素の近傍の中で低い画素値及び高い画素値は、黒色及び白色のコントラスト粉末の粒子が使用された場合には、黒色及び白色のコントラスト粉末の粒子それぞれにより影響を受けた画素に対応することがある。影響を受けた画素が識別されたなら、コンピュータシステム104は、影響を受けた画素の画素値を(影響を受けた画素それぞれに対して)光学的コントラスト粉末の粒子から反射された光に対応しない少なくとも1つの隣接した画素(すなわち、影響を受けていない画素)の画素値に置き換える。本明細書の別の例示的な実施形態では、影響を受けた画素の画素値は、例えば、隣接した画素の画素値の中央値などの、隣接した画素の統計的表現により置き換えることができる。少なくともいくつかの場合では、前記の方法で補正された算出された色情報は、オブジェクト50の外観をより正確に表現することができる。
【0085】
ステップS314の後、制御は、以下に説明するステップS324に進む。そのステップを説明する前に、ステップS320及びS322を最初に説明する。ステップS312のように、ステップS320は、ステップS310が実行された後、又はステップS310が実行されない場合にはステップS308が実行された後に、実行される。
【0086】
ステップS320で、本明細書で以下に説明する例示的な少なくとも一実施形態により、ステップS310で生成されたダウンサンプリングされた2Dカラー画像データ(又はステップS310が実行されない場合にはステップS308で生成された2Dカラー画像データ)は、2Dモノクロ画像データに変換される。
図8は、コンピュータシステム104が、カメラユニット140により取得されたカラー画像データの各フレームに対するモノクロ画素値を、例えば主メモリ232及び/又は二次メモリ234に記憶するために使用することができる、モノクロ画素値記憶アレイ800の例示的な表現を示す。以下に説明するように、コンピュータシステム104は、対応する3Dデータを生成するために、複数のモノクロ画素値記憶アレイ800内に記憶された2Dモノクロ画像データを処理する。例示的な一実施形態では、各モノクロ画素値のデータ構造は、8ビットのアレイとすることができ、又は別の例示的な実施形態では、12ビットのアレイとすることができる。
【0087】
本明細書の例示的な一実施形態(以下、便宜上「重み付き平均算出」とも呼ぶ)により、コンピュータシステム104は、対応するモノクロ画素値記憶アレイ800内にその後記憶されるモノクロ画素値を生成するために、カラー画素値記憶アレイ710内に記憶されたカラー画素値の重み付き平均を算出することにより、ステップS320を実行する。より具体的には、一例では、コンピュータシステム104は、
図8に示す対応するモノクロ画素値記憶アレイ800内に記憶されるモノクロ画素値を生成するために、ステップS310(又はステップS310が実行されない場合にはステップS308)で生成されたカラー画素値記憶アレイ710内に記憶された隣接したカラー画素値の所定の群の重み付き平均を算出する。各モノクロ画素値は、モノクロ画素値が算出されるカラー画素値記憶アレイ710内の隣接したカラー画素値の群の位置に対応する、モノクロ画素値記憶アレイ800内の位置に記憶される。本明細書の例示的な一実施形態では、隣接したカラー画素値の各群は、同じ比率の赤のカラー画素値、緑のカラー画素値、及び青のカラー画素値を含む。
【0088】
例えば、コンピュータシステム104は、カラー画素値記憶アレイ710の左上の角部(すなわち、CPV1、CPV2、CPV5、及びCPV6)に対応する、隣接したカラー画素値の重み付き平均を算出し、重み付き平均を対応するモノクロ画素値記憶アレイ800の左上の角部(すなわち、MPV1)に記憶する。加えて、コンピュータシステム104は、カラー画素値記憶アレイ710の右上の角部(すなわち、CPV3、CPV4、CPV7、及びCPV8)に対応する、隣接したカラー画素値の重み付き平均を算出し、重み付き平均を対応するモノクロ画素値記憶アレイ800の右上の角部(すなわち、MPV2)に記憶する。また、コンピュータシステム104は、カラー画素値記憶アレイ710の左下の角部(すなわち、CPV9、CPV10、CPV13、及びCPV14)に対応する、隣接したカラー画素値の重み付き平均を算出し、重み付き平均を対応するモノクロ画素値記憶アレイ800の左下の角部(すなわち、MPV3)に記憶する。加えて、コンピュータシステム104は、カラー画素値記憶アレイ710の右下の角部(すなわち、CPV11、CPV12、CPV15、及びCPV16)に対応する、隣接したカラー画素値の重み付き平均を算出し、重み付き平均を対応するモノクロ画素値記憶アレイ800の右下の角部(すなわち、MPV4)に記憶する。隣接したカラー画素値の前記の群のそれぞれは、4つのカラー画素値を、1つの赤のカラー画素値、2つの緑のカラー画素値、及び1つの青のカラー画素値と、色に応じた同じ比率で含むが、この例は限定するものではない。
【0089】
より具体的には、コンピュータシステム104は、本実施形態により、赤のカラー画素値、緑のカラー画素値、及び青のカラー画素値が、対応するモノクロ画素値に等しく寄与するように、隣接したカラー画素値の重み付き平均を算出する。例えば、画素値記憶アレイ710の左上の角部に対応するカラー画素値の重み付き平均は、赤のカラー画素値CPV1の3分の1、2つの緑のカラー画素値CPV2及びCPV5の平均の3分の1、及び青のカラー画素値CPV6の3分の1の和(すなわち、1/3×CPV1+1/3×((CPV2+CPV5)/2)+1/3×CPV6)として算出することができる。
【0090】
本明細書の別の例示的な実施形態では、ステップS320に対して上述した重み付き平均算出を実行する代わりに、コンピュータシステム104は、対応するモノクロ画素値記憶アレイ800内に記憶されるモノクロ画素値を生成するために、ステップS310で生成され、例えばカラー画素値記憶アレイ710内に記憶されたダウンサンプリングされた2Dカラー画像データ(又はステップS310が実行されない場合、ステップS308で生成され、例えばカラー画素値記憶アレイ510内に記憶された2Dカラー画像データ)に、コントラスト強調モノクロ変換アルゴリズムを適用することにより、ステップS320を実行する。コントラスト強調モノクロ変換アルゴリズムは、高コントラスト2Dモノクロ画像データを生成する(及びモノクロ画素値記憶アレイ800内に記憶する)ために、(カラー画素値記憶アレイ710内に記憶された)ダウンサンプリングされた2Dカラー画像データ内の色収差を考慮し、色収差は、それ以外に、重み付き平均算出を使用する上述した実施形態では使用されない。ステップS320のこの実施形態で使用することができる例示的なコントラスト強調モノクロ変換アルゴリズムは、M.Grundlandらによる、「Decolorize:Fast,contrast enhancing,color to grayscale conversion」(Pattern Recognition、40巻、11版、2007年、2891〜2896ページ)と題された刊行物、及びM.Qiuらによる、「Contrast Maximizing and Brightness Preserving Color to Grayscale Image Conversion」(CGIV2008,4th European Conference on Colour in Graphics,Imaging,and Vision,Final Program and Proceedings、2008年、347〜351ページ)と題された刊行物に記載されており、本明細書にすべて記載されたかのように参照により本明細書にその全体が組み込まれる。
【0091】
より具体的には、この実施形態では、コンピュータシステム104は、例示的な一実施形態で、高コントラスト2Dモノクロ画像データの対応するフレームを生成するために、ステップS310でカラー画素センサーアレイ148の第1の部分142及び第2の部分144のそれぞれにより生成された2Dカラー画像データの各フレームに、上述したようにコントラスト強調モノクロ変換アルゴリズムを適用することによりステップS320を実行する。
【0092】
本明細書の更に別の例示的な実施形態では(及びステップS320に対して2Dカラー画像データの各フレームに前記の方法でコントラスト強調モノクロ変換アルゴリズムを実行する代わりに)、コンピュータシステム104は、ステップS320の前のどこかの時点で標準コントラスト強調変換機能を生成するために、2Dカラー画像データの所定の訓練データ集合にコントラスト強調モノクロ変換アルゴリズムを適用する。所定の訓練データ集合は、例えば、カメラ140により前もってキャプチャされた2Dカラー画像データ、又はユーザ指定の人工的に生成された2Dカラー画像データであってよい。次に、ステップS320で、ステップS310でカラー画素センサーアレイ148の第1の部分142及び第2の部分144のそれぞれにより生成された2Dカラー画像データの各フレームは、上述した重み付き平均算出により2Dモノクロ画像データのフレームに変換され、標準コントラスト強調変換機能は、高コントラスト2Dモノクロ画像データの対応するフレームを生成するために、2Dモノクロ画像データの各フレームに適用される。ステップS320の前に2Dカラー画像データの所定の訓練データ集合にコントラスト強調モノクロ変換アルゴリズムを適用することによって、上述したようにステップS320中に2Dカラー画像データの各フレームにコントラスト強調モノクロ変換アルゴリズムを適用することによるより、より計算負荷の低い方法でステップS320で高コントラスト2Dモノクロ画像データを生成することができる。
【0093】
本明細書の更に別の例示的な実施形態により、ステップS320に対して上述したように重み付き平均算出又はコントラスト強調モノクロ変換アルゴリズムのいずれかを実行する代わりに、コンピュータシステム104は、ステップS320で2Dモノクロ画像データを生成するために、2Dモノクロ画像データを生成するために1つのカラーフィルターの種類(例えば、赤、緑、又は青)に対応する、ステップS310からのダウンサンプリングされた2Dカラー画像データ(又はステップS310が実行されない場合にはステップS308からの2Dカラー画像データ)のカラー画素値を選択することにより、色低減処理を実行する。
【0094】
具体的には、色低減処理を実行する1つの方法は、ステップS310からのダウンサンプリングされた2Dカラー画像データの赤のカラー画素値のみを選択すること、及びこれらの赤のカラー画素値を2Dモノクロ画像データ内の対応する位置に記憶することを含む。例えば、カラー画素値記憶アレイ710の赤のカラー画素値CPV1をモノクロ画素値記憶アレイ800のMPV1に記憶すること、カラー画素値記憶アレイ710の赤のカラー画素値CPV3をモノクロ画素値記憶アレイ800のMPV2に記憶すること、カラー画素値記憶アレイ710の赤のカラー画素値CPV9をモノクロ画素値記憶アレイ800のMPV3に記憶すること、及びカラー画素値記憶アレイ710の赤のカラー画素値CPV11をモノクロ画素値記憶アレイ800のMPV4に記憶することにより、2Dモノクロ画像データを、カラー画素値記憶アレイ710内に記憶された、ステップS310のダウンサンプリングされた2Dカラーデータから前記の方法で導出することができるが、この例は限定するものではない。同様に、2Dモノクロ画像データはまた、緑のカラー画素値又は青のカラー画素値のみを選択することにより、同様な方法で導出することができる。
【0095】
ステップS322をここで説明する。ステップS322で、3Dスキャンシステム100は、対応する3Dデータを生成するために、ステップS320で生成された2Dモノクロ画像データを使用する。3Dデータのデータ構造は、ポイントクラウド、すなわち3D空間内の座標の集合、又は3D多角形メッシュとすることができるが、これらの例は限定するものではない。ダウンサンプリングがステップS310、次にステップS322で実行される場合、ステップS308でカメラユニット140が2Dカラー画像データを生成する各時点に対して、コンピュータシステム104は、3Dデータの対応するフレームを生成するために、(a)カラー画素センサーアレイ148の第1の部分142に対する、ステップS310で生成された画像データのダウンサンプリングされたフレームに対応する、ステップS320で生成された、モノクロ画素値記憶アレイ800内に含まれるデータ、及び(b)カラー画素センサーアレイ148の第2の部分144に対する、ステップS310で生成された画像データのダウンサンプリングされたフレームに対応する、ステップS320で生成された、モノクロ画素値記憶アレイ800内に含まれるデータを使用する。ダウンサンプリングがステップS310、次にステップS322で実行されない場合、ステップS308でカメラユニット140が2Dカラー画像データを生成する各時点に対して、コンピュータシステム104は、3Dデータの対応するフレームを生成するために、(a)カラー画素センサーアレイ148の第1の部分142により、ステップS308で生成された画像データのフレームに対応する、ステップS320で生成された、モノクロ画素値記憶アレイ800内に含まれるデータ、及び(b)カラー画素センサーアレイ148の第2の部分144により、ステップS308で生成された画像データのフレームに対応する、ステップS320で生成された、モノクロ画素値記憶アレイ800内に含まれるデータを使用する。
【0096】
例えば、ステップS322で、コンピュータシステム104は、デフォーカス、立体、相互相関、Scale Invariant Feature Transform(SIFT)、及びSpeeded Up Robust Feature(SURF)技術などの既知のステレオ対応照合方法を2Dモノクロ画像データのフレームの対に実行することにより、3Dデータを生成することができる。一例では、ステレオ対応照合方法は、2Dモノクロ画像データのフレームの対内の対応する特徴を識別すること及び相関を取ることにより、3Dデータを生成し、そのような対応する特徴は、該当する場合、ステップS304でオブジェクト50に付加された光学的コントラスト粉末の少なくとも1つ、ステップS306で照明ユニット116によりオブジェクト50上に投射された構造化された光の特徴、及びキャプチャされた画像内の所定の特徴(所定の特徴は、オブジェクト50の特徴を表す)により提供され得る。2つの2D画像から3Dデータを導出する一例は、Gharibらによる「Three−Dimensional Imaging System」と題された国際特許公開第2012/030357号に開示されており、その全体が本明細書に参照により組み込まれる。
【0097】
ステップS324をここで説明する。ステップS324で、コンピュータシステム104は、2Dカラー画像データから導出された様々な種類の色情報(例えば、算出された色情報、又はより具体的には、ステップS314で生成された実色情報)及びステップS322で生成された3Dデータを組み合わせることにより、3Dカラー画像データを生成する。例えば、コンピュータシステム104は、例えば、全体が本明細書に記載されているものとしてその全体を参照により本明細書に組み込む、P.Shirleyによる、「Fundamentals of Computer Graphics」(A K Peters/CRC Press、2009年、252〜253ページ)と題された刊行物に記載されているマッピング方法などの1つ以上のマッピング方法を用いることにより、オブジェクト50の3Dカラー画像データを生成することができる。この例示的な実施形態により、コンピュータシステム104は、色情報テクスチャマップを生成するために、ステップS314で生成された算出された色情報を、(u、v)などの座標系と最初に関連付ける。コンピュータシステム104はまた、頂点、縁部、及び面を有する2D多角形メッシュを生成するために、ステップS322で生成された3Dデータを解く。コンピュータシステム104は、次に、2D多角形メッシュをテクスチャマップ上で位置合わせし、(u、v)座標をメッシュの頂点に割り当てる。(u、v)座標が割り当てられた2D多角形メッシュは、次にテクスチャ化されていない3Dモデルへと組み立て直され、モデルの頂点に割り当てられた(u、v)座標に基づいて、色情報テクスチャマップの画素をテクスチャ化されていない3Dモデル上に重ねることにより、3Dカラー画像データが生成される。当然ながら、他の好適な種類のマッピングを代わりに用いることができる。
【0098】
ステップS326で、3Dスキャンシステム100は、ステップS324で生成された3Dカラー画像データをディスプレイユニット108上に表示する。
図10は、ステップS326により3Dスキャンシステム100によりディスプレイユニット108上に表示された3Dカラー画像データの一例を示し、歯の削られた部分1000、辺縁1002、及び歯の触れられていない部分1004は、色がボーンホワイトであり、歯茎部分1006は、色がピンクである。
【0099】
処理300は、ステップS328で終了する。理解され得るように、前記の観点で、上述した手順300を使用して画像をキャプチャすること及び画像を処理することによって、3Dカラー画像データを、オペレータに提示することができる。
【0100】
従って、3Dスキャンシステム100は、歯科医療従事者が臨床的に関連した区域と不必要な区域とを区別するのを補助するために、色情報をリアルタイムにカメラユニット140の視点からのカラー映像としてキャプチャ及び表示することができる。例えば、3Dスキャンシステム100により提供されるリアルタイムカラー映像は、歯科医療従事者が患者の歯及び歯茎を舌部及び頬などの他の生体構造から区別するのを補助することができる。加えて、3Dスキャンシステム100により提供されるリアルタイムカラー映像は、歯科医療従事者が歯の削られた部分と歯の触れられていない部分との間の臨床的に関連した辺縁を識別するのを補助することができ、ゆえに、辺縁に対する歯冠の最適な準備と配置を容易にすることができる。更に、3Dスキャンシステム100は、鮮明で現実感のある視覚的フィードバックを3Dスキャンを、実行している歯科医療従事者に提供しスキャン処理をより容易にするために、三次元でスキャンされているオブジェクト50の色情報を表現することができる。また更に、3Dスキャンシステム100は、少なくともステップS320によって正確な3Dモデルを作製することができ、色情報を低減し、それゆえ色収差及び光学的回折から起こる、3Dモデルがそれから生成されるデータの不正確さもまた低減する。
【0101】
本明細書の別の例示的な実施形態では、3Dスキャンシステム100は、
図3Aを参照して処理300で上述した3Dスキャンモード、2D撮像モード、及び2D画像記録に最適化された3Dスキャンモードを含むがこれに限定されない、複数の動作モードを含む。本明細書の例示的な一実施形態では、3Dスキャンシステム100は、動作モードの間を切り換えるように、より具体的には、リアルタイムで動作モードの間を切り換えるように動作可能である。3Dスキャンシステム100は、ユーザの制御により(例えば、
図2に示す入力ユニット230若しくは
図1Aに示すスイッチ154を介して)、又はコンピュータシステム104の自動制御下でのいずれかで、動作モードの間を切り換えることができる。例えば、オペレータは、システム1がこれらのモードの1つで動作することを指定する情報を入力ユニット230に入力することができ、その場合、システム1は、指定されたモードで動作することにより応答する。他の動作モードは、同様の方法で選択することができる。
【0102】
複数の動作モードの2D撮像モードは、本明細書の例示的な一実施形態では、(
図1Aに示す)3Dスキャンシステム100を使用して、
図3Bに示す流れ図により、オブジェクト50の2D表現(すなわち、写真)を収集し表示する。2Dスキャンモード処理340は、ステップS342で開始する。
【0103】
ステップS344で、光学的コントラスト粉末は、ステップS304に対して上述した方法と実質的に同様の方法で、オブジェクト50に付加される。(当然、3Dスキャンモードのためなどでこのステップがすでに実行された場合、このステップは実行する必要はない。)本明細書の別の例示的な実施形態では、ステップS344は、実行されない。すなわち、光学的コントラスト粉末は、オブジェクト50に付加されず、代わりに、制御は、ステップS342から直接、ステップS346に進む。
【0104】
ステップS346で、オブジェクト50は、ステップS306に対して上述した方法と実質的に同様の方法で、光119で照明される。
【0105】
ステップS348で、オブジェクト50の2Dカラー画像データは、ステップS308に対して上述した方法と実質的に同様の方法で、生成される。
【0106】
ステップS350で、ステップS348で生成された2Dカラー画像データは、ステップS310に対して上述した方法と実質的に同様の方法で、ダウンサンプリングされた2Dカラー画像データを生成するように、ダウンサンプリングされる。本明細書の別の例示的な実施形態では、ステップS350は、実行されない。すなわち、2Dカラー画像データはダウンサンプリングされず、代わりに、制御は、ステップS348からS352に直接進む。
【0107】
ステップS352で、3Dスキャンシステム100は、ステップS350で生成されたダウンサンプリングされた2Dカラー画像データ(又は工程S350が実行されない場合、工程S348で生成された2Dカラー画像データ)をディスプレイユニット108上に表示する。2Dスキャンモード処理340は、工程S354で終了する。
【0108】
複数の動作モードの2D画像記録に最適化された3Dスキャンモードを、ここで説明する。2D画像記録に最適化された3Dスキャンモードは、3Dカラー画像データを生成し表示するように、
図3Aの処理300で上述した3Dスキャンモードと同様の方法で実行されるが、3Dカラー画像データをスキャン及び生成するためのより短い時間ため、及び3Dカラー画像データのより最適化されたカラー品質のための折衷として、3Dカラー画像データの3D精度が、3Dスキャンモードでの精度より(少なくともある程度)低いことがあるような、処理300のある特定のアルゴリズム及びステップの違いを含む。
【0109】
具体的には、工程S304で光学的コントラスト粉末が付加される一例では、3Dスキャンモードの工程S304で付加されるコーティングに対してより希薄なコーティングが付加される。本モードの工程S304で光学的コントラスト粉末のより希薄なコーティングを付加することによって、光学的コントラスト粉末の粒子により、オブジェクト50のより少ない部分が覆い隠される。結果として、工程S308でカメラ140によりキャプチャ及び生成された2Dカラー画像データ、工程S314で生成された算出された色情報、及び工程S326で表示される3Dカラー画像データは、オブジェクト50の色をより正確に表現する。しかし、本動作モードでは光学的コントラスト粉末のより希薄なコーティングが工程S304で付加されるため、3Dデータを生成するために工程S322で使用される画像の対は、工程S322で実行されるステレオ対応照合方法のために使用できる対応する特徴をより少なく有することがある。画像の対の対応する特徴のあらゆるそのような低減した可用性を補償するために、カメラユニット140は、工程S322で実行されるステレオ対応照合方法に対してより多くのデータを提供するように、工程S308でより高いフレーム速度で動作することができる。従って、LED118及び120は、LEDの明滅が光119をオブジェクト50上に実質的に増大したカメラユニット140のフレーム速度で投射するように最適化されるように、工程S306で動作することができる。工程S322のステレオ対応照合方法はまた、3Dデータを生成するためにより高いフレーム速度で提供された画像の対を利用するのに最適化された方法で実行される。例えば、工程S322で実行されるステレオ対応照合方法の最適化は、照合方法を再パラメータ化すること、並びに照合方法内で低品質のデータを除くために用いられる品質閾値を適合させることを含むことができる。
【0110】
本説明を考慮して、当該技術分野(単数又は複数)の当業者によって理解されるように、本明細書に記載の例示的な態様は、単一のコンピュータを用いて、又は各々が制御論理でプログラムされる多数のコンピュータを含むコンピュータシステムを用いて、種々の上に説明される機能を実施するように、実装され得る。
【0111】
上に説明される種々の実施形態は、例として示され、限定ではない。形態及び詳細における種々の変更(例えば、異なるハードウェア、通信プロトコル等)が、本発明の趣旨及び範囲から逸脱することなく、その中でなされ得ることは、当該技術分野(単数又は複数)の当業者には、明らかとなろう。よって、本発明は、上に説明される例示的な実施形態のいずれによっても限定されるべきではないが、以下の特許請求の範囲及びそれらの均等物に従ってのみ定義されるべきである。
【0112】
加えて、本明細書に記載の機能を強調する添付される図面は、実例的な実施例として示されることが理解されるべきである。本発明のアーキテクチャは、十分に柔軟かつ設定変更可能であることにより、添付の図面に示されるもの以外の方法で利用(及び操作)することができる。
【0113】
更に、本明細書に記載の例示的な実施形態は、3D歯科用スキャンシステムに限定されない。本明細書に記載の例示的な実施形態は、他の解剖学的領域のスキャンを実施するように使用され得る。