(58)【調査した分野】(Int.Cl.,DB名)
前記プロセッサは、較正点としてルックアップテーブルに、前記第1のピクセルグリッドに対する前記第1のピクセルセットの第1の座標、前記第2のピクセルグリッドに対する前記第2のピクセルセットの第2の座標、前記x方向、前記y方向、及び前記チルト方向の少なくとも1つにおいて調整された前記第2の複数のレンズの前記1つの位置、並びに前記第1のズームレンズ及び前記第2のズームレンズの倍率レベルを記憶するように構成される、請求項1又は2に記載の立体撮像装置。
前記プロセッサは、前記立体撮像装置の使用中、前記第1のズームレンズ及び前記第2のズームレンズが前記倍率レベルに移動する際、前記ルックアップテーブルを使用して、前記第1の画像センサの前記第1のピクセルセット及び前記第2の画像センサの前記第2のピクセルセットを選択するように構成される、請求項3に記載の立体撮像装置。
前記プロセッサは、移動量として、前記第2のZRPを前記第2の原点と位置合わせさせるために前記第2の複数のレンズの前記1つが前記x方向、前記y方向、及び前記チルト方向において調整された量及び方向を記録するように構成される、請求項1、2、又は4に記載の立体撮像装置。
前記プロセッサは、前記第1の画像ストリームの前記記録中、第1の倍率レベルから、前記第1の倍率の2倍である第2の倍率レベルに前記第1のズームレンズを移動させるように構成され、
前記プロセッサは、前記第2の画像ストリームの前記記録中、前記第1の倍率レベルから前記第2の倍率レベルに前記第2のズームレンズを移動させるように構成される、請求項1、2、及び4のいずれか一項に記載の立体撮像装置。
前記標的部位は、図特徴を有するテンプレート、患者の術部、及び視覚的に区別可能な特徴を有するグリッドの少なくとも1つを含む、請求項1、2、及び4のいずれか一項に記載の立体撮像装置。
【発明を実施するための形態】
【0020】
本開示は、一般には立体視覚化カメラ及びプラットフォームに関する。立体視覚化カメラはデジタル立体顕微鏡(「DSM」)と呼ばれることもある。一例のカメラ及びプラットフォームは、従来技術による顕微鏡(
図1の外科用ルーペ100及び
図2の外科用顕微鏡200等)よりもはるかに小型、軽量であり、操作しやすい自己充足型ヘッドユニットに顕微鏡光学要素及びビデオセンサを統合するように構成される。一例のカメラは、立体ビデオ信号を1つ又は複数のテレビジョンモニタ、プロジェクタ、ホログラフィックデバイス、スマートメガネ、仮想現実デバイス、又は外科環境内の他の視覚ディスプレイデバイスに送信するように構成される。
【0021】
モニタ又は他の視覚的ディスプレイデバイスは外科環境内に位置決めされて、患者に手術を行っている間、外科医の視線内に容易にあるようにし得る。この柔軟性により、外科医は、個人の好み又は習慣に基づいてディスプレイモニタを配置することができる。加えて、本明細書に開示される立体視覚化カメラの柔軟性及びスリムな外形は、患者の上方で消費されるエリアを低減する。完全に、立体視覚化カメラ及びモニタ(例えば、立体視覚化プラットフォーム)は、外科医及び外科チームが上述した外科用顕微鏡200と比較して、移動を決定付けられず又は制限されずに患者に対して複雑な顕微鏡手術処置を行えるようにする。それに従って一例の立体視覚化プラットフォームは、外科医の目の延長として動作して、外科医が、従来既知の視覚化システムによって引き起こされるストレス、制限、及び制約に対応せずに傑作の顕微鏡手術を行えるようにする。
【0022】
本明細書における開示は一般に、顕微鏡手術を参照する。一例の立体視覚化カメラは、例えば、頭蓋手術、脳外科手術、神経外科、脊髄手術、眼科手術、角膜移植、整形外科手術、耳、鼻、及び喉の手術、歯科手術、整形手術及び再建手術、又は一般的な手術を含め、略あらゆる顕微鏡手術処置に使用することができる。
【0023】
本開示は、標的部位、シーン、又は視野も参照する。本明細書で使用される場合、標的部位又は視野は、一例の立体視覚化カメラにより記録又は他の方法で撮像されている物体(又は物体の部分)を含む。一般に、標的部位、シーン、又は視野は、一例の立体視覚化カメラの主対物レンズ組立体から作業距離分、離れており、一例の立体視覚化カメラと位置合わせされる。標的部位は、患者の生体組織、骨、筋肉、皮膚、又はそれらの組合せを含み得る。これらの場合、標的部位は、患者の解剖学的構造の進行に対応する深度成分を有することにより三次元であり得る。標的部位は、一例の立体視覚化カメラの較正又は検証に使用される1つ又は複数のテンプレートを含むこともできる。テンプレートは、紙(又はプラスチックシート)上のグラフィック設計等の二次元又は特定の領域での患者の解剖学的構造の近似等の三次元であり得る。
【0024】
全体を通して、x方向、y方向、z方向、及びチルト方向も参照される。z方向は、一例の立体視覚化カメラから標的部位への軸に沿い、一般に深度と呼ばれる。x方向及びy方向は、z方向に入射する平面にあり、標的部位の平面を構成する。x方向は、y方向の軸から90°の軸に沿う。x方向及び/又はy方向に沿った運動は、平面内運動と呼ばれ、一例の立体視覚化カメラの運動、一例の立体視覚化カメラ内の光学要素の運動、及び/又は標的部位の運動を指し得る。
【0025】
チルト方向は、x方向、y方向、及び/又はz方向に対してオイラー角(例えば、ヨー軸、ピッチ軸、及びロール軸)に沿った運動に対応する。例えば、完璧に位置合わせされたレンズは、x方向、y方向、及び/又はz方向に対して略0°を有する。換言すれば、レンズの面は、z方向に沿った光に対して90°、すなわち、直交する。加えて、レンズの縁部(レンズが矩形を有する場合)は、x方向及びy方向に沿って平行する。レンズ及び/又は光学画像センサは、ヨー運動、ピッチ運動、及び/又はルール運動を通してチルトすることができる。例えば、レンズ及び/又は光学画像センサは、z方向に対して、ピッチ軸に沿ってチルトして、上方又は下方に面し得る。z方向に沿った光は、非直角でレンズの面(上方又は下方にピッチされる)に接触する。ヨー軸、ピッチ軸、又はロール軸に沿ったレンズ及び/又は光学画像センサのチルトにより、例えば、焦点又はZRPを調整することができる。
【0026】
I.一例の立体視覚化カメラ
図3及び
図4は、本開示の実施形態例による立体視覚化カメラ300の斜視図の図を示す。一例のカメラ300は、光学要素、レンズモータ(例えば、アクチュエータ)、及び信号処理回路を囲むように構成された筐体302を含む。カメラ300は、幅(x軸に沿う)15センチメートル(cm)〜28cm、好ましくは約22cmを有する。加えて、カメラ300は、長さ(y軸に沿う)15cmから32cm、好ましくは約25cmを有する。さらに、カメラ300は、高さ(z軸に沿う)10cm〜20cm、好ましくは約15cmを有する。カメラ300の重さは3kg〜7kg、好ましくは約3.5kgである。
【0027】
カメラ300は制御アーム304a及び304b(例えば、操作ハンドル)も含み、制御アームは、倍率レベル、フォーカス、及び他の顕微鏡特徴を制御するように構成される。制御アーム304a及び304bは、特定の特徴をアクティブ化又は選択する各制御機構305a及び305bを含み得る。例えば、制御アーム304a及び304bは、蛍光モードを選択し、標的部位に投影される光の量/タイプを調整し、ディスプレイ出力信号(例えば、1080p又は4K及び/又は立体視の選択)を制御する制御機構305a及び305bを含み得る。加えて、制御機構305a及び/又は305bは、較正手順の開始及び/又は実行及び/又は立体視覚化カメラ300に接続されたロボットアームの移動に使用し得る。幾つかの場合、制御機構305a及び305bは同じボタン及び/又は特徴を含み得る。他の場合、制御機構305a及び305bは異なる特徴を含み得る。さらに、制御アーム304a及び304bは、オペレータが立体視覚化カメラ300を位置決めできるようにするグリップとして構成することもできる。
【0028】
各制御アーム304は、
図3に示されるように、回転可能な支柱306を介して筐体302に接続される。この接続により、制御アーム304は筐体302に対して回転することができる。この回転は、外科医が制御アーム304を所望のように配置する柔軟性を提供し、外科性能と同期する立体視覚化カメラ300の適応性を更に強化する。
【0029】
図3及び
図4に示される一例のカメラ300は、2つの制御アーム304a及び304bを含むが、カメラ300が1つのみの制御アームを含んでもよく、又は制御アームを含まなくてもよいことを理解されたい。立体視覚化カメラ300が制御アームを含まない場合、制御機構は筐体302に統合し、及び/又は遠隔制御機構を介して提供し得る。
【0030】
図4は、本開示の実施形態例による立体視覚化カメラ300の後ろ側の下から上への斜視図を示す。立体視覚化カメラ300は、支持体に接続するように構成された取り付けブラケット402を含む。
図5及び
図6においてより詳細に説明するように、支持体は、大きな可操作性を提供する1つ又は複数のジョイントを有するアームを含み得る。アームは、可動カートに接続してもよく、又は壁若しくは天井に固定してもよい。
【0031】
立体視覚化カメラ300は、電力アダプタを受けるように構成された電力ポート404も含む。電力は、ACコンセント及び/又はカートの電池から受け取り得る。幾つかの場合、立体視覚化カメラ300は、内部電池を含み、コードなしの動作を促進し得る。これらの場合、電力ポート404は、電池の充電に使用し得る。代替の実施形態では、電力ポート404は、立体視覚化カメラ300が支持体内のワイヤ(又は他の導電性配線材料)を介して電力を受け取るように取り付けブラケット402に統合し得る。
【0032】
図4は、立体視覚化カメラ300がデータポート406を含み得ることも示す。一例のデータポート406は、例えば、Ethernetインターフェース、高精細マルチメディアインターフェース(「HDMI」)インターフェース、ユニバーサルシリアルバス(「USB」)インターフェース、シリアルデジタルインターフェース(「SDI」)、デジタル光学インターフェース、RS−232シリアル通信インターフェース等を含む任意のタイプのポートを含み得る。データポート406は、立体視覚化カメラ300と、1つ又は複数の計算デバイス、サーバ、記録デバイス、及び/又はディスプレイデバイスに配線されたコードとの間に通信接続を提供するように構成される。通信接続は、更なる処理、記憶、及び/又は表示のために、立体ビデオ信号又は二次元ビデオ信号を送信し得る。データポート406は、制御信号を立体視覚化カメラ300に送信できるようにもし得る。例えば、接続されたコンピュータ(例えば、ラップトップコンピュータ、デスクトップコンピュータ、及び/又はタブレットコンピュータ)におけるオペレータは、操作の指示、較正の実行、又は出力ディスプレイ設定の変更を行う制御信号を立体視覚化カメラ300に送信し得る。
【0033】
幾つかの実施形態では、データポート406は、無線インターフェースと置換(及び/又は無線インターフェースで補足)し得る。例えば、立体視覚化カメラ300は、Wi−Fiを介して立体ディスプレイ信号を1つ又は複数のディスプレイデバイスに送信し得る。内部電池と組み合わせた無線インターフェースの使用により、立体視覚化カメラ300をワイヤフリーにすることができ、それにより、外科環境内の可操作性を更に改善する。
【0034】
図4に示される立体視覚化カメラ300は、主対物レンズ組立体の前部作業距離主対物レンズ408も含む。一例のレンズ408は、立体視覚化カメラ300内の光路の開始部にある。立体視覚化カメラ300内部の光源からの光は、レンズ408を通して標的部位に送られる。さらに、標的部位から反射された光は、レンズ408で受け取られ、下流の光学要素に渡される。
【0035】
II.立体視覚化カメラの例示的な可操作性
図5及び
図6は、本開示の実施形態例による、顕微鏡手術環境500内で使用される立体視覚化カメラ300の図を示す。示されるように、立体視覚化カメラ300の小さなフットプリント及び可操作性は(特に多度自由度アームと併せて使用される場合)、患者502に対する柔軟な位置決めを可能にする。立体視覚化カメラ300の図中の患者502の一部は、標的部位503を含む。外科医504は、患者502(仰臥位で横たわっている)の上方に十分過ぎるほどの手術空間を残しながら、立体視覚化カメラ300を略あらゆる向きで位置決めすることができる。それに従って立体視覚化カメラ300は最小の侵襲性で(又は非侵襲的に)外科医504が妨害又は邪魔なしで人生を変える顕微鏡手術処置を行えるようにする。
【0036】
図5では、立体視覚化カメラ300は、取り付けブラケット402を介して機械アーム506に接続される。アーム506は、電子機械ブレーキを有する1つ又は複数の回転又は延長可能なジョイントを含み、立体視覚化カメラ300の容易な再位置決めを促進し得る。立体視覚化カメラ300を動かすために、外科医504又はアシスタント508は、アーム506の1つ又は複数のジョイントのブレーキ解放を作動させる。立体視覚化カメラ300が所望の位置に動かした後、ブレーキを係合させて、アーム506のジョイントを所定位置にロックし得る。
【0037】
立体視覚化カメラ300の大きな特徴は、接眼レンズを含まないことである。これは、立体視覚化カメラ300を外科医504の目と位置合わせする必要がないことを意味する。この自由により、従来既知の外科用顕微鏡では実際的又は可能ではなかった所望の位置に立体視覚化カメラ300を位置決め方向付けることができる。換言すれば、外科医504は、外科用顕微鏡の接眼レンズにより決められる単に適切なビューに制限されるのではなく、処置を行うのに最適なビューを用いて顕微鏡手術を行うことができる。
【0038】
図5に戻ると、立体視覚化カメラ300は、機械アーム506を介して、ディスプレイモニタ512及び514を有するカート510(集合的に立体視覚化プラットフォーム516)に接続される。図示の構成では、立体視覚化プラットフォーム516は自己充足型であり、手術室間を含め、顕微鏡手術環境500内の任意の所望のロケーションに移動し得る。統合プラットフォーム516は、ディスプレイモニタ512及び514を接続することによりシステムを構成する必要な時間なしで、立体視覚化カメラ300を需要に応じて移動及び使用できるようにする。
【0039】
ディスプレイモニタ512及び514は、高精細テレビジョン、超高精細テレビジョン、スマートメガネ、プロジェクタ、1つ又は複数のコンピュータ画面、ラップトップコンピュータ、タブレットコンピュータ、及び/又はスマートフォンを含む任意のタイプのディスプレイを含み得る。ディスプレイモニタ512及び514は、立体視覚化カメラ300と同様に、機械アームに接続されて、柔軟な位置決めを可能にし得る。幾つかの場合、ディスプレイモニタ512及び514はタッチスクリーンを含み得、オペレータが立体視覚化カメラ300にコマンドを送信し、及び/又はディスプレイの設定を調整できるようにする。
【0040】
幾つかの実施形態では、カート516はコンピュータ520を含み得る。これらの実施形態では、コンピュータ520は、立体視覚化カメラ300に接続されたロボット機械アームを制御し得る。追加又は代替として、コンピュータ520は、ディスプレイモニタ512及び514に表示するために、立体視覚化カメラ300からのビデオ(又は立体ビデオ)信号(例えば、画像ストリーム又はフレームストリーム)を処理し得る。例えば、コンピュータ520は、立体視覚化カメラ300からの左ビデオ信号及び右ビデオ信号を結合又はインターリーブして、標的部位の立体画像を表示する立体信号を作成し得る。コンピュータ520はまた、ビデオ信号及び/又は立体ビデオ信号をビデオファイルに記憶する(メモリに記憶される)のに使用することもでき、それにより、外科医の施術を文書化し、再生することができる。さらに、コンピュータ520は、設定を選択及び/又は較正を実行する制御信号を立体視覚化カメラ300に送信することもできる。
【0041】
幾つかの実施形態では、
図5の顕微鏡手術環境500は眼科手術処置を含む。この実施形態では、機械アーム506は患者の目の周回掃引を実行するようにプログラムし得る。そのような掃引により、外科医は、硝子体網膜処置中、周辺部網膜を調べることができる。これとは対照的に、従来の光学顕微鏡を用いる場合、外科医が周辺部網膜を見ることができる唯一の方法は、強膜圧迫法として知られる技法を用いて目の横を視野内に押すことである。
【0042】
図6は、後方到達法頭蓋底神経外科手術のために患者502が着座位置にある顕微鏡手術環境500の図を示す。図示の実施形態では、立体視覚化カメラ300は、患者502の後頭部に面するように水平位置に配置される。機械アーム506は、立体視覚化カメラ300を示されるように位置決めできるようにするジョイントを含む。加えて、カート510はモニタ512を含み、モニタ512は外科医の自然な閲覧方向と位置合わせし得る。
【0043】
接眼レンズがないことにより、立体視覚化カメラ300を水平に、外科医504の目の高さのビューよりも低く位置決めすることができる。さらに、比較的軽量であり、柔軟性があることにより、他の既知の外科用顕微鏡では想像できないように立体視覚化カメラ300を位置決めすることができる。それにより、立体視覚化カメラ300は、任意の所望の位置及び/又は向きの患者502及び/又は外科医504に顕微鏡手術ビューを提供する。
【0044】
図5及び
図6は、立体視覚化カメラ300を位置決めする2つの実施形態例を示すが、立体視覚化カメラ300が、機械アーム506の自由度の数に応じて任意の数の位置に位置決め可能なことを理解されたい。幾つかの実施形態では、上に面する(例えば、逆さまになる)ように立体視覚化カメラ300を位置決めすることが完全に可能である。
【0045】
III.既知の外科用顕微鏡との一例の立体視覚化プラットフォームの比較
図3から
図6の立体視覚化カメラ300を
図2の外科用顕微鏡200と比較すると、違いは容易に明らかである。外科用顕微鏡への接眼レンズ206の包含により、外科医は常に目を、スコープヘッド201及び患者に対して一定位置にある接眼レンズに向ける必要がある。さらに、外科用顕微鏡の嵩張り及び重量により、外科用顕微鏡は患者に対して概して垂直の向きでしか位置決めすることができない。これとは対照的に、一例の立体視覚化カメラ300は、接眼レンズを含まず、患者に対して任意の向き又は位置に位置決めすることができ、それにより、術中、外科医は自由に移動することができる。
【0046】
他の臨床スタッフが顕微鏡手術標的部位を見られるようにするためには、外科用顕微鏡200では第2の接眼レンズ208を追加する必要がある。一般に、最も既知の外科用顕微鏡200では、第3の接眼レンズを追加することができない。これとは対照的に、一例の立体視覚化カメラ300は、無制限数のディスプレイモニタに通信可能に結合することができる。
図5及び
図6は先に、カート510に接続されたディスプレイモニタ512及び514を示したが、手術室は、立体視覚化カメラ300によって記録された顕微鏡手術ビューを全て示すディスプレイモニタで囲むことができる。したがって、ビューを1人又は2人に制限する(又は接眼レンズの共有を必要とする)代わりに、外科チーム全体が標的術部の拡大ビューを見ることができる。さらに、訓練室及び観察室等の他の部屋内の人々に、外科医に表示されたものと同じ拡大ビューを提示することができる。
【0047】
立体視覚化カメラ300と比較して、2接眼レンズ外科用顕微鏡200は、衝突又は非意図的な移動をより受けやすい。術中、外科医は、接眼レンズを通して見るために、頭を接眼レンズ206及び208上に配置するため、スコープヘッド201は一定の力及び周期的な衝突を受ける。第2の接眼レンズ208の追加は、第2の角度からの力を倍にする。一緒に、外科医による一定の力及び定期的な衝突は、スコープヘッド201を動かし得、それにより、スコープヘッド201の再位置決めが必要になる。この再位置決めは、外科処置を遅延させ、外科医を不快にさせる。
【0048】
一例の立体視覚化カメラ300は、接眼レンズを含まず、所定位置にロックされると、外科医からの接触を受け取る意図はない。これは、外科医の施術中、立体視覚化カメラ300が非意図的に動く又は衝突する可能性の大幅な低下に対応する。
【0049】
第2の接眼レンズ208を促進するために、外科医用顕微鏡200は、ビームスプリッタ210を装備する必要があり、ビームスプリッタ210は、精密金属管内に収容されたガラスレンズ及びミラーを含み得る。ビームスプリッタ210の使用は第1の接眼レンズで受け取る光を低減させ、その理由は、光の幾らかが第2の接眼レンズ208に反射されるためである。さらに、第2の接眼レンズ208及びビームスプリッタ210の追加は、スコープヘッド201の重量及び嵩張りを増大させる。
【0050】
外科用顕微鏡200とは対照的に、立体視覚化カメラ300は、センサの光路のみを含み、それにより、重量及び嵩張りを低減する。加えて、光の一部をリダイレクトするビームスプリッタが必要ないため、光学センサは入射光全てを受け取る。これは、一例の立体視覚化カメラ300の光学センサによって受信される画像が、可能な限り明るくクリアであることを意味する。
【0051】
外科用顕微鏡の幾つかのモデルは、ビデオカメラを取り付けることができ得る。例えば、
図2の外科用顕微鏡200は、ビームスプリッタ214を介して光路に接続された平面視ビデオカメラ212を含む。ビデオカメラ212は、Leica(登録商標)TrueVision(登録商標)3D視覚化システム眼科カメラ等の平面視又は立体視であり得る。ビデオカメラ212は、ディスプレイモニタに表示するためにビームスプリッタ214から受信した画像を記録する。ビデオカメラ212及びビームスプリッタ214の追加は、スコープヘッド201の重量を更に追加する。加えて、ビームスプリッタ214は、接眼レンズ206及び/又は208に向かう追加の光を消費する。
【0052】
各ビームスプリッタ210及び214は、入射光を部分的に3つの経路に分割し、光を外科医のビューから除去する。外科医の目は、外科医に提示された術部からの光が、外科医が処置を行うことができるようにするのに十分でなければならないような、限られた低光感度を有する。しかしながら、外科医は、特に眼科処置では、患者の標的部位に適用される光の強度を上げることが常に可能であるわけではない。患者の目は限られた高光感度を有し、それを超えると光毒性が生じる。したがって、ビームスプリッタの数並びに割合及び補助デバイス208及び212を使用できるようにするために第1の接眼レンズ206から分割することができる光の量には制限がある。
【0053】
図3から
図6の一例の立体視覚化カメラ300はビームスプリッタを含まず、それにより、光学撮像センサは、主対物レンズ組立体からの全量の光を受け取る。これにより、事後処理によりモニタでの表示に十分明るく可視(及び調整可能)にすることができるため、低光感度を有するセンサ、さらには使用する可視光の波長外の感度を有する光学センサの使用が可能になる。
【0054】
さらに、光路を画定する光学要素は、立体視覚化カメラ300それ自体内に含まれるため、カメラを通して制御することができる。この制御により、光学要素の配置及び調整を顕微鏡接眼レンズではなく三次元立体表示に向けて最適化することができる。カメラのこの構成により、制御をカメラ制御機構から又はリモートコンピュータから電子的に提供することができる。加えて、制御は、ズームしながらフォーカスを維持するように、又は光学欠陥及び/又は疑似視差に関して調整するように、光学要素を調整するように構成された、カメラ300に搭載される1つ又は複数のプログラムを通して自動的に提供することができる。これとは対照的に、外科用顕微鏡200の光学要素は、ビデオカメラ212の外部にあり、一般に接眼レンズ206を通した標的部位の閲覧に向けて最適化されたオペレータ入力を介してのみ制御される。
【0055】
最後の比較では、外科用顕微鏡200は、視野又は標的部位を動かすX−Yパンデバイス220を含む。X−Yパンデバイス220は、外科用スコープヘッド201をしっかりと支持し移動させなければならないため、通常、大きく、重く、高価な電子機械モジュールである。加えて、スコープヘッド201を移動させると、接眼レンズ206の新しい位置に外科医の位置が変わる。
【0056】
これとは対照的に、一例の立体視覚化カメラ300は、実行されると、プロセッサに、広いピクセルグリッドにわたりX−Yパンを可能にする光学センサのピクセルデータを選択あっせる命令を含むメモリを含む。加えて、一例の立体視覚化カメラ300は、主対物レンズ光学要素を制御して、カメラ300を移動させずに標的部位までの作業距離を偏向する小型のモータ又はアクチュエータを含み得る。
【0057】
IV.立体視覚化カメラの一例の光学要素
図7及び
図8は、本開示の実施形態例による、
図3から
図6の一例の立体視覚化カメラ300内の光学要素を示す図を示す。立体画像を構築するために、標的部位の左ビュー及び右ビューを取得することは比較的簡単に見え得る。しかしながら、入念な設計及び補償なしでは、多くの立体画像は左ビューと右ビューとの間の位置合わせ問題を有する。長時間にわたり見られる場合、位置合わせ問題は、左ビューと右ビューとの違いの結果として観察者の脳に混乱を生み出す恐れがある。この混乱は、頭痛、疲労、目眩、更には吐き気を生じさせる恐れがある。
【0058】
一例の立体視覚化カメラ300は、他の左及び右光学要素が共通キャリアに固定されている間、幾つかの光学要素の独立した制御及び/又は調整を用いる右光路及び左光路を有することにより、位置合わせ問題を低減する(又はなくす)。実施形態例では、幾つかの左及び右ズームレンズは共通キャリアに固定して、左倍率及び右倍率が略同じであることを保証し得る。しかしながら、前部レンズ又は後部レンズは独立して、半径方向、回転、軸方向で調整可能であり、及び/又はチルトして、ズーム反復点の移動等のズーム浴び率の小さな差、視覚的欠陥、及び/又は疑似視差を補償し得る。調整可能なレンズにより提供される補償は、全ズーム倍率範囲を通して略完全に位置合わせされた光路を生じさせる。
【0059】
追加又は代替として、位置合わせ問題は、ピクセル読み出し及び/又はレンダリング技法を用いて低減し得る(又はなくし得る)。例えば、右画像(右光学センサにより記録される)は、左画像(左光学センサにより記録される)に対して上方又は下方に調整されて、画像間の垂直位置合わせずれを補正し得る。同様に、右画像も左画像に対して左又は右に調整されて、画像間の水平位置合わせずれを補正し得る。
【0060】
図7及び
図8は、アーチファクト、疑似視差、及び歪みが略ない、位置合わせされた光路を提供する光学要素の一例の構成及び位置を以下に示す。後述するように、特定の光学要素は、較正及び/又は使用中に移動して、光路を更に位置合わせし、いかなる残留ひずみ、疑似視差、及び/又は欠陥も除去し得る。図示の実施形態では、光学要素は2つの並行路に位置決めされて、左ビュー及び右ビューを生成する。代替の実施形態は、折り畳まれ、偏向され、又は他の方法で平行ではない光路を含み得る。
【0061】
図示の経路は、立体視ディスプレイに表示された左ビュー及び右ビューが、約4フィート(約1.2m)先にある物体を見ている成人である人間の目の集束角と同様である概ね6度の集束角を生み出す距離だけ隔てられるように見えるような人間の視覚系に対応し、それにより、立体視を生み出す。幾つかの実施形態では、左ビュー及び右ビューから生成される画像データは、ディスプレイモニタ512及び514で一緒に結合されて、標的部位又は標的シーンの立体画像を生成する。代替の実施形態は、左ビューが閲覧者の左目のみに提示され、対応する右ビューが右目のみに提示される他の立体ディスプレイを備える。適切な位置合わせ及び較正の調整及び検証に使用される例示的な実施形態では、両ビューとも両目に重ねて表示される。
【0062】
立体ビューは、人間の視覚系をより密に模倣するため、平面ビューよりも優れている。立体ビューは、奥行き知覚、距離知覚、及び相対サイズ知覚を提供して、標的術部のよりリアルなビューを外科医に提供する。網膜手術等の処置では、外科的な運動及び力はあまりに小さく、外科医はそれらを感じることができないため、立体ビューは不可欠である。立体ビューの提供は、脳が奥行きを知覚しながら些少な運動を検知する場合、外科医の脳が触覚を拡大させるのに役立つ。
【0063】
図7は、透明であり、光学要素を露出させる筐体302を有する一例の立体視覚化カメラ300の側面図を示す。
図8は、
図7に示される光学要素により提供された光路を示す図を示す。
図8に示されるように、光路は右光路及び左光路を含む。
図8における光路は、前方向に面し、立体視覚化カメラ300を見下ろす視点から示される。この図から、左光路は
図8の右側に見え、一方、右光路は左側に示される。
【0064】
図7に示される光学要素は、左光路の部分である。
図7における右光路が一般に、光学要素の関係ロケーション及び構成に関して左光路と同一であることを理解されたい。上述したように、光路の中心間の瞳孔間距離は58mmから70mmであり、これは10mmから25mmにスケーリングし得る。各光学要素は、特定の直径(例えば、2mm〜29mm)を有するレンズを備える。したがって、光学要素自体間の距離は、1mm〜23mm、好ましくは約10mmである。
【0065】
一例の立体視覚化カメラ300は、標的部位700(シーン又は視野とも呼ばれる)の画像を取得するように構成される。標的部位700は患者の解剖学的構造の位置を含む。標的部位700は、研究所生体試料、較正スライド/テンプレート等を含むこともできる。標的部位700からの画像は、主対物レンズ組立体702を介して立体視覚化カメラ300において受信され、主対物レンズ組立体702は、前部作業距離レンズ408(
図4に示される)及び後部作業距離レンズ704を含む。
【0066】
V.一例の主対物レンズ組立体
一例の主対物レンズ組立体702は、任意のタイプの屈折組立体又は反射組立体を含み得る。
図7は、前部作業距離レンズ408が静止しており、後部作業距離レンズ704がz軸に沿って移動可能なアクロマート屈折組立体として対物レンズ組立体702を示す。前部作業距離レンズ408は、平凸(「PCX」)レンズ及び/又はメニスカスレンズを含み得る。後部作業距離レンズ704はアクロマートレンズを含み得る。主対物レンズ組立体702がアクロマート屈折組立体を含む例では、前部作業距離レンズ408は、半球レンズ及び/又はメニスカスレンズを含み得る。加えて、後部作業距離レンズ704は、アクロマートダブレットレンズ、レンズのアクロマートダブレット群、及び/又はアクロマートトリプレットレンズを含み得る。
【0067】
主対物レンズ組立体702の倍率は6xから20xである。幾つかの場合、主対物レンズ組立体702の倍率は、作業距離に基づいて僅かに変化し得る。例えば、主対物レンズ組立体702は、200mm作業距離では倍率8.9x及び450mm作業距離では倍率8.75xを有し得る。
【0068】
一例の後部作業距離レンズ704は、前部作業距離レンズ408に対して移動可能であり、それにより、後部作業距離レンズ704と前部作業距離レンズ408との間隔を変更するように構成される。レンズ408と704との間隔は、主対物レンズ組立体702の全体前方焦点距離、ひいては焦点面の位置を決める。幾つかの実施形態では、焦点距離は、レンズ408と704との間の距離に、前部作業距離レンズ408の厚さの半分を加えたものである。
【0069】
前部作業距離レンズ408及び後部作業距離レンズ704は一緒に、下流の光学画像センサに最適なフォーカスを提供するために、無限共役像を提供するように構成される。換言すれば、標的部位700の厳密に焦点面に配置された物体は、その像を無限の距離に投影し、それにより、提供される作業距離において無限に結合される。一般に、物体は、焦点面から光路に沿って特定の距離にわたりピントが合って見える。しかしながら、特定の閾値距離を超えると、物体はぼやけるか、又はピンボケして見え始める。
【0070】
図7は、前部作業距離レンズ408の外面と標的部位700の焦点面へとの間の距離である作業距離706を示す。作業距離706は視野角に対応し得、作業距離が長いほど、視野は広くなり、又は表示可能面積は大きくなる。それに従って作業距離706は、焦点が合った標的部位又はシーンの平面を設定する。図示の例では、作業距離706は、後部作業距離レンズ704を動かすことにより200mmから450mmまで調整可能である。一例では、視野は、作業距離が450mmである場合、上流のズームレンズを用いて20mm×14mm〜200mm×140mmで調整可能である。
【0071】
図7及び
図8に示される主対物レンズ組立体702は、左光路及び右光路の両方で、標的部位700の画像を提供する。これは、レンズ408及び704の幅が左右光路の少なくとも2倍であるべきことを意味する。代替の実施形態では、主対物レンズ組立体702は、左右別個の前部作業距離レンズ408及び左右別個の後部作業距離レンズ704を含み得る。別個の作業距離レンズの各対の幅は、
図7及び
図8に示されるレンズ408及び704の幅の1/4〜1/2であり得る。さらに、各後部作業距離レンズ704は独立して調整可能であり得る。
【0072】
幾つかの実施形態では、主対物レンズ組立体702は置換可能であり得る。例えば、異なる主対物レンズ組立体を追加して、作業距離範囲、倍率、開口数、及び/又は屈折/反射タイプを変更し得る。これらの実施形態では、立体視覚化カメラ300は、下流の光学要素のポジショニング、光学画像センサの特性、及び/又は主対物レンズ組立体設置の際に基になる画像処理のパラメータを変更し得る。オペレータは、
図3の制御機構305及び/又はユーザ入力デバイスの一方を用いて立体視覚化カメラ300にどの主対物レンズ組立体が設置されるかを指定し得る。
【0073】
A.一例の照明源
標的部位700を照明するために、一例の立体視覚化カメラ300は1つ又は複数の照明源を含む。
図7及び
図8は、可視光源708a、近赤外線(「NIR」)光源708b、及び近紫外線(「NUV」)光源708cを含む3つの照明源を示す。他の例では、立体視覚化カメラ300は、追加の光源又はより少数の光源を含み得る(又は光源を含まないことがある)。例えば、NIR光源及びNUV光源は省くことが可能である。一例の光源708は、標的シーン700に投影される光を生成するように構成される。生成された光は標的シーンと相互作用し、標的シーンから反射され、光の幾らかは主対物レンズ組立体702に反射される。他の例は、外部光源又は環境からの周囲光を含み得る。
【0074】
一例の可視光源708aは、可視領域外の波長を有する幾らかの光に加えて、光スペクトルの人間可視部分の光を出力するように構成される。NIR光源708bは、「近赤外線」とも呼ばれる、主に、可視スペクトルの赤色部分を僅かに超えた波長にある光を出力するように構成される。NUV光源708cは、「近紫外線」とも呼ばれる、主に、可視スペクトルの青色部分における波長における光を出力するように構成される。光源708により出力される光スペクトルは、後述する各コントローラにより制御される。光源708により発せられる光の輝度は、切り替え率及び/又は印加電圧波形により制御し得る。
【0075】
図7及び
図8は、可視光源708a及びNIR光源708bが主対物レンズ組立体702を通して直接、標的部位700に提供されることを示す。
図8に示されるように、可視光源708aからの可視光は、可視経路710aに沿って伝搬する。さらに、NIR光源708bからのNIR光はNIR経路710bに沿って伝搬する。光源708a及び708bは主対物レンズ組立体702の背後(標的部位700に関して)にあるものとして示されているが、他の例では、光源708a及び708bは、主対物レンズ組立体702の前に提供し得る。一実施形態では、光源708a及び708bは、筐体302の外部に標的部位700に面して提供し得る。更に他の実施形態では、光源708は、例えば、Koeher照明セットアップ及び/又は暗視野照明セットアップを用いて立体視覚化カメラ300とは別個に提供し得る。
【0076】
光源708a及び708bとは対照的に、NUV光源708cからのNUV光は、落射照明セットアップを用いて、偏向要素712(例えば、ビームスプリッタ)によって主対物レンズ組立体702に反射される。偏向要素712は、NUV波長範囲を超える光のみを反射するように塗膜又は他の方法で構成し得、それにより、NUV光を濾波する。NUV光源708cからのNUV光は、NUV経路710cに沿って伝搬する。
【0077】
幾つかの実施形態では、NIR光源708b及びNUV光源708cは、フィルタ(例えば、フィルタ740)によってブロックされなかった光を更にフィルタリングする励起フィルタと併用し得る。フィルタは、主対物レンズ組立体702の前及び/又は主対物レンズ組立体の後で、光源708b及び708cの前に配置し得る。NUV光源708b及びNIR光源708cからの光は、濾波後、解剖学的物体の蛍光部位914(
図9に示される)における蛍光を励起する波長を含む。さらに、NUV光源708c及びNIR光源708bからの光は、濾波後、蛍光部位914によって発せられるものと同じ範囲にはない波長を含み得る。
【0078】
光源708から主対物レンズ組立体を通る光の投影は、作業距離706及び/又は焦点面に基づいて照明される視野を変更するという利点を提供する。光は主対物レンズ組立体702を通るため、光が投影される角度は、作業距離706に基づいて変わり、視野角に対応する。それに従ってこの構成は、作業距離又は倍率に関係なく、視野が光源708により適宜照明されることを保証する。
【0079】
B.一例の偏向要素
図7及び
図8に示される一例の偏向要素712は、主対物レンズ組立体702を通してNUV光源708cからの特定の波長の光を標的部位700に透過させるように構成される。偏向要素712は、標的部位700から受け取った光を、ズーム及び記録のために、前部レンズセット714を含む下流の光学要素に反射するようにも構成される。幾つかの実施形態では、偏向要素712は、特定の波長の光が前部レンズセット714に達するように、主対物レンズ組立体702を通して、標的部位700から受け取った光を濾波し得る。
【0080】
偏向要素712は、光を指定された方向に反射する任意のタイプのミラー又はレンズを含み得る。一例では、偏向要素712はダイクロイックミラー又はフィルタを含み、ダイクロイックミラー又はフィルタは、異なる波長で異なる反射及び透過特性を有する。
図7及び
図8の立体視覚化カメラ300は、右光路及び左光路の両方に光を提供する1つの偏向要素712を含む。他の例では、カメラ300は、右光路及び左光路のそれぞれに別個の偏向要素を含み得る。さらに、別個の偏向要素をNUV光源708cに提供し得る。
【0081】
図9は、本開示の実施形態例による、
図7及び
図8の偏向要素712の図を示す。簡潔にするために、主対物レンズ組立体702は示されていない。この例では、偏向要素712は、特定の波長の光を透過及び反射する2つの平行面902及び904を含む。平行面902及び904は、左右の光路(経路906として表される)に対して45°の角度に設定される。45°の角度は、この角度が反射光を透過光から90°の角度で伝搬させ、それにより、分離された光を下流の前部レンズセット714において検出させることなく最適な分離を提供するため、選択される。他の実施形態では、偏向要素712の角度は、非意図的に不要な波長の光を伝搬せずに、10度〜80度であることができる。
【0082】
一例のNUV光源708cは偏向要素712の背後(標的部位700に関して)に配置される。光源708cからの光は、経路908に沿って伝搬し、偏向要素712に接触する。NUV光源708cの主な波長範囲前後のNUV光は、偏向要素712を透過し、経路910に沿って標的部位700に達する。NUV光源708cの主な波長範囲を超える(及び下回る)波長を有するNUV光源708cからの光は反射され、経路912に沿って光シンク又は筐体302の非使用領域に達する。
【0083】
NUV光は、標的部位700に達すると、解剖学的物体の1つ又は複数の蛍光部位914によって吸収される。幾つかの場合、解剖学的物体には、NUV光を吸収し、異なる主波長の光を発するように構成された造影剤が注入されていることがある。他の場合、解剖学的物体は自然にNUV光を吸収し、異なる主波長の光を発し得る。蛍光部位914により反射又は発せられた光の少なくとも幾らかは、偏向要素712に接触するまで経路916に沿って伝搬する。光の大半は表面904から反射され、経路906に沿って前部レンズセット714に達する。NUV光源708cの主な波長範囲前後のNUV光を含む光の一部は、偏向要素712を透過し、経路918に沿って光シンク又は筐体302の非使用領域に送られる。それに従って
図9に示される偏向要素712は、刺激光の大部分を下流の前部レンズセット714への伝達をブロックしながら、スペクトルのある領域を有する標的部位700における蛍光剤の光学刺激を可能にする。
【0084】
偏向要素712の反射特性及び透過特性が、他の光スペクトル要件に合うように変更可能なことを理解されたい。幾つかの場合、筐体302は、所望の光反射特性及び透過特性に基づいて偏向要素712及び/又はNUV光源708cを交換できるようにするスロットを含み得る。経路908と経路910との間の偏向要素712内部の第1の経路及び経路916と経路918との間の偏向要素712内部の第2の経路がそれぞれ傾斜して、光が空気と偏向要素712の内部との間を移動する際の光の屈折を概略的に表すことも理解されたい。示される角度は、実際の反射角度を表す意図はない。
【0085】
C.一例のズームレンズ
図7及び
図8の一例の立体視覚化カメラ300は、標的部位700の焦点距離及び視野角を変更して、ズーム倍率を提供する1枚又は複数枚のズームレンズを含む。図示の例では、ズームレンズは、前部レンズセット714、ズームレンズ組立体716、及びレンズバレルセット718を含む。他の実施形態では、前部レンズセット714及び/又はレンズバレルセット718が省略可能であることを理解されたい。代替的には、ズームレンズは追加のレンズを含み得、更なる倍率及び/又は画像分解能を提供する。
【0086】
前部レンズセット714は、右光路用の右前部レンズ720及び左光路用の左前部レンズ722を含む。レンズ720及び722はそれぞれ、偏向要素712からの光をズームレンズ組立体716内の各レンズに向ける正収束レンズを含み得る。それに従ってレンズ720及び722の側方位置は、ズームレンズ組立体716に伝搬する、主対物レンズ組立体702及び偏向要素712からのビームを定義する。
【0087】
レンズ720及び722の一方又は両方は、左右の光路の光軸に合うように半径方向において調整可能であり得る。換言すれば、レンズ720及び722の一方又は両方は、光路に入射する平面において左右及び/又は上下に移動し得る。幾つかの実施形態では、レンズ720及び722の1枚又は複数枚は回転又はチルトして、画像光学欠陥及び/又は疑似視差を低減するか、又はなくし得る。ズーム中にレンズ720及び722のいずれか一方又は両方の移動は、各光路のズーム反復点(「ZRP」)をユーザにとって静止したままであるように見えるようにし得る。半径方向の運動に加えて、前部レンズ720及び722の一方又は両方は、光路の倍率に合うように軸方向に(各光路に沿って)移動し得る。
【0088】
一例のズームレンズ組立体716は、レンズバレルセット718に伝搬する光線のサイズを変更することにより、視野(例えば、線形視野)のサイズを変更するアフォーカルズーム系を形成する。ズームレンズ組立体716は、右前部ズームレンズ726及び左前部ズームレンズ728を有する前部ズームレンズセット724を含む。ズームレンズ組立体716は、右後部ズームレンズ732及び左後部ズームレンズ734を有する後部ズームレンズセット730も含む。前部ズームレンズ726及び728は正収束レンズであり得、一方、後部ズームレンズ732及び734は負発散レンズを含む。
【0089】
左右光路のそれぞれの画像ビームのサイズは、前部ズームレンズ726及び728、後部ズームレンズ732及び734、並びにレンズバレルセット718間の距離に基づいて決まる。一般に、光路のサイズは、後部ズームレンズ732及び734がレンズバレルセット718に向かって移動する(各光路に沿って)につれて低減し、それにより、倍率が下がる。加えて、前部ズームレンズ726及び728も、後部ズームレンズ732及び734がレンズバレルセット718に向かって移動するにつれて、レンズバレルセット718に向かって(又は離れて)移動して(放物線弧において等)、焦点面の位置を標的部位700上に維持し得、それにより、フォーカスを維持する。
【0090】
前部ズームレンズ726及び728は、第1のキャリア内に含まれ得(例えば、前部ズームセット724)、一方、後部ズームレンズ732及び724は第2のキャリア内に含まれる(例えば、後部ズームセット730)。各キャリア724及び730は、左右の倍率が同時に変わるように、トラック(又はレール)上を光路に沿って移動し得る。この実施形態では、左右光路間のいずれの僅かな倍率差も、右前部レンズ720及び/又は左前部レンズ722を移動させることにより補正し得る。追加又は代替として、レンズバレルセット718の右レンズバレル736及び/又は左レンズバレル738は、軸方向に移動し得る。
【0091】
代替の実施形態では、右前部ズームレンズ726は、左前部ズームレンズ728とは別個に軸方向に移動し得る。加えて、右後部ズームレンズ732は、左後部ズームレンズ734とは別個に軸方向に移動し得る。別個の移動により、特に前部レンズセット714及びレンズバレルセット718が光路に沿って静止しているとき、ズームレンズ組立体716により小さな倍率差を補正できるようにする。さらに、幾つかの実施形態では、右前部ズームレンズ726及び/又は左前部ズームレンズ728は、半径方向及び/又は回転方向に調整可能であり得(及び/又はチルトし得)、それにより、ZRPの見掛けの位置を光路内に維持する。追加又は代替として、右後部ズームレンズ732及び/又は左後部ズームレンズ734は、波形方向及び/又は回転方向に調整可能であり得(及び/又はチルトし得)、それにより、ZRPの見掛けの位置を光路内に維持する。
【0092】
一例のレンズバレルセット718は、右レンズバレル736及び左レンズバレル738を含み、これらは、ズームレンズ組立体716に加えてアフォーカルズーム系の一部である。レンズ736及び738は、ズームレンズ組立体716からの光線を直線化又はフォーカスするように構成された正収束レンズを含み得る。換言すれば、レンズ736及び738は、ズームレンズ組立体716の無限結合出力をフォーカスする。
【0093】
幾つかの例では、レンズバレルセット718は、筐体302内で半径方向及び軸方向において固定される。他の例では、レンズバレルセット718は、光路に沿って軸方向に移動可能であり、それにより、倍率の増大を提供し得る。追加又は代替として、レンズ736及び738のそれぞれは、半径方向及び/又は回転方向において調整可能であり得(及び/又はチルトし得)、それにより、例えば、前部レンズセット714、前部ズームレンズセット724、及び/又は後部ズームレンズセット730の左右レンズ間の光学特性差(倍率又は天然ガラスのずれ)を補正する。
【0094】
一例の前部レンズセット714、ズームレンズ組立体716、及びレンズバレルセット718は一緒に、好ましくは回折限界分解能を有するズームレンズにおいて、5Xから約20Xの光学ズームを達成するように構成される。幾つかの実施形態では、前部レンズセット714、ズームレンズ組立体716、及びレンズバレルセット718は、画質を妥協することができる場合、より高いズーム範囲(例えば、25Xから100X)を提供し得る。これらの実施形態では、立体視覚化カメラ300は、選択された光学範囲が光学範囲外であり、画質の低下を受けることを示すメッセージをオペレータに出力し得る。
【0095】
幾つかの実施形態では、前部レンズセット714、ズームレンズ組立体716、レンズバレルセット718、及び/又は主対物レンズ組立体702のレンズはそれぞれ、互いの光学歪みパラメータのバランスをとる材料を用いて、複数の光学サブ要素からダブレットとして構築し得る。ダブレット構築は、色収差及び光学収差を低減する。例えば、前部作業距離レンズ408及び後部作業距離レンズ702はそれぞれ、ダブレットとして構築し得る。別の例では、前部レンズ720及び722、前部ズームレンズ726及び728、後部ズームレンズ732及び734、並びにレンズバレル736及び738はそれぞれ、ダブレットレンズを含み得る。
【0096】
更なる実施形態では、前部レンズセット714、ズームレンズ組立体716、レンズバレルセット718、及び/又は主対物レンズ組立体702のレンズは、異なるように調整し得、及び/又は異なる特性を有し得、それにより、異なる機能を有する2つの平行光路を提供する。例えば、ズームレンズ組立体716内の右レンズは、右光路に5Xから10Xの光学ズームを提供するように選択し得、一方、ズームレンズ組立体716内の左レンズは、左光路に15Xから20Xの光学ズームを提供するように選択される。そのような構成は、平面視ビューであるが、2つの異なる倍率を同時に及び/又は同じ画面上に表示できるようにし得る。
【0097】
D.一例のフィルタ
図7及び
図8の一例の立体視覚化カメラ300は、所望の波長の光を選択的に透過する1つ又は複数の光学フィルタ740(又はフィルタ組立体)を含む。
図8は、1つのフィルタ740を左右光路に適用し得ることを示す。他の例では、各光路は別個のフィルタを有し得る。別個のフィルタの包含により、例えば、左右光路からの異なる波長の光を同時に濾波することができ、それにより、例えば、可視光画像と併せて蛍光画像を表示することができる。
【0098】
図7は、フィルタ740が回転軸を中心として回転する車輪を含むことを示す。図示の実施形態では、フィルタ740は3つの異なる光学フィルタ対を収容することができる。しかしながら、他の実施形態では、フィルタ740は追加又はより少数のフィルタ対を含み得る。一般に、標的部位700からフィルタ740において受け取った光は、広帯域スペクトルの波長を含む。主対物レンズ組立体702、前部レンズセット714、ズームレンズ組立体716、及びレンズバレルセット718のレンズは、オペレータにとって関心がある波長及び望ましくない波長を含む比較的広帯域の光を透過するように構成される。加えて、下流の光学画像センサは特定の波長に対して感度を有する。それに従って一例のフィルタ740は、光スペクトルの特定の部分を透過及びブロックして、異なる所望の特徴を達成する。
【0099】
車輪として、フィルタ740は、毎秒約4回で位置を変更可能な機械デバイスを備える。他の実施形態では、フィルタ740はデジタル微小ミラーを含み得、デジタル微小ミラーは、毎秒60回等のビデオフレームレートで移行路方向を変更することができる。これらの他の実施形態では、左右光路のそれぞれが微小ミラーを含む。左右の微小ミラーは、同期された切り替え又は同時切り替えを有し得る。
【0100】
幾つかの実施形態では、フィルタ740は光源708と同期して、「時間インターリーブ」マルチスペクトル撮像を実現し得る。例えば、フィルタ740は、赤外線遮断フィルタ、近赤外線バンドパスフィルタ、及び近紫外線遮断フィルタを含み得る。異なるフィルタタイプが、光源708の異なるスペクトル並びに偏向要素712のハンスンは特性及び透過特性と併せて機能して、所定の回数、特定の所望の波長の光を透過するように選択される。
【0101】
一モードでは、フィルタ740及び光源708は、可視光モードを提供するように構成される。このモードでは、可視光源708aは、可視領域からの光を標的部位700に押下させ、その幾らかは主対物レンズ組立体702に反射される。反射光は、光学画像センサに影響し得る可視スペクトルを超えた幾らかの光を含み得る。可視光は、偏向要素712により反射され、前部レンズセット714、ズームレンズ組立体716、及びレンズバレルセット718を透過する。この例では、フィルタ740は、赤外線遮断フィルタ又は近紫外線遮断フィルタを光路に適用して、可視スペクトル内の光のみが最終光学セット742及び光学画像センサ744を透過するように、可視スペクトル外の光を除去するように構成される。
【0102】
別のモードでは、フィルタ740及び光源708は、狭波長の蛍光のみを光学センサ744に提供するように構成される。このモードでは、NUV光源708cは、スペクトルの藍色領域からの光を標的部位700に透過させる。偏向要素712は、藍色領域の所望の光を透過させ、その間、望ましくない光を反射する。藍色光は、蛍光が発せられるように標的部位700と相互作用する。幾つかの例では、δ−アミノレブリン酸(「5ala」)及び/又はプロトポルフィリンIXが標的部位700に適用されて、藍色光を受け取ったとき、蛍光を発するようにさせる。主対物レンズ組立体702は、反射された藍色光及び幾らかの可視光に加えて蛍光を受け取る。藍色光は左右光路から出て偏向要素712を透過する。したがって、可視光及び蛍光のみが、前部レンズセット714、ズームレンズ組立体716、及びレンズバレルセット718を透過する。この例では、フィルタ740は、近紫外線遮断フィルタを光路に適用して、可視光及び任意の残留NUV藍色光を含む所望の蛍光スペクトル外の光を除去するように構成される。したがって、狭波長の蛍光のみが光学画像センサ744に達し、相対強度に基づいて蛍光をより容易に検出し、区別できるようにする。
【0103】
更に別のモードでは、フィルタ740及び光源708は、インドシアニングリーン(「ICG」)蛍光を光学センサ744に提供するように構成される。このモードでは、NIV光源708bは、可視スペクトルの遠赤領域(近赤外線とも見なされる)の光を標的部位700に送る。加えて、可視光源708aが、可視光を標的シーン700に送る。可視光及び遠赤光は、標的部位におけるICGを有する材料によって吸収され、ICGは次に、更に遠赤の領域の高刺激蛍光を発する。主対物レンズ組立体702は、反射されたNIR光及び可視光に加えて蛍光を受け取る。光は偏向要素712により前部レンズセット714、ズームレンズ組立体716、及びレンズバレルセット718に反射される。この例では、フィルタ740は、近赤外線バンドパスフィルタを光路に適用して、可視光及びNIR光の少なくとも幾らかを含む所望の蛍光スペクトル外の光を除去するように構成される。したがって、更に遠赤の領域の蛍光のみが光学画像センサ744に達し、相対強度に基づいて蛍光をより容易に検出し、区別できるようにする。
【0105】
上記表1は、特定の所望の波長の光を光学センサ744に到達させる光源とフィルタとの可能な異なる組合せをまとめたものを示す。画像センサ744において受け取られる異なるタイプの光を更に増大させるために、他のタイプのフィルタ及び/又は光源を使用してもよいことを理解されたい。例えば、標的部位700に適用される特定の生物学的染料又は造影剤に対応する狭波長の光を透過するように構成されたバンドパスフィルタを使用し得る。幾つかの例では、フィルタ740は、連結されたフィルタ又は2つ以上のフィルタを含み得、それにより、2つの異なる範囲からの光を濾波できるようにする。例えば、第1のフィルタ740は、所望の波長範囲の可視光のみが光学センサ744に透過されるように、赤外線遮断フィルタ及び近紫外線遮断フィルタを適用し得る。
【0106】
他の実施形態では、別個のフィルタ740を左右の光路に使用し得る。例えば、右フィルタは赤外線遮断フィルタを含み得、一方、左フィルタは近赤外線透過フィルタを含む。そのような構成では、IGC緑色蛍光波長と同時に、可視波長での標的部位700の表示が可能である。別の例では、右フィルタは赤外線遮断フィルタを含み得、一方、左フィルタは近紫外線遮断フィルタを含む。この構成では、標的部位700は、5ALA蛍光と同時に可視光で表示し得る。これらの他の実施形態では、右及び左画像ストリームはなお、結合して、可視光での標的部位700のビューと組み合わせた特定の解剖学的構造の蛍光ビューを提供する立体ビューにし得る。
【0107】
E.一例の最終光学要素セット
図7及び
図8の一例の立体視覚化カメラ300は、フィルタ740から受け取った光を光学画像センサ744にフォーカスする最終光学要素セット742を含む。最終光学要素セット742は、右最終光学要素745及び左最終光学要素747を含み、これらはそれぞれ正収束レンズを含み得る。光の収束に加えて、光学要素745及び747は、光が光学画像センサ744に達する前、左右光路における微小な収差を補正するように構成し得る。幾つかの例では、レンズ745及び747は、半径方向及び/又は軸方向に移動可能であり得、それにより、前部レンズセット714、ズームレンズ組立体716、及びレンズバレルセット718により生じる倍率及び/又は合焦収差を補正する。一例では、左最終光学要素747は半径方向において移動し得、一方、右の最終光学要素745は固定されて、倍率変更中、ZRP移動を除去する。
【0108】
F.一例の画像センサ
図7及び
図8の一例の立体視覚化カメラ300は、最終光学要素セット742から受け取った入射光を取得及び/又は記録する画像センサ744を含む。画像センサ744は、右光路に沿って伝搬する光を取得及び/又は記録する右光学画像センサ746及び左光路に沿って伝搬する光を取得及び/又は記録する左光学画像センサ748を含む。左光学画像センサ746及び右光学画像センサ748のそれぞれは、例えば、相補形金属酸化膜半導体(「CMOS」)検知要素、N型金属酸化膜半導体(「NMOS」)、及び/又は半導体電荷結合素子(「CCD」)検知要素を含む。幾つかの実施形態では、左光学センサ746及び右光学センサ748は同一であり、及び/又は同じ特性を有する。他の実施形態では、左光学センサ746及び右光学センサ748は、様々な機能を提供する異なる検知要素及び/又は特性を含む。例えば、右光学画像センサ746(第1のカラーフィルタアレイを使用する)は、青色蛍光により高感度であるように構成し得、一方、左光学画像センサ748(第2のカラーフィルタアレイを使用する)は、可視光により高感度であるように構成される。
【0109】
図10は、本開示の実施形態例による、画像センサ744の右光学画像センサ746及び左光学画像センサ748の一例を示す。右光学画像センサ746は、感光要素(例えば、ピクセル)の第1の二次元グリッド又はマトリックス1002を含む。加えて、左光学画像センサ748は、感光要素の第2の二次元ピクセルグリッド1004を含む。各ピクセルは、特定の波長の光のみを透過し、それにより、下の光検出器に接触できるようにするフィルタを含む。異なる色のフィルタがセンサ746及び748にわたり拡散して、グリッドにわたり全波長の光検出を提供する。光検出器は、可視光並びに可視スペクトルの上及び下の追加の範囲に感度を有し得る。
【0110】
グリッド1002及び1004の感光要素は、視野内にある標的部位700の表現として、様々な波長の光を記録するように構成される。感光要素に入射した光は、電荷を蓄積させる。電荷を読み出して、検知要素において受け取っている光の量を特定する。加えて、検知要素のフィルタ特性は製造許容誤差内であることが分かっているため、受け取った光の波長の範囲は既知である。標的部位700の表現は、各光学画像センサ746及び748のグリッド1002及び1004が標的部位700を空間的にサンプリングするように、感光要素に向けられる。空間サンプリングの分解能は、画質及びパリティに影響するパラメータである。
【0111】
図10においてピクセルグリッド1002及び1004に示されるピクセルの数は、光学画像センサ746及び748における実際のピクセルの数を表さない。代わりに、センサは通常、1280×720ピクセル及び8500×4500ピクセル、好ましくは約2048×1560ピクセルの分解能を有する。しかしながら、グリッド1002及び1004の全てのピクセルが画像伝送に選択されるわけではない。代わりに、グリッド1002及び1004のサブセット又はピクセルセットが送信に選択される。例えば、
図10では、ピクセルセット1006は、右画像としての伝送にピクセルグリッド1002から選択され、ピクセルセット1008は、左画像としての伝送にピクセルグリッド1004から選択される。示されるように、ピクセルセット1006は、各ピクセルグリッド1002及び1004に関連して、ピクセルセット1008と同じ位置に配置される必要はない。ピクセルセット1006及び1008の別個の制御により、左画像及び右画像を位置合わせし、及び/又は移動するZRP等の画像欠陥及び/又は疑似視差を補正することができる。
【0112】
ピクセルグリッドからのピクセルセットの選択により、画像欠陥/疑似視差を補正し、及び/又は右光学画像及び左光学画像をより正確に位置合わせするピクセルグリッドの一部を選択することができる。換言すれば、ピクセルセットは、ピクセルグリッドに対して移動又は調整されて(リアルタイムで)、疑似視差を低減又はなくすことにより画質を改善し得る。代替的には、立体画像の左ビュー及び右ビューの一方又は両方は、画像処理パイプラインで垂直に動かして(例えば、表示のためのビューのレンダリング中)、同じ効果を達成することができる。センサの回転位置合わせずれも垂直に補正することができる。ピクセルセットは、使用中、ピクセルグリッドにわたっても移動して、視野をパンする外観を提供することもできる。一例では、2048×1560ピクセルを有するピクセルグリッドから、1920×1080ピクセルのウィンドウのピクセルセットを選択し得る。ピクセルウィンドウ又はセットの位置は、ソフトウェア/ファームウェアにより制御し得、セットアップ及び/又は使用中、移動し得る。それに従って光学画像センサ746及び748の分解能は、ピクセルセット又はウィンドウの長さ方向及び幅方向におけるピクセル数に基づいて指定される。
【0113】
1.一例の画像センサを用いての色検知
上述したように、光学検知要素746及び748は、特定の色の光を検出する異なるフィルタを有するピクセルを含む。例えば、幾つかのピクセルは、主に赤色光を透過するフィルタで覆われ、幾つかは主に緑色光を透過するフィルタで覆われ、幾つかは主に青色光を透過するフィルタで覆われる。幾つかの実施形態では、ベイヤーパターンがピクセルグリッド1002及び1004に適用される。しかしながら、他の実施形態では、特定の波長の光に最適化された異なるカラーパターンを使用することもできることを理解されたい。例えば、各検知領域における緑色フィルタを広帯域フィルタ又は近赤外線フィルタで置換し、それにより、検知スペクトルを広げ得る。
【0114】
ベイヤーパターンは、ピクセルの2行×2列をグループ化し、それぞれ碁盤の目パターンで1つを赤色フィルタで覆い、1つを青色フィルタで覆い、2つを緑色フィルタで覆うことにより実施される。したがって、赤及び青の分解能はそれぞれ、対象となる検知領域全体の1/4であり、一方、緑色分解能は、対象となる検知領域全体の半分である。
【0115】
緑色は検知領域の半分に割り当てられて、光学画像センサ746及び748にルミナンスセンサとして動作させ、人間の視覚系を模倣させ得る。加えて、赤及び青は、人間の視覚系のクロミナンスセンサを模倣するが、緑色検知ほど重要ではない。特定の領域での赤、緑、及び青の量が特定されると、後述する
図16のデベイヤープログラム1580aを併せて考察するように、赤値、緑値、及び青値を平均することにより、可視スペクトル内の他の色が特定される。
【0116】
幾つかの実施形態では、光学画像センサ746及び748は、フィルタではなく、積層構成要素を使用して、色を検知し得る。例えば、検知要素は、ピクセルエリア内部に垂直に積み重ねられた赤、緑、及び青の検知構成要素を含み得る。幾つかの別の例では、プリズムは、特に塗膜されたビームスプリッタを使用して、検知要素が各分割ビーム経路に配置された状態で、入射光を成分に1回又は複数回(通常、少なくとも2回で、「3チップ」として知られる3成分色が生成される)分割する。他のセンサタイプは、緑色フィルタの1つを広帯域フィルタ又は近赤外線フィルタで置換する等の異なるパターンを使用し、それにより、デジタル外科用顕微鏡の検知可能性を広げる。
【0117】
2.一例の画像センサを用いての可視範囲外の光の検知
光学画像センサ746及び748の一例の検知要素フィルタは、検知要素が検出することができる範囲内の近紫外線光を透過するようにも構成される。これにより、光学画像センサ746及び748は可視範囲外の少なくとも幾らかの光を検出することができる。そのような感度は、画像を「ウォッシュアウト」し、多くのタイプの画面でコントラストを下げ、色品質に悪影響を及ぼすため、スペクトルの可視部分における画質を低減させる恐れがある。その結果、フィルタ740は、赤外線遮断フィルタを使用して、可視波長を光学画像センサ746及び748に透過させながら、近赤外線波長をブロックし得る。
【0118】
しかしながら、そのような近赤外線感度が望ましいことがある。例えば、ICG等の蛍光剤を標的部位700に導入することができる。ICGは、可視又は他の波長又は光で励起又は活性化し、近赤外線範囲の蛍光を発する。上述したように、NIR光源708bはNIR光を提供し、可視光源708aは可視光を提供して、ICGを用いる薬剤を励起させる。励起光は更に赤色スペクトルに沿い、これは、近赤外線バンドパス又はハイパスフィルタを使用してフィルタ740に透過し得る。次に、赤色スペクトルからの光は、光学画像センサ746及び748により検出される。フィルタ740のスペクトル特性を光源708及び蛍光剤の予期される挙動と合わせることにより、標的部位700における薬剤を含む血液等の薬剤及び生物学的構造を、薬剤を含まない他の構造から区別することができる。
【0119】
なお、この例では、NIR光源708bは、フィルタ740内の近赤外線フィルタと異なる主波長を有する。特に、NIR光源708bは、約780ナノメートル(「nm」)(概ねこの前後に光の出力スペクトルの大半が存在する)の主波長を有する。これとは対照的に、フィルタ740の近赤外線フィルタは、約810nmから910nmの範囲の波長の光を透過する。NIR光源708bからの光及びフィルタ740を透過した光は両方とも「近赤外線」波長である。しかしながら、光波長は、一例の立体視覚化カメラ300が光源708を用いて刺激し、刺激光を濾波しながら光学画像センサ744を用いて検出することができるように分離される。それに従ってこの構成により、蛍光剤の使用が可能になる。
【0120】
別の実施形態では、薬剤は青色、紫色、及び近紫外線領域で励起し、赤色領域の光を蛍光することができる。そのような薬剤の一例には、5ALAの導入によって生じる悪性神経膠腫内のポルフィリン蓄積がある。この例では、青色光を、残りのスペクトルを透過しながら濾波して除外する必要がある。この状況では近紫外線遮断フィルタが使用される。上述した「近赤外線」の場合と同様に、NUV光源708cは、フィルタ740内の近紫外線遮断フィルタとは異なる主波長を有する。
【0121】
G.一例のレンズキャリア
先のセクションIV(D)では、前部レンズセット714、ズームレンズ組立体716、及び/又はレンズバレルセット718のレンズの少なくとも幾つかが、レールに沿って1つ又は複数のキャリアで移動し得ることを述べた。例えば、前部ズームレンズセット724は、前部ズームレンズ726及び728を一緒に軸方向に移動させるキャリアを備え得る。
【0122】
図11及び
図12は、本開示の実施形態例による一例のキャリアの図を示す。
図11では、キャリア724は、支持構造体1102内に右前部ズームレンズ726及び左前部ズームレンズ728を含む。キャリア724は、レール1106に移動可能に接続するように構成されたレールホルダ1104を含む。力「F」が作動セクション1108に印加されて、キャリア724をレール1106に沿って移動させる。力「F」は、リードねじ又は他の線形作動デバイスにより印加し得る。
図11に示されるように、力「F」はキャリア724のオフセットに印加される。レール1106とキャリア724との摩擦が、モーメントM
yを生成し、モーメントM
yは支持構造体1102を
図11に示されるY軸の回りを僅かに移動させる。この僅かな移動は、右前部ズームレンズ726及び左前部ズームレンズ728を逆方向に僅かにシフトさせ、立体画像のビュー間の視差誤差である疑似視差を生じさせる恐れがある。
【0123】
図12は別の例のキャリア724を示す。この例では、力「F」は、レールホルダ1104及び支持構造体1102に接続された中心構造体1202に対称に印加される。力「F」はモーメントM
xを生成し、モーメントM
xはキャリア724を
図12に示されるX軸の回りを僅かに回転又は移動させる。回転運動は、右前部ズームレンズ726及び左前部ズームレンズ728を同じ度数の運動だけ同じ方向にシフトさせ、それにより、疑似視差の発生を低減する(又はなくす)。
【0124】
図11及び
図12は1つのキャリア内のレンズ726及び728を示すが、他の実施形態では、レンズ726及び728はそれぞれキャリア内にあり得る。これらの例では、各レンズは別個のトラック又はレール上にある。別個のリードねじを各レンズに提供して、各光路に沿った独立した軸方向運動を提供し得る。
【0125】
H.一例の屈曲部
先のセクションIV(D)では、前部レンズセット714、ズームレンズ組立体716、及び/又はレンズバレルセット718のレンズの少なくとも幾つかが、半径方向に移動、回転、及び/又はチルトし得ることを述べた。追加又は代替として、光学画像センサ746及び748は、軸方向に移動し、及び/又は各入射光路に関してチルトし得る。軸方向運動及び/又はチルト運動は、1つ又は複数の屈曲部により提供し得る。幾つかの例では、屈曲部は、第1の屈曲部が第1の方向での運動を提供し、別個の屈曲部が第2の方向での独立した運動を提供するように連結し得る。別の例では、第1の屈曲部は、ピッチ軸に沿ったチルトを提供し、別個の屈曲部はヨー軸に沿ったチルトを提供する。
【0126】
図13は、本開示の実施形態例による一例の二重屈曲部1300の図を示す。
図13に示される屈曲部1300は、光学画像センサ744用のものであり、最終的なフォーカスのために、各光軸に沿って右光学画像センサ746及び左光学画像センサ748を独立して移動させるように構成される。屈曲部1300は、一例の立体視覚化カメラ300の筐体302に接続し、作動のための剛性ベースを提供するための支持梁1301を含む。屈曲部1300は、運動方向1310を除き全方向で剛性の、各チャネル(例えば、センサ746及び748)の梁1302も含む。梁1302は、梁1302を運動方向1310、この例では平行四辺形並進において移動できるようにする可撓性ヒンジ1303に接続される。
【0127】
アクチュエータデバイス1304は、所望の方向に所望の距離だけ梁1302を屈曲させる。アクチュエータデバイス1304は、各チャネルに押しねじ1306及び引きねじ1308を含み、これらのねじは逆の力を梁1302に印加して、可撓性ヒンジ1303を移動させる。梁1302は、例えば、押しねじ1306を回して梁1302を押すことにより内側に移動し得る。
図13に示される屈曲部1300は、右光学画像センサ746及び左光学画像センサ748を軸方向にそれぞれの光軸に沿って独立して移動させるように構成される。
【0128】
梁1302が所望の位置に屈曲した後、ロック機構に係合して、更なる移動を阻止し、それにより、剛性カラムを生み出す。ロック機構は、押しねじ1306及びそれぞれの同心引きねじ1308を含み、これらのねじは、締められると、梁1302の剛性カラムを生じさせる大きな逆の力を生成する。
【0129】
光学画像センサ746及び748は同じ屈曲部1300に接続されて示されるが、他の例では、センサは別個の屈曲部に接続し得る。例えば、
図8に戻ると、右光学画像センサ746は屈曲部750に接続され、左光学画像センサ748は屈曲部752に接続される。別個の屈曲部750及び752の使用により、光学画像センサ746及び748は、例えば、左右の光学ビューを位置合わせし、及び/又は疑似視差を低減又はなくすように別個に調整することができる。
【0130】
加えて、
図13は屈曲部1300に接続された画像センサ746及び748を示すが、他の例では、前部レンズセット714、ズームレンズ組立体716、レンズバレルセット718、及び/又は最終光学要素セット742のレンズは、代わりに代替又は追加の屈曲部に接続し得る。幾つかの場合、前部レンズセット714、ズームレンズ組立体716、レンズバレルセット718、及び/又は最終光学要素セット742の左右の各レンズは、別個の屈曲部1300に接続されて、独立した半径方向、回転方向、及び/又はチルトの調整を提供し得る。
【0131】
屈曲部1300は、1μm未満の運動分解能を提供し得る。非常に細かい運動調整の結果として、左右の光路からの画像は、4Kディスプレイモニタで数ピクセル、さらには1ピクセルの位置合わせ精度を有し得る。そのような精度は、左右のビューを重ね、立体視ではなく両ビューを両目で観測することにより、各ディスプレイ512、514で閲覧し得る。
【0132】
幾つかの実施形態では、屈曲部1300は、「SYSTEM FOR THE SUB−MICRON POSITIONING OF A READ/WRITE TRANSDUCER」という名称の米国特許第5,359,474号明細書に開示される屈曲部に含むことができ、この特許を全体的に参照により本明細書に援用する。更に他の実施形態では、前部レンズセット714、ズームレンズ組立体716、レンズバレルセット718、及び/又は最終光学要素セット742のレンズは、半径方向において静止し得る。代わりに、光路において調整可能な偏向方向を有する偏向要素(例えば、ミラー)を使用して、右光路及び/又は左光路を操縦して、位置合わせ及び/又は疑似視差を調整し得る。追加又は代替として、チルト/シフトレンズを光路に提供し得る。例えば、光軸のチルトは、調整可能なウェッジレンズを用いて制御し得る。更なる実施形態では、前部レンズセット714、ズームレンズ組立体716、レンズバレルセット718、及び/又は最終光学要素セット742のレンズは、電子的に変更することができるパラメータを有する動的レンズを含み得る。例えば、レンズは、Invenios France SAS製のVarioptic液晶レンズを含み得る。
【0133】
VI.立体視覚化カメラの一例のプロセッサ
一例の立体視覚化カメラ300は、右光路及び左光路からの画像データを記録し、画像データを立体画像として表示するためにモニタ512及び/又は514に出力するように構成される。
図14は、本開示の実施形態例による、画像データを取得し処理する一例の立体視覚化カメラ300のモジュールの図を示す。モジュールが、特定のハードウェア、コントローラ、プロセッサ、ドライバ、及び/又はインターフェースにより実行される動作、メソッド、アルゴリズム、ルーチン、及び/又はステップを示すことを理解されたい。他の実施形態では、モジュールは結合、更に分割、及び/又は削除し得る。さらに、モジュール(又はモジュールの部分)の1つ又は複数は、リモートサーバ、コンピュータ、及び/又は分散計算環境等の立体視覚化カメラ300の外部に提供し得る。
【0134】
図14の図示の実施形態では、
図7から
図13における構成要素408、702〜750、及び1300はまとめて光学要素1402と呼ばれる。光学要素1402(特に光学画像センサ746及び748)は、画像捕捉モジュール1404及びモータ・照明モジュール1406に通信可能に結合される。画像捕捉モジュール1404は情報プロセッサモジュール1408に通信可能に結合され、情報プロセッサモジュール1408は、外部配置のユーザ入力デバイス1410及び1つ又は複数のディスプレイモニタ512及び/又は514に通信可能に結合し得る。
【0135】
一例の画像捕捉モジュール1404は、光学画像センサ746及び748から画像データを受信するように構成される。加えて、画像捕捉モジュール1404は、各ピクセルグリッド1002及び1004内にピクセルセット1006及び1008を定義し得る。画像捕捉モジュール1404は、フレームレート及び露出時間等の画像記憶特性を指定することもできる。
【0136】
一例のモータ・照明モジュール1406は、1つ又は複数のモータ(又はアクチュエータ)を制御して、光学要素1402の1つ又は複数の半径方向位置、軸方向位置、及び/又はチルト位置を変更するように構成される。例えば、モータ又はアクチュエータは、
図11及び
図12に示されるように、駆動ねじを回して、トラック1106に沿ってキャリア724を移動させ得る。モータ又はアクチュエータはまた、
図13の屈曲部1300の押しねじ1306及び/又は引きねじ1308を回して、レンズ及び/又は光学画像センサの半径方向位置、軸方向位置、又はチルト位置を調整することもできる。モータ・照明モジュール1406は、光源708を制御する駆動装置を含むこともできる。
【0137】
一例の情報プロセッサモジュール1408は、表示のために画像データを処理するように構成される。例えば、情報プロセッサモジュール1408は、色補正を画像データに提供し、画像データからの欠陥をフィルタリングし、及び/又は立体表示のために画像データをレンダリングし得る。情報プロセッサモジュール1408はまた、指定された調整を光学要素に対して実行する命令を画像捕捉モジュール1404及び/又はモータ・照明モジュール1406に提供することにより、1つ又は複数の較正ルーチンを実行して、立体視覚化カメラ300を較正することもできる。情報プロセッサモジュール1408は更に、画像位置合わせを改善し、及び/又は疑似視差を低減する命令を決定し、リアルタイムで画像捕捉モジュール1404及び/又はモータ・照明モジュール1406に提供し得る。
【0138】
一例のユーザ入力デバイス1410は、立体視覚化カメラ300の動作を変更する命令を提供するコンピュータを含み得る。ユーザ入力デバイス1410は、立体視覚化カメラ300のパラメータ及び/又は特徴を選択する制御機構を含むこともできる。一実施形態では、ユーザ入力デバイス1410は
図3の制御アーム304を含む。ユーザ入力デバイス1410は、情報プロセッサモジュール1408にハードワイヤードし得る。追加又は代替として、ユーザ入力デバイス1410は、情報プロセッサモジュール1408に無線又は光学的に通信可能に結合される。
【0139】
一例のディスプレイモニタ512及び514は、例えば、三次元閲覧経験を提供するように構成されたテレビジョン及び/又はコンピュータモニタを含む。例えば、ディスプレイモニタはLG(登録商標)55LW5600テレビジョンを含み得る。代替的には、ディスプレイモニタ512及び514は、ラップトップ画面、タブレット画面、スマートフォン画面、スマートメガネ、プロジェクタ、ホログラフィックディスプレイ等を含み得る。
【0140】
以下のセクションでは、画像捕捉モジュール1404、モータ・照明モジュール1406、及び情報プロセッサモジュール1408についてより詳細に説明する。
【0141】
A.一例の画像捕捉モジュール
図15は、本開示の実施形態例による画像捕捉モジュール1404の図を示す。一例の画像捕捉モジュール1404は画像センサコントローラ1502を含み、画像センサコントローラ1502は、プロセッサ1504、メモリ1506、及び通信インターフェース1508を含む。プロセッサ1504、メモリ1506、及び通信インターフェース1508は一緒に、画像センサコントローラバス1512を介して通信可能に結合し得る。
【0142】
プロセッサ1504には、メモリ1506内に永続的に記憶された1つ又は複数のプログラム1510をプログラム可能である。プログラム1510は、実行されると、プロセッサ1504に、1つ又は複数のステップ、ルーチン、アルゴリズム等を実行させる機械可読命令を含む。幾つかの実施形態では、プログラム1510は、情報プロセッサモジュール1408から及び/又はユーザ入力デバイス1410からメモリ1506に送信し得る。他の例では、プログラム1510は、情報プロセッサモジュール1408から及び/又はユーザ入力デバイス1410からプロセッサ1504に直接送信し得る。
【0143】
一例の画像センサコントローラ1502は、光学要素1402の右光学画像センサ746及び左光学画像センサ748に通信可能に結合される。画像センサコントローラ1502は、タイミング制御データ及び/又はプログラミングデータに加えて、電力を光学画像センサ746及び748に提供するように構成される。加えて、画像センサコントローラ1502は、光学画像センサ746及び748から画像及び/又は診断データを受信するように構成される。
【0144】
各光学画像センサ746及び748は、特定のパラメータ及び/又は特性を制御するプログラマブルレジスタを含む。レジスタの1つ又は複数は、
図10の各ピクセルグリッド1002及び1004内のピクセルセット1006及び1008の位置を指定し得る。レジスタは、ピクセルグリッド1002及び1004の原点又は縁部点に対する開始位置の値を記憶し得る。レジスタはまた、ピクセルセット1006及び1008の幅及び高さを指定して、関心のある矩形領域を画定することもできる。画像センサコントローラ1502は、指定されたピクセルセット1006及び1008内にあるピクセルのピクセルデータを読み出すように構成される。幾つかの実施形態では、光学画像センサ746及び748のレジスタは、円、楕円、三角形等の他の形状のピクセルセットの指定を促進し得る。追加又は代替として、光学画像センサ746及び748のレジスタは、ピクセルグリッド1002及び1004のそれぞれに複数のピクセルセットを同時に指定できるようにし得る。
【0145】
ピクセルグリッド1002及び1004のピクセルの感光部分は、埋め込み回路により制御され、埋め込み回路は異なる感光モードを指定する。モードはリセットモード、積分モード、及び読み出しモードを含む。リセットモード中、ピクセルの電荷蓄積構成要素は、既知の電圧レベルにリセットされる。積分モード中、ピクセルは「オン」状態に切り替えられる。検知エリア又はピクセルの要素に達した光は、電荷を電荷蓄積構成要素(例えば、キャパシタ)内に蓄積させる。蓄えられた電荷の量は、積分モード中、検知要素に入射した光の量に対応する。読み出しモード中、電荷量はデジタル値に変換され、埋め込み回路を介して光学画像センサ746及び748から読み出され、画像センサコントローラ1502に送信される。あらゆるピクセルを読み出すために、所与の領域内の各ピクセルの電荷蓄積構成要素は、切り替え内部回路により読み出し回路に順次接続され、読み出し回路は、アナログ値からデジタル値への電荷の変換を実行する。幾つかの実施形態では、ピクセルアナログデータは12ビットデジタルデータに変換される。しかしながら、分解能がノイズ許容度、整定時間、フレームレート、及びデータ送信速度に基づいてより高い又はより低いことがあることを理解されたい。各ピクセルのデジタルピクセルデータはレジスタに記憶し得る。
【0146】
図15の画像センサコントローラ1502の一例のプロセッサ1504は、ピクセルセット1006及び1008内の各ピクセルからピクセルデータ(例えば、ピクセルの要素への入射光量に対応する、ピクセルに貯蔵された電荷を示すデジタルデータ)を受信するように構成される。プロセッサ1504は、右光学画像センサ746から受信したピクセルデータから右画像を形成する。加えて、プロセッサ1504は、左光学画像センサ748から受信したピクセルデータから左画像を形成する。代替的には、プロセッサ1504は、左画像及び右画像のそれぞれの一部のみ(例えば、一行又は数行)を形成してから、データを下流に送信する。幾つかの実施形態では、プロセッサ1504はレジスタ位置を使用して、画像内の各ピクセルの位置を特定する。
【0147】
右画像及び左画像が作成された後、プロセッサ1504は右画像及び左画像を同期する。次に、プロセッサ1504は、右画像及び左画像の両方を通信インターフェース1508に送信し、通信インターフェース1508は画像を処理して、通信チャネル1514を介して情報プロセッサモジュール1408に送信するためのフォーマットにする。幾つかの実施形態では、通信チャネル1514は、USB2.0又は3.0規格に準拠し、銅線又は光ファイバケーブルを含み得る。通信チャネル1514は、最高で毎秒左右画像(立体分解能1920×1080及びデータ変換分解能12ビットを有する)約60対以上を1秒当たり送信することが可能であり得る。銅線USBの使用により、電力を情報プロセッサモジュール1408から画像捕捉モジュール1404に提供することができる。
【0148】
以下のセクションでは、特定のプログラム1510を実行して、光学画像センサ746及び748から画像データを取得及び/又は処理する画像センサコントローラ1502のプロセッサ1504により提供される特徴について更に説明する。
【0149】
1.一例の露出
一例のプロセッサ1504は、光学画像センサ746及び748が上述した積分モードである時間量を制御又はプログラムし得る。積分モードは、露出時間と呼ばれる時間期間にわたり行われる。プロセッサ1504は、光学画像センサ746及び748の露出レジスタに値を書き込むことにより露出時間を設定し得る。追加又は代替として、プロセッサ1504は、露出時間の開始及び終了を通知する命令を光学画像センサ746及び748に送信し得る。露出時間は、数ミリ秒(「ms」)〜数秒でプログラムし得る。好ましくは、露出時間は概ね、フレームレートの逆数である。
【0150】
幾つかの実施形態では、プロセッサ1504は、ローリングシャッタ法を光学画像センサ746及び748に適用して、ピクセルデータを読み取り得る。この方法下では、ピクセルセット1006及び1008のピクセルの所与の行の露出時間は、その行内のピクセルが読み出され、次にリセットされた直後に開始される。短時間後、次の行(通常、設定されたばかりの行に物理的に最も近い)が読み出され、それに従ってリセットされ、その露出時間が再開される。各ピクセル行の順次読み出しは、ピクセルセット1006及び1008の最後又は最下行が読み出されリセットされるまで続けられる。次に、プロセッサ1504はピクセルセット1006及び1008の最上行に戻り、次の画像のピクセルデータを読み出す。
【0151】
別の実施形態では、プロセッサ1504はグローバルシャッタ法を適用する。この方法下では、プロセッサ1504は、ローリングシャッタ法と同様にして読み出し及びリセットを実施する。しかしながら、この方法では、積分は、ピクセルセット1006及び1008内の全てのピクセルで同時に行われる。グローバルシャッタ法は、全てのピクセルが同時に露出されるため、ローリングシャッタ法と比較して、画像内の欠陥が減るという利点を有する。比較として、ローリングシャッタ法では、ピクセルセットのラインの露出間に僅かな時間遅延がある。小さな欠陥は、ライン露出間、特に読み出し間で標的部位700に小さな変化が生じ得る上のラインと下のラインとの間の時間中に生じる恐れがある。
【0152】
2.一例のダイナミックレンジ
一例のプロセッサ1504は、1つ又は複数のプログラム1510を実行して、光学画像センサ746及び748のダイナミックレンジ外の光を検出し得る。一般に、極めて明るい光はピクセルの電荷貯蔵領域を完全に満たし、それにより、厳密な輝度レベルに関する画像情報を失うことになる。同様に、極めて低い光又は光がないことは、ピクセル内の有意味な電荷を影響することができず、これもまた画像情報の損失に繋がる。それに従ってこのピクセルデータからの作成された画像は、標的部位700における光強度を正確に反映しない。
【0153】
ダイナミックレンジ外の光を検出するために、プロセッサ1504は、例えば、マルチ露出プログラム、マルチスロープピクセル積分プログラム、及びマルチセンサ画像融合プログラムを含む幾つかの高ダイナミックレンジ(「HDR」)プログラム1510の1つを実行し得る。一例では、マルチ露出プログラムは、光学画像センサ746及び748に統合又は埋め込まれたHDR特徴を利用し得る。この方法下では、ピクセルセット1006及び1008は、通常の露出時間にわたり積分モードになる。ピクセルセット1006及び1008のラインは読み出され、光学画像センサ746及び748のメモリ及び/又は画像センサコントローラ1502のメモリ1506に記憶される。読み出しがプロセッサ1504により実行された後、ピクセルセット1006及び1008内の各ラインは、通常の露出時間未満の第2の露出時間にわたり再びオンになる。プロセッサ1504は、第2の露出時間後、ピクセルの各ラインを読み出し、このピクセルデータを同じラインの通常露出時間からのピクセルデータと結合する。プロセッサ1504は、トーンマッピングを適用して、通常長さの露出時間からのピクセルデータか、及び長さの短い露出時間からのピクセルデータを選び(又は結合し)、生成されたピクセルデータを、下流の処理及び表示と互換性がある範囲にマッピングする。マルチ露出プログラムを使用する場合、プロセッサ1504は、光学画像センサ746及び748のダイナミックレンジを拡大し、表示のためにピクセルデータの結果としての範囲を圧縮することが可能である。
【0154】
プロセッサ1510は、比較的暗い光の場合でも同様のプログラムを動作し得る。しかしながら、第2の露出時間が通常時間未満である代わりに、第2の露出時間は通常時間よりも長く、それにより、電荷を蓄積するより多くの時間をピクセルに提供する。プロセッサ1510はトーンマッピングを使用して、ピクセルデータ読み出しを調整し、より長い露出時間を補償し得る。
【0155】
3.一例のフレームレート
一例のプロセッサ1510は、光学画像センサ746及び748のフレームレートを制御又は指定し得る。幾つかの実施形態では、光学画像センサ746及び748は、ピクセルセット1006及び1008内の各ピクセルが上述した撮像モードを通して循環する毎秒当たりの回数を指定するオンボードタイミング回路及びプログラマブル制御レジスタを含む。フレーム又は画像は、ピクセルセットが3つのモードを通して進む都度、形成される。フレームレートは、ピクセルセット1006及び1008内のピクセルが積分され、読み出され、リセットされる毎秒当たりの回数である。
【0156】
プロセッサ1510は、読み出しが適切なときに行われるように、光学画像センサ746及び748と同期し得る。他の例では、プロセッサ1510は光学画像センサ746及び748と非同期である。これらの他の例では、光学画像センサ746及び748は、一時的なメモリ又はキューへのローカル読み出し後、ピクセルデータを記憶し得る。次に、ピクセルデータは、右画像及び左画像の同期のために、プロセッサ1510により周期的に読み出し得る。
【0157】
時系列でのフレーム又は画像の処理(例えば、画像ストリームの作成)は、ビデオとして伝達される動きの錯覚を提供する。一例のプロセッサ1510は、観測者に滑らかなビデオの見た目を提供するフレームレートをプログラムするように構成される。低すぎるフレームレートは、任意の動きを途切れ途切れ又は不均等にする。最大閾値フレームレートを超える動画品質は、観測者にとって識別可能ではない。一例のプロセッサ1510は、典型的な外科視覚化で毎秒約20〜70フレーム、好ましくは毎秒50〜60フレームを生成するように構成される。
【0158】
4.一例のセンサ同期
図15の一例のプロセッサ1504は、光学画像センサ746及び748の同期を制御するように構成される。プロセッサ1504は、例えば、光学画像センサ746及び748に電力を同時に提供し得る。次に、プロセッサ1504は、クロック信号を光学画像センサ746及び748の両方に提供し得る。クロック信号は、光学画像センサ746及び748が自由実行モードで独立して、しかし同期され及び/又は同時に動作できるようにする。したがって、光学画像センサ746及び748は、ピクセルデータを略同時に記録する。一例のプロセッサ1504は、ピクセルデータを光学画像センサ746及び748から受信し、画像及び/又はフレームの少なくとも一部を構築し、任意のわずかなタイミングずれを説明するように画像及び/又はフレーム(又はその一部)を同期させる。通常、光学画像センサ746及び748間のラグは、200マイクロ秒未満である。他の実施形態では、プロセッサ1504は同期ピンを使用して、例えば、各リセットモード後、光学画像センサ746及び748を同時にアクティブ化し得る。
【0159】
B.一例のモータ・照明モジュール
図15の一例の立体視覚化カメラ300は、光学要素1402のレンズを移動させ、及び/又は光源708から出力される照明を制御する1つ又は複数のモータ又はアクチュエータを制御するモータ・照明モジュール1406を含む。一例のモータ・照明モジュール1406は、プロセッサ1522、メモリ1524、及び通信バス1528を介して通信可能に一緒に結合された通信インターフェース1526を含むモータ・照明コントローラ1520を含む。メモリ1524は、プロセッサ1522で実行可能であり、光学要素1402のレンズ及び/又は光源708の制御、調整、及び/又は較正を実行する1つ又は複数のプログラム1530を記憶する。幾つかの実施形態では、プログラム1530は、情報プロセッサモジュール1408及び/又はユーザ入力デバイス1410からメモリ1524に送信し得る。
【0160】
通信インターフェース1526は、画像捕捉モジュール1404の通信インターフェース1508及び情報プロセッサモジュール1408の通信インターフェース1532に通信可能に結合される。通信インターフェース1526は、コマンドメッセージ、タイミング信号、ステータスメッセージ等を画像捕捉モジュール1404及び情報プロセッサモジュール1408から受信するように構成される。例えば、画像捕捉モジュール1404のプロセッサ1504は、タイミング信号をプロセッサ1522に送信して、照明制御と光学画像センサ746及び748の露出時間とのタイミングを同期させ得る。別の例では、情報処理モジュール1408は、特定の光源708にアクティブ化し及び/又は光学要素1402の特定のレンズを移動させるように命令するコマンドメッセージを送信し得る。コマンドは、例えば、ユーザ入力デバイス1410を介してオペレータから受信した入力に応答し得る。追加又は代替として、コマンドは、較正ルーチン及び/又はリアルタイム調整に応答して、疑似視差等の画像位置合わせずれ及び/又は欠陥を低減又はなくし得る。
【0161】
一例のモータ・照明モジュール1406は、光学要素1402のレンズの軸方向及び/又は半径方向位置及び/又は光源708から出力される光を調整するモータを制御する電力を提供する駆動装置を含む。特に、モータ・照明モジュール1406は、NUV信号をNUV光源708cに送信するNUV光駆動装置1534、NIR信号をNIR光源708bに送信するNIR光駆動装置1536、及び可視光信号を可視光源708aに送信する可視光駆動装置1538を含む。
【0162】
加えて、モータ・照明モジュール1406は、
図7及び
図8のフィルタ740を制御するフィルタモータ信号をフィルタモータ1542に送信するフィルタモータ駆動装置1540を含む。モータ・照明モジュール1406は、後部ズームレンズモータ信号を後部ズームレンズモータ1546に送信する後部ズームレンズモータ駆動装置1544、前部ズームレンズモータ信号を前部ズームレンズモータ1550に送信する前部ズームレンズモータ駆動装置1548、及び作業距離レンズモータ信号を作業距離レンズモータ1554に送信する後部作業距離レンズモータ駆動装置1552を含む。モータ・照明モジュール1406はまた、偏向要素712を移動及び/又はチルトさせるモータ及び/又はアクチュエータを含むこともできる。
【0163】
後部ズームレンズモータ1546は、キャリア730をトラック又はレールに沿って軸方向に移動させる駆動ねじを回転するように構成される。前部ズームレンズモータ1550は、キャリア724を
図11及び
図12に示されるトラック1106に沿って軸方向に移動させる駆動ねじを回転するように構成される。作業距離レンズモータ1554は、後部作業距離レンズ702をトラック又はレールに沿って軸方向に移動させる駆動ねじを回転するように構成される。
【0164】
駆動装置1536、1538、及び1540は、任意のタイプの照明駆動装置、変圧器、及び/又はバラストを含み得る。駆動装置1536、1538、及び1540は、光源708により出力される光の強度を制御するパルス幅変調(「PWM」)信号を出力するように構成される。幾つかの実施形態では、プロセッサ1522は、フィルタモータ駆動装置1540を使用して特定のフィルタを適用するタイミングに対応するように、駆動装置1536、1538、及び1540のタイミングを制御し得る。
【0165】
一例の駆動装置1540、1544、1548、及び1552は、例えば、ステッパモータ駆動装置及び/又はDCモータ駆動装置を含み得る。同様に、モータ1542、1546、1550、及び/又は1554は、ステッパモータ、DCモータ、又は他の電気、磁気、熱、油圧、若しくは空気圧アクチュエータを含み得る。モータ1542、1546、1550、及び/又は1554は、例えば、フィードバック報告及び制御のために、ロータリエンコーダ、スロット型光学スイッチ(例えば、フォトインタラプタ)、及び/又は線形エンコーダを含み、シャフト及び/又は車軸の角度位置を報告し得る。代替の実施形態は、適した駆動装置を有するボイスコイルモータ、圧電モータ、リニアモータ、及びそれらの均等物を含み得る。
【0166】
駆動装置1534、1536、1538、1540、1544、1548、及び1552を制御するために、プロセッサ1522は、コマンドメッセージをデジタル信号及び/又はアナログ信号に変換するプログラム1530を使用するように構成される。プロセッサ1522は、デジタル信号及び/又はアナログ信号を適切な駆動装置に送信し、駆動装置は、受信信号に対応するPWM信号等のアナログ電力信号を出力する。アナログ電力信号は、電力を適切なモータ又はアクチュエータに提供し、所望量だけモータ又はアクチュエータを回転させる(又は他の方法で移動させる)。
【0167】
プロセッサ1522は、フィードバックを駆動装置1534、1536、1538、1540、1544、1548、及び1552、モータ1542、1546、1550、及び/又は1554、及び/又は光源708から受信し得る。フィードバックは、例えば、照明レベル又は照明出力に対応する。モータに関しては、フィードバックは、モータ(又は他のアクチュエータ)の位置及び/又は移動量に対応する。プロセッサ1522は、プログラム1530を使用して、受信信号をデジタルフィードバックに翻訳して、例えば、対応するモータ又はアクチュエータシャフトの角度位置に基づいてレンズの半径方向位置、チルト位置、及び/又は軸方向位置を特定する。次に、プロセッサ1522は、ユーザへの表示のために及び/又は較正のために光学要素1402のレンズの位置を追跡するために、位置情報と共にメッセージを情報プロセッサモジュール1408に送信し得る。
【0168】
幾つかの実施形態では、モータ・照明モジュール1406は、光学要素1402内の個々のレンズの軸方向位置、チルト位置、及び/又は半径方向位置を変更する追加の駆動装置を含み得る。例えば、モータ・照明モジュール1406は、チルト及び/又は半径方向/軸方向調整のための光学画像センサ746及び748の屈曲部750及び752を作動させるモータを制御する駆動装置を含み得る。さらに、モータ・照明モジュール1406は、前部レンズ720及び722、前部ズームレンズ726及び728、後部ズームレンズ732及び734、レンズバレル736及び738、及び/又は最終光学要素745及び747を個々に、軸方向にx軸又はy軸に沿って及び/又は軸方向にチルト及び/又は調整するモータ(又はアクチュエータ)を制御する駆動装置を含み得る。レンズ及び/又はセンサの独立した調整により、例えば、モータ・照明コントローラ1520は画像欠陥を除去し、及び/又は左右画像を位置合わせすることができる。
【0169】
以下のセクションでは、プロセッサ1552がいかに、1つ又は複数のプログラム1530を実行して、作業距離、ズーム、フィルタ位置、レンズ位置、及び/又は光出力を偏向するかを説明する。
【0170】
1.一例の作業距離
図15のモータ・照明モジュール1406の一例のプロセッサ1522は、立体視覚化カメラ300の作業距離を調整するように構成される。作業距離は、後部作業距離レンズ704と前部作業距離レンズ408との間の距離を調整することにより設定される。プロセッサ1522は、後部作業距離レンズ704を前部作業距離レンズ408に対して移動させることにより距離を調整する。特に、プロセッサ1522は信号を後部作業距離レンズモータ駆動装置1552に送信し、この信号は、後部作業距離レンズ704を移動させる量に比例する所定の時間にわたり、作業距離レンズモータ1554をアクティブ化する。作業距離レンズモータ1554は、後部作業距離レンズ704を保持する摺動トラックに取り付けられたねじを通してリードねじを駆動する。作業距離レンズモータ1554は、レンズ704を所望の距離だけ移動させ、それにより、作業距離を調整する。作業距離レンズモータ1554は、フィードバック信号をプロセッサ1522に提供し得、プロセッサ1522は、後部作業距離レンズ704が所望量、移動したか否かを判断する。移動が所望未満又は所望を超える場合、プロセッサ1522は、後部作業距離レンズ704の位置を更に改良する命令を送信し得る。幾つかの実施形態では、情報プロセッサモジュール1408は、後部作業距離レンズ704のフィードバック制御を決定し得る。
【0171】
後部作業距離レンズ704の位置を特定するために、プロセッサ1522は1つ又は複数の較正プログラム1530を動作し得る。例えば、アクティブ化されると、プロセッサ1522は、運動範囲の一端部における限度スイッチをトリガーするまで、作業距離レンズモータ1554にリードねじを駆動して、後部作業距離レンズ704をトラック又はレールに沿って移動させるように命令し得る。プロセッサ1522は、モータ1554のエンコーダのゼロ点としてこの停止位置を示し得る。後部作業距離レンズ704の現在位置及び対応するエンコーダ値を知ることで、プロセッサ1522は、後部作業距離レンズ704を所望位置に移動させるためのシャフト回転数を特定することが可能になる。シャフト回転数はアナログ信号で作業距離レンズモータ1554に送信され(駆動装置1552を介して)、それに従ってレンズ704を指定された位置に移動させる。
【0172】
2.一例のズーム
図15の一例のプロセッサ1522は、1つ又は複数のプログラム1530を実行して、立体視覚化カメラ300のズームレベルを変更するように構成される。上述したように、ズーム(例えば、倍率変更)は、互いに対して並びに前部レンズセット714及びレンズバレルセット718に対して、前部ズームセット724及び後部ズームセット730の位置を変更することにより達成される。後部作業距離レンズ704について上述した較正手順と同様に、プロセッサ1522は、トラック又はレールに沿ったセット724及び730の位置を較正し得る。特に、プロセッサ1522は、後部ズームレンズモータ1546及び前部ズームレンズモータ1550にセット724及び730(例えば、キャリア)をレール(又は複数のレール)に沿って限度スイッチにおける停止位置まで移動させる命令を送信する。プロセッサ1522は、エンコーダフィードバックをモータ1546及び1550から受信して、セット724及び730の停止位置に関連するエンコーダ値を特定する。次にプロセッサ1522は、エンコーダ値をゼロにし、又は停止位置における既知のエンコーダ値を使用して、レールに沿ったセット724及び730の所望の位置を達成するために、モータ1546及び1550をどれくらいアクティブ化させるかを決定し得る。
【0173】
停止位置の較正に加えて、プロセッサ1522は、所望のズームレベルを達成するためのセット724及び730の位置を定義するプログラム1530を実行し得る。例えば、較正手順中、距離設定と1組の所望のズーム値との既知のパターンをプログラム1530(又はルックアップテーブル)として記憶し得る。較正手順は、テンプレートを標的部位700に配置し、プロセッサ522に、特定の示されたマーカ又は文字が左右の画像又はフレームで特定のサイズになるまでセット724及び730を移動するように命令することを含み得る。例えば、較正ルーチンは、標的部位700におけるテンプレート上の文字「E」が、10ピクセル分の高さを有するものとして左右の画像に表示されるときに対応するレール上のセット724及び730の位置を特定し得る。
【0174】
幾つかの実施形態では、情報プロセッサモジュール1408は、視覚的分析を実行し、ズームイン又はズームアウトに望ましいセット724及び730の移動に関する命令をプロセッサ1522に送信し得る。加えて、情報プロセッサ1408は、所望のズームレベルにある標的部位700が合焦されるように焦点面を移動させる命令を送信し得る。命令は、例えば、後部作業距離レンズ704を移動させる命令及び/又はセット724及び730を一緒に及び/又は個々に移動させる命令を含み得る。幾つかの代替の実施形態では、プロセッサ1522は、ユーザ入力デバイス1410又は別のコンピュータから、特定のズームレベルにおける前部ズームセット724及び後部ズームセット730のレール位置の較正パラメータを受信し得る。
【0175】
一例のプロセッサ1522及び/又は情報プロセッサモジュール1408は、倍率が変更された場合、画像が合焦したままであるような命令を送信し得る。プロセッサ1522は、例えば、プログラム1530及び/又はルックアップテーブルを使用して、標的部位700へのフォーカスを維持するために、特定のレンズがいかに、光軸に沿って移動すべきかを決定し得る。プログラム1530及び/又はルックアップテーブルは、倍率レベル及び/又はレール上の設定ポイント及び焦点面を移動しないようにするために必要な対応するレンズ調整を指定し得る。
【0176】
以下の表2は、倍率を変更しながら、プロセッサ1522がフォーカスを維持するために使用し得る一例のプログラム1530又はルックアップテーブルを示す。前部ズームレンズセット724及び後部ズームレンズセット730の位置は、各セット724及び730の停止位置までのレールの長さに基づいて正規化される。倍率を下げるには、後部ズームレンズセットはレンズバレルセット718に向かって移動し、それにより、レールに沿った位置を増大させる。前部ズームレンズセット724も移動する。しかしながら、その移動は後部ズームレンズセット730の移動と必ずしも等しいものである必要はない。代わりに、前部ズームレンズセット724の移動は、倍率を変更しながら、フォーカスを維持するよう焦点面の位置を保持するように、セット724と730との間の距離変更を説明する。例えば、倍率レベルを10Xから9Xに下げるには、プロセッサ1522は、後部ズームレンズセット730に位置10から位置11にレールに沿って移動するように命令する。加えて、プロセッサ1522は、前部ズームレンズセット724に位置5から位置4にレール(又はセット730と同じレール)に沿って移動するように命令する。倍率を変更するために、セット724及び730を移動させるのみならず、フォーカスを維持するために、セット724及び730は互いに対しても移動した。
【0178】
セット724及び730をいかに移動し得るかの一例を表2が提供することを理解されたい。他の例では、表2は、より精密な倍率及び/又はセット724及び730の位置を説明するための追加の行を含み得る。追加又は代替として、表2は、後部作業距離レンズ704の列を含み得る。例えば、後部作業距離レンズ704は、フォーカスを維持するために、前部ズームレンズセット724への代替又は追加として移動し得る。さらに、表2は、作業距離を変更しながらフォーカスを維持するセット724及び730並びに後部作業距離レンズ704の位置を指定する行を含み得る。
【0179】
表2中の値は、較正を通して決定し得、及び/又はリモートコンピュータ又はユーザ入力デバイス1410から受信し得る。較正中、情報プロセッサモジュール1408は、異なる倍率及び/又は作業距離を通して進む較正プログラム1560を動作し得る。情報プロセッサモジュール1408におけるプロセッサ1562は、画像自体の画像処理を実行し得、又は、ピクセルデータを受信して、例えば、所定の形状及び/又は文字を有するテンプレートを使用して、所望の倍率が達成されるときを判断し得る。プロセッサ1562は、受信した画像のピントが合っているか否かを判断する。画像がピンボケしているとの判断に応答して、プロセッサ1562は、前部ズームレンズセット724及び/又は後部作業距離レンズセット704を調整する命令をプロセッサ1522に送信する。調整は、プロセッサ1562により画像にピントが合っていると判断されるまでの光路に沿った前方向及び逆方向での反復移動を含み得る。画像にピントが合っていると判断するに、プロセッサ1562は、例えば、光の曖昧さが最小である画像を探し、及び/又は隣接するピクセル領域間の光の値の差(差が大きいほど、よりピントが合った画像に対応する)についてピクセルデータを分析する画像分析を実行し得る。所望の作業距離及び倍率で画像にピントが合っていると判断された後、プロセッサ1562及び/又はプロセッサ1522は次に、セット724及び730及び/又は後部作業距離レンズ704の位置及び対応する倍率レベルを記録し得る。
【0180】
3.一例のフィルタ位置
図15のモータ・照明モジュール1406の一例のプロセッサ1522は、受信した命令に基づいてフィルタ740を左右の光路に移動させるように構成される。幾つかの例では、フィルタ740はミラーアレイを含み得る。これらの例では、プロセッサ1522は、1つ又は複数のモータ1542を作動させて、ミラーの位置を変更する命令をフィルタモータ駆動装置1540に送信する。幾つかの場合、駆動装置1540は、1つ又は複数の経路に沿ってフィルタ740に電荷を送信し、特定のミラー要素をオン又はオフ位置に切り替えさせ得る。これらの例では、フィルタタイプ選択は一般に、どのミラーを作動するかに二元的に基づく。
【0181】
他の例では、フィルタ740は、赤外線遮断フィルタ、近赤外線バンドパスフィルタ、及び近紫外線遮断フィルタ等の異なるタイプのフィルタを有するホィールを含み得る。これらの例では、ホィールはフィルタモータ1542により回転される。プロセッサ1522は、異なるフィルタのパーテーションに対応するホィールの停止位置を決定する。プロセッサ1522はまた、各停止位置に対応するロータリエンコーダ値も決定する。
【0182】
プロセッサ1522は較正プログラム1530を動作し得、及び/又はプロセッサ1562は較正プログラム1560を動作して、停止位置を決定し得る。例えば、プロセッサ1522は、フィルタホィール740をゆっくりと回転し得、プロセッサ1562は、ピクセルにおいて受け取られる光が変わるときを判断する(画像分析を使用して又は画像捕捉モジュール1404からピクセルデータを読み出して)。ピクセルにおける光値の変化は、光路に適用されているフィルタタイプの変更を示す)。幾つかの場合、プロセッサ1522は、どの光源708がアクティブ化されているかを変更し得、異なるフィルタタイプが適用される場合、ピクセルにおける更なる区別を生み出す。
【0183】
4.一例の光制御及びフィルタ
先に開示したように、プロセッサ1522は、フィルタ740と併せて光源708を制御して、所望の波長の光を光学画像センサ746及び748に到達させ得る。幾つかの例では、プロセッサ1522は、光源708の1つ又は複数のアクティブ化とフィルタ740の1つ又は複数のアクティブ化との間のタイミングを制御又は同期し得る。タイミングを同期するために、プログラム1530は、特定のフィルタをアクティブ化する遅延時間を指定し得る。プロセッサ1522はプログラム1530を使用して、例えば、光源708をオンにする信号の送信と相対して、フィルタ740をアクティブ化する信号をいつ送信するかを決定する。スケジュールされたタイミングは、指定された光源708がアクティブ化される場合、適切なフィルタ740が適用されることを保証する。そのような構成により、ある光源708により強調表示された特徴(蛍光等)を、白色光又は周囲光等の第2の光源708下で表示される特徴の上に又は特徴と併せて表示することができる。
【0184】
幾つかの場合、光源708は、光フィルタ740を変更し得る速度ほど高速に切り替え得、それにより、異なる光で記録された画像を併せて、互いの上に表示できるようにする。例えば、蛍光を発する(染料又は造影剤の投与に起因して)静脈又は他の解剖学的構造は、周囲照明下の画像の上に表示し得る。この例では、静脈は、可視光で示される背景の解剖学的特徴に対して強調表示される。この場合、情報プロセッサモジュール1408のプロセッサ1562及び/又はグラフィックス処理ユニット1564(例えば、ビデオカード又はグラフィックスカード)は、あるフィルタの適用中に記録された1つ又は複数の画像を、後続フィルタの適用中に記録された画像と結合し、又は重ね得る。
【0185】
幾つかの実施形態では、プロセッサ1522は、複数の光源708を同時にアクティブ化し得る。光源708は同時又は順次アクティブ化されて、異なる波長の光を「インターリーブ」し、光学画像センサ746及び748における適切なピクセルを使用して異なる情報を抽出できるようにする。光源を同時にアクティブ化することは、暗視野の照明に役立ち得る。例えば、幾つかの用途は、UV光を使用して、標的部位700における蛍光を刺激する。しかしながら、UV光はオペレータにより非常に暗く知覚される。したがって、プロセッサ1522は、UV光に感度を有するが、幾らかの可視光を検出することもできるピクセルを圧倒せずに外科医が視野を観測できるように、可視光源1538を周期的にアクティブ化して、幾らかの可視光を視野に追加し得る。別の例では、複数の光源708を交互にすることにより、幾つかの場合、レンジの縁部で重複する感度を有する光学画像センサ746及び748のピクセルのウォッシュアウトが回避される。
【0186】
5.光強度制御
図15の一例のプロセッサ1522は、1つ又は複数のプログラム1530を実行して、光源708により提供される照明レベルの強度を変更するように構成される。被写界深度が標的部位700における照明レベルに依存することを理解されたい。一般に、高い照明ほど大きな被写界深度を提供する。プロセッサ1522は、視野をウォッシュアウト又は過熱せずに、所望の被写界深度に適切な量の照明が提供されることを保証するように構成される。
【0187】
可視光源708aは、可視光駆動装置1538により駆動され、スペクトルの人間可視部分の光及びその領域外の幾らかの光を出力する。NIR光源708bはNIR光駆動装置1536により駆動され、主に、近赤外線と呼ばれる波長の光を出力する。NUV光源708cはNUV光駆動装置1534により駆動され、主に、近紫外線と呼ばれる、可視スペクトルの藍色部分の波長の光を出力する。各光駆動装置1534、1536、及び1538は、プロセッサ1522により提供されるコマンドにより制御される。光源708の各出力スペクトルの制御は、PWM信号により達成され、制御電圧又は電流は最小(例えば、オフ)値と最大(例えば、オン)値との間で切り替えられる。光源708から出力される光の輝度は、切り替え率及び電圧又は電流がPWM信号のサイクル毎の最大レベルにある時間の割合を変更することにより制御される。
【0188】
幾つかの例では、プロセッサ1522は、視野のサイズ又はズームレベルに基づいて光源708の出力を制御する。プロセッサ1522は、光強度がズームの関数になる特定の光の感度設定を指定するプログラム1530を実行し得る。プログラム1530は、例えば、ズームレベルを光強度値に相関付けるルックアップテーブルを含み得る。プロセッサ1522は、プログラム1530を使用して、選択された倍率レベルに基づいて光源708のPWM信号を選択する。幾つかの例では、プロセッサ1522は、倍率が上げられるにつれて光強度を低減して、単位面積当たりで視野に提供される光量を維持し得る。
【0189】
C.一例の情報プロセッサモジュール
図15の立体視覚化カメラ300内の一例の情報プロセッサモジュール1408は、表示のために画像捕捉モジュール1404から受信した画像/フレームを分析し処理するように構成される。加えて、情報プロセッサモジュール1408は、異なるデバイスとインターフェースし、制御命令を画像捕捉モジュール1404及び/又はモータ・照明モジュール1406へのメッセージに翻訳するように構成される。情報プロセッサモジュール1408はまた、手動較正用のインターフェースを提供し、及び/又は光学要素1402の自動較正を管理し得る。
【0190】
図15に示されるように、情報プロセッサモジュール1408は、画像捕捉モジュール1404及びモータ・照明モジュール1406に通信可能及び/又は電気的に結合される。例えば、通信チャネル1514は通信チャネル1566及び1568に加えて、USB2.0又はUSB3.0接続を含み得る。したがって、情報プロセッサモジュール1408は、モジュール1404及び1406への電力を調整し提供する。幾つかの実施形態では、情報プロセッサモジュール1408は、壁のコンセントからの110ボルト交流電流(「AC」)電力をモジュール1404及び1406用の5ボルト、10ボルト、12ボルト、及び/又は24ボルト直流電流(「DC」)供給に変換する。追加又は代替として、情報プロセッサモジュール1408は、立体視覚化カメラ300の筐体302内部の電池及び/又はカート510における電池から電力を受け取る。
【0191】
一例の情報プロセッサモジュール1408は、画像捕捉モジュール1404及びモータ・照明モジュール1406と双方向通信するための通信インターフェース1532を含む。情報プロセッサモジュール1408は、1つ又は複数のプログラム1560を実行して、画像捕捉モジュール1404から受信した画像/フレームを処理するように構成されたプロセッサ1562も含む。プログラム1560はメモリ1570に記憶し得る。加えて、プロセッサ1562は、光学要素1402の較正を実行し、及び/又は光学要素1402を調整して、右画像及び左画像を位置合わせし、及び/又は視覚的結果を除去し得る。
【0192】
画像及び/又はフレームを処理して、レンダリングされる三次元立体表示するために、一例の情報プロセッサモジュール1408はグラフィックス処理ユニット1564を含む。
図16は、本開示の実施形態例によるグラフィックス処理ユニット1564の図を示す。動作中、プロセッサ1562は画像及び/又はフレームを画像捕捉モジュール1404から受信する。アンパックルーチン1602が、画像/フレームを、通信チャネル1514にわたる伝送に貢献するフォーマットから画像処理に貢献するフォーマットに変換又は他の方法で変更する。例えば、画像及び/又はフレームは、複数のメッセージにおいて通信チャネル1514にわたり伝送し得る。一例のアンパックルーチン1602は、複数のメッセージからのデータを結合して、フレーム/画像を再度組み立てる。幾つかの実施形態では、アンパックルーチン1602は、グラフィックス処理ユニット1564により要求されるまで、フレーム及び/又は画像をキューに配置し得る。他の例では、プロセッサ1562は、左右の画像/フレーム対のそれぞれを完全に受信しアンパックした後、送信し得る。
【0193】
一例のグラフィック処理ユニット1564は、1つ又は複数のプログラム1580(
図15に示される)を使用して、レンダリングに向けて画像を準備する。プログラム1580の例を
図15及び
図16に示す。プログラム1580は、グラフィックス処理ユニット1564のプロセッサにより実行し得る。代替的には、
図16に示される各プログラム1580は、別個のグラフィックスプロセッサ、マイクロコントローラ、及び/又は特定用途向け集積回路(「ASIC」)により実行し得る。例えば、デベイヤープログラム1580aは、近傍ピクセルにわたりピクセル値を平滑化又は平均して、
図7及び
図8の左右の光学画像センサ746及び748のピクセルグリッド1002及び1004に適用されるベイヤーパターンを補償するように構成される。グラフィックス処理ユニット1564は、色補正及び/又はホワイトバランス調整のプログラム1580b、1580c、及び1580dを含むこともできる。グラフィックス処理ユニット1564は、ディスプレイモニタ512及び514への表示に向けて、色補正された画像/フレームを準備するレンダラープログラム1580eも含む。グラフィックス処理ユニット1564は、周辺入力ユニットインターフェース1574と更に対話し、及び/又はそれを含み得、周辺入力ユニットインターフェース1574は、標的部位700の立体表示と共に提示する他の画像及び/又はグラフィックスを結合、融合、又は他の方法で含むように構成される。プログラム1580及び情報プロセッサモジュール1408の更なる詳細についてより一般に以下で考察する。
【0194】
一例の情報プロセッサモジュール1408は、1つ又は複数のプログラム1562を実行して、立体視覚化カメラ300の待ち時間をチェックし改善し得る。待ち時間は、標的部位700においてイベントが生じ、その同じイベントをディスプレイモニタ512及び514に表示するのにかかる時間量を指す。低待ち時間は、立体視覚化カメラ300が外科医の目の延長である感じを提供し、一方、高待ち時間は、顕微鏡外科処置から注意を逸らす傾向がある。一例のプロセッサ1562は、読み出された画像に基づいて結合された立体画像が、表示に向けて送信されるまで、光学画像センサ746及び748から読み出し中の画像間でどれくらいの時間が経過するかを追跡し得る。高待ち時間の検出は、プロセッサ1562にキュー時間を低減させ、フレームレートを増大させ、及び/又は幾つかの色補正ステップをスキップさせ得る。
【0195】
1.一例のユーザ入力
図15の情報プロセッサモジュール1408の一例のプロセッサ1562は、ユーザ入力命令をモータ・照明モジュール1406及び/又は画像捕捉モジュール1402へのメッセージに変換するように構成される。ユーザ入力命令は、倍率レベル、作業距離、焦点面(例えば、フォーカス)の高さ、光源708、及び/又はフィルタ740のフィルタタイプを含む立体視覚化カメラ300の光学態様を変更する要求を含み得る。ユーザ入力命令は、ピントが合っている画像の表示、及び/又は画像位置合わせの表示、及び/又は左画像と右画像との間で位置合わせされたZRPの表示を含め、較正を実行する要求を含むこともできる。ユーザ入力命令は、フレームレート、露出時間、色補正、画像分解能等の立体視覚化カメラ300のパラメータへの調整を更に含み得る。
【0196】
ユーザ入力命令は、ユーザ入力デバイス1410から受信し得、ユーザ入力デバイス1410は、
図3の制御アーム304の制御機構305及び/又は遠隔制御機構を含み得る。ユーザ入力デバイス1410は、コンピュータ、タブレットコンピュータ等を含むこともできる。幾つかの実施形態では、命令は、ネットワークインターフェース1572及び/又は周辺入力ユニットインターフェース1574を介して受信される。他の実施形態では、命令は、有線接続及び/又はRFインターフェースから受信し得る。
【0197】
一例のプロセッサ1562は、命令タイプを決定し、ユーザ入力がいかに処理されるべきかを決定するプログラム1560を含む。一例では、ユーザは、制御機構305のボタンを押下して、倍率レベルを変更し得る。オペレータが立体視覚化カメラ300を所望の倍率レベルに到達させるまでボタンを押下し続ける。これらの例では、ユーザ入力命令は、例えば、倍率レベルを増大すべきであることを示す情報を含む。受信される各命令で(又は命令を示す信号が受信された各時間期間で)、プロセッサ1562は、倍率の変更を示す制御命令をモータ・照明プロセッサ1406に送信する。プロセッサ1522は、プログラム1530から、例えば、表2を使用して、ズームレンズセット724及び730を移動させる量を決定する。それに従ってプロセッサ1522は、信号又はメッセージを後部ズームレンズモータ駆動装置1544及び/又は前部ズームレンズモータ駆動装置1548に送信して、後部ズームレンズモータ1546及び/又は前部ズームレンズモータ1550に、プロセッサ1562により指定された量だけ後部ズームレンズセット730及び/又は前部ズームレンズセット724を移動させて、所望の倍率レベルを達成する。
【0198】
上記例では、立体視覚化カメラ300が、ユーザ入力に基づいて変更を提供するが、フォーカス及び/又は高画質を維持するように自動調整も行うことを理解されたい。例えば、倍率レベルを単に変更する代わりに、プロセッサ1522はまた、フォーカスを維持するために、ズームレンズセット724及び730をいかに移動させるべきかを決定し、それにより、オペレータがこのタスクを手動で実行する必要があることから救う。加えて、プロセッサ1562は、リアルタイムで、倍率レベルが変更される場合、左右画像内のZRPを調整及び/又は位置合わせし得る。これは、例えば、
図10のピクセルグリッド1002及び1004に関してピクセルセット1006及び1008の位置を選択又は変更することにより行い得る。
【0199】
別の例では、プロセッサ1562は、フレームレートを変更する命令をユーザ入力デバイス1410から受信し得る。プロセッサ1562は、メッセージを画像捕捉モジュール1404のプロセッサ1504に送信する。そして、プロセッサ1504は、新しいフレームレートを示すものを右画像センサ746及び左画像センサ748のレジスタに書き込む。プロセッサ1504はまた、新しいフレームレートで内部レジスタを更新して、ピクセルが読み出されるペースを変更することもできる。
【0200】
更に別の例では、プロセッサ1562は、ZRPの較正ルーチンを開始する命令をユーザ入力デバイス1410から受信し得る。これに応答して、プロセッサ1562は、較正をいかに動作させるべきかを指定するプログラム1560を実行し得る。プログラム1560は、例えば、画質を検証するルーチンに加えて、倍率レベル及び/又は作業距離の進行又は反復を含み得る。ルーチンは、各倍率レベルで、ZRPに加えてフォーカスを検証すべきであることを指定し得る。ルーチンはまた、ピントの合った画像を達成するように、ズームレンズセット724及び730及び/又は後部作業距離レンズ704をいかに調整すべきかを指定することもできる。ルーチンは、右画像及び左画像のZRPを倍率レベルでいかにセンタリングすべきかを更に指定し得る。プログラム1560は、画質が検証されると、ピクセルセット1006及び1008の位置及び対応する倍率レベルに加えて、ズームレンズセット724及び/又は730及び/又は後部作業距離レンズ704の位置を記憶し得る(ルックアップテーブルに)。したがって、同じ倍率レベルが後に要求される場合、プロセッサ1562はルックアップテーブルを使用して、モータ・照明モジュール1406へのズームレンズセット724及び/又は730及び/又は後部作業距離レンズ704の位置及び画像捕捉モジュール1404へのピクセルセット1006及び1008の位置を指定する。幾つかの較正ルーチンでは、光学要素1402のレンズの少なくとも幾つかが、ZRPをセンタリングし、及び/又は左右画像を位置合わせするように半径方向/回転方向において調整し、及び/又はチルトし得ることを理解されたい。
【0201】
2.一例のインターフェース
立体視覚化カメラ300と外部デバイスとの通信を促進するために、一例の情報プロセッサモジュール1408は、ネットワークインターフェース1572及び周辺入力ユニットインターフェース1574を含む。一例のネットワークインターフェース1572は、リモートデバイスを情報プロセッサモジュール1408に通信可能に結合して、例えば、記録されたビデオを記憶し、作業距離、ズームレベル、フォーカス、較正、又は立体視覚化カメラ300の他の特徴を制御できるようにするよう構成される。幾つかの実施形態では、リモートデバイスは、ルックアップテーブルを較正する値若しくはパラメータを提供し得、又はより一般には、較正パラメータを有するプログラム1530を提供し得る。ネットワークインターフェース1572は、Ethernetインターフェース、ローカルエリアネットワークインターフェース、及び/又はWi−Fiインターフェースを含み得る。
【0202】
一例の周辺入力ユニットインターフェース1574は、1つ又は複数の周辺機器1576に通信可能に結合し、患者の生理学的データ等の周辺データを立体画像データと統合するのを促進するように構成される。周辺入力ユニットインターフェース1574は、Bluetooth(登録商標)インターフェース、USBインターフェース、HDMIインターフェース、SDI等を含み得る。幾つかの実施形態では、周辺入力ユニットインターフェース1574は、ネットワークインターフェース1572と結合し得る。
【0203】
周辺機器1576は、例えば、データ又はビデオ記憶ユニット、患者生理学的センサ、医療撮像デバイス、輸液ポンプ、透析装置、及び/又はタブレットコンピュータ等を含み得る。周辺データは、専用二次元赤外線専用カメラからの画像データ、ユーザのラップトップコンピュータからの診断画像、及び/又はAlcon Constellation(登録商標)システム及びWaveTec Optiwave Refractive Analysis(ORA(商標))システム等の眼科デバイスからの画像又は患者診断テキストを含み得る。
【0204】
一例の周辺入力ユニットインターフェース1574は、周辺機器1576からのデータを立体画像との併用に適切なデジタル形態に変換及び/又はフォーマットするように構成される。デジタル形態になると、グラフィックス処理ユニット1564は、周辺データを他のシステムデータ及び/又は立体画像/フレームと統合する。データは、ディスプレイモニタ512及び/又は514に表示するように立体画像と共にレンダリングされる。
【0205】
立体画像への周辺データの包含を構成するために、プロセッサ1562は統合セットアップを制御し得る。一例では、プロセッサ1562は、グラフィックス処理ユニット1564に構成パネルをディスプレイモニタ512及び/又は514に表示させ得る。構成パネルは、オペレータが周辺機器1576をインターフェース1574及びプロセッサ1562に接続して、続けて、機器1576との通信を確立できるようにし得る。プロセッサ1564は次に、どのデータが利用可能かを読み出し得、又はオペレータが構成パネルを使用して、データディレクトリロケーションを選択できるようにし得る。ディレクトリロケーション内の周辺データは、構成パネルに表示される。構成パネルはまた、オペレータに、周辺データを立体画像データに重ねる又は別個のピクチャとして表示する選択肢を提供することもできる。
【0206】
周辺データ(及びオーバーレイフォーマット)の選択は、プロセッサ1562にデータを読み出させ、グラフィックス処理ユニット1564に送信させる。グラフィックス処理ユニット1564は、オーバーレイグラフィック(リアルタイム立体画像との術前画像又はグラフィックスの融合等)、「ピクチャインピクチャ」、及び/又はメイン立体画像ウィンドウの横又は上のサブウィンドウとして提示するために周辺データを立体画像データに適用する。
【0207】
3.一例のデベイヤープログラム
図16の一例のデベイヤープログラム1580aは、あらゆるピクセル値の赤色、緑色、及び青色の値を有する画像及び/又はフレームを生成するように構成される。上述したように、右光学画像センサ746及び左光学画像センサ748のピクセルは、赤色波長範囲、青色波長範囲、又は緑色波長範囲の光を透過するフィルタを有する。したがって、各ピクセルは光データの一部のみを含む。したがって、画像捕捉モジュール1404から情報プロセッサモジュール1408において受信される各画像及び/又はフレームは、赤色、青色、又は緑色ピクセルデータのいずれかを含むピクセルを有する。
【0208】
一例のデベイヤープログラム1580aは、隣接及び/又は近傍ピクセルの赤色、青色、及び緑色ピクセルデータを平均して、各ピクセルのより完全な色データを特定するように構成される。一例では、赤色データを有するピクセル及び青色データを有するピクセルは、緑色データを有する2つのピクセル間に配置される。2つのピクセルの緑色ピクセルデータは平均され、赤色データを有するピクセル及び青色データを有するピクセルに割り当てられる。幾つかの場合、平均された緑色データは、各緑色ピクセルからの赤色データを有するピクセル及び青色データを有するピクセルの距離に基づいて加重し得る。較正後、元々赤色又は青色データのみを有するピクセルはここで、緑色データを含む。したがって、デベイヤープログラム1580aがグラフィックス処理ユニット1564により実行された後、各ピクセルは、赤色光、青色光、及び緑色光の量についてのピクセルデータを含む。異なる色のピクセルデータはブレンドされて、色スペクトルでの結果としての色を決定し、これは表示のためにレンダラープログラム1580e及び/又はディスプレイモニタ512及び514により使用し得る。幾つかの例では、デベイヤープログラム1580aは、結果色を決定し、色を示すデータ又は識別子を記憶し得る。
【0209】
4.一例の色補正
一例の色補正プログラム1580b、1580c、及び1580dは、ピクセル色データを調整するように構成される。センサ色補正プログラム1580bは、光学画像センサ746及び748の色検知における変動性を説明又は調整するように構成される。ユーザ色補正プログラム1580cは、オペレータの知覚及びフィードバックに基づいてピクセル色データを調整するように構成される。さらに、ディスプレイ色補正プログラム1580dは、ディスプレイモニタタイプに基づいてピクセル色データを調整するように構成される。
【0210】
センサ変動性について色を補正するために、一例の色補正プログラム1580bは、グラフィックス処理ユニット1564及び/又はプロセッサ1562により実行可能な較正ルーチンを指定する。センサ較正は、X−Rite,Inc.によるColorChecker(登録商標)Digital SG等の較正されたカラーチャートを標的部位700に配置することを含む。プロセッサ1562及び/又はグラフィックス処理ユニット1564はプログラム1580bを実行し、プログラム1580bは、カラーチャートの左右画像を記録する命令を画像捕捉モジュール1404に送信することを含む。左右画像からのピクセルデータ(デベイヤープログラム1580aによる処理後)は、ネットワークインターフェース1572を介して周辺ユニット1576及び/又はリモートコンピュータからメモリ1570に記憶し得るカラーチャートに関連するピクセルデータと比較し得る。プロセッサ1562及び/又はグラフィックス処理ユニット1564は、ピクセルデータ間の差を特定する。差は較正データ又はパラメータとしてメモリ1570に記憶される。センサ色補正プログラム1580bは、較正パラメータを続く左右画像に適用する。
【0211】
幾つかの例では、差は、プログラム1580bが、光学画像センサ746及び748の全てのピクセルにグローバルに適用されて、可能な限りカラーチャートに近い色を生成することができる色補正データの最良適合を見つけるように、ピクセルの領域にわたり平均し得る。追加又は代替として、プログラム1580bは、ユーザ入力デバイス1410から受信したユーザ入力命令を処理して、色を補正し得る。命令は、オペレータの好みに基づいて、赤色、青色、及び緑色ピクセルデータへの局所的及び/又は大域的変更を含み得る。
【0212】
一例のセンサ色補正プログラム1580bは、ホワイトバランスを補正するようにも構成される。一般に、白色光は、等しい値を有する赤色、緑色、及び青色ピクセルを生成するはずである。しかしながら、ピクセル間の差が、撮像中に使用される光の色温度、各ピクセルのフィルタ及び検知要素の固有の側面、及び例えば、
図7及び
図8の偏向要素712のスペクトル濾波パラメータから生じ得る。一例のセンサ色補正プログラム1580bは、光不均衡を補正する較正ルーチンを指定するように構成される。
【0213】
ホワイトバランスを実行するために、プロセッサ1562は(プログラム1580bからの命令に従って)、オペレータがニュートラルカードを標的部位700に配置する命令をディスプレイモニタ512及び/又は514に表示し得る。次に、プロセッサ1562は、画像捕捉モジュール1404にニュートラルカードの1つ又は複数の画像を記録するように命令し得る。アンパックルーチン1602及びデベイヤープログラム1580aによる処理後、プログラム1580bは、各ピクセルが略等しい値の赤色、青色、及び緑色データを有するように、赤色、青色、及び緑色データのそれぞれの局所的及び/又は大域的ホワイトバランス較正重み値を決定する。ホワイトバランス較正重み値はメモリ1570に記憶される。動作中、グラフィックス処理ユニット1564は、プログラム1580bを使用して、ホワイトバランス較正パラメータを適用して、ホワイトバランスを提供する。
【0214】
幾つかの例では、プログラム1580bは、右光学画像センサ746及び左光学画像センサ748で個々にホワイトバランス較正パラメータを決定する。これらの例では、プログラム1580bは、左画像及び右画像に別個の較正パラメータを記憶し得る。他の場合、センサ色補正プログラム1580bは、カラーピクセルデータが右光学画像センサ746及び左光学画像センサ748で略同一であるように右ビューと左ビューとの間の重みを決定する。決定された重みは、立体視覚化カメラ300の動作中、続けて使用するために、ホワイトバランス較正パラメータに適用し得る。
【0215】
幾つかの実施形態では、
図16のセンサ色補正プログラム1580bは、ホワイトバランス較正パラメータをデジタル利得として右光学画像センサ746及び左光学画像センサ748のピクセルに提供すべきであることを指定する。例えば、画像捕捉モジュール1404のプロセッサ1504は、デジタル利得を各ピクセルから読み出されたピクセルデータに適用する。他の実施形態では、ホワイトバランス較正パラメータは、各ピクセルの色検知要素のアナログ利得として適用すべきである。
【0216】
一例のセンサ色補正プログラム1580bは、異なる光源708及び/又はフィルタタイプのフィルタ740がアクティブ化される場合、ホワイトバランス及び/又は色補正を実行し得る。その結果、メモリ1570は、どの光源708が選択されたかに基づいて異なる較正パラメータを記憶し得る。さらに、センサ色補正プログラム1580bは、ホワイトバランス及び/又は色補正を異なるタイプの外光に関して実行し得る。オペレータは、ユーザ入力デバイス1410を使用して、外部光源の特性及び/又はタイプを指定し得る。この較正により、立体視覚化カメラ300は、異なる照明環境での色補正及び/又はホワイトバランスを提供することができる。
【0217】
一例のプログラム1580bは、各光学画像センサ746及び748に対して較正を別個に実行するように構成される。したがって、プログラム1580bは、動作中、異なる較正パラメータを左右の画像に適用する。しかしながら、幾つかの例では、較正は、一方のセンサ746又は748のみで実行されてもよく、較正パラメータは他方のセンサに使用される。
【0218】
一例のユーザ色補正プログラム1580cは、輝度、コントラスト、ガンマ、色合い、及び/又は飽和等の画質パラメータに関するオペレータ提供フィードバックを要求するように構成される。フィードバックは、ユーザ入力デバイス1410から命令として受信し得る。ユーザにより行われる調整は、メモリ1570にユーザ較正パラメータとして記憶される。これらのパラメータは続けて、光学画像線さ746及び748の色補正後、ユーザ色補正プログラム1580cにより左右の光学画像に適用される。
【0219】
図16の一例のディスプレイ色補正プログラム1580dは、例えば、Datacolor(登録商標)Spyderカラーチェッカを使用してディスプレイモニタに関して画像の色を補正するように構成される。プログラム1580dは、プログラム1580bと同様に、画像捕捉モジュール1404に、標的シーン700における表示色温度の画像を記録するように命令する。ディスプレイ色補正プログラム1580dは、ルーチンを動作させて、メモリ1570内のルックアップテーブルに記憶された予期されるディスプレイ出力に合うようにピクセルデータを調整する。調整されたピクセルデータは、ディスプレイ較正パラメータをメモリ1570に記憶し得る。幾つかの例では、カメラ又は他の撮像センサを周辺入力ユニットインターフェース1574に接続し得、周辺入力ユニットインターフェース1574は、ディスプレイモニタ512及び514から記録された色に関する画像又は他のフィードバックを提供し、画像又は他のフィードバックは、ピクセルデータの調整に使用される。
【0220】
5.一例の立体画像ディスプレイ
図16のグラフィックス処理ユニット1564の一例のレンダラープログラム1580eは、三次元立体表示に向けて左右画像及び/又はフレームを準備するように構成される。左右画像のピクセルデータがプログラム1580b、1580c、及び1580dにより色補正された後、レンダラープログラム1580eは、左目及び右目データを立体表示に適したフォーマットにし、ディスプレイモニタ512又は514の一方に送信するために、最終的にレンダリングされたものを出力バッファに配置するように構成される。
【0221】
一般に、レンダラープログラム1580eは、右画像及び/又はフレーム及び左画像及び/又はフレームを受信する。レンダラープログラム1580eは、右及び左の画像及び/又はフレームを結合して、1つのフレームにする。幾つかの実施形態では、プログラム1580eは、上下モードで動作し、左画像データを半分の高さに凝縮する。次に、プログラム1580eは、凝縮された左画像データを結合フレームの上半分に配置する。同様に、プログラム1580eは、右画像データを半分の高さに凝縮し、凝縮された右画像データを結合フレームの下半分に配置する。
【0222】
他の実施形態では、レンダラープログラム1580eは横並びモードで動作し、左右の各画像は半分の幅に凝縮され、左画像データが画像の左半分に提供され、一方、右画像データが画像の右半分に提供されるように1つの画像に結合される。更に代替の実施形態では、レンダラープログラム1580eは、行インターリーブモードで動作し、左右フレーム内の1つ置きのラインは破棄される。左右フレームは一緒に結合されて、完全な立体画像を形成する。
【0223】
一例のレンダラープログラム1580eは、結合された左右画像を接続された各ディスプレイモニタに別個にレンダリングするように構成される。例えば、両ディスプレイモニタ512及び514が接続される場合、レンダラープログラム1580eは、第1の結合立体画像をディスプレイモニタ512に向けてレンダリングし、第2の結合立体画像をディスプレイモニタ514に向けてレンダリングする。レンダラープログラム1580eは、ディスプレイモニタ及び/又は画面のタイプ及び/又は画面サイズと互換性があるように、第1及び第2の結合立体画像をフォーマットする。
【0224】
幾つかの実施形態では、レンダラープログラム1580eは、ディスプレイモニタが立体データをいかに表示すべきかに基づいて画像処理モードを選択する。オペレータの脳による立体画像データの適切な解釈には、立体画像の左目データがオペレータの左目に伝達され、立体画像の右目データがオペレータの右目に伝達される必要がある。一般に、ディスプレイモニタは、第1の偏光を左目データに提供し、第2の逆の偏光を右目データに提供する。したがって、結合された立体画像は、ディスプレイモニタの偏光に一致しなければならない。
【0225】
図17は、本開示の実施形態例によるディスプレイモニタ512の一例を示す。ディスプレイモニタ512は、例えば、画面1702を有するLG(登録商標)55LW5600三次元テレビジョンであり得る。一例のディスプレイモニタ512は、全ての奇数行1704が第1の偏光を有し、全ての偶数行1706が逆の偏光を有するように画面1702上に偏光フィルムを使用する。
図17に示されるディスプレイモニタ512との互換性のために、レンダラープログラム1580eは、左右の画像データが交互のラインにあるような行インターリーブモードを選択する必要がある。幾つかの場合、レンダラープログラム1580eは、立体画像を準備する前、ディスプレイモニタ512の表示特性を要求(又は他の方法で受信)し得る。
【0226】
画面1702に表示された立体画像を見るために、外科医504(
図5から外科医を想起する)は、行1704の第1の偏光に一致する第1の偏光を含む左レンズ1714を含むメガネ1712を装着する。加えて、メガネ1712は、行1706の第2の偏光に一致する第2の偏光を含む右レンズ1716を含む。したがって、左レンズ1714は、左行1704からの左画像データからの光のみの大半を透過させながら、右画像データからの光の大半をブロックする。加えて、右レンズ1716は、右行1706からの右画像データからの光のみの大半を透過させながら、左画像データからの左の大半をブロックする。各目に到達する「誤った」ビューからの光の量は、「クロストーク」として知られ、一般に、快適な閲覧を可能にするのに十分に低い値に保持される。したがって、外科医504は、左目で左光学画像センサ748により記録された左画像データを見ながら、右目で右光学画像センサ746により記録された右画像データを見る。外科医の脳は2つのビューを一緒に融合して、三次元距離及び/又は奥行きの知覚を作り出す。さらに、そのようなディスプレイモニタの使用は、立体視覚化カメラ300の精度を観測するのに有利である。外科医又はオペレータがメガネを装着しない場合、左右の両ビューは両目で観測可能である。平らな標的が焦点面に配置される場合、2つの画像は理論上、位置合わせされる。位置合わせずれが検出される場合、プロセッサ1562により再較正手順を開始することができる。
【0227】
一例のレンダラープログラム1580eは、円偏光に関して左右ビューをレンダリングするように構成される。しかしながら、他の実施形態では、レンダラープログラム1580eは、線形偏光と互換性がある立体画像を提供し得る。どのタイプの偏光が使用されるかに関係なく、一例のプロセッサ1562はプログラム1560を実行して、レンダラープログラム1580eにより出力された立体画像の偏光を検証又はチェックし得る。偏光をチェックするために、プロセッサ1562及び/又は周辺入力ユニットインターフェース1574は、診断データを左画像及び/又は右画像に挿入する。例えば、プロセッサ1562及び/又は周辺入力ユニットインターフェース1574は、「左」テキストを左画像に重ね、「右」テキストを右画像に重ね得る。プロセッサ1562及び/又は周辺入力ユニットインターフェース1574は、オペレータに、メガネ1712を装着しながら一度に片目を閉じて、左ビューが左目で受け取られ、右ビューが右目で受け取られていることを確認するように指示するプロンプトを表示し得る。オペレータは、ユーザ入力デバイス1410を介して偏光が正確であるか否かを示す確認を提供し得る。偏光が正確ではない場合、一例のレンダラープログラム1580eは、左右の画像を結合立体画像に挿入する位置を逆にするように構成される。
【0228】
更に他の実施形態では、一例のレンダラープログラム1580eは、結合立体画像を作成する代わりに、フレームの順次投影を提供するように構成される。ここで、レンダラープログラム1580eは、右画像及び/又はフレームで順次インターリーブされた左画像及び又はフレームをレンダリングする。したがって、左右の画像は外科医504に交互に提示される。これらの他の実施形態では、画面1702は偏光されない。代わりに、メガネ1712の左右のレンズは電子的又は光学的にフレームシーケンスの各部分と同期し得、それにより、対応する左右のビューをユーザに提供して、奥行きを識別する。
【0229】
幾つかの例では、レンダラープログラム1580eは、別個のディスプレイモニタに又は1つのディスプレイモニタ上の別個のウィンドウに表示するように右画像及び左画像の幾らかを提供し得る。そのような構成は、光学要素1402の左右の光路のレンズが独立して調整可能な場合、特に有利であり得る。一例では、右光路は第1の倍率レベル設定し得、一方、左光路は第2の倍率レベルに設定される。それに従って一例のレンダラープログラム1580eは、左ビューからの画像ストリームをディスプレイモニタ512に表示し、右ビューからの画像ストリームをディスプレイモニタ514に表示し得る。幾つかの場合、左ビューはディスプレイモニタ512の第1のウィンドウに表示し得、一方、右ビューは同じディスプレイモニタ512の第2のウィンドウに表示される(例えば、ピクチャインピクチャ)。したがって、立体ではないが、左右の画像の同時表示は有用な情報を外科医に提供する。
【0230】
別の例では、光源708及びフィルタ740を素早く切り替えて、可視光及び蛍光を有する交互の画像を生成し得る。一例のレンダラープログラム1580eは、異なる光源下で左ビュー及び右ビューを結合して、立体表示を提供して、例えば、背景を可視光で表示しながら、染料剤を有する静脈を強調表示し得る。
【0231】
更に別の例では、デジタルズームを右及び/又は左光学画像センサ746又は748に適用し得る。デジタルズームは一般に、画像の知覚される分解能に影響し、表示分解能及び閲覧者の好み等の要因に依存する。例えば、画像捕捉モジュール1404のプロセッサ1504は、デジタルズームピクセル間で同期され散在する補間ピクセルを作成することによりデジタルズームを適用し得る。プロセッサ1504は、光学画像センサ746及び748の選択及び補間ピクセルを調整するプログラム1510を動作し得る。プロセッサ1504は、続けてレンダリングし表示するために、デジタルズームを情報プロセッサモジュール1408に適用した状態の右画像及び左画像を送信する。
【0232】
幾つかの実施形態では、プロセッサ1504は、デジタルズーム画像をデジタルズームのない画像間で記録して、標的部位700の関心領域のデジタルズームのピクチャインピクチャ(又は別個のウィンドウ)表示を提供すべきであるとの命令をプロセッサ1562から受信する。それに従ってプロセッサ1504は、デジタルズームをピクセルグリッド1002及び1004からの1つおきの読み出しに適用する。これにより、レンダラープログラム1580eは、デジタルズームされた立体画像に加えて、立体最高分解能画像を同時に表示することができる。代替的には、デジタル的にズームすべき画像は、現在の画像からコピーされ、スケーリングされ、レンダリングフェーズ中、現在の画像の上に重ねられた適切な位置に配置される。この代替の構成は、「交互」記録要件を回避する。
【0233】
6.一例の較正
図14〜
図16の一例の情報プロセッサモジュール1408は、1つ又は複数の較正プログラム1560を実行して、例えば、作業距離及び/又は倍率を較正するように構成し得る。例えば、プロセッサ1562は、較正ステップを実行して、主対物レンズ組立体702から標的部位700までの作業距離(ミリメートル単位で測定される)を作業距離レンズモータ1554の既知のモータ位置にマッピングする命令をモータ・照明モジュール1406に送信し得る。プロセッサ1562は、エンコーダカウント及び作業距離を記録しながら、光軸に沿って離散ステップで物体平面を順次移動させ、左右の画像を再フォーカスすることにより較正を実行する。幾つかの例では、作業距離は外部デバイスにより測定し得、外部デバイスは、周辺入力ユニットインターフェース1574及び/又はユーザ入力デバイス1410へのインターフェースを介して、測定された作業距離値をプロセッサ1562に送信する。プロセッサ1562は、後部作業距離レンズ704の位置(作業距離レンズモータ1554の位置に基づく)及び対応する作業距離を記憶し得る。
【0234】
一例のプロセッサ1562はまた、プログラム1560を実行して、倍率較正を実行することもできる。プロセッサ1562は、モータ・照明モジュール1406を使用して倍率レベルを選択して光学要素1402を設定し得る。プロセッサ1562は、光学要素1402の位置又は各倍率レベルに関する対応するモータ位置を記録し得る。倍率レベルは、既知のサイズの物体の画像内で高さを測定することにより特定し得る。例えば、プロセッサ1562は、10ピクセル分の高さを有するものとして物体を測定し、ルックアップテーブルを使用して、10ピクセル高さが5X倍率に対応すると判断し得る。
【0235】
2つの異なる撮像モダリティの立体視点を合わせるために、単純なピンホールカメラであるかのようにモデリングすることが望ましいことが多い。MRI脳腫瘍等の3Dコンピュータモデルの視点は、ユーザ調整可能な方向及び距離(例えば、画像が合成立体カメラにより記録されたかのように)から見ることができる。調整可能性を使用して、ライブ外科画像の視点を合わせることができ、したがって、ライブ外科画像の視点は既知でなければならない。一例のプロセッサ1562は、例えば、右光学画像センサ746及び左光学画像センサ748の投影中心(「COP」)等のこれらのピンホールカメラパラメータの1つ又は複数を較正し得る。投影中心を特定するために、プロセッサ1562は、投影中心から物体平面へのフォーカス距離を特定する。まず、プロセッサ1562は、倍率レベルに光学要素1402を設定する。次にプロセッサ1562は、物体平面、物体平面距離未満の距離d、及び物体平面距離よりも大きい距離dを含む光軸に沿った3つの異なる距離における画像の高さの測定値を記録する。プロセッサ1562は、2つの最も極端な位置における同様の三角に代数数式を使用して、投影中心へのフォーカス距離を特定する。プロセッサ1562は、同じ方法を使用して、又は較正に使用される倍率間の比率を特定することにより、他の倍率でのフォーカス距離を特定し得る。プロセッサは投影中心を使用して、MRI腫瘍モデル等の所望の融合物体の画像の視点をライブ立体外科画像に合わせ得る。追加又は代替として、OpenCV calibrateCamera等の既存のカメラ較正手順を使用して、上記パラメータ及び光学要素1402の歪みモデル等の追加のカメラ情報を見つけ得る。
【0236】
一例のプロセッサ1562は、左右の光軸を更に較正し得る。プロセッサ1562は、較正のために左光軸と右光軸との瞳孔間距離を特定する。瞳孔間距離を特定するために、一例のプロセッサ1562は左右の画像を記録し、ピクセルセット1006及び1008はピクセルグリッド1002及び1004にセンタリングされる。プロセッサ1562は、左右の画像のZRP(及び/又は変位された物体への距離)の位置を特定し、これは、画像位置合わせずれ及び視差の度数を示す。加えて、プロセッサ1562は、倍率レベルに基づいて視差及び/又は距離をスケーリングする。次に、プロセッサ1562は、視差の度数及び/又はディスプレイにおける物体へのスケーリングされた距離を考慮に入れて、三角測量計算を使用して瞳孔間距離を特定する。プロセッサ1562は次に、較正点として、瞳孔間距離を指定された倍率レベルでの光軸に関連付ける。
【0237】
VII.画像位置合わせ及び疑似視差調整実施形態
人間の視覚と同様に、立体画像は、関心点で収束する右ビュー及び左ビューを含む。右ビュー及び左ビューは、関心点から僅かに異なる角度で記録され、それにより、2つのビュー間に視差が生じる。関心点の前又は後のシーン内のアイテムは、閲覧者からのアイテムの距離又は奥行きを推測することができるような視差を示す。知覚される距離の精度は、例えば、閲覧者の視力の明瞭さに依存する。大半の人間は、視力に何らかのレベルの不完全性を示し、右ビューと左ビューとの間に幾らかの不正確性を生じさせる。しかしながら、それでもなお立体を達成することが可能であり、脳はいくらかのレベルの精度でビューを融合する。
【0238】
左画像及び右画像が、人間により見られるのではなく、カメラにより記録される場合、ディスプレイ画面上の結合画像間の視差は立体視を生み出し、二次元ディスプレイに三次元立体画像の見た目を提供する。視差の誤差は、三次元立体画像の品質に影響する恐れがある。理論上、好ましい視差と比較した観測視差の不正確性は、疑似視差として知られている。人間と異なり、カメラは、不正確性を自動的に補償する脳を持たない。
【0239】
疑似視差が大きくなる場合、三次元立体画像は、目眩、頭痛、及び吐き気を誘導するポイントまで閲覧不可能になり得る。顕微鏡及び/又はカメラにおいて視差に影響し得る多くの要因がある。例えば、左右のビューの光学チャネルは、厳密に等しいわけではないことがある。光学チャネルは、不一致のフォーカス、倍率、及び/又は関心点の位置合わせずれを有し得る。これらの問題は、異なる倍率及び/又は作業距離で様々な深刻度を有し得、それにより、較正を通して補正する取り組みを低減する。
【0240】
図2の外科用顕微鏡200等の既知の外科用顕微鏡は、接眼レンズ206を通して適切なビューを提供するように構成される。多くの場合、既知の外科用顕微鏡の光学要素の画質は、立体視カメラには十分ではない。この理由は、外科用顕微鏡の製造業者が、主な閲覧が接眼レンズを通しての閲覧であると仮定しているためである。任意のカメラ付属品(カメラ212等)は、平面視であり、疑似視差を受けないか、又は疑似視差がそれほど明白ではない低画像分解能で立体視である。
【0241】
ISO10936−1:2000,Optics and optical instruments−Operation microscopes−Part 1:Requirements and test methods等の国際規格は、外科用顕微鏡の画質に仕様限度を提供するために作成された。仕様限度は一般に、外科用顕微鏡の接眼レンズを通して見ることについて設定され、三次元立体表示を考慮していない。例えば、疑似視差に関して、ISO10936−1:2000は、左右のビュー間の垂直軸の差は15分未満であるべきであると指定している。軸の小さな角度ずれは多くの場合、1/60度に対応する分又は1/60分に対応する秒で定量化される。15分仕様限度は、作業距離250mm及び視野35mm(視野角8°を有する)を有する典型的な外科用顕微鏡では左右のビュー間の3%差に対応する。
【0242】
3%差は、外科医の脳が小さな程度の誤差を解消することが可能な接眼レンズ閲覧の場合、許容可能である。しかしながら、この3%差は、ディスプレイモニタ上で立体的に見られる場合、左右のビュー間に顕著な差を生じさせる。例えば、左右のビューが一緒に見られる場合、3%差は、分断されて見え、長時間にわたり見ることが難しい画像を生成する。
【0243】
別の問題は、既知の外科用顕微鏡が、1つ又は少数の倍率レベルでのみ15分仕様限度を満たし得、及び/又は個々の光学要素のみが特定の仕様限度を満たし得ることである。例えば、個々のレンズは特定の基準を満たすように製造される。しかしながら、個々の光学要素が光路において組み合わせられると、規格からの小さなずれは、相殺されるのではなく増幅され得る。これは、共通の主対物レンズを含む5つ以上の光学要素が光路に使用される場合、特に顕著であり得る。加えて、平行チャネル上に光学要素を完全に一致させることは非常に難しい。せいぜい、製造中、外科用顕微鏡の光学要素は、1つ又は少数の特定の倍率レベルでのみ、15分仕様限度を満たすように較正される。したがって、外科用顕微鏡がISO10936−1:2000仕様を満たすということになっているにも拘わらず、較正ポイント間の誤差は大きいことがある。
【0244】
加えて、ISO10936−1:2000仕様では、追加の構成要素が追加される場合、より大きな許容差が許されている。例えば、第2の接眼レンズ(例えば、接眼レンズ208)の追加は、疑似視差を2分増大させる。ここでも、誤差は、接眼レンズ206及び208を通して見るには許容可能であり得るが、画像位置合わせずれは、カメラを通して立体的に見た場合、より顕著になる。
【0245】
既知の外科用顕微鏡と比較して、本明細書に開示される一例の立体視覚化カメラ300は、光学要素1402の少なくとも幾つかを自動的に調整して、疑似視差を低減又はなくすように構成される。光学要素を立体視覚化カメラ300に組み込むことにより、三次元立体表示に向けて微調整を自動的に(時にはリアルタイムで)行うことが可能になる。幾つかの実施形態では、一例の立体視覚化カメラ300は20秒〜40秒の精度を提供し得、これは、既知の外科用顕微鏡の15分精度と比較して、光学誤差の97%低減に近い。
【0246】
精度の改善により、一例の立体視覚化カメラ300は、既知の立体顕微鏡では実行することが可能ではない特徴を提供することができる。例えば、多くの新しい顕微鏡外科処置は、最適なサイジング、位置決め、マッチング、配向、及び診断に生体の術部での正確な測定に頼っている。これは、血管のサイズ特定、円環眼内レンズ(「IOL」)の配置角度、術前画像からライブビューへの血管系の一致、動脈下の腫瘍の深さ等の特定を含む。それに従って一例の立体視覚化カメラ300は、例えば、グラフィカルオーバーレイ又は画像分析を使用して解剖学的構造のサイズを特定し、精密な測定を行えるようにする。
【0247】
既知の外科用顕微鏡では、外科医が既知のサイズの物体(マイクロ定規等)を視野内に配置する必要がある。外科医は物体のサイズを周囲の解剖学的構造と比較して、おおよそのサイズを特定する。しかしながら、外科医は物体を適切な位置に配置し、次に、測定が行われた後、物体を取り出す必要があるため、この手順は比較的遅い。加えて、サイズは外科医の主観的比較及び測定に基づくため、測定は近似しか提供しない。幾つかの既知の立体視カメラは、サイズを特定するためのグラフィカルオーバーレイを提供する。しかしながら、疑似視差が左右のビュー間に存在する場合、これらのオーバーレイの精度は下がる。
【0248】
A.疑似視差の原因としてのZRP
ZRP不正確性は、疑似視差を生じさせる左右の画像間の大きな誤差原因を提供する。ZRP又はズーム反復点とは、倍率レベルが変わっても同じ位置に留まる視野内の点を指す。
図18及び
図19は、異なる倍率レベルでの左右の視野でのZRPの例を示す。特に、
図18は、低倍率レベルでの左視野1800及び高倍率レベルでの左視野1850を示す。加えて、
図19は、低倍率レベルでの右視野1900及び高倍率レベルでの右視野1950を示す。
【0249】
図18及び
図19が、本開示での例示的な参照点を提供する十字線1802及び1902を示すことに留意されたい。十字線1802は、y方向又はy軸に沿って位置決めされる第1の十字線1802a及びx方向又はx軸に沿って位置決めされる第2の十字線1802bを含む。さらに、十字線1902は、y方向又はy軸に沿って位置決めされる第1の十字線1902a及びx方向又はx軸に沿って位置決めされる第2の十字線1902bを含む。実際の実施では、一例の立体視覚化カメラ300はデフォルトにより通常、オペレータにより要求される場合を除き、光路に十字線を含まないか、又は光路に十字線を追加しない。
【0250】
理想的には、ZRPは中央位置又は原点に位置すべきである。例えば、ZRPは十字線1802及び1902にセンタリングされるべきである。しかしながら、光学要素1402の不正確性及び/又は光学要素1402間のわずかな位置合わせずれは、ZRPを十字線1802及び1902の中心から離れて配置させる。疑似視差の程度は、左右のビュー間で位置合わせズレしたZRPに加えて、左右のビューの各ZRPが各中心から離れて配置される程度に対応する。さらに、光学要素1402における不正確性は、倍率変更にともなってZRPをわずかに変動させ得、それにより、疑似視差の程度を更に大きくする。
【0251】
図18は、
図7の標的部位700の視野1800及び1850内の3つの三日月形物体1804、1806、及び1808を示す。視野1800及び1850が光学画像センサ746及び748に関して線形の視野であることを理解されたい。物体1804、1806、及び1808は視野1800内に配置されて、疑似視差が左右の画像の位置合わせずれからいかに生じるかを示した。物体1804は、十字線1802aに沿って十字形1802bの上に位置決めされる。物体1806は、十字線1802bに沿って十字線1802aの左側に位置決めされる。物体1808は、十字線1802bの僅かに下に十字線1802aの右側に位置決めされる。左視野1800のZRP1810は、物体1808の切り欠きに位置決めされる。
【0252】
左視野1800は、一例の立体視覚化カメラ300のズームレンズ組立体716を使用して倍率レベルを上げる(例えば、ズームする)ことにより、左視野1850に変更される。倍率を上げると、視野1850に示されるように、物体1804、1806、及び1808は拡大又は成長するように見える。図示の例では、視野1850は視野1800の倍率レベルの約3Xである。
【0253】
低倍率視野1800と比較して、高倍率視野1850内の物体1804、1806、及び1808は、ZRP1810に関して3X、互いから離れて移動しながら、約3X増大したサイズを有する。加えて、物体1804、1806、及び1808の位置は、十字線1802に相対して移動している。物体1804はここで、十字線1802aの左にシフトされ、十字線1802bから僅かに離れてシフトされる。加えて、物体1806はここで、十字線1802aの左に更にシフトされ、十字線1802bの僅かに上にシフトされる。一般に、物体1808は、十字線1802に関して同じ(又は略同じ)位置に配置され、ZRP1810は十字線1802及び物体1806に関して厳密に同じ(又は略同じ)位置に配置される。換言すれば、倍率が上がるにつれて、物体1804、1806、及び1808(及び視野1850内の他の何か)は、ZRP1810から離れて外側に移動するように見える。
【0254】
物体1804、1806、及び1808は、
図19に示される右視野1900及び1950に示される。しかしながら、ZRPの位置は異なる。特に、右視野1900及び1950において、ZRP1910は十字線1902bの上に、十字線1902aの左に配置される。したがって、ZRP1910は、左視野1800及び1850におけるZRP1810と異なる位置に配置される。図示の例では、左右の光路が好ましくは、第1の倍率レベルにおいて位置合わせされると仮定される。したがって、左視野1800内の同じ物体1804、1806、及び1808と同じ位置にある右視野1900に示される物体1804、1806、及び1808。左右のビューは位置合わせされるため、疑似視差は存在しない。
【0255】
しかしながら、高倍率視野1950では、物体1804、1806、及び1808は拡大し、ZRP1910から離れて移動する。ZRP1910の位置を所与として、物体1804は右側に移動又はシフトし、物体1806は下方に移動又はシフトする。加えて、物体1808は、視野1900内の位置と比較して下方及び右に移動する。
【0256】
図20は、高倍率左視野1850を高倍率右視野と比較するピクセル図を示す。グリッド2000は、左光学画像センサ746のピクセルグリッド1002上の物体1804(R)、1806(R)、及び1808(R)の位置が重ねられた左光学画像センサ748のピクセルグリッド1004上の物体1804(L)、1806(L)、及び1808(L)の位置を表し得る。
図20は、物体1804、1806、及び1808が左視野1850及び右視野1950で異なる位置にあることを明らかに示す。例えば、物体1804(R)は、十字線1902aの右及び十字線1902bの上に配置され、一方、同じ物体1804(L)は、十字線1802aの左及び十字線1802bの更に上に配置される。
【0257】
物体1804、1806、及び1808の位置差は疑似視差に対応し、疑似視差は、異なる位置にZRP1810及び1910を生成する光学要素1402の光学位置合わせの欠陥によって生じる。歪みがない又は他の撮像誤差がないと仮定すると、
図20に示される疑似視差は一般に、画像内の全ての点で同じである。外科用顕微鏡(
図2の顕微鏡200等)の接眼レンズを通して見る場合、物体1804、1806、及び1808の位置差は目立たないことがある。しかしながら、立体画像でディスプレイモニタ512及び514において見る場合、差は容易に明らかになり、頭痛、吐き気、及び/又は目眩を生じさせる恐れがある。
【0258】
図21は、左右ZRPに関する疑似視差を示す図を示す。図は、
図10の左ピクセルグリッド1002及び左ピクセルグリッド1004のオーバーレイを含むピクセルグリッド2100を含む。この図示の例では、左光路の左ZRP2102は、x軸に沿って+4及びy軸に沿って0に配置される。加えて、右光路の右ZRP2104は、x軸に沿って−1及びy軸に沿って0に配置される。原点2106は、x軸とy軸との交点に示される。
【0259】
この例では、物体2108は、第1の低倍率で左右の画像に関して位置合わせされる。倍率が3X上がるにつれて、物体2108のサイズは増大し、ZRP2102及び2104から離れて移動した。輪郭物体2110は、ZRP2102及び2104が原点2106に位置合わせされることに基づいて、第2のより高い倍率では物体2108の理論上の位置を示す。特に、第1の倍率レベルでの物体2108の切り欠きは、x軸に沿った+2位置にある。3X倍率を用いる場合、切り欠きは、切り欠きがより高い倍率レベルでx軸に沿って+6に配置されるようにx軸に沿って3X移動する。加えて、ZRP2102及び2104は理論上、原点2106に位置合わせされるため、物体2110は、左右のビュー(オーバーレイを所与として1つの物体として
図21に示される)の間に位置合わせされる。
【0260】
しかしながら、この例では、左ZRP2102及び右ZRP2104の位置合わせずれは、物体2110をより高倍率で左右のビュー間で位置合わせずれさせる。右光路に関して、右ZRP2104は、低倍率において物体2108の切り欠きから3ピクセル分、離れるようにx軸に沿って−1に配置される。3Xで拡大される場合、この差は9ピクセルになり、これは物体2110(R)として示される。同様に、左ZRP2102はx軸に沿って+4ピクセルに配置される。3X倍率で、物体2108は、2ピクセル分離れることから6ピクセル分離れるように移動し、これはx軸に沿って−2における物体2110(L)として示される。
【0261】
物体2110(L)及び物体2110(R)の位置差は、より高倍率での左右のビュー間の疑似視差に対応する。左右のビューが結合されて、表示される立体画像が生成される場合、レンダラープログラム1850eが行インターリーブモードを使用するとき、物体2110の位置は各行で位置合わせずれする。位置合わせずれは立体視の生成にとって有害であり、ぼやけて見え、又はオペレータを混乱させる画像を生成する恐れがある。
【0262】
B.疑似視差の他の原因
左右の光路間のZRP位置合わせずれは疑似視差の大きな原因であるが、他の誤差原因も存在する。例えば、疑似視差は、左右の光路間の不等倍率変更から生じることがある。平行光路間の倍率差は、光学要素1402のレンズの光学特性又は特性の僅かなばらつきから生じることがある。さらに、僅かな差は、
図7及び
図8の左右の前部ズームレンズ726及び728のそれぞれ及び左右の後部ズームレンズ736及び738のそれぞれが独立して制御される場合、位置決めから生じることがある。
【0263】
再び
図18及び
図19を参照すると、倍率変更差は、左右の光路で異なるサイズの物体及び物体間の異なる間隔を生み出す。例えば、左光路がより高い倍率変更を有する場合、物体1804、1806、及び1808は、
図19の右視野1950内の物体1804、1806、及び1808と比較して大きく見え、ZRP1810からより長い距離移動する。ZRP1810及び1910が位置合わせられる場合であっても、物体1804、1806、及び1808の位置差は疑似視差を生み出す。
【0264】
疑似視差の別の原因は、左右の光路の不等フォーカスから生じる。一般に、左右のビュー間の任意のフォーカス差は、画質の知覚される低下を生じさせ得、左ビューが優勢であるべきか、それとも右ビューが優勢であるべきかについて潜在的な混乱を生じさせ得る。フォーカス差が顕著である場合、ピントずれ(「OOF(Out−Of−Focus)」)状況を生じさせ得る。OOF状況は特に、左右のビューが同じ画像に示される立体画像で顕著である。加えて、OOF状況は容易に補正可能ではなく、その理由は、ピントずれ光路の再フォーカスにより通常、他の光路の焦点が合わなくなるためである。一般に、両光路がフォーカスされる点を特定する必要があり、これは、光路に沿って左右のレンズの位置を変更し、及び/又は標的部位700からの作業距離を調整することを含み得る。
【0265】
図22は、OOF状況がいかに生じるかを示す図を示す。図は、知覚される分解能(例えば、フォーカス)を最適分解能セクション2202に対するレンズ位置に関連付ける。この例では、左後部ズームレンズ734は位置L1にあり、一方、右後部ズームレンズ732は位置R1にある。位置L1及びR1において、後部ズームレンズ732及び734は、左右の光路が一致したフォーカスレベルを有するような最適分解能2202の範囲内にある。しかしながら、距離ΔPに対応する、L1及びR1の位置に差がある。後に、作業距離706は、一点がピントずれするように変更される。この例では、両後部ズームレンズ732及び734は、距離ΔPが変わらないように位置L2及びR2に対して同じ距離、移動する。しかしながら、位置変化により、左後部ズームレンズ734が右後部ズームレンズ732よりも高い分解能(例えば、よりよいフォーカス)を有するように分解能は大きく変わる。分解能ΔRはOOF状況に対応し、これは、左右の光路間のフォーカス位置合わせずれから疑似視差を生じさせる。
【0266】
疑似視差の更に別の原因は、標的部位700において移動している撮像物体から生じ得る。疑似視差は、右光学画像センサ746及び左光学画像センサ748の露出間の小さな同期誤差から生じる。左右のビューが同時に記録されない場合、物体は2つのビュー間で変位又は位置合わせずれして見える。結合された立体画像は、左右のビューで2つの異なる位置に同じ物体を示す。
【0267】
さらに、疑似視差の別の原因は、拡大中に移動するZRP点が関わる。セクションIV(A)において上述した例では、左右のビューのZRPがx方向又はy方向で移動しないと仮定する。しかしながら、ZRPは、ズームレンズ726、728、732、及び/又は734が光路又は光軸と厳密に平行に(例えば、z方向において)移動しない場合、拡大中、シフトし得る。
図11を参照して上述したように、力が作動セクション1108に印加されると、キャリア724はわずかにシフト又は回転し得る。この回転は、倍率レベルが変更される場合、左右のZRPを僅かに移動させ得る。
【0268】
一例では、倍率変更中、キャリア730は一方向に移動し、一方、キャリア724は、倍率変更の一部では同じ方向に、フォーカス調整のための倍率変更の残りの部分では逆方向に移動する。キャリア724の移動軸が光軸からわずかにチルト又は回転する場合、左光路及び/又は右光路のZRPは、第1の部分にわたり一方向にシフトし、続けて、倍率変更の第2の部分にわたり逆方向にシフトする。加えて、力は不等に印加されるため、右前部ズームレンズ726及び左前部ズームレンズ728は、左右の光路間で様々な程度のZRPシフトを受け得る。ZRPの位置変化は一緒に、光路の位置合わせずれを生じさせ、それにより、疑似視差を生じさせる。
【0269】
C.疑似視差の低減は、立体ビューとのデジタルグラフィックス及び画像の組み込みを促進する
外科用顕微鏡がよりデジタル化されるにつれて、設計者は、グラフィックス、画像、及び/又は他のデジタル効果をライブビュー画像に重ねる特徴を追加している。例えば、ガイダンスオーバーレイ、立体磁気共鳴撮像(「MRI」)画像の融合、及び/又は外部データを、カメラにより記録された画像、さらには接眼レンズ自体内に表示される画像と組み合わせ得る。疑似視差は、下の立体画像とのオーバーレイの精度を低減する。外科医は一般に、例えば、MRIを介して視覚化された腫瘍が、多くは三次元で、融合ライブ外科立体ビュー内に可能な限り正確に配置されることを要求する。そうでなければ、術前腫瘍画像は、外科医に殆ど情報を提供せず、それにより、手術の性能を損なう。
【0270】
例えば、外科ガイドは、左ビューとの位置合わせがずれながら、右ビュー画像と位置合わせし得る。2つのビュー間で位置合わせずれした外科ガイドは、オペレータにとって容易に明らかである。別の例では、外科ガイドは、グラフィックス処理ユニット1564が結合立体画像を作成する前、情報プロセッサモジュール1408において左右のビューと別個に位置合わせし得る。しかしながら、左右のビュー間の位置合わせずれは、ガイド間に位置合わせずれを生み出し、それにより、ガイドの有効性を下げ、顕微鏡外科処置中、混乱及び遅延を生み出す。
【0271】
「IMAGING SYSTEM AND METHODS DISPLAYING A FUSED MULTIDIMENSIONAL RECONSTRUCTED IMAGE」という名称の米国特許第9,552,660号明細書(参照により本明細書に援用される)には、術前画像及び/又はグラフィックスがいかに、立体画像と視覚的に融合されるかが開示されている。
図23及び
図24は、履帯画像に融合される場合、疑似視差がデジタルグラフィックス及び/又は画像の精度をいかに失わせるかを示す図を示す。
図24は患者の目2402の正面図を示し、
図23は、
図24の平面A−Aに沿った目の断面図を示す。
図23では、情報プロセッサモジュール1408は、焦点面2302から、例えば、目2402の後嚢上の関心物体2304までの尾側距離dを特定するように命令される。情報プロセッサモジュール1408は、例えば、距離dが目2402の左右のビューからの画像データの三角測量計算により特定されることを指定するプログラム1560を動作させる。ビュー2306は、左光学画像センサ748の視点から示され、ビュー2308は、右光学画像センサ746の視点から示される。左ビュー2306及び右ビュー2308は、目2402の前中心2310と一致すると仮定される。加えて、左ビュー2306及び右ビュー2308は、理論上の右投影2312及び理論上の左投影2314として焦点面2302に投影される物体2304の二次元ビューである。この例では、プロセッサ1562は、三角測量ルーチンを使用して理論上の右投影2312の外挿と理論上の左投影2314の外挿との交点を計算することにより、関心物体2304への距離dを特定する。
【0272】
しかしながら、この例では、疑似視差が存在し、疑似視差は、
図23及び
図24に示されるように、実際の左投影2316を距離Pだけ、理論上の左投影2314の左に配置させる。プロセッサ1562は、実際の左投影2316及び右投影2312を使用し、三角測量ルーチンを使用して右投影2312の外挿と実際の左投影2316の外挿との交点2320への距離を特定する。交点2320への距離は、距離dに誤差距離eを加えたものに等しい。それに従って疑似視差は、立体画像からとられたデータを使用して誤った距離計算を生じさせる。
図23及び
図24に示されるように、小さな程度の疑似視差であっても、大きな誤差を生み出し得る。融合画像の状況では、誤った距離は、立体画像と融合する腫瘍三次元視覚化の不正確な配置に繋がる。不正確な配置は、手術を遅延させ、外科医の施術を妨げ、又は視覚化システム全体を無視させ得る。更に悪いことには、外科医は、腫瘍画像の不正確な配置に頼り、顕微鏡外科処置中、ミスを犯し得る。
【0273】
D.一例の立体視覚化カメラは疑似視差を低減又はなくす
図3〜
図16の一例の立体視覚化カメラ300は、視覚的欠陥、疑似視差、及び/又は通常、疑似視差を生じさせる位置合わせずれした光路を低減又はなくすように構成される。幾つかの例では、立体視覚化カメラ300は、左右の光路のZRPを左光学画像センサ746及び右光学画像センサ748のピクセルセット1006及び1008の各中心に位置合わせすることにより、疑似視差を低減又はなくす。追加又は代替として、立体視覚化カメラ300は、左右の画像の光路を位置合わせし得る。立体視覚化カメラ300が、較正中、疑似視差を低減する動作を実行し得ることを理解されたい。さらに、立体視覚化カメラ300は、使用中、検出された疑似視差をリアルタイムで低減し得る。
【0274】
図25及び
図26は、本開示の実施形態例による、疑似視差を低減又はなくす一例の手順2500を示す流れ図を示す。手順2500は
図25及び
図26に示される流れ図を参照して説明されるが、手順2500に関連するステップを実行する多くの他の方法を使用し得ることを理解されたい。例えば、ブロックの多くの順序は変更し得、特定のブロックは他のブロックと結合し得、記載されるブロックの多くは任意選択的である。さらに、手順2500に記載される動作は、例えば、一例の立体視覚化カメラ300の光学要素1402、画像捕捉モジュール1404、モータ・照明モジュール1406、及び/又は情報プロセッサモジュール1408を含む複数のデバイスの中で実行し得る。例えば、手順2500は、情報プロセッサモジュール1408のプログラム1560の1つにより実行し得る。
【0275】
一例の手順2500は、立体視覚化カメラ300が、左右の光路を位置合わせする命令を受信した(ブロック2502)とき、開始される。命令は、立体視覚化カメラ300が較正ルーチンを実行することをオペレータが要求することに応答して、ユーザ入力デバイス1410から受信し得る。他の例では、命令は、左右の画像が位置合わせずれしていると判断された後、情報プロセッサモジュール1408から受信し得る。情報プロセッサモジュール1408は、左右の画像を重ね、ピクセルの大きなエリアにわたる大きな差は位置合わせがずれた画像を示す、ピクセル値の差を特定するプログラム1560を実行することにより、画像が位置合わせされていないと判断し得る。幾つかの例では、プログラム1560は、オーバーレイ機能を実行せずに左右の画像のピクセルデータを比較し得、例えば、左ピクセルデータが右ピクセルデータから減算されて、位置合わせずれの深刻度を判断する。
【0276】
疑似視差を低減する命令を受信した後、一例の立体視覚化カメラ300は、左光路又は右光路の一方のZRPを見つける。例示を目的として、手順2500は、左光路のZRPをまず特定することを含む。しかしながら、他の実施形態では、手順2500は、右光路のZRPをまず特定し得る。左ZRPを特定するために、立体視覚化カメラ300は、少なくとも1枚のズームレンズ(例えば、左前部ズームレンズ728及び/又は左後部ズームレンズ734)を左光路のz軸に沿って第1の倍率レベルに移動させる(ブロック2504)。前部ズームレンズ726及び728が同じキャリア724に接続され、後部ズームレンズ732及び734が同じキャリア730に接続される場合、左レンズの移動は、右レンズも移動させる。しかしながら、手順2500のこのセクション中、左レンズのみの移動が考慮される。
【0277】
第1の倍率レベルにおいて、立体視覚化カメラ300は、左ズームレンズをz方向に沿って移動させる(ブロック2506)。移動は、例えば、第1の倍率レベル周囲での前後運動を含み得る。例えば、第1の倍率レベルが5Xである場合、移動は4X〜6Xであり得る。移動は、5Xから4X等の一方向での移動を含むこともできる。この移動中、立体視覚化カメラ300は、1枚又は複数枚の他のレンズを調整して、標的部位700のフォーカスを維持し得る。ブロック2508において、左ズームレンズの移動中、立体視覚化カメラ300は、例えば、左光学画像センサ748を使用して、標的部位700の画像及び/又はフレーム2509のストリーム又はシーケンスを記録する。画像2509は、ピクセルグリッド1004の原点及び左ZRPの潜在的な位置を含むように較正されたオーバーサイズピクセルセット1008を使用して記録される。
【0278】
情報プロセッサモジュール1408の一例のプロセッサ1562は、画像ストリームを分析して、画像間でx方向又はy方向において移動しないエリアの部分を見つける(ブロック2510)。エリアの部分は、1つ又は少数のピクセルを含み得、左ZRPに対応する。上述したように、倍率変更中、物体はZRPから離れて移動し、又はZRPに向かって移動する。ZRPにおける物体のみが、倍率が変更された場合、視野に関して一定位置に留まる。プロセッサ1562は、ピクセルデータを使用して各ピクセルについて画像ストリーム間のデルタを計算し得る。画像ストリームにわたり最小のデルタを有するエリアは、左ZRPに対応する。
【0279】
情報プロセッサモジュール1408の一例のプロセッサ1562は次に、ピクセルグリッド1004に関して画像ストリーム間で移動しないエリアの部分の座標を特定する(例えば、左ZRPの位置を特定する)(ブロック2512)。他の例では、情報プロセッサモジュール1408のプロセッサ1562は、原点と左ZRPに対応するエリアの部分との間の距離を特定する。距離は、ピクセルグリッド1004上の左ZRPの位置を特定するのに使用される。左ZRPの位置が特定されると、情報プロセッサモジュール1408のプロセッサ1562は、左ZRPがピクセルセットの中心(1ピクセル以内)に配置されるような左光学画像センサ748のピクセルセット(例えば、ピクセルセット1008)を特定する(ブロック2514)。この時点で、左ZRPは左光路内でセンタリングされる。
【0280】
幾つかの例では、ブロック2504〜2514は、左ZRPが原点のピクセル内にあり、疑似視差が最小になるまで、ピクセルセットを再選択することにより繰り返し実行し得る。ピクセルグリッドが特定された後、情報プロセッサモジュール1408のプロセッサ1562は、較正点として、ピクセルセットの座標及び/又は左ZRPの座標の少なくとも一方をメモリ1570に記憶する(ブロック2516)。情報プロセッサモジュール1408のプロセッサ1562は、立体視覚化カメラ300が第1の倍率レベルに戻る場合、同じピクセルセットが選択されるように第1の倍率レベルに較正点を関連付け得る。
【0281】
図27は、左ZRPが、左光学画像センサ748のピクセルグリッドに関していかに調整されるかを示す図を示す。まず、原点2704にセンタリングされた初期(例えば、オーバーサイズ)ピクセルセット2702が選択される。ピクセルセット2702は、潜在的なZRPを画像ストリームに記録するのに十分に大きい。この図示の例では、左ZRP2706は、原点2704の右上に配置される。情報プロセッサモジュール1408のプロセッサ1562は、左ZRP2706の位置に基づいて、左ZRP2706がピクセルセット2708の中心に配置又は位置するようなピクセルセット2708を特定する。
【0282】
図25において左ZRPが特定され、ピクセルセットの原点と位置合わせされた後、一例の手順2500は、
図26において左右の画像を位置合わせする。画像を位置合わせするために、一例のプロセッサ1562は、左ZRPが原点と位置合わせされた後に記録された左右の画像からのピクセルデータを比較する。幾つかの実施形態では、プロセッサ1562は、左右の画像を重ねて、例えば、減算法及び/又はテンプレート法を使用して差を特定する。プロセッサ1562は、結果として生成される右画像が左画像と位置合わせされるか、又は一致するような、右光路のピクセルセットを選択又は特定する(ブロック2519)。
【0283】
一例のプロセッサ1562は、図示の実施形態では、右ZRPを特定する。ステップは、左ZRPについてブロック2504〜2512において考察したステップと同様である。例えば、ブロック2518において、立体視覚化カメラ300は、右ズームレンズを第1の倍率レベルに移動させる。幾つかの実施形態では、右レンズの倍率レベルは、左ZRPの特定に使用された倍率レベルと異なる。次に、情報プロセッサモジュール1408の一例のプロセッサ1562は、右ズームレンズを倍率レベル前後に移動させ、移動中、右光学画像センサ746から画像2521のストリームを受信する(ブロック2520及び2522)。情報プロセッサモジュール1408の一例のプロセッサ1562は、画像間で移動しないエリアの部分を見つけることにより、画像の右ストリームから右ZRPを特定する(ブロック2524)。プロセッサ1562は次に、右ZRPの座標及び/又は位置合わせされたピクセルセット1006の中心と右ZRPとの間の距離を特定する(ブロック2526)。
【0284】
次に、プロセッサ1562は、例えば、右ZRPの距離又は座標を使用して、x方向、y方向、及び/又はチルト方向の少なくとも1つにおいて右光路内で少なくとも1枚のレンズを移動させて、右ZRPを位置合わせされたピクセルセット1006の中心と位置合わせするように、モータ・照明モジュール1406に命令する(ブロック2528)。換言すれば、右ZRPは、位置合わせされたピクセルセット1006の中心と一致するように移動する。幾つかの例では、右前部レンズ720、右レンズバレル736、右最終光学要素745、及び/又は右画像センサ746は、右光路のz方向に関してx方向、y方向、及び/又はチルト方向に移動する(例えば、屈曲部を使用して)。移動の程度は、ピクセルセット1006の中心からの右ZRPの距離に比例する。幾つかの実施形態では、プロセッサ1562は、レンズ移動と同じ効果を有するように、右前部レンズ720、右レンズバレル736、及び/又は右最終光学要素745の属性をデジタルに変更する。プロセッサ1562はステップ2520〜2528を繰り返し、及び/又は続く右画像を使用して、右ZRPがピクセルセット1006の中心と位置合わせされることを確認し、及び/又はピクセルセットの中心と右ZRPを位置合わせするのに必要な更なるレンズ移動を繰り返し決定し得る。
【0285】
一例のプロセッサ1562は、較正点として、右ピクセルセット及び/又は右ZRPの座標をメモリ1570に記憶する(ブロック2530)。プロセッサ1562は、右ZRPを位置合わせするために移動した右レンズの位置を較正点に記憶することもできる。幾つかの例では、右光路の較正点は、第1の倍率レベルと併せて左光路の較正点と共に記憶される。したがって、立体視覚化カメラ300が続けて第1の倍率レベルに設定される場合、プロセッサ1562は、較正点内のデータを光学画像センサ746及び748及び/又は1つ又は複数の光学要素1402の半径方向位置決めに適用する。
【0286】
幾つかの例では、手順2500は、異なる倍率レベル及び/又は作業距離で繰り返し得る。したがって、プロセッサ1562は、別の倍率レベル又は作業距離でZRP較正が必要であるか否かを判断する(ブロック2532)。別の倍率レベルを選択すべき場合、手順2500は
図25におけるブロック2504に戻る。しかしながら、別の倍率レベルが必要ない場合、一例の手順は終了する。
【0287】
各較正点はルックアップテーブルに記憶し得る。テーブル内の各行は、異なる倍率レベル及び/又は作業距離に対応し得る。ルックアップテーブル内の列は、左ZRP、右ZRP、左ピクセルセット、及び/又は右ピクセルセットの座標を提供し得る。加えて、1つ又は複数の列は、位置合わせされた左右の画像に加えて、倍率レベルにおいてフォーカスを達成するための光学要素1402のレンズの関連位置(例えば、半径方向位置、回転方向位置、チルト位置、及び/又は軸方向位置)を指定し得る。
【0288】
それに従って手順2500は、各光学画像センサ746及び748のピクセルグリッド並びに三次元立体画像において互いに位置合わせすべき標的部位のビューに加えて、右ZRP及び左ZRPを生成する。幾つかの場合、左右の画像及び対応するZRPは、1ピクセル以内の精度及び位置合わせを有する。そのような精度は、左右のビュー(例えば、左右の光路からの画像)を重ね、立体的にではなく両目で両ビューを観測することによりディスプレイ514又は514で観測可能であり得る。
【0289】
幾つかの例では、右ZRPがピクセルセットの原点と位置合わせされ、又は一致するような右ピクセルセットがまず選択されることを理解されたい。次に、左右の光学画像は、光学要素1402の1枚又は複数枚の右レンズ及び/又は左レンズを移動させることにより位置合わせし得る。代替の手順はなお、互いの間で及び光学画像センサ746及び748に関してセンタリングされ位置合わせされた右ZRP及び左ZRPを提供する。
【0290】
手順2500は最終的に、左右のZRPが位置合わせされたままであり、左右の画像が位置合わせされたままであることを保証することにより、全光学倍率範囲を通して立体視覚化カメラ300における疑似視差を低減又はなくす。換言すれば、左右の光学画像センサ746及び748の二重光学系は、左右の光路間の画像の中心における視差が焦点面において概ねゼロであるように位置合わせされる。さらに、各光路のZRPは各ピクセルセットの中心に割り当てられているため、一例の立体視覚化カメラ300は、倍率範囲にわたり同焦点であり、倍率及び作業距離範囲にわたり同中心である。したがって、倍率のみを変更することで、同じ中心点に合わせながら、両光学画像センサ746及び748において標的部位700のフォーカスを維持する。
【0291】
上記手順2500は、外科処置が実行される前及び/又はオペレータにより要求されると、較正において実行し得る。一例の手順2500はまた、術前顕微鏡外科画像及び/又は外科ガイダンスグラフィックスとの画像見当合わせ前、実行することもできる。さらに、一例の手順2500は、立体視覚化カメラ300の動作中、リアルタイムで自動的に実行し得る。
【0292】
1.一例のテンプレートマッチング
幾つかの実施形態では、情報プロセッサモジュール1408の一例のプロセッサ1562は、1つ又は複数のテンプレートと併せてプログラム1560を使用して、右ZRP及び/又は左ZRPの位置を特定するように構成される。
図28は、プロセッサ1562が標的テンプレート2802をいかに使用して、左ZRPの位置を特定するかを示す図を示す。この例では、
図28は、原点2804又は左画像センサ748の左ピクセルグリッド1004の中心と位置合わせされたテンプレート2802を含む第1の左画像を示す。テンプレート2802は、立体視覚化カメラ300を適切な位置に移動させることにより位置合わせし得る。代替的には、テンプレート2802は、位置合わせされるまで標的部位700において移動し得る。他の例では、テンプレート2802は、ピクセルグリッド1004の中心との位置合わせが必要ない別のパターンを含み得る。例えば、テンプレートは、グラフィカル波形パターン、グラフィカル呼吸計パターン、患者の術部のビュー、及び/又はx方向及びy方向の両方で幾らかの程度の非周期性を有する視覚的に区別可能な特徴を有するグリッドを含み得る。テンプレートは、周期性がある画像のサブセットが、複数の位置においてより大きな画像に完全に位置合わせされないようにするよう構成され、周期性がある画像のサブセットが、複数の位置においてより大きな画像に完全に位置合わせされることは、そのようなテンプレートをマッチングに不適なものにする。テンプレートマッチングに適するテンプレート画像は、「テンプレートマッチング可能」テンプレート画像として知られる。
【0293】
図28に示されるテンプレート2802は、第1の倍率レベルで撮像される。左ZRP2806はテンプレート2802に関して示される。ZRP2806は、原点2804に関してL
x、L
yの座標を有する。しかしながら、この時点で、プロセッサ1562はまだ左ZRP2806を識別していない。
【0294】
ZRP2806を見つけるために、プロセッサ1562は、左ズームレンズ(例えば、左前部ズームレンズ728及び/又は左後部ズームレンズ734)に倍率を第1の倍率レベルから第2の倍率レベルに、特にこの例では、1Xから2Xに変更させる。
図29は、倍率レベルが2倍になったピクセルグリッド1004上の標的2802を含む第2の左画像の図を示す。第1の倍率レベルから第2の倍率レベルに、標的2802の部分はサイズを増大させ、左ZRP2806から離れて均一に拡大し、左ZRP2806は第1及び第2の画像に関して静止したままである。加えて、ピクセルグリッド1004の原点2804と左ZRP2806との間の距離は同じままである。
【0295】
一例のプロセッサ1562は、
図29に示される第2の画像からデジタルテンプレート画像3000を同期する。デジタルテンプレート画像を作成するために、プロセッサ1562は、
図29に示される第2の画像をコピーし、第1の倍率から第2の倍率への倍率変更の往復により、コピー画像をスケーリングする。例えば、第1の画像から第2の画像への倍率変更が、2倍であった場合、第2の画像は1/2にスケーリングされる。
図30は、テンプレート2802を含むデジタルテンプレート画像3000の図を示す。
図30のデジタルテンプレート画像3000におけるテンプレート2802は、
図28に示される第1の左画像におけるテンプレート2802と同じサイズにスケーリングされる。
【0296】
一例のプロセッサ1562は、デジタルテンプレート画像3000を使用して、左ZRP2806を見つける。
図31は、ピクセルグリッド1004に記録された第1の左画像(又は第1の倍率レベルで記録された続く左画像)の上に重ねられたデジタルテンプレート画像3000を示す図を示す。第1の左画像とのデジタルテンプレート画像3000の組み合わせは、
図31に示されるように、結果ビューを生成する。まず、デジタルテンプレート画像3000はピクセルグリッド1004の原点2804にセンタリングされる。
【0297】
一例のプロセッサ1562は、デジタルテンプレート画像3000を下のテンプレート2802と比較して、位置合わせされたか、又は一致したか否かを判断する。次に、一例のプロセッサ1562は、デジタルテンプレート画像3000を1つ又は複数のピクセル分、水平又は垂直に移動させ、別の比較を実行する。プロセッサ1562はデジタルテンプレート画像3000を繰り返し移動させ、デジタルテンプレート画像3000が下のテンプレート2802にいかに密に一致するかに関する各位置でのメトリックのマトリックスを編纂する。プロセッサ1562は、最良に一致するメトリックに対応するマトリックス内の位置を選択する。幾つかの例では、プロセッサ1562はOpenCV(商標)Template Match機能を使用する。
【0298】
図32は、テンプレート2802と位置合わせされたデジタルテンプレート画像3000を有する図を示す。最適なマッチングを達成するためにデジタルテンプレート画像3000が移動した距離は、Δx及びΔyとして示される。デジタルテンプレート画像3000がM1/M2(第1の倍率レベルを第2の倍率レベルで除算したもの)のスケールで合成されたことを知り、プロセッサ1562は、以下の式(1)及び(2)を使用して左ZRP2806の座標(L
x,L
y)を特定する。
Lx=Δx/(M1/M2)−式(1)
Ly=Δy/(M1/M2)−式(2)
【0299】
左ZRP2806の座標(L
x,L
y)が特定された後、一例のプロセッサ1562は、
図25及び
図26の手順2500と併せて上述したように、左ZRP2806と位置合わせ又は一致する原点を有するピクセルサブセットを選択又は特定する。幾つかの実施形態では、プロセッサ1562は、テンプレートマッチングを繰り返し使用して、より高精度のZRP位置及び/又はピクセルサブセットに収束し得る。さらに、上記例は左ZRPの発見について考察したが、同じテンプレートマッチング手順を使用して、右ZRPを見つけることができる。
【0300】
幾つかの実施形態では、上記テンプレートマッチングプログラム1560は、左右の画像の位置合わせに使用し得る。これらの実施形態では、左右の画像は、倍率レベルで記録される。両画像は、例えば、
図28の標的テンプレート2802を含み得る。右画像の一部は選択され、左画像に重ねられる。次に、右画像の部分は、1つ又は複数のピクセル分、水平及び/又は垂直に左画像の前後でシフトされる。一例のプロセッサ1562は、右画像の部分の各位置において比較を実行して、左画像とどの程度密な一致があるかを判断する。最適位置が特定されると、右画像が一般に左画像と一致するような、右ピクセルグリッド1002のピクセルセット1006が特定される。左画像と一致するように、ピクセルセット1006の位置は、右画像の部分をどれくらい移動したかに基づいて特定し得る。特に、プロセッサ1562は、x方向、y方向、及び/又はチルト方向における移動量を使用して、右ピクセルセット1006の対応する座標を特定する。
【0301】
2.一例の左右画像の位置合わせ
幾つかの実施形態では、
図14〜
図16の情報プロセッサモジュール1408の一例のプロセッサ1562は、ディスプレイモニタ512及び/又は514に左右の画像のオーバーレイを表示する。プロセッサ1562は、左右の画像を位置合わせするためにユーザフィードバックを受信するように構成される。この例では、左右の画像の各ピクセルデータは、例えば、グラフィックス処理ユニット1564を使用してディスプレイモニタ512の各ピクセルに精密にマッピングされる。重ねられた左右の画像の表示により、いかなる疑似視差もオペレータに容易に明らかになる。一般に、疑似視差がない場合、左右の画像は略厳密に位置合わせされるべきである。
【0302】
オペレータは、疑似視差を検出する場合、制御機構305又はユーザ入力デバイス1410を作動させて、左右の画像のいずれかを移動させ、左右の画像の他方と位置合わせし得る。制御機構305からの命令は、後続画像がオペレータ入力を反映してディスプレイモニタ512に表示されるように、プロセッサ1562に、左右のピクセルセットの位置をリアルタイムでそれに従って調整させ得る。他の例では、命令は、プロセッサ1562に、半径方向調整、回転方向調整、軸方向調整、又はチルトを介して光学要素1402の1つ又は複数の位置を変更させ得る。オペレータは、左右の画像が位置合わせされるまで、制御機構305及び/又はユーザ入力デバイス1410を介して入力を提供し続ける。確認命令を受信すると、プロセッサ1562は、設定された倍率レベルでの画像位置合わせを反映した較正点をルックアップテーブルに記憶する。
【0303】
追加又は代替として、上述したテンプレートマッチング法を使用して、立体視覚化カメラ300の立体光軸に概ね直交する平坦標的にフォーカスしながら、画像位置合わせを提供し得る。さらに、テンプレートマッチング法を使用して、「テンプレートマッチング可能」なシーンが左右の光路のビューにある場合は常に、左右のビューをリアルタイムで位置合わせし得る。一例では、テンプレート画像は、例えば、左ビューのサブセットからコピーされ、ビューの中心又はその近傍にセンタリングされる。ピントが合った画像の中心からのサンプリングにより、標的部位700の同様のビューが他方のビュー(この例では右ビュー)に提示されることが保証される。ピンボケ画像の場合、本実施形態での、オートフォーカス動作の成功後のみ、この位置合わせ方法が実行されるようなことは当てはまらない。次に、選択されたテンプレートは他のビュー(この例では右ビュー)の現在ビュー(又はそのコピー)においてマッチングされ、y軸のみが結果からとられる。ビューが垂直に位置合わせされると、テンプレートマッチのy値はゼロピクセル又はその近傍にある。非ゼロy値は、2つのビュー間の垂直位置合わせずれを示し、同じ値のyを使用した補正が適用されて、第1のビューのピクセル読み出しセットを選択するか、又は負の値のyを使用した補正が他のビューのピクセル読み出しセットに適用される。代替的には、補正は、視覚化パイプラインの他の部分に適用することができ、又はピクセル読み出しセットと上記パイプラインとの間で分割することができる。
【0304】
幾つかの例では、オペレータは、右ZRPをピクセルグリッド1002の原点と手動で位置合わせすることもできる。例えば、右ZRPの位置を特定した後、プロセッサ1562(及び/又は周辺入力ユニットインターフェース1574又はグラフィックス処理ユニット1564)は、右ZRPをディスプレイモニタ512により表示される右画像においてグラフィカルに強調表示させる。プロセッサ1562はまた、ピクセルグリッド1002の原点を示すグラフィックを表示することもできる。オペレータは制御機構305及び/又はユーザ入力デバイス1410を使用して、右ZRPを原点に進ませる。プロセッサ1562は、制御機構305及び/又はユーザ入力デバイス1410からの命令を使用して、それに従って光学要素1402の1つ又は複数を移動させる。プロセッサ1562は、右ZRPの現在位置及び原点をグラフィカルに表示して、オペレータに位置決めに関する更新されたフィードバックを提供することに加えて、右画像ストリームをリアルタイムで提供し得る。オペレータは、右ZRPが位置合わせされるまで、制御機構305及び/又はユーザ入力デバイス1410を介して入力を提供し続ける。確認命令を受信すると、プロセッサ1562は、設定された倍率レベルでの光学要素1402の位置を反映した較正点をルックアップテーブルに記憶する。
【0305】
3.位置合わせ誤差の比較
一例の立体視覚化カメラ300は、立体カメラを有する既知のデジタル外科用顕微鏡と比較して、左右の画像間でより少ない位置合わせ誤差を生成する。後述する分析は、カメラを有する既知のデジタル外科用顕微鏡のZRP位置合わせずれにより生成された疑似視と一例の立体視覚化カメラ300とを比較する。まず、両カメラは第1の倍率レベルに設定され、焦点面は患者の目の第1の位置に位置決めされる。以下の式(3)を使用して、各カメラから目への作業距離(「WD」)を特定する。
WD=(IPD/2)/tan(α)−式(3)
【0306】
この式中、IPDは瞳孔間距離に対応し、約23mmである。加えて、αは、例えば、右光学画像センサ746と左光学画像センサ748との間の角度の半分であり、この例では2.50°である。集束角はこの角度の2倍であり、この例では5°である。その結果としての作業距離は263.39mmである。
【0307】
カメラは第2の倍率レベルにズームインされ、患者の目の第2の位置において三角測量で測定される。この例では、第2の位置は、第1の位置とカメラから同じ物理的距離にあるが、第2の倍率レベルで提示される。倍率変更は、センサピクセルグリッドの中心へのZRPの一方又は両方の位置合わせずれに起因して水平疑似視差を生じさせる。既知のカメラシステムでは、疑似視差は、例えば、3分であると特定され、これは0.05°に対応する。上記式(3)中、0.05°値がαに追加され、これは作業距離258.22mmを生成する。作業距離差は5.17mm(263.39mm−258.22mm)であり、これは、カメラ付属品を有する既知のデジタル外科用顕微鏡の誤差に対応する。
【0308】
これとは対照的に、一例の立体視覚化カメラ300は、ピクセルセット又はグリッドの中心の1ピクセル以内でZRPを自動的に位置合わせすることが可能である。視野角が5°であり、4Kディスプレイモニタと併用される4K画像センサを用いて記録される場合、1ピクセル精度は0.00125°(5°/4000)又は4.5秒に対応する。上記式(3)を使用して、0.00125°をαに追加し、それにより、作業距離は263.25mmになる。立体視覚化カメラ300の作業距離差は0.14mm(263.39mm−263.25mm)である。既知のデジタル外科用顕微鏡の5.17mm誤差と比較した場合、一例の立体視覚化カメラ300は位置合わせ誤差を97.5%低減する。
【0309】
幾つかの実施形態では、立体視覚化カメラ300は、分解能が高いほど高精度であり得る。上記例では、分解能は5°視野で約4.5秒である。視野2°の8K超高精細システム(4000行のそれぞれに8000個のピクセルを有する)の場合、立体視覚化カメラ300の分解能は約1秒である。これは、左右のビューのZRPが1ピクセル又は1秒まで位置合わせし得ることを意味する。これは、分オーダの疑似視差を有する既知のデジタル顕微鏡外科システムよりもはるかに精密である。
【0310】
4.疑似視差の他の原因の低減
上記例は、一例の立体視覚化カメラ300が、ZRP及び/又は左右の画像自体の位置合わせずれの結果としての疑似視差をいかに低減するかを考察している。立体視覚化カメラ300は、疑似視差の他の原因を低減するように構成することもできる。例えば、立体視覚化カメラ300は、略同じ瞬間に画像を記録するように左右の光学画像センサ746及び748を同時にクロッキングすることによる動きに起因した疑似視差を低減し得る。
【0311】
一例の立体視覚化カメラ300は、左右の光路間の倍率が異なることに起因した疑似視差を低減することもできる。例えば、立体視覚化カメラ300は、左光路に基づいて倍率レベルを設定し得る。立体視覚化カメラ300は次に、右画像の倍率が左に合うように自動調整を行い得る。例えば、プロセッサ1562は画像データを使用して、例えば、左右の画像に共通する特定の特徴間のピクセル数を測定することにより制御パラメータを計算し得る。次に、プロセッサ1562は、デジタルスケーリング、補間ピクセルの挿入、及び/又は無関係ピクセルの削除により左右の画像の倍率レベルを等化し得る。一例のプロセッサ1562及び/又はグラフィックス処理ユニット1564は、倍率が左画像に一致するように右画像を再レンダリングし得る。追加又は代替として、立体視覚化カメラ300は、左右の光学要素1402の独立調整を含み得る。プロセッサ1562は、左右の光学要素1402を別個に制御して、同じ倍率を達成し得る。幾つかの例では、プロセッサ1562はまず、例えば、左倍率レベルを設定し、次に、右光学要素1402を別個に調整して、同じ倍率レベルを達成し得る。
【0312】
一例の立体視覚化カメラ300は、フォーカスが異なることに起因する疑似視差を更に低減し得る。一例では、プロセッサ1562は、所与の倍率及び/又は作業距離での角光路の最良フォーカスを決定するプログラム1560を実行し得る。プロセッサ1562はまず、最良分解能ポイントへの光学要素1402のフォーカスを実行する。次に、プロセッサ1562は、適する非物体平面位置におけるOOF状況をチェックし、左右の画像のフォーカスを一致させ得る。次に、プロセッサ1562は、最良分解能でのフォーカスを再チェックし、左右両方の光学要素1402が物体平面上及び物体背面から離れての両方で十分に等しくフォーカスするまで、フォーカスを繰り返し調整する。
【0313】
一例のプロセッサ1562は、左右の画像の一方又は両方のフォーカスに関連する信号をモニタすることにより最適なフォーカスを測定し検証し得る。例えば、左右の画像の「鮮鋭度」信号がグラフィックス処理ユニット1564により同時に及び/又は同期して生成される。信号は、フォーカス変更につれて変化し、画像分析プログラム、エッジ検出分析プログラム、パターン強度のフーリエ変換の帯域幅プログラム、及び/又は変調伝達関数(「MTF」)測定プログラムから特定し得る。プロセッサ1562は、鮮鋭画像を示す最大信号をモニタしながら、光学要素1402のフォーカスを調整する。
【0314】
OOF状況を最適化するために、プロセッサ1562は、左右両方画像の鮮鋭信号をモニタし得る。フォーカスが物体平面から動き、例えば、左画像に関連する信号が増大するが、右画像に関連する信号が低減する場合、プロセッサ1562は、光学要素1402がフォーカスからずれて移動していると判断するように構成される。しかしながら、左右両方の画像に関連する信号が比較的高く、概ね等しい場合、プロセッサ1562は、光学要素1402がフォーカスのために適宜位置決めされていると判断するように構成される。
【0315】
5.低疑似視差の利点
一例の立体視覚化カメラ300は、左右の画像間の疑似視差が低い結果として、既知のデジタル外科用顕微鏡よりも優れた幾つかの利点を有する。例えば、略完全に位置合わせされた左右の画像は、外科医に略完全な立体表示を生成し、それにより、目の疲労を低減する。これにより、立体視覚化カメラ300を面倒な器具ではなく外科医の目の延長として使用することが可能になる。
【0316】
別の例では、精密に位置合わせされた左右の画像により、術部の正確な測定をデジタル撮影することができる。例えば、適切なサイズのIOLを決定し、正確に移植することができるように、患者の目の水晶体包のサイズを測定し得る。別の場合、赤外線蛍光オーバーレイを融合画像に正確に配置することができるように、動いている血管の動きを測定し得る。ここで、実際の移動速度は一般に、外科医の関心ではないが、オーバーレイ画像の配置及びリアルタイム位置合わせにとって重要である。重ねられた画像の適宜一致したスケール、位置合わせ、及び視点は全て、正確に有用された結合ライブ立体画像及び交互モード画像の提供にとって重要である。
【0317】
幾つかの例では、プロセッサ1562は、オペレータがディスプレイモニタ512上で測定パラメータを描画できるようにし得る。プロセッサ1562は画面に描画された座標を受信し、それに従ってその座標を立体画像に変換する。プロセッサ1562は、ディスプレイモニタ512に描画された定規を立体画像に示される倍率レベルにスケーリングすることにより測定値を特定し得る。プロセッサ1562により行われる測定には、立体ディスプレイに表示される2つ又は3つの位置のポイント間測定、ポイントツーサーフェス測定、サーフェス特徴付け測定、ボリューム特定測定、速度検証測定、座標変換、機器及び/又は組織追跡等がある。
【0318】
本開示の追加の態様
本明細書に記載される趣旨の態様は、単独で又は本明細書に記載される1つ若しくは複数の他の態様と組み合わせて有用であり得る。上記説明を限定せずに、本開示の第1の態様では、立体撮像装置は、標的部位の同時に記録される第1の画像ストリームと第2の画像ストリームとの間の疑似視差を低減するように構成される。一例の装置は、第1の光路に沿って位置決めされ、(i)第1の光路に沿ってz方向に移動可能であるように構成された第1のズームレンズを含む第1の複数のレンズ及び(ii)第1の光路内の光から標的部位の第1の画像ストリームを記録する第1の画像センサを含む第1の光学要素を含む。一例の装置は、第1の光路に平行する第2の光路に沿って位置決めされ、(i)第2の光路に沿ってz方向に移動可能であるように構成された第2のズームレンズを含む第2の複数のレンズ及び(ii)第2の光路内の光から標的部位の第2の画像ストリームを記録する第2の画像センサ及び(ii)を含む第2の光学要素も含む。一例の装置は、第1のズーム反復点(「ZRP」)の位置を特定することであって、第1の画像ストリームの記録中、第1のズームレンズをz方向に沿って移動させ、第1の画像ストリームの画像内のx方向又はy方向に移動しないエリアの第1の部分を見つけ、第1の画像ストリームの画像のうちの少なくとも1つ内の原点と、エリアの第1の部分との間の第1の距離を第1のZRPの位置として特定することにより、特定するように構成されたプロセッサを更に含む。一例のプロセッサは、第1の距離を使用して、第1の画像センサの第1のピクセルグリッドの第1のピクセルセットを特定することであって、第1のZRPは第1のピクセルセットの中心に配置される、第1の画像センサの第1のピクセルセットからの画像と位置合わせされた画像を含む、第2の画像センサの第2のピクセルグリッドの第2のピクセルセットを特定することと、第2のZRPの位置を特定することであって、第2の画像ストリームの記録中、第2のレンズをz方向に沿って移動させ、第2の画像ストリームの画像内のx方向又はy方向に移動しないエリアの第2の部分を見つけ、第2のZRPの位置として、第2のピクセルセットの中心とエリアの第2の部分との間の第2の距離を特定することとを行うようにも構成される。一例のプロセッサは、特定された第2の距離に基づいて、x方向、y方向、及びチルト方向の少なくとも1つにおいて第2の複数のレンズの1枚又は第2の画像センサを調整することであって、それにより、第2のZRPを第2のピクセルセットの中心と位置合わせさせる、調整することを行うように更に構成される。
【0319】
別段のことが記載される場合を除き、本明細書に列挙される任意の他の態様と組み合わせて使用し得る本開示の第2の態様によれば、第2の複数のレンズの1つは、第2のズームレンズである。
【0320】
別段のことが記載される場合を除き、本明細書に列挙される任意の他の態様と組み合わせて使用し得る本開示の第3の態様によれば、プロセッサは、較正点としてルックアップテーブルに、第1のピクセルグリッドに対する第1のピクセルセットの第1の座標、第2のピクセルグリッドに対する第2のピクセルセットの第2の座標、x方向、y方向、及びチルト方向の少なくとも1つにおいて調整された第2の複数のレンズの1つの位置、並びに第1のズームレンズ及び第2のズームレンズの倍率レベルを記憶するように構成される。
【0321】
別段のことが記載される場合を除き、本明細書に列挙される任意の他の態様と組み合わせて使用し得る本開示の第4の態様によれば、プロセッサは、立体撮像装置の使用中、第1のズームレンズ及び第2のズームレンズが倍率レベルに移動する際、ルックアップテーブルを使用して、第1の画像センサの第1のピクセルセット及び第2の画像センサの第2のピクセルセットを選択するように構成される。
【0322】
別段のことが記載される場合を除き、本明細書に列挙される任意の他の態様と組み合わせて使用し得る本開示の第5の態様によれば、プロセッサは、異なる倍率レベルで第1のZRP及び第2のZRPを位置特定することと、異なる倍率レベルでの較正点としてルックアップテーブルに、各倍率レベルでの第1のピクセルグリッドに対する第1のピクセルセットの第1の座標、各倍率レベルでの第2のピクセルグリッドに対する第2のピクセルセットの第2の座標、各倍率レベルでのx方向、y方向、及びチルト方向の少なくとも1つにおいて調整された第2の複数のレンズの1つの位置、並びに第1のズームレンズ及び第2のズームレンズの倍率レベルを記憶することとを行うように構成される。
【0323】
別段のことが記載される場合を除き、本明細書に列挙される任意の他の態様と組み合わせて使用し得る本開示の第6の態様によれば、プロセッサは、移動量として、第2のZRPを第2の原点と位置合わせさせるために第2の複数のレンズの1つがx方向、y方向、及びチルト方向において調整された量及び方向を記録するように構成される。
【0324】
別段のことが記載される場合を除き、本明細書に列挙される任意の他の態様と組み合わせて使用し得る本開示の第7の態様によれば、プロセッサは、第1の画像ストリームの記録中、第1の倍率レベルから、第1の倍率の2倍である第2の倍率レベルに第1のズームレンズを移動させるように構成され、プロセッサは、第2の画像ストリームの記録中、第1の倍率レベルから第2の倍率レベルに第2のズームレンズを移動させるように構成される。
【0325】
別段のことが記載される場合を除き、本明細書に列挙される任意の他の態様と組み合わせて使用し得る本開示の第8の態様によれば、第1の距離は、原点に対する第1のZRPの座標を含む。
【0326】
別段のことが記載される場合を除き、本明細書に列挙される任意の他の態様と組み合わせて使用し得る本開示の第9の態様によれば、標的部位は、図特徴を有するテンプレート、患者の術部、及び視覚的に区別可能な特徴を有するグリッドの少なくとも1つを含む。
【0327】
別段のことが記載される場合を除き、本明細書に列挙される任意の他の態様と組み合わせて使用し得る本開示の第10の態様によれば、テンプレートは、ブルズアイ、波動パターン、及び呼吸計パターンの少なくとも1つを含む。
【0328】
別段のことが記載される場合を除き、本明細書に列挙される任意の他の態様と組み合わせて使用し得る本開示の第11の態様によれば、プロセッサは、z方向に沿った第1のレンズの移動の量に基づいてスケーリングされた第2の倍率レベルにおいて第1のレンズの移動の終わりに記録された画像から、合成標的部位画像を作成することと、x方向及びy方向における移動量に基づいて、第1のZRPの位置を特定し、z方向に沿った第1のレンズの移動前、第1の倍率レベルで記録された標的部位画像に合成標的部位画像を位置合わせすることとを行うように構成される。
【0329】
別段のことが記載される場合を除き、本明細書に列挙される任意の他の態様と組み合わせて使用し得る本開示の第12の態様によれば、立体撮像装置は、標的部位の同時に記録された第1の画像ストリームと第2の画像ストリームとの間の疑似視差を低減するように構成される。一例の装置は、第1の光路に沿って位置決めされ、(i)第1の光路に沿ってz方向に移動可能であるように構成された第1のズームレンズを含む第1の複数のレンズ及び(ii)第1の光路内の光から標的部位の第1の画像ストリームを記録する第1の画像センサを含む第1の光学要素を含む。一例の装置は、第1の光路に平行する第2の光路に沿って位置決めされ、(i)第2の光路に沿ってz方向に移動可能であるように構成された第2のズームレンズを含む第2の複数のレンズ及び(ii)第2の光路内の光から標的部位の第2の画像ストリームを記録する第2の画像センサを含む第2の光学要素も含む。一例の装置は、プロセッサであって、第1の画像ストリーム内の第1のズーム反復点(「ZRP」)の位置を特定することと、第1の画像センサの第1のピクセルグリッドの第1のピクセルセットを特定することであって、第1のZRPは第1のピクセルセットの中心に配置される、特定することと、第2の画像センサの第2のピクセルグリッドの第2のピクセルセットを特定することであって、第2のピクセルセットからの画像は、第1のピクセルセットからの画像と視覚的に位置合わせされる、特定することとを行うように構成されるプロセッサを更に含む。
【0330】
別段のことが記載される場合を除き、本明細書に列挙される任意の他の態様と組み合わせて使用し得る本開示の第13の態様によれば、装置は、標的部位上の焦点面に作業距離を設定し、標的部位から光を受け取るように構成された主体物レンズ組立体を更に含み、第1の複数のレンズは、主対物レンズ組立体により受け取られた光から第1の光路を画定するように構成された第1の前部レンズと、第1の画像センサに第1の光路を集束させるように構成された第1の最終光学要素とを含み、第2の複数のレンズは、主対物レンズ組立体により受け取られた光から第2の光路を画定するように構成された第2の前部レンズと、第1の画像センサに第2の光路を集束させるように構成された第2の最終光学要素とを含む。
【0331】
別段のことが記載される場合を除き、本明細書に列挙される任意の他の態様と組み合わせて使用し得る本開示の第14の態様によれば、プロセッサは、第2のピクセルセットを特定する前、x方向、y方向、及びチルト方向の少なくとも1つにおいて第2の複数のレンズの1つ又は第2の画像センサを調整して、第2のZRPを第2の画像センサ内の原点と位置合わせさせるように更に構成される。
【0332】
別段のことが記載される場合を除き、本明細書に列挙される任意の他の態様と組み合わせて使用し得る本開示の第15の態様によれば、第2の前部レンズ及び第2の最終光学要素の少なくとも一方は、x方向、y方向、及びチルト方向の少なくとも1つにおいて調整される第2の複数のレンズの1つである。
【0333】
別段のことが記載される場合を除き、本明細書に列挙される任意の他の態様と組み合わせて使用し得る本開示の第16の態様によれば、装置は、x方向、y方向、及びチルト方向の少なくとも1つにおいて調整される第2の複数のレンズの1つ又は第2の画像センサに接続される屈曲部を更に含み、屈曲部は、第2の複数のレンズの1つ又は第2の画像センサを調整するために屈曲部の梁を移動させるように構成されたアクチュエータに機械的に接続される。
【0334】
別段のことが記載される場合を除き、本明細書に列挙される任意の他の態様と組み合わせて使用し得る本開示の第17の態様によれば、装置は、可視光源、近赤外線(NIR)光源、及び近紫外線(NUV)光源を更に含む。
【0335】
別段のことが記載される場合を除き、本明細書に列挙される任意の他の態様と組み合わせて使用し得る本開示の第18の態様によれば、可視光源及びNIR光源は、主対物レンズ組立体と偏向要素との間に配置され、NUV光源は、NUV光源から送られたNUV光が、NUV光の一部が主対物レンズ組立体に達して、標的部位に伝搬する前、偏向要素に接触するように、偏向要素の背後に配置される。
【0336】
別段のことが記載される場合を除き、本明細書に列挙される任意の他の態様と組み合わせて使用し得る本開示の第19の態様によれば、装置は、蛍光からの放射波長に干渉するNIR光源及びNUV光源からの光波長の一部をそれぞれブロックするように構成された2つのローパス励起フィルタを更に含む。
【0337】
別段のことが記載される場合を除き、本明細書に列挙される任意の他の態様と組み合わせて使用し得る本開示の第20の態様によれば、装置は、可視光源と併せて使用されて、可視光が第1の画像センサ及び第2の画像センサを透過できるようにするように構成された赤外線遮断フィルタと、NUV光源と併せて使用されて、特定の近紫外線波長の光が第1の画像センサ及び第2の画像センサを透過しないようにブロックするように構成された近紫外線遮断フィルタと、NIR光源及び可視光源と併せて使用されて、特定の近赤外線波長の光が第1の画像センサ及び第2の画像センサを透過できるようにするように構成された近赤外線バンドパスフィルタとを更に含む。
【0338】
別段のことが記載される場合を除き、本明細書に列挙される任意の他の態様と組み合わせて使用し得る本開示の第21の態様によれば、プロセッサは、第1のピクセルセットから記録された第1の画像及び第2のピクセルセットから記録された第2の画像を合成することと、第1の画像及び第2の画像を立体ディスプレイにレンダリングすることと、レンダリングされた第1の画像及び第2の画像を少なくとも1つのディスプレイモニタに送信することとを行うように構成される。
【0339】
別段のことが記載される場合を除き、本明細書に列挙される任意の他の態様と組み合わせて使用し得る本開示の第22の態様によれば、レンダリングされた第1の画像及び第2の画像は、標的部位の三次元立体ビュー及び第1の画像が第2の画像に位置合わせされ重ねられたビューの少なくとも1つを提供する。
【0340】
別段のことが記載される場合を除き、本明細書に列挙される任意の他の態様と組み合わせて使用し得る本開示の第23の態様によれば、装置は、第1の光学要素、第2の光学要素、及びプロセッサを囲むように構成された筐体を更に含み、筐体は、幅20cm〜22cm、長さ23cm〜27cm、及び高さ13cm〜17cmを有する。
【0341】
別段のことが記載される場合を除き、本明細書に列挙される任意の他の態様と組み合わせて使用し得る本開示の第24の態様によれば、第1の光路は、瞳孔間距離だけ第2の光路から隔てられる。
【0342】
別段のことが記載される場合を除き、本明細書に列挙される任意の他の態様と組み合わせて使用し得る本開示の第25の態様によれば、第1のズームレンズは、z方向に沿った位置に固定されながら、第1の画像ストリームのサイズを変更するように構成され、第2のズームレンズは、z方向に沿った位置に固定されながら、第2の画像ストリームのサイズを変更するように構成される。
【0343】
本開示の26番目の態様によれば、
図3〜
図32と組み合わせて示され説明された任意の構造及び機能は、
図3〜
図32のうちの他の任意の図及び先の態様の任意の1つ又は複数と組み合わせて示され説明された任意の構造及び機能と組み合わせて使用し得る。
【0344】
したがって、上記態様及び本明細書における開示に鑑みて、本開示の利点は、自己充足型であり、外部の顕微鏡光学要素に頼らない立体視覚化プラットフォーム及びカメラを提供することである。
【0345】
本開示の別の利点は、標的部位の同時に取得又は記録された第1の画像ストリームと第2の画像ストリームとの間の疑似視差を低減することである。
【0346】
結論
本明細書に記載されたシステム、構造、方法、及び手順のそれぞれが、1つ又は複数のコンピュータプログラム又は構成要素を使用して実施し得ることが理解されよう。これらのプログラム及び構成要素は、ランダムアクセスメモリ(「RAM」)、読み取り専用メモリ(「ROM」)、フラッシュメモリ、磁気又は光学ディスク、光学メモリ、又は他の記憶媒体、並びにそれらの組合わせ及び派生物を含め、任意の従来のコンピュータ可読媒体上の一連のコンピュータ命令として提供し得る。命令は、プロセッサにより実行されるように構成し得、プロセッサは、一連のコンピュータ命令を実行すると、開示された方法及び手順の全て又は一部を実行するか、又は実行を促進する。
【0347】
本明細書に記載された実施形態例への様々な変更及び変形が当業者には明らかになることを理解されたい。そのような変更及び変形は、本趣旨及び範囲から逸脱せずに、意図される利点を低減せずに行うことができる。したがって、そのような変更及び変形が添付の特許請求の範囲によって包含されることが意図される。さらに、現在の米国法と一致して、「手段」又は「ステップ」が請求項において明示的に記載される場合を除き、米国特許法第112条(f)又はAIA改正前米国特許法第112条第6段落の発動が意図されないことを理解されたい。したがって、請求項は、本明細書に記載される対応する構造、材料、若しくは動作、又はそれらの均等物への限定を意図されない。
なお、本発明の実施形態には、上述のとおり下記のものが含まれる。
〔実施形態1〕
標的部位の同時に記録された第1の画像ストリームと第2の画像ストリームとの間の疑似視差を低減するように構成された立体撮像装置であって、
第1の光路に沿って位置決めされ、(i)前記第1の光路に沿ってz方向に移動可能であるように構成された第1のズームレンズを含む第1の複数のレンズ及び(ii)前記第1の光路内の光から前記標的部位の前記第1の画像ストリームを記録する第1の画像センサを含む第1の光学要素と、
前記第1の光路に平行する第2の光路に沿って位置決めされ、(i)前記第2の光路に沿ってz方向に移動可能であるように構成された第2のズームレンズを含む第2の複数のレンズ及び(ii)前記第2の光路内の光から前記標的部位の前記第2の画像ストリームを記録する第2の画像センサを含む第2の光学要素と、
プロセッサと、
を備え、
前記プロセッサは、
第1のズーム反復点(「ZRP」)の位置を特定することであって、
前記第1の画像ストリームの記録中、前記第1のズームレンズを前記z方向に沿って移動させ、
前記第1の画像ストリームの画像内のx方向又はy方向に移動しないエリアの第1の部分を見つけ、
前記第1の画像ストリームの画像のうちの少なくとも1つ内の原点と、前記エリアの前記第1の部分との間の第1の距離を前記第1のZRPの位置として特定する
ことにより、特定することと、
前記第1の距離を使用して、前記第1の画像センサの第1のピクセルグリッドの第1のピクセルセットを特定することであって、前記第1のZRPは前記第1のピクセルセットの中心に配置される、特定することと、
前記第1の画像センサの前記第1のピクセルセットからの画像と位置合わせされた画像を含む、前記第2の画像センサの第2のピクセルグリッドの第2のピクセルセットを特定することと、
第2のZRPの位置を特定することであって、
前記第2の画像ストリームの記録中、前記第2のレンズを前記z方向に沿って移動させ、
前記第2の画像ストリームの画像内のx方向又はy方向に移動しないエリアの第2の部分を見つけ、
前記第2のZRPの位置として、前記第2のピクセルセットの中心と前記エリアの前記第2の部分との間の第2の距離を特定する
ことにより、特定することと、
前記特定された第2の距離に基づいて、前記x方向、前記y方向、及びチルト方向の少なくとも1つにおいて前記第2の複数のレンズの1つ又は前記第2の画像センサを調整することであって、それにより、前記第2のZRPを前記第2のピクセルセットの前記中心と位置合わせさせる、調整することと、
を行うように構成される、立体撮像装置。
〔実施形態2〕
前記第2の複数のレンズの前記1つは、前記第2のズームレンズである、実施形態1に記載の立体撮像装置。
〔実施形態3〕
前記プロセッサは、較正点としてルックアップテーブルに、前記第1のピクセルグリッドに対する前記第1のピクセルセットの第1の座標、前記第2のピクセルグリッドに対する前記第2のピクセルセットの第2の座標、前記x方向、前記y方向、及び前記チルト方向の少なくとも1つにおいて調整された前記第2の複数のレンズの前記1つの位置、並びに前記第1のズームレンズ及び前記第2のズームレンズの倍率レベルを記憶するように構成される、実施形態1又は2に記載の立体撮像装置。
〔実施形態4〕
前記プロセッサは、前記立体撮像装置の使用中、前記第1のズームレンズ及び前記第2のズームレンズが前記倍率レベルに移動する際、前記ルックアップテーブルを使用して、前記第1の画像センサの前記第1のピクセルセット及び前記第2の画像センサの前記第2のピクセルセットを選択するように構成される、実施形態3に記載の立体撮像装置。
〔実施形態5〕
前記プロセッサは、
異なる倍率レベルで前記第1のZRP及び前記第2のZRPを位置特定することと、
前記異なる倍率レベルでの較正点として前記ルックアップテーブルに、各倍率レベルでの前記第1のピクセルグリッドに対する前記第1のピクセルセットの第1の座標、各倍率レベルでの前記第2のピクセルグリッドに対する前記第2のピクセルセットの第2の座標、各倍率レベルでの前記x方向、前記y方向、及び前記チルト方向の少なくとも1つにおいて調整された前記第2の複数のレンズの前記1つの位置、並びに前記第1のズームレンズ及び前記第2のズームレンズの倍率レベルを記憶することと、
を行うように構成される、実施形態3に記載の立体撮像装置。
〔実施形態6〕
前記プロセッサは、移動量として、前記第2のZRPを前記第2の原点と位置合わせさせるために前記第2の複数のレンズの前記1つが前記x方向、前記y方向、及び前記チルト方向において調整された量及び方向を記録するように構成される、実施形態1、2、又は4に記載の立体撮像装置。
〔実施形態7〕
前記プロセッサは、前記第1の画像ストリームの前記記録中、第1の倍率レベルから、前記第1の倍率の2倍である第2の倍率レベルに前記第1のズームレンズを移動させるように構成され、
前記プロセッサは、前記第2の画像ストリームの前記記録中、前記第1の倍率レベルから前記第2の倍率レベルに前記第2のズームレンズを移動させるように構成される、実施形態1、2、及び4のいずれか一項に記載の立体撮像装置。
〔実施形態8〕
前記第1の距離は、前記原点に対する前記第1のZRPの座標を含む、実施形態1、2、及び4のいずれか一項に記載の立体撮像装置。
〔実施形態9〕
前記標的部位は、図特徴を有するテンプレート、患者の術部、及び視覚的に区別可能な特徴を有するグリッドの少なくとも1つを含む、実施形態1、2、及び4のいずれか一項に記載の立体撮像装置。
〔実施形態10〕
前記テンプレートは、ブルズアイ、波動パターン、及び呼吸計パターンの少なくとも1つを含む、実施形態9に記載の立体撮像装置。
〔実施形態11〕
前記プロセッサは、
前記z方向に沿った前記第1のレンズの前記移動の量に基づいてスケーリングされた第2の倍率レベルにおいて前記第1のレンズの移動の終わりに記録された画像から、合成標的部位画像を作成することと、
前記x方向及び前記y方向における移動量に基づいて、前記第1のZRPの位置を特定し、前記z方向に沿った前記第1のレンズの前記移動前、第1の倍率レベルで記録された標的部位画像に前記合成標的部位画像を位置合わせすることと、
を行うように構成される、実施形態1、2、4、及び9のいずれか一項に記載の立体撮像装置。
〔実施形態12〕
標的部位の同時に記録された第1の画像ストリームと第2の画像ストリームとの間の疑似視差を低減するように構成された立体撮像装置であって、
第1の光路に沿って位置決めされ、(i)前記第1の光路に沿ってz方向に移動可能であるように構成された第1のズームレンズを含む第1の複数のレンズ及び(ii)前記第1の光路内の光から前記標的部位の前記第1の画像ストリームを記録する第1の画像センサを含む第1の光学要素と、
前記第1の光路に平行する第2の光路に沿って位置決めされ、(i)前記第2の光路に沿ってz方向に移動可能であるように構成された第2のズームレンズを含む第2の複数のレンズ及び(ii)前記第2の光路内の光から前記標的部位の前記第2の画像ストリームを記録する第2の画像センサを含む第2の光学要素と、
プロセッサと、
を備え、
前記プロセッサは、
前記第1の画像ストリーム内の第1のズーム反復点(「ZRP」)の位置を特定することと、
前記第1の画像センサの第1のピクセルグリッドの第1のピクセルセットを特定することであって、前記第1のZRPは前記第1のピクセルセットの中心に配置される、特定することと、
前記第2の画像センサの第2のピクセルグリッドの第2のピクセルセットを特定することであって、前記第2のピクセルセットからの画像は、前記第1のピクセルセットからの画像と視覚的に位置合わせされる、特定することと、
を行うように構成される、立体撮像装置。
〔実施形態13〕
前記標的部位上の焦点面に作業距離を設定し、前記標的部位から光を受け取るように構成された主体物レンズ組立体
を更に備え、
前記第1の複数のレンズは、前記主対物レンズ組立体により受け取られた前記光から前記第1の光路を画定するように構成された第1の前部レンズと、前記第1の画像センサに前記第1の光路を集束させるように構成された第1の最終光学要素とを含み、
前記第2の複数のレンズは、前記主対物レンズ組立体により受け取られた前記光から前記第2の光路を画定するように構成された第2の前部レンズと、前記第1の画像センサに前記第2の光路を集束させるように構成された第2の最終光学要素とを含む、実施形態12に記載の立体撮像装置。
〔実施形態14〕
前記プロセッサは、前記第2のピクセルセットを特定する前、x方向、y方向、及びチルト方向の少なくとも1つにおいて前記第2の複数のレンズの1つ又は前記第2の画像センサを調整して、第2のZRPを前記第2の画像ストリーム内の原点と位置合わせさせるように更に構成される、実施形態12又は13に記載の立体撮像装置。
〔実施形態15〕
前記第2の前部レンズ及び前記第2の最終光学要素の少なくとも一方は、前記x方向、前記y方向、及び前記チルト方向の少なくとも1つにおいて調整される前記第2の複数のレンズの前記1つである、実施形態14に記載の立体撮像装置。
〔実施形態16〕
前記x方向、前記y方向、及び前記チルト方向の少なくとも1つにおいて調整される前記第2の複数のレンズの前記1つ又は前記第2の画像センサに接続される屈曲部を更に備え、前記屈曲部は、前記第2の複数のレンズの前記1つ又は前記第2の画像センサを調整するために前記屈曲部の梁を移動させるように構成されたアクチュエータに機械的に接続される、実施形態14に記載の立体撮像装置。
〔実施形態17〕
可視光源、近赤外線(NIR)光源、及び近紫外線(NUV)光源を更に備える、実施形態13又は15に記載の立体撮像装置。
〔実施形態18〕
前記可視光源及び前記NIR光源は、前記主対物レンズ組立体と偏向要素との間に配置され、
前記NUV光源は、前記NUV光源から送られたNUV光が、前記NUV光の一部が前記主対物レンズ組立体に達して、前記標的部位に伝搬する前、前記偏向要素に接触するように、前記偏向要素の背後に配置される、実施形態17に記載の立体撮像装置。
〔実施形態19〕
蛍光からの放射波長に干渉する前記NIR光源及び前記NUV光源からの光波長の一部をそれぞれブロックするように構成された2つのローパス励起フィルタを更に備える、実施形態18に記載の立体撮像装置。
〔実施形態20〕
前記可視光源と併せて使用されて、可視光が前記第1の画像センサ及び前記第2の画像センサを透過できるようにするように構成された赤外線遮断フィルタと、
前記NUV光源と併せて使用されて、特定の近紫外線波長の光が前記第1の画像センサ及び前記第2の画像センサを透過しないようにブロックするように構成された近紫外線遮断フィルタと、
前記NIR光源及び前記可視光源と併せて使用されて、特定の近赤外線波長の光が前記第1の画像センサ及び前記第2の画像センサを透過できるようにするように構成された近赤外線バンドパスフィルタと、
を更に備える、実施形態18に記載の立体撮像装置。
〔実施形態21〕
前記プロセッサは、
前記第1のピクセルセットから記録された第1の画像及び前記第2のピクセルセットから記録された第2の画像を合成することと、
前記第1の画像及び前記第2の画像を立体ディスプレイにレンダリングすることと、
前記レンダリングされた第1の画像及び第2の画像を少なくとも1つのディスプレイモニタに送信することと、
を行うように構成される、実施形態12又は20に記載の立体撮像装置。
〔実施形態22〕
前記レンダリングされた第1の画像及び第2の画像は、
前記標的部位の三次元立体ビュー及び
前記第1の画像が前記第2の画像に位置合わせされ重ねられたビュー
の少なくとも1つを提供する、実施形態12、20、又は21に記載の立体撮像装置。
〔実施形態23〕
前記第1の光学要素、前記第2の光学要素、及び前記プロセッサを囲むように構成された筐体
を更に備え、
前記筐体は、幅20cm〜22cm、長さ23cm〜27cm、及び高さ13cm〜17cmを有する、実施形態12又は20に記載の立体撮像装置。
〔実施形態24〕
前記第1の光路は、瞳孔間距離だけ前記第2の光路から隔てられる、実施形態12、20、又は21に記載の立体撮像装置。
〔実施形態25〕
前記第1のズームレンズは、前記z方向に沿った位置に固定されながら、前記第1の画像ストリームのサイズを変更するように構成され、前記第2のズームレンズは、前記z方向に沿った位置に固定されながら、前記第2の画像ストリームのサイズを変更するように構成される、実施形態12、20、又は21に記載の立体撮像装置。