(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公開特許公報(A)
(11)【公開番号】P2022009921
(43)【公開日】2022-01-14
(54)【発明の名称】表示されるシーンの所定の目標輝度を維持するための自動露出及び照明制御のためのシステム
(51)【国際特許分類】
A61B 1/00 20060101AFI20220106BHJP
A61B 1/06 20060101ALI20220106BHJP
【FI】
A61B1/00 552
A61B1/06 612
【審査請求】有
【請求項の数】14
【出願形態】OL
【外国語出願】
(21)【出願番号】P 2021179417
(22)【出願日】2021-11-02
(62)【分割の表示】P 2020087284の分割
【原出願日】2015-03-17
(31)【優先権主張番号】61/954,336
(32)【優先日】2014-03-17
(33)【優先権主張国・地域又は機関】US
(31)【優先権主張番号】61/954,381
(32)【優先日】2014-03-17
(33)【優先権主張国・地域又は機関】US
(71)【出願人】
【識別番号】510253996
【氏名又は名称】インテュイティブ サージカル オペレーションズ, インコーポレイテッド
(74)【代理人】
【識別番号】100107766
【弁理士】
【氏名又は名称】伊東 忠重
(74)【代理人】
【識別番号】100070150
【弁理士】
【氏名又は名称】伊東 忠彦
(74)【代理人】
【識別番号】100135079
【弁理士】
【氏名又は名称】宮崎 修
(72)【発明者】
【氏名】リッチモンド,ジェフ
(72)【発明者】
【氏名】ディカルロ,ジェフリー
(72)【発明者】
【氏名】ホフマン,ブライアン ディー
【テーマコード(参考)】
4C161
【Fターム(参考)】
4C161HH52
4C161JJ11
4C161NN01
4C161QQ09
4C161RR02
4C161RR22
(57)【要約】
【課題】 表示されるシーンの所定の目標輝度を維持するための自動露出及び照明制御のためのシステムを提供する。
【解決手段】 遠隔操作手術システム200の内視鏡201を用いて取り込まれ且つディスプレイ・ユニットに表示されるシーン251は、照明装置210の光パワー出力が変化しても、且つ組織203と内視鏡の先端チップとの間の作業距離204が変化しても、一貫した輝度を維持する。遠隔操作手術システム200は、内視鏡201が組織203に接触する場合を自動的に検出し、組織の損傷が生じないように、照明装置210の光パワー出力を調整する。
【選択図】
図2
【特許請求の範囲】
【請求項1】
システムであって、当該システムは、
組織を含むシーンを光で照らすように構成された照明装置と、前記シーンのフレームを取り込むように構成されたカメラとに結合された制御装置を含み、該制御装置は、
前記照明装置からの前記光の光パワー出力の変化を命令すること、及び
前記光パワー出力の変化に応答して前記シーンの取り込まれるフレームの輝度の変化が所定の閾値未満である場合に、組織接触応答を実行すること、を行うように構成される、
システム。
【請求項2】
前記組織接触応答には、前記照明装置からの前記光の前記光パワー出力の減衰を命令することが含まれる、請求項1に記載のシステム。
【請求項3】
前記組織接触応答には、
前記光パワー出力を既知のパターンで変化させるように命令すること、及び
前記カメラによる前記既知のパターンの検出に応答して、前記光パワー出力の前記減衰を終了することがさらに含まれる、請求項2に記載のシステム。
【請求項4】
前記制御装置は、前記シーンのフレームの平均輝度及び前記シーンの続いて取り込まれるフレームの平均輝度に基づいて、前記シーンの前記取り込まれるフレームの前記輝度の変化を検出するようにさらに構成される、請求項1に記載のシステム。
【請求項5】
前記制御装置は、
前記シーンの前記フレームの輝度ヒストグラムを作成すること、
前記シーンの前記フレームの前記輝度ヒストグラムに基づいて、前記シーンの前記フレームの前記平均輝度を決定すること、
前記シーンの前記続いて取り込まれるフレームの輝度ヒストグラムを作成すること、及び
前記シーンの前記続いて取り込まれるフレームの前記輝度ヒストグラムに基づいて、前記シーンの前記続いて取り込まれるフレームの前記平均輝度を決定すること、を行うようにさらに構成される、請求項4に記載のシステム。
【請求項6】
前記制御装置は、
前記シーンの前記フレームの輝度を、前記カメラの露出時間に対する前記シーンの前記フレームの前記平均輝度の比として決定すること、及び
前記シーンの前記続いて取り込まれるフレームの輝度を、前記カメラの前記露出時間に対する前記シーンの前記続いて取り込まれるフレームの前記平均輝度の比として決定すること、を行うようにさらに構成される、請求項5に記載のシステム。
【請求項7】
前記制御装置は、
前記カメラのカメラ露出時間と、前記シーンの表示フレームの輝度を制御するゲインとの一方又は両方を調整すること、及び
前記カメラ露出時間の値に基づいて、前記光の前記光パワー出力及び前記カメラ露出時間を調整して、前記シーンの表示フレームの目標輝度を維持すること、を行うようにさらに構成される、請求項1に記載のシステム。
【請求項8】
方法であって、当該方法は、
組織を含むシーンを光で照らすように構成された照明装置と、前記シーンのフレームを取り込むように構成されたカメラとに結合された制御装置が、前記照明装置からの前記光の光パワー出力の変化を命令するステップと、
前記制御装置が、前記光パワー出力の変化に応答して前記シーンの取り込まれるフレームの輝度の変化が所定の閾値未満である場合に、組織接触応答を実行するステップと、を含む、
方法。
【請求項9】
前記組織接触応答には、前記照明装置からの前記光の前記光パワー出力の減衰を命令することが含まれる、請求項8に記載の方法。
【請求項10】
前記組織接触応答には、
前記光パワー出力を既知のパターンで変化させるように命令すること、及び
前記カメラによる前記既知のパターンの検出に応答して、前記光パワー出力の前記減衰を終了することがさらに含まれる、請求項9に記載の方法。
【請求項11】
前記制御装置が、前記シーンのフレームの平均輝度及び前記シーンの続いて取り込まれるフレームの平均輝度に基づいて、前記シーンの前記取り込まれるフレームの前記輝度の変化を検出するステップをさらに含む、請求項8に記載の方法。
【請求項12】
前記制御装置が、前記シーンの前記フレームの輝度ヒストグラムを作成するステップと、
前記制御装置が、前記シーンの前記フレームの前記輝度ヒストグラムに基づいて、前記シーンの前記フレームの前記平均輝度を決定するステップと、
前記制御装置が、前記シーンの前記続いて取り込まれるフレームの輝度ヒストグラムを作成するステップと、
前記制御装置が、前記シーンの前記続いて取り込まれるフレームの前記輝度ヒストグラムに基づいて、前記シーンの前記続いて取り込まれるフレームの前記平均輝度を決定するステップと、をさらに含む、請求項11に記載の方法。
【請求項13】
前記制御装置が、前記シーンの前記フレームの輝度を、前記カメラの露出時間に対する前記シーンの前記フレームの前記平均輝度の比として決定するステップと、
前記制御装置が、前記シーンの前記続いて取り込まれるフレームの輝度を、前記カメラの前記露出時間に対する前記シーンの前記続いて取り込まれるフレームの前記平均輝度の比として決定するステップと、をさらに含む、請求項12に記載の方法。
【請求項14】
前記制御装置が、前記カメラのカメラ露出時間と、前記シーンの表示フレームの輝度を制御するゲインとの一方又は両方を調整するステップと、
前記制御装置が、前記カメラ露出時間の値に基づいて、前記光の前記光パワー出力及び前記カメラ露出時間を調整して、前記シーンの表示フレームの目標輝度を維持するステップと、をさらに含む、請求項8に記載の方法。
【発明の詳細な説明】
【技術分野】
【0001】
関連出願
本願は、2014年3月17日に出願された米国特許出願第61/954,336号、及び2014年3月17日に出願された米国特許出願第61/954,381号についての利益を主張する国際出願PCT/US2015/020892の国内移行出願に関するものであり、これら各文献は、参照により本明細書に組み込まれる。
【0002】
本発明の態様は、内視鏡イメージングに関し、より具体的には、遠隔操作手術システムにおける組織接触検出、表示されるシーンの輝度制御、カメラの自動露出制御、及び照明制御に関する。
【背景技術】
【0003】
カリフォルニア州のサニーベールのIntuitive Surgical, Inc.により商品化されているda Vinci(登録商標)手術システムは、身体への低減した外傷、より早い回復及び短い入院日数等の多くの利益を患者に提供する最小侵襲性遠隔操作手術システムである。da Vinci(登録商標)手術システムの1つの特徴は、外科医に立体視を提供するために、2チャンネル(すなわち、左右の)ビデオキャプチャを提供し且つ可視化画像を表示させる能力である。このような電子的な立体視撮像システムは、高解像度ビデオ画像を外科医に出力することができ、及び、外科医が、特定の組織タイプ及び特性を特定するだけでなく、向上した精度で作業を行うことを可能にする「拡大」ビューを提供するズーム等の機能を可能にする。
【0004】
しかしながら、手術部位の照明や手術部位の画像の取込み中に使用されるカメラ露出時間は、外科医に提供される画質に影響を与える要因の一部となる。例えば、特許文献1は、第1レベルの照明を提供する内視鏡を体内に導くステップと、第2レベルの照明を提供する照明装置を体内に導くステップと、を説明する。第2レベルの照明は、第1レベルの照明よりも大きく、且つ大きな標的領域を撮像するために使用される。内視鏡からのより低いレベルの照明は、より小さな標的領域を撮像するために使用される。
【0005】
しかしながら、高輝度光源に関する潜在的な問題が認識され、その解決策が、特許文献2に提供される。この特許によれば、高輝度光源からの出力は、その出力が組織に向けられていないときはいつでも、光源の出力強度を安全レベルまで自動的に低減するように制御される。組織からの反射光が監視され、その反射光が、光源が組織に向けられていないことを示す場合には、光強度は、安全レベルまで低下される。
【先行技術文献】
【特許文献】
【0006】
【特許文献1】米国特許第8,512,232号
【特許文献2】米国特許第6,511,422号
【発明の概要】
【発明が解決しようとする課題】
【0007】
遠隔操作手術システムでは、制御装置が内視鏡のチップと組織との接触を検出した場合に、制御装置は、内視鏡のチップからの光パワー出力を減衰させる。これによって、組織が接触によって損傷を受けないようにしている。
【0008】
一態様では、制御装置は、組織から反射された輝度を監視することにより、及び内視鏡からの光パワー出力を監視することによって接触を検出する。制御装置は、第1の光パワー出力から第2の光パワー出力への変化が、第1の光パワー出力についての反射輝度と比較して、第2の光パワー出力についての反射輝度の変化を生じさせない場合に、接触が発生したと判断する。
【0009】
制御装置は、内視鏡のチップからの光パワー出力を、その後減衰させる既知のパターンで変化させる。制御装置は、反射輝度が光パワー出力を変更することに伴って変化するかどうかを検出する。反射輝度が変化する光パワー出力の既知のパターンに従う場合に、制御装置は、減衰を終了する。
【0010】
遠隔操作手術システムは、照明装置、カメラ、及び制御装置を含む。照明装置は、光パワー出力を提供する。カメラは、組織を含むシーンを取り込むように構成される。制御装置は、照明装置に及びカメラに結合される。制御装置は、内視鏡と組織との接触を検出するように構成される。制御装置は、接触を検出した後に光パワー出力を減衰するように構成される。
【0011】
制御装置は、カメラに結合された統計モジュールを含む。統計モジュールは、カメラにより取り込まれたシーンを受信する。統計モジュールは、取り込んだシーンの輝度ヒストグラムを作成し、取り込んだシーンの全体の輝度を決定する。制御装置の接触検出モジュールは、統計モジュールに結合される。接触検出モジュールは、取り込んだシーンの全体の輝度を受信し、且つカメラ露出時間を受信する。接触検出モジュールは、照明装置にも結合される。接触検出モジュールは、内視鏡のチップと組織との接触を検出する。
【0012】
一態様では、照明装置は、ディザリング(dither)モジュールを含む。ディザリング・モジュールは、接触検出モジュールに結合される。ディザリング・モジュールは、接触検出モジュールによって有効にされた後に、光パワー出力を既知のパターンで変化させるように構成される。自動露出モジュールが、統計モジュールに結合される。自動露出モジュールは、取り込んだシーンの輝度変化を検出するように構成される。
【0013】
遠隔操作手術システムは、制御システムを含む。制御システムは、カメラ制御ユニット及び照明制御装置を含む。照明制御装置は、遠隔操作手術システムの照明装置からの光パワー出力を制御するように構成される。カメラ制御ユニットは、遠隔操作手術システムのカメラからビデオストリームを受信するように構成される。カメラ制御ユニットは、照明制御装置に結合される。カメラ制御ユニットは、また、照明制御装置に命令して、光パワー出力を第1の光パワー出力から第2の光パワー出力に変更するように構成され、且つカメラに命令して、カメラ露出時間を第1の露出時間から第2の露出時間に変更するように構成され、それによって、フレームが、その後、第2の露出時間で、第2の光パワー出力から反射した光により取り込まれる。
【0014】
一態様では、光源が、照明制御装置に結合される。内視鏡が、光源に結合される。カメラが、内視鏡に結合され、且つカメラ制御ユニットに結合される。
【0015】
一態様では、カメラ制御ユニットは、統計モジュールを含む。統計モジュールは、ビデオストリームを受信するために、カメラに結合される。統計モジュールは、ビデオストリームのフレームについて輝度ヒストグラムを作成するように構成される。カメラ制御ユニットは、統計モジュールに結合された自動露出モジュールも含む。自動露出モジュールは、表示されるシーンの目標輝度を維持するように構成され、表示されるシーンは取り込んだフレームからのシーンである。また、自動露出モジュールは、取り込んだフレームのシーンの飽和画素をそのシーンのそれぞれの所定の画素数未満に制限するように構成される。また、自動露出モジュールは、照明装置からの最小光パワー出力を維持するように構成される。
【0016】
別の態様では、カメラ制御ユニットは、第1及び第2の制御ループを含む。第1の制御ループは、表示されるシーンが目標輝度を有するように、ビデオ・パイプラインの利得及びカメラ露出時間の一方又は両方を自動的に調整するように構成される。
【0017】
第2の制御ループは、光パワー出力を自動的に調整するとともに、続いて取り込まれるフレームのカメラ露出時間を調整するように構成される。第2の制御ループは、カメラ露出時間の値に基づいて、光パワー出力及びカメラ露出時間を調整するように構成される。
【0018】
第2の制御ループは、カメラ露出時間が第1の露出閾値よりも大きい場合に、光パワー出力を増大させ、且つカメラ露出時間を減少させる。第2の制御ループは、カメラ露出時間が第2の露出閾値よりも小さい場合に、光パワー出力を低下させ、且つカメラ露出時間を増加させる。第2の制御ループは、カメラ露出時間が第1の露出閾値と第2の露出閾値との間にある場合に、光パワー出力及びカメラ露出時間を変えないままにする。
【0019】
一態様では、第1の制御ループ及び第2の制御ループは、自動露出モジュールに含まれる。統計モジュールは、ビデオストリームを受信するためにカメラに結合され、且つ自動露出モジュールに結合される。統計モジュールは、ビデオストリームのフレームについて輝度ヒストグラムを作成するように構成される。
【0020】
一態様では、カメラ制御ユニットは、表示されるシーンの目標輝度を自動的に調整して、続いて取り込まれるフレーム内の飽和画素数を減らすように構成された制御ループを含む。制御ループは、減少幅の制限を目標輝度に適用するように構成される。
【0021】
さらに別の態様では、カメラ制御ユニットは、自動露出モジュールを含む。自動露出モジュールは、ビデオストリームのフレームの輝度ヒストグラムを受信するために、統計モジュールに結合される。また、自動露出モジュールは、ヒストグラムの情報を用いて平均輝度を決定するように構成される。自動露出モジュールは、目標輝度に対する平均輝度の関係に基づいて、ビデオ・パイプラインの利得及びカメラ露出時間の一方又は両方を調整するようにも構成される。自動露出モジュールは、取り込んだシーンの飽和画素数が飽和画素閾値よりも大きい場合に、目標輝度を低下させる。また、自動露出モジュールは、照明制御装置に命令して、照明装置の第1の出力を照明装置の第2の出力に変更し、且つカメラに命令して、照明装置の出力の変動を補償するために、カメラ露出を調整するように構成される。
【0022】
遠隔操作手術システムを作動する作動方法は、取り込んだシーンの平均輝度及び表示されるシーンの目標輝度を用いて、ビデオ・パイプラインの利得及びカメラ露出時間の一方又は両方を調整するステップを含む。この作動方法は、カメラ露出時間を用いて、照明装置の光パワー出力及びカメラの露出時間も設定する。この作動方法は、目標輝度を低下させることによって、第2の取込みフレームにおける飽和画素数を減少させる。
【図面の簡単な説明】
【0023】
【
図1A】シーンの飽和画素数の一部又は全てを制御するための、ビデオ・パイプラインの利得を制御するための、光パワー出力を制御するための、カメラ露出時間を制御するための、及び組織接触を検出するための制御装置を含む遠隔操作手術システムのブロック図である。
【
図1B】シーンの飽和画素数の一部又は全てを制御するための、ビデオ・パイプラインの利得を制御するための、光パワー出力を制御するための、カメラ露出時間を制御するための、及び組織接触を検出するための制御装置を含む遠隔操作手術システムのブロック図である。
【
図2】シーンの飽和画素数を制御するための、ビデオ・パイプラインの利得を制御するための、光パワー出力を制御するための、カメラ露出時間を制御するための、及び組織接触を検出するための制御装置を含む遠隔操作手術システムの別のブロック図である。
【
図3】統計モジュールによって生成される、取り込まれたシーンの輝度ヒストグラムである。
【
図4】自動露出モジュールの一態様のプロセスフロー図である。
【
図5A】
図4の飽和画素制限プロセスの一態様のプロセスフロー図である。
【
図5B】
図4の利得及び露出時間調整プロセスの一態様のプロセスフロー図である。
【
図5C】
図4のパワー及び露出時間調整プロセスの一態様のプロセスフロー図である。
【
図6】カメラ露出時間を用いる光パワー出力の制御を説明する図である。
【
図7】
図2のカメラ制御ユニットのパイプライン図及び
図4のプロセスフロー図である。
【発明を実施するための形態】
【0024】
図面において、参照符号の最初の桁数は、その参照符号を含む要素が最初に現れた図を示す。
【0025】
一態様では、遠隔操作手術システム100A,100B(
図1A及び
図1B)の内視鏡101で取り込まれ、且つ立体視ディスプレイ・ユニット151に表示されるシーンは、組織103と内視鏡101の先端チップとの間の作業距離が変化した場合であっても、一貫した輝度を維持する。遠隔操作手術システム100A,100Bは、内視鏡101が組織に接触したことを自動的に検出し、組織の損傷が生じないように、照明装置110の光パワー出力を調整する。
【0026】
照明装置110からの光パワー出力、例えば可視光を有する照明は、時にはチップと呼ばれる内視鏡101の先端チップにおいて内視鏡101から出射される。照明は、組織103から反射され、且つ左側カメラ120Lの左画像センサ121Lによって取り込まれる左カラーシーンを含むフレーム122Lとして、及び右側カメラ120Rの右画像センサ121Rによって取り込まれる右カラーシーンを含むフレームの122Rとして取り込まれる。左右の画像センサ121L,121Rのそれぞれは、シーンを含むフレームを取り込むといえる。
【0027】
取り込まれたフレームは、フレーム毎にビデオストリームとしてカメラ制御ユニット130L,130Rに渡され、その制御ユニットで各フレームが処理され、次にビデオ・パイプライン140に渡される。ビデオ・パイプライン140は、以下で説明することを除いて、従来の遠隔操作手術システムにおけるビデオ・パイプラインの処理と同じ方法で各フレームを処理し、次に、そのフレームを外科医コンソール150の立体視ディスプレイ151に渡す。
【0028】
こうして、組織103は、遠隔操作手術システム100A,100Bのユーザによって、外科医コンソール150で視認される。シーンのビデオシーケンスが立体視ディスプレイ151に表示される間に、そのシーンは組織103の連続画像としてユーザに表示され、例えば、ユーザが、組織103の動きを確認し、出血を確認し、呼吸による動作等を確認する。しかしながら、ユーザは、立体視ディスプレイ151に表示されるシーンの輝度の変化に気を取られ、気が散ってしまう可能性がある。遠隔操作手術システム100は、たとえ組織103と内視鏡101の先端チップとの間の作業距離が、増加又は減少のいずれかで変化しても、表示されたシーンの一貫した輝度を維持する。この例では、立体視内視鏡を用いているが、システム100A,100Bは、単一の取り込んだシーンを処理することにより、単一の光チャンネルを有する内視鏡と同じように機能する。
【0029】
立体視ディスプレイ151に表示されるシーンは、目標輝度と呼ばれる所定の輝度を有する。一態様では、目標輝度は、遠隔操作手術システム100A,100Bによって設定される。しかしながら、いくつかの態様では、外科医は、表示されたシーンの輝度が外科医に許容可能となるように、目標輝度を調整することが許可される。
【0030】
一態様では、内視鏡制御システムは、制御装置を含み、次にこの制御装置は、カメラ制御ユニット130L,130Rと、照明制御装置115とを含む。一態様では、カメラ制御ユニット130L,130Rは、2つの制御ループ131,132を含む(
図1A参照)。制御ループ131,132の組合せは、表示されるシーン(表示されるシーンは、取り込まれるフレーム内のシーンである)の目標輝度を維持するように構成され、且つ照明装置の最小出力を維持するように構成される。
【0031】
内視鏡101が組織103から離れる際に、利得及び露出制御ループ131が、左画像センサ121Lによって取り込まれたシーンの、及び右画像センサ121Rによって取り込まれたシーンの全体の輝度が低下するのを検出した場合に、利得及び露出制御ループ131は、カメラ120L,120Rのいずれかに自動的に命令して、カメラ露出時間を増加させ、それによって、続いて取り込まれた画像が目標輝度を有する、又はビデオ・パイプライン140に命令して、ディスプレイ・ユニット151上に表示されるシーンの輝度を制御する利得を増大させ、それによって表示されるシーンが目標輝度有するようになる。いくつかの状況では、利得及び露出制御ループ131は、カメラ露出時間の増加、及びビデオ・パイプラインの利得の増大の両方を自動的に命令する。パワー及び露出制御ループ132は、照明装置110からの光パワー出力を増大すべきかどうかを判断する。光パワー出力が増大した場合に、パワー及び露出制御ループ132は、照明装置110の光パワー出力を増大させ、且つフレーム毎に固定サイズの同期線形ステップにおいてカメラ120L,120Rの露出時間を減少させる。
【0032】
光パワー出力の増大及び露出時間の減少は、同じサイズの変更であり、例えば、光パワー出力の増大が1%であれば、露出時間の減少は1%となる。システムが完全であれば、元の光パワー出力及び元の露出時間で取り込まれたシーンと比較して、新しい光パワー出力及び新しい露出時間で取り込まれたシーンの全体の輝度に変化がないであろう。しかしながら、システムは完全ではないので、新しい光パワー出力及び新しい露出時間で取り込まれたシーンの全体の輝度に変化があり得る。こうして、光パワー出力及び露出時間の同期した変更によって生じる表示画像の輝度のフリッカーが外科医に気付かれないように、固定サイズのステップが選択される。
【0033】
同様に、内視鏡101が組織103に向けて移動する際に、利得及び露出制御ループ131が、左側カメラ120Lの左画像センサ121Lによって、及び右側カメラ120Rの右画像センサ121Rによって取り込まれたシーンの輝度の増大を検出した場合に、利得及び露出制御ループ131は、カメラ120L,120Rのいずれかに自動的に命令して、カメラ露出時間を減少させ、それによって、続いて取り込まれる画像が目標輝度を有する、又はビデオ・パイプライン140に命令して、ディスプレイ・ユニット151上に表示されるシーンの輝度を制御する利得を低下させ、それによって表示されるシーンは目標輝度を有する。いくつかの状況では、利得及び露出制御ループ131は、カメラ露出時間の減少、及びビデオ・パイプラインの利得の低下の両方を自動的に命令する。パワー及び露出制御ループ132は、照明装置110からの光パワー出力を低下すべきかどうかを判断する。光パワー出力を低下させる必要がある場合に、パワー及び露出制御ループ132は、照明装置110の光パワー出力を低下させ、且つフレーム毎に固定サイズの同期線形ステップでカメラ120L,120Rの露出時間を増加させる。しかしながら、光パワー出力の低下が最小光パワー出力に達した場合に、照明装置110の光パワー出力は、最小光パワー出力に維持される。
【0034】
別の態様では、カメラ制御ユニット130L,130Rは、3つの制御ループ131,132,133を含む(
図1B参照)。制御ループ131,132,133の組合せは、表示されるシーン(表示されるシーンは、取り込まれたフレーム内のシーンである)の目標輝度を維持するように構成され、取り込まれたフレームのシーンの飽和画素をそのシーンのそれぞれの所定の画素数未満に制限するように構成され、且つ照明装置の最小出力を維持するように構成される。この態様では、制御ループ131,132は、上述したのと同様に機能する。
【0035】
外科医にとって気が散る可能性がある輝度の変化に加えて、その領域の詳細を伝え損ねた、表示されるシーンの領域は、外科医の気をそらす可能性がある。画像センサ121L,121Rは、画素と呼ばれるウェルに光を取り込む。各ウェルは、限られた容量を有し、非常に多くの光がウェルに取り込まれた場合に、そのウェルはオーバーフローし、それによって有用な情報を失う。ウェルがオーバーフローするとき、その画素は、飽和画素と呼ばれる。
【0036】
組織103の領域が非常に多くの光を反射し、組織のその領域によって反射された光を取り込む画素が飽和した場合に、外科医は、その領域を、詳細を含まない明るいスポットとして立体視ディスプレイ151上で見ることになる。その領域の組織、血管等の性質に関するあらゆる情報が失われる。こうして、一態様では、飽和画素制御ループ133は、フレーム全体における飽和画素数を決定し、その飽和画素数が外科医にとって気を散らすのに十分に大きい場合に、飽和画素制御ループ133は、フレームの飽和画素数が外科医の気をそらさないであろう数よりも少なくなるまで、フレーム毎に固定サイズの線形ステップで目標輝度を低下させる。しかしながら、目標輝度の低下は、範囲が限定される。これは、目標輝度が、システムによって設定され又は外科医によって選択された元の目標輝度等の一定割合以下に低下する、例えば目標輝度の最大変化が元の目標輝度の35%未満に制限されることを意味する。こうして、飽和画素制御ループ133は、減少幅の制限を目標輝度に適用するように構成される。
【0037】
飽和画素制御ループ133は、フレーム全体の飽和画素の総数を解析するので、飽和画素制御ループ133の動作は、フレーム内の飽和画素の位置に依存しない。このアプローチは、特徴の位置が表示されるシーンにおいて飽和画素の変化を生じさせる際に、例えば手術用器具がシーン内で動き回る際に、表示されるシーンの一貫性のある輝度を維持する。
【0038】
内視鏡101(
図1A及び
図1B)が組織103に向けて移動し続ける場合に、最終的に、内視鏡101は組織103に接触する。接触は、組織103から反射される輝度に殆ど又は全く変化を生じさせない、光パワー出力レベルの変化を検出することによって観察される。この状況がカメラ制御ユニット130L,130Rによって検出された場合に、照明装置110の光パワー出力は、組織との接触に安全なレベルまで低減される。
【0039】
光パワー出力の変化が、組織103から反射される輝度の変化を殆ど又は全く生じさせない、例えば内視鏡101の先端チップがカニューレ内に引き込まれる場合に、組織接触以外の状況が存在する。誤検出等によって内視鏡101の動作が阻害されるのを防止するために、照明装置101の光パワー出力が組織接触に安全なレベルにされるが、光パワー出力は、既知の方法で変化される。光パワー出力のこの既知の変化が、カメラ制御ユニット130L,130Rによって検出された場合に、内視鏡101は、組織と接触しておらず、光パワー出力の通常制御が、カメラ制御ユニット130L,130Rによって再開される。
【0040】
こうして、一態様では、制御装置は、組織103から反射された輝度を監視することにより、及び光パワー出力を監視することにより、内視鏡のチップと組織との接触を検出する。制御装置は、接触を検出すると、内視鏡のチップからの光パワー出力を減衰させる。反射輝度が直接的に測定されないので、制御装置は、カメラ露出時間に対する取り込んだシーンの全体的な輝度の比として反射輝度を決定する。ここで、全体の輝度は、フレームの平均輝度を示す。
【0041】
こうして、接触を検出するために、制御装置は、反射輝度、すなわちカメラ露出時間に対する取り込んだシーン全体の輝度の比を監視し、且つ内視鏡101からの光パワー出力を監視する。制御装置は、第1の光パワー出力から第2の光パワー出力への変化が、第1の光パワー出力から反射した光によって取り込まれたシーンの比と比較して、比の変化を生じさせない、すなわち反射輝度の変化を生じさせない場合に、内視鏡のチップが組織に接触したと判断する。
【0042】
遠隔操作手術システム100(
図1A及び
図1B)の一例は、カリフォルニア州サニーベールのIntuitive Surgical, Inc.により市販されているda Vinci(登録商標)最小侵襲性遠隔操作手術システムである。遠隔操作手術システム100A,100Bは、単なる例示であり、これに限定されるものではない。この例では、外科医コンソール250にいる外科医は、ロボットマニピュレータアーム(図示せず)に取り付けられた内視鏡201を遠隔で操作する。da Vinci(登録商標)手術システムに関連する等の他の部品、ケーブル等が存在しているが、これらは、本開示から逸脱するのを避けるために、
図1A及び
図1Bに示していない。遠隔操作による最小侵襲性手術システムに関する更なる情報は、例えば、(2007年6月13日に出願された、”Minimally Invasive Surgical System”を開示する)米国特許出願第11/762,165号、及び(2001年12月18日に出願された、”Surgical Robotic Tools, Data Architecture, and Use”を開示する)米国特許第6,331,181号に見出すことができ、これら両文献は、参照により本明細書に組み込まれる。
【0043】
照明システム、例えば照明装置110は、内視鏡101に結合される。一態様では、照明装置110は、光源111及び照明制御装置115を含む。照明制御装置115は、光源111に結合されるとともに、カメラ制御ユニット130L,130Rに結合される。
【0044】
図1の態様では、光源111は、複数の色成分の照明源112を含む。一態様では、複数の色成分の照明源112は、複数の発光ダイオード(LEDs)を含む。LEDの使用は、単なる例示であり、これ限定されるものではない。複数の色成分の照明源112は、LEDの代わりに、例えば複数のレーザ源又は複数のレーザダイオードで実装することもできる。あるいはまた、光源111は、可視画像のための広帯域白色照明光を生成するために、楕円形のバックリフレクタ及び帯域通過フィルタコーティングを含むキセノンランプを使用することができる。キセノンランプの使用も、単なる例示であり、これに限定されるものではない。例えば、高圧水銀ランプ、他のアークランプ、又は他の広帯域光源を使用してもよい。
【0045】
この態様では、照明装置110は、組織103を照明するために、立体内視鏡101内の少なくとも1つの照明経路に関連して使用される。照明装置110からの出力光が、コネクタ116に導かれる。コネクタ116は、光を立体内視鏡101内の照明経路に供給し、次にその光を手術部位103に導く。コネクタ116及び立体内視鏡101内の照明経路のそれぞれは、例えば、光ファイバ束、単一の剛性ロッド又は可撓性ロッド、又は光ファイバで実装することができる。一態様では、内視鏡101は、手術部位103から反射した光をカメラ120L,120Rに渡す2つの光チャンネル、すなわち立体視光路も含む。
【0046】
カメラ120Lは、左側カメラ制御ユニット130L及びビデオ・パイプライン140により外科医コンソール150の立体視ディスプレイ151に結合される。カメラ120Rは、右側カメラ制御ユニット130R及びビデオ・パイプライン140により外科医コンソール150の立体視ディスプレイ151に結合される。カメラ制御ユニット130L,130Rは、システム・プロセス162から信号を受信する。システム・プロセス162及び中央制御装置160は、システム100内の様々な制御装置の一部を表す。
【0047】
表示モード選択スイッチ152は、ユーザインターフェイス161に信号を提供し、次に、選択された表示モード、例えばハイパワーモードをシステム・プロセス162に渡す。システム・プロセス162内の各種制御装置は、照明制御装置115を設定し、所望の画像を取得するために、左右のカメラ制御ユニット130L,130Rを設定し、及び外科医が必要とする画像をディスプレイ150に提示するように、取得した画像を処理するのに必要なビデオ・パイプライン140の他の要素を設定する。ビデオ・パイプライン140は、本明細書に提供される詳細を除いて、既知のビデオ・パイプラインと同様である。
【0048】
中央制御装置160として説明したが、中央制御装置160だけでなく本明細書に記載した他の制御装置のそれぞれが、任意数のモジュールによって実際に実現してもよく、及び各モジュールは、コンポーネントの任意の組合せを含んでもよいことを理解されたい。各モジュール及び各コンポーネントは、ハードウェア、プロセッサ上で実行されるソフトウェア、ファームウェア、又はこれら3つの任意の組合せを含むことができる。また、本明細書に記載されるような中央制御装置160及び他の制御装置のそれぞれの機能及び作用は、1つのモジュールによって実行される、或いは異なるモジュール間で又はさらにモジュールの異なるコンポーネント間で分割してもよい。異なるモジュール又はコンポーネント間で分割する場合に、モジュール又はコンポーネントは、一箇所に集中させてもよく、又は分散型処理のためにシステム100A,100Bに亘って分散させてもよい。こうして、本明細書に記載の中央制御装置160及び他の制御装置のそれぞれは、単一の物理的エンティティを必要とすると解釈すべきではなく、いくつかの態様では、制御装置は、システム100A,100Bに亘って分散させてもよい。
【0049】
図1A及び
図1Bでは、カメラ120L,120R及び光源112は、内視鏡101の外部に存在するものとして示されている。しかしながら、一態様では、カメラ120L,120R及び光源112は、内視鏡101の先端チップに含まれる。例えば、
図2では、カメラ220及び光源211は、遠隔操作手術システム200の内視鏡201に含まれる。
【0050】
再び、遠隔操作手術システム200の一例は、上述したda Vinci(登録商標)最小侵襲性遠隔操作手術システムである。遠隔操作手術システム200は、単なる例示であり、これに限定されるものではない。遠隔操作手術システム100A,100Bと同様に、da Vinci(登録商標)手術システムに関連する他の部品、ケーブル等が存在しているが、これらは、本開示から逸脱するのを避けるために、
図2に示していない。
【0051】
この例では、制御装置は、カメラ制御ユニット230及び照明制御装置215を含む。一態様では、カメラ制御ユニット230は、カメラ制御ユニット130L,130Rを表し、カメラ220は、カメラ120L,120Rを表す。別の態様では、カメラ制御ユニット230は、カメラ220の単一の光チャンネルに結合される。
【0052】
カメラ制御ユニット230は、ディスプレイ・ユニット251に表示されるシーンの輝度を制御する自動露出モジュール232を含む。また、照明制御装置215による光パワー出力制御は、自動露出モジュール232に結び付けられ、外科的なシナリオが最大光パワー出力や照明装置の自動的な増光を必要としない場合で、外科的なシナリオが最小光パワー出力よりも多くの照明を必要とするときに、照明装置の自動調光を提供する。臨床用途では、良好な質のビデオを提供するために必要な多くの光を使用することが望ましい。これは、ハイパワー照明に起因する任意の負の組織相互作用を回避することができる。
【0053】
標的203、例えば手術部位により反射された光源211からの光は、カメラ220によってカラーシーンとして取り込まれる。光源211は、自動露出モジュール232からのコマンドに応答して及び接触検出モジュール233からのコマンドに応答して、照明制御装置215によって制御される光パワー出力212を有する。標的203は、標的203の明るさの指標である輝度205を有する。通常、光パワー出力212が増減すると、標的203の輝度205も増減する。取り込まれた画像の輝度との混同を避けるために、標的203の輝度は、「反射輝度」と呼ばれ、取り込まれた画像の輝度は、「取込み画像輝度」又は「画像輝度」と呼ばれる。
【0054】
一態様では、カメラ220は、ローリングシャッター・カメラである。本明細書で使用される場合に、ローリングシャッタは、カメラの画像センサからフレーム全体を一度に読み出す代わりに、情報が、上から下にフレームの各行から順次読み出されることを意味する。
【0055】
カメラ220は、ビデオストリームを含むフレームの連続的なシーケンスを取り込む。取り込んだ各フレームは、標的203の瞬間的な時間のスナップショットであるカラーシーンを含む。ビデオ221は、カメラ220からカメラ制御ユニット230の統計モジュール231にストリーミングされる。統計モジュール231は、ビデオストリームの各フレームに関するリアルタイムの統計情報を収集する。これらの統計情報は、自動露出モジュール232に供給される、フレームの画素輝度のヒストグラムを含む。以下でより完全に説明するように、自動露出モジュール232は、目標輝度、カメラ220の露出時間、ビデオ・パイプライン240の利得、及び内視鏡201からの光パワー出力を制御する。一態様では、自動露出モジュール232は、
ディスプレイ・ユニット251に表示されるビデオ画像の目標輝度を維持し、
カメラ220によって取り込まれた各シーンにおける飽和画素の総数を飽和画素閾値より下に維持し、
カメラ220によって取り込まれるシーンの目標輝度を達成するのに必要な最小光パワー出力(最小限の照明輝度)を維持するように設定される。
【0056】
別の態様では、自動露出モジュール232は、
ディスプレイ・ユニット251に表示されるビデオ画像の目標輝度を維持し、
カメラ220によって取り込まれるシーンの目標輝度を達成するのに必要な最小光パワー出力(最小限の照明輝度)を維持するように設定される。
【0057】
本明細書中で使用される場合に、目標輝度は、ディスプレイ・ユニット251に表示されるシーンの輝度である。時には元の(original)目標輝度と呼ばれる初期目標輝度は、遠隔操作手術システム200において、例えば1500の目標輝度に設定される。しかしながら、一態様では、スライドスイッチが、ディスプレイ・ユニット251上に示されるユーザインターフェイスに提示され、ユーザがユーザにとって許容可能な、表示されるシーンの目標輝度を選択するのを許可する。初期目標輝度は、da Vinci(登録商標)遠隔操作手術システム等の遠隔操作手術システムのユーザからのフィードバックに基づいて、経験的に決定される。以下でより完全に説明するように、目標輝度は、自動露出モジュール232内の制御ループの制御パラメータである。
【0058】
以下でより完全に説明するように、自動露出モジュール232は、シーンの平均輝度が目標輝度に等しくなるのを確実にすることによって、フレーム内の表示されるシーンの一定の輝度を保証する。ここで、シーンの平均輝度は、シーンの全体的な輝度又はフレームの全体的な輝度と呼ばれる。自動露出モジュール232は、減少幅の制限を目標輝度に適用することによって、表示されるシーンにおける飽和画素の影響も制限する。自動露出モジュール232は、ヒステリシスを有する輝度閾値を用いて照明装置210の光パワー出力を制御する。
【0059】
以下でより完全に説明するように、自動露出モジュール232によって実装される制御システムは、ビデオ・パイプラインの利得236及びカメラ露出時間238を制御する。飽和画素が存在しない場合に、取り込んだシーンの全体の輝度の変化は、ビデオ・パイプラインの利得236及びカメラ露出時間238から構成される直線的な関数である。
【0060】
しかしながら、シーンの飽和画素は、本質的に非線形である。残念ながら、カメラ220及び/又はビデオ・パイプライン240の限定されたビット深さ又は限定されたダイナミックレンジと組み合わされた非常に明るい鏡面反射性のハイライトが、ディスプレイ・ユニット251に表示されるシーンの画素の飽和を生じさせる。また、飽和画素は、飽和画素の領域の詳細が失われるため、画像に望ましくない。
【0061】
鏡面反射性のハイライトは、高反射性である解剖学的構造から形成され、且つ内視鏡201の視野の間を移動する金属製(高反射性)の器具から形成される。自動露出モジュール232は、器具がシーン全体を移動する際にシーンの輝度変化を最小限に抑え、及び自動露出パラメータのユーザ調整を最小限に抑えるように構成される。
【0062】
シーン全体を移動する反射性器具の影響を最小限に抑える1つの方法は、遠隔操作手術システム200で利用可能な、器具の最も可能性の高い位置についての空間情報を使用するとともに、器具を配置する可能性がないシーンの領域に自動露出を焦点合わせすることである。1つのアプローチは、シーンの中央に矩形領域を規定することである。この場合に、統計モジュール231は、矩形領域内の画素位置についてのみ画像の統計情報を生成することになる。これは、表示されたシーンの輝度に影響を与えることなく、器具がシーンの周囲を移動するのを可能にする。このアプローチは、器具が大きな可動域を有しておらず、それによって矩形領域を頻繁に移動しない場合に、外科的手処置及び遠隔操作手術システムに有用となり得る。
【0063】
しかしながら、器具が大きな可動域を有しており、それによって矩形領域を移動する場合に、矩形領域のみの統計情報の使用は、目に見えない障壁(領域の輪郭)を生成し、反射性器具がこの障壁と交差した場合に、自動露出モジュール232が、高反射性器具からの反射によってその領域の増大した輝度を調整するため、シーンの輝度の劇的な変化が生じさせるだろう。目に見えない障壁を横断する器具に関連する輝度の変化は、典型的に外科医の気をそらすため、そのような変化は望ましくない。このため、視認可能なシーン全体の統計情報は、一態様では考慮される。この態様では、フレーム全体を使用して表示されるシーンを生成するので、統計情報は、取り込まれるフレーム全体に対して生成される。別の態様では、表示されるシーンを生成するのに使用されなかった画素は、統計情報を含んでない、例えば、ビデオ処理は、表示されるシーンを取得するために取り込んだフレームをトリミングするので、トリミングされた画素は、統計情報の生成に使用されない。
【0064】
こうして、一態様では、統計モジュール231は、カメラ220の画像センサによって取り込まれたフレームの全ての画素位置について輝度ヒストグラムを作成する。フレームの各画素位置において、赤、緑、青色画素が存在している。統計モジュール231は、赤、緑、青色画素値を、その画素位置の明るさ、例えば画像輝度に比例した値に変換する。
【0065】
統計モジュール231は、フレーム内で可能な各輝度値を有する画素位置の数をカウントし、ヒストグラムを作成する。輝度が1バイト数で表される場合に、0から255の範囲の256個の可能な輝度値が存在する。
図3は、飽和画素を含むフレームの典型的なヒストグラム300を示す。可能な輝度値が、x軸上にプロットされる。各輝度値のバーの高さは、フレーム内でその輝度値を有する画素位置の数を表す。また、x軸に沿って輝度のグレースケール表現が存在している。
【0066】
統計モジュール231は、フレーム・バッファを必要とせずに取り込んだフレームの統計情報を生成するので、フレームを処理するための追加のストレージを必要としないだけでなく、フレーム・バッファに保存及びこのバッファからの読出しに必要な時間もなくなる。
【0067】
図4は、自動露出モジュール232の一態様のプロセスフロー図である。この態様では、自動露出モジュール232は、時にはプロセス441と呼ばれる飽和画素制限プロセス441、時にはプロセス442と呼ばれる利得及び露出時間調整プロセス442、時にはプロセス443と呼ばれるパワー及び露出時間調整プロセス443を含む。
【0068】
自動露出モジュール232は、
図1A及び
図1Bの3つの制御ループを実装する。第1の制御ループ(飽和画素制御ループ133)は、飽和画素制限プロセス441を含み、第2の制御ループ(利得及び露出制御ループ131)は、利得及び露出時間調整プロセス442を含み、及び第3の制御ループ(パワー及び露出制御ループ132)は、パワー及び露出時間調整プロセス443を含む。自動露出モジュール232によって提供される制御が安定化するように、時定数がこれら3つの制御ループについて選択される。飽和画素制限プロセス441を含む第1の制御ループは、利得及び露出時間調整プロセス442を含む第2の制御ループの時定数よりも長い時定数を有する。パワー及び露出時間調整プロセス443を含む第3の制御ループは、第2の制御ループの時定数よりも長い時定数を有する。
図4は、3つのプロセス441,442,443を示しているが、いくつかの態様では、プロセス442,443のみが実施される(
図1A参照)。
【0069】
以下でより完全に説明するように、飽和画素制限プロセス441は、飽和画素によって消費されるディスプレイ251の全画面領域を時間の経過とともに最小限に抑えることができる。飽和画素制限プロセス441は、この最小化を実行するために調整済み標的輝度444を制御する。
図5Aは、飽和画素制限プロセス441の一態様のプロセスフロー図である。完了すると、飽和画素制限プロセス441は、利得及び露出時間調整プロセス442に移行する。
【0070】
利得及び露出時間調整プロセス442は、ビデオ・パイプラインの利得及びカメラ露出時間を制御する。利得及び露出時間調整プロセス442は、調整済み目標輝度444に対するフレームの平均輝度の関係に基づいて、ビデオ・パイプラインの利得445及びカメラ露出時間446のいずれかを調整する。ビデオ・パイプラインの利得445は、ビデオ・パイプラインの利得236を提供する。カメラ露出時間446は、カメラ露出時間238を提供する。
【0071】
図5Bは、利得及び露出時間調整プロセス442の一態様のプロセスフロー図である。完了すると、利得及び露出時間調整プロセス442は、パワー及び露出時間調整プロセス443に移行する。
【0072】
パワー及び露出時間調整プロセス443は、照明装置210の光パワー出力及びカメラ露出時間を制御する。カメラ露出時間が第2の露出閾値未満である場合に(
図6参照)、光パワー出力が低下され、照明変化を補償するために、正の調整がカメラ露出時間に適用される。カメラ露出時間が第1の露出閾値よりも大きい場合に(
図6参照)、照明装置210の光パワー出力が増大され、照明変化を補償するために、負の調整がカメラ露出時間に適用される。こうして、パワー及び露出時間調整プロセス443は、光パワー出力448及びカメラ露出時間調整447の変化が必要であり、その後、次のフレームの処理のために処理を飽和画素制限プロセス441に戻すかどうかを判断する。光パワー出力448は、光パワー出力237を提供する。
図5Cは、パワー及び露出時間調整プロセス443の一態様のプロセスフロー図である。
【0073】
上記に示したように、
図5Aは、飽和画素制限プロセス441の一態様を示す。飽和画素計数プロセス501は、ヒストグラム300の最も高いビン(複数可)の画素数をカウントする。最も高いビン(複数可)、例えばビン255の画素数が飽和画素閾値よりも大きい場合に、過剰飽和画素チェックプロセス502は、目標輝度低下プロセス503に移行し、それ以外は調整済み目標輝度低下チェックプロセス504に移行する。飽和画素計数プロセス501がこの態様では飽和画素制限プロセス441に含まれるものとして示されているが、飽和画素計数プロセス501は、飽和画素制限プロセス441の代わりに、統計モジュール231に含めることができる。
【0074】
一態様では、時にはプロセス501と呼ばれる飽和画素計数プロセス501は、ヒストグラム300の飽和画素301の数をカウントする。
図3の例では、ビン255における飽和画素数は、41873である。
【0075】
内視鏡201が立体内視鏡である場合に、統計モジュール231は、左右の光チャンネルのそれぞれについてヒストグラムを作成する。内視鏡201が立体内視鏡ではない場合に、統計モジュール231は、単一の光チャンネルについてヒストグラムを作成する。一態様では、2バイトを使用して輝度を表すので、ヒストグラムは、x軸に沿って512のビンを有する。一態様では、飽和画素計数プロセス501は、飽和画素数を、左右ヒストグラムのそれぞれのビン511内の画素数の和として決定する。
【0076】
遠隔操作手術システム200のいくつかの動作モードは、左側シーン及び右側シーンの一方を無効としてマークすることができる。これらの動作モードでは、飽和画素のカウントが、有効なシーンのヒストグラムについて行われる。
【0077】
一態様では、あるシーン内で可能になる飽和画素数についての飽和画素閾値は、経験的に決定した。遠隔操作手術システム200は、ディスプレイ・ユニット251に表示されるシーンの飽和領域の大きさを変化させるように構成した。このようなシステムでの臨床試験は、飽和画素数の閾値及び飽和画素数をカウントするために使用されるビンを決定するために使用され、それによって、システムのユーザがタスクの達成を邪魔や妨害するものとして領域飽和をラベル付けせずに、外科的タスクのセットを行うことができる。
【0078】
一態様では、ヒストグラムの(ビン0からビン511までラベル付けされた)512個のビン及び立体内視鏡を用いて、飽和画素閾値は、ビン511で12000として選択される。こうして、この態様について、過剰飽和画素チェックプロセス502は、120000の飽和画素閾値を、統計モジュール231から受信した左ヒストグラムのビン511における飽和画素の総数と右ヒストグラムのビン511における飽和画素の総数との和とを比較した。最大飽和画素数及び飽和画素をカウントするために使用されるビンの数を調整することにより、自動露出モジュール232は、画面上の飽和領域のサイズを調整することができ、且つビデオ・パイプラインにおいて後で利得を補償することができる。フレーム内の飽和画素数が飽和画素閾値よりも大きい場合に、チェックプロセス502は、目標輝度低下プロセス503に移行する。
【0079】
左右のフレームの同じビンにおける飽和画素の総数を使用して、表示されるシーンにおける飽和画素の総面積の尺度を与え、及びその使用は、画面上の飽和画素の位置とは無関係である(すなわち、飽和画素領域は、画素のヒストグラムに殆ど変化を与えずにカメラの視野全体を移動することができる)。それにも拘わらず、飽和画素数が飽和画素閾値を超えた場合に、目標輝度は、目標輝度低下プロセス503により低下される。その結果、飽和画素の大部分は、自動露出モジュール232によって表示されるシーンを暗くさせ、それによってシーンの非反射領域は非常に暗くなる。この理由のために、目標輝度の低下は、範囲が制限される。
【0080】
一態様では、飽和画素制限プロセス441の時定数は、4~5秒であり、目標輝度の最大減少、目標輝度の範囲制限は、元の目標輝度266の35%である。目標輝度の範囲制限は、経験的に決定される。この範囲は、ユーザが識別する表示されるシーンの最小平均輝度を、外科的処置に使用することができる情報を提供するものとして確定するように決定される。元の目標輝度に対する最小平均輝度の比を使用して、例えば以下の式のように、目標輝度の範囲制限を規定する。
目標輝度範囲の制限=(1-(許容可能な最小平均輝度/元の目標輝度))*100
【0081】
フレーム当たりの目標輝度の許容変更を決定するために、5秒の時定数及び35%の輝度範囲制限について、毎秒7%の変化が許容される。毎秒60フレームを取り込むカメラについて、フレーム毎の目標輝度の変化は、取り込んだシーンにおける飽和画素数が飽和画素閾値よりも小さい、又は初期標的輝度266からの変化が範囲制限にある、例えば目標輝度が目標輝度の範囲制限だけ低下されるかのいずれかまで、0.11%で固定された線形ステップである。この例では、1500の初期目標輝度及び35%の範囲制限について、目標輝度の制限は、(1500*(1-0.35))であり、975の制限である。
【0082】
こうして、調整済み目標輝度が目標輝度範囲の制限にない場合に、目標輝度低下プロセス503は、1つの固定サイズの線形ステップにより調整済み目標輝度を変更し、その結果を調整済み目標輝度444として保存する。目標輝度を調整した後に、飽和画素制限プロセス441は、利得及び露出時間調整プロセス442に移行する。調整済み目標輝度が目標輝度範囲の制限にある、すなわち目標輝度が範囲制限されている場合に、目標輝度低下プロセス503は何ら動作せず、プロセス442に移行する。
【0083】
最も高いビン(複数可)の画素数が、飽和画素閾値よりも小さい場合に、過剰飽和画素チェックプロセス502は、時にはプロセス504呼ばれる調整済み目標輝度低下チェックプロセス504に移行する。プロセス504は、調整済み目標輝度444を元の目標輝度266と比較する。調整済み目標輝度444が元の目標輝度266よりも小さい場合に、プロセス504は目標輝度増大プロセス505に移行し、それ以外は利得及び露出時間調整プロセス442に移行する。
【0084】
目標輝度増大プロセス505は、上記のサイズの1つの固定した線形ステップにより調整後の露出時間を増加させ、その結果を調整済み目標輝度444として保存する。プロセス505は、利得及び露出時間調整プロセス442に移行する。
【0085】
上記に示したように、
図5Bは、利得及び露出時間調整プロセス442の一態様を示す。時にはプロセス511と呼ばれるフレーム平均輝度計算プロセス511は、輝度ヒストグラムから、時には平均輝度と呼ばれる輝度の平均値を決定する。上述したように、内視鏡201が立体内視鏡である場合に、統計モジュール231は、左右の光チャンネルのそれぞれについてヒストグラムを作成する。内視鏡201が立体内視鏡でない場合に、統計モジュール231は、単一のヒストグラムを作成する。こうして、立体内視鏡について、プロセス511は、左側光チャンネルから取り込まれた左側シーンの左平均輝度を決定し、且つ右側光チャンネルから取り込まれた右側シーンの右平均輝度を決定する。左平均輝度及び右平均輝度は、フレーム平均輝度、つまりフレーム全体の輝度を取得するためにプロセス501によって平均化される。フレーム平均輝度計算プロセス511が、この態様では、利得及び露出時間調整プロセス442に含まれるように示されているが、フレーム平均輝度計算プロセス511は、利得及び露出時間調整プロセス442の代わりに、統計モジュール231に含めることができる。
【0086】
遠隔操作手術システム200のいくつかの動作モードは、左側シーン及び右側シーンの一方を無効としてマークすることができる。これらの動作モードでは、有効なシーンの平均は、プロセス511によってフレーム平均輝度とされる。フレーム平均輝度を決定した後に、プロセス511は、処理を目標輝度に対するフレーム輝度チェックプロセス512に移行する。
【0087】
時にはチェックプロセス512と呼ばれる目標輝度に対するフレーム輝度チェックプロセス512は、フレーム平均輝度を調整済み目標輝度444と比較する。フレーム平均輝度が調整済み目標輝度444よりも大きい場合に、チェックプロセス512は、利得及び露出時間減少プロセス514に移行する。フレーム平均輝度が調整済み目標輝度444よりも小さい場合に、チェックプロセス512は、利得又は露出時間増加プロセス513に移行する。
【0088】
処理が、時にはプロセス513と呼ばれる利得又は露出時間増加プロセス513に移行したときに、取り込んだ画像の輝度は低過ぎる。カメラ露出時間が最大カメラ露出時間Emaxでない場合に、プロセス513は、カメラ露出時間を増加させ(
図6参照)、次に、続いて取り込んだフレームのフレーム平均輝度を増大させる。しかしながら、カメラ露出時間が最大カメラ露出時間Emaxにある場合に、カメラ露出時間をさらに増加させることはできない。この状況では、プロセス513は、ビデオ・パイプラインの利得を増大させる。
【0089】
こうして、プロセス513は、フレームの平均輝度に対する調整済み目標輝度444の比を最初に決定する。フレーム平均輝度が調整済み目標輝度444よりも小さいので、その比は1より大きい。一例として、例えば、輝度を20%だけ増加させる必要がある比1.2を想定する。輝度は、カメラ露出時間の線形関数である。こうして、カメラ露出時間446が最大カメラ露出時間Emaxよりも小さい場合にプロセス513は、カメラ露出時間446を、フレーム平均輝度に対する調整済み目標輝度444の比で乗算し、例えばカメラ露出時間が1.2によって乗算され、その結果が、カメラ露出時間446として保存される。カメラ露出時間446が最大カメラ露出時間Emaxにある場合に、プロセス513は、ビデオ・パイプラインの利得445を、フレーム平均輝度に対する調整済み目標輝度444の比で乗算し、例えばビデオ・パイプラインの利得が1.2によって乗算され、その結果が、ビデオ・パイプラインの利得445として保存される。カメラ露出時間446をフレーム平均輝度に対する調整済み目標輝度444の比で乗算することによって、最大カメラ露出時間Emaxよりも大きいカメラ露出時間を与える場合に、その増加が、カメラ露出時間とビデオ・パイプラインの利得との間で分割され、それによってカメラ露出時間446は、カメラ露出時間のEmaxにあり、増加の残りは、ビデオ・パイプラインの利得445に適用される。例えば20%の増加に伴って、カメラ露出時間446が、最大カメラ露出時間Emaxよりも10%低いである場合に、カメラ露出時間446は、カメラ露出時間446が最大カメラ露出時間Emaxにあり、及びビデオ・パイプラインの利得445が増加の残りによって増大するように、増加される。例えば、
新しいビデオ・パイプラインの利得=1.2*(1.0-0.1)=1.08
完了すると、プロセス513は、パワー及び露出時間調整プロセス443に移行する。
【0090】
処理が時にはプロセス514と呼ばれる利得又は露出時間減少プロセス514に移行した場合に、取り込んだ画像の輝度が高過ぎる。ビデオ・パイプラインの利得が1よりも大きい場合に(
図6参照)、プロセス514は、ビデオ・パイプラインの利得を低下させ、表示されるシーンの輝度を低下させる。しかしながら、ビデオ・パイプラインの利得が1に等しい場合に、プロセス514は、カメラ露出時間を減少させ、続いて取り込まれる画像のフレーム平均輝度を低下させる。
【0091】
こうして、プロセス514は、フレーム平均輝度に対する調整済み目標輝度444の比を最初に決定する。フレーム平均輝度が調整済み目標輝度444よりも大きいので、その比は1未満である。一例として、例えば、輝度を20%だけ低下させる必要がある比0.8を想定する。
【0092】
ビデオ・パイプラインの利得445が1より大きい場合に、プロセス514は、ビデオ・パイプラインの利得445を、フレーム平均輝度に対する調整済み目標輝度444の比で乗算し、例えばビデオ・パイプラインの利得が0.8によって乗算され、その結果をビデオ・パイプラインの利得445として保存する。ビデオ・パイプラインの利得445が1である場合に、プロセス514は、カメラ露出時間446を、フレーム平均輝度に対する調整済み目標輝度444の比で乗算し、例えばカメラ露出時間が0.8によって乗算され、その結果をカメラ露出時間446として保存する。ビデオ・パイプラインの利得445をフレーム平均輝度に対する調整済み目標輝度444の比で乗算することにより、1未満のビデオ・パイプラインの利得を与える場合に、その減少は、カメラ露出時間とビデオ・パイプラインの利得との間で分割され、それによって、そのビデオ・パイプラインの利得445は、1であり、及びその減少の残りは、カメラ露出時間446に適用される。20%の減少を伴う例について、ビデオ・パイプラインの利得445が1.1である場合に、ビデオ・パイプラインの利得445は1に低下され、カメラ露出時間446は、減少の残り部分を減少させる。例えば、
新しいカメラ露出時間=カメラ露出時間*(1-0.2)/(1/1.1))
完了すると、プロセス514は、パワー及び露出時間調整プロセス443に移行する。
【0093】
パワー及び露出時間調整プロセス443は、照明制御装置215にコマンドを送信することにより、照明装置210の光パワー出力を光源211の所望の光パワー出力に制御し、対応する露出時間調整をカメラ露出時間446に送信する。
図7に関連して以下で説明するように、光パワー出力及びカメラ露出時間の変更が同期される。
【0094】
図5Cは、パワー及び露出時間調整プロセス443の一態様のプロセスフロー図である。しかしながら、
図5Cを検討する前に、
図5Cのプロセスで使用されるパラメータについて、検討する。
【0095】
一態様では、プロセス443は、固定サイズの同期ステップで光源211からの照明出力の輝度を増減させる。カメラ露出時間は、照明の変化と同じ割合を変化され、例えば、ステップ変化が、照明出力を1.006によって乗算する場合に、カメラ露出時間は、1.006で除算される。
【0096】
固定サイズのステップを確実するために、秒単位の立ち上がり時間trampは、光源211からの照明出力を最小光パワー出力Pminから最大光パワー出力Pmaxに直線的に立ち上げる、及び逆にするために使用される期間として特定される。
【0097】
固定サイズの光パワー出力ステップPstepは、次のように規定される。
Pstep=(Pmax-Pmin)/(tramp*(フレーム/カメラの秒))。
【0098】
一例として、800ミリワット(mW)の最大光パワー出力、400mWの最小光パワー出力、3秒の立ち上がり時間tramp、毎秒60フレームを取り込むカメラについて検討する。光パワー出力が変化した場合に、固定サイズのステップは、+/-2.22mW/フレームである。現在の光パワー出力が400mWである場合に、照明出力が(1+(2.22/400))によって乗算され、つまり1.0056となる。こうして、カメラ露出時間は、1.0056で除算される。
【0099】
上記に示したように、照明の変化は、表示されたシーンに目立つフリッカーを生成してはならない。こうして、立ち上がり時間は、照明の変化が、ディスプレイ・ユニット251に表示されるシーンに目立つ輝度フリッカーを生じないように、及び3つの制御ループが安定する、例えば、立ち上がり時間が第3の制御ループの時定数となるように、選択される。こうして、これらの実施例では、第1の制御ループの時定数は、5秒であり、第3の制御ループの時定数は、3秒である。
【0100】
内視鏡201の先端チップにおける新しい光パワー出力Pnewは、現在の光パワー出力Pcurrentプラス又はマイナス光パワー出力ステップPstepである。すなわち、
Pnew=Pcurrent+/-Pstep
ここで、この例では、光パワー出力ステップPstepは、0、+2.22、又は-2.22である。以下で説明するように、光パワー出力ステップPstepの3つの可能な値のうちのいずれかが、カメラ露出時間の値に依存して使用される。また、
図7に関連して以下でより完全に説明するように、光パワー出力及び露出時間の変化は、パイプラインのフレーム時間に同期される。
【0101】
フレーム当たりの光パワー出力のステップ変化が既知であるが、照明制御装置215は、光源がLEDである場合に、複数の光源211の各光源への電流を制御する。しかしながら、LEDの光パワー出力は、電流の変化に対して線形ではない。こうして、ルックアップテーブルを使用して、光パワー出力の命令された変化を各LEDの電流に変換し、それによって光パワー出力が、内視鏡201の先端チップに提供される。
【0102】
ルックアップテーブルの値は、既知の基準に対する光源211の較正によって決定される。光パワー出力(部)が内視鏡201の先端チップにあるので、各LEDの電流は、光源211の実際の出力が、光源211の出力と内視鏡201の先端チップとの間の光のあらゆる減衰を考慮するために、十分高くなるように決定される。
【0103】
一態様では、最大光パワー出力Pmaxは、内視鏡201の先端チップと標的203との間の最小作業距離において、最大光パワー出力Pmaxが組織に損傷を生じさせないように選択される。
【0104】
最小光パワー出力Pminは、内視鏡201の先端チップと標的203との間の最小作業距離において、表示されるシーンのノイズが閾値を下回り、光パワー出力が照明装置210の達成可能な最小光パワー出力を超えるように選択される。
【0105】
照明出力の変化が増大、減少、又は同じ値に留まるかどうかを確認するために、カメラ露出時間の値を使用する。取り込んだシーンの平均輝度が高い場合の第3領域603(
図6参照)の非常に小さなカメラ露出時間では、光パワー出力が減光される。具体的には、第3領域603のカメラ露出時間を有する連続する各フレームについて、光パワー出力が、光パワー出力Pstepによって低減され、及びカメラ220の露出時間は、光パワー出力の減少率と同じ割合で増加される。光パワー出力ステップPstepが、最小光パワー出力Pminを下回るように照明出力を低下させる場合に、照明出力は変化せず、照明出力は、最小光パワー出力Pminに維持され、カメラ220の露出時間は、変更されない。
【0106】
露出時間の増加及び照明の対応する減少は、以前取り込まれた画像と略同じ平均輝度で取り込まれた画像を生じさせ、カメラ露出時間は、第2の領域602に向けて増加すると想定する。
【0107】
取り込んだシーンの平均輝度、シーン全体の輝度が低い場合の第1の領域601の非常に高いカメラ露出時間では、光パワー出力が増大される。具体的には、第1の領域601の露出時間を有する連続する各フレームについて、光パワー出力は、光パワー出力のステップPstepによって増大され、カメラ220の露出時間は、光パワー出力の増加率と同じ割合で減少される。光パワー出力の変化が、最大光パワー出力Pmaxを上回るように照明出力を増大させる場合に、照明出力は、変化されず、及び照明出力は、最大光パワー出力Pmaxに維持され、カメラ220の露出時間は、変更されない。
【0108】
露出時間の減少及び照明の対応する増加は、以前取り込んで画像と略同じ平均輝度で取り込まれた画像を生じさせ、カメラ露出時間は、第2の領域602に向けて減少すると想定する。
【0109】
こうして、パワー及び露出時間調整プロセス443を含む制御ループは、照明出力が第2の領域602によって表されるような照明出力範囲に向けて進むように照明を変化させる。第2の領域602は、ヒステリシス領域である。
【0110】
可能な限り、照明の変化を最小限に抑えることが望ましい。内視鏡201の先端チップと標的203との間の平均作業距離に位置する、照明変化に関連する輝度の変化は、シーンの一部に亘って外科医に気付かれないかもしれないが、平均作業距離よりも大きいシーンの位置において、外科医は、気が散るような輝度の変化に気づく傾向にある。従って、この態様では、照明及び露出変化がカメラ露出時間の変化と伴に実施されない第2の領域602は、可能なカメラ露出時間の範囲の50%が割り当てられる。本開示に鑑みて、第2の領域602の範囲は、可能なカメラ露出時間の範囲の50%以外の割合として選択することができる。
【0111】
こうして、
図6に示されるように、パワー及び露出時間調整プロセス443は、カメラ露出時間の値に基づいて、光パワー出力及びカメラ露出時間を設定する。第3の制御ループ、パワー及び露出制御ループ132は、カメラ露出時間が第1の露出閾値よりも大きい場合に、光パワー出力が最大光パワー出力Pmax未満であれば、照明出力を増大させ、且つカメラ露出時間を減少させる。第3の制御ループは、カメラ露出時間が第2の露出閾値よりも小さい場合に、光パワー出力が最小光パワー出力Pminよりも大きければ、光パワー出力を低下させ、且つカメラ露出時間を増加させる。第3の制御ループは、露出時間が第1の露出閾値と第2の露出閾値との間にある場合に、光パワー出力及びカメラ露出時間を変化させないままにする。
【0112】
一態様では、最大光パワー出力Pmaxは、光パワー出力800mWに対応する。最小光パワー出力Pminは、400mWの光パワー出力に対応し、最大カメラ露出時間Emaxは、4096であり、最小カメラ露出時間Eminは、ゼロである。
【0113】
図5Cに進むと、時にはプロセス521と呼ばれる第2の閾値未満の露出時間チェックプロセス521は、カメラ露出時間446が第2の露出閾値未満であるかどうかを判断する。カメラ露出時間446が第2の露出閾値未満である場合に、プロセス521は、処理を照明低下及び露出時間増加プロセス523に移行させ、それ以外は処理を第1の閾値未満の露出時間チェックプロセス522に移行する。
【0114】
処理が時にはプロセス523と呼ばれる照明低下及び露出時間増加プロセス523に移行した場合に、カメラ露出時間446は、第3領域603にある。従って、照明出力が最小光パワー出力Pminよりも大きければ、プロセス523は、光パワー出力ステップPstepによって、光パワー出力448、例えば光パワー出力Pcurrentを減少させる。プロセス523は、カメラ露出時間調整447に段階的増加をロード(load)し、次にカメラ露出時間446を増加させる。照明出力が最小光パワー出力Pminに等しい場合に、プロセス523は、動作を実行しない。照明低下及び露出時間増加プロセス523は、処理を飽和画素制限プロセス441に移行させる。
【0115】
チェックプロセス521が処理を第1の閾値未満の露出時間チェックプロセス522に移行させる場合に、チェックプロセス522は、カメラ露出時間446が第1の露出閾値未満であるかどうかを判断する。カメラ露出時間446が第1の露出閾値未満である場合に、チェックプロセス522は、処理を照明増大及び露出時間減少プロセス524に移行させ、それ以外は処理を飽和画素制限プロセス441に移行させる。
【0116】
処理が、時にはプロセス524と呼ばれる照明増大及び露出時間減少プロセス524に移行した場合に、カメラ露出時間446は、第1の領域601にある。従って、照明出力が最大光パワー出力Pmax未満である限り、プロセス524は、光パワー出力ステップPstepにより、光パワー出力448、例えば光パワー出力Pcurrentを増大させる。プロセス524は、カメラ露出時間調整447に段階的に減少するようロードされ、次にカメラ露出時間446を減少させる。光パワー出力が最大光パワー出力Pmaxと等しい場合に、プロセス524は、動作を実行しない。照明増大及び露出時間減少プロセス524は、処理を飽和画素制限プロセス441に移行させる。
【0117】
パワー及び露出時間調整プロセス443が終了すると、処理は飽和画素制限プロセス441に戻る。こうして、プロセス441~443が取り込んだ各フレームについて繰り返される。
【0118】
照明変化を遠隔操作手術システム200のユーザに見えないようにするために、照明の変化は、カメラ露出時間の変化の補償と同期され、それによって外科医に表示されるビデオの全体の輝度が、照明の変化を略一定のままにする。例えば、光パワー出力の低下及びカメラ露出時間の増加は、同じビデオフレームで生じさせなければならない。ここでは、略一定は、遠隔操作手術システム200の許容範囲内で一定であることを意味する。
【0119】
遠隔操作手術システム200でのビデオストリームの処理は、遅延される。照明制御、ビデオ・パイプラインの利得制御、カメラの露出制御、ビデオ統計的な収集及び解析は全て、異なるパイプライン遅延となる。例えば、ビデオストリームの第1フレーム701のフレーム時間t0(
図7)において、フレームが取り込まれ、統計情報が、統計モジュール231によってフレーム701について収集され、以前に取り込んだフレームからの利得が、ビデオ・パイプラインに書き込まれる。
【0120】
フレーム時間t1において、照明出力及びカメラ露出時間が、自動露出モジュール232によって計算され、カメラ露出時間は、カメラ220に書き込まれる。フレーム時間の開始時t2において、光パワー出力が新しい光パワー出力Pnewに変化する。フレーム702が、カメラによってフレーム時間t3において第1のフレーム701を使用して生成される露出時間及び光パワー出力で取り込まれる。こうして、新たな露出時間及び光パワー出力が、フレーム702の取込みについて同期される。
【0121】
これらのステップは、露出時間及び照明装置の輝度が、ビデオの各フレームに適用されるように、パイプライン化される。一態様では、パイプラインの同期は、ビデオストリームで、システム200全体に亘って移動するビデオフレーム同期信号にメタデータを追加する、すなわちビデオストリームの各フレームにメタデータを取り付けることによって達成される。メタデータは、カメラ露出時間、照明装置の輝度、及びビデオ・パイプラインの利得を含む。
【0122】
一態様では、遠隔操作手術システムは、外科医のコマンドによって手術野の照明を増大させる方法と、組織と内視鏡201との間の接触を検出するための方法とを含む。組織接触が検出される場合に、内視鏡201からの照明は、組織との接触に安全なレベルまで自動的に低減される。
【0123】
ディスプレイ・ユニット251に表示されるシーンの信号対雑音比は、照射標的203からカメラ220の画像センサに反射して戻された光が減少すると、低下する。信号対雑音比のこの減少は、内視鏡201の使用可能な作業距離204(内視鏡のチップとイメージング標的203との間の距離)を制限する可能性がある。
【0124】
しかしながら、光パワー出力レベルと組織損傷の危険性との間にトレードオフが存在する。述べたように、増大した光パワー出力は、使用可能な作業距離204の増加をもたらすことができる。しかしながら、増大した光パワー出力は、光パワー出力が十分に高い場合に、組織損傷の危険性も増大させる可能性があり、作業距離は、入射光が損傷レベルを超えないように、十分に小さくされる。組織損傷の増大した危険性は、入射光の増大した光パワー密度によって、又は温度上昇した内視鏡のチップが組織に接触することによってのいずれかで生じる可能性がある。いずれの場合も、光パワー出力レベルを低くすることによって、危険性が殆ど無くなる。
【0125】
組織損傷の危険性を回避するために、内視鏡201からの光パワー出力レベルは、光パワー出力レベルが、内視鏡のチップと組織との間の直接的な接触について安全となるように制限される。しかしながら、これは、内視鏡201の最大作業距離を制限する。例示の目的のために、1W未満の光パワー出力レベルは典型的に安全であると考えられる。しかしながら、一態様では、遠隔操作手術システム200は、光パワー出力が安全な光パワー出力よりも大きい、例えば1.5W等の1Wワットより大きい光パワー出力であるハイビームの動作モードを含む。
【0126】
一態様では、時にはハイパワー動作モードと呼ばれるハイビームの動作モードは、外科医によって外科医コンソール上の物理的なスイッチ265を活性化することで開始される。別の態様では、ハイビームの動作モードは、外科医がディスプレイ・ユニット251に示されるユーザインターフェイスに提示されるスイッチをクリックすることによって開始される。
【0127】
外科医がハイビームモードで制御する際に、ハイビームの動作モードは、この動作モードでは光パワー出力が安全と考えられる出力よりも大きいため、組織損傷のリスクが低い場合にのみ、活性化する必要がある。腹部手術の手術野を検査することは、ハイビームの動作モードの一般的な用途になる。しかしながら、外科医が内視鏡201を組織の極近くに不意に移動させる危険性、又は組織との意図しない接触の危険性が依然として存在する。
【0128】
内視鏡201が組織の極近くに不意に移動した場合に、上記で説明したように、取り込んだ画像の平均輝度が増大し、それによって自動露出モジュール232は、カメラ露出時間を減少させる。カメラ露出時間が減少し続けると、露出時間が第3領域603に達する。次に、自動露出モジュール232は、光パワー出力の低減を開始する。こうして、内視鏡201を組織の極近くに不意に移動させることによる照明の増大は、自動露出モジュール232によって自動的に処理され、光パワー出力を低減させる。
【0129】
内視鏡201が組織に接触した場合に、その接触は、接触検出モジュール233によって検出され、照明は、通常の動作モード又はハイビームの動作モードのいずれかで、適切なレベルまで低下される。接触検出モジュール233は、光パワー出力の変化(増減)が、標的203から反射された光の平均輝度の対応する変化を生じないことを検出することにより、組織接触を判定し、ここで平均の反射輝度は、カメラ露出時間で除算された取込みシーンの平均輝度とされる。シーンの平均輝度が、フレーム平均輝度計算プロセス511(
図5C)によって決定され、カメラ露出時間は、カメラ露出時間446で利用可能である。あるいはまた、フレーム平均輝度計算プロセス511(
図5C)は、接触検出モジュール233又は統計モジュール231に組み込むことができる。
【0130】
例えば、内視鏡のチップが覆われている、すなわち組織と接触しており、それによって光がカメラレンズに入射しない場合に、自動露出モジュール232は、光パワー出力を増大させる。しかしながら、組織接触は、依然として反射光がカメラに到達するのを阻止する。その結果、光パワー出力が増大したときに、平均反射輝度に変化はない。こうして、接触検出モジュール233は、組織接触を検出し、組織接触に安全なレベルまで光パワー出力を減衰させる。一態様では、組織との接触に安全な光パワー出力は、最小光パワー出力よりも大きい。しかしながら、組織の損傷が、内視鏡のチップと組織との間の接触による伝導熱によって支配される場合に、組織との接触に安全な光パワー出力は、最小光パワー出力以下であってもよい。
【0131】
一態様では、接触検出モジュール233は、自動露出モジュール232の光パワー出力制御を無効にし、照明制御装置215に命令して、光パワー出力を安全なレベルまで低下させる。あるいはまた、接触検出モジュール233は、照明制御装置215に命令して、光源211の減衰器を起動させ、光源211からの光パワー出力を安全なレベルに低下させることができる。
【0132】
一態様では、組織接触検出は、次のように実施される。
dL/dI=0
ここで、dLは、2つの取り込んだフレームの平均の反射輝度の変化であり、
dIは、2つの取り込んだフレームの光パワー出力の変化である。
【0133】
別の態様では、接触は、以下に示されるときに検出される。
-閾値<dL/dI<閾値
ここで、閾値は、dL及びdIの測定における測定の不確実性及びノイズを包含する。
【0134】
こうして、接触検出方法は、変動する光パワー出力を利用する。動的な照明制御を備えたシステムでは、光パワー出力は、内視鏡のチップが組織に近づくと変化する。自動露出制御は、組織が内視鏡201のチップに近づくと、光パワー出力を低下させる。一旦組織が内視鏡201のチップに接触すると、反射輝度の変化は、光パワーを変化させても殆ど又は全く検出されない。この状態を検出すると、照明装置の輝度は、組織接触に安全である所定のレベル、例えば照明Pminまで、減衰、すなわち低下される。
【0135】
別の態様では、光パワー出力の変化に伴う反射輝度の変化を監視する代わりに、組織が内視鏡のチップに接触する際の反射輝度プロファイル全体の特性が、接触検出、又は改善された接触検出に使用される。反射輝度プロファイル全体の特性は、時間ドメイン又は周波数ドメインのいずれかとすることができる。取り込まれたシーンから決定された平均反射輝度が、閾値範囲内の輝度プロファイル全体の特性と一致する場合に、接触が検出される。一態様では、反射輝度プロファイル全体の特性は、内視鏡のチップが組織に近づき且つ接触する際に、シーンの全体的な反射輝度を測定することによって経験的に決定される。
【0136】
接触する組織の除去が反射輝度の変化を生じさせない場合に、システム200が、低輝度状態でスタック(stuck)している状況である可能性がある。照明装置210の光パワー出力が変化しない「スタック」状態を避けるために、低速度の光パワー出力ディザリング(dithering)技術を採用している。組織接触が検出された場合に、接触検出モジュール233は、ディザリング・モジュール217を有効にする。ディザリング・モジュール217は、非接触状態を検出する信頼性を高めるために、安全レベルに関する既知の方法で光パワー出力を変化させる。
【0137】
例えば、ディザリング・モジュール217は、光源211からの光パワー出力を安全レベルに関して既知の時間依存性の方法、例えば正弦波方法で変化させることができる。時間依存性の低レベル反射パワー出力がカメラに到達した場合に、自動露出モジュール232は、光パワー出力の変化を検出する、例えば、内視鏡201のチップが組織と接触しなくなることを意味する、取り込んだシーンの平均輝度の変化を検出する。こうして、接触検出モジュール233は、自動露出モジュール232が、光パワー出力の制御を行うように、リセットされる。
【0138】
本明細書で説明する様々なモジュールは、プロセッサ、ハードウェア、ファームウェア、又はこれら3つの任意の組合せで実行されるソフトウェアにより実現することができる。モジュールがプロセッサ上で実行されるソフトウェアとして実現される場合に、ソフトウェアは、コンピュータ可読命令としてメモリに格納され、コンピュータ可読命令は、プロセッサで実行される。メモリの全部又は一部は、プロセッサがメモリに結合される限り、プロセッサとは異なる物理的な位置にあってもよい。メモリは、揮発性メモリ、不揮発性メモリ、又はそれら2つのメモリの任意の組合せを指す。
【0139】
また、本明細書に記載されるように、様々なモジュールの機能は、1つのユニットによって実行される、或いは異なるコンポーネント又は異なるモジュール間で分割することができ、各機能は、次に、ハードウェア、プロセッサ上で実行されるソフトウェア、及びファームウェアの任意の組合せによって実施することができる。異なるコンポーネント間で分割する場合に、コンポーネントは、一箇所に集中させてもよく、又は分散型処理のためにシステム200に亘って分散させてもよい。様々なモジュールの実行は、様々なモジュールについて上述した処理を実行する方法を生じさせる。
【0140】
プロセッサは、プロセッサによって実行される命令を含むメモリに結合される。これは、コンピュータシステム内で、或いは、モデム及びアナログライン又はデジタルインターフェイス及びデジタルキャリアラインを介して他のコンピュータとの結合を介して達成することができる。
【0141】
ここで、コンピュータプログラム製品は、本明細書に記載したプロセスの一部又は全てに必要なコンピュータ可読コードを格納するように構成された、又はそれらのプロセスの一部又は全てのコンピュータ可読コードが格納されたコンピュータ可読媒体を含む。コンピュータプログラム製品のいくつかの例は、CD-ROMディスク、DVDディスク、フラッシュメモリ、ROMカード、フロッピー(登録商標)ディスク、磁気テープ、コンピュータハードドライブ、ネットワーク上のサーバー、及びコンピュータ可読プログラムコードを表す、ネットワークを介して送信される信号である。非一時的な有形のコンピュータプログラム製品は、プロセスの一部又は全てのコンピュータ可読命令を格納するように構成された、又はプロセスの一部又は全てのコンピュータ可読命令が格納された有形のコンピュータ可読媒体を含む。非一時的な有形のコンピュータプログラム製品は、CD-ROMディスク、DVDディスク、フラッシュメモリ、ROMカード、フロッピー(登録商標)ディスク、磁気テープ、コンピュータハードドライブ、及び他の物理的記憶媒体である。
【0142】
本開示に鑑みて、本明細書で説明したプロセスの一部又は全てに使用される命令は、ユーザにとって関心のあるオペレーティングシステム及びコンピュータプログラム言語を使用して広範なコンピュータシステム構成で実装することができる。
【0143】
本発明の態様及び実施形態を示す上述した詳細な説明及び添付の図面は、限定するものと解釈すべきではなく、特許請求の範囲が、保護される発明を規定する。種々の機械的な、組成的な、構造的な、電気的な、及び操作上の変更は、本明細書及び特許請求の範囲の精神及び範囲から逸脱することなく行うことができる。いくつかの例では、周知の回路、構造、及び技術は、本発明を不明瞭にすることを避けるために詳細に示していない又は説明していない。
【0144】
また、この詳細な説明の用語は、本発明を限定するものではない。例えば、「~の下に(beneath)」、「~より下の(below)」、「~の下方の(lower)」、「~より上の(above)」、「~の上方の(upper)」、「基端の(proximal)」、「先端の(distal)」等の空間に関連する用語は、図に示される1つの要素又は機構に対する別の要素又は機構との関係を説明するために使用される。これらの空間に関連する用語は、図面に示される位置及び向きに加えて、使用又は操作中の装置の異なる位置(すなわち、配置)及び向き(すなわち、回転位置)を包含することを意図している。
【0145】
例えば図面内の装置をひっくり返した場合に、他の要素又は機構「より下の(below)」又は「の下に(beneath)」として説明された要素は、次に、他の要素又は機構「より上の(above)」又は「の上に(over)」となる。従って、例示的な用語「~より下の(below)」は、「~より上の(above)」及び「~より下の(below)」両方の位置及び向きを包含することができる。その装置は、他の方法で向き合わせ(90度回転又は他の向きに)してもよく、本明細書で使用される空間に関連する説明は、それに応じて解釈される。
【0146】
同様に、様々な軸線に沿った及びこの軸線周りの運動の説明は、装置の様々な特別な位置及び向きを含む。単数形「1つの(a, an)」及び「その(the)」は、文脈が他に指示しない限り、複数形も含むことを意図している。用語「備える、有する、含む(comprises, comprising)」、「含む、有する(including)」等は、説明した特徴、ステップ、操作、要素、及び/又は構成要素の存在を特定するが、1つ以上の他の特徴、ステップ、操作、要素、構成要素、及び/又はグループの存在又は追加を排除するものではない。
【0147】
「結合した」として説明した構成要素は、電気的に又は機械的に直接的に結合されるか、又は1つ以上の中間部品を介して間接的に結合してもよい。本開示に鑑みて、向上したディスプレイシステムに関して説明した操作のいずれか又は任意の組合せで使用される命令は、ユーザにとって関心のあるオペレーティングシステム及びコンピュータプログラム言語を使用して広範なコンピュータシステム構成で実施することができる。
【0148】
全ての実施例及び説明の参照は、非限定的であり、特許請求の範囲を本明細書で説明した特定の実装態様や実施形態及びその等価物に限定するために使用すべきではない。見出しは、単に形式のためであり、1つの見出しの下のテキストは、相互参照することができ、すなわち1つ以上の見出しの下のテキストに適用することができるので、主題をあらゆる方法で制限するように使用すべきではない。最後に、本開示に鑑みて、一態様又は実施形態に関連して説明した特定の特徴は、図面に特に示されておらず又は本文中に記載されていないにも拘わらず、本発明の開示された他の態様又は実施形態に適用することができる。
【0149】
以下に、出願当初の特許請求の範囲の内容を実施例として記載しておく。
[実施例1]
遠隔操作手術システムであって、当該遠隔操作手術システムは、
光パワー出力を有する照明装置と、
カメラと
前記照明装置及び前記カメラに結合された制御装置と、を有しており、
該制御装置は、カメラ制御ユニット及び照明制御装置をさらに含んでおり、前記カメラ制御ユニットは、前記照明制御装置及び前記カメラに結合され、
前記照明制御装置は、前記カメラ制御ユニットからのコマンドに応答して、前記照明装置からの前記光パワー出力を制御するように構成され、
前記カメラ制御ユニットは、前記カメラからビデオストリームを受信するように構成され、
前記カメラ制御ユニットは、前記光パワー出力を第1の光パワー出力から第2の光パワー出力に変化させるべく前記照明制御装置に命令するように構成され、且つカメラ露出時間を第1の露出時間から第2の露出時間に変更するべく前記カメラに命令するように構成され、それによって、フレームが、続いて、前記カメラによって第2の露出時間で及び反射光によって取り込まれ、前記反射光は、反射される前に第2の光パワー出力を有する前記照明装置からの光である、
遠隔操作手術システム。
[実施例2]
前記カメラ制御ユニットは、前記ビデオストリームを受信するために、前記カメラに結合された統計モジュールをさらに含み、該統計モジュールは、前記ビデオストリーム内のフレームについて輝度ヒストグラムを作成するように構成される、実施例1に記載の遠隔操作手術システム。
[実施例3]
前記カメラ制御ユニットは、統計モジュールに結合された自動露出モジュールをさらに含み、
該自動露出モジュールは、表示されるシーンの目標輝度を維持するように構成され、前記表示されるシーンは、前記カメラによって取り込まれたフレーム内のシーンであり、
前記自動露出モジュールは、取り込んだフレームのシーンにおける飽和画素を前記シーンのそれぞれにおける所定の画素数未満に制限するように構成され、
前記自動露出モジュールは、前記照明装置からの最小光パワー出力を維持するように構成される、実施例2に記載の遠隔操作手術システム。
[実施例4]
前記カメラ制御ユニットは、
ビデオ・パイプラインの利得及びカメラ露出時間の一方又は両方を自動的に調整するように構成された第1の制御ループと、
前記光パワー出力を自動的に設定し、続いて取り込まれるフレームの前記カメラ露出時間を調整するように構成される第2の制御ループと、をさらに含む、実施例1に記載の遠隔操作手術システム。
[実施例5]
第1の制御ループは、表示されるシーンが目標輝度を有するように、ビデオ・パイプラインの利得を調整するように構成される、実施例4に記載の遠隔操作手術システム。
[実施例6]
第2の制御ループは、前記カメラ露出時間の値に基づいて、前記光パワー出力及び前記カメラ露出時間を調整するように構成される、実施例4に記載の遠隔操作手術システム。
[実施例7]
第2の制御ループは、前記カメラ露出時間が第1の露出閾値よりも大きい場合に、前記光パワー出力を増大させ且つ前記カメラ露出時間を減少させる、実施例6に記載の遠隔操作手術システム。
[実施例8]
第2の制御ループは、前記カメラ露出時間が第2の露出閾値よりも小さい場合に、前記光パワー出力を低下させ且つ前記カメラ露出時間を増加させる、実施例6に記載の遠隔操作手術システム。
[実施例9]
第2の制御ループは、前記カメラ露出時間が第1の露出閾値と第2の露出閾値との間にある場合に、前記光パワー出力及び前記カメラ露出時間を変えないままにする、実施例6に記載の遠隔操作手術システム。
[実施例10]
前記カメラ制御ユニットは、表示されるシーンの目標輝度を自動的に調整して、続いて取り込まれるフレーム内の飽和画素数を減少させるように構成された第3の制御ループをさらに含む、実施例4に記載の遠隔操作手術システム。
[実施例11]
第3の制御ループは、前記目標輝度に減少幅の制限を適用するように構成される、実施例10に記載の遠隔操作手術システム。
[実施例12]
前記カメラ制御ユニットは、表示されるシーンの目標輝度を自動的に調整して、続いて取り込まれるフレーム内の飽和画素数を減少させるように構成された制御ループをさらに含む、実施例1の遠隔操作手術システム。
[実施例13]
前記制御ループは、前記目標輝度に減少幅の制限を適用するように構成される、実施例12に記載の遠隔操作手術システム。
[実施例14]
前記カメラ制御ユニットは、第1の制御ループ及び第2の制御ループを含む自動露出モジュールをさらに含む、実施例4に記載の遠隔操作手術システム。
[実施例15]
前記カメラ制御ユニットは、前記ビデオストリーム内のフレームの前記輝度ヒストグラムを受信するために、前記統計モジュールに結合された自動露出モジュールをさらに含み、該自動露出モジュールは、前記ヒストグラムの平均輝度を決定するように構成され、及び前記自動露出モジュールは、目標輝度に対する前記平均輝度の関係に基づいて、ビデオ・パイプラインの利得及び前記カメラ露出時間の一方又は両方を調整するように構成される、実施例2に記載の遠隔操作手術システム。
[実施例16]
前記自動露出モジュールは、第1の光パワー出力を第2の光パワー出力に変化させるべく前記照明制御装置に命令し、且つ照明装置の出力の変化を補償するために、前記カメラの露出を調整するべく前記カメラに命令するようにさらに構成される、実施例15に記載の遠隔操作手術システム。
[実施例17]
前記カメラ制御ユニットは、前記ビデオストリームの各フレームにメタデータを取り付けるように構成され、該メタデータは、パイプラインの同期のための情報を与える、実施例1に記載の遠隔操作手術システム。
[実施例18]
前記カメラ制御ユニットは、内視鏡と組織との接触を検出するように構成され、
前記カメラ制御ユニットは、接触を検出した後に、前記光パワー出力を減衰させるべく前記照明制御装置に命令するように構成される、実施例1に記載の遠隔操作手術システム。
[実施例19]
前記カメラ制御ユニットは、前記カメラによって取り込まれたシーンを受信するために、前記カメラに結合された統計モジュールをさらに含み、該統計モジュールは、前記取り込まれたシーンの全体の輝度を決定するように構成される、実施例18に記載の遠隔操作手術システム。
[実施例20]
前記カメラ制御ユニットは、前記取り込まれたシーンの前記全体の輝度を受信するために、前記統計モジュールに結合され、カメラ露出時間を受信するために結合され、及び前記照明制御装置に結合された接触検出モジュールをさらに含み、該接触検出モジュールは、前記内視鏡のチップと組織との接触を検出するように構成される、実施例19に記載の遠隔操作手術システム。
[実施例21]
前記接触検出モジュールは、反射した輝度を監視し、及び前記照明装置からの前記光パワー出力を監視するようにさらに構成される、実施例20に記載の遠隔操作手術システム。
[実施例22]
前記接触検出モジュールは、第1の光パワー出力から第2の光パワー出力への変化が、第1の光パワー出力の反射した輝度と比較して第2の光パワー出力の反射した輝度の変化を生じさせない場合に、前記内視鏡のチップが前記組織に接触していると判定するようにさらに構成される、実施例20に記載の遠隔操作手術システム。
[実施例23]
前記照明制御装置は、前記接触検出モジュールに結合されるディザリング・モジュールをさらに含み、該ディザリング・モジュールは、前記接触検出モジュールによって有効にされた後で、前記光パワー出力を既知のパターンで変化させるように構成される、実施例20に記載の遠隔操作手術システム。
[実施例24]
前記自動露出モジュールに結合されたハイパワーモードスイッチをさらに含む、実施例3に記載の遠隔操作手術システム。
[実施例25]
遠隔操作手術システムであって、当該遠隔操作手術システムは、
カメラ制御ユニット及び照明制御装置を含む制御装置を有しており、
前記照明制御装置は、前記カメラ制御ユニットからのコマンドに応答して、前記遠隔操作手術システムの照明装置からの光パワー出力を制御するように構成され、
前記カメラ制御ユニットは、前記遠隔操作手術システムのカメラからビデオストリームを受信するように構成され、前記カメラ制御ユニットは、前記照明制御装置に結合され、
前記カメラ制御ユニットは、光パワー出力を第1の光パワー出力から第2の光パワー出力に変化させるべく、前記照明制御装置に命令するように構成され、及びカメラ露出時間を第1の露出時間から第2の露出時間に変更するべく、前記カメラに命令するように構成され、それによって、フレームが、続いて、前記カメラによって第2の露出時間で及び反射光によって取り込まれ、該反射光は、反射される前に第2の光パワー出力を有する前記照明装置からの光である、
遠隔操作手術システム。
[実施例26]
遠隔操作手術システムであって、当該遠隔操作手術システムは、
光パワー出力を有する照明装置と、
組織を含むシーンを取り込むように構成されたカメラと、
前記照明装置及び前記カメラに結合された制御装置と、を有しており、
前記制御装置は、内視鏡と前記組織との接触を検出するように構成され、
前記制御装置は、接触を検出した後で、前記光パワー出力を減衰するように構成される、
遠隔操作手術システム。
[実施例27]
方法であって、当該方法は、
制御装置によって、内視鏡のチップと組織との接触を検出するステップと、
前記制御装置が接触を検出した際に、前記制御装置によって、前記内視鏡のチップからの光パワー出力を減衰させるステップと、を含む、
方法。
[実施例28]
遠隔操作手術システムを作動させる作動方法であって、当該作動方法は、
取り込んだシーンの平均輝度及び表示されるシーンの目標輝度を使用して、ビデオ・パイプラインの利得及びカメラ露出時間の一方又は両方を調整するステップと、
前記カメラ露出時間を用いて、照明装置の光パワー出力及びカメラの露出時間を設定するステップと、を含む、
作動方法。
[実施例29]
前記目標輝度を低下させることによって、第2の取り込まれたフレームにおける飽和画素数を減らすステップをさらに含む、実施例28に記載の作動方法。
【外国語明細書】