特許 7544033 医療システム、情報処理装置及び情報処理方法

(19)【発行国】日本国特許庁(JP)

(12)【公報種別】特許公報(B2)

(11)【特許番号】

(24)【登録日】2024-08-26

(45)【発行日】2024-09-03

(54)【発明の名称】医療システム、情報処理装置及び情報処理方法

(51)【国際特許分類】

   H04N 7/18 20060101AFI20240827BHJP

   A61B 1/045 20060101ALI20240827BHJP

   A61B 1/00 20060101ALI20240827BHJP

【ＦＩ】

H04N7/18 M

A61B1/045 611

A61B1/045 615

A61B1/00 510

【請求項の数】 4

(21)【出願番号】P 2021511360

(86)(22)【出願日】2020-03-13

(86)【国際出願番号】 JP2020011027

(87)【国際公開番号】W WO2020203164

(87)【国際公開日】2020-10-08

【審査請求日】2023-02-22

(31)【優先権主張番号】P 2019069135

(32)【優先日】2019-03-29

(33)【優先権主張国・地域又は機関】JP

(73)【特許権者】

【識別番号】000002185

【氏名又は名称】ソニーグループ株式会社

(74)【代理人】

【識別番号】110002147

【氏名又は名称】弁理士法人酒井国際特許事務所

(72)【発明者】

【氏名】深沢 健太郎

【審査官】西島 篤宏

(56)【参考文献】

【文献】特開２０１６－１９２９８６（ＪＰ，Ａ）

【文献】特開２０１２－０１０７３０（ＪＰ，Ａ）

【文献】特開２００９－０４４３６１（ＪＰ，Ａ）

【文献】特開２０１３－０２５４６６（ＪＰ，Ａ）

【文献】特開２０１５－０２９８４１（ＪＰ，Ａ）

(58)【調査した分野】(Int.Cl.，ＤＢ名)

Ｈ０４Ｎ ７／１８

Ｈ０４Ｎ ２３／４０

Ｈ０４Ｎ ２３／５６

Ｈ０４Ｎ ２３／６０

Ａ６１Ｂ １／０４５

Ａ６１Ｂ １／００

(57)【特許請求の範囲】

【請求項1】

撮像対象に光を照射する光源と、
前記光を照射された前記撮像対象からの反射光を撮像する撮像装置と、
前記撮像装置で撮像した複数の画像を取得し、複数の前記画像のうちの１つの注目画像に対してノイズリダクション処理を行うノイズリダクション処理手段と、
前記画像における特徴量に基いて、複数の前記画像の間の動きベクトルを算出する動き推定手段と、を有し、
前記ノイズリダクション処理手段は、
前記注目画像に対して前記ノイズリダクション処理を行う場合に、
前記動きベクトルの大きさが所定の閾値以上の場合、前記注目画像の１フレーム前の画像を参照画像として用いて前記ノイズリダクション処理を行い、
前記動きベクトルの大きさが所定の閾値未満の場合、前記注目画像のＮ（Ｎは２以上の整数）フレーム前の前記画像を参照画像として用いて前記ノイズリダクション処理を行う、
医療システム。

【請求項2】

前記医療システムは、顕微鏡システム、または、内視鏡システムである、請求項１に記載の医療システム。

【請求項3】

光を照射された撮像対象からの反射光を撮像する撮像装置で撮像した複数の画像を取得し、複数の前記画像のうちの１つの注目画像に対してノイズリダクション処理を行うノイズリダクション処理手段と、
前記画像における特徴量に基いて、複数の前記画像の間の動きベクトルを算出する動き推定手段と、を有し、
前記ノイズリダクション処理手段は、
前記注目画像に対して前記ノイズリダクション処理を行う場合に、
前記動きベクトルの大きさが所定の閾値以上の場合、前記注目画像の１フレーム前の画像を参照画像として用いて前記ノイズリダクション処理を行い、
前記動きベクトルの大きさが所定の閾値未満の場合、前記注目画像のＮ（Ｎは２以上の整数）フレーム前の画像を参照画像として用いて前記ノイズリダクション処理を行う、
情報処理装置。

【請求項4】

光を照射された撮像対象からの反射光を撮像する撮像装置で撮像した複数の画像を取得し、複数の前記画像のうちの１つの注目画像に対してノイズリダクション処理を行うノイズリダクション処理工程と、
前記画像における特徴量に基いて、複数の前記画像の間の動きベクトルを算出する動き推定工程と、を含み、
前記ノイズリダクション処理工程は、
前記注目画像に対して前記ノイズリダクション処理を行う場合に、
前記動きベクトルの大きさが所定の閾値以上の場合、前記注目画像の１フレーム前の画像を参照画像として用いて前記ノイズリダクション処理を行い、
前記動きベクトルの大きさが所定の閾値未満の場合、前記注目画像のＮ（Ｎは２以上の整数）フレーム前の前記画像を参照画像として用いて前記ノイズリダクション処理を行う、情報処理方法。

【発明の詳細な説明】

【技術分野】

【0001】

本開示は、医療システム、情報処理装置及び情報処理方法に関する。

【背景技術】

【0002】

一般に、撮影により得られた動画は、各種のノイズを含んでいる可能性がある。そのため、動画のノイズを低減させるノイズリダクション処理（ＮＲ処理）を行うことが望ましい。また、医療分野において、動画のノイズ低減は、以下の事情により、特に重要となる場合がある。

【0003】

医療分野において、例えば、特定の波長帯域を有する特殊光（例えば近赤外光）を生体に照射して撮像した特殊光画像の動画を医師等が見ることで病変部等を視認する場合がある。しかし、白色光よりも波長帯域が狭い特殊光で撮像した特殊光画像は、一般に白色光画像よりも暗いので、ノイズよる影響が相対的に大きくなる。そのため、特殊光画像では、例えば所定の薬剤による生体の深部の微弱な蛍光がノイズに埋もれて見えなくなってしまう場合等がある。そうなると、医師がその画像を見て正しい判断をできなくなってしまう。

【0004】

したがって、そのような特殊光画像に対してＮＲ処理が必要となる。ＮＲ処理としては、主に、時間方向のＮＲ処理と、空間方向のＮＲ処理がある。時間方向のＮＲ処理は、高効率にノイズを低減する技術として知られている。時間方向のＮＲ処理では、例えば、時間方向に画素値の平均化等を行う。

【先行技術文献】

【特許文献】

【0005】

【文献】特許第５６０３６７６号公報

【発明の概要】

【発明が解決しようとする課題】

【0006】

しかしながら、従来の時間方向のＮＲ処理では、ノイズの大きさ自体は小さくなるが、ノイズの種類等によっては、時間方向でノイズの相関が高くなってノイズのフレームレート（時間変動）も小さくなる。そして、人の残像効果の視覚特性を考慮すると、ノイズのフレームレートの低下は、動画ノイズの視認性を向上させてしまう場合がある。

【0007】

そこで、本開示では、画像に対して時間方向のＮＲ処理を行って動画ノイズの視認性をより確実に低下させることができる医療システム、情報処理装置及び情報処理方法を提案する。

【課題を解決するための手段】

【0008】

上記の課題を解決するために、本開示に係る一形態の医療システムは、撮像対象に光を照射する光源と、前記光を照射された前記撮像対象からの反射光を撮像する撮像装置と、前記撮像装置で撮像した複数の画像を取得し、複数の前記画像のうちの１つの注目画像に対してノイズリダクション処理を行うノイズリダクション処理手段と、を有する。前記ノイズリダクション処理手段は、前記注目画像のＮ（Ｎは２以上の整数）フレーム前の前記画像を参照画像として用いる。

【図面の簡単な説明】

【0009】

【図1】本開示の第１実施形態に係る医療システムの構成を示す図である。

【図2】本開示の第１実施形態に係る情報処理装置の構成を示す図である。

【図3】本開示の第１実施形態における特殊光と白色光の信号とノイズの大きさの関係を示す模式図である。

【図4】比較例において時間方向のＮＲ処理を行った場合の入力信号と出力信号の経時的変化を模式的に示すグラフである。

【図5】本開示の第１実施形態において、（ａ）は入力信号、（ｂ）は偶数フレームのみでＮＲ処理した場合の出力信号、（ｃ）は奇数フレームのみでＮＲ処理した場合の出力信号、（ｄ）は実際の出力信号の経時的変化を模式的に示すグラフである。

【図6】本開示の第１実施形態に係る情報処理装置による画像処理を示すフローチャートである。

【図7】本開示の第２実施形態に係る情報処理装置の構成例を示す図である。

【図8】本開示の第２実施形態における動き補償とノイズリダクション処理の説明図である。

【図9】本開示の第２実施形態に係る情報処理装置による画像処理を示すフローチャートである。

【図10】本開示の第２実施形態において、（ａ）は動きらしさとブロックマッチング差分との関係を示すグラフで、（ｂ）は動きらしさと過去連続静止判定フレーム数との関係を示すグラフである。

【図11】本開示の第３実施形態に係る情報処理装置による画像処理を示すフローチャートである。

【図12】入力信号と比較例の方法と本開示の第１実施形態における第１の方法と第２の方法とにおける画像とそれらのＦＦＴ結果を示す図である。

【図13】本開示の応用例１に係る内視鏡手術システムの概略的な構成の一例を示す図である。

【図14】図１３に示すカメラヘッド及びＣＣＵの機能構成の一例を示すブロック図である。

【図15】本開示の応用例２に係る顕微鏡手術システムの概略的な構成の一例を示す図である。

【図16】図１５に示す顕微鏡手術システムを用いた手術の様子を示す図である。

【発明を実施するための形態】

【0010】

以下に、本開示の実施形態について図面に基いて詳細に説明する。なお、以下の各実施形態において、同一の構成には同一の符号を付することにより重複する説明を適宜省略する。

【0011】

（第１実施形態）
まず、第１実施形態について説明する。図１は、本開示の第１実施形態に係る医療システム１の構成を示す図である。第１実施形態に係る医療システム１は、大別して、光源２（光源）、撮像装置３（撮像装置）、情報処理装置４を少なくとも備える。また、医療システム１は、必要に応じて、表示装置５等をさらに備えることも可能である。以下、各構成について詳細に説明する。

【0012】

（１）光源
光源２は、特定の波長帯域を有する特殊光（光の例）を撮像対象９に照射する。特殊光は、一例として近赤外光である。

【0013】

（２）撮像対象
撮像対象９は、様々なものでありえるが、例えば、生体である。例えば、本開示に係る医療システム１を顕微鏡手術や内視鏡手術などで用いることで、血管の位置を確認しながら手術を行うことが可能である。そのため、より安全で高精度な手術を行うことができ、医療技術の更なる発展にも寄与することができる。

【0014】

（３）撮像装置
撮像装置３は、特殊光が照射された撮像対象９からの反射光を撮像する。撮像装置３は、例えば、特殊光画像を撮像するＩＲ（Infrared）イメージャである。

【0015】

（４）情報処理装置
次に、図２を参照して、情報処理装置４について説明する。図２は、本開示の第１実施形態に係る情報処理装置４の構成を示す図である。情報処理装置４は、画像処理装置であり、主な構成として、処理部４１と記憶部４２を備える。なお、以下では、情報処理装置４について、各機能のうち、主にＮＲ処理に関連する事項について説明し、ＮＲ処理以外の各種カメラ用画像信号処理等については説明を適宜省略する。

【0016】

また、情報処理装置４が実行する処理の詳細について説明する前に、図３～図５を参照して、情報処理装置４が実行する処理の概要や意義について説明する。図３は、本開示の第１実施形態における特殊光と白色光の信号とノイズの大きさの関係を示す模式図である。図３に示すように、特殊光を用いて得られる信号は、白色光を用いて得られる信号と比較して、相対的にノイズに対して小さい。したがって、特殊光画像では、例えば所定の薬剤による生体の深部の微弱な蛍光がノイズに埋もれて見えなくなってしまう場合等がある。そうなると、医師がその画像を見て正しい判断をできなくなってしまう。

【0017】

そこで、特殊光画像に対して時間方向のＮＲ処理を行うことが考えられる。時間方向のＮＲ処理では、例えば、時間方向に画素値の平均化等を行う。

【0018】

ここで、図４は、比較例（従来技術）において時間方向のＮＲ処理を行った場合の（ａ）入力信号と（ｂ）出力信号の経時的変化を模式的に示すグラフである。なお、図４における（ａ）入力信号と（ｂ）出力信号は、本来の正規な信号以外のノイズ成分だけを示しているものとする。

【0019】

一般に、動画におけるノイズには、ノイズの大きさが時間経過とともに変わらない固定ノイズと、ノイズの大きさが時間経過とともに変わる可変ノイズがある。それらのうち、本実施形態で主に対象となるノイズは後者の可変ノイズである。可変ノイズには、例えば、ＩＲ（Infrared）イメージャ等の撮像装置３に起因して発生するいわゆる光ショットノイズや、撮像装置３の周辺の各種電子機器が発する電磁波に起因する電磁波ノイズ等がある。

【0020】

図４に示す（ａ）入力信号は、可変ノイズである。そして、その（ａ）入力信号に対して従来の時間方向のＮＲ処理を行うことによって得られた（ｂ）出力信号は、（ａ）入力信号と比べて、ノイズの大きさ自体は小さくなるが、時間方向でノイズの相関が高くなってノイズのフレームレートも小さくなる。

【0021】

また、人の視覚特性として、５０ｍｓ～１００ｍｓ程度の残像効果があると考えられている。したがって、人の残像効果の視覚特性を考慮すると、ノイズのフレームレートの低下は、動画ノイズの視認性を向上させてしまう場合がある。したがって、ＮＲ部４１２（詳細は後述）がＮ（Ｎは２以上の整数）フレーム前の画像を参照画像として用いてＮＲ処理を行う場合、そのＮは、以下の式（１）を満たす２以上の整数であることが好ましい。
（フレーム間の時間長）×Ｎ≦１００ｍｓ ・・・式（１）

【0022】

例えば、フレームレートが６０ｆｐｓ（frames per second）であれば、フレーム間の時間長は５０／３ｍｓであり、Ｎは２～６のいずれかの整数であることが好ましい。そして、この第１実施形態では、主にＮ＝２の場合を例にとって説明する。

【0023】

以下において、フレーム番号が偶数であるフレーム（画像）を偶数フレームと称し、フレーム番号が奇数であるフレームを奇数フレームと称する場合がある。

【0024】

図５は、本開示の第１実施形態において、（ａ）は入力信号、（ｂ）は偶数フレームのみでＮＲ処理した場合の出力信号、（ｃ）は奇数フレームのみでＮＲ処理した場合の出力信号、（ｄ）は実際の出力信号の経時的変化を模式的に示すグラフである。また、図５における各信号は、図４の場合と同様、本来の正規な信号以外のノイズ成分だけを示しているものとする。

【0025】

第１実施形態の情報処理装置４では、時系列に複数の画像のうちの１つの注目画像に対して時間方向にＮＲ処理を行う場合、２フレーム前の画像を参照画像として用いてＮＲ処理を行う。その場合、例えば、注目画像と参照画像を加重平均することでＮＲ処理を行う。

【0026】

そして、偶数フレームの入力画像に対しては、２フレーム前の画像として直近の偶数フレームの出力画像を参照画像として使用して、ＮＲ処理を行う。また、奇数フレームの入力画像に対しては、２フレーム前の画像として直近の奇数フレームの出力画像を参照画像として使用して、ＮＲ処理を行う。

【0027】

図５（ａ）に示す入力信号Ｓ１に対して、図５（ｂ）では偶数フレームのみでＮＲ処理した場合の出力信号Ｓ２を示し、図５（ｃ）では奇数フレームのみでＮＲ処理した場合の出力信号Ｓ３を示している。そして、図５（ｄ）では、実際の出力信号Ｓ４として、偶数フレームのタイミングでは図５（ｂ）の出力信号Ｓ２を採用し、奇数フレームのタイミングでは図５（ｃ）の出力信号Ｓ３を採用した場合を示している。

【0028】

この図５（ｄ）の出力信号Ｓ４は、図４（ｂ）の出力信号と比べて、ノイズのフレームレートが低下してないことがわかる。したがって、ノイズのフレームレートが低下していないので、動画ノイズの視認性を向上させてしまう事態を回避できる。

【0029】

図２に戻って、情報処理装置４が実行する処理の詳細について説明する。処理部４１は、例えば、ＣＰＵ（Central Processing Unit）により実現され、取得部４１１、ＮＲ部４１２（ノイズリダクション処理手段）、参照画像選択部４１３（参照画像選択手段）、参照画像記憶制御部４１４、および、表示制御部４１５を備える。

【0030】

取得部４１１は、特殊光を照射された撮像対象９からの反射光を撮像する撮像装置３で撮像した時系列の複数の画像を取得する。

【0031】

ＮＲ部４１２は、時系列の複数の画像のうちの１つの注目画像（入力画像）に対して時間方向にＮＲ処理を行う。その場合、ＮＲ部４１２は、Ｎ（Ｎは２以上の整数）フレーム前の画像を参照画像として用いてＮＲ処理を行う。ＮＲ部４１２は、例えば、注目画像（入力画像）と参照画像を加重平均することでＮＲ処理を行う。

【0032】

参照画像選択部４１３は、参照画像を選択する。具体的には、参照画像選択部４１３は、入力画像のフレーム番号に基いて、フレーム番号が偶数であれば偶数フレーム用記憶部４２１から参照画像を選択し、フレーム番号が奇数であれば奇数フレーム用記憶部４２２から参照画像を選択する。

【0033】

参照画像記憶制御部４１４は、出力画像の記憶先を制御する。具体的には、参照画像記憶制御部４１４は、出力画像のフレーム番号に基いて、フレーム番号が偶数であれば偶数フレーム用記憶部４２１に出力画像を保存し、フレーム番号が奇数であれば奇数フレーム用記憶部４２２に出力画像を保存する。

【0034】

表示制御部４１５は、ＮＲ処理等した特殊光画像等を表示装置５に表示させる制御を行う。

【0035】

記憶部４２は、取得部４１１によって取得された特殊光画像や、処理部４１の各部による演算結果等の各種情報を記憶する。また、記憶部４２は、偶数フレーム用記憶部４２１と奇数フレーム用記憶部４２２を備える。

【0036】

偶数フレーム用記憶部４２１は、フレーム番号が偶数の参照画像（出力画像）を記憶する。奇数フレーム用記憶部４２２は、フレーム番号が奇数の参照画像（出力画像）を記憶する。なお、例えば、偶数フレーム用記憶部４２１と奇数フレーム用記憶部４２２は、それぞれ、最新の出力画像のみを上書きで保存するものとすればよいが、これに限定されない。また、記憶部４２の代わりに、医療システム１の外部の記憶装置を用いてもよい。

【0037】

（５）表示装置
表示装置５は、表示制御部４１５から制御されることによって、取得部４１１によって取得された特殊光画像や、処理部４１の各部による演算結果等の各種情報を表示する。なお、表示装置５の代わりに、医療システム１の外部の表示装置を用いてもよい。

【0038】

次に、図６を参照して、情報処理装置４による画像処理について説明する。図６は、本開示の第１実施形態に係る情報処理装置４による画像処理を示すフローチャートである。

【0039】

ステップＳ１において、取得部４１１は、特殊光を照射された撮像対象９からの反射光を撮像する撮像装置３から画像（入力画像）を取得する。

【0040】

次に、ステップＳ２において、処理部４１は、入力画像が偶数フレームか否かを判定し、Ｙｅｓの場合はステップＳ３に進み、Ｎｏの場合はステップＳ４に進む。

【0041】

ステップＳ３において、参照画像選択部４１３は、偶数フレーム用記憶部４２１から参照画像を取得（選択）する。

【0042】

ステップＳ４において、参照画像選択部４１３は、奇数フレーム用記憶部４２２から参照画像を取得（選択）する。

【0043】

ステップＳ３、Ｓ４の後、ステップＳ５において、ＮＲ部４１２は、入力画像と参照画像に基いて、ＮＲ処理を行う。

【0044】

次に、ステップＳ６において、処理部４１は、出力画像が偶数フレームか否かを判定し、Ｙｅｓの場合はステップＳ７に進み、Ｎｏの場合はステップＳ８に進む。

【0045】

ステップＳ７において、参照画像記憶制御部４１４は、出力画像を偶数フレーム用記憶部４２１に保存する。

【0046】

ステップＳ８において、参照画像記憶制御部４１４は、出力画像を奇数フレーム用記憶部４２２に保存する。

【0047】

また、ステップＳ７、Ｓ８の後、表示制御部４１５は、ユーザによる操作等に応じて、ＮＲ処理後の特殊光画像等を表示装置５に表示させる制御を行う。

【0048】

このように、第１実施形態の情報処理装置４によれば、入力画像に対して時間方向にＮＲ処理を行う場合に、２フレーム前（Ｎフレーム前の一例）の画像を参照画像として用いてＮＲ処理を行うことで、ノイズの大きさ自体は小さくなっても、ノイズのフレームレートは小さくならず、動画ノイズの視認性をより確実に低下させることができる。

【0049】

例えば、脳神経外科手術や心臓外科手術などにおいて、手術時の血流観察のためにＩＣＧ（Indocyanine Green）を用いた蛍光観察が一般的に行われている。これはＩＣＧが生体内で血漿蛋白と結合し、近赤外の励起光により蛍光を発する特徴を利用して、血管やリンパ管の走行を低侵襲に観察する手法である。その場合に、第１実施形態の情報処理装置４によれば、白色光画像よりも相対的にノイズよる影響が大きな特殊光画像に対して時間方向にＮＲ処理を行った場合に、ノイズのフレームレートは小さくならず、動画ノイズの視認性をより確実に低下させることができる。そのため、ＮＲ処理後の特殊光画像を医師が見て誤った判断を下す可能性が低下し、手術をより安全に行うことが可能となる。このような作用効果等の詳細については、以下の応用例１、２で後述する。

【0050】

（第２実施形態）
次に、第２実施形態について説明する。第１実施形態と同様の事項については、説明を適宜省略する。第１実施形態では、時間方向のＮＲ処理を行う際に、入力画像における経時的な動き（例えば撮像対象９である生体における拍動や体動等による動き）に関係なくＮフレーム前の出力画像を参照画像として用いるものとした。一方、第２実施形態では、入力画像における経時的な動きに基いてＮフレーム前の出力画像と１フレーム前の出力画像を参照画像として使い分けるものとする。

【0051】

図７は、本開示の第２実施形態に係る情報処理装置４の構成例を示す図である。図７の情報処理装置４は、図２の情報処理装置４と比較して、処理部４１が動き推定部４１６（動き推定手段）を備えており、また、記憶部４２が全フレーム用記憶部４２３を備えている点で相違する。

【0052】

動き推定部４１６は、画像における特徴量に基いて、複数の画像の間の動きベクトルを算出する。なお、動き推定部４１６による動き推定の具体的な手法は、例えば、ブロック（テンプレート）マッチングや勾配法であればよいが、これらに限定されず、任意の手法であってよい。また、この動き推定は、画素単位でもよいし、ブロック（一群の画素）単位でもよい。

【0053】

例えば、動き推定部４１６は、ブロックマッチング差分（ブロックマッチングによる差分の値）が第１の閾値以上のときは動きがあり、ブロックマッチング差分が第１の閾値未満のときは動きが無いと判定すればよい。

【0054】

また、動き推定部４１６は、過去連続静止判定フレーム数（過去に連続して静止と判定したフレーム数）が第２の閾値未満のときは動きがあり、過去連続静止判定フレーム数が第２の閾値以上のときは動きが無いと判定すればよい。これは、統計的な手法である。

【0055】

全フレーム用記憶部４２３は、すべての参照画像（出力画像）を記憶する。なお、例えば、全フレーム用記憶部４２３は、最新の出力画像のみを上書きで保存するものとすればよいが、これに限定されない。

【0056】

ＮＲ部４１２は、注目画像（入力画像）に対して時間方向にＮＲ処理を行う場合に、動き推定部４１６によって算出された動きベクトルの大きさに応じて、Ｎフレーム前の画像と１フレーム前の画像の少なくともいずれかを参照画像として用いてＮＲ処理を行う。

【0057】

より具体的には、例えば、ＮＲ部４１２は、動きベクトルの大きさが所定の閾値以上の場合（例えば動きがありと判定された場合）、１フレーム前の画像を参照画像として用いてＮＲ処理を行い、動きベクトルの大きさが所定の閾値未満の場合（例えば動きが無しと判定された場合）、Ｎフレーム前の画像を参照画像として用いてＮＲ処理を行う。

【0058】

ここで、図８は、本開示の第２実施形態における動き補償とノイズリダクション処理の説明図である。ＮＲ部４１２は、過去画像（１フレーム以上前の出力画像）に対して動き補償を行った動き補償画像と入力画像を用いて、ＮＲ処理を行うことができる。

【0059】

次に、図９を参照して、第２実施形態に係る情報処理装置４による画像処理について説明する。図９は、本開示の第２実施形態に係る情報処理装置４による画像処理を示すフローチャートである。

【0060】

ステップＳ１１において、取得部４１１は、特殊光を照射された撮像対象９からの反射光を撮像する撮像装置３から画像（入力画像）を取得する。

【0061】

次に、ステップＳ１２において、動き推定部４１６は、画像における特徴量に基いて、複数の画像の間の動きベクトルを算出する。

【0062】

次に、ステップＳ１３において、動き推定部４１６は、動きがあるか否かを判定し、Ｙｅｓの場合はステップＳ１４に進み、Ｎｏの場合はステップＳ１５に進む。

【0063】

ステップＳ１４において、参照画像選択部４１３は、全フレーム用記憶部４２３から参照画像を取得（選択）する。

【0064】

ステップＳ１５において、処理部４１は、入力画像が偶数フレームか否かを判定し、Ｙｅｓの場合はステップＳ１６に進み、Ｎｏの場合はステップＳ１７に進む。

【0065】

ステップＳ１６において、参照画像選択部４１３は、偶数フレーム用記憶部４２１から参照画像を取得（選択）する。

【0066】

ステップＳ１７において、参照画像選択部４１３は、奇数フレーム用記憶部４２２から参照画像を取得（選択）する。

【0067】

ステップＳ１４、Ｓ１６、Ｓ１７の後、ステップＳ１８において、ＮＲ部４１２は、入力画像と参照画像に基いて、ＮＲ処理を行う。ステップＳ１４を経由している場合、ＮＲ部４１２は、上述の動き補償を行った上で、入力画像と参照画像に基いて、ＮＲ処理を行う。

【0068】

次に、ステップＳ１９において、処理部４１は、出力画像が偶数フレームか否かを判定し、Ｙｅｓの場合はステップＳ２０に進み、Ｎｏの場合はステップＳ２１に進む。

【0069】

ステップＳ２０において、参照画像記憶制御部４１４は、出力画像を偶数フレーム用記憶部４２１に保存する。

【0070】

ステップＳ２１において、参照画像記憶制御部４１４は、出力画像を奇数フレーム用記憶部４２２に保存する。

【0071】

ステップＳ２０、Ｓ２１の後、ステップＳ２２において、参照画像記憶制御部４１４は、出力画像を全フレーム用記憶部４２３に保存する。

【0072】

また、ステップＳ２２の後、表示制御部４１５は、ユーザによる操作等に応じて、ＮＲ処理後の特殊光画像等を表示装置５に表示させる制御を行う。

【0073】

このように、第２実施形態の情報処理装置４によれば、入力画像に対して時間方向にＮＲ処理を行う場合に、動き推定の結果に応じて、２フレーム前（Ｎフレーム前の一例）の画像と１フレーム前の画像を参照画像として使い分けてＮＲ処理を行うことで、動きがある場合にも柔軟に対応できる。

【0074】

つまり、例えば、動きがある場合でも２フレーム前の画像を参照画像として用いると、動被写体の動きベクトルの大きさが１フレーム前の画像の場合に比べて大きくなり、動き推定や動き補償の難易度や計算コスト等が高まる場合があるが、そのような事態を回避できる。

【0075】

（第３実施形態）
次に、第３実施形態について説明する。第２実施形態と同様の事項については、説明を適宜省略する。第２実施形態では、画像中の画素単位やブロック単位で、動きがありか無しかを判定していた。一方、第３実施形態では、画像中の画素単位やブロック単位で、動きについて、「１」（あり）～「０」（無し）の多値で判定する。

【0076】

図１０は、本開示の第３実施形態において、（ａ）は動きらしさとブロックマッチング差分との関係を示すグラフで、（ｂ）は動きらしさと過去連続静止判定フレーム数との関係を示すグラフである。

【0077】

図１０（ａ）において、縦軸は動きらしさを示し、横軸はブロックマッチング差分を示す。動きらしさは、ブロックマッチング差分が０以上でＢ１未満のときは「０」で、ブロックマッチング差分がＢ２以上のときは「１」で、ブロックマッチング差分がＢ１以上でＢ２未満のときは「０」～「１」の間で線形に変化する値となっている。

【0078】

図１０（ｂ）において、縦軸は動きらしさを示し、横軸は過去連続静止判定フレーム数を示す。動きらしさは、過去連続静止判定フレーム数が０以上でＰ１未満のときは「１」で、過去連続静止判定フレーム数がＰ２以上のときは「０」で、過去連続静止判定フレーム数がＰ１以上でＰ２未満のときは「１」～「０」の間で線形に変化する値となっている。これは、統計的な手法である。また、線形というのは一例であり、非線形であってもよい。

【0079】

そして、参照画像選択部４１３（図７）は、Ｎフレーム前の画像と１フレーム前の画像を動きらしさ（動きベクトルの大きさ）に応じた重み（例えば、動きらしさをαとすると「１－α」：「α」）付きで合成して合成参照画像を作成する。ＮＲ部４１２は、その合成参照画像を用いて、動き補償を行った上で、ＮＲ処理を行う。

【0080】

次に、図１１を参照して、第３実施形態に係る情報処理装置４による画像処理について説明する。図１１は、本開示の第３実施形態に係る情報処理装置４による画像処理を示すフローチャートである。

【0081】

ステップＳ１１において、取得部４１１は、特殊光を照射された撮像対象９からの反射光を撮像する撮像装置３から画像（入力画像）を取得する。

【0082】

次に、ステップＳ１２において、動き推定部４１６は、画像における特徴量に基いて、複数の画像の間の動きを推定（動きベクトルを算出）する。

【0083】

次に、ステップＳ３１において、処理部４１は、入力画像が偶数フレームか否かを判定し、Ｙｅｓの場合はステップＳ３２に進み、Ｎｏの場合はステップＳ３３に進む。

【0084】

ステップＳ３２において、参照画像選択部４１３は、偶数フレーム用記憶部４２１の参照画像（Ｎフレーム前の画像）と全フレーム用記憶部４２３の参照画像（１フレーム前の画像）を動きらしさ（動きベクトルの大きさ）に応じた重み付きで合成して合成参照画像を作成する。

【0085】

ステップＳ３３において、参照画像選択部４１３は、奇数フレーム用記憶部４２２の参照画像（Ｎフレーム前の画像）と全フレーム用記憶部４２３の参照画像（１フレーム前の画像）を動きらしさ（動きベクトルの大きさ）に応じた重み付きで合成して合成参照画像を作成する。

【0086】

ステップＳ３２、Ｓ３３の後、ステップＳ３４において、ＮＲ部４１２は、入力画像と合成参照画像に基いて、動き補償を行った上で、ＮＲ処理を行う。ステップＳ１９～Ｓ２２は図９と同様であるので、説明を省略する。

【0087】

このように、第３実施形態の情報処理装置４によれば、画像中の動きを「１」（あり）～「０」（無し）の多値で判定し、その判定結果に応じてＮフレーム前の参照画像と１フレーム前の画像を合成（ブレンド）してＮＲ処理に用いることで、画像中の動きにより柔軟に対応し、ＮＲ処理の精度をさらに高めることができる。

【0088】

（実験によるＦＦＴ結果）
次に、図１２を参照して、実験による比較例と第１実施形態のＦＦＴ（Fast Fourier Transform）結果について説明する。図１２は、入力信号と比較例の方法と本開示の第１実施形態における第１の方法と第２の方法とにおける画像とそれらのＦＦＴ結果を示す図である。なお、図１２では、図４、図５と同様、本来の正規な信号以外のノイズ成分だけを示している。

【0089】

図１２（ａ１）に示す入力信号は、矩形の画像に対応する入力信号のうち、垂直方向の所定の１ライン分（縦軸）の入力信号の画素値を時間経過（横軸）とともに示したものである。なお、（ｂ１）、（ｃ１）、（ｄ１）についても、縦軸と横軸は（ａ１）と同様である。

【0090】

そして、図１２（ａ１）に示す入力信号について、比較例（従来技術）の方法により１フレーム前の参照画像を用いて時間方向に巡回型ＮＲ処理した場合の結果は、図１２（ｂ１）に示す通りである。

【0091】

また、図１２（ａ１）に示す入力信号について、第１実施形態の第１の方法により２フレーム前の参照画像を用いて時間方向に巡回型ＮＲ処理した場合の結果は、図１２（ｃ１）に示す通りである。

【0092】

また、図１２（ａ１）に示す入力信号について、第１実施形態の第２の方法により３フレーム前の参照画像を用いて時間方向に巡回型ＮＲ処理した場合の結果は、図１２（ｄ１）に示す通りである。

【0093】

また、図１２（ａ１）～（ｄ１）で示す画像について、ＦＦＴによる解析を行った結果は、図１２（ａ２）～（ｄ２）に示す通りである。図１２（ａ２）～（ｄ２）において、縦軸は図１２（ａ１）～（ｄ１）と同様に垂直方向の所定の１ライン分を示し、横軸は周波数（中央が低く、両端が高い）を示す。また、図１２（ａ２）～（ｄ２）では、黒色は該当無しを示し、白色が強いほど該当の度合いが大きいことを示す。

【0094】

図１２（ａ２）では、高周波数から低周波数まで分散している。一方、図１２（ｂ２）では、低周波数に偏っている。つまり、比較例（従来技術）の方法では、ＮＲ処理で１フレーム前の参照画像を用いていることにより、ノイズのフレームレートが大きく低下している。

【0095】

また、図１２（ｃ２）では、高周波（サンプリング周波数の1/2の付近）２つと低周波数の３つに分散している。つまり、第１実施形態の第１の方法では、ＮＲ処理で２フレーム前の参照画像を用いていることにより、ノイズのフレームレートが低下を、比較例の方法に比べて大きく抑制していることがわかる。

【0096】

また、図１２（ｄ２）では、高周波（サンプリング周波数の1/3の付近）２つと低周波数の３つに分散している。つまり、第１実施形態の第２の方法では、ＮＲ処理で３フレーム前の参照画像を用いていることにより、ノイズのフレームレートが低下を、比較例の方法に比べて大きく抑制していることがわかる。

【0097】

（応用例１）
本開示に係る技術は、様々な製品へ応用することができる。例えば、本開示に係る技術は、内視鏡システムに適用されてもよい。以下、内視鏡システムの一例である内視鏡手術システムについて説明する。

【0098】

図１３は、本開示に係る技術が適用され得る内視鏡手術システム５０００の概略的な構成の一例を示す図である。図１３では、術者（医師）５０６７が、内視鏡手術システム５０００を用いて、患者ベッド５０６９上の患者５０７１に手術を行っている様子が図示されている。図示するように、内視鏡手術システム５０００は、内視鏡５００１と、その他の術具５０１７と、内視鏡５００１を支持する支持アーム装置５０２７と、内視鏡下手術のための各種の装置が搭載されたカート５０３７と、から構成される。

【0099】

内視鏡手術では、腹壁を切って開腹する代わりに、トロッカ５０２５ａ～５０２５ｄと呼ばれる筒状の開孔器具が腹壁に複数穿刺される。そして、トロッカ５０２５ａ～５０２５ｄから、内視鏡５００１の鏡筒５００３や、その他の術具５０１７が患者５０７１の体腔内に挿入される。図示する例では、その他の術具５０１７として、気腹チューブ５０１９、エネルギー処置具５０２１及び鉗子５０２３が、患者５０７１の体腔内に挿入されている。また、エネルギー処置具５０２１は、高周波電流や超音波振動により、組織の切開及び剥離、又は血管の封止等を行う処置具である。ただし、図示する術具５０１７はあくまで一例であり、術具５０１７としては、例えば攝子、レトラクタ等、一般的に内視鏡下手術において用いられる各種の術具が用いられてよい。

【0100】

内視鏡５００１によって撮影された患者５０７１の体腔内の術部の画像が、表示装置５０４１に表示される。術者５０６７は、表示装置５０４１に表示された術部の画像をリアルタイムで見ながら、エネルギー処置具５０２１や鉗子５０２３を用いて、例えば患部を切除する等の処置を行う。なお、図示は省略しているが、気腹チューブ５０１９、エネルギー処置具５０２１及び鉗子５０２３は、手術中に、術者５０６７又は助手等によって支持される。

【0101】

（支持アーム装置）
支持アーム装置５０２７は、ベース部５０２９から延伸するアーム部５０３１を備える。図示する例では、アーム部５０３１は、関節部５０３３ａ、５０３３ｂ、５０３３ｃ、及びリンク５０３５ａ、５０３５ｂから構成されており、アーム制御装置５０４５からの制御により駆動される。アーム部５０３１によって内視鏡５００１が支持され、その位置及び姿勢が制御される。これにより、内視鏡５００１の安定的な位置の固定が実現され得る。

【0102】

（内視鏡）
内視鏡５００１は、先端から所定の長さの領域が患者５０７１の体腔内に挿入される鏡筒５００３と、鏡筒５００３の基端に接続されるカメラヘッド５００５と、から構成される。図示する例では、硬性の鏡筒５００３を有するいわゆる硬性鏡として構成される内視鏡５００１を図示しているが、内視鏡５００１は、軟性の鏡筒５００３を有するいわゆる軟性鏡として構成されてもよい。

【0103】

鏡筒５００３の先端には、対物レンズが嵌め込まれた開口部が設けられている。内視鏡５００１には光源装置５０４３が接続されており、当該光源装置５０４３によって生成された光が、鏡筒５００３の内部に延設されるライトガイドによって当該鏡筒の先端まで導光され、対物レンズを介して患者５０７１の体腔内の観察対象に向かって照射される。なお、内視鏡５００１は、直視鏡であってもよいし、斜視鏡又は側視鏡であってもよい。

【0104】

カメラヘッド５００５の内部には光学系及び撮像素子が設けられており、観察対象からの反射光（観察光）は当該光学系によって当該撮像素子に集光される。当該撮像素子によって観察光が光電変換され、観察光に対応する電気信号、すなわち観察像に対応する画像信号が生成される。当該画像信号は、ＲＡＷデータとしてカメラコントロールユニット（ＣＣＵ：Camera Control Unit）５０３９に送信される。なお、カメラヘッド５００５には、その光学系を適宜駆動させることにより、倍率及び焦点距離を調整する機能が搭載される。

【0105】

なお、例えば立体視（３Ｄ表示）等に対応するために、カメラヘッド５００５には撮像素子が複数設けられてもよい。この場合、鏡筒５００３の内部には、当該複数の撮像素子のそれぞれに観察光を導光するために、リレー光学系が複数系統設けられる。

【0106】

（カートに搭載される各種の装置）
ＣＣＵ５０３９は、ＣＰＵ（Central Processing Unit）やＧＰＵ（Graphics Processing Unit）等によって構成され、内視鏡５００１及び表示装置５０４１の動作を統括的に制御する。具体的には、ＣＣＵ５０３９は、カメラヘッド５００５から受け取った画像信号に対して、例えば現像処理（デモザイク処理）等の、当該画像信号に基づく画像を表示するための各種の画像処理を施す。ＣＣＵ５０３９は、当該画像処理を施した画像信号を表示装置５０４１に提供する。また、ＣＣＵ５０３９は、カメラヘッド５００５に対して制御信号を送信し、その駆動を制御する。当該制御信号には、倍率や焦点距離等、撮像条件に関する情報が含まれ得る。

【0107】

表示装置５０４１は、ＣＣＵ５０３９からの制御により、当該ＣＣＵ５０３９によって画像処理が施された画像信号に基づく画像を表示する。内視鏡５００１が例えば４Ｋ（水平画素数３８４０×垂直画素数２１６０）又は８Ｋ（水平画素数７６８０×垂直画素数４３２０）等の高解像度の撮影に対応したものである場合、及び／又は３Ｄ表示に対応したものである場合には、表示装置５０４１としては、それぞれに対応して、高解像度の表示が可能なもの、及び／又は３Ｄ表示可能なものが用いられ得る。４Ｋ又は８Ｋ等の高解像度の撮影に対応したものである場合、表示装置５０４１として５５インチ以上のサイズのものを用いることで一層の没入感が得られる。また、用途に応じて、解像度、サイズが異なる複数の表示装置５０４１が設けられてもよい。

【0108】

光源装置５０４３は、例えばＬＥＤ（Light Emitting Diode）等の光源から構成され、術部を撮影する際の照射光を内視鏡５００１に供給する。

【0109】

アーム制御装置５０４５は、例えばＣＰＵ等のプロセッサによって構成され、所定のプログラムに従って動作することにより、所定の制御方式に従って支持アーム装置５０２７のアーム部５０３１の駆動を制御する。

【0110】

入力装置５０４７は、内視鏡手術システム５０００に対する入力インタフェースである。ユーザは、入力装置５０４７を介して、内視鏡手術システム５０００に対して各種の情報の入力や指示入力を行うことができる。例えば、ユーザは、入力装置５０４７を介して、患者の身体情報や、手術の術式についての情報等、手術に関する各種の情報を入力する。また、例えば、ユーザは、入力装置５０４７を介して、アーム部５０３１を駆動させる旨の指示や、内視鏡５００１による撮像条件（照射光の種類、倍率及び焦点距離等）を変更する旨の指示、エネルギー処置具５０２１を駆動させる旨の指示等を入力する。

【0111】

入力装置５０４７の種類は限定されず、入力装置５０４７は各種の公知の入力装置であってよい。入力装置５０４７としては、例えば、マウス、キーボード、タッチパネル、スイッチ、フットスイッチ５０５７及び／又はレバー等が適用され得る。入力装置５０４７としてタッチパネルが用いられる場合には、当該タッチパネルは表示装置５０４１の表示面上に設けられてもよい。

【0112】

あるいは、入力装置５０４７は、例えばメガネ型のウェアラブルデバイスやＨＭＤ（HeadMounted Display）等の、ユーザによって装着されるデバイスであり、これらのデバイスによって検出されるユーザのジェスチャや視線に応じて各種の入力が行われる。また、入力装置５０４７は、ユーザの動きを検出可能なカメラを含み、当該カメラによって撮像された映像から検出されるユーザのジェスチャや視線に応じて各種の入力が行われる。更に、入力装置５０４７は、ユーザの声を収音可能なマイクロフォンを含み、当該マイクロフォンを介して音声によって各種の入力が行われる。このように、入力装置５０４７が非接触で各種の情報を入力可能に構成されることにより、特に清潔域に属するユーザ（例えば術者５０６７）が、不潔域に属する機器を非接触で操作することが可能となる。また、ユーザは、所持している術具から手を離すことなく機器を操作することが可能となるため、ユーザの利便性が向上する。

【0113】

処置具制御装置５０４９は、組織の焼灼、切開又は血管の封止等のためのエネルギー処置具５０２１の駆動を制御する。気腹装置５０５１は、内視鏡５００１による視野の確保及び術者の作業空間の確保の目的で、患者５０７１の体腔を膨らめるために、気腹チューブ５０１９を介して当該体腔内にガスを送り込む。レコーダ５０５３は、手術に関する各種の情報を記録可能な装置である。プリンタ５０５５は、手術に関する各種の情報を、テキスト、画像又はグラフ等各種の形式で印刷可能な装置である。

【0114】

以下、内視鏡手術システム５０００において特に特徴的な構成について、更に詳細に説明する。

【0115】

（支持アーム装置）
支持アーム装置５０２７は、基台であるベース部５０２９と、ベース部５０２９から延伸するアーム部５０３１と、を備える。図示する例では、アーム部５０３１は、複数の関節部５０３３ａ、５０３３ｂ、５０３３ｃと、関節部５０３３ｂによって連結される複数のリンク５０３５ａ、５０３５ｂと、から構成されているが、図１３では、簡単のため、アーム部５０３１の構成を簡略化して図示している。実際には、アーム部５０３１が所望の自由度を有するように、関節部５０３３ａ～５０３３ｃ及びリンク５０３５ａ、５０３５ｂの形状、数及び配置、並びに関節部５０３３ａ～５０３３ｃの回転軸の方向等が適宜設定され得る。例えば、アーム部５０３１は、好適に、６自由度以上の自由度を有するように構成され得る。これにより、アーム部５０３１の可動範囲内において内視鏡５００１を自由に移動させることが可能になるため、所望の方向から内視鏡５００１の鏡筒５００３を患者５０７１の体腔内に挿入することが可能になる。

【0116】

関節部５０３３ａ～５０３３ｃにはアクチュエータが設けられており、関節部５０３３ａ～５０３３ｃは当該アクチュエータの駆動により所定の回転軸まわりに回転可能に構成されている。当該アクチュエータの駆動がアーム制御装置５０４５によって制御されることにより、各関節部５０３３ａ～５０３３ｃの回転角度が制御され、アーム部５０３１の駆動が制御される。これにより、内視鏡５００１の位置及び姿勢の制御が実現され得る。この際、アーム制御装置５０４５は、力制御又は位置制御等、各種の公知の制御方式によってアーム部５０３１の駆動を制御することができる。

【0117】

例えば、術者５０６７が、入力装置５０４７（フットスイッチ５０５７を含む）を介して適宜操作入力を行うことにより、当該操作入力に応じてアーム制御装置５０４５によってアーム部５０３１の駆動が適宜制御され、内視鏡５００１の位置及び姿勢が制御されてよい。当該制御により、アーム部５０３１の先端の内視鏡５００１を任意の位置から任意の位置まで移動させた後、その移動後の位置で固定的に支持することができる。なお、アーム部５０３１は、いわゆるマスタースレイブ方式で操作されてもよい。この場合、アーム部５０３１は、手術室から離れた場所に設置される入力装置５０４７を介してユーザによって遠隔操作され得る。

【0118】

また、力制御が適用される場合には、アーム制御装置５０４５は、ユーザからの外力を受け、その外力にならってスムーズにアーム部５０３１が移動するように、各関節部５０３３ａ～５０３３ｃのアクチュエータを駆動させる、いわゆるパワーアシスト制御を行ってもよい。これにより、ユーザが直接アーム部５０３１に触れながらアーム部５０３１を移動させる際に、比較的軽い力で当該アーム部５０３１を移動させることができる。従って、より直感的に、より簡易な操作で内視鏡５００１を移動させることが可能となり、ユーザの利便性を向上させることができる。

【0119】

ここで、一般的に、内視鏡下手術では、スコピストと呼ばれる医師によって内視鏡５００１が支持されていた。これに対して、支持アーム装置５０２７を用いることにより、人手によらずに内視鏡５００１の位置をより確実に固定することが可能になるため、術部の画像を安定的に得ることができ、手術を円滑に行うことが可能になる。

【0120】

なお、アーム制御装置５０４５は必ずしもカート５０３７に設けられなくてもよい。また、アーム制御装置５０４５は必ずしも１つの装置でなくてもよい。例えば、アーム制御装置５０４５は、支持アーム装置５０２７のアーム部５０３１の各関節部５０３３ａ～５０３３ｃにそれぞれ設けられてもよく、複数のアーム制御装置５０４５が互いに協働することにより、アーム部５０３１の駆動制御が実現されてもよい。

【0121】

（光源装置）
光源装置５０４３は、内視鏡５００１に術部を撮影する際の照射光を供給する。光源装置５０４３は、例えばＬＥＤ、レーザ光源又はこれらの組み合わせによって構成される白色光源から構成される。このとき、ＲＧＢレーザ光源の組み合わせにより白色光源が構成される場合には、各色（各波長）の出力強度及び出力タイミングを高精度に制御することができるため、光源装置５０４３において撮像画像のホワイトバランスの調整を行うことができる。また、この場合には、ＲＧＢレーザ光源それぞれからのレーザ光を時分割で観察対象に照射し、その照射タイミングに同期してカメラヘッド５００５の撮像素子の駆動を制御することにより、ＲＧＢそれぞれに対応した画像を時分割で撮像することも可能である。当該方法によれば、当該撮像素子にカラーフィルタを設けなくても、カラー画像を得ることができる。

【0122】

また、光源装置５０４３は、出力する光の強度を所定の時間ごとに変更するようにその駆動が制御されてもよい。その光の強度の変更のタイミングに同期してカメラヘッド５００５の撮像素子の駆動を制御して時分割で画像を取得し、その画像を合成することにより、いわゆる黒つぶれ及び白とびのない高ダイナミックレンジの画像を生成することができる。

【0123】

また、光源装置５０４３は、特殊光観察に対応した所定の波長帯域の光を供給可能に構成されてもよい。特殊光観察では、例えば、体組織における光の吸収の波長依存性を利用して、通常の観察時における照射光（すなわち、白色光）に比べて狭帯域の光を照射することにより、粘膜表層の血管等の所定の組織を高コントラストで撮影する、いわゆる狭帯域光観察（Narrow Band Imaging）が行われる。あるいは、特殊光観察では、励起光を照射することにより発生する蛍光により画像を得る蛍光観察が行われてもよい。蛍光観察では、体組織に励起光を照射し当該体組織からの蛍光を観察するもの（自家蛍光観察）、又はインドシアニングリーン（ICG）等の試薬を体組織に局注するとともに当該体組織にその試薬の蛍光波長に対応した励起光を照射し蛍光像を得るもの等が行われ得る。光源装置５０４３は、このような特殊光観察に対応した狭帯域光及び／又は励起光を供給可能に構成され得る。

【0124】

（カメラヘッド及びＣＣＵ）
図１４を参照して、内視鏡５００１のカメラヘッド５００５及びＣＣＵ５０３９の機能についてより詳細に説明する。図１４は、図１３に示すカメラヘッド５００５及びＣＣＵ５０３９の機能構成の一例を示すブロック図である。

【0125】

図１４を参照すると、カメラヘッド５００５は、その機能として、レンズユニット５００７と、撮像部５００９と、駆動部５０１１と、通信部５０１３と、カメラヘッド制御部５０１５と、を有する。また、ＣＣＵ５０３９は、その機能として、通信部５０５９と、画像処理部５０６１と、制御部５０６３と、を有する。カメラヘッド５００５とＣＣＵ５０３９とは、伝送ケーブル５０６５によって双方向に通信可能に接続されている。

【0126】

まず、カメラヘッド５００５の機能構成について説明する。レンズユニット５００７は、鏡筒５００３との接続部に設けられる光学系である。鏡筒５００３の先端から取り込まれた観察光は、カメラヘッド５００５まで導光され、当該レンズユニット５００７に入射する。レンズユニット５００７は、ズームレンズ及びフォーカスレンズを含む複数のレンズが組み合わされて構成される。レンズユニット５００７は、撮像部５００９の撮像素子の受光面上に観察光を集光するように、その光学特性が調整されている。また、ズームレンズ及びフォーカスレンズは、撮像画像の倍率及び焦点の調整のため、その光軸上の位置が移動可能に構成される。

【0127】

撮像部５００９は撮像素子によって構成され、レンズユニット５００７の後段に配置される。レンズユニット５００７を通過した観察光は、当該撮像素子の受光面に集光され、光電変換によって、観察像に対応した画像信号が生成される。撮像部５００９によって生成された画像信号は、通信部５０１３に提供される。

【0128】

撮像部５００９を構成する撮像素子としては、例えばＣＭＯＳ（Complementary MetalOxide Semiconductor）タイプのイメージセンサであり、Ｂａｙｅｒ配列を有するカラー撮影可能なものが用いられる。なお、当該撮像素子としては、例えば４Ｋ以上の高解像度の画像の撮影に対応可能なものが用いられてもよい。術部の画像が高解像度で得られることにより、術者５０６７は、当該術部の様子をより詳細に把握することができ、手術をより円滑に進行することが可能となる。

【0129】

また、撮像部５００９を構成する撮像素子は、３Ｄ表示に対応する右目用及び左目用の画像信号をそれぞれ取得するための１対の撮像素子を有するように構成される。３Ｄ表示が行われることにより、術者５０６７は術部における生体組織の奥行きをより正確に把握することが可能になる。なお、撮像部５００９が多板式で構成される場合には、各撮像素子に対応して、レンズユニット５００７も複数系統設けられる。

【0130】

また、撮像部５００９は、必ずしもカメラヘッド５００５に設けられなくてもよい。例えば、撮像部５００９は、鏡筒５００３の内部に、対物レンズの直後に設けられてもよい。

【0131】

駆動部５０１１は、アクチュエータによって構成され、カメラヘッド制御部５０１５からの制御により、レンズユニット５００７のズームレンズ及びフォーカスレンズを光軸に沿って所定の距離だけ移動させる。これにより、撮像部５００９による撮像画像の倍率及び焦点が適宜調整され得る。

【0132】

通信部５０１３は、ＣＣＵ５０３９との間で各種の情報を送受信するための通信装置によって構成される。通信部５０１３は、撮像部５００９から得た画像信号をＲＡＷデータとして伝送ケーブル５０６５を介してＣＣＵ５０３９に送信する。この際、術部の撮像画像を低レイテンシで表示するために、当該画像信号は光通信によって送信されることが好ましい。手術の際には、術者５０６７が撮像画像によって患部の状態を観察しながら手術を行うため、より安全で確実な手術のためには、術部の動画像が可能な限りリアルタイムに表示されることが求められるからである。光通信が行われる場合には、通信部５０１３には、電気信号を光信号に変換する光電変換モジュールが設けられる。画像信号は当該光電変換モジュールによって光信号に変換された後、伝送ケーブル５０６５を介してＣＣＵ５０３９に送信される。

【0133】

また、通信部５０１３は、ＣＣＵ５０３９から、カメラヘッド５００５の駆動を制御するための制御信号を受信する。当該制御信号には、例えば、撮像画像のフレームレートを指定する旨の情報、撮像時の露出値を指定する旨の情報、並びに／又は撮像画像の倍率及び焦点を指定する旨の情報等、撮像条件に関する情報が含まれる。通信部５０１３は、受信した制御信号をカメラヘッド制御部５０１５に提供する。なお、ＣＣＵ５０３９からの制御信号も、光通信によって伝送されてもよい。この場合、通信部５０１３には、光信号を電気信号に変換する光電変換モジュールが設けられ、制御信号は当該光電変換モジュールによって電気信号に変換された後、カメラヘッド制御部５０１５に提供される。

【0134】

なお、上記のフレームレートや露出値、倍率、焦点等の撮像条件は、取得された画像信号に基づいてＣＣＵ５０３９の制御部５０６３によって自動的に設定される。つまり、いわゆるＡＥ（Auto Exposure）機能、ＡＦ（Auto Focus）機能及びＡＷＢ（Auto WhiteBalance）機能が内視鏡５００１に搭載される。

【0135】

カメラヘッド制御部５０１５は、通信部５０１３を介して受信したＣＣＵ５０３９からの制御信号に基づいて、カメラヘッド５００５の駆動を制御する。例えば、カメラヘッド制御部５０１５は、撮像画像のフレームレートを指定する旨の情報及び／又は撮像時の露光を指定する旨の情報に基づいて、撮像部５００９の撮像素子の駆動を制御する。また、例えば、カメラヘッド制御部５０１５は、撮像画像の倍率及び焦点を指定する旨の情報に基づいて、駆動部５０１１を介してレンズユニット５００７のズームレンズ及びフォーカスレンズを適宜移動させる。カメラヘッド制御部５０１５は、更に、鏡筒５００３やカメラヘッド５００５を識別するための情報を記憶する機能を備えてもよい。

【0136】

なお、レンズユニット５００７や撮像部５００９等の構成を、気密性及び防水性が高い密閉構造内に配置することで、カメラヘッド５００５について、オートクレーブ滅菌処理に対する耐性を持たせることができる。

【0137】

次に、ＣＣＵ５０３９の機能構成について説明する。通信部５０５９は、カメラヘッド５００５との間で各種の情報を送受信するための通信装置によって構成される。通信部５０５９は、カメラヘッド５００５から、伝送ケーブル５０６５を介して送信される画像信号を受信する。この際、上記のように、当該画像信号は好適に光通信によって送信され得る。この場合、光通信に対応して、通信部５０５９には、光信号を電気信号に変換する光電変換モジュールが設けられる。通信部５０５９は、電気信号に変換した画像信号を画像処理部５０６１に提供する。

【0138】

また、通信部５０５９は、カメラヘッド５００５に対して、カメラヘッド５００５の駆動を制御するための制御信号を送信する。当該制御信号も光通信によって送信されてよい。

【0139】

画像処理部５０６１は、カメラヘッド５００５から送信されたＲＡＷデータである画像信号に対して各種の画像処理を施す。当該画像処理としては、例えば現像処理、高画質化処理（帯域強調処理、超解像処理、ＮＲ（Noise Reduction）処理及び／又は手ブレ補正処理等）、並びに／又は拡大処理（電子ズーム処理）等、各種の公知の信号処理が含まれる。また、画像処理部５０６１は、ＡＥ、ＡＦ及びＡＷＢを行うための、画像信号に対する検波処理を行う。

【0140】

画像処理部５０６１は、ＣＰＵやＧＰＵ等のプロセッサによって構成され、当該プロセッサが所定のプログラムに従って動作することにより、上述した画像処理や検波処理が行われ得る。なお、画像処理部５０６１が複数のＧＰＵによって構成される場合には、画像処理部５０６１は、画像信号に係る情報を適宜分割し、これら複数のＧＰＵによって並列的に画像処理を行う。

【0141】

制御部５０６３は、内視鏡５００１による術部の撮像、及びその撮像画像の表示に関する各種の制御を行う。例えば、制御部５０６３は、カメラヘッド５００５の駆動を制御するための制御信号を生成する。この際、撮像条件がユーザによって入力されている場合には、制御部５０６３は、当該ユーザによる入力に基づいて制御信号を生成する。あるいは、内視鏡５００１にＡＥ機能、ＡＦ機能及びＡＷＢ機能が搭載されている場合には、制御部５０６３は、画像処理部５０６１による検波処理の結果に応じて、最適な露出値、焦点距離及びホワイトバランスを適宜算出し、制御信号を生成する。

【0142】

また、制御部５０６３は、画像処理部５０６１によって画像処理が施された画像信号に基づいて、術部の画像を表示装置５０４１に表示させる。この際、制御部５０６３は、各種の画像認識技術を用いて術部画像内における各種の物体を認識する。例えば、制御部５０６３は、術部画像に含まれる物体のエッジの形状や色等を検出することにより、鉗子等の術具、特定の生体部位、出血、エネルギー処置具５０２１使用時のミスト等を認識することができる。制御部５０６３は、表示装置５０４１に術部の画像を表示させる際に、その認識結果を用いて、各種の手術支援情報を当該術部の画像に重畳表示させる。手術支援情報が重畳表示され、術者５０６７に提示されることにより、より安全かつ確実に手術を進めることが可能になる。

【0143】

カメラヘッド５００５及びＣＣＵ５０３９を接続する伝送ケーブル５０６５は、電気信号の通信に対応した電気信号ケーブル、光通信に対応した光ファイバ、又はこれらの複合ケーブルである。

【0144】

ここで、図示する例では、伝送ケーブル５０６５を用いて有線で通信が行われていたが、カメラヘッド５００５とＣＣＵ５０３９との間の通信は無線で行われてもよい。両者の間の通信が無線で行われる場合には、伝送ケーブル５０６５を手術室内に敷設する必要がなくなるため、手術室内における医療スタッフの移動が当該伝送ケーブル５０６５によって妨げられる事態が解消され得る。

【0145】

以上、本開示に係る技術が適用され得る内視鏡手術システム５０００の一例について説明した。なお、本開示に係る技術が適用され得るシステムは、内視鏡システムに限定されない。例えば、本開示に係る技術は、検査用軟性内視鏡システムや、顕微鏡システム等の他のシステムに適用されてもよい。

【0146】

本開示に係る技術は、以上説明した構成のうち、内視鏡５００１に好適に適用され得る。具体的には、内視鏡５００１によって撮影された患者５０７１の体腔内の術部の画像を表示装置５０４１に表示する場合に、本開示に係る技術を適用できる。内視鏡５００１に本開示に係る技術を適用することにより、１フレーム前の画像ではなくＮ（Ｎは２以上の整数）フレーム前の画像を参照画像として用いて時間方向のＮＲ処理を行うことで、動画ノイズの視認性をより確実に低下させることができる。これにより、術者５０６７は、ノイズの視認性がより確実に低下した術部の画像を表示装置５０４１においてリアルタイムで見ることができ、手術をより安全に行うことができる。

【0147】

（応用例２）
また、本開示に係る技術は、顕微鏡システムに適用されてもよい。以下、顕微鏡システムの一例である顕微鏡手術システムについて説明する。顕微鏡手術システムは、患者の微細部位を拡大観察しながら行う、いわゆるマイクロサージェリーに用いられるシステムである。

【0148】

図１５は、本開示に係る技術が適用され得る顕微鏡手術システム５３００の概略的な構成の一例を示す図である。図１５を参照すると、顕微鏡手術システム５３００は、顕微鏡装置５３０１と、制御装置５３１７と、表示装置５３１９と、から構成される。なお、以下の顕微鏡手術システム５３００についての説明において、「ユーザ」とは、術者及び助手等、顕微鏡手術システム５３００を使用する任意の医療スタッフのことを意味する。

【0149】

顕微鏡装置５３０１は、観察対象（患者の術部）を拡大観察するための顕微鏡部５３０３と、顕微鏡部５３０３を先端で支持するアーム部５３０９と、アーム部５３０９の基端を支持するベース部５３１５と、を有する。

【0150】

顕微鏡部５３０３は、略円筒形状の筒状部５３０５と、当該筒状部５３０５の内部に設けられる撮像部（図示せず）と、筒状部５３０５の外周の一部領域に設けられる操作部５３０７と、から構成される。顕微鏡部５３０３は、撮像部によって電子的に撮像画像を撮像する、電子撮像式の顕微鏡部（いわゆるビデオ式の顕微鏡部）である。

【0151】

筒状部５３０５の下端の開口面には、内部の撮像部を保護するカバーガラスが設けられる。観察対象からの光（以下、観察光ともいう）は、当該カバーガラスを通過して、筒状部５３０５の内部の撮像部に入射する。なお、筒状部５３０５の内部には例えばＬＥＤ（Light Emitting Diode）等からなる光源が設けられてもよく、撮像時には、当該カバーガラスを介して、当該光源から観察対象に対して光が照射されてもよい。

【0152】

撮像部は、観察光を集光する光学系と、当該光学系が集光した観察光を受光する撮像素子と、から構成される。当該光学系は、ズームレンズ及びフォーカスレンズを含む複数のレンズが組み合わされて構成され、その光学特性は、観察光を撮像素子の受光面上に結像するように調整されている。当該撮像素子は、観察光を受光して光電変換することにより、観察光に対応した信号、すなわち観察像に対応した画像信号を生成する。当該撮像素子としては、例えばＢａｙｅｒ配列を有するカラー撮影可能なものが用いられる。当該撮像素子は、ＣＭＯＳ（Complementary Metal Oxide Semiconductor）イメージセンサ又はＣＣＤ（Charge Coupled Device）イメージセンサ等、各種の公知の撮像素子であってよい。撮像素子によって生成された画像信号は、ＲＡＷデータとして制御装置５３１７に送信される。ここで、この画像信号の送信は、好適に光通信によって行われてもよい。手術現場では、術者が撮像画像によって患部の状態を観察しながら手術を行うため、より安全で確実な手術のためには、術部の動画像が可能な限りリアルタイムに表示されることが求められるからである。光通信で画像信号が送信されることにより、低レイテンシで撮像画像を表示することが可能となる。

【0153】

なお、撮像部は、その光学系のズームレンズ及びフォーカスレンズを光軸に沿って移動させる駆動機構を有してもよい。当該駆動機構によってズームレンズ及びフォーカスレンズが適宜移動されることにより、撮像画像の拡大倍率及び撮像時の焦点距離が調整され得る。また、撮像部には、ＡＥ（Auto Exposure）機能やＡＦ（Auto Focus）機能等、一般的に電子撮像式の顕微鏡部に備えられ得る各種の機能が搭載されてもよい。

【0154】

また、撮像部は、１つの撮像素子を有するいわゆる単板式の撮像部として構成されてもよいし、複数の撮像素子を有するいわゆる多板式の撮像部として構成されてもよい。撮像部が多板式で構成される場合には、例えば各撮像素子によってＲＧＢそれぞれに対応する画像信号が生成され、それらが合成されることによりカラー画像が得られてもよい。あるいは、当該撮像部は、立体視（３Ｄ表示）に対応する右目用及び左目用の画像信号をそれぞれ取得するための１対の撮像素子を有するように構成されてもよい。３Ｄ表示が行われることにより、術者は術部における生体組織の奥行きをより正確に把握することが可能になる。なお、当該撮像部が多板式で構成される場合には、各撮像素子に対応して、光学系も複数系統が設けられ得る。

【0155】

操作部５３０７は、例えば十字レバー又はスイッチ等によって構成され、ユーザの操作入力を受け付ける入力手段である。例えば、ユーザは、操作部５３０７を介して、観察像の拡大倍率及び観察対象までの焦点距離を変更する旨の指示を入力することができる。当該指示に従って撮像部の駆動機構がズームレンズ及びフォーカスレンズを適宜移動させることにより、拡大倍率及び焦点距離が調整され得る。また、例えば、ユーザは、操作部５３０７を介して、アーム部５３０９の動作モード（後述するオールフリーモード及び固定モード）を切り替える旨の指示を入力することができる。なお、ユーザが顕微鏡部５３０３を移動させようとする場合には、当該ユーザは筒状部５３０５を握るように把持した状態で当該顕微鏡部５３０３を移動させる様態が想定される。従って、操作部５３０７は、ユーザが筒状部５３０５を移動させている間でも操作可能なように、ユーザが筒状部５３０５を握った状態で指によって容易に操作しやすい位置に設けられることが好ましい。

【0156】

アーム部５３０９は、複数のリンク（第１リンク５３１３ａ～第６リンク５３１３ｆ）が、複数の関節部（第１関節部５３１１ａ～第６関節部５３１１ｆ）によって互いに回動可能に連結されることによって構成される。

【0157】

第１関節部５３１１ａは、略円柱形状を有し、その先端（下端）で、顕微鏡部５３０３の筒状部５３０５の上端を、当該筒状部５３０５の中心軸と平行な回転軸（第１軸Ｏ１）まわりに回動可能に支持する。ここで、第１関節部５３１１ａは、第１軸Ｏ１が顕微鏡部５３０３の撮像部の光軸と一致するように構成され得る。これにより、第１軸Ｏ１まわりに顕微鏡部５３０３を回動させることにより、撮像画像を回転させるように視野を変更することが可能になる。

【0158】

第１リンク５３１３ａは、先端で第１関節部５３１１ａを固定的に支持する。具体的には、第１リンク５３１３ａは略Ｌ字形状を有する棒状の部材であり、その先端側の一辺が第１軸Ｏ１と直交する方向に延伸しつつ、当該一辺の端部が第１関節部５３１１ａの外周の上端部に当接するように、第１関節部５３１１ａに接続される。第１リンク５３１３ａの略Ｌ字形状の基端側の他辺の端部に第２関節部５３１１ｂが接続される。

【0159】

第２関節部５３１１ｂは、略円柱形状を有し、その先端で、第１リンク５３１３ａの基端を、第１軸Ｏ１と直交する回転軸（第２軸Ｏ２）まわりに回動可能に支持する。第２関節部５３１１ｂの基端には、第２リンク５３１３ｂの先端が固定的に接続される。

【0160】

第２リンク５３１３ｂは、略Ｌ字形状を有する棒状の部材であり、その先端側の一辺が第２軸Ｏ２と直交する方向に延伸しつつ、当該一辺の端部が第２関節部５３１１ｂの基端に固定的に接続される。第２リンク５３１３ｂの略Ｌ字形状の基端側の他辺には、第３関節部５３１１ｃが接続される。

【0161】

第３関節部５３１１ｃは、略円柱形状を有し、その先端で、第２リンク５３１３ｂの基端を、第１軸Ｏ１及び第２軸Ｏ２と互いに直交する回転軸（第３軸Ｏ３）まわりに回動可能に支持する。第３関節部５３１１ｃの基端には、第３リンク５３１３ｃの先端が固定的に接続される。第２軸Ｏ２及び第３軸Ｏ３まわりに顕微鏡部５３０３を含む先端側の構成を回動させることにより、水平面内での顕微鏡部５３０３の位置を変更するように、当該顕微鏡部５３０３を移動させることができる。つまり、第２軸Ｏ２及び第３軸Ｏ３まわりの回転を制御することにより、撮像画像の視野を平面内で移動させることが可能になる。

【0162】

第３リンク５３１３ｃは、その先端側が略円柱形状を有するように構成されており、当該円柱形状の先端に、第３関節部５３１１ｃの基端が、両者が略同一の中心軸を有するように、固定的に接続される。第３リンク５３１３ｃの基端側は角柱形状を有し、その端部に第４関節部５３１１ｄが接続される。

【0163】

第４関節部５３１１ｄは、略円柱形状を有し、その先端で、第３リンク５３１３ｃの基端を、第３軸Ｏ３と直交する回転軸（第４軸Ｏ４）まわりに回動可能に支持する。第４関節部５３１１ｄの基端には、第４リンク５３１３ｄの先端が固定的に接続される。

【0164】

第４リンク５３１３ｄは、略直線状に延伸する棒状の部材であり、第４軸Ｏ４と直交するように延伸しつつ、その先端の端部が第４関節部５３１１ｄの略円柱形状の側面に当接するように、第４関節部５３１１ｄに固定的に接続される。第４リンク５３１３ｄの基端には、第５関節部５３１１ｅが接続される。

【0165】

第５関節部５３１１ｅは、略円柱形状を有し、その先端側で、第４リンク５３１３ｄの基端を、第４軸Ｏ４と平行な回転軸（第５軸Ｏ５）まわりに回動可能に支持する。第５関節部５３１１ｅの基端には、第５リンク５３１３ｅの先端が固定的に接続される。第４軸Ｏ４及び第５軸Ｏ５は、顕微鏡部５３０３を上下方向に移動させ得る回転軸である。第４軸Ｏ４及び第５軸Ｏ５まわりに顕微鏡部５３０３を含む先端側の構成を回動させることにより、顕微鏡部５３０３の高さ、すなわち顕微鏡部５３０３と観察対象との距離を調整することができる。

【0166】

第５リンク５３１３ｅは、一辺が鉛直方向に延伸するとともに他辺が水平方向に延伸する略Ｌ字形状を有する第１の部材と、当該第１の部材の水平方向に延伸する部位から鉛直下向きに延伸する棒状の第２の部材と、が組み合わされて構成される。第５リンク５３１３ｅの第１の部材の鉛直方向に延伸する部位の上端近傍に、第５関節部５３１１ｅの基端が固定的に接続される。第５リンク５３１３ｅの第２の部材の基端（下端）には、第６関節部５３１１ｆが接続される。

【0167】

第６関節部５３１１ｆは、略円柱形状を有し、その先端側で、第５リンク５３１３ｅの基端を、鉛直方向と平行な回転軸（第６軸Ｏ６）まわりに回動可能に支持する。第６関節部５３１１ｆの基端には、第６リンク５３１３ｆの先端が固定的に接続される。

【0168】

第６リンク５３１３ｆは鉛直方向に延伸する棒状の部材であり、その基端はベース部５３１５の上面に固定的に接続される。

【0169】

第１関節部５３１１ａ～第６関節部５３１１ｆの回転可能範囲は、顕微鏡部５３０３が所望の動きを可能であるように適宜設定されている。これにより、以上説明した構成を有するアーム部５３０９においては、顕微鏡部５３０３の動きに関して、並進３自由度及び回転３自由度の計６自由度の動きが実現され得る。このように、顕微鏡部５３０３の動きに関して６自由度が実現されるようにアーム部５３０９を構成することにより、アーム部５３０９の可動範囲内において顕微鏡部５３０３の位置及び姿勢を自由に制御することが可能になる。従って、あらゆる角度から術部を観察することが可能となり、手術をより円滑に実行することができる。

【0170】

なお、図示するアーム部５３０９の構成はあくまで一例であり、アーム部５３０９を構成するリンクの数及び形状（長さ）、並びに関節部の数、配置位置及び回転軸の方向等は、所望の自由度が実現され得るように適宜設計されてよい。例えば、上述したように、顕微鏡部５３０３を自由に動かすためには、アーム部５３０９は６自由度を有するように構成されることが好ましいが、アーム部５３０９はより大きな自由度（すなわち、冗長自由度）を有するように構成されてもよい。冗長自由度が存在する場合には、アーム部５３０９においては、顕微鏡部５３０３の位置及び姿勢が固定された状態で、アーム部５３０９の姿勢を変更することが可能となる。従って、例えば表示装置５３１９を見る術者の視界にアーム部５３０９が干渉しないように当該アーム部５３０９の姿勢を制御する等、術者にとってより利便性の高い制御が実現され得る。

【0171】

ここで、第１関節部５３１１ａ～第６関節部５３１１ｆには、モータ等の駆動機構、及び各関節部における回転角度を検出するエンコーダ等が搭載されたアクチュエータが設けられ得る。そして、第１関節部５３１１ａ～第６関節部５３１１ｆに設けられる各アクチュエータの駆動が制御装置５３１７によって適宜制御されることにより、アーム部５３０９の姿勢、すなわち顕微鏡部５３０３の位置及び姿勢が制御され得る。具体的には、制御装置５３１７は、エンコーダによって検出された各関節部の回転角度についての情報に基づいて、アーム部５３０９の現在の姿勢、並びに顕微鏡部５３０３の現在の位置及び姿勢を把握することができる。制御装置５３１７は、把握したこれらの情報を用いて、ユーザからの操作入力に応じた顕微鏡部５３０３の移動を実現するような各関節部に対する制御値（例えば、回転角度又は発生トルク等）を算出し、当該制御値に応じて各関節部の駆動機構を駆動させる。なお、この際、制御装置５３１７によるアーム部５３０９の制御方式は限定されず、力制御又は位置制御等、各種の公知の制御方式が適用されてよい。

【0172】

例えば、術者が、図示しない入力装置を介して適宜操作入力を行うことにより、当該操作入力に応じて制御装置５３１７によってアーム部５３０９の駆動が適宜制御され、顕微鏡部５３０３の位置及び姿勢が制御されてよい。当該制御により、顕微鏡部５３０３を任意の位置から任意の位置まで移動させた後、その移動後の位置で固定的に支持することができる。なお、当該入力装置としては、術者の利便性を考慮して、例えばフットスイッチ等、術者が手に術具を有していても操作可能なものが適用されることが好ましい。また、ウェアラブルデバイスや手術室内に設けられるカメラを用いたジェスチャ検出や視線検出に基づいて、非接触で操作入力が行われてもよい。これにより、清潔域に属するユーザであっても、不潔域に属する機器をより自由度高く操作することが可能になる。あるいは、アーム部５３０９は、いわゆるマスタースレイブ方式で操作されてもよい。この場合、アーム部５３０９は、手術室から離れた場所に設置される入力装置を介してユーザによって遠隔操作され得る。

【0173】

また、力制御が適用される場合には、ユーザからの外力を受け、その外力にならってスムーズにアーム部５３０９が移動するように第１関節部５３１１ａ～第６関節部５３１１ｆのアクチュエータが駆動される、いわゆるパワーアシスト制御が行われてもよい。これにより、ユーザが、顕微鏡部５３０３を把持して直接その位置を移動させようとする際に、比較的軽い力で顕微鏡部５３０３を移動させることができる。従って、より直感的に、より簡易な操作で顕微鏡部５３０３を移動させることが可能となり、ユーザの利便性を向上させることができる。

【0174】

また、アーム部５３０９は、ピボット動作をするようにその駆動が制御されてもよい。ここで、ピボット動作とは、顕微鏡部５３０３の光軸が空間上の所定の点（以下、ピボット点という）を常に向くように、顕微鏡部５３０３を移動させる動作である。ピボット動作によれば、同一の観察位置を様々な方向から観察することが可能となるため、より詳細な患部の観察が可能となる。なお、顕微鏡部５３０３が、その焦点距離を調整不可能に構成される場合には、顕微鏡部５３０３とピボット点との距離が固定された状態でピボット動作が行われることが好ましい。この場合には、顕微鏡部５３０３とピボット点との距離を、顕微鏡部５３０３の固定的な焦点距離に調整しておけばよい。これにより、顕微鏡部５３０３は、ピボット点を中心とする焦点距離に対応する半径を有する半球面（図１５に概略的に図示する）上を移動することとなり、観察方向を変更しても鮮明な撮像画像が得られることとなる。一方、顕微鏡部５３０３が、その焦点距離を調整可能に構成される場合には、顕微鏡部５３０３とピボット点との距離が可変な状態でピボット動作が行われてもよい。この場合には、例えば、制御装置５３１７は、エンコーダによって検出された各関節部の回転角度についての情報に基づいて、顕微鏡部５３０３とピボット点との距離を算出し、その算出結果に基づいて顕微鏡部５３０３の焦点距離を自動で調整してもよい。あるいは、顕微鏡部５３０３にＡＦ機能が設けられる場合であれば、ピボット動作によって顕微鏡部５３０３とピボット点との距離が変化するごとに、当該ＡＦ機能によって自動で焦点距離の調整が行われてもよい。

【0175】

また、第１関節部５３１１ａ～第６関節部５３１１ｆには、その回転を拘束するブレーキが設けられてもよい。当該ブレーキの動作は、制御装置５３１７によって制御され得る。例えば、顕微鏡部５３０３の位置及び姿勢を固定したい場合には、制御装置５３１７は各関節部のブレーキを作動させる。これにより、アクチュエータを駆動させなくてもアーム部５３０９の姿勢、すなわち顕微鏡部５３０３の位置及び姿勢が固定され得るため、消費電力を低減することができる。顕微鏡部５３０３の位置及び姿勢を移動したい場合には、制御装置５３１７は、各関節部のブレーキを解除し、所定の制御方式に従ってアクチュエータを駆動させればよい。

【0176】

このようなブレーキの動作は、上述した操作部５３０７を介したユーザによる操作入力に応じて行われ得る。ユーザは、顕微鏡部５３０３の位置及び姿勢を移動したい場合には、操作部５３０７を操作し、各関節部のブレーキを解除させる。これにより、アーム部５３０９の動作モードが、各関節部における回転を自由に行えるモード（オールフリーモード）に移行する。また、ユーザは、顕微鏡部５３０３の位置及び姿勢を固定したい場合には、操作部５３０７を操作し、各関節部のブレーキを作動させる。これにより、アーム部５３０９の動作モードが、各関節部における回転が拘束されたモード（固定モード）に移行する。

【0177】

制御装置５３１７は、顕微鏡装置５３０１及び表示装置５３１９の動作を制御することにより、顕微鏡手術システム５３００の動作を統括的に制御する。例えば、制御装置５３１７は、所定の制御方式に従って第１関節部５３１１ａ～第６関節部５３１１ｆのアクチュエータを動作させることにより、アーム部５３０９の駆動を制御する。また、例えば、制御装置５３１７は、第１関節部５３１１ａ～第６関節部５３１１ｆのブレーキの動作を制御することにより、アーム部５３０９の動作モードを変更する。また、例えば、制御装置５３１７は、顕微鏡装置５３０１の顕微鏡部５３０３の撮像部によって取得された画像信号に各種の信号処理を施すことにより、表示用の画像データを生成するとともに、当該画像データを表示装置５３１９に表示させる。当該信号処理では、例えば現像処理（デモザイク処理）、高画質化処理（帯域強調処理、超解像処理、ＮＲ（Noise reduction）処理及び／又は手ブレ補正処理等）及び／又は拡大処理（すなわち、電子ズーム処理）等、各種の公知の信号処理が行われてよい。

【0178】

なお、制御装置５３１７と顕微鏡部５３０３との通信、及び制御装置５３１７と第１関節部５３１１ａ～第６関節部５３１１ｆとの通信は、有線通信であってもよいし無線通信であってもよい。有線通信の場合には、電気信号による通信が行われてもよいし、光通信が行われてもよい。この場合、有線通信に用いられる伝送用のケーブルは、その通信方式に応じて電気信号ケーブル、光ファイバ、又はこれらの複合ケーブルとして構成され得る。一方、無線通信の場合には、手術室内に伝送ケーブルを敷設する必要がなくなるため、当該伝送ケーブルによって医療スタッフの手術室内の移動が妨げられる事態が解消され得る。

【0179】

制御装置５３１７は、ＣＰＵ（Central Processing Unit）、ＧＰＵ（Graphics Processing Unit）等のプロセッサ、又はプロセッサとメモリ等の記憶素子が混載されたマイコン若しくは制御基板等であり得る。制御装置５３１７のプロセッサが所定のプログラムに従って動作することにより、上述した各種の機能が実現され得る。なお、図示する例では、制御装置５３１７は、顕微鏡装置５３０１と別個の装置として設けられているが、制御装置５３１７は、顕微鏡装置５３０１のベース部５３１５の内部に設置され、顕微鏡装置５３０１と一体的に構成されてもよい。あるいは、制御装置５３１７は、複数の装置によって構成されてもよい。例えば、顕微鏡部５３０３や、アーム部５３０９の第１関節部５３１１ａ～第６関節部５３１１ｆにそれぞれマイコンや制御基板等が配設され、これらが互いに通信可能に接続されることにより、制御装置５３１７と同様の機能が実現されてもよい。

【0180】

表示装置５３１９は、手術室内に設けられ、制御装置５３１７からの制御により、当該制御装置５３１７によって生成された画像データに対応する画像を表示する。つまり、表示装置５３１９には、顕微鏡部５３０３によって撮影された術部の画像が表示される。なお、表示装置５３１９は、術部の画像に代えて、又は術部の画像とともに、例えば患者の身体情報や手術の術式についての情報等、手術に関する各種の情報を表示してもよい。この場合、表示装置５３１９の表示は、ユーザによる操作によって適宜切り替えられてよい。あるいは、表示装置５３１９は複数設けられてもよく、複数の表示装置５３１９のそれぞれに、術部の画像や手術に関する各種の情報が、それぞれ表示されてもよい。なお、表示装置５３１９としては、液晶ディスプレイ装置又はＥＬ（Electro Luminescence）ディスプレイ装置等、各種の公知の表示装置が適用されてよい。

【0181】

図１６は、図１５に示す顕微鏡手術システム５３００を用いた手術の様子を示す図である。図１６では、術者５３２１が、顕微鏡手術システム５３００を用いて、患者ベッド５３２３上の患者５３２５に対して手術を行っている様子を概略的に示している。なお、図１６では、簡単のため、顕微鏡手術システム５３００の構成のうち制御装置５３１７の図示を省略するとともに、顕微鏡装置５３０１を簡略化して図示している。

【0182】

図２Ｃに示すように、手術時には、顕微鏡手術システム５３００を用いて、顕微鏡装置５３０１によって撮影された術部の画像が、手術室の壁面に設置される表示装置５３１９に拡大表示される。表示装置５３１９は、術者５３２１と対向する位置に設置されており、術者５３２１は、表示装置５３１９に映し出された映像によって術部の様子を観察しながら、例えば患部の切除等、当該術部に対して各種の処置を行う。

【0183】

以上、本開示に係る技術が適用され得る顕微鏡手術システム５３００の一例について説明した。なお、ここでは、一例として顕微鏡手術システム５３００について説明したが、本開示に係る技術が適用され得るシステムはかかる例に限定されない。例えば、顕微鏡装置５３０１は、その先端に顕微鏡部５３０３に代えて他の観察装置や他の術具を支持する、支持アーム装置としても機能し得る。当該他の観察装置としては、例えば内視鏡が適用され得る。また、当該他の術具としては、鉗子、攝子、気腹のための気腹チューブ、又は焼灼によって組織の切開や血管の封止を行うエネルギー処置具等が適用され得る。これらの観察装置や術具を支持アーム装置によって支持することにより、医療スタッフが人手で支持する場合に比べて、より安定的に位置を固定することが可能となるとともに、医療スタッフの負担を軽減することが可能となる。本開示に係る技術は、このような顕微鏡部以外の構成を支持する支持アーム装置に適用されてもよい。

【0184】

本開示に係る技術は、以上説明した構成のうち、制御装置５３１７に好適に適用され得る。具体的には、顕微鏡部５３０３の撮像部によって撮影された患者５３２５の術部の画像を表示装置５３１９に表示する場合に、本開示に係る技術を適用できる。制御装置５３１７に本開示に係る技術を適用することにより、１フレーム前の画像ではなくＮ（Ｎは２以上の整数）フレーム前の画像を参照画像として用いて時間方向のＮＲ処理を行うことで、動画ノイズの視認性をより確実に低下させることができる。これにより、術者５３２１は、ノイズの視認性がより確実に低下した術部の画像を表示装置５３１９においてリアルタイムで見ることができ、手術をより安全に行うことができる。

【0185】

なお、本技術は以下のような構成も取ることができる。
（１）
撮像対象に光を照射する光源と、
前記光を照射された前記撮像対象からの反射光を撮像する撮像装置と、
前記撮像装置で撮像した複数の前記画像を取得し、複数の前記画像のうちの１つの注目画像に対してノイズリダクション処理を行うノイズリダクション処理手段と、を有し、
前記ノイズリダクション処理手段は、Ｎ（Ｎは２以上の整数）フレーム前の前記画像を参照画像として用いる、
医療システム。
（２）
前記医療システムは、顕微鏡システム、または、内視鏡システムである、（１）に記載の医療システム。
（３）
光を照射された撮像対象からの反射光を撮像する撮像装置で撮像した複数の画像を取得し、複数の前記画像のうちの１つの注目画像に対してノイズリダクション処理を行うノイズリダクション処理手段を有し、
前記ノイズリダクション処理手段は、Ｎ（Ｎは２以上の整数）フレーム前の前記画像を参照画像として用いる、
情報処理装置。
（４）
前記画像における特徴量に基いて、複数の前記画像の間の動きベクトルを算出する動き推定手段を、さらに備え、
前記ノイズリダクション処理手段は、前記注目画像に対してノイズリダクション処理を行う場合に、前記動きベクトルの大きさに応じて、前記Ｎフレーム前の画像と１フレーム前の画像の少なくともいずれかを参照画像として用いてノイズリダクション処理を行う、（３）に記載の情報処理装置。
（５）
前記ノイズリダクション処理手段は、
前記動きベクトルの大きさが所定の閾値以上の場合、前記１フレーム前の画像を参照画像として用いて前記ノイズリダクション処理を行い、
前記動きベクトルの大きさが所定の閾値未満の場合、前記Ｎフレーム前の画像を参照画像として用いて前記ノイズリダクション処理を行う、（４）に記載の情報処理装置。
（６）
前記Ｎフレーム前の画像と前記１フレーム前の画像を前記動きベクトルの大きさに応じた重み付きで合成して合成参照画像を作成する参照画像選択手段を、さらに備え、
前記ノイズリダクション処理手段は、前記合成参照画像を用いて前記ノイズリダクション処理を行う、（４）に記載の情報処理装置。
（７）
Ｎは、以下の式（１）を満たす整数である、（３）に記載の情報処理装置。
（フレーム間の時間長）×Ｎ≦１００ｍｓ ・・・式（１）
（８）
光を照射された撮像対象からの反射光を撮像する撮像装置で撮像した複数の画像を取得し、複数の前記画像のうちの１つの注目画像に対してノイズリダクション処理を行うノイズリダクション処理工程を含み、
前記ノイズリダクション処理工程は、前記注目画像のＮ（Ｎは２以上の整数）フレーム前の前記画像を参照画像として用いる、情報処理方法。

【0186】

以上、本開示の実施形態、変形例について説明したが、本開示の技術的範囲は、上述の実施形態、変形例そのままに限定されるものではなく、本開示の要旨を逸脱しない範囲において種々の変更が可能である。また、異なる実施形態、変形例にわたる構成要素を適宜組み合わせてもよい。

【0187】

例えば、第１実施形態におけるＮＲ処理は、参照画像として入力画像ではなく出力画像を用いるもので、巡回型ＮＲ処理と呼ばれているが、これに限定されず、参照画像として入力画像を用いてもよい。

【0188】

また、各実施形態において、時間方向のＮＲ処理を行う際に、並行して空間方向のＮＲ処理を行ってもよい。

【0189】

また、図７では、ＮＲ部４１２と動き推定部４１６を別々の機能部として説明したが、これに限定されず、例えば、ＮＲ部４１２の中に動き推定の機能が含まれていてもよい。

【0190】

また、例えば、ＩＲイメージャの信号増幅率からわかる特殊光画像のノイズ量等の情報も考慮した上でＮＲ処理を行ってもよい。

【0191】

また、第１実施形態では、時間方向にＮＲ処理を行う場合、参照画像として、常に２フレーム前の画像を用いることとしたが、これに限定されず、例えば、画像中の動きに関係なく、１フレーム前の画像を用いる場合が含まれていてもよい。つまり、時間方向にＮＲ処理を行う場合に参照画像としてＮ（Ｎは２以上の整数）フレーム以上前の画像を用いることは、常時である必要はなく、少なくとも一部であればよい。

【0192】

また、例えば、動き推定をブロック単位で行って、動き推定結果をＮＲ処理で用いる場合は画素単位に変換して用いてもよい。

【0193】

また、本明細書に記載された各実施形態、変形例における効果はあくまで例示であって限定されるものでは無く、他の効果があってもよい。

【符号の説明】

【0194】

１…医療システム、２…光源、３…撮像装置、４…情報処理装置、５…表示装置、９…撮像対象、４１…処理部、４２…記憶部、４１１…取得部、４１２…ＮＲ部、４１３…参照画像選択部、４１４…参照画像記憶制御部、４１５…表示制御部、４１６…動き推定部、４２１…偶数フレーム用記憶部、４２２…奇数フレーム用記憶部、４２３…全フレーム用記憶部。

【図1】

【図2】

【図3】

【図4】

【図5】

【図6】

【図7】

【図8】

【図9】

【図10】

【図11】

【図12】

【図13】

【図14】

【図15】

【図16】