特開 2022-44639 内視鏡システム、制御装置の動作方法及び制御装置

(19)【発行国】日本国特許庁(JP)

(12)【公報種別】公開特許公報(A)

(11)【公開番号】P2022044639

(43)【公開日】2022-03-17

(54)【発明の名称】内視鏡システム、制御装置の動作方法及び制御装置

(51)【国際特許分類】

   A61B 1/06 20060101AFI20220310BHJP

【ＦＩ】

A61B1/06 612

【審査請求】有

【請求項の数】20

【出願形態】ＯＬ

(21)【出願番号】P 2022002189

(22)【出願日】2022-01-11

(62)【分割の表示】P 2020092701の分割

【原出願日】2015-11-17

(31)【優先権主張番号】P 2015025133

(32)【優先日】2015-02-12

(33)【優先権主張国・地域又は機関】JP

(71)【出願人】

【識別番号】000002185

【氏名又は名称】ソニーグループ株式会社

(74)【代理人】

【識別番号】110002147

【氏名又は名称】特許業務法人酒井国際特許事務所

(72)【発明者】

【氏名】村北 昌嗣

(57)【要約】

【課題】内視鏡画像の輝度をより適切に調整することが可能な技術が提供されることが望まれる。
【解決手段】イメージセンサによる撮像に基づく内視鏡画像から、挿入部のサイズに応じた領域を抽出領域として抽出する領域抽出部と、前記抽出領域における前記イメージセンサ出力値に基づいて露光制御を行う露光制御部と、を備える、画像処理装置が提供される。
【選択図】図１

【特許請求の範囲】

【請求項1】

挿入部の光学系を通過した光を受光して信号を出力するイメージセンサを含む撮像部と、
前記イメージセンサからの信号に基づき露光制御を行う露光制御部を有する制御装置と、
を備え、
前記露光制御部は、
前記挿入部の光学系を通過した光を受光したイメージセンサからの信号に基づく、前記イメージセンサ上に前記挿入部の光学系に基づく黒領域を含む内視鏡画像を取得し、
前記内視鏡画像の前記黒領域とは異なり体内の観察に用いられる観察領域のサイズに応じて抽出された値に基づいて、前記イメージセンサによる撮像の露光制御を行う、
内視鏡システム。

【請求項2】

請求項１に記載の内視鏡システムであって、
前記露光制御部は、前記観察領域のサイズに基づいて抽出領域を設定し、前記抽出領域の値に基づいて前記イメージセンサによる撮像の露光制御を行う、
内視鏡システム。

【請求項3】

請求項２に記載の内視鏡システムであって、
前記露光制御部は、前記抽出領域の輝度値に基づいて前記イメージセンサによる撮像の露光制御を行う、
内視鏡システム。

【請求項4】

請求項１～３の何れか１項に記載の内視鏡システムであって、
前記観察領域は、前記挿入部の光学系のサイズによって変化する領域である、
内視鏡システム。

【請求項5】

請求項４に記載の内視鏡システムであって、
前記挿入部の光学系のサイズは、前記挿入部の光学系の径である、
内視鏡システム。

【請求項6】

請求項１～５の何れか１項に記載の内視鏡システムであって、
前記露光制御部は、前記観察領域のサイズを前記撮像部から取得した前記挿入部の情報に基づき決定する、
内視鏡システム。

【請求項7】

請求項１～５の何れか１項に記載の内視鏡システムであって、
前記露光制御部は、前記観察領域のサイズを前記内視鏡画像の値に基づき決定する、
内視鏡システム。

【請求項8】

請求項７に記載の内視鏡システムであって、
前記露光制御部は、前記内視鏡画像の第１の位置から第２の位置までの輝度値を取得し、輝度値の変化に基づき前記観察領域のサイズを決定する、
内視鏡システム。

【請求項9】

請求項７に記載の内視鏡システムであって、
前記露光制御部は、前記観察領域のサイズを前記内視鏡画像の２以上の領域の値に基づき決定する、
内視鏡システム。

【請求項10】

請求項９に記載の内視鏡システムであって、
前記露光制御部は、前記観察領域のサイズを前記内視鏡画像の２以上の領域の輝度差に基づいて決定する、
内視鏡システム。

【請求項11】

請求項９に記載の内視鏡システムであって、
前記露光制御部は、前記観察領域のサイズを前記内視鏡画像の２以上の領域の輝度値と、閾値との関係性に基づいて決定する、
内視鏡システム。

【請求項12】

請求項１～１１の何れか１項に記載の内視鏡システムであって、
前記露光制御部は、前記観察領域の輝度値に基づいて露光を制御するパラメータを調整する、
内視鏡システム。

【請求項13】

請求項１～１２の何れか１項に記載の内視鏡システムであって、
前記挿入部は、硬性鏡スコープまたは軟性鏡スコープである、
内視鏡システム。

【請求項14】

内視鏡システムに含まれる制御装置の動作方法であって、
前記制御装置は、
挿入部の光学系を通過した光を受光したイメージセンサからの信号に基づく、前記イメージセンサ上に前記挿入部の光学系に基づく黒領域を含む内視鏡画像を取得し、
前記内視鏡画像の少なくとも２以上の領域の値に基づいて、前記黒領域とは異なり体内の観察に用いられる観察領域のサイズを推定し、
前記観察領域のサイズに基づいて設定された抽出領域の値に基づいて、前記イメージセンサによる撮像の露光制御を行う、
制御装置の動作方法。

【請求項15】

挿入部の光学系を通過した光を受光して信号を出力するイメージセンサからの信号に基づき露光制御を行う露光制御部を備え、
前記露光制御部は、
前記挿入部の光学系を通過した光を受光したイメージセンサからの信号に基づく、前記イメージセンサ上に前記挿入部の光学系に基づく黒領域を含む内視鏡画像を取得し、
前記内視鏡画像の前記黒領域とは異なり体内の観察に用いられる観察領域のサイズに応じて抽出された値に基づいて、前記イメージセンサによる撮像の露光制御を行う、
制御装置。

【請求項16】

請求項１５に記載の制御装置であって、
前記露光制御部は、前記観察領域のサイズに基づいて抽出領域を設定し、前記抽出領域の値に基づいて前記イメージセンサによる撮像の露光制御を行う、
制御装置。

【請求項17】

請求項１６に記載の制御装置であって、
前記露光制御部は、前記抽出領域の輝度値に基づいて前記イメージセンサによる撮像の露光制御を行う、
制御装置。

【請求項18】

挿入部の光学系を通過した光を受光して信号を出力するイメージセンサからの信号に基づき露光制御を行う露光制御部を備え、
前記露光制御部は、
前記挿入部の光学系を通過した光を受光したイメージセンサからの信号に基づく、前記イメージセンサ上に前記挿入部の光学系に基づく黒領域を含む内視鏡画像を取得し、
前記内視鏡画像の前記黒領域とは異なり体内の観察に用いられる観察領域のサイズが第１のサイズである場合は第１のパラメータを用いて前記イメージセンサによる撮像の露光制御を行い、
前記観察領域のサイズが第２のサイズである場合は第２のパラメータを用いて前記イメージセンサによる撮像の露光制御を行う、
制御装置。

【請求項19】

請求項１８に記載の制御装置であって、
前記露光制御部は、前記内視鏡画像の第１の領域の値と、前記内視鏡画像の第２の領域の値と、の関係性を算出し、前記関係性が第１の関係性であるときに第１のパラメータを用いた露光制御を行い、前記関係性が第２の関係性であるときに第２のパラメータを用いた露光制御を行う、
制御装置。

【請求項20】

請求項１９に記載の制御装置であって、
前記露光制御部は、前記観察領域のサイズに基づいて抽出領域を設定し、前記抽出領域の値に基づいて前記イメージセンサによる撮像の露光制御を行う、
制御装置。

【発明の詳細な説明】

【技術分野】

【0001】

本開示は、内視鏡システム、制御装置の動作方法及び制御装置に関する。

【背景技術】

【0002】

近年、イメージセンサによる撮像に基づく内視鏡画像を処理する画像処理装置が普及している（例えば、特許文献１参照）。一方、イメージセンサへの光を透過するレンズのフードなどによる遮光によって、内視鏡画像が部分的に暗くなってしまう現象が起こり得る。以下では、内視鏡画像のうちこのような遮光によって暗くなってしまう領域を、単に「黒領域」とも言う。また、内視鏡画像にこのような黒領域が生じる現象を「ケラレ」とも言う。

【先行技術文献】

【特許文献】

【0003】

【特許文献1】特開２０１３－４２９９８号公報

【発明の概要】

【発明が解決しようとする課題】

【0004】

ここで、内視鏡画像に黒領域が生じてしまったことが原因となり、内視鏡画像の輝度が過剰に高くなるように露光制御が行われてしまう場合がある。そのため、黒領域以外の領域（以下、「観察領域」とも言う。）が過剰に明るくなってしまう可能性がある。そこで、内視鏡画像の輝度をより適切に調整することが可能な技術が提供されることが望まれる。

【課題を解決するための手段】

【0005】

本開示によれば、イメージセンサによる撮像に基づく内視鏡画像から、挿入部のサイズに応じた領域を抽出領域として抽出する領域抽出部と、前記抽出領域における前記イメージセンサ出力値に基づいて露光制御を行う露光制御部と、を備える、画像処理装置が提供される。

【0006】

本開示によれば、イメージセンサによる撮像に基づく内視鏡画像から、挿入部のサイズに応じた領域を抽出領域として抽出することと、プロセッサにより、前記抽出領域における前記イメージセンサ出力値に基づいて露光制御を行うことと、を含む、画像処理装置が提供される。

【0007】

本開示によれば、コンピュータを、イメージセンサによる撮像に基づく内視鏡画像から、挿入部のサイズに応じた領域を抽出領域として抽出する領域抽出部と、前記抽出領域における前記イメ一ジセンサ出力値に基づいて露光制御を行う露光制御部と、を備える画像処理装置として機能させるためのプログラムが提供される。

【0008】

本開示によれば、光を発する光源部と、前記光源部により発せられた前記光の反射光を受光して内視鏡画像を撮像するイメージセンサと、を有し、前記内視鏡画像から、挿入部のサイズに応じた領域を抽出領域として抽出する領域抽出部と、前記抽出領域における前記イメ一ジセンサ出力値に基づいて露光制御を行う露光制御部と、を備える、画像処理装置を有する、画像処理システムが提供される。

【発明の効果】

【0009】

以上説明したように本開示によれば、内視鏡画像の輝度をより適切に調整することが可能な技術が提供される。なお、上記の効果は必ずしも限定的なものではなく、上記の効果とともに、または上記の効果に代えて、本明細書に示されたいずれかの効果、または本明細書から把握され得る他の効果が奏されてもよい。

【図面の簡単な説明】

【0010】

【図1】本開示の実施形態に係る画像処理システムの構成例を示す図である。

【図2】露光制御の具体例について説明するための図である。

【図3】露光制御の具体例について説明するための図である。

【図4】自動露光制御部の詳細な機能構成例を示すブロック図である。

【図5】内視鏡画像の例を示す図である。

【図6】周辺領域の他の例を示す図である。

【図7】走査方向が二方向である場合におけるスコープ径の算出例を説明するための図である。

【図8】走査方向が二方向である場合におけるスコープ径の算出例を説明するための図である。

【図9】黒領域枠マップの例を示す図である。

【図10】スコープ径に応じた露光制御の動作の例を示すフローチャートである。

【発明を実施するための形態】

【0011】

以下に添付図面を参照しながら、本開示の好適な実施の形態について詳細に説明する。なお、本明細書及び図面において、実質的に同一の機能構成を有する構成要素については、同一の符号を付することにより重複説明を省略する。

【0012】

また、本明細書および図面において、実質的に同一の機能構成を有する複数の構成要素を、同一の符号の後に異なるアルファベットまたは数字を付して区別する場合もある。ただし、実質的に同一の機能構成を有する複数の構成要素の各々を特に区別する必要がない場合、同一符号のみを付する。

【0013】

なお、説明は以下の順序で行うものとする。
１．本開示の実施形態
１．１．システム構成例
１．２．機能構成例
１．３．自動露光制御部の機能詳細
２．むすび

【0014】

＜１．本開示の実施形態＞
［１．１．システム構成例］
まず、図面を参照しながら本開示の実施形態に係る画像処理システムの構成例について説明する。図１は、本開示の実施形態に係る画像処理システムの構成例を示す図である。図１に示すように、画像処理システム１は、画像処理装置１００と、挿入部２００と、光源部３００と、表示部４００と、操作部５００とを有する。

【0015】

光源部３００は、白色光源３１０と、集光レンズ３２０とを備える。白色光源３１０は、白色光を発する。なお、本明細書においては、白色光を用いる例を主に説明するが、光の色は特に限定されない。したがって、白色光源３１０の代わりに白色以外の可視光を発する光源が用いられてもよい（例えば、白色光源３１０の代わりにＲＧＢ出力の可変制御が可能なＲＧＢレーザが用いられてもよい）。集光レンズ３２０は、白色光源３１０によって発せられた光を後述するライトガイド２１０に集光する。

【0016】

挿入部２００は、体内に挿入されるスコープに相当し得る。具体的には、挿入部２００は、硬性鏡であってもよいし、軟性鏡であってもよい。挿入部２００は、ライトガイド２１０と、照明レンズ２２０と、撮像部２３０と、メモリ２４０とを備える。撮像部２３０は、対物レンズ２３１と、イメージセンサ（撮像素子）２３２と、Ａ／Ｄ（アナログ／デジタル）変換部２３３とを備える。

【0017】

ライトガイド２１０は、光源部３００によって集光された光を挿入部２００の先端まで導く。照明レンズ２２０は、ライトガイド２１０により先端まで導かれた光を拡散させて観察対象（被写体Ｓｕ）に照射する。対物レンズ２３１は、観察対象（被写体Ｓｕ）から戻る反射光をイメージセンサ２３２に結像する。イメージセンサ２３２は、反射光を受光して撮像したアナログ信号（内視鏡画像）を、Ａ／Ｄ変換部２３３に出力する。

【0018】

なお、イメージセンサ２３２は、例えば、原色ベイヤ配列を有している。かかる場合には、イメージセンサ２３２により得られる内視鏡画像は、原色ベイヤ画像である。原色ベイヤ画像は、各画素がＲＧＢいずれかの信号を有した画像であり、そのＲＧＢの画素が市松状に配列された画像である。しかし、イメージセンサ２３２は、原色ベイヤ配列に限定されない。すなわち、内視鏡画像は、原色ベイヤ画像に限定されない。例えば、内視鏡画像は、補色や面順次といった原色ベイヤ以外の内視鏡撮像方式より取得される画像であってもよい。

【0019】

Ａ／Ｄ変換部２３３は、後述する制御部１３０から出力される制御信号に基づいて、イメージセンサ２３２から出力されるアナログ信号（内視鏡画像）をデジタル信号に変換し、このデジタル信号（内視鏡画像）を画像処理装置１００に出力する。メモリ２４０は、図示しない演算装置によって実行されることによって画像処理装置１００の機能を実現するためのプログラムを記憶している。

【0020】

なお、以下の説明においては、挿入部２００を適宜スコープと表記する場合がある。内視鏡診断においては、診断部位に応じた種類のスコープが用いられ得る。各スコープには、対象とする診断部位や、ズーム機能などの機能を特定するための識別番号が付与されており、本明細書においては、その識別番号をスコープＩＤと表記する場合がある。メモリ２４０は、スコープＩＤを記憶している。

【0021】

画像処理装置１００は、自動露光制御部１１０と、画像処理部１２０と、制御部１３０とを備える。撮像部２３０により取得される内視鏡画像は、自動露光制御部１１０と、画像処理部１２０とに出力される。自動露光制御部１１０は、白色光源３１０およびイメージセンサ２３２に接続されており、白色光源３１０およびイメージセンサ２３２を制御する。画像処理部１２０は、表示部４００に接続されている。制御部１３０は、撮像部２３０と、画像処理部１２０と、表示部４００と、操作部５００とに双方向に接続されており、これらの構成要素を制御する。

【0022】

自動露光制御部１１０は、撮像部２３０により取得される内視鏡画像の輝度が観察に適した値（以下、「適正値」とも言う。）となるように、自動的にイメージセンサ２３２の露光制御を行う。自動露光制御部１１０の詳細については後述する。画像処理部１２０は、撮像部２３０により撮像された内視鏡画像に対して画像処理を行う。画像処理部１２０は、例えば、階調変換処理やノイズ低減処理を行う。画像処理部１２０は、画像処理後の画像を表示部４００に対して出力する。

【0023】

制御部１３０は、撮像部２３０と、画像処理部１２０と、表示部４００と、操作部５００とに接続されており、これらを制御する制御信号を出力する。表示部４００は、画像処理部１２０により出力される内視鏡画像を、内視鏡モニタなどの画像表示装置に出力する。操作部５００は、ユーザからの操作を受け付けるためのインターフェースである。例えば、操作部５００は、電源のオン／オフを行うための電源スイッチや、撮像を開始するためのシャッタボタン、撮影モードやその他各種のモードを切り換えるためのモード切換ボタンなどを含む。

【0024】

以上、本開示の実施形態に係る画像処理システム１の構成例について説明した。

【0025】

［１．２．露光制御の例］
続いて、自動露光制御部１１０による露光制御の具体例について説明する。図２および図３は、露光制御の具体例について説明するための図である。上記したように、イメージセンサ２３２によって撮像されたアナログ信号は、Ａ／Ｄ変換部２３３によってデジタル信号（内視鏡画像）に変換される。図２および図３には、イメージセンサ２３２からの出力値が縦軸に示されている。また、各出力値に対応するイメージセンサ２３２の像面照度が横軸に示されている。なお、イメージセンサ２３２からの出力値は、各画素に対応する出力値の平均値であってよい。

【0026】

また、図２を参照すると、イメージセンサ２３２からの出力値の適正値が「Ｕ０」として示されており、適正値Ｕ０に対応するイメージセンサ２３２の像面照度が「Ｌ０」として示されている。図２に示すように、例えば、イメージセンサ２３２からの出力値Ｕ１が適正値Ｕ０よりも大きい場合を想定する。かかる場合には、自動露光制御部１１０は、Ｕ１－Ｕ０＝ｄＵ１だけイメージセンサ２３２からの出力値が小さくなるように露光制御を行う。

【0027】

一方、図３を参照すると、図２と同様に、イメージセンサ２３２からの出力値の適正値が「Ｕ０」として示されており、適正値Ｕ０に対応するイメージセンサ２３２の像面照度が「Ｌ０」として示されている。図３に示すように、例えば、イメージセンサ２３２からの出力値Ｕ２が適正値Ｕ０よりも小さい場合を想定する。かかる場合には、自動露光制御部１１０は、Ｕ０－Ｕ２＝ｄＵ２だけイメージセンサ２３２からの出力値が大きくなるように露光制御を行う。

【0028】

例えば、露光制御は、露光を制御するためのパラメータを調整することによってなされ得る。露光を制御するためのパラメータとしては、様々なパラメータが想定される。例えば、露光を制御するためのパラメータは、イメージセンサ２３２の電子シャッタ速度およびイメージセンサ２３２によって撮像されたアナログ信号に対して乗じられるゲインのうちの少なくともいずれか一つを含んでよい。あるいは、露光を制御するためのパラメータは、白色光源３１０の明るさを含んでもよい（あるいは、白色光源３１０の代わりにＲＧＢレーザが用いられる場合、ＲＧＢそれぞれの出力の変更による光源制御によって露光制御が行われてもよい）。

【0029】

例えば、図２に示したｄＵ１だけイメージセンサ２３２からの出力値を小さくするような露光制御は、電子シャッタ速度をｄＵ１に対応する量だけ大きくすることによって実行されてもよいし、イメージセンサ２３２によって撮像されたアナログ信号に対して乗じられるゲインをｄＵ１に対応する量だけ小さくすることによって実行されてもよい。あるいは、イメージセンサ２３２からの出力値を小さくするような露光制御は、白色光源３１０の明るさをｄＵ１に対応する量だけ弱くすることによって実行されてもよい。

【0030】

一方、図３に示したｄＵ２だけイメージセンサ２３２からの出力値を大きくするような露光制御は、電子シャッタ速度をｄＵ２に対応する量だけ小さくすることによって実行されてもよいし、イメージセンサ２３２によって撮像されたアナログ信号に対して乗じられるゲインをｄＵ２に対応する量だけ大きくすることによって実行されてもよい。あるいは、イメージセンサ２３２からの出力値を大きくするような露光制御は、白色光源３１０の明るさをｄＵ２に対応する量だけ強くすることによって実行されてもよい。

【0031】

以上、自動露光制御部１１０による露光制御の具体例について説明した。

【0032】

［１．３．自動露光制御部の機能詳細］
続いて、自動露光制御部１１０の詳細な機能について説明する。図４は、自動露光制御部１１０の詳細な機能構成例を示すブロック図である。図４に示すように、自動露光制御部１１０は、サイズ取得部１１１と、領域抽出部１１２と、露光制御部１１２とを備える。以下においては、これらのサイズ取得部１１１、領域抽出部１１２および露光制御部１１３それぞれの詳細な機能について説明する。まず、サイズ取得部１１１は、撮像部２３０から内視鏡画像を取得する。

【0033】

図５は、内視鏡画像の例を示す図である。図５に示すように、内視鏡画像Ｉｍ１においては、格子状に各画素が配列されている。ここで、上述したように、イメージセンサ２３２への光を透過するレンズのフードなどによる遮光によって、内視鏡画像Ｉｍ１が部分的に暗くなってしまう現象が起こり得る。そのため、内視鏡画像Ｉｍ１には、観察領域Ｒｓ１の他に黒領域Ｒｂ１が存在する。ラインＨｍは、黒領域Ｒｂ１と観察領域Ｒｓ１との境界線を示している。各画素の色の濃さは、各画素の輝度の高さを表している。

【0034】

ここで、内視鏡画像Ｉｍ１に黒領域Ｒｂ１が生じてしまったことが原因となり、自動露光制御部１１０によって内視鏡画像Ｉｍ１の輝度が過剰に高くなるように露光制御が行われてしまう場合がある。そのため、観察領域Ｒｓ１が過剰に明るくなってしまう可能性がある。そこで、以下においては、観察領域Ｒｓ１が過剰に明るくなってしまう可能性を低減することによって、内視鏡画像Ｉｍ１の輝度をより適切に調整することが可能な技術について説明する。

【0035】

具体的に、領域抽出部１１２は、イメージセンサ２３２による撮像に基づく内視鏡画像Ｉｍ１から、挿入部２００のサイズに応じた領域を抽出領域として抽出する。そして、露光制御部１１３は、抽出領域におけるイメージセンサ出力値に基づいて露光制御を行う。そうすれば、観察領域Ｒｓ１が過剰に明るくなってしまう可能性を低減することによって、内視鏡画像Ｉｍ１の輝度をより適切に調整することが可能となる。

【0036】

例えば、露光制御部１１３は、内視鏡画像Ｉｍ１に挿入部２００の影が写り込んでいると判断した場合には、抽出領域におけるイメージセンサ出力値に基づいた露光制御を行えばよい。より詳細には、露光制御部１１３は、内視鏡画像Ｉｍ１に挿入部２００の影が写り込んでいると判断した場合には、抽出領域におけるイメージセンサ出力値に基づいて、露光を制御するためのパラメータを調整すればよい。

【0037】

一方、露光制御部１１３は、内視鏡画像Ｉｍ１に挿入部２００の影が写り込んでいないと判断した場合には、内視鏡画像Ｉｍ１の全体におけるイメージセンサ出力値に基づいた露光制御を行えばよい。なお、内視鏡画像Ｉｍ１に挿入部２００の影が写り込んでいるか否かの判断はどのようになされてもよい。

【0038】

例えば、露光制御部１１３は、中心領域Ｃｅと周辺領域Ｎ１～Ｎ４との輝度差が第１の閾値を上回る場合には、内視鏡画像Ｉｍ１に挿入部２００の影が写り込んでいると判断してよい。また、露光制御部１１３は、中心領域Ｃｅと周辺領域Ｎ１～Ｎ４との輝度差が第１の閾値を下回る場合には、内視鏡画像Ｉｍ１に挿入部２００の影が写り込んでいないと判断してよい。中心領域Ｃｅと周辺領域Ｎ１～Ｎ４との輝度差が第１の閾値と等しい場合には、いずれに判断されてもよい。

【0039】

あるいは、露光制御部１１３は、内視鏡画像の輝度ごとの画素数分布から、低輝度側から順に第１のピークおよび第２のピークを検出し、第１のピークおよび第２のピークの輝度差が上限値を超える場合には、内視鏡画像Ｉｍ１に挿入部２００の影が写り込んでいると判断してもよい。また、露光制御部１１３は、第１のピークおよび第２のピークの輝度差が上限値を超えない場合には、内視鏡画像Ｉｍ１に挿入部２００の影が写り込んでいないと判断してもよい。

【0040】

図５に示された例では、中心領域Ｃｅの輝度として内視鏡画像Ｉｍ１の中央に存在する４画素の平均輝度を用いることを想定しているが、中心領域Ｃｅの位置と画素数は限定されない。同様に、周辺領域Ｎ１～Ｎ４の輝度として内視鏡画像Ｉｍ１の四隅に存在する四画素の平均輝度を用いることを想定しているが、周辺領域Ｎ１～Ｎ４の位置と画素数は限定されない。図６は、周辺領域の他の例を示す図である。図６に示すように、周辺領域Ｎ１～Ｎ４の代わりに、内視鏡画像Ｉｍ１の最も外側に存在する画素列が周辺領域Ｎ５、Ｎ６として利用されてもよい。

【0041】

続いて、サイズ取得部１１１は、挿入部２００のサイズを取得する。なお、以下の説明においては、挿入部２００のサイズとしてスコープ径（挿入部２００の直径）を利用するが、スコープ径の代わりに挿入部２００の他の長さ（例えば、挿入部２００の半径など）が利用されてもよい。サイズ取得部１１１は、スコープ径を所定の場所から取得してもよい。例えば、サイズ取得部１１１は、スコープ本体または外部装置との通信によってスコープ径（あるいは、スコープ径を含むスコープ情報）を取得してもよい。あるいは、サイズ取得部１１１は、内視鏡画像Ｉｍ１に基づいてスコープ径を計算によって取得してもよい。

【0042】

計算によるスコープ径の取得の手法は特に限定されない。例えば、サイズ取得部１１１は、内視鏡画像Ｉｍ１の第１の開始位置から第１の目標位置に向けて第１の走査方向にスキャンした場合に、輝度と第２の閾値との大小関係が最初に切り替わった第１の画素位置に基づいてスコープ径を計算してもよい。このとき、サイズ取得部１１１は、第１の画素位置と中心位置との第１の距離の２倍をスコープ径として算出すればよい。

【0043】

なお、第２の閾値は、固定値であってもよいが、内視鏡画像Ｉｍ１の状況に応じた値に設定されてもよい。例えば、サイズ取得部１１１は、内視鏡画像Ｉｍ１の輝度ごとの画素数分布に基づいて第２の閾値を設定してよい。より詳細には、サイズ取得部１１１は、内視鏡画像Ｉｍ１の輝度ごとの画素数分布の中央値を特定し、中央値を第２の閾値として設定してよい。

【0044】

また、走査方向は複数であってもよい。走査方向が二方向である場合について説明する。図７および図８は、走査方向が二方向である場合におけるスコープ径の算出例を説明するための図である。図７に示すように、サイズ取得部１１１は、内視鏡画像Ｉｍ１の第１の開始位置から第１の走査方向Ｄｒにスキャンした場合に、輝度と第２の閾値との大小関係が最初に切り替わった第１の画素位置を計算する。

【0045】

また、図８に示すように、サイズ取得部１１１は、内視鏡画像Ｉｍ１の第２の開始位置から第２の走査方向Ｄｌにスキャンした場合に、輝度と第２の閾値との大小関係が最初に切り替わった第２の画素位置を計算する。そして、サイズ取得部１１１は、第１の画素位置と第２の画素位置とに基づいて、スコープ径を計算する。

【0046】

より具体的には、サイズ取得部１１１は、第１の画素位置と中心位置との第１の距離Ｗｒと、第２の画素位置と中心位置との第２の距離Ｗｌとの差が、第３の閾値（所定の距離）を下回る場合には、第１の距離Ｗｒと第２の距離Ｗｌとの和をスコープ径として算出すればよい。一方、サイズ取得部１１１は、第１の距離Ｗｒと第２の距離Ｗｌとの差が第３の閾値を上回る場合には、第１の距離Ｗｒと第２の距離Ｗｌとのうち大きい距離の２倍をスコープ径として算出すればよい。

【0047】

図７に示したように、第１の開始位置は、内視鏡画像Ｉｍ１の中心位置であり、第１の目標位置は、内視鏡画像Ｉｍ１の端部位置であってよい。また、図８に示したように、第２の開始位置も、内視鏡画像Ｉｍ１の中心位置であり、第２の目標位置は、内視鏡画像Ｉｍ１の端部位置であってよい。内視鏡画像Ｉｍ１の内側に被写体Ｓｕが高輝度に映っている可能性が高いため、内視鏡画像Ｉｍ１の内側から外側に向けてスキャンが行われる場合には、より高精度な計算が可能となる。

【0048】

しかし、第１の開始位置、第２の開始位置、第１の目標位置および第２の目標位置は、図７および図８に示した例に限定されない。例えば、第１の開始位置は、内視鏡画像Ｉｍ１の端部位置であり、第１の目標位置は、内視鏡画像Ｉｍ１の中心位置であってもよい。内視鏡画像Ｉｍ１の端部だけに黒領域が存在する可能性が高いため、内視鏡画像Ｉｍ１の外側から内側に向けてスキャンが行われる場合には、より早く計算を終了させることが可能となる。

【0049】

なお、上述した例では、第１の走査方向が右方向であり、第２の走査方向が左方向であるが、第１の走査方向および第２の走査方向は、かかる例に限定されない。例えば、第１の走査方向および第２の走査方向のうち、一方が上方向であり、他方が下方向であってもよい。また、第１の走査方向および第２の走査方向のうち、一方が斜め方向（右上から左下への方向または左下から右上への方向）であり、他方が斜め方向（左上から右下への方向または右下から左上への方向）であってもよい。

【0050】

サイズ取得部１１１によってスコープ径が取得されると、領域抽出部１１２は、スコープ径に応じた領域を抽出領域として抽出する。例えば、あらかじめスコープ径に抽出すべき領域を示すマップ（以下、「黒領域枠マップ」とも言う。）が対応付けられている場合、領域抽出部１１２は、サイズ取得部１１１によって取得されたスコープ径に対応する黒領域枠マップを取得する。図９は、黒領域枠マップの例を示す図である。図９を参照すると、黒領域枠マップＭｐにおいて、抽出される領域が「１」として示されており、除外されるべき領域が「０」として示されている。

【0051】

領域抽出部１１２は、内視鏡画像Ｉｍ１から、黒領域枠マップＭｐにおいて抽出すべき領域として設定されている画素を抽出する。図７および図８には、抽出領域Ｒｗ２および除外領域Ｒｂ２が示されている。そして、露光制御部１１３は、領域抽出部１１２によって抽出された抽出領域におけるイメージセンサ出力値に基づいて露光制御を行う。なお、抽出領域におけるイメージセンサ２３２からの出力値は、抽出領域の各画素に対応する出力値の平均値であってよい。これにより、観察領域Ｒｓ１が過剰に明るくなってしまう可能性を低減することによって、内視鏡画像Ｉｍ１の輝度をより適切に調整することが可能となる。

【0052】

続いて、以上に説明した、サイズ取得部１１１、領域抽出部１１２および露光制御部１１３の動作の例について説明する。図１０は、スコープ径に応じた露光制御の動作の例を示すフローチャートである。なお、図１０に示した動作の例は、スコープ径に応じた露光制御の動作の例を示すフローチャートである。したがって、スコープ径に応じた露光制御の動作は、図１０に示した動作の例に限定されない。なお、図１０においては、スコープ径を黒領域枠径として示している。

【0053】

図１０に示すように、領域抽出部１１２は、内視鏡画像Ｉｍ１において中心領域Ｃｅと周辺領域Ｎ１～Ｎ４（またはＮ５、Ｎ６）との輝度差が第１の閾値を下回る場合には（Ｓ１１において「Ｎｏ」）、動作を終了する。一方、領域抽出部１１２は、内視鏡画像Ｉｍ１において中心領域Ｃｅと周辺領域Ｎ１～Ｎ４（またはＮ５、Ｎ６）との輝度差が第１の閾値を上回る場合には（Ｓ１１において「Ｙｅｓ」）、第２の閾値により内視鏡画像Ｉｍ１の各画素を２値化する（Ｓ１２）。

【0054】

続いて、領域抽出部１１２は、２値化画像に対してラインスキャンを実施する（Ｓ１３）。ここで、領域抽出部１１２は、右方向へのスキャン結果（以下、「右スキャン結果」とも言う。）と左方向へのスキャン結果（以下、「左スキャン結果」とも言う。）との差が第３の閾値を上回る場合には（Ｓ１４において「Ｙｅｓ」）、黒領域枠径に右スキャン結果と左スキャン結果との和を設定し（Ｓ１５）、Ｓ１７に動作を移行させる。

【0055】

一方、領域抽出部１１２は、右スキャン結果と左スキャン結果との差が第３の閾値を下回る場合には（Ｓ１４において「Ｎｏ」）、黒領域枠径により長いスキャン結果の２倍を設定し（Ｓ１６）、Ｓ１７に動作を移行させる。続いて、領域抽出部１１２は、黒領域枠径に対応する黒領域枠マップＭｐを選択し（Ｓ１７）、黒領域枠マップＭｐと内視鏡画像Ｉｍ１とにおいて対応する画素値同士を乗算する（Ｓ１８）。かかる乗算により、抽出領域Ｒｗ２が抽出される。

【0056】

続いて、露光制御部１１３は、乗算結果に基づいて、露光制御を行う（Ｓ１９）。露光制御部１１３は、領域抽出部１１２によって抽出された抽出領域Ｒｗ２におけるイメージセンサ出力値に基づいて露光制御を行う。これにより、観察領域Ｒｓ１が過剰に明るくなってしまう可能性を低減することによって、内視鏡画像Ｉｍ１の輝度をより適切に調整することが可能となる。

【0057】

以上、自動露光制御部１１０の詳細な機能について説明した。

【0058】

＜２．むすび＞
以上説明したように、本開示の実施形態によれば、イメージセンサ２３２による撮像に基づく内視鏡画像Ｉｍ１から、挿入部２００のサイズに応じた領域を抽出領域として抽出する領域抽出部１１２と、抽出領域におけるイメージセンサ出力値に基づいて露光制御を行う露光制御部１１３と、を備える、画像処理装置１００が提供される。かかる構成によれば、観察領域Ｒｓ１が過剰に明るくなってしまう可能性を低減することによって、内視鏡画像Ｉｍ１の輝度をより適切に調整することが可能となる。

【0059】

以上、添付図面を参照しながら本開示の好適な実施形態について詳細に説明したが、本開示の技術的範囲はかかる例に限定されない。本開示の技術分野における通常の知識を有する者であれば、請求の範囲に記載された技術的思想の範疇内において、各種の変更例または修正例に想到し得ることは明らかであり、これらについても、当然に本開示の技術的範囲に属するものと了解される。

【0060】

また、本明細書に記載された効果は、あくまで説明的または例示的なものであって限定的ではない。つまり、本開示に係る技術は、上記の効果とともに、または上記の効果に代えて、本明細書の記載から当業者には明らかな他の効果を奏し得る。

【0061】

なお、以下のような構成も本開示の技術的範囲に属する。
（１）
イメージセンサによる撮像に基づく内視鏡画像から、挿入部のサイズに応じた領域を抽出領域として抽出する領域抽出部と、
前記抽出領域における前記イメージセンサ出力値に基づいて露光制御を行う露光制御部と、
を備える、画像処理装置。
（２）
前記画像処理装置は、前記挿入部のサイズを取得するサイズ取得部を備える、
前記（１）に記載の画像処理装置。
（３）
前記サイズ取得部は、前記挿入部のサイズを前記挿入部から取得する、
前記（２）に記載の画像処理装置。
（４）
前記サイズ取得部は、前記内視鏡画像に基づいて前記挿入部のサイズを計算によって取得する、
前記（２）に記載の画像処理装置。
（５）
前記サイズ取得部は、前記内視鏡画像の第１の開始位置から第１の目標位置に向けて第１の走査方向にスキャンした場合に、輝度と閾値との大小関係が最初に切り替わった第１の画素位置に基づいて前記挿入部のサイズを計算する、
前記（４）に記載の画像処理装置。
（６）
前記第１の開始位置は、前記内視鏡画像の中心位置であり、前記第１の目標位置は、前記内視鏡画像の端部位置である、
前記（５）に記載の画像処理装置。
（７）
前記第１の開始位置は、前記内視鏡画像の端部位置であり、前記第１の目標位置は、前記内視鏡画像の中心位置である、
前記（５）に記載の画像処理装置。
（８）
前記サイズ取得部は、前記第１の画素位置と前記中心位置との第１の距離または前記第１の距離の２倍を前記挿入部のサイズとして算出する、
前記（６）または（７）に記載の画像処理装置。
（９）
前記第１の走査方向は、上方向、下方向、左方向、右方向または斜め方向である、
前記（５）～（８）のいずれか一項に記載の画像処理装置。
（１０）
前記サイズ取得部は、前記内視鏡画像の第２の開始位置から第２の走査方向にスキャンした場合に、輝度と閾値との大小関係が最初に切り替わった第２の画素位置と、前記第１の画素位置とに基づいて、前記挿入部のサイズを計算する、
前記（６）に記載の画像処理装置。
（１１）
前記サイズ取得部は、前記第１の画素位置と前記中心位置との第１の距離と、前記第２の画素位置と前記中心位置との第２の距離との差が所定の距離を下回る場合には、前記第１の距離と前記第２の距離との和を前記挿入部のサイズとして算出する、
前記（１０）に記載の画像処理装置。
（１２）
前記サイズ取得部は、前記第１の画素位置と前記中心位置との第１の距離と、前記第２の画素位置と前記中心位置との第２の距離との差が所定の距離を上回る場合には、前記第１の距離と前記第２の距離とのうち大きい距離の２倍を前記挿入部のサイズとして算出する、
前記（１０）に記載の画像処理装置。
（１３）
前記サイズ取得部は、前記内視鏡画像の輝度ごとの画素数分布に基づいて前記閾値を設定する、
前記（５）～（１２）のいずれか一項に記載の画像処理装置。
（１４）
前記露光制御部は、前記抽出領域における前記イメージセンサ出力値に基づいて、露光を制御するためのパラメータを調整する、
前記（１）～（１３）のいずれか一項に記載の画像処理装置。
（１５）
前記パラメータは、前記イメージセンサの電子シャッタ速度、前記イメージセンサによって撮像されたアナログ信号に対して乗じられるゲインのうちの少なくともいずれか一つを含む、
前記（１４）に記載の画像処理装置。
（１６）
前記パラメータは、光源の明るさを含む、
前記（１４）のいずれか一項に記載の画像処理装置。
（１７）
前記露光制御部は、前記内視鏡画像に前記挿入部の影が写り込んでいると判断した場合には、前記抽出領域におけるイメージセンサ出力値に基づいた前記露光制御を行う、
前記（１）～（１６）のいずれか一項に記載の画像処理装置。
（１８）
イメージセンサによる撮像に基づく内視鏡画像から、挿入部のサイズに応じた領域を抽出領域として抽出することと、
プロセッサにより、前記抽出領域における前記イメージセンサ出力値に基づいて露光制御を行うことと、
を含む、画像処理装置。
（１９）
コンピュータを、
イメージセンサによる撮像に基づく内視鏡画像から、挿入部のサイズに応じた領域を抽出領域として抽出する領域抽出部と、
前記抽出領域における前記イメージセンサ出力値に基づいて露光制御を行う露光制御部と、
を備える画像処理装置として機能させるためのプログラム。
（２０）
光を発する光源部と、
前記光源部により発せられた前記光の反射光を受光して内視鏡画像を撮像するイメージセンサと、を有し、
前記内視鏡画像から、挿入部のサイズに応じた領域を抽出領域として抽出する領域抽出部と、
前記抽出領域における前記イメージセンサ出力値に基づいて露光制御を行う露光制御部と、
を備える、画像処理装置を有する、画像処理システム。

【符号の説明】

【0062】

１ 画像処理システム
１００ 画像処理装置
１１０ 自動露光制御部
１１１ サイズ取得部
１１２ 領域抽出部
１１２ 露光制御部
１１３ 露光制御部
１２０ 画像処理部
１３０ 制御部
２００ 挿入部
２１０ ライトガイド
２２０ 照明レンズ
２３０ 撮像部
２３１ 対物レンズ
２３２ イメージセンサ
２４０ メモリ
３００ 光源部
３１０ 白色光源
３２０ 集光レンズ
４００ 表示部
５００ 操作部
Ｃｅ 中心領域
Ｄｌ 第２の走査方向
Ｄｒ 第１の走査方向
Ｉｍ１ 内視鏡画像
Ｍｐ 黒領域枠マップ
Ｎ１～Ｎ６ 周辺領域
Ｒｂ１ 黒領域
Ｒｂ２ 除外領域
Ｒｓ１ 観察領域
Ｒｗ２ 抽出領域
Ｓｕ 被写体
Ｗｌ 第２の距離
Ｗｒ 第１の距離

【図1】

【図2】

【図3】

【図4】

【図5】

【図6】

【図7】

【図8】

【図9】

【図10】