ホーム > 特許ランキング > ソニーグループ株式会社
(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】
(24)【登録日】2024-09-02
(45)【発行日】2024-09-10
(54)【発明の名称】表示制御装置、表示制御方法および表示制御プログラム
(51)【国際特許分類】
H04N 23/63 20230101AFI20240903BHJP
G09G 5/00 20060101ALI20240903BHJP
G09G 5/14 20060101ALI20240903BHJP
G09G 5/36 20060101ALI20240903BHJP
G09G 5/38 20060101ALI20240903BHJP
G09G 5/377 20060101ALI20240903BHJP
G03B 17/18 20210101ALI20240903BHJP
【ＦＩ】
H04N23/63 330
G09G5/00 550C
G09G5/14 A
G09G5/36 300
G09G5/38 100
G09G5/377 100
G09G5/00 530M
G09G5/00 510H
G03B17/18
【請求項の数】
16
(21)【出願番号】P 2021515918
(86)(22)【出願日】2020-03-30
(86)【国際出願番号】 JP2020014618
(87)【国際公開番号】W WO2020217874
(87)【国際公開日】2020-10-29
【審査請求日】2023-02-20
(31)【優先権主張番号】P 2019085344
(32)【優先日】2019-04-26
(33)【優先権主張国・地域又は機関】JP
(73)【特許権者】
【識別番号】000002185
【氏名又は名称】ソニーグループ株式会社
(74)【代理人】
【識別番号】100082762
【弁理士】
【氏名又は名称】杉浦 正知
(74)【代理人】
【識別番号】100123973
【弁理士】
【氏名又は名称】杉浦 拓真
(72)【発明者】
【氏名】長尾 壮史
(72)【発明者】
【氏名】沼田 知己
【審査官】高野 美帆子
(56)【参考文献】
【文献】特開２００１－１４５００５（ＪＰ，Ａ）
【文献】特開２００６－２６７５９９（ＪＰ，Ａ）
【文献】国際公開第２０１４／０１３９７９（ＷＯ，Ａ１）
【文献】特開２０１０－２２６４９６（ＪＰ，Ａ）
(58)【調査した分野】(Int.Cl.，ＤＢ名)
Ｈ０４Ｎ ２３／６３
Ｇ０９Ｇ ５／００
Ｇ０９Ｇ ５／１４
Ｇ０９Ｇ ５／３６
Ｇ０９Ｇ ５／３７７
Ｇ０９Ｇ ５／３８
Ｇ０３Ｂ １７／１８
(57)【特許請求の範囲】
【請求項1】
全画角については画素間引きで第１撮像信号を出力し、前記全画角内の一部領域については全画素で第２撮像信号を出力する撮像素子から出力される前記第１撮像信号に基づく第１画像と、前記第２撮像信号に基づく第２画像を表示部に表示するように制御する表示制御部を備え、前記表示制御部は、前記表示部の解像度に応じて前記第１画像と前記第２画像の表示態様を変化させ、前記表示部の解像度が所定値以上である場合、前記第１画像と前記第２画像を並べて表示させる
表示制御装置。
【請求項2】
前記第１画像と前記第２画像は同時に前記表示部に表示される請求項１に記載の表示制御装置。
【請求項3】
前記第１画像は撮像範囲全体を表す画像である請求項１に記載の表示制御装置。
【請求項4】
前記第２画像は前記撮像範囲の部分拡大画像である請求項３に記載の表示制御装置。
【請求項5】
前記第１画像と前記第２画像は並べて表示される請求項１に記載の表示制御装置。
【請求項6】
前記第２画像は前記第１画像上に重畳して表示される請求項１に記載の表示制御装置。
【請求項7】
前記第１画像は前記第２画像よりも大きく表示される請求項６に記載の表示制御装置。
【請求項8】
前記第２画像は前記第１画像よりも高画質である請求項１に記載の表示制御装置。
【請求項9】
前記表示部の解像度が所定値以下である場合、前記第１画像上に前記第２画像を重畳して表示させる請求項１に記載の表示制御装置。
【請求項10】
前記第１画像は前記表示部全体に表示させる請求項９に記載の表示制御装置。
【請求項11】
前記第２画像は、前記第１画像と並べて表示させる状態における前記第２画像のサイズよりも大きく表示させる請求項９に記載の表示制御装置。
【請求項12】
前記表示制御部は、ユーザからの指示に応じて前記表示部における前記第１画像と前記第２画像のいずれかまたは両方の表示位置を変更する請求項１に記載の表示制御装置。
【請求項13】
前記表示制御部は、ユーザからの指示に応じて前記表示部における前記第１画像と前記第２画像のいずれかまたは両方のサイズを変更する請求項１に記載の表示制御装置。
【請求項14】
前記表示部において、前記第１画像内における前記第２画像に対応する領域を示すアイコンを前記第１画像上に表示させる請求項１に記載の表示制御装置。
【請求項15】
全画角については画素間引きで第１撮像信号を出力し、前記全画角内の一部領域については全画素で第２撮像信号を出力する撮像素子から出力される前記第１撮像信号に基づく第１画像と、前記第２撮像信号に基づく第２画像を表示部に表示するように制御し、
前記表示部の解像度に応じて前記第１画像と前記第２画像の表示態様を変化させ、前記表示部の解像度が所定値以上である場合、前記第１画像と前記第２画像を並べて表示させる
表示制御方法。
【請求項16】
全画角については画素間引きで第１撮像信号を出力し、前記全画角内の一部領域については全画素で第２撮像信号を出力する撮像素子から出力される前記第１撮像信号に基づく第１画像と、前記第２撮像信号に基づく第２画像を表示部に表示するように制御し、
前記表示部の解像度に応じて前記第１画像と前記第２画像の表示態様を変化させ、前記表示部の解像度が所定値以上である場合、前記第１画像と前記第２画像を並べて表示させる
表示制御方法をコンピュータに実行させる表示制御プログラム。
【発明の詳細な説明】
【技術分野】
【0001】
本技術は、表示制御装置、表示制御方法および表示制御プログラムに関する。
【背景技術】
【0002】
デジタルカメラやデジタルビデオカメラ等の撮像装置において、ユーザは被写体の一部にピント合わせを行った状態で、静止画あるいは動画の撮影を行う。ユーザはピント合わせやその確認のためには、撮像装置に設けられた表示部（背面パネルや電子ファインダー等）に表示される被写体のモニタリング画像を目視して確認する。
【0003】
通常、撮像装置の表示部は物理的なサイズが小さいため、ピントの確認や被写体の確認が難しいという問題がある。そのため、手動でのピント合わせ操作時に表示部に被写体の一部を全画面に拡大して表示させることでユーザがピント状態を確認する際の視認性を改善する技術が提案されている（特許文献１）。
【先行技術文献】
【特許文献】
【0004】
【文献】特開２００７－１３９２６号公報
【発明の概要】
【発明が解決しようとする課題】
【0005】
しかし、特許文献１に記載の技術においては、被写体の一部を全画面に拡大して表示すると、その被写体の一部しか見えなくなり、撮像範囲全体を把握することができなくなってしまうため、ユーザは例えばピントを調整しながらの構図の調整など行うことができないという問題がある。
【0006】
本技術はこのような問題点に鑑みなされたものであり、撮像範囲全体と、撮像範囲の一部領域と同時に確認することができる表示制御装置、表示制御方法および表示制御プログラムを提供することを目的とする。
【課題を解決するための手段】
【0007】
上述した課題を解決するために、第１の技術は、全画角については画素間引きで第１撮像信号を出力し、全画角内の一部領域については全画素で第２撮像信号を出力する撮像素子から出力される第１撮像信号に基づく第１画像と、第２撮像信号に基づく第２画像を表示部に表示するように制御する表示制御部を備え、表示制御部は、表示部の解像度に応じて第１画像と第２画像の表示態様を変化させ、表示部の解像度が所定値以上である場合、第１画像と第２画像を並べて表示させる表示制御装置である。
【0008】
また、第２の技術は、全画角については画素間引きで第１撮像信号を出力し、全画角内の一部領域については全画素で第２撮像信号を出力する撮像素子から出力される第１撮像信号に基づく第１画像と、第２撮像信号に基づく第２画像を表示部に表示するように制御し、表示部の解像度に応じて第１画像と第２画像の表示態様を変化させ、表示部の解像度が所定値以上である場合、第１画像と第２画像を並べて表示させる表示制御方法である。
【0009】
さらに、第３の技術は、全画角については画素間引きで第１撮像信号を出力し、全画角内の一部領域については全画素で第２撮像信号を出力する撮像素子から出力される第１撮像信号に基づく第１画像と、第２撮像信号に基づく第２画像を表示部に表示するように制御し、表示部の解像度に応じて第１画像と第２画像の表示態様を変化させ、表示部の解像度が所定値以上である場合、第１画像と第２画像を並べて表示させる表示制御方法をコンピュータに実行させる表示制御プログラムである。
【図面の簡単な説明】
【0010】
【図1】本技術に係る表示制御装置２００を備える撮像装置１００の構成を示すブロック図である。
【図2】撮像素子１０３からの撮像信号出力の説明図である。
【図3】撮像素子１０３からの撮像信号出力の説明図である。
【図4】撮像素子１０３からの撮像信号出力用経路の説明図である。
【図5】第１の表示態様を実現する処理のフローチャートである。
【図6】第１の表示態様の説明図である。
【図7】第２の表示態様を実現する処理のフローチャートである。
【図8】第２の表示態様の説明図である。
【図9】第３の表示態様を実現する処理のフローチャートである。
【図10】第３の表示態様の説明図である。
【図11】ユーザからの入力により表示態様を変更する例の説明図である。
【図12】手術室システムの全体構成を概略的に示す図である。
【図13】集中操作パネルにおける操作画面の表示例を示す図である。
【図14】手術室システムが適用された手術の様子の一例を示す図である。
【図16】車両制御システムの概略的な構成の一例を示すブロック図である。
【図17】車外情報検出部及び撮像部の設置位置の一例を示す説明図である。
【発明を実施するための形態】
【0011】
以下、本技術の実施の形態について図面を参照しながら説明する。なお、説明は以下の順序で行う。
＜１．実施の形態＞
［１－１．撮像装置１００の構成］
［１－２－１．第１の表示態様］
［１－２－２．第２の表示態様］
［１－２－３．第３の表示態様］
＜２．応用例＞
＜３．応用例＞
＜４．変形例＞
＜１．実施の形態＞
［１－１．撮像装置１００の構成］
［１－２－１．第１の表示態様］
［１－２－２．第２の表示態様］
［１－２－３．第３の表示態様］
＜２．応用例＞
＜３．応用例＞
＜４．変形例＞
【0012】
【0013】
撮像装置１００は、光学撮像系１０１、光学系駆動部１０２、撮像素子１０３、前処理部１０４、カメラ処理部１０５、画像メモリ１０６、記録画像生成部１０７、ＯＳＤ画像生成部１０８、表示画像生成部１０９、記憶部１１０、表示部１１１、入力部１１２、センサ部１１３、制御部１１４を備えて構成されている。
【0014】
光学撮像系１０１は、被写体からの光を撮像素子１０３に集光するための撮影レンズ、撮影レンズを移動させてフォーカス合わせやズーミングを行うための駆動機構、シャッタ機構、アイリス機構などから構成されている。これらは光学系駆動部１０２の制御により駆動される。光学撮像系１０１を介して得られた被写体の光画像は、撮像素子１０３上に結像される。
【0015】
光学系駆動部１０２は、例えばマイコンなどにより構成され、制御部１１４の制御に従い、光学撮像系１０１の駆動機構、シャッタ機構、アイリス機構などの動作を制御する。これにより、露光時間（シャッタースピード）の調整、絞り値（Ｆ値）などの調整がなされる。
【0016】
撮像素子１０３は、被写体からの入射光を光電変換して電荷量に変換し、撮像信号として出力する。撮像素子１０３から出力される撮像信号は前処理部１０４に出力される。撮像素子１０３としては、ＣＣＤ（Charge Coupled Device）、ＣＭＯＳ（Complementary Metal Oxide Semiconductor）などが用いられる。
【0017】
本技術において撮像素子１０３は、画像としての解像度が異なる複数の読み出しモードで動作可能である。読み出しモードには図２Ａに示すように撮像範囲全体である全画角において全ての有効画素から読み出して撮像信号を出力する全画素モードがある。また、読み出しモードには図２Ｂに示すように撮像範囲全体である全画角において画素を間引いて読み出して撮像信号を出力する間引きモードがある。図２Ｂでは有効画素のうち、番号を円で囲った画素からのみ読出しを行っている。なお、図２および図３における撮像素子１０３に付された各番号は画素を示すものである。
【0018】
さらに図３に示すように、読み出しモードには全画素／間引きモードがある。全画素／間引きモードは、撮像範囲全体である全画角においては番号を円で囲った画素に示すように画素を間引いて読み出して撮像信号を出力する。さらに、全画素／間引きモードでは、全画角内の太線で囲う一部領域においては番号を三角形で囲った画素に示すように全画素から読み出して撮像信号を出力する。この２つの方法の撮像信号の読み出しと出力を同一露光内に同時に行う。なお、図３において太線で囲った一部領域は説明の便宜上設定したものであり、一部領域がそこに限定されるものではない。
【0019】
撮像素子１０３は読み出しモード制御部２０３の制御に従って上記いずれかのモードで動作して撮像信号を出力する。この撮像素子１０３の動作モードはモード制御部２０３の制御により切り替え可能とする。
【0020】
全画素／間引きモードにおける、全画角において画素を間引いて読み出して出力される撮像信号は特許請求の範囲における第１撮像信号に相当する。また、全画角内の一部領域における全画素から読み出して出力される撮像信号は特許請求の範囲における第２撮像信号に相当する。そして、第１撮像信号に基づく画像は特許請求の範囲における第１画像であり、第２撮像信号に基づく画像は特許請求の範囲における第２画像である。第２画像は撮像範囲の部分拡大画像である。第１画像および第２画像はスルー画（モニタリング画像）を構成するフレーム画像である。フレームごとの撮像素子１０３からの撮像信号の出力で随時更新されて、連続で表示されることによりスルー画を構成する。
【0021】
前処理部１０４は、Ａ／Ｄ（Analog/Digital）変換によりアナログ撮像信号をデジタル画像信号に変換して出力する。また撮像信号に対してＡＧＣ（Auto Gain Control）処理により利得を制御してもよい。
【0022】
カメラ処理部１０５は、画像信号に対してホワイトバランス調整処理や色補正処理、ガンマ補正処理、Ｙ／Ｃ変換処理、ＡＥ（Auto Exposure）処理などの信号処理を画像信号に施す。
【0023】
画像メモリ１０６は、揮発性メモリ、例えば、ＤＲＡＭ（Dynamic Random Access Memory）で構成されるバッファメモリであり、前段回路によって所定の処理が施された画像データを一時的に蓄えておくものである。
【0024】
記録画像生成部１０７は、カメラ処理部１０５で処理された画像をもとにして解像度変換や記録形式（例えば、ＪＰＥＧ（Joint Photographic Experts Group）やＭＰＥＧ－４等）への符号化処理を行って記録画像を生成する。
【0025】
ＯＳＤ画像生成部１０８は、例えば、時刻や現在の露出モード、Ｆ値、電池残り残量等のカメラ情報をユーザに通知するためのＯＳＤ（On Screen Display）画像を生成する。
【0026】
表示画像生成部１０９は、表示部１１１に表示する画像を生成する。例えば、モニタリング画像とＯＳＤ画像の合成処理や表示部１１１の解像度に合わせた解像度変換拡処理等を行う。
【0027】
記憶部１１０は、例えば、ＨＤＤ（Hard Disc Drive）、ＳＳＤ（Solid State Drive）、ＳＤメモリカードなどの大容量記憶媒体である。画像は例えばＪＰＥＧ（Joint Photographic Experts Group）などの規格に基づいて圧縮された状態で保存される。また、保存された画像に関する情報、撮像日時などの付加情報を含むＥＸＩＦ（Exchangeable Image File Format）データもその画像に対応付けられて保存される。動画は、例えば、ＭＰＥＧ２（Moving Picture Experts Group2）、ＭＰＥＧ４などの形式で保存される。
【0028】
表示部１１１は、例えば、ＬＣＤ（Liquid Crystal Display）、ＰＤＰ(Plasma Display Panel)、有機ＥＬ(Electro Luminescence)パネルなどにより構成された表示デバイスである。表示部１１１には、撮像装置１００のユーザインターフェース、メニュー画面、撮像中のモニタリング画像、記憶部１１０に記録された撮影済み画像、撮影済み動画などが表示される。
【0029】
入力部１１２は、例えば、電源オン／オフ切り替えのための電源ボタン、撮像画像の記録の開始を指示するためのレリーズボタン、ズーム調整用の操作子、表示部１１１と一体に構成されたタッチスクリーンなどからなる。入力部１１２に対して入力がなされると、その入力に応じた制御信号が生成されて制御部１１４に出力される。そして、制御部１１４はその制御信号に対応した演算処理や制御を行う。
【0030】
センサ部１１３は各種センサを包括的に示している。例えば手ぶれ、或いは撮像装置１００の姿勢や移動等の撮像装置１００の全体の動きを検出するためのジャイロセンサ（角速度センサ）、加速度センサ等が設けられる。また露光調整等のための外部照度を検出する照度センサ、さらには被写体距離を測定する測距センサが設けられてもよい。
【0031】
制御部１１４は、ＣＰＵ（Central Processing Unit）、ＲＡＭ（Random Access Memory）およびＲＯＭ（Read Only Memory）などから構成されている。ＲＯＭには、ＣＰＵにより読み込まれ動作されるプログラムなどが記憶されている。ＲＡＭは、ＣＰＵのワークメモリとして用いられる。ＣＰＵは、ＲＯＭに記憶されたプログラムに従い様々な処理を実行してコマンドの発行を行うことによって撮像装置１００全体の制御を行う。
【0032】
本実施の形態において制御部１１４は表示制御装置２００を構成する動作決定部２０１、表示制御部２０２、モード制御部２０３としての機能ブロックを備える。
【0033】
動作決定部２０１は、撮像装置１００の現在の状態を検出して次に行うべき動作を判定・決定する。例えば、静止画撮影モード中にシャッターボタンが押下されたことを検知して静止画撮影動作実行を決定する。また、例えば、静止画撮影モードでマニュアルフォーカスなどの所定の入力操作が行われたことを検出して本技術に係る表示制御の実行を決定するなどを行う。
【0034】
表示制御部２０２は、例えば、動作決定部２０１によって本技術に係る表示制御の実行が決定された際に、表示部１１１における表示を本技術に係る表示態様とするように表示制御を行い、第１画像と第２画像を所定の態様で表示部１１１に表示させる。本技術に係る表示制御の詳細は後述する。また、読み出しモード制御部２０３に適切な読み出しモード切り替えの指示を行う。
【0035】
読み出しモード制御部２０３は、撮像素子１０３が有する上述した読み出しモードの切り替えを制御する。具体的には本技術に係る表示制御が実行される場合には、図３に示すように全画角においては画素を間引き、かつ、全画角内の一部領域においては全画素で同一露光内にこれらを同時に読み出す全画素／間引きモードになるようにモードの切り替えを行う。
【0036】
表示制御装置２００はプログラムで構成され、そのプログラムは予め撮像装置１００内にインストールされていてもよいし、ダウンロード、記憶媒体などで配布されて、ユーザが自らインストールするようにしてもよい。なお、表示制御装置２００はプログラムによって実現されるのみでなく、その機能を有するハードウェアによる専用の装置、回路などを組み合わせて実現されてもよい。
【0037】
表示制御装置２００としての機能を備える撮像装置１００は以上のようにして構成されている。
【0038】
撮像素子１０３が全画素／間引きモードの場合、間引きで読み出す第１撮像信号と一部領域について全画素で読み出す第２撮像信号が撮像素子１０３から出力される。この場合、図４に示すように撮像素子１０３から前処理部１０４への撮像信号の伝送は、ＬＶＤＳ（Low voltage differential signaling）やＭＩＰＩ（Mobile Industry Processor Interface）といったデジタル信号のインターフェースを複数設け、各々を第１撮像信号用、第２撮像信号用の信号伝送経路として行う。
【0039】
なお、異なる経路で第１撮像信号と第２撮像信号を伝送する場合、一方の撮像信号が他方の撮像信号に対して遅延する可能性がある。そのような遅延が生じる場合、第１撮像信号と第２撮像信号にタイミング情報を付加し、同じタイミング情報を有する第１撮像信号と第２撮像信号の両方が届くまで前処理部１０４は待機し両方の信号を受信した後に処理を行うようにしてもよい。
【0040】
なお、このタイミング同期処理は前処理部１０４以外にも撮像素子１０３と前処理部１０４の間に信号受信部を設け、その信号受信部で行ってもよい。
【0041】
なお、撮像素子１０３からの撮像信号の伝送は有線経路ではなく、無線経路であっても構わない。また、帯域が十分に確保され、かつ処理が間に合うのならば１本の伝送経路で第１撮像信号と第２撮像信号を交互に送っても構わない。
【0042】
［１－２－１．第１の表示態様］
次に表示制御装置２００の表示制御による第１の表示態様について説明する。なお、この第１の表示態様、さらに後ほど説明する第２の表示態様および第３の表示態様はユーザが撮像装置１００で撮影を行う際に表示部１１１としての背面表示パネルやＥＶＦ（Electronic View Finder）においてスルー画を表示するためのものである。ユーザはその表示を見ながら画角の調整、構図の調整、ピント合わせ、被写体の確認などを行って撮影を行う。
次に表示制御装置２００の表示制御による第１の表示態様について説明する。なお、この第１の表示態様、さらに後ほど説明する第２の表示態様および第３の表示態様はユーザが撮像装置１００で撮影を行う際に表示部１１１としての背面表示パネルやＥＶＦ（Electronic View Finder）においてスルー画を表示するためのものである。ユーザはその表示を見ながら画角の調整、構図の調整、ピント合わせ、被写体の確認などを行って撮影を行う。
【0043】
まず図５のフローチャートにおけるステップＳ１０１で、ユーザから撮像装置１００に対してマニュアルフォーカスなどの所定の入力または本技術に係る表示制御の実行を指示する入力があったか否かが判定される。入力があった場合処理はステップＳ１０２に進む（ステップＳ１０１のＹｅｓ）。
【0044】
次にステップＳ１０２で動作決定部２０１は本技術に係る表示制御の実行を決定する。次にステップＳ１０３で表示制御部２０２は読み出しモード制御部２０３に撮像素子１０３のモードを切り替えるよう指示する。
【0045】
次にステップＳ１０４で読み出しモード制御部２０３が撮像素子１０３に制御信号を送信し、撮像素子１０３のモードを全画素／間引きモードに設定する。撮像素子１０３が全画素／間引きモードに設定されると第１撮像信号と第２撮像信号が撮像素子１０３から前処理回路に供給されて上述した画像処理を経て第１画像と第２画像が生成される。
【0046】
そしてステップＳ１０５で表示制御部２０２は表示部１１１における表示を制御して第１画像と第２画像を表示させる。
【0047】
ここで図６を参照して第１の表示態様について説明する。
【0048】
【0049】
図６Ｂに示す第１の表示態様においては、第１撮像信号に基づく第１画像と第２撮像信号に基づく第２画像の両方が表示部１１１に並んで同時に表示される。第１画像は全画角において画素間引きで出力された第１撮像信号に基づく画像であり、第２画像は全画角内の一部領域において全画素で出力された第２撮像信号に基づく画像である。よって、第１画像は第２画像よりも低画質であり、第２画像は第１画像よりも高画質となる。
【0050】
第１画像は全画角において画素間引きで出力された第１撮像信号に基づく画像であるため、ユーザは第１画像を見ることで撮像範囲全体である全画角を確認することができる。これによりユーザは第１画像を見ながら画角調整、フレーミング、構図調整などを行うことができる。
【0051】
また、第２画像は全画角内の一部領域の画像であり第１画像の部分拡大画像である。被写体が拡大して表示されるため被写体の細部まで目視で確認することができる。よってユーザはこの第２画像を見ながら正確なピント調整、小さい被写体や複雑な被写体の確認、被写体の色の確認などを行うことができる。
【0052】
なお、第２画像で拡大する第１画像中の一部領域は、デフォルトで例えば第１画像の中央に配置されてもよいし、公知の被写体検出機能により検出した特定の被写体（例えば人物の顔）を含めるように配置されてもよい。また、一部領域の位置およびサイズはユーザが任意に変更できるようにしてもよい。
【0053】
第１画像と第２画像は表示部１１１において並んで表示されているため、ユーザは第１画像を見ながらの画角調整、構図調整などを行うと同時に第２画像を見ながらピント調整や被写体確認を行うことができる。さらに、ユーザは第１画像を見ながら行う画角調整、画角調整や構図調整と、第２画像を見ながら行うピント調整や被写体確認を表示部１１１における表示を切り替えることなく行うことができる。
【0054】
なお、第１画像は画角調整、構図調整を行うためのものであるため第２画像より低画質であっても支障はない。
【0055】
第１画像上には第２画像で拡大している領域を示す矩形状のアイコンＴが重畳表示されている。これによりユーザは第２画像が第１画像の中のどこを拡大したものであるかを容易に確認することができる。
【0056】
［１－２－２．第２の表示態様］
次に図７および図８を参照して表示制御装置２００の表示制御による第２の表示態様について説明する。なお、図７のフローチャートにおけるステップＳ１０１乃至ステップＳ１０４は図５における処理と同様であるため説明を省略する。
次に図７および図８を参照して表示制御装置２００の表示制御による第２の表示態様について説明する。なお、図７のフローチャートにおけるステップＳ１０１乃至ステップＳ１０４は図５における処理と同様であるため説明を省略する。
【0057】
ステップＳ１０４の次にステップＳ２０１で表示部１１１の解像度が所定値以上であるか否かが判定される。解像度が所定値以上とは例えば解像度がＦＨＤ（Full High Definition）以上であるか否かである。
【0058】
表示部１１１の解像度が所定値以上である場合処理はステップＳ２０２に進む（ステップＳ２０１のＹｅｓ）。そしてステップＳ２０２で、図８に示すように表示制御部２０２は第１画像と第２画像を同時に並べて表示する上述の第１の表示態様と同様の並列表示制御を行う。
【0059】
一方、表示部１１１の解像度が所定値以上ではない場合、処理はステップＳ２０３に進む（ステップＳ２０１のＮｏ）。そしてステップＳ２０３で表示制御部２０２は図８に示すように第１画像上に第２画像を重畳して表示する重畳表示制御を行う。
【0060】
図８に示す、第１画像上に第２画像を重畳して表示する態様では、全画角において画素間引きで出力された第１撮像信号に基づく第１画像は表示部１１１全体に第２画像よりも大きく表示される。また、全画角内の一部領域において全画素で出力された第２撮像信号に基づく第２画像は第１画像上に重畳して表示される。この場合、第２画像は図６に示す第１の表示態様において表示される状態よりも大きいサイズで表示される。なぜなら図８に示す重畳表示は表示部１１１の解像度が低い場合に行うものであり、部分拡大画像である第２画像をユーザに見やすく提示するためには大きなサイズで表示するのがよいからである。また重畳表示することにより、第１画像の全体を覆ってしまわない範囲で第２画像のサイズは大きくすることができるからである。
【0061】
第１画像は全画角において画素間引きで出力された第１撮像信号に基づく画像であるため、ユーザは第１画像を見ることで全画角を確認することができる。これによりユーザは第１画像を見ながら画角調整、構図調整などを行うことができる。なお、重畳表示すると第２画像により第１画像の一部が隠れることになるが、図８に示す重畳表示では第１画像の上下左右の端は表示されているため、特定の被写体を画角内に入れるように調整したり、大まかな構図の調整は問題なく行うことができる。
【0062】
また、第２画像は全画角内の一部領域を拡大した画像であるため、被写体の細部まで目視で確認することができ、ユーザはこの第２画像を見ながらより正確なピント調整、被写体確認などを行うことができる。
【0063】
このように第２の表示態様では表示部１１１の解像度に応じて表示態様を切り替える。例えば、表示部１１１がＦＨＤ（１９２０×１０８０）以上のような高解像度である場合は、図８のように、２つの画像のサイズを小さくして並べて同時に表示してもユーザは被写体を確認できる。しかし、表示部１１１が低解像度の場合、高解像度の場合と同様に２つの画像のサイズを小さくして並べて同時に表示すると見づらくなる。したがって、低解像度の場合は拡大画像である第２画像を優先して、第１画像上に第２画像を重畳して表示する。これにより低解像度であってもユーザは第２画像を見て正確なピント合わせや被写体確認などを行うことができる。
【0064】
なお、ＥＶＦと背面表示パネルを持つような撮像装置１００の場合、通常ＥＶＦの方が背面表示パネルよりも高解像度であることが多く、ＥＶＦでは第１画像と第２画像を並べて表示し、背面表示パネルにおいては第１画像上に第２画像を重畳して表示する、というようにしてもよい。
【0065】
［１－２－３．第３の表示態様］
次に図９および図１０を参照して表示制御装置２００の表示制御による第３の表示態様について説明する。なお、図９のフローチャートにおけるステップＳ１０１乃至ステップＳ１０４は図５における処理と同様であるため説明を省略する。
次に図９および図１０を参照して表示制御装置２００の表示制御による第３の表示態様について説明する。なお、図９のフローチャートにおけるステップＳ１０１乃至ステップＳ１０４は図５における処理と同様であるため説明を省略する。
【0066】
ステップＳ１０４の次にステップＳ３０１でユーザから第１画像および／または第２画像の表示位置および／または表示サイズを指定する入力があったか否かが判定される。ユーザから入力があった場合処理はステップ３０２に進む（ステップＳ３０１のＹｅｓ）。
【0067】
ユーザから表示位置および／または表示サイズを指定する入力は例えば図１０Ａに示すようなOffset,Width,Heightの具体的な値を入力することにより行われる。また、表示部１１１上でユーザがドラッグ操作やピンチイン・ピンチアウト操作などで第１画像と第２画像の表示位置および表示サイズを表す矩形アイコンを操作してOffset,Width,Heightを設定してもよい。サイズおよび位置の情報は、このようなデータ構成で表示制御装置２００内に記憶する。
【0068】
そしてステップＳ３０２で表示制御部２０２はユーザからの入力に従い第１画像と第２画像を表示部１１１に表示させる。
【0069】
一方、ステップＳ３０１でユーザから表示位置および／または表示サイズを指定する入力がない場合、処理はステップＳ３０３に進み（ステップＳ３０１のＮｏ）、予め表示制御装置内に設定しておいたデフォルトの設定で第１画像と第２画像を表示部１１１に表示させる。
【0070】
図１０Ｂはユーザからの表示位置および／または表示サイズの指定に応じた表示部１１１における表示例である。図１０Ｂに示すようにユーザは第１画像および第２画像の表示位置および／または表示サイズを画面上やメニューから自由に指定して変更することができる。
【0071】
Offsetは各画像を表示位置の基準となる二次元座標を示す。基準位置は例えば画像の左上の角である。Widthは各画像の水平方向のサイズであり、Heightは各画像の垂直方向のサイズを示す。なお、図１０の例ではピクセル単位の値になっているが、正規化された値で記憶しておき、表示時に表示デバイスの解像度から計算してもよい。
【0072】
なお、ユーザが指定する表示位置と表示サイズによっては第１画像と第２画像が一部重なる場合がある。このような場合、図１０Ｂに示すように第１画像と第２画像を重ねて表示してもよいし、Offset,Width,Heightの設定を第１画像と第２画像が重ならない範囲で設定できるように制限を設けてもよい。
【0073】
ユーザからの入力に応じて第１画像と第２画像の表示を変更する例としては、図１１に示すようにユーザからの入力に応じて第２画像で拡大表示する第１画像中の領域を変更する例もある。
【0074】
表示部１１１が入力部１１２と一体に構成されたタッチスクリーンである場合、図１１Ａに示すように、第２画像中の任意の位置にユーザが指を接触させる（タップ操作）と、接触位置を基準とした所定の範囲を示す情報が表示制御装置２００から撮像素子１０３に供給される。範囲情報を受けた撮像素子１０３は、第２撮像信号を出力する全画角内の一部領域を範囲情報で示される範囲に変更し、その一部領域における全画素で出力された第２撮像信号を前処理部１０４に供給する。
【0075】
そして、その変更された一部領域から出力された第２撮像信号から生成された第２画像が表示部１１１に表示されることにより、図１１Ｂに示すようにユーザからの入力に従って第２画像における拡大範囲を変更することができる。図１１の例ではユーザが指を被写体の動物の位置に接触させることにより動物が第２画像として拡大表示される。
【0076】
このように第２画像で拡大表示する第１画像中の一部領域の位置を変更する場合、表示制御装置２００は第１画像上において一部領域の位置を示す矩形アイコンＴの位置も変化させる。
【0077】
なお、タップ操作に限らずピンチイン・ピンチアウト操作などの他の操作に応じて第２画像の範囲を変更できるようにしてもよい。また、設定されるOffset、Width、Heightによっては第１画像と第２画像が重ねて表示してもよい。
【0078】
本技術における処理は以上のように行われる。本技術によれば、全画角を確認できる全体画像と一部分を拡大して確認できる部分拡大画像を同時に表示するので、撮影画像全体の画角調整、構図調整とピント調整、被写体の詳細確認を同時に行うことができ、ユーザの使用性が向上する。
【0079】
部分拡大画像である第２画像は間引きしない撮像信号に基づき高画質であるため、ピント状態や被写体の確認しやすく、ユーザの使用性が向上する。
【0080】
また、全体画像である第１画像は間引き読み出しであり、部分拡大画像である第２画像は全画素読み出しなので、撮像素子１０３における消費電力が従来からの通常の撮像素子１０３とほぼ変わらないため、効率性は損なわれない。
【0081】
また、表示部１１１の解像度によって自動的に最適な画面構成にするので、ピント調整や被写体確認におけるユーザの使用性が向上する。
【0082】
また、少ない入力操作で部分拡大する位置を変更できるので、ピント調整や被写体確認におけるユーザの使用性が向上する。
【0083】
さらに、全画角を確認できる全体画像と部分拡大画像の位置/サイズをユーザが自由に設定できるので、個々のユーザに適した画面構成となり、ユーザの使用性が向上する。
【0084】
＜２．応用例＞
本開示に係る技術は、様々な製品へ応用することができる。例えば、本開示に係る技術は、手術室システムに適用されてもよい。
本開示に係る技術は、様々な製品へ応用することができる。例えば、本開示に係る技術は、手術室システムに適用されてもよい。
【0085】
図１２は、本開示に係る技術が適用され得る手術室システム５１００の全体構成を概略的に示す図である。図１２を参照すると、手術室システム５１００は、手術室内に設置される装置群が視聴覚コントローラ（AV Controller）５１０７及び手術室制御装置５１０９を介して互いに連携可能に接続されることにより構成される。
【0086】
手術室には、様々な装置が設置され得る。図１２では、一例として、内視鏡下手術のための各種の装置群５１０１と、手術室の天井に設けられ術者の手元を撮像するシーリングカメラ５１８７と、手術室の天井に設けられ手術室全体の様子を撮像する術場カメラ５１８９と、複数の表示装置５１０３Ａ～５１０３Ｄと、レコーダ５１０５と、患者ベッド５１８３と、照明５１９１と、を図示している。
【0087】
ここで、これらの装置のうち、装置群５１０１は、後述する内視鏡手術システム５１１３に属するものであり、内視鏡や当該内視鏡によって撮像された画像を表示する表示装置等からなる。内視鏡手術システム５１１３に属する各装置は医療用機器とも呼称される。一方、表示装置５１０３Ａ～５１０３Ｄ、レコーダ５１０５、患者ベッド５１８３及び照明５１９１は、内視鏡手術システム５１１３とは別個に、例えば手術室に備え付けられている装置である。これらの内視鏡手術システム５１１３に属さない各装置は非医療用機器とも呼称される。視聴覚コントローラ５１０７及び／又は手術室制御装置５１０９は、これら医療機器及び非医療機器の動作を互いに連携して制御する。
【0088】
視聴覚コントローラ５１０７は、医療機器及び非医療機器における画像表示に関する処理を、統括的に制御する。具体的には、手術室システム５１００が備える装置のうち、装置群５１０１、シーリングカメラ５１８７及び術場カメラ５１８９は、手術中に表示すべき情報（以下、表示情報ともいう）を発信する機能を有する装置（以下、発信元の装置とも呼称する）であり得る。また、表示装置５１０３Ａ～５１０３Ｄは、表示情報が出力される装置（以下、出力先の装置とも呼称する）であり得る。また、レコーダ５１０５は、発信元の装置及び出力先の装置の双方に該当する装置であり得る。視聴覚コントローラ５１０７は、発信元の装置及び出力先の装置の動作を制御し、発信元の装置から表示情報を取得するとともに、当該表示情報を出力先の装置に送信し、表示又は記録させる機能を有する。なお、表示情報とは、手術中に撮像された各種の画像や、手術に関する各種の情報（例えば、患者の身体情報や、過去の検査結果、術式についての情報等）等である。
【0089】
具体的には、視聴覚コントローラ５１０７には、装置群５１０１から、表示情報として、内視鏡によって撮像された患者の体腔内の術部の画像についての情報が送信され得る。また、シーリングカメラ５１８７から、表示情報として、当該シーリングカメラ５１８７によって撮像された術者の手元の画像についての情報が送信され得る。また、術場カメラ５１８９から、表示情報として、当該術場カメラ５１８９によって撮像された手術室全体の様子を示す画像についての情報が送信され得る。なお、手術室システム５１００に撮像機能を有する他の装置が存在する場合には、視聴覚コントローラ５１０７は、表示情報として、当該他の装置からも当該他の装置によって撮像された画像についての情報を取得してもよい。
【0090】
あるいは、例えば、レコーダ５１０５には、過去に撮像されたこれらの画像についての情報が視聴覚コントローラ５１０７によって記録されている。視聴覚コントローラ５１０７は、表示情報として、レコーダ５１０５から当該過去に撮像された画像についての情報を取得することができる。なお、レコーダ５１０５には、手術に関する各種の情報も事前に記録されていてもよい。
【0091】
視聴覚コントローラ５１０７は、出力先の装置である表示装置５１０３Ａ～５１０３Ｄの少なくともいずれかに、取得した表示情報（すなわち、手術中に撮影された画像や、手術に関する各種の情報）を表示させる。図示する例では、表示装置５１０３Ａは手術室の天井から吊り下げられて設置される表示装置であり、表示装置５１０３Ｂは手術室の壁面に設置される表示装置であり、表示装置５１０３Ｃは手術室内の机上に設置される表示装置であり、表示装置５１０３Ｄは表示機能を有するモバイル機器（例えば、タブレットＰＣ（Personal Computer））である。
【0092】
また、図１２では図示を省略しているが、手術室システム５１００には、手術室の外部の装置が含まれてもよい。手術室の外部の装置は、例えば、病院内外に構築されたネットワークに接続されるサーバや、医療スタッフが用いるＰＣ、病院の会議室に設置されるプロジェクタ等であり得る。このような外部装置が病院外にある場合には、視聴覚コントローラ５１０７は、遠隔医療のために、テレビ会議システム等を介して、他の病院の表示装置に表示情報を表示させることもできる。
【0093】
手術室制御装置５１０９は、非医療機器における画像表示に関する処理以外の処理を、統括的に制御する。例えば、手術室制御装置５１０９は、患者ベッド５１８３、シーリングカメラ５１８７、術場カメラ５１８９及び照明５１９１の駆動を制御する。
【0094】
手術室システム５１００には、集中操作パネル５１１１が設けられており、ユーザは、当該集中操作パネル５１１１を介して、視聴覚コントローラ５１０７に対して画像表示についての指示を与えたり、手術室制御装置５１０９に対して非医療機器の動作についての指示を与えることができる。集中操作パネル５１１１は、表示装置の表示面上にタッチパネルが設けられて構成される。
【0095】
図１３は、集中操作パネル５１１１における操作画面の表示例を示す図である。図１３では、一例として、手術室システム５１００に、出力先の装置として、２つの表示装置が設けられている場合に対応する操作画面を示している。図１３を参照すると、操作画面５１９３には、発信元選択領域５１９５と、プレビュー領域５１９７と、コントロール領域５２０１と、が設けられる。
【0096】
発信元選択領域５１９５には、手術室システム５１００に備えられる発信元装置と、当該発信元装置が有する表示情報を表すサムネイル画面と、が紐付けられて表示される。ユーザは、表示装置に表示させたい表示情報を、発信元選択領域５１９５に表示されているいずれかの発信元装置から選択することができる。
【0097】
プレビュー領域５１９７には、出力先の装置である２つの表示装置（Monitor1、Monitor2）に表示される画面のプレビューが表示される。図示する例では、１つの表示装置において４つの画像がＰｉｎＰ表示されている。当該４つの画像は、発信元選択領域５１９５において選択された発信元装置から発信された表示情報に対応するものである。４つの画像のうち、１つはメイン画像として比較的大きく表示され、残りの３つはサブ画像として比較的小さく表示される。ユーザは、４つの画像が表示された領域を適宜選択することにより、メイン画像とサブ画像を入れ替えることができる。また、４つの画像が表示される領域の下部には、ステータス表示領域５１９９が設けられており、当該領域に手術に関するステータス（例えば、手術の経過時間や、患者の身体情報等）が適宜表示され得る。
【0098】
コントロール領域５２０１には、発信元の装置に対して操作を行うためのＧＵＩ（Graphical User Interface）部品が表示される発信元操作領域５２０３と、出力先の装置に対して操作を行うためのＧＵＩ部品が表示される出力先操作領域５２０５と、が設けられる。図示する例では、発信元操作領域５２０３には、撮像機能を有する発信元の装置におけるカメラに対して各種の操作（パン、チルト及びズーム）を行うためのＧＵＩ部品が設けられている。ユーザは、これらのＧＵＩ部品を適宜選択することにより、発信元の装置におけるカメラの動作を操作することができる。なお、図示は省略しているが、発信元選択領域５１９５において選択されている発信元の装置がレコーダである場合（すなわち、プレビュー領域５１９７において、レコーダに過去に記録された画像が表示されている場合）には、発信元操作領域５２０３には、当該画像の再生、再生停止、巻き戻し、早送り等の操作を行うためのＧＵＩ部品が設けられ得る。
【0099】
また、出力先操作領域５２０５には、出力先の装置である表示装置における表示に対する各種の操作（スワップ、フリップ、色調整、コントラスト調整、２Ｄ表示と３Ｄ表示の切り替え）を行うためのＧＵＩ部品が設けられている。ユーザは、これらのＧＵＩ部品を適宜選択することにより、表示装置における表示を操作することができる。
【0100】
なお、集中操作パネル５１１１に表示される操作画面は図示する例に限定されず、ユーザは、集中操作パネル５１１１を介して、手術室システム５１００に備えられる、視聴覚コントローラ５１０７及び手術室制御装置５１０９によって制御され得る各装置に対する操作入力が可能であってよい。
【0101】
図１４は、以上説明した手術室システムが適用された手術の様子の一例を示す図である。シーリングカメラ５１８７及び術場カメラ５１８９は、手術室の天井に設けられ、患者ベッド５１８３上の患者５１８５の患部に対して処置を行う術者（医者）５１８１の手元及び手術室全体の様子を撮影可能である。シーリングカメラ５１８７及び術場カメラ５１８９には、倍率調整機能、焦点距離調整機能、撮影方向調整機能等が設けられ得る。照明５１９１は、手術室の天井に設けられ、少なくとも術者５１８１の手元を照射する。照明５１９１は、その照射光量、照射光の波長（色）及び光の照射方向等を適宜調整可能であってよい。
【0102】
内視鏡手術システム５１１３、患者ベッド５１８３、シーリングカメラ５１８７、術場カメラ５１８９及び照明５１９１は、図１２に示すように、視聴覚コントローラ５１０７及び手術室制御装置５１０９（図１４では図示せず）を介して互いに連携可能に接続されている。手術室内には、集中操作パネル５１１１が設けられており、上述したように、ユーザは、当該集中操作パネル５１１１を介して、手術室内に存在するこれらの装置を適宜操作することが可能である。
【0103】
以下、内視鏡手術システム５１１３の構成について詳細に説明する。図示するように、内視鏡手術システム５１１３は、内視鏡５１１５と、その他の術具５１３１と、内視鏡５１１５を支持する支持アーム装置５１４１と、内視鏡下手術のための各種の装置が搭載されたカート５１５１と、から構成される。
【0104】
内視鏡手術では、腹壁を切って開腹する代わりに、トロッカ５１３９ａ～５１３９ｄと呼ばれる筒状の開孔器具が腹壁に複数穿刺される。そして、トロッカ５１３９ａ～５１３９ｄから、内視鏡５１１５の鏡筒５１１７や、その他の術具５１３１が患者５１８５の体腔内に挿入される。図示する例では、その他の術具５１３１として、気腹チューブ５１３３、エネルギー処置具５１３５及び鉗子５１３７が、患者５１８５の体腔内に挿入されている。また、エネルギー処置具５１３５は、高周波電流や超音波振動により、組織の切開及び剥離、又は血管の封止等を行う処置具である。ただし、図示する術具５１３１はあくまで一例であり、術具５１３１としては、例えば攝子、レトラクタ等、一般的に内視鏡下手術において用いられる各種の術具が用いられてよい。
【0105】
内視鏡５１１５によって撮影された患者５１８５の体腔内の術部の画像が、表示装置５１５５に表示される。術者５１８１は、表示装置５１５５に表示された術部の画像をリアルタイムで見ながら、エネルギー処置具５１３５や鉗子５１３７を用いて、例えば患部を切除する等の処置を行う。なお、図示は省略しているが、気腹チューブ５１３３、エネルギー処置具５１３５及び鉗子５１３７は、手術中に、術者５１８１又は助手等によって支持される。
【0106】
（支持アーム装置）
支持アーム装置５１４１は、ベース部５１４３から延伸するアーム部５１４５を備える。図示する例では、アーム部５１４５は、関節部５１４７ａ、５１４７ｂ、５１４７ｃ、及びリンク５１４９ａ、５１４９ｂから構成されており、アーム制御装置５１５９からの制御により駆動される。アーム部５１４５によって内視鏡５１１５が支持され、その位置及び姿勢が制御される。これにより、内視鏡５１１５の安定的な位置の固定が実現され得る。
支持アーム装置５１４１は、ベース部５１４３から延伸するアーム部５１４５を備える。図示する例では、アーム部５１４５は、関節部５１４７ａ、５１４７ｂ、５１４７ｃ、及びリンク５１４９ａ、５１４９ｂから構成されており、アーム制御装置５１５９からの制御により駆動される。アーム部５１４５によって内視鏡５１１５が支持され、その位置及び姿勢が制御される。これにより、内視鏡５１１５の安定的な位置の固定が実現され得る。
【0107】
（内視鏡）
内視鏡５１１５は、先端から所定の長さの領域が患者５１８５の体腔内に挿入される鏡筒５１１７と、鏡筒５１１７の基端に接続されるカメラヘッド５１１９と、から構成される。図示する例では、硬性の鏡筒５１１７を有するいわゆる硬性鏡として構成される内視鏡５１１５を図示しているが、内視鏡５１１５は、軟性の鏡筒５１１７を有するいわゆる軟性鏡として構成されてもよい。
内視鏡５１１５は、先端から所定の長さの領域が患者５１８５の体腔内に挿入される鏡筒５１１７と、鏡筒５１１７の基端に接続されるカメラヘッド５１１９と、から構成される。図示する例では、硬性の鏡筒５１１７を有するいわゆる硬性鏡として構成される内視鏡５１１５を図示しているが、内視鏡５１１５は、軟性の鏡筒５１１７を有するいわゆる軟性鏡として構成されてもよい。
【0108】
鏡筒５１１７の先端には、対物レンズが嵌め込まれた開口部が設けられている。内視鏡５１１５には光源装置５１５７が接続されており、当該光源装置５１５７によって生成された光が、鏡筒５１１７の内部に延設されるライトガイドによって当該鏡筒の先端まで導光され、対物レンズを介して患者５１８５の体腔内の観察対象に向かって照射される。なお、内視鏡５１１５は、直視鏡であってもよいし、斜視鏡又は側視鏡であってもよい。
【0109】
カメラヘッド５１１９の内部には光学系及び撮像素子が設けられており、観察対象からの反射光（観察光）は当該光学系によって当該撮像素子に集光される。当該撮像素子によって観察光が光電変換され、観察光に対応する電気信号、すなわち観察像に対応する画像信号が生成される。当該画像信号は、ＲＡＷデータとしてカメラコントロールユニット（ＣＣＵ：Camera Control Unit）５１５３に送信される。なお、カメラヘッド５１１９には、その光学系を適宜駆動させることにより、倍率及び焦点距離を調整する機能が搭載される。
【0110】
なお、例えば立体視（３Ｄ表示）等に対応するために、カメラヘッド５１１９には撮像素子が複数設けられてもよい。この場合、鏡筒５１１７の内部には、当該複数の撮像素子のそれぞれに観察光を導光するために、リレー光学系が複数系統設けられる。
【0111】
（カートに搭載される各種の装置）
ＣＣＵ５１５３は、ＣＰＵ（Central Processing Unit）やＧＰＵ（Graphics Processing Unit）等によって構成され、内視鏡５１１５及び表示装置５１５５の動作を統括的に制御する。具体的には、ＣＣＵ５１５３は、カメラヘッド５１１９から受け取った画像信号に対して、例えば現像処理（デモザイク処理）等の、当該画像信号に基づく画像を表示するための各種の画像処理を施す。ＣＣＵ５１５３は、当該画像処理を施した画像信号を表示装置５１５５に提供する。また、ＣＣＵ５１５３には、図１２に示す視聴覚コントローラ５１０７が接続される。ＣＣＵ５１５３は、画像処理を施した画像信号を視聴覚コントローラ５１０７にも提供する。また、ＣＣＵ５１５３は、カメラヘッド５１１９に対して制御信号を送信し、その駆動を制御する。当該制御信号には、倍率や焦点距離等、撮像条件に関する情報が含まれ得る。当該撮像条件に関する情報は、入力装置５１６１を介して入力されてもよいし、上述した集中操作パネル５１１１を介して入力されてもよい。
ＣＣＵ５１５３は、ＣＰＵ（Central Processing Unit）やＧＰＵ（Graphics Processing Unit）等によって構成され、内視鏡５１１５及び表示装置５１５５の動作を統括的に制御する。具体的には、ＣＣＵ５１５３は、カメラヘッド５１１９から受け取った画像信号に対して、例えば現像処理（デモザイク処理）等の、当該画像信号に基づく画像を表示するための各種の画像処理を施す。ＣＣＵ５１５３は、当該画像処理を施した画像信号を表示装置５１５５に提供する。また、ＣＣＵ５１５３には、図１２に示す視聴覚コントローラ５１０７が接続される。ＣＣＵ５１５３は、画像処理を施した画像信号を視聴覚コントローラ５１０７にも提供する。また、ＣＣＵ５１５３は、カメラヘッド５１１９に対して制御信号を送信し、その駆動を制御する。当該制御信号には、倍率や焦点距離等、撮像条件に関する情報が含まれ得る。当該撮像条件に関する情報は、入力装置５１６１を介して入力されてもよいし、上述した集中操作パネル５１１１を介して入力されてもよい。
【0112】
表示装置５１５５は、ＣＣＵ５１５３からの制御により、当該ＣＣＵ５１５３によって画像処理が施された画像信号に基づく画像を表示する。内視鏡５１１５が例えば４Ｋ（水平画素数３８４０×垂直画素数２１６０）又は８Ｋ（水平画素数７６８０×垂直画素数４３２０）等の高解像度の撮影に対応したものである場合、及び／又は３Ｄ表示に対応したものである場合には、表示装置５１５５としては、それぞれに対応して、高解像度の表示が可能なもの、及び／又は３Ｄ表示可能なものが用いられ得る。４Ｋ又は８Ｋ等の高解像度の撮影に対応したものである場合、表示装置５１５５として５５インチ以上のサイズのものを用いることで一層の没入感が得られる。また、用途に応じて、解像度、サイズが異なる複数の表示装置５１５５が設けられてもよい。
【0113】
光源装置５１５７は、例えばＬＥＤ（light emitting diode）等の光源から構成され、術部を撮影する際の照射光を内視鏡５１１５に供給する。
【0114】
アーム制御装置５１５９は、例えばＣＰＵ等のプロセッサによって構成され、所定のプログラムに従って動作することにより、所定の制御方式に従って支持アーム装置５１４１のアーム部５１４５の駆動を制御する。
【0115】
入力装置５１６１は、内視鏡手術システム５１１３に対する入力インタフェースである。ユーザは、入力装置５１６１を介して、内視鏡手術システム５１１３に対して各種の情報の入力や指示入力を行うことができる。例えば、ユーザは、入力装置５１６１を介して、患者の身体情報や、手術の術式についての情報等、手術に関する各種の情報を入力する。また、例えば、ユーザは、入力装置５１６１を介して、アーム部５１４５を駆動させる旨の指示や、内視鏡５１１５による撮像条件（照射光の種類、倍率及び焦点距離等）を変更する旨の指示、エネルギー処置具５１３５を駆動させる旨の指示等を入力する。
【0116】
入力装置５１６１の種類は限定されず、入力装置５１６１は各種の公知の入力装置であってよい。入力装置５１６１としては、例えば、マウス、キーボード、タッチパネル、スイッチ、フットスイッチ５１７１及び／又はレバー等が適用され得る。入力装置５１６１としてタッチパネルが用いられる場合には、当該タッチパネルは表示装置５１５５の表示面上に設けられてもよい。
【0117】
あるいは、入力装置５１６１は、例えばメガネ型のウェアラブルデバイスやＨＭＤ（Head Mounted Display）等の、ユーザによって装着されるデバイスであり、これらのデバイスによって検出されるユーザのジェスチャや視線に応じて各種の入力が行われる。また、入力装置５１６１は、ユーザの動きを検出可能なカメラを含み、当該カメラによって撮像された映像から検出されるユーザのジェスチャや視線に応じて各種の入力が行われる。更に、入力装置５１６１は、ユーザの声を収音可能なマイクロフォンを含み、当該マイクロフォンを介して音声によって各種の入力が行われる。このように、入力装置５１６１が非接触で各種の情報を入力可能に構成されることにより、特に清潔域に属するユーザ（例えば術者５１８１）が、不潔域に属する機器を非接触で操作することが可能となる。また、ユーザは、所持している術具から手を離すことなく機器を操作することが可能となるため、ユーザの利便性が向上する。
【0118】
処置具制御装置５１６３は、組織の焼灼、切開又は血管の封止等のためのエネルギー処置具５１３５の駆動を制御する。気腹装置５１６５は、内視鏡５１１５による視野の確保及び術者の作業空間の確保の目的で、患者５１８５の体腔を膨らめるために、気腹チューブ５１３３を介して当該体腔内にガスを送り込む。レコーダ５１６７は、手術に関する各種の情報を記録可能な装置である。プリンタ５１６９は、手術に関する各種の情報を、テキスト、画像又はグラフ等各種の形式で印刷可能な装置である。
【0119】
以下、内視鏡手術システム５１１３において特に特徴的な構成について、更に詳細に説明する。
【0120】
（支持アーム装置）
支持アーム装置５１４１は、基台であるベース部５１４３と、ベース部５１４３から延伸するアーム部５１４５と、を備える。図示する例では、アーム部５１４５は、複数の関節部５１４７ａ、５１４７ｂ、５１４７ｃと、関節部５１４７ｂによって連結される複数のリンク５１４９ａ、５１４９ｂと、から構成されているが、図１４では、簡単のため、アーム部５１４５の構成を簡略化して図示している。実際には、アーム部５１４５が所望の自由度を有するように、関節部５１４７ａ～５１４７ｃ及びリンク５１４９ａ、５１４９ｂの形状、数及び配置、並びに関節部５１４７ａ～５１４７ｃの回転軸の方向等が適宜設定され得る。例えば、アーム部５１４５は、好適に、６自由度以上の自由度を有するように構成され得る。これにより、アーム部５１４５の可動範囲内において内視鏡５１１５を自由に移動させることが可能になるため、所望の方向から内視鏡５１１５の鏡筒５１１７を患者５１８５の体腔内に挿入することが可能になる。
支持アーム装置５１４１は、基台であるベース部５１４３と、ベース部５１４３から延伸するアーム部５１４５と、を備える。図示する例では、アーム部５１４５は、複数の関節部５１４７ａ、５１４７ｂ、５１４７ｃと、関節部５１４７ｂによって連結される複数のリンク５１４９ａ、５１４９ｂと、から構成されているが、図１４では、簡単のため、アーム部５１４５の構成を簡略化して図示している。実際には、アーム部５１４５が所望の自由度を有するように、関節部５１４７ａ～５１４７ｃ及びリンク５１４９ａ、５１４９ｂの形状、数及び配置、並びに関節部５１４７ａ～５１４７ｃの回転軸の方向等が適宜設定され得る。例えば、アーム部５１４５は、好適に、６自由度以上の自由度を有するように構成され得る。これにより、アーム部５１４５の可動範囲内において内視鏡５１１５を自由に移動させることが可能になるため、所望の方向から内視鏡５１１５の鏡筒５１１７を患者５１８５の体腔内に挿入することが可能になる。
【0121】
関節部５１４７ａ～５１４７ｃにはアクチュエータが設けられており、関節部５１４７ａ～５１４７ｃは当該アクチュエータの駆動により所定の回転軸まわりに回転可能に構成されている。当該アクチュエータの駆動がアーム制御装置５１５９によって制御されることにより、各関節部５１４７ａ～５１４７ｃの回転角度が制御され、アーム部５１４５の駆動が制御される。これにより、内視鏡５１１５の位置及び姿勢の制御が実現され得る。この際、アーム制御装置５１５９は、力制御又は位置制御等、各種の公知の制御方式によってアーム部５１４５の駆動を制御することができる。
【0122】
例えば、術者５１８１が、入力装置５１６１（フットスイッチ５１７１を含む）を介して適宜操作入力を行うことにより、当該操作入力に応じてアーム制御装置５１５９によってアーム部５１４５の駆動が適宜制御され、内視鏡５１１５の位置及び姿勢が制御されてよい。当該制御により、アーム部５１４５の先端の内視鏡５１１５を任意の位置から任意の位置まで移動させた後、その移動後の位置で固定的に支持することができる。なお、アーム部５１４５は、いわゆるマスタースレイブ方式で操作されてもよい。この場合、アーム部５１４５は、手術室から離れた場所に設置される入力装置５１６１を介してユーザによって遠隔操作され得る。
【0123】
また、力制御が適用される場合には、アーム制御装置５１５９は、ユーザからの外力を受け、その外力にならってスムーズにアーム部５１４５が移動するように、各関節部５１４７ａ～５１４７ｃのアクチュエータを駆動させる、いわゆるパワーアシスト制御を行ってもよい。これにより、ユーザが直接アーム部５１４５に触れながらアーム部５１４５を移動させる際に、比較的軽い力で当該アーム部５１４５を移動させることができる。従って、より直感的に、より簡易な操作で内視鏡５１１５を移動させることが可能となり、ユーザの利便性を向上させることができる。
【0124】
ここで、一般的に、内視鏡下手術では、スコピストと呼ばれる医師によって内視鏡５１１５が支持されていた。これに対して、支持アーム装置５１４１を用いることにより、人手によらずに内視鏡５１１５の位置をより確実に固定することが可能になるため、術部の画像を安定的に得ることができ、手術を円滑に行うことが可能になる。
【0125】
なお、アーム制御装置５１５９は必ずしもカート５１５１に設けられなくてもよい。また、アーム制御装置５１５９は必ずしも１つの装置でなくてもよい。例えば、アーム制御装置５１５９は、支持アーム装置５１４１のアーム部５１４５の各関節部５１４７ａ～５１４７ｃにそれぞれ設けられてもよく、複数のアーム制御装置５１５９が互いに協働することにより、アーム部５１４５の駆動制御が実現されてもよい。
【0126】
（光源装置）
光源装置５１５７は、内視鏡５１１５に術部を撮影する際の照射光を供給する。光源装置５１５７は、例えばＬＥＤ、レーザ光源又はこれらの組み合わせによって構成される白色光源から構成される。このとき、ＲＧＢレーザ光源の組み合わせにより白色光源が構成される場合には、各色（各波長）の出力強度及び出力タイミングを高精度に制御することができるため、光源装置５１５７において撮像画像のホワイトバランスの調整を行うことができる。また、この場合には、ＲＧＢレーザ光源それぞれからのレーザ光を時分割で観察対象に照射し、その照射タイミングに同期してカメラヘッド５１１９の撮像素子の駆動を制御することにより、ＲＧＢそれぞれに対応した画像を時分割で撮像することも可能である。当該方法によれば、当該撮像素子にカラーフィルタを設けなくても、カラー画像を得ることができる。
光源装置５１５７は、内視鏡５１１５に術部を撮影する際の照射光を供給する。光源装置５１５７は、例えばＬＥＤ、レーザ光源又はこれらの組み合わせによって構成される白色光源から構成される。このとき、ＲＧＢレーザ光源の組み合わせにより白色光源が構成される場合には、各色（各波長）の出力強度及び出力タイミングを高精度に制御することができるため、光源装置５１５７において撮像画像のホワイトバランスの調整を行うことができる。また、この場合には、ＲＧＢレーザ光源それぞれからのレーザ光を時分割で観察対象に照射し、その照射タイミングに同期してカメラヘッド５１１９の撮像素子の駆動を制御することにより、ＲＧＢそれぞれに対応した画像を時分割で撮像することも可能である。当該方法によれば、当該撮像素子にカラーフィルタを設けなくても、カラー画像を得ることができる。
【0127】
また、光源装置５１５７は、出力する光の強度を所定の時間ごとに変更するようにその駆動が制御されてもよい。その光の強度の変更のタイミングに同期してカメラヘッド５１１９の撮像素子の駆動を制御して時分割で画像を取得し、その画像を合成することにより、いわゆる黒つぶれ及び白とびのない高ダイナミックレンジの画像を生成することができる。
【0128】
また、光源装置５１５７は、特殊光観察に対応した所定の波長帯域の光を供給可能に構成されてもよい。特殊光観察では、例えば、体組織における光の吸収の波長依存性を利用して、通常の観察時における照射光（すなわち、白色光）に比べて狭帯域の光を照射することにより、粘膜表層の血管等の所定の組織を高コントラストで撮影する、いわゆる狭帯域光観察（Narrow Band Imaging）が行われる。あるいは、特殊光観察では、励起光を照射することにより発生する蛍光により画像を得る蛍光観察が行われてもよい。蛍光観察では、体組織に励起光を照射し当該体組織からの蛍光を観察するもの（自家蛍光観察）、又はインドシアニングリーン（ICG）等の試薬を体組織に局注するとともに当該体組織にその試薬の蛍光波長に対応した励起光を照射し蛍光像を得るもの等が行われ得る。光源装置５１５７は、このような特殊光観察に対応した狭帯域光及び／又は励起光を供給可能に構成され得る。
【0129】
（カメラヘッド及びＣＣＵ）
図１５を参照して、内視鏡５１１５のカメラヘッド５１１９及びＣＣＵ５１５３の機能についてより詳細に説明する。図１５は、図１４に示すカメラヘッド５１１９及びＣＣＵ５１５３の機能構成の一例を示すブロック図である。
図１５を参照して、内視鏡５１１５のカメラヘッド５１１９及びＣＣＵ５１５３の機能についてより詳細に説明する。図１５は、図１４に示すカメラヘッド５１１９及びＣＣＵ５１５３の機能構成の一例を示すブロック図である。
【0130】
図１５を参照すると、カメラヘッド５１１９は、その機能として、レンズユニット５１２１と、撮像部５１２３と、駆動部５１２５と、通信部５１２７と、カメラヘッド制御部５１２９と、を有する。また、ＣＣＵ５１５３は、その機能として、通信部５１７３と、画像処理部５１７５と、制御部５１７７と、を有する。カメラヘッド５１１９とＣＣＵ５１５３とは、伝送ケーブル５１７９によって双方向に通信可能に接続されている。
【0131】
まず、カメラヘッド５１１９の機能構成について説明する。レンズユニット５１２１は、鏡筒５１１７との接続部に設けられる光学系である。鏡筒５１１７の先端から取り込まれた観察光は、カメラヘッド５１１９まで導光され、当該レンズユニット５１２１に入射する。レンズユニット５１２１は、ズームレンズ及びフォーカスレンズを含む複数のレンズが組み合わされて構成される。レンズユニット５１２１は、撮像部５１２３の撮像素子の受光面上に観察光を集光するように、その光学特性が調整されている。また、ズームレンズ及びフォーカスレンズは、撮像画像の倍率及び焦点の調整のため、その光軸上の位置が移動可能に構成される。
【0132】
撮像部５１２３は撮像素子によって構成され、レンズユニット５１２１の後段に配置される。レンズユニット５１２１を通過した観察光は、当該撮像素子の受光面に集光され、光電変換によって、観察像に対応した画像信号が生成される。撮像部５１２３によって生成された画像信号は、通信部５１２７に提供される。
【0133】
撮像部５１２３を構成する撮像素子としては、例えばＣＭＯＳ（Complementary Metal Oxide Semiconductor）タイプのイメージセンサであり、Ｂａｙｅｒ配列を有するカラー撮影可能なものが用いられる。なお、当該撮像素子としては、例えば４Ｋ以上の高解像度の画像の撮影に対応可能なものが用いられてもよい。術部の画像が高解像度で得られることにより、術者５１８１は、当該術部の様子をより詳細に把握することができ、手術をより円滑に進行することが可能となる。
【0134】
また、撮像部５１２３を構成する撮像素子は、３Ｄ表示に対応する右目用及び左目用の画像信号をそれぞれ取得するための１対の撮像素子を有するように構成される。３Ｄ表示が行われることにより、術者５１８１は術部における生体組織の奥行きをより正確に把握することが可能になる。なお、撮像部５１２３が多板式で構成される場合には、各撮像素子に対応して、レンズユニット５１２１も複数系統設けられる。
【0135】
また、撮像部５１２３は、必ずしもカメラヘッド５１１９に設けられなくてもよい。例えば、撮像部５１２３は、鏡筒５１１７の内部に、対物レンズの直後に設けられてもよい。
【0136】
駆動部５１２５は、アクチュエータによって構成され、カメラヘッド制御部５１２９からの制御により、レンズユニット５１２１のズームレンズ及びフォーカスレンズを光軸に沿って所定の距離だけ移動させる。これにより、撮像部５１２３による撮像画像の倍率及び焦点が適宜調整され得る。
【0137】
通信部５１２７は、ＣＣＵ５１５３との間で各種の情報を送受信するための通信装置によって構成される。通信部５１２７は、撮像部５１２３から得た画像信号をＲＡＷデータとして伝送ケーブル５１７９を介してＣＣＵ５１５３に送信する。この際、術部の撮像画像を低レイテンシで表示するために、当該画像信号は光通信によって送信されることが好ましい。手術の際には、術者５１８１が撮像画像によって患部の状態を観察しながら手術を行うため、より安全で確実な手術のためには、術部の動画像が可能な限りリアルタイムに表示されることが求められるからである。光通信が行われる場合には、通信部５１２７には、電気信号を光信号に変換する光電変換モジュールが設けられる。画像信号は当該光電変換モジュールによって光信号に変換された後、伝送ケーブル５１７９を介してＣＣＵ５１５３に送信される。
【0138】
また、通信部５１２７は、ＣＣＵ５１５３から、カメラヘッド５１１９の駆動を制御するための制御信号を受信する。当該制御信号には、例えば、撮像画像のフレームレートを指定する旨の情報、撮像時の露出値を指定する旨の情報、並びに／又は撮像画像の倍率及び焦点を指定する旨の情報等、撮像条件に関する情報が含まれる。通信部５１２７は、受信した制御信号をカメラヘッド制御部５１２９に提供する。なお、ＣＣＵ５１５３からの制御信号も、光通信によって伝送されてもよい。この場合、通信部５１２７には、光信号を電気信号に変換する光電変換モジュールが設けられ、制御信号は当該光電変換モジュールによって電気信号に変換された後、カメラヘッド制御部５１２９に提供される。
【0139】
なお、上記のフレームレートや露出値、倍率、焦点等の撮像条件は、取得された画像信号に基づいてＣＣＵ５１５３の制御部５１７７によって自動的に設定される。つまり、いわゆるＡＥ（Auto Exposure）機能、ＡＦ（Auto Focus）機能及びＡＷＢ（Auto White Balance）機能が内視鏡５１１５に搭載される。
【0140】
カメラヘッド制御部５１２９は、通信部５１２７を介して受信したＣＣＵ５１５３からの制御信号に基づいて、カメラヘッド５１１９の駆動を制御する。例えば、カメラヘッド制御部５１２９は、撮像画像のフレームレートを指定する旨の情報及び／又は撮像時の露光を指定する旨の情報に基づいて、撮像部５１２３の撮像素子の駆動を制御する。また、例えば、カメラヘッド制御部５１２９は、撮像画像の倍率及び焦点を指定する旨の情報に基づいて、駆動部５１２５を介してレンズユニット５１２１のズームレンズ及びフォーカスレンズを適宜移動させる。カメラヘッド制御部５１２９は、更に、鏡筒５１１７やカメラヘッド５１１９を識別するための情報を記憶する機能を備えてもよい。
【0141】
なお、レンズユニット５１２１や撮像部５１２３等の構成を、気密性及び防水性が高い密閉構造内に配置することで、カメラヘッド５１１９について、オートクレーブ滅菌処理に対する耐性を持たせることができる。
【0142】
次に、ＣＣＵ５１５３の機能構成について説明する。通信部５１７３は、カメラヘッド５１１９との間で各種の情報を送受信するための通信装置によって構成される。通信部５１７３は、カメラヘッド５１１９から、伝送ケーブル５１７９を介して送信される画像信号を受信する。この際、上記のように、当該画像信号は好適に光通信によって送信され得る。この場合、光通信に対応して、通信部５１７３には、光信号を電気信号に変換する光電変換モジュールが設けられる。通信部５１７３は、電気信号に変換した画像信号を画像処理部５１７５に提供する。
【0143】
また、通信部５１７３は、カメラヘッド５１１９に対して、カメラヘッド５１１９の駆動を制御するための制御信号を送信する。当該制御信号も光通信によって送信されてよい。
【0144】
画像処理部５１７５は、カメラヘッド５１１９から送信されたＲＡＷデータである画像信号に対して各種の画像処理を施す。当該画像処理としては、例えば現像処理、高画質化処理（帯域強調処理、超解像処理、ＮＲ（Noise reduction）処理及び／又は手ブレ補正処理等）、並びに／又は拡大処理（電子ズーム処理）等、各種の公知の信号処理が含まれる。また、画像処理部５１７５は、ＡＥ、ＡＦ及びＡＷＢを行うための、画像信号に対する検波処理を行う。
【0145】
画像処理部５１７５は、ＣＰＵやＧＰＵ等のプロセッサによって構成され、当該プロセッサが所定のプログラムに従って動作することにより、上述した画像処理や検波処理が行われ得る。なお、画像処理部５１７５が複数のＧＰＵによって構成される場合には、画像処理部５１７５は、画像信号に係る情報を適宜分割し、これら複数のＧＰＵによって並列的に画像処理を行う。
【0146】
制御部５１７７は、内視鏡５１１５による術部の撮像、及びその撮像画像の表示に関する各種の制御を行う。例えば、制御部５１７７は、カメラヘッド５１１９の駆動を制御するための制御信号を生成する。この際、撮像条件がユーザによって入力されている場合には、制御部５１７７は、当該ユーザによる入力に基づいて制御信号を生成する。あるいは、内視鏡５１１５にＡＥ機能、ＡＦ機能及びＡＷＢ機能が搭載されている場合には、制御部５１７７は、画像処理部５１７５による検波処理の結果に応じて、最適な露出値、焦点距離及びホワイトバランスを適宜算出し、制御信号を生成する。
【0147】
また、制御部５１７７は、画像処理部５１７５によって画像処理が施された画像信号に基づいて、術部の画像を表示装置５１５５に表示させる。この際、制御部５１７７は、各種の画像認識技術を用いて術部画像内における各種の物体を認識する。例えば、制御部５１７７は、術部画像に含まれる物体のエッジの形状や色等を検出することにより、鉗子等の術具、特定の生体部位、出血、エネルギー処置具５１３５使用時のミスト等を認識することができる。制御部５１７７は、表示装置５１５５に術部の画像を表示させる際に、その認識結果を用いて、各種の手術支援情報を当該術部の画像に重畳表示させる。手術支援情報が重畳表示され、術者５１８１に提示されることにより、より安全かつ確実に手術を進めることが可能になる。
【0148】
カメラヘッド５１１９及びＣＣＵ５１５３を接続する伝送ケーブル５１７９は、電気信号の通信に対応した電気信号ケーブル、光通信に対応した光ファイバ、又はこれらの複合ケーブルである。
【0149】
ここで、図示する例では、伝送ケーブル５１７９を用いて有線で通信が行われていたが、カメラヘッド５１１９とＣＣＵ５１５３との間の通信は無線で行われてもよい。両者の間の通信が無線で行われる場合には、伝送ケーブル５１７９を手術室内に敷設する必要がなくなるため、手術室内における医療スタッフの移動が当該伝送ケーブル５１７９によって妨げられる事態が解消され得る。
【0150】
以上、本開示に係る技術が適用され得る手術室システム５１００の一例について説明した。なお、ここでは、一例として手術室システム５１００が適用される医療用システムが内視鏡手術システム５１１３である場合について説明したが、手術室システム５１００の構成はかかる例に限定されない。例えば、手術室システム５１００は、内視鏡手術システム５１１３に代えて、検査用軟性内視鏡システムや顕微鏡手術システムに適用されてもよい。
【0151】
本開示に係る技術は、以上説明した構成のうち、患者の患部全体の画像と患部の一部拡大を拡大して表示するのに好適に適用され得る。具体的には、撮像部５１２３における撮影に本技術を適用し、患部全体を撮影した第１画像と患部の一部拡大画像である第２画像を２つの表示装置（Monitor1、Monitor2）のいずれかに表示する。これにより術者５１８１又は助手は患部全体と患部の一部領域を同時に確認することができる。また、本技術は手術に限られず、カメラで撮影した映像を使った患者の診察や遠隔医療などにも利用することができる。
【0152】
＜３．応用例＞
本開示に係る技術は、様々な製品へ応用することができる。例えば、本開示に係る技術は、自動車、電気自動車、ハイブリッド電気自動車、自動二輪車、自転車、パーソナルモビリティ、飛行機、ドローン、船舶、ロボット、建設機械、農業機械（トラクター）などのいずれかの種類の移動体に搭載される装置として実現されてもよい。
本開示に係る技術は、様々な製品へ応用することができる。例えば、本開示に係る技術は、自動車、電気自動車、ハイブリッド電気自動車、自動二輪車、自転車、パーソナルモビリティ、飛行機、ドローン、船舶、ロボット、建設機械、農業機械（トラクター）などのいずれかの種類の移動体に搭載される装置として実現されてもよい。
【0153】
図１６は、本開示に係る技術が適用され得る移動体制御システムの一例である車両制御システム７０００の概略的な構成例を示すブロック図である。車両制御システム７０００は、通信ネットワーク７０１０を介して接続された複数の電子制御ユニットを備える。図１６に示した例では、車両制御システム７０００は、駆動系制御ユニット７１００、ボディ系制御ユニット７２００、バッテリ制御ユニット７３００、車外情報検出ユニット７４００、車内情報検出ユニット７５００、及び統合制御ユニット７６００を備える。これらの複数の制御ユニットを接続する通信ネットワーク７０１０は、例えば、ＣＡＮ（Controller Area Network）、ＬＩＮ（Local Interconnect Network）、ＬＡＮ（Local Area Network）又はＦｌｅｘＲａｙ（登録商標）等の任意の規格に準拠した車載通信ネットワークであってよい。
【0154】
各制御ユニットは、各種プログラムにしたがって演算処理を行うマイクロコンピュータと、マイクロコンピュータにより実行されるプログラム又は各種演算に用いられるパラメータ等を記憶する記憶部と、各種制御対象の装置を駆動する駆動回路とを備える。各制御ユニットは、通信ネットワーク７０１０を介して他の制御ユニットとの間で通信を行うためのネットワークＩ／Ｆを備えるとともに、車内外の装置又はセンサ等との間で、有線通信又は無線通信により通信を行うための通信Ｉ／Ｆを備える。図１６では、統合制御ユニット７６００の機能構成として、マイクロコンピュータ７６１０、汎用通信Ｉ／Ｆ７６２０、専用通信Ｉ／Ｆ７６３０、測位部７６４０、ビーコン受信部７６５０、車内機器Ｉ／Ｆ７６６０、音声画像出力部７６７０、車載ネットワークＩ／Ｆ７６８０及び記憶部７６９０が図示されている。他の制御ユニットも同様に、マイクロコンピュータ、通信Ｉ／Ｆ及び記憶部等を備える。
【0155】
駆動系制御ユニット７１００は、各種プログラムにしたがって車両の駆動系に関連する装置の動作を制御する。例えば、駆動系制御ユニット７１００は、内燃機関又は駆動用モータ等の車両の駆動力を発生させるための駆動力発生装置、駆動力を車輪に伝達するための駆動力伝達機構、車両の舵角を調節するステアリング機構、及び、車両の制動力を発生させる制動装置等の制御装置として機能する。駆動系制御ユニット７１００は、ＡＢＳ（Antilock Brake System）又はＥＳＣ（Electronic Stability Control）等の制御装置としての機能を有してもよい。
【0156】
駆動系制御ユニット７１００には、車両状態検出部７１１０が接続される。車両状態検出部７１１０には、例えば、車体の軸回転運動の角速度を検出するジャイロセンサ、車両の加速度を検出する加速度センサ、あるいは、アクセルペダルの操作量、ブレーキペダルの操作量、ステアリングホイールの操舵角、エンジン回転数又は車輪の回転速度等を検出するためのセンサのうちの少なくとも一つが含まれる。駆動系制御ユニット７１００は、車両状態検出部７１１０から入力される信号を用いて演算処理を行い、内燃機関、駆動用モータ、電動パワーステアリング装置又はブレーキ装置等を制御する。
【0157】
ボディ系制御ユニット７２００は、各種プログラムにしたがって車体に装備された各種装置の動作を制御する。例えば、ボディ系制御ユニット７２００は、キーレスエントリシステム、スマートキーシステム、パワーウィンドウ装置、あるいは、ヘッドランプ、バックランプ、ブレーキランプ、ウィンカー又はフォグランプ等の各種ランプの制御装置として機能する。この場合、ボディ系制御ユニット７２００には、鍵を代替する携帯機から発信される電波又は各種スイッチの信号が入力され得る。ボディ系制御ユニット７２００は、これらの電波又は信号の入力を受け付け、車両のドアロック装置、パワーウィンドウ装置、ランプ等を制御する。
【0158】
バッテリ制御ユニット７３００は、各種プログラムにしたがって駆動用モータの電力供給源である二次電池７３１０を制御する。例えば、バッテリ制御ユニット７３００には、二次電池７３１０を備えたバッテリ装置から、バッテリ温度、バッテリ出力電圧又はバッテリの残存容量等の情報が入力される。バッテリ制御ユニット７３００は、これらの信号を用いて演算処理を行い、二次電池７３１０の温度調節制御又はバッテリ装置に備えられた冷却装置等の制御を行う。
【0159】
車外情報検出ユニット７４００は、車両制御システム７０００を搭載した車両の外部の情報を検出する。例えば、車外情報検出ユニット７４００には、撮像部７４１０及び車外情報検出部７４２０のうちの少なくとも一方が接続される。撮像部７４１０には、ＴｏＦ（Time Of Flight）カメラ、ステレオカメラ、単眼カメラ、赤外線カメラ及びその他のカメラのうちの少なくとも一つが含まれる。車外情報検出部７４２０には、例えば、現在の天候又は気象を検出するための環境センサ、あるいは、車両制御システム７０００を搭載した車両の周囲の他の車両、障害物又は歩行者等を検出するための周囲情報検出センサのうちの少なくとも一つが含まれる。
【0160】
環境センサは、例えば、雨天を検出する雨滴センサ、霧を検出する霧センサ、日照度合いを検出する日照センサ、及び降雪を検出する雪センサのうちの少なくとも一つであってよい。周囲情報検出センサは、超音波センサ、レーダ装置及びＬＩＤＡＲ（Light Detection and Ranging、Laser Imaging Detection and Ranging）装置のうちの少なくとも一つであってよい。これらの撮像部７４１０及び車外情報検出部７４２０は、それぞれ独立したセンサないし装置として備えられてもよいし、複数のセンサないし装置が統合された装置として備えられてもよい。
【0161】
ここで、図１７は、撮像部７４１０及び車外情報検出部７４２０の設置位置の例を示す。撮像部７９１０，７９１２，７９１４，７９１６，７９１８は、例えば、車両７９００のフロントノーズ、サイドミラー、リアバンパ、バックドア及び車室内のフロントガラスの上部のうちの少なくとも一つの位置に設けられる。フロントノーズに備えられる撮像部７９１０及び車室内のフロントガラスの上部に備えられる撮像部７９１８は、主として車両７９００の前方の画像を取得する。サイドミラーに備えられる撮像部７９１２，７９１４は、主として車両７９００の側方の画像を取得する。リアバンパ又はバックドアに備えられる撮像部７９１６は、主として車両７９００の後方の画像を取得する。車室内のフロントガラスの上部に備えられる撮像部７９１８は、主として先行車両又は、歩行者、障害物、信号機、交通標識又は車線等の検出に用いられる。
【0162】
なお、図１７には、それぞれの撮像部７９１０，７９１２，７９１４，７９１６の撮影範囲の一例が示されている。撮像範囲ａは、フロントノーズに設けられた撮像部７９１０の撮像範囲を示し、撮像範囲ｂ，ｃは、それぞれサイドミラーに設けられた撮像部７９１２，７９１４の撮像範囲を示し、撮像範囲ｄは、リアバンパ又はバックドアに設けられた撮像部７９１６の撮像範囲を示す。例えば、撮像部７９１０，７９１２，７９１４，７９１６で撮像された画像データが重ね合わせられることにより、車両７９００を上方から見た俯瞰画像が得られる。
【0163】
車両７９００のフロント、リア、サイド、コーナ及び車室内のフロントガラスの上部に設けられる車外情報検出部７９２０，７９２２，７９２４，７９２６，７９２８，７９３０は、例えば超音波センサ又はレーダ装置であってよい。車両７９００のフロントノーズ、リアバンパ、バックドア及び車室内のフロントガラスの上部に設けられる車外情報検出部７９２０，７９２６，７９３０は、例えばＬＩＤＡＲ装置であってよい。これらの車外情報検出部７９２０～７９３０は、主として先行車両、歩行者又は障害物等の検出に用いられる。
【0164】
図１６に戻って説明を続ける。車外情報検出ユニット７４００は、撮像部７４１０に車外の画像を撮像させるとともに、撮像された画像データを受信する。また、車外情報検出ユニット７４００は、接続されている車外情報検出部７４２０から検出情報を受信する。車外情報検出部７４２０が超音波センサ、レーダ装置又はＬＩＤＡＲ装置である場合には、車外情報検出ユニット７４００は、超音波又は電磁波等を発信させるとともに、受信された反射波の情報を受信する。車外情報検出ユニット７４００は、受信した情報に基づいて、人、車、障害物、標識又は路面上の文字等の物体検出処理又は距離検出処理を行ってもよい。車外情報検出ユニット７４００は、受信した情報に基づいて、降雨、霧又は路面状況等を認識する環境認識処理を行ってもよい。車外情報検出ユニット７４００は、受信した情報に基づいて、車外の物体までの距離を算出してもよい。
【0165】
また、車外情報検出ユニット７４００は、受信した画像データに基づいて、人、車、障害物、標識又は路面上の文字等を認識する画像認識処理又は距離検出処理を行ってもよい。車外情報検出ユニット７４００は、受信した画像データに対して歪補正又は位置合わせ等の処理を行うとともに、異なる撮像部７４１０により撮像された画像データを合成して、俯瞰画像又はパノラマ画像を生成してもよい。車外情報検出ユニット７４００は、異なる撮像部７４１０により撮像された画像データを用いて、視点変換処理を行ってもよい。
【0166】
車内情報検出ユニット７５００は、車内の情報を検出する。車内情報検出ユニット７５００には、例えば、運転者の状態を検出する運転者状態検出部７５１０が接続される。運転者状態検出部７５１０は、運転者を撮像するカメラ、運転者の生体情報を検出する生体センサ又は車室内の音声を集音するマイク等を含んでもよい。生体センサは、例えば、座面又はステアリングホイール等に設けられ、座席に座った搭乗者又はステアリングホイールを握る運転者の生体情報を検出する。車内情報検出ユニット７５００は、運転者状態検出部７５１０から入力される検出情報に基づいて、運転者の疲労度合い又は集中度合いを算出してもよいし、運転者が居眠りをしていないかを判別してもよい。車内情報検出ユニット７５００は、集音された音声信号に対してノイズキャンセリング処理等の処理を行ってもよい。
【0167】
統合制御ユニット７６００は、各種プログラムにしたがって車両制御システム７０００内の動作全般を制御する。統合制御ユニット７６００には、入力部７８００が接続されている。入力部７８００は、例えば、タッチパネル、ボタン、マイクロフォン、スイッチ又はレバー等、搭乗者によって入力操作され得る装置によって実現される。統合制御ユニット７６００には、マイクロフォンにより入力される音声を音声認識することにより得たデータが入力されてもよい。入力部７８００は、例えば、赤外線又はその他の電波を利用したリモートコントロール装置であってもよいし、車両制御システム７０００の操作に対応した携帯電話又はＰＤＡ（Personal Digital Assistant）等の外部接続機器であってもよい。入力部７８００は、例えばカメラであってもよく、その場合搭乗者はジェスチャにより情報を入力することができる。あるいは、搭乗者が装着したウェアラブル装置の動きを検出することで得られたデータが入力されてもよい。さらに、入力部７８００は、例えば、上記の入力部７８００を用いて搭乗者等により入力された情報に基づいて入力信号を生成し、統合制御ユニット７６００に出力する入力制御回路などを含んでもよい。搭乗者等は、この入力部７８００を操作することにより、車両制御システム７０００に対して各種のデータを入力したり処理動作を指示したりする。
【0168】
記憶部７６９０は、マイクロコンピュータにより実行される各種プログラムを記憶するＲＯＭ（Read Only Memory）、及び各種パラメータ、演算結果又はセンサ値等を記憶するＲＡＭ（Random Access Memory）を含んでいてもよい。また、記憶部７６９０は、ＨＤＤ（Hard Disc Drive）等の磁気記憶デバイス、半導体記憶デバイス、光記憶デバイス又は光磁気記憶デバイス等によって実現してもよい。
【0169】
汎用通信Ｉ／Ｆ７６２０は、外部環境７７５０に存在する様々な機器との間の通信を仲介する汎用的な通信Ｉ／Ｆである。汎用通信Ｉ／Ｆ７６２０は、ＧＳＭ（Global System of Mobile communications）、ＷｉＭＡＸ、ＬＴＥ（Long Term Evolution）若しくはＬＴＥ－Ａ（LTE－Advanced）などのセルラー通信プロトコル、又は無線ＬＡＮ（Ｗｉ－Ｆｉ（登録商標）ともいう）、Ｂｌｕｅｔｏｏｔｈ（登録商標）などのその他の無線通信プロトコルを実装してよい。汎用通信Ｉ／Ｆ７６２０は、例えば、基地局又はアクセスポイントを介して、外部ネットワーク（例えば、インターネット、クラウドネットワーク又は事業者固有のネットワーク）上に存在する機器（例えば、アプリケーションサーバ又は制御サーバ）へ接続してもよい。また、汎用通信Ｉ／Ｆ７６２０は、例えばＰ２Ｐ（Peer To Peer）技術を用いて、車両の近傍に存在する端末（例えば、運転者、歩行者若しくは店舗の端末、又はＭＴＣ（Machine Type Communication）端末）と接続してもよい。
【0170】
専用通信Ｉ／Ｆ７６３０は、車両における使用を目的として策定された通信プロトコルをサポートする通信Ｉ／Ｆである。専用通信Ｉ／Ｆ７６３０は、例えば、下位レイヤのＩＥＥＥ８０２．１１ｐと上位レイヤのＩＥＥＥ１６０９との組合せであるＷＡＶＥ（Wireless Access in Vehicle Environment）、ＤＳＲＣ（Dedicated Short Range Communications）、又はセルラー通信プロトコルといった標準プロトコルを実装してよい。専用通信Ｉ／Ｆ７６３０は、典型的には、車車間（Vehicle to Vehicle）通信、路車間（Vehicle to Infrastructure）通信、車両と家との間（Vehicle to Home）の通信及び歩車間（Vehicle to Pedestrian）通信のうちの１つ以上を含む概念であるＶ２Ｘ通信を遂行する。
【0171】
測位部７６４０は、例えば、ＧＮＳＳ（Global Navigation Satellite System）衛星からのＧＮＳＳ信号（例えば、ＧＰＳ（Global Positioning System）衛星からのＧＰＳ信号）を受信して測位を実行し、車両の緯度、経度及び高度を含む位置情報を生成する。なお、測位部７６４０は、無線アクセスポイントとの信号の交換により現在位置を特定してもよく、又は測位機能を有する携帯電話、ＰＨＳ若しくはスマートフォンといった端末から位置情報を取得してもよい。
【0172】
ビーコン受信部７６５０は、例えば、道路上に設置された無線局等から発信される電波あるいは電磁波を受信し、現在位置、渋滞、通行止め又は所要時間等の情報を取得する。なお、ビーコン受信部７６５０の機能は、上述した専用通信Ｉ／Ｆ７６３０に含まれてもよい。
【0173】
車内機器Ｉ／Ｆ７６６０は、マイクロコンピュータ７６１０と車内に存在する様々な車内機器７７６０との間の接続を仲介する通信インタフェースである。車内機器Ｉ／Ｆ７６６０は、無線ＬＡＮ、Ｂｌｕｅｔｏｏｔｈ（登録商標）、ＮＦＣ（Near Field Communication）又はＷＵＳＢ（Wireless USB）といった無線通信プロトコルを用いて無線接続を確立してもよい。また、車内機器Ｉ／Ｆ７６６０は、図示しない接続端子（及び、必要であればケーブル）を介して、ＵＳＢ（Universal Serial Bus）、ＨＤＭＩ（High-Definition Multimedia Interface）、又はＭＨＬ（Mobile High-definition Link）等の有線接続を確立してもよい。車内機器７７６０は、例えば、搭乗者が有するモバイル機器若しくはウェアラブル機器、又は車両に搬入され若しくは取り付けられる情報機器のうちの少なくとも１つを含んでいてもよい。また、車内機器７７６０は、任意の目的地までの経路探索を行うナビゲーション装置を含んでいてもよい。車内機器Ｉ／Ｆ７６６０は、これらの車内機器７７６０との間で、制御信号又はデータ信号を交換する。
【0174】
車載ネットワークＩ／Ｆ７６８０は、マイクロコンピュータ７６１０と通信ネットワーク７０１０との間の通信を仲介するインタフェースである。車載ネットワークＩ／Ｆ７６８０は、通信ネットワーク７０１０によりサポートされる所定のプロトコルに則して、信号等を送受信する。
【0175】
統合制御ユニット７６００のマイクロコンピュータ７６１０は、汎用通信Ｉ／Ｆ７６２０、専用通信Ｉ／Ｆ７６３０、測位部７６４０、ビーコン受信部７６５０、車内機器Ｉ／Ｆ７６６０及び車載ネットワークＩ／Ｆ７６８０のうちの少なくとも一つを介して取得される情報に基づき、各種プログラムにしたがって、車両制御システム７０００を制御する。例えば、マイクロコンピュータ７６１０は、取得される車内外の情報に基づいて、駆動力発生装置、ステアリング機構又は制動装置の制御目標値を演算し、駆動系制御ユニット７１００に対して制御指令を出力してもよい。例えば、マイクロコンピュータ７６１０は、車両の衝突回避あるいは衝撃緩和、車間距離に基づく追従走行、車速維持走行、車両の衝突警告、又は車両のレーン逸脱警告等を含むＡＤＡＳ（Advanced Driver Assistance System）の機能実現を目的とした協調制御を行ってもよい。また、マイクロコンピュータ７６１０は、取得される車両の周囲の情報に基づいて駆動力発生装置、ステアリング機構又は制動装置等を制御することにより、運転者の操作に拠らずに自律的に走行する自動運転等を目的とした協調制御を行ってもよい。
【0176】
マイクロコンピュータ７６１０は、汎用通信Ｉ／Ｆ７６２０、専用通信Ｉ／Ｆ７６３０、測位部７６４０、ビーコン受信部７６５０、車内機器Ｉ／Ｆ７６６０及び車載ネットワークＩ／Ｆ７６８０のうちの少なくとも一つを介して取得される情報に基づき、車両と周辺の構造物や人物等の物体との間の３次元距離情報を生成し、車両の現在位置の周辺情報を含むローカル地図情報を作成してもよい。また、マイクロコンピュータ７６１０は、取得される情報に基づき、車両の衝突、歩行者等の近接又は通行止めの道路への進入等の危険を予測し、警告用信号を生成してもよい。警告用信号は、例えば、警告音を発生させたり、警告ランプを点灯させたりするための信号であってよい。
【0177】
音声画像出力部７６７０は、車両の搭乗者又は車外に対して、視覚的又は聴覚的に情報を通知することが可能な出力装置へ音声及び画像のうちの少なくとも一方の出力信号を送信する。図１６の例では、出力装置として、オーディオスピーカ７７１０、表示部７７２０及びインストルメントパネル７７３０が例示されている。表示部７７２０は、例えば、オンボードディスプレイ及びヘッドアップディスプレイの少なくとも一つを含んでいてもよい。表示部７７２０は、ＡＲ（Augmented Reality）表示機能を有していてもよい。出力装置は、これらの装置以外の、ヘッドホン、搭乗者が装着する眼鏡型ディスプレイ等のウェアラブルデバイス、プロジェクタ又はランプ等の他の装置であってもよい。出力装置が表示装置の場合、表示装置は、マイクロコンピュータ７６１０が行った各種処理により得られた結果又は他の制御ユニットから受信された情報を、テキスト、イメージ、表、グラフ等、様々な形式で視覚的に表示する。また、出力装置が音声出力装置の場合、音声出力装置は、再生された音声データ又は音響データ等からなるオーディオ信号をアナログ信号に変換して聴覚的に出力する。
【0178】
なお、図１６に示した例において、通信ネットワーク７０１０を介して接続された少なくとも二つの制御ユニットが一つの制御ユニットとして一体化されてもよい。あるいは、個々の制御ユニットが、複数の制御ユニットにより構成されてもよい。さらに、車両制御システム７０００が、図示されていない別の制御ユニットを備えてもよい。また、上記の説明において、いずれかの制御ユニットが担う機能の一部又は全部を、他の制御ユニットに持たせてもよい。つまり、通信ネットワーク７０１０を介して情報の送受信がされるようになっていれば、所定の演算処理が、いずれかの制御ユニットで行われるようになってもよい。同様に、いずれかの制御ユニットに接続されているセンサ又は装置が、他の制御ユニットに接続されるとともに、複数の制御ユニットが、通信ネットワーク７０１０を介して相互に検出情報を送受信してもよい。
【0179】
なお、本実施形態に係る表示制御装置２００の各機能を実現するためのコンピュータプログラムを、いずれかの制御ユニット等に実装することができる。また、このようなコンピュータプログラムが格納された、コンピュータで読み取り可能な記録媒体を提供することもできる。記録媒体は、例えば、磁気ディスク、光ディスク、光磁気ディスク、フラッシュメモリ等である。また、上記のコンピュータプログラムは、記録媒体を用いずに、例えばネットワークを介して配信されてもよい。
【0180】
以上説明した車両制御システム７０００において、本実施形態に係る表示制御装置２００は、図１６に示した応用例の統合制御ユニット７６００に適用することができる。車両７９００の後方を撮影する撮像部７９１６が実施の形態における撮像素子１０３と同様に全画素／間引きモードで第１撮像信号および第２撮像信号を出力可能なものとし、第１撮像信号に基づく第１画像と第２撮像信号に基づく第２画像を表示部７７２０に表示する。これにより、車両７９００の後方を広く撮影した第１画像と、第１画像の一部領域（例えば車庫入れにおいて壁などと衝突する恐れがあるバンパー部分など）の拡大画像の両方表示部７７２０に表示できる。これにより運転手は車両７９００の後方を広く確認しつつ、バンパー部分などが壁に衝突しないようにより注意をしながら運転することができる。なお、このような表示制御装置２００による表示制御は車両７９００の後方の撮像部だけでなく、前方、左右に設けられた撮像部による画像についても行うことができる。
【0181】
＜４．変形例＞
以上、本技術の実施の形態について具体的に説明したが、本技術は上述の実施の形態に限定されるものではなく、本技術の技術的思想に基づく各種の変形が可能である。
以上、本技術の実施の形態について具体的に説明したが、本技術は上述の実施の形態に限定されるものではなく、本技術の技術的思想に基づく各種の変形が可能である。
【0182】
本技術はデジタルカメラ、デジタルビデオカメラ、一眼レフカメラなどに限らず、スマートフォン、タブレット端末、携帯ゲーム機、メガネ型ウェアラブルデバイスなどカメラ機能を備える機器であればどのようなものにも適用可能である。
【0183】
また、画像／映像を撮影するカメラ部と撮影した映像を表示する表示部が別筐体として構成されてネットワークで接続されているいわゆるネットワークカメラにも本技術は適用可能である。第１撮像信号と第２撮像信号をカメラ部がネットワークを介して表示部に送信する場合、第１撮像信号と第２撮像信号との間に遅延が生じる可能性がある。この場合は実施の形態で説明したようにタイミング情報に基づいて対応する第１撮像信号と第２撮像信号を同期させるとよい。
【0184】
また、撮像素子１０３から全画角の全画素の撮像信号を一旦出力してそれを受信部などで受信し、そこから第１撮像信号と第２撮像信号とに分けて前処理部１０４に供給するようにしてもよい。
【0185】
また、第１撮像信号出力用の撮像素子と第２撮像信号出力用の撮像素子を撮像装置１００に設けることによっても本技術は実現できる。
【0186】
本技術は以下のような構成も取ることができる。
（１）
全画角については画素間引きで第１撮像信号を出力し、前記全画角内の一部領域については全画素で第２撮像信号を出力する撮像素子から出力される前記第１撮像信号に基づく第１画像と、前記第２撮像信号に基づく第２画像を表示部に表示するように制御する表示制御部を備える表示制御装置。
（２）
前記第１画像と前記第２画像は同時に前記表示部に表示される（１）に記載の表示制御装置。
（３）
前記第１画像は撮像範囲全体を表す画像である（１）または（２）に記載の表示制御装置。
（４）
前記第２画像は前記撮像範囲の部分拡大画像である（１）から（３）のいずれかに記載の表示制御装置。
（５）
前記第１画像と前記第２画像は並べて表示される（１）から（４）のいずれかに記載の表示制御装置。
（６）
前記第２画像は前記第１画像上に重畳して表示される（１）から（５）のいずれかに記載の表示制御装置。
（７）
前記第１画像は前記第２画像よりも大きく表示される（６）に記載の表示制御装置。
（８）
前記第２画像は前記第１画像よりも高画質である（１）から（７）のいずれかに記載の表示制御装置。
（９）
前記表示制御部は、前記表示部の解像度に応じて前記第１画像と前記第２画像の表示態様を変化させる（１）から（８）のいずれかに記載の表示制御装置。
（１０）
前記表示部の解像度が所定値以上である場合、前記第１画像と前記第２画像を並べて表示させる（９）に記載の表示制御装置。
（１１）
前記表示部の解像度が所定値以下である場合、前記第１画像上に前記第２画像を重畳して表示させる（９）に記載の表示制御装置。
（１２）
前記第１画像は前記表示部全体に表示させる（１１）に記載の表示制御装置。
（１３）
前記第２画像は、前記第１画像と並べて表示させる状態における前記第２画像のサイズよりも大きく表示させる（１１）に記載の表示制御装置。
（１４）
前記表示制御部は、ユーザからの指示に応じて前記表示部における前記第１画像および／または前記第２画像の表示位置を変更する（１）から（１３）のいずれかに記載の表示制御装置。
（１５）
前記表示制御部は、ユーザからの指示に応じて前記表示部における前記第１画像および／または前記第２画像のサイズを変更する（１）から（１４）のいずれかに記載の表示制御装置。
（１６）
前記表示部において、前記第１画像内における前記第２画像に対応する領域を示すアイコンを前記第１画像上に表示させる（１）から（１５）のいずれかに記載の表示制御装置。
（１７）
全画角については画素間引きで第１撮像信号を出力し、前記全画角内の一部領域については全画素で第２撮像信号を出力する撮像素子から出力される前記第１撮像信号に基づく第１画像と、前記第２撮像信号に基づく第２画像を表示部に表示するように制御する表示制御方法。
（１８）
全画角については画素間引きで第１撮像信号を出力し、前記全画角内の一部領域については全画素で第２撮像信号を出力する撮像素子から出力される前記第１撮像信号に基づく第１画像と、前記第２撮像信号に基づく第２画像を表示部に表示するように制御する表示制御方法をコンピュータに実行させる表示制御プログラム。
（１）
全画角については画素間引きで第１撮像信号を出力し、前記全画角内の一部領域については全画素で第２撮像信号を出力する撮像素子から出力される前記第１撮像信号に基づく第１画像と、前記第２撮像信号に基づく第２画像を表示部に表示するように制御する表示制御部を備える表示制御装置。
（２）
前記第１画像と前記第２画像は同時に前記表示部に表示される（１）に記載の表示制御装置。
（３）
前記第１画像は撮像範囲全体を表す画像である（１）または（２）に記載の表示制御装置。
（４）
前記第２画像は前記撮像範囲の部分拡大画像である（１）から（３）のいずれかに記載の表示制御装置。
（５）
前記第１画像と前記第２画像は並べて表示される（１）から（４）のいずれかに記載の表示制御装置。
（６）
前記第２画像は前記第１画像上に重畳して表示される（１）から（５）のいずれかに記載の表示制御装置。
（７）
前記第１画像は前記第２画像よりも大きく表示される（６）に記載の表示制御装置。
（８）
前記第２画像は前記第１画像よりも高画質である（１）から（７）のいずれかに記載の表示制御装置。
（９）
前記表示制御部は、前記表示部の解像度に応じて前記第１画像と前記第２画像の表示態様を変化させる（１）から（８）のいずれかに記載の表示制御装置。
（１０）
前記表示部の解像度が所定値以上である場合、前記第１画像と前記第２画像を並べて表示させる（９）に記載の表示制御装置。
（１１）
前記表示部の解像度が所定値以下である場合、前記第１画像上に前記第２画像を重畳して表示させる（９）に記載の表示制御装置。
（１２）
前記第１画像は前記表示部全体に表示させる（１１）に記載の表示制御装置。
（１３）
前記第２画像は、前記第１画像と並べて表示させる状態における前記第２画像のサイズよりも大きく表示させる（１１）に記載の表示制御装置。
（１４）
前記表示制御部は、ユーザからの指示に応じて前記表示部における前記第１画像および／または前記第２画像の表示位置を変更する（１）から（１３）のいずれかに記載の表示制御装置。
（１５）
前記表示制御部は、ユーザからの指示に応じて前記表示部における前記第１画像および／または前記第２画像のサイズを変更する（１）から（１４）のいずれかに記載の表示制御装置。
（１６）
前記表示部において、前記第１画像内における前記第２画像に対応する領域を示すアイコンを前記第１画像上に表示させる（１）から（１５）のいずれかに記載の表示制御装置。
（１７）
全画角については画素間引きで第１撮像信号を出力し、前記全画角内の一部領域については全画素で第２撮像信号を出力する撮像素子から出力される前記第１撮像信号に基づく第１画像と、前記第２撮像信号に基づく第２画像を表示部に表示するように制御する表示制御方法。
（１８）
全画角については画素間引きで第１撮像信号を出力し、前記全画角内の一部領域については全画素で第２撮像信号を出力する撮像素子から出力される前記第１撮像信号に基づく第１画像と、前記第２撮像信号に基づく第２画像を表示部に表示するように制御する表示制御方法をコンピュータに実行させる表示制御プログラム。
【符号の説明】
【0187】
１０３・・・撮像素子
１１１・・・表示部
２００・・・表示制御装置
２０２・・・表示制御部
１１１・・・表示部
２００・・・表示制御装置
２０２・・・表示制御部
【図1】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図14】
【図15】
【図16】
【図17】