特許 7544034 画像処理装置、画像処理方法およびプログラム

(19)【発行国】日本国特許庁(JP)

(12)【公報種別】特許公報(B2)

(11)【特許番号】

(24)【登録日】2024-08-26

(45)【発行日】2024-09-03

(54)【発明の名称】画像処理装置、画像処理方法およびプログラム

(51)【国際特許分類】

   H04N 7/18 20060101AFI20240827BHJP

   G06F 3/0484 20220101ALI20240827BHJP

   G06T 3/00 20240101ALI20240827BHJP

   G09G 5/00 20060101ALI20240827BHJP

   G09G 5/36 20060101ALI20240827BHJP

   G09G 5/38 20060101ALI20240827BHJP

【ＦＩ】

H04N7/18 U

G06F3/0484

G06T3/00 775

G09G5/00 510H

G09G5/00 550C

G09G5/36 400

G09G5/38 100

G09G5/00 550B

G09G5/00 550H

G09G5/00 530D

G09G5/36 200

【請求項の数】 18

(21)【出願番号】P 2021511362

(86)(22)【出願日】2020-03-13

(86)【国際出願番号】 JP2020011047

(87)【国際公開番号】W WO2020203167

(87)【国際公開日】2020-10-08

【審査請求日】2023-01-25

(31)【優先権主張番号】P 2019065814

(32)【優先日】2019-03-29

(33)【優先権主張国・地域又は機関】JP

(73)【特許権者】

【識別番号】000002185

【氏名又は名称】ソニーグループ株式会社

(74)【代理人】

【識別番号】100093241

【弁理士】

【氏名又は名称】宮田 正昭

(74)【代理人】

【識別番号】100101801

【弁理士】

【氏名又は名称】山田 英治

(74)【代理人】

【識別番号】100095496

【弁理士】

【氏名又は名称】佐々木 榮二

(74)【代理人】

【識別番号】100086531

【弁理士】

【氏名又は名称】澤田 俊夫

(74)【代理人】

【識別番号】110000763

【氏名又は名称】弁理士法人大同特許事務所

(72)【発明者】

【氏名】小倉 翔

(72)【発明者】

【氏名】山下 裕也

【審査官】秦野 孝一郎

(56)【参考文献】

【文献】特開２０１８－１３９１０２（ＪＰ，Ａ）

【文献】国際公開第２０１８／２３５６０８（ＷＯ，Ａ１）

(58)【調査した分野】(Int.Cl.，ＤＢ名)

Ｈ０４Ｎ ７／１８

Ｇ０６Ｆ ３／０１

Ｇ０６Ｆ ３／０４８－３／０４８９５

Ｇ０６Ｔ ３／００

Ｇ０９Ｇ ５／００－５／４２

(57)【特許請求の範囲】

【請求項1】

視点位置変更指示に応じて視点移動情報を検出する検出部と、
お勧め視点情報を含む画像の出力範囲を、上記お勧め視点情報および上記視点移動情報に基づいて決定する出力範囲決定部と、
決定された上記出力範囲に基づいて、表示画像として上記画像の一部を表示部に出力する出力部を備え、
上記出力範囲決定部は、上記表示画像が上記お勧め視点情報が示すお勧め範囲とは異なることを含む所定の条件を満たす場合、上記表示画像が上記お勧め範囲の方向に遷移するように上記出力範囲を決定する
画像処理装置。

【請求項2】

上記所定の条件は、上記表示画像が上記お勧め範囲とは異なることが所定時間以上であることをさらに含む
請求項１に記載の画像処理装置。

【請求項3】

上記所定の条件は、上記視点移動情報が検出されていないことをさらに含む
請求項１に記載の画像処理装置。

【請求項4】

上記所定の条件は、上記表示画像が上記画像の中の特定の範囲にあることをさらに含む
請求項１に記載の画像処理装置。

【請求項5】

上記所定の条件は、上記画像が特定フレームの画像にあることをさらに含む
請求項１に記載の画像処理装置。

【請求項6】

上記所定の条件は、上記視点移動情報として上記お勧め範囲への遷移指示があることをさらに含む
請求項１に記載の画像処理装置。

【請求項7】

上記出力範囲決定部は、上記表示画像と上記お勧め範囲との位置差に基づいて上記遷移の速度を制御し、上記位置差が大きい場合は上記位置差が小さい場合よりも上記遷移の速度を大きくする
請求項１に記載の画像処理装置。

【請求項8】

上記出力範囲決定部は、上記お勧め範囲に一定時間で戻るように上記遷移の速度を制御する
請求項１に記載の画像処理装置。

【請求項9】

上記出力範囲決定部は、上記お勧め範囲に一定速度で戻るように上記遷移の速度を制御する
請求項１に記載の画像処理装置。

【請求項10】

上記出力範囲決定部は、上記遷移の経路を球面線形補間で補間する
請求項１に記載の画像処理装置。

【請求項11】

上記出力部は、上記遷移の経路を線形補間で補間する
請求項１に記載の画像処理装置。

【請求項12】

上記視点移動情報に基づく視点位置の変更により上記表示画像が上記お勧め範囲とは異なる場合、上記出力範囲決定部は、上記遷移の際に、上記表示画像を、上記視点位置の変更による視点位置の変更方向とは反対方向の経路で移動させるよう上記出力範囲を決定する
請求項１に記載の画像処理装置。

【請求項13】

上記出力範囲決定部は、上記遷移の際に、上記表示画像を、上記お勧め範囲への最短経路で移動させるよう上記出力範囲を決定する
請求項１に記載の画像処理装置。

【請求項14】

上記画像にマスク範囲を示すマスク範囲情報を含む場合、上記出力範囲決定部は、上記遷移の際に、上記表示画像を、上記マスク範囲を通らない経路で移動させるよう上記出力範囲を決定する
請求項１に記載の画像処理装置。

【請求項15】

上記画像に通過ポイントを示す通過ポイント情報を含む場合、上記出力範囲決定部は、上記遷移の際に、上記表示画像を、上記通過ポイントを通る経路で移動させるよう上記出力範囲を決定する
請求項１に記載の画像処理装置。

【請求項16】

上記お勧め視点情報として複数のお勧め範囲を含む場合、上記出力範囲決定部は、上記遷移の際に、上記表示画像を、上記表示画像から上記複数のお勧め範囲のうち最も近い位置のお勧め範囲、またはユーザが選択した位置のお勧め範囲に向けて移動させるよう上記出力範囲を決定する
請求項１に記載の画像処理装置。

【請求項17】

視点位置変更指示に応じて視点移動情報を検出する手順と、
お勧め視点情報を含む画像の出力範囲を、上記お勧め視点情報および上記視点移動情報に基づいて決定する手順と、
決定された上記出力範囲に基づいて、表示画像として上記画像の一部を表示部に出力する手順を有し、
上記出力範囲を決定する手順では、上記表示画像が上記お勧め視点情報が示すお勧め範囲とは異なることを含む所定の条件を満たす場合、上記表示画像が上記お勧め範囲の方向に遷移するように上記出力範囲を決定する
画像処理方法。

【請求項18】

コンピュータを、
視点位置変更指示に応じて視点移動情報を検出する検出手段と、
お勧め視点情報を含む画像の出力範囲を、上記お勧め視点情報および上記視点移動情報に基づいて決定する出力範囲決定手段と、
決定された上記出力範囲に基づいて、表示画像として上記画像の一部を表示部に出力する出力手段として機能させ、
上記出力範囲決定手段は、上記表示画像が上記お勧め視点情報が示すお勧め範囲とは異なることを含む所定の条件を満たす場合、上記表示画像が上記お勧め範囲の方向に遷移するように上記出力範囲を決定する
プログラム。

【発明の詳細な説明】

【技術分野】

【0001】

本技術は、画像処理装置、画像処理方法およびプログラムに関し、詳しくは、ユーザがＶＲ画像やパノラマ画像などの広視野角画像を良好に観察可能とする画像処理装置等に関する。

【背景技術】

【0002】

ＭＰＥＧ－ＤＡＳＨ（Dynamic Adaptive Streaming over HTTP）のＯＭＡＦ（Omnidirectional Media Application Format）の規格の中で、３６０°あるいはそれより狭い画角の広視野角の画像データと共にお勧め視点情報を送る方法が定義されている。また、例えば、特許文献１には、お勧め視点の表示に関する記載が存在する。

【先行技術文献】

【特許文献】

【0003】

【文献】特開２０１６-１９４７８４号公報

【発明の概要】

【発明が解決しようとする課題】

【0004】

お勧め視点を表示すると広視野角の画像のうちお勧め視点しか見られなくなる。一方、自由に見られるようにするとお勧め視点位置が分からなくなる。この場合、お勧め視点を枠等で表示することも考えられるが、その部分において世界観が崩れる不都合がある。

【0005】

本技術の目的は、お勧め視点の位置を枠等で表示することなく、お勧め視点と自由視点との併用を可能とすることにある。

【課題を解決するための手段】

【0006】

本技術の概念は、
視点位置変更指示に応じて視点移動情報を検出する検出部と、
お勧め視点情報を含む画像の出力範囲を、上記お勧め視点情報および上記視点移動情報に基づいて決定する出力範囲決定部と、
決定された上記出力範囲に基づいて、表示画像として上記画像の一部を表示部に出力する出力部を備え、
上記出力範囲決定部は、上記表示画像が所定の条件を満たす場合、上記表示画像が上記お進め視点情報が示すお勧め範囲となるように上記出力範囲を決定する
画像処理装置。

【0007】

本技術において、検出部により、視点位置変更指示に応じて視点移動情報が検出される。この視点位置変更指示は、例えばジャイロセンサ（角速度センサ）やユーザ操作等で与えられる。出力範囲決定部により、お勧め視点情報を含む画像の出力範囲が、お勧め視点情報および視点移動情報に基づいて決定される。そして、出力部により、決定された出力範囲に基づいて、表示画像として画像の一部が表示部に出力される。例えば、画像は、ＶＲ画像やパノラマ画像等の広視野角画像である。出力範囲決定部では、表示画像が所定の条件を満たす場合、表示画像がお進め視点情報が示すお勧め範囲となるように出力範囲が決定される。例えば、出力範囲決定部は、表示画像がお勧め範囲の方向に遷移するように出力範囲を決定する、ようにされてもよい。

【0008】

また、例えば、所定の条件は、表示画像がお勧め範囲とは異なる場合である、ようにされてもよい。また、例えば、所定の条件は、表示画像が所定時間以上、お勧め範囲とは異なる場合ある、ようにされてもよい。また、例えば、所定の条件は、さらに視点移動情報が検出されていない場合である、ようにされてもよい。

【0009】

また、例えば、所定の条件は、表示画像が画像中の特定の範囲にある場合である、ようにされてもよい。また、例えば、所定の条件は、画像が特定フレームの画像にあって、表示画像がお勧め範囲とは異なる場合である、ようにされてもよい。また、例えば、所定の条件は、表示画像がお勧め範囲とは異なり、かつ視点移動情報としてお勧め範囲への遷移指示がある場合である、ようにされてもよい。

【0010】

また、例えば、出力範囲決定部は、表示画像とお勧め範囲との位置差に基づいて遷移の速度を制御し、位置差が大きい場合は位置差が小さい場合よりも遷移の速度を大きくする、ようにされてもよい。また、例えば、出力範囲決定部は、お勧め範囲に一定時間で戻るように遷移の速度を制御する、ようにされてもよい。また、例えば、出力範囲決定部は、お勧め範囲に一定速度で戻るように遷移の速度を制御する、ようにされてもよい。

【0011】

また、例えば、出力範囲決定部は、遷移の経路を球面線形補間で補間する、ようにされてもよい。また、例えば、出力範囲決定部は、遷移の経路を線形補間で補間する、ようにされてもよい。

【0012】

また、例えば、視点移動情報に基づく視点位置の変更により表示画像がお勧め範囲とは異なる場合、出力範囲決定部は、遷移の際に、現在の出力範囲を、視点位置の変更指示による視点位置の変更方向とは反対方向の経路で移動させるよう出力範囲を決定する、ようにされてもよい。また、例えば、出力範囲決定部は、遷移の際に、表示画像からお勧め範囲への最短経路で移動させるよう出力範囲を決定する、ようにされてもよい。

【0013】

また、例えば、画像にマスク範囲を示すマスク範囲情報を含む場合、出力範囲決定部は、遷移の際に、マスク範囲を通らない経路で移動させるよう出力範囲を決定する、ようにされてもよい。また、例えば、画像に通過ポイントを示す通過ポイント情報を含む場合、出力範囲決定部は、遷移の際に、通過ポイントを通る経路で移動させるよう出力範囲を決定する、ようにされてもよい。

【0014】

また、例えば、お勧め点情報として複数のお勧め範囲を含む場合、出力範囲決定部は、遷移の際に、表示画像から複数のお勧め範囲のうち最も近い位置のお勧め範囲、またはユーザが選択した位置のお勧め範囲に向けて移動させるよう出力範囲を決定する、ようにされてもよい。

【0015】

このように本技術においては、お勧め視点情報を含む画像の出力範囲を、お勧め点情報および視点移動情報に基づいて決定するものである。そのため、お勧め視点の位置を枠等で表示することなくお勧め視点と自由視点との併用が可能となる。

【図面の簡単な説明】

【0016】

【図1】実施の形態としての画像配信システムの構成例を示すブロック図である。

【図2】お勧め視点情報等を説明するための図である。

【図3】表示装置の構成例を示すブロック図である。

【図4】遷移算出部における次フレームの視点位置を求める処理を説明するための図である。

【図5】現在視点からお勧め視点への遷移を説明するための図である。

【図6】現在視点に対応した画像が切出し表示されることを説明するための図である。

【図7】表示装置における表示処理手順の一例を示すフローチャートである。

【図8】コンピュータのハードウェアの構成例を示すブロック図である。

【図9】手術室システムの全体構成を概略的に示す図である。

【図10】集中操作パネルにおける操作画面の表示例を示す図である。

【図11】手術室システムが適用された手術の様子の一例を示す図である。

【図12】図Ｂ３に示すカメラヘッド及びＣＣＵの機能構成の一例を示すブロック図である。

【図13】現在視点からお勧め視点への遷移の際にお勧め視点への最短方向に現在視点を移動させる例を説明するための図である。

【図14】現在視点からお勧め視点への遷移の際にユーザが動かした向きとは反対方向にマスク範囲が存在する場合について説明するための図である。

【図15】マスク範囲を通らないようにした場合における、表示装置における表示処理手順の一例を示すフローチャートである。

【図16】現在視点からお勧め視点への遷移の際に通過ポイントが設定されている場合について説明するための図である。

【図17】通過ポイントを通るようにした場合における、表示装置における表示処理手順の一例を示すフローチャートである。

【図18】現在視点からお勧め視点への遷移の際に複数のお勧め視点が存在する場合について説明するための図である。

【図19】複数のお勧め視点のうち最も近い位置のお勧め視点に向けて現在視点が移動していく場合における、表示装置における表示処理手順の一例を示すフローチャートである。

【図20】複数のお勧め視点のうちユーザが選択したお勧め視点に向けて移動していく場合における、表示装置における表示処理手順の一例を示すフローチャートである。

【図21】お勧め視点表示がされているか否かによりお勧め視点に移動する場合における、表示装置における表示処理手順の一例を示すフローチャートである。

【図22】お勧め視点表示がされずに所定時間以上経過しているか否かによりお勧め視点に移動する場合における、表示装置における表示処理手順の一例を示すフローチャートである。

【図23】表示装置における表示処理手順の一例を示すフローチャートである。

【発明を実施するための形態】

【0017】

以下、発明を実施するための形態（以下、「実施の形態」とする）について説明する。なお、説明は以下の順序で行う。
１．実施の形態
２．応用例
３．変形例

【0018】

＜１．実施の形態＞
［画像配信システム］
図１は、実施の形態としての画像配信システム１０の構成例を示している。この画像配信システム１０は、配信側装置と、受信側装置としての表示装置２００とからからなっている。表示装置２００としては、ＨＭＤ（Head Mounted Display）やタブレット等が考えられる。

【0019】

配信側装置は、マルチカメラ１０１と、広視野角画像変換部１０２と、エンコーダ１０３と、配信サーバ１０４を有している。

【0020】

マルチカメラ１０１は、球面キャプチャ画像の画像データを得る。例えば、マルチカメラ１０１は、２個のカメラでバック・ツー・バック（Back to Back）方式で撮像を行って、球面キャプチャ画像として、それぞれ魚眼レンズを用いて撮像された１８０°以上の視野角を持つ、広視野角の前面画像および後面画像を得る。

【0021】

広視野角画像変換部１０２は、マルチカメラ１０１で得られた球面キャプチャ画像を平面パッキングして長方形のプロジェクション画像（Projection picture）を得る。このプロジェクション画像は、３６０°あるいはそれより狭い画角である広視野角の画像に対応したものである。この場合、プロジェクション画像のフォーマットタイプとしては、例えば、エクイレクタングラー（Equirectangular）などが選択される。なお、広視野角画像変換部１０２では、プロジェクション画像に必要に応じてスケーリングが施され、所定の解像度のプロジェクション画像が得られる。

【0022】

エンコーダ１０３は、広視野角画像変換部１０２からのプロジェクション画像の画像データに対して、例えば、ＨＥＶＣなどの符号化を施して符号化画像データを得、この符号化画像データを含むビデオストリームを生成する。ここで、エンコーダ１０３は、ビデオストリームに、フレーム単位で、お勧め視点情報を挿入する。

【0023】

お勧め視点は、例えば位置センサあるいは画像認識で推定された演者を含む範囲に自動的に設定され、また例えばディレクタが手動で指定した範囲に設定される。ここで、お勧め視点は、一つだけ設定される場合に限定されず、複数設定される場合も考えられる。

【0024】

図２（ａ）は、球面キャプチャ画像に対応した球面を示している。図２（ｂ）は、フォーマットタイプがエクイレクタングラーであった場合における長方形のプロジェクション画像を概略的に示している。このプロジェクション画像の中心は（０，０）である。

【0025】

お勧め視点情報は、例えば、図２（ｃ）に示すように、フレーム番号、中心角度情報、水平角度情報、垂直角度情報、お勧め視点番号などからなっている。中心角度情報、水平角度情報および垂直角度情報は、球面キャプチャ画像における角度情報である（図２（ａ）参照）。

【0026】

図１に戻って、配信サーバ１０４は、エンコーダ１０３で生成されたビデオストリームを配信データとして表示装置２００に送る。なお、この配信は、放送、通信のいずれであってもよい。

【0027】

図３は、表示装置２００の構成例を示している。表示装置２００は、受信部２０１と、デコーダ２０２と、視野描画部２０３と、ジャイロセンサ２０４と、視点移動情報算出部２０５と、遷移算出部２０６と、表示部２０７を有している。ここで、遷移算出部２０６は出力範囲決定部を構成し、視野描画部２０３は出力部を構成する。

【0028】

受信部２０１は、送信側装置から送られてくる配信データとしてのビデオストリームを受信する。デコーダ２０２は、受信部２０１で受信されたビデオストリームに復号化を施して、プロジェクション画像（画像データ）を得る。また、デコーダ２０２は、受信されたビデオストリームからフレーム単位で挿入されているお勧め視点情報を得る。

【0029】

ジャイロセンサ２０４は、このジャイロセンサ２０４を内蔵している機器、ここでは表示装置２００の回転角度の変化を検知する。視点移動情報算出部２０５は、ジャイロセンサ２０４の検知出力に基づいて視点移動情報を算出する。この視点移動情報算出部２０５は、視点位置変更指示を検出する検出部を構成する。

【0030】

この場合、ＨＭＤを装着しているユーザが首を回転させる、あるいはユーザがタブレットを回転させるなどの操作を行って視点移動を発生させた場合、視点移動情報算出部２０５ではその視点移動を示す視点移動情報が算出される。

【0031】

なお、ユーザがタッチパネル上でスワイプ等の操作を行って視点移動を発生させることも考えられる。その場合、視点移動情報算出部２０５は、タッチパネルの操作情報に基づいて視点移動情報を算出する。

【0032】

遷移算出部２０６は、デコーダ２０２からの次フレームのお勧め視点情報と視点移動情報算出部２０５からの視点移動情報に基づいて、フレーム毎に、次フレームの視点位置を算出する。ここで、ユーザ操作による視点移動発生がある場合、遷移算出部２０６は、視点移動情報が示す視点移動が反映されるように視点位置を移動し、その移動された視点位置を次フレームの視点位置とする。

【0033】

一方、ユーザ操作による視点移動発生がない場合、遷移算出部２０６は、お勧め視点情報が示すお勧め視点の方向に視点位置を遷移させる。この場合、現在視点からお勧め視点までの経路が球面線形補間され、図４に示すように、１ステップ進んだ位置が次フレームの視点位置とされる。１ステップの移動量は、補間として何ステップでお勧め視点へ戻るかに依存し、戻り易さのパラメータとなる。そして、この場合、現在視点とお勧め視点との差が大きいほど早く近づき、小さいほどゆっくりと近づくように、速度制御される。つまり、位置差が大きい場合は位置差が小さい場合よりも遷移の速度を大きくするものである。

【0034】

図５（ａ）は、長方形のプロジェクション画像上におけるお勧め視点と現在視点（表示視点）の位置関係の一例を示している。このようにユーザ操作により現在視点がお勧め視点から外れている場合、ユーザ操作による視点移動発生がないとすると、図５（ｂ）に示すように、現在視点は、ユーザが動かした向きとは反対方向に、お勧め視点に向かって移動していく。図示の例は、ｔ－４フレームの現在視点がｔフレームまでの４フレームでお勧め視点に戻る例を示している。現在視点がお勧め視点に近づくほど現在視点の移動速度が遅くなって、現在視点が滑らかにお勧め視点に復帰する。

【0035】

視野描画部２０３は、デコーダ２０２で得られる次フレームのプロジェクション画像データから、遷移算出部２０６で算出される次フレームの視点位置範囲の画像データを切り出してレンダリングし、次フレームの視点位置に対応した表示画像データを得る。表示部２０７は、視野描画部２０３で得られた各フレームの表示用画像データによる画像を表示する。

【0036】

図６（ａ）は、長方形のプロジェクション画像の一例を示している。図６（ｂ）は、プロジェクション画像上における視点位置範囲の一例を示している。この場合、表示部２０７には、図６（ｃ）に示すように、視点位置に対応した画像が表示される。

【0037】

図３に示す表示装置２００の動作を簡単に説明する。送信側装置から送られてくる配信データは受信部２０１で受信されてデコーダ２０２に送られる。デコーダ２０２では、ビデオストリームに復号化が施されて、各フレームのプロジェクション画像データが順次得られる。このプロジェクション画像データは、視野描画部２０３に送られる。また、デコーダ２０２では、ビデオストリームから、フレーム単位で挿入されているお勧め視点情報が得られる。このお勧め視点情報は、遷移算出部２０６に送られる。

【0038】

また、ジャイロセンサ２０４では、このジャイロセンサ２０４を内蔵している表示装置２００（ＨＭＤやタブレットなど）の回転角度の変化が検知される。その検知出力は、視点移動情報算出部２０５に送られる。

【0039】

視点移動情報算出部２０５では、ジャイロセンサ２０４の検知出力に基づいて視点移動情報が算出される。ここで、ＨＭＤを装着しているユーザが首を回転させる、あるいはユーザがタブレットを回転させるなどの操作を行って視点移動を発生させた場合、視点移動情報算出部２０５ではその視点移動を示す視点移動情報が算出される。この視点移動情報は、遷移算出部２０６に送られる。

【0040】

遷移算出部２０６では、デコーダ２０２からの次フレームのお勧め視点情報と視点移動情報算出部２０５からの視点移動情報に基づいて、フレーム毎に、次フレームの視点位置が算出される。ここで、ユーザ操作による視点移動発生がある場合、視点移動情報が示す視点移動が反映されるように視点位置が移動され、その移動された視点位置が次フレームの視点位置とされる。また、ユーザ操作による視点移動発生がない場合、お勧め視点情報が示すお勧め視点の方向に視点位置が遷移するように、現在視点からお勧め視点までの経路が球面線形補間され、ステップ進んだ位置が次フレームの視点位置とされる。

【0041】

遷移算出部２０６で得られる、フレーム毎の、次フレームの視点位置は、視野描画部２０３に送られる。視野描画部２０３では、デコーダ２０２で得られる次フレームのプロジェクション画像データから、遷移算出部２０６で算出される次フレームの視点位置範囲の画像データが切り出されてレンダリングされ、フレーム毎に、次フレームの視点位置に対応した表示画像データが得られる。

【0042】

視野描画部２０３で得られる各フレームの表示用画像データは、表示部２０７に送られる。この表示部２０７では、この各フレームの表示用画像データによる画像、つまり現在の視点位置に対応した画像が表示される。

【0043】

図７のフローチャートは、表示装置２００における表示処理手順の一例を示している。表示装置２００は、ステップＳＴ１において、例えばユーザによるビデオクリップの再生開始操作に対応して処理を開始する。

【0044】

次に、表示装置２００は、ステップＳＴ２において、お勧め視点に対応した範囲（お勧め範囲）を出力範囲として表示する。次に、表示装置２００は、ステップＳＴ３において、ユーザ操作による視点移動発生があるか否かを判断する。

【0045】

ユーザによる視点移動発生がある場合、表示装置２００は、ステップＳＴ４において、操作方向に視点を移動し、その後にステップＳＴ５の処理に進む。なお、ここで、ユーザ操作による視点移動の移動量が小さく所定値以下の場合にはユーザ操作による視点移動発生がないとみなす処理（閾値処理）を行ってもよい。これにより、例えばＨＭＤが装着された頭部が微妙に動く場合にあっても安定した表示動作が可能となる。一方、ユーザによる視点移動発生がない場合、表示装置２００は、ステップＳＴ６において、お勧め視点方向への経路を計算し、その経路に沿ってお勧め視点方向に視点を移動し、その後にステップＳＴ５の処理に進む。表示装置２００は、ステップＳＴ５において、現在視点に対応した範囲を出力範囲として表示する。

【0046】

次に、表示装置２００は、ステップＳＴ７において、動画再生あるいは配信が終了したか否かを判断する。動画再生あるいは配信が終了していないときは、表示装置２００は、ステップＳＴ３の処理に戻り、次のフレームの処理に映る。一方、動画再生あるいは配信が終了したときは、ステップＳＴ８において、一連の処理を終了する。

【0047】

なお、上述の表示装置２００における一連の処理は、ハードウェアにより実行することもできるし、ソフトウェアにより実行することもできる。一連の処理をソフトウェアにより実行する場合には、そのソフトウェアを構成するプログラムが、コンピュータにインストールされる。ここで、コンピュータには、専用のハードウェアに組み込まれているコンピュータや、各種のプログラムをインストールすることで、各種の機能を実行することが可能な、例えば汎用のパーソナルコンピュータなどが含まれる。

【0048】

図８は、上述の一連の処理をプログラムにより実行するコンピュータ４００のハードウェアの構成例を示すブロック図である。

【0049】

コンピュータ４００において、ＣＰＵ（Central Processing Unit）４０１、ＲＯＭ（Read Only Memory）４０２、ＲＡＭ（Random Access Memory）４０３は、バス４０４により相互に接続されている。

【0050】

バス４０４には、さらに、入出力インタフェース４０５が接続されている。入出力インタフェース４０５には、入力部４０６、出力部４０７、記録部４０８、通信部４０９およびドライブ４１０が接続されている。

【0051】

入力部４０６は、入力スイッチ、ボタン、マイクロフォン、撮像素子などよりなる。出力部４０７は、ディスプレイ、スピーカなどよりなる。記録部４０８は、ハードディスクや不揮発性のメモリなどよりなる。通信部４０９は、ネットワークインターフェースなどよりなる。ドライブ４１０は、磁気ディスク、光ディスク、光磁気ディスク、または半導体メモリなどのリムーバブルメディア４１１を駆動する。

【0052】

以上のように構成されるコンピュータ４００では、ＣＰＵ４０１が、例えば、記録部４０８に記録されているプログラムを、入出力インタフェース４０５およびバス４０４を介して、ＲＡＭ４０３にロードして実行することにより、上述した一連の処理が行われる。

【0053】

コンピュータ４００（ＣＰＵ４０１）が実行するプログラムは、例えば、パッケージメディア等としてのリムーバブルメディア４１１に記録して提供することができる。また、プログラムは、ローカルエリアネットワーク、インターネット、デジタル衛星放送といった、有線または無線の伝送媒体を介して提供することができる。

【0054】

コンピュータでは、プログラムは、リムーバブルメディア４１１をドライブ４１０に装着することにより、入出力インタフェース４０５を介して、記録部４０８にインストールすることができる。また、プログラムは、有線または無線の伝送媒体を介して、通信部４０９で受信し、記録部４０８にインストールすることができる。その他、プログラムは、ＲＯＭ４０２や記録部４０８に予めインストールしておくことができる。

【0055】

なお、コンピュータが実行するプログラムは、本明細書で説明する順序に沿って時系列に処理が行われるプログラムであっても良いし、並列に、あるいは呼び出しが行われたとき等の必要なタイミングで処理が行われるプログラムであっても良い。

【0056】

上述したように、図１に示す画像配信システム１０の表示装置２００においては、お勧め範囲（お勧め視点に対応した範囲）を出力範囲とした後にユーザ操作による視点移動に応じて出力範囲を変更し得るものであって、出力範囲がお勧め範囲から外れている場合、ユーザ操作による視点移動発生がないときには、出力範囲をお勧め範囲の方向に遷移させるものである。そのため、お勧め視点の位置を枠等で表示することなく、お勧め視点と自由視点との併用が可能となる。

【0057】

＜２．応用例＞
本開示に係る技術は、様々な製品へ応用することができる。例えば、本開示に係る技術は、手術室システムに適用されてもよい。

【0058】

図９は、本開示に係る技術が適用され得る手術室システム５１００の全体構成を概略的に示す図である。図９を参照すると、手術室システム５１００は、手術室内に設置される装置群が視聴覚コントローラ（AV Controller）５１０７及び手術室制御装置５１０９を介して互いに連携可能に接続されることにより構成される。

【0059】

手術室には、様々な装置が設置され得る。図９では、一例として、内視鏡下手術のための各種の装置群５１０１と、手術室の天井に設けられ術者の手元を撮像するシーリングカメラ５１８７と、手術室の天井に設けられ手術室全体の様子を撮像する術場カメラ５１８９と、複数の表示装置５１０３Ａ～５１０３Ｄと、レコーダ５１０５と、患者ベッド５１８３と、照明５１９１と、を図示している。

【0060】

ここで、これらの装置のうち、装置群５１０１は、後述する内視鏡手術システム５１１３に属するものであり、内視鏡や当該内視鏡によって撮像された画像を表示する表示装置等からなる。内視鏡手術システム５１１３に属する各装置は医療用機器とも呼称される。一方、表示装置５１０３Ａ～５１０３Ｄ、レコーダ５１０５、患者ベッド５１８３及び照明５１９１は、内視鏡手術システム５１１３とは別個に、例えば手術室に備え付けられている装置である。これらの内視鏡手術システム５１１３に属さない各装置は非医療用機器とも呼称される。視聴覚コントローラ５１０７及び／又は手術室制御装置５１０９は、これら医療機器及び非医療機器の動作を互いに連携して制御する。

【0061】

視聴覚コントローラ５１０７は、医療機器及び非医療機器における画像表示に関する処理を、統括的に制御する。具体的には、手術室システム５１００が備える装置のうち、装置群５１０１、シーリングカメラ５１８７及び術場カメラ５１８９は、手術中に表示すべき情報（以下、表示情報ともいう）を発信する機能を有する装置（以下、発信元の装置とも呼称する）であり得る。また、表示装置５１０３Ａ～５１０３Ｄは、表示情報が出力される装置（以下、出力先の装置とも呼称する）であり得る。また、レコーダ５１０５は、発信元の装置及び出力先の装置の双方に該当する装置であり得る。視聴覚コントローラ５１０７は、発信元の装置及び出力先の装置の動作を制御し、発信元の装置から表示情報を取得するとともに、当該表示情報を出力先の装置に送信し、表示又は記録させる機能を有する。なお、表示情報とは、手術中に撮像された各種の画像や、手術に関する各種の情報（例えば、患者の身体情報や、過去の検査結果、術式についての情報等）等である。

【0062】

具体的には、視聴覚コントローラ５１０７には、装置群５１０１から、表示情報として、内視鏡によって撮像された患者の体腔内の術部の画像についての情報が送信され得る。また、シーリングカメラ５１８７から、表示情報として、当該シーリングカメラ５１８７によって撮像された術者の手元の画像についての情報が送信され得る。また、術場カメラ５１８９から、表示情報として、当該術場カメラ５１８９によって撮像された手術室全体の様子を示す画像についての情報が送信され得る。なお、手術室システム５１００に撮像機能を有する他の装置が存在する場合には、視聴覚コントローラ５１０７は、表示情報として、当該他の装置からも当該他の装置によって撮像された画像についての情報を取得してもよい。

【0063】

あるいは、例えば、レコーダ５１０５には、過去に撮像されたこれらの画像についての情報が視聴覚コントローラ５１０７によって記録されている。視聴覚コントローラ５１０７は、表示情報として、レコーダ５１０５から当該過去に撮像された画像についての情報を取得することができる。なお、レコーダ５１０５には、手術に関する各種の情報も事前に記録されていてもよい。

【0064】

視聴覚コントローラ５１０７は、出力先の装置である表示装置５１０３Ａ～５１０３Ｄの少なくともいずれかに、取得した表示情報（すなわち、手術中に撮影された画像や、手術に関する各種の情報）を表示させる。図示する例では、表示装置５１０３Ａは手術室の天井から吊り下げられて設置される表示装置であり、表示装置５１０３Ｂは手術室の壁面に設置される表示装置であり、表示装置５１０３Ｃは手術室内の机上に設置される表示装置であり、表示装置５１０３Ｄは表示機能を有するモバイル機器（例えば、タブレットＰＣ（Personal Computer））である。

【0065】

また、図９では図示を省略しているが、手術室システム５１００には、手術室の外部の装置が含まれてもよい。手術室の外部の装置は、例えば、病院内外に構築されたネットワークに接続されるサーバや、医療スタッフが用いるＰＣ、病院の会議室に設置されるプロジェクタ等であり得る。このような外部装置が病院外にある場合には、視聴覚コントローラ５１０７は、遠隔医療のために、テレビ会議システム等を介して、他の病院の表示装置に表示情報を表示させることもできる。

【0066】

手術室制御装置５１０９は、非医療機器における画像表示に関する処理以外の処理を、統括的に制御する。例えば、手術室制御装置５１０９は、患者ベッド５１８３、シーリングカメラ５１８７、術場カメラ５１８９及び照明５１９１の駆動を制御する。

【0067】

手術室システム５１００には、集中操作パネル５１１１が設けられており、ユーザは、当該集中操作パネル５１１１を介して、視聴覚コントローラ５１０７に対して画像表示についての指示を与えたり、手術室制御装置５１０９に対して非医療機器の動作についての指示を与えることができる。集中操作パネル５１１１は、表示装置の表示面上にタッチパネルが設けられて構成される。

【0068】

図１０は、集中操作パネル５１１１における操作画面の表示例を示す図である。図１０では、一例として、手術室システム５１００に、出力先の装置として、２つの表示装置が設けられている場合に対応する操作画面を示している。図１０を参照すると、操作画面５１９３には、発信元選択領域５１９５と、プレビュー領域５１９７と、コントロール領域５２０１と、が設けられる。

【0069】

発信元選択領域５１９５には、手術室システム５１００に備えられる発信元装置と、当該発信元装置が有する表示情報を表すサムネイル画面と、が紐付けられて表示される。ユーザは、表示装置に表示させたい表示情報を、発信元選択領域５１９５に表示されているいずれかの発信元装置から選択することができる。

【0070】

プレビュー領域５１９７には、出力先の装置である２つの表示装置（Monitor1、Monitor2）に表示される画面のプレビューが表示される。図示する例では、１つの表示装置において４つの画像がＰｉｎＰ表示されている。当該４つの画像は、発信元選択領域５１９５において選択された発信元装置から発信された表示情報に対応するものである。４つの画像のうち、１つはメイン画像として比較的大きく表示され、残りの３つはサブ画像として比較的小さく表示される。ユーザは、４つの画像が表示された領域を適宜選択することにより、メイン画像とサブ画像を入れ替えることができる。また、４つの画像が表示される領域の下部には、ステータス表示領域５１９９が設けられており、当該領域に手術に関するステータス（例えば、手術の経過時間や、患者の身体情報等）が適宜表示され得る。

【0071】

コントロール領域５２０１には、発信元の装置に対して操作を行うためのＧＵＩ（Graphical User Interface）部品が表示される発信元操作領域５２０３と、出力先の装置に対して操作を行うためのＧＵＩ部品が表示される出力先操作領域５２０５と、が設けられる。図示する例では、発信元操作領域５２０３には、撮像機能を有する発信元の装置におけるカメラに対して各種の操作（パン、チルト及びズーム）を行うためのＧＵＩ部品が設けられている。ユーザは、これらのＧＵＩ部品を適宜選択することにより、発信元の装置におけるカメラの動作を操作することができる。なお、図示は省略しているが、発信元選択領域５１９５において選択されている発信元の装置がレコーダである場合（すなわち、プレビュー領域５１９７において、レコーダに過去に記録された画像が表示されている場合）には、発信元操作領域５２０３には、当該画像の再生、再生停止、巻き戻し、早送り等の操作を行うためのＧＵＩ部品が設けられ得る。

【0072】

また、出力先操作領域５２０５には、出力先の装置である表示装置における表示に対する各種の操作（スワップ、フリップ、色調整、コントラスト調整、２Ｄ表示と３Ｄ表示の切り替え）を行うためのＧＵＩ部品が設けられている。ユーザは、これらのＧＵＩ部品を適宜選択することにより、表示装置における表示を操作することができる。

【0073】

なお、集中操作パネル５１１１に表示される操作画面は図示する例に限定されず、ユーザは、集中操作パネル５１１１を介して、手術室システム５１００に備えられる、視聴覚コントローラ５１０７及び手術室制御装置５１０９によって制御され得る各装置に対する操作入力が可能であってよい。

【0074】

図１１は、以上説明した手術室システムが適用された手術の様子の一例を示す図である。シーリングカメラ５１８７及び術場カメラ５１８９は、手術室の天井に設けられ、患者ベッド５１８３上の患者５１８５の患部に対して処置を行う術者（医者）５１８１の手元及び手術室全体の様子を撮影可能である。シーリングカメラ５１８７及び術場カメラ５１８９には、倍率調整機能、焦点距離調整機能、撮影方向調整機能等が設けられ得る。照明５１９１は、手術室の天井に設けられ、少なくとも術者５１８１の手元を照射する。照明５１９１は、その照射光量、照射光の波長（色）及び光の照射方向等を適宜調整可能であってよい。

【0075】

内視鏡手術システム５１１３、患者ベッド５１８３、シーリングカメラ５１８７、術場カメラ５１８９及び照明５１９１は、図９に示すように、視聴覚コントローラ５１０７及び手術室制御装置５１０９（図１１では図示せず）を介して互いに連携可能に接続されている。手術室内には、集中操作パネル５１１１が設けられており、上述したように、ユーザは、当該集中操作パネル５１１１を介して、手術室内に存在するこれらの装置を適宜操作することが可能である。

【0076】

以下、内視鏡手術システム５１１３の構成について詳細に説明する。図示するように、内視鏡手術システム５１１３は、内視鏡５１１５と、その他の術具５１３１と、内視鏡５１１５を支持する支持アーム装置５１４１と、内視鏡下手術のための各種の装置が搭載されたカート５１５１と、から構成される。

【0077】

内視鏡手術では、腹壁を切って開腹する代わりに、トロッカ５１３９ａ～５１３９ｄと呼ばれる筒状の開孔器具が腹壁に複数穿刺される。そして、トロッカ５１３９ａ～５１３９ｄから、内視鏡５１１５の鏡筒５１１７や、その他の術具５１３１が患者５１８５の体腔内に挿入される。図示する例では、その他の術具５１３１として、気腹チューブ５１３３、エネルギー処置具５１３５及び鉗子５１３７が、患者５１８５の体腔内に挿入されている。また、エネルギー処置具５１３５は、高周波電流や超音波振動により、組織の切開及び剥離、又は血管の封止等を行う処置具である。ただし、図示する術具５１３１はあくまで一例であり、術具５１３１としては、例えば攝子、レトラクタ等、一般的に内視鏡下手術において用いられる各種の術具が用いられてよい。

【0078】

内視鏡５１１５によって撮影された患者５１８５の体腔内の術部の画像が、表示装置５１５５に表示される。術者５１８１は、表示装置５１５５に表示された術部の画像をリアルタイムで見ながら、エネルギー処置具５１３５や鉗子５１３７を用いて、例えば患部を切除する等の処置を行う。なお、図示は省略しているが、気腹チューブ５１３３、エネルギー処置具５１３５及び鉗子５１３７は、手術中に、術者５１８１又は助手等によって支持される。

【0079】

（支持アーム装置）
支持アーム装置５１４１は、ベース部５１４３から延伸するアーム部５１４５を備える。図示する例では、アーム部５１４５は、関節部５１４７ａ、５１４７ｂ、５１４７ｃ、及びリンク５１４９ａ、５１４９ｂから構成されており、アーム制御装置５１５９からの制御により駆動される。アーム部５１４５によって内視鏡５１１５が支持され、その位置及び姿勢が制御される。これにより、内視鏡５１１５の安定的な位置の固定が実現され得る。

【0080】

（内視鏡）
内視鏡５１１５は、先端から所定の長さの領域が患者５１８５の体腔内に挿入される鏡筒５１１７と、鏡筒５１１７の基端に接続されるカメラヘッド５１１９と、から構成される。図示する例では、硬性の鏡筒５１１７を有するいわゆる硬性鏡として構成される内視鏡５１１５を図示しているが、内視鏡５１１５は、軟性の鏡筒５１１７を有するいわゆる軟性鏡として構成されてもよい。

【0081】

鏡筒５１１７の先端には、対物レンズが嵌め込まれた開口部が設けられている。内視鏡５１１５には光源装置５１５７が接続されており、当該光源装置５１５７によって生成された光が、鏡筒５１１７の内部に延設されるライトガイドによって当該鏡筒の先端まで導光され、対物レンズを介して患者５１８５の体腔内の観察対象に向かって照射される。なお、内視鏡５１１５は、直視鏡であってもよいし、斜視鏡又は側視鏡であってもよい。

【0082】

カメラヘッド５１１９の内部には光学系及び撮像素子が設けられており、観察対象からの反射光（観察光）は当該光学系によって当該撮像素子に集光される。当該撮像素子によって観察光が光電変換され、観察光に対応する電気信号、すなわち観察像に対応する画像信号が生成される。当該画像信号は、ＲＡＷデータとしてカメラコントロールユニット（ＣＣＵ：Camera Control Unit）５１５３に送信される。なお、カメラヘッド５１１９には、その光学系を適宜駆動させることにより、倍率及び焦点距離を調整する機能が搭載される。

【0083】

なお、例えば立体視（３Ｄ表示）等に対応するために、カメラヘッド５１１９には撮像素子が複数設けられてもよい。この場合、鏡筒５１１７の内部には、当該複数の撮像素子のそれぞれに観察光を導光するために、リレー光学系が複数系統設けられる。

【0084】

（カートに搭載される各種の装置）
ＣＣＵ５１５３は、ＣＰＵ（Central Processing Unit）やＧＰＵ（Graphics Processing Unit）等によって構成され、内視鏡５１１５及び表示装置５１５５の動作を統括的に制御する。具体的には、ＣＣＵ５１５３は、カメラヘッド５１１９から受け取った画像信号に対して、例えば現像処理（デモザイク処理）等の、当該画像信号に基づく画像を表示するための各種の画像処理を施す。ＣＣＵ５１５３は、当該画像処理を施した画像信号を表示装置５１５５に提供する。また、ＣＣＵ５１５３には、図９に示す視聴覚コントローラ５１０７が接続される。ＣＣＵ５１５３は、画像処理を施した画像信号を視聴覚コントローラ５１０７にも提供する。また、ＣＣＵ５１５３は、カメラヘッド５１１９に対して制御信号を送信し、その駆動を制御する。当該制御信号には、倍率や焦点距離等、撮像条件に関する情報が含まれ得る。当該撮像条件に関する情報は、入力装置５１６１を介して入力されてもよいし、上述した集中操作パネル５１１１を介して入力されてもよい。

【0085】

表示装置５１５５は、ＣＣＵ５１５３からの制御により、当該ＣＣＵ５１５３によって画像処理が施された画像信号に基づく画像を表示する。内視鏡５１１５が例えば４Ｋ（水平画素数３８４０×垂直画素数２１６０）又は８Ｋ（水平画素数７６８０×垂直画素数４３２０）等の高解像度の撮影に対応したものである場合、及び／又は３Ｄ表示に対応したものである場合には、表示装置５１５５としては、それぞれに対応して、高解像度の表示が可能なもの、及び／又は３Ｄ表示可能なものが用いられ得る。４Ｋ又は８Ｋ等の高解像度の撮影に対応したものである場合、表示装置５１５５として５５インチ以上のサイズのものを用いることで一層の没入感が得られる。また、用途に応じて、解像度、サイズが異なる複数の表示装置５１５５が設けられてもよい。

【0086】

光源装置５１５７は、例えばＬＥＤ（light emitting diode）等の光源から構成され、術部を撮影する際の照射光を内視鏡５１１５に供給する。

【0087】

アーム制御装置５１５９は、例えばＣＰＵ等のプロセッサによって構成され、所定のプログラムに従って動作することにより、所定の制御方式に従って支持アーム装置５１４１のアーム部５１４５の駆動を制御する。

【0088】

入力装置５１６１は、内視鏡手術システム５１１３に対する入力インタフェースである。ユーザは、入力装置５１６１を介して、内視鏡手術システム５１１３に対して各種の情報の入力や指示入力を行うことができる。例えば、ユーザは、入力装置５１６１を介して、患者の身体情報や、手術の術式についての情報等、手術に関する各種の情報を入力する。また、例えば、ユーザは、入力装置５１６１を介して、アーム部５１４５を駆動させる旨の指示や、内視鏡５１１５による撮像条件（照射光の種類、倍率及び焦点距離等）を変更する旨の指示、エネルギー処置具５１３５を駆動させる旨の指示等を入力する。

【0089】

入力装置５１６１の種類は限定されず、入力装置５１６１は各種の公知の入力装置であってよい。入力装置５１６１としては、例えば、マウス、キーボード、タッチパネル、スイッチ、フットスイッチ５１７１及び／又はレバー等が適用され得る。入力装置５１６１としてタッチパネルが用いられる場合には、当該タッチパネルは表示装置５１５５の表示面上に設けられてもよい。

【0090】

あるいは、入力装置５１６１は、例えばメガネ型のウェアラブルデバイスやＨＭＤ（Head Mounted Display）等の、ユーザによって装着されるデバイスであり、これらのデバイスによって検出されるユーザのジェスチャや視線に応じて各種の入力が行われる。また、入力装置５１６１は、ユーザの動きを検出可能なカメラを含み、当該カメラによって撮像された映像から検出されるユーザのジェスチャや視線に応じて各種の入力が行われる。更に、入力装置５１６１は、ユーザの声を収音可能なマイクロフォンを含み、当該マイクロフォンを介して音声によって各種の入力が行われる。このように、入力装置５１６１が非接触で各種の情報を入力可能に構成されることにより、特に清潔域に属するユーザ（例えば術者５１８１）が、不潔域に属する機器を非接触で操作することが可能となる。また、ユーザは、所持している術具から手を離すことなく機器を操作することが可能となるため、ユーザの利便性が向上する。

【0091】

処置具制御装置５１６３は、組織の焼灼、切開又は血管の封止等のためのエネルギー処置具５１３５の駆動を制御する。気腹装置５１６５は、内視鏡５１１５による視野の確保及び術者の作業空間の確保の目的で、患者５１８５の体腔を膨らめるために、気腹チューブ５１３３を介して当該体腔内にガスを送り込む。レコーダ５１６７は、手術に関する各種の情報を記録可能な装置である。プリンタ５１６９は、手術に関する各種の情報を、テキスト、画像又はグラフ等各種の形式で印刷可能な装置である。

【0092】

以下、内視鏡手術システム５１１３において特に特徴的な構成について、更に詳細に説明する。

【0093】

（支持アーム装置）
支持アーム装置５１４１は、基台であるベース部５１４３と、ベース部５１４３から延伸するアーム部５１４５と、を備える。図示する例では、アーム部５１４５は、複数の関節部５１４７ａ、５１４７ｂ、５１４７ｃと、関節部５１４７ｂによって連結される複数のリンク５１４９ａ、５１４９ｂと、から構成されているが、図１１では、簡単のため、アーム部５１４５の構成を簡略化して図示している。実際には、アーム部５１４５が所望の自由度を有するように、関節部５１４７ａ～５１４７ｃ及びリンク５１４９ａ、５１４９ｂの形状、数及び配置、並びに関節部５１４７ａ～５１４７ｃの回転軸の方向等が適宜設定され得る。例えば、アーム部５１４５は、好適に、６自由度以上の自由度を有するように構成され得る。これにより、アーム部５１４５の可動範囲内において内視鏡５１１５を自由に移動させることが可能になるため、所望の方向から内視鏡５１１５の鏡筒５１１７を患者５１８５の体腔内に挿入することが可能になる。

【0094】

関節部５１４７ａ～５１４７ｃにはアクチュエータが設けられており、関節部５１４７ａ～５１４７ｃは当該アクチュエータの駆動により所定の回転軸まわりに回転可能に構成されている。当該アクチュエータの駆動がアーム制御装置５１５９によって制御されることにより、各関節部５１４７ａ～５１４７ｃの回転角度が制御され、アーム部５１４５の駆動が制御される。これにより、内視鏡５１１５の位置及び姿勢の制御が実現され得る。この際、アーム制御装置５１５９は、力制御又は位置制御等、各種の公知の制御方式によってアーム部５１４５の駆動を制御することができる。

【0095】

例えば、術者５１８１が、入力装置５１６１（フットスイッチ５１７１を含む）を介して適宜操作入力を行うことにより、当該操作入力に応じてアーム制御装置５１５９によってアーム部５１４５の駆動が適宜制御され、内視鏡５１１５の位置及び姿勢が制御されてよい。当該制御により、アーム部５１４５の先端の内視鏡５１１５を任意の位置から任意の位置まで移動させた後、その移動後の位置で固定的に支持することができる。なお、アーム部５１４５は、いわゆるマスタースレイブ方式で操作されてもよい。この場合、アーム部５１４５は、手術室から離れた場所に設置される入力装置５１６１を介してユーザによって遠隔操作され得る。

【0096】

また、力制御が適用される場合には、アーム制御装置５１５９は、ユーザからの外力を受け、その外力にならってスムーズにアーム部５１４５が移動するように、各関節部５１４７ａ～５１４７ｃのアクチュエータを駆動させる、いわゆるパワーアシスト制御を行ってもよい。これにより、ユーザが直接アーム部５１４５に触れながらアーム部５１４５を移動させる際に、比較的軽い力で当該アーム部５１４５を移動させることができる。従って、より直感的に、より簡易な操作で内視鏡５１１５を移動させることが可能となり、ユーザの利便性を向上させることができる。

【0097】

ここで、一般的に、内視鏡下手術では、スコピストと呼ばれる医師によって内視鏡５１１５が支持されていた。これに対して、支持アーム装置５１４１を用いることにより、人手によらずに内視鏡５１１５の位置をより確実に固定することが可能になるため、術部の画像を安定的に得ることができ、手術を円滑に行うことが可能になる。

【0098】

なお、アーム制御装置５１５９は必ずしもカート５１５１に設けられなくてもよい。また、アーム制御装置５１５９は必ずしも１つの装置でなくてもよい。例えば、アーム制御装置５１５９は、支持アーム装置５１４１のアーム部５１４５の各関節部５１４７ａ～５１４７ｃにそれぞれ設けられてもよく、複数のアーム制御装置５１５９が互いに協働することにより、アーム部５１４５の駆動制御が実現されてもよい。

【0099】

（光源装置）
光源装置５１５７は、内視鏡５１１５に術部を撮影する際の照射光を供給する。光源装置５１５７は、例えばＬＥＤ、レーザ光源又はこれらの組み合わせによって構成される白色光源から構成される。このとき、ＲＧＢレーザ光源の組み合わせにより白色光源が構成される場合には、各色（各波長）の出力強度及び出力タイミングを高精度に制御することができるため、光源装置５１５７において撮像画像のホワイトバランスの調整を行うことができる。また、この場合には、ＲＧＢレーザ光源それぞれからのレーザ光を時分割で観察対象に照射し、その照射タイミングに同期してカメラヘッド５１１９の撮像素子の駆動を制御することにより、ＲＧＢそれぞれに対応した画像を時分割で撮像することも可能である。当該方法によれば、当該撮像素子にカラーフィルタを設けなくても、カラー画像を得ることができる。

【0100】

また、光源装置５１５７は、出力する光の強度を所定の時間ごとに変更するようにその駆動が制御されてもよい。その光の強度の変更のタイミングに同期してカメラヘッド５１１９の撮像素子の駆動を制御して時分割で画像を取得し、その画像を合成することにより、いわゆる黒つぶれ及び白とびのない高ダイナミックレンジの画像を生成することができる。

【0101】

また、光源装置５１５７は、特殊光観察に対応した所定の波長帯域の光を供給可能に構成されてもよい。特殊光観察では、例えば、体組織における光の吸収の波長依存性を利用して、通常の観察時における照射光（すなわち、白色光）に比べて狭帯域の光を照射することにより、粘膜表層の血管等の所定の組織を高コントラストで撮影する、いわゆる狭帯域光観察（Narrow Band Imaging）が行われる。あるいは、特殊光観察では、励起光を照射することにより発生する蛍光により画像を得る蛍光観察が行われてもよい。蛍光観察では、体組織に励起光を照射し当該体組織からの蛍光を観察するもの（自家蛍光観察）、又はインドシアニングリーン（ICG）等の試薬を体組織に局注するとともに当該体組織にその試薬の蛍光波長に対応した励起光を照射し蛍光像を得るもの等が行われ得る。光源装置５１５７は、このような特殊光観察に対応した狭帯域光及び／又は励起光を供給可能に構成され得る。

【0102】

（カメラヘッド及びＣＣＵ）
図１２を参照して、内視鏡５１１５のカメラヘッド５１１９及びＣＣＵ５１５３の機能についてより詳細に説明する。図１２は、図１１に示すカメラヘッド５１１９及びＣＣＵ５１５３の機能構成の一例を示すブロック図である。

【0103】

図１２を参照すると、カメラヘッド５１１９は、その機能として、レンズユニット５１２１と、撮像部５１２３と、駆動部５１２５と、通信部５１２７と、カメラヘッド制御部５１２９と、を有する。また、ＣＣＵ５１５３は、その機能として、通信部５１７３と、画像処理部５１７５と、制御部５１７７と、を有する。カメラヘッド５１１９とＣＣＵ５１５３とは、伝送ケーブル５１７９によって双方向に通信可能に接続されている。

【0104】

まず、カメラヘッド５１１９の機能構成について説明する。レンズユニット５１２１は、鏡筒５１１７との接続部に設けられる光学系である。鏡筒５１１７の先端から取り込まれた観察光は、カメラヘッド５１１９まで導光され、当該レンズユニット５１２１に入射する。レンズユニット５１２１は、ズームレンズ及びフォーカスレンズを含む複数のレンズが組み合わされて構成される。レンズユニット５１２１は、撮像部５１２３の撮像素子の受光面上に観察光を集光するように、その光学特性が調整されている。また、ズームレンズ及びフォーカスレンズは、撮像画像の倍率及び焦点の調整のため、その光軸上の位置が移動可能に構成される。

【0105】

撮像部５１２３は撮像素子によって構成され、レンズユニット５１２１の後段に配置される。レンズユニット５１２１を通過した観察光は、当該撮像素子の受光面に集光され、光電変換によって、観察像に対応した画像信号が生成される。撮像部５１２３によって生成された画像信号は、通信部５１２７に提供される。

【0106】

撮像部５１２３を構成する撮像素子としては、例えばＣＭＯＳ（Complementary Metal Oxide Semiconductor）タイプのイメージセンサであり、Ｂａｙｅｒ配列を有するカラー撮影可能なものが用いられる。なお、当該撮像素子としては、例えば４Ｋ以上の高解像度の画像の撮影に対応可能なものが用いられてもよい。術部の画像が高解像度で得られることにより、術者５１８１は、当該術部の様子をより詳細に把握することができ、手術をより円滑に進行することが可能となる。

【0107】

また、撮像部５１２３を構成する撮像素子は、３Ｄ表示に対応する右目用及び左目用の画像信号をそれぞれ取得するための１対の撮像素子を有するように構成される。３Ｄ表示が行われることにより、術者５１８１は術部における生体組織の奥行きをより正確に把握することが可能になる。なお、撮像部５１２３が多板式で構成される場合には、各撮像素子に対応して、レンズユニット５１２１も複数系統設けられる。

【0108】

また、撮像部５１２３は、必ずしもカメラヘッド５１１９に設けられなくてもよい。例えば、撮像部５１２３は、鏡筒５１１７の内部に、対物レンズの直後に設けられてもよい。

【0109】

駆動部５１２５は、アクチュエータによって構成され、カメラヘッド制御部５１２９からの制御により、レンズユニット５１２１のズームレンズ及びフォーカスレンズを光軸に沿って所定の距離だけ移動させる。これにより、撮像部５１２３による撮像画像の倍率及び焦点が適宜調整され得る。

【0110】

通信部５１２７は、ＣＣＵ５１５３との間で各種の情報を送受信するための通信装置によって構成される。通信部５１２７は、撮像部５１２３から得た画像信号をＲＡＷデータとして伝送ケーブル５１７９を介してＣＣＵ５１５３に送信する。この際、術部の撮像画像を低レイテンシで表示するために、当該画像信号は光通信によって送信されることが好ましい。手術の際には、術者５１８１が撮像画像によって患部の状態を観察しながら手術を行うため、より安全で確実な手術のためには、術部の動画像が可能な限りリアルタイムに表示されることが求められるからである。光通信が行われる場合には、通信部５１２７には、電気信号を光信号に変換する光電変換モジュールが設けられる。画像信号は当該光電変換モジュールによって光信号に変換された後、伝送ケーブル５１７９を介してＣＣＵ５１５３に送信される。

【0111】

また、通信部５１２７は、ＣＣＵ５１５３から、カメラヘッド５１１９の駆動を制御するための制御信号を受信する。当該制御信号には、例えば、撮像画像のフレームレートを指定する旨の情報、撮像時の露出値を指定する旨の情報、並びに／又は撮像画像の倍率及び焦点を指定する旨の情報等、撮像条件に関する情報が含まれる。通信部５１２７は、受信した制御信号をカメラヘッド制御部５１２９に提供する。なお、ＣＣＵ５１５３からの制御信号も、光通信によって伝送されてもよい。この場合、通信部５１２７には、光信号を電気信号に変換する光電変換モジュールが設けられ、制御信号は当該光電変換モジュールによって電気信号に変換された後、カメラヘッド制御部５１２９に提供される。

【0112】

なお、上記のフレームレートや露出値、倍率、焦点等の撮像条件は、取得された画像信号に基づいてＣＣＵ５１５３の制御部５１７７によって自動的に設定される。つまり、いわゆるＡＥ（Auto Exposure）機能、ＡＦ（Auto Focus）機能及びＡＷＢ（Auto White Balance）機能が内視鏡５１１５に搭載される。

【0113】

カメラヘッド制御部５１２９は、通信部５１２７を介して受信したＣＣＵ５１５３からの制御信号に基づいて、カメラヘッド５１１９の駆動を制御する。例えば、カメラヘッド制御部５１２９は、撮像画像のフレームレートを指定する旨の情報及び／又は撮像時の露光を指定する旨の情報に基づいて、撮像部５１２３の撮像素子の駆動を制御する。また、例えば、カメラヘッド制御部５１２９は、撮像画像の倍率及び焦点を指定する旨の情報に基づいて、駆動部５１２５を介してレンズユニット５１２１のズームレンズ及びフォーカスレンズを適宜移動させる。カメラヘッド制御部５１２９は、更に、鏡筒５１１７やカメラヘッド５１１９を識別するための情報を記憶する機能を備えてもよい。

【0114】

なお、レンズユニット５１２１や撮像部５１２３等の構成を、気密性及び防水性が高い密閉構造内に配置することで、カメラヘッド５１１９について、オートクレーブ滅菌処理に対する耐性を持たせることができる。

【0115】

次に、ＣＣＵ５１５３の機能構成について説明する。通信部５１７３は、カメラヘッド５１１９との間で各種の情報を送受信するための通信装置によって構成される。通信部５１７３は、カメラヘッド５１１９から、伝送ケーブル５１７９を介して送信される画像信号を受信する。この際、上記のように、当該画像信号は好適に光通信によって送信され得る。この場合、光通信に対応して、通信部５１７３には、光信号を電気信号に変換する光電変換モジュールが設けられる。通信部５１７３は、電気信号に変換した画像信号を画像処理部５１７５に提供する。

【0116】

また、通信部５１７３は、カメラヘッド５１１９に対して、カメラヘッド５１１９の駆動を制御するための制御信号を送信する。当該制御信号も光通信によって送信されてよい。

【0117】

画像処理部５１７５は、カメラヘッド５１１９から送信されたＲＡＷデータである画像信号に対して各種の画像処理を施す。当該画像処理としては、例えば現像処理、高画質化処理（帯域強調処理、超解像処理、ＮＲ（Noise reduction）処理及び／又は手ブレ補正処理等）、並びに／又は拡大処理（電子ズーム処理）等、各種の公知の信号処理が含まれる。また、画像処理部５１７５は、ＡＥ、ＡＦ及びＡＷＢを行うための、画像信号に対する検波処理を行う。

【0118】

画像処理部５１７５は、ＣＰＵやＧＰＵ等のプロセッサによって構成され、当該プロセッサが所定のプログラムに従って動作することにより、上述した画像処理や検波処理が行われ得る。なお、画像処理部５１７５が複数のＧＰＵによって構成される場合には、画像処理部５１７５は、画像信号に係る情報を適宜分割し、これら複数のＧＰＵによって並列的に画像処理を行う。

【0119】

制御部５１７７は、内視鏡５１１５による術部の撮像、及びその撮像画像の表示に関する各種の制御を行う。例えば、制御部５１７７は、カメラヘッド５１１９の駆動を制御するための制御信号を生成する。この際、撮像条件がユーザによって入力されている場合には、制御部５１７７は、当該ユーザによる入力に基づいて制御信号を生成する。あるいは、内視鏡５１１５にＡＥ機能、ＡＦ機能及びＡＷＢ機能が搭載されている場合には、制御部５１７７は、画像処理部５１７５による検波処理の結果に応じて、最適な露出値、焦点距離及びホワイトバランスを適宜算出し、制御信号を生成する。

【0120】

また、制御部５１７７は、画像処理部５１７５によって画像処理が施された画像信号に基づいて、術部の画像を表示装置５１５５に表示させる。この際、制御部５１７７は、各種の画像認識技術を用いて術部画像内における各種の物体を認識する。例えば、制御部５１７７は、術部画像に含まれる物体のエッジの形状や色等を検出することにより、鉗子等の術具、特定の生体部位、出血、エネルギー処置具５１３５使用時のミスト等を認識することができる。制御部５１７７は、表示装置５１５５に術部の画像を表示させる際に、その認識結果を用いて、各種の手術支援情報を当該術部の画像に重畳表示させる。手術支援情報が重畳表示され、術者５１８１に提示されることにより、より安全かつ確実に手術を進めることが可能になる。

【0121】

カメラヘッド５１１９及びＣＣＵ５１５３を接続する伝送ケーブル５１７９は、電気信号の通信に対応した電気信号ケーブル、光通信に対応した光ファイバ、又はこれらの複合ケーブルである。

【0122】

ここで、図示する例では、伝送ケーブル５１７９を用いて有線で通信が行われていたが、カメラヘッド５１１９とＣＣＵ５１５３との間の通信は無線で行われてもよい。両者の間の通信が無線で行われる場合には、伝送ケーブル５１７９を手術室内に敷設する必要がなくなるため、手術室内における医療スタッフの移動が当該伝送ケーブル５１７９によって妨げられる事態が解消され得る。

【0123】

以上、本開示に係る技術が適用され得る手術室システム５１００の一例について説明した。なお、ここでは、一例として手術室システム５１００が適用される医療用システムが内視鏡手術システム５１１３である場合について説明したが、手術室システム５１００の構成はかかる例に限定されない。例えば、手術室システム５１００は、内視鏡手術システム５１１３に代えて、検査用軟性内視鏡システムや顕微鏡手術システムに適用されてもよい。

【0124】

本開示に係る技術は、以上説明した構成のうち、手術室システムを構成する術部領域の表示部に好適に適用され得る。この場合、お勧め範囲（お勧め視点に対応した範囲）としては術部領域が該当する。術部領域の表示部に本開示に係る技術を適用することにより、他の患部や周囲の状況を確認しながら、視野を邪魔せずに術部領域にも適切にユーザが確認することができる。また、術中の例えばＨＭＤへの入力だけでなく、後のコンテンツ利用も可能である。例えば、医療用の教材コンテンツとして、撮影した術動画をお勧め視点（術部、執刀医視点）として、本開示に係る技術を利用することが可能である。

【0125】

＜３．変形例＞
なお、上述実施の形態においては、ユーザが動かした向きとは反対方向に現在視点を移動させてお勧め視点に近づける例を示したが、お勧め視点への最短方向に現在視点を移動させていくことも考えられる。例えば、図１３（ａ）に示すようなユーザ操作による曲線的な視点移動で現在視点がお勧め視点から外れた位置に存在する場合、図１３（ｂ）に示すように現在視点をお勧め視点に向けて直線的に移動させてもよい。

【0126】

また、上述実施の形態においては、ユーザが動かした向きとは反対方向に現在視点を移動させてお勧め視点に近づける例を示したが、その移動経路にマスク範囲が設定されている場合には、そのマスク範囲を通らない経路で移動させることが考えられる。この場合、マスク範囲情報は、例えば、お勧め視点情報と共に、ビデオストリームに予め付加されていてもよい。

【0127】

なお、表示装置２００では、上述していないが、受信されたビデオストリームを一旦ストレージに蓄積し、その後の任意のタイミングでストレージから読み出して利用することも考えられる。そのような場合には、表示装置２００側で、ユーザ操作により、マスク範囲を設定することも可能である。

【0128】

例えば、図１４（ａ）に示すように、ユーザが動かした向きとは反対方向にマスク範囲が存在する場合には、現在視点をその方向に移動させてお勧め視点に近づけることは行われない。この図１４（ａ）において、破線矢印は、マスク範囲がない場合の移動方向を示している。この場合、図１４（ｂ）に示すように、マスク範囲を通らない経路が求められ、その経路に沿って現在視点はお勧め視点に近づくようにされる。図示の例は、ｔ－２フレームの現在視点がｔフレームまでの２フレームでお勧め視点に戻る例を示している。なお、図示の例の移動経路は一例であって、図示の移動方向とは逆の方向に、上や下にマスク範囲を避けた形で戻る経路も考えられる。

【0129】

図１５のフローチャートは、マスク範囲を通らないようにした場合における、表示装置２００における表示処理手順の一例を示している。

【0130】

表示装置２００は、ステップＳＴ１１において、例えばユーザによるビデオクリップの再生開始操作に対応して処理を開始する。次に、表示装置２００は、ステップＳＴ１２において、お勧め視点に対応した範囲（お勧め範囲）を出力範囲として表示する。次に、表示装置２００は、ステップＳＴ１３において、ユーザ操作による視点移動発生があるか否かを判断する。

【0131】

ユーザによる視点移動発生がある場合、表示装置２００は、ステップＳＴ１４において、操作方向に視点を移動し、その後にステップＳＴ１５の処理に進む。一方、ユーザによる視点移動操作がない場合、表示装置２００は、ステップＳＴ１６の処理に進む。

【0132】

ステップＳＴ１６において、表示装置２００は、お勧め視点方向への経路を計算する。次に、表示装置２００は、ステップＳＴ１７において、経路がマスク範囲を通過するか否かを判断する。経路がマスク範囲を通過しない場合、表示装置２００は、ステップＳＴ１８の処理に進む。一方、経路がマスク範囲を通過する場合、表示装置２００は、ステップＳＴ１９において、マスク範囲を通らないように経路の再計算をし、その後にステップＳＴ１８の処理に進む。

【0133】

なお、表示装置２００は、ステップＳＴ１６において、マスク範囲を通らないように経路を計算するものとすれば、ステップＳＴ１７およびステップＳＴ９の処理は不要となる。

【0134】

ステップＳＴ１８において、表示装置２００は、計算された経路に沿って、お勧め視点方向に視点を移動し、その後にステップＳＴ１５の処理に進む。表示装置２００は、ステップＳＴ１５において、現在視点に対応した範囲を出力範囲として表示する。

【0135】

次に、表示装置２００は、ステップＳＴ２０において、動画再生あるいは配信が終了したか否かを判断する。動画再生あるいは配信が終了していないときは、表示装置２００は、ステップＳＴ１３の処理に戻り、次のフレームの処理に映る。一方、動画再生あるいは配信が終了したときは、ステップＳＴ２１において、一連の処理を終了する。

【0136】

なお、上述において、ユーザ操作による視点移動の経路にマスク範囲がある場合については言及していないが、マスク範囲をそのまま通って移動していく場合、マスク範囲を回避した経路が計算されてそれに沿って移動していく場合などが考えられる。そして、マスク範囲をそのまま通って移動していく場合には、マスク範囲の画像に関してはマスキングする場合、マスク範囲の画像もマスキングしないで表示する場合などが考えられる。

【0137】

また、上述実施の形態においては、ユーザが動かした向きとは反対方向に現在視点を移動させてお勧め視点に近づける例を示したが、通過ポイントが設定されている場合には、その通過ポイントを通る経路で移動させることが考えられる。この場合、通過ポイント情報は、例えば、お勧め視点情報と共に、ビデオストリームに予め付加されていてもよい。

【0138】

なお、表示装置２００では、上述していないが、受信されたビデオストリームを一旦ストレージに蓄積し、その後の任意のタイミングでストレージから読み出して利用することも考えられる。そのような場合には、表示装置２００側で、ユーザ操作により、通過ポイントを設定することも可能である。

【0139】

例えば、図１６（ａ）に示すように、通過ポイントが設定されているものとする。この場合、図１６（ｂ）に示すように、通過ポイントを通る経路が求められ、その経路に沿って現在視点はお勧め視点に近づくようにされる。図示の例は、ｔ－４フレームの現在視点がｔフレームまでの４フレームでお勧め視点に戻る例を示している。

【0140】

図１７のフローチャートは、通過ポイントを通るようにした場合における、表示装置２００における表示処理手順の一例を示している。

【0141】

表示装置２００は、ステップＳＴ３１において、例えばユーザによるビデオクリップの再生開始操作に対応して処理を開始する。次に、表示装置２００は、ステップＳＴ３２において、お勧め視点に対応した範囲（お勧め範囲）を出力範囲として表示する。次に、表示装置２００は、ステップＳＴ３３において、ユーザ操作による視点移動発生があるか否かを判断する。

【0142】

ユーザによる視点移動発生がある場合、表示装置２００は、ステップＳＴ３４において、操作方向に視点を移動し、その後にステップＳＴ３５の処理に進む。一方、ユーザによる視点移動操作がない場合、表示装置２００は、ステップＳＴ３６の処理に進む。

【0143】

ステップＳＴ３６において、表示装置２００は、通過ポイントを通過するようにお勧め視点方向への経路を計算する。次に、表示装置２００は、ステップＳＴ３７において、計算された経路に沿って、お勧め視点方向に視点を移動し、その後にステップＳＴ３５の処理に進む。表示装置２００は、ステップＳＴ３５において、現在視点に対応した範囲を出力範囲として表示する。

【0144】

次に、表示装置２００は、ステップＳＴ３８において、動画再生あるいは配信が終了したか否かを判断する。動画再生あるいは配信が終了していないときは、表示装置２００は、ステップＳＴ３３の処理に戻り、次のフレームの処理に映る。一方、動画再生あるいは配信が終了したときは、ステップＳＴ３９において、一連の処理を終了する。

【0145】

また、上述実施の形態においては、お勧め視点が一つである場合の例にとって説明したが、お勧め視点が複数存在する場合も考えられる。例えば、同一画像内に複数の演者が存在し、それぞれの演者の位置がお勧め視点として設定される場合等が考えられる

【0146】

このように複数のお勧め視点が存在する場合、現在視点からお勧め視点に戻る際に、複数のお勧め視点のうち最も近い位置のお勧め視点に向けて移動する、あるいはユーザが予め選択したお勧め視点に向けて移動することが考えられる。

【0147】

図１８（ａ）は、複数のお勧め視点が存在する例を示している。図１８（ｂ）は、現在視点からお勧め視点に戻る際に、複数のお勧め視点のうち最も近い位置のお勧め視点に向けて現在視点が移動していく例を示している。この例では、ＲＶＰ(3)のお勧め視点が最も近い位置にあるので、このＲＶＰ(3)のお勧め視点に向けて移動していく。図１８（ｃ）は、現在視点からお勧め視点に戻る際に、複数のお勧め視点のうちユーザが選択したお勧め視点に向けて移動していく例を示している。この例では、ＲＶＰ(1)のお勧め視点がユーザに選択されており、このＲＶＰ(1)のお勧め視点に向けて移動していく。

【0148】

図１９のフローチャートは、複数のお勧め視点のうち最も近い位置のお勧め視点に向けて現在視点が移動していく場合における、表示装置２００における表示処理手順の一例を示している。

【0149】

表示装置２００は、ステップＳＴ４１において、例えばユーザによるビデオクリップの再生開始操作に対応して処理を開始する。次に、表示装置２００は、ステップＳＴ４２において、お勧め視点に対応した範囲（お勧め範囲）を出力範囲として表示する。ここでのお勧め視点は、例えば、予め決定されているお勧め視点とされる。

【0150】

次に、表示装置２００は、ステップＳＴ４３において、ユーザ操作による視点移動発生があるか否かを判断する。ユーザによる視点移動発生がある場合、表示装置２００は、ステップＳＴ４４において、操作方向に視点を移動し、その後にステップＳＴ４５の処理に進む。

【0151】

一方、ユーザによる視点移動操作がない場合、表示装置２００は、ステップＳＴ４６の処理に進む。このステップＳＴ４６において、表示装置２００は、現在視点と各お勧め視点ＲＶＰ(1…N)の距離を算出する。

【0152】

そして、表示装置２００は、ステップＳＴ４７において、現在視点に最も近いお勧め視点方向への経路を計算し、その経路に沿ってお勧め視点方向に視点を移動し、その後にステップＳＴ４５の処理に進む。表示装置２００は、ステップＳＴ４５において、現在視点に対応した範囲を出力範囲として表示する。

【0153】

次に、表示装置２００は、ステップＳＴ４８において、動画再生あるいは配信が終了したか否かを判断する。動画再生あるいは配信が終了していないときは、表示装置２００は、ステップＳＴ４３の処理に戻り、次のフレームの処理に映る。一方、動画再生あるいは配信が終了したときは、ステップＳＴ４９において、一連の処理を終了する。

【0154】

図２０のフローチャートは、複数のお勧め視点のうちユーザが選択したお勧め視点に向けて移動していく場合における、表示装置２００における表示処理手順の一例を示している。

【0155】

表示装置２００は、ステップＳＴ５１において、例えばユーザによるビデオクリップの再生開始操作に対応して処理を開始する。次に、表示装置２００は、ステップＳＴ５２において、お勧め視点番号（ＲＶＰ番号）ｉを、初期値、例えば“１”に設定する。次に、表示装置２００は、ステップＳＴ５３において、お勧め視点ＲＶＰ(i)に対応した範囲（お勧め範囲）を出力範囲として表示する。

【0156】

次に、表示装置２００は、ステップＳＴ５４において、ユーザ操作によるお勧め視点の選択があるか否かを判断する。ユーザ操作によるお勧め視点の選択がないとき、表示装置２００は、直ちにステップＳＴ５５の処理に進む。一方、ユーザ操作によるお勧め視点の選択があるとき、表示装置２００は、ステップＳＴ５５において、お勧め視点番号（ＲＶＰ番号）ｉを、ユーザが選択した番号に変更し、その後ステップＳＴ５５の処理に進む。

【0157】

ステップＳＴ５５において、表示装置２００は、ユーザ操作による視点移動発生があるか否かを判断する。ユーザによる視点移動発生がある場合、表示装置２００は、ステップＳＴ５６において、操作方向に視点を移動し、その後にステップＳＴ５７の処理に進む。

【0158】

一方、ユーザによる視点移動操作がない場合、表示装置２００は、ステップＳＴ５８において、お勧め視点ＲＶＰ(i)方向への経路を計算し、その経路に沿ってお勧め視点方向に視点を移動し、その後にステップＳＴ５７の処理に進む。表示装置２００は、ステップＳＴ５７において、現在視点に対応した範囲を出力範囲として表示する。

【0159】

次に、表示装置２００は、ステップＳＴ５９において、動画再生あるいは配信が終了したか否かを判断する。動画再生あるいは配信が終了していないときは、表示装置２００は、ステップＳＴ５４の処理に戻り、次のフレームの処理に映る。一方、動画再生あるいは配信が終了したときは、ステップＳＴ６０において、一連の処理を終了する。

【0160】

また、上述実施の形態においては、現在視点（出力範囲）がお勧め視点（お勧め範囲）から外れる、つまり現在視点がお勧め視点とは異なる場合を条件として、現在視点をお勧め視点の方向に向けて移動させる例を示した。

【0161】

図２１のフローチャートは、お勧め視点表示がされているか否かによりお勧め視点に移動する場合における、表示装置２００における表示処理手順の一例を示している。表示装置２００は、ステップＳＴ７１において、例えばユーザによるビデオクリップの再生開始操作に対応して処理を開始する。

【0162】

次に、表示装置２００は、ステップＳＴ７２において、お勧め視点に対応した範囲（お勧め範囲）を出力範囲として表示する。次に、表示装置２００は、ステップＳＴ７３において、現在視点がお勧め視点か否かを判断する。

【0163】

現在視点がお勧め視点である場合、表示装置２００は、ステップＳＴ７４の処理に進む。一方、現在視点がお勧め視点でない場合、表示装置２００は、ステップＳＴ７５において、お勧め視点方向への経路を計算し、その経路に沿ってお勧め視点方向に視点を移動し、その後にステップＳＴ７４の処理に進む。表示装置２００は、ステップＳＴ７４において、現在視点に対応した範囲を出力範囲として表示する。

【0164】

次に、表示装置２００は、ステップＳＴ７６において、動画再生あるいは配信が終了したか否かを判断する。動画再生あるいは配信が終了していないときは、表示装置２００は、ステップＳＴ７３の処理に戻り、次のフレームの処理に映る。一方、動画再生あるいは配信が終了したときは、ステップＳＴ７７において、一連の処理を終了する。

【0165】

なお、図２１のフローチャートにおいて、ステップＳＴ７２でお勧め視点表示となっており、ステップＳＴ７３でお勧め視点か否かを判断している。これはステップＳＴ７３の時間（フレーム）はステップＳＴ７２から進んだ時間（フレーム）も含まれることから、現在視点がお勧め視点から移動し、現在視点がお勧め視点とは異なる場合が存在することを想定したものである。現在視点がお勧め視点とは異なる場合のケースとしては、現在より前のフレームでユーザによる視点変更があった場合等が考えらえる。

【0166】

また、現在視点をお勧め視点の方向に向けて移動させる条件として、以下の各条件も考えられる。

【0167】

例えば、現在視点がお勧め視点から外れて、つまり現在視点がお勧め視点とは異なる状態となって、所定時間が経過した場合を条件とすることが考えられる。

【0168】

図２２のフローチャートは、お勧め視点表示がされずに所定時間以上経過しているか否かによりお勧め視点に移動する場合における、表示装置２００における表示処理手順の一例を示している。表示装置２００は、ステップＳＴ８１において、例えばユーザによるビデオクリップの再生開始操作に対応して処理を開始する。

【0169】

次に、表示装置２００は、ステップＳＴ８２において、お勧め視点に対応した範囲（お勧め範囲）を出力範囲として表示する。次に、表示装置２００は、ステップＳＴ８３において、現在視点がお勧め視点か否かを判断する。現在視点がお勧め視点である場合、表示装置２００は、ステップＳＴ８４の処理に進む。

【0170】

一方、現在視点がお勧め視点でない場合、表示装置２００は、ステップＳＴ８５において、現在視点がお勧め視点でない状態が所定時間以上経過したか否かを判断する。所定時間は、予め設定されているか、あるいはユーザが任意の時間に設定変更することが可能とされる。所定時間以上経過していない場合、表示装置２００は、ステップＳＴ８４の処理に進む。また、所定時間以上経過している場合、表示装置２００は、ステップＳＴ８６において、お勧め視点方向への経路を計算し、その経路に沿ってお勧め視点方向に視点を移動し、その後にステップＳＴ８４の処理に進む。

【0171】

表示装置２００は、ステップＳＴ８４において、現在視点に対応した範囲を出力範囲として表示する。次に、表示装置２００は、ステップＳＴ８７において、動画再生あるいは配信が終了したか否かを判断する。動画再生あるいは配信が終了していないときは、表示装置２００は、ステップＳＴ８３の処理に戻り、次のフレームの処理に映る。一方、動画再生あるいは配信が終了したときは、ステップＳＴ８８において、一連の処理を終了する。

【0172】

また、例えば、移動条件として、ユーザ操作による視点位置変更指示が検出されていない場合が考えられる。また、例えば、移動条件として、現在視点が画像中の特定の範囲にある場合が考えられる。ここで、特定の範囲は、例えば、裏面方向の画像領域などである。

【0173】

また、例えば、移動条件として、画像が特定フレームの画像にあって出力範囲がお勧め範囲から外れている場合が考えられる。この場合、特定フレームの画像にあるか否かは、例えば、お勧め視点情報と共に、ビデオストリームに予め付加されていてもよい。また、例えば、移動条件として、現在視点がお勧め視点から外れている状態でユーザによるお勧め視点への遷移指示がある場合が考えられる。

【0174】

図２３のフローチャートは、表示装置２００における表示処理手順の一例を示している。表示装置２００は、ステップＳＴ１０１において、例えばユーザによるビデオクリップの再生開始操作に対応して処理を開始する。

【0175】

次に、表示装置２００は、ステップＳＴ１０２において、お勧め視点に対応した範囲（お勧め範囲）を出力範囲として表示する。次に、表示装置２００は、ステップＳＴ１０３において、現在視点がお勧め視点か否かを判断する。現在視点がお勧め視点である場合、表示装置２００は、ステップＳＴ１１１の処理に進む。

【0176】

一方、現在視点がお勧め視点でない場合、表示装置２００は、ステップＳＴ１０４において、所定時間が経過したか否かを判断する。所定時間を経過していない場合、表示装置２００は、ステップＳＴ１０５において、ユーザ操作による視点移動発生があるか否かを判断する。視点移動発生がある場合、表示装置２００は、ステップＳＴ１０６において、移動後の視点位置が特定の位置か否かを判断する。

【0177】

ここでは、実際に移動させてから判断するわけではなく、ユーザ操作を受けた際の移動先が特定の位置か否かを判断するものである。例えば、特定の位置には、お勧め視点の裏面に当たる位置やお勧め視点からの距離が一定以上離れている位置などが含まれる。

【0178】

移動後の視点位置が特定の位置でない場合、表示装置２００は、ステップＳＴ１０７において、特定のフレームにあるか否かを判断する。特定のフレームでない場合、表示装置２００は、ステップＳＴ１０８において、操作方向に視点を移動し、その後にステップＳＴ１０９の処理に進む。

【0179】

ステップＳＴ１０４で所定時間を経過している場合、ステップＳＴ１０５で視点移動発生がない場合、ステップＳＴ１０６で移動後の視点位置が特定の位置である場合、あるいはステップＳＴ１０７で特定のフレームである場合、表示装置２００は、ステップ１１０において、お勧め視点方向への経路を計算し、その経路に沿ってお勧め視点方向に視点を移動し、その後にステップＳＴ１０９の処理に進む。このステップＳＴ１０９において、表示装置２００は、現在視点に対応した範囲を出力範囲として表示する。

【0180】

次に、表示装置２００は、ステップＳＴ１１１において、動画再生あるいは配信が終了したか否かを判断する。動画再生あるいは配信が終了していないときは、表示装置２００は、ステップＳＴ１０３の処理に戻り、次のフレームの処理に映る。一方、動画再生あるいは配信が終了したときは、ステップＳＴ１１２において、一連の処理を終了する。

【0181】

また、上述実施の形態においては、現在視点とお勧め視点との位置差が大きいほど早く近づき、小さいほどゆっくりと近づくように、速度制御される例を示した。つまり、位置差が大きい場合は位置差が小さい場合よりも遷移の速度を大きくするものである。しかし、例えば、お勧め視点に一定時間で戻るように速度制御することも考えられる。また、例えば、お勧め視点に一定速度で戻るように速度制御することも考えられる。

【0182】

また、上述実施の形態においては、現在視点からお勧め視点に遷移する経路を球面線形補間で補間するように説明したが、この遷移の経路を線形補間で補間することも考えられる。

【0183】

また、上述実施の形態においては、現在視点からお勧め視点に遷移する際に、現在視点がお勧め視点に徐々に近づいていくように移動させる例を示した。しかし、この遷移の際に、現在視点からお勧め視点に瞬時に移動させることも考えらえる。

【0184】

また、上述実施の形態においては、広視野角画像としてＶＲ画像を取り扱う例を示したが、パノラマ画像を取り扱う例も同様に考えることができる。また、上述実施の形態においては、２次元画像を取り扱う例を示したが、三次元画像を取り扱う例も同様に考えることができる。

【0185】

また、添付図面を参照しながら本開示の好適な実施形態について詳細に説明したが、本開示の技術的範囲はかかる例に限定されない。本開示の技術分野における通常の知識を有する者であれば、特許請求の範囲に記載された技術的思想の範疇内において、各種の変更例または修正例に想到し得ることは明らかであり、これらについても、当然に本開示の技術的範囲に属するものと了解される。

【0186】

また、本明細書に記載された効果は、あくまで説明的または例示的なものであって限定的ではない。つまり、本開示に係る技術は、上記の効果とともに、または上記の効果に代えて、本明細書の記載から当業者には明らかな他の効果を奏しうる。

【0187】

また、本技術は、以下のような構成を取ることもできる。
（１）視点位置変更指示に応じて視点移動情報を検出する検出部と、
お勧め視点情報を含む画像の出力範囲を、上記お勧め視点情報及び上記視点移動情報に基づいて決定する出力範囲決定部と、
決定された上記出力範囲に基づいて、表示画像として上記画像の一部を表示部に出力する出力部を備え、
上記出力範囲決定部は、上記表示画像が所定の条件を満たす場合、上記表示画像が上記お進め視点情報が示すお勧め範囲となるように上記出力範囲を決定する
画像処理装置。
（２）上記出力範囲決定部は、上記表示画像が上記お勧め範囲の方向に遷移するように上記出力範囲を決定する
前記（１）に記載の画像処理装置。
（３）上記所定の条件は、上記表示画像が上記お勧め範囲とは異なる場合である
前記（１）または（２）に記載の画像処理装置。
（４）上記所定の条件は、上記表示画像が所定時間以上、上記お勧め範囲とは異なる場合である
前記（１）または（２）に記載の画像処理装置。
（５）上記所定の条件は、更に上記視点移動情報が検出されていない場合である
前記（３）に記載の画像処理装置。
（６）上記所定の条件は、上記表示画像が上記画像中の特定の範囲にある場合である
前記（１）または（２）に記載の画像処理装置。
（７）上記所定の条件は、上記画像が特定フレームの画像にあって、上記表示画像が上記お勧め範囲とは異なる場合である
前記（１）または（２）に記載の画像処理装置。
（８）上記所定の条件は、上記表示画像が上記お勧め範囲とは異なり、且つ上記視点移動情報として上記お勧め範囲への遷移指示がある場合である
前記（１）または（２）に記載の画像処理装置。
（９）上記出力範囲決定部は、上記表示画像と上記お勧め範囲との位置差に基づいて上記遷移の速度を制御し、上記位置差が大きい場合は上記位置差が小さい場合よりも上記遷移の速度を大きくする
前記（２）から（８）のいずれかに記載の画像処理装置。
（１０）上記出力範囲決定部は、上記お勧め範囲に一定時間で戻るように上記遷移の速度を制御する
前記（２）から（８）のいずれかに記載の画像処理装置。
（１１）上記出力範囲決定部は、上記お勧め範囲に一定速度で戻るように上記遷移の速度を制御する
前記（２）から（８）のいずれかに記載の画像処理装置。
（１２）上記出力範囲決定部は、上記遷移の経路を球面線形補間で補間する
前記（２）から（１１）のいずれかに記載の画像処理装置。
（１３）上記出力範囲決定部は、上記遷移の経路を線形補間で補間する
前記（２）から（１１）のいずれかに記載の画像処理装置。
（１４）上記視点移動情報に基づく視点位置の変更により上記表示画像が上記お勧め範囲とは異なる場合、上記出力範囲決定部は、上記遷移の際に、上記視点位置の変更による視点位置の変更方向とは反対方向の経路で移動させるよう上記出力範囲を決定する
前記（２）から（１３）のいずれかに記載の画像処理装置。
（１５）上記出力範囲決定部は、上記遷移の際に、上記表示画像から上記お勧め範囲への最短経路で移動させるよう上記出力範囲を決定する
前記（２）から（１３）のいずれかに記載の画像処理装置。
（１６）上記画像にマスク範囲を示すマスク範囲情報を含む場合、上記出力範囲決定部は、上記遷移の際に、上記マスク範囲を通らない経路で移動させるよう上記出力範囲を決定する
前記（２）から（１５）のいずれかに記載の画像処理装置。
（１７）上記画像に通過ポイントを示す通過ポイント情報を含む場合、上記出力範囲決定部は、上記遷移の際に、上記通過ポイントを通る経路で移動させるよう上記出力範囲を決定する
前記（２）から（１６）のいずれか記載の画像処理装置。
（１８）上記お勧め視点情報として複数のお勧め範囲を含む場合、上記出力範囲決定部は、上記遷移の際に、上記表示画像から上記複数のお勧め範囲のうち最も近い位置のお勧め範囲、またはユーザが選択した位置のお勧め範囲に向けて移動させるよう上記出力範囲を決定する
前記（１）から（１７）のいずれかに記載の画像処理装置。
（１９）視点位置変更指示に応じて視点移動情報を検出する手順と、
お勧め視点情報を含む画像の出力範囲を、上記お勧め視点情報及び上記視点移動情報に基づいて決定する手順と、
決定された上記出力範囲に基づいて、表示画像として上記画像の一部を表示部に出力する手順を有し、
上記出力範囲を決定する手順では、
上記表示画像が所定の条件を満たす場合、上記表示画像が上記お勧め視点情報が示すお勧め範囲となるように上記出力範囲を決定する
画像処理方法。
（２０）コンピュータを、
視点位置変更指示に応じて視点移動情報を検出する検出手段と、
お勧め視点情報を含む画像の出力範囲を、上記お勧め視点情報及び上記視点移動情報に基づいて決定する出力範囲決定手段と、
決定された上記出力範囲に基づいて、表示画像として上記画像の一部を表示部に出力する出力手段として機能させ、
上記出力範囲決定手段は、上記表示画像所定の条件を満たす場合、上記表示画像が上記お勧め視点情報が示すお勧め視点範囲となるように上記出力範囲を決定する
プログラム。

【符号の説明】

【0188】

１０・・・画像配信システム
１０１・・・マルチカメラ
１０２・・・広視野角画像変換部
１０３・・・エンコーダ
１０４・・・配信サーバ
２００・・・表示装置
２０１・・・受信部
２０２・・・デコーダ
２０３・・・視野描画部
２０４・・・ジャイロセンサ
２０５・・・視点移動情報算出部
２０６・・・遷移算出部
２０７・・・表示部

【図1】

【図2】

【図3】

【図4】

【図5】

【図6】

【図7】

【図8】

【図9】

【図10】

【図11】

【図12】

【図13】

【図14】

【図15】

【図16】

【図17】

【図18】

【図19】

【図20】

【図21】

【図22】

【図23】