IP Force 特許公報掲載プロジェクト 2022.1.31 β版

知財求人 - 知財ポータルサイト「IP Force」

▶ 東芝ライテック株式会社の特許一覧

(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公開特許公報(A)
(11)【公開番号】P2023123088
(43)【公開日】2023-09-05
(54)【発明の名称】美術セット建て込み支援システム
(51)【国際特許分類】
   G06T 19/00 20110101AFI20230829BHJP
   G09G 5/00 20060101ALI20230829BHJP
   G09G 5/38 20060101ALI20230829BHJP
   G09G 5/377 20060101ALI20230829BHJP
   G06F 3/01 20060101ALN20230829BHJP
【FI】
G06T19/00 600
G09G5/00 550C
G09G5/00 530M
G09G5/38 Z
G09G5/36 520L
G06F3/01 510
【審査請求】未請求
【請求項の数】6
【出願形態】OL
(21)【出願番号】P 2022026962
(22)【出願日】2022-02-24
(71)【出願人】
【識別番号】000003757
【氏名又は名称】東芝ライテック株式会社
(74)【代理人】
【識別番号】110003708
【氏名又は名称】弁理士法人鈴榮特許綜合事務所
(74)【代理人】
【識別番号】100108855
【弁理士】
【氏名又は名称】蔵田 昌俊
(74)【代理人】
【識別番号】100179062
【弁理士】
【氏名又は名称】井上 正
(74)【代理人】
【識別番号】100075672
【弁理士】
【氏名又は名称】峰 隆司
(74)【代理人】
【識別番号】100153051
【弁理士】
【氏名又は名称】河野 直樹
(74)【代理人】
【識別番号】100162570
【弁理士】
【氏名又は名称】金子 早苗
(72)【発明者】
【氏名】太田 慎二
【テーマコード(参考)】
5B050
5C182
5E555
【Fターム(参考)】
5B050BA09
5B050BA13
5B050CA07
5B050DA01
5B050DA10
5B050EA07
5B050EA18
5B050EA19
5B050EA27
5B050EA28
5B050FA02
5B050FA09
5B050GA08
5C182AB08
5C182AB33
5C182AC03
5C182AC13
5C182BA14
5C182BA46
5C182BA47
5C182BA68
5C182BC01
5C182CB41
5C182CB54
5E555AA11
5E555AA27
5E555BA02
5E555BB02
5E555BE17
5E555CA42
5E555CA44
5E555CA45
5E555DA08
5E555DA11
5E555DB41
5E555DB53
5E555DB56
5E555DC09
5E555DC43
5E555EA22
5E555FA00
(57)【要約】
【課題】美術セットを設計通りに建て込めるように作業者を支援する美術セット建て込み支援システムを提供すること。
【解決手段】実施形態によれば、美術セット建て込み支援システムは、閲覧端末、計測部、計算部、生成部及び表示制御部を備える。閲覧端末は、カメラとディスプレイとを備え、閲覧者が携帯する。計測部は、決められた範囲の実空間内でカメラを向けている方位と仰角を計測する。計算部は、計測部の計測結果に基づいて、カメラで撮影されてディスプレイに表示される実空間内の範囲である閲覧範囲を計算する。生成部は、実空間内に建て込む美術セットの3次元形状及び建て込みの3次元位置を示す美術セット設計情報と、計算された閲覧範囲とに基づいて、美術セットの3次元表示データを生成する。表示制御部は、ディスプレイに、生成された3次元表示データに基づく3次元画像を表示させる。
【選択図】図11

【特許請求の範囲】
【請求項1】
カメラとディスプレイとを備え、閲覧者が携帯する閲覧端末と;
決められた範囲の実空間内で前記カメラを向けている方位と仰角を計測する計測部と;
前記計測部の計測結果に基づいて、前記カメラで撮影されて前記ディスプレイに表示される前記実空間内の範囲である閲覧範囲を計算する計算部と;
前記実空間内に建て込む美術セットの3次元形状及び建て込みの3次元位置を示す美術セット設計情報と、前記計算された閲覧範囲と、に基づいて、前記ディスプレイに表示するべき前記美術セットの3次元表示データを生成する生成部と;
前記ディスプレイに、前記生成された3次元表示データに基づく3次元画像を表示させる表示制御部と;
を備える、美術セット建て込み支援システム。
【請求項2】
前記計測部は、さらに、前記実空間内での前記閲覧端末の位置を計測する
請求項1記載の美術セット建て込み支援システム。
【請求項3】
前記生成部は、移動配置可能な照明器具の3次元形状と前記美術セットの建て込み終了後の時点における前記照明器具の3次元位置とを示す照明器具設計情報に基づく前記照明器具の3次元表示データを生成する
請求項1記載の美術セット建て込み支援システム。
【請求項4】
前記照明器具設計情報は、前記美術セットの建て込み終了後の時点における前記照明器具の前記3次元位置での照射方向を示す照射方向情報を含み、
前記生成部は、さらに、前記照射方向情報に基づくベクトルの3次元表示データを生成する
請求項3記載の美術セット建て込み支援システム。
【請求項5】
前記生成部は、さらに、前記実空間内に固定配置されている付帯設備の3次元位置に基づく前記付帯設備の3次元表示データを生成する
請求項1記載の美術セット建て込み支援システム。
【請求項6】
前記表示制御部は、前記閲覧端末に含まれ、
前記計算部及び前記生成部は、前記閲覧端末と通信可能な管理装置に含まれ、
前記生成部は、前記閲覧範囲を包含する拡大範囲に基づいて、前記3次元表示データを生成し、
前記表示制御部は、前記閲覧範囲に基づいて前記3次元表示データを調整し、調整後の3次元表示データに基づく3次元画像を前記ディスプレイに表示させる
請求項1乃至5の何れか1項記載の美術セット建て込み支援システム。

【発明の詳細な説明】
【技術分野】
【0001】
本発明の実施形態は、美術セット建て込み支援システムに関する。
【背景技術】
【0002】
テレビ局のスタジオ、劇場の舞台、ホール等の施設では、様々な美術セットが、短期間または長期間の間、設置されるが、この美術セットの建て込み及び撤収の作業自体は、短時間で実施されることが要求される。
【0003】
このような美術セットの建て込み作業は、照明設定及び音響設定に先立って実施される。従来、建て込み作業は、美術セット用の作業者が、紙に出力された配置図面を基に行う。
【0004】
そのため、以下のような問題が有った。
【0005】
(1)設置した美術セットが、照明器具を取り付ける照明用バトンと交差することが有り、照明設計に基づいて照明器具担当の作業者が照明用バトンを降下させて照明器具を交換したり照射方向の調整を行おうとしたりしたとき、美術セットが邪魔となって照明用バトンを降下させられず、照明器具についての作業を実施することができなくなってしまう。本来、美術セットの形状及び建て込み位置は、照明用バトンという施設の付帯設備についての情報及び使用する照明器具の照射位置や照射方向といった照明設計を考慮して設計されているので、このような自体は発生しないはずである。しかしながら、美術セットが配置図面通りに建て込まれなかった場合、このような不具合が発生し、照明用バトンを降下できるようにするために、建て込まれた美術セットを移動する等の付加作業を行わなければならない場合が有る。
【0006】
(2)美術セットが配置図面通りに建て込まれなかった場合、他の付帯施設にも影響を及ぼすことが有る。例えば、設置した美術セットが、床面または壁面に配置されている電源コンセント、音声コネクタ、等を塞いでしまい、当該付帯設備を使用できなくしてしまうことが有る。コンセントや音声コネクタを利用するために、建て込み後に美術セットの移動等の作業を行わなければならない場合が有る。
【0007】
(3)さらには、火を扱うセットや火を放つ火器の近くに美術セットが設置されてしまう場合も有り、火気利用時の安全確保のために、建て込み後に美術セットの移動等の作業を行わなければならない場合が有る。
【0008】
(4)美術セットが大型である場合には、上記(1)、(2)または(3)のような不具合が有ったとしても、美術セットの移動を行うことが難しくなる。
【0009】
以上の問題は、美術セットを設計通り確実に建て込むことができれば発生しない。
【先行技術文献】
【特許文献】
【0010】
【特許文献1】特開2021-034313号公報
【発明の概要】
【発明が解決しようとする課題】
【0011】
本発明が解決しようとする課題は、美術セットを設計通りに建て込めるように作業者を支援する美術セット建て込み支援システムを提供することである。
【課題を解決するための手段】
【0012】
実施形態によれば、美術セット建て込み支援システムは、閲覧端末、計測部、計算部、生成部及び表示制御部を備える。閲覧端末は、カメラとディスプレイとを備え、閲覧者が携帯する。計測部は、決められた範囲の実空間内でカメラを向けている方位と仰角を計測する。計算部は、計測部の計測結果に基づいて、カメラで撮影されてディスプレイに表示される実空間内の範囲である閲覧範囲を計算する。生成部は、実空間内に建て込む美術セットの3次元形状及び建て込みの3次元位置を示す美術セット設計情報と、計算された閲覧範囲とに基づいて、ディスプレイに表示するべき美術セットの3次元表示データを生成する。表示制御部は、ディスプレイに、生成された3次元表示データに基づく3次元画像を表示させる。
【発明の効果】
【0013】
本発明によれば、美術セットを設計通りに建て込めるように作業者を支援する美術セット建て込み支援システムが提供される。
【図面の簡単な説明】
【0014】
図1図1は、第1の実施形態に係る美術セット建て込み支援システムの一例を示す概略構成図である。
図2図2は、図1中の位置マーカの配置の一例を示す模式図である。
図3図3は、図1中の管理装置のハードウェア構成の一例を示すブロック図である。
図4図4は、図1中の作業者端末のハードウェア構成の一例を示すブロック図である。
図5図5は、管理装置の機能的な構成の一例を示すブロック図である。
図6図6は、位置マーカと作業者端末の位置関係の一例を示す模式図である。
図7図7は、図4中の方位センサの計測範囲を示す模式図である。
図8図8は、図4中の角度センサの計測範囲を示す模式図である。
図9図9は、図6の位置関係での作業者端末の予想位置の計算手法を説明するための模式図である。
図10A図10Aは、凝視点の計算手法を説明するための模式図である。
図10B図10Bは、凝視点の計算手法を説明するための模式図である。
図11図11は、美術セット建て込み支援システムにおける各部の動作関係を示す模式図である。
図12図12は、作業者と照明器具及び美術セットとの関係を説明するための模式図である。
図13図13は、凝視範囲の一例を示す模式図である。
図14図14は、3次元モデルの表示例を示す模式図である。
図15図15は、作業者端末において実行される処理動作の一例を示すフローチャートである。
図16図16は、管理装置において実行される処理動作の一例を示すフローチャートである。
図17図17は、第2の実施形態に係る美術セット建て込み支援システムにおける各部の動作関係を示す模式図である。
図18図18は、第2の実施形態の作業者端末において実行される処理動作の一例を示すフローチャートである。
図19図19は、第2の実施形態の管理装置において実行される処理動作の一例を示すフローチャートである。
【発明を実施するための形態】
【0015】
実施形態の美術セット建て込み支援システムは、閲覧端末(3)と、計測部(40,41)と、計算部(113)と、生成部(114)と、表示制御部(31A)と、を備える。閲覧端末(3)は、カメラ(39)とディスプレイ(38)とを備え、閲覧者が携帯する。計測部(40,41)は、決められた範囲の実空間(ST)内でカメラ(39)を向けている方位と仰角を計測する。計算部(113)は、計測部(40,41)の計測結果に基づいて、カメラ(39)で撮影されてディスプレイ(38)に表示される実空間(ST)内の範囲である閲覧範囲(GR)を計算する。生成部(114)は、実空間(ST)内に建て込む美術セット(AS)の3次元形状及び建て込みの3次元位置を示す美術セット設計情報と、計算された閲覧範囲(GR)と、に基づいて、ディスプレイ(38)に表示するべき美術セット(AS)の3次元表示データを生成する。表示制御部(31A)は、ディスプレイ(38)に、生成された3次元表示データに基づく3次元画像(MDS)を表示させる。これにより、実空間(ST)内への美術セット(AS)の建て込み作業時に、建て込んだ美術セット(AS)上に当該美術セット(AS)の3次元画像(MDS)を拡張現実として重ね合わせ表示することができ、閲覧者(WO)は、実際の美術セット(AS)と3次元画像(MDS)とのずれ具合を確認することで、設計通りに美術セット(AS)が設置できたか否かを、容易に判断することができる。したがって、実施形態の美術セット建て込み支援システムによれば、美術セット(AS)を設計通りに建て込めるように閲覧者(WO)である作業者を支援することができる。
【0016】
実施形態の美術セット建て込み支援システムでは、計測部(40,41,2,33,112)は、さらに、実空間(ST)内での閲覧端末(3)の位置を計測する。よって、凝視範囲(GR)を正確に判別することができ、建て込んだ美術セット(AS)とその3次元画像(MDS)との重ね合わせを、より正確に行うことが可能となる。
【0017】
実施形態の美術セット建て込み支援システムでは、生成部(114)は、移動配置可能な照明器具(LF)の3次元形状と美術セットの建て込み終了後の時点における照明器具(LF)の3次元位置とを示す照明器具設計情報に基づく照明器具(LF)の3次元表示データを生成する。よって、照明器具(LF)の3次元画像(MDL)も撮影画像に重畳表示されるようになるので、建て込んだ美術セット(AS)の、照明器具(LF)との干渉、照明器具(LF)が取り付けられる照明用バトンとの交差、等を容易に確認することが可能となる。
【0018】
実施形態の美術セット建て込み支援システムでは、照明器具設計情報は、美術セット(AS)の建て込み終了後の時点における照明器具(LF)の3次元位置での照射方向(BD)を示す照射方向情報を含み、生成部(114)は、さらに、前記照射方向情報に基づくベクトルの3次元表示データを生成する。よって、照明器具(LF)から照射される照明の照射方向(BD)の3次元画像(MDL)も撮影画像に重畳表示されるようになるので、建て込んだ美術セット(AS)への照明状況、或いは、美術セット(AS)が照明を遮断してしまう状況を容易に確認することが可能となる。
【0019】
実施形態の美術セット建て込み支援システムでは、生成部(114)は、さらに、実空間(ST)内に固定配置されている付帯設備の位置情報に基づく付帯設備の3次元表示データを生成する。よって、付帯設備の3次元画像(MDE)も撮影画像に重畳表示されるようになるので、美術セット(AS)と付帯設備の位置関係を容易に把握することができ、付帯設備の上や前に美術セット(AS)を建て込んでしまい、当該付帯設備が使用できなくなってしまうことを防止することが可能となる。
【0020】
実施形態の美術セット建て込み支援システムでは、表示制御部(31A)は、閲覧端末(3)に含まれ、計算部(113)及び生成部(114)は、閲覧端末(3)と通信可能な管理装置(1)に含まれる。そして、生成部(114)は、閲覧範囲(GR)を包含する拡大範囲(MR)に基づいて、3次元表示データを生成し、表示制御部(31A)は、閲覧範囲(GR)に基づいて3次元表示データを調整し、調整後の3次元表示データに基づく3次元画像(MDS;MDL;MDB;MDE)をディスプレイ(38)に表示させる。よって、高い処理能力を必要とする動作を高性能な装置である管理装置(1)において行うことで、閲覧端末(3)は、処理能力がそれほど高くなくても良いので、安価に構成することができる。そのため、多数の閲覧端末(3)を準備することができ、同時併行して複数の美術セット(AS)の建て込みを行い得る。また、多数の閲覧端末(3)を使用しても、凝視範囲GRが拡大範囲MR内での移動となるような凝視点Pの移動では、各閲覧端末(3)内での調整だけで良く、管理装置(1)の動作が必要とならない。よって、管理装置(1)における負荷の平準化が実現できる。
【0021】
以下、実施形態について、図面を参照して説明する。なお、以下では、テレビ局のスタジオにおける美術セットの建て込みを例にして説明するが、劇場の舞台、ホール、等の他の施設にも同様に適用可能なことは言うまでもない。
【0022】
(第1の実施形態)
図1は、第1の実施形態における美術セット建て込み支援システムの一例を示す概略構成図である。図1に示すように、美術セット建て込み支援システムは、美術セットを建て込む実空間であるテレビ局のスタジオST毎に配置された、1台の管理装置1と、3台以上の位置マーカ2と、複数台の作業者端末3と、を備える。
【0023】
管理装置1は、スタジオST内の決められた位置に配置されていても良いし、スタジオST内で任意の位置に移動可能としても良い。管理装置1は、例えば、汎用のパーソナルコンピュータ等のコンピュータである。管理装置1は、テレビ局内ネットワーク、インターネット、等の図示しないスタジオ外ネットワークを介して、サーバコンピュータ、ファイルサーバ、等の外部機器から各種データを取得することができる。
【0024】
管理装置1は、各種情報を加味して作業者端末3の3次元(3D)位置情報を計算する。例えば、管理装置1は、対象となるスタジオSTの3次元形状データ、スタジオST内に建て込む美術セットの3次元設計データ、スタジオST内のコンセント等の付帯設備の3次元位置データ、向き、照射強さ、等のスタジオST内の照明器具の3次元設計データ、等を予め保持する。また、管理装置1は、後述するように、作業者端末3から送信されてくる計測データに基づいて、作業者端末3の3次元位置、作業者が凝視している凝視点の3次元位置、作業者の視点方向での3次元形状の見え方、等の計算を行う。
【0025】
位置マーカ2は、スタジオST内の作業者端末3の3次元位置を計測するための基準となるマーキング機器である。位置マーカ2は、例えば、電波発信源とすることができる。複数の位置マーカ2それぞれは、スタジオSTの互いに異なる所定位置に固定される。図2は、位置マーカ2の配置の一例を示す模式図である。この例では、4台の位置マーカ2が、スタジオSTの異なる所定位置として、天井の四隅に設置されている。なお、図2におけるWOは、スタジオST内に居る、美術セットの建て込み作業を実施する作業者WOを示している。
【0026】
作業者端末3は、AR(拡張現実)グラス、スマートフォン、タブレット、等の作業者WOが携帯する携帯型コンピュータである。ARグラスは、作業者WOの作業を妨げないので、作業者端末3とするのに特に適している。以下、作業者端末3は、ARグラスであるとして説明する。作業者端末3は、作業者WOに割り当てられるものであって、配置されるスタジオSTは固定されない。すなわち、作業者端末3は、複数のスタジオSTの間で自由に行き来できる。管理装置1と作業者端末3のそれぞれとは、スタジオST内に配備されたネットワークNWを経由したデータ通信が可能となっている。すなわち作業者端末3は、スタジオSTに入室した際に、ネットワークNWを経由して管理装置1との間で所定の認証作業を行い、管理装置1の許可を得て、管理装置1との間でのデータ通信が可能となる。例えば、各位置マーカ2から発信された電波に基づいて自端末のスタジオST内の位置を計測し、その計測した位置を示す位置データを管理装置1に送信することができる。なお、ネットワークNWは、汎用ネットワークであり、作業者端末3とネットワークNWの間は無線接続とすることが望ましい。
【0027】
なお、作業者端末3は、美術セットの建て込み作業を実施する複数の作業者WOのそれぞれが携帯している必要は無い。例えば、複数の作業者WOを管理して建て込み作業を監督する監督者一人が携帯するものとしても構わない。よって、図1では、作業者端末3は複数台示しているが、少なくとも1台有れば良い。
【0028】
作業者端末3は、位置マーカ2からの距離、作業者WOが凝視している凝視点方向、等を計測し、計測結果データを管理装置1に送信する。また、作業者端末3は、管理装置1が計算した作業者WOの視点方向での3次元形状の見え方に基づいて、AR機能により、当該作業者端末3の現在位置からの美術セットの3次元表示データ、現在位置からの照明器具の照射方向の3次元表示データ、等を表示する。複数の作業者端末3は、当該作業者端末3の現在位置、作業者WOが凝視している凝視点方向、等に依存して、個別に異なる表示が行われる。
【0029】
図3は、管理装置1のハードウェア構成の一例を示すブロック図である。管理装置1は、CPU(Central Processing Unit)等のプロセッサ11Aを有する。プロセッサ11Aは、マルチコア/マルチスレッドのものであって良く、複数の処理を並行して実行することができる。そして、管理装置1は、このプロセッサ11Aに対し、プログラムメモリ11B、データメモリ12、通信インタフェース13及び入出力インタフェース14を、バス15を介して接続したものとなっている。
【0030】
プログラムメモリ11Bは、記憶媒体として、例えば、HDD(Hard Disk Drive)やSSD(Solid State Drive)等の随時書込み及び読出しが可能な不揮発性メモリと、ROM(Read Only Memory)等の不揮発性メモリとを組み合わせて使用したものである。プログラムメモリ11Bは、プロセッサ11Aが各種処理を実行するために必要なプログラムを格納する。プログラムは、OS(Operating System)や様々なアプリケーションプログラムを含み、アプリケーションプログラムの一つとして、詳細は後述するような支援プログラムを含む。
【0031】
データメモリ12は、記憶媒体として、例えば、HDDまたはSSD等の随時書込み及び読出しが可能な不揮発性メモリと、RAM(Random Access Memory)等の揮発性メモリとを組み合わせて使用したストレージである。データメモリ12は、各種処理を行う過程で取得及び作成されたデータを記憶するために用いられる。
【0032】
通信インタフェース13は、ネットワークNW及び図示しないスタジオ外ネットワークと接続するための有線または無線通信部である。
【0033】
入出力インタフェース14は、入力装置16及び出力装置17とのインタフェースである。
【0034】
入力装置16は、管理装置1の操作者がプロセッサ11Aに対して指示を入力するためのキーボードやポインティングデバイス等を含む。さらに、入力装置16は、データメモリ12に格納するべきファイルやデータを、USBメモリ等のメモリ媒体から読み出すためのリーダや、そのようなファイルやデータをディスク媒体から読み出すためのディスク装置を含み得る。
【0035】
出力装置17は、プロセッサ11Aからの操作者に提示するべき出力データを表示するディスプレイや、それを印刷するプリンタ等を含む。さらに、出力装置17は、音声データや音楽データを出力するスピーカを含むことができる。
【0036】
なお、管理装置1は、入力装置16及び/または出力装置17を備えていなくても良い。管理装置1は、通信インタフェース13によりスタジオ外ネットワークを介してスタジオST外部の情報処理機器と通信して、データメモリ12に格納するべきファイルやデータを受信したり、ユーザに対して出力するべきデータを送信したりすることができる。
【0037】
図4は、作業者端末3のハードウェア構成の一例を示すブロック図である。作業者端末3は、CPU等のプロセッサ31Aを有する。プロセッサ31Aは、マルチコア/マルチスレッドのものであって良く、複数の処理を並行して実行することができる。そして、作業者端末3は、このプロセッサ31Aに対し、プログラムメモリ31B、データメモリ32、通信インタフェース33、入出力インタフェース34及びセンサインタフェース35を、バス36を介して接続したものとなっている。
【0038】
プログラムメモリ31Bは、記憶媒体として、例えば、SSD等の随時書込み及び読出しが可能な不揮発性メモリと、ROM等の不揮発性メモリとを組み合わせて使用したものである。プログラムメモリ31Bは、プロセッサ31Aが各種処理を実行するために必要なプログラムを格納する。プログラムは、OSや様々なアプリケーションプログラムを含み、アプリケーションプログラムの一つとして、詳細は後述するような支援プログラムを含む。
【0039】
データメモリ32は、記憶媒体として、例えば、SSD等の随時書込み及び読出しが可能な不揮発性メモリと、RAM等の揮発性メモリとを組み合わせて使用したストレージである。データメモリ32は、各種処理を行う過程で取得及び作成されたデータを記憶するために用いられる。
【0040】
通信インタフェース33は、ネットワークNWと接続するための無線通信部である。また、通信インタフェース33は、位置マーカ2から発信された電波を受信する受信部である。
【0041】
入出力インタフェース34は、入力装置37及び出力装置38とのインタフェースである。
【0042】
入力装置37は、作業者端末3の操作者がプロセッサ31Aに対して指示を入力するためのボタンやキースイッチを含む。さらに、入力装置37は、データメモリ32に格納するべきファイルやデータを、USBメモリ等のメモリ媒体から読み出すためのリーダを含み得る。
【0043】
出力装置38は、プロセッサ31Aからの操作者に提示するべき出力データを表示するディスプレイを含む。さらに、出力装置38は、音声データや音楽データを出力するスピーカを含むことができる。
【0044】
センサインタフェース35は、イメージセンサであるカメラ39、方位センサ40、角度センサ41、等のセンサとのインタフェースである。
【0045】
カメラ39は、当該作業者端末3の、作業者WOが閲覧するディスプレイと対向する側に配置され、作業者WOが向いている方向を撮影する。特に、当該作業者端末3がARグラスである場合、カメラ39は、作業者WOが顔を向けている方向に追随して、撮影を行うことができる。
【0046】
方位センサ40は、カメラ39を向けている方位、つまり、作業者WOが作業者端末3を向けている東西南北の方位を計測する。当該作業者端末3がARグラスである場合、方位センサ40は、作業者WOが顔を向けている方位を計測することができる。
【0047】
角度センサ41は、カメラ39を向けている仰角、つまり、作業者WOが作業者端末3を向けている上下方向の角度を計測する。当該作業者端末3がARグラスである場合、角度センサ41は、作業者WOが顔を向けている仰角を計測することができる。
【0048】
図5は、管理装置1の機能的な構成の一例を、図3に示したハードウェア構成と関連付けて示すブロック図である。
【0049】
処理部11は、上記プロセッサ11Aと上記プログラムメモリ11Bとから構成され、ソフトウェアによる処理機能部として、事前情報設定部111と、計測データ取得部112と、凝視範囲計算部113と、表示データ生成部114と、表示データ送信部115と、を備える。これらの処理機能部は、何れも、プログラムメモリ11Bに格納された支援プログラムを、上記プロセッサ11Aに実行させることにより実現される。処理部11は、また、ASIC(Application Specific Integrated Circuit)、GPU(Graphics Processing Unit)、FPGA(field-programmable gate array)、DSP(Digital Signal processor)、等の集積回路を含む、他の多様な形式で実現されても良い。
【0050】
また、データメモリ12の不揮発性メモリの記憶領域は、3Dデータ記憶部121を備える。また、データメモリ12の不揮発性メモリまたは揮発性メモリの記憶領域は、計測データ記憶部122、凝視範囲データ記憶部123及び表示データ記憶部124を備える。さらに、データメモリ12の揮発性メモリの記憶領域は、特に図示はしていないが、処理部11の処理動作中に生成される様々なデータを一時的に記憶する一時記憶部を備える。
【0051】
処理部11の事前情報設定部111は、通信インタフェース13により図示しないスタジオ外ネットワークを経由してスタジオST外部の情報処理機器から、或いは、入出力インタフェース14により入力装置16から、各種3次元データを取得して、データメモリ12の3Dデータ記憶部121に記憶させる。例えば、事前情報設定部111は、3次元データは、例えば、スタジオSTの3次元形状を示す3次元形状データ、スタジオSTの付帯設備(電源コンセント、音声コンセント、照明用バトン、火器、等)の3次元位置データ、スタジオST内の各位置マーカ2の3次元位置データ、等の都度変更が発生しない不変データを含む。これら不変データは、マスタ情報ファイルとして準備され、変更が無い限りは一度取得されたものが継続して利用される。また、3次元データは、番組に使用する3次元美術セットの3次元形状データ、スタジオSTの3次元形状と美術セットとの位置関係を示す3次元位置データ、美術セットを照射するための照明器具の3次元位置データ、照明器具の照射方向を示す3次元ベクトルデータ、等の番組毎またはシーン毎に変更される可変データを含む。これらの可変データは、番組やシーン毎に設計される。
【0052】
計測データ取得部112は、通信インタフェース13によりネットワークNWを経由して各作業者端末3から計測データを取得して、データメモリ12の計測データ記憶部122に記憶させる。計測データは、例えば、位置計測データ、方位計測データ及び角度計測データを含む。
【0053】
位置計測データは、各位置マーカ2から当該作業者端末3までの距離を示す。作業者端末3は、通信インタフェース33により受信した位置マーカ2からの電波の強度により、当該位置マーカ2までの距離を計測する。位置マーカ2と作業者端末3の位置関係の一例を示す模式図である。今、作業者端末3を携帯する作業者WOが、スタジオST座標系(x,y,z)における座標(x0,y0,z0)の位置に居るとする。ここでは4つの位置マーカ2のそれぞれの座標(x1,y1,z1)、(x2,y2,z2)、(x3,y3,z3)、(x4,y4,z4)は、既知であり、管理装置1の3Dデータ記憶部121に記憶されている。作業者端末3は、これら4つの位置マーカ2からの距離L1,L2,L3,L4を同時に計測し、計測した距離を位置計測データとして管理装置1に送信する。
【0054】
方位計測データは、作業者端末3が方位センサ40により計測した方位を示す。図7は、方位センサ40の計測範囲を示す模式図である。方位センサ40は、ARグラスである作業者端末3のカメラ39を向けている方位、つまり作業者端末3を装着した作業者WOが顔を向けて凝視している凝視点Pの方位を計測する。方位センサ40は、この方位を基準方向DR1(例えば北)からの角度α°として計測する。ここで、α°=0°~360°である。作業者端末3は、計測した方位角度α°を、方位計測データとして管理装置1に送信する。
【0055】
角度計測データは、作業者端末3が角度センサ41により計測した仰角を示す。図8は、角度センサ41の計測範囲を示す模式図である。角度センサ41は、ARグラスである作業者端末3を装着した作業者WOが顔を向けている方位である凝視点Pの仰角を計測する。角度センサ41は、この仰角を基準方向DR2(例えばスタジオSTの水平面)からの角度β°として計測する。ここで、β°=-90°~+90°である。作業者端末3は、計測した角度β°を、角度計測データとして管理装置1に送信する。なお、角度β°は、スタジオSTの天井方向(垂直方向)を基準方向DR2として、β°=0°~180°としても良い。
【0056】
凝視範囲計算部113は、計測データ取得部112での計測データの取得に応答して、作業者端末3が居るであろうスタジオST内の予想位置と、作業者が見ているであろう凝視範囲とを計算する。凝視範囲は、カメラ39で撮影されて出力装置38であるディスプレイに表示されるスタジオST内の範囲である。
【0057】
図9は、作業者端末3の予想位置の計算手法を説明するための模式図である。凝視範囲計算部113は、3Dデータ記憶部121に記憶されている各位置マーカ2の3次元位置データとしての座標(x1,y1,z1)、(x2,y2,z2)、(x3,y3,z3)、(x4,y4,z4)と、計測データ記憶部122に記憶された各位置マーカ2からの距離L1,L2,L3,L4を用いて、作業者端末3の位置を計算する。すなわち、凝視範囲計算部113は、図9に示すように、位置マーカ2の各座標(x1,y1,z1)、(x2,y2,z2)、(x3,y3,z3)、(x4,y4,z4)から距離L1,L2,L3,L4を半径とする球の交点座標(x0,y0,z0)となる点を計算する。この計算された点が、作業者端末3の予想位置P0となる。
【0058】
図10A及び図10Bは、凝視点Pの計算手法を説明するための模式図である。凝視範囲計算部113は、凝視点PのスタジオST内の3次元位置である座標(X,Y,Z)を計算する。すなわち、凝視範囲計算部113は、計算した作業者端末3の予想位置P0である座標(x0,y0,z0)と、計測データ記憶部122に記憶された方位データである角度α°及び角度データである角度β°で決まるベクトルとに基づいて、凝視点Pの座標(X,Y,Z)を計算する。なおこのとき、ベクトルの長さLすなわち作業者端末3から凝視点Pまでの距離は、予め決められた固定値とする。
【0059】
凝視範囲計算部113は、こうして計算した作業者端末3の予想位置P0の座標(x0,y0,z0)と凝視点Pの座標(X,Y,Z)とに基づいて、凝視範囲GRとして計算する。すなわち、凝視範囲計算部113は、作業者端末3の予想位置P0の座標(x0,y0,z0)から凝視点Pの座標(X,Y,Z)へ向かうベクトルに関して、上下左右に所定角度内の範囲を、凝視範囲GRとして計算する。凝視範囲計算部113は、計算した作業者端末3の予想位置P0の座標(x0,y0,z0)、凝視点Pの座標(X,Y,Z)、及び凝視範囲GRを、凝視範囲データ記憶部123に記憶させる。
【0060】
表示データ生成部114は、凝視範囲計算部113が凝視範囲GRを計算したならば、それに応じた表示データを生成する。すなわち、表示データ生成部114は、3Dデータ記憶部121に記憶されている各種3次元データと、凝視範囲データ記憶部123に記憶された凝視範囲GRとに基づいて、美術セット、付帯設備、照射方向ベクトルの3次元表示データを生成する。3次元データは、スタジオSTの3次元形状データ、付帯設備の3次元位置データ、美術セットの3次元形状データ及び3次元位置データ、照明器具の3次元位置データ、照射方向の3次元ベクトルデータ、を含む。より詳しくは、表示データ生成部114は、凝視範囲GRに基づいて、作業者端末3に送信するべき3次元データを計算して切り出し、さらに、作業者端末3においてそれらを表示した際に閲覧者となる作業者WOにどのように見えるのか、すなわち閲覧者での見え方を計算し、その見え方に応じて、送信するべき3次元表示データを決定する。表示データ生成部114は、生成した3次元表示データを表示データ記憶部124に記憶させる。
【0061】
表示データ送信部115は、表示データ生成部114が3次元表示データを生成したならば、通信インタフェース13によりネットワークNWを経由して作業者端末3へ、表示データ記憶部124に記憶された3次元表示データを送信する。
【0062】
図11は、以上のような構成の美術セット建て込み支援システムにおける各部の動作関係を示す模式図である。美術セット建て込み支援システムにおける作業は、「事前作業」、「計測」、「表示」の3つのフェーズに分かれる。
【0063】
「事前作業」フェーズは、スタジオSTでの美術セットの建て込み作業を行う前に、管理装置1が行う動作である。なお、この「事前作業」フェーズの開始前に、予め準備されているスタジオSTのマスタ情報を記憶したマスタ情報ファイルが3Dデータ記憶部121に登録されているものとする。マスタ情報には、スタジオSTの3次元形状データ、スタジオSTの照明用バトン等の付帯設備の3次元位置データ、電源コンセント、音声コンセント、等の付帯設備の3次元位置データ、スタジオSTで利用することのできる照明器具の一覧データ、等が含まれる。
【0064】
「事前作業」フェーズでは、設計者、例えば美術設計者が、事前情報設定部111により、入力装置16から、3Dデータ記憶部121に記憶されているマスタ情報の中に3次元美術セットを設置する美術設計を実施して、美術セットを配置したスタジオSTの設計ファイルを作成する。この美術設計においては、設計者、例えば美術設計者は、照明用バトンと美術セットの位置関係、コンセントと美術セットの位置関係、等を考慮して美術セットを配置する。その後、設計者、例えば美術設計者とは異なる照明設計者は、事前情報設定部111により、入力装置16から、照明器具を設置し、さらに、照明器具の照射方向を設定する照明設計を実施することで、設計ファイルを更新する。設計ファイルは、3Dデータ記憶部121に記憶される。
【0065】
なお、「事前作業」フェーズでは、設計者、例えば美術設計者及び照明設計者が、管理装置1とは別のスタジオST外部の情報処理機器により設計ファイルを作成し、事前情報設定部111により、そこから図示しないスタジオ外ネットワークを経由して設計ファイルを取得して、3Dデータ記憶部121に記憶させるものであっても良い。
【0066】
「計測」フェーズは、管理装置1、位置マーカ2及び作業者端末3が行う動作である。この「計測」フェーズでは、作業者端末3にて以下に示す各種計測を行い、管理装置1に計測データを送信する。すなわち、作業者端末3は、当該作業者端末3の位置を計測し、管理装置1に送信する。具体的には、作業者端末3は、各位置マーカ2と当該作業者端末3との間の距離(絶対値)を計測し、その計測した距離を位置計測データとして管理装置1に送信する。また、作業者端末3は、方位センサ40で計測した当該作業者端末3が向いている方位(東西南北方向)を、方位計測データとして管理装置1に送信する。さらに、作業者端末3は、角度センサ41で計測した当該作業者端末3の向いている角度(上下)を、角度計測データとして管理装置1に送信する。
【0067】
また、この「計測」フェーズにおいて管理装置1は、計測データ取得部112により、ネットワークNWを経由して作業者端末3から送信されてきた計測データを取得し、計測データ記憶部122に記憶する。そして、管理装置1は、凝視範囲計算部113により、計測データ記憶部122に記憶した計測データに基づいて、作業者端末3のスタジオST内での3次元位置と作業者端末3が見ている先となる凝視点Pとを計算し、さらに、その凝視点Pに基づいて、作業者端末3が見ているであろう凝視範囲GRを計算する。
【0068】
図12は、スタジオST内での作業者端末3を携帯する作業者WOと照明器具LF及び美術セットASとの関係を説明するための模式図である。例えば、作業者WOが美術セットASを建て込んだ後、任意の位置で、この美術セットASの方に作業者端末3のカメラ39を向ける。このとき、カメラ39の撮影方向を示すベクトルにおける固定の長さLの地点が凝視点Pとなる。図13は、このときの凝視範囲GRの一例を示す模式図である。凝視範囲GRは、カメラ39の撮影範囲に相当し、この範囲の画像が出力装置38であるディスプレイに表示されることとなる。「計測」フェーズにおいて管理装置1は、この作業者端末3の3次元位置である座標(x0,y0,z0)と、凝視点Pの座標(X,Y,Z)とを計算する。そしてさらに、管理装置1は、この計算した作業者端末3の3次元位置である座標(x0,y0,z0)から凝視点Pの座標(X,Y,Z)へ向かうベクトルに関して、上下左右に所定角度内の範囲を、凝視範囲GRとして計算する。なお、図12には、参考のため、照明器具LFから照射される照明の照射方向BDも示してある。
【0069】
「表示」フェーズは、管理装置1及び作業者端末3が行う動作であり、管理装置1より作業者端末3に対して、拡張現実として重ね合わせるべき3次元表示データを伝送し、作業者端末3にてこれを表示するフェーズである。この「表示」フェーズでは、管理装置1は、表示データ生成部114により、作業者端末3に送信するべき3次元表示データを生成する。すなわち、管理装置1は、「計測」フェーズで計算した作業者端末3の3次元位置と凝視点P及び凝視範囲GRと、「事前作業」フェーズで3Dデータ記憶部121に記憶させた美術セット及び照明器具の設計ファイルとから、美術セットと照明の照射方向を計算する。具体的には、美術セット及び照明器具、さらには、照射方向、付帯設備、等の3次元形状データ及び/または3次元位置データを、3次元表示データとして切り出す。この切り出しにおいては、作業者端末3の凝視点Pを中心とした凝視範囲GR中の3次元表示データを切り出すのではなく、凝視範囲GR)よりも広い範囲である拡大範囲中の3次元表示データを切り出す。これは、後述するように、作業者端末3での視点の微妙な変化に追随できるようにするためである。さらに、管理装置1は、3次元表示データの作業者WOでの見え方を計算し、その見え方に応じて、送信するべき3次元表示データを決定する。例えば、美術セットの3次元表示データは、凝視範囲GR(拡大範囲)内に存在していたとしても見えない場所(例えば、美術セットの裏側、美術セットの内部構造、等)の情報を削除する。こうすることで、送信する3次元表示データのデータサイズの削減と作業者端末3での表示時の負荷低減を図ることができる。こうして表示データ生成部114によって生成された3次元表示データは、表示データ記憶部124に記憶される。そして、管理装置1は、表示データ送信部115により、表示データ記憶部124に記憶されている3次元表示データを作業者端末3に送信する。
【0070】
「表示」フェーズにおいて作業者端末3は、出力装置38であるディスプレイに、カメラ39で撮影した画像上に管理装置1から送信されてきた3次元表示データに基づく3次元画像である3次元モデルを重畳して表示する。
【0071】
図14は、3次元モデルの表示例を示す模式図である。前述したように、管理装置1からは、凝視範囲GRよりも広い拡大範囲MRの3次元表示データが送信されてくる。作業者端末3は、凝視範囲GRの3次元データに基づいて、美術セットASの3次元モデルMDSを生成して、カメラ39の撮影画像に重畳表示する。また、図14の例では、照明器具LFの3次元モデルMDLが撮影画像に重畳表示されると共に、照明器具LFから照射される照明の照射方向BDの3次元モデルMDBも表示されている。さらに、図14の例では、スタジオSTの付帯設備である電源コンセントの3次元モデルMDEが撮影画像に重畳表示されると共に、その付帯設備についての説明情報AEも表示されている。このように、3次元表示データは、説明情報のデータも含んで良い。
【0072】
また、カメラ39の撮影画像への美術セットASの3次元モデルMDSの重畳表示時には、撮影画像の特徴的な抽出ポイント(例えばエッジ、突端、辺など)と3次元データの特徴を重ね合わせることにより、3次元モデルMDSの重畳表示の不安定性を軽減させることができる。
【0073】
上記のような「計測」フェーズ及び「表示」フェーズでは、以下の2種類の繰り返し動作が行われ得る。
【0074】
一つは、作業者WOの移動により、作業者端末3の位置が変化した場合の動作である。作業者端末3の位置が変化したか否かの判断は、作業者端末3と位置マーカ2の間の距離計測結果に、予め決められた一定の変化が発生したかどうかを判断することで、行うことができる。作業者端末3の位置が変化した場合、作業者端末3は、管理装置1に、位置計測データ、方位計測データ及び角度計測データの全てを再送信する。これにより、3次元表示データの再計算が行われることになる。
【0075】
もう一つは、作業者WOの凝視点Pが変化した場合の動作である。すなわち、作業者WOが固定位置に居る(上記作業者端末3の予め決められた一定以上の位置変化が発生していない)が、作業者WOの凝視点Pの変化が有った場合の動作である。この場合には、作業者端末3内にて、方位計測データ及び角度計測データに基づいて表示位置を再計算して、表示位置を調整して表示を行う。すなわち、作業者端末3は、拡大範囲MR分が送信されてきている3次元表示データの中から、新たな凝視範囲GRの3次元表示データを用いた表示を行う。ただし、作業者WOの位置が変化していない場合でも、例えば後ろを向く等、同一位置での方位方向で拡大範囲MRを超える大きな変化が発生した場合は、上記作業者端末3の位置が変化した場合と同様とする。
【0076】
図15は、以上のような動作を行うための、作業者端末3において実行される処理動作の一例を示すフローチャートである。作業者端末3のプロセッサ31Aは、例えばプログラムメモリ31Bに予め記憶された支援プログラムを実行することで、このフローチャートに示す処理を行うことができる。また、図16は、同じく、管理装置1において実行される処理動作の一例を示すフローチャートである。管理装置1のプロセッサ11Aは、例えばプログラムメモリ11Bに予め記憶された支援プログラムを実行することで、このフローチャートに示す処理を行うことができる。なお、ここでは、「事前作業」フェーズでの設計ファイルの3Dデータ記憶部121への記憶は終了しているものとして、「計測」フェーズ及び「表示」フェーズでの動作のみを説明する。また、管理装置1は、複数の作業者端末3のそれぞれに対して、図16に示すような処理動作を実行する。
【0077】
図15に示すように、「計測」フェーズとして、作業者端末3のプロセッサ31Aは、位置計測を行う(ステップS301)。すなわち、プロセッサ31Aは、通信インタフェース33により各位置マーカ2から受信した電波の強度により、各位置マーカ2までの距離を計測し、計測した各位置マーカ2までの距離を、データメモリ32に記憶させる。
【0078】
そして、プロセッサ31Aは、データメモリ32に記憶された各位置マーカ2までの距離を、位置計測データとして、通信インタフェース33によりネットワークNWを経由して管理装置1へ送信する(ステップS302)。
【0079】
また、プロセッサ31Aは、角度・方位計測を行う(ステップS303)。すなわち、プロセッサ31Aは、方位センサ40が計測した方位角度α°をセンサインタフェース35を介して取得し、データメモリ32に記憶させる。また、プロセッサ31Aは、角度センサ41が計測した仰角の角度β°をセンサインタフェース35を介して取得し、データメモリ32に記憶させる。
【0080】
そして、プロセッサ31Aは、データメモリ32に記憶された方位角度α°を方位計測データとし、また、データメモリ32に記憶された仰角の角度β°を角度計測データとして、通信インタフェース33によりネットワークNWを経由して管理装置1へ送信する(ステップS304)。
【0081】
一方、管理装置1のプロセッサ11Aは、図16に示すように、計測データ取得部112として動作して、通信インタフェース13によりネットワークNWを経由して該当の作業者端末3から位置計測データを受信したか否か判断する(ステップS101)。
【0082】
作業者端末3から位置計測データを受信していないと判断した場合、プロセッサ11Aは、さらに、通信インタフェース13によりネットワークNWを経由して該当の作業者端末3から角度計測データ及び方位計測データを受信したか否か判断する(ステップS102)。
【0083】
作業者端末3から角度計測データ及び方位計測データを受信していないと判断した場合、プロセッサ11Aは、さらに、位置計測データと角度計測データ及び方位計測データとに更新が有ったか否かを判断する(ステップS103)。この更新の有無は、例えば、計測データ記憶部122に記憶された位置計測データと角度計測データ及び方位計測データが、現在時刻から予め決められた一定時間前の時刻範囲のタイムスタンプを持つか否かを判断することにより行うことができる。
【0084】
計測データに更新が無かったと判断した場合、プロセッサ11Aは、上記ステップS101の処理に移行する。
【0085】
作業者端末3における上記ステップS302で送信された位置計測データを受信すると、管理装置1のプロセッサ11Aは、上記ステップS101において、作業者端末3から位置計測データを受信したと判断する。この場合には、プロセッサ11Aは、その受信した位置計測データを計測データ記憶部122に記憶させる(ステップS104)。そして、プロセッサ11Aは、上記ステップS101の処理に移行する。
【0086】
また、作業者端末3における上記ステップS304で送信された角度計測データ及び方位計測データを受信すると、管理装置1のプロセッサ11Aは、上記ステップS102において、作業者端末3から角度計測データ及び方位計測データを受信したと判断する。この場合には、プロセッサ11Aは、それら受信した角度計測データ及び方位計測データを計測データ記憶部122に記憶させる(ステップS105)。そして、プロセッサ11Aは、上記ステップS101の処理に移行する。
【0087】
こうして位置計測データ、角度計測データ及び方位計測データが計測データ記憶部122に記憶されると、プロセッサ11Aは、上記ステップS103において、計測データに更新が有ったと判断する。この場合、プロセッサ11Aは、凝視範囲計算部113として動作して、作業者端末3の3次元位置及び凝視点Pを計算し、さらに、凝視範囲GRを計算する(ステップS106)。プロセッサ11Aは、計算した作業者端末3の3次元位置、凝視点P及び凝視範囲GRを、凝視範囲データ記憶部123に記憶させる。
【0088】
その後、プロセッサ11Aは、「表示」フェーズに移行し、表示データ生成部114として動作して、凝視範囲データ記憶部123に記憶した凝視範囲GRと、3Dデータ記憶部121に記憶されている美術セット及び照明器具の設計ファイルとから、美術セットと照明の照射方向を計算する(ステップS107)。具体的には、プロセッサ11Aは、凝視点Pを中心とした凝視範囲GRよりも広い範囲である拡大範囲MR中の、美術セット及び照明器具、さらには、照射方向、付帯設備、等の3次元形状データ及び/または3次元位置データを、3次元表示データとして切り出す。
【0089】
その後、プロセッサ11Aは、3次元表示データの作業者WOでの見え方を計算し、その見え方に応じて、例えば見えない場所の情報を削除する等、送信するべき3次元表示データを決定する(ステップS108)。プロセッサ11Aは、こうして生成した3次元表示データを表示データ記憶部124に記憶させる。
【0090】
そして、プロセッサ11Aは、表示データ送信部115として動作して、表示データ記憶部124に記憶させた3次元表示データを、通信インタフェース13によりネットワークNWを経由して作業者端末3に送信する(ステップS109)。その後、プロセッサ11Aは、上記ステップS101の処理に移行する。
【0091】
作業者端末3のプロセッサ31Aは、上記ステップS304において計測データを送信した後は、「表示」フェーズに移行して、管理装置1から3次元表示データが送信されてくるのを待っている。3次元表示データが送信されてくると、プロセッサ31Aは、図15に示すように、通信インタフェース13によりそれを受信し、データメモリ32に記憶させる(ステップS305)。
【0092】
そして、プロセッサ31Aは、データメモリ32に記憶させた拡大範囲MRの3次元表示データの中から、凝視範囲GRに該当する部分の3次元表示データを取り出す表示位置調整を行う(ステップS306)。
【0093】
プロセッサ31Aは、取り出した3次元表示データに基づく3次元モデルを生成して、カメラ39で撮影した画像上に重畳して表示する(ステップS307)。
【0094】
その後、プロセッサ31Aは、「計測」フェーズに移行して、位置計測を行い、各位置マーカ2までの距離をデータメモリ32に記憶させる(ステップS308)。この場合、データメモリ32への記憶は、最新の値に書き換えるのではなく、複数回分を時系列データとして保存しておくようにする。
【0095】
そして、プロセッサ31Aは、作業者端末3と位置マーカ2の間の距離計測結果に、予め決められた一定の変化が有るかどうかを判断する(ステップS309)。一定の変化が有ったと判断した場合、プロセッサ31Aは、上記ステップS302の処理に移行する。これにより、再度、位置計測データ、角度計測データ及び方位計測データが管理装置1に送信されることとなって、作業者WOの移動に応じた新たな3次元表示データを取得することが可能となる。
【0096】
これに対して、作業者端末3と位置マーカ2の間の距離計測結果には一定の変化が無かったと判断した場合、プロセッサ31Aは、再度、角度・方位計測を行うことで、方位角度α°及び仰角の角度β°を取得して、データメモリ32に記憶させる(ステップS310)。この場合も、データメモリ32への記憶は、最新の値に書き換えるのではなく、複数回分を時系列データとして保存しておくようにする。
【0097】
そして、プロセッサ31Aは、方位角度α°及び/または仰角の角度β°に、予め決められた一定の変化が有ったかどうかを判断する(ステップS311)。一定の変化が無いと判断した場合には、プロセッサ31Aは、上記ステップS306の処理に移行する。そして、「表示」フェーズに移行して、データメモリ32に記憶させた拡大範囲MRの3次元表示データの中から、方位角度α°及び/または仰角の角度β°に変化した分だけ移動した凝視範囲GRに該当する部分の3次元表示データに基づく表示を行っていく。
【0098】
また、方位角度α°及び/または仰角の角度β°に、予め決められた一定の変化が有ったと判断した場合には、プロセッサ31Aは、データメモリ32に記憶させた最新の各位置マーカ2までの距離、方位角度α°及び仰角の角度β°を、位置計測データ、角度計測データ及び方位計測データとして、通信インタフェース33によりネットワークNWを経由して管理装置1へ送信する(ステップS312)。その後、プロセッサ31Aは、上記ステップS305の処理に移行することで、作業者WOが例えば後ろを向く等、同一位置で発生した大きな凝視点変化に応じた新たな3次元表示データを取得することが可能となる。
【0099】
本実施形態では、美術セット建て込み支援システムは、前述のように、計測部である方位センサ40及び角度センサ41により、決められた範囲の実空間であるスタジオST内で、カメラ39と出力装置38としてのディスプレイとを備え、閲覧者が携帯する閲覧端末としての作業者端末3のカメラ39を向けている方位と仰角を計測する。そして、凝視範囲計算部113により、方位センサ40及び角度センサ41の計測結果に基づいて、カメラ39で撮影されてディスプレイに表示されるスタジオST内の範囲である閲覧範囲となる凝視範囲GRを計算し、表示データ生成部114によって、スタジオST内に建て込む美術セットASの3次元形状及び建て込みの3次元位置を示す美術セット設計情報である美術セットASの3次元設計データと、計算された凝視範囲GRと、に基づいて、ディスプレイに表示するべき美術セットASの3次元表示データを生成し、表示制御部となるプロセッサ31Aにより、ディスプレイに、生成された3次元表示データに基づく美術セットASの3次元モデルMDSを表示させる。これにより、スタジオST内への美術セットASの建て込み作業時に、建て込んだ美術セットAS上に当該美術セットASの3次元モデルMDSを拡張現実として重ね合わせ表示することができ、作業者WOは、実際の美術セットASと3次元モデルMDSとのずれ具合を確認することで、設計通りに美術セットASが設置できたか否かを、容易に判断することができる。したがって、実施形態の美術セット建て込み支援システムによれば、美術セットASを設計通りに建て込めるように作業者WOを支援することができる。
【0100】
すなわち、本実施形態の美術セット建て込み支援システムによれば、事前に設計した図面通りの場所に美術セットASを立て込むことが可能となる。よって、美術セットASと電源コンセント、音声コンセント、照明用バトン、火器、等の付帯設備との間の位置関係が確実に確保され、照明用バトンとの交差といった、建て込んだ美術セットASの移動作業が必要となる事態の発生を防止することができる。また、火器使用時の安全も確保される。
【0101】
また、本実施形態では、前述のように、計測データ取得部112により、スタジオST内での作業者端末3の位置を計測する。よって、作業者端末3のカメラ39が撮影している凝視範囲GRを正確に判別することができ、建て込んだ美術セットASとその3次元モデルMDSとの重ね合わせを、より正確に行うことが可能となる。
【0102】
なお、本実施形態では、前述のように、作業者端末3において、通信インタフェース33により位置マーカ2からの距離を計測し、管理装置1において、計測データ取得部112により、位置マーカ2の既知の位置座標と計測した距離とに基づいて、スタジオST内での作業者端末3の位置を計測する。このように、位置が既知の位置マーカを利用することで、簡単に、作業者端末3の位置を計測することができる。さらには、閲覧者となる作業者WOの位置及び向きにより、美術セットASの3次元モデルMSDの見え方を変える(閲覧者の位置、向きに応じたモデルが表示される)ことが可能となる。例えば、図14の例において、作業者WOが美術セットASの3次元モデルMDSの後ろ側に移動した場合、作業者WOは美術セットASの後ろ側(椅子側から見たセット)を確認することができるようになる。これにより、作業者WOはスタジオST内を移動しながら3次元モデルMDSを各方面から確認できる。そのため、実際の美術セットASと3次元モデルMDSとのずれ具合を確認するだけでなく、例えば美術セットASを立て込む前に作業者WOがスタジオST内を移動して各方面からのセットの見え方を確認することが可能となる。
【0103】
また、本実施形態では、前述のように、表示データ生成部114は、移動配置可能な照明器具LFの3次元形状と美術セットASの建て込み終了後の時点における照明器具LFの3次元位置とを示す照明器具設計情報である照明器具LFの3次元設計データに基づく照明器具LFの3次元表示データを生成する。よって、照明器具LFの3次元モデルMDLも撮影画像に重畳表示されるようになるので、建て込んだ美術セットASの、照明器具LFとの干渉、照明器具LFが取り付けられる照明用バトンとの交差、等を容易に確認することが可能となる。特に、照明器具LFの取り付け及び調整は、美術セットASを建て込んだ後に行われることが多く、美術セットASを設置した状態で照明器具LFとの関係を把握することが難しい。本実施形態では、その時点では実際には存在していない照明器具LFの配置を確認できることで、照明器具LFの設定時に、建て込まれている美術セットASを移動しなければならなくなる可能性を少なくすることができる。
【0104】
さらに、本実施形態では、前述のように、照明器具LFの3次元設計データは、美術セットASの建て込み終了後の時点における照明器具LFの3次元位置での照明の照射方向BDを示す照射方向情報である照射方向BDの3次元ベクトルデータを含み、表示データ生成部114は、さらに、この照射方向情報に基づくベクトルの3次元表示データを生成する。よって、照明器具LFから照射される照明の照射方向BDの3次元モデルMDLも撮影画像に重畳表示されるようになるので、建て込んだ美術セットASへの照明状況、或いは、美術セットASが照明を遮断してしまう状況を容易に確認することが可能となる。さらに、閲覧者となる作業者WOの位置及び向きにより、照明の照射方向BDの3次元モデルMDLの見え方も変えることができ、作業者WOはスタジオST内を移動しながら3次元モデルMDLを各方面から確認できるようになる。よって、建て込んだまたは建て込む前の美術セットASへの照明状況、或いは、美術セットASが照明を遮断してしまう状況を、様々な方向から容易に確認することが可能となる。
【0105】
また、本実施形態では、前述のように、表示データ生成部114は、さらに、スタジオST内に固定配置されている、電源コンセント、音声コンセント、照明用バトン、火器、等の付帯設備の位置情報に基づく付帯設備の3次元表示データを生成する。よって、電源コンセントの3次元モデルMDE等も撮影画像に重畳表示されるようになるので、美術セットASと付帯設備の位置関係を容易に把握することができ、付帯設備の上や前に美術セットASを建て込んでしまい、当該付帯設備が使用できなくなってしまうことを防止することが可能となる。また、火器からの炎の到達範囲内に美術セットASを建て込むことも防止でき、火器使用時の、安全も確保することが可能となる。
【0106】
さらに、本実施形態では、前述のように、表示データ生成部114は、付帯設備についての説明情報の表示データも作成する。よって、付帯設備を説明する説明情報AEも撮影画像に重畳表示されるようになるので、形状だけではどのようなものであるのかを判断しにくい付帯設備について、作業者WOが容易に判断できるようになる。
【0107】
また、本実施形態では、前述のように、美術セット建て込み支援システムは、作業者端末3と通信可能な管理装置1をさらに含み、管理装置1は、少なくとも凝視範囲計算部113及び表示データ生成部114として動作し、凝視範囲GRを包含する拡大範囲MRに基づいて、3次元表示データを生成する。そして、表示制御部として動作する作業者端末3のプロセッサ31Aは、凝視範囲GRに基づいて3次元表示データを調整し、調整後の3次元表示データに基づく3次元モデルMDS、MDL、MDBまたはMDEをディスプレイに表示させる。よって、高い処理能力を必要とする動作を高性能な装置である管理装置1において行うことで、作業者端末3は、処理能力がそれほど高くなくても良いので、安価に構成することができる。そのため、多数の作業者端末3を準備することができ、同時併行して複数の美術セットASの建て込みを行い得る。また、多数の作業者端末3を使用しても、凝視範囲GRが拡大範囲MR内での移動となるような凝視点Pの移動では、各作業者端末3内での調整だけで良く、管理装置1の動作が必要とならない。よって、管理装置1における負荷の平準化が実現できる。
【0108】
なお、本実施形態では、作業者WOは、美術セットASが凝視範囲GRに入らない方向に凝視点Pを移したとしても、その凝視点Pを中心とする新たな凝視範囲GRに対応する3次元モデルが、撮影画像に重畳表示される。このように、作業者WOは、自身の作業範囲外の位置に有る情報も見ること可能である。
【0109】
(第2の実施形態)
以下、第2の実施形態について、説明する。なお、以下の第2の実施形態では、第1の実施形態からの変更部分のみを説明し、第1の実施形態と同様の部分については、説明を省略する。
【0110】
第1の実施形態では、「計測」フェーズ及び「表示」フェーズに係る計算を管理装置1で行っているが、本第2の実施形態は、それを作業者端末3で行うようにしたものである。美術セット建て込み支援システムの構成自体は、第1の実施形態と同様である。
【0111】
図17は、第2の実施形態に係る美術セット建て込み支援システムにおける各部の動作関係を示す模式図である。
【0112】
「事前作業」フェーズにおける管理装置1の動作は、第1の実施形態と同様である。
【0113】
「計測」フェーズにおいては、作業者端末3は、管理装置1から位置マーカ2の3次元位置情報を取得し、また、各位置マーカ2と当該作業者端末3との間の距離(絶対値)を計測する。そして、その計測した距離である位置計測データに基づいて、当該作業者端末3の3次元位置である座標(x0,y0,z0)を計算する。また、作業者端末3は、方位センサ40により当該作業者端末3が向いている方位(東西南北方向)を、方位計測データとして計測すると共に、角度センサ41により当該作業者端末3の向いている角度(上下)を、角度計測データとして計測する。そして、作業者端末3は、これら位置計測データ、方位計測データ及び角度計測データに基づいて、作業者端末3のスタジオST内での3次元位置と作業者端末3が見ている先となる凝視点Pとを計算し、さらに、その凝視点Pに基づいて、作業者端末3が見ているであろう凝視範囲GRを計算する。
【0114】
「表示」フェーズでは、作業者端末3は、管理装置1から「事前作業」フェーズで設定された、美術セットASの設計ファイル及び照明器具LFの設計ファイルを取得する。美術セットASの設計ファイルは、スタジオSTの3次元形状データ、スタジオST内の照明用バトン、コンセント、火器、等の付帯設備の3次元位置データ、美術セットASの3次元形状データ及び3次元位置データ、等を含む。なお、美術セットASの3次元形状データについては、管理装置1から作業者端末3へ送信する際、内部構造のような作業者から見えない部分については削除したものを送信することで、通信量及び作業者端末3での記憶容量の削減を行う。照明器具の設計ファイルは、照明器具LFの3次元位置データ、照明の照射方向BD、等を含む。そして、作業者端末3は、「計測」フェーズで計算した作業者端末3の3次元位置と凝視点P及び凝視範囲GRと、管理装置1から取得した美術セット及び照明器具の設計ファイルとから、美術セットと照明の照射方向を計算する。具体的には、美術セット及び照明器具、さらには、照射方向、付帯設備、等の3次元形状データ及び/または3次元位置データを、3次元表示データとして切り出す。この切り出しにおいて、第2の実施形態では、第1の実施の形態のような拡大範囲MRではなくて、凝視範囲GR中の3次元表示データを切り出す。さらに、作業者端末3は、3次元表示データの作業者WOでの見え方を計算し、その見え方に応じて、切り出した3次元表示データから不要なデータを削除する。そして、作業者端末3は、出力装置38であるディスプレイに、カメラ39で撮影した画像上に3次元表示データに基づく3次元モデルを重畳して表示する。
【0115】
本第2の実施形態では、「計測」フェーズ及び「表示」フェーズでは、作業者WOの移動及び作業者WOの凝視点Pの変化に依らずに、1種類の繰り返し動作が行われる。すなわち、作業者端末3は、「計測」フェーズにおいて、予め決められた一定時間毎に、当該作業者端末3の3次元位置、凝視点P及び凝視範囲GRを繰り返し計算し、「表示」フェーズにおいて、それらに基づいて3次元表示データを切り出して、3次元モデルを更新表示していく。
【0116】
図18は、以上のような第2の実施形態に係る動作を行うための、作業者端末3において実行される処理動作の一例を示すフローチャートであり、図19は、同じく、管理装置1において実行される処理動作の一例を示すフローチャートである。
【0117】
図18に示すように、「計測」フェーズ及び「表示」フェーズとして、作業者端末3のプロセッサ31Aは、通信インタフェース33によりネットワークNWを経由して管理装置1に、設計ファイルの送信を要求する(ステップS351)。
【0118】
図19に示すように、管理装置1のプロセッサ11Aは、通信インタフェース13により、ネットワークNWを経由した該当の作業者端末3から設計ファイルの送信要求が有ったか否か判断する(ステップS151)。作業者端末3から設計ファイルの送信要求が無いと判断した場合、プロセッサ11Aは、このステップS151の処理を繰り返す。
【0119】
そして、作業者端末3から設計ファイルの送信要求が有ったと判断した場合、プロセッサ11Aは、通信インタフェース13により、ネットワークNWを経由して作業者端末3へ設計ファイルを送信する(ステップS152)。その後、プロセッサ11Aは、上記ステップS151の処理へ移行する。
【0120】
作業者端末3のプロセッサ31Aは、上記ステップS351において設計ファイルの送信要求を送信した後は、管理装置1から設計ファイルが送信されてくるのを待っている。設計ファイルが送信されてくると、プロセッサ31Aは、図18に示すように、通信インタフェース13によりそれを受信し、データメモリ32に記憶させる(ステップS352)。
【0121】
その後、プロセッサ31Aは、「計測」フェーズの動作として、位置計測を行う(ステップS301)。すなわち、プロセッサ31Aは、通信インタフェース33により各位置マーカ2から受信した電波の強度により、各位置マーカ2までの距離を計測し、計測した各位置マーカ2までの距離を、データメモリ32に記憶させる。
【0122】
また、プロセッサ31Aは、角度・方位計測を行う(ステップS303)。すなわち、プロセッサ31Aは、方位センサ40が計測した方位角度α°をセンサインタフェース35を介して取得し、方位計測データとしてデータメモリ32に記憶させる。また、プロセッサ31Aは、角度センサ41が計測した仰角の角度β°をセンサインタフェース35を介して取得し、角度計測データとしてデータメモリ32に記憶させる。
【0123】
そして、プロセッサ31Aは、作業者端末3の3次元位置及び凝視点Pを計算し、さらに、凝視範囲GRを計算する(ステップS353)。プロセッサ31Aは、計算した3次元位置、凝視点P及び凝視範囲GRを、データメモリ32に記憶させる。
【0124】
その後、プロセッサ31Aは、「表示」フェーズに移行し、データメモリ32に記憶した凝視範囲GRと、上記ステップS352で同じくデータメモリ32に記憶した設計ファイルとから、美術セットと照明の照射方向を計算する(ステップS354)。具体的には、プロセッサ31Aは、凝視点Pを中心とした凝視範囲GR中の、美術セット及び照明器具、さらには、照射方向、付帯設備、等の3次元形状データ及び/または3次元位置データを、3次元表示データとして切り出す。
【0125】
その後、プロセッサ31Aは、3次元表示データの作業者WOでの見え方を計算し、その見え方に応じて、例えば見えない場所の情報を削除する等、使用する3次元表示データを決定する(ステップS355)。プロセッサ31Aは、こうして生成した3次元表示データをデータメモリ32に記憶させる。
【0126】
そして、プロセッサ31Aは、このデータメモリ32に記憶させた3次元表示データに基づく3次元モデルを生成して、カメラ39で撮影した画像上に重畳して表示する(ステップS307)。
【0127】
その後、プロセッサ31Aは、「計測」フェーズに移行して、上記ステップS301の処理に移行する。これにより、新たに位置、角度及び方位を取得して、新たな3次元表示データを生成し、重畳表示を更新していくこととなる。
【0128】
本実施形態の美術セット建て込み支援システムでは、前述のように、作業者端末3の方位センサ40及び角度センサ41により、カメラ39を向けている方位と仰角を計測し、作業者端末3のプロセッサ31Aにより、方位センサ40及び角度センサ41の計測結果に基づいて凝視範囲GRを計算し、管理装置1から取得した3次元設計データと、計算された凝視範囲GRとに基づいて美術セットASの3次元表示データを生成し、この生成した3次元表示データに基づく美術セットASの3次元モデルMDSをディスプレイに表示させる。よって、スタジオST内への美術セットASの建て込み作業時に、建て込んだ美術セットAS上に当該美術セットASの3次元モデルMDSを拡張現実として重ね合わせ表示することができ、作業者WOは、実際の美術セットASと3次元モデルMDSとのずれ具合を確認することで、設計通りに美術セットASが設置できたか否かを、容易に判断することができる。したがって、本実施形態の美術セット建て込み支援システムによれば、第1の実施形態と同様に、美術セットASを設計通りに建て込めるように作業者WOを支援することができる。
【0129】
また、本実施形態では、処理能力の高い作業者端末3を利用することで、作業者端末3内の処理だけで美術セットASの3次元モデルMDSを表示させることができるので、方位及び仰角の計測後に素早く表示の更新を行うことが可能となる。
【0130】
なお、第1及び第2の実施形態では、スタジオST内の作業者端末3の3次元位置情報を得るのに、位置マーカ2を利用している。しかしながら、作業者端末3の3次元位置情報は、その他の手法によって取得するようにしても良い。例えば、作業者端末3は、3次元形状認識によりスタジオSTの3次元構造を認識して、自位置を推測する方法により、3次元位置情報を取得することができる。
【0131】
また、実空間の画像に拡張現実として重畳表示する対象として、美術セットAS以外に、照明器具LF、照射方向BD、付帯設備とその情報を説明したが、その他のものを対象としても構わない。例えば、設置した美術セットASを撤収する際の撤収方向をベクトルの3次元モデルとして表示することができる。美術セットASの建て込み時に、その撤収方向も閲覧できるようにすることで、撤収する際の順番や邪魔になる物を予め確認しておくことが可能となる。また、実際の撤収作業時にも、建て込み時と同様の表示を行うことで、容易に撤収方向を知ることができるようになる。
【0132】
本発明のいくつかの実施形態を説明したが、これらの実施形態は、例として提示したものであり、発明の範囲を限定することは意図していない。これら新規な実施形態は、その他の様々な形態で実施されることが可能であり、発明の要旨を逸脱しない範囲で、種々の省略、置き換え、変更を行うことができる。これら実施形態やその変形は、発明の範囲や要旨に含まれると共に、特許請求の範囲に記載された発明とその均等の範囲に含まれる。
【符号の説明】
【0133】
1…管理装置、 2…位置マーカ、 3…作業者端末、 11…処理部、 11A,31A…プロセッサ、 11B,31B…プログラムメモリ、 12,32…データメモリ、 13,33…通信インタフェース、 14,34…入出力インタフェース、 15,36…バス、 16,37…入力装置、 17,38…出力装置、 35…センサインタフェース、 39…カメラ、 40…方位センサ、 41…角度センサ、 111…事前情報設定部、 112…計測データ取得部、 113…凝視範囲計算部、 114…表示データ生成部、 115…表示データ送信部、 121…3Dデータ記憶部、 122…計測データ記憶部、 123…凝視範囲データ記憶部、 124…表示データ記憶部、 AE…説明情報、 AS…美術セット、 BD…照射方向、 GR…凝視範囲、 LF…照明器具、 MDB…照明の照射方向BDの3次元モデル、 MDE…電源コンセントの3次元モデル、 MDL…照明器具LFの3次元モデル、 MDS…美術セットASの3次元モデル、 MR…拡大範囲、 NW…ネットワーク、 P…凝視点、 P0…予想位置、 ST…スタジオ、 WO…作業者。

図1
図2
図3
図4
図5
図6
図7
図8
図9
図10A
図10B
図11
図12
図13
図14
図15
図16
図17
図18
図19