(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】
(24)【登録日】2024-01-15
(45)【発行日】2024-01-23
(54)【発明の名称】AR表示制御装置及びそのプログラム、並びに、AR表示システム
(51)【国際特許分類】
G06T 19/00 20110101AFI20240116BHJP
G06F 3/01 20060101ALI20240116BHJP
G06F 3/04815 20220101ALI20240116BHJP
G06F 3/0346 20130101ALI20240116BHJP
G06F 3/038 20130101ALI20240116BHJP
【FI】
G06T19/00 600
G06F3/01 510
G06F3/04815
G06F3/0346 423
G06F3/038 310A
(21)【出願番号】P 2020026834
(22)【出願日】2020-02-20
【審査請求日】2023-01-05
【新規性喪失の例外の表示】特許法第30条第2項適用 (1)「一般社団法人電子情報学会」が2019年12月4日に「Web予稿集」を発表
【新規性喪失の例外の表示】特許法第30条第2項適用 (2)「一般社団法人電子情報学会」が2019年12月11日~13日に開催した「HCGシンポジウム2019」において2019年12月13日に発表
(73)【特許権者】
【識別番号】000004352
【氏名又は名称】日本放送協会
(74)【代理人】
【識別番号】110001807
【氏名又は名称】弁理士法人磯野国際特許商標事務所
(72)【発明者】
【氏名】川喜田 裕之
(72)【発明者】
【氏名】吉野 数馬
(72)【発明者】
【氏名】半田 拓也
(72)【発明者】
【氏名】原 一宏
【審査官】岡本 俊威
(56)【参考文献】
【文献】米国特許第5500671(US,A)
(58)【調査した分野】(Int.Cl.,DB名)
G06T 19/00
G06F 3/01
G06F 3/048 - 3/04895
G06F 3/033 - 3/039
(57)【特許請求の範囲】
【請求項1】
映像表示装置を視聴する第1の人物が装着するAR表示装置に、他の映像表示装置を視聴する第2の人物を前記第1の人物が視聴する映像表示装置の側となるように表示するAR表示制御装置であって、
前記第2の人物が前記第1の人物を見ているか、又は、前記第2の人物が前記第1の人物から目をそらしたかを示す視線情報を受信する視線情報受信部と、
前記視線情報に基づいて、前記第2の人物が所定時間以上前記第1の人物を見続けている場合にはリダイレクションモードと判定し、前記第2の人物が前記第1の人物から目をそらした場合にはリアルモードと判定し、前記リダイレクションモードと判定された後、前記第2の人物が所定時間以上前記第1の人物から目をそらし続けている場合には復帰モーションモードと判定するモード判定部と、
前記リダイレクションモードと判定された場合には、前記第2の人物が前記第1の人物を振り向くように前記AR表示装置に表示させるリダイレクションモード表示制御部と、
前記リアルモードと判定された場合には、前記第2の人物を実際の姿勢で前記AR表示装置に表示させるリアルモード表示制御部と、
前記復帰モーションモードと判定された場合には、前記第1の人物に振り向いている第2の人物が実際の姿勢に復帰するように前記AR表示装置に表示させる復帰モーションモード表示制御部と、
を備えることを特徴とするAR表示制御装置。
【請求項2】
前記第2の人物の頭部角度毎に頭部位置及び頭部回転量を示すモーションパス情報を予め記録するモーションパス情報記録部、をさらに備え、
前記リダイレクションモード表示制御部は、実際の姿勢における前記第2の人物の頭部位置及び頭部回転量を座標変換することで、前記第1の人物を振り向いたときの第2の人物の頭部角度を算出し、算出した当該頭部角度に応じたモーションパスで、前記第2の人物が前記第1の人物を振り向くように前記AR表示装置に表示させることを特徴とする請求項1に記載のAR表示制御装置。
【請求項3】
前記復帰モーションモード表示制御部は、前記リダイレクションモード表示制御部におけるモーションパスと逆のモーションパスで、前記第1の人物に振り向いている第2の人物が実際の姿勢に復帰するように前記AR表示装置に表示させることを特徴とする請求項2に記載のAR表示制御装置。
【請求項4】
前記第2の人物の3次元モデル及び姿勢情報を受信する3次元モデル姿勢情報受信部、をさらに備え、
前記リダイレクションモード表示制御部、前記リアルモード表示制御部及び前記復帰モーションモード表示制御部は、前記第2の人物の3次元モデル及び姿勢情報を用いて、前記第2の人物を前記AR表示装置に表示させることを特徴とする請求項1から請求項3の何れか一項に記載のAR表示制御装置。
【請求項5】
前記AR表示装置から入力された前記第1の人物の視線検出結果に基づいて、前記第1の人物の視線が前記AR表示装置に表示されている第2の人物の領域に重なっているか否かにより、前記第1の人物が前記第2の人物を見ているか否かを判定する視線判定処理部と、
前記視線判定処理部の判定結果を、前記視線情報として、前記第2の人物が装着する他のAR表示装置に送信する視線情報送信部と、
をさらに備えることを特徴とする請求項1から請求項4の何れか一項に記載のAR表示制御装置。
【請求項6】
コンピュータを、請求項1から請求項5の何れか一項に記載のAR表示制御装置として機能させるためのプログラム。
【請求項7】
他の映像表示装置を視聴する第2の人物を撮影する撮影カメラと、
前記撮影カメラの撮影映像を用いて、前記第2の人物の3次元モデル及び姿勢情報を生成する3次元モデル・姿勢情報生成装置と、
請求項1から請求項5の何れか一項に記載のAR表示制御装置と、を備え、
前記AR表示制御装置は、前記第2の人物の3次元モデル及び姿勢情報を用いて、映像表示装置を視聴する第1の人物が装着するAR表示装置に、前記第2の人物を前記第1の人物が視聴する映像表示装置の側となるように表示することを特徴とするAR表示システム。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、AR表示装置に相手を表示させるAR表示制御装置及びそのプログラム、並びに、AR表示システムに関する。
【背景技術】
【0002】
近年、仮想現実(VR:Virtual Reality)や拡張現実(AR:Augmented Reality)に関する研究が行われている。例えば、3次元仮想空間内に利用者の分身(アバタ)を表示し、利用者同士で3次元仮想空間を共有する技術が提案されている(特許文献1,2)。これら特許文献1,2に記載の手法は、3次元仮想空間内での対話を促進するため、互いの分身の視線を合わせるものである。
【先行技術文献】
【特許文献】
【0003】
【文献】特開平9-6985号公報
【文献】特開2003-150978号公報
【発明の概要】
【発明が解決しようとする課題】
【0004】
前記した特許文献1,2に記載の技術では、利用者の実写モデルを扱えない上、利用者同士で3次元仮想空間を共有しながらテレビ番組を視聴することも困難である。このため、テレビ番組の視聴における空間共有では、ARグラス等のAR表示装置の利用が現実的である。つまり、テレビ番組を視聴するときに利用者のAR表示装置に相手を表示すれば、テレビ番組の視聴における空間共有を実現できる。
【0005】
また、本願発明者らにより、空間共有に関する研究も行われている。例えば、2人でテレビ番組を視聴している際、相手が利用者の前方にいるとき(例えば、視界に入っているとき)に「2人でテレビ番組を視聴している」という印象が強くなると考えられる。
【0006】
ここで、AR表示装置において、利用者の視界に入るように相手を前方に表示している場合を考える。この場合、現実世界で相手が自分を振り向いても、利用者のAR表示装置では、相手が利用者の前方に位置するため、相手が完全に利用者を振り向いていない状態となる。このように、AR表示装置では、相手が途中までしか振り向かない状態で表示されてしまうため、利用者に違和感を与えてしまう。
【0007】
本発明は、空間共有での違和感を低減できるAR表示制御装置及びそのプログラム、並びに、AR表示システムを提供することを課題とする。
【課題を解決するための手段】
【0008】
前記課題を解決するため、本発明に係るAR表示制御装置は、映像表示装置を視聴する第1の人物が装着するAR表示装置に、他の映像表示装置を視聴する第2の人物を第1の人物が視聴する映像表示装置の側となるように表示するAR表示制御装置であって、視線情報受信部と、モード判定部と、リダイレクションモード表示制御部と、リアルモード表示制御部と、復帰モーションモード表示制御部と、を備える構成とした。
【0009】
かかる構成によれば、視線情報受信部は、第2の人物が第1の人物を見ているか、又は、第2の人物が第1の人物から目をそらしたかを示す視線情報を受信する。
モード判定部は、視線情報に基づいて、第2の人物が所定時間以上第1の人物を見続けている場合にはリダイレクションモードと判定し、第2の人物が第1の人物から目をそらした場合にはリアルモードと判定し、リダイレクションモードと判定された後、第2の人物が所定時間以上第1の人物から目をそらし続けている場合には復帰モーションモードと判定する。
【0010】
リダイレクションモード表示制御部は、リダイレクションモードと判定された場合には、第2の人物が第1の人物を振り向くようにAR表示装置に表示させる。
リアルモード表示制御部は、リアルモードと判定された場合には、第2の人物を実際の姿勢でAR表示装置に表示させる。
復帰モーションモード表示制御部は、復帰モーションモードと判定された場合には、第1の人物に振り向いている第2の人物が実際の姿勢に復帰するようにAR表示装置に表示させる。
このように、AR表示装置では、第2の人物を第1の人物の前方に表示する場合であっても、第2の人物が第1の人物を振り向いた状態となる。
【0011】
また、前記課題を解決するため、本発明に係るAR表示システムは、他の映像表示装置を視聴する第2の人物を撮影する撮影カメラと、撮影カメラの撮影映像を用いて、第2の人物の3次元モデル及び姿勢情報を生成する3次元モデル・姿勢情報生成装置と、前記したAR表示制御装置と、を備える構成とした。
【0012】
かかる構成によれば、AR表示制御装置は、映像表示装置を視聴する第1の人物が装着するAR表示装置に、第2の人物を第1の人物が視聴する映像表示装置の側となるように表示する。
このように、AR表示システムでは、第2の人物を第1の人物の前方に表示する場合であっても、第2の人物が第1の人物を振り向いた状態となる。
【0013】
なお、本発明は、コンピュータを、前記したAR表示制御装置として機能させるためのプログラムで実現することもできる。
【発明の効果】
【0014】
本発明によれば、第2の人物を第1の人物の前方に表示する場合であっても、第2の人物が第1の人物を振り向いた状態となるので、空間共有での違和感を低減することができる。
【図面の簡単な説明】
【0015】
【
図1】第1実施形態に係るAR表示システムの概略図である。
【
図2】テレビ番組の視聴における空間共有を説明する説明図であり、(a)は自分のARグラスの表示方法を示し、(b)は相手のARグラスの表示方法を示す。
【
図3】相手が自分を振り向いた状態を説明する説明図であり、(a)は自分のARグラスの表示方法を示し、(b)は相手のARグラスの表示方法を示す。
【
図4】リダイレクションを説明する説明図であり、(a)は自分のARグラスの表示方法を示し、(b)は相手のARグラスの表示方法を示す。
【
図5】(a)はテレビ番組の視聴における空間共有を説明する説明図であり、(a)は相手が自分を振り向いた状態を説明する説明図であり、(c)はリダイレクションを説明する説明図である。
【
図6】第1実施形態に係るAR表示システムの全体構成図である。
【
図7】第1実施形態に係るキャプチャ装置の構成を示すブロック図である。
【
図8】第1実施形態に係るAR表示制御装置の構成を示すブロック図である。
【
図9】(a)~(c)は、人物が振り向くときの頭部の位置及び体の姿勢の変化を説明する説明図である。
【
図10】
図8のAR表示制御装置の動作を示す状態遷移図である。
【
図11】モーションパス情報の一例を説明する説明図である。
【
図12】(a)及び(b)は、リダイレクションモード表示制御部及び復帰モーションモード表示制御部におけるモーションパスを説明する説明図である。
【
図13】第2実施形態に係るAR表示システムの全体構成図である。
【
図14】第3実施形態に係るAR表示システムの全体構成図である。
【発明を実施するための形態】
【0016】
以下、本発明の各実施形態について図面を参照して説明する。但し、以下に説明する形態は、本発明の技術思想を具体化するためのものであって、特定的な記載がない限り、本発明を以下のものに限定しない。また、各実施形態において、同一の手段には同一の符号を付し、説明を省略することがある。
【0017】
(第1実施形態)
[AR表示システムの概要]
図1~
図5を参照し、AR表示システム1の概要について説明する。
図1に示すように、AR表示システム1は、ARグラス(AR表示装置)4を用いて、テレビ番組の視聴における空間共有を実現するものである。ここで、ARグラス4(4
A,4
B)を装着した2人の人物H(H
A,H
B)が、異なる場所に配置された映像表示装置6(6
A,6
B)でテレビ番組を視聴している。
【0018】
このとき、AR表示システム1は、
図2(a)に示すように、人物(第1の人物)H
Aが装着するARグラス4
Aに人物(第2の人物)H
Bを、人物H
Aから見て映像表示装置6
Aの側にCG合成して表示する。従って、
図5(a)に示すように、人物H
Aが装着するARグラス4
Aには、人物H
Bが前方に表示されている。これと同様、AR表示システム1は、
図2(b)に示すように、人物H
Bが装着するARグラス4
Bに人物H
Aを、人物H
Bから見て映像表示装置(他の映像表示装置)6
Bの側にCG合成して表示する。
なお、
図2~
図4では、ARグラス4を装着している人物Hを実線で図示し、CG合成で表示されている人物Hを破線で図示した。
【0019】
ここで、人物H
Bが人物H
Aに振り向いた場合を考える。
図3(b)に示すように、人物H
BのARグラス4
Bでは人物H
Aが前方に表示されている。従って、人物H
Bが人物H
Aに振り向くときの動作(頭部回転量)が小さくなるが、人物H
Bの頭部は人物H
Aの方向を向いている。その一方、
図3(a)に示すように、人物H
AのARグラス4
Aでも人物H
Bが前方に表示されているため、
図5(b)に示すように、人物H
Bが人物H
Aを完全に振り向いていない状態となる。つまり、人物H
Bが人物H
Aを振り向くときの頭部回転量が足らず、人物H
Bの頭部が人物H
Aの方向を向いていない。そこで、AR表示システム1では、
図4(a)及び
図5(c)に示すように、人物H
Bが人物H
Aを完全に振り向くようにリダイレクション処理を行う。
【0020】
なお、テレビ番組の視聴における空間共有では、人物HBの表示位置は、人物HAの前方であれば任意に設定できる(人物HAの表示位置も同様)。例えば、人物HAから見て人物HBを1メートル前方に表示する。このとき、テレビ番組の視聴を妨害しないように、人物HAの斜め前方に人物HBを表示してもよい。
以後、人物HA,HBの一方を「自分」、人物HA,HBの他方を「相手」と記載する場合がある。
【0021】
[AR表示システムの構成]
図1及び
図6を参照し、AR表示システム1の構成について説明する。
図1及び
図6に示すように、AR表示システム1は、カメラ2と、キャプチャ装置3と、ARグラス4と、AR表示制御装置5とを備える。このAR表示システム1では、ケーブルを介して、カメラ2とキャプチャ装置3とが接続されている。また、AR表示システム1では、AR表示制御装置5がARグラス4に内蔵されており、インターネット等のネットワークNWを介して、キャプチャ装置3とAR表示制御装置5とが接続されている。
【0022】
ここで、AR表示システム1は、2人の人物HA,HBに対応するように、2台のカメラ2(2A,2B)と、2台のキャプチャ装置3(3A,3B)と、2台のARグラス4(4A,4B)と、2台のAR表示制御装置5(5A,5B)とを備える。これらのカメラ2、キャプチャ装置3、ARグラス4及びAR表示制御装置5は、2台とも同一の構成である。また、人物HAが視聴する映像表示装置6を映像表示装置6Aとし、人物HBが視聴する映像表示装置6を映像表示装置6Bとする。
【0023】
カメラ2は、人物Hを撮影する一般的なカメラであり、人物Hの撮影映像をキャプチャ装置3に出力する。この撮影映像は、キャプチャ装置3が人物Hの3DCGモデル及びボーン情報を生成するために必要となる。ここで、カメラ2Aが人物HAの撮影映像をキャプチャ装置3Aに出力し、カメラ2Bが人物HBの撮影映像をキャプチャ装置3Bに出力する。例えば、カメラ2は、人物Hに正対するように映像表示装置6の上部中央に配置されている。また、カメラ2は、1台の一般的なRGBカメラで構成されているが、ステレオカメラやデプスカメラ付きRGBカメラであってもよい。
【0024】
キャプチャ装置3は、カメラ2から入力された人物Hの撮影映像を用いて、人物Hの3DCGモデル及び人物Hのボーン情報を生成するものである。この3DCGモデルは、人物Hの3次元モデルである。また、ボーン情報は、人物Hの各関節の位置、つまり、人物Hの姿勢を表す姿勢情報である。そして、キャプチャ装置3は、ネットワークNWを介して、生成した人物Hの3DCGモデル及びボーン情報をAR表示制御装置5に送信する。
【0025】
ここで、自分の3DCGモデル及びボーン情報は、相手のARグラス4に自分を表示するために必要となる。このため、キャプチャ装置3Aは、人物HAの3DCGモデル及びボーン情報を、人物HBのAR表示制御装置5Bに送信し続ける。これと同様、キャプチャ装置3Bは、人物HBの3DCGモデル及びボーン情報を、人物HAのAR表示制御装置5Aに送信し続ける。
なお、キャプチャ装置3の構成は、後記する。
【0026】
ARグラス4は、一般的なARグラスと同様にARディスプレイ41を備える他、AR表示制御装置5を内蔵している(
図8)。また、ARグラス4は、人物Hの視線を検出する視線センサ40を備え、視線センサ40による視線検出結果をAR表示制御装置5に出力する。
【0027】
AR表示制御装置5は、映像表示装置6で視聴する自分が装着するARグラス4に、他の映像表示装置6で視聴する相手を映像表示装置6の側に表示するものである。また、AR表示制御装置5は、キャプチャ装置3から受信した相手の3DCGモデル及びボーン情報を用いて、相手が完全に自分を振り向くようにリダイレクション処理を行う。
【0028】
ここで、AR表示制御装置5では、リダイレクション処理の要否を判定するために視線人物情報(視線情報)が必要となる。この視線人物情報は、相手が自分を見ているか、又は、相手が自分から目をそらしたかを示す情報である。このため、AR表示制御装置5は、ネットワークNWを介して、相手の視線人物情報を相手側のAR表示制御装置5から受信し続ける。
【0029】
以上を整理すると、人物HAのAR表示制御装置5Aは、キャプチャ装置3Bから受信した人物HBの3DCGモデル及びボーン情報を用いて、人物HAのARグラス4Aに人物HBを表示させる。このとき、AR表示制御装置5Aは、AR表示制御装置5Bから受信した人物HBの視線人物情報に基づいてリダイレクション処理の要否を判定し、人物HBが完全に人物HAを振り向くようにリダイレクション処理を行う。さらに、AR表示制御装置5Aは、人物HAの視線人物情報を生成してAR表示制御装置5Bに送信する。
【0030】
これと同様、人物HBのAR表示制御装置5Bは、キャプチャ装置3Aから受信した人物HAの3DCGモデル及びボーン情報を用いて、人物HBのARグラス4Bに人物HAを表示させる。このとき、AR表示制御装置5Bは、AR表示制御装置5Aから受信した人物HAの視線人物情報に基づいてリダイレクション処理の要否を判定し、人物HAが完全に人物HBを振り向くようにリダイレクション処理を行う。さらに、AR表示制御装置5Bは、人物HBの視線人物情報を生成してAR表示制御装置5Aに送信する。
なお、AR表示制御装置5の構成は、後記する。
【0031】
映像表示装置6は、例えば、テレビ番組を表示する一般的な放送受信機である。また、映像表示装置6は、テレビ番組以外の映像コンテンツ(例えば、ネットワークNWで配信される映像コンテンツ)を表示してもよい。なお、映像表示装置6は、AR表示システム1に含まれていないが、AR表示システム1に密接に関連するので図示した。
【0032】
[キャプチャ装置の構成]
図7を参照し、キャプチャ装置3の構成について説明する。なお、
図7では、ネットワークNWの図示を省略した。
キャプチャ装置3は、撮影映像入力部30と、3DCGモデル生成部31と、ボーン情報生成部32と、3DCG・ボーン情報送信部33とを備える。
【0033】
撮影映像入力部30は、カメラ2から自分の撮影映像を入力するものである。そして、撮影映像入力部30は、入力された自分の撮影映像を3DCGモデル生成部31に出力する。
【0034】
3DCGモデル生成部31は、撮影映像入力部30から入力された自分の撮影映像を用いて、自分の3DCGモデルを生成するものである。
ここで、3DCGモデル生成部31は、3DCGモデルを任意の手法で生成できる。カメラ2が1台のRGBカメラで構成されている場合、3DCGモデル生成部31は、ディープラーニングにより3DCGモデルを生成できる。例えば、3DCGモデル生成部31は、人物の写真を学習させたニューラルネットワークにより、自分の撮影映像に含まれる各フレームから3DCGモデルを生成すればよい。また、カメラ2がステレオカメラの場合、3DCGモデル生成部31は、ステレオ画像から奥行き情報を求め、この奥行き情報から3DCGモデルを生成できる。また、カメラ2がデプスカメラ付きRGBカメラの場合、3DCGモデル生成部31は、デプスカメラの映像が奥行き情報を表すので、ステレオカメラと同様に3DCGモデルを生成できる。
そして、3DCGモデル生成部31は、生成した自分の3DCGモデルをボーン情報生成部32及び3DCG・ボーン情報送信部33に出力する。
【0035】
ボーン情報生成部32は、3DCGモデル生成部31から入力された自分の3DCGモデルを用いて、その自分のボーン情報を生成するものである。つまり、ボーン情報生成部32は、3DCGモデルを動作させるために、3DCGモデルに対応したボーン情報を生成する。ここで、ボーン情報生成部32は、任意の手法(例えば、参考文献1に記載のクイックリグ)でボーン情報を生成できる。そして、ボーン情報生成部32は、生成した自分のボーン情報を3DCG・ボーン情報送信部33に出力する。
【0036】
参考文献1:Maya(登録商標)、[online]、オートデスク株式会社、[令和2年2月13日検索]、インターネット〈URL:https://www.autodesk.co.jp/products/maya/overview〉
【0037】
3DCG・ボーン情報送信部33は、3DCGモデル生成部31から入力された自分の3DCGモデルと、ボーン情報生成部32から入力された自分のボーン情報とを相手側のAR表示制御装置5に送信するものである。
ここで、3DCG・ボーン情報送信部33は、3DCGモデル及びボーン情報を任意の頻度で送信できる。例えば、3DCG・ボーン情報送信部33は、3DCGモデルの送信頻度を低くすると、ネットワークNWの帯域を節約できる。一方、3DCG・ボーン情報送信部33は、ボーン情報の送信頻度を高くすると、3DCGモデルの姿勢変化が滑らかになる。
【0038】
[AR表示制御装置の構成]
図8を参照し、AR表示制御装置5の構成について説明する。なお、
図8では、ネットワークNWの図示を省略した。
【0039】
図8に示すように、AR表示制御装置5は、視線入力部50と、視線判定処理部51と、視線人物情報送信部(視線情報送信部)52と、3DCG・ボーン情報受信部(3次元モデル姿勢情報受信部)53と、視線人物情報受信部(視線情報受信部)54と、モード判定部55と、モーションパス情報記録部56と、リダイレクションモード表示制御部57Aと、リアルモード表示制御部57Bと、復帰モーションモード表示制御部57Cと、バーチャル表示部58とを備える。
【0040】
視線入力部50は、視線センサ40から自分の視線検出結果を入力するものである。そして、視線入力部50は、入力された自分の視線検出結果を視線判定処理部51に出力する。
【0041】
視線判定処理部51は、視線入力部50から入力された自分の視線検出結果に基づいて、自分が相手を見ているか否かを判定するものである。
ここで、視線判定処理部51は、後記するバーチャル表示部58から、ARグラス4に表示されている相手領域の情報が入力されると共に、視線入力部50から、自分の視線検出結果が入力される。この場合、視線判定処理部51は、ARグラス4を装着した自分の視線がARグラス4に表示されている相手領域に重なっているか否かにより、自分が相手を見ているか否かを判定する。つまり、視線判定処理部51は、自分の視線が相手領域に重なっている場合、自分が相手を見ていると判定する。一方、視線判定処理部51は、自分の視線が相手領域に重なっていない場合、自分が相手から目をそらしたと判定する。
その後、視線判定処理部51は、自分が相手を見ているか否かの判定結果を、視線人物情報として視線人物情報送信部52に出力する。
【0042】
視線人物情報送信部52は、ネットワークNWを介して、視線判定処理部51から入力された自分の視線人物情報を相手側のAR表示制御装置5に送信するものである。
【0043】
3DCG・ボーン情報受信部53は、ネットワークNWを介して、相手の3DCGモデル及びボーン情報を相手側のキャプチャ装置3から受信するものである。そして、3DCG・ボーン情報受信部53は、受信した相手の3DCG・ボーン情報をモード判定部55に出力する。
【0044】
視線人物情報受信部54は、ネットワークNWを介して、相手の視線人物情報を相手側のAR表示制御装置5から受信するものである。そして、視線人物情報受信部54は、受信した相手の視線人物情報をモード判定部55に出力する。
【0045】
モード判定部55は、視線人物情報受信部54から入力された相手の視線人物情報に基づいて、リダイレクションモード、リアルモード及び復帰モーションモードの判定を行うものである。
具体的には、モード判定部55は、相手が自分を所定時間以上見続けている場合にリダイレクションモードと判定する。この場合、モード判定部55は、後記するリダイレクションモード表示制御部57Aに対して、リダイレクションモードを指令し、3DCG・ボーン情報を出力する。
また、モード判定部55は、相手が自分から目をそらした場合にリアルモードと判定する。この場合、モード判定部55は、後記するリアルモード表示制御部57Bに対して、リアルモードを指令し、3DCG・ボーン情報を出力する。
さらに、モード判定部55は、リダイレクションモードと判定された後、相手が自分から所定時間以上目をそらし続けている場合に復帰モーションモードと判定する。この場合、モード判定部55は、後記する復帰モーションモード表示制御部57Cに対して、復帰モーションモードを指令し、3DCG・ボーン情報を出力する。
【0046】
モーションパス情報記録部56は、モーションパス情報を予め記録するメモリ、HDD(Hard Disk Drive)、SSD(Solid State Drive)等の記憶装置である。このモーションパス情報は、リダイレクションモード表示制御部57A及び復帰モーションモード表示制御部57Cによって参照される。なお、モーションパスの詳細は、後記する。
【0047】
リダイレクションモード表示制御部57Aは、モード判定部55でリダイレクションモードと判定された場合、相手をリダイレクションモードで表示するようにバーチャル表示部58を制御するものである。このリダイレクションモードとは、相手が完全に自分を振り向くようにARグラス4に表示させるモードのことである。このとき、リダイレクションモード表示制御部57Aは、相手の3DCGモデルが自分を自然に振り向くように所定のモーションパスで表示させる。
【0048】
ここで、
図9(a)~(c)に示すように、相手が振り向く場合、単純に頭部の角度が変化するのではなく、頭部の中心位置(重心位置)P
Cや体の姿勢も変化する。なお、
図9には、頭部の方向を一点鎖線で図示した。そこで、リダイレクションモード表示制御部57Aは、相手の振り向く動作が自然となるように、3DCGモデルの体(肩、腕等の上半身)を頭部に追随させることが好ましい。例えば、リダイレクションモード表示制御部57Aでは、IK(Inverse Kinematics)を用いることで、3DCGモデルの体を頭部に追随させることができる。
【0049】
リアルモード表示制御部57Bは、モード判定部55でリアルモードと判定された場合、相手をリアルモードで表示するようにバーチャル表示部58を制御するものである。このリアルモードとは、相手を実際の姿勢でARグラス4に表示させるモードのことである。つまり、リアルモード表示制御部57Bは、相手の3DCGモデルをボーン情報の姿勢で表示させる。
【0050】
復帰モーションモード表示制御部57Cは、モード判定部55で復帰モーションモードと判定された場合、相手を復帰モーションモードで表示するようにバーチャル表示部58を制御するものである。この復帰モーションモードとは、自分に振り向いている相手が実際の姿勢に復帰するようにARグラス4に表示させるモードのことである。このとき、復帰モーションモード表示制御部57Cは、リダイレクションモード表示制御部57Aのモーションパスと逆のモーションパスで、相手の3DCGモデルが実際の姿勢に復帰するように表示させる。
【0051】
バーチャル表示部58は、リダイレクションモード表示制御部57A、リアルモード表示制御部57B、及び、復帰モーションモード表示制御部57Cからの制御に従って、相手をARグラス4(ARディスプレイ41)にCG合成して表示するものである。つまり、バーチャル表示部58は、リダイレクションモード、リアルモード又は復帰モーションモードの何れかで相手をARグラス4にバーチャル表示する。さらに、バーチャル表示部58は、ARグラス4に表示されている相手領域の情報を視線判定処理部51に出力する。
【0052】
[AR表示制御装置の動作]
図10を参照し、AR表示制御装置5の動作を説明する。
以下、人物H
AのARグラス4
Aに人物H
Bを表示するときのAR表示制御装置5
Aの動作を一例として説明する。また、人物H
Aを「自分」とし、人物H
Bを「相手」と記載する場合がある。
【0053】
まず、AR表示システム1の全体動作を整理する。
相手側のカメラ2Bが人物HBを撮影し、カメラ2Bの撮影映像を用いて、相手側のキャプチャ装置3Bが人物HBの3DCGモデル及びボーン情報を生成する。そして、相手側のキャプチャ装置3Bが、人物HBの3DCGモデル及びボーン情報を、自分のAR表示制御装置5Aに送信する。さらに、相手側のAR表示制御装置5Bが、人物HBの視線人物情報を自分のAR表示制御装置5Aに送信する。
【0054】
そして、自分のAR表示制御装置5Aが、人物HBの3DCGモデルとボーン情報と視線人物情報とを用いて、人物HAのARグラス4Aに人物HBを表示させる。このとき、AR表示制御装置5Aは、以下で説明する動作を行う。
【0055】
図10に示すように、AR表示制御装置5
Aのモード判定部55は、初期状態S0からリアルモード状態S1に遷移する。例えば、ARグラス4
Aの電源投入時又はリセット時、AR表示制御装置5
Aが初期状態になる。
【0056】
リアルモード状態S1において、モード判定部55は、リアルモード表示制御部57Bにリアルモードを指令する。すると、リアルモード表示制御部57Bは、人物HAのARグラス4Aに人物HBをリアルモードで表示させる。
【0057】
また、リアルモード状態S1において、モード判定部55は、人物HBの視線人物情報に基づいて、人物HBが自分を見たか否かを判定する。
人物HBが自分を見た場合、モード判定部55は、リアルモード(判定処理)状態S2に遷移する。
【0058】
リアルモード(判定処理)状態S2において、モード判定部55は、人物HBの視線人物情報に基づいて、人物HBが自分を見続けている時間t1が、予め設定された閾値T1以上であるか否かを判定する。この閾値T1は、任意の値で設定できる(例えば、閾値T1=1秒)。
時間t1が閾値T1以上の場合、モード判定部55は、リダイレクションモード状態S3に遷移する。
【0059】
また、リアルモード(判定処理)状態S2において、モード判定部55は、人物HBの視線人物情報に基づいて、人物HBが自分から目をそらしたか否かを判定する。
人物HBが自分から目をそらした場合、モード判定部55は、リアルモード状態S1に遷移する。
人物HBが自分から目をそらしておらず、かつ、時間t1が閾値T1未満の場合、モード判定部55は、リアルモード(判定処理)状態S2の状態を維持する。
【0060】
リダイレクションモード状態S3において、モード判定部55は、リダイレクションモード表示制御部57Aにリダイレクションモードを指令する。すると、リダイレクションモード表示制御部57Aは、人物HAのARグラス4Aに人物HBをリダイレクションモードで表示させる。
【0061】
また、リダイレクションモード状態S3において、モード判定部55は、人物HBの視線人物情報に基づいて、人物HBが自分から目をそらしたか否かを判定する。
人物HBが自分から目をそらした場合、モード判定部55は、リダイレクションモード(判定処理)状態S4に遷移する。
人物HBが自分を見ている場合、モード判定部55は、リダイレクションモード状態S3の状態を維持する。
【0062】
リダイレクションモード(判定処理)状態S4において、モード判定部55は、人物HBの視線人物情報に基づいて、人物HBが自分から目をそらし続けている時間t2が、予め設定された閾値T2以上であるか否かを判定する。この閾値T2は、任意の値で設定できる(例えば、閾値T2=1秒)。
時間t2が閾値T2以上の場合、モード判定部55は、復帰モーションモード状態S5に遷移する。
【0063】
また、リダイレクションモード(判定処理)状態S4において、モード判定部55は、人物HBの視線人物情報に基づいて、人物HBが自分を見たか否かを判定する。
人物HBが自分を見た場合、モード判定部55は、リダイレクションモード状態S3に遷移する。
人物HBが自分を見ておらず、かつ、時間t2が閾値T2未満の場合、モード判定部55は、リダイレクションモード(判定処理)状態S4の状態を維持する。
【0064】
復帰モーションモード状態S5において、モード判定部55は、復帰モーションモード表示制御部57Cに復帰モーションモードを指令する。すると、復帰モーションモード表示制御部57Cは、人物HAのARグラス4Aに人物HBを復帰モーションモードで表示させる。
復帰モーションが終了すると、モード判定部55は、リアルモード状態S1に遷移する。
【0065】
なお、人物HBのARグラス4Bに人物HAを表示するときのAR表示制御装置5Bの動作も同様のため、説明を省略する。
【0066】
[モーションパス]
図11及び
図12を参照し、リダイレクションモード表示制御部57A及び復帰モーションモード表示制御部57Cにおけるモーションパスについて説明する。
【0067】
リダイレクションモード表示制御部57Aは、人物HBの頭部が実際の姿勢(頭部角度θ1)から人物HAを振り向く角度(頭部角度θ2)まで、人物HBの3DCGモデルが人物HAを振り向くように連続的に表示させる。このとき、リダイレクションモード表示制御部57Aは、モーションパス情報記録部56のモーションパス情報を用いて、頭部角度θ1から頭部角度θ2までのモーションパスを決定する。
【0068】
図11に示すように、モーションパス情報MPは、人物H
Bの頭部角度θ毎に、頭部位置(x
θ,y
θ,z
θ)及び頭部回転量(rx
θ,ry
θ,rz
θ)を示す情報である。つまり、モーションパス情報MPは、前方(角度θ=0°)から頭部角度θまでの頭部位置(x
θ,y
θ,z
θ)及び頭部回転量(rx
θ,ry
θ,rz
θ)の変化量を示す。なお、
図11のモーションパス情報MPでは、頭部角度θが30°間隔になっているが、頭部角度θの間隔は特に限定されない。
【0069】
図12(a)に示すように、AR表示制御装置5
Aでは、実際の姿勢(頭部角度θ
1)における人物H
Bの頭部位置(x,y,z)及び頭部回転量(rx,ry,rz)を常に把握している。従って、リダイレクションモード表示制御部57Aは、実際の姿勢(頭部角度θ
1)における人物H
Bの頭部位置(x,y,z)及び頭部回転量(rx,ry,rz)を、人物H
Aを基準とする座標系に座標変換することで、
図12(b)に示すように、人物H
Aを振り向く角度(頭部角度θ
2)を算出できる。この座標変換は、人物H
AのARグラス4Aにおいて、人物H
Bを表示させるときのものと同様である。なお、人物H
Bの頭部の方向は、Y軸を鉛直とする方向ryで表される(人物H
Bの正面として映像表示装置6
Bの方向(
図12(b)の上方向)を0°とする)。
【0070】
そして、リダイレクションモード表示制御部57Aは、算出した頭部角度θ2に応じたモーションパスで、人物HBが人物HAを振り向くようにARグラス4Aに表示させる。以下、モーションパスの決定について、2つの具体例をあげて説明する。
【0071】
<モーションパスの決定:第1例>
この第1例の手法では、リダイレクションモードと判定された時刻t=0とし、時刻t=T3のときの人物HBが人物HAを完全に振り向くように、各時刻tのモーションパスを決定する(但し、0≦t≦T3)。
【0072】
ここで、各時刻tの頭部角度θtを算出する関数は、以下の式(1)で表される。また、人物HBの頭部をより自然にリダイレクションさせるため、以下の式(2)に示す2次補間関数としてもよい。
【0073】
【0074】
まず、リダイレクションモード表示制御部57Aは、式(1)又は式(2)の関数を用いて、頭部角度θ
1,θ
2から各時刻tの頭部角度θ
tを算出する。なお、この頭部角度θ
tは、座標変換前の人物H
Bを基準とする座標系で算出される。そして、リダイレクションモード表示制御部57Aは、
図11のモーションパス情報MPから、各時刻tの頭部角度θ
tに対応した人物H
Bの頭部位置(x
t,y
t,z
t)及び頭部回転量(rx
t,ry
t,rz
t)を求める。その後、リダイレクションモード表示制御部57Aは、各時刻tの人物H
Bの頭部位置(x
t,y
t,z
t)及び頭部回転量(rx
t,ry
t,rz
t)を、人物H
Aを基準とする座標系に座標変換する。
【0075】
さらに、リダイレクションモード中に人物HAが動いてしまい、人物HAを振り向く角度(頭部角度θ2)が変化してしまう場合もある。この場合、リダイレクションモード表示制御部57Aは、定期的に頭部角度θ1,θ2を再計算して頭部角度θtを求め、人物HBの頭部位置(xt,yt,zt)及び頭部回転量(rxt,ryt,rzt)を算出すればよい。
【0076】
<モーションパスの決定:第2例>
前記した第1例の手法では、リダイレクションモードに入った時点で即座に、人物HBの頭部位置(x,y,z)及び頭部回転量(rx,ry,rz)がモーションパス情報MPの値で設定されてしまい、急な姿勢変化となって違和感を与えてしまう可能性がある。
【0077】
そこで、第2例の手法では、実際の姿勢における人物HBの頭部位置(x,y,z)及び頭部回転量(rx,ry,rz)から、徐々にモーションパス情報MPの頭部位置(xθ,yθ,zθ)及び頭部回転量(rxθ,ryθ,rzθ)に近づける。
【0078】
説明を簡易にするため、頭部位置のx座標に着目する。リダイレクションモード表示制御部57Aは、以下の式(3)を用いて、現フレームにおける頭部位置のx座標から、次フレームにおける頭部位置のx´座標を算出する。この式(3)は、予め設定された定数kによる漸化式である。この定数kの値を大きくするほど、モーションパス情報MPの頭部位置(xθ,yθ,zθ)及び頭部回転量(rxθ,ryθ,rzθ)にゆっくりと近づく(但し、k≧1)。また、定数k=1に設定すると、第1例と同様になる。
なお、頭部位置のy座標及びz座標と、頭部回転量(rx,ry,rz)とについても、頭部位置のx座標と同様の漸化式で算出できる。
【0079】
【0080】
復帰モーションモード表示制御部57Cは、リダイレクションモード表示制御部57Aにおけるモーションパスと逆のモーションパスで、人物HAに振り向いている人物HBが実際の姿勢に復帰するようにARグラス4Aに表示させればよい。ここで、復帰モーションモード表示制御部57Cは、リダイレクションモード表示制御部57Aと同様の手法でモーションパスを決定できるため、説明を省略する。
また、人物HBのARグラス4Bに人物HAを表示するときのモーションパスも同様のため、説明を省略する。
【0081】
[作用・効果]
以上のように、第1実施形態に係るAR表示システム1は、自分のARグラス4において、相手を前方に表示する場合であっても、相手が完全に自分を振り向いた状態となるので、空間共有での違和感を低減することができる。
さらに、AR表示システム1は、自分側と相手側との装置構成が同一なので、システム構成を簡易にすることができる。
【0082】
(第2実施形態)
[AR表示システムの構成]
図13を参照し、第2実施形態に係るAR表示システム1Bの構成について、第1実施形態と異なる点を説明する。
【0083】
図13に示すように、第2実施形態に係るAR表示システム1Bは、キャプチャ装置3Bをサーバ化した点が、第1実施形態と異なる。つまり、AR表示システム1Bは、2台のカメラ2B(2B
A,2B
B)と、1台のキャプチャ装置3Bと、2台のARグラス4(4
A,4
B)と、2台のAR表示制御装置5(5
A,5
B)とを備える。
【0084】
カメラ2Bは、ネットワークNWを介して、人物Hの撮影映像をキャプチャ装置3Bに送信する一般的なネットワークカメラである。このとき、カメラ2Bは、撮影した人物Hの識別情報を撮影映像に付加してもよい。この識別情報を参照すれば、後記するキャプチャ装置3Bが、人物HA又は人物HBの何れの撮影映像であるか特定できる。
【0085】
キャプチャ装置3Bは、カメラ2Bから入力された人物Hの撮影映像を用いて、人物Hの3DCGモデル及び人物Hのボーン情報を生成するものである。つまり、キャプチャ装置3Bは、人物HA,HBの3DCGモデル及びボーン情報を生成する。例えば、キャプチャ装置3Bは、ネットワークNW上に配置された一般的なサーバやクラウドサーバで構成できる。そして、キャプチャ装置3Bは、識別情報を参照し、人物HAの3DCGモデル及びボーン情報をAR表示制御装置5Bに送信し、人物HBの3DCGモデル及びボーン情報をAR表示制御装置5Aに送信する。
他の点、キャプチャ装置3Bは、第1実施形態と同様のため、これ以上の説明を省略する。
【0086】
[作用・効果]
以上のように、第1実施形態に係るAR表示システム1Bは、第1実施形態と同様、空間共有での違和感を低減することができる。
さらに、AR表示システム1Bは、キャプチャ装置3Bをサーバ化することで、1台のキャプチャ装置3Bで実現可能となり、システム構成をより簡易にすることができる。
【0087】
(第3実施形態)
[AR表示システムの構成]
図14を参照し、第3実施形態に係るAR表示システム1Cの構成について、第1実施形態と異なる点を説明する。
【0088】
図14に示すように、第3実施形態に係るAR表示システム1Cは、キャプチャ装置3CをARグラス4Cに内蔵すると共に撮影映像を送受信する点が、第1実施形態と異なる。つまり、AR表示システム1Cは、2台のカメラ2C(2C
A,2C
B)と、2台のキャプチャ装置3C(3C
A,3C
B)と、2台のARグラス4C(4C
A,4C
B)と、2台のAR表示制御装置5(5
A,5
B)とを備える。
【0089】
カメラ2Cは、ネットワークNWを介して、人物Hの撮影映像を相手側のARグラス4Cに内蔵されたキャプチャ装置3Cに送信する一般的なネットワークカメラである。つまり、カメラ2Aは、人物HAの撮影映像を人物HBが装着するARグラス4CBのキャプチャ装置3Bに送信する。さらに、カメラ2Bは、人物HBの撮影映像を人物HAが装着するARグラス4CAのキャプチャ装置3Aに送信する。
【0090】
キャプチャ装置3Cは、ネットワークNWを介して、カメラ2Cから人物Hの撮影映像を受信し、受信した撮影映像を用いて、人物Hの3DCGモデル及びボーン情報を生成するものである。また、キャプチャ装置3Cは、ARグラス4Cに内蔵されている。
他の点、キャプチャ装置3C及びARグラス4Cは、第1実施形態と同様のため、これ以上の説明を省略する。
【0091】
[作用・効果]
以上のように、第3実施形態に係るAR表示システム1Cは、第1実施形態と同様、空間共有での違和感を低減することができる。
さらに、AR表示システム1Cは、3DCGモデルやボーン情報よりもデータ量が少ない撮影映像を送受信するので、ネットワークNWの通信帯域を節約することができる。
【0092】
(変形例)
以上、本発明の実施形態を詳述してきたが、本発明は前記した実施形態に限られるものではなく、本発明の要旨を逸脱しない範囲の設計変更等も含まれる。
前記した各実施形態では、AR表示装置がARグラスであることとして説明したが、これに限定されない。例えば、AR表示装置がAR表示機能を有するスマートフォンであってもよい。
前記した各実施形態では、AR表示制御装置がARグラスに内蔵されることとして説明したが、AR表示制御装置をARグラスの外部に備えてもよい。
【0093】
前記した各実施形態では、AR表示装置をハードウェアとして説明したが、本発明は、これに限定されない。例えば、本発明は、コンピュータが備えるCPU、メモリ、ハードディスク等のハードウェア資源を、前記したAR表示装置として動作させるプログラムで実現することもできる。これらのプログラムは、通信回線を介して配布してもよく、CD-ROMやフラッシュメモリ等の記録媒体に書き込んで配布してもよい。
【符号の説明】
【0094】
1~1C AR表示システム
2~2C カメラ
3~3C キャプチャ装置
4,4C ARグラス
5 AR表示制御装置
6 映像表示装置
30 撮影映像入力部
31 3DCGモデル生成部
32 ボーン情報生成部
33 3DCG・ボーン情報送信部
40 視線センサ
41 ARディスプレイ
50 視線入力部
51 視線判定処理部
52 視線人物情報送信部(視線情報送信部)
53 3DCG・ボーン情報受信部(3次元モデル姿勢情報受信部)
54 視線人物情報受信部(視線情報受信部)
55 モード判定部
56 モーションパス情報記録部
57A リダイレクションモード表示制御部
57B リアルモード表示制御部
57C 復帰モーションモード表示制御部
58 バーチャル表示部