(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】
(24)【登録日】2024-11-01
(45)【発行日】2024-11-12
(54)【発明の名称】画像生成装置及び画像生成方法
(51)【国際特許分類】
G06F 3/01 20060101AFI20241105BHJP
G06T 19/00 20110101ALI20241105BHJP
【FI】
G06F3/01 510
G06T19/00 300B
(21)【出願番号】P 2021042758
(22)【出願日】2021-03-16
【審査請求日】2023-11-07
(73)【特許権者】
【識別番号】000003997
【氏名又は名称】日産自動車株式会社
(73)【特許権者】
【識別番号】507308902
【氏名又は名称】ルノー エス.ア.エス.
【氏名又は名称原語表記】RENAULT S.A.S.
【住所又は居所原語表記】122-122 bis, avenue du General Leclerc, 92100 Boulogne-Billancourt, France
(74)【代理人】
【識別番号】110000486
【氏名又は名称】弁理士法人とこしえ特許事務所
(72)【発明者】
【氏名】井上 裕史
(72)【発明者】
【氏名】志小田 雄宇
(72)【発明者】
【氏名】河西 純
【審査官】酒井 保
(56)【参考文献】
【文献】特開2020-145612(JP,A)
【文献】特開2006-031229(JP,A)
【文献】特開2009-093076(JP,A)
【文献】特開2004-206218(JP,A)
【文献】米国特許出願公開第2009/0099824(US,A1)
(58)【調査した分野】(Int.Cl.,DB名)
G06F 3/01
G06T 19/00
G09B 9/00
(57)【特許請求の範囲】
【請求項1】
車両に設けられた装置から、前記車両の挙動の情報を含む車両情報を取得する車両情報取得部と、
前記車両の車室内における仮想視点から所定方向を見た画像を第1の視点画像として生成する画像生成部と、
前記画像生成部により生成された画像を、前記車室とは異なる空間に設けられた表示装置に表示するための制御信号を出力する表示制御部と、を備え、
前記画像生成部は、
前記第1の視点画像に写された前記車室内の被写体の位置と前記仮想視点との相対的な位置関係を、前記挙動に基づいて変化させることで、第2の視点画像を生成
し、
前記第1の視点画像及び前記第2の視点画像を生成する第1モードと、前記第1の視点画像を生成し、前記第2の視点画像を生成しない第2モードとを切り替えることができ、
前記挙動が絶えず変化する場合は、前記第1モードから前記第2モードに切り替える、画像生成装置。
【請求項2】
前記第1の視点画像は、前記仮想視点から見た前記車両の内装を示す内装画像を含み、
前記第2の視点画像は、前
記挙動に応じて前記内装画像の表示態様が変化した画像である
、請求項1に記載の画像生成装置。
【請求項3】
前記画像生成部は、
前記挙動に基づいて、前記挙動の変化に応じた前記仮想視点の変位方向及び変位量を算出し、
前記仮想視点の変位方向及び変位量に基づいて、前記内装画像の表示態様を変化させる
、請求項2に記載の画像生成装置。
【請求項4】
前記挙動の情報は、前記車両の加速度を含み、
前記画像生成部は、前記車両の加速度に基づいて、前記内装画像の大きさを変更する
、請求項2又は3に記載の画像生成装置。
【請求項5】
前記挙動の情報は、前記車両のピッチ方向の角加速度を含み、
前記画像生成部は、前記ピッチ方向の角
加速度に基づいて、前記内装画像の表示位置を変更する
、請求項2~4のいずれか一項に記載の画像生成装置。
【請求項6】
前記挙動の情報は、前記車両のロール方向の角加速度を含み、
前記画像生成部は、前記ロール方向の角加速度に基づいて、前記内装画像を傾ける
、請求項2~5のいずれか一項に記載の画像生成装置。
【請求項7】
前記画像生成部は、前記車両の乗員の頭部に相当する位置に前記仮想視点を設定する
、請求項1~6のいずれか一項に記載の画像生成装置。
【請求項8】
前記画像生成部は、
前記車両が、舗装されていない道路を走行する場合は、前記第1モードから前記第2モードに切り替える
、請求項1~7のいずれか一項に記載の画像生成装置。
【請求項9】
前記画像生成部は、前記内装画像の表示態様を変化させる割合を、前記仮想視点の前記変位量と同じ割合に設定する
、請求項3に記載の画像生成装置。
【請求項10】
前記画像生成部は、前記内装画像の表示態様を変化させる割合を、前記仮想視点の前記変位量よりも大きい割合に設定する
、請求項3に記載の画像生成装置。
【請求項11】
プロセッサにより実行され、車両の室内とは異なる空間に設けられた表示装置に表示する画像を生成する画像生成方法であって、
前記車両に設けられた装置から、前記車両の挙動の情報を含む車両情報を取得し、
前記車両の室内における仮想視点から所定方向を見た画像を第1の視点画像として生成し、
前記第1の視点画像に写された被写体の位置と前記仮想視点との相対的な位置関係を、前記挙動に基づいて変化させることで、第2の視点画像を生成
し、
前記第1の視点画像及び前記第2の視点画像を生成する第1モードと、前記第1の視点画像を生成し、前記第2の視点画像を生成しない第2モードとを切り替えることができ、
前記挙動が絶えず変化する場合は、前記第1モードから前記第2モードに切り替える、画像生成方法。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、画像生成装置及び画像生成方法に関する。
【背景技術】
【0002】
車両が移動する際に、現実空間に存在するオブジェクトを現実空間に存在しないオブジェクトに置換した仮想空間を、車両の乗員に表示し、乗員が車両の動きに違和感を覚えるのを避ける仮想空間表示システムが知られている(例えば、特許文献1)。
【先行技術文献】
【特許文献】
【0003】
【発明の概要】
【発明が解決しようとする課題】
【0004】
特許文献1に記載の仮想空間表示システムでは、現実空間に存在しないオブジェクトを表示させるため、車両に乗車していないユーザは視覚を通じて車両の動きを把握することが難しい、という問題がある。
【0005】
本発明が解決しようとする課題は、車両に乗車していないユーザが視覚を通じて車両の動きを把握しやすい画像生成装置及び画像生成方法を提供することである。
【課題を解決するための手段】
【0006】
本発明は、車両に設けられた装置から、車両の挙動の情報を含む車両情報を取得し、車両の車室とは異なる空間に設けられた表示装置に表示する画像であって、車室内における仮想視点から所定方向を見た画像を第1の視点画像として生成し、第1の視点画像に写された車室内の被写体の位置と仮想視点との相対的な位置関係を、車両の挙動に基づいて変化させることで、第2の視点画像を生成し、第1の視点画像及び第2の視点画像を生成する第1モードと、第1の視点画像を生成し、第2の視点画像を生成しない第2モードとを切り替えることができ、車両の挙動が絶えず変化する場合は、第1モードから第2モードに切り替えることで、上記課題を解決する。
【発明の効果】
【0007】
本発明によれば、車両に乗車していないユーザは、第2の視点画像を視認することにより、視覚を通じて車両の動きを把握しやすくなる。
【図面の簡単な説明】
【0008】
【
図1】本実施形態に係る画像表示システムのブロック図である。
【
図2】第1の視点画像を説明するための説明図である。
【
図3】内装画像の表示態様の変化として、内装画像の大きさを拡大又は縮小した場合の説明図である。
【
図4】内装画像の表示態様の変化として、内装画像の表示位置を上下方向に変更した場合の説明図である。
【
図5】内装画像の表示態様の変化として、内装画像を左右方向に傾けた場合の説明図である。
【
図6】本実施形態に係る画像生成装置により実行される画像表示制御を示すフローチャートである。
【
図7】変形例に係る画像生成装置により実行される画像表示制御を示すフローチャートである。
【
図8】表示装置がヘッドマウントディスプレイに組み込まれた場合における仮想空間の例である。
【発明を実施するための形態】
【0009】
以下、本発明の実施形態を図面に基づいて説明する。
本実施形態では、本発明に係る画像生成装置及び画像生成方法を、画像表示システムに適用した例を用いて説明する。
【0010】
図1は、本実施形態に係る画像表示システム100のブロック図である。本実施形態に係る画像表示システム100は、ユーザBとは異なる空間にいるユーザAに対して、ユーザBがいる空間を再現した仮想空間を表示する場面に用いられる。本実施形態では、ユーザAとして、車両1から離間した場所である遠隔地空間30にいるユーザを例に挙げ、ユーザBとして、車両1に乗車しており、車内空間20にいるユーザを例に挙げて説明する。以降の説明では、便宜上、遠隔地空間30にいるユーザAを遠隔地ユーザAと称し、車内空間20にいるユーザBを車内ユーザBと称して説明する。
【0011】
なお、本実施形態において、遠隔地ユーザAと車内ユーザBとの状態は特に限定されない。例えば、
図1では、遠隔地ユーザAの状態として着座した状態を示しているが、遠隔地ユーザAは起立していてもよい。また例えば、
図1では、車内ユーザBの状態として、車両1のステアリングを操作している状態を示しているが、車内ユーザBはドライバではなく、助手席又は後部座席に着座する乗員であってもよい。
【0012】
また本実施形態では、画像表示システム100が仮想現実(Virtual Reality)の技術を利用したシステムに用いられた場合を例に挙げて説明する。
図1に示すように、遠隔地ユーザAと車内ユーザBとはそれぞれ異なる空間にいるため、遠隔地ユーザAは、車内空間20で車内ユーザBがどのような光景を視認しているかを確認することはできない。しかし、コンピュータによって作り出された世界である仮想空間を現実としてユーザに知覚させる仮想現実の技術では、コンピュータは、遠隔地ユーザAに対して、あたかも車内空間20にいるような仮想空間を作り出すことができる。仮想空間では、遠隔地ユーザAは、少なくとも視覚及び聴覚を通じて、あたかも車内空間20にいるかのように知覚する。さらに、本発明に係る画像生成装置及び画像生成方法により、仮想空間は車両1の挙動に応じて変化するため、遠隔地ユーザAは、遠隔地空間30にいながらも、視覚を通じて車両1の挙動を把握することができる。以降、
図1を用いて、画像表示システム100の各構成を説明する。
【0013】
図1に示すように、画像表示システム100は、画像生成装置10、車内空間20、及び遠隔地空間30を含む。遠隔地空間30は、車内空間20から離間した空間である。遠隔地空間30としては、例えば、車両1とは別の車両の室内や建物の一室などが挙げられるが、遠隔地空間30は車内空間20とは別の場所であれば特に限定されない。
【0014】
車内空間20は、車両1の車室内を示す空間である。車両1には、車載カメラ21、車載センサ22、車載通信装置23が設けられている。
図1では、これらの装置が車内空間20内に設けられているように示されているが、車載カメラ21、車載センサ22、及び車載通信装置23は、車両1に搭載されているものとする。車両1に設けられた各装置は、相互に情報の送受信を行うために、例えばCAN(Controller Area Network)その他の車載ネットワーク(イーサネット(商標登録)など)によって接続されている。
【0015】
車載カメラ21は、車両1の周辺を撮像する撮像装置である。車載カメラ21は、車両1の乗員が視認できる範囲を撮像できるように設けるのが好ましく、車両の前方を撮像する前方カメラ、車両の側方を撮像する側方カメラ、車両の後方を撮像する後方カメラと、複数のカメラで構成されていてもよい。車載カメラ21により撮像された撮像画像は、車両1の周辺撮像画像データとして、車載通信装置23に出力される。車載カメラ21は、車両1の乗員が視認できる範囲を撮像する装置又は機器であればよく、その形態、数、特性、設置場所などは特に限定されない。例えば、車載カメラ21は、複数のカメラ又は種別が複数のカメラで構成されていてもよい。
【0016】
車載センサ22は、車両1の現在の状態を検出するセンサである。車両1の現在の状態とは、車両1の現在の挙動である。車両1の現在の挙動は、車両1の現在の姿勢を含む。車載センサ22の種類や数は特に限定されない。本実施形態では、車両1の挙動を示すパラメータとして、車両1の加速度及び角加速度を例に挙げて説明するが、車両1の挙動を示すパラメータは、車両1の加速度及び角速度のうち少なくともいずれか一つを含んでいればよい。
図1に示すように、車載センサ22は、加速度センサ22a及び角加速度センサ22bで構成される。
【0017】
加速度センサ22aは、車両1の3軸における加速度を計測するセンサ、いわゆる3軸加速度センサである。車両1の3軸とは、車両1の縦方向に沿う軸(x軸)、車両1の横方向に沿う軸(y軸)、車両1の上下方向に沿う軸(z軸)である。加速度センサ22aとしては、例えば、MEMS型の加速度センサが挙げられる。なお、加速度センサ22aにおける加速度の計測方法は特に限定されない。加速度センサ22aにより計測された車両1の各軸の加速度は、車両1の加速度データとして、車載通信装置23に出力される。加速度センサ22aは、車両1の3軸における加速度を計測する装置又は機器であればよく、その形態、数、特性、設置場所などは特に限定されない。例えば、加速度センサ22aは、複数の加速度センサ又は種別が複数の加速度センサで構成されていてもよい。
【0018】
角加速度センサ22bは、車両1の回転運動を計測するセンサである。車両1の回転運動は、車両1のロール方向の回転運動、車両1のピッチ方向の回転運動、車両1のヨー方向の回転運動を含む。角加速度センサ22bは、例えば、車両1のロール方向の角加速度を計測するロール角加速度センサ、車両1のピッチ方向の角加速度を計測するピッチ角加速度センサ、車両1のユー方向の角加速度を計測するヨー角加速度センサで構成される。なお、角加速度センサ22bにおける角加速度の計測方法は特に限定されない。角加速度センサ22bにより計測された車両1の各方向の角加速度は、車両1の角加速度データとして、車載通信装置23に出力される。角加速度センサ22bは、車両1の3方向における角加速度を計測する装置又は機器であればよく、その形態、数、特性、設置場所などは特に限定されない。例えば、角加速度センサ22bは、複数の角加速度センサ又は種別が複数の角加速度センサで構成されていてもよい。
【0019】
車載通信装置23は、車両1の外部との間で無線によりデータを送受信する無線通信機能を備えた機器である。車載通信装置23としては、例えば、テレマティクスコントロールユニット(TCU:Telematics Control Unit)が挙げられる。車載通信装置23は、無線通信機能により、例えば、4G/LTE、Wifi(商標登録)等の通信規格を利用して、インターネットに接続し、車両1の外部に設けられたサーバーやシステムとの間で様々なデータの送受信を行う。車載通信装置23には、車載カメラ21から、車両1の周辺撮像画像データが入力される。また車載通信装置23には、車載センサ22から、車両1の加速度データ及び角加速度データが入力される。車載通信装置23は、所定の周期ごとに、車両1の周辺撮像画像データ、加速度データ、及び角加速度データを画像生成装置10に送信する。
【0020】
遠隔地空間30について説明する。
図1に示すように、遠隔地空間30には、遠隔地通信装置31、及び表示装置32が設けられている。遠隔地空間30に設けられた各装置は、相互に情報の送受信を行うために、例えばイーサネット(商標登録)などによって接続されている。
【0021】
遠隔地通信装置31は、遠隔地空間30の外部との間で無線によりデータを送受信する無線通信機能を備えた機器である。遠隔地通信装置31としては、例えば、ルーターが挙げられる。遠隔地通信装置31が備える無線通信機能は、車載通信装置23が備える無線通信機能と同様のため、車載通信装置23が備える無線通信機能での説明を援用する。本実施形態では、遠隔地通信装置31は、画像生成装置10との間でデータの送受信を行う。遠隔地通信装置31には、画像生成装置10から画像データが入力され、遠隔地通信装置31は、画像データを表示装置32に出力する。
【0022】
表示装置32は、画像生成装置10により生成された画像を表示する。表示装置32には、遠隔地通信装置31を介して、画像生成装置10により生成された画像データが入力される。本実施形態では、表示装置32は、液晶パネルなどのディスプレイを有している。例えば、表示装置32としては、テレビやモニターなどが挙げられる。
【0023】
画像生成装置10について説明する。本実施形態では、画像生成装置10は、車内空間20及び遠隔地空間30の外部にあるサーバー(図示しない)に設けられている。画像生成装置10は、サーバーにある通信装置(図示しない)を介して、車載通信装置23及び遠隔地通信装置31との間で、無線によりデータを送受信する。なお、画像生成装置10の設置場所は特に限定されるものではなく、例えば、画像生成装置10は、車両1に搭載されていてもよい。また例えば、画像生成装置10は、遠隔地空間30に設けられていてもよい。
【0024】
画像生成装置10は、遠隔地ユーザAが視認する画像を生成処理するためのプログラムを格納したROM(Read Only Memory)と、このROMに格納されたプログラムを実行するCPU(Central Processing Unit)と、アクセス可能な記憶装置として機能するRAM(Random Access Memory)とから構成されるコンピュータである。画像生成装置10は、車両情報取得部11、記憶部12、画像生成部13、及び表示制御部14を有している。画像生成装置10は、ROMに格納されたプログラムを実行することで、車両情報取得部11、記憶部12、画像生成部13、及び表示制御部14の機能を実行することができる。画像生成装置10の各機能について説明する。
【0025】
車両情報取得部11は、車両1に設けられた装置から、車両1の挙動の情報を含む車両情報を取得する。具体的に、車両情報取得部11は、車載通信装置23を介して、車載カメラ21により撮像された車両1の周辺撮像画像、及び車載センサ22により検出された車両1の加速度及び角加速度を取得する。例えば、車両情報取得部11は、所定の周期ごとに、車両1から車両情報を取得する。
【0026】
記憶部12は、車両1の内装を表した内装画像を記憶する。内装画像は、画像生成部13により、車両1の車内空間20を再現した仮想空間の生成に用いられる。記憶部12は、複数の種別の内装画像を記憶しており、例えば、車両1の車種やグレードごとに、内装画像を記憶する。内装画像としては、例えば、ステアリング、シフトレバー、ナビゲーション操作部、エアコン操作部、ダッシュボード、スピードメーターなどを含むインストルメントパネルの画像が挙げられる。なお、内装画像は、インストルメントパネルの画像に限定されず、例えば、運転席の画像、助手席の画像、後部座席の画像、ドアの内側が表された画像、天井や床の画像などであってもよい。
【0027】
画像生成部13は、車内空間20を再現した仮想空間を生成し、所定の仮想視点から見た画像を生成する。本実施形態では、車両1の車室内における仮想視点から所定方向を見た画像を第1の視点画像と称し、車両1の挙動に応じて第1の視点画像が変化した画像を第2の視点画像と称して説明する。
【0028】
画像生成部13は、第1の視点画像を生成するために、車両1の車室内における所定の位置に仮想視点を設定する。仮想視点を車室内のどの場所に設けるかは、特に限定されないが、仮想視点は、表示装置32に画像が表示された際に、当該画像を視認する遠隔地ユーザAが車両1に乗車していると体感可能な場所に設定されるのが好ましい。画像生成部13は、例えば、車両1の乗員の頭部に相当する位置に仮想視点を設定する。なお、車両1の乗員の頭部の位置情報は、記憶部12に予め記憶されている。
【0029】
次に、第1の視点画像の生成方法の一例について説明する。画像生成部13は、仮想視点を設定すると、車両1の周辺撮像画像に基づき、車両1の周辺の状況を表した画像を生成する。そして、画像生成装置10は、仮想視点から見た車両1の内装画像を記憶部12から読み出し、内装画像を車両1の周辺の状況を表した画像に重畳させることで、車両1の車内空間20を再現した仮想空間を生成する。そして、画像生成部13は、予め設定された仮想視野の範囲に基づき、仮想空間のうち、仮想視点を基準とした仮想視野の範囲に含まれる部分の画像を切り抜くことで、第1の視点画像を生成する。
【0030】
図2は、第1の視点画像を説明するための説明図である。
図2(A)は、画像生成部13により生成された車両1の車室内を示す仮想空間の一例である。
図2(A)において、A0は、カーナビゲーションのディスプレイa及びステアリングbを含む車両1の内装画像であり、Bは、車両1の周辺撮像画像である。画像生成部13は、周辺撮像画像Bに対して、内装画像A0を重畳して表示させることで、車両1の車室内を示す仮想空間を生成する。また
図2(A)において、C0は、仮想視点から車両1の前方を見た際に、仮想視野の範囲に含まれる部分を示す。
【0031】
図2(B)は、第1の視点画像C0が表示装置32に表示された様子を示す。表示装置32は、仮想視点から車両1の前方を視た際の画像として、第1の視点画像C0を表示する。
図2の例では、第1の視点画像C0は、仮想視点から見た車両1の車室内の状況を示す内装画像A0と、仮想視点から見た車両1の周辺状況を示す車両1の周辺撮像画像Bとを含む。
【0032】
次に、第2の視点画像について説明する。画像生成部13は、第1の視点画像に写された車室内の被写体の位置と仮想視点との相対的な位置関係を、車両1の挙動に基づいて変化させることで、第2の視点画像を生成する。第2の視点画像は、第1の視点画像を生成する際に設定した仮想視点に対して、車両1の挙動による車両1の乗員の姿勢の変化や車両1の姿勢の変化を反映させた視点画像である。このため、第2の視点画像は、第1の視点画像とは異なり、車両1の挙動に応じて様々な画像に変化する。なお、第1の視点画像に写された車室内の被写体とは、内装画像に写るオブジェクトである。内装画像に写るオブジェクトの一例としては、
図2(A)に示すディスプレイaやステアリングbが挙げられる。
【0033】
画像生成部13は、車両1の挙動に基づいて、車両1の挙動の変化に応じた仮想視点の変位方向及び変位量を算出する。本実施形態では、画像生成部13は、車両情報取得部11により取得された車両1の車両情報のうち、車両1の加速度及び角加速度に基づいて、車両1の挙動の変化に応じた仮想視点の変位方向及び変位量を算出する。そして、画像生成部13は、仮想視点の変位方向及び変位量に基づいて、第1の視点画像に含まれる内装画像の表示態様を変化させる。内装画像の表示態様の変化は、内装画像の大きさの変更、内装画像の表示位置の変更、及び内装画像の傾斜角度の変更のうち少なくともいずれか一つを含む。本実施形態では、画像生成部13は、内装画像の表示態様を変化させる割合を、車両1の挙動に応じた仮想視点の変位量と同じ割合に設定する。言い換えると、画像生成部13は、仮想視点の変位量に対して正比例の関係で、内装画像の表示態様を変化させる。
【0034】
次に、
図3~
図5を用いて、第2の視点画像の例について説明する。なお、
図3~
図5は、それぞれ(A)~(C)に分けられ、さらに(A)~(C)のそれぞれには、左右2つの図が示されている。各図の(A)及び(C)において、左図は車両1の車室内を示す仮想空間を示し、右図は第2の視点画像が表示装置32に示された様子を示す。また各図の(B)において、左図は車両1の車室内を示す仮想空間を示し、右図は第1の視点画像が表示装置32に示された様子を示す。つまり、
図3(B)、
図4(B)、及び
図5(B)の左図は、
図2(A)に対応し、
図3(B)、
図4(B)、及び
図5(B)の右図は、
図2(B)に対応している。
【0035】
図3を用いて、仮想空間における内装画像の大きさを拡大又は縮小することで、車両1の前後方向における車両1の挙動の変化を仮想視点に反映させる例を説明する。
図3は、内装画像の表示態様の変化として、内装画像の大きさを拡大又は縮小させた場合の説明図である。
【0036】
例えば、車両1が減速することにより、車両1に後ろ向きの加速度が生じた場合、車両1の乗員には前向きの加速度が生じる。この場合、画像生成部13は、内装画像を拡大させることで、仮想視点が車両1の前向きに変位した仮想空間を生成する。例えば、
図3(A)の左図に示すように、画像生成部13は、
図3(B)に示す内装画像A0を所定の倍率で拡大させることで、内装画像A1を生成する。これにより、内装画像A0が拡大された内装画像A1を含む仮想空間が生成される。そして、画像生成部13は、生成した仮想空間から、C1の範囲を切り出すことで、仮想視点と内装画像に写るディスプレイaとの距離が縮まった様子を表現した画像として、第2の視点画像C1を生成する。表示装置32には、
図3(A)の右図に示すような第2の視点画像C1が表示されるため、遠隔地ユーザAは、あたかも自身の視点が車両1の前方に動かされたように錯覚して、車両1が減速していることを把握しやすくなる。
【0037】
一方、車両1が加速することにより、車両1に前向きの加速度が生じた場合、車両1の乗員には後ろ向きの加速度が生じる。この場合、画像生成部13は、内装画像を縮小させることで、仮想視点が車両1の後ろ向きに変位した仮想空間を生成する。例えば、
図3(C)の左図に示すように、画像生成部13は、
図3(B)に示す内装画像A0を所定の倍率で縮小させることで、内装画像A2を生成する。これにより、内装画像A0が縮小された内装画像A2を含む仮想空間が生成される。そして、画像生成部13は、生成した仮想空間から、C2の範囲を切り出すことで、仮想視点と内装画像に写るディスプレイaとの距離が遠ざかった様子を表現した画像として、第2の視点画像C2を生成する。表示装置32には、
図3(C)の右図に示すような第2の視点画像C2が表示されるため、遠隔地ユーザAは、あたかも自身の視点が車両1の後方に動かされたように錯覚して、車両1が加速していることを把握しやすくなる。なお、
図3(A)~
図3(C)の左図において、C0~C2の形状及び大きさは同じとする。また、画像生成部13による内装画像の拡大率又は縮小率の設定方法については、
図6に示すフローチャートを用いて後述する。
【0038】
次に、
図4を用いて、仮想空間における内装画像の表示位置を上下方向に変更することで、車両1のピッチ方向における車両1の挙動の変化を仮想視点に反映させる例を説明する。
図4は、内装画像の表示態様の変化として、内装画像の表示位置を上下方向に変更させた場合の説明図である。
【0039】
例えば、車両1が加速することによって車両1の姿勢が後方に沈みこんだ場合、車両1の乗員の視点は上向きに動かされる。この場合、画像生成部13は、内装画像の表示位置を下方向に移動させることで、仮想視点が車両1の上向きに変位した仮想空間を生成する。例えば、
図4(A)の左図に示すように、画像生成部13は、
図4(B)に示す内装画像A0を所定の距離だけ下方向に移動させることで、内装画像A3を生成する。これにより、内装画像A0の表示位置が下方向に移動した内装画像A3を含む仮想空間が生成される。そして、画像生成部13は、生成した仮想空間から、C3の範囲を切り出すことで、仮想視点から見た内装画像に写るディスプレイaが下方向に移動した様子を表現した画像として、第2の視点画像C3を生成する。表示装置32には、
図4(A)の右図に示すような第2の視点画像C3が表示されるため、遠隔地ユーザAは、あたかも自身の視点が車両1の上方向に動かされたように錯覚して、車両1が後方に傾いていることを把握しやすくなる。
【0040】
一方、例えば、車両1が減速することによって車両1の姿勢が前方に沈みこんだ場合、車両1の乗員の視点は下向きに動かされる。この場合、画像生成部13は、内装画像の表示位置を上方向に移動させることで、仮想視点が車両1の下向きに変位した仮想空間を生成する。例えば、
図4(C)の左図に示すように、画像生成部13は、
図4(B)に示す内装画像A0を所定の距離だけ上方向に移動させることで、内装画像A4を生成する。これにより、内装画像A0の表示位置が上方向に移動した内装画像A4を含む仮想空間が生成される。そして、画像生成部13は、生成した仮想空間から、C4の範囲を切り出すことで、仮想視点から見た内装画像に写るディスプレイaが上方向に移動した様子を表現した画像として、第2の視点画像C4を生成する。表示装置32には、
図4(C)の右図に示すような第2の視点画像C4が表示されるため、遠隔地ユーザAは、あたかも自身の視点が車両1の下方向に動かされたように錯覚して、車両1が前方に傾いていることを把握しやすくなる。なお、
図4(A)~
図4(C)の左図において、C0、C3、及びC4の形状及び大きさは同じとする。また、画像生成部13による内装画像の移動方向の判定方法と、移動距離の設定方法については、
図6に示すフローチャートを用いて後述する。
【0041】
次に、
図5を用いて、仮想空間における内装画像を左右方向に傾けることで、車両1のロール方向における車両1の挙動を仮想視点に反映させる例を説明する。
図5は、内装画像の表示態様の変化として、内装画像を左右方向に傾けた場合の説明図である。
【0042】
例えば、車両1が左周りのカーブを走行する際に車両1の姿勢が左側に傾いた場合、車両1の乗員の姿勢も左側に傾く。この場合、画像生成部13は、内装画像を左側に傾かせることで、車両1の姿勢が左側に傾いた仮想空間を生成する。例えば、
図5(A)の左図に示すように、画像生成部13は、
図5(B)に示す内装画像A0を所定の角度だけ左側(反時計回りの方向)に傾けることで、内装画像A5を生成する。これにより、内装画像A0が左側に傾いた内装画像A5を含む仮想空間が生成される。そして、画像生成部13は、生成した仮想空間から、C5の範囲を切り出すことで、仮想視点から見た内装画像に写るディスプレイaが左側に傾いた様子を表現した画像として、第2の視点画像C5を生成する。表示装置32には、
図5(A)の右図に示すような第2の視点画像C5が表示されるため、遠隔地ユーザAは、あたかも自身の姿勢が車両1の進行方向に対して左側に傾いたように錯覚して、車両1が左側に傾いていることを把握しやすくなる。
【0043】
一方、例えば、車両1が右周りのカーブを走行する際に車両1の姿勢が右側に傾いた場合、車両1の乗員の姿勢も右側に傾く。この場合、画像生成部13は、内装画像を右側に傾かせることで、車両1の姿勢が右側に傾いた仮想空間を生成する。例えば、
図5(C)の左図に示すように、画像生成部13は、
図5(B)に示す内装画像A0を所定の角度だけ右側(時計回りの方向)に傾けることで、内装画像A6を生成する。これにより、内装画像A0が右側に傾いた内装画像A6を含む仮想空間が生成される。そして、画像生成部13は、生成した仮想空間から、C6の範囲を切り出すことで、仮想視点から見た内装画像に写るディスプレイaが右側に傾いた様子を表現した画像として、第2の視点画像C6を生成する。表示装置32には、
図5(C)の右図に示すような第2の視点画像C6が表示されるため、遠隔地ユーザAは、あたかも自身の姿勢が車両1の進行方向に対して右側に傾いたように錯覚して、車両1が右側に傾いていることを把握しやすくなる。なお、
図5(A)~
図5(C)の左図において、C0、C5、及びC6の形状及び大きさは同じとする。また、画像生成部13による内装画像の傾斜方向の判定方法と、傾斜角度の設定方法については、
図6に示すフローチャートを用いて後述する。
【0044】
再び、
図1に戻り、画像生成装置10の機能について説明する。表示制御部14は、画像生成部13により生成された第1の視点画像及び第2の視点画像を、遠隔地空間30に設けられた表示装置32に表示するための制御信号を出力する。例えば、表示制御部14は、第1の視点画像及び第2の視点画像の画像データを表示装置32が表示可能な制御信号に変換する。表示制御部14は、サーバーに設けられた通信装置(図示しない)を介して、変換した制御信号を遠隔地通信装置31に送信する。
【0045】
次に、
図6に示すフローチャートを用いて、画像生成装置10により実行される画像表示制御フローについて説明する。
図6は、画像生成装置10により実行される画像表示制御を示すフローチャートである。画像生成装置10は、所定の周期ごとに、
図6に示すフローチャートの処理を実行する。
【0046】
ステップS101では、画像生成装置10は、車両1に設けられた装置から車両情報を取得する。車両情報は、車載カメラ21により撮像された車両1の周辺撮像画像、加速度センサ22aにより計測された車両1の3軸における加速度、及び角加速度センサ22bにより計測された車両1の3方向における角加速度を含む。なお、ステップS101において、画像生成装置10は、所定の周期ごとに車両情報を取得し、所定時間が経過した後、ステップS101の処理を終了する。
【0047】
ステップS102では、画像生成装置10は、ステップS101で取得した車両情報に基づいて、第1の視点画像を生成する。例えば、画像生成装置10は、車両1の乗員の頭部に相当する位置に仮想視点を設定し、設定した仮想視点から見た車両1の内装画像を読み出す。次に、画像生成装置10は、車両1の周辺撮像画像に対して、内装画像を重畳させることで、車両1の車内空間を再現した仮想空間を生成する(
図2(A)参照)。そして、画像生成装置10は、仮想空間のうち、仮想視点を基準とした仮想視野に含まれる部分の画像を切り出すことで、車両1の車室内における仮想視点から所定方向を見た画像である第1の視点画像を生成する(
図2(B)参照)。
【0048】
ステップS103では、画像生成装置110は、ステップS101で取得した車両情報のうち車両1の加速度について、所定の時間当たりの変化量(加速度の時間差分)を演算する。例えば、画像生成装置10は、ステップS101で所定の周期ごとに取得した車両1の加速度について、特定の時刻における加速度と当該時刻から所定時間経過した後の加速度との差分値を演算する。
【0049】
ステップS104では、画像生成装置10は、ステップ103の演算結果に基づいて、内装画像の拡大率又は縮小率を設定する。例えば、画像生成装置10は、ステップS103における加速度の差分値が負の場合、車両1が減速していると判定し、差分値の絶対値に比例した倍率を内装画像の拡大率を設定する(倍率でいえば、1倍より大きい値)。一方、例えば、画像生成装置10は、ステップS103における加速度の差分値が正の場合、車両1が加速していると判定し、差分値の絶対値に比例した倍率を内装画像の縮小率を設定する(倍率でいえば、1倍よりも小さい値)。
【0050】
ステップS105では、画像生成装置10は、ステップS101で取得した車両情報のうち車両1のピッチ方向の角加速度について、所定期間で積分した時間積分値を演算する。これにより、車両1のピッチ方向の角速度が演算される。
【0051】
ステップS106では、ステップS105の演算結果に基づいて、内装画像の移動方向及び移動距離を設定する。例えば、画像生成装置10は、ステップS105の演算結果として、車両1の後ろ向きのピッチ方向の角速度が得られた場合、車両1の姿勢が後方に沈み込んだと判定し、内装画像の移動方向を上方向に設定する。また画像生成装置10は、ピッチ方向の角速度の絶対位置に比例した距離を内装画像の移動距離として設定する。一方、例えば、画像生成装置10は、ステップS105の演算結果として、車両1の前向きのピッチ方向の角速度が得られた場合、車両1の姿勢が前方に沈み込んだと判定し、内装画像の移動方向を下方向に設定する。また、画像生成装置10は、ピッチ方向の角速度の絶対位置に比例した距離を内装画像の移動距離として設定する。
【0052】
ステップS107では、画像生成装置10は、ステップS101で取得した車両情報のうち車両1のロール方向の角加速度について、所定期間で積分した時間積分値を演算する。これにより、車両1のロール方向の角速度が演算される。
【0053】
ステップS108では、ステップS107の演算結果に基づいて、内装画像の傾斜方向及び傾斜角度を設定する。例えば、画像生成装置10は、ステップS107の演算結果として、車両1の進行方向に対して左向きのロール方向の角速度が得られた場合、車両1の姿勢が左側に傾いていると判定し、内装画像の傾斜方向を左側に設定する。また画像生成装置10は、ロール方向の角速度の絶対位置に比例した角度を内装画像の傾斜角度として設定する。一方、例えば、画像生成装置10は、ステップS107の演算結果として、車両1の進行方向に対して右向きのロール方向の角速度が得られた場合、車両1の姿勢が右側に傾いていると判定し、内装画像の傾斜方向を右側に設定する。また、画像生成装置10は、ロール方向の角速度の絶対位置に比例した角度を内装画像の傾斜角度として設定する。
【0054】
ステップS109では、画像生成装置10は、ステップS104、ステップS106、及びステップS108の処理結果に基づいて、ステップS102で生成した第1の視点画像をもとに第2の視点画像を生成する。具体的には、画像生成装置10は、ステップS104で設定した拡大率又は縮小率に従って、第1の視点画像を生成する際に用いた内装画像を拡大又は縮小する(
図3参照)。また画像生成装置10は、ステップS016で設定した移動方向及び移動距離に従って、第1の視点画像を生成する際に用いた内装画像を移動させる(
図4参照)。また画像生成装置10は、ステップS108で設定した傾斜方向及び傾斜角度に従って、第1の視点画像を生成する際に用いた内装画像を傾ける(
図5参照)。これにより、車両1の速度の変化と、車両1のピッチ方向及びロール方向における姿勢の変化とが仮想視点に反映された第2の視点画像が生成される。
【0055】
ステップS110では、画像生成装置10は、サーバーに設けられた通信装置及び遠隔地通信装置31を介して、ステップS109で生成した第2の視点画像を表示装置32に出力する。画像生成装置10は、ステップS110での処理が終了すると、
図6に示すフローチャートの処理を終了させる。
【0056】
以上のように、本実施形態に係る画像生成装置10は、車両1に設けられた車載カメラ21及び車載センサ22から、車両1の挙動の情報を含む車両情報を取得する車両情報取得部11と、車両1の車室内における仮想視点から所定方向を見た画像を第1の視点画像として生成する画像生成部13と、画像生成部13により生成された画像を、遠隔地空間30に設けられた表示装置32に表示するための制御信号を出力する表示制御部14とを備える。本実施形態では、画像生成部13は、第1の視点画像に写された車室内の被写体の位置と仮想視点との相対的な位置関係を、車両1の挙動に基づき変化させることで、第2の視点画像を生成する。これにより、車両1に乗車していない遠隔地ユーザAは、車両1の挙動が反映された第2の視点画像を視認することで、視覚を通じて車両1の挙動を把握しやすくなる。
【0057】
また、本実施形態では、第1の視点画像は、仮想視点から見た車両1の内装を示す内装画像を含み、第2の視点画像は、車両1の挙動に応じて内装画像の表示態様が変化した画像である。これにより、遠隔地ユーザAは、内装画像の表示態様の変化に応じて、車両1の挙動がどのように変化したかを直感的に把握することができる。
【0058】
さらに、本実施形態では、画像生成部13は、車両1の挙動に基づいて、車両1の挙動の変化に応じた仮想視点の変位方向及び変位量を算出し、仮想視点の変位方向及び変位量に基づいて、内装画像の表示態様を変化させる。車両1の挙動の変化を内装画像の表示態様の変化として表すことができるため、遠隔地ユーザAは、あたかも仮想視点が車両1の挙動の変化に応じて変位したかのように錯覚して、車両1の挙動を直感的に把握することができる。
【0059】
加えて、本実施形態では、車両1の挙動の情報は、車両1の加速度を含み、画像生成部13は、車両1の加速度に基づいて、内装画像の大きさを変更する。第2の視点画像は、車両1の加速度の向きに応じて、車両1の内装画像に写る被写体が近づいたり又は遠ざかったりするように錯覚させる画像になるため、遠隔地ユーザAは、車両1が加速又は減速していることを把握しやすくなる。
【0060】
また、本実施形態では、車両1の挙動の情報は、車両1のピッチ方向の角加速度を含み、画像生成部13は、車両1のピッチ方向の角加速度に基づいて、内装画像の表示位置を変更する。第2の視点画像は、車両1のピッチ方向の角加速度の向きに応じて、車両1の内装画像に写る被写体が上方向又は下方向に移動するように錯覚させる画像になるため、遠隔地ユーザAは、車両1が前方又は後方に傾いていることを把握しやすくなる。
【0061】
さらに、本実施形態では、車両1の挙動の情報は、車両1のロール方向の角加速度を含み、画像生成部13は、車両1のロール方向の角加速度に基づいて、内装画像を傾ける。第2の視点画像は、車両1のロール方向の角加速度の向きに応じて、車両1の内装画像に写る被写体が左側又は右側に傾くように錯覚させる画像になるため、遠隔地ユーザAは、車両1が左側又は右側に傾いていることを把握しやすくなる。
【0062】
加えて、本実施形態では、画像生成部13は、車両1の乗員の頭部に相当する位置に仮想視点を設定する。これにより、第2の視点画像は、車両1の乗員の視点から見た画像になるため、遠隔地ユーザAは、視覚を通じて車両1に乗車しているかのような没入感を得ることができる。
【0063】
また、本実施形態では、画像生成部13は、内装画像の表示態様を変化させる割合を、仮想視点の変位量と同じ割合に設定する。これにより、車両1の挙動の変化どおりに内装画像の表示態様が変化するため、遠隔地ユーザAは、車両1の挙動がどの程度変化しているかについて、視覚を通じて直感的に把握することができる。
【0064】
なお、以上に説明した実施形態は、本発明の理解を容易にするために記載されたものであって、本発明を限定するために記載されたものではない。したがって、上記の実施形態に開示された各要素は、本発明の技術的範囲に属する全ての設計変更や均等物をも含む趣旨である。
【0065】
例えば、上述した実施形態では、
図6のフローチャートでの処理において、加速度の時間差分、ピッチ方向の角加速度の時間積分、ロール方向の角加速度の時間積分を演算したうえで、内装画像の表示態様の変化を設定する構成を例に挙げて説明したが、演算することなく、車載センサ22の計測結果をそのまま用いて、内装画像の表示態様を設定してもよい。
【0066】
図7を用いて、変形例に係る画像生成装置10により実行される画像表示制御フローについて説明する。
図7は、変形例に係る画像生成装置10により実行される画像表示制御を示すフローチャートである。
図7のフローチャートは、
図6のフローチャートに比べて、ステップS103~ステップS109を、ステップS201~ステップS204に置き換えたものである。したがって、
図6のフローチャートを用いて説明したステップについては、既述の説明を援用し、ステップS201~ステップS204について説明する。
【0067】
ステップS201では、画像生成装置10は、ステップS101で取得した車両情報のうち車両1の加速度について、その方向に応じて内装画像の拡大又は縮小を判定し、また、その絶対値の大きさに応じて、拡大又は縮小させる倍率を設定する。例えば、画像生成装置10は、車両1の縦方向において車両1の後ろ向きの加速度を取得した場合、すなわち、車両1のx軸において負の加速度を取得した場合、車両1が減速していると判定する。この場合、画像生成部13は、加速度の絶対値の大きさに比例した倍率に内装画像の拡大率を設定する。一方、例えば、画像生成装置10は、車両1の縦方向において車両1の前向きの加速度を取得した場合、すなわち、車両1のx軸において正の加速度を取得した場合、車両1が加速していると判定する。この場合、画像生成装置10は、加速度の絶対値の大きさに比例した倍率に内装画像の縮小率を設定する。
【0068】
ステップS202では、画像生成装置10は、ステップS101で取得した車両情報のうち車両1のピッチ方向の角加速度において、その方向に応じて、内装画像の移動方向を上方向又は下方向に設定し、また、その角加速度の絶対値の大きさに応じて、移動距離を設定する。例えば、画像生成装置10は、車両1のピッチ方向において車両1の後ろ向きの角加速度を取得した場合、車両1の姿勢が後方に沈みこんだと判定する。この場合、画像生成装置10は、内装画像の移動方向として上向きを設定し、また角加速度の大きさに比例した距離に内装画像の移動距離を設定する。一方、例えば、画像生成装置10は、車両1のピッチ方向において車両1の前向きの角加速度を取得した場合、車両1の姿勢が前方に沈みこんだと判定する。この場合、画像生成装置10は、内装画像の移動方向として下向きを設定し、また角加速度の大きさに比例した距離に内装画像の移動距離を設定する。
【0069】
ステップS203では、画像生成装置10は、ステップS101で取得した車両情報のうち車両1のロール方向の角加速度において、その方向に応じて、内装画像の傾斜方向を左側又は右側に設定し、また、その角加速度の絶対値の大きさに応じて、傾斜角度を設定する。例えば、画像生成装置10は、車両1のロール方向において車両1の進行方向に対して左向きの角加速度を取得した場合、車両1の姿勢が左側に傾いたと判定する。この場合、画像生成部13は、内装画像の傾斜方向として左側を設定し、また角加速度の大きさに比例した角度に内装画像の傾斜角度を設定する。一方、例えば、画像生成装置10は、車両1のロール方向において車両1の進行方向に対して右向きの角加速度を取得した場合、車両1の姿勢が右側に傾いたと判定する。この場合、画像生成装置10は、内装画像の傾斜方向として右側を設定し、また角加速度の大きさに比例した角度に内装画像の傾斜角度を設定する。
【0070】
ステップS204では、画像生成装置10は、ステップS201~ステップS203の処理結果に基づいて、ステップS102で生成した第1の視点画像をもとに第2の視点画像を生成する。第2の視点画像の生成方法について、上記実施形態でのステップS109の説明を援用する。
【0071】
以上のように、変形例に係る画像生成装置10によれば、車載センサ22の計測結果をそのまま用いて第2の視点画像を生成することができるため、演算負荷の軽減を図ることができる。
【0072】
また上述の実施形態では、内装画像の表示形態を変化させる割合を、車両1の挙動の変化に応じて仮想視点の変位量と同じ割合に設定する構成を例に挙げて説明したが、内装画像の表示態様を変化させる割合はこれに限定されない。例えば、画像生成部13は、内装画像の表示態様を変化させる割合を、車両1の挙動の変化に応じた仮想視点の変位量よりも大きい割合に設定してもよい。これにより、実際の車両1の挙動の変化に比べて、内装画像の表示態様が大きく変化するため、車両1の挙動の変化を誇張した第2の視点画像を生成することができる。車両1の些細な挙動の変化であっても、遠隔地ユーザAは、視覚を通じて直感的に把握することができる。
【0073】
また上述の実施形態では、第1の視点画像及び第2の視点画像を生成する構成を例に挙げて説明したが、視点画像の生成はこれに限定されず、第1の視点画像を生成し、第2の視点画像を生成しなくてもよい。例えば、画像生成部13は、第1の視点画像及び第2の視点画像を生成する第1モードと、第1の視点画像を生成し、第2の視点画像を生成しない第2モードとを切り替えてもよい。例えば、車両1が舗装されてない道路を走行した場合など、車両1の挙動が絶えず変化する場面において、画像生成部13は、第1モードから第2モードに切り替えることで、第2の視点画像が絶えず変化することを防ぐことができ、内装画像の表示態様の変化によって遠隔地ユーザAが酔う可能性を低減することができる。
【0074】
また上述の実施形態では、表示装置32としてテレビやモニターなどのディスプレイを有する構成を例に挙げて説明したが、これに限定されず、例えば、表示装置32は、遠隔地ユーザAが装着するヘッドマウントディスプレイの画面表示部分であってもよい。この場合、仮想視点は、予め設定された視点ではなく、遠隔地ユーザAの視点となり、また遠隔地ユーザAの頭部の動きに応じて動く視点となる。この場合、
図8の例で示すように、仮想空間は、車両1の室内を表した球体形状となる。画像生成装置10は、車両1の挙動に加えて、遠隔地ユーザAの頭部の動きに合わせた内装画像にすることで、遠隔地ユーザAは、自身が到着可能なデバイスにおいても、車両1の挙動を把握しやすくなる。なお、
図8は、表示装置32がヘッドマウントディスプレイに組み込まれた場合における仮想空間の例である。
【0075】
また上述の実施形態では、仮想視点から車両1の前方を見た画像を仮想画像として説明したが、仮想視点から見る方向は車両1の前方に限定されず、例えば、仮想視点から車両1の左側方又は右側方を見た画像を仮想画像としてもよい。この場合、画像生成部13は、車両1の横方向における加速度に基づいて、第1の視点画像を生成した際に用いた内装画像の大きさを変更し、また車両1のロール方向における角加速度に基づいて、当該内装画像の表示位置を上下方向に移動させ、さらに車両1のピッチ方向における角加速度に基づいて、内装画像を左右方向に傾けることで、第2の視点画像を生成する。
【0076】
また上述の実施形態では、ピッチ方向の角速度をピッチ方向の角加速度から演算し、ロール方向の角速度をロール方向の角加速度から演算する構成を例に挙げて説明したが、ピッチ方向及びロール方向の角速度は、ジャイロセンサにより計測された値を用いてもよい。この場合、画像生成装置10は、車両1に搭載されたジャイロセンサから、ピッチ方向及びロール方向の角速度を取得する。
【0077】
また上述の実施形態では、車両1の内装画像が記憶部12に記憶されている構成を例に挙げて説明したが、車両1の内装画像は、車両1に搭載され、車両1の車室内を撮像するカメラにより撮像された撮像画像であってもよい。
【符号の説明】
【0078】
100…画像表示システム
1…車両
21…車載カメラ
22…車載センサ
22a…加速度センサ
22b…角加速度センサ
23…車載通信装置
10…画像生成装置
11…車両情報取得部
12…記憶部
13…画像生成部
14…表示制御部
31…遠隔地通信装置
32…表示装置