IP Force 特許公報掲載プロジェクト 2022.1.31 β版

知財求人 - 知財ポータルサイト「IP Force」

▶ トヨタ自動車株式会社の特許一覧

特許7544001遠隔操作装置、遠隔運転システム、遠隔操作方法及び遠隔操作プログラム
<>
  • 特許-遠隔操作装置、遠隔運転システム、遠隔操作方法及び遠隔操作プログラム 図1
  • 特許-遠隔操作装置、遠隔運転システム、遠隔操作方法及び遠隔操作プログラム 図2
  • 特許-遠隔操作装置、遠隔運転システム、遠隔操作方法及び遠隔操作プログラム 図3
  • 特許-遠隔操作装置、遠隔運転システム、遠隔操作方法及び遠隔操作プログラム 図4
  • 特許-遠隔操作装置、遠隔運転システム、遠隔操作方法及び遠隔操作プログラム 図5
  • 特許-遠隔操作装置、遠隔運転システム、遠隔操作方法及び遠隔操作プログラム 図6
  • 特許-遠隔操作装置、遠隔運転システム、遠隔操作方法及び遠隔操作プログラム 図7
  • 特許-遠隔操作装置、遠隔運転システム、遠隔操作方法及び遠隔操作プログラム 図8
  • 特許-遠隔操作装置、遠隔運転システム、遠隔操作方法及び遠隔操作プログラム 図9
  • 特許-遠隔操作装置、遠隔運転システム、遠隔操作方法及び遠隔操作プログラム 図10
  • 特許-遠隔操作装置、遠隔運転システム、遠隔操作方法及び遠隔操作プログラム 図11
  • 特許-遠隔操作装置、遠隔運転システム、遠隔操作方法及び遠隔操作プログラム 図12
  • 特許-遠隔操作装置、遠隔運転システム、遠隔操作方法及び遠隔操作プログラム 図13
  • 特許-遠隔操作装置、遠隔運転システム、遠隔操作方法及び遠隔操作プログラム 図14
  • 特許-遠隔操作装置、遠隔運転システム、遠隔操作方法及び遠隔操作プログラム 図15
  • 特許-遠隔操作装置、遠隔運転システム、遠隔操作方法及び遠隔操作プログラム 図16
  • 特許-遠隔操作装置、遠隔運転システム、遠隔操作方法及び遠隔操作プログラム 図17
  • 特許-遠隔操作装置、遠隔運転システム、遠隔操作方法及び遠隔操作プログラム 図18
< >
(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】
(24)【登録日】2024-08-26
(45)【発行日】2024-09-03
(54)【発明の名称】遠隔操作装置、遠隔運転システム、遠隔操作方法及び遠隔操作プログラム
(51)【国際特許分類】
   H04Q 9/00 20060101AFI20240827BHJP
   H04N 7/18 20060101ALI20240827BHJP
   B60R 1/23 20220101ALI20240827BHJP
   B60R 11/02 20060101ALI20240827BHJP
【FI】
H04Q9/00 301B
H04N7/18 J
H04N7/18 U
B60R1/23
B60R11/02 C
【請求項の数】 6
(21)【出願番号】P 2021135921
(22)【出願日】2021-08-23
(65)【公開番号】P2023030669
(43)【公開日】2023-03-08
【審査請求日】2023-05-17
(73)【特許権者】
【識別番号】000003207
【氏名又は名称】トヨタ自動車株式会社
(74)【代理人】
【識別番号】110001519
【氏名又は名称】弁理士法人太陽国際特許事務所
(72)【発明者】
【氏名】村田 悠稀
【審査官】山中 実
(56)【参考文献】
【文献】特開2020-042764(JP,A)
【文献】特開2004-206218(JP,A)
【文献】特開2009-051253(JP,A)
【文献】特開2010-173492(JP,A)
【文献】特開2020-072401(JP,A)
(58)【調査した分野】(Int.Cl.,DB名)
H04Q 9/00
H04N 7/18
B60R 1/23
B60R 11/02
(57)【特許請求の範囲】
【請求項1】
車外から遠隔操作することにより車両を運転する遠隔操作装置であって、
前記車両から当該車両の周辺画像を取得する画像取得部と、
前記車両の周辺画像を表示する第1表示部と、
前記車両の舵角情報を取得する舵角情報取得部と、
前記舵角情報に基づいて前記第1表示部の中心視野領域を決定する中心視野領域決定部と、
前記第1表示部の前記中心視野領域を除く周辺視野領域で、前記第1表示部の上側、又は下側、又は前記上側及び前記下側に設けられ、前記中心視野領域側から幅方向端部に向かって移動するオブジェクトを表示する第2表示部と、
を備える遠隔操作装置。
【請求項2】
前記中心視野領域決定部は、前記遠隔操作装置の操作者のアイポイントから前記第1表示部までの距離に基づいて前記中心視野領域を決定する請求項1記載の遠隔操作装置。
【請求項3】
前記オブジェクトの移動速度は前記車両の車速に応じて変化する請求項1又は2記載の遠隔操作装置。
【請求項4】
請求項1~3のいずれか一項記載の遠隔操作装置と、
前記遠隔操作装置の操作により運転される車両と、
を備える遠隔運転システム。
【請求項5】
車外から遠隔操作することにより車両を運転する遠隔操作装置において、
前記車両から当該車両の周辺画像を画像取得部に取得させ、
前記車両の周辺画像を第1表示部に表示させると共に、
前記車両の舵角情報を舵角情報取得部に取得させ、
前記舵角情報に基づいて前記第1表示部の中心視野領域を中心視野領域決定部で決定させ、
前記第1表示部の中心視野領域を除く周辺視野領域で、前記第1表示部の上側、又は下側、又は前記上側及び前記下側に設けられた第2表示部に、前記中心視野領域側から幅方向端部に向かって移動するオブジェクトを表示させる、
ことを含む処理をコンピュータによって実行させる遠隔操作方法。
【請求項6】
コンピュータに、
車外から遠隔操作することにより車両を運転する遠隔操作装置において、
前記車両から当該車両の周辺画像を画像取得部に取得させ、
前記車両の周辺画像を第1表示部に表示させると共に、
前記車両の舵角情報を舵角情報取得部に取得させ、
前記舵角情報に基づいて前記第1表示部の中心視野領域を中心視野領域決定部で決定させ、
前記第1表示部の中心視野領域を除く周辺視野領域で、前記第1表示部の上側、又は下側、又は前記上側及び前記下側に設けられた第2表示部に、前記中心視野領域側から幅方向端部に向かって移動するオブジェクトを表示させる、
ことを含む処理を実行させるための遠隔操作プログラム。
【発明の詳細な説明】
【技術分野】
【0001】
本開示は遠隔操作装置、遠隔運転システム、遠隔操作方法及び遠隔操作プログラムに関する。
【背景技術】
【0002】
特許文献1には、車両のルーフの車室側面に前後方向に延在する延在する一対の液晶ディスプレイを配置し、そこに車速に応じた速度で移動するガウシアンブロブを表示することが提案されている。運転者が周辺視野でガウシアンブロブの運動を視認することで、運転操作を妨げることなく、車速を直感的に認識することができるとされている。
【先行技術文献】
【特許文献】
【0003】
【文献】特開2010-173492号公報
【発明の概要】
【発明が解決しようとする課題】
【0004】
近年、車外の運転操作室(オペレーションルーム)等で操作することにより、車両を遠隔地から操作する遠隔運転技術が求められている。運転操作室では、車両(の運転席)からの視野に対応する画像がモニタに表示されている。
【0005】
遠隔運転時に、運転操作室の操作者が車速感を得るために、先行技術を採用することが考えられる。
【0006】
しかし、上記先行技術を援用した場合、ガウシアンブロブを表示するための液晶ディスプレイが別途必要になること、また、車両の旋回時等、操作者の視線が正面から左右にずれた場合には、操作者の中心視野にガウシアンブロブが入ってきて、車速感を十分に認識することができないおそれがあつた。
【0007】
本開示は上記事実を考慮して成されたもので、車両の旋回時でも遠隔運転操作中の操作者が車速感を得ることができる遠隔操作装置、遠隔運転システム、遠隔操作方法及び遠隔操作プログラムを得ることが目的である。
【課題を解決するための手段】
【0008】
第1の態様に係る遠隔操作装置は、車外から遠隔操作することにより車両を運転する遠隔操作装置であって、前記車両から当該車両の周辺画像を取得する画像取得部と、前記車両の周辺画像を表示する第1表示部と、前記第1表示部の中心視野領域を除く周辺視野領域で、前記第1表示部の上側、又は下側、又は前記上側及び前記下側に設けられ、前記中心視野領域側から幅方向端部に向かって移動するオブジェクトを表示する第2表示部と、を備える。
【0009】
第1の態様では、車外から車両を操作する遠隔操作装置において、車両から車両の周辺画像を取得する画像取得部と、車両の周辺映像を表示する第1表示部と、第1表示部における中心視野領域を除く周辺視野領域で第1表示部の上方又は下方又は上方及び下方に第2表示部が設けられている。この第2表示部に、中心視野領域から幅方向端部へ向かって移動するオブジェクトを表示する。
【0010】
ここで、「第1表示部の上側、又下側、又は上側及び下側に設けられた第2表示部」には、第1表示部内の上部、又は下部、又は上部及び下部に設けられた第2表示部を含む。
【0011】
また、「中心視野領域」とは、遠隔操作装置の操作者の中心視野に相当する第1表示部上の領域である
【0012】
このように、第2表示部上で中心視野領域側から幅方向端部に向かってオブジェクトを移動させることにより、操作者に操作対象の車両の速度感を感じさせることができる。
【0013】
特に、操作者の視線が左右に移動した場合でも、第1表示部上で中心視野領域を除いた周辺視野領域の上側、又は下側、又は上側及び下側に設けられた第2表示部にのみオブジェクトが表示されることになる。すなわち、第2表示部に表示されたオブジェクトが操作者の中心視野に入ることが防止され、操作者の周辺画像に対する視認性が低下することを防止又は抑制できると共に、操作者が車速感を得ることができる。
【0014】
第2の態様に係る遠隔操作装置は、第1の態様に係る遠隔操作装置において、前記車両の舵角情報を取得する舵角情報取得部と、前記舵角情報に基づいて前記中心視野領域を決定する中心視野領域決定部と、を備える。
【0015】
第2の態様によれば、舵角情報取得部で取得された車両の舵角情報に基づいて、第1表示部の中心視野領域を決定(変更)する。例えば、車両が左折する場合、操作者は車両前方よりも左側に視線を向けることによって、左折先の状況を把握する。すなわち、車両の左折時に、操作者の中心視野が左側に変位する。
【0016】
そこで、本態様では、車両の舵角(情報)に基づいて第1表示部上の中心視野領域を決定し(幅方向に変位させ)、中心視野領域を除いた第1表示部の周辺視野領域の上側、又は下側、又は上側及び下側に第2表示部を設けている。これにより、例えば、車両の左折時に視線を左側に動かした操作者の中心視野に第2表示部に表示されたオブジェクトが入り、操作者の車両の周辺画像に対する視認性が低下することが防止又は抑制される。
【0017】
第3の態様に係る遠隔操作装置は、第1の態様に係る遠隔操作装置において、前記遠隔操作装置の操作者の第1表示部に対する視線情報を取得する視線情報取得部と、前記視線情報に基づいて前記中心視野領域を決定する中心視野領域決定部と、を備える。
【0018】
第3の態様によれば、視線情報取得部で取得された操作者の視線情報(視線方向)に基づいて、操作者の中心視野領域を決定(変更)する。例えば、車両が左折する場合、操作者は車両前方よりも左側に視線を向けることによって、左折先の状況を把握する。すなわち、車両の左折時に、操作者の中心視野が左側に変位する。
【0019】
そこで、本態様では、操作者の視線(情報)に基づいて第1表示部上の中心視野領域を決定し(幅方向に変位させ)、中心視野領域を除いた第1表示部の周辺視野領域の上側、又は下側、又は上側及び下側に第2表示部を設けている。これにより、例えば、車両の左折時に視線を左側に動かした操作者の中心視野に第2表示部に表示されたオブジェクトが入り、操作者の車両の周辺画像に対する視認性が低下することが防止又は抑制される。
【0020】
第4の態様に係る遠隔操作装置は、第2又は第3の態様に係る遠隔操作装置において、前記中心視野領域決定部は、前記遠隔操作装置の操作者のアイポイントから前記第1表示部までの距離に基づいて前記中心視野領域を決定する。
【0021】
第4の態様によれば、第1表示部における中心視野領域は、操作者のアイポイントから第1表示部までの距離に基づいて中心視野領域を決定する。
【0022】
操作者の中心視野は、操作者のアイポイントからの視線方向を中心として所定角度の範囲とされる。したがって、第1表示部上における中心視野領域は、操作者のアイポイントからの視線方向を中心とした所定角度と、操作者のアイポイントから第1表示部までの距離に基づいて精度良く決定することができる。
【0023】
第5の態様に係る遠隔操作装置は、第1~第4のいずれか1態様に係る遠隔操作装置において、前記オブジェクトの移動速度は前記車両の車速に応じて変化する。
【0024】
第5の態様によれば、第2表示部に表示されるオブジェクトの移動速度は車速に応じて変化する。したがって、操作者は第2表示部に表示されるオブジェクトを視認するだけで、車速(の変化)を実感することができる。
【0025】
第6の態様に係る遠隔運転システムは、請求項1~5のいずれか一項記載の遠隔操作装置と、前記遠隔操作装置の操作により運転される車両と、を備える。
【0026】
第6の態様によれば、遠隔操作システムは、上記遠隔操作装置と、上記遠隔操作装置で操作される車両を備えているので、操作者が車速感を得ながら車両を良好に操作することができる。
【0027】
第7の態様に係る遠隔操作方法は、車外から遠隔操作することにより車両を運転する遠隔操作装置において、前記車両から当該車両の周辺画像を画像取得部に取得させ、前記車両の周辺画像を第1表示部に表示させ、前記第1表示部の中心視野領域を除く周辺視野領域で、前記第1表示部の上側、又は下側、又は前記上側及び前記下側に設けられた第2表示部に、前記中心視野領域側から幅方向端部に向かって移動するオブジェクトを表示させる、ことを含む処理をコンピュータによって実行させる。
【0028】
第7の態様によれば、第1の態様と同様に、操作者に操作対象の車両の速度感を感じさせることができる。また、操作者の視線が左右に移動した場合でも、オブジェクトが操作者の中心視野に入ることが防止され、操作者の周辺画像に対する視認性が低下することを防止又は抑制できる。
【0029】
第8の態様に係る遠隔操作プログラムは、コンピュータに、車外から遠隔操作することにより車両を運転する遠隔操作装置において、前記車両から当該車両の周辺画像を画像取得部に取得させ、前記車両の周辺画像を第1表示部に表示させ、前記第1表示部の中心視野領域を除く周辺視野領域で、前記第1表示部の上側、又は下側、又は前記上側及び前記下側に設けられた第2表示部に、前記中心視野領域側から幅方向端部に向かって移動するオブジェクトを表示させる、ことを含む処理を実行させる。
【0030】
第8の態様によれば、第1の態様と同様に、操作者に操作対象の車両の速度感を感じさせることができる。また、操作者の視線が左右に移動した場合でも、オブジェクトが操作者の中心視野に入ることが防止され、操作者の周辺画像に対する視認性が低下することを防止又は抑制できる。
【発明の効果】
【0031】
本開示は、車両の旋回時でも遠隔運転操作中の操作者が車速感を得ることができる、という効果を有する。
【図面の簡単な説明】
【0032】
図1】一実施形態に係る遠隔操作システムの概略構成を示す概念図である。
図2】車両のハードウェア構成を示すブロック図である。
図3】車両が備える車両制御装置の機能構成の一例を示すブロック図である。
図4】遠隔操作装置のハードウェア構成を示すブロック図である。
図5】遠隔操作装置が備える遠隔制御装置の機能構成の一例を示すブロック図である。
図6】表示装置を上方から視た模式的な平面図である。
図7】表示装置の画像表示面を展開した図である。
図8】左折操作時の表示装置を上方から視た模式的な平面図である。
図9】左折操作時の表示装置の画像表示面を展開した図である。
図10】車両制御装置で実行される処理の流れを示すフローチャートである。
図11】車両制御装置で実行される処理の流れを示すフローチャートである。
図12】遠隔操作装置で実行される処理の流れを示すフローチャートである。
図13】遠隔操作装置で実行される処理の流れを示すフローチャートである。
図14】バリエーションに係る遠隔操作装置のハードウェア構成を示すブロック図である。
図15】バリエーションに係る遠隔操作装置が備える遠隔制御装置の機能構成の一例を示すブロック図である。
図16】その他の例に係る表示装置の画像表示面を展開した図である。
図17】その他の例に係る表示装置を上方から視た模式的な平面図である。
図18】その他の例に係る表示装置の画像表示面を展開した図である。
【発明を実施するための形態】
【0033】
以下、図1図13を用いて一実施の形態に係る遠隔操作システム10について説明する。
【0034】
図1に示すように、本実施形態に係る遠隔操作システム10は、車両12と、遠隔操作装置14とを含んで構成されている。
【0035】
車両12には、車両制御装置20が搭載されている。また、遠隔操作装置14は、遠隔制御装置40を含んで構成されている。そして、上記の遠隔操作システム10において、車両12の車両制御装置20と、遠隔操作装置14の遠隔制御装置40とは、ネットワークN1を介して相互に通信可能に接続されている。このネットワークN1は、一例としてインターネット等の公衆回線を用いた有線及び無線の通信網である。
【0036】
(車両の構成)
【0037】
車両12は、該車両12の乗員である運転者(ドライバ)の運転操作に基づく手動運転と、遠隔操作装置14に対する操作者(リモートドライバ)の運転操作に基づく遠隔運転とを実行可能に構成されている。なお、この車両12は、通常は手動運転のモードに設定されている。
【0038】
図2は、車両12に搭載される機器のハードウェア構成を示すブロック図である。車両12は、上述した車両制御装置20の他、外部センサ24と、内部センサ26と、入力装置28と、アクチュエータ30と、ユーザI/F(Inter Face)32とを含んでいる。
【0039】
車両制御装置20は、図2に示すように、CPU(Central Processing Unit)20A、ROM(Read Only Memory)20B、RAM(Random Access Memory)20C、ストレージ20D、通信I/F(Inter Face)20E及び入出力I/F20Fを含んで構成されている。CPU20A、ROM20B、RAM20C、ストレージ20D、通信I/F20E及び入出力I/F20Fは、バス20Gを介して相互に通信可能に接続されている。
【0040】
CPU20Aは、中央演算処理ユニットであり、各種プログラムを実行したり、各部を制御したりする。すなわち、CPU20Aは、ROM20Bからプログラムを読み出し、RAM20Cを作業領域としてプログラムを実行する。本実施形態では、ROM20Bにプログラムが記憶されている。CPU20Aがプログラムを実行することで、車両制御装置20は、図3に示すように、周辺情報取得部200、挙動情報取得部210、操作受付部220、運転制御部230、及び権限付与部240として機能する。
【0041】
図2に示すように、ROM20Bは、各種プログラム及び各種データを記憶している。RAM20Cは、作業領域として一時的にプログラム又はデータを記憶する。ストレージ20Dは、HDD(Hard Disk Drive)又はSSD(Solid State Drive)により構成され、オペレーティングシステムを含む各種プログラム、及び各種データを記憶している。通信I/F20Eは、遠隔制御装置40と通信すべく、ネットワークN1に接続するためのインタフェースを含む。当該インタフェースとしては、例えば、LTE、Wi-Fi(登録商標)等の通信規格が用いられる。
【0042】
本実施形態の通信I/F20Eは、ネットワークN1を介して、車両12の外部の遠隔操作装置14に向けてカメラ24Aによる撮像画像や内部センサ26で検出された車両の走行状態に関する情報を送信し、遠隔操作装置14から車両12を操作させるための操作情報である遠隔操作情報を受信する。なお、上記のカメラ24Aには、図示しないマイクが付属しており、上記の撮像画像と一緒に収録された音のデータが上記の撮像画像のデータと一緒に送受信される。
【0043】
入出力I/F20Fは、車両12に搭載される各装置と通信するためのインタフェースである。本実施形態の車両制御装置20には、入出力I/F20Fを介して外部センサ24、内部センサ26、入力装置28、アクチュエータ30及びユーザI/F32が接続されている。なお、外部センサ24、内部センサ26、入力装置28、アクチュエータ30及びユーザI/F32は、バス20Gに対して直接接続されていてもよい。
【0044】
外部センサ24は車両12の周辺の周辺情報を検出するセンサ群である。この外部センサ24は、所定範囲を撮像するカメラ24Aを含む。
【0045】
内部センサ26は、車両12の走行状態を検出するセンサ群である。この内部センサ26は、ステアリングホイールの操作量を検出する舵角センサ26Aと、車両の速度を検出する車速センサ26Bとを含む。
【0046】
入力装置28は車両12に乗車している乗員が操作するためのスイッチ群である。入力装置28は、車両12の操舵輪を操舵させるスイッチとしてのステアリングホイール28Aと、車両12を加速させるスイッチとしてのアクセルペダル28Bと、車両12を減速させるスイッチとしてのブレーキペダル28Cと、を含む。
【0047】
アクチュエータ30は、車両12の操舵輪を駆動させるステアリングホイールアクチュエータ、車両12の加速を制御するアクセルアクチュエータ、車両12の減速を制御するブレーキアクチュエータを含んでいる。
【0048】
ユーザI/F32は、ディスプレイ、及びスピーカ(何れも図示省略)を含んでいる。ディスプレイは、例えば車両12のインストルメントパネルに配設されており、静電容量式のタッチパネルを構成している。スピーカは、例えば車両12の左右のサイドドアにそれぞれ配設されている。
【0049】
図3は、車両制御装置20の機能構成の一例を示すブロック図である。図3に示すように、車両制御装置20は、周辺情報取得部200、挙動情報取得部210、操作受付部220、運転制御部230、及び権限付与部240を有している。各機能構成は、CPU20AがROM20Bに記憶されたプログラムを読み出し、これを実行することによって実現される。
【0050】
周辺情報取得部200は、車両12の周辺の周辺情報を取得する機能を有している。周辺情報取得部200は、入出力I/F20Fを介して外部センサ24から車両12の周辺情報を取得する。この周辺情報には、カメラ24Aで撮像された車両12の前方側周辺画像(以下、「周辺画像」という)が含まれる。
【0051】
挙動情報取得部210は、車両12の舵角情報、車速情報等、車両の挙動に関する挙動情報を取得する機能を有している。挙動情報取得部210は、入出力I/F20Fを介して内部センサ26から車両12の挙動情報を取得する。
【0052】
操作受付部220は、車両12の乗員の操作に基づく手動運転が行われる場合に、各入力装置28から出力された信号を受け付ける機能を有している。操作受付部220は、各入力装置28から受け付けた信号を基にアクチュエータ30を制御するための操作情報である車両操作情報を生成する。
【0053】
運転制御部230は、遠隔操作装置14から受信(取得)した遠隔操作情報に基づく遠隔運転、及び操作受付部220から受け付けた車両操作情報に基づく手動運転を制御する機能を有している。
【0054】
権限付与部240は、遠隔操作装置14を操作する操作者に対して、車両制御装置20が搭載された車両12を操作するための権限である操作権限を付与する機能を有している。操作者に操作権限を付与した場合、車両制御装置20は、当該操作者が操作する遠隔操作装置14に対して権限付与信号を送信する。操作権限が車両12から遠隔操作装置14に移ることにより、車両12では、遠隔操作装置14から受信した遠隔操作情報に基づいて車両12を走行させる。すなわち、操作者による遠隔運転が行われる。
【0055】
また、権限付与部240は、遠隔操作装置14による遠隔運転を終了する場合、遠隔操作装置14に対して、車両12に操作権限を移すことを通知するための移譲通知信号を送信する。移譲通知信号を受信した遠隔操作装置14では、遠隔運転を終了するための終了処理が実行される。
【0056】
(遠隔操作装置)
【0057】
図4は、本実施形態の遠隔操作装置14に搭載される機器のハードウェア構成を示すブロック図である。遠隔操作装置14は、上述した遠隔制御装置40の他、表示装置42と、スピーカ44と、操作部としての入力装置48とを含んでいる。
【0058】
遠隔制御装置40は、CPU40A、ROM40B、RAM40C、ストレージ40D、通信I/F40E及び入出力I/F40Fを含んで構成されている。CPU40A、ROM40B、RAM40C、ストレージ40D、通信I/F40E及び入出力I/F40Fは、バス40Gを介して相互に通信可能に接続されている。CPU40A、ROM40B、RAM40C、ストレージ40D、通信I/F40E及び入出力I/F40Fの機能は、上述した車両制御装置20のCPU20A、ROM20B、RAM20C、ストレージ20D、通信I/F20E及び入出力I/F20Fと同じである。
【0059】
CPU40Aは、ROM40Bからプログラムを読み出し、RAM40Cを作業領域としてプログラムを実行する。本実施形態では、ROM40Bに、プログラムが記憶されている。CPU40Aがプログラムを実行することで、遠隔制御装置40は、図5に示す車両情報取得部400、距離取得部410、中心視野領域決定部420、表示領域決定部430、速度決定部440、表示制御部450、操作情報生成部460、及び操作切替部470として機能する。
【0060】
本実施形態の遠隔制御装置40には、入出力I/F40Fを介して表示装置42、スピーカ44、及び入力装置48が接続されている。なお、表示装置42、スピーカ44、及び入力装置48は、バス40Gに対して直接接続されていてもよい。
【0061】
表示装置42は、車両12のカメラ24Aにより撮像された車両12の周辺画像や、車両12に係る各種情報を表示させるための液晶ディスプレイである。表示装置42は、図6に示すように、遠隔操作室(不図示)において操作シート(不図示)に着座した操作者P(頭部のみ図示)の正面に配置され、平面視で略円弧状に湾曲した形状とされている。すなわち、表示装置42の画像表示面42Aは、操作者Pの一方の側方から正面を経て他方の側方まで延在している。したがって、正面を向いた操作者Pの視界の全範囲に車両12の周辺画像が表示される構成である。
【0062】
また、表示装置42の内側の画像表示面42Aは、図7に示すように、平面に展開状態で矩形であり、その全面に周辺画像を表示可能とされると共に、その四隅に決定された後述するオブジェクト表示領域54L、54R、56L、56R(以下、「オブジェクト表示領域54L~56R」という場合がある)にオブジェクト52及び背景58が重畳して表示される構成である。なお、画像表示面42Aが「第1表示部」に相当する。また、オブジェクト表示領域54L~56Rが「第2表示部」に相当する。
【0063】
スピーカ44は、車両12のカメラ24Aに付属するマイクにより撮像画像と一緒に収録された音を出力するものである。
【0064】
入力装置48は、遠隔操作装置14を利用する操作者が操作するためのコントローラである。入力装置48は、車両12の操舵輪を操舵させるスイッチとしてのステアリングホイール48Aと、車両12を加速させるスイッチとしてのアクセルペダル48Bと、車両12を減速させるスイッチとしてのブレーキペダル48Cと、を含む。なお、各入力装置48の形態はこの限りでない。例えば、ステアリングホイール48Aに替えてレバースイッチを設けてもよい。また例えば、アクセルペダル48Bやブレーキペダル48Cのペダルスイッチに替えて、押しボタンスイッチやレバースイッチを設けてもよい。
【0065】
図5は、遠隔制御装置40の機能構成の一例を示すブロック図である。図5に示すように、遠隔制御装置40は、車両情報取得部400、距離取得部410、中心視野領域決定部420、表示領域決定部430、速度決定部440、表示制御部450、操作情報生成部460、及び操作切替部470を有している。
【0066】
車両情報取得部400は、車両制御装置20から送信されたカメラ24Aの撮像画像である車両12の周辺画像(以下、「周辺画像」という)及び収録音、並びに車速情報、舵角情報等の車両情報を取得する機能を有している。取得された撮像画像は表示装置42の画像表示面42Aに表示され、収録音はスピーカ44から出力される。なお、車両情報取得部400が「画像取得部」、「舵角情報取得部」、「車速情報取得部」に相当する。
【0067】
距離取得部410は、遠隔操作室の操作シート(不図示)に着座した操作者Pのアイポイントから表示装置42の画像表示面42Aまでの距離Lを取得するものである。本実施形態では距離Lを予め計測しておき、操作者P毎の数値をストレージ40Dに記憶している。したがって、操作者Pが特定されることで、表示装置42の画像表示面42Aまでの距離Lがストレージ40Dから取得される。
【0068】
なお、距離センサ等によって操作者Pのアイポイントから表示装置42の画像表示面42Aまでの距離を検出しても良い。
【0069】
中心視野領域決定部420は、平面視において操作者Pの正面方向から車両12の舵角分左右に傾斜した方向を視線方向とみなし、その視線方向を中心として操作者Pのアイポイントから平面視で所定角度の範囲を中心視野領域50と決定する。具体的には、図8に示すように、操作者の正面方向Cから舵角θ1分左右に傾斜した方向を視線方向LVとし、操作者Pのアイポイントから表示装置42の画像表示面42Aまでの距離Lと視線方向LVを中心とした中心視野の視野角θ2(本実施形態では平面視で20度)から表示装置42の画像表示面42A上における中心視野領域50(図9、ハッチング部分参照)を決定する。
【0070】
表示領域決定部430は、表示装置42の画像表示面42A上においてオブジェクト52(図7参照)を表示する領域を決定する。具体的には、図7に示すように、画像表示面42A上で、中心視野領域50を除いた左右両側の部分(周辺視野領域51)で上端から所定距離の範囲を上側のオブジェクト表示領域54L、54Rと、下端から所定距離の範囲を下側のオブジェクト表示領域56L、56Rと、を決定する。
【0071】
速度決定部440は、オブジェクト表示領域54L~56Rにおいてオブジェクト52が車速に対応した一定速度で移動しているように操作者に見えるように、中心視野領域50側から左右両端側に向かうオブジェクト52の移動速度を決定する。具体的には、ストレージ40Dに予め格納された、車速とオブジェクト52の移動速度との対応関係を設定したテーブルから車速に対応するオブジェクト52の移動速度を読み出す。
【0072】
表示制御部450は、表示装置42の画像表示面42Aの全面に取得した周辺画像を表示すると共に、画像表示面42Aのオブジェクト表示領域54L~56Rに車速に対応した所定速度で移動するオブジェクト52を周辺画像に重畳して表示する。
【0073】
なお、本実施形態では、表示制御部450は、オブジェクト表示領域54L~56Rの全域に単色の背景58を周辺画像に重畳して表示する。
【0074】
操作情報生成部460は、操作者の操作に基づく遠隔運転が行われる場合に、各入力装置48から出力された信号を受け付ける機能を有している。また、操作情報生成部460は、各入力装置48から受け付けた信号を基に車両制御装置20に送信する遠隔操作情報を生成する。
【0075】
操作切替部470は、車両12の遠隔運転についての切り替えを制御する機能を有している。具体的に、操作切替部470は、車両12から権限付与信号を取得した場合、車両12の遠隔運転を行うための処理を実行する。また、操作切替部470は、車両12から移譲通知信号を取得した場合、車両12の遠隔運転を終了させる終了処理を実行する。
【0076】
(制御の流れ)
【0077】
次に、図10図13を用いて、遠隔操作システム10を構成する車両12及び遠隔操作装置14での制御の流れについて説明する。
【0078】
(車両制御装置での処理)
【0079】
先ず、車両12の車両制御装置20において実行される処理の流れについて、図10及び図11のフローチャートを用いて説明する。なお、この処理の説明では、一般的な遠隔操作、すなわち、遠隔操作装置14の入力装置48を操作することにより、遠隔制御装置40から車両制御装置20に遠隔操作情報が送信され、これに基づいて車両12のアクチュエータ30が制御される点については説明を省略している。すなわち、遠隔操作装置14でオブジェクト52を表示装置42に表示させるための制御について説明する。
【0080】
図10のステップS10において、CPU20Aは、車両12の乗員が遠隔運転を選択したか否かを判定する。具体的には、遠隔切替信号を受信したか否かを判定する。この判定が肯定された場合、次のステップS12に進み、この判定が否定された場合、ステップS10での処理が繰り返される。
【0081】
ステップS12に進んだ場合、CPU20Aは、権限付与信号を遠隔制御装置40に送信する。
【0082】
ステップS14において、CPU20Aは、遠隔制御装置40から権限受任信号を受信したか否かを判定する。この判定が肯定された場合、次のステップS16に進み、この判定が否定された場合、ステップS14での処理が繰り返される。
【0083】
ステップS16において、CPU20Aは、カメラ24Aで撮影された周辺画像と、撮影タイミングにおいて舵角センサ26A及び車速センサ26Bでそれぞれ検出された舵角情報と車速情報を含む挙動情報とからなる車両情報が生成される。
【0084】
次に、ステップS18において、CPU20Aは、生成された車両情報を遠隔制御装置40に送信する。
【0085】
さらに、図11のステップS20において、CPU20Aは、車両12の乗員が手動運転を選択したか否かを判定する。具体的には、手動切替信号を受信したか否かを判定する。この判定が肯定された場合、ステップS22に進むと共に、この判定が否定された場合、ステップS16以下の処理が繰り返される。
【0086】
ステップS22に進んだ場合、CPU20Aは、遠隔制御装置40に対して移譲通知信号を送信して、一連の処理を終了する。
【0087】
(遠隔操作装置での処理)
【0088】
次に、遠隔操作装置14において実行される処理の流れについて、図12及び図13のフローチャートを用いて説明する。
【0089】
図12のステップS30において、CPU40Aは、権限付与信号を受信したか否かを判定する。この判定が肯定された場合、次のステップS32に進み、この判定が否定された場合、ステップS30での処理が繰り返される。
【0090】
ステップS32において、CPU40Aは、選定された操作者が遠隔運転の準備を完了すると、権限受任信号を車両制御装置20に送信する。
【0091】
ステップS34において、CPU40Aは、ストレージ40Dから選定された操作者のアイポイントから表示装置42の画像表示面42Aまでの距離L(図6参照)を取得する。
【0092】
ステップS36において、CPU40Aは、車両制御装置20から車両情報、すなわち、周辺画像、及び車両12の挙動情報(車速情報、舵角情報等)を取得する。
【0093】
次に、ステップS38において、CPU40Aは、距離Lと車両12の舵角情報に基づいて中心視野領域50を決定する。例えば、車両12の左折時にステアリングホイールを操作した場合、図8に示すように、平面視で操作者Pの正面方向Cから舵角θ1分左側に傾斜した方向を視線方向LVとし、操作者のアイポイントから視線方向LVを中心として中心視野の視野角θ2(本実施形態では平面視で20度(視線方向LVを中心として左右10度ずつ))の範囲を中心視野範囲CAとする。なお、平面視において操作者のアイポイントから画像表示面42Aの全域を視る視角において、中心視野範囲CAを除く左右の範囲(角度)を周辺視野範囲PAとする(図6図8参照)。
【0094】
表示装置42の画像表示面42A上における中心視野範囲CAが中心視野領域50とされる。具体的には、図8に示すように、操作者Pのアイポイントから表示装置42の画像表示面42Aまでの距離Lと視線方向LVを中心とした中心視野の視野角θ2(本実施形態では平面視で20度)から画像表示面42A上の中心視野領域50(図9、ハッチング部分参照)を決定する。なお、舵角が0度の場合には、図6及び図7に示すように、正面方向Cである視線方向LVを中心として視野角θ2(本実施形態では20度、左右10度ずつ)の範囲が中心視野領域50となる(図7、ハッチング部分参照)。
【0095】
続いて、ステップS40において、CPU40Aは、図7図9に示すように、表示装置42の画像表示面42A上におけるオブジェクト表示領域54L~56Rを決定する。具体的には、図7図9に示すように、画像表示面42A上で、中心視野領域50を除いた左右両側の部分(周辺視野領域51)で上端から所定距離の範囲である上側のオブジェクト表示領域54L、54Rと、下端から所定距離の範囲である下側のオブジェクト表示領域56L、56Rと、を決定する。
【0096】
さらに、図13のステップS42において、CPU40Aは、オブジェクト表示領域54L~56Rに表示するオブジェクト52の移動速度を車速に基づいて決定する。この際、表示装置42の画像表示面42A上でオブジェクト52が一定速度に見えるように移動速度を決定する。なお、本実施形態では、CPU40Aは、ストレージ40Dに格納された車速とオブジェクト52の移動速度の対応関係が設定されたテーブルから車速に応じたオブジェクト52の移動速度を読み出し、それをオブジェクト52の移動速度に決定している。
【0097】
次に、ステップS44において、CPU40Aは、表示装置42の画像表示面42Aの全域に周辺画像を表示すると共に、オブジェクト表示領域54L~56Rにオブジェクト52と背景58を周辺画像に重畳させて表示させる。その際、オブジェクト52は、各オブジェクト表示領域54L~56Rで中心視野領域50側から左右端部に向かって決定された移動速度で移動するように表示される(図7図9矢印参照)。
【0098】
ステップS46において、CPU40Aは、遠隔操作運転が終了したか、すなわち、移譲通知信号を受信したか否かを判定する。この判定が肯定された場合、一連の制御を終了し、この判定が否定された場合、ステップS36以下の処理が繰り返される。
【0099】
(本実施形態のまとめ)
【0100】
本実施形態に係る遠隔操作システム10では、遠隔操作装置14の表示装置42の画像表示面42Aのオブジェクト表示領域54L~56Rに中心視野領域50側から左右両端部に向けて車速に応じた移動速度で移動するオブジェクト52を周辺画像に重畳させて表示したため、操作者はオブジェクト52の移動を視認することによって車速感を一層得ることができる。
【0101】
特に、表示装置42の画像表示面42Aにおいて、オブジェクト表示領域54L~56Rは、左右方向において中心視野領域50を除く領域で、画像表示面42Aの上端又は下端から所定範囲に設定されている。したがって、オブジェクト表示領域54L~56Rに表示されるオブジェクト52が操作者の中心視野に入ることが防止され、操作者の遠隔運転操作が妨げられることが抑制される。
【0102】
また、中心視野領域50は、舵角θ1の向きを操作者の視線方向とみなして、平面視で正面方向Cから舵角θ1だけ傾斜した向きの視線方向LVを中心として中心視野の視野角θ2(本実施形態では20度)の範囲である中心視野範囲CAに基づいて決定している。この結果、操作者の視線が左右方向に向いた場合でも、それに追従して中心視野領域50が左右に移動する。したがって、周辺視野領域51に設けられたオブジェクト表示領域54L~56Rも中心視野領域50の移動に伴って左右に変位するため、車両旋回時でもオブジェクト表示領域54L~56Rに表示されたオブジェクト52が操作者の中心視野に入ることが防止され、操作者の遠隔運転操作を妨げることが防止又は抑制される。
【0103】
さらに、本実施形態では、オブジェクト表示領域54L~56Rに単一色の背景58を周辺画像に重畳して表示することにより、オブジェクト表示領域54L~56Rで操作者に周辺画像が視認されなくなる。すなわち、いずれのオブジェクト表示領域54L~56Rでも背景58上にオブジェクト52が表示されることになり、オブジェクト52の見え方に差がつくことが防止される。この結果、各オブジェクト表示領域54L~56Rにおけるオブジェクト52の見え方が同一となり、操作者が車両12の速度感を一層感じやすくなる。
【0104】
また、本実施形態では、周辺画像を表示する表示装置42の画像表示面42Aの一部にオブジェクト表示領域54L~56Rを設定し、そのオブジェクト表示領域54L~56Rにオブジェクト52を表示している。すなわち、既存の遠隔操作装置14において、周辺画像を表示する表示装置42に対する画像表示制御プログラムを変更するだけで、オブジェクト52の表示を追加することができる。したがって、既存の遠隔操作装置14において、表示装置を新たに追加することなく、低コストでオブジェクト52を表示可能とすることができる。
【0105】
さらに、本実施形態では、オブジェクト52の移動速度を車速に対応させて変化させているため、操作者が車速の変化を直感的に認識することが容易になる。
【0106】
(バリエーション)
【0107】
本実施形態のバリエーションについて説明する。なお、上記実施形態と異なるのは、遠隔操作装置14において、操作者の視線を検知するところのみなので、該当箇所のみを説明する。また、上記実施形態と同様の構成要素には同一の参照符号を付し、その詳細な説明を省略する。
【0108】
図14に示すように、遠隔操作装置114は、表示装置42の画像表示面42Aの正面に着座した操作者の顔を撮影するカメラ102を有する。
【0109】
また、遠隔制御装置40のCPU40Aは、図15に示すように、カメラ102が撮影した操作者の顔の撮像画像から操作者の視線方向LV(図8参照)を検知する視線検出部480を有する。
【0110】
さらに、中心視野領域決定部420は、表示装置42の画像表示面42A上で、上記視線検出部480で検出された視線方向LVを中心として視野角θ2(本バリエーションでは20度)の範囲を中心視野領域50に決定する。
【0111】
(本バリエーションの作用)
【0112】
本バリエーションでは、遠隔操作装置114は、舵角に換えてカメラ102が撮像した操作者の顔の撮像画像に基づいて操作者の視線方向LVを決定し、その視線方向LVに基づいて中心視野領域50、オブジェクト表示領域54L~56Rを決定する。
【0113】
したがって、本バリエーションでは、表示装置42の画像表示面42A上の中心視野領域50が操作者の中心視野と一層一致する。
【0114】
このように、遠隔操作装置114では、オブジェクト52が操作者の中心視野に入ることが一層確実に防止でき、操作者は周辺視野を良好に視認できる(遠隔操作運転を良好に行うことができる)と共に、操作者が車速感を得ることができる。
【0115】
(実施形態の補足説明)
【0116】
上記実施形態では、遠隔操作装置14の表示装置42の画像表示面42Aの一部をオブジェクト表示領域54L~56Rとして、周辺画像にオブジェクト52等を重畳して表示したが、周辺画像を表示する表示装置42と別にオブジェクト表示用のディスプレイを設けることも考えられる。例えば、図16に示すように、表示装置42の上部と下部に隣接して所定高さで表示装置42の全幅と同じ長さを有するオブジェクト表示装置110A、110Bを設けることが考えられる。この場合も、各オブジェクト表示装置110A、110Bにおいて、中心視野領域50の左右にそれぞれオブジェクト表示領域54L~56Rが設けられることになる。
【0117】
また、上記実施形態では、表示装置42を湾曲した一枚のディスプレイとして説明しだか、これに限定されるものではない。例えば、図17に示すように、平板状のディスプレイ3枚で構成された表示装置120、122、124から構成しても良い。この場合でも、図18に示すように、3枚の表示装置120、122、124の画像表示面120A、122A、124Aに連続した周辺画像が表示されると共に、中心視野領域50を除いた所定位置にオブジェクト表示領域54L~56Rが設定される。
【0118】
さらに、上記実施形態では、オブジェクト表示領域54L~56Rを表示装置42の画像表示面42Aの上側及び下側に設けたが、いずれか一方でも良い。
【0119】
また、上記実施形態では、オブジェクト表示領域54L~56Rの全域に単色である背景58を重畳表示して周辺画像が操作者に視認されないようにしたが、これに限定されるものではない。周辺画像の上にオブジェクト52のみを表示しても良い。
【0120】
さらに、上記実施形態では、車両12が手動運転及び遠隔運転を実行可能とされた構成にしたが、遠隔運転が可能であれば特に限定するものではない。例えば、車両12が手動運転、自動運転及び遠隔運転を実行可能としても良いし、遠隔運転のみ実行可能としても良い。
【0121】
また、上記実施形態では、中心視野の視野角θ2を平面視で20度としたが、これに限定するものではない。
【0122】
また、上記実施形態において、CPU20A、40A、60A、80Aがソフトウェア(プログラム)を読み込んで実行した各処理を、CPU以外の各種のプロセッサが実行してもよい。この場合のプロセッサとしては、FPGA(Field-Programmable Gate Array)等の製造後に回路構成を変更可能なPLD(Programmable Logic Device)、及びASIC(Application Specific Integrated Circuit)等の特定の処理を実行させるために専用に設計された回路構成を有するプロセッサである専用電気回路等が例示される。また、各処理を、これらの各種のプロセッサのうちの1つで実行してもよいし、同種又は異種の2つ以上のプロセッサの組み合わせ(例えば、複数のFPGA、及びCPUとFPGAとの組み合わせ等)で実行してもよい。また、これらの各種のプロセッサのハードウェア的な構造は、より具体的には、半導体素子等の回路素子を組み合わせた電気回路である。
【0123】
また、上記実施形態において、プログラムはコンピュータが読み取り可能な非一時的記録媒体に予め記憶(インストール)されている態様で説明した。例えば、遠隔操作システム10においてプログラムは、ストレージ40Dに予め記憶されている。しかしこれに限らず、プログラムは、CD-ROM(Compact Disc Read Only Memory)、DVD-ROM(Digital Versatile Disc Read Only Memory)、及びUSB(Universal Serial Bus)メモリ等の非一時的記録媒体に記録された形態で提供されてもよい。また、各プログラムは、ネットワークを介して外部装置からダウンロードされる形態としてもよい。
【0124】
上記実施形態で説明した処理の流れも、一例であり、主旨を逸脱しない範囲内において不要なステップを削除したり、新たなステップを追加したり、処理順序を入れ替えたりしてもよい。
【0125】
その他、本発明は、その要旨を逸脱しない範囲で種々変更して実施できる。また、本発明の権利範囲が上記実施形態に限定されないことは勿論である。
【符号の説明】
【0126】
10 遠隔操作システム
12 車両
14 遠隔操作装置
42A 画像表示面(第1表示部)
50 中心視野領域
51 周辺視野領域
52 オブジェクト
54L、54R、56L、56R オブジェクト表示領域(第2表示部)
400 車両情報取得部(画像取得部、舵角情報取得部、車両速度取得部)
図1
図2
図3
図4
図5
図6
図7
図8
図9
図10
図11
図12
図13
図14
図15
図16
図17
図18