(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】
(24)【登録日】2025-07-28
(45)【発行日】2025-08-05
(54)【発明の名称】映像伝送システム、車両、および映像伝送方法
(51)【国際特許分類】
H04N 7/18 20060101AFI20250729BHJP
【FI】
H04N7/18 J
(21)【出願番号】P 2022048297
(22)【出願日】2022-03-24
【審査請求日】2023-12-19
(73)【特許権者】
【識別番号】000003207
【氏名又は名称】トヨタ自動車株式会社
(74)【代理人】
【識別番号】110002860
【氏名又は名称】弁理士法人秀和特許事務所
(72)【発明者】
【氏名】羽鳥 貴之
【審査官】佐藤 嘉純
(56)【参考文献】
【文献】特開2008-205594(JP,A)
【文献】特開2020-137078(JP,A)
【文献】特開2019-083450(JP,A)
【文献】国際公開第2018/047491(WO,A1)
【文献】特開2021-081886(JP,A)
【文献】特開2004-128953(JP,A)
【文献】特開2009-021959(JP,A)
【文献】国際公開第2008/099918(WO,A1)
【文献】特開2021-128116(JP,A)
(58)【調査した分野】(Int.Cl.,DB名)
H04N 7/18
B60R 21/00-21/38
B60R 1/00-1/31
B60R 16/00-17/02
(57)【特許請求の範囲】
【請求項1】
車両に適用される映像伝送システムであって、
第一の映像伝送規格を用いて、二つ以上の第一の映像信号を重畳させ、第二の映像信号を生成する第一のトランスミッタと、
前記第一の映像伝送規格とは異なる第二の映像伝送規格を用いて、第三の映像信号と、前記第二の映像信号を重畳させ、第四の映像信号を生成する第二のトランスミッタと、
単一のケーブルによって伝送された前記第四の映像信号を受信し、前記第二の映像信号と前記第三の映像信号を分離する第一のレシーバと、
前記第二の映像信号から、前記二つ以上の第一の映像信号を分離する第二のレシーバと、
を有し、
前記第三の映像信号は、リアルタイム要件が要求される映像信号であって、且つ前記車両のリアカメラによって生成された映像信号であり、
前記第一の映像信号は、リア以外に配置されたカメラによって生成された映像信号であり、
前記第三の映像信号に、所定値以上の帯域が割り当てられ、前記二つ以上の前記第一の映像信号を含む前記第二の映像信号に、残りの帯域が割り当てられ
、
前記第二の映像伝送規格は、前記第三の映像信号について、前記リアルタイム要件を保証可能な規格、かつ前記第三の映像信号に前記所定値以上の帯域を割り当て可能な規格である、
映像伝送システム。
【請求項2】
前記第三の映像信号は単一の映像信号であり、前記第二の映像信号に含まれる前記第一の映像信号の数は、外部からの指定に基づいて決定される、
請求項1に記載の映像伝送システム。
【請求項3】
前記車両に搭載された所定の電子制御ユニットが、前記第一および前記第二のトランスミッタを有する、
請求項1に記載の映像伝送システム。
【請求項4】
前記車両に搭載された車載端末が、前記第一および前記第二のレシーバを有する、
請求項
3に記載の映像伝送システム。
【請求項5】
前記車載端末は、前記電子制御ユニットに対して、前記第一の映像信号を生成する二つ以上のカメラを指定する第一のデータを送信し、
前記電子制御ユニットが有する前記第一のトランスミッタが、前記第一のデータによって指定された二つ以上のカメラが生成した前記第一の映像信号を重畳させる、
請求項
4に記載の映像伝送システム。
【請求項6】
車外の画像を撮像する複数のカメラと、
第一の映像伝送規格を用いて、二つ以上の第一の映像信号を重畳させ、第二の映像信号を生成し、かつ、前記第一の映像伝送規格とは異なる第二の映像伝送規格を用いて、第三の映像信号と、前記第二の映像信号を重畳させ、第四の映像信号を生成する第一の装置と、
単一のケーブルによって伝送された前記第四の映像信号を受信し、前記第二の映像信号と前記第三の映像信号を分離し、かつ、前記第二の映像信号から、前記二つ以上の第一の映像信号を分離する第二の装置と、
を有し、
前記第三の映像信号は、リアルタイム要件が要求される映像信号であって、且つリアカメラによって生成された映像信号であり、
前記第一の映像信号は、リア以外に配置されたカメラによって生成された映像信号であり、
前記第三の映像信号に、所定値以上の帯域が割り当てられ、前記二つ以上の前記第一の映像信号を含む前記第二の映像信号に、残りの帯域が割り当てられ
、
前記第二の映像伝送規格は、前記第三の映像信号について、前記リアルタイム要件を保証可能な規格、かつ前記第三の映像信号に前記所定値以上の帯域を割り当て可能な規格である、
車両。
【請求項7】
前記第一の装置は、前記複数のカメラを管理する電子制御ユニットであり、
前記第二の装置は、車載端末である、
請求項
6に記載の車両。
【請求項8】
車両に適用される映像伝送方法であって、
第一の映像伝送規格を用いて、二つ以上の第一の映像信号を重畳させ、第二の映像信号を生成する第一のステップと、
前記第一の映像伝送規格とは異なる第二の映像伝送規格を用いて、第三の映像信号と、前記第二の映像信号を重畳させ、第四の映像信号を生成する第二のステップと、
単一のケーブルによって前記第四の映像信号を送信する第三のステップと、
前記第四の映像信号を受信し、前記第二の映像信号と前記第三の映像信号を分離する第四のステップと、
前記第二の映像信号から、前記二つ以上の第一の映像信号を分離する第五のステップと、
を含み、
前記第三の映像信号は、リアルタイム要件が要求される映像信号であって、且つ前記車両のリアカメラによって生成された映像信号であり、
前記第一の映像信号は、リア以外に配置されたカメラによって生成された映像信号であり、
前記第三の映像信号に、所定値以上の帯域が割り当てられ、前記二つ以上の前記第一の映像信号を含む前記第二の映像信号に、残りの帯域が割り当てられ
、
前記第二の映像伝送規格は、前記第三の映像信号について、前記リアルタイム要件を保
証可能な規格、かつ前記第三の映像信号に前記所定値以上の帯域を割り当て可能な規格である、
映像伝送方法。
【請求項9】
前記分離後の第三の映像信号と、前記分離後の前記二つ以上の第一の映像信号を同時に出力するステップをさらに含む、
請求項
8に記載の映像伝送方法。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、映像の伝送に関する。
【背景技術】
【0002】
映像の伝送を効率化するための技術がある。これに関連して、例えば、特許文献1には、複数のカメラを接続したシステムにおいて、映像信号を多重化することで、効率のよい映像伝送を行うシステムが開示されている。
【先行技術文献】
【特許文献】
【0003】
【発明の概要】
【発明が解決しようとする課題】
【0004】
本開示は、複数の映像を効率よく伝送することを目的とする。
【課題を解決するための手段】
【0005】
本開示の実施形態の一態様は、第一の映像伝送規格を用いて、二つ以上の第一の映像信号を重畳させ、第二の映像信号を生成する第一のトランスミッタと、前記第一の映像伝送規格とは異なる第二の映像伝送規格を用いて、第三の映像信号と、前記第二の映像信号を重畳させ、第四の映像信号を生成する第二のトランスミッタと、単一のケーブルによって伝送された前記第四の映像信号を受信し、前記第二の映像信号と前記第三の映像信号を分離する第一のレシーバと、前記第二の映像信号から、前記二つ以上の第一の映像信号を分離する第二のレシーバと、を有する、映像伝送システムである。
【0006】
本開示の実施形態の一態様は、車外の画像を撮像する複数のカメラと、第一の映像伝送規格を用いて、二つ以上の第一の映像信号を重畳させ、第二の映像信号を生成し、かつ、前記第一の映像伝送規格とは異なる第二の映像伝送規格を用いて、第三の映像信号と、前記第二の映像信号を重畳させ、第四の映像信号を生成する第一の装置と、単一のケーブルによって伝送された前記第四の映像信号を受信し、前記第二の映像信号と前記第三の映像信号を分離し、かつ、前記第二の映像信号から、前記二つ以上の第一の映像信号を分離する第二の装置と、を有する、車両である。
【0007】
また、他の態様として、上記のシステムや車両が実行する方法、当該方法をコンピュータに実行させるためのプログラム、または、該プログラムを非一時的に記憶したコンピュータ可読記憶媒体が挙げられる。
【発明の効果】
【0008】
本開示によれば、複数の映像を効率よく伝送することができる。
【図面の簡単な説明】
【0009】
【
図2】GVIFによって映像信号を重畳するシステムの概略図。
【
図3】MIPIによって映像信号を重畳するシステムの概略図。
【
図4】車両が後退する際に、車載端末20によって表示される画像の例。
【
図5】第一の実施形態で映像伝送システムが行う処理の概要図。
【
図6】ECU10と車載端末20間で伝送される映像信号の概略図。
【
図7】車両100の構成の一例を概略的に示したブロック図。
【
図8】制御部11が有する機能モジュールと、モジュール間におけるデータの流れを説明する図。
【
図9】車載端末20によって送信される選択データの一例。
【
図10】制御部21が有する機能モジュールと、モジュール間におけるデータの流れを説明する図。
【
図11】カメラを選択する際に車載端末20が参照するデータの例。
【
図12】ECU10および車載端末20が実行する処理のフローチャート。
【
図13】第二の実施形態における、制御部11のモジュール構成図。
【
図14】車両に設置されたカメラの位置を例示する図。
【発明を実施するための形態】
【0010】
近年、車載用のカメラが増加している。車載カメラとして、例えば、ドライブレコーダのほか、リアカメラ、サイドカメラ、自動運転用のステレオカメラ、運転者監視用のカメラなどが挙げられる。
図14は、車両の外部に設置されたカメラを例示する図である。図示したように、車両には、複数の方向をモニタできるよう、複数のカメラが備えられている。これらのカメラは、映像を管理する電子制御ユニット(ECU)に接続される。また、当該電子制御ユニットは、車載装置(ナビゲーション装置)等と接続される。
【0011】
映像の伝送には、所定の映像伝送規格が利用される。映像伝送規格として、GVIF(Gigabit Video Interface)(登録商標)や、MIPI(Mobile Industry Processor Interface)(登録商標)といったものがある。
映像の伝送は、映像を送受信するモジュールと、モジュール同士を接続するケーブルを介して行うことができる。しかし、車載されたカメラの数が増えると、映像を送受信するためのモジュールと、ケーブルの数が増えてしまうという問題がある。
【0012】
この問題を解決するための方法として、映像を重畳伝送するという方法がある。映像信号を重畳して伝送することで、映像の送受信に利用されるモジュールや、ケーブルの数を削減することができる。
【0013】
一方で、重畳される映像が増えると、必要なハードウェアが増加し、コスト増につながるおそれがある。単一のハードウェアで複数の映像を重畳可能な規格もあるが、映像の解像度やフレームレートを統一する必要があり、様々な種類のカメラが搭載される車両には適していない。また、映像を重畳すると、ビットレートの低下などが発生し、画質をはじめとする映像品質が低下するおそれもある。特に、安全に関わる映像(例えば、リアカメラの映像など)は、規定された品質要件を満たさなければならず、映像品質の低下(画質等の低下)が許されない場合がある。
本開示に係る映像伝送システムは、品質要件を確保したうえで、複数の映像の重畳伝送を可能にするものである。
【0014】
本開示の一態様は、映像伝送システムである。
具体的には、第一の映像伝送規格を用いて、二つ以上の第一の映像信号を重畳させ、第二の映像信号を生成する第一のトランスミッタと、前記第一の映像伝送規格とは異なる第二の映像伝送規格を用いて、第三の映像信号と、前記第二の映像信号を重畳させ、第四の映像信号を生成する第二のトランスミッタと、単一のケーブルによって伝送された前記第四の映像信号を受信し、前記第二の映像信号と前記第三の映像信号を分離する第一のレシーバと、前記第二の映像信号から、前記二つ以上の第一の映像信号を分離する第二のレシーバと、を有する。
【0015】
二つ以上の第一の映像信号と、第三の映像信号は、単一のケーブルを介して、異なる装
置間で伝送される映像信号である。映像伝送システムを車両に適用する場合、二つ以上の第一の映像信号、および、第三の映像信号は、車載カメラによって生成された映像信号であってもよい。
第一のトランスミッタは、二つ以上の第一の映像信号を重畳させ、第二の映像信号を生成する。さらに、第二のトランスミッタは、第二の映像信号に対して、第三の映像信号をさらに重畳させ、第四の映像信号を生成する。
【0016】
第一のトランスミッタが利用する映像伝送規格と、第二のトランスミッタが利用する映像伝送規格は、それぞれ異なる規格である。
例えば、第一のトランスミッタは、複数の映像を重畳可能な第一の映像伝送規格を用いて、二つ以上の第一の映像信号を重畳させる。この結果得られた第二の映像信号は、第二のトランスミッタへ送信され、第二の映像信号と、第三の映像信号が重畳される。第二のトランスミッタは、第二の映像伝送規格を用いて当該重畳を行い、第四の映像信号を生成する。
【0017】
第一および第二のレシーバは、逆の手順によって、重畳された映像信号の分離を行う。すなわち、第四の映像信号から、第二の映像伝送規格を用いて、第三の映像信号と、第二の映像信号を分離する。さらに、第一の映像伝送規格を用いて、第二の映像信号を、二つ以上の第一の映像信号に分離する。
このようにすることで、異なる複数の映像伝送規格を組み合わせて、映像の重畳および分離を行うことが可能になる。
【0018】
単一の映像伝送規格によって映像を重畳伝送すると、以下のような問題が生じうる。
・伝送する映像信号の数が変化すると、各々に割り当てられる帯域が変わるため、映像の品質が変わってしまう
・解像度やフレームレートが異なる映像を混在させることが難しい
一方、異なる複数の映像伝送規格を組み合わせることで、映像の品質要件を確保しつつ、解像度やフレームレートが異なる複数の映像信号を同時に伝送することが可能になる。
【0019】
以下、本開示の具体的な実施形態について図面に基づいて説明する。各実施形態に記載されているハードウェア構成、モジュール構成、機能構成等は、特に記載がない限りは開示の技術的範囲をそれらのみに限定する趣旨のものではない。
【0020】
(第一の実施形態)
第一の実施形態に係る車両システムの概要について、
図1を参照しながら説明する。本実施形態に係る車両システムは、車両100を含んで構成される。
【0021】
車両100は、複数のカメラを搭載した自動車である。複数のカメラとして、例えば、リアカメラ、サイドカメラ、ドライブレコーダ用カメラ、自動運転用カメラ、運転者監視用カメラなどが挙げられる。
車両100は、当該車両の外部を運転席からモニタリング可能な車両であってもよい。また、車両100は、自動運転または半自動運転が可能な車両であってもよい。車両100が有する複数のカメラは、ECU10に接続される。
【0022】
ECU10は、複数のカメラが取得した映像信号を処理する電子制御ユニットである。ECU10は、カメラECUとも呼ばれる。
ECU10は、複数のカメラから映像信号を取得可能に構成されており、他の電子制御ユニットや、車載端末20からの要求に基づいて、映像信号を選択し、提供することができる。なお、
図1には、単一のECUが例示されているが、車両100は、複数の他のECUを含んで構成されてもよい。他のECUとして、例えば、エンジンECU、ボディE
CU、自動運転ECU、パワーコントロールECUなどが例示できる。ECU10は、カメラ映像のみを管理するものであってもよいし、カメラ映像に基づいて他の処理(例えば、自動運転、運転者アシスト等)を行うものであってもよい。
【0023】
車載端末20は、車両100に搭載された情報端末である。車載端末20は、インフォテイメント端末とも呼ばれ、車両の乗員に対して情報(例えば、交通情報や経路案内)や娯楽(例えば、音楽や動画)を提供する機能を有する。車載端末20は、例えば、カーナビゲーション装置のように、単独で機能するものであってもよいし、スマートフォン等と連携する機能を有したものであってもよい。
また、車載端末20は、通信モジュールを介してネットワークと通信可能に構成されていてもよい。
【0024】
車載端末20は、車両のステータスに応じて、カメラ映像を出力可能に構成される。例えば、ギアポジションが「リバース」である場合、車載端末20は、リアカメラに対応する映像をECU10から受信し、ディスプレイを介して出力してもよい。また、車両100の車速が一定速度を下回り、かつ、車両100が見通しの悪い交差点に位置する場合、車載端末20は、左右のフロントサイドカメラに対応する映像をECU10から受信し、ディスプレイを介して出力してもよい。
また、車載端末20は、運転者の操作に基づいて、カメラ映像を出力可能に構成されてもよい。例えば、車両の全周囲をモニタリングする機能が起動された場合、車載端末20は、複数のカメラに対応する映像をECU10から受信し、これを合成して、車両100を見下ろす視点の映像(以下、全周囲映像)を生成し、ディスプレイを介して出力してもよい。
【0025】
ここで、映像の伝送における問題点について説明する。
車内における映像の伝送(例えば、ECU10~車載端末20間の伝送)は、所定の映像伝送規格を用いて行うことができる。例えば、映像伝送規格の一つであるGVIF(Gigabit Video InterFace)(登録商標)を用いると、映像信号を単一のケーブルによって
高速にシリアル伝送することができる。
図2(A)は、GVIFによって映像を伝送するシステムの概略図である。伝送は、図示したように、トランスミッタによって、映像信号をシリアル化(シリアライズ)することで行うことができる。シリアル化された信号は、受信側(レシーバ)において復号(デシリアライズ)され、これにより、映像信号が取り出される。
【0026】
一方、複数のカメラが映像信号を生成する場合、これらをまとめて伝送する必要が生じる。例えば、全周囲映像を生成するため、車両の外部を捉える複数のカメラに対応する映像を同時に伝送するような場合である。これを実現する方法のひとつとして、
図2(B)のように、映像信号を送受信するユニット(トランスミッタおよびレシーバ)、および、伝送ケーブルを複数設けるという方法がある。しかし、この方法では、カメラの個数だけハードウェアが必要になり、コストがかかってしまう。
【0027】
別の方法として、
図2(C)のように、複数の映像信号を重畳する方法がある。GVIF規格が利用するトランスミッタ(シリアライザ)には、映像信号同士を重畳する機能があり、これを利用して、複数のカメラが出力した映像信号を同時に伝送することができる。トランスミッタは、時分割によって複数の映像信号をシーケンシャルに送信する。重畳された複数の映像は、レシーバ(デシリアライザ)によって分離することができる。
なお、本開示における重畳とは、複数の映像信号を一つの伝送路でシーケンシャルに伝送するための処理を指す。このような処理として、例えば、1フレームごとに映像信号のソースを切り替える処理(Frame Interleaving)や、1ラインごとに映像信号のソースを切り替える処理(Line Interleaving)が例示できる。
【0028】
しかし、この方法にも問題がある。GVIFが利用するトランスミッタは、既存の映像信号に、一つの映像信号しか加えることができないという点である。すなわち、3つのカメラによって生成された映像信号を伝送したい場合、3つのトランスミッタと3つのレシーバが必要となる。すなわち、コスト面において問題が生じる。
【0029】
一方、映像伝送規格の一つであるMIPI(Mobile Industry Processor Interface)
(登録商標)を利用することで、複数の映像信号を重畳することもできる。
図3は、MIPIによって映像信号を重畳するシステムの概略図である。例えば、複数(最大4レーン)の、MIPI規格の映像信号をシリアル信号に変換するトランスミッタが知られている。
【0030】
しかし、この方法を利用した場合、同時に伝送する映像信号の数が増えると、一つあたりの帯域が圧迫され、品質が低下してしまうという問題が生じる。
図4は、車両が後退する際に、車載端末20によって表示される画像の例である。車両が後退する際、例えば、
図4(A)のように、リアカメラに対応する映像を出力する場合がある。この場合、伝送される映像は1種類である。一方、
図4(B)のように、リアカメラに対応する映像に加え、全周囲映像を生成するための複数のカメラ映像を同時に伝送する場合がある。この場合、伝送される映像は4種類となる。すなわち、画像の表示方法によって、一つのカメラに割り当てられる帯域が変化する。
リアカメラに対応する映像は、安全確保のため、高優先度で伝送することが好ましい。しかし、前述した方法では、全周囲映像を表示した場合において、リアカメラに対応するカメラ映像の帯域が圧迫されてしまう。帯域が圧迫されると、フレームレートが低下する、画質が低下する、映像がフリーズするといった不都合が生じ、安全上問題となるおそれがある。
さらに、MIPI規格では、異なる解像度やフレームレートの画像を重畳させた場合に、安定した伝送が行えないという問題がある。すなわち、リアカメラだけ高解像度のカメラを採用するといったことが難しい。
【0031】
この問題を解決するため、本実施形態における映像伝送システムは、MIPI規格のトランスミッタによって複数のカメラ映像を重畳し、重畳後の映像信号を、GVIF規格のトランスミッタによって更に重畳する。
図5は、本実施形態における映像伝送システムが行う処理の概要図である。また、
図6は、映像の伝送帯域を説明する図である。
ここで、映像信号1は、前述したリアカメラからの映像信号(すなわち、優先度の高い映像信号)を表す。映像信号2~4は、他のカメラ(例えば、フロントカメラ、サイドカメラ等)からの映像を表す。
【0032】
GVIF規格では、一つのトランスミッタで重畳可能な映像信号は最大2組であるため、伝送帯域が、符号601と符号602のように割り当てられる。すなわち、映像信号1(すなわち、リアカメラからの映像信号)については、符号601で示した帯域を最低限保証することが可能になる。
また、所定の規格(MIPI)によって重畳された映像信号を、更に異なる規格(GVIF)によって重畳するため、解像度やフレームレートが異なる映像を混在させることが可能になる。
【0033】
次に、車両100が有する各構成要素について、詳しく説明する。
図7は、
図1に示した車両100の構成の一例を概略的に示したブロック図である。車両100は、ECU10、および、車載端末20を有して構成される。これらの構成要素は、映像信号を伝送するケーブルと、制御信号を伝送するケーブルによって相互に接続される。なお、本例では、車両100が有する構成要素として、ECU10、および、車載
端末20を例示しているが、車両100には、エンジンECU、ボディECUなど、車両の制御を司る複数の電子制御ユニットが搭載されていてもよい。
【0034】
まず、ECU10について説明する。
ECU10は、車載された複数のカメラが取得した映像信号を処理する電子制御ユニットである。ECU10は、カメラECUとも呼ばれる。ECU10は、他の電子制御ユニットや、車載端末20からの要求に基づいて、映像信号を選択し、提供する。なお、本実施形態では、ECU10は、カメラ映像のみを管理するものであるが、カメラ映像に基づいた他の処理(例えば、自動運転、運転アシスト等)をECU10に実行させてもよい。この場合、ECU10を、ADAS-ECU等と呼んでもよい。
【0035】
ECU10は、制御部11、記憶部12、通信部13、および、映像インタフェース14を有して構成される。
【0036】
制御部11は、所定のプログラムを実行することで、ECU10の各種機能を実現する演算ユニットである。制御部11は、例えば、CPU等によって実現することができる。
制御部11は、外部(典型的には、車載端末20)から受信した指令に基づいて、複数のカメラによって生成された映像信号を選択し、送信する処理を実行する。例えば、車載端末20が、車両100の全周囲を表示するパノラマ映像を要求した場合、制御部11は、当該パノラマ映像を生成するためのカメラを選択し、対応する映像信号を車載端末20に送信する。
制御部11が実行する処理の詳細については後述する。
【0037】
記憶部12は、主記憶装置および補助記憶装置を含むメモリ装置である。補助記憶装置には、オペレーティングシステム(OS)、各種プログラム、各種テーブル等が格納され、そこに格納されたプログラムを主記憶装置にロードして実行することによって、後述するような、所定の目的に合致した各機能を実現することができる。
【0038】
通信部13は、ECU10と車載端末20を接続するためのインタフェースユニットである。本実施形態では、ECU10と車載端末20は、映像を伝送する経路と、制御信号を伝送する経路の二つの経路によって接続されている。映像を伝送する経路として、ツイストペアケーブルや同軸ケーブルが例示できる。本実施形態では、複数チャネルの映像を重畳して伝送するため、ケーブルは一本である。また、制御信号を伝送する経路として、車載ネットワークが例示できる。例えば、CAN(Controller Area Network)によるネ
ットワークや、イーサネット(登録商標)によって制御信号を伝送することができる。なお、制御信号を伝送する経路は、他のECU等と共用されていてもよい。
通信部13は、これらを接続するインタフェースである。通信部13は、映像を伝送するためのハードウェアインタフェースと、制御信号を伝送するためのハードウェアインタフェース(例えば、CANコントローラ)を含んでいてもよい。
【0039】
映像インタフェース14は、車載された複数のカメラを接続するためのインタフェースユニットである。本実施形態では、映像インタフェース14は、MIPI規格(例えば、MIPI CSI-2)に準拠した映像信号をカメラから受信する。
【0040】
カメラ30A~30Eは、車両100に搭載された複数のカメラである。車両100に搭載されたカメラとして、録画(ドライブレコーダ)用のカメラ、自動運転用のカメラ、運転者による安全確認用のカメラ、運転者監視用のカメラなどが例示できる。また、カメラの配置位置として、例えば、フロント、フロントサイド、サイド、リアなどが例示できる。
図7の例では、車両100は、リアカメラであるカメラ30A、フロントカメラであるカメラ30B、サイドカメラであるカメラC~Eを有して構成される。リアカメラ30
Aは、車両後退時などの安全確認用として利用される。フロントカメラ30Bは、運転アシスト用や、ドライブレコーダの録画用として利用される。サイドカメラ30C~Eは、死角の確認用として利用される。また、これらのカメラが取得した映像に基づいて、全周囲映像を生成することができる。
これらのカメラは、MIPI規格(例えば、MIPI CSI-2)によってECU1
0と接続される。
【0041】
次に、制御部11の機能について説明する。
図8は、制御部11が有する機能モジュールと、モジュール間におけるデータの流れを説明する図である。図示した機能モジュールは、ROM等の記憶手段に記憶されたプログラムをCPU等によって実行することで実現することができる。
【0042】
まず、映像インタフェース14を介して取得された複数の映像信号が、制御部11に入力される。本例では、リアカメラであるカメラ30Aからの映像信号を、第一カメラ信号と称する。また、カメラ30B~Eからの映像信号を、第二カメラ信号と称する。本実施形態では、第一カメラ信号は、処理優先度が最も高い映像信号である。これは、第一カメラ信号は、車両後方を捉えた映像を含むため、リアルタイムで伝送すべきである(例えば、車両の後退中に映像がコマ落ちすると、車両後方を横切る歩行者を捉えられなくなるおそれがある)という理由による。これに比べ、第二カメラ信号は、補助的な映像(全周囲映像)を生成するためのものであるため、第一カメラ信号に比べ、相対的に優先度が低くなる。
【0043】
第一カメラ信号は、車載端末20に必ず送信されるのに比べ、第二カメラ信号は、車載端末20からの指示に基づいて適宜選択される。例えば、サイドカメラの映像が車載端末20によって要求された場合、サイドカメラからの映像信号のみが選択される。
【0044】
映像選択部111は、複数の第二カメラ信号のうち、送信の対象となるものを選択する。本実施形態では、車載端末20が、映像選択部111に対して、カメラを指定するデータ(図中の「選択データ」)を送信し、映像選択部111が、これに応答して、第二カメラ信号の選択を行う。
図9(A)は、選択データの一例である。
例えば、車載端末20が、全周囲映像を生成するための映像を要求する旨の選択データを送信した場合、映像選択部111は、全周囲映像を生成するための第二カメラ信号を選択する。
本実施形態では、「第一カメラ信号」と、「映像選択部111が選択した第二カメラ信号」が、重畳の対象となる。
【0045】
画像処理部112は、重畳の対象である複数の第二カメラ信号に対して調整を行う。例えば、画像処理部112は、複数の第二カメラ信号のそれぞれについて、解像度やフレームレートを一致させる処理を行う。例えば、MIPI規格に準拠した映像信号を重畳する場合、通信速度を平滑化するため、全ての映像信号について、解像度やフレームレートを一致させることが好ましい。解像度は、画像の引き伸ばしや縮小によって調整してもよいし、塗り足しやクリッピングなどによって調整してもよい。
なお、画像処理部112が行う処理は、映像信号の重畳のための処理に限られない。例えば、LED信号機の発光周期(例えば、60Hz)を考慮して、映像のフレームレートを調整する(例えば、30fpsの映像信号を29fpsに変換する)処理を行ってもよい。
【0046】
第一重畳部113は、映像選択部111によって選択された複数の第二カメラ信号を重畳する処理を行う。これにより、複数の映像信号が、複数のレーンを含む単一の映像信号に変換される。なお、第二カメラ信号の選択、および、信号の重畳は、映像信号の規格内
(例えば、最大ビットレートの範囲内)において自由に実施することができる。変換後の信号は、例えば、CSI-2とすることができる。
【0047】
第二重畳部114は、第一重畳部113によって重畳された映像信号と、第一カメラ信号を重畳する処理を行う。これにより、
図6に示したように、入れ子構造となった映像信号を得ることができる。映像信号1~4は、MIPI規格に準拠したものであり、第二重畳部114が生成する映像信号(符号603)は、GVIF規格に準拠したものである。
第二重畳部114によって生成された映像信号は、車載端末20へ送信される。
【0048】
次に、
図7に示した車載端末20について説明する。
車載端末20は、車両100の乗員に情報を提供する装置であって、カーナビゲーションシステム、インフォテインメントシステム、ヘッドユニットとも呼ばれる。車載端末20は、車両の乗員に対して、ナビゲーションや娯楽の提供を行うことができる。車載端末20は、車両100の外部ネットワークと通信することで、交通情報、道路地図データ、音楽や動画像などをダウンロードする機能を有していてもよい。
【0049】
車載端末20は、汎用のコンピュータにより構成することができる。すなわち、車載端末20は、CPUやGPU等のプロセッサ、RAMやROM等の主記憶装置、EPROM、ハードディスクドライブ、リムーバブルメディア等の補助記憶装置を有するコンピュータとして構成することができる。補助記憶装置には、オペレーティングシステム(OS)、各種プログラム、各種テーブル等が格納され、そこに格納されたプログラムを実行することによって、後述するような、所定の目的に合致した各機能を実現することができる。ただし、一部または全部の機能はASICやFPGAのようなハードウェア回路によって実現されてもよい。
【0050】
車載端末20は、制御部21、記憶部22、通信部23、および入出力部24を有して構成される。
【0051】
制御部21は、車載端末20の制御を司る手段である。制御部21は、例えば、CPU(Central Processing Unit)やGPU(Graphics Processing Unit)等の情報処理ユニ
ットによって構成される。
制御部21は、車両の乗員に対して情報の提供を行う。提供される情報として、例えば、交通情報、ナビゲーション情報、音楽や映像、ラジオ放送、デジタルテレビ放送などがある。制御部21は、入出力部24を介して情報の出力を行う。
【0052】
さらに、制御部21は、車載カメラを利用した運転補助機能を提供する。車載カメラを利用した運転補助機能として、例えば、後退時に車両の後方をモニタする機能、見通しの悪い交差点において、左右の交通状況をモニタする機能などが例示できる。車載カメラを利用した運転補助機能を提供する場合、制御部21は、ECU10に対して映像の送信を要求する。制御部21は、ECU10から送信された映像信号に基づいて、出力する画像を生成する処理や、ユーザインタフェース画面を生成する処理を実行してもよい。
制御部21が実行する処理の詳細については後述する。
【0053】
記憶部22は、情報を記憶する手段であり、RAM、磁気ディスクやフラッシュメモリなどの記憶媒体により構成される。記憶部22には、制御部21にて実行される各種プログラム、当該プログラムが利用するデータ等が記憶される。
【0054】
通信部23は、車載端末20とECU10を接続するためのインタフェースユニットである。通信部23は、通信部13と同様に、映像を伝送する経路に対応するインタフェースと、制御信号を伝送する経路に対応するインタフェースの二つを有している。映像を伝
送する経路に対応するインタフェースは、例えば、ツイストペアケーブルや同軸ケーブルである。制御信号を伝送する経路に対応するインタフェースは、例えば、CAN(Controller Area Network)である。
【0055】
入出力部24は、ユーザが行った入力操作を受け付け、ユーザに対して情報を提示する手段である。具体的には、タッチパネルとその制御手段、液晶ディスプレイとその制御手段から構成される。タッチパネルおよび液晶ディスプレイは、本実施形態では一つのタッチパネルディスプレイからなる。また、入出力部24は、音声を出力するためのスピーカ等を有していてもよい。
【0056】
次に、制御部21の機能について説明する。
図10は、制御部21が有する機能モジュールと、モジュール間におけるデータの流れを説明する図である。図示した機能モジュールは、ROM等の記憶手段に記憶されたプログラムをCPU等によって実行することで実現することができる。
【0057】
選択部211は、ECU10に対して、映像を取得するカメラを指定するデータ(選択データ)を送信する。
選択部211は、運転者の操作に基づいて、ECU10に対してどのカメラの映像を要求するかを決定する。例えば、車両100が後退する場合において、
図4(A)に例示したように、リアカメラの映像を出力する場合がある。この場合、リアカメラが選択される。また、車両100が後退する場合において、
図4(B)に例示したように、リアカメラの映像と、全周囲映像を出力する場合がある。この場合、リアカメラを含む、外部モニタ用の全てのカメラが選択される。
【0058】
使用するカメラは、運転者の操作に基づいて決定されてもよいし、車両100の状態に基づいて決定されてもよい。例えば、ギアポジションが「リバース」である場合、後退時に使用されるカメラを決定してもよい。このため、車載端末20は、車両の状態(モード)と、使用するカメラを関連付けたデータを記憶し、当該データに基づいて選択データを生成してもよい。選択部211は、例えば、
図11に例示したようなデータに基づいて、選択データを生成することができる。斯様なデータは、記憶部22に記憶されていてもよい。
【0059】
第一分離部212は、ECU10から送信された映像信号を、通信部23を介して受信し、当該映像信号を分離する。
図6を示して説明したように、ECU10と車載端末20との間で送受信される映像信号は、GVIF規格に準拠したものであり、これを分離することで、MIPI規格に準拠した二つの映像信号(
図6における符号601,602)を得ることができる。分離した映像信号のうち、第一カメラ信号(符号601)(すなわち、リアカメラが生成した映像信号)は、情報提供部214へ送信される。
第一カメラ信号以外の映像信号(符号602)は、第二分離部213へ送信される。
【0060】
第二分離部213は、第一分離部212から送信された映像信号を分離し、複数の第二カメラ信号を取得する。複数の第二カメラ信号は、第一カメラ信号と同様に、情報提供部214へ送信される。
【0061】
情報提供部214は、第一カメラ信号、および、第二カメラ信号に基づいて、車両の乗員(運転者)に提供するユーザインタフェース画面を生成する。例えば、情報提供部214は、所定のグラフィックに、カメラが捉えた映像をはめ込み、出力する。この際、車両の位置や予想軌跡などを表すガイドラインなどを重畳してもよい。また、複数のカメラが捉えた映像に基づいて、一枚の画像(全周囲映像など)を生成する処理を行ってもよい。
【0062】
図12は、ECU10および車載端末20が実行する処理のフローチャートである。
まず、ステップS11で、選択部211が、映像を取得するカメラを決定する。本ステップは、運転者が所定の操作を行った場合に実行されてもよいし、車両が所定の状態になった場合に実行されてもよい。選択部211は、運転者による操作、または、車両の状態に基づいて、使用するカメラを決定し、当該カメラを指定するためのデータ(選択データ)を、ECU10に送信する。
【0063】
ステップS12では、ECU10(映像選択部111)が、選択データに基づいて、映像信号を取得する一つ以上のカメラを特定し、当該カメラからの映像信号を選択する。選択された映像信号(第二カメラ信号)は、画像処理部112に渡される。
次に、ステップS13で、画像処理部112が、映像信号の重畳を行うための前処理を行う。具体的には、第二カメラ信号に対して、フレームレートの変換、解像度の変換などを行う。なお、複数の映像信号を重畳するための前処理であれば、例示した処理以外を本ステップで実行してもよい。なお、必要がなければ、本ステップは省略することもできる。画像処理部112が処理を行った後の第二カメラ信号は、第一重畳部113に渡される。
【0064】
次に、ステップS14で、第一重畳部113が、入力された複数の第二カメラ信号を重畳し、単一の映像信号を生成する。
次に、ステップS15で、第二重畳部114が、第一重畳部113によって重畳された第二カメラ信号と、第一カメラ信号を重畳する。重畳後の映像信号は、映像を伝送するためのインタフェースを介して、車載端末20に送信される。
【0065】
ステップS16では、第一分離部212が、受信した映像信号を分離し、第一カメラ信号を得る。分離後の映像信号は、第二分離部213へ送信される。ステップS17では、第二分離部213が、受信した映像信号を分離し、第二カメラ信号を得る。第一カメラ信号および第二カメラ信号は、情報提供部214へ送信される。
情報提供部214は、受信した第一カメラ信号および第二カメラ信号に基づいて、車両の乗員に対して情報提供を行う。
【0066】
以上説明したように、本実施形態に係るECU10は、異なる二種類の映像伝送規格によって、複数のカメラが生成した映像信号を多段階で重畳する。これにより、所定の映像信号について品質要件を確保しつつ、複数の映像信号を重畳伝送することが可能になる。また、品質が要求される映像信号については、解像度やフレームレートを他の映像信号よりも高く設定することが可能になる。
【0067】
(第二の実施形態)
第一の実施形態では、リアカメラによって生成された映像信号を高優先度で伝送した。一方、どの映像信号を優先するか(すなわち、どの映像信号を第一カメラ信号として扱うか)を、ECU10の外部から指定できるようにしてもよい。
第二の実施形態は、車載端末20からECU10に対して映像信号の優先度を指示する実施形態である。
【0068】
図13は、第二の実施形態における、ECU10(制御部11)のモジュール構成図である。本実施形態では、映像選択部111が、第一カメラ信号および第二カメラ信号の双方を選択するという点と、車載端末20から送信される選択データに、優先度の指定が含まれるという点において、第一の実施形態と相違する。
【0069】
図9(B)は、第二の実施形態における選択データの例である。図示したように、本実施形態では、選択データは、利用するカメラを、優先度ごとに関連付けたデータである。
本例では、最も優先度が高いカメラがリアカメラである旨が示されている。すなわち、第一カメラ信号は、リアカメラが生成した映像信号となる。第二カメラ信号は、その他のカメラが生成した映像信号となる。
映像選択部111は、当該選択データに基づいて、映像信号の選択を行うとともに、優先度ごとにその出力先を決定する。具体的には、最も優先度が高いカメラに対応する映像信号を、第一カメラ信号として第二重畳部114に送信し、その他の映像信号を、第二カメラ信号として第一重畳部113に送信する。
以降の処理は、第一の実施形態と同様である。
【0070】
以上説明したように、第二の実施形態によると、映像信号の優先度を動的に指定することが可能になる。これにより、例えば、車両が後退するシーンではリアカメラの映像を優先し、車両が合流するシーンではサイドカメラの映像を優先するといった使い分けをすることが可能になる。
【0071】
(変形例)
上記の実施形態はあくまでも一例であって、本発明はその要旨を逸脱しない範囲内で適宜変更して実施しうる。
例えば、本開示において説明した処理や手段は、技術的な矛盾が生じない限りにおいて、自由に組み合わせて実施することができる。
【0072】
また、実施形態の説明では、複数のカメラが、MIPI規格に準拠した映像信号を出力するものとしたが、カメラが出力する映像信号は、他の規格に準拠したものであってもよい。
また、実施形態の説明では、GVIF規格に準拠した映像信号によって、ECU10と車載端末20間の伝送を行うものとしたが、装置間における映像の伝送は、他の規格を利用してもよい。ただし、採用可能な規格は、以下の条件のうちの少なくとも一つを満たすものであることが好ましい。
【0073】
(1)重畳伝送される少なくとも一つの映像信号について、所定の品質要件を保証可能な規格であること
所定の品質要件とは、例えば、リアルタイム要件である。これにより、第一カメラ信号をリアルタイムに伝送することが可能になる。
(2)重畳伝送される少なくとも一つの映像信号について、常に所定値以上の帯域を割り当て可能な規格であること
これにより、例えば、所定値以上の帯域を第一カメラ信号に割り当て、残りの帯域を第二カメラ信号に割り当てるといったことが可能になる。
(3)複数の解像度およびフレームレートが混在可能な規格であること
【0074】
また、1つの装置が行うものとして説明した処理が、複数の装置によって分担して実行されてもよい。あるいは、異なる装置が行うものとして説明した処理が、1つの装置によって実行されても構わない。コンピュータシステムにおいて、各機能をどのようなハードウェア構成(サーバ構成)によって実現するかは柔軟に変更可能である。
【0075】
本開示は、上記の実施形態で説明した機能を実装したコンピュータプログラムをコンピュータに供給し、当該コンピュータが有する1つ以上のプロセッサがプログラムを読み出して実行することによっても実現可能である。このようなコンピュータプログラムは、コンピュータのシステムバスに接続可能な非一時的なコンピュータ可読記憶媒体によってコンピュータに提供されてもよいし、ネットワークを介してコンピュータに提供されてもよい。非一時的なコンピュータ可読記憶媒体は、例えば、磁気ディスク(フロッピー(登録商標)ディスク、ハードディスクドライブ(HDD)等)、光ディスク(CD-ROM、
DVDディスク・ブルーレイディスク等)など任意のタイプのディスク、読み込み専用メモリ(ROM)、ランダムアクセスメモリ(RAM)、EPROM、EEPROM、磁気カード、フラッシュメモリ、光学式カード、電子的命令を格納するために適した任意のタイプの媒体を含む。
【符号の説明】
【0076】
100・・・車両
10・・・ECU
20・・・車載端末
11,21・・・制御部
12,22・・・記憶部
13,23・・・通信部
14・・・映像インタフェース
24・・・入出力部
30・・・カメラ