IP Force 特許公報掲載プロジェクト 2022.1.31 β版

知財求人 - 知財ポータルサイト「IP Force」

▶ 本田技研工業株式会社の特許一覧

特許7198391車両制御装置、車両制御システム、車両制御方法、およびプログラム
<>
  • 特許-車両制御装置、車両制御システム、車両制御方法、およびプログラム 図1
  • 特許-車両制御装置、車両制御システム、車両制御方法、およびプログラム 図2
  • 特許-車両制御装置、車両制御システム、車両制御方法、およびプログラム 図3
  • 特許-車両制御装置、車両制御システム、車両制御方法、およびプログラム 図4
  • 特許-車両制御装置、車両制御システム、車両制御方法、およびプログラム 図5
  • 特許-車両制御装置、車両制御システム、車両制御方法、およびプログラム 図6
  • 特許-車両制御装置、車両制御システム、車両制御方法、およびプログラム 図7
  • 特許-車両制御装置、車両制御システム、車両制御方法、およびプログラム 図8
  • 特許-車両制御装置、車両制御システム、車両制御方法、およびプログラム 図9
  • 特許-車両制御装置、車両制御システム、車両制御方法、およびプログラム 図10
  • 特許-車両制御装置、車両制御システム、車両制御方法、およびプログラム 図11
< >
(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】
(24)【登録日】2022-12-20
(45)【発行日】2022-12-28
(54)【発明の名称】車両制御装置、車両制御システム、車両制御方法、およびプログラム
(51)【国際特許分類】
   B60W 50/02 20120101AFI20221221BHJP
   B60W 30/06 20060101ALI20221221BHJP
   B60W 30/182 20200101ALI20221221BHJP
   B60W 40/02 20060101ALI20221221BHJP
   B60W 60/00 20200101ALI20221221BHJP
   B60W 10/20 20060101ALI20221221BHJP
   B60W 10/04 20060101ALI20221221BHJP
   G08G 1/16 20060101ALI20221221BHJP
   G08G 1/00 20060101ALI20221221BHJP
【FI】
B60W50/02
B60W30/06
B60W30/182
B60W40/02
B60W60/00
B60W10/20
B60W10/04
G08G1/16 C
G08G1/00 D
【請求項の数】 13
(21)【出願番号】P 2022527934
(86)(22)【出願日】2020-12-28
(86)【国際出願番号】 JP2020049108
(87)【国際公開番号】W WO2022144963
(87)【国際公開日】2022-07-07
【審査請求日】2022-05-13
【早期審査対象出願】
(73)【特許権者】
【識別番号】000005326
【氏名又は名称】本田技研工業株式会社
(74)【代理人】
【識別番号】100165179
【弁理士】
【氏名又は名称】田▲崎▼ 聡
(74)【代理人】
【識別番号】100126664
【弁理士】
【氏名又は名称】鈴木 慎吾
(74)【代理人】
【識別番号】100154852
【弁理士】
【氏名又は名称】酒井 太一
(74)【代理人】
【識別番号】100194087
【弁理士】
【氏名又は名称】渡辺 伸一
(72)【発明者】
【氏名】中村 佳史
(72)【発明者】
【氏名】古森 雄一
(72)【発明者】
【氏名】伊藤 真吾
(72)【発明者】
【氏名】堀場 歩
(72)【発明者】
【氏名】加納 忠彦
(72)【発明者】
【氏名】今枝 憲幸
(72)【発明者】
【氏名】岸本 隆史
(72)【発明者】
【氏名】樋口 太規
【審査官】藤村 泰智
(56)【参考文献】
【文献】特開2018-180843(JP,A)
【文献】特開2020-051942(JP,A)
【文献】特開2020-184302(JP,A)
【文献】特開2020-152139(JP,A)
【文献】特開2020-154624(JP,A)
【文献】特開2020-055410(JP,A)
【文献】中国特許出願公開第109606385(CN,A)
(58)【調査した分野】(Int.Cl.,DB名)
B60W 30/00 ~ 60/00
B60W 10/00 ~ 10/30
G08G 1/00 ~ 1/16
(57)【特許請求の範囲】
【請求項1】
車両の運転者が視認する表示部に表示させる画像を撮像するための一以上の第1カメラにより撮像された画像を用いず、第2カメラにより撮像された画像を用いて前記車両の周辺状況を認識する認識部と、
前記認識部の認識結果に基づいて、前記車両の操舵および加減速を制御する運転制御部と、
前記車両の運転モードを、第1の運転モードと、第2の運転モードとを含む複数の運転モードのいずれかに決定し、
前記第2の運転モードは運転者に課されるタスクが前記第1の運転モードに比して軽度であり、前記運転制御部が前記第2の運転モードで前記車両を制御しており、
且つ前記車両の周囲を撮像する前記一以上の第1カメラまたは前記一以上の第1カメラにより撮像された画像に関して所定の条件を含む異常が生じた場合に、前記運転モードを前記第1の運転モードに変更するモード決定部と、を備え、
前記第1カメラにより撮像された画像は、少なくも前記第2の運転モードで前記車両が制御されている場合に車外の様子が撮像された画像であり、前記第1カメラにより撮像された画像は、前記車両の周辺状況の記録用として記憶装置に記憶される、
車両制御装置。
【請求項2】
車両の運転者が視認する表示部に表示させる画像を撮像するための一以上の第1カメラにより撮像された画像を用いず、第2カメラにより撮像された画像を用いて前記車両の周辺状況を認識する認識部と、
前記認識部の認識結果に基づいて、前記車両の操舵および加減速を制御する運転制御部と、
前記車両の運転モードを、第1の運転モードと、第2の運転モードとを含む複数の運転モードのいずれかに決定し、
前記第2の運転モードは運転者に課されるタスクが前記第1の運転モードに比して軽度であり、前記運転制御部が前記第2の運転モードで前記車両を制御しており、
且つ前記車両の周囲を撮像する前記一以上の第1カメラまたは前記一以上の第1カメラにより撮像された画像に関して所定の条件を含む異常が生じた場合に、前記運転モードを前記第1の運転モードに変更するモード決定部と、
前記車両の操舵を制御して所定の駐車スペースに自動で前記車両を駐車させる支援を行う自動駐車制御部と、を備え、
前記自動駐車制御部が前記自動で前記車両を駐車させる場合に、前記第1カメラにより撮像された画像は表示部に表示される、
車両制御装置。
【請求項3】
前記第2の運転モードは、前記運転者に前記車両の周辺を監視するタスクおよびステアリングホイールを把持するタスクを課さないモードであり、
前記第1の運転モードは、前記運転者の運転操作により前記車両が制御されるモードである、
請求項1または2に記載の車両制御装置。
【請求項4】
前記第1カメラは、前記車両の前方を撮像するカメラ、前記車両の後方を撮像するカメラ、前記車両の右方向を撮像するカメラ、および前記車両の左方向を撮像するカメラを含む、
請求項1から3のうちいずれか1項に記載の車両制御装置。
【請求項5】
前記異常は、
前記運転制御部が前記第1カメラにより撮像された画像を取得できない状態が第1時間継続したこと
前記第1カメラにより撮像された画像を録画する装置が前記第1カメラにより撮像された画像を録画できなくなった状態が第2時間継続したこと、または
前記運転制御部が前記装置に録画の指示を行った場合に、前記装置が録画を行わない状態が第3時間継続したことである、
請求項1から4のうちいずれか1項に記載の車両制御装置。
【請求項6】
前記第2時間または前記第3時間は、前記第1時間よりも長い、
請求項5に記載の車両制御装置。
【請求項7】
前記モード決定部は、
前記車両のシステムが休止状態から起動状態に移行した場合において、前記車両に搭載されたバッテリの電圧が第1電圧以上であり、且つ前記第1カメラにより撮像された画像を録画する設定が有効である場合に、前記一以上の第1カメラまたは前記一以上の第1カメラにより撮像された画像に関して所定の条件を含む前記異常が存在するか否を判定する、
請求項1から6のうちいずれか1項に記載の車両制御装置。
【請求項8】
車両の運転者が視認する表示部に表示させる画像を撮像するための一以上の第1カメラであって前記車両の周囲を撮像する一以上の第1カメラと、
前記車両の周辺を撮像する第2カメラと、
前記第1カメラにより撮像された画像を用いずに、少なくとも前記第2カメラにより撮像された画像を用いて前記車両の周辺状況を認識する認識部と、
前記認識部の認識結果に基づいて、前記車両の操舵および加減速を制御する運転制御部と、
前記車両の運転モードを、第1の運転モードと、第2の運転モードとを含む複数の運転モードのいずれかに決定し、
前記第2の運転モードは運転者に課されるタスクが前記第1の運転モードに比して軽度であり、前記運転制御部が前記第2の運転モードで前記車両を制御しており、
且つ前記一以上の第1カメラまたは前記一以上の第1カメラにより撮像された画像に関して所定の条件を含む異常が生じた場合に、前記運転モードを前記第1の運転モードに変更するモード決定部と、を備え、
前記第1カメラにより撮像された画像は、少なくも前記第2の運転モードで前記車両が制御されている場合に車外の様子が撮像された画像であり、前記第1カメラにより撮像された画像は、前記車両の周辺状況の記録用として記憶装置に記憶される、
車両制御システム。
【請求項9】
車両の運転者が視認する表示部に表示させる画像を撮像するための一以上の第1カメラであって前記車両の周囲を撮像する一以上の第1カメラと、
前記車両の周辺を撮像する第2カメラと、
前記第1カメラにより撮像された画像を用いずに、少なくとも前記第2カメラにより撮像された画像を用いて前記車両の周辺状況を認識する認識部と、
前記認識部の認識結果に基づいて、前記車両の操舵および加減速を制御する運転制御部と、
前記車両の運転モードを、第1の運転モードと、第2の運転モードとを含む複数の運転モードのいずれかに決定し、
前記第2の運転モードは運転者に課されるタスクが前記第1の運転モードに比して軽度であり、前記運転制御部が前記第2の運転モードで前記車両を制御しており、
且つ前記一以上の第1カメラまたは前記一以上の第1カメラにより撮像された画像に関して所定の条件を含む異常が生じた場合に、前記運転モードを前記第1の運転モードに変更するモード決定部と、
前記車両の操舵を制御して所定の駐車スペースに自動で前記車両を駐車させる支援を行う自動駐車制御部と、を備え、
前記自動駐車制御部が前記自動で前記車両を駐車させる場合に、前記第1カメラにより撮像された画像は表示部に表示される、
車両制御システム。
【請求項10】
車両に搭載されたコンピュータが、
前記車両の運転者が視認する表示部に表示させる画像を撮像するための一以上の第1カメラにより撮像された画像を用いず、第2カメラにより撮像された画像を用いて前記車両の周辺状況を認識し、
前記周辺状況に基づいて前記車両の操舵および加減速を制御し、
前記車両の運転モードを、第1の運転モードと、第2の運転モードとを含む複数の運転モードのいずれかに決定し、前記第2の運転モードは運転者に課されるタスクが前記第1の運転モードに比して軽度であり、前記第2の運転モードで前記車両を制御しており、且つ前記車両の周囲を撮像する一以上の第1カメラまたは前記一以上の第1カメラにより撮像された画像に関して所定の条件を含む異常が生じた場合に、前記運転モードを前記第1の運転モードに変更し、
前記第1カメラにより撮像された画像は、少なくも前記第2の運転モードで前記車両が制御されている場合に車外の様子が撮像された画像であり、前記第1カメラにより撮像された画像は、前記車両の周辺状況の記録用として記憶装置に記憶される、
車両制御方法。
【請求項11】
車両に搭載されたコンピュータに、
前記車両の運転者が視認する表示部に表示させる画像を撮像するための一以上の第1カメラにより撮像された画像を用いず、第2カメラにより撮像された画像を用いて前記車両の周辺状況を認識させる処理と、
前記周辺状況に基づいて前記車両の操舵および加減速を制御させる処理と、
前記車両の運転モードを、第1の運転モードと、第2の運転モードとを含む複数の運転モードのいずれかに決定させ、前記第2の運転モードは運転者に課されるタスクが前記第1の運転モードに比して軽度であり、前記第2の運転モードで前記車両を制御しており、且つ前記車両の周囲を撮像する一以上の第1カメラまたは前記一以上の第1カメラにより撮像された画像に関して所定の条件を含む異常が生じた場合に、前記運転モードを前記第1の運転モードに変更させる処理と、を実行させ、
前記第1カメラにより撮像された画像は、少なくも前記第2の運転モードで前記車両が制御されている場合に車外の様子が撮像された画像であり、前記第1カメラにより撮像された画像は、前記車両の周辺状況の記録用として記憶装置に記憶される、
プログラム。
【請求項12】
車両に搭載されたコンピュータが、
前記車両の運転者が視認する表示部に表示させる画像を撮像するための一以上の第1カメラにより撮像された画像を用いず、第2カメラにより撮像された画像を用いて前記車両の周辺状況を認識し、
前記周辺状況に基づいて前記車両の操舵および加減速を制御し、
前記車両の運転モードを、第1の運転モードと、第2の運転モードとを含む複数の運転モードのいずれかに決定し、前記第2の運転モードは運転者に課されるタスクが前記第1の運転モードに比して軽度であり、前記第2の運転モードで前記車両を制御しており、且つ前記車両の周囲を撮像する一以上の第1カメラまたは前記一以上の第1カメラにより撮像された画像に関して所定の条件を含む異常が生じた場合に、前記運転モードを前記第1の運転モードに変更し、
前記車両の操舵を制御して所定の駐車スペースに自動で前記車両を駐車させる支援を行い、
前記自動で前記車両を駐車させる場合に、前記第1カメラにより撮像された画像は表示部に表示される、
車両制御方法。
【請求項13】
車両に搭載されたコンピュータに、
前記車両の運転者が視認する表示部に表示させる画像を撮像するための一以上の第1カメラにより撮像された画像を用いず、第2カメラにより撮像された画像を用いて前記車両の周辺状況を認識させる処理と、
前記周辺状況に基づいて前記車両の操舵および加減速を制御させる処理と、
前記車両の運転モードを、第1の運転モードと、第2の運転モードとを含む複数の運転モードのいずれかに決定させ、前記第2の運転モードは運転者に課されるタスクが前記第1の運転モードに比して軽度であり、前記第2の運転モードで前記車両を制御しており、且つ前記車両の周囲を撮像する一以上の第1カメラまたは前記一以上の第1カメラにより撮像された画像に関して所定の条件を含む異常が生じた場合に、前記運転モードを前記第1の運転モードに変更させる処理と、
前記車両の操舵を制御して所定の駐車スペースに自動で前記車両を駐車させる支援を行う処理と、を実行させ、
前記自動で前記車両を駐車させる場合に、前記第1カメラにより撮像された画像は表示部に表示される、
プログラム。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、車両制御装置、車両制御システム、車両制御方法、およびプログラムに関する。
【背景技術】
【0002】
従来、内蔵したカメラで車両の周辺を撮影し、撮影して得られた画像を記録するドライブレコーダーが搭載された車両が開示されている(特許文献1参照)。
【先行技術文献】
【特許文献】
【0003】
【文献】特許第6035032号公報
【発明の概要】
【発明が解決しようとする課題】
【0004】
しかしながら、従来の技術では、ドライブレコーダーとは異なる用途のカメラによる撮影や、撮影と制御部が車両の操舵および加減速を制御との関係については考慮されていない。
【0005】
本発明は、このような事情を考慮してなされたものであり、車両の状態に応じて、車両をより適切に制御することができる車両制御装置、車両制御システム、車両制御方法、およびプログラムを提供することを目的の一つとする。
【課題を解決するための手段】
【0006】
この発明に係る車両制御装置は、以下の構成を採用した。
(1):この発明の一態様に係る車両制御装置は、車両の周辺状況を認識する認識部と、車両の操舵および加減速を制御する運転制御部と、前記車両の運転モードを、第1の運転モードと、第2の運転モードとを含む複数の運転モードのいずれかに決定し、前記第2の運転モードは運転者に課されるタスクが前記第1の運転モードに比して軽度であり、前記運転制御部が前記第2の運転モードで前記車両を制御しており、且つ前記車両の周囲を撮像する一以上のカメラまたは前記一以上のカメラにより撮像された画像に関して所定の条件を含む異常が生じた場合に、前記運転モードを前記第1の運転モードに変更するモード決定部とを備える。
【0007】
(2):上記(1)の態様において、前記画像は、少なくも前記第2の運転モードで前記車両が制御されている場合に車外の様子が撮像された画像であり、前記画像は、前記車両の周辺状況の記録用として記憶装置に記憶される。
【0008】
(3):上記(1)または(2)の態様において、前記第2の運転モードは、前記運転者に前記車両の周辺を監視するタスクおよびステアリングホイールを把持するタスクを課さないモードであり、前記第1の運転モードは、前記運転者の運転操作により前記車両が制御されるモードである。
【0009】
(4):上記(1)から(3)のいずれかの態様において、前記カメラは、前記車両の前方を撮像するカメラ、前記車両の後方を撮像するカメラ、前記車両の右方向を撮像するカメラ、および前記車両の左方向を撮像するカメラを含む。
【0010】
(5):上記(1)から(4)のいずれかの態様において、前記異常は、前記運転制御部が前記画像を取得できない状態が第1時間継続したこと、前記画像を録画する装置が前記画像を録画できなくなった状態が第2時間継続したこと、または前記運転制御部が前記装置に録画の指示を行った場合に、前記装置が録画を行わない状態が第3時間継続したことである。
【0011】
(6):上記(5)の態様において、前記第2時間または前記第3時間は、前記第1時間よりも長い。
【0012】
(7):上記(1)から(6)のいずれかの態様において、前記モード決定部は、前記車両のシステムが休止状態から起動状態に移行した場合において、前記車両に搭載されたバッテリの電圧が第1電圧以上であり、且つ前記画像を録画する設定が有効である場合に、前記一以上のカメラまたは前記一以上のカメラにより撮像された画像に関して所定の条件を含む前記異常が存在するか否を判定する。
【0013】
(8):上記(1)から(7)のうちいずれかの態様において、前記車両の操舵を制御して所定の駐車スペースに自動で前記車両を駐車させる支援を行う自動駐車制御部を更に備え、前記自動駐車制御部が前記自動で前記車両を駐車させる場合に、前記画像は表示部に表示される。
【0014】
(9):この発明の一態様に係る車両制御システムは、車両の周囲を撮像する一以上の第1カメラと、車両の周辺を撮像する第2カメラと、前記第1カメラにより撮像された画像を用いずに、少なくとも前記第2カメラにより撮像された画像を用いて前記車両の周辺状況を認識する認識部と、前記車両の操舵および加減速を制御する運転制御部と、前記車両の運転モードを、第1の運転モードと、第2の運転モードとを含む複数の運転モードのいずれかに決定し、前記第2の運転モードは運転者に課されるタスクが前記第1の運転モードに比して軽度であり、前記運転制御部が前記第2の運転モードで前記車両を制御しており、且つ前記一以上の第1カメラまたは前記一以上の第1カメラにより撮像された画像に関して所定の条件を含む異常が生じた場合に、前記運転モードを前記第1の運転モードに変更するモード決定部とを備える。
【0015】
(10):この発明の一態様に係る車両制御方法は、車両に搭載されたコンピュータが、車両の周辺状況を認識し、車両の操舵および加減速を制御し、前記車両の運転モードを、第1の運転モードと、第2の運転モードとを含む複数の運転モードのいずれかに決定し、前記第2の運転モードは運転者に課されるタスクが前記第1の運転モードに比して軽度であり、前記第2の運転モードで前記車両を制御しており、且つ前記車両の周囲を撮像する一以上のカメラまたは前記一以上のカメラにより撮像された画像に関して所定の条件を含む異常が生じた場合に、前記運転モードを前記第1の運転モードに変更する。
【0016】
(11):この発明の一態様に係るプログラムは、車両に搭載されたコンピュータに、車両の周辺状況を認識させ、車両の操舵および加減速を制御させ、前記車両の運転モードを、第1の運転モードと、第2の運転モードとを含む複数の運転モードのいずれかに決定させ、前記第2の運転モードは運転者に課されるタスクが前記第1の運転モードに比して軽度であり、前記第2の運転モードで前記車両を制御しており、且つ前記車両の周囲を撮像する一以上のカメラまたは前記一以上のカメラにより撮像された画像に関して所定の条件を含む異常が生じた場合に、前記運転モードを前記第1の運転モードに変更させるプログラムである。
【発明の効果】
【0017】
上記(1)~(11)の態様によれば、車両の状態に応じて、車両をより適切に制御することができる。
【図面の簡単な説明】
【0018】
図1】実施形態に係る車両制御装置を利用した車両システムの構成図である。
図2】第1制御部および第2制御部の機能構成図である。
図3】運転モードと自車両の制御状態、およびタスクの対応関係の一例を示す図である。
図4】車両システム1を別の観点から示す図である。
図5】第1制御装置100とマルチビューカメラユニット90とメモリ装置96との通信に関する接続状態について説明するための図である。
図6】異常の判定条件と推定される異常とについて説明するための図である。
図7図6の(1)、(2)、(3)の判定が開始される条件について説明するための図である。
図8】第1制御装置100の異常判定部156により実行される処理の流れの一例を示すフローチャートである。
図9】モード決定部150により実行される処理の流れの一例を示すフローチャートである。
図10】各装置により取得された情報の管理状態について説明するための図である。
図11】記録した情報の保存タイミングに関する情報と、情報の保存タイミングとについて説明するための図である。
【発明を実施するための形態】
【0019】
以下、図面を参照し、本発明の車両制御装置、車両制御方法、およびプログラムの実施形態について説明する。
【0020】
[全体構成]
図1は、実施形態に係る車両制御装置を利用した車両システム1の構成図である。車両システム1が搭載される車両は、例えば、二輪や三輪、四輪等の車両であり、その駆動源は、ディーゼルエンジンやガソリンエンジンなどの内燃機関、電動機、或いはこれらの組み合わせである。電動機は、内燃機関に連結された発電機による発電電力、或いは二次電池や燃料電池の放電電力を使用して動作する。以下の説明では、車両は、四輪の内燃機関と電動機とを駆動源とするハイブリッド車両であるものとして説明する。
【0021】
車両システム1は、後述する第1グループと第2グループとに車両を制御する機能が多重化または冗長化されている。これにより、車両システム1の信頼性が向上する。
【0022】
車両システム1は、例えば、カメラ10と、LIDAR(Light Detection and Ranging)14と、第1認識装置16と、通信装置20と、HMI(Human Machine Interface)30と、車両センサ40と、ナビゲーション装置50と、MPU(Map Positioning Unit)60と、ドライバモニタカメラ70と、運転操作子80と、マルチビューカメラユニット90と、自動駐車制御装置94と、メモリ装置96と、第1制御装置100と、走行駆動力出力装置200と、ブレーキ装置210と、ステアリング装置220とを備える。
【0023】
更に、車両システム1は、例えば、カメラ310と、レーダ装置312と、第2制御装置320とを備える。
【0024】
これらの装置や機器は、CAN(Controller Area Network)通信線等の多重通信線やシリアル通信線、無線通信網等によって互いに接続される。図1、後述する図2および図4に示す構成はあくまで一例であり、構成の一部が省略されてもよいし、更に別の構成が追加されてもよい。また、図1、後述する図4および図5に示す通信線の接続態様はあくまで一例であり、接続態様は適宜変更されてもよい。更に、各機能構成は、統合されてもよいし、分散して設けられてもよい。車両システム1は、第1グループに含まれる機能構成と、第2グループに含まれる機能構成とに分類される。第1グループおよび第2グループの詳細については後述する(図4参照)。また、車両システム1は、図1に示す他、例えば、近距離の物体を検知するソナー等を備えるが図示は省略する。
【0025】
カメラ10は、例えば、CCD(Charge Coupled Device)やCMOS(Complementary Metal Oxide Semiconductor)等の固体撮像素子を利用したデジタルカメラである。カメラ10は、車両システム1が搭載される車両(以下、車両M)の任意の箇所に取り付けられる。前方を撮像する場合、カメラ10は、フロントウインドシールド上部やルームミラー裏面等に取り付けられる。カメラ10は、例えば、周期的に繰り返し車両Mの周辺を撮像する。カメラ10は、ステレオカメラであってもよい。
【0026】
LIDAR14は、車両Mの周辺に光(或いは光に近い波長の電磁波)を照射し、散乱光を測定する。LIDAR14は、発光から受光までの時間に基づいて、対象までの距離を検出する。照射される光は、例えば、パルス状のレーザー光である。LIDAR14は、車両Mの任意の箇所に取り付けられる。
【0027】
第1認識装置16は、カメラ10、およびLIDAR14のうち一部または全部による検出結果に対してセンサフュージョン処理を行って、物体の位置、種類、速度などを認識し、認識結果を第1制御装置100に出力する。第1認識装置16は、カメラ10、およびLIDAR14の検出結果をそのまま第1制御装置100に出力してよい。車両システム1から第1認識装置16が省略されてもよい。第1認識装置16は、レーダ装置312の検出結果を更に用いてセンサフュージョン処理を行ってもよい。
【0028】
通信装置20は、例えば、セルラー網やWi-Fi網、Bluetooth(登録商標)、DSRC(Dedicated Short Range Communication)などを利用して、車両Mの周辺に存在する他車両と通信し、或いは無線基地局を介して各種サーバ装置と通信する。
【0029】
HMI30は、車両Mの乗員に対して各種情報を提示すると共に、乗員による入力操作を受け付ける。HMI30は、各種表示装置、スピーカ、ブザー、タッチパネル、スイッチ、キーなどを含む。HMI30には、ステアリングホイールに設けられ、乗員のステアリングホイールの把持を促す所定の出力部や、HUD(Head Up Display)が含まれていてもよい。
【0030】
車両センサ40は、車両Mの速度を検出する車速センサ、加速度を検出する加速度センサ、鉛直軸回りの角速度を検出するヨーレートセンサ、車両Mの向きを検出する方位センサ等の車両Mの制御に用いられる種々のセンサを含む。
【0031】
ナビゲーション装置50は、例えば、GNSS(Global Navigation Satellite System)受信機51と、ナビHMI52と、経路決定部53とを備える。ナビゲーション装置50は、HDD(Hard Disk Drive)やフラッシュメモリなどの記憶装置に第1地図情報54を保持している。GNSS受信機51は、GNSS衛星から受信した信号に基づいて、車両Mの位置を特定する。車両Mの位置は、車両センサ40の出力を利用したINS(Inertial Navigation System)によって特定または補完されてもよい。ナビHMI52は、表示装置、スピーカ、タッチパネル、キーなどを含む。ナビHMI52は、前述したHMI30と一部または全部が共通化されてもよい。経路決定部53は、例えば、GNSS受信機51により特定された車両Mの位置(或いは入力された任意の位置)から、ナビHMI52を用いて乗員により入力された目的地までの経路(以下、地図上経路)を、第1地図情報54を参照して決定する。第1地図情報54は、例えば、道路を示すリンクと、リンクによって接続されたノードとによって道路形状が表現された情報である。第1地図情報54は、道路の曲率やPOI(Point Of Interest)情報などを含んでもよい。地図上経路は、MPU60に出力される。ナビゲーション装置50は、地図上経路に基づいて、ナビHMI52を用いた経路案内を行ってもよい。ナビゲーション装置50は、例えば、乗員の保有するスマートフォンやタブレット端末等の端末装置の機能によって実現されてもよい。ナビゲーション装置50は、通信装置20を介してナビゲーションサーバに現在位置と目的地を送信し、ナビゲーションサーバから地図上経路と同等の経路を取得してもよい。
【0032】
MPU60は、例えば、推奨車線決定部61を含み、HDDやフラッシュメモリなどの記憶装置に第2地図情報62を保持している。推奨車線決定部61は、ナビゲーション装置50から提供された地図上経路を複数のブロックに分割し(例えば、車両進行方向に関して100[m]毎に分割し)、第2地図情報62を参照してブロックごとに推奨車線を決定する。推奨車線決定部61は、左から何番目の車線を走行するといった決定を行う。推奨車線決定部61は、地図上経路に分岐箇所が存在する場合、車両Mが、分岐先に進行するための合理的な経路を走行できるように、推奨車線を決定する。また、MPU60は、不図示のジャイロセンサの検知結果や、GNSS受信機51により特定された車両Mの位置等に基づいて、車両Mの位置を認識する。
【0033】
第2地図情報62は、第1地図情報54よりも高精度な地図情報である。第2地図情報62は、例えば、車線の中央の情報あるいは車線の境界の情報等を含んでいる。また、第2地図情報62には、道路情報、交通規制情報、住所情報(住所・郵便番号)、施設情報、電話番号情報などが含まれてよい。第2地図情報62は、通信装置20が他装置と通信することにより、随時、アップデートされてよい。第2地図情報62には、ゼブラゾーン(導流帯)の位置や範囲を示す情報が記憶されている。ゼブラゾーンは、車両Mの走行を誘導するための道路標示である。ゼブラゾーンは、例えば縞模様で表される標示である。
【0034】
ドライバモニタカメラ70は、例えば、CCDやCMOS等の固体撮像素子を利用したデジタルカメラである。ドライバモニタカメラ70は、車両Mの運転席に着座した乗員(以下、運転者)の頭部を正面から(顔面を撮像する向きで)撮像可能な位置および向きで、車両Mにおける任意の箇所に取り付けられる。例えば、ドライバモニタカメラ70は、車両Mのインストルメントパネルの中央部に設けられたディスプレイ装置の上部に取り付けられる。
【0035】
運転操作子80は、例えば、ステアリングホイール82の他、アクセルペダル、ブレーキペダル、シフトレバー、その他の操作子を含む。運転操作子80には、操作量あるいは操作の有無を検出するセンサが取り付けられており、その検出結果は、第1制御装置100、第2制御装置320、もしくは、走行駆動力出力装置200、ブレーキ装置210、およびステアリング装置220のうち一部または全部に出力される。ステアリングホイール82には、ステアリング把持センサ84が取り付けられている。ステアリング把持センサ84は、静電容量センサなどにより実現され、運転者がステアリングホイール82を把持している(力を加えられる状態で接していることをいう)か否かを検知可能な信号を第1制御装置100または第2制御装置320に出力する。
【0036】
マルチビューカメラユニット90は、マルチビューカメラ91A-91Dと、マルチビューカメラ制御部92と、を備える。マルチビューカメラ91A-91D(「カメラ」または「第1カメラ」の一例)は、例えば、それぞれ車両Mのフロント、リア、右側のサイドミラー、左側のサイドミラーに設けられる。フロントに設けられたマルチビューカメラ91は車両Mの前方(または前方の風景)を撮像し、リアに設けられたマルチビューカメラ91は車両Mの後方(または後方の風景)を撮像し、右側のサイドミラーに設けられたマルチビューカメラ91は車両Mの右方向(右方向の風景)を撮像し、左側のサイドミラーに設けられたマルチビューカメラ91は車両Mの左方向(左方向の風景)を撮像する。マルチビューカメラ91は、例えば、車両Mから数センチ-数メートルまでの領域や、運転席に着座した運転者から視認しにくい領域、死角となる領域を撮像する。マルチビューカメラ91A-91Dにより撮像された画像は、車室内の表示部に表示される。運転者は、マルチビューカメラ91A-91Dにより撮像された画像を参照して、車両Mの周囲の状況を認識することができる。
【0037】
マルチビューカメラ91A-91Dは、車両Mの四隅に設けられてもよい。また、マルチビューカメラ91は、4台に限らず、5台以上や、3台以下であってもよい。マルチビューカメラ91A-91Dが撮像する画像(動画)の画像数は、カメラ10(「第2カメラ」の一例)またはカメラ310(「第2カメラ」の一例)が撮像する画像の画素数よりも低い。以下、マルチビューカメラ91A-91Dを区別しない場合は、マルチビューカメラ91と表記する場合がある。
【0038】
マルチビューカメラ制御部92は、マルチビューカメラ91の稼働状態を制御する。例えば、所定の条件が満たされた場合、マルチビューカメラ制御部92は、マルチビューカメラ91を稼働させ、所定の条件を満たさなくなった場合、マルチビューカメラ制御部92は、マルチビューカメラ91の稼働を停止させる。所定の条件とは、車両Mの操舵および加減速が第1制御装置100により制御されていること(後述する自動運転が実行されていること)や、車両Mの速度が所定速度以下であり且つ運転者がマルチビューカメラ91を稼働させる指示を行ったことなどである。指示とは、自動駐車制御装置94の支援を利用して車両Mを駐車スペースに駐車させる指示や、マルチビューカメラ91により撮像された画像を車室内の表示部に表示させる指示である。
【0039】
マルチビューカメラ制御部92は、マルチビューカメラ91が撮像した画像を合成し、合成画像を生成する。合成画像は、マルチビューカメラ91により撮像された画像と予め撮像された車両Mとが合成された画像であり、疑似的に車両Mを真上から見たように変換された画像である。合成画像の生成は、マルチビューカメラ制御部92に代えて、他の装置で行われてもよい。
【0040】
マルチビューカメラ制御部92は、マルチビューカメラ91により撮像された画像をメモリ装置96に提供し、メモリ装置96に画像を記憶させる。例えば、マルチビューカメラ制御部92は、第1制御装置100の指示に基づいて、メモリ装置96に画像を記憶させる。
【0041】
自動駐車制御装置94は、車両Mの操舵を制御して所定の駐車スペースに自動で車両Mを駐車させる支援を行う。自動駐車制御装置94は、マルチビューカメラ91により撮像された画像を用いて車両Mの駐車を支援する。自動駐車制御装置94が自動で車両Mを駐車させる場合に、マルチビューカメラ91により撮像された画像は車室内の表示部に表示される。車両Mを制御して所定の駐車スペースに自動で車両Mを駐車させる。自動駐車制御装置94は、例えば、マルチビューカメラ91により取得された画像(例えば合成画像)や、不図示のソナーの検出結果を用いて、車両Mが所定の駐車エリア(例えば枠線内)に収まるように、車両Mが移動する軌道を生成して生成した軌道に沿って車両Mの操舵(または操舵および加減速)を制御する。自動駐車制御装置94は、車両Mの駐車を支援する。
【0042】
メモリ装置96は、例えば、EEPROM(Electrically Erasable Programmable Read-Only Memory)や、フラッシュメモリ、HDDなどの装置(非一過性の記憶媒体を備える記憶装置)である。メモリ装置96は、マルチビューカメラユニット90により提供された画像を記憶領域に記憶させる。マルチビューカメラユニット90により提供された画像は、「少なくも前記第2の運転モードで前記車両が制御されている場合に車外の様子が撮像された画像であり、前記画像は、状況記録用として記憶装置に記憶される」の一例である。この画像は、事後的に、画像が撮像されたときの状況を把握したり、検証したりするために用いられる画像(例えばドライブレコーダーにより撮像された画像と同等の画像)である。
【0043】
第1制御装置100は、例えば、第1制御部120と、第2制御部160と、第1監視部170と、記憶装置180とを備える。第1制御部120と第2制御部160と第1監視部170とは、それぞれ、例えば、CPU(Central Processing Unit)などのハードウェアプロセッサがプログラム(ソフトウェア)を実行することにより実現される。これらの構成要素のうち一部または全部は、LSI(Large Scale Integration)やASIC(Application Specific Integrated Circuit)、FPGA(Field-Programmable Gate Array)、GPU(Graphics Processing Unit)などのハードウェア(回路部;circuitryを含む)によって実現されてもよいし、ソフトウェアとハードウェアの協働によって実現されてもよい。プログラムは、予め第1制御装置100のEEPROMや、フラッシュメモリ、HDDなどの記憶装置180(非一過性の記憶媒体を備える記憶装置)に格納されていてもよいし、DVDやCD-ROMなどの着脱可能な記憶媒体に格納されており、記憶媒体(非一過性の記憶媒体)がドライブ装置に装着されることで第1制御装置100のHDDやフラッシュメモリにインストールされてもよい。
【0044】
図2は、第1制御部120および第2制御部160の機能構成図である。第1制御部120は、例えば、認識部130と、行動計画生成部140と、モード決定部150とを備える。第1制御部120は、例えば、AI(Artificial Intelligence;人工知能)による機能と、予め与えられたモデルによる機能とを並行して実現する。例えば、「交差点を認識する」機能は、ディープラーニング等による交差点の認識と、予め与えられた条件(パターンマッチング可能な信号、道路標示などがある)に基づく認識とが並行して実行され、双方に対してスコア付けして総合的に評価することで実現されてよい。これによって、自動運転の信頼性が担保される。
【0045】
認識部130は、カメラ10、およびLIDAR14から第1認識装置16を介して入力された情報に基づいて、車両Mの周辺にある物体の位置、および速度、加速度等の状態を認識する。物体の位置は、例えば、車両Mの代表点(重心や駆動軸中心など)を原点とした絶対座標上の位置として認識され、制御に使用される。物体の位置は、その物体の重心やコーナー等の代表点で表されてもよいし、表現された領域で表されてもよい。物体の「状態」とは、物体の加速度やジャーク、あるいは「行動状態」(例えば車線変更をしている、またはしようとしているか否か)を含んでもよい。
【0046】
認識部130は、例えば、車両Mが走行している車線(走行車線)を認識する。例えば、認識部130は、第2地図情報62から得られる道路区画線のパターン(例えば実線と破線の配列)と、カメラ10によって撮像された画像から認識される車両Mの周辺の道路区画線のパターンとを比較することで、走行車線を認識する。認識部130は、道路区画線に限らず、道路区画線や路肩、縁石、中央分離帯、ガードレールなどを含む走路境界(道路境界)を認識することで、走行車線を認識してもよい。この認識において、ナビゲーション装置50から取得される車両Mの位置やINSによる処理結果が加味されてもよい。認識部130は、一時停止線、障害物、赤信号、料金所、その他の道路事象を認識する。
【0047】
認識部130は、走行車線を認識する際に、走行車線に対する車両Mの位置や姿勢を認識する。認識部130は、例えば、車両Mの基準点の車線中央からの乖離、および車両Mの進行方向の車線中央を連ねた線に対してなす角度を、走行車線に対する車両Mの相対位置および姿勢として認識してもよい。これに代えて、認識部130は、走行車線のいずれかの側端部(道路区画線または道路境界)に対する車両Mの基準点の位置などを、走行車線に対する車両Mの相対位置として認識してもよい。
【0048】
行動計画生成部140は、原則的には推奨車線決定部61により決定された推奨車線を走行し、更に、車両Mの周辺状況に対応できるように、車両Mが自動的に(運転者の操作に依らずに)将来走行する目標軌道を生成する。目標軌道は、例えば、速度要素を含んでいる。例えば、目標軌道は、車両Mの到達すべき地点(軌道点)を順に並べたものとして表現される。軌道点は、道なり距離で所定の走行距離(例えば数[m]程度)ごとの車両Mの到達すべき地点であり、それとは別に、所定のサンプリング時間(例えば0コンマ数[sec]程度)ごとの目標速度および目標加速度が、目標軌道の一部として生成される。また、軌道点は、所定のサンプリング時間ごとの、そのサンプリング時刻における車両Mの到達すべき位置であってもよい。この場合、目標速度や目標加速度の情報は軌道点の間隔で表現される。
【0049】
行動計画生成部140は、目標軌道を生成するにあたり、自動運転のイベントを設定してよい。自動運転のイベントには、定速走行イベント、低速追従走行イベント、車線変更イベント、分岐イベント、合流イベント、テイクオーバーイベントなどがある。行動計画生成部140は、起動させたイベントに応じた目標軌道を生成する。
【0050】
モード決定部150は、車両Mの運転モードを、運転者に課されるタスクが異なる複数の運転モードのいずれかに決定する。モード決定部150は、例えば、運転者状態判定部152と、モード変更処理部154と、異常判定部156とを備える。これらの個別の機能については後述する。
【0051】
図3は、運転モードと車両Mの制御状態、およびタスクの対応関係の一例を示す図である。車両Mの運転モードには、例えば、モードAからモードEの5つのモードがある。制御状態すなわち車両Mの運転制御の自動化度合いは、モードAが最も高く、次いでモードB、モードC、モードDの順に低くなり、モードEが最も低い。この逆に、運転者に課されるタスクは、モードAが最も軽度であり、次いでモードB、モードC、モードDの順に重度となり、モードEが最も重度である。なお、モードDおよびEでは自動運転でない制御状態となるため、第1制御装置100としては自動運転に係る制御を終了し、運転支援または手動運転に移行させるまでが責務である。以下、それぞれの運転モードの内容について例示する。
【0052】
モードAでは、自動運転の状態となり、運転者には前方監視(または車両Mの周辺の監視)、ステアリングホイール82の把持(図ではステアリング把持)のいずれも課されない。但し、モードAであっても運転者は、第1制御装置100を中心としたシステムからの要求に応じて速やかに手動運転に移行できる体勢であることが要求される。ここで言う自動運転とは、操舵、加減速のいずれも運転者の操作に依らずに制御されることをいう。前方とは、フロントウインドシールドを介して視認される車両Mの進行方向の空間を意味する。モードAは、例えば、高速道路などの自動車専用道路において、所定速度(例えば50[km/h]程度)以下で車両Mが走行しており、追従対象の前走車両が存在するなどの条件が満たされる場合に実行可能な運転モードであり、TJP(Traffic Jam Pilot)と称される場合もある。この条件が満たされなくなった場合、モード決定部150は、モードBに車両Mの運転モードを変更する。
【0053】
モードBでは、運転支援の状態となり、運転者には車両Mの前方を監視するタスク(以下、前方監視)が課されるが(または車両Mの周辺の監視が課されるが)、ステアリングホイール82を把持するタスクは課されない。モードCでは、運転支援の状態となり、運転者には前方監視のタスクと、ステアリングホイール82を把持するタスクが課される。モードDは、車両Mの操舵と加減速のうち少なくとも一方に関して、ある程度の運転者による運転操作が必要な運転モードである。例えば、モードDでは、ACC(Adaptive Cruise Control)やLKAS(Lane Keeping Assist System)といった運転支援が行われる。モードEでは、操舵、加減速ともに運転者による運転操作が必要な手動運転の状態となる。モードD、モードEともに、当然ながら運転者には車両Mの前方を監視するタスクが課される。なお、各モードにおいて、前方監視に代えて、周辺監視が課されてもよい。周辺とは、手動運転時に運転者が視認している自車両Mの周辺の空間を意味する。以下の説明では、「前方監視」が課されるものとして説明する。
【0054】
第1制御装置100(および運転支援装置(不図示))は、運転モードに応じた自動車線変更を実行する。自動車線変更には、システム要求による自動車線変更(1)と、運転者要求による自動車線変更(2)がある。自動車線変更(1)には、前走車両の速度が自車両の速度に比して基準以上に小さい場合に行われる、追い越しのための自動車線変更と、目的地に向けて進行するための自動車線変更(推奨車線が変更されたことによる自動車線変更)とがある。自動車線変更(2)は、速度や周辺車両との位置関係等に関する条件が満たされた場合において、運転者により方向指示器が操作された場合に、操作方向に向けて自車両Mを車線変更させるものである。
【0055】
第1制御装置100は、モードAにおいて、自動車線変更(1)および(2)のいずれも実行しない。第1制御装置100は、モードBおよびCにおいて、自動車線変更(1)および(2)のいずれも実行する。運転支援装置(不図示)は、モードDにおいて、自動車線変更(1)は実行せず自動車線変更(2)を実行する。モードEにおいて、自動車線変更(1)および(2)のいずれも実行されない。
【0056】
モード決定部150は、決定した運転モード(以下、現運転モード)に係るタスクが運転者により実行されない場合に、よりタスクが重度な運転モードに車両Mの運転モードを変更する。
【0057】
例えば、モードAにおいて運転者が、システムからの要求に応じて手動運転に移行できない体勢である場合(例えば許容エリア外の脇見を継続している場合や、運転困難となる予兆が検出された場合)、モード決定部150は、HMI30や乗員のステアリングホイールの把持を促す所定の出力部を用いて運転者に手動運転への移行を促し、運転者が応じなければ車両Mを路肩に寄せて徐々に停止させ、自動運転を停止する、といった制御を行う。自動運転を停止した後は、車両MはモードDまたはEの状態になり、運転者の手動操作によって車両Mを発進させることが可能となる。以下、「自動運転を停止」に関して同様である。モードBにおいて運転者が前方を監視していない場合、モード決定部150は、HMI30や所定の出力部を用いて運転者に前方監視を促し、運転者が応じなければ車両Mを路肩に寄せて徐々に停止させ、自動運転を停止する、といった制御を行う。モードCにおいて運転者が前方を監視していない場合、或いはステアリングホイール82を把持していない場合、モード決定部150は、HMI30や所定の出力部を用いて運転者に前方監視を、および/またはステアリングホイール82を把持するように促し、運転者が応じなければ車両Mを路肩に寄せて徐々に停止させ、自動運転を停止する、といった制御を行う。
【0058】
運転者状態判定部152は、上記のモード変更のために運転者の状態を監視し、運転者の状態がタスクに応じた状態であるか否かを判定する。例えば、運転者状態判定部152は、ドライバモニタカメラ70が撮像した画像を解析して姿勢推定処理を行い、運転者が、システムからの要求に応じて手動運転に移行できない体勢であるか否かを判定する。運転者状態判定部152は、ドライバモニタカメラ70が撮像した画像を解析して視線推定処理を行い、運転者が前方を監視しているか否かを判定する。
【0059】
モード変更処理部154は、モード変更のための各種処理を行う。例えば、モード変更処理部154は、行動計画生成部140に路肩停止のための目標軌道を生成するように指示したり、運転支援装置(不図示)に作動指示をしたり、運転者に行動を促すためにHMI30の制御をしたりする。
【0060】
異常判定部156は、第1制御装置100が車両Mを制御し、且つ車室内の表示部に表示させるために車両Mの周囲(または周辺の風景)を撮像する一以上のマルチビューカメラ91(マルチビューカメラ91A-91Dの全部または一部)またはマルチビューカメラ91A-91Dにより撮像された画像に関して所定の条件を含む異常(例えばマルチビューカメラ91A-91Dにより撮像された画像の処理に異常)が生じた場合、運転モードを第1運転モードに変更する。詳細については後述する。
【0061】
図2の説明に戻る。第2制御部160は、行動計画生成部140によって生成された目標軌道を、予定の時刻通りに車両Mが通過するように、走行駆動力出力装置200、ブレーキ装置210、およびステアリング装置220を制御する。
【0062】
第2制御部160は、例えば、取得部162と、速度制御部164と、操舵制御部166とを備える。取得部162は、行動計画生成部140により生成された目標軌道(軌道点)の情報を取得し、メモリ(不図示)に記憶させる。速度制御部164は、メモリに記憶された目標軌道に付随する速度要素に基づいて、後述する駆動ECU252を介して走行駆動力出力装置200を制御し、制動ECU(260または362)を介してブレーキ装置210を制御する。操舵制御部166は、メモリに記憶された目標軌道の曲がり具合に応じて、操舵ECU(250または350)を介して、ステアリング装置220を制御する。速度制御部164および操舵制御部166の処理は、例えば、フィードフォワード制御とフィードバック制御との組み合わせにより実現される。一例として、操舵制御部166は、車両Mの前方の道路の曲率に応じたフィードフォワード制御と、目標軌道からの乖離に基づくフィードバック制御とを組み合わせて実行する。なお、上記の速度制御部164は、駆動ECU252または制動ECUに統合されてもよい。上記の操舵制御部166は、操舵ECUに統合されてもよい。第1監視部170の詳細については後述する。
【0063】
図1の説明に戻る。走行駆動力出力装置200は、車両Mが走行するための走行駆動力(トルク)を駆動輪に出力する。走行駆動力出力装置200は、例えば、内燃機関、電動機、および変速機などの組み合わせである。
【0064】
ブレーキ装置210は、例えば、ブレーキキャリパーと、ブレーキキャリパーに油圧を伝達するシリンダと、シリンダに油圧を発生させる電動モータとを備える。ブレーキ装置210は、運転操作子80に含まれるブレーキペダルの操作によって発生させた油圧を、マスターシリンダを介してシリンダに伝達する機構をバックアップとして備えてよい。ブレーキ装置210は、上記説明した構成に限らず、第2制御部160から入力される情報に従ってアクチュエータを制御して、マスターシリンダの油圧をシリンダに伝達する電子制御式油圧ブレーキ装置であってもよい。
【0065】
ステアリング装置220は、例えば、電動モータを備える。電動モータは、例えば、ラックアンドピニオン機構に力を作用させて転舵輪の向きを変更する。
【0066】
カメラ310は、例えば、例えば、CCDやCMOS等の固体撮像素子を利用したデジタルカメラである。カメラ310は、車両Mの任意の箇所に取り付けられる。カメラ310は、例えば、周期的に繰り返し車両Mの周辺を撮像する。カメラ10は、ステレオカメラであってもよい。
【0067】
レーダ装置312は、車両Mの周辺にミリ波などの電波を放射すると共に、物体によって反射された電波(反射波)を検出して少なくとも物体の位置(距離および方位)を検出する。レーダ装置312は、車両Mの任意の箇所に取り付けられる。レーダ装置312は、FM-CW(Frequency Modulated Continuous Wave)方式によって物体の位置および速度を検出してもよい。
【0068】
第2制御装置320は、例えば、第2認識部330と、車両制御部340と、第2監視部342と、記憶装置360とを備える。第2認識部330と、車両制御部340と、第2監視部342とは、例えば、CPUなどのハードウェアプロセッサがプログラム(ソフトウェア)を実行することにより実現される。これらの構成要素のうち一部または全部は、LSIやASIC、FPGA、GPUなどのハードウェア(回路部;circuitryを含む)によって実現されてもよいし、ソフトウェアとハードウェアの協働によって実現されてもよい。プログラムは、予め第2制御装置320のEEPROMや、フラッシュメモリ、HDDなどの記憶装置360(非一過性の記憶媒体を備える記憶装置)に格納されていてもよいし、DVDやCD-ROMなどの着脱可能な記憶媒体に格納されており、記憶媒体(非一過性の記憶媒体)がドライブ装置に装着されることで第2制御装置320のHDDやフラッシュメモリにインストールされてもよい。
【0069】
第2認識部330は、カメラ310、およびレーダ装置312のうち一部または全部による検出結果に対してセンサフュージョン処理を行って、物体の位置、種類、速度などを認識する。
【0070】
車両制御部340は、第1制御部120および第2制御部160と同様の処理を実行して、車両Mの自動運転を実行する。ただし、第1制御部120および第2制御部160(第1制御装置100)の処理性能は、車両制御部340(第2制御装置320)の処理性能よりも高い。第1制御部120および第2制御部160の処理性能の信頼性は、車両制御部340の処理性能の信頼性よりも高い。このため、第1制御部120および第2制御部160による自動運転は、車両制御部340による自動運転よりも滑らかである。第2監視部342の詳細については後述する。
【0071】
[第1グループおよび第2グループ]
図4は、車両システム1を別の観点から示す図である。図4を参照して、第1グループおよび第2グループについて説明する。図1図2で説明した機能構成については説明を省略する。
【0072】
(第1グループ)
カメラ10、LIDAR14、第1認識装置16、MPU60、第1制御装置100、操舵ECU(Electronic Control Unit)250、駆動ECU252、制動ECU260、停止保持ECU262、第1通知ECU264、マルチビューカメラユニット90、自動駐車制御装置94、メモリ装置96、およびGW280は、例えば、第1グループに含まれる。第1グループに含まれる機能構成は、互いに通信可能である。
【0073】
操舵ECU250は、第1制御装置100と連携してステアリング装置220を制御する。操舵ECU250は、第2制御部160から入力される情報に従って、電動モータを駆動し、転舵輪の向きを変更させる。操舵ECU250は、ステアリングホイールに対する運転者の操作に応じて操舵を制御する。操舵ECU250は、操舵のための駆動力を出力する電動機や、電動機の回転量を検知するセンサ、操舵トルクを検知するトルクセンサから入力された情報を用いて操舵を制御したり、これらの情報を第2制御部160に提供したりする。
【0074】
駆動ECU252は、第1制御装置100と連携して走行駆動力出力装置200を制御する。駆動ECU252は、運転操作子80に設けられたセンサから入力される情報に従って、走行駆動力出力装置200を制御する。駆動ECU252は、例えば、アクセルペダルの操作量や、ブレーキペダルの操作量、車速を検知するセンサから入力された情報に基づいて、内燃機関または電動機を制御したり、自動変速機の変速段を切り替えたりする。
【0075】
制動ECU260は、第1制御装置100と連携してブレーキ装置210を制御する。制動ECU260は、第2制御部160から入力される情報に従って電動モータを制御し、制動操作に応じたブレーキトルクが各車輪に出力されるようにする。制動ECU260とブレーキ装置210とは、例えば、電動サーボブレーキ(ESB)として機能する。制動ECU260は、例えば、ブレーキ装置210による制動力と、電動機の回生制動による制動力との配分を制御する。
【0076】
停止保持ECU262は、自動変速機に設けられている電動パーキングロック装置を制御する。電動パーキングロック装置は、例えば、Pレンジ(パーキングレンジ)が選択された場合に自動変速機の内部機構をロックする。
【0077】
第1通知ECU264は、車内に情報を通知する車内出力部を制御する。車内出力部は、例えば、ステアリングホイールに設けられた出力部を含む。この出力部は、例えば、車両Mの乗員がステアリングホイールを把持する必要がある場合に点灯する。また、車内出力部は、シートベルトを振動させて、乗員にステアリングホイールの把持や、所定の動作を促す機構も含む。
【0078】
GW280は、通信線CL-Aと通信線CL-Bとを中継する。通信線CL-Aには、例えば、カメラ10、第1認識装置16、第1制御装置100、駆動ECU252、制動ECU260、停止保持ECU262、第1通知ECU264、外部通知ECU266、マルチビューカメラユニット90等が接続されている。通信線CL-Bには、例えば、カメラ310、レーダ装置312、第2制御装置320、操舵ECU350、制動ECU362、停止保持ECU364、および第2通知ECU366が接続されている。
【0079】
(第2グループ)
ステアリング把持センサ84、カメラ310、LIDAR312、第2制御装置320、操舵ECU350、制動ECU362、停止保持ECU364、およびステアリング把持センサ84は、例えば、第2グループに含まれる。第2グループに含まれる機能構成は、互いに通信可能である。
【0080】
操舵ECU350は、第2制御装置300と連携してステアリング装置220を制御する。操舵ECU250は、操舵のための駆動力を出力する電動機や、電動機の回転量を検知するセンサ、操舵トルクを検知するトルクセンサから入力された情報を用いて操舵を制御する。
【0081】
制動ECU362は、第2制御装置300と連携してブレーキ装置210を制御する。制動ECU362は、車両制御部340から入力される情報に従って電動モータを制御し、制動操作に応じたブレーキトルクが各車輪に出力されるようにする。制動ECU362は、VSA(Vehicle Stability Assist)を実現する。制動ECU362は、ヨーレートセンサや、加速度センサの検知結果に基づいて、急ブレーキや低摩擦路においてブレーキをかけたときに車輪がロックして滑走が生じるのを抑制したり、発進時や停止時に車輪の空転を抑制したり、更に、旋回時に車両Mの姿勢を制御して横滑りが生じるのを抑制したりする。
【0082】
停止保持ECU364は、電動パーキングブレーキ(EPB)を制御して車両Mの停止を維持させる。電動パーキングブレーキは後輪をロックする機構を有する。停止保持ECU364は、電動パーキングブレーキを制御して後輪をロックしたり、ロックを解除したりする。
【0083】
[第1監視部および第2監視部]
第1監視部170は、GW280を介して接続されている第2グループに含まれる機能構成(機能構成を有する装置)の一部または全部の状態を監視する。第1監視部170は、例えば、通信先の装置により送信された情報を取得し、取得した情報に基づいて通信先の装置に異常が存在するか否かを判定する。異常が存在するとは、例えば、第2制御装置320が意図する状態に通信先の装置を制御できない状態である。異常が存在するとは、例えば、装置の欠陥や、装置の機能の欠陥、機能の低下、装置との通信が基準の通信状態とは異なる状態であること等を含む。通信先の装置により送信された情報は、接続先の装置の自己診断の結果や接続先の装置から送信される所定のフラグである。例えば、第1監視部170は、接続先の装置から異常を示す自己診断結果や異常を示すフラグを含む情報が送信された場合、通信先の装置に異常が存在すると判定する。また、第1監視部170は、接続先の装置と通信できない状態や、通信が遅延している状態である場合、通信先の装置に異常があるとみなしてもよい。
【0084】
第2監視部342は、GW280を介して接続されている第1グループに含まれる機能構成の一部または全部の状態を監視する。第2監視部342は、通信先の装置により送信された情報を取得し、取得した情報に基づいて通信先の装置に異常が存在するか否かを判定する。異常が存在するとは、例えば、第1制御装置100が意図する状態に通信先の装置を制御できない状態である。異常が存在するとは、例えば、装置の欠陥や、装置の機能の欠陥、機能の低下、装置との通信が基準の通信状態とは異なる状態であること等を含む。通信先の装置が異常であるとは、例えば、第1監視部170の説明で説明した状態と同様の状態を含む。
【0085】
第2制御装置320は、第1グループに含まれる機器や装置に異常が生じた場合に、第1制御装置100に代わり、自動運転を実行する。例えば、第1グループに含まれる機器や装置のうち、操舵ECU250、制動ECU260、停止保持ECU262、またはこれらの制御対象の機器や装置に異常が生じた場合、第2制御装置320が、操舵ECU350、制動ECU362、停止保持ECU364、またはこれらの制御対象の機器や装置を制御して自動運転を実行する。この場合の自動運転は、例えば、FOF(Fail Operation Function)モード(縮退制御モード)の自動運転である。FOFモードとは、車両システム1が、運転者に車両Mを手動で操作するように要求すると共に、所定時間(または所定距離)、車両Mが路外に逸脱せず、且つ周辺の車両に車両Mが過度に近づかないように制御するモードである。所定時間、手動による操作がされなかった場合、車両システム1は、車両Mを減速させて、そのまま車両Mを停止させたり、停車可能な位置に車両Mを停止させたりする。
【0086】
[電源]
更に、車両システム1は、例えば、大容量バッテリ400、第1電源部410、第1バッテリ420、第2電源部430、および第2バッテリ440を備える。
【0087】
大容量バッテリ400は、例えば、リチウムイオン電池などの充放電可能なバッテリである。駆動用の電動機は、大容量バッテリ400により供給された電力により駆動する。大容量バッテリ400には電動機よって生成された回生電力が充電される。
【0088】
第1電源部410は、大容量バッテリ400の出力電圧を降圧して、大容量バッテリ400の電力を第1グループの各機能構成に供給する。第1バッテリ420は、例えば、12Vの鉛バッテリである。第1バッテリ420の電力は、例えば、大容量バッテリ400から第1グループの機能構成に電力が供給されていない場合、第1グループの機能構成に供給される。また、第1バッテリ420は、ナビゲーション装置50や、通信装置20、ドライバモニタカメラ70、車両センサ40に含まれる一部のセンサに電力を供給する。
【0089】
第2電源部430は、大容量バッテリ400の出力電圧を降圧して、大容量バッテリ400の電力を第2グループの各機能構成に供給する。第2バッテリ440は、例えば、12Vの鉛バッテリである。第2バッテリ440の電力は、例えば、大容量バッテリ400から第2グループの機能構成に電力が供給されていない場合、第2グループの機能構成に供給される。また、第2バッテリ440は、ステアリング把持センサ84や、車両センサ40に含まれる一部のセンサに電力を供給する。
【0090】
[マルチビューカメラユニットまたはメモリ装置に関する異常]
図5は、第1制御装置100とマルチビューカメラユニット90とメモリ装置96との通信に関する接続状態について説明するための図である。第1制御装置100とマルチビューカメラユニット90とは通信線CL-Aを介して接続されている。マルチビューカメラユニット90とメモリ装置96とは通信線CL-Cを介して接続されている。
【0091】
通信線CL-A(通信線CL-B)を用いて行われる通信の通信速度は、通信線CL-Cを用いて行われる通信の通信速度よりも速い。通信線CL-A(通信線CL-B)が接続された装置間では、いわゆるF-CANを用いた通信が行われる。通信線CL-Cが接続された装置間では、いわゆるB-CANを用いた通信が行われる。
【0092】
図5の例では、第1制御装置100とマルチビューカメラユニット90との間、またはマルチビューカメラユニット90とメモリ装置96との間に、一以上の他の装置が介在してもよい。メモリ装置96は、マルチビューカメラユニット90を介さずに第1制御装置100と通信してもよい。
【0093】
異常判定部156は、以下の判定条件を満たした場合に、マルチビューカメラ91またはマルチビューカメラ91により撮像された画像の処理に異常(所定の条件を含む異常)が生じたと判定する。以下、これらの詳細について説明する。
【0094】
図6は、異常の判定条件と推定される異常とについて説明するための図である。
(1)異常判定部156が、マルチビューカメラユニット90から映像データが出力できないことを示す情報を受信し、その状態(第1制御装置100が画像を取得できない状態)が第1時間(例えば5[s])継続した場合、マルチビューカメラユニット90に故障が発生していると推定する。マルチビューカメラユニット90の異常とは、マルチビューカメラユニット90の内部故障や、映像信号の欠陥などである。
【0095】
(2)異常判定部156が、マルチビューカメラユニット90またはメモリ装置96から録画ができないことを示す情報を受信し、その状態(画像が録画されない状態)が第2時間(例えば18[s])継続した場合、マルチビューカメラユニット90、メモリ装置96、または第1制御装置100に故障が発生していると推定する。
【0096】
(3)異常判定部156は、第1制御装置100が映像データの録画の指示をマルチビューカメラ制御部92およびメモリ装置96に行ったにも関わらず、メモリ装置96によって録画がされていない状態が第3時間(例えば18[s])継続した場合、上記の(2)と同様の故障が発生していると推定する。例えば、第1制御装置100は、所定の運転モード(例えばモードA)の運転を開始した場合、映像データの録画の指示をメモリ装置96に行う。
【0097】
図7は、図6の(1)、(2)、(3)の判定が開始される条件について説明するための図である。図7の(1)、(2)、(3)の判定は、以下の(a)-(d)の条件を全て満たした場合に開始される。
(a)車両システム1が休止状態から起動状態に移行されたことである。例えばアクセサリ(ACC電源)がオン状態に移行されたことや、イグニッションスイッチ(車両Mの駆動源)がオン状態に移行されたこと。
(b)第1バッテリ420の電圧が第1電圧(10[V])以上であること。
(c)マルチビューカメラユニット90の映像を記録する設定が有効になっていること。例えば、第1制御装置100は、所定の運転モード(例えばモードA)を開始する場合に、マルチビューカメラユニット90に映像の録画の開始を指示する。これにより、映像を記憶する設定が有効にされる。なお、第1制御装置100は、所定の運転モード(例えばモードA)の実行を終了する場合、マルチビューカメラユニット90に映像の録画の終了を指示する。これにより、映像を記憶する設定が無効となる。
(d)第1制御装置100とマルチビューカメラ91との間の通信が可能な状態であること。
【0098】
[フローチャート(1)]
図8は、第1制御装置100の異常判定部156により実行される処理の流れの一例を示すフローチャートである。本処理は、例えば、車両Mの電源がオン状態となった場合に開始される。
【0099】
まず、異常判定部156が、イグニッションスイッチがオン状態であるか否かを判定する(ステップS100)。ステップS100においてアクセサリがオン状態(または車両システム1がオン状態)であるか否かが判定されてもよい。イグニッションスイッチがオン状態である場合、異常判定部156は、第1バッテリ420の電圧が第1電圧以上であるか否を判定する(ステップS102)。第1バッテリ420の電圧が第1電圧以上である場合、異常判定部156は、映像を記録する設定が有効であるか否かを判定する(ステップS104)。
【0100】
映像を記録する設定が有効である場合、異常判定部156は、第1制御装置100とマルチビューカメラユニット90との通信が可能な状態であるか否を判定する(ステップS106)。第1制御装置100とマルチビューカメラユニット90との通信が可能な状態である場合、異常判定部156は、異常判定を開始する(ステップS108)。ステップS100、ステップS102、ステップS104、またはステップS106の判定が否定的である場合、本フローチャートの1ルーチンが終了する。なお、上記のステップS100-ステップS106の処理の順序は変更されてもよい。
【0101】
上記の処理により、車両システム1は、無用な判定処理を行うことを抑制することができる。
【0102】
[フローチャート(2)]
図9は、モード決定部150により実行される処理の流れの一例を示すフローチャートである。まず、異常判定部156が、異常判定を開始することを決定したか否かを判定する(ステップS200)。異常判定を開始することを決定した場合、モード決定部150は、異常判定部156がマルチビューカメラユニット90、メモリ装置96、またはマルチビューカメラユニット90と第1制御装置100との通信に異常が生じたと判定したか否かを判定する(ステップS202)。図6の(1)-(3)のいずれかの判定結果が肯定的である場合、異常判定部156が、異常が生じたと判定する。
【0103】
異常が生じた場合、モード変更処理部154は、運転モードがモードAであるか否かを判定する(ステップS204)。運転モードがモードAである場合、モード変更処理部154は、運転モードをモードEに切り替える(ステップS206)。この場合、例えば、モード変更処理部154は、運転操作を行うことを車両Mの乗員に促し、所定時間以内に乗員が運転操作を行った場合、運転モードをモードEに切り替える。所定時間以内に乗員が運転操作を行わなかった場合、第1制御装置100は、より強く車両Mの乗員に運転操作を行うことを促したり、車両Mを減速させたり、所定の位置に車両Mを停車させたりする。
【0104】
ステップS202またはステップS204の判定が否定的である場合、本フローチャートの1ルーチンが終了する。
【0105】
上述した処理により、車両システム1は、異常が発生した場合に、車両Mをより適切に制御することができる。
【0106】
上記の例では、運転モードがモードAである場合に、異常が発生したときにモードEに切り替えるものとして説明したが、これに代えて、モード変更処理部154は、運転モードが所定の運転モード(モードBなど)である場合に、モードEに切り替えてもよい。また、モード変更処理部154は、モードEに切り替えることに代えて、他の運転モードに切り替えてもよい。他の運転モードは、ステップS204で判定処理の対象とされた運転モードよりも重度の運転モードである。
【0107】
[取得された情報の管理]
図10は、各装置により取得された情報の管理状態について説明するための図である。
(1)所定の運転モード(例えばモードA)の自動運転が開始されると、第1制御装置100は、マルチビューカメラユニット90に撮像の開始を指示し、メモリ装置96に録画の開始を指示する。
【0108】
(2)マルチビューカメラユニット90は、指示に応じて撮像を開始して、メモリ装置96は、指示に応じてマルチビューカメラユニット90により撮像された動画を保存する。保存とは、上書きや消去がされないように記憶装置において情報が記憶されること(期間を問わずに情報が記憶されていること)である。後述する記録は、情報が一時的に保持されていること(所定時間、情報が保持されること)である。
【0109】
(3)第1制御装置100は、所定の運転モード(例えばモードA)の自動運転が開始されると、第1グループに含まれるセンサから得られた情報や、運転主体に関する情報(手動運転、運転モードの情報、どの制御装置が制御を行っているかを示す情報)を記録し、記録した情報を記憶装置180に記憶させる。そして、この情報は保存される。
(4)上記の(3)で記憶(保存)された情報は、第2制御装置300に提供され、同じ情報が第2制御装置300の記憶装置360に記憶される(データがミラーリングされ保存される)。例えば、第1グループに電力が供給されなかったり、第1制御装置100の記憶装置180に情報が記憶されなかったりする状況が発生した場合でも、データがミラーリングされることで情報が確実に保存される。
【0110】
(5)第2制御装置300は、所定の条件を満たした場合、第2グループに含まれるセンサから得られた情報や、運転主体に関する情報(どの制御装置が制御を行っているかを示す情報)を記憶し、記憶した情報を記憶装置360に記憶させる。所定の条件は、例えば、第1制御装置100が所定の運転モード(例えばモードA)の自動運転を開始したことや、第2制御装置300が、所定の制御を実行したこと(例えば第1制御装置100に代わって車両Mを制御したこと)である。上記の(5)で取得された情報は、記憶装置360に記憶され、保存される。
【0111】
記録した情報の保存タイミングに関する保存タイミング情報がエアバッグ装置(SRS;Supplemental Restraint System)などから出力される。保存タイミング情報は、エアバッグが展開されたことを示す情報や、車速または加速度の変化度合が基準値以上となったことである。
【0112】
図11は、記録した情報の保存タイミングに関する情報と、情報の保存タイミングとについて説明するための図である。以下、運転支援または自動運転が開始されたタイミングを「T1」、所定の運転モード(例えばモードBまたはモードA)が開始されたタイミングを「T2」、運転者がステアリングを把持したタイミングを「T3」、保存タイミング情報が出力されたタイミングを「T4」と称する。
【0113】
T1からT4までの間において各種情報は記録(所定時間保持)され、T4において各種情報は保存される。各種情報とは、例えば、車両Mが取得した物標データや、運転状態(操作子に対する操作)、車両Mの位置、日時、車両Mの走行状態(センサが取得した情報など種々の情報)である。各種情報は、例えば、上述した図10の(3)で得られた情報である。
【0114】
T1、T2、T3の各タイミングで運転主体(自動運転または手動運転を示す情報)、各タイミングにおける日時、各タイミングにおける場所の情報が保存される。この情報は、例えば、上述した図10の(3)で得られた情報である。
【0115】
T2からT4までの間において(T2からT4およびT4以降において)マルチビューカメラユニット90により撮像された動画は記憶される。
【0116】
上記のように、種々の情報が記憶、保存されるため、保存タイミング情報が出力された場合に、その保存タイミング情報が出力される前の車両や運転者、車両の周辺の情報が得られる。この情報は、保存タイミング情報が出力された原因などを確認する際に活用される。
【0117】
上記のように、本来、記録されるべき動画が記録されない状態である場合、第1制御装置100は、運転モードを第1の運転モードに変更する。第1制御装置100は、車両の状態に応じて、車両をより適切に制御することができる。
【0118】
以上説明した実施形態によれば、第1制御装置100は、第2の運転モードで車両Mを制御しており、且つ少なくとも車室内の表示部に表示させるために車両Mの周囲を撮像する一以上のカメラまたは一以上のカメラにより撮像された画像の処理に異常が生じた場合に、運転モードを第1の運転モードに変更することにより、車両の状態に応じて、車両をより適切に制御することができる。
【0119】
上記説明した実施形態は、以下のように表現することができる。
プログラムを記憶した記憶装置と、
ハードウェアプロセッサと、を備え、
前記ハードウェアプロセッサが前記プログラムを実行することにより、
車両の周辺状況を認識し、
車両の操舵および加減速を制御し、
前記車両の運転モードを、第1の運転モードと、第2の運転モードとを含む複数の運転モードのいずれかに決定し、前記第2の運転モードは運転者に課されるタスクが前記第1の運転モードに比して軽度であり、前記第2の運転モードで前記車両を制御しており、且つ前記車両の周囲を撮像する一以上のカメラまたは前記一以上のカメラにより撮像された画像に関して所定の条件を含む異常が生じた場合に、前記運転モードを前記第1の運転モードに変更する、
ように構成されている、車両制御装置。
【0120】
以上、本発明を実施するための形態について実施形態を用いて説明したが、本発明はこうした実施形態に何等限定されるものではなく、本発明の要旨を逸脱しない範囲内において種々の変形及び置換を加えることができる。
【符号の説明】
【0121】
1‥車両システム、10‥カメラ、16‥第1認識装置、20‥通信装置、40‥車両センサ、50‥ナビゲーション装置、70‥ドライバモニタカメラ、80‥運転操作子、82‥ステアリングホイール、84‥ステアリング把持センサ、90‥マルチビューカメラユニット、91A-91D‥マルチビューカメラ、94‥自動駐車制御装置、96‥メモリ装置、100‥第1制御装置、120‥第1制御部、130‥認識部、140‥行動計画生成部、150‥モード決定部、152‥運転者状態判定部、154‥モード変更処理部、160‥第2制御部、162‥取得部、164‥速度制御部、166‥操舵制御部、170‥第1監視部、200‥走行駆動力出力装置、210‥ブレーキ装置、220‥ステアリング装置、250‥操舵ECU、252‥駆動ECU、260‥制動ECU、262‥停止保持ECU、264‥第1通知ECU、266‥外部通知ECU、270‥HUD、300‥第2制御装置、310‥カメラ、312‥レーダ装置、320‥第2制御装置、330‥第2認識部、340‥車両制御部、342‥第2監視部、350‥操舵ECU、350‥操舵ECU、362‥制動ECU、364‥停止保持ECU、366‥第2通知ECU、400‥大容量バッテリ、410‥第1電源部、420‥第1バッテリ、430‥第2電源部、440‥第2バッテリ
図1
図2
図3
図4
図5
図6
図7
図8
図9
図10
図11