特開 2025-4835 制御システム

(19)【発行国】日本国特許庁(JP)

(12)【公報種別】公開特許公報(A)

(11)【公開番号】P2025004835

(43)【公開日】2025-01-16

(54)【発明の名称】制御システム

(51)【国際特許分類】

   B60W 50/00 20060101AFI20250108BHJP

   B60W 50/14 20200101ALI20250108BHJP

   B60W 60/00 20200101ALI20250108BHJP

【ＦＩ】

B60W50/00

B60W50/14

B60W60/00

【審査請求】未請求

【請求項の数】4

【出願形態】ＯＬ

(21)【出願番号】P 2023104691

(22)【出願日】2023-06-27

(71)【出願人】

【識別番号】000003207

【氏名又は名称】トヨタ自動車株式会社

(74)【代理人】

【識別番号】110003199

【氏名又は名称】弁理士法人高田・高橋国際特許事務所

(72)【発明者】

【氏名】右立 真輝

【テーマコード（参考）】

3D241

【Ｆターム（参考）】

3D241BA57

3D241CC01

3D241CC08

3D241CC17

3D241CE04

3D241CE05

3D241CE08

3D241DA52Z

3D241DB01Z

3D241DB02Z

3D241DB05Z

3D241DB12Z

(57)【要約】

【課題】車両に搭載される制御システムにおいて、機械学習モデルを利用した制御機能を使用しているか否かについての車両のオペレータの誤認識を低減する。
【解決手段】制御システムは、車両の運転環境又はリクエストに応じて１又は複数の制御機能を実行する１又は複数のプロセッサを備える。１又は複数のプロセッサは、さらに、実行中の制御機能において、機械学習モデルが利用されているか否かを判断する第１処理と、機械学習モデルが利用されていると判断されるとき、機械学習モデルを利用した制御機能が実行中であることを車両のオペレータに通知する第２処理と、を実行するように構成されている。
【選択図】図６

【特許請求の範囲】

【請求項1】

車両に搭載される制御システムであって、
前記車両の運転環境又はリクエストに応じて１又は複数の制御機能を実行する１又は複数のプロセッサを備え、
前記１又は複数のプロセッサは、さらに、
実行中の制御機能において、機械学習モデルが利用されているか否かを判断する第１処理と、
機械学習モデルが利用されていると判断されるとき、機械学習モデルを利用した制御機能が実行中であることを前記車両のオペレータに通知する第２処理と、
を実行するように構成されている
制御システム。

【請求項2】

請求項１に記載の制御システムであって、
前記第１処理は、前記実行中の制御機能において機械学習モデルの出力が制御判断又は制御量として用いられているとき、機械学習モデルが利用されていると判断することを含む
制御システム。

【請求項3】

請求項２に記載の制御システムであって、
前記第２処理は、
前記制御判断又は制御量における前記機械学習モデルの出力の寄与度を算出する処理と、
前記寄与度に応じて通知を変化させることと、
を含む
制御システム。

【請求項4】

請求項１乃至請求項３のいずれか１項に記載の制御システムであって、
前記第１処理は、前記実行中の制御機能において機械学習モデルにより認識された前記運転環境の情報を用いて制御判断又は制御量の算出が行われているとき、機械学習モデルが利用されていると判断することを含む
制御システム。

【発明の詳細な説明】

【技術分野】

【0001】

本開示は、車両に搭載される制御システムに関する。

【背景技術】

【0002】

近年、様々な分野において人工知能（AI: Artificial Intelligence）としての機械学習モデルの活用が進められている。また各分野において、ＡＩを有効に活用するための技術が考えられている。

【0003】

特許文献１は、ユーザによるＡＩの利用シーンを特定するユーザ情報取得部と、特定された利用シーンに対応するＡＩを選択するＡＩ選択部と、を有する情報処理装置を開示している。その他、本技術分野の技術レベルを示す文献として以下の特許文献２がある。

【先行技術文献】

【特許文献】

【0004】

【特許文献1】特開２０１９－０５６９７０号公報

【特許文献2】特開２０１９－０１２２５５号公報

【発明の概要】

【発明が解決しようとする課題】

【0005】

今後、車両の制御の分野においても機械学習モデルの活用が進むことが予想される。車両のオペレータは、一定の同意のもとで、機械学習モデルを利用した車両の制御機能を使用することが考えられる。一方で、車両の制御には多種多様な機能が実装されており、各制御機能で機械学習モデルの利用状況が異なることが想定される。このため、車両のオペレータは、機械学習モデルを利用した制御機能を使用しているか否かについて誤認識する虞がある。このような誤認識は、車両のオペレータに不測の事態を生じさせる虞がある。

【0006】

本開示の１つの目的は、上記の課題を鑑みてなされたものであり、機械学習モデルを利用した制御機能を使用しているか否かについての車両のオペレータの誤認識を低減することにある。

【課題を解決するための手段】

【0007】

本開示の１つの観点は、車両に搭載される制御システムに関する。

【0008】

制御システムは、車両の運転環境又はリクエストに応じて１又は複数の制御機能を実行する１又は複数のプロセッサを備える。１又は複数のプロセッサは、さらに、実行中の制御機能において、機械学習モデルが利用されているか否かを判断する第１処理と、機械学習モデルが利用されていると判断されるとき、機械学習モデルを利用した制御機能が実行中であることを車両のオペレータに通知する第２処理と、を実行するように構成されている。

【発明の効果】

【0009】

本開示によれば、実行中の制御機能において機械学習モデルが利用されているか否かが判断される。そして、機械学習モデルが利用されていると判断されるとき、機械学習モデルを利用した制御機能が実行中であることが車両のオペレータに通知される。これにより、機械学習モデルを利用した制御機能を使用しているか否かについての車両のオペレータの誤認識を低減することができる。

【図面の簡単な説明】

【0010】

【図1】本実施形態に係る車両の自動運転機能に関連する構成例を示す図である。

【図2】本実施形態に係る自動運転システムの構成の一例を示す図である。

【図3】機械学習モデルが利用されていると判断される自動運転制御部の構成の一例を示す図である。

【図4】本実施形態に係る通知の例について説明するための図である。

【図5】寄与度に応じて通知を変化させる場合の例を示す図である。

【図6】プロセッサが実行する処理の一例を示すフローチャートである。

【発明を実施するための形態】

【0011】

以下、図面を参照して、実施形態について説明する。

【0012】

１．自動運転システム
本実施形態は、車両の自動運転システムに関する。本実施形態に係る自動運転システムは、車両に搭載されており、車両の運転環境又はリクエストに応じて自動運転機能を実行する。図１は、本実施形態に係る自動運転システムによる車両１の自動運転機能に関連する構成例を示すブロック図である。自動運転とは、車両１の操舵、加速、及び減速のうち少なくとも１つをオペレータによる運転操作によらず自動的に行うことである。自動運転機能は、完全自動運転制御だけでなく、リスク回避制御、レーンキープアシスト制御、等も含む概念である。オペレータは、車両１に搭乗するドライバであってもよいし、車両１を遠隔操作する遠隔オペレータであってもよい。

【0013】

車両１は、センサ群１０、認識部２０、計画部３０、制御量算出部４０、及び走行装置５０を含んでいる。

【0014】

センサ群１０は、車両１の周囲の状況を認識するために用いられる認識センサ１１を含んでいる。認識センサ１１としては、カメラ、ＬＩＤＡＲ（Laser Imaging Detection and Ranging）、レーダ、等が例示される。センサ群１０は、更に、車両１の状態を検出する状態センサ１２、車両１の位置を検出する位置センサ１３、等を含んでいてもよい。状態センサ１２としては、速度センサ、加速度センサ、ヨーレートセンサ、舵角センサ、等が例示される。位置センサ１３としては、ＧＮＳＳ（Global Navigation Satellite System）センサが例示される。

【0015】

センサ検出情報ＳＥＮは、センサ群１０によって得られる情報である。例えば、センサ検出情報ＳＥＮは、カメラによって撮影される画像を含んでいる。他の例として、センサ検出情報ＳＥＮは、ＬＩＤＡＲによって得られる点群情報を含んでいてもよい。センサ検出情報ＳＥＮは、車両１の状態を示す車両状態情報を含んでいてもよい。センサ検出情報ＳＥＮは、車両１の位置を示す位置情報を含んでいてもよい。

【0016】

認識部２０は、センサ検出情報ＳＥＮを受け取る。認識部２０は、認識センサ１１により得られる情報に基づいて、車両１の運転環境を認識する。例えば、認識部２０は、車両１の周囲の物体を認識する。物体としては、歩行者、他車両（先行車両、駐車車両、等）、白線、道路構造物（例：ガードレール、縁石）、落下物、信号機、交差点、標識、等が例示される。また例えば、認識部２０は、車両１の自己位置推定を行う。認識結果情報ＲＥＳは、認識部２０による認識結果を示す。例えば、認識結果情報ＲＥＳは、車両１に対する物体の相対位置及び相対速度を示す物体情報を含む。

【0017】

計画部３０は、認識部２０から認識結果情報ＲＥＳを受け取る。また、計画部３０は、車両状態情報、位置情報、予め生成された地図情報を受け取ってもよい。地図情報は、高精度３次元地図情報であってもよい。計画部３０は、受け取った情報に基づいて、車両１の走行計画を生成する。走行計画は、予め設定された目的地に到達するためのものであってもよいし、リスクを回避するためのものであってもよい。走行計画としては、現在の走行車線を維持する、車線変更を行う、追い越しを行う、右左折を行う、操舵する、加速する、減速する、停止する、等が例示される。更に、計画部３０は、車両１が走行計画に従って走行するために必要な目標トラジェクトリＴＲＪを生成する。目標トラジェクトリＴＲＪは、目標位置及び目標速度を含んでいる。計画部３０によって生成される走行計画及び目標トラジェクトリＴＲＪは、言わば自動運転機能における制御判断である。

【0018】

制御量算出部４０は、計画部３０から目標トラジェクトリＴＲＪを受け取る。制御量算出部４０は、車両１が目標トラジェクトリＴＲＪに追従するために必要な制御量ＣＯＮを算出する。制御量ＣＯＮは、車両１と目標トラジェクトリＴＲＪとの間の偏差を減少させるために要求される制御量であるということもできる。制御量ＣＯＮは、操舵制御量、駆動制御量、及び制動制御量のうち少なくとも一つを含む。操舵制御量としては、目標舵角、目標トルク、目標モータ角、目標モータ駆動電流、等が例示される。駆動制御量としては、目標速度、目標加速度、等が例示される。制動制御量としては、目標速度、目標減速度、等が例示される。

【0019】

走行装置５０は、操舵装置５１、駆動装置５２、及び制動装置５３を含んでいる。操舵装置５１は、車輪を転舵する。例えば、操舵装置５１は、電動パワーステアリング（EPS: Electric Power Steering）装置を含んでいる。駆動装置５２は、駆動力を発生させる動力源である。駆動装置５２としては、エンジン、電動機、インホイールモータ、等が例示される。制動装置５３は、制動力を発生させる。走行装置５０は、制御量算出部４０から制御量ＣＯＮを受け取る。走行装置５０は、操舵制御量、駆動制御量、及び制動制御量のそれぞれに従って、操舵装置５１、駆動装置５２、及び制動装置５３を動作させる。これにより、車両１が目標トラジェクトリＴＲＪに追従するように走行する。

【0020】

認識部２０は、ルールベースモデル及び機械学習モデルのうち少なくとも一方を含んでいる。ルールベースモデルは、予め決められたルール群に基づいて認識処理を行う。機械学習モデルとしては、ＮＮ（Neural Network）、ＳＶＭ（Support Vector Machine）、回帰モデル、決定木モデル、等が例示される。ＮＮは、ＣＮＮ（Convolutional Neural Network）、ＲＮＮ（Recurrent Neural Network）、あるいはそれらの組み合わせであってもよい。ＮＮにおける各層の種類、層の数、ノード数は任意である。機械学習モデルは、機械学習を通して予め生成される。認識部２０は、モデルにセンサ検出情報ＳＥＮを入力することによって認識処理を行う。認識結果情報ＲＥＳは、モデルから出力される、あるいは、モデルからの出力に基づいて生成される。認識部２０は、複数のモデルを利用して複数の認識処理を行うように構成されていても良い。例えば認識部２０は、自己位置推定を行うためのルールベースモデルと、物体認識を行うための機械学習モデルと、を含むように構成されていて良い。

【0021】

計画部３０も同様に、ルールベースモデル及び機械学習モデルのうち少なくとも一方を含んでいる。計画部３０は、モデルに認識結果情報ＲＥＳを入力することによって計画処理を行う。目標トラジェクトリＴＲＪは、モデルから出力される、あるいは、モデルからの出力に基づいて生成される。計画部３０は、複数のモデルを利用して計画処理を行うように構成されていても良い。例えば計画部３０は、走行計画を生成するための機械学習モデルと、目標トラジェクトリＴＲＪを生成するためのルールベースモデルと、を含むように構成されていても良い。さらに計画部３０は、車両１の運転環境やリクエスト等に応じて、モデルを切り替え可能に構成されていても良い。例えば計画部３０は、走行計画の生成において、車両１が高速道路を走行中の間はルールベースモデルを利用する一方で、車両１が一般道路を走行中の間は機械学習モデルを利用するように構成されていても良い。

【0022】

制御量算出部４０も同様に、ルールベースモデル及び機械学習モデルのうち少なくとも一方を含んでいる。制御量算出部４０は、モデルに目標トラジェクトリＴＲＪを入力することによって制御量算出処理を行う。制御量ＣＯＮは、モデルから出力される、あるいは、モデルからの出力に基づいて生成される。制御量算出部４０は、複数のモデルを利用して複数の制御量算出処理を行うように構成されていても良い。例えば制御量算出部４０は、操舵制御量を算出するための機械学習モデルと、駆動制御量及び制動制御量を算出するためのルールベースモデルと、を含むように構成されていても良い。さらに制御量算出部４０は、車両１の運転環境やリクエスト等に応じて、モデルを切り替え可能に構成されていても良い。

【0023】

認識部２０、計画部３０、及び制御量算出部４０のうち２以上は、一体的に構成されていてもよい。認識部２０、計画部３０、及び制御量算出部４０の全てが一体的に構成されていてもよい（End-to-End構成）。例えば、認識部２０と計画部３０は、センサ検出情報ＳＥＮから目標トラジェクトリＴＲＪを出力するＮＮにより一体的に構成されていてもよい。一体的構成の場合であっても、認識結果情報ＲＥＳや目標トラジェクトリＴＲＪといった中間生成物が出力されてもよい。例えば、認識部２０と計画部３０がＮＮにより一体的に構成される場合、認識結果情報ＲＥＳは、ＮＮの中間層の出力であってよい。

【0024】

認識部２０、計画部３０、及び制御量算出部４０は、車両１の自動運転機能を実行する「自動運転制御部」を構成している。

【0025】

図２は、本実施形態に係る自動運転システム１００のハードウェア構成の一例を示すブロック図である。自動運転システム１００は、上述の自動運転制御部の機能を少なくとも有する。

【0026】

自動運転システム１００は、処理部１０１と、センサ群１０と、走行装置５０と、表示部６０と、スピーカ７０と、アクチュエータ群８０と、を含んでいる。処理部１０１は、センサ群１０、走行装置５０、表示部６０、スピーカ７０、及びアクチュエータ群８０と通信可能に構成されている。

【0027】

処理部１０１は、１又は複数のプロセッサ１１０（以下、単にプロセッサ１１０と呼ぶ）と１又は複数の記憶装置１２０（以下、単に記憶装置１２０と呼ぶ）を含むコンピュータである。

【0028】

プロセッサ１１０は、各種処理を実行する。プロセッサ１１０として、ＣＰＵ（Central Processing Unit）、ＧＰＵ（Graphics Processing Unit）、ＡＳＩＣ（Application Specific Integrated Circuit）、ＦＰＧＡ（Field-Programmable Gate Array）、等が例示される。認識部２０、計画部３０、及び制御量算出部４０は、単一のプロセッサ１１０で実現されてもよいし、別々のプロセッサ１１０で実現されてもよい。記憶装置１２０は、各種情報を格納する。記憶装置１２０としては、ＨＤＤ（Hard Disk Drive）、ＳＳＤ（Solid State Drive）、揮発性メモリ、不揮発性メモリ、等が例示される。

【0029】

記憶装置１２０は、コンピュータプログラム１３０とモデルデータ１４０を格納している。

【0030】

コンピュータプログラム１３０は、プロセッサ１１０によって実行される。コンピュータプログラム１３０を実行するプロセッサ１１０と記憶装置１２０との協働により、自動運転システム１００における各種処理が実現されても良い。コンピュータプログラム１３０は、コンピュータ読み取り可能な記録媒体に記録されても良い。

【0031】

モデルデータ１４０は、認識部２０、計画部３０、及び制御量算出部４０に含まれるモデルのデータである。モデルデータ１４０は、記憶装置１２０に格納される。プロセッサ１１０は、自動運転機能の実行において、モデルデータ１４０からモデルを選択して利用することにより、認識部２０、計画部３０、及び制御量算出部４０を構成する。特にプロセッサ１１０は、車両１の運転環境やリクエスト等に応じて選択するモデルを決定するように構成されていても良い。これにより、認識部２０、計画部３０、及び制御量算出部４０に含まれるモデルの切り換えが実現される。

【0032】

表示部６０は、車両１に搭載されており、各種表示を行う。表示部６０は、処理部１０１により制御可能に構成されている。表示部６０としては、メーターパネルディスプレイ、マルチインフォメーションディスプレイ、ヘッドアップディスプレイ、インジケータ、等が例示される。

【0033】

スピーカ７０は、車両１に搭載されており、各種音を発する。スピーカ７０は、処理部１０１により制御可能に構成されている。

【0034】

アクチュエータ群８０は、車両１が備える各種機器のアクチュエータを含んでいる。例えば、アクチュエータ群８０は、ステアリングホイールを振動させるための振動アクチュエータやステアリングホイールに反力トルクを発生させるための反力トルクアクチュエータを含んでいる。アクチュエータ群８０は、処理部１０１により制御可能に構成されている。

【0035】

２．車両のオペレータへの通知
自動運転システム１００において、プロセッサ１１０が実行する自動運転機能では、機械学習モデルが利用されるときもあれば、ルールベースモデルのみが利用されるときもある。また車両１の運転環境やリクエスト等に応じて、認識部２０、計画部３０、及び制御量算出部４０のそれぞれにおける機械学習モデルの利用状況が異なることが想定される。

【0036】

本実施形態に係る自動運転システム１００では、プロセッサ１１０は、実行中の自動運転機能において、機械学習モデルが利用されているか否かを判断する。そして、機械学習モデルが利用されていると判断されるとき、プロセッサ１１０は、機械学習モデルを利用した自動運転機能が実行中であることを車両１のオペレータに通知する。以下、これらの処理について説明する。

【0037】

２－１．機械学習モデルが利用されているか否かの判断
プロセッサ１１０は、認識部２０、計画部３０、及び制御量算出部４０のそれぞれの構成から、以下の観点により機械学習モデルが利用されているか否かを判断することができる。

【0038】

１つめの観点は、機械学習モデルの出力が制御判断又は制御量として用いられているか否かである。つまりこの観点によれば、プロセッサ１１０は、計画部３０又は制御量算出部４０における機械学習モデルの利用状況から、機械学習モデルが利用されているか否かを判断する。例えば、プロセッサ１１０は、計画部３０において機械学習モデルの出力を走行計画又は目標トラジェクトリＴＲＪとするとき、機械学習モデルが利用されていると判断する。また例えば、プロセッサ１１０は、制御量算出部４０において機械学習モデルの出力を操舵制御量、駆動制御量、又は制動制御量とするとき、機械学習モデルが利用されていると判断する。

【0039】

図３の（Ａ）及び（Ｂ）はそれぞれ、１つめの観点により機械学習モデルが利用されていると判断される自動運転制御部の構成の一例を示している。図３の（Ａ）では、計画部３０は、機械学習モデル３１とルールベースモデル３２により構成されている。また機械学習モデル３１の出力が走行計画ＰＬＮとなっている。図３の（Ｂ）では、制御量算出部４０は、機械学習モデル４１と機械学習モデル４２とルールベースモデル４３により構成されている。また機械学習モデル４１及び機械学習モデル４２の出力が制御量ＣＯＮの一部となっている。例えば、機械学習モデル４１は、操舵制御量を算出するためのモデルであり、機械学習モデル４２は、駆動制御量を算出するためのモデルである。

【0040】

２つめの観点は、機械学習モデルにより認識された車両１の運転環境の情報を用いて制御判断又は制御量の算出が行われているか否かである。つまりこの観点によれば、プロセッサ１１０は、機械学習モデルの出力による認識結果情報ＲＥＳの利用状況から、機械学習モデルが利用されているか否かを判断する。例えば、プロセッサ１１０は、計画部３０において機械学習モデルの出力による物体情報を用いて走行計画ＰＬＮ又は目標トラジェクトリＴＲＪが生成されているとき、機械学習モデルが利用されていると判断する。

【0041】

図３の（Ｃ）は、２つめの観点により機械学習モデルが利用されていると判断される自動運転制御部の構成の一例を示している。図３の（Ｃ）では、認識部２０は、機械学習モデル２１とルールベースモデル２２とルールベースモデル２３により構成されている。また計画部３０では、ルールベースモデル３３は、機械学習モデル２１の出力による認識結果情報ＲＥＳを用いて走行計画ＰＬＮを生成している。

【0042】

以上説明したように、上記の観点によれば、プロセッサ１１０は、認識部２０、計画部３０、及び制御量算出部４０のそれぞれの構成から、実行中の自動運転機能において機械学習モデルが利用されているか否かを判断することができる。プロセッサ１１０は、上記のそれぞれの観点を組み合わせて機械学習モデルが利用されているか否かを判断しても良い。

【0043】

２－２．通知の例
機械学習モデルを利用した自動運転が実行中であることの通知は、様々な態様を採用することができる。図４は、通知の例について説明するための概念図である。図４では、車両１の運転席の周辺が示されている。図４では、運転席の周辺に設けられる機器として、メーターパネルディスプレイ６１、マルチインフォメーションディスプレイ６２、スピーカ７０、及びステアリングホイール２が示されている。

【0044】

通知の１つの例は、メーターパネルディスプレイ６１に特定の表示を行うことである。図４には、メーターパネルディスプレイ６１に特定のアイコンを表示させる例が示されている。

【0045】

通知の他の１つの例は、マルチインフォメーションディスプレイ６２に特定の表示を行うことである。図４には、マルチインフォメーションディスプレイ６２に特定のウィンドウＤＰを表示させる例が示されている。ウィンドウＤＰは、例えば機械学習モデルの出力の根拠を示すヒートマップの表示である。その他、マルチインフォメーションディスプレイ６２における特定の表示の例として、画面の色合いを変化させることが挙げられる。またマルチインフォメーションディスプレイ６２に目標トラジェクトリＴＲＪが表示される場合、表示される目標トラジェクトリＴＲＪの色や表記を変化させることが挙げられる。

【0046】

通知の他の１つの例は、スピーカ７０から特定の音や音声を発することである。例えば、スピーカ７０に「ＡＩを利用した自動運転を開始します」といった音声を出力させる。

【0047】

通知の他の１つの例は、ステアリングホイール２に関するアクチュエータを動作させることである。図４には、振動アクチュエータによりステアリングホイール２を振動させる例が示されている。その他、反力トルクアクチュエータによりステアリングホイール２の操作の重さを変化させることも考えられる。

【0048】

このような通知を行うことにより、運転席のオペレータは、機械学習モデルを利用した自動運転機能が実行中であることを容易に知ることができる。プロセッサ１１０は、複数の通知を組み合わせても良い。またプロセッサ１１０は、車両１の搭乗者に対しても通知を行うように構成されていても良い。

【0049】

プロセッサ１１０は、さらに制御判断又は制御量における機械学習モデルの出力の寄与度に応じて通知を変化させるように構成されていても良い。寄与度は、例えば、計画部３０及び制御量算出部４０を構成する複数のモデルの中での機械学習モデルの割合を指標とすることができる。

【0050】

図５の（Ａ）及び（Ｂ）は、寄与度に応じて通知を変化させる場合の一例を示している。図５の（Ａ）は、特定のアイコンの表示を寄与度に応じて変化させる場合の例である。図５の（Ｂ）は、反力トルクアクチュエータによる反力トルク（ステアリングホイール２の操作の重さ）を寄与度に応じて変化させる場合の例である。図５の（Ｂ）に示す例では、寄与度が大きくなるにつれて反力トルクが大きくなっている。

【0051】

このような構成を採用することにより、車両１のオペレータは、さらに自動運転機能における機械学習モデルのおよその利用状況を知ることができる。これにより、車両１のオペレータは、機械学習モデルの利用状況に則した判断を行うことができる。

【0052】

２－３．処理
図６は、上述した車両１のオペレータへの通知に関して、プロセッサ１１０が実行する処理の一例を示すフローチャートである。図６に示すフローチャートに係る処理は、例えば、自動運転機能を実行中に所定の処理周期で繰り返し実行される。あるいは、認識部２０、計画部３０、又は制御量算出部４０に含まれるモデルの切り換えが行われたときに実行されても良い。

【0053】

ステップＳ１１０で、プロセッサ１１０は、自動運転制御部（認識部２０、計画部３０、及び制御量算出部４０）の構成を確認する。

【0054】

次にステップＳ１２０（第１処理）で、プロセッサ１１０は、機械学習モデルが利用されているか否かを判断する。

【0055】

機械学習モデルが利用されていないと判断されるとき（ステップＳ１２０；Ｎｏ）、車両１のオペレータに通知することなく処理は終了する。機械学習モデルが利用されていると判断されるとき（ステップＳ１２０；Ｙｅｓ）、処理はステップＳ１３０に進む。

【0056】

ステップＳ１３０で、プロセッサ１１０は、機械学習モデルの出力の寄与度を算出する。

【0057】

次にステップＳ１４０（第２処理）で、プロセッサ１１０は、車両１のオペレータに、ステップＳ１３０において算出した寄与度に応じた通知を行う。ステップＳ１４０の後、処理は終了する。

【0058】

３．効果
以上説明したように、本実施形態によれば、実行中の自動運転機能において機械学習モデルが利用されているか否かが判断される。そして、機械学習モデルが利用されていると判断されるとき、機械学習モデルを利用した自動運転機能が実行中であることが車両１のオペレータに通知される。これにより、機械学習モデルを利用した自動運転機能を使用しているか否かについての車両１のオペレータの誤認識を低減することができる。

【0059】

なお本実施形態は、車両１に搭載される他の制御システムに適用することも可能である。例えば、１又は複数の制御機能を実行するための他の制御システムとして、運転支援システムが挙げられる。運転支援システムは、車両１の運転環境又はリクエストに応じて、衝突被害軽減ブレーキ、クルーズコントロール、交通標識認識、等の制御機能を実行するシステムである。運転支援システムに適用する場合、実行中の各制御機能において、機械学習モデルが利用されているか否かを判断すれば良い。そして、いずれかの実行中の制御機能において機械学習モデルが利用されていると判断されるとき、機械学習モデルを利用した制御機能が実行中であることを車両１のオペレータに通知すれば良い。このとき、機械学習モデルを利用していると判断された制御機能の種類に応じて通知を変化させても良い。

【符号の説明】

【0060】

１ 車両、１０ センサ群、２０ 認識部、３０ 計画部、４０ 制御量算出部、
５０ 走行装置、６０ 表示部、７０ スピーカ、８０ アクチュエータ群、
１００ 自動運転システム、１１０ プロセッサ、１２０ 記憶装置、
１３０ コンピュータプログラム、１４０ モデルデータ

【図1】

【図2】

【図3】

【図4】

【図5】

【図6】