特許 6382047 過信判定装置、過依存抑止装置

(19)【発行国】日本国特許庁(JP)

(12)【公報種別】特許公報(B2)

(11)【特許番号】6382047

(24)【登録日】2018年8月10日

(45)【発行日】2018年8月29日

(54)【発明の名称】過信判定装置、過依存抑止装置

(51)【国際特許分類】

   G08G 1/16 20060101AFI20180820BHJP

   B60W 40/08 20120101ALI20180820BHJP

   B60W 50/14 20120101ALI20180820BHJP

【ＦＩ】

   G08G1/16 C

   B60W40/08

   B60W50/14

【請求項の数】4

【全頁数】10

(21)【出願番号】特願2014-195206(P2014-195206)

(22)【出願日】2014年9月25日

(65)【公開番号】特開2016-66279(P2016-66279A)

(43)【公開日】2016年4月28日

【審査請求日】2017年4月13日

【国等の委託研究の成果に係る記載事項】（出願人による申告）平成２１年度、独立行政法人科学技術振興機構、戦略的創造研究推進事業（チーム型研究（ＣＲＥＳＴ））、産業技術力強化法第１９条の適用を受ける特許出願

(73)【特許権者】

【識別番号】000004260

【氏名又は名称】株式会社デンソー

(73)【特許権者】

【識別番号】504139662

【氏名又は名称】国立大学法人名古屋大学

(74)【代理人】

【識別番号】110000578

【氏名又は名称】名古屋国際特許業務法人

(72)【発明者】

【氏名】坂東 誉司

(72)【発明者】

【氏名】人見 謙太郎

(72)【発明者】

【氏名】江川 万寿三

(72)【発明者】

【氏名】武田 一哉

(72)【発明者】

【氏名】奥田 裕之

(72)【発明者】

【氏名】寺井 仁

(72)【発明者】

【氏名】平山 高嗣

(72)【発明者】

【氏名】山本 千代美

【審査官】 久保田 創

(56)【参考文献】

【文献】 特開２００３−１１８４２３（ＪＰ，Ａ）

【文献】 特開２００９−２４８５９９（ＪＰ，Ａ）

【文献】 特開２０１２−１９８７７４（ＪＰ，Ａ）

【文献】 特開２００７−１８３８３１（ＪＰ，Ａ）

(58)【調査した分野】（Int.Cl.，ＤＢ名）

Ｇ０８Ｇ １／００−９９／００

Ｂ６０Ｗ ４０／０８

Ｂ６０Ｗ ５０／１４

(57)【特許請求の範囲】

【請求項1】

車両の運転に影響を与える環境イベントを検出する環境イベント検出部（４１）と、前記環境イベント検出部にて検出された環境イベントに従って、運転支援のために予め設定された複数の制御モードのうちいずれかを選択する制御モード選択部（４２）と、前記制御モード選択部にて選択された制御モードに従って、運転支援制御を実行する制御実行部（４３）とを備えた運転支援システム（４）に対するドライバの過信を判定する過信判定装置（５）であって、
前記環境イベントの発生または前記制御モードの遷移を判定ポイントとして、前記判定ポイント毎に、該判定ポイントが検出される状況でドライバがとる平均的な行動を表現した行動モデルが記憶されている行動モデル記憶部（５１）と、
ドライバの行動を検出するドライバ行動検出部（５２：Ｓ１１０）と、
前記環境イベント検出部での検出結果および前記制御モード選択部での選択結果から前記判定ポイントが検出される毎に、前記行動モデル記憶部に記憶された行動モデルからの前記ドライバ行動検出部で検出されたドライバ行動の逸脱度を求め、該逸脱度が予め設定された閾値より大きい場合に、前記運転支援システムをドライバが過信していると判定する過信判定部（５２：Ｓ１２０〜Ｓ１６０）と、
を備え、
前記ドライバ行動および前記行動モデルは多次元ベクトルで表現され、前記逸脱度は、多次元ベクトルの距離で表現されることを特徴とする過信判定装置。

【請求項2】

請求項１に記載の過信判定装置と、
前記過信判定装置によってドライバが過信していると判定されると、前記運転支援システムへの過依存を抑止するための抑止制御を実行する抑止制御部（５２：Ｓ１７０〜Ｓ１９０）と、
を備えることを特徴とする過依存抑止装置。

【請求項3】

前記抑止制御部（５２：Ｓ１８０、Ｓ１９０）は、前記抑止制御としてドライバへの報知を実行することを特徴とする請求項２に記載の過依存抑止装置。

【請求項4】

前記抑止制御部（５２：Ｓ１９０）は、前記抑止制御として前記制御実行部が実行する制御の制限を実行することを特徴とする請求項２に記載の過依存抑止装置。

【発明の詳細な説明】

【技術分野】

【0001】

本発明は、ドライバに運転支援システムを適正に利用させる技術に関する。

【背景技術】

【0002】

近年、様々な運転支援システムが開発されている。その一方で、運転支援システムに対するドライバの過度の信頼（過信）や依存（過依存）が懸念されている。
これに対して、ドライバによる運転操作に応じて車両の走行状態を変化させる作動部の作動力をアクチュエータで発生させる運転支援システムにおいて、支援対象となる運転操作を、システムの方がドライバより先に開始した割合からシステムに対するドライバの依存度を求め、依存度が高い場合には、支援開始タイミングを遅らせることにより、ドライバが過度に依存することを抑止する技術が知られている（特許文献１参照）。

【先行技術文献】

【特許文献】

【0003】

【特許文献1】特許４０１３０５１号公報

【発明の概要】

【発明が解決しようとする課題】

【0004】

ところで、運転支援システムの高度化により、システムがドライバの操作の一部を完全に代替する自動化レベルの高い運転支援である、いわゆる自動運転を実現するシステムも開発が進められている。

【0005】

このような自動運転を実現するシステムでは、システム作動中にある一定期間の間、ドライバが運転操作を全く行わないことは許容範囲内の依存状態であると言える。従って、このようなシステムでは、ドライバとシステムとが同じ操作をすることを前提とする従来技術の手法で求めた依存度を適用することができないという問題があった。

【0006】

本発明は、こうした問題に鑑みてなされたものであり、運転支援システムをドライバが適切に利用しているか否かを判定する技術、更には不適切な利用を抑止する技術を提供することを目的とする。

【課題を解決するための手段】

【0007】

本発明が適用される運転支援システムは、環境イベント検出部と、制御モード選択部と、制御実行部とを備える。環境イベント検出部は、車両の運転に影響を与える環境イベントを検出する。制御モード選択部は、環境イベント検出部にて検出された環境イベントに従って、運転支援のために予め設定された複数の制御モードのうちいずれかを選択する。制御実行部は、制御モード選択部にて選択された制御モードに従って、運転支援制御を実行する。

【0008】

そして、本発明の過信判定装置は、行動モデル記憶部と、ドライバ行動検出部と、過信判定部とを備える。行動モデル記憶部には、環境イベントの発生または制御モードの遷移を判定ポイントとして、判定ポイント毎に該判定ポイントが検出される状況でドライバがとる平均的な行動を表現した行動モデルが記憶されている。ドライバ行動検出部は、ドライバの行動を検出する。過信判定部は、環境イベント検出部での検出結果および制御モード選択部での選択結果から判定ポイントが検出される毎に、行動モデル記憶部に記憶された行動モデルからのドライバ行動検出部で検出されたドライバ行動の逸脱度を求め、該逸脱度が予め設定された閾値より大きい場合に、運転支援システムをドライバが過信していると判定する。

【0009】

ここで、図７は、走行状況のリスクに対するドライバの行動特性を示したものである。なお、図中の横軸は、衝突時間等の走行状況のリスクを表すパラメータであり、例えば、車線変更先を走行する車両との衝突時間等が考えられる。

【0010】

図７に示すように、手動運転（システム非作動）時に、車線変更等の運転操作を実行しようとした場合、ドライバは、周囲の状況から、その運転操作を安全に実行できる状況であると判断した場合は、運転操作を実行し（運転領域）、運転操作の実行にリスクが伴うと判断した場合は、運転操作の実行を控える（危険領域）。一方、運転支援システムの作動時に、ドライバは、運転操作を行わなくても、システムの作動状況を監視する（監視領域）。また、ドライバは、周囲の状況等からみて、システムの作動を許容できないと判断した場合、即ち、システムが実行しようとしている運転操作はリスクが高いと判断した場合にシステムに介入する（介入領域）。

【0011】

運転領域と監視領域がほぼ同じ許容リスク限界を持てば、ドライバがシステムに介入したときに、ドライバは自ら運転した場合と比べて大きなリスクを感じることなく、運転操作を引き継ぐことができる。しかし、監視領域の許容リスク限界は、システムに対するドライバの信頼度によって変化し、信頼度が大きいほどリスクが大きい側に広がり、運転領域と介入領域とのギャップが広がる。このことは、ドライバがシステムに介入したときに、手動運転時には経験することのない、リスクの高い状況での運転操作を引き継ぐことを意味する。そして、このギャップの大きさは、システムに対する過信度を表しているとも言え、ギャップが広がるほど（過信度が高いほど）、よりリスクの高い状況での運転操作を余儀なくされることになる。

【0012】

本発明において、判定ポイントでのドライバの行動を表現した行動モデルは、ドライバが本来行うべき監視行動が反映されたものであり、行動モデルからの逸脱は、ドライバがシステムを過信して監視行動を怠っていること（但し、ドライバの行動としては「監視」している素振りを見せている）を意味する。

【0013】

このように、本発明の過信判定装置によれば、行動モデルと実際のドライバの行動とを比較することで、システムに対するドライバの過信を判定しているため、自動化度の高い運転支援を実現するシステムにおいても、的確な判定結果を得ることができる。

【0014】

また、本発明の過依存抑止装置は、上述の過信判定装置に加えて抑止制御部を備える。抑止制御部は、過信検出装置によってドライバが過信していると判定されると、運転支援システムへの過依存を抑止するための抑止制御、例えば、ドライバへの報知や制御実行部が実行する制御の制限等を実行する。

【0015】

このような構成によれば、システムを過信し、システムへの過依存の状態であることを、抑止制御を通してドライバに認識させることができ、その状態が継続することを抑止することができる。

【0016】

なお、特許請求の範囲に記載した括弧内の符号は、一つの態様として後述する実施形態に記載の具体的手段との対応関係を示すものであって、本発明の技術的範囲を限定するものではない。

【図面の簡単な説明】

【0017】

【図1】車載システムの構成を示すブロック図である。

【図2】過信判定処理のフローチャートである。

【図3】車線変更を実行するときの状況を例示する説明図である。

【図4】走行状況とリスクの関係、および行動モデルや閾値の生成方法に関する説明図である。

【図5】手動運転時におけるドライバの行動パタンの時間変化を示すグラフである。

【図6】運転支援システム利用時におけるドライバの行動パタンの時間変化を示すグラフである。

【図7】過信度に関する説明図である。

【発明を実施するための形態】

【0018】

以下に本発明が適用された実施形態について、図面を用いて説明する。
［構成］
車載システム１は、図１に示すように、環境データ収集部２と、ドライバデータ収集部３と、運転支援システム４と、過信判定装置５と、報知装置６とを備える。

【0019】

［環境データ収集部］
環境データ収集部２は、車両周辺を撮影するように設置されたカメラ、レーダ波（超音波やミリ波など）を利用して車両周辺の物標の位置や相対速度を検出するレーダセンサ、全地球測位システム（ＧＰＳ：Global Positioning System ）衛星からの信号を受信して３次元の位置情報等を生成するＧＰＳ受信機、ジャイロや加速度計を用いて３次元の角速度および加速度を求める慣性計測装置（ＩＭＵ：Inertial Measurement Unit ）、時間帯，天候，周囲に存在するインフラの状態などを検出するセンサ或いはこれらの状態を外部から取得する通信機等、各種車載機器から出力されるデータを繰り返し取得し、これらを環境データとして出力する。

【0020】

［ドライバデータ収集部］
ドライバデータ収集部３は、ドライバによる運転操作に関する運転操作データや、その運転操作の結果として現れる車両の挙動に関する車両挙動データ、ドライバの行動に関する行動データを、車両に搭載されたカメラや各種センサを介して繰り返し収集し、これらをドライバデータとして出力する。なお、運転操作データには、例えば、アクセルペダルの操作量、ブレーキペダルの操作量、ステアリングホイールの操作量（操舵角）、方向指示器の操作状態、トランスミッションのシフト位置などが含まれる。車両挙動データには、例えば、車両の速度、ヨーレートなどが含まれる。行動データとしては、例えば、顔や視線の向き、発話状態などが含まれる。

【0021】

［報知装置］
報知装置６は、ドライバによる視認が可能な表示装置、ブザーや音声を発生させる音響装置、ドライバに振動を伝える振動装置等からなり、過信判定装置５からの指示に従って判定結果の報知などを行う。

【0022】

[運転支援システム]
運転支援システム４は、環境イベント検出部４１と、制御モード選択部４２と、制御実行部４３とを備える。運転支援システム４は、マイクロコンピュータ（マイコン）を備え、各部４１，４２，４３に割り当てられた処理は、マイコンが備える図示しないＣＰＵが所定のプログラムを実行することによって実現される。

【0023】

環境イベント検出部４１は、環境データ収集部２からの環境データ、およびドライバデータ収集部３からのドライバデータ（特に運転操作データや車両挙動データ）に基づき、運転行動に影響を与える可能性のある様々な環境イベントを検出する。環境イベントには、例えば、気象（雨、雪、強風等）の状況やその変化、道路（凍結、冠水等）の状況の変化、特定の運転操作（運転開始、車線変更、右左折、追い越し、信号待ち、急ブレーキ、急加速等）、特定地点（料金所、交差点、駐車場等）への進入や通過、各種移動物体（先行車，自車周辺の車両，歩行者等）の存在や挙動、交通標識の存在、交通信号の状態変化等が含まれる。

【0024】

制御モード選択部４２は、環境イベント検出部４１で検出された環境イベントに基づき制御モードを選択する。制御モードには、自動化度の高い運転支援制御である自動運転において使用される制御モードが少なくとも含まれており、例えば、定速走行モード、追従走行モード、追い越しモード、右左折モード等がある。なお、制御モードの選択は、現在の制御モードと、その制御モードについて予め設定された遷移条件とに従って行い、検出された環境イベントが遷移条件を満たす場合に、その遷移条件に対応づけられた遷移先の制御モードを選択する。

【0025】

制御実行部４３は、制御モード選択部４２にて選択された制御モードに従い、その制御モードについて定義された手順に沿って、エンジン、ステアリング、ブレーキ、変速機、方向指示器、前照灯等、運転に関わる各種車載機器の動作を制御する。

【0026】

［過信判定装置］
過信判定装置５は、ドライバ行動モデル記憶部５１と、判定実行部５２とを備える。
ドライバ行動モデル記憶部５１は、不揮発性メモリからなり、環境イベントの変化および制御モードの遷移を判定ポイントとして、判定ポイント毎にその判定ポイントが検出される状況でドライバがとる平均的な行動パタンを表現した行動モデルが記憶されている。

【0027】

つまり、手動運転中かシステム作動中かに関わらず、ドライバは、安全運転を確保するために、何等かの変化が生じる判定ポイントでは、その変化に応じた注意行動をとることが期待される。行動モデルは、この注意行動を行うときに現れるドライバの頭部や視線の動き等をモデル化したものである。このような行動モデルは、例えば、ドライバの行動の測定結果を判定ポイントに対応づけて蓄積し、その蓄積されたデータに対して統計的な処理等を施すことによって作成される。行動モデルは、ドライバ個人ごとに蓄積されたデータから構築しても良いし、予め蓄積しておいた一般的な行動モデルを利用しても良い。また、利用開始初期には一般的な行動モデルを使用し、ドライバ個人のデータが一定以上蓄積された時点でドライバ個人の行動モデルを利用しても良い。

【0028】

判定実行部５２は、マイクロコンピュータ（マイコン）によって実現され、過信判定処理を所定周期で繰り返し実行する。過信判定処理は、マイコンが備える図示しないＣＰＵが所定のプログラムを実行することによって実現される。

【0029】

以下、過信判定処理を、図２のフローチャートに沿って説明する。
判定実行部５２として機能するマイコン（ＣＰＵ）は、本処理が起動すると、まずＳ１１０にて、ドライバデータ収集部３から取得された過去所定期間分のドライバデータ（特に、行動データ）に基づき、ドライバの視線（または顔）が、どの方向にどの程度の割合で向けられているかを相対頻度で表した行動パタンデータ（以下単に「行動パタン」ともいう）を生成する。

【0030】

続くＳ１２０では、環境イベント検出部４１での検出結果を取得する。続くＳ１３０では、制御モード選択部４２での選択結果を取得する。
続くＳ１４０では、Ｓ１２０で取得した検出結果およびＳ１３０で取得した選択結果に基づき、判定ポイント（環境イベントの発生または制御モードの遷移）が検出されたか否かを判断する。判定ポイントが検出されない場合（Ｓ１４０：ＮＯ）、そのまま本処理を一旦終了する。一方、判定ポイントが検出された場合（Ｓ１４０：ＹＥＳ）、Ｓ１５０に移行する。

【0031】

Ｓ１５０では、検出された判定ポイントに対応づけられている行動モデルをドライバ行動モデル記憶部５１から抽出し、その抽出した行動モデルに対する、先のＳ１１０で生成された行動パタンの逸脱度Ｄを算出する。なお、逸脱度Ｄとして、例えば、多次元ベクトルとして表現された行動モデルおよび行動パタン間の距離を用いることができる。

【0032】

続くＳ１６０では、逸脱度Ｄが初期過信状態を判定するために予め設定された第１閾値ＴＨ１より大きいか否かを判断する。
逸脱度Ｄが第１閾値ＴＨ１以下である場合（Ｓ１６０：ＮＯ）、ドライバは過信した状態にはないものとして、そのまま本処理を一旦終了する。一方、逸脱度Ｄが第１閾値ＴＨ１より大きい場合（Ｓ１６０：ＹＥＳ）、Ｓ１７０にて、逸脱度Ｄが、第１閾値ＴＨ１より大きな値に設定された第２閾値ＴＨ２より大きいか否かを判断する。

【0033】

逸脱度Ｄが第２閾値ＴＨ２以下である場合（Ｓ１７０：ＮＯ）、ドライバは初期の過信状態にあるものとして、Ｓ１８０に移行する。Ｓ１８０では、ドライバが初期過信状態にあることを報知装置６に報知させて、本処理を一旦終了する。

【0034】

一方、逸脱度Ｄが第２閾値ＴＨ２より大きい場合（Ｓ１７０：ＹＥＳ）、ドライバは末期の過信状態にあるものとして、Ｓ１９０に移行する。Ｓ１９０では、制御実行部４３が実行する運転支援制御を制限すると共に、ドライバが末期過信状態にあることを報知装置６に報知させて、本処理を一旦終了する。なお、Ｓ１８０での報知とＳ１９０での報知は、ドライバが識別可能なように異なる形態で実行する。

【0035】

［行動モデル、第１閾値、第２閾値の設定方法］
図３に示すように、走行レーンを走行中の自車両が車線変更をしようとしている場合について説明する。この場合、走行状況のリスクとして、変更先車線を走行する先行車両Ａ，後続車両Ｂに対するリスクが考えられる。これらの車両Ａ，Ｂに対するリスクは、各車両Ａ，Ｂとの車間距離および相対速度に応じて変化する。具体的には、図４に示すように、相対速度（接近する方向を正とする）が小さいほど、また、車間距離が離れているほど認識するリスクは小さくなる。逆に相対速度が大きいほど、また、車間距離が近いほど認識するリスクは大きくなる。このグラフ上において、手動運転時にドライバが車線変更を行うか否かの許容リスク限界を表す境界線（第１境界線）、およびシステム利用時にシステムへの介入を行うか否かの許容リスク限界を表す境界線（第２境界線）は、ドライバ毎に異なったものとなる。そして、車線変更時の行動モデルは、手動運転時または自動運転時に車線変更が行われたタイミングを基準とした前後一定区間において測定された行動パタンに基づいて作成される。また、第１閾値ＴＨ１、第２閾値ＴＨ２は、測定された行動パタンの行動モデルに対する逸脱量、および、第１境界線と第２境界線の間の距離、の少なくともどちらか一方に基づいて設定される。ここで、行動モデルには隠れマルコフモデル（Hidden Markov Model, HMM）などが利用でき、逸脱量は手動運転時の車線変更が行われたタイミングを基準とした前後一定区間において測定された行動パタンから構築したHMMに対する尤度などが利用できる。また、第１境界線および第２境界線の算出にはロジスティック回帰分析などが利用でき、第１境界線と第２境界線の間の距離には各ロジスティック回帰モデルパラメータ間の比等が利用できる。

【0036】

［効果］
以上説明したように、車載システム１は、行動モデルと実際のドライバの行動を表す行動パタンとを比較することで、システムに対するドライバの過信を判定しているため、自動化度の高い運転支援を実現するシステムにおいても、的確な判定結果を得ることができる。

【0037】

ここで、図５，図６は、左車線から右車線への車線変更時に測定された行動パタンの時間変化を示したものであり、図５が手動運転時、図６が運転支援システム利用時である。また、行動パタンは、視線が「正面」「ミラー」「右側方」「左側方」のそれぞれを向いている相対頻度によって表したものを用いている。図示されているように、手動運転中と支援システム利用中とで行動パタンが大きく異なるが、車載システム１では、支援システム利用中に特有なドライバの行動パタンを利用して、過信や過依存を的確に判断することができる。

【0038】

また、車載システム１は、ドライバがシステムを過信していると判定されると、その過信の程度によって、ドライバへの報知や、制御実行部４３が実行する制御の制限を行っている。これにより、システムを過信した状態、また、システムへの過依存の状態であることをドライバに認識させることができ、その状態が継続することを抑止することができる。

【0039】

［他の実施形態］
以上、本発明の実施形態について説明したが、本発明は、上記実施形態に限定されることなく、種々の形態を採り得る。

【0040】

（１）上記実施形態では、運転支援システム４の各部４１〜４３および判定実行部５２をソフトウェアによって実現しているが、これに限定されるものではなく、これらの全部または一部を、例えばロジック回路等のハードウェアにて実現してもよい。

【0041】

（２）上記実施形態における一つの構成要素が有する機能を複数の構成要素に分散させたり、複数の構成要素が有する機能を一つの構成要素に統合させたりしてもよい。また、上記実施形態の構成の少なくとも一部を、同様の機能を有する公知の構成に置き換えてもよい。また、上記実施形態の構成の一部を省略してもよい。また、上記実施形態の構成の少なくとも一部を、他の上記実施形態の構成に対して付加または置換等してもよい。なお、特許請求の範囲に記載した文言のみによって特定される技術思想に含まれるあらゆる態様が本発明の実施形態である。

【0042】

（３）本発明は、過信判定装置、過依存抑止装置の他、これら過信判定装置または過依存抑止装置を構成要素とするシステム、当該過信判定装置および過依存抑止装置としてコンピュータを機能させるためのプログラム、このプログラムを記録した媒体、過信判定方法、過依存抑止方法など、種々の形態で実現することもできる。

【符号の説明】

【0043】

１…車載システム ２…環境データ収集部 ３…ドライバデータ収集部 ４…運転支援システム ５…過信判定装置 ６…報知装置 ４１…環境イベント検出部 ４２…制御モード選択部 ４３…制御実行部 ５１…ドライバ行動モデル記憶部 ５２…判定実行部

【図1】

【図2】

【図3】

【図4】

【図5】

【図6】

【図7】