IP Force 特許公報掲載プロジェクト 2022.1.31 β版

知財求人 - 知財ポータルサイト「IP Force」

▶ 株式会社JVCケンウッドの特許一覧

特許7434882危険運転判定装置、危険運転判定方法、および危険運転判定プログラム
<>
  • 特許-危険運転判定装置、危険運転判定方法、および危険運転判定プログラム 図1
  • 特許-危険運転判定装置、危険運転判定方法、および危険運転判定プログラム 図2
  • 特許-危険運転判定装置、危険運転判定方法、および危険運転判定プログラム 図3
  • 特許-危険運転判定装置、危険運転判定方法、および危険運転判定プログラム 図4
< >
(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】
(24)【登録日】2024-02-13
(45)【発行日】2024-02-21
(54)【発明の名称】危険運転判定装置、危険運転判定方法、および危険運転判定プログラム
(51)【国際特許分類】
   G08G 1/16 20060101AFI20240214BHJP
   G07C 5/08 20060101ALI20240214BHJP
【FI】
G08G1/16 C
G07C5/08
【請求項の数】 5
(21)【出願番号】P 2019231813
(22)【出願日】2019-12-23
(65)【公開番号】P2021099720
(43)【公開日】2021-07-01
【審査請求日】2022-11-30
(73)【特許権者】
【識別番号】308036402
【氏名又は名称】株式会社JVCケンウッド
(74)【代理人】
【識別番号】100105924
【弁理士】
【氏名又は名称】森下 賢樹
(72)【発明者】
【氏名】佐藤 貴之
(72)【発明者】
【氏名】糟谷 純一
(72)【発明者】
【氏名】中村 功大
(72)【発明者】
【氏名】谷山 紘史
【審査官】上野 博史
(56)【参考文献】
【文献】特開2018-195301(JP,A)
【文献】特開2006-085285(JP,A)
【文献】特開2010-086269(JP,A)
(58)【調査した分野】(Int.Cl.,DB名)
G08G 1/00-99/00
G07C 1/00-15/00
(57)【特許請求の範囲】
【請求項1】
車両の周囲を撮影した画像を取得する画像取得部と、
前記画像取得部で取得される画像から周辺車両を検出する車両検出部と、
前記車両検出部で検出された周辺車両の車種を認識する車種認識部と、
前記車両検出部で検出された周辺車両の画像上のサイズを測定するサイズ測定部と、
車種ごとにあらかじめ定められた危険運転と判定するための車両の画像上のサイズである危険判定基準サイズを記憶する基準記憶部と、
前記サイズ測定部で測定されたサイズと前記危険判定基準サイズとの比較に基づいて周辺車両の危険運転を判定する危険検出部と、
を備えることを特徴とする危険運転判定装置。
【請求項2】
前記危険判定基準サイズは、車種ごとにあらかじめ定められた危険運転と判定するための車両の画像上の縦サイズを含み、
前記危険検出部は、前記サイズ測定部で測定されたサイズのうち縦サイズのみと前記危険判定基準サイズに含まれる縦サイズとの比較に基づいて周辺車両の危険運転を判定することを特徴とする請求項1に記載の危険運転判定装置。
【請求項3】
前記画像取得部が取得する画像は、前記車両の後方を撮影した後方画像であり、
前記車両検出部が検出する周辺車両は、前記後方画像から検出する車両であり、
前記基準記憶部が記憶する危険判定基準サイズは、車両の後方を撮影した画像から検出される車両を危険運転と判定するための車両の画像上のサイズであることを特徴とする請求項1または2に記載の危険運転判定装置。
【請求項4】
車両の周囲を撮影した画像を取得する過程と、
前記画像を取得する過程で取得される画像から周辺車両を検出する過程と、
前記周辺車両を検出する過程で検出された周辺車両の車種を認識する過程と、
前記周辺車両を検出する過程で検出された周辺車両の画像上のサイズを測定する過程と、
車種ごとにあらかじめ定められた危険運転と判定するための車両の画像上のサイズである危険判定基準サイズを読み出す過程と、
前記サイズを測定する過程で測定されたサイズと前記危険判定基準サイズとの比較に基づいて周辺車両の危険運転を判定する過程と、
コンピュータが実現する過程として備えることを特徴とする危険運転判定方法。
【請求項5】
車両の周囲を撮影した画像を取得する機能と、
前記画像を取得する機能で取得される画像から周辺車両を検出する機能と、
前記周辺車両を検出する機能で検出された周辺車両の車種を認識する機能と、
前記周辺車両を検出する機能で検出された周辺車両の画像上のサイズを測定する機能と、
車種ごとにあらかじめ定められた危険運転と判定するための車両の画像上のサイズである危険判定基準サイズを記憶する機能と、
前記サイズを測定する機能で測定されたサイズと前記危険判定基準サイズとの比較に基づいて周辺車両の危険運転を判定する機能と、
をコンピュータに実現させることを特徴とする危険運転判定プログラム。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、周辺車両の危険運転を検出する危険運転判定装置、危険運転判定方法、および危険運転判定プログラムに関する。
【背景技術】
【0002】
後方車両のナンバープレートの種類や車体形状から特定される車種に基づいてその後方車両が確保すべき車間距離を算出し、その車間距離を示す映像を道路に照射する技術が知られている(例えば、特許文献1参照)。
【先行技術文献】
【特許文献】
【0003】
【文献】特開2019-151169号公報
【発明の概要】
【発明が解決しようとする課題】
【0004】
近年、いわゆる「あおり運転」をはじめとする危険運転の多発が社会問題となっている。この点、上記技術のように車間距離を算出するだけでは、危険運転と正常運転を精度よく区別するのは難しい。そのため、精度よく危険運転を検出できる技術の確立が求められている。
【0005】
本発明はこうした状況に鑑みてなされたものであり、その目的は、車種ごとに精度よく危険運転を検出できる危険運転判定装置を提供することにある。
【課題を解決するための手段】
【0006】
上記課題を解決するために、本発明のある態様の危険運転判定装置は、車両の周囲を撮影した画像を取得する画像取得部と、画像取得部で取得される画像から周辺車両を検出する車両検出部と、車両検出部で検出された周辺車両の車種を認識する車種認識部と、車両検出部で検出された周辺車両の画像上のサイズを測定するサイズ測定部と、車種ごとにあらかじめ定められた危険運転と判定するためのサイズの基準を記憶する基準記憶部と、サイズ測定部で測定されたサイズと基準に基づいて周辺車両の危険運転を検出する危険検出部と、を備える。
【0007】
本発明の別の態様は、危険運転判定方法である。この方法は、車両の周囲を撮影した画像を取得する過程と、画像を取得する過程で取得される画像から周辺車両を検出する過程と、周辺車両を検出する過程で検出された周辺車両の車種を認識する過程と、周辺車両を検出する過程で検出された周辺車両の画像上のサイズを測定する過程と、車種ごとにあらかじめ定められた危険運転と判定するためのサイズの基準を読み出す過程と、サイズを測定する過程で測定されたサイズと基準に基づいて周辺車両の危険運転を検出する過程と、を備える。
【0008】
なお、以上の構成要素の任意の組合せや本発明の構成要素や表現を、方法、装置、システム、プログラムなどの間で相互に置換したものもまた、本発明の態様として有効である。
【発明の効果】
【0009】
本発明によれば、車種ごとに精度よく危険運転を検出できる危険運転判定装置を提供することができる。
【図面の簡単な説明】
【0010】
図1】ドライブレコーダの機能構成を模式的に示すブロック図である。
図2】後方カメラの映像における周辺車両の識別状態を模式的に例示する図である。
図3】後方カメラの映像における危険運転車両の認識状態を模式的に例示する図である。
図4】危険運転を検出する過程を示すフローチャートである。
【発明を実施するための形態】
【0011】
以下、本発明の実施の形態について、図面を参照しつつ説明する。かかる実施の形態に示す具体的な数値等は、発明の理解を容易とするための例示にすぎず、特に断る場合を除き、本発明を限定するものではない。なお、本明細書および図面において、実質的に同一の機能、構成を有する要素については、同一の符号を付することにより重複説明を省略し、また本発明に直接関係のない要素は図示を省略する。以下説明する実施の形態においては、危険運転判定装置として主にドライブレコーダおよびナビゲーション装置を例示する。
【0012】
図1は、ドライブレコーダ10の機能構成を模式的に示すブロック図である。図示する各機能ブロックは、ハードウェア的には、コンピュータのCPUやメモリをはじめとする素子や機械装置で実現でき、ソフトウェア的にはコンピュータプログラム等によって実現されるが、ここでは、それらの連携によって実現される機能ブロックとして描いている。したがって、これらの機能ブロックはハードウェア、ソフトウェアの組み合わせによっていろいろなかたちで実現できることは、当業者には理解されるところである。
【0013】
ドライブレコーダ10は、画像取得部12、音声取得部14、車両情報取得部16、イベント検出部18、記録制御部20、一時記憶部22、通信部24、操作受付部26、画像処理部50、基準記憶部58、危険検出部59、表示制御部28、音声出力部29を備える。画像取得部12は、車両情報取得部16の一部として構成されてもよく、画像取得部12が車両情報取得部16に含まれてもよい。ドライブレコーダ10は、車両に搭載される。通信部24は、外部機器との間で無線通信接続によって情報を送受信する。操作受付部26は、ユーザの操作入力を受け付ける。表示制御部28は、撮影した画像の表示装置49への表示を制御する。表示装置49は、ナビゲーション装置11が備えるモニタであるが、変形例としては、ドライブレコーダ10が表示装置49を内蔵する形で構成してもよいし、図示しないがインフォテインメントシステムや電子ミラー、ヘッドアップディスプレイなどの車両に装備されている表示装置に重畳表示や割り込み表示する形で構成してもよい。音声出力部29は、録音した音声や警告音などの音声を出力するスピーカ47への音声出力を制御する。スピーカ47は、ナビゲーション装置11または車両が備えるスピーカであるが、変形例としては、ドライブレコーダ10がスピーカ47を内蔵する形で構成してもよい。ドライブレコーダ10とナビゲーション装置11の接続は、通信部24を介した無線通信接続であってもよいし、UART(Universal Asynchronous Receiver/Transmitter)やUSB(Universal Serial Bus)などの有線通信接続であってもよい。
【0014】
画像取得部12は、車両に設けられる前方カメラ40および後方カメラ42が撮影する動画像の映像データを取得する。前方カメラ40は、車両の周囲、特に自車両の前方を撮影するように構成される。後方カメラ42は、車両の周囲、特に自車両の後方を撮影するように構成される。前方カメラ40は、自車両の前方および室内の双方を撮影するように構成されてもよく、自車両の前方や側方および室内をすべて撮影する構成として、周囲360度を撮影可能な一つの全周カメラで構成してもよいし、前後や側方を撮影する複数のカメラで構成してもよい。前方カメラ40、後方カメラ42は、ドライブレコーダ10に内蔵されてもよいし、ドライブレコーダ10とは別体であってもよい。後方カメラ42は、ナビゲーション装置11にも後方の映像を送るカメラであり、ドライブレコーダ10とナビゲーション装置11の両方のカメラとして兼用される。
【0015】
画像取得部12は、車両の走行に関する車両情報として前方カメラ40、後方カメラ42が撮影した映像を取得してもよく、画像取得部12を車両情報取得部16の一部とみなしてもよい。画像取得部12は、前方カメラ40からの映像を取得し、また、後方カメラ42からの映像を、ギアがリバースに入れられていることを示す車両情報が取得されるかどうかにかかわらず取得する。表示制御部28は、ギアがドライブやパーキングなどリバース以外に入れられていることを示す車両情報が取得される間は前方カメラ40からの映像を表示装置49に表示させる。ギアがリバースに入れられていることを示す車両情報が取得される間は後方カメラ42からの映像を表示装置49に表示させる。ただし、後述するように、少なくとも危険運転をしている可能性のある周辺車両が検出された場合は、後方カメラ42からの映像を表示装置49に表示させる。変形例としては、ギアがリバースに入れられていることを示す車両情報が取得されるかどうかにかかわらず、前方カメラ40からの映像だけでなく、後方カメラ42からの映像も合わせて表示装置49に常時表示させてもよい。
【0016】
音声取得部14は、車両に設けられるマイク44が取得する音声データを取得する。マイク44は、車両の内外から集音するよう構成される。マイク44は、ドライブレコーダ10に内蔵されてもよいし、ドライブレコーダ10とは別体であってもよいし、前方カメラ40または後方カメラ42と一体であってもよい。あるいは、ナビゲーション装置11に内蔵されてもよい。ナビゲーション装置11に内蔵される場合、マイク44はナビゲーション装置11の音声認識操作に用いられる。音声取得部14は、車両の走行に関する車両情報としてマイク44により音声を取得してもよく、音声取得部14を車両情報取得部16の一部とみなしてもよい。
【0017】
車両情報取得部16は、車両に設けられる車載装置46から車両の走行に関する車両情報を取得する。車載装置46の具体例として、車速センサ、舵角センサ、アクセル操作量センサ、ブレーキ操作量センサ、加速度センサ、ジャイロセンサ、レーダセンサ、ライダ(LiDAR;Light Detection and Ranging)、位置情報センサ(例えば、GNSS;Global Navigation Satellite System)、乗員の着座センサなどが挙げられるが、これらに限定されるものではない。車両情報取得部16は、各種制御ECU(Electronic Control Unit)を介して車両情報を取得してもよいし、ナビゲーション装置11を介して車両情報を取得してもよい。また、ナビゲーション装置11が内蔵する位置情報センサから位置情報を取得してもよい。車両情報取得部16は、通信部24を介してユーザの携帯電話等の端末に内蔵された加速度センサ、ジャイロセンサ、位置情報センサ等の各センサによって検出された情報を取得してもよい。車両情報取得部16は、ドライブレコーダ10が内蔵するセンサから車両の走行に関する情報を取得してもよい。例えば、ドライブレコーダ10が加速度センサや位置情報センサなどのセンサを内蔵してもよい。なお、前方カメラ40、後方カメラ42やマイク44を車載装置の一つとしてみなし、車両情報取得部16が画像取得部12や音声取得部14を含むように構成されてもよい。
【0018】
車両情報取得部16は、例えば車両の状態に関する情報、車両に対する操作に関する情報、車両の速度に関する情報、車両の位置に関する情報、車両の周囲の障害物に関する情報、車両の運転支援機能の作動状態に関する情報などを車載装置46から取得する。車両情報取得部16が取得する各種情報は、後述する画像処理部50による画像認識で車両周囲の物体を検出するのとは異なり、カメラ以外のセンサからの検知情報である。車両情報取得部16は、車両の状態に関する情報として、例えばドアや窓の開閉状態を示す情報を取得してもよい。車両情報取得部16は、車両に対する操作に関する情報として、例えばドアや窓の開閉を指示する操作があったことを示す情報を取得してもよい。車両情報取得部16は、車両の周囲の障害物に関する情報として、車両の周囲の一定範囲内に他車両が存在するか否かや、走行中の車線上に歩行者や自転車、落下物や建造物などの障害物が存在するか否かを示す情報を取得してもよい。車両情報取得部16は、車両内に乗員が存在するか否かを示す情報を取得してもよい。車両情報取得部16は、車両の運転支援機能の作動状態に関する状態として、自動運転機能や遠隔操作機能のオンオフに関する情報や、特定の運転支援機能が作動中であるか否かに関する情報を取得してもよい。運転支援機能として、例えば、アダプティブ・クルーズ・コントロール(ACC;Adaptive Cruise Control)やレーン・キープ・アシスト(LKAS;Lane Keeping Assistance System)などが挙げられるが、これらに限定されるものではない。
【0019】
イベント検出部18は、画像取得部12が取得する映像データ、音声取得部14が取得する音声データ、車両情報取得部16が取得する車両情報に基づいて、予め定められた各種イベント(以下、「トリガーイベント」という)の発生を検出する。
【0020】
トリガーイベントは、車両の事故やトラブル等の重大事象として想定され、その発生や検出があった場合に映像データを上書き禁止データとして保存する契機となる保存契機イベントである。イベント検出部18は、トリガーイベントとして、例えば車両の衝突、接触、横転、転落などの事故や、周辺車両の運転者による粗暴行為や危険運転などのトラブルの発生を検知する。なお、本実施の形態においては、周辺車両の危険運転の検知方法に主な特徴があり、周辺車両の危険運転が検出された場合もまたトリガーイベントが発生したものとするが、その詳細は後述する。イベント検出部18は、例えば前方カメラ40、後方カメラ42によって取得される映像データやマイク44によって取得される音声データから、所定の認識パターンに基づく画像認識や音声認識によって事故やトラブルの発生を検出してもよい。イベント検出部18は、例えば車両の走行速度や加速度の情報、アクセル、ブレーキおよびステアリングなどの操作情報から、急発進、急停止、急旋回などによる車両挙動の急激な変化を認識することでトリガーイベントの発生を検出してもよい。イベント検出部18は、前方カメラ40、後方カメラ42の映像データや車両のレーダセンサなどの情報から、所定の認識パターンに基づいて車両周囲の物体との接近、走行中の車線からの逸脱などを認識することでトリガーイベントの発生を検出してもよい。イベント検出部18は、ドライブレコーダ10に設けられた保存開始ボタンの押下や保存開始を示す音声指示を操作受付部26が受け付けたときにも、これをトリガーイベントの発生として検出してもよい。
【0021】
画像処理部50は、物体検出部51、車種データ記憶部54、車種認識部55、サイズ測定部56、画像合成部57を有する。物体検出部51は、物体検出エンジン52、車両検出部53を含む。物体検出エンジン52は、画像から様々な物体を検出するための画像認識パターンを予め記憶するとともに、その画像認識パターンに基づいて所定の画像認識アルゴリズムを用いて画像に写る物体を検出する。画像認識パターンは、深層学習などの機械学習によって定義されてもよいし、特にドライブレコーダのカメラによって撮影し得る物体、例えば四輪車、二輪車、歩行者、道路設置物などの道路およびその周辺に存在し得る物体に特化した画像認識パターンであってもよい。物体検出エンジン52は、道路上の白線や車線をさらに認識する。車両検出部53は、後方カメラ42によって撮影される画像から物体検出エンジン52によって検出された物体のうち、四輪車や二輪車などの車両を周辺車両として検出する。車両検出部53は、物体検出エンジン52の一部として一体的に構成されてもよい。
【0022】
車種データ記憶部54は、あらかじめ収集された多数の車両の画像から深層学習などの機械学習の結果として抽出された車種ごとの形状や色彩などの画像的特徴に関するデータである車種データを保持する。車種としては、乗用車、トラック、バス、バイクといったカテゴリで分けられてもよく、さらにそれぞれのカテゴリの中で大型車、中型車、小型車に分けられてもよいし、あるいは、自動車メーカー名、車名、型式、年式などの詳細な車種で分けられてもよい。車種ごとの画像的特徴のデータは、主に後方カメラ42の映像に写ったときの画像的特徴として車種ごとに前方から見たときの形状や各パーツの配置、色彩などの各特徴に関する情報である。その他、側方から見たときの画像的特徴データや、後方から見たときの画像的特徴のデータも同様に、車種ごとに記憶される。変形例として、車種ごとの画像的特徴のデータとしてその車種の画像そのものを記憶させておき、その画像との近似度の高さによって車種を認識するようにしてもよい。その場合、車種ごとの画像を多数枚ずつ記憶させておいてもよい。
【0023】
車種認識部55は、車両検出部53によって画像から検出された周辺車両に関して、その車種を、車種データ記憶部54が保持する車種データに基づいて認識する。車両検出部53によって画像から検出された周辺車両は、画像合成部57によってその画像上で強調表示される。例えば、画像合成部57は、画像から検出された周辺車両の周囲に矩形状の強調枠の線を画像上に重ねて合成する。なお、変形例として、画像から検出されるナンバープレートの大きさを基準の一つとしてその周辺車両の車種を認識するようにしてもよい。
【0024】
サイズ測定部56は、車両検出部53により検出された周辺車両の画像上のサイズおよび位置を測定する。周辺車両の画像上のサイズは、画像上で検出される車両の像の縦および横のうち少なくともいずれかの長さを示すピクセル数である。例えば、画像合成部57によって周辺車両の像の周囲に合成される強調枠の縦サイズおよび横サイズを周辺車両の画像上のサイズとして扱ってもよい。サイズ測定部56は、周辺車両の縦サイズおよび横サイズの双方を測定する。変形例として縦サイズおよび横サイズの一方のみを測定する仕様としてもよいが、その場合、より誤差が出にくい縦サイズを測定することとしてもよい。測定対象の周辺車両が他の車両の陰に隠れると縦サイズより横サイズの方が幅全体を見えずに測定不能となりやすいためである。あるいは、測定対象の周辺車両を斜めから捉えると車両側方が見えるために横幅が捉えにくくなるためである。また、変形例として、画像上で検出される車両の像の面積を画像上のサイズとしてもよい。サイズ測定部56は、画像取得部12が取得する映像に含まれるフレーム画像ごとに周辺車両の画像上のサイズを測定することで、後述するようにサイズの変化が検出される。
【0025】
サイズ測定部56は、車両検出部53により検出された周辺車両の画像上の位置をさらに検出する。周辺車両の画像上の位置は、例えば水平方向における相対的な位置であり、画像を左右に二分する仮想的な垂直中心線に対して左右どちら側にどれだけずれた位置にあるかを示す情報であってもよい。また、物体検出エンジン52が検出する道路上の白線や車線の位置に基づき、対象とする周辺車両の車線からの逸脱度を車両の画像上の位置の情報として検出してもよい。これらの位置情報により、後方の周辺車両が自車両の真後ろを走行しているかどうかを判別することができる。
【0026】
基準記憶部58は、車種ごとにあらかじめ定められた危険運転と判定するための画像上のサイズの閾値を危険判定基準として記憶する。基準記憶部58は、画像上のサイズの閾値だけでなく、車両の画像上における検出位置やその変化態様、サイズの変化態様をさらに危険判定基準として保持する。車両の画像上のサイズは、前方カメラ40および後方カメラ42に搭載されるレンズの歪みなどの特性や画像センサのサイズによって異なるため、レンズや画像センサごとにあらかじめ測定または計算されて定められる。危険判定基準の具体例については後述する。
【0027】
危険検出部59は、サイズ測定部56により測定された周辺車両の画像上のサイズと、基準記憶部58に保持される危険判定基準とに基づいて、周辺車両の危険運転を検出する。ここで、仮に車種の違いを考慮せずに画像上のサイズのみからその車両の接近を検出しようとすれば、大型車両ほど画像上のサイズが大きくなり、実際の車間距離よりも接近しているとの誤判定をするおそれがある。本実施の形態によれば、車種ごとに実際の車両の大きさに応じて接近時の画像上のサイズがあらかじめ基準として定められるため、精度よく危険な範囲への接近を判定することができる。また、周辺車両と自車両との車間距離を推測したり、計測したりすることなく、画像上のサイズが車種ごとの基準を超えるか否かだけで周辺車両の危険な接近を効率的に検出することができる。危険検出部59は、画像取得部12が取得する映像からだけでなく、音声取得部14が取得する音声からも周辺車両の危険運転を検出する。例えば、周囲の音声からクラクション音を検出した場合であって、そのクラクション音が所定時間以上継続したり、その検出回数が所定回数以上連続したりした場合に、周辺車両の危険運転を検出する。危険検出部59が危険運転を検出した場合、イベント検出部18はトリガーイベントが発生したものとしてこれを検出する。
【0028】
画像合成部57は、表示用の映像に、検出された周辺車両を囲んでその存在を強調するための破線で描く強調枠である識別車両枠を、その周辺車両を囲むように合成する。危険運転が検出された場合、画像合成部57はその危険運転をする車両の周囲に実線で描く強調枠である注意車両枠を表示する。なお、表示用の映像に識別車両枠や注意車両枠を合成する処理は、ナビゲーション装置11に含まれる画像合成部57に相当する機能に実行させる仕様としてもよく、その場合、重ね合わせるオブジェクト画像とその画像を表示する位置座標の情報をナビゲーション装置11に送信してもよい。
【0029】
記録制御部20は、前方カメラ40または後方カメラ42により常時撮影されて画像取得部12が取得した映像データ、マイク44により常時集音されて音声取得部14が取得した音声データ、車両情報取得部16が取得した車両情報を、一時記憶部22へ一時的に記憶させる。記録制御部20は、一時記憶部22に記憶される映像データおよび音声データをリングバッファ方式で記録媒体48に記録する。
【0030】
一時記憶部22は、フラッシュメモリないしソリッドステートドライブ(SSD;Solid State Drive)などの不揮発性メモリ、または、DRAMなどの揮発性メモリで構成されるバッファメモリであってもよい。記録媒体48は、例えば、SDカード(登録商標)などのメモリカードであり、ドライブレコーダ10に設けられるスロットに挿入して使用され、ドライブレコーダ10から取り外し可能となるよう構成される。記録媒体48は、ソリッドステートドライブやハードディスクドライブなどの補助記憶装置で構成されてもよいし、このような補助記憶装置としてナビゲーション装置11が内蔵する補助記憶装置を利用してもよい。なお、一時記憶部22へ記憶させる音声データや記録媒体48に記録される音声データは、映像データと合成された動画像データの形式で記憶ないし記録される。ただし、ユーザが選択するモードに応じて、音声データが含まれない無音の映像データとして動画像データが記憶ないし記録される場合もある。したがって、以下に説明する「映像データ」の概念には、特に説明しないが、音声データが含まれる場合と含まれない場合とがあり得る。
【0031】
一時記憶部22へ記憶させる映像データは、MPEG2-TSなどの所定時間で区切られたストリーミング形式の動画像データとして記憶させてもよい。記録媒体48へ記録する映像データは、一時記憶部22へ記憶させる映像データと同じ形式でもよいし、異なる形式、例えばMP4形式などのより圧縮率の高い形式でもよい。
【0032】
記録制御部20は、映像データをリングバッファ方式で一時記憶部22および記録媒体48へ記録するため、一時記憶部22および記録媒体48に記録されたデータが容量一杯になると、最も古いデータから上書きされる。記録制御部20は、映像データを上書き可能の属性で一時記憶部22および記録媒体48にいったん記録する。
【0033】
記録制御部20は、イベント検出部18によりトリガーイベントの発生が検出された場合に、記録媒体48に記録された映像データのうち、少なくともトリガーイベントの検出タイミングを含む期間の映像データに上書き不可の保存形式を設定する。この「トリガーイベントの発生」には、危険検出部59によって危険運転が検出された場合も含まれる。上書き可能および上書き不可の属性は、例えば映像データに含まれる所定のフラグ等に書き込むことによって設定してもよいし、映像データから独立したインデックス等の管理ファイルに上書き可否の属性を書き込むことによって設定してもよい。元の映像データ自体に上書き可否の属性を書き込む場合、例えば元の映像データのうち上書き不可とする保存対象の期間の開始位置と終了位置を示す情報を書き込んでもよい。この場合、保存対象以外の部分、すなわち上書き可能とする部分を後から別データで上書きする際に、保存対象の開始位置から終了位置までが結果的に切り出されて残るようにそれ以外の部分に上書きする。また、保存対象とする部分を元の映像データから切り出して独立させたファイルの形で別途保存することで、上書き可能と上書き不可を区別する仕様としてもよい。保存対象として切り出す部分が複数の映像データをまたぐ場合、それぞれの映像データから切り出して連結したファイルを保存してもよい。独立させたファイルの形で別途保存する場合、上書き可能なデータが記録された領域とは異なる特定の領域、例えば特定のフォルダに記録することで、上書き可能と上書き不可を区別する仕様としてもよい。上書き不可の属性が設定されたデータは、ユーザの明示的な操作によって削除または上書き可能の属性への変更がされるまで上書き禁止の状態が保持される。記録制御部20は、危険運転の検出をトリガーイベントとして映像データを保存する場合、危険検出部59による危険運転の検出が終了するまで、または、注意車両枠で囲んだ周辺車両が画像取得部12で取得する映像から検出されなくなるまで、映像データを保存する。周辺車両の危険運転が検出されたことを契機として映像データを保存することにより、例えば衝突や事故などの重大事由が発生していなくとも、その前段階から映像データを保存でき、保存の確実性を高めることができる。
【0034】
表示制御部28は、画像合成部57によって合成される識別車両枠や注意車両枠をナビゲーション装置11の画面に表示させることにより、危険運転をする車両が周囲に存在することを運転者や同乗者に視覚的に報知する。表示制御部28は、後続の車両が危険運転をしていると判定された場合に、後方カメラ42に設けられた赤色LEDランプを点灯または点滅させることで録画中であることを示し、危険運転車両の運転手に警告してもよい。音声出力部29は、危険検出部59によって危険運転が検出された場合に、危険運転をする車両が周囲に存在することを運転者や同乗者に聴覚的に報知する。本実施の形態における報知態様として、視覚的な報知および聴覚的な報知を例示したが、変形例においては触覚による報知、例えばステアリングに振動を与えることにより運転者に注意喚起する報知態様を実現してもよい。
【0035】
なお、危険検出部59は、危険運転を検出した場合に、車両の属性別、例えば車種別や色別の危険度に関するフィードバック情報として基準記憶部58に蓄積してもよい。例えば、危険度が高い属性の車両ほど、画像上のサイズの閾値を小さくして、より早いタイミングで危険運転であると判定できるようにしてもよいし、逆に危険度が低い属性の車両ほど、画像上のサイズの閾値を大きくして、安易に危険運転であるとの判定がされにくいようにしてもよい。危険検出部59は、車両の属性別の危険度に関するフィードバック情報を通信部24を介して所定のサーバへ送信し、車両の属性ごとの危険度の傾向を深層学習によって認識するための学習データとして蓄積させてもよい。こうしたデータは、危険運転が発生しやすいエリアの統計情報としても活用でき、あるいは自動車の保険料の算定根拠として活用することもできる。
【0036】
図2は、後方カメラ42の映像における周辺車両の識別状態を模式的に例示する。本図の映像例では、後方カメラ42の映像である後方画像66に4台の周辺車両である第1周辺車両60a、第2周辺車両60b、第3周辺車両60c、第4周辺車両60dが写っている。車両検出部53が後方画像66から周辺車両60を検出し、それぞれに一意の識別情報を付与して車両を区別する。図示しないが前方カメラ40の映像からも同様に、車両検出部53が周辺車両60を検出し、それぞれに一意の識別情報を付与する。ただし、後方画像66から検出された周辺車両60が自車両を追い越して前方カメラ40の映像に写るようになった場合は、同一の車両が同じ識別情報を引き継ぐように付与する。同様に、前方カメラ40の映像から検出された周辺車両60を自車両が追い越して後方画像66に写るようになった場合は、同一の車両が同じ識別情報を引き継ぐように付与する。
【0037】
車両検出部53により検出された周辺車両60の車種を車種認識部55が認識する。これら周辺車両60の周囲には、各車両を囲むように識別車両枠64が表示される。識別車両枠64は破線で描かれた矩形である。識別車両枠64の大きさは、周辺車両60の輪郭が識別車両枠64に内接するように設定される。画像上の周辺車両60が移動してサイズが変化した場合はその変化に追随するように識別車両枠64の大きさも変化させる。識別車両枠64の矩形の縦サイズと横サイズが周辺車両60の画像上のサイズとしてサイズ測定部56により測定されてもよい。変形例においては、識別車両枠64を車種ごとに区別できるよう異なる線種や太さ、色彩で表示してもよいし、画像上のサイズが大きいほど強調されるよう異なる線種や太さ、色彩で表示してもよい。あるいは、周辺車両60を検出して車種を識別した場合であっても、特に識別車両枠64のような識別状態を映像内に表示しない仕様としてもよい。
【0038】
図3は、後方カメラ42の映像における危険運転車両の認識状態を模式的に例示する。検出された周辺車両60のうち、危険運転が検出された車両に対しては、識別車両枠64に代えて注意車両枠62で囲むように表示する。図3の例では、第1周辺車両60aが自車両に接近し、後方画像66上の車両のサイズが閾値を超えた状態となったことにより危険運転であると判定している。例えば、注意車両枠62の縦サイズは、図2の第1周辺車両60aを囲む識別車両枠64の縦サイズの1.2倍となっており、この車種の危険判定基準である所定の閾値を超えていることから、危険運転車両であると判定されている。注意車両枠62の矩形状の線は、識別車両枠64の矩形状の線よりも太く目立つ線種であり、その存在が識別車両枠64よりも強調される実線で描かれる。注意車両枠62の大きさは、周辺車両60の輪郭が注意車両枠62に内接するように設定される。画像上の周辺車両60が移動してサイズが変化した場合はその変化に追随するように注意車両枠62の位置や大きさも変化させる。注意車両枠62の線種や線の太さ、色彩は、危険度のレベルに応じて異なる態様としてもよい。例えば、危険度が高い車両ほど赤や黄色などの強調の度合いが強い色で表示する。基準記憶部58が保持するフィードバック情報に基づき、車両の属性ごとの危険度の高さによって識別車両枠64や注意車両枠62を色分けしてもよい。
【0039】
危険運転の多くは、一般に「あおり運転」と呼ばれる。「あおり運転」にも様々な態様があるものの、そのほとんどが最初に後方から車間距離を極端に詰めて威嚇する行為から始まる点で共通する。そこで、本実施の形態では危険運転車両を検出するために、後方画像66から車間距離を過度に接近させる周辺車両を特定する。その時点でいったん危険運転であると判定するが、偶発的に接近してしまったにすぎない危険運転ではない車両についても危険運転であると誤判定してしまう場合があり得る。そのため、いったん危険運転と判定した周辺車両は注意車両枠62で囲んで表示するとともに、その後の画像上のサイズの変化や画像上の検出位置の変化を追随することで、「あおり運転」の各態様に対応する危険判定基準を満たすかどうかが判定される。危険運転の態様としては、(1)車間距離の過度な接近だけでなく、例えば(2)蛇行運転、(3)幅寄せ、(4)強引な進路変更による追い越しや割り込み、(5)前方を塞ぐ急減速や急停止、などがある。また、(6)クラクション、ハイビーム、パッシングによる威嚇、といった行為も含まれる。これらの危険運転を判定するための危険判定基準として、画像上の車両サイズに基づいて判定するものと、画像上の車両位置に基づいて判定するもの、車両サイズの変化態様や車両位置の変化態様に基づいて判定するものがある。危険検出部59は、基準記憶部58が保持する危険判定基準に基づいて周辺車両の危険運転を判定する。以下、各危険判定基準と判定方法について説明する。
【0040】
(1)車間距離の過度な接近に関する危険判定基準
後方に位置する周辺車両と自車両との車間距離が所定の危険な距離(例えば3メートル)となったときのその車両の画像上のサイズの閾値が車種ごとに危険判定基準としてあらかじめ定義される。危険検出部59は、車両検出部53により検出された周辺車両の画像上のサイズが、図3に示すように、その車種の危険判定基準として定義される画像上のサイズの閾値以上となったときに、その車両が自車両からの危険な範囲、すなわち過度な接近範囲まで迫ったと判定する。危険検出部59は、車両の画像上のサイズが所定の閾値以上となった瞬間に危険運転であると判定してもよいし、その閾値以上となった状態が所定時間以上経過したときに危険運転であると判定してもよい。あるいは、車両の画像上のサイズが所定の閾値以上となった瞬間に識別車両枠64で囲んで表示するとともに、その閾値以上となった状態が所定時間以上経過したときに危険度が高まったとして識別車両枠64の表示色を強調色に変更することで、強調の度合いを高める表示をしてもよい。
【0041】
危険判定基準として、車両の画像上のサイズの閾値だけでなく、そのサイズの変化態様がさらに定義されてもよい。例えば、周辺車両が接近、離脱、接近を交互に繰り返す場合のサイズの変化態様が定義される。この場合、画像上のサイズが閾値以上となったり閾値未満となったりを交互に繰り返す変化態様となる。また例えば、周辺車両が急激に接近した場合のようにサイズ変化が急速である変化態様が危険判定基準として定義される。危険検出部59は、後方画像66における周辺車両60のサイズや位置の変化態様が危険判定基準に合致したときに危険運転であると判定する。なお、危険検出部59は、危険運転でなくとも車間距離が狭くなりやすい、停車中や渋滞中といった状況を除外してもよい。例えば、車両情報取得部16から取得が取得する速度情報や画像取得部12が取得する映像から画像認識によって測定する自車両の速度情報に基づいて、自車両の速度が所定の低い時速以下にあるときは危険運転とは判定しないようにしてもよく、これらの状況が除外されるような速度情報に関する条件が危険判定基準に定められてもよい。
【0042】
(2)蛇行運転に関する危険判定基準
(1)の基準によりいったん危険運転が検出された周辺車両60について、後方画像66上の車両の検出位置が中心線を境に左右に交互に移動を繰り返すような変化態様が蛇行運転の危険判定基準として定められる。左右に交互に移動を繰り返す回数としては、例えば左右の移動を2往復以上繰り返したことを危険判定基準として定義してもよい。また、画像上の車両の検出位置が左右に移動を繰り返す蛇行運転の間は過度な接近状態になくてもよく、したがってその間は画像上の車両のサイズが(1)の基準以上となっていなくてもよい。これにより、自車両の後方に過度に接近した後に蛇行を繰り返すことで威嚇するような危険運転を継続的に検出することができる。
【0043】
(3)幅寄せに関する危険判定基準
(1)の基準によりいったん危険運転が検出された周辺車両60が自車両の側方へ移動して並走し、幅寄せする行為を検出する危険判定基準として、その周辺車両60が前方カメラ40の側方画像において自車両に対する危険な接近位置にあるときのその車両の画像上のサイズの閾値が車種ごとに定義される。危険検出部59は、前方カメラ40の側方画像上の車両のサイズが所定の閾値以上となっている状態を危険運転であると判定する。ただし、前方カメラ40による側方の映像は、側方の窓越しの映像であるため、周辺車両が自車両の側方に接近しすぎた状況ではその周辺車両の全体が窓越しに写るとは限らない。そのため、側方画像上の車両のサイズとしては、車両全体のサイズの代わりに車両の一部、例えば窓等のサイズの閾値が定義されてもよい。これにより、自車両の後方に過度に接近した後で自車両の側方に過度に接近する幅寄せ行為で威嚇するような危険運転を継続的に検出することができる。
【0044】
(4)強引な進路変更による追い越しや割り込みに関する危険判定基準
強引な進路変更による追い越しに関する危険判定基準として、(1)の基準により危険運転が検出された周辺車両60について、後方画像66上における検出位置が所定の速度以上で中心線を外れて車線を逸脱する変化態様と、前方カメラ40の側方画像上における検出位置が所定の速度以上で前進する変化態様が定義される。また強引な進路変更による割り込みに関する危険判定基準として、(1)の基準により危険運転が検出された周辺車両60について、前方カメラ40の側方画像上における検出位置が所定の速度以上で前進する変化態様と、前方カメラ40の側方画像上における検出位置が所定の速度以上で自車両の正面に移動する変化態様が定義される。これにより、自車両の後方に過度に接近した後で急加速で強引に自車両を追い越して強引に正面に割り込むような危険運転を継続的に検出することができる。
【0045】
(5)前方を塞ぐ急減速や急停止に関する危険判定基準
(1)の基準により危険運転が検出された周辺車両60が自車両を追い越して前方に割り込んだ上で、前方を塞ぐ急減速や急停止をする行為を検出するための危険判定基準として、その周辺車両60が前方で過度に接近した状態の前方カメラ40の画像上におけるサイズの閾値が車種ごとに定義される。また、周辺車両60が前方で急減速や急停止をする場合、自車両との車間距離が急速に詰まることから、周辺車両60の前方カメラ40の画像上におけるサイズの変化速度の閾値がさらに定義され、その閾値以上の変化速度でサイズが大きくなった場合に急減速や急停止があったと判定してもよい。また、前方カメラ40の画像上で周辺車両60のブレーキランプの点灯を画像処理で検出することで急減速や急停止があったと判定してもよい。これにより、自車両の後方に過度に接近した後で自車両を追い越して前方を塞ぐ形で急減速や急停止するような危険運転を継続的に検出することができる。
【0046】
(6)ハイビーム、パッシング、クラクションなどによる威嚇行為に関する危険判定基準
(1)の基準によりいったん危険運転が検出された周辺車両60について、後方画像66上におけるヘッドライトのハイビーム点灯への切替や瞬間的なハイビーム点灯の繰り返し(いわゆるパッシング)を画像認識により検出するための画像認識パターンが威嚇行為に関する危険判定基準として定義される。また、周囲の音声からクラクション音等の警笛音を過度に鳴らす行為を検出するための音声認識パターンが威嚇行為に関する危険判定基準として定義される。あるいは周辺車両60の運転手や同乗者が窓から身を乗り出したり下車したりして威嚇するような状態を検出するための画像認識パターンや、それら運転手や同乗者が大声で威嚇する状態を検出するための音声認識パターンがさらに定義されてもよい。
【0047】
なお、(1)~(6)の危険判定基準のうち一つまたは複数を繰り返す状態の経過時間の長さによって危険度を分けた上で、その危険度に応じて注意車両枠62を色分けしてもよい。
【0048】
図4は、危険運転を検出する過程を示すフローチャートである。画像取得部12が画像を取得し(S10)、車両検出部53が後方画像66から周辺車両60を検出した場合(S12のY)、その検出された周辺車両60の車種を車種認識部55が認識する(S14)。危険検出部59は、車種ごとの危険判定基準を読み出し(S16)、周辺車両60の画像上のサイズが車種ごとの危険判定基準以上であった場合に(S18のY)、その周辺車両60に対して危険運転であると判定し(S20)、記録制御部20が映像データを保存するとともに表示制御部28が危険運転の車両を運転者に報知する(S22)。S12において車両検出部53が後方画像66から周辺車両60を検出しない場合はS14以降の処理をスキップする(S12のN)。S18において、周辺車両60の画像上のサイズが車種ごとの危険判定基準以上でなかった場合はS20以降の処理をスキップする(S18のN)。
【0049】
以上、実施の形態において説明したように、車種ごとに実際の車両の大きさに応じて接近時の画像上のサイズがあらかじめ基準として定められるため、精度よく危険な範囲への接近を判定することができる。また、周辺車両と自車両との車間距離を推測したり、計測したりすることなく、画像上のサイズが車種ごとの基準を超えるか否かだけで周辺車両の危険な接近を効率的に検出することができる。さらに、周辺車両の危険運転が検出されたことを契機として映像データを保存することにより、例えば衝突や事故などの重大事由が発生していなくとも、その前段階から映像データを保存でき、保存の確実性を高めることができる。
【0050】
以上、本発明を実施の形態をもとに説明した。この実施の形態は例示であり、それらの各構成要素や各処理プロセスの組合せにいろいろな変形例が可能なこと、またそうした変形例も本発明の範囲にあることは当業者に理解されるところである。
【符号の説明】
【0051】
10 ドライブレコーダ、 11 ナビゲーション装置、 12 画像取得部、 20 記録制御部、 40 前方カメラ、 42 後方カメラ、 53 車両検出部、 54 車種データ記憶部、 55 車種認識部、 56 サイズ測定部、 58 基準記憶部、 59 危険検出部、 60 周辺車両。
図1
図2
図3
図4