(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公開特許公報(A)
(11)【公開番号】P2022129450
(43)【公開日】2022-09-06
(54)【発明の名称】衝突傷害予測方法、衝突傷害予測システム及び先進事故自動通報システム
(51)【国際特許分類】
B60R 21/00 20060101AFI20220830BHJP
G08G 1/00 20060101ALI20220830BHJP
H04N 7/18 20060101ALI20220830BHJP
G16Y 10/40 20200101ALI20220830BHJP
G16Y 20/20 20200101ALI20220830BHJP
G16Y 40/20 20200101ALI20220830BHJP
G06T 7/00 20170101ALI20220830BHJP
G06Q 50/10 20120101ALI20220830BHJP
【FI】
B60R21/00 340
G08G1/00 D
H04N7/18 D
G16Y10/40
G16Y20/20
G16Y40/20
G06T7/00 350C
G06T7/00 650B
G06Q50/10
【審査請求】未請求
【請求項の数】8
【出願形態】OL
(21)【出願番号】P 2021028113
(22)【出願日】2021-02-25
【新規性喪失の例外の表示】特許法第30条第2項適用申請有り 令和3年1月5日に2021年度 人工知能学会全国大会(第35回)への発表申し込み時にアブストラクトを提出 令和2年12月16日にAssociation for the Advancement of Automotive Medicine(略称:AAAM)への発表申し込み時にアブストラクトを提出
(71)【出願人】
【識別番号】591056927
【氏名又は名称】一般財団法人日本自動車研究所
(74)【代理人】
【識別番号】240000327
【弁護士】
【氏名又は名称】弁護士法人クレオ国際法律特許事務所
(72)【発明者】
【氏名】國富 将平
(72)【発明者】
【氏名】▲高▼山 晋一
(72)【発明者】
【氏名】新井 勇司
【テーマコード(参考)】
5C054
5H181
5L049
5L096
【Fターム(参考)】
5C054CA04
5C054CA05
5C054CA06
5C054EA01
5C054EA05
5C054EA07
5C054FC01
5C054FC03
5C054FC12
5C054FE28
5C054FF06
5C054GB01
5C054HA05
5C054HA19
5H181BB04
5H181BB05
5H181CC02
5H181CC03
5H181CC04
5H181CC14
5H181FF10
5H181FF27
5H181FF32
5H181MC17
5L049CC11
5L096BA04
5L096CA02
5L096DA02
5L096HA11
5L096JA22
(57)【要約】
【課題】衝突事故発生時において、衝突傷害程度を予測する予測対象範囲を、事故自動通報装置を備えていない車両や交通弱者にまで拡大すること。
【解決手段】衝突事故発生時に受傷対象者の衝突傷害程度を予測する衝突傷害予測方法であって、下記の手順を有する。事故当事者の車両に搭載されていない車両外部センサー10から、交通事故発生の後、交通事故発生前後において記録されていた外部画像データを含む外部センサーデータを取得する。外部センサーデータを、深層学習の実施により作成された衝突検知モデルM0に入力することで衝突事故発生の有無を検知する。衝突事故発生が検知されると、外部センサーデータを、深層学習の実施により作成された第1傷害予測モデルM1に入力することで受傷対象者の衝突傷害程度を予測する。衝突傷害程度から衝突傷害の判定レベルを求め、判定レベルを出力する。
【選択図】
図5
【特許請求の範囲】
【請求項1】
衝突事故発生時に受傷対象者の衝突傷害程度を予測する衝突傷害予測方法であって、
事故当事者の車両に搭載されていない車両外部センサーから、交通事故発生の後、交通事故発生前後において記録されていた外部画像データを含む外部センサーデータを取得し、
前記外部センサーデータを、深層学習の実施により作成された衝突検知モデルに入力することで衝突事故発生の有無を検知し、
前記衝突事故発生が検知されると、前記外部センサーデータを、深層学習の実施により作成された傷害予測モデルに入力することで受傷対象者の衝突傷害程度を予測し、
前記衝突傷害程度から衝突傷害の判定レベルを求め、前記判定レベルを出力する
ことを特徴とする衝突傷害予測方法。
【請求項2】
請求項1に記載された衝突傷害予測方法において、
前記外部センサーデータは、交通事故の発生前後において記録されていた外部画像データに、前記外部画像データとともに記録されていた衝突速度データ、音声データを加える
ことを特徴とする衝突傷害予測方法。
【請求項3】
請求項1又は請求項2に記載された衝突傷害予測方法において、
前記外部画像データを取得する前記車両外部センサーは、当事者以外の第三者ドライブレコーダー、道路周辺に設置される監視カメラ、スマートフォンやウェアラブル端末のカメラを含む事故当事者の車両に搭載されていない外部画像センサーである
ことを特徴とする衝突傷害予測方法。
【請求項4】
請求項3に記載された衝突傷害予測方法において、
前記衝突検知モデルと前記傷害予測モデルに入力する前記外部画像データを、前記外部画像センサーから取得された動画データの中から予め定めた所定のコマ撮り時間間隔によって選択された複数枚の時系列静止画データとする
ことを特徴とする衝突傷害予測方法。
【請求項5】
衝突事故発生時に受傷対象者の衝突傷害程度を予測する外部サーバを備える衝突傷害予測システムであって、
前記外部サーバは、
事故当事者の車両に搭載されていない車両外部センサーから、交通事故発生の後、交通事故発生前後において記録されていた外部画像データを含む外部センサーデータを取得する外部センサーデータ取得部と、
前記外部センサーデータを、深層学習の実施により作成された衝突検知モデルに入力することで衝突事故発生の有無を検知する衝突検知部と、
前記衝突事故発生が検知されると、前記外部センサーデータを、深層学習の実施により作成された傷害予測モデルに入力することで受傷対象者の衝突傷害程度を予測する衝突傷害程度予測部と、
前記衝突傷害程度から衝突傷害の判定レベルを求め、前記判定レベルを出力する出力部と、を有する
ことを特徴とする衝突傷害予測システム。
【請求項6】
外部サーバと通信器を有する情報管理センターと、救急システムコントローラと通信器を有する救急医療情報センターと、救急医療機関と、を備える先進事故自動通報システムにおいて、
前記外部サーバは、外部からの送信入力によるセンサーデータと、深層学習の実施により作成された傷害予測モデルを用い、受傷対象者の衝突傷害程度を予測する衝突傷害程度予測部と、予測された衝突傷害程度から求めた衝突傷害の判定レベルを前記情報管理センターにおいて確認し、必要に応じて前記救急医療情報センターと前記救急医療機関へ送信する衝突傷害判定結果送信部と、を有し、
前記救急システムコントローラは、前記情報管理センターから受信した前記衝突傷害の判定レベルを前記救急医療情報センターの担当オペレータへ報知する衝突傷害判定レベル報知部を有し、
前記衝突傷害程度予測部は、事故当事者の車両に搭載されていない車両外部センサーからの外部センサーデータと、深層学習の実施により作成された衝突検知モデル及び第1傷害予測モデルを用い、受傷対象者の衝突傷害程度を予測する第1傷害予測処理部を有する
ことを特徴とする先進事故自動通報システム。
【請求項7】
請求項6に記載された先進事故自動通報システムにおいて、
前記衝突傷害程度予測部は、前記第1傷害予測処理部に加え、事故当事者の車両に搭載されている車両内部センサーからの内部画像データを含む入力情報と、深層学習の実施により作成された第2傷害予測モデルとを用い、受傷対象者の衝突傷害程度を予測する第2傷害予測処理部を有し、
前記衝突傷害判定結果送信部は、前記第1傷害予測処理部と前記第2傷害予測処理部の一方から衝突傷害の判定レベルが出力されたとき、出力された判定レベルを前記情報管理センターにおいて確認し、必要に応じて前記救急医療情報センターと前記救急医療機関へ送信する
ことを特徴とする先進事故自動通報システム。
【請求項8】
請求項7に記載された先進事故自動通報システムにおいて、
前記衝突傷害判定結果送信部は、同じ衝突事故に対して前記第1傷害予測処理部と前記第2傷害予測処理部の両方から衝突傷害の判定レベルが出力されたとき、出力された2つの判定レベルを比較し、同じ判定レベルであると、出力された判定レベルを前記情報管理センターにおいて確認し、必要に応じて前記救急医療情報センターと前記救急医療機関へ送信し、異なる判定レベルであると、衝突傷害程度の高い判定レベルを前記情報管理センターにおいて確認し、必要に応じて前記救急医療情報センターと前記救急医療機関へ送信する
ことを特徴とする先進事故自動通報システム。
【発明の詳細な説明】
【技術分野】
【0001】
本開示は、衝突事故発生時における受傷対象者の衝突傷害程度を予測する衝突傷害予測方法、衝突傷害予測システム及び先進事故自動通報システムに関する。
【背景技術】
【0002】
従来、事故対応装置として、画像取得部と衝突判定部とダメージ推定部と通報部と応急指示部とを備える装置が知られている。この従来装置は、ダメージ推定部において、生体情報と車載カメラの画像から得られる衝突位置と速度より受傷状態を推定している(例えば、特許文献1参照)。
【先行技術文献】
【特許文献】
【0003】
【発明の概要】
【発明が解決しようとする課題】
【0004】
従来装置にあっては、人の頭部の位置及び車両に対する相対速度により1次衝突を判定し、その判定結果に基づいて2次衝突状況を推定し、2次衝突の推定結果に基づいて頭部の傷害レベルを予測している。
【0005】
従来の自動車乗員及び歩行者の傷害発生程度の予測手法では、基本的に車両に搭載されているEDR(「Event Data Recorder」の略称)のデータを、EDRデータと傷害程度に関するロジスティック回帰式に適用して、自動車乗員及び歩行者の傷害発生程度を予測している。また、近年では、画像認識に優れた機械学習手法の一つである深層学習を用いて当事者のドライブレコーダーが記録した衝突事故発生時の画像から自動車乗員及び歩行者の傷害発生程度を予測する手法も提案されている。
【0006】
しかし、これらの手法は事故当事者の車両に搭載されている車両内部センサーからの情報を基に実施されている。このため、車両内部センサーが検知できない死角での事故、車両内部センサーの故障・不良、AACN未搭載車両同士の事故、等においては十分な情報収集が行えず、本来の衝突傷害程度の予測性能を発揮することが困難である、という課題があった。なお、「AACN」は、「Advanced Automatic Collision Notification」の略称であり、「先進事故自動通報システム」又は「事故自動通報装置」と呼ばれる。
【0007】
本開示は、上記課題に着目してなされたもので、衝突事故発生時において、衝突傷害程度を予測する予測対象範囲を、事故自動通報装置を備えていない車両や交通弱者(歩行者、自転車乗員、二輪車乗員)にまで拡大することを目的とする。
【課題を解決するための手段】
【0008】
上記目的を達成するため、本開示は、衝突事故発生時に受傷対象者の衝突傷害程度を予測する衝突傷害予測方法であって、下記の手順を有する。事故当事者の車両に搭載されていない車両外部センサーから、交通事故発生の後、交通事故発生前後において記録されていた外部画像データを含む外部センサーデータを取得する。外部センサーデータを、深層学習の実施により作成された衝突検知モデルに入力することで衝突事故発生の有無を検知する。衝突事故発生が検知されると、外部センサーデータを、深層学習の実施により作成された傷害予測モデルに入力することで受傷対象者の衝突傷害程度を予測する。衝突傷害程度から衝突傷害の判定レベルを求め、判定レベルを出力する。
【発明の効果】
【0009】
上記のように、車両外部センサーを情報収集手段とする傷害予測としたことで、衝突事故発生時において、衝突傷害程度を予測する予測対象範囲を、事故自動通報装置を備えていない車両や交通弱者にまで拡大することができる。
【図面の簡単な説明】
【0010】
【
図1】実施例1の衝突傷害予測方法、衝突傷害予測システムが適用された先進事故自動通報システムを示す全体システム図である。
【
図2】実施例1の先進事故自動通報システムのブロック構成を示すシステムブロック図である。
【
図3】実施例1の外部サーバに有する衝突傷害程度予測部及び衝突傷害判定結果送信部の詳細構成を示すブロック図である。
【
図4】従来例の先進事故自動通報システムを示す概要図である。
【
図5】第1傷害予測処理部での衝突傷害程度予測概要を示す概要説明図である。
【
図6】第1傷害予測処理部で用いられる衝突検知モデルの作成手順を示すフローチャートである。
【
図7】第1傷害予測処理部で用いられる第1傷害予測モデルの作成手順を示すフローチャートである。
【
図8】第1傷害予測処理部での傷害発生程度の予測手順を示すフローチャートである。
【
図9】衝突事故シミュレーション解析による歩行者の傷害発生程度の予測精度検証において衝突事故時に歩行者モデルの挙動が変化する一例を時系列静止画像により示す図である。
【
図10】第2傷害予測処理部での衝突傷害程度予測概要を示す概要説明図である。
【
図11】第2傷害予測処理部で用いられる第2傷害予測モデルの作成手順を示すフローチャートである。
【
図12】第2傷害予測処理部での傷害発生程度の予測手順を示すフローチャートである。
【
図13】衝突事故シミュレーション解析による歩行者の傷害発生程度の予測精度検証においてHIC値が1000以下と判定された際の挙動特徴例を示す図である。
【
図14】衝突事故シミュレーション解析による歩行者の傷害発生程度の予測精度検証においてHIC値が1000より大きいと判定された際の挙動特徴例を示す図である。
【
図15】車両の異常を車両内部センサーからの情報と深層学習手法によって検知する例を示す概要図である。
【発明を実施するための形態】
【0011】
以下、本開示による衝突傷害予測方法、衝突傷害予測システム及び先進事故自動通報システムを実施するための形態を、図面に示す実施例1に基づいて説明する。
【実施例0012】
実施例1は、本開示の衝突傷害予測方法、衝突傷害予測システムを先進事故自動通報システム(事故自動通報装置の一例)に適用した例である。以下、実施例1の構成を、「先進事故自動通報システムの全体システム構成」、「先進事故自動通報システムの詳細構成」、「外部サーバの詳細構成」に分けて説明する。
【0013】
[先進事故自動通報システムの全体システム構成]
図1を参照して先進事故自動通報システムEの全体システム構成を説明する。
【0014】
ここで、「先進事故自動通報システムE」とは、衝突事故発生時に受傷対象者の衝突傷害程度を予測し、位置情報とともに傷害程度予測情報を、情報管理センターBを介して救急医療情報センターCと救急医療機関G等に速やかに伝え、事故現場への救急医療用移動手段の派遣を要請するシステムをいう。「受傷対象者」とは、運転者、自動車乗員、自転車乗員、歩行者、二輪車乗員等の衝突事故の発生により何らかの傷害を受ける可能性のある者をいう。「救急医療用移動手段」とは、応急処置を施しながら受傷者を搬送する救急車、医師が同乗する救急医療用のドクターカーやドクターヘリ等の救命救急のために派遣される移動手段をいう。
【0015】
先進事故自動通報システムEは、
図1に示すように、自動車Aと、情報管理センターBと、救急医療情報センターCと、道路交通環境Dと、救急医療機関G(病院)と、を備えている。
【0016】
自動車Aは、先進事故自動通報システムEに組み込まれ、衝突事故発生時に自動車Aが取得した事故情報を自動的に送信する機能を備えるAACN搭載車両である。自動車Aには、車載カメラ1と車載コントローラ2と車載通信器3を有する。
【0017】
車載コントローラ2は、衝突事故発生時に車載カメラ1が撮像した衝突事故画像の画像データを、車載通信器3を介して外部の情報管理センターBへ送信する。なお、実施例1では、後述する外部サーバ4により衝突傷害程度を予測するが、車載コントローラ2により衝突傷害程度を予測しても良い。車載コントローラ2により衝突傷害程度を予測する場合、情報管理センターBを介することなく、衝突傷害の判定レベルを、車載コントローラ2から衝突事故発生位置情報とともに車載通信器3を介して救急医療情報センターCと救急医療器機関G等へ送信しても良い。
【0018】
情報管理センターBは、例えば、車両をセンサーとして捉え、走行速度や位置の情報等を収集することにより交通流動等の道路交通情報を生成するプローブ情報システムにおいて、交通情報全般を管理するインフラ施設、等である。情報管理センターBは、走行中等のプローブ車両群から送信されてくる膨大な車両データを受信し、受信した車両データを情報利用種別ごとに記録する。情報管理センターBには、外部サーバ4と外部通信器5と表示デバイス8を有し、事故データ(位置情報、車両情報、センサー情報)の受信の他に音声通話による受傷者との会話も行う施設にしても良い。また、交通事故発生時のデータのみが自動的に受信され、交通事故情報が収集される交通事故に特化した事故情報管理センターにしても良い。ここで、情報管理センターBにおいては、傷害程度予測結果や受傷者との音声通話から救急医療情報センターCと救急医療機関G等へ情報を送るかどうかの緊急性を判断する。現状の情報管理センターBでの緊急性判断基準は、死亡・重症率5%以上、もしくは音声通話による受傷者との会話ができないとされ、死亡・重症率5%以上であっても音声通話で不要と判断される例外ケースもある。そのため、自動的に事故情報や傷害予測結果が報知されるのは情報管理センターBまでになる。
【0019】
外部サーバ4は、受信により入力された画像データ等と深層学習(Deep Learning)の実施により作成された人工知能モデルとを用い、衝突事故発生時に受傷対象者の衝突傷害程度を予測する。外部サーバ4は、衝突傷害程度予測に基づいて衝突傷害の判定レベルを求め、この時点で死亡・重症率を算出する。そして、情報管理センターBで求められた衝突傷害の判定レベル(死亡・重症率)を、情報管理センターBにおいて確認し、必要に応じて衝突事故が発生した事故発生位置情報とともに外部通信器5を介して救急医療情報センターCと救急医療機関G等へ送信する。なお、送信するときの送信情報としては、収集している動画データ(音声含む)等の情報も含める。また、外部サーバ4には、表示デバイス8が接続されている。表示デバイス8は、衝突傷害程度を複数段階に分ける判定を行った後の判定レベル結果を視覚的に表示する。
【0020】
ここで、「受信により入力された画像データ等」には、車両外部センサー10から送信される外部画像データと、自動車Aから送信される車載カメラ1が取得した内部画像データと、これらの画像データ以外の様々な追加情報と、を含む。なお、外部サーバ4の詳細構成については後述する。
【0021】
救急医療情報センターCは、所定の地域内で医療ネットワークを構築するとき、医療ネットワーク内で取り扱う医療情報を管理するインフラ施設、等である。なお、現状においては、地域の消防指令センターも救急医療情報センターCに該当する。救急医療情報センターCには、救急システムコントローラ6と救急通信器7と事故情報報知デバイス9を有する。
【0022】
救急システムコントローラ6は、情報管理センターBから傷害予測結果、事故発生位置情報、動画等を受信すると、必要に応じて救急医療機関Gに出勤を要請する。救急医療機関Gは、情報管理センターBから受信した傷害予測結果、事故発生位置情報、動画等の情報に基づいて出勤準備を行い、救急医療情報センターCからの要請を受けて出勤(医師派遣)する。
【0023】
ここで、「救急医療機関Gへの出勤要請」は、救急システムコントローラ6での判断処理に基づいて、自動的に指定された救急医療機関Gへ要請しても良いし、事故情報報知デバイス9により事故情報を報知された担当オペレータを介して指定された救急医療機関Gへ要請しても良い。「救急移動手段の派遣要請」は、例えば、衝突傷害判定レベルがドクター派遣判定値より低いと、レベルに応じた救急処理が可能な救急車の派遣を要請する手続きを行う。また、衝突傷害判定レベルがドクター派遣判定値より高く、衝突事故発生場所へ車で短時間にアクセスすることが可能であると、ドクターカーの派遣を要請する手続きを行う。さらに、衝突傷害判定レベルがドクター派遣判定値より高く、衝突事故発生場所へ車でアクセスができない、又は、車でのアクセスでは長時間を要すると、ドクターヘリの派遣を要請する手続きを行う。基本的に、受傷者と医師との接触時間(医師による治療開始時間)が短くなる場合は、ドクターカー&ヘリは出動する。しかし、ヘリ着陸ポイントが無い、或いは夜間の場合は、ドクターヘリは出動しない。
【0024】
道路交通環境Dは、先進事故自動通報システムに組み込まれ、衝突事故の発生が検知されると、事故情報を自動的に送信する機能を備えるAACN対応環境である。道路交通環境Dは、車両外部センサー10と通信器11とを有する。
【0025】
車両外部センサー10は、衝突事故に直面した当事者の車両に搭載されていないものであり、衝突事故に関する情報を当事者車両の外部から取得できる情報収集手段である。車両外部センサー10からは、交通事故発生の後、交通事故の発生前後において記録されていた外部画像データ、音声データ、衝突速度データ、生体情報データを含む外部センサーデータを、通信器11を介して情報管理センターBへ送信する。なお、車両外部センサー10により取得された観察情報は、センサー内に有する記憶部に記録されている。
【0026】
[先進事故自動通報システムの詳細構成]
図2を参照して先進事故自動通報システムEの詳細構成を説明する。
【0027】
先進事故自動通報システムEは、
図2に示すように、車載カメラ1と、車載コントローラ2と、車載通信器3と、外部サーバ4と、外部通信器5と、救急システムコントローラ6と、救急通信器7と、表示デバイス8と、事故情報報知デバイス9と、車両外部センサー10と、を備えている。なお、「衝突傷害予測システム」は、先進事故自動通報システムEから救急医療情報センターCと救急医療機関Gを除いて成立するシステムである。「衝突傷害予測方法」は、衝突傷害予測システムにて実行される方法である。
【0028】
車載カメラ1は、自動車Aに搭載された車両内部センサーの代表例であり、衝突事故発生時に車両前方や車室内画像等のカメラ設置位置からの画角に入る衝突事故画像データを取得できる撮像手段である。車載カメラ1とは、例えば、自動車Aに搭載されたドライブレコーダー、運転支援制御等において車両前方画像データの取得手段として自動車Aに搭載された前方カメラ、等をいう。
【0029】
車載コントローラ2は、
図2に示すように、画像取得部2aと、画像データ送信部2bと、を有する。画像取得部2aは、衝突事故発生検知時に車載カメラ1が撮像した衝突事故画像を取得する。画像データ送信部2bは、取得された衝突事故の車両前方や車室内画像等の内部画像データと追加情報(衝突速度、音声、生体情報等)を、車載通信器3を介して外部の情報管理センターBへ送信する。ここで、情報管理センターBへ送信する内部画像データは、衝突事故発生前から所定時間が経過するまでに取得された動画データとする。なお、予測に使用する動画データは、衝突事故発生時から所定時間経過するまでのデータである。また、内部画像データには、LiDAR(「Light Detection and Ranging」の略称)や赤外線レーザーから生成した動画データも含む。
【0030】
外部サーバ4は、
図2に示すように、入力部4aと、衝突傷害程度予測部4bと、表示出力部4cと、衝突傷害判定結果送信部4dと、人工知能モデル作成部4eと、を有する。
【0031】
入力部4aは、通信器11や車載通信器3から送信された各種情報を、外部通信器5を介して受信する。この入力部4aでは、各種情報のうち受信した画像データに対して、例えば、画像のリサイズやグレースケール変更や輝度変更、等による入力画像処理を行い、衝突傷害程度予測部4bへ入力する画像データとする。
【0032】
衝突傷害程度予測部4bは、入力部4aからの前処理を行った後の各データと、深層学習の実施により作成された人工知能モデルとを用い、受傷対象者の衝突傷害の発生程度を予測し、傷害予測に基づいて死亡・重症度を判定する。なお、衝突傷害程度予測部4bの詳細構成については後述する。
【0033】
表示出力部4cは、衝突傷害程度予測部4bから予測結果を入力し、予測した衝突傷害の発生程度から求められた衝突傷害の判定レベルを表示デバイス8により表示する表示指令を出力する。なお、表示デバイス8では、衝突傷害の判定レベルを表示するとともに、予測された傷害部位、部位別の傷害程度、予測根拠、加害部位、事故動画等が示される。
【0034】
衝突傷害判定結果送信部4dは、衝突傷害程度予測部4bによる衝突傷害の発生程度予測に基づいて求められた衝突傷害の判定レベル等の事故情報を、外部通信器5を介して救急医療情報センターCと救急医療器機関G等へ送信する。なお、衝突傷害判定結果送信部4dの詳細構成については後述する。
【0035】
人工知能モデル作成部4eは、深層学習を実施した学習済みの人工知能モデルとして、衝突検知モデルM0と第1傷害予測モデルM1と第2傷害予測モデルM2を作成する。人工知能モデルは、データベース作成手順→学習データセット作成手順→深層学習実施手順を経過して作成される。
【0036】
データベース作成手順では、過去に発生した衝突事故時に観測された受傷対象者のデータベース(衝突事故画像データベース、衝突速度データベース、音声データベース、生体情報データベース、傷害情報データベース、等)を作成する。学習データセット作成手順では、作成されたデータベースを機械学習の実施に適した形式に変換し、衝突事故時の各種データを互いに関連させて組み合わせた多数の学習データセットを作成する。深層学習実施手順では、人間の脳神経回路をモデルにした多層構造アルゴリズムを用い、例えば、畳み込みニューラルネットワーク(CNN:Convolutional Neural Network)構造を有する人工知能モデルを選定し、学習データセットに対して深層学習を実施して人工知能モデルを作成する。
【0037】
ここで、「深層学習」とは、画像認識や音声認識等、人間が行うタスクをコンピューターに学習させる機械学習の手法の一つであり、十分なデータ量を用意することで、機械が自動的にデータから特徴を抽出する特徴をもつ。なお、人工知能AI(「Artificial Intelligence」の略称)の学習と機械学習は異なり、人工知能AIは人間と同様の知能を実現させる取り組みのことで非常に広義な範囲を持つ。一方で機械学習は人工知能AIとして定義されている範囲に含まれるデータ処理の一種であり、さらに深層学習は機械学習と定義される中に含まれる要素である。そして、深層学習のうち複数の種類の入力情報を組み合せて(例:入力情報に画像情報以外の情報を加えて)行う深層学習をマルチモーダル深層学習という。
【0038】
なお、実施例1では人工知能モデル作成部4eを外部サーバ4に設定する例を示した。しかし、人工知能モデル作成部4eは、外部サーバ4とは別の専用サーバに設定しても良いし、情報管理センターBとは別の施設の独立サーバに設定しても良い。専用サーバや独立サーバにより人工知能モデルを作成した場合には、作成した人工知能モデルを外部サーバ4へ入力したり送信したりする。また、人工知能モデルの初期作成段階においては、初期作成前の過去に発生した衝突事故時に観測された受傷対象者の衝突事故画像等によるデータベースを用いて人工知能モデル(初期モデル)を作成する。その後の人工知能モデルは、各種情報のデータベースが所定量蓄積された段階、或いは、各種情報のデータベースが所定期間で蓄積された段階にて深層学習を実施して随時更新する。
【0039】
救急システムコントローラ6は、
図2に示すように、衝突傷害判定レベル報知部6aを有する。衝突傷害判定レベル報知部6aは、情報管理センターBから救急通信器7を介して受信した衝突傷害の判定レベル、事故動画、衝突事故の発生位置情報等を、事故情報報知デバイス9により視覚や聴覚に訴える方法により報知する。
【0040】
車両外部センサー10は、外部画像データを取得するセンサーとして外部画像センサー10aを有する。外部画像センサー10aは、例えば、当事者以外の第三者ドライブレコーダー、道路周辺に設置される監視カメラ、スマートフォンやウェアラブル端末のカメラ等をいう。「第三者ドライブレコーダー」とは、事故当事者の車両以外の車両に搭載され、衝突事故現場に遭遇したときに衝突事故の様子を捉えることができるドライブレコーダーをいう。「監視カメラ」とは、交差点等に設置され、衝突事故の様子を捉えることができる交差点カメラ等をいう。
【0041】
ここで、ドライブレコーダーからは、衝突事故画像データ以外に、内蔵センサーにより衝突速度データ(又は、衝突減速度データ)を得ることができるし、内蔵マイクにより音声データを得ることができる。監視カメラからは、衝突事故画像データ以外に、内蔵マイクにより音声データを得ることができる。さらに、衝突速度データは、画像データが取得できれば、単位時間当たりの位置変化を画像解析することで衝突速度情報を得ることが可能である。また、事故発生時に当事者が所持しているスマートフォンやウェアラブル端末の情報を車両外部センサー10が入手することにより、スマートフォン等を所有している所有者(当事者)を検知でき、スマートフォン等に登録されている所有者の年齢・男女・身長・体重、等を含む生体情報を得ることが可能である。なお、ウェアラブル端末等により測定される脈拍、血圧、等を生体情報に含めることも可能である。さらに、スマートフォンやウェアラブル端末の場合、内蔵されている加速度センサーからの加速度、スピーカからの音声、カメラからの動画が記録可能であるため、これらの情報も衝突傷害予測に利用することができる。
【0042】
[外部サーバの詳細構成]
図3を参照して外部サーバ4に有する衝突傷害程度予測部4b及び衝突傷害判定結果送信部4dの詳細構成を説明する。
【0043】
衝突傷害程度予測部4bは、
図3に示すように、第1傷害予測処理部41と、第2傷害予測処理部42と、を有する。
【0044】
第1傷害予測処理部41は、車両外部センサー10からの外部センサーデータと、深層学習の実施により作成された衝突検知モデルM0及び第1傷害予測モデルM1を用い、受傷対象者の衝突傷害程度を予測する。
【0045】
第1傷害予測処理部41は、
図3に示すように、外部センサーデータ取得部41aと、前処理部41bと、衝突検知部41cと、第1衝突傷害程度予測部41dと、第1出力部41eと、を有する。
【0046】
外部センサーデータ取得部41aは、車両外部センサー10から外部画像データを含む外部センサーデータを取得する。外部センサーデータには、交通事故の発生前後において記録されていた外部画像データに、外部画像データとともに記録されていた音声データ、衝突速度データ、生体情報データを加える。なお、「交通事故の発生」とは、衝突事故が実際に発生した事故発生シーンは勿論のこと、急減速停止を行って衝突事故の発生を回避したが、急減速停止に伴い交通流を一時的に停滞させることになった交通流停滞シーンを含む広義の意味である。
【0047】
前処理部41bは、外部センサーデータ取得部41aから外部センサーデータを取得すると、衝突検知モデルM0と第1傷害予測モデルM1に入力する前に取得した外部画像データの画像処理を行って画像処理データを作成する。なお、音声データ、衝突速度データ、生体情報データに関しても前処理を実行する。前処理の例としては、ノイズ除去(フィルタリング)、クラス分け(男女、年齢、衝突速度域等)、画像化(スペクトログラム等)がある。
【0048】
ここで、画像処理とは、交通事故の発生前後の間に外部画像センサー10aが取得した動画データの中から、予め定めた所定のコマ撮り時間間隔によって選択した複数枚の時系列静止画データを選択する処理、画像のリサイズやグレースケール変更や輝度変更等をいう。そして、人工知能モデルへの入力により衝突検知や傷害予測を行うときは、時系列静止画データを、受傷対象者の挙動特徴部を画像フレームF内に含めた状態にて切り取って抽出した静止画データとする(
図9を参照)。なお、
図9では25msecのコマ撮り時間間隔によって選択した時系列静止画データの一例を示している。しかし、コマ撮り時間間隔としては、コマ撮り静止画像によって挙動の特徴的な変化をあらわす画像を取得することができれば、例えば、数msec以上の時間間隔を適宜選択することができる。また、時系列データのうち、音声や衝突速度等のデータは、静止画データのコマ撮り時間間隔に合わせて抽出する。
【0049】
衝突検知部41cは、前処理部41bからの複数の時系列静止画データ、音声データ、衝突速度データ、生体情報データを、深層学習の実施により作成された衝突検知モデルM0に入力することで衝突事故発生の有無を検知する。なお、衝突検知部41cで入力される各データは、交通事故の発生前から所定時間を経過するまでの時系列データ、及び生体情報データである。
【0050】
ここで、入力された受傷対象者の挙動特徴が、衝突検知モデルM0による衝突時の挙動特徴学習値に対して一致性が高いと「衝突発生有り」と検知する。一方、入力された受傷対象者の挙動特徴が、衝突検知モデルM0による衝突時の挙動特徴学習値に対して一致性が低いと「衝突発生無し」と検知する。
【0051】
第1衝突傷害程度予測部41dは、衝突検知部41cにより衝突事故発生が検知されると、前処理部41bからの複数の時系列静止画データ、音声データ、衝突速度データ、生体情報データを、深層学習の実施により作成された第1傷害予測モデルM1に入力することで受傷対象者の衝突傷害程度を予測する。なお、第1衝突傷害程度予測部41dで入力される各データは、衝突検知時点から所定時間を経過するまでの時系列データとしている。なお、各データのモデル入力区間は、システム簡略化及び見落とし防止のため、衝突検知モデルM0へ入力する場合と第1傷害予測モデルM1へ入力する場合とで同じ入力区間としても良い。
【0052】
ここで、受傷対象者の衝突傷害程度の予測に用いられる第1傷害予測モデルM1は、車両外部センサー10から取得される衝突画像情報、衝突速度情報、音声情報、生体情報を入力情報とし、マルチモーダル深層学習の実施により作成されたものである。また、入力情報の一つ、又は、組み合わせによる深層学習によって作成してもよい。さらに予測に使用する第1傷害予測モデルM1は得られた入力情報に合わせて変更する。
【0053】
第1出力部41eは、第1衝突傷害程度予測部41dで予測された衝突傷害程度から求めた衝突傷害の判定レベルを出力する。ここで、衝突傷害の判定レベルとしては、ISS値やAIS値、死亡・重症率等が用いられる。なお、「ISS」は、「Injury Severity Score」の略称であり、「AIS」は、「Abbreviated Injury Scale」の略称である。
【0054】
第2傷害予測処理部42は、自動車A(車両)に搭載されている車載カメラ1(車両内部センサー)からの内部画像データを含む入力情報と、深層学習の実施により作成された第2傷害予測モデルM2とを用い、受傷対象者の衝突傷害程度を予測する。
【0055】
第2傷害予測処理部42は、
図3に示すように、衝突事故発生検知部42aと、前処理部42bと、第2衝突傷害程度予測部42cと、第2出力部42dと、を有する。
【0056】
衝突事故発生検知部42aは、事故当事者の車載センサーを用いて衝突事故の発生を検知する。具体的な検知としては、例えば、エアバックの展開をトリガーとして衝突事故の発生を検知しても良い。これ以外に、例えば、車載カメラ1が撮像した画像の解析、事故停車時における閾値以上の急減速G発生、事故発生時に特有の急減速G特性の発生、フロントバンパーへの衝撃検知、等の一つ、又は、組み合わせにより、衝突事故の発生を検知しても良い。
【0057】
前処理部42bは、車載カメラ1から内部画像データを取得すると、取得した内部画像データの画像処理を行って画像処理データを作成する。なお、音声データ、衝突速度データ、生体情報データ等に関しても前処理を実行する。
【0058】
ここで、画像処理とは、事故発生検知から所定時間が経過するまでの間に車載カメラ1が取得した動画データの中から、予め定めた所定のコマ撮り時間間隔によって選択した複数枚の時系列静止画データを選択する処理、画像のリサイズやグレースケール変更や輝度変更等をいう。そして、第2傷害予測モデルM2への入力により傷害予測を行うときは、時系列静止画データを、受傷対象者の挙動特徴部を画像フレームF内に含めた状態にて切り取って抽出した静止画データとする(
図13、
図14を参照)。また、時系列データのうち、音声や衝突速度等のデータは、静止画データのコマ撮り時間間隔に合わせて抽出する。
【0059】
第2衝突傷害程度予測部42cは、衝突事故発生検知部42aにより衝突事故が発生したと検知されると、前処理部42bからの複数の時系列静止画データ、音声データ、衝突速度データ、生体情報データ等を、深層学習の実施により作成された第2傷害予測モデルM2に入力することで受傷対象者の衝突傷害程度を予測する。
【0060】
ここで、受傷対象者の衝突傷害程度の予測に用いられる第2傷害予測モデルM2は、車載カメラ1から取得される衝突画像の入力情報に、追加入力情報として衝突速度情報、音声情報、生体情報、車両外部センサー10からの情報を加え、マルチモーダル深層学習の実施により作成されたものである。また、入力情報の一つ、又は、組み合わせによる深層学習によって作成してもよい。さらに予測に使用する第2傷害予測モデルM2は得られた入力情報に合わせて変更する。
【0061】
第2出力部42dは、第2衝突傷害程度予測部42cで予測された衝突傷害程度から求めた衝突傷害の判定レベルを出力する。ここで、衝突傷害の判定レベルとしては、ISS値、AIS値、死亡・重症率等のうち、第1出力部41eと同じ判定指標値が用いられる。
【0062】
衝突傷害判定結果送信部4dは、第1傷害予測処理部41と第2傷害予測処理部42にて求められた衝突傷害の判定レベルが閾値を超えた場合、或いは衝突が検知された場合、情報管理センターBにおいて確認し、必要に応じて外部通信器5を介して救急医療情報センターCと救急医療機関G等へ送信する。
【0063】
ここで、第1傷害予測処理部41と第2傷害予測処理部42の一方からのみ衝突傷害の判定レベルが出力されたときは、出力された判定レベルを情報管理センターBにおいて確認し、必要に応じて救急医療情報センターCと救急医療機関G等へ送信する。そして、同じ衝突事故に対して第1傷害予測処理部41と第2傷害予測処理部42の両方から同じ衝突傷害の判定レベルが出力されたときは、出力された判定レベルを情報管理センターBにおいて確認し、必要に応じて救急医療情報センターCと救急医療機関G等へ送信する。一方、同じ衝突事故に対して第1傷害予測処理部41と第2傷害予測処理部42の両方から異なる衝突傷害の判定レベルが出力されたときは、出力された2つの判定レベルを比較し、衝突傷害程度の高い判定レベルを情報管理センターBにおいて確認し、必要に応じて救急医療情報センターCと救急医療機関G等へ送信する。
【0064】
次に、「衝突傷害予測の背景技術と課題解決対策」を説明する。そして、実施例1の作用を、「車両外部センサーを用いた第1衝突傷害予測作用」、「車両内部センサーを用いた第2衝突傷害予測作用」、「第1衝突傷害予測と第2衝突傷害予測の比較作用」、「先進事故自動通報システムによる自動通報作用」に分けて説明する。
【0065】
[衝突傷害予測の背景技術と課題解決策]
衝突事故発生時の救急車による自動車乗員(救命・救急患者)の的確かつ迅速な医療機関への搬送、並びに、事故現場への救急医療用のドクターヘリやドクターカーによる医師の早期派遣を目的とするAACNと呼ばれる先進事故自動通報システムが知られている。
【0066】
先進事故自動通報システムは、
図4に示すように、衝突事故発生時に自動送信される上記EDRデータを用い、自動車乗員傷害発生程度(死亡/重傷/軽傷/無傷等)を予測する手法(以下、「従来手法」という。)である。
【0067】
しかし、従来手法では、自動車乗員のシートベルト装着有無、衝突速度、衝突方向等のEDRデータに記録される限られたデータのみを用い、入力されたEDRデータを単純に説明関数として用いるロジスティック回帰分析により傷害予測(負傷者の死亡・重症率の予測計算)を実施している。
【0068】
そのため、傷害予測精度(正解率)が、正解率の期待値より高いとは言えない。また、事故発生時の自動車乗員は着座姿勢であるのに対して、歩行者は様々な歩行姿勢や回避行動をとる場合があり、更に自動車との衝突位置等も一様ではないため、乗員に比べて歩行者の事故形態は多様である。よって、例えば、歩行者に対する傷害発生程度の予測においては、自動車乗員に比べてその予測が難しい。
【0069】
この結果、従来手法を用いた場合、(1)傷害発生程度を過大判定すると、救急医療用のドクターヘリやドクターカーの不必要な出動回数を増大させる、或いは、(2)本来救命すべき救命救急患者に対して緊急治療の必要がないと過小判定すると、本来の目的である的確な救命行為が達成できない。即ち、傷害発生程度の誤判定により、全体的に数が少ない救急医療用のドクターヘリやドクターカーを不必要に事故現場に出動させ、適切な救命・救急体制を麻痺させるおそれがあり、その改善が求められている。
【0070】
上記従来手法の課題に対して本発明者等は課題解決策として、衝突事故発生時の車載カメラからの画像データと、深層学習を実施した傷害予測モデルを用いる衝突傷害予測方法、衝突傷害予測システム及び先進事故自動通報システムを提案した。
【0071】
しかし、提案した課題解決策は、車載カメラが画像データを取得することができない死角での事故、車載カメラの故障・不良、AACN未搭載車同士の事故、等の場合、十分な事故情報の収集を行えなかったり、事故情報を全く収集できなかったりすることがあり、負傷者の傷害程度の予測が実施できない、という課題がある。
【0072】
上記課題に対し、本発明者等は、当事者以外の第三者ドライブレコーダーや路上に設置された監視カメラの場合、車載カメラの死角領域で衝突事故が発生したときでも傷害予測に必要な画像情報を取得することができる点に着目した。この着目点に基づいて、傷害予測に必要な画像情報を適切に収集する手段として、当事者以外の第三者ドライブレコーダー、監視カメラ等の外部画像センサー10aを用いる。そして、得られた情報を基に深層学習手法による衝突検知および傷害予測を実施するという課題解決手段を採用した。
【0073】
これにより、衝突事故発生時において、衝突傷害程度を予測する予測対象範囲を、事故自動通報装置を備えていない車両(AACN未搭載車)や交通弱者にまで拡大することができる。この予測対象範囲の拡大は、本来、救命行為が必要な患者の取りこぼしの低減に大きく貢献し、最終的には、衝突事故による死者の削減や後遺症患者の削減にも繋がるものである。
【0074】
[車両外部センサーを用いた衝突傷害予測作用]
図5~
図9を参照して車両外部センサー10を用いた衝突傷害予測作用を説明する。
【0075】
車両外部センサー10を用いた衝突傷害予測は、
図5に示すように、当事者以外の第三者ドライブレコーダーや監視カメラ、当事者のスマートフォンやウェアラブル端末から得られる画像、衝突速度、音声、生体情報、等を活用するものである。車両外部センサー10を用いた衝突傷害予測は、車両内部センサー不良時の事故、AACN未搭載車同士の事故、歩行者等の交通弱者との事故における衝突検知および負傷者の傷害発生程度の予測機能を備えていることを特徴とする。
【0076】
具体的には、衝突事故発生時の車両外部センサー10から得られる事故画像、音声、車両衝突速度、負傷者の生体情報等をベースに、機械学習手法を用いて作成された人工知能モデルを用いて、衝突検知と負傷者の傷害発生程度を予測するものである。以下、人工知能モデル(衝突検知モデルM0、第1傷害予測モデルM1)の作成手順と、衝突検知および傷害予測手順を説明する。
【0077】
衝突検知モデルM0の作成手順を、
図6のフローチャートを用いて説明する。過去に発生した衝突事故時に観測された外部センサーデータ(画像、衝突速度、音声、生体情報等)と事故発生有無情報によるデータベースが作成される(S1)。次に、データベースを機械学習の実施に適した形式に変換し、外部センサーデータと事故発生有無情報から構成される衝突検知学習データセットが作成される(S2)。また、各データセット内のデータに対して前処理が実施される(S3)。前処理後、各学習データセットは深層学習プログラムに入力される(S4)。深層学習は、選定した人工知能モデルAIを用いて実施される(S5)。最後に、衝突検知モデルM0として、深層学習を実施した学習済みの人工知能モデルが作成され、作成された人工知能モデルが保存される(S6)。
【0078】
第1傷害予測モデルM1の作成手順を、
図7のフローチャートを用いて説明する。過去に発生した衝突事故時に観測された外部センサーデータ(画像、衝突速度、音声、生体情報等)と負傷者傷害情報によるデータベースが作成される(S11)。次に、データベースを機械学習の実施に適した形式に変換し、外部センサーデータと負傷者傷害情報から構成される傷害予測学習データセットが作成される(S12)。また、各データセット内のデータに対して前処理が実施される(S13)。前処理を実施した後、各学習データセットは深層学習プログラムに入力される(S14)。深層学習は、選定した人工知能モデルAIを用いて実施される(S15)。最後に、第1傷害予測モデルM1として、深層学習を実施した学習済みの人工知能モデルが作成され、作成された人工知能モデルが保存される(S16)。
【0079】
衝突検知および傷害予測手順を、
図8のフローチャートを用いて説明する。自動車や歩行者等を対象とした外部センサーデータが取得される(S21)。ここで、外部センサーデータは、画像や音声、衝突速度、生体情報等が挙げられる。またデータ取得方法は当事者以外の第三者ドライブレコーダーや監視カメラ、当事者のスマートフォンやウェアラブル端末等が挙げられる。
【0080】
次に各データの前処理が行われ(S22)、各データを衝突検知モデルM0に入力することで衝突検知の予測が行われる(S23)。次に、衝突が検知されたか否かが判断され(S24)、衝突が検知されない場合(S24でNO)、外部センサーデータ取得(S21)に戻る。
【0081】
衝突が検知された場合(S24でYES)、第1傷害予測モデルM1を用いて負傷者の衝突傷害程度が予測される(S25)。衝突傷害程度の予測に続いて死亡・重症度判定が実施される(S26)。最後に、負傷者の傷害発生程度の予測結果が表示される(S27)。なお、予測結果の表示では、第1傷害予測処理部41で判定した傷害発生程度から求めた死亡・重症度判定を表示するとともに、予測根拠等が示される。そして、傷害予測が死亡・重症か否かが判断され(S28)、傷害予測が死亡・重症と判定された場合(S28でYES)、指定の救急医療機関Gや救急医療情報センターC等に通報する(S29)。
【0082】
次に、第1傷害予測処理部41で実施される車両外部センサー10を用いた衝突傷害予測における予測対象範囲の拡大作用以外の特徴作用を説明する。
【0083】
実施例1では、外部センサーデータを、交通事故の発生前後において記録されていた外部画像データに、外部画像データとともに記録されていた衝突速度データ、音声データを加えたデータとしている。
【0084】
即ち、衝突発生を検知する場合および衝突傷害程度を予測する場合、外部画像データのみで検知や予測を行うと、衝突時の衝突速度や音声が、衝突発生の検知結果および衝突傷害程度の予測結果に反映されない。これに対し、衝突発生を検知する場合および衝突傷害程度を予測する場合、衝突速度データ、音声データを含めている。よって、外部画像データによる衝突発生の検知結果および衝突傷害程度の予測結果に、衝突時の衝突速度や音声が反映され、衝突発生の検知精度および衝突傷害レベルの予測精度を向上できる。なお、外部センサーデータに生体情報を加えると、負傷者の身長、体重、年齢、性別等が衝突発生の検知結果および衝突傷害程度の予測結果に反映される。よって、外部センサーデータを外部画像データ、衝突速度データ、音声データとする場合に比べ、さらに衝突発生の検知精度および衝突傷害レベルの予測精度を向上できる。
【0085】
実施例1では、外部画像データを取得する車両外部センサー10を、当事者以外の第三者ドライブレコーダー、道路周辺に設置される監視カメラ、スマートフォンやウェアラブル端末等のカメラを含む事故当事者の車両に搭載されていない外部画像センサー10aとしている。
【0086】
即ち、複数の第三者ドライブレコーダーや交差点に設置される監視カメラで撮影されている場合、車載カメラ1のように撮影できない死角領域がほとんど無くなる。よって、衝突事故発生時において、衝突傷害程度を予測する予測対象範囲を、事故当事者の車載カメラ1では情報収集できない死角範囲で発生した衝突事故にまで拡大できる。
【0087】
実施例1では、衝突検知モデルM0と第1傷害予測モデルM1に入力する画像処理データを、外部画像センサー10aから取得された動画データの中から予め定めた所定のコマ撮り時間間隔によって選択された複数枚の時系列静止画データとしている。
【0088】
即ち、衝突検知や衝突傷害予測において人工知能モデルに入力させる画像データには、大きく分けて動画データと静止画データがある。動画データの場合、衝突検知精度の向上や傷害発生程度の予測精度の向上が期待できるものの、一定時間内の複数の時系列データの前後関係を学習する必要があるため、人工知能モデルの作成に時間と手間を要するし、衝突検知処理時間や衝突傷害予測処理時間に長時間を要するという問題がある。一方、静止画データの場合、人工知能モデルの作成が簡単になるし、衝突検知処理時間や衝突傷害予測処理時間が短くなるものの、衝突検知や傷害発生程度の予測精度が低下するという問題がある。例えば、静止画を1枚選択した場合、選択した静止画に挙動特徴があらわれていないと、予測情報が不足して正確な衝突検知や傷害発生程度予測ができない。
【0089】
これに対し、コマ撮り時間間隔によって選択された複数枚の時系列静止画データは、動画データと静止画データの中間に位置付けられる画像データである。よって、衝突検知や衝突傷害予測において、人工知能モデルに入力させる画像データを複数枚の時系列静止画データとした場合、静止画データの場合に比べ、挙動特徴が現れやすく衝突検知精度や傷害発生程度の予測精度を向上できる。そして、複数枚の時系列静止画データとした場合、動画データの場合に比べ、時系列データの前後関係を学習する必要がないため、人工知能モデルの作成が簡単になるし、衝突検知処理時間や衝突傷害予測処理時間を短くできる。言い換えると、人工知能モデルに入力させる画像データを複数枚の時系列静止画データとした場合、人工知能モデルの作成が簡単で処理時間の短縮化を図りながら、衝突検知精度や傷害発生程度の予測精度を向上できる。
【0090】
図9は、衝突事故シミュレーション解析による歩行者の傷害発生程度の予測精度検証において衝突事故時に歩行者モデルの挙動が変化する一例を時系列静止画像により示す。歩行者モデルと車両モデルの衝突現象は、脚部とバンパーとの衝突において始まり、概ね、バンパー形状に沿って、脚部の曲げが生じる。そして、衝突後50msecでは、脚部がバンパーと離れ、主に腰部とフードが接触する。また同時に、本ケースでは、対車側の肘とフードとの接触が始まる。その後、歩行者モデルは肘とフードの緩衝により上半身の動きが抑制させられながら、100msecにおいて頭部と車両が衝突する。
【0091】
よって、第1傷害予測モデルM1に入力する画像データを複数枚の時系列静止画データとすると、
図9に示すように、複数枚の時系列静止画データにより衝突事故時に歩行者の特徴的な挙動変化が捉えられることになる。この結果、第1傷害予測モデルM1に入力する画像データを複数枚の時系列静止画データとした場合、傷害発生程度の予測精度を向上できることが裏付けられる。
【0092】
[車両内部センサーを用いた衝突傷害予測作用]
図10~
図14を参照して車両内部センサー(車載カメラ1)を用いた衝突傷害予測作用を説明する。
【0093】
車両内部センサー(車載カメラ1)を用いた衝突傷害予測は、
図10に示すように、入力情報として、車載カメラ1から得られる衝突画像に、追加入力情報(衝突速度、音声、生体情報、車両外部センサー10からの情報、等)を加えるものである。車両内部センサー(車載カメラ1)を用いた衝突傷害予測は、衝突画像に追加入力情報を加えて実施されることで、衝突画像のみを用いる場合に比べ、衝突傷害レベルの予測精度の向上が可能になることを特徴とする。
【0094】
一例として、
図10の右側に示すように、衝突画像(image)のみを用いる場合、衝突傷害レベルの予測精度(Accuracy)は88.25%であった。これに対し、衝突画像(image)に衝突速度(Velocity)を加えた場合、衝突傷害レベルの予測精度(Accuracy)が+4.66%向上して92.91%になった。また、機械学習や医療分野における評価指標AUC(「Area Under Curve」の略称)も0.953から0.981へと高くなった。以下、人工知能モデル(第2傷害予測モデルM2)の作成手順と、傷害予測手順を説明する。
【0095】
第2傷害予測モデルM2の作成手順を、
図11のフローチャートを用いて説明する。過去に発生した衝突事故時に観測された衝突画像情報と追加入力情報(衝突速度、音声、生体情報等)と負傷者傷害情報によるデータベースが作成される(S31)。次に、データベースを機械学習の実施に適した形式に変換し、衝突画像情報と追加入力情報と負傷者傷害情報から構成される傷害予測学習データセットが作成される(S32)。また、各データセット内のデータに対して前処理が実施される(S33)。
【0096】
前処理後、各学習データセットは深層学習プログラムに入力される(S34)。深層学習は、選定した人工知能モデルAIを用いて実施される(S35)。最後に、第2傷害予測モデルM2として、深層学習を実施した学習済みの人工知能モデルが作成され、作成された人工知能モデルが保存される(S36)。
【0097】
傷害予測手順を、
図12のフローチャートを用いて説明する。衝突事故が発生したか否かが判断される(S41)。衝突事故が発生したと判断されると、自動車や歩行者等を対象とした内部センサーデータが取得される(S42)。ここで、内部センサーデータは、車載カメラ1からの衝突発生から所定時間までの衝突画像情報と、追加入力情報(音声、衝突速度、生体情報等)が挙げられる。
【0098】
次に追加入力情報を含む内部センサーデータの前処理が行われ(S43)、前処理後の内部センサーデータが第2傷害予測モデルM2に入力される(S44)。そして、第2傷害予測モデルM2を用いた衝突傷害程度が予測される(S45)。衝突傷害程度の予測に続いて死亡・重症度判定が実施される(S46)。最後に、負傷者の傷害発生程度の予測結果が表示される(S47)。なお、予測結果の表示では、第2傷害予測処理部42で判定した傷害発生程度から求めた死亡・重症度判定を表示するとともに、予測根拠等が示される。そして、傷害予測が死亡・重症か否かが判断され(S48)、傷害予測が死亡・重症と判定された場合(S48でYES)、指定の救急医療機関Gや救急医療情報センターC等に通報する(S49)。
【0099】
実際に、車両内部センサーを用いた衝突傷害予測プログラムを用いて、衝突事故シミュレーション解析による市販車を模擬した簡易車両との1次衝突時における成人男性の頭部傷害発生程度を学習させ、限定的な条件内ではあるが歩行者の頭部傷害発生程度の予測精度を検証した。
【0100】
歩行者の頭部傷害発生程度の予測精度検証は、深層学習時に使用した学習データセットとは別のデータセット(検証データセット)を用いて実施した。ます、検証データセットの画像データを学習済み人工知能モデルに入力し、頭部傷害発生程度を予測させる。その予測結果と検証データの傷害情報を比較することで、予測精度の正解率を検証した。また、歩行者の頭部傷害発生程度の予測妥当性検討では、深層学習によって作成された学習済み人工知能モデルに、Grad-CAM(Gradient-weighted Class Activation Mapping)を適用し、学習済み人工知能モデルが画像認識時に着目している特徴箇所の特定を実施した。ここで、「Grad-CAM」とは、クラス分類に影響の大きい画像箇所を特定し、描画する機能を有しており、深層学習済みの人工知能モデルが画像認識時に着目している特徴箇所をヒートマップとして表現する手法である。なお、歩行者モデルの頭部に加わる受傷レベルは、対自動車衝突時のHIC値を用いて判断した。なお、「HIC」は、「Head Injury Criterion」の略称である。
【0101】
図13は、衝突事故シミュレーション解析による歩行者の傷害発生程度の予測精度検証においてHIC値が1000以下と判定された際の挙動特徴例を示す。HIC値が1000以下の歩行者モデル衝突画像の判定において、学習済み人工知能モデルは、歩行者モデルの胴体に着目しており、衝突後90msec時に胴体が画像上で確認できる場合は、HIC値が1000以下になると予測していると考えられる。
【0102】
図14は、衝突事故シミュレーション解析による歩行者の傷害発生程度の予測精度検証においてHIC値が1000より大きいと判定された際の挙動特徴例を示す。HIC値が1000より大きい判定において、学習済み人工知能モデルは、歩行者モデルと車両部分との境界、及び、歩行者モデルの足部に着目していることがわかる。そのため、学習済み人工知能モデルは、衝突後90msec時点での歩行者モデルの車両による跳ね上げの特徴を画像から認識していると考えられる。
【0103】
これらの特徴は、Grad-CAMを適用した他の検証データの殆どのケースにおいて確認されており、これらの特徴から学習済み人工知能モデルが、歩行者モデルの受傷レベルを予測していることがわかった。
【0104】
[第1衝突傷害予測と第2衝突傷害予測の比較作用]
第1衝突傷害予測と第2衝突傷害予測を比較し、車両外部センサー10による第1衝突傷害予測の活用メリットを説明する。
【0105】
車両内部センサーのうち車載カメラ1を用いる第2衝突傷害予測の場合には、以下の事項によって車載カメラ1による衝突検知および傷害予測が困難となるおそれがある。
1.後部や側面等の撮影できない死角領域の存在。
2.交通事故時のフロントガラスひび割れ等による事故画像データの劣化。
3.車載カメラ1や事故自動通報装置の装備費用と手間。
4.車載カメラ等の装置故障および未装備。
【0106】
これに対し、車両外部センサー(第三者ドライブレコーダー、監視カメラ、スマートフォン、ウェアラブル端末等)を用いる第1衝突傷害予測場合には、上記1~4の課題を解決することができる。
1.交差点カメラは高い視点から撮影されるため、死角が少ない。さらに複数の第三者ドライブレコーダーや交差点カメラで撮影されている場合、上記1のような死角領域はほとんど無くなる。また、スマートフォン、ウェアラブル端末の情報を活用することで所有者の予測が可能である。
2.交通事故による監視カメラや第三者ドライブレコーダーの破損の可能性は低いため、上記2よりも安定したデータ収集と運用が可能である。
3.全ての自動車に事故自動通報装置等を装備する必要が無く、既存設備の活用や重点箇所への設備導入を行えばよいため、上記3よりも費用対効果が高い。
4.事故自動通報装置を搭載していない車両や交通弱者(二輪車乗員、自転車乗員、歩行者)に対しても、システム適用が可能となり、上記4の課題は解決可能である。
【0107】
[先進事故自動通報システムによる自動通報作用]
先進事故自動通報システムEによる自動通報作用を説明する。
【0108】
先進事故自動通報システムEによる自動通報は、受傷対象者の傷害発生程度予測(死亡・重症度判定)が実施されると、傷害予測情報を救急システムコントローラ6へ送信される。情報管理センターBから傷害予測情報を受信した救急システムコントローラ6においては、直ちに、事故情報報知デバイス9によって“衝突傷害判定レベル”や“衝突事故発生場所”等が表示/音声により報知される。そして、救急医療情報センターCの救急システムコントローラ6、又は、これらの情報を受けた担当オペレータが、「死亡・重症率」や「衝突事故発生場所」等に応じて適切な救急・救命措置を取ることで行われる。
【0109】
このように、本開示の衝突傷害予測方法や衝突傷害予測システムを先進事故自動通報システムEに適用することで、救急医療用のドクターヘリやドクターカーの不要な出動を大幅に低減すること、及び、救命救急が必要な患者の取りこぼしを削減することができ、適切な救命・救急が可能となる。また、その結果として、衝突事故による死傷者の低減や後遺傷害者の被害軽減等にも繋がる。
【0110】
ドライブレコーダーに関しては、走行中のデータ記録装置(イベントデータレコーダー(EDR)、ドライブレコーダー等)の自動運転車への設置義務化について検討されており、ドライブレコーダー普及率のさらなる拡大が見込まれる。
【0111】
先進事故自動通報システムの普及については、2018年からEU域内で販売される新車を対象に、衝突事故発生場所のみを通報する事故自動通報装置(ecall)の搭載が義務付けられている。また、国内においても、2020年度からJNCAP(「Japan New Car Assessment Program」の略称)において最高評価(5つ星)の獲得には事故自動通報装置の搭載が必須となり、今後の急速な事故自動通報装置の普及が見込まれる。
【0112】
これに対し、本開示の衝突傷害予測の方法及びシステムは、傷害発生程度予測のコア技術であるため、国内で運用されている事故自動通報装置(D-call Net)等の傷害予測アルゴリズムとしての採用が期待される。
【0113】
次に、車両外部センサー10による第1衝突傷害予測と車両内部センサー(車載カメラ1)による第2衝突傷害予測とを併用する実施例1の先進事故自動通報システムEによる特徴作用を説明する。
【0114】
実施例1では、衝突傷害程度予測部4bに、第1傷害予測処理部41と第2傷害予測処理部42を有する。そして、衝突傷害判定結果送信部4dは、第1傷害予測処理部41と第2傷害予測処理部42の一方から衝突傷害の判定レベルが出力されたとき、出力された判定レベルを情報管理センターBにおいて確認し、必要に応じて救急医療情報センターCと救急医療機関G等へ送信する。
【0115】
即ち、車両外部センサー10が傷害予測情報を収集できないときは、車両内部センサーである車載カメラ1が傷害予測情報を収集できれば衝突傷害程度を予測できる。逆に、車両内部センサーである車載カメラ1が傷害予測情報を収集できないときは、車両外部センサー10が傷害予測情報を収集できれば衝突傷害程度を予測できる。このため、衝突傷害程度を予測できる衝突事故発生シーンが、情報収集の担当を互いに補間し合う関係により網羅されることになる。よって、傷害予測の情報収集手段が車両外部センサー10と車両内部センサーである車載カメラ1との何れか一方であるときには、衝突傷害程度の予測に基づいて衝突傷害の判定レベルを情報管理センターBにおいて確認し、必要に応じて救急医療情報センターCと救急医療機関G等へ送信できる。
【0116】
実施例1では、衝突傷害程度予測部4bに、第1傷害予測処理部41と第2傷害予測処理部42を有する。そして、衝突傷害判定結果送信部4dは、同じ衝突事故に対して第1傷害予測処理部41と第2傷害予測処理部42の両方から衝突傷害の判定レベルが出力されたとき、出力された2つの判定レベルを比較する。そして、同じ判定レベルであると、出力された判定レベルを情報管理センターBにおいて確認し、必要に応じて救急医療情報センターCと救急医療機関G等へ送信し、異なる判定レベルであると、衝突傷害程度の高い判定レベルを情報管理センターBにおいて確認し、必要に応じて救急医療情報センターCと救急医療機関G等へ送信する。
【0117】
即ち、異なる衝突傷害の判定レベルが出力されたとき、2つの判定レベルの平均値にしたり、2つの判定レベルのうち低い判定レベルを選択したりすると、判定誤差により衝突傷害程度が実際の衝突傷害程度より低く見積もられることがある。これに対し、衝突傷害程度の高い判定レベルを選択すると、実際の衝突傷害程度より低く見積もってしまうことが防止される。よって、2つの衝突傷害程度判定レベルのうち安全サイドで選択された判定レベルを情報管理センターBにおいて確認し、必要に応じて救急医療情報センターCと救急医療機関G等へ送信できる。
【0118】
以上説明したように、実施例1の衝突傷害予測方法、衝突傷害予測システム及び先進事故自動通報システムEにあっては、下記に列挙する効果を奏する。
【0119】
(1)衝突事故発生時に受傷対象者の衝突傷害程度を予測する衝突傷害予測方法であって、事故当事者の車両に搭載されていない車両外部センサー10から、交通事故発生の後、交通事故発生前後において記録されていた外部画像データを含む外部センサーデータを取得し、外部センサーデータを、深層学習の実施により作成された衝突検知モデルM0に入力することで衝突事故発生の有無を検知し、衝突事故発生が検知されると、外部センサーデータを、深層学習の実施により作成された傷害予測モデル(第1傷害予測モデルM1)に入力することで受傷対象者の衝突傷害程度を予測し、衝突傷害程度から衝突傷害の判定レベルを求め、判定レベルを出力する。このため、衝突事故発生時において、衝突傷害程度を予測する予測対象範囲を、事故自動通報装置を備えていない車両や交通弱者にまで拡大する衝突傷害予測方法を提供することができる。
【0120】
(2)外部センサーデータは、交通事故の発生前後において記録されていた外部画像データに、衝突速度データ、音声データを加える。このため、画像データによる衝突発生の検知結果および衝突傷害程度の予測結果に、衝突時の衝突速度や音声が反映され、衝突発生の検知精度および衝突傷害レベルの予測精度を向上できる。
【0121】
(3)外部画像データを取得する車両外部センサー10は、当事者以外の第三者ドライブレコーダー、道路周辺に設置される監視カメラ、スマートフォンやウェアラブル端末のカメラを含む事故当事者の車両に搭載されていない外部画像センサー10aである。このため、衝突事故発生時において、衝突傷害程度を予測する予測対象範囲を、事故当事者の車載カメラ1では情報収集できない死角範囲で発生した衝突事故にまで拡大できる。
【0122】
(4)衝突検知モデルM0と傷害予測モデル(第1傷害予測モデルM1)に入力する外部画像データを、外部画像センサー10aから取得された動画データの中から予め定めた所定のコマ撮り時間間隔によって選択された複数枚の時系列静止画データとする。このため、人工知能モデルに入力させる画像データを複数枚の時系列静止画データとした場合、人工知能モデルの作成が簡単で処理時間の短縮化を図りながら、衝突検知精度や傷害発生程度の予測精度を向上できる。
【0123】
(5)衝突事故発生時に受傷対象者の衝突傷害程度を予測する外部サーバ4を備える衝突傷害予測システムであって、外部サーバ4は、事故当事者の車両に搭載されていない車両外部センサー10から、交通事故発生の後、交通事故発生前後において記録されていた外部画像データを含む外部センサーデータを取得する外部センサーデータ取得部41aと、外部センサーデータを、深層学習の実施により作成された衝突検知モデルM0に入力することで衝突事故発生の有無を検知する衝突検知部41cと、衝突事故発生が検知されると、外部センサーデータを、深層学習の実施により作成された傷害予測モデル(第1傷害予測モデルM1)に入力することで受傷対象者の衝突傷害程度を予測する衝突傷害程度予測部(第1衝突傷害程度予測部41d)と、衝突傷害程度から衝突傷害の判定レベルを求め、判定レベルを出力する出力部(第1出力部41e)と、を有する。このため、衝突事故発生時において、衝突傷害程度を予測する予測対象範囲を、事故自動通報装置を備えていない車両や交通弱者にまで拡大する衝突傷害予測システムを提供することができる。
【0124】
(6)外部サーバ4と外部通信器5を有する情報管理センターBと、救急システムコントローラ6と救急通信器7を有する救急医療情報センターCと、救急医療機関Gと、を備える先進事故自動通報システムEにおいて、外部サーバ4は、外部からの送信入力によるセンサーデータと、深層学習の実施により作成された傷害予測モデルを用い、受傷対象者の衝突傷害程度を予測する衝突傷害程度予測部4bと、予測された衝突傷害程度から求めた衝突傷害の判定レベルを情報管理センターBにおいて確認し、必要に応じて救急医療情報センターCと救急医療機関G等へ送信する衝突傷害判定結果送信部4dと、を有し、救急システムコントローラ6は、情報管理センターBから受信した衝突傷害の判定レベルを救急医療情報センターCの担当オペレータへ報知する衝突傷害判定レベル報知部6aを有し、衝突傷害程度予測部4bは、事故当事者の車両に搭載されていない車両外部センサー10からの外部センサーデータと、深層学習の実施により作成された衝突検知モデルM0及び第1傷害予測モデルM1を用い、受傷対象者の衝突傷害程度を予測する第1傷害予測処理部41を有する。このため、衝突事故発生時において、衝突傷害程度を予測する予測対象範囲を拡大する第1傷害予測処理部41を先進事故自動通報システムEに組み込むことができる。
【0125】
(7)衝突傷害程度予測部4bは、第1傷害予測処理部41に加え、事故当事者の車両に搭載されている車両内部センサー(車載カメラ1)からの内部画像データを含む入力情報と、深層学習の実施により作成された第2傷害予測モデルM2とを用い、受傷対象者の衝突傷害程度を予測する第2傷害予測処理部42を有し、衝突傷害判定結果送信部4dは、第1傷害予測処理部41と第2傷害予測処理部42の一方から衝突傷害の判定レベルが出力されたとき、出力された判定レベルを情報管理センターBにおいて確認し、必要に応じて救急医療情報センターCと救急医療機関G等へ送信する。このため、車両外部センサー10と車両内部センサー(車載カメラ1)との何れか一方からの衝突画像により衝突傷害が予測される衝突事故発生シーンのとき、衝突傷害程度の予測に基づいて衝突傷害の判定レベルを情報管理センターBにおいて確認し、必要に応じて救急医療情報センターCと救急医療機関G等へ送信できる。
【0126】
(8)衝突傷害判定結果送信部4dは、同じ衝突事故に対して第1傷害予測処理部41と第2傷害予測処理部42の両方から衝突傷害の判定レベルが出力されたとき、出力された2つの判定レベルを比較し、同じ判定レベルであると、出力された判定レベルを情報管理センターBにおいて確認し、必要に応じて救急医療情報センターCと救急医療伊機関G等へ送信し、異なる判定レベルであると、衝突傷害程度の高い判定レベルを情報管理センターBにおいて確認し、必要に応じて救急医療情報センターCと救急医療機関G等へ送信する。このため、車両外部センサー10と車両内部センサー(車載カメラ1)の両方からの衝突画像により衝突傷害が予測される衝突事故発生シーンのとき、2つの衝突傷害程度判定レベルのうち安全サイドで選択された判定レベルを救急医療情報センターCと救急医療機関G等へ送信できる。
【0127】
以上、本開示の衝突傷害予測方法、衝突傷害予測システム及び先進事故自動通報システムを実施例1に基づき説明してきた。しかし、具体的な構成については、この実施例1に限られるものではなく、特許請求の範囲の各請求項に係る発明の要旨を逸脱しない限り、設計の変更や追加等は許容される。
【0128】
実施例1では、人工知能モデルを選定する一例として、ニューラルネットワークの1種である畳み込みニューラルネットワーク構造を有する人工知能モデルを選定する例を示した。しかし、人工知能モデルとしては、畳み込みではないニューラルネットワーク構造を有する人工知能モデルを選定する例であっても勿論良い。この場合も従来手法に比べ、衝突傷害予測精度を向上することや衝突傷害予測エラーを低減することができる。また、深層学習に使用する学習データは、受傷対象者の衝突傷害程度予測に用いられる画像データと同じデータ(時系列静止画データ、静止画データ、動画データ等)が用いられる。
【0129】
実施例1では、衝突事故画像の画像データのうち、受傷対象者の衝突傷害程度予測に用いる画像データを、動画データの中から予め定めた所定のコマ撮り時間間隔によって選択された複数枚の時系列静止画データとする例を示した。しかし、受傷対象者の衝突傷害程度予測に用いる画像データとしては、衝突発生から所定時間までの動画データをそのまま用いる例としても良い。また、衝突発生後、受傷対象者の挙動の違いが現れるタイミングで取得された静止画データを1枚又は数枚用いるものであっても良い。さらに、画像データが取得できなかった場合、3つの人工知能モデルM0,M1,M2は、音声データ、衝突速度データ、生体情報データを入力情報として傷害予測することも可能である。加えて、画像、音声、衝突速度、生体情報の各データの適宜の組み合わせ、或いは、単一のデータにより傷害予測することも可能である。
【0130】
実施例1では、第1衝突傷害予測を、車両外部センサー10との通信により外部サーバ4にて実行する例を示した。しかし、高度な計算機(コンピュータ)が、監視カメラ、スマートフォン、ウェアラブル端末等に備え付けられ、外部サーバと同等の働きができる場合には、外部サーバの代わりに高度な計算機を用いて傷害予測を行っても良い。さらに、車両外部センサーからの情報に基づく第1衝突傷害予測以外に、車両内部センサーからの情報に基づく第2衝突傷害予測も、外部サーバの代わりに監視カメラ、スマートフォン、ウェアラブル端末等に備え付けられ高度な計算機を用いて傷害予測を行っても良い。
【0131】
実施例1では、第2衝突傷害予測を、車載カメラ1を搭載した自動車Aとの通信により外部サーバ4にて実行する例を示した。しかし、高度な車載機が、外部サーバと同等の働きができる場合には、外部サーバの代わりに高度な車載機を用いても良い。この場合、車室内に向けて配置された車載カメラからの画像データに基づいて車室内乗員の衝突傷害を予測するのに有効である。なお、第2衝突傷害予測に、外部センサー(監視カメラ、スマートフォン、ウェアラブル端末等)からの情報を追加する場合においても、外部サーバの代わりに高度な車載機を用いても良い。
【0132】
実施例1では、本開示の衝突傷害予測方法、衝突傷害予測システムを、先進事故自動通報システムEに適用する例を示した。しかし、本開示の衝突傷害予測方法、衝突傷害予測システムのそれぞれのみを実施する場合であっても本開示に含まれる。さらに、衝突傷害予測方法、衝突傷害予測システムのそれぞれを先進事故自動通報システム以外の分野に適用する場合であっても本開示に含まれる。
【0133】
実施例1では、車両内部センサーや車両外部センサーからの入力情報に基づき深層学習手法によって衝突事故発生検知や傷害予測を行う例を示した。これに対し、車両内部センサーからの入力情報(画像情報、音情報)に基づく深層学習手法を応用し、
図15に示すように、フロントガラスの割れ、フロントガラスのヒビ、タイヤパンク等の車両異常を検知するようにしても良い。深層学習手法を応用した車両異常の検知により、車載センサーの削減や車両異常の検知精度の向上を期待できる。