IP Force 特許公報掲載プロジェクト 2022.1.31 β版

知財求人 - 知財ポータルサイト「IP Force」

▶ パイオニア株式会社の特許一覧

特開2023-57656情報処理装置、情報処理方法、情報処理プログラム及び記録媒体
<>
  • 特開-情報処理装置、情報処理方法、情報処理プログラム及び記録媒体 図1
  • 特開-情報処理装置、情報処理方法、情報処理プログラム及び記録媒体 図2
  • 特開-情報処理装置、情報処理方法、情報処理プログラム及び記録媒体 図3
  • 特開-情報処理装置、情報処理方法、情報処理プログラム及び記録媒体 図4
  • 特開-情報処理装置、情報処理方法、情報処理プログラム及び記録媒体 図5
  • 特開-情報処理装置、情報処理方法、情報処理プログラム及び記録媒体 図6
  • 特開-情報処理装置、情報処理方法、情報処理プログラム及び記録媒体 図7
  • 特開-情報処理装置、情報処理方法、情報処理プログラム及び記録媒体 図8
  • 特開-情報処理装置、情報処理方法、情報処理プログラム及び記録媒体 図9
  • 特開-情報処理装置、情報処理方法、情報処理プログラム及び記録媒体 図10
  • 特開-情報処理装置、情報処理方法、情報処理プログラム及び記録媒体 図11
  • 特開-情報処理装置、情報処理方法、情報処理プログラム及び記録媒体 図12
  • 特開-情報処理装置、情報処理方法、情報処理プログラム及び記録媒体 図13
< >
(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公開特許公報(A)
(11)【公開番号】P2023057656
(43)【公開日】2023-04-24
(54)【発明の名称】情報処理装置、情報処理方法、情報処理プログラム及び記録媒体
(51)【国際特許分類】
   G08G 1/00 20060101AFI20230417BHJP
【FI】
G08G1/00 D
【審査請求】未請求
【請求項の数】12
【出願形態】OL
(21)【出願番号】P 2021167245
(22)【出願日】2021-10-12
(71)【出願人】
【識別番号】000005016
【氏名又は名称】パイオニア株式会社
(74)【代理人】
【識別番号】110001025
【氏名又は名称】弁理士法人レクスト国際特許事務所
(72)【発明者】
【氏名】加藤 信彦
(72)【発明者】
【氏名】荒井 和明
【テーマコード(参考)】
5H181
【Fターム(参考)】
5H181AA01
5H181BB04
5H181BB05
5H181CC04
5H181CC12
5H181EE02
5H181FF04
5H181FF05
5H181FF10
5H181FF22
5H181FF27
5H181FF32
5H181FF40
5H181MB02
(57)【要約】
【課題】
運転者が安全確認を適正に行っているか否かを判定可能であり、車両の挙動には現れない潜在的な事故のリスクを評価可能である情報処理装置、情報処理方法、情報処理プログラム及び記録媒体を提供することを目的の1つとしている。
【解決手段】
第1車両の走行中に生じた第1イベント時の第1シチュエーションに関する情報を取得するシチュエーション情報取得部と、前記第1イベント中における前記第1車両の運転者の一連の視線方向を示す第1視線方向データを取得する視線方向データ取得部と、少なくとも前記第1シチュエーションに関する情報及び前記第1視線方向データに基づいて、前記第1イベントにおける前記第1車両の運転者の前記一連の視線方向の評価情報を出力する評価情報出力部と、を有する。
【選択図】図1
【特許請求の範囲】
【請求項1】
第1車両の走行中に生じた第1イベント時の第1シチュエーションに関する情報を取得するシチュエーション情報取得部と、
前記第1イベント中における前記第1車両の運転者の一連の視線方向を示す第1視線方向データを取得する視線方向データ取得部と、
少なくとも前記第1シチュエーションに関する情報及び前記第1視線方向データに基づいて、前記第1イベントにおける前記第1車両の運転者の前記一連の視線方向の評価情報を出力する評価情報出力部と、
を有することを特徴とする情報処理装置。
【請求項2】
前記評価情報出力部は、少なくとも車両の走行中に生じたイベント時のシチュエーションに関するシチュエーション情報及び車両の運転者の一連の視線方向を示す視線方向データを入力すると、車両の運転者の一連の視線方向に関する評価情報を出力するように、機械学習がなされた学習済みモデルを用いて、前記評価情報を出力することを特徴とする請求項1に記載の情報処理装置。
【請求項3】
前記シチュエーション情報取得部は、前記第1車両の走行履歴に基づいて、前記第1イベント時に前記第1車両が通過した道路の形状及び通過の態様を特定し、前記道路の形状及び前記通過の態様に対応する識別子を前記第1シチュエーションに関する情報として取得することを特徴とする請求項1又は2に記載の情報処理装置。
【請求項4】
前記シチュエーション情報取得部は、前記第1車両の走行履歴に基づいて、前記第1イベント時の前記第1車両の地図上の位置から求まる交差点及び前記第1イベント時に前記第1車両が前記交差点を通過した際の通過の態様を特定し、前記交差点を示す情報と、前記通過の態様を示す情報との組を、前記第1シチュエーションに関する情報として取得することを特徴とする請求項1又は2に記載の情報処理装置。
【請求項5】
前記シチュエーション情報取得部は、前記第1車両の前方を撮影した画像に基づいて前記第1シチュエーションを特定することを特徴とする請求項1又は2に記載の情報処理装置。
【請求項6】
前記シチュエーション情報取得部は、走行中の前記第1車両の現在位置及び前記第1イベント時の前記第1車両の進行予定方向に基づいて前記第1シチュエーションに関する情報を取得することを特徴とする請求項1又は2に記載の情報処理装置。
【請求項7】
前記第1視線方向データは、前記第1車両の運転者を撮影した画像から推定される顔の角度又は視線の角度を示す数値であることを特徴とする請求項1乃至6のいずれか1つに記載の情報処理装置。
【請求項8】
前記第1視線方向データは、前記運転者の視線方向の、鉛直方向に沿った軸周りの角度を示す数値を少なくとも含むことを特徴とする請求項1乃至7のいずれか1つに記載の情報処理装置。
【請求項9】
前記評価情報出力部は、前記第1視線方向データが取得された際の前記第1車両の挙動を示す情報をさらに入力とすることを特徴とする請求項2に記載の情報処理装置。
【請求項10】
情報処理装置によって実行される情報処理方法であって、
第1車両の走行中に生じた第1イベント時の第1シチュエーションに関する情報を取得するシチュエーション情報取得ステップと、
前記第1イベント中における前記第1車両の運転者の一連の視線方向を示す第1視線方向データを取得する視線方向データ取得ステップと、
少なくとも前記第1シチュエーションに関する情報及び前記第1視線方向データに基づいて、前記第1イベントにおける前記第1車両の運転者の前記一連の視線方向の評価情報を出力する評価情報出力ステップと、
を含むことを特徴とする情報処理方法。
【請求項11】
コンピュータを備える情報処理装置によって実行される情報処理プログラムであって、前記コンピュータに、
第1車両の走行中に生じた第1イベント時の第1シチュエーションに関する情報を取得するシチュエーション情報取得ステップと、
前記第1イベント中における前記第1車両の運転者の一連の視線方向を示す第1視線方向データを取得する視線方向データ取得ステップと、
少なくとも前記第1シチュエーションに関する情報及び前記第1視線方向データに基づいて、前記第1イベントにおける前記第1車両の運転者の前記一連の視線方向の評価情報を出力する評価情報出力ステップと、
を実行させるための情報処理プログラム。
【請求項12】
請求項11に記載の情報処理プログラムを格納し、コンピュータが読取可能な記録媒体。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、情報処理装置、情報処理方法、情報処理プログラム及び記録媒体に関し、特に、運転の評価に関する情報の処理を行う情報処理装置、情報処理方法、情報処理プログラム及び記録媒体に関する。
【背景技術】
【0002】
車両の運転者の運転行動を評価する装置が提案されている。
【0003】
例えば、特許文献1には、車載カメラにより撮影された画像及び自車両の位置情報の少なくとも一方を用いて運転シーンを特定し、複数の運転シーンそれぞれに対応付けられた複数の評価ロジックのうち、特定した運転シーンのみに対応付けられた評価ロジックを実行することによって、運転行動に対する評価を導出する運転行動評価装置が開示されている。特許文献1には、当該評価ロジックにおいて、所定の時間間隔で取得された車両の挙動に関する車両挙動関連データを入力として用いることが開示されている。
【先行技術文献】
【特許文献】
【0004】
【特許文献1】特開2021-24520号公報
【発明の概要】
【発明が解決しようとする課題】
【0005】
例えば、交差点での右左折等の特に注意が必要な運転行動の際に、運転者が安全確認動作を適正に行っているかどうかを評価することで、当該運転者の事故のリスクを評価できる可能性がある。
【0006】
しかし、安全確認動作は目視確認が中心であるため、例えば、上記のような車両の挙動に基づく評価だけでは運転者が適性に安全確認動作を行っているか否かがわからないことが課題の1つとして挙げられる。
【0007】
本発明は上記した点に鑑みてなされたものであり、運転者が安全確認を適正に行っているか否かを判定可能であり、車両の挙動には現れない潜在的な事故のリスクを評価可能である情報処理装置、情報処理方法、情報処理プログラム及び記録媒体を提供することを目的の1つとしている。
【課題を解決するための手段】
【0008】
請求項1に記載の発明は、第1車両の走行中に生じた第1イベント時の第1シチュエーションに関する情報を取得するシチュエーション情報取得部と、前記第1イベント中における前記第1車両の運転者の一連の視線方向を示す第1視線方向データを取得する視線方向データ取得部と、少なくとも前記第1シチュエーションに関する情報及び前記第1視線方向データに基づいて、前記第1イベントにおける前記第1車両の運転者の前記一連の視線方向の評価情報を出力する評価情報出力部と、を有することを特徴とする。
【0009】
請求項10に記載の発明は、情報処理装置によって実行される情報処理方法であって、第1車両の走行中に生じた第1イベント時の第1シチュエーションに関する情報を取得するシチュエーション情報取得ステップと、前記第1イベント中における前記第1車両の運転者の一連の視線方向を示す第1視線方向データを取得する視線方向データ取得ステップと、少なくとも前記第1シチュエーションに関する情報及び前記第1視線方向データに基づいて、前記第1イベントにおける前記第1車両の運転者の前記一連の視線方向の評価情報を出力する評価情報出力ステップと、を含むことを特徴とする。
【0010】
請求項11に記載の発明は、コンピュータを備える情報処理装置によって実行される情報処理プログラムであって、前記コンピュータに、第1車両の走行中に生じた第1イベント時の第1シチュエーションに関する情報を取得するシチュエーション情報取得ステップと、前記第1イベント中における前記第1車両の運転者の一連の視線方向を示す第1視線方向データを取得する視線方向データ取得ステップと、少なくとも前記第1シチュエーションに関する情報及び前記第1視線方向データに基づいて、前記第1イベントにおける前記第1車両の運転者の前記一連の視線方向の評価情報を出力する評価情報出力ステップと、を実行させるための情報処理プログラムである。
【図面の簡単な説明】
【0011】
図1】実施例に係る情報処理システム100を示す図である。
図2】実施例に係る端末装置が搭載されている車両の前席部分を示す図である。
図3】実施例に係る端末装置の構成を示すブロック図である。
図4】実施例に係る視線方向データのサンプリングポイントを示す図である。
図5】実施例に係る視線方向データの一例を示す図である。
図6】実施例に係る情報処理装置の構成を示すブロック図である。
図7】実施例に係るシチュエーション情報の一例を示す図である。
図8】実施例に係る学習モデルの一例を模式的に示す図である。
図9】実施例に係る端末装置が実行するルーチンの一例を示すフローチャートである。
図10】実施例に係る情報処理装置が実行するルーチンの一例を示すフローチャートである。
図11】実施例の変形例に係るシチュエーション情報の一例を示す図である。
図12】実施例の変形例に係る学習モデルの一例を模式的に示す図である。
図13】実施例の変形例に係る情報処理装置が実行するルーチンの一例を示すフローチャートである。
【発明を実施するための形態】
【0012】
以下に本発明の実施例について詳細に説明する。なお、以下の説明及び添付図面においては、実質的に同一又は等価な部分には同一の参照符号を付している。
【実施例0013】
図1図8を参照しつつ、実施例に係る情報処理装置10を含む情報処理システム100の構成について説明する。
【0014】
図1は、実施例1に係る情報処理システム100の構成を示す図である。図1に示すように、情報処理システム100は、情報処理装置10、端末装置20、及び管理サーバ50を含んで構成されている。情報処理装置10は、車両Mに搭載されている端末装置20との間でネットワークNWを介して通信を行うサーバ装置である。なお、情報処理装置10及び管理サーバ50は、一体の装置として構成されてもよい。
【0015】
情報処理システム100は、車両Mの走行中の安全確認が必要な場面で、運転者が適切に安全確認を行ったか否かを、運転者の一連の視線の方向を示す視線方向データを用いて評価するシステムである。
【0016】
車両Mの走行中には、交差点の通過、車線変更等の、ドライバーによる適切な安全確認が必要なイベントが生じる。
【0017】
本明細書において、上記イベントの開始から終了までの車両Mの走行の状況をシチュエーションであるとして説明する。シチュエーションは、例えば、1のイベント時に車両Mが走行している交差点の形状、具体的には三叉路、十字路、五叉路等の別、当該交差点のどこから進入してどこから退出するか等、交差点の通過態様を示すものとして説明する。
【0018】
例えば、交差点の通過というイベント中に、十字路を右折、T字路を左折等のシチュエーションが想定される。
【0019】
シチュエーション毎に適した安全確認があり、安全確認には目視確認を伴うものが多い。そこで、本発明では、車両Mの運転者が適切に安全確認を行ったか否かを評価するために、イベント中における当該運転者の一連の視線方向を示す情報を用いる。
【0020】
情報処理装置10は、端末装置20から車両Mの走行履歴と、車両Mの運転者の視線の方向を示す情報を取得して、当該取得した走行履歴及び視線方向データに基づいて当該運転者の運転の評価結果を示す評価情報を出力するサーバ装置である。
【0021】
端末装置20は、車両M内に存在する端末装置である。端末装置20は、車両Mの走行履歴を取得して情報処理装置10に送信する。端末装置20は、車内カメラを備えており、車両Mの運転者の顔を撮影した映像を取得する。当該映像から、運転者の視線方向を示すデータが取得される。端末装置20は、当該視線方向を示すデータ又は運転者の顔を撮影した映像を情報処理装置10に送信する。
【0022】
本実施例において、端末装置20は、車両に搭載されている車載装置である。なお、端末装置20は、車載装置に限られず、例えばスマートフォン等の車両の乗員が携帯する端末装置であってもよい。
【0023】
管理サーバ50は、情報処理装置10による運転に関する評価結果の管理を行うサーバ装置である。管理サーバ50は、例えば、情報処理装置10から車両Mの運転者を含む複数の運転者の運転に関する評価結果を取得して、集計等の管理を行う。例えば、管理サーバ50は、保険会社において自動車保険に関する管理を行うサーバである。
【0024】
情報処理装置10と端末装置20と管理サーバ50とは、ネットワークNWを介して、例えば、TCP/IP等の通信プロトコルを用いて相互にデータの送受信が可能になっている。端末装置20とネットワークNWとの接続は、例えば4G(4th Generation)又は5G(5th Generation)等の移動体通信、Wi-Fi(登録商標)等の無線通信によりなされ得る。
【0025】
図2は、車両Mの前席部分を示す図である。図2に示すように、端末装置20は、車両Mのセンターコンソールに配置されている。本実施例において、端末装置20は、経路生成機能及びナビゲーション機能(いわゆるカーナビゲーション機能)を有する。なお、端末装置20自体はカーナビゲーション機能を有さなくてもよい。その場合は、端末装置20は、車両Mに搭載されているカーナビゲーション装置に車両Mの走行履歴に関する情報を取得可能に接続されていてもよい。
【0026】
車内カメラ11は、車両Mの内部を撮影するように取り付けられており、車両Mの運転席に居る運転者を撮影する。例えば、当該運転者を撮影した画像データから、運転者の視線方向を示すデータ又は運転者の顔の向きを示すデータが取得される。
【0027】
車内カメラ11は、運転者の視線の向き又は顔の向きを検出できる位置であればいずれの位置に取り付けられていてもよい。例えば、車内カメラ11は、ダッシュボードDB上に取り付けられていてもよい。
【0028】
例えば、運転者の視線方向又は運転者の顔の向きを示すデータは、基準となる軸に対する運転者の視線の向き又は顔の向きを角度で表した数値である。
【0029】
図2中、運転者の視線の向き又は顔の向きを表した角度を運転者の頭の位置付近に模式的に示している。図2において、XY平面は水平面であり、Z軸は、鉛直方向に沿った軸である。図2中、Y方向は車両Mの前後方向を示し、X方向は車両Mの左右方向を示す。
【0030】
例えば、車両Mの運転者の視線方向は、例えば、Y軸に沿った車両Mの後方を0°とし、前方を180°として、Z軸すなわち鉛直方向の軸に沿った角度(Yaw角)によって表すことができる。
【0031】
なお、視線方向が真後ろの方向を跨いで変化することは稀であるので、前方を180°とすると取得する角度値が飛躍することは殆どない。
【0032】
なお、視線方向の表し方はこれに限られず、例えば上記の表し方に加えて、X軸周りの角度(Pitch角)を組み合わせてもよい。
【0033】
前方カメラ13は、ルームミラーRMの裏、すなわちフロントガラスFGに対向する面に設けられている。前方カメラ13は、車両Mの進行方向を撮影方向としている。車両Mの進行方向を前方としたとき、前方カメラ13は、車両Mの前方、右前方及び左前方を含む範囲の画像を撮影可能に配置されている。
【0034】
前方カメラ13は、車両Mの前方の映像を撮影可能であれば車両Mのいずれの箇所に設けられてもよい。例えば、前方カメラ13は、ダッシュボードDB上に配されていてもよく、車両Mの外側面(外装面)、例えばボンネット上またはフロントバンパー等に設けられていてもよい。
【0035】
前方カメラ13は、端末装置20と通信可能に接続されており、撮影した映像の信号を端末装置20に送信することが可能である。前方カメラ13によって撮影された映像は、例えば、車両Mの走行中に生じる交差点の通過等のイベント時のシチュエーションの特定に利用される。当該シチュエーションは、例えば、通過中の交差点の形状及び交差点における車両Mの進行方向を含む。
【0036】
GNSS受信機15は、GNSS(Global Navigation Satellite System)衛星からの信号(GNSS信号)を受信する装置である。GNSS受信機15は、例えば、ダッシュボードDB上に配されている。なお、GNSS受信機15は、GNSS信号が受信できれば車両M内のいずれの箇所に配されていてもよい。
【0037】
GNSS受信機15は、端末装置20と通信可能に接続されており、受信したGNSS信号を端末装置20に送信することが可能である。端末装置20は、GNSS信号を用いて車両Mの現在位置情報を取得して記憶し、車両Mの走行履歴を生成する。
【0038】
タッチパネルディスプレイ17は、タッチパネル及びディスプレイからなる。タッチパネルディスプレイ17は、端末装置20と通信可能に接続されている。タッチパネルディスプレイ17のディスプレイは、端末装置20から供給される画像を表示する。タッチパネルディスプレイ17のタッチパネルは、タッチパネルへの接触による入力操作を示す信号を端末装置20に送信する。
【0039】
例えば、タッチパネルディスプレイ17は、車両Mの経路案内に関する表示及び入力操作の受付を行う。
【0040】
ステアリングホイール19は、車両Mの操舵のための操縦操作を受け付ける部材である。ステアリングホイール19は、ダッシュボードDBに対して回動可能に設けられている。ステアリングホイール19が回動させられると、それに従って車両Mの操舵輪となる車輪が回動動作する。
【0041】
アクセルペダル21は、運転席の足下に設けられており、運転者による踏み込み動作による、車両Mの走行用エンジンまたはモータ等の原動機の制御に関する操作を受け付ける部材である。すなわち、アクセルペダル21は、車両Mの加減速に関する操縦操作を受け付ける部材である。
【0042】
ブレーキペダル23は、運転席の足下に設けられており、運転者による踏み込み動作による、車両Mのブレーキの制御に関する操作を受け付ける部材である。すなわち、ブレーキペダル23は、車両Mの減速に関する操縦操作を受け付ける部材である。
【0043】
まず、図3~6を参照しつつ、車両Mに搭載されている端末装置20の構成及び機能について説明する。
【0044】
図3は、端末装置20の構成を示すブロック図である。図3に示すように、端末装置20は、システムバス25を介して各部が接続されて構成されている。
【0045】
入力部27は、端末装置20と車両Mに備えられた機器とを通信可能に接続するインターフェースである。
【0046】
入力部27は、端末装置20と、車内カメラ11とを通信可能に接続するインターフェースである。
【0047】
入力部27は、端末装置20と、前方カメラ13とを通信可能に接続するインターフェースである。
【0048】
また、入力部27は、端末装置20とステアリングホイール19の回転量や回転力等の操作に関する物理量を検出するセンサであるステアリングセンサ19Sとを通信可能に接続するインターフェースである。
【0049】
入力部27は、端末装置20と、アクセルペダル21の移動量や移動速度等の操作に関する物理量を検出するセンサであるアクセルセンサ21Sとを通信可能に接続するインターフェースである。また、入力部27は、端末装置20とブレーキペダル23の移動量や移動速度等の操作に関する物理量を検出するセンサであるブレーキセンサ23Sとを通信可能に接続するインターフェースである。
【0050】
入力部27は、端末装置20とGNSS受信機15、ジャイロセンサGY及び加速度センサACとを通信可能に接続するインターフェースである。ジャイロセンサGYは、例えば、車両Mの横方向の角度(姿勢)や角速度あるいは角加速度を検出することが可能なセンサである。加速度センサACは、車両Mの上方から見て車両Mの進行方向、すなわち前後方向と交差する方向の加速度を検出可能なセンサである。また、加速度センサACは、例えば、車両Mの進行方向と垂直な横方向(幅方向)の加速度を検出可能である。
【0051】
端末装置20は、ステアリングセンサ19S、アクセルセンサ21S、ブレーキセンサ23S、GNSS受信機15、ジャイロセンサGY及び加速度センサACのセンサ信号から、車両Mの挙動を示す車両挙動情報を取得してもよい。
【0052】
入力部27は、端末装置20とタッチパネルディスプレイ17のタッチパネルとを通信可能に接続するインターフェースである。
【0053】
記憶部29は、例えば、ハードディスク装置、SSD(solid state drive)、フラッシュメモリ等により構成されており、端末装置20において実行される各種プログラムを記憶する。なお、各種プログラムは、例えば、他のサーバ装置等からネットワークを介して取得されるようにしてもよいし、記録媒体に記録されて各種ドライブ装置を介して読み込まれるようにしてもよい。すなわち、記憶部29に記憶される各種プログラムは、ネットワークを介して伝送可能であるし、また、コンピュータに読み取り可能な記録媒体に記録して譲渡することが可能である。
【0054】
記憶部29には、地図情報データベース(以下、地図情報DBと称する)29Aが構築されている。地図情報データベース29Aには、端末装置20による車両Mの走行履歴を示す情報の生成等に用いられる地図情報が格納されている。
【0055】
制御部31は、CPU(Central Processing Unit)31A、ROM(Read Only Memory)31B、RAM(Random Access Memory)31C等により構成され、コンピュータとして機能する。そして、CPU31Aが、ROM31Bや記憶部29に記憶された各種プログラムを読み出し実行することにより各種機能を実現する。
【0056】
制御部31は、入力部27を介して、車両Mの現在位置情報をGNSS受信機15から取得して、車両Mの走行履歴を示す走行履歴情報(以下、単に走行履歴とも称する)を生成する。当該走行履歴情報は、例えば、時刻を示す情報と、その時刻における車両Mの位置を示す情報が対応付けられた情報である。また、走行履歴情報における車両Mの位置を示す情報は、地図上の位置を示す情報であってもよい。また、走行履歴情報には、地図情報が含まれていてもよい。
【0057】
制御部31は、例えば、車両Mの走行履歴から、車両Mの走行中に生じた1又は複数のイベントを特定して、特定したイベントの各々に、識別子(イベントID)を付与する。ここで言うイベントは、上記したような交差点通過、合流、分岐等の車両Mのドライバーが適切な安全確認をすべき事象である。
【0058】
また、制御部31は、入力部27を介して、車両Mの運転者を撮影した映像を車内カメラ11から取得する。制御部31は、例えば、車内カメラ11から取得された映像に基づいて、車両Mの運転者の視線の方向又は顔の向きを取得して、当該取得した視線の方向または顔の向きから当該運転者の視線方向を示す視線方向データを生成する。
【0059】
当該視線方向データが示す運転者の視線は、そのシチュエーションにおいて適切な視線方向であったか否かを情報処理装置10が評価するために利用される。従って、イベントが生じている期間の運転者の視線方向データがあればよい。制御部31は、例えば、車両Mの走行履歴から特定したイベント中の視線方向データを生成する。
【0060】
制御部31は、例えば、車両Mがイベント中に走行した所定距離内の所定距離毎の時系列順の一連の視線方向の各々を示す視線方向データを生成する。また、制御部31は、例えば、車両Mの走行中のイベント中の所定時間内における所定時間毎の時系列順の一連の視線方向の各々を示す視線方向データを生成する。
【0061】
図4は、交差点を通過するというイベント中に、制御部31が視線方向データを生成する際のサンプリングポイントを示す図である。図4に示す例においては、交差点の中心の前後50mを車両Mが走行している期間をイベント発生中としている。図4に示す例においては、車両Mが単位距離を走行する毎の視線方向を示す時系列順のデータが、一連の視線方向を示すデータとして生成される。制御部31は、例えば、Z軸周りまたはZ軸及びX軸回りの角度を示す数値を、車両Mの運転者の視線方向を示す数値として視線方向データを生成してもよい。
【0062】
図4に示す例においては、1mおきに100点の視線方向データのサンプリングを行う場合の例を示しており、P1、P2、P3~P100はそれぞれサンプリングポイントを示している。
【0063】
なお、視線方向データのサンプリングは、車両Mの走行距離を基準とする場合に限られず、例えば、制御部31は、交差点を通過する前後の所定時間、例えば交差点の中心を通過した時刻の前後10秒の期間について、100ミリ秒~1秒毎にサンプリングを行ってもよい。
【0064】
また、視線方向データのサンプリングは、車両Mの走行終了後に行われてもよく、リアルタイムで行われてもよい。
【0065】
図5は、制御部31によって生成される視線方向データの一例を示す図である。上述したように、視線方向データは、車両Mの走行中に生じた1つのイベント中における運転者の視線方向を示す時系列のデータである。
【0066】
図5に示す例においては、1つのイベントについて、イベントID「AA」が記載されている。図5に示すように、イベントID「AA」のイベントについて、P1~P100までの視線方向のサンプリングポイントの各々に、当該サンプリングポイントに車両Mが存在した時刻に取得されたZ軸回りの視線角度、すなわち水平方向の視線角度が記載されている。
【0067】
端末装置20は、車両Mの運転者の一連の視線方向データを情報処理装置10に送信する。なお、端末装置20は、視線方向データを生成することなく、車両Mの運転者を撮影した映像を情報処理装置10に送信してもよい。その場合、情報処理装置10において、走行履歴からイベントが特定されてイベントIDが付され、各サンプリングポイントに該当する映像の部分から視線方向データが取得される。
【0068】
再び図3を参照すると、制御部31は、入力部27を介して、車両Mの前方を撮影した画像を前方カメラ13から取得する。
【0069】
制御部31は、入力部27を介して、車両Mに備えられたステアリングセンサ19S等の各種センサから、車両Mの挙動に関する車両挙動情報を取得する。車両挙動情報は、例えば、車両Mの走行状態又は操作状態を示す情報である。
【0070】
例えば、制御部31は、ジャイロセンサGY及び加速度センサACから信号を受信して、車両Mの加速度や進行方向等の挙動示す情報を車両挙動情報として取得する。なお、制御部31は、前照灯やウィンカーの点灯状態を検出するセンサ(図示せず)から、前照灯やウィンカーの点灯状態を示す信号を受信して車両Mの挙動を示す情報を取得してもよい。
【0071】
また、制御部31は、ステアリングホイール19の回転量や回転力等の操作に関する物理量を示す信号を受信する。また、制御部31は、アクセルペダル21の移動量や移動速度等の操作に関する物理量を示す信号及びブレーキペダル23の移動量や移動速度等の操作に関する物理量を示す信号を受信する。制御部31はこれらの信号に基づいて、車両Mの操舵または加減速に対する操作の状態を示す操作情報を取得する。なお、制御部31は、この操作情報に基づいて、車両Mの挙動を示す情報を取得してもよい。また、制御部31は、操舵情報としてシフトレバーの位置を示す情報を取得可能であってもよい。
【0072】
このように、制御部31は、上述したセンサからの信号に基づいて、車両Mの速度、進行方向、加減速等の走行状態又は操舵輪の舵角等を含む操作状態を示す情報である車両挙動情報を取得する機能を有していてもよい。制御部31は、例えば、取得した車両挙動情報を情報処理装置10に送信する。
【0073】
通信部33は、無線装置(図示せず)に接続されているNIC(Network Interface Card)等のネットワークアダプタである。通信部33は、制御部31からの命令に従って、情報処理装置10、管理サーバ50及びその他の外部装置との通信を行う。例えば、通信部33は、端末装置20が車両Mの走行履歴及び車両Mの運転者の一連の視線方向データを情報処理装置10に送信する際の通信を行う。
【0074】
また、例えば、通信部33は、情報処理装置10又は管理サーバ50から、車両Mの運転者の一連の視線方向の評価結果を端末装置20が受信する場合には、当該受信の際の通信を行う。
【0075】
出力部35は、車両Mに備えられたタッチパネルディスプレイ17のディスプレイに接続されている。出力部35は、制御部31からの命令に従って、ディスプレイに各種情報を供給するためのインターフェースである。
【0076】
例えば、出力部35は、ナビゲーション画面を表示するための情報をディスプレイに供給する。また、例えば、出力部35は、車両Mの運転者の一連の視線方向の評価結果を表示するための情報をディスプレイに供給する。例えば、情報処理装置10による運転者の一連の視線方向の評価結果として点数がディスプレイに表示されてもよい。
【0077】
続いて、図6~10を参照しつつ、情報処理装置10の構成及び機能について説明する。
【0078】
図6は、情報処理装置10の構成を示すブロック図である。図6に示すように、情報処理装置10は、システムバス41を介して各部が接続されて構成されているサーバ装置である。
【0079】
大容量記憶装置43は、例えば、ハードディスク装置、SSD(solid state drive)、フラッシュメモリ等により構成された記憶装置である。大容量記憶装置43は、情報処理装置10において実行される各種プログラムを記憶する。なお、各種プログラムは、例えば他のサーバ装置等からネットワークを介して取得されてもよく、記録媒体に記録されて各種ドライブ装置を介して読み込まれてもよい。例えば、大容量記憶装置43は、情報処理装置10によって、車両Mの運転者の一連の視線方向の評価情報が出力される際に実行される情報処理プログラムを記憶する。
【0080】
大容量記憶装置43は、各種プログラムを実行するために必要なデータが格納されたデータベースを記憶している。
【0081】
大容量記憶装置43は、シチュエーションデータベース(以下、シチュエーションDBと称する)43Aを含む。シチュエーションDB43Aには、シチュエーションの種別を特定するために必要な情報が記憶されている。
【0082】
シチュエーションDB43Aには、例えば、安全確認が必要なシチュエーションの各々を特定する識別子(シチュエーションID)と、そのシチュエーションの内容を示す情報とが対応付けられて記憶されている。
【0083】
当該シチュエーションの内容を示す情報は、例えば、イベント中に車両Mが走行した道路の形状、及び車両Mが当該道路を通過した際の通過の態様が含まれる。当該通過の態様は、例えば、当該イベント中に車両Mが通過した道路への進入退出方向である。
【0084】
図7は、シチュエーションDB43Aに記憶されているシチュエーション情報の一例を示す図である。図7に示すように、道路形状と進入退出方向との組ごとに、シチュエーションIDが付されている。
【0085】
図7に示す例においては、例えば、道路形状「十字路」と進入退出方向「右折」との組、すなわち「十字路を右折する」というシチュエーションに対してシチュエーションID「1」が付されている。同様に、道路形状「十字路」と進入退出方向「左折」との組、すなわち「十字路を左折する」というシチュエーションに対してシチュエーションID「2」、道路形状「T字路」と進入退出方向「左折」との組、すなわち「T字を左折する」というシチュエーションに対してシチュエーションID「4」が付されている。
【0086】
図7に示す例では道路形状と進入退出方向との組ごとにシチュエーションが区分されているが、さらに、車両Mの走行の状況を示す要素を追加して、シチュエーションの区分をより細分化してもよい。例えば、図7の道路形状と進入退出方向に加えて、イベント中に車両Mが走行した道路における信号機の有無、または、イベント中に車両Mが走行した道路の進入退出方向に対する信号機の表示色又は矢印信号の点灯状態等を、車両Mの走行の状況を示す要素として追加し、それぞれの要素の組ごとにシチュエーションIDが付与されるようにしてもよい。さらに、車両Mの走行の状況を示す要素として、走行時の時刻帯や天候が追加されてもよい。シチュエーションの区分をより細分化することで、後述する学習済みモデルを用いた車両Mの運転者の一連の視線方向の評価情報の精度をより高めることが可能となる。
【0087】
また、大容量記憶装置43は、学習モデル記憶部43Bを含む。学習モデル記憶部43Bは、車両の走行中に生じたイベント時のシチュエーションを示すシチュエーションID及び当該イベント中における当該車両の運転者の一連の視線方向を示す視線方向データを入力として、車両の運転者の一連の視線方向の評価情報を出力とする学習済みモデルを記憶している。学習モデル記憶部43Bに記憶された学習済みモデルは、例えば深層学習の手法を用いて構築された数理モデルである。
【0088】
情報処理装置10は、学習モデル記憶部43Bに記憶されている学習済みモデルを用いて、車両Mの運転者の一連の視線方向の評価情報を出力する。
【0089】
図8は、学習モデル記憶部43Bに記憶されている学習済みモデルの一例である学習済みモデルM1を模式的に示す図である。図8は、学習済みモデルM1の出力として、車両Mの運転者の一連の視線方向の評価を点数として表した運転スコアの各々を示す数値が出力される例について示している。
【0090】
図8に示す学習済みモデルM1は、ディープラーニング(深層学習)によって構築されたニューラルネットワークである。当該ニューラルネットワークは、入力層、2つ又は3つ以上の中間層(隠れ層)及び出力層から構成されている。
【0091】
例えば、学習済みモデルM1の入力層には、車両Mの運転者の一連の視線方向データを構成するサンプリングポイントごとの視線方向データ1~100及びシチュエーションIDを示す数値が入力される。
【0092】
例えば、視線方向データ1~100の各々は、運転者の視線の方向を角度で表した数値である。例えば、図2に示したように、視線方向が真後ろの方向を跨いで変化することは稀であるので、前方を180°とすると取得する角度値が飛躍することは殆ど無く、前方を180°として取得する角度値は、学習モデルに入力する値として適している。
【0093】
また、例えば、シチュエーションIDが数値として付されている場合には当該数値がそのまま入力層から入力されてもよい。例えば、シチュエーションIDが数値以外の文字を含む場合は、当該シチュエーションIDを数値に変換したものが入力層から入力されることとしてもよい。
【0094】
入力層への入力がなされると、出力層では、車両Mの運転者の一連の視線方向の評価結果を示す数値が出力される。例えば、出力層では、運転スコアを示す数値が出力される。
【0095】
例えば、出力層に、3段階の運転スコア1~3のいずれかを示す数値が出力されてもよい。例えば、運転スコア3が一番良いスコアであり、例えば熟練運転者のスコアに相当する。運転スコアは、3段階に限られず、2段階、又は4段階以上の点数で表されてもよい。
【0096】
すなわち、学習済みモデルM1は、車両の走行中に生じた1のイベント時の1のシチュエーションに関する1のシチュエーション情報と、当該1のイベント中における当該車両の運転者の一連の視線方向データと、を入力とし、当該車両の運転者の一連の視線方向の評価情報を出力とするように構築されている。
【0097】
なお、学習済みモデルM1は、出力層において、例えば、運転スコアの各々に該当する確率を示す数値を出力するように構築されていてもよい。
【0098】
学習済みモデルM1は、例えば以下のような教師あり学習によって機械学習がなされて構築される。例えば、学習に用いるデータを取得するために用いる車両を学習用車両とする。学習用車両の運転者を、例えば、いわゆる熟練運転者(経験豊富な運転者又は運転の上級者)を含む様々な運転スキルを有する複数の運転者とする。当該熟練運転者は、例えば運転に関する指導員の経験を有する者を含んでもよい。なお、学習用車両の運転者は、様々な運転スキルのレベルの運転者を含んでいれば、低いスコアから高いスコアまでの機械学習を行うことができる。
【0099】
学習モデルの学習工程においては、複数の学習用車両の走行中に生じた1のイベントについて、イベント時のシチュエーションを示すシチュエーションID(図7参照)と、当該学習用車両の運転者の、当該イベント中における一連の視線方向データ(図5参照)と、を取得して入力データとする。入力データ毎、すなわち、シチュエーションIDと一連の視線方向データの組ごとに、運転スコアを決定して正解データとする。
【0100】
当該入力データを複数の中間層を有するニューラルネットワークに入力して、出力が正解データの運転スコアとなるように、ニューラルネットワークのパラメータを誤差逆伝搬法によって更新しながら学習を行う。このような学習を多数のイベント、多数の車両、及び多数の運転者について行うことで、学習済みモデルM1を構築することができる。
【0101】
なお、学習済みモデルM1の構築において、例えば、すべてのシチュエーションIDの各々について多数のデータを用いて学習することが好ましい。
【0102】
制御部45は、CPU(Central Processing Unit)45A、ROM(Read Only Memory)45B、RAM(Random Access Memory)45C等により構成され、コンピュータとして機能する。そして、CPU45Aが、ROM45Bや大容量記憶装置43に記憶された各種プログラムを読み出し実行することにより各種機能を実現する。
【0103】
制御部45は、大容量記憶装置43に記憶された情報処理プログラムを読み出して実行することで、車両Mの走行中に生じた1のイベント時における当該車両Mの運転者の一連の視線方向の評価情報を出力する。
【0104】
制御部45は、例えば、端末装置20から車両Mの走行履歴を取得して、当該走行履歴において、車両Mが、例えば安全確認が必要な注意地点等の道路上の所定の部分を通過した場合に、当該道路上の所定の部分の通過を1のイベントとして特定する。例えば、「交差点の通過」が1のイベントとして特定される。
【0105】
制御部45は、例えば、車両Mの走行履歴に基づいて、1のイベント時に車両Mが通過した道路の形状及び通過の態様を特定する。当該通過の態様として、制御部45は、例えば、1のイベント時に車両Mが通過した道路上の所定の部分への進入方向及び退出方向である進入退出方向を特定する。
【0106】
具体的には、例えば、当該道路の形状として「十字路」、通過の態様として「右折」等が特定される。つまり、1のイベント時のシチュエーションが特定される。
【0107】
制御部45は、走行履歴に基づいて取得した当該道路の形状及び通過の態様に基づいて、シチュエーションに関する情報を取得する。例えば、制御部45は、シチュエーションDB43Aを参照し、シチュエーションを示す数値を取得する。
【0108】
制御部45は、車両Mの走行中に生じた第1イベント時の1のシチュエーションに関する情報を取得するシチュエーション情報取得ステップを実行するシチュエーション情報取得部として機能する。
【0109】
制御部45は、1のイベント中における車両Mの運転者の一連の視線方向を示す視線方法データを端末装置20から取得する。
【0110】
制御部45は、車両Mに備えられた車内カメラ11によって取得された、車両Mの運転者の顔を撮影した映像を端末装置20から取得し、当該映像からイベント中における一連の視線方向データを取得してもよい。
【0111】
制御部45は、第1イベント中における車両Mの運転者の一連の視線方向を示す第1視線方向データを取得するステップ(視線方向データ取得ステップ)を実行する視線方向データ取得部として機能する。
【0112】
制御部45は、例えば、シチュエーションに関する情報及び一連の視線方向データに基づいて評価情報を出力する。
【0113】
制御部45は、例えば、シチュエーションを示すシチュエーションID及び一連の視線方向データを入力として車両の運転者の一連の視線方向データの評価情報を出力するように構築された学習済みモデルを用いて、車両Mの運転者の一連の視線方向データの評価情報を出力する。
【0114】
制御部45は、少なくとも第1シチュエーションに関する情報及び第1視線方向データに基づいて、第1イベントにおける第1車両の運転者の一連の視線方向の評価情報を出力するステップ(評価情報出力ステップ)を実行する評価情報出力部として機能する。
【0115】
通信部47は、無線装置(図示せず)に接続されているNIC(Network Interface Card)等のネットワークアダプタである。通信部47は、制御部45からの命令に従って、情報処理装置10と外部との通信を行う。
【0116】
例えば、通信部47は、情報処理装置10が、車両Mの走行履歴及び車両Mの運転者の視線方向データを端末装置20から取得する際の通信を行う。また、通信部47は、例えば、情報処理装置10が、車両Mの運転者の一連の視線方向の評価情報を出力して管理サーバ50に送信する際の通信を行う。
【0117】
図9図10を参照しつつ、本実施例における情報処理システム100において実行される情報処理について説明する。
【0118】
図9は、端末装置20の制御部31によって実行されるルーチンの一例である走行履歴送信ルーチンRT1を示すフローチャートである。制御部31は、例えば、車両Mが一連の走行を終了し、ACC電源がOFFになると、走行履歴送信ルーチンRT1を開始する。また、例えば、制御部31は、車両Mの経路案内が終了して目的地に到着すると、走行履歴送信ルーチンRT1を開始する。
【0119】
制御部31は、走行履歴送信ルーチンRT1を開始すると、車両Mの一連の走行履歴を示す走行履歴情報を生成する(ステップS101)。ステップS101において、例えば、制御部31は、時刻を示す情報と、その時刻における車両Mの地図上の位置を示す情報が対応付けられた情報を走行履歴情報として生成する。また、ステップS101において、例えば、地図情報を含む走行履歴情報が生成される。
【0120】
ステップS101の実行後、制御部31は、走行履歴情報に基づいて、車両Mの走行中にイベントが生じたか否かを判定する(ステップS102)。ステップS102において、例えば、制御部31は、車両Mが走行した経路に交差点、T字路、五差路等の、安全確認が必要になるような地点が含まれる場合に、イベントが生じたと判定する。ステップS102において、例えば、車両Mの走行履歴にナビゲーション機能上の案内地点が含まれる場合に、イベントが生じたと判定されてもよい。
【0121】
制御部31は、ステップS102において、イベントが生じていないと判定する(ステップ102:NO)と、走行履歴送信ルーチンRT1を終了する。
【0122】
制御部31は、ステップS102において、イベントが生じたと判定する(ステップ102:YES)と、生じたイベントの各々にイベントIDを付与する(ステップS103)。
【0123】
ステップS103の実行後、制御部31は、イベントIDが付されたイベントの各々について、イベント中における車両Mの運転者の一連の視線方向データを生成する(ステップS104)。ステップS104において、例えば、制御部31は、入力部27を介して、車内カメラ11によって撮影された車両Mの運転者の顔を撮影した映像を取得し、当該映像から推定される視線方向を示す数値の時系列のデータを生成する。
【0124】
ステップS104の実行後、制御部31は、ステップS101において生成した車両Mの走行履歴情報及びステップS103において生成したイベントの各々についての一連の視線方向データを情報処理装置10に送信する(ステップ105)。ステップS105において、例えば、制御部31は、車両Mの走行履歴情報及び視線方向データを含むデータに、車両Mを特定可能な識別子を付して送信する。
【0125】
ステップS105の実行後、制御部31は、走行履歴送信ルーチンRT1を終了する。
【0126】
なお、端末装置20の制御部31は、車両MのACC電源がONとなった場合に、走行履歴送信ルーチンRT1を開始することとし、車両Mが交差点、T字路、五差路等の、安全確認が必要になるような地点を通過するイベントが生じるたびに、当該イベントに関して、車両Mの走行履歴情報及び視線方向データを含むデータに、車両Mを特定可能な識別子を付して送信するようにしてもよい。
【0127】
図10は、情報処理装置10の制御部45によって実行されるルーチンの一例である評価ルーチンRT2を示すフローチャートである。制御部45は、例えば、情報処理装置10に電源が投入されると、評価ルーチンRT2を開始する。
【0128】
制御部45は、評価ルーチンRT2を開始すると、端末装置20から車両の走行履歴及び視線方向データを受信したか否かを判定する(ステップS201)。
【0129】
制御部45は、ステップS201において、走行履歴及び視線方向データを受信していないと判定する(ステップS201:NO)と、評価ルーチンRT2を終了し、次の評価ルーチンRT2を新たに開始する。
【0130】
制御部45は、ステップS201において、走行履歴及び視線方向データを受信したと判定する(ステップS201:YES)と、受信した走行履歴及び視線方向データに含まれる1又は複数のイベントのうちのk番目のイベントを特定する(ステップS202)。
【0131】
ステップS201において、制御部45は、第1イベント中における第1車両の運転者の一連の視線方向を示す第1視線方向データを取得する視線方向データ取得部として機能する。
【0132】
ステップS202の実行後、制御部45は、ステップS202において特定されたイベント時のシチュエーションを特定する(ステップS203)。ステップS203において、例えば、制御部45は、シチュエーションDB43Aを参照し、車両Mの走行履歴に基づいて、当該イベント時に車両Mが走行していた道路の形状及び進入退出方向がいずれのシチュエーションIDに該当するかを特定する。
【0133】
ステップS203において、例えば、制御部45は、地図情報から道路の形状を特定する。地図情報は、走行履歴と共に端末装置20から送られてきてもよい。また、走行履歴に地図情報が含まれていてもよい。又は、走行履歴に含まれる位置情報に基づいて、情報処理装置10が有する地図情報を参照して道路の形状を特定してもよい。
【0134】
ステップS203において、制御部45は、第1車両の走行中に生じた第1イベント時の第1シチュエーションに関する情報を取得するシチュエーション情報取得部として機能する。
【0135】
ステップS203の実行後、制御部45は、ステップS203において特定したシチュエーションIDと、ステップS202において特定したk番目のイベントにおける車両Mの運転者の一連の視線方向を示す視線方向データとを入力として、当該車両Mの運転者の一連の視線方向の評価情報を出力する(ステップS204)。
【0136】
ステップS204において、例えば、制御部45は、図8に示したような学習モデルを用いて、当該評価情報を出力する。ステップS204において、例えば、制御部45は、一連の視線方向データ1~100及びシチュエーションIDを学習済みモデルに入力すると、学習済みモデルから、運転スコアを示す値が出力される。
【0137】
ステップS204において、制御部45は、第1シチュエーションに関する情報及び第1視線方向データを入力とし、第1イベントにおける第1車両の運転者の一連の視線方向の評価情報を出力する評価情報出力部として機能する。
【0138】
ステップS204の実行後、制御部45は、kをインクリメントしてk+1をkとする(ステップS205)。
【0139】
ステップS205の実行後、制御部45は、ステップS201において受信した走行履歴及び視線方向データを参照し、k番目のイベントが存在するか否かを判定する(ステップS206)。
【0140】
制御部45は、ステップS206において、k番目のイベントが存在すると判定する(ステップS206:YES)と、ステップS202に戻り、再びk番目のイベントを特定する。
【0141】
制御部45は、ステップS206において、k番目のイベントが存在しないと判定する(ステップS206:NO)と、一連の視線方向の評価情報を外部に送信する(ステップS207)。ステップS207において、例えば、制御部45は、ステップS204において生成した一連の視線方向の評価情報を管理サーバ50に送信する。また、ステップS207において、例えば、制御部45は、ステップS204において生成した一連の視線方向の評価情報を車両Mの運転者が携帯するスマートフォン等の端末装置(図示せず)に送信してもよい。
【0142】
制御部45は、ステップS207の実行後、評価ルーチンRT2を終了し、次の評価ルーチンRT2を新たに開始する。
【0143】
なお、端末装置20の制御部31が、安全確認が必要になるような地点を通過するイベントが生じるたびに、当該イベントに関して、車両Mの走行履歴情報及び視線方向データを含むデータを送信する場合は、制御部45は、上述したステップS202、S205およびS206を省略し、新たなイベントに関する車両Mの走行履歴情報及び視線方向データを含むデータを受信するたびに、視線方向の評価情報の生成及び送信を行うようにしてもよい。
【0144】
以上、説明したように、本実施例の情報処理装置10は、第1車両としての車両Mの走行中に生じた1のイベントである第1イベント時の第1シチュエーションに関する情報を取得するシチュエーション情報取得部と、当該第1イベント中における第1車両の運転者の一連の視線方向を示す第1視線方向データを取得する視線方向データ取得部と、少なくとも第1シチュエーションに関する情報及び第1視線方向データに基づいて、第1イベントにおける第1車両の運転者の一連の視線方向の評価情報を出力する評価情報出力部と、を有する。
【0145】
なお、ここまで情報処理装置10の評価情報出力部として、機械学習により構築された学習済みモデルを利用することで、運転者の一連の視線方向の評価情報の生成を行う例を説明したが、評価情報出力部として用いられる評価モデルは機械学習による学習済みモデルに限定されるものではなく、例えば、シチュエーションに関する情報や運転者の一連の視線方向を示す視線方向データの解析結果に基づいて、人間が所定のアルゴリズムを設定することでルール化したルールベースの評価モデルを用いることとしてもよい。しかしながら、シチュエーション別の運転者の一連の視線方向と当該視線方向の評価情報の相関関係は、交差点の形状のバリエーション数と当該交差点の進入退出方向の組合せのバリエーション数とが非常に多いことから極めて複雑であり、すべてのバリエーションに対して許容レベルの評価情報を得ることが困難となるため、評価モデルには機械学習により構築された学習済みモデルを採用することが好適である。
【0146】
このような構成により、情報処理装置10によれば、例えば、熟練運転者の安全確認時の視線の運び方を正しい視線方向、すなわち最も良い評価情報(運転スコア)に該当する視線方向として、評価対象の運転者の視線の運び方についての評価情報を出力することができる。
【0147】
従って、運転者が安全確認を適正に行っているか否かを判定可能であり、車両の挙動には現れない潜在的な事故のリスクを評価可能である情報処理装置、情報処理方法、情報処理プログラム及び記録媒体を提供することができる。
【0148】
[変形例]
図11図13を参照しつつ、本実施例の変形例に係る情報処理装置10を含む情報処理システム100について説明する。
【0149】
本変形例において、情報処理装置10の大容量記憶装置43のシチュエーションDB43Aには、実施例におけるシチュエーション情報とは異なる態様で、シチュエーションに関する情報が記憶されている。
【0150】
また、本変形例において、大容量記憶装置43の学習モデル記憶部43Bには、実施例における学習モデルとは、入力するデータの種類の一部が異なる学習モデルが記憶されている。
【0151】
その他の点においては、情報処理装置10、端末装置20及びこれらを含む情報処理システム100は実施例の場合と同様に構成されている。
【0152】
上述の実施例では、道路の形状及び通過の態様に基づいてシチュエーションIDを特定してシチュエーションに関する情報としていたところ、本変形例では、イベント時の車両Mの地図上の位置から求まる道路上の地点を示す情報と、当該道路上の地点を車両Mが通過する際の通過の態様を示す情報と、の組をシチュエーションに関する情報とする。
【0153】
本変形例において、情報処理装置10は、道路上の地点を示す情報と通過の態様を示す情報との組を入力として、視線方向の評価情報を出力する装置である。
【0154】
図11は、本変形例のシチュエーションDB43Aに記憶されているシチュエーションに関する情報の一例を示す図である。
【0155】
本変形例において、イベントは、安全確認が必要な注意地点で生じることとし、イベント時の車両Mの地図上の位置は注意地点となる。注意地点の一例として、交差点が挙げられる。
【0156】
図11に示す例は、所定の交差点を視線方向の評価を行う交差点とする場合について示している。図11に示すように、当該所定の交差点の各々に交差点IDが付され、交差点の各々の位置情報が記載されている。さらに、交差点の通過の態様としての進入退出方向毎に、進入退出方向IDが付されている。
【0157】
進入退出方向として、例えば、五差路の場合、1つの進入経路につき4つの退出経路が存在するため、各経路に時計回りに1~5の番号をつけると、経路1から進入する場合は(1→2)、(1→3)、(1→4)、(1→5)、と表すことができる。
【0158】
図12は、本変形例に係る学習済みモデルM2の一例を模式的に示す図である。学習済みモデルM2は、学習済みモデルM1におけるシチュエーションIDを示す数値の代わりに、交差点ID及び進入退出方向IDを入力としている点で、学習済みモデルM1と異なる。
【0159】
学習済みモデルM2には、車両Mの運転者の一連の視線方向データを構成するサンプリングポイントごとの視線方向データ1~100、交差点ID及び進入退出方向IDが入力される。
【0160】
学習済みモデルM2への入力がなされると、学習済みモデルM2は、車両Mの運転者の一連の視線方向の評価結果を示す数値を出力する。例えば、学習済みモデルM2は、上述したように、一連の視線方向の評価情報として、運転スコアを示す数値を出力する。
【0161】
学習済みモデルM2は、例えば以下のような教師あり学習によって構築される。上述のような学習用車両の走行中に生じた1のイベントについて、当該イベント中における一連の視線方向データ(図6参照)と、イベント時のシチュエーションに関する情報としての交差点IDと進入退出方向IDとの組とを取得して入力データとする。入力データ毎、すなわち、交差点ID及び進入退出方向IDと一連の視線方向データの組ごとに、運転スコアを決定して正解データとする。
【0162】
当該入力データを複数の中間層を有するニューラルネットワークに入力して、出力が正解データの運転スコアとなるように、ニューラルネットワークのパラメータを誤差逆伝搬法によって更新しながら学習を行う。このような学習を多数のイベント、多数の車両、及び多数の運転者について行うことで、学習済みモデルM2を構築することができる。
【0163】
なお、学習済みモデルM2の構築において、例えば、より多くの交差点IDの各々について多数のデータを用いて学習することが好ましい。
【0164】
このように、学習済みモデルM2の構築の際には、交差点IDを用いて、個別の交差点を区別して学習が行われるので、交差点毎の詳細な特徴、例えば、予告信号機の有無、信号機の高さ位置、見通しの悪さなどの影響を学習モデルの構築に反映させることが可能となり、より精度の高い評価が可能となる。
【0165】
図13は、本変形例に係る情報処理装置10の制御部45によって実行されるルーチンの一例である評価ルーチンRT3を示すフローチャートである。評価ルーチンRT3は、評価ルーチンRT2と同様に進行し、ステップS203の代わりにステップS303を実行する点において評価ルーチンRT2と異なる。
【0166】
評価ルーチンRT3のステップS202の実行後、制御部45は、ステップS202において特定されたイベント時の注意地点及び進入退出方向を特定する(ステップS303)。ステップS303において、例えば、制御部45は、シチュエーションDB43Aを参照し、車両Mの走行履歴に基づいて、当該イベント時に車両Mが走行していた交差点の交差点ID及び当該交差点を車両Mが通過した際の進入退出方向IDを特定する。
【0167】
ステップS303において、例えば、制御部45は、車両Mの走行履歴に含まれるイベント時の車両Mの位置を示す位置情報及び地図情報に基づいて、イベント時に車両Mが走行していた交差点及び進入退出方向を特定する。
【0168】
ステップS303において、制御部45は、第1車両の走行中に生じた第1イベント時の第1シチュエーションに関する情報を取得するシチュエーション情報取得部として機能する。
【0169】
本変形例によれば、シチュエーションに関する情報として、交差点ID及び進入退出方向IDを用いて、個別の交差点についての一連の視線方向の評価情報が得られる。例えば、交差点毎の詳細な特徴、例えば、予告信号機の有無、信号機の高さ位置、見通しの悪さなどの影響を学習モデルの構築に反映させることが可能となり、より精度の高い視線方向の評価が可能となる。
【0170】
従って、運転者が安全確認を適正に行っているか否かを高い精度で判定可能であり、車両の挙動には現れない潜在的な事故のリスクをより詳細に評価可能である情報処理装置、情報処理方法、情報処理プログラム及び記録媒体を提供することができる。
【0171】
上述した実施例における構成及びルーチンは例示に過ぎず、用途等に応じて適宜選択及び変更可能である。
【0172】
なお、上記の実施例及び変形例において、一連の視線方向の評価をリアルタイムで実行するようにしてもよい。その場合、例えば、端末装置20の制御部31又は情報処理装置10の制御部45が、車両Mの現在位置からイベントを特定し、車両Mの進行予定の経路から進行予定方向を取得し、当該車両Mの現在位置及び車両Mの進行予定方向に基づいて、シチュエーションに関する情報を取得してもよい。その場合、情報処理装置10の制御部45の機能が端末装置20の制御部31に備えられていてもよい。
【0173】
なお、上記の実施例及び変形例における視線方向の評価において、上述したような車両の挙動を示す情報をさらに入力として用いてもよい。例えば、学習済みモデルM1又は学習済みモデルM2の入力として、ステアリングホイール19、アクセルペダル21若しくはブレーキペダル23の操作に関する物理量を示す情報、車両Mの加速度や進行方向等の挙動示す情報、前照灯やウィンカーの点灯状態を示す情報、又はシフトレバーの位置を示す情報を用いてもよい。これによって、車両の操作を適切に行っていたか否か及び当該操作のタイミングに関連した視線方向の評価を含めた評価を実現することができ、視線方向及び運転に関するより高い精度の評価を実行することができる。
【符号の説明】
【0174】
10 情報処理装置
20 端末装置
27 入力部
29 記憶部
31 制御部
33 通信部
35 出力部
43 大容量記憶装置
43A シチュエーションDB
43B 学習モデル記憶部
45 制御部
47 通信部
50 管理サーバ
100 情報処理システム
M 車両
図1
図2
図3
図4
図5
図6
図7
図8
図9
図10
図11
図12
図13