IP Force 特許公報掲載プロジェクト 2022.1.31 β版

知財求人 - 知財ポータルサイト「IP Force」

▶ 本田技研工業株式会社の特許一覧

特開2024-141439情報処理システム、及び、情報処理方法
<>
  • 特開-情報処理システム、及び、情報処理方法 図1
  • 特開-情報処理システム、及び、情報処理方法 図2
  • 特開-情報処理システム、及び、情報処理方法 図3
  • 特開-情報処理システム、及び、情報処理方法 図4
  • 特開-情報処理システム、及び、情報処理方法 図5
  • 特開-情報処理システム、及び、情報処理方法 図6
  • 特開-情報処理システム、及び、情報処理方法 図7
  • 特開-情報処理システム、及び、情報処理方法 図8
  • 特開-情報処理システム、及び、情報処理方法 図9
  • 特開-情報処理システム、及び、情報処理方法 図10
  • 特開-情報処理システム、及び、情報処理方法 図11
  • 特開-情報処理システム、及び、情報処理方法 図12
  • 特開-情報処理システム、及び、情報処理方法 図13
< >
(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公開特許公報(A)
(11)【公開番号】P2024141439
(43)【公開日】2024-10-10
(54)【発明の名称】情報処理システム、及び、情報処理方法
(51)【国際特許分類】
   G08G 1/16 20060101AFI20241003BHJP
   B60W 40/08 20120101ALI20241003BHJP
   A61B 5/18 20060101ALI20241003BHJP
【FI】
G08G1/16 F
B60W40/08
A61B5/18
【審査請求】未請求
【請求項の数】7
【出願形態】OL
(21)【出願番号】P 2023053093
(22)【出願日】2023-03-29
(71)【出願人】
【識別番号】000005326
【氏名又は名称】本田技研工業株式会社
(74)【代理人】
【識別番号】110001081
【氏名又は名称】弁理士法人クシブチ国際特許事務所
(72)【発明者】
【氏名】村松 雄介
(72)【発明者】
【氏名】坂本 直宏
(72)【発明者】
【氏名】安達 紘子
【テーマコード(参考)】
3D241
4C038
5H181
【Fターム(参考)】
3D241BA60
3D241BA70
3D241CE02
3D241CE03
3D241CE04
3D241DA12Z
3D241DA39Z
3D241DA52Z
3D241DD04Z
4C038PP01
4C038PQ03
4C038PS00
5H181AA01
5H181AA02
5H181AA05
5H181AA06
5H181AA07
5H181AA25
5H181AA26
5H181BB04
5H181BB05
5H181BB20
5H181CC04
5H181FF22
5H181FF25
5H181FF27
5H181FF33
5H181LL20
(57)【要約】
【課題】車両等の移動体を操縦する操縦者の状態をより高精度で判定する技術を実現する。
【解決手段】移動体を操縦する操縦者を観測した観測値を含む状態変数を取得する取得部と、所定の観測タイミングで観測された観測値を含む状態変数に基づいて、操縦者の観測情報を生成する観測情報生成部と、複数の操縦者のそれぞれの観測値を含む状態変数に基づいて生成された複数の観測情報を取得する観測情報収集部と、観測情報収集部により取得された複数の観測情報を、複数のクラスタにクラスタリングするクラスタリング処理部と、を備える、情報処理システム。
【選択図】図4
【特許請求の範囲】
【請求項1】
移動体を操縦する操縦者を観測した観測値を含む状態変数を取得する取得部と、
所定の観測タイミングで観測された前記観測値を含む前記状態変数に基づいて、前記操縦者の観測情報を生成する観測情報生成部と、
複数の前記操縦者のそれぞれの前記観測値を含む前記状態変数に基づいて生成された複数の前記観測情報を取得する観測情報収集部と、
前記観測情報収集部により取得された複数の前記観測情報を、複数のクラスタにクラスタリングするクラスタリング処理部と、
を備える、情報処理システム。
【請求項2】
複数の前記クラスタの各々に、前記操縦者の操縦中における認知負荷に対応する意味づけを行うクラスタ割当部を備える、請求項1に記載の情報処理システム。
【請求項3】
前記クラスタ割当部は、複数の前記クラスタの各々に、前記操縦者の操縦中における認知負荷の高さに対応する意味づけを行う、請求項2に記載の情報処理システム。
【請求項4】
前記取得部は前記移動体に搭載され、
前記観測情報収集部は、前記移動体において前記取得部が取得した前記状態変数に基づいて前記観測情報生成部が生成する前記観測情報を、複数の前記移動体から取得する、請求項1に記載の情報処理システム。
【請求項5】
前記観測値は、前記操縦者の心拍間隔、呼吸間隔、及び、瞳孔径の少なくともいずれかを含む、請求項1に記載の情報処理システム。
【請求項6】
前記状態変数は、前記観測値と、前記移動体が備える操作部の操作量とを含む、請求項1に記載の情報処理システム。
【請求項7】
コンピュータにより、
移動体を操縦する操縦者を観測した観測値を含む状態変数を取得し、
所定の観測タイミングで観測された前記観測値を含む前記状態変数に基づいて、前記操縦者の観測情報を生成し、
複数の前記操縦者のそれぞれの前記観測値を含む前記状態変数に基づいて生成された複数の前記観測情報を取得し、
取得した複数の前記観測情報を複数のクラスタにクラスタリングする、
情報処理方法。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、情報処理システム、及び、情報処理方法に関する。
【背景技術】
【0002】
近年、交通参加者の中でも高齢者や障がい者や子供といった脆弱な立場にある人々にも配慮した持続可能な輸送システムへのアクセスを提供する取り組みが活発化している。この実現に向けて運転支援技術を通して交通の安全性や利便性をより一層改善する研究開発に注力している。
例えば、特許文献1は、車両の運転に係るアクセルペダル、ブレーキペダル、ハンドルなどの操作量を解析することにより、車両の運転を行うドライバーの緊張度を判定する構成を開示する。また、特許文献2は、車両のドライバーの顔を撮影した画像を用いて、ドライバーの眠気レベルを判定する構成を開示する。
【先行技術文献】
【特許文献】
【0003】
【特許文献1】特開2017―197002号公報
【特許文献2】特開2021―096784号公報
【発明の概要】
【発明が解決しようとする課題】
【0004】
ところで、車両のドライバー等の操縦者を支援する支援技術においては、操縦者の状態を、より高い精度で判定することが望まれている。
本願は上記課題の解決のため、車両等の移動体を操縦する操縦者の状態をより高精度で判定する技術の実現を目的としたものである。そして、延いては持続可能な輸送システムの発展に寄与するものである。
【課題を解決するための手段】
【0005】
本発明の一態様は、移動体を操縦する操縦者を観測した観測値を含む状態変数を取得する取得部と、所定の観測タイミングで観測された前記観測値を含む前記状態変数に基づいて、前記操縦者の観測情報を生成する観測情報生成部と、複数の前記操縦者のそれぞれの前記観測値を含む前記状態変数に基づいて生成された複数の前記観測情報を取得する観測情報収集部と、前記観測情報収集部により取得された複数の前記観測情報を、複数のクラスタにクラスタリングするクラスタリング処理部と、を備える、情報処理システムである。
【発明の効果】
【0006】
本発明の一態様によれば、移動体を操縦する複数の操縦者について生成された観測情報をクラスタリングすることにより、複数の操縦者に関する情報をもとに、操縦者の状態を判定するための情報を得ることができる。このため、移動体を操縦する操縦者の状態を、より高精度で判定する技術の実現を可能とし、延いては持続可能な輸送システムの発展に寄与できる。
【図面の簡単な説明】
【0007】
図1図1は、情報処理システムの構成例を示す図である。
図2図2は、情報処理装置の構成例を示すブロック図である。
図3図3は、車両の構成例を示す図である。
図4図4は、サーバの構成例を示すブロック図である。
図5図5は、状態推定装置の構成例を示すブロック図である。
図6図6は、情報処理システムの動作例を示すシーケンス図である。
図7図7は、情報処理装置の動作例を示すフローチャートである。
図8図8は、情報処理装置の動作例を示すフローチャートである。
図9図9は、情報処理装置の動作例を示すフローチャートである。
図10図10は、サーバの動作例を示すフローチャートである。
図11図11は、ヒト状態マップの例を示す模式図である。
図12図12は、状態推定装置の動作例を示すフローチャートである。
図13図13は、状態表示部の例を示す図である。
【発明を実施するための形態】
【0008】
[1.情報処理システムの構成]
図1は、情報処理システム1000の構成を示す図である。
情報処理システム1000は、車両1に搭載された情報処理装置10と、車両2に搭載された状態推定装置20と、サーバ5と、を含む。サーバ5は、通信ネットワークNWを介して、情報処理装置10及び状態推定装置20と相互にデータ通信可能に接続される。図1には、2台の車両1A、1Bに搭載された情報処理装置10、及び、2台の車両2A、2Bに搭載された状態推定装置20が情報処理システム1000に含まれる構成を一例として示しているが、情報処理システム1000に含まれる情報処理装置10及び状態推定装置20の数に制限はない。以下の説明では、車両1A、1Bを区別しない場合に車両1と記載し、車両2A、2Bを区別しない場合に車両2と記載する。
【0009】
車両1及び車両2は移動体の一例である。車両1、2は、ユーザUが搭乗するキャビン(乗員室)を備えていればよく、移動体は、4輪の車両に限定されず、5輪以上の車両でもよく、3輪以下の車両でもよい。また、移動体としての車両は、バス等の大型車両、商用車両、或いは作業用車両等であってもよい。また、移動体としては、上記の自動車のような陸上移動体のほか、船舶、潜水艇等の海洋移動体、eVTOL(Electric Vertical Take-Off and Landing aircraft)を含む航空機、飛行船等の空中移動体、あるいは、宇宙船、人工衛星などの宇宙移動体であってもよい。
【0010】
車両1AにはユーザU1Aが乗車し、車両1BにはユーザU1Bが乗車する。車両2AにはユーザU2Aが乗車し、車両2BにはユーザU2Bが乗車する。ユーザU1A、U1Bを区別しない場合にユーザU1と記載し、ユーザU2A、U2Bを区別しない場合にユーザU2と記載する。ユーザU1及びユーザU2は、移動体を操縦する操縦者の一例である。ユーザU1、U2が車両1または車両2を運転することは、操縦の一例である。
【0011】
通信ネットワークNWは、公衆回線網や、専用線、その他の通信回路などで構成される通信ネットワークである。
【0012】
サーバ5は、各々の情報処理装置10及び状態推定装置20とデータを送受信するコンピュータである。サーバ5は、単一のサーバコンピュータであってもよいし、複数のサーバコンピュータにより構成されてもよいし、クラウドサーバであってもよい。サーバ5は、管理装置の一例に対応する。
【0013】
[2.情報処理装置の構成]
図2は、車両1に搭載される情報処理装置10の構成例を示すブロック図である。図3は、車両1の構成例を示す図である。
情報処理装置10は、車両1に搭載される装置であり、プロセッサ100を有するコンピュータである。情報処理装置10は、車両1に固定された装置であってもよいし、携帯可能な装置であって車両1に一時的に設置される装置であってもよい。例えば、情報処理装置10として、スマートフォン、タブレット型コンピュータ、その他の形態のパーソナルコンピュータ、カーナビゲーション装置、または、ディスプレイオーディオ装置を採用できる。
【0014】
情報処理装置10には、車両1に搭載された通信装置301、ディスプレイ302、スピーカ303、及び、メーターパネル304が接続される。これらの装置を情報処理装置10が内蔵する構成であってもよい。
【0015】
通信装置301は、データを送信するトランスミッタ、及び、データを受信するレシーバを備える無線通信装置であり、セルラー通信を実行する。通信装置301は、プロセッサ100の制御に従って通信ネットワークNWに接続し、通信ネットワークNWを通じてサーバ5との間でデータ通信を実行する。
【0016】
ディスプレイ302は、液晶表示パネルや有機EL(Electro Luminescence)パネルで構成される表示画面を有し、情報処理装置10が出力する表示信号またはデジタル表示データに基づいて、表示画面に文字や画像を表示する。ディスプレイ302は、例えば、図3に示すように、車両1のダッシュボード350、或いは、インストゥルメントパネルに設置され、ユーザU1から良好に視認される位置にある。
【0017】
スピーカ303は、情報処理装置10が出力する音声信号、または、デジタル音声データに基づいて音を出力する。
【0018】
メーターパネル304は、図3に示すように、ユーザU1が着座する位置の正面、或いは、その近傍に設置される。メーターパネル304は、車両1の車速、エンジン回転数、バッテリの残容量等の情報を表示する。メーターパネル304は液晶表示パネル等の表示画面を用いて構成されてもよいし、LED(Light Emitting Diode)等を有するインジケータランプで構成されてもよい。ディスプレイ302、スピーカ303及びメーターパネル304は、車両1が備える出力装置の一例である。出力装置は、音声、映像、画像、光、その他の刺激により情報をユーザU1に出力する装置を含む。ディスプレイ302及びメーターパネル304は表示部の一例である。
【0019】
情報処理装置10には、カメラ311、及び、心拍センサ312が接続される。
カメラ311は、ユーザU1の顔を含む撮影範囲を撮影するデジタルカメラであり、撮影画像データを情報処理装置10に出力する。カメラ311の撮影画像データは、後述するように、ユーザU1の瞳孔径の観測、及び、ユーザU1の呼吸の検出の少なくともいずれかに利用される。
【0020】
心拍センサ312は、ユーザU1の単位時間あたりの心拍を計測するセンサである。心拍センサ312は、例えば、図3に示すように、車両1のステアリングホイール351に設置された一対の電極354に接続される。この例で、心拍センサ312は、ユーザU1の手が電極354に接触している状態で、ユーザU1の脈の拍動に伴う身体表面の電位変化を検出することにより、ユーザU1の心拍を検出する。心拍センサ312は、ユーザU1の心拍間隔を算出する。心拍センサ312は、例えば、電極354を用いて心拍を検出するセンサと、心拍間隔を算出する制御回路とを含むセンサユニットである。心拍センサ312は、計測値として心拍間隔を出力する。心拍間隔は、例えば秒またはミリ秒を単位とする時間の値である。心拍センサ312が心拍を検出するための構成は電極354に制限されず、例えば、ユーザU1の身体に装着される光センサ等によりユーザU1の心拍を検出してもよい。また、心拍センサ312が検出した心拍に基づいて、プロセッサ100が心拍間隔を算出する構成であってもよい。
【0021】
カメラ311及び心拍センサ312は、ユーザU1の身体に関する観測を行う構成であり、観測部と呼ぶこともできる。情報処理装置10が観測部を用いて観測する対象は、ユーザU1の瞳孔径、呼吸間隔、心拍間隔に制限されず、その他の生体情報を計測するものであってもよい。
【0022】
情報処理装置10は、センサI/F(インターフェイス)131を備える。センサI/F131は、カメラ311及び心拍センサ312に有線で接続される接続部であり、ケーブルを接続するコネクターとインターフェイス回路とを備える。センサI/F131は、カメラ311が出力する撮影画像データ、及び、心拍センサ312が出力する心拍間隔の計測データを取得する。
【0023】
情報処理装置10は、操作部I/F132を備える。操作部I/F132には、車両1が備えるアクセルペダルセンサ321、ブレーキペダルセンサ322、及び、舵角センサ323の少なくともいずれかが接続される。アクセルペダルセンサ321は、車両1を発進および増速させる操作部であるアクセルペダルの踏み込み量、或いは、アクセルペダルの操作に対応するスロットル開度を検出する。ブレーキペダルセンサ322は、車両1を減速および停止させる操作部であるブレーキペダルの踏み込み量を検出する。舵角センサ323は、操作部であるステアリングホイール351の操作量、或いは、ステアリングホイール351の操作に伴う車両1の舵角を検出する。アクセルペダルセンサ321、ブレーキペダルセンサ322、及び、舵角センサ323は、検出値を情報処理装置10に出力する。操作部I/F132は、アクセルペダルセンサ321、ブレーキペダルセンサ322、及び、舵角センサ323が出力する操作量のデータを取得する。操作部I/F132は、例えば、車両1に設置されたCAN(Contrtoller Area Network)に接続される通信装置であり、CANを介して各操作部の操作量を取得してもよい。
【0024】
また、情報処理装置10には、車両1が搭載する車両機能部330が接続される。車両機能部330は、車両1において情報処理装置10とは異なる機能を有する装置である。車両機能部330は、情報処理装置10とは別に機能を実行し、車両機能部330の機能に基づく音声を出力する装置である。車両機能部330は、例えば、ダッシュボード350に設置されてもよいし、情報処理装置10と一体の筐体に収容されてもよい。車両機能部330の具体的な構成は、車両1の仕様等に応じて適宜に変更可能である。本実施形態では、車両機能部330としてナビゲーションシステム331を例示する。
【0025】
ナビゲーションシステム331は、例えば、プロセッサ100とは異なるプロセッサを有するハードウェアであり、例えば、情報処理装置10とは別に車両1に設置されたECU(Electronic Control Unit)を備える。ナビゲーションシステム331は、車両1が移動する移動経路の探索、及び、車両1の移動中における移動経路の案内を行う。ナビゲーションシステム331は、探索した経路に沿って経路案内の実行するため、地図、及び、車両1の現在位置を示す画像を含むナビゲーション用の画面をディスプレイ302に表示させる。また、ナビゲーションシステム331は、車両1の進行方向や、車両1を右折または左折させる場所を知らせる音声を、スピーカ303から出力させる。
【0026】
情報処理装置10は、プロセッサ100、及び、メモリ120を備える。プロセッサ100は、CPU(Central Processing Unit)、MPU(Micro Processing Unit)、或いはその他の集積回路で構成されるコンピュータである。メモリ120は、プログラムやデータを記憶する記憶装置である。プロセッサ100は、揮発性のRAM(Random Access Memory)をワークエリアとして利用してもよい。RAMは、プロセッサ100に統合して実装されてもよいし、メモリ120がRAMを備える構成であってもよい。
【0027】
メモリ120は、書き換え可能な不揮発性の記憶装置であり、プロセッサ100が実行するプログラム、及び、プロセッサ100により処理されるデータを記憶する。メモリ120は、例えば、フラッシュROM(Read Only Memory)やSSD(Solid State Disk)等の半導体記憶デバイス、或いは、磁気的記憶デバイスで構成される。メモリ120は、制御プログラム121、アプリ122、及び、観測情報123を記憶する。
【0028】
制御プログラム121、及びアプリ122はプロセッサ100が実行するプログラムであり、プロセッサ100により読み取り可能にメモリ120に記憶される。制御プログラム121は、プロセッサ100が情報処理装置10の各部を制御するための基本制御プログラムであり、OS(Operating System)である。アプリ122は、OS上で実行されるアプリケーションプログラムである。
【0029】
プロセッサ100は、機能部として、取得部101、観測情報生成部102、観測情報送信部103、状態モデル取得部104、推定部110、及び、出力制御部112を有する。これらの機能部は、プロセッサ100がアプリ122を実行することにより、実現される。アプリ122は、プログラムの一例である。情報処理装置10は、状態モデル取得部104、推定部110、及び出力制御部112に係る機能に関して、状態推定装置の一例に対応する。
【0030】
取得部101は、ユーザU1が車両1を運転している間にユーザU1を観測した観測値を含む状態変数を取得する。状態変数は、少なくとも観測値を含む。観測値とは、具体的には、ユーザU1の心拍間隔、呼吸間隔、及び、瞳孔径の少なくともいずれかを含む。呼吸間隔は、ユーザU1の呼吸の間隔であり、例えば秒またはミリ秒を単位とする時間の値である。例えば、取得部101は、センサI/F131によって取得したカメラ311の撮影画像データから、ユーザU1の瞳孔径の算出、及び、ユーザU1の呼吸の検出の少なくともいずれかを実行する。取得部101は、ユーザU1の呼吸を検出した場合、呼吸間隔を算出する。また、例えば、取得部101は、心拍センサ312の計測値である心拍間隔を観測値として取得する。これらの瞳孔径、呼吸間隔、心拍間隔の少なくともいずれかが状態変数に含まれる。また、状態変数は車両1の操作部の操作量を含んでもよい。例えば、取得部101が操作部I/F132によって操作量を取得し、観測値と操作量とを含む状態変数を取得または生成してもよい。
【0031】
観測情報生成部102は、取得部101が取得した状態変数に基づいて、ユーザU1の観測情報を生成する。観測情報は、状態変数を含む情報であって、状態変数を取得した車両1、情報処理装置10、或いは状態変数の取得の対象となったユーザU1を特定する情報を含む。観測情報生成部102は、状態変数を生成する処理を、予め設定された周期で繰り返し実行する。観測情報送信部103は、観測情報生成部102により生成した観測情報を、通信装置301によってサーバ5に送信する。
【0032】
状態モデル取得部104は、後述するように、サーバ5から状態モデル111を取得する。状態モデル111は、取得部101が取得する状態変数から、ユーザU1の運転中における認知負荷を求めるモデルである。
【0033】
推定部110は、状態モデル111を有する。状態モデル111は、取得部101が取得する状態変数、或いは、状態変数を含む観測情報を状態モデル111に与えることにより、ユーザU1の状態を推定する。推定部110は、例えば、取得部101が状態変数を取得する毎に、或いは、観測情報生成部102が観測情報を生成する毎に、状態変数からユーザU1の状態を推定する。
【0034】
推定部110が推定するユーザU1の状態とは、運転に対するユーザU1の集中度ということができる。後述する例では、推定部110が、ユーザU1の状態を、適度な認知負荷状態と、高認知負荷状態と、低認知負荷状態とのいずれであるかを推定する。
【0035】
発明者らは、車両1等の移動体を操縦するときの人間の集中状態は、人間の認知負荷あるいは認知的負荷に影響を受けることに着目した。認知負荷は、人間の知覚、視覚や聴覚により受ける刺激、人間の動作等に起因して認知機能に加わる負荷をいう。認知負荷状態は、ユーザU1の脳が処理するタスクの処理量ということができる。適度な認知負荷状態では、タスク処理量も適度である。これに対し、高認知負荷状態はタスク処理量が多い状態であり、低認知負荷状態はタスク処理量が少ない状態である。
【0036】
ユーザU1が車両1を運転中のユーザU1の認知負荷が適度である場合、運転に対するユーザU1の集中度が適度な状態となる。運転中のユーザU1の認知負荷が高認知負荷状態である場合、ユーザU1が焦りを感じるような状態となるため、運転に対するユーザU1の集中度が低下する。また、運転中のユーザU1の認知負荷が低認知負荷状態である場合、ユーザU1は刺激の少ない漫然とした状態であるため、運転に対するユーザU1の集中度が低下する。
【0037】
従って、推定部110がユーザU1の状態を推定した結果が、適度な認知負荷状態と、高認知負荷状態と、低認知負荷状態とのいずれであるかをもとに、運転に対するユーザU1の集中度が適度な状態であるか、より集中度が低い状態であるかを判断できる。推定部110は、ユーザU1の観測情報からユーザU1の認知負荷状態を推定し、推定された認知負荷状態から運転に対するユーザU1の集中度を特定できる。つまり、推定部110は、運転に対するユーザU1の集中度を推定するといえる。
【0038】
出力制御部112は、推定部110の推定結果に基づく出力処理を実行する。出力制御部112が実行する出力処理は、推定部110の推定結果を、ディスプレイ302及びメーターパネル304の少なくともいずれかに表示させる処理を含む。また、出力制御部112が実行する出力処理は、ユーザU1への出力を調整する処理を含む。具体的には、出力制御部112は、スピーカ303から出力される音の音量、及び、ディスプレイ302またはメーターパネル304に表示される情報量を調整する。例えば、ユーザU1が高認知負荷状態であると推定された場合、出力制御部112は、ユーザU1の認知負荷を軽減するように、ディスプレイ302、スピーカ303、及びメーターパネル304等からの出力を調整する。出力制御部112は、ユーザU1が低認知負荷状態であると推定された場合、ユーザU1の認知負荷を増加させるように、ディスプレイ302、スピーカ303、及びメーターパネル304等からの出力を調整する。出力の調整に関する具体的な例は、出力制御部112と同様に構成される出力制御部212の動作として、後述する。
【0039】
[3.サーバの構成]
図4は、サーバ5の構成例を示すブロック図である。
サーバ5は、プロセッサ500、メモリ520、及び、通信装置530を備える。
【0040】
通信装置530は、データを送信するトランスミッタ、及び、データを受信するレシーバを備える無線通信装置であり、セルラー通信を実行する。通信装置530は、プロセッサ500の制御に従って通信ネットワークNWに接続し、通信ネットワークNWを通じてサーバ5及び状態推定装置20との間でデータ通信を実行する。
【0041】
サーバ5は、プロセッサ500、及び、メモリ520を備える。プロセッサ500は、CPU、MPU、或いはその他の集積回路で構成されるコンピュータである。メモリ520は、プログラムやデータを記憶する記憶装置である。プロセッサ500は、揮発性のRAMをワークエリアとして利用してもよい。RAMは、プロセッサ500に統合して実装されてもよいし、メモリ520がRAMを備える構成であってもよい。
【0042】
メモリ520は、書き換え可能な不揮発性の記憶装置であり、プロセッサ500が実行するプログラム、及び、プロセッサ500により処理されるデータを記憶する。メモリ520は、例えば、フラッシュROMやSSD等の半導体記憶デバイス、或いは、磁気的記憶デバイスで構成される。メモリ520は、制御プログラム521、アプリ522、観測情報523、及び、状態モデル524を記憶する。
【0043】
制御プログラム521、及びアプリ522はプロセッサ500が実行するプログラムであり、プロセッサ500により読み取り可能にメモリ520に記憶される。制御プログラム521は、プロセッサ500がサーバ5の各部を制御するための基本制御プログラムであり、OSである。アプリ522は、OS上で実行されるアプリケーションプログラムである。
【0044】
プロセッサ500は、機能部として、観測情報収集部501、送信処理部502、及び、状態モデル生成部510を有する。これらの機能部は、プロセッサ500がアプリ522を実行することにより、実現される。アプリ522は、プログラムの一例である。
【0045】
観測情報収集部501は、情報処理装置10から観測情報を取得する。観測情報収集部501は、情報処理システム1000に含まれる複数の情報処理装置10から観測情報を取得することによって、複数のユーザU1のそれぞれの観測値を含む状態変数を得ることができる。
【0046】
状態モデル生成部510は、クラスタリング処理部511、クラスタ割当部512、及び、状態モデル513を有する。クラスタリング処理部511は、観測情報収集部501によって取得された複数の観測情報を、複数のクラスタにクラスタリングする処理を実行する。クラスタ割当部512は、クラスタリング処理部511によりクラスタリングされた複数のクラスタの各々に、ユーザU1の操縦中における認知負荷に対応する意味づけを行う処理を実行する。
【0047】
クラスタリング処理部511は、例えば、k平均法(k-means clustering)、階層法、その他の公知のクラスタ解析の手法を用いて、複数の観測情報を予め指定された数のクラスタに分類する。本実施形態では、観測情報を3つのクラスタに分類する。クラスタ割当部512は、3つのクラスタの各々に、ユーザU1の高認知負荷状態、低認知負荷状態、及び、適度な認知負荷状態を対応付ける。クラスタリング処理部511及びクラスタ割当部512の処理によって、状態モデル513が生成される。状態モデル513は、観測情報が取得された場合に、取得された観測情報を3つのクラスタのいずれかに分類し、分類されたクラスタに対し意味づけされた認知負荷状態を求める。つまり、状態モデル513は、観測情報からユーザU1の認知負荷状態を推定できる。
【0048】
状態モデル513は、観測情報からユーザU1の認知負荷を求めるモデルであり、機械学習済みの学習モデル、観測情報に含まれる観測値からユーザU1の認知負荷を判定するプログラム、関数、或いは、パラメータである。状態モデル生成部510は、クラスタリング処理部511及びクラスタ割当部512の処理結果を反映した状態モデル513を生成する。状態モデル生成部510は、状態モデル513を情報処理装置10及び状態推定装置20に送信するための状態モデル524を生成し、メモリ520に記憶させる。
【0049】
送信処理部502は、状態モデル生成部510により生成された状態モデル524を、通信装置530を用いて、情報処理装置10及び状態推定装置20に送信する。送信処理部502は、送信処理部の一例に対応する。
【0050】
[4.状態推定装置の構成]
図5は、車両2に搭載される状態推定装置20の構成例を示すブロック図である。
状態推定装置20は、車両2に搭載される装置であり、プロセッサ200を有するコンピュータである。状態推定装置20は、車両2に固定された装置であってもよいし、携帯可能な装置であって車両2に一時的に設置される装置であってもよい。例えば、状態推定装置20として、スマートフォン、タブレット型コンピュータ、その他の形態のパーソナルコンピュータ、カーナビゲーション装置、または、ディスプレイオーディオ装置を採用できる。
【0051】
状態推定装置20が搭載される車両2は、車両1と共通の構成を有する。このため、車両2の構成において車両1と共通する各部には同符号を付して説明を省略する。
【0052】
状態推定装置20には、車両2に搭載された通信装置301、ディスプレイ302、スピーカ303、及び、メーターパネル304が接続される。
【0053】
状態推定装置20は、センサI/F231、及び、操作部I/F232を備える。センサI/F231の構成および機能はセンサI/F131と同様であり、操作部I/F232の構成および機能は操作部I/F132と同様である。センサI/F231にはカメラ311、及び、心拍センサ312が接続される。操作部I/F232にはアクセルペダルセンサ321、ブレーキペダルセンサ322、及び、舵角センサ323が接続される。
【0054】
状態推定装置20には、車両2が搭載する車両機能部330が接続される。車両機能部330は、車両2において状態推定装置20とは異なる機能を有する装置である。ここでは、車両機能部330としてナビゲーションシステム331を例示する。
【0055】
状態推定装置20は、プロセッサ200、及び、メモリ220を備える。プロセッサ200は、CPU、MPU、或いはその他の集積回路で構成されるコンピュータである。メモリ220は、プログラムやデータを記憶する記憶装置である。プロセッサ200は、揮発性のRAMをワークエリアとして利用してもよい。RAMは、プロセッサ200に統合して実装されてもよいし、メモリ220がRAMを備える構成であってもよい。
【0056】
メモリ220は、書き換え可能な不揮発性の記憶装置であり、プロセッサ200が実行するプログラム、及び、プロセッサ200により処理されるデータを記憶する。メモリ220は、例えば、フラッシュROMやSSD等の半導体記憶デバイス、或いは、磁気的記憶デバイスで構成される。メモリ220は、制御プログラム221、及び、アプリ222を記憶する。
【0057】
制御プログラム221、及びアプリ222はプロセッサ200が実行するプログラムであり、プロセッサ200により読み取り可能にメモリ220に記憶される。制御プログラム221は、プロセッサ200が状態推定装置20の各部を制御するための基本制御プログラムであり、OSである。アプリ222は、OS上で実行されるアプリケーションプログラムである。
【0058】
プロセッサ200は、機能部として、取得部201、観測情報生成部202、状態モデル取得部204、推定部210、及び、出力制御部212を有する。これらの機能部は、プロセッサ200がアプリ222を実行することにより、実現される。アプリ222は、プログラムの一例である。
【0059】
取得部201の機能は取得部101に対応し、観測情報生成部202の機能は観測情報生成部102に対応し、推定部210の機能は推定部110に対応する。状態モデル211は状態モデル111と同様に、サーバ5から取得される状態モデルである。出力制御部212は、出力制御部112と同様の処理を実行する。つまり、状態推定装置20は、情報処理装置10から観測情報送信部103の機能を省いた構成であり、サーバ5に観測情報を送信しない。
【0060】
取得部201は、ユーザU2が車両2を運転している間にユーザU2を観測した観測値を含む状態変数を取得する。観測情報生成部202は、生成処理を実行することにより、取得部201が取得した状態変数に基づいて、ユーザU2の観測情報を生成する。観測情報生成部202は、生成処理を、予め設定された周期で繰り返し実行する。
【0061】
状態モデル取得部204は、サーバ5から状態モデル211を取得する。状態モデル211は、状態モデル111と同様のものであり、取得部201が取得する状態変数と、ユーザU2の運転中における認知負荷との相関を有するモデルである。
【0062】
推定部210は、状態モデル211を有し、状態モデル211によって、取得部201が取得する状態変数からユーザU2の状態を推定する。推定部210は、取得部201が状態変数を取得する毎にユーザU2の状態を推定する。例えば、推定部210は、ユーザU2の状態を、適度な認知負荷状態と、高認知負荷状態と、低認知負荷状態とのいずれであるかを推定する。
【0063】
出力制御部212は、推定部210の推定結果に基づく出力処理を実行する。出力制御部212が実行する出力処理は、推定部210の推定結果を、ディスプレイ302及びメーターパネル304の少なくともいずれかに表示させる処理を含む。また、出力制御部212が実行する出力処理は、ユーザU2への出力を調整する処理を含む。具体的には、出力制御部212は、スピーカ303から出力される音の音量、及び、ディスプレイ302またはメーターパネル304に表示される情報量を調整する。
【0064】
[5.情報処理システムの動作]
[5-1.全体の動作]
図6は、情報処理システム1000の動作例を示すシーケンス図である。
ステップSA1~SA4は情報処理装置10の動作であり、ステップSB1~SB3はサーバ5の動作であり、ステップSC1~SC2は状態推定装置20の動作である。
【0065】
情報処理装置10は、取得部101及び観測情報生成部102により観測情報生成処理を実行する(ステップSA1)。情報処理装置10は、観測情報生成処理によって生成した観測情報を、観測情報送信部103によりサーバ5に送信する(ステップSA2)。ステップSA1~SA2の動作を、複数の情報処理装置10が並行して実行してもよい。例えば、車両1Aに搭載された情報処理装置10、及び、車両1Bに搭載された情報処理装置10が、それぞれステップSA1~SA2を実行できる。
【0066】
サーバ5は、情報処理装置10が送信した観測情報を観測情報収集部501によって受信し(ステップSB1)、状態モデル生成部510によって状態モデル生成処理を実行する(ステップSB2)。ここで、サーバ5は、状態モデル生成処理を実行するために十分な数の観測情報を受信するまで、ステップSB1の動作を繰り返し行いながら待機してもよい。
【0067】
サーバ5は、状態モデル生成部510により生成した状態モデル524を、送信処理部502によって情報処理装置10及び状態推定装置20に送信する(ステップSB3)。
【0068】
状態推定装置20は、サーバ5が送信した状態モデルを状態モデル取得部204により取得する(ステップSC1)。状態推定装置20は、取得した状態モデル211を推定部210に搭載し、推定部210によって推定処理を実行する(ステップSC2)。
【0069】
情報処理装置10は、サーバ5が送信した状態モデルを状態モデル取得部104により取得する(ステップSA3)。情報処理装置10は、取得した状態モデル111を推定部110に搭載し、推定部110によって推定処理を実行する(ステップSA4)。
【0070】
以下に、観測情報生成処理(ステップSA1)、状態モデル生成処理(ステップSB2)、及び、推定処理(ステップSA4、SC2)について詳細に説明する。
【0071】
[5-2.観測情報の生成]
図7は、情報処理装置10の動作例を示すフローチャートであり、観測情報生成処理の詳細を示す。図7のステップSA11~SA14は取得部101により実行され、ステップSA15~SA17は観測情報生成部102により実行される。
【0072】
情報処理装置10は、車両1の始動を検知すると(ステップSA11)、心拍観測処理を開始し(ステップSA12)、瞳孔径観測処理を開始する(ステップSA13)。ステップSA12、SA13は逆の順序であっても同時に行われてもよい。車両1の始動とは、車両1の制御系の装置が停止している状態から起動することを指し、例えば、車両1のイグニッションスイッチがオンにされること、或いは、車両1のシステム電源がオンにされることである。
【0073】
図8は、情報処理装置10の動作例を示すフローチャートであり、心拍観測処理を示す。ステップSA21~SA28は取得部101により実行される。
心拍センサ312は、上述したように、予め設定された計測周期でユーザU1の心拍を検出し、心拍を検出する毎に心拍間隔を算出し、心拍間隔を計測結果として出力する。心拍センサ312は、予め設定された所定時間における心拍間隔の平均値を算出し、心拍間隔の平均値を、計測値として出力してもよい。情報処理装置10は、車両1の始動を検知してから心拍センサ312の計測値を取得し、取得した計測値を心拍間隔RRI(t)としてメモリ120に一時記憶する(ステップSA21)。心拍間隔RRI(t)は心拍センサ312の計測値を時刻に対応付けたデータである。この時刻は、心拍センサ312が計測をした計測時刻または情報処理装置10が計測値を取得した時刻であり、観測時刻といえる。情報処理装置10は、車両1の始動から60秒が経過したか否かを判定し(ステップSA22;YES)、60秒が経過する前であれば(ステップSA22;NO)、ステップSA21に戻る。情報処理装置10は、車両1の始動から60秒が経過すると(ステップSA22)、ステップSA23に移行する。ステップSA23で、情報処理装置10は、車両1の始動から60秒間の心拍間隔RRI(t)の平均値である値R60を算出する(ステップSA23)。
【0074】
続いて、情報処理装置10は、ステップSA21と同様に心拍センサ312の計測値を取得し、取得した計測値を心拍間隔RRI(t)としてメモリ120に一時記憶する(ステップSA24)。ステップSA24の動作はステップSA22の直後に開始されてもよい。情報処理装置10は、心拍間隔RRI(t)の取得開始から30秒が経過したか否かを判定し(ステップSA25)、30秒が経過する前であれば(ステップSA25;NO)、ステップSA24に戻る。情報処理装置10は、心拍間隔RRI(t)の取得開始から30秒が経過すると(ステップSA25;YES)、ステップSA26に移行する。
【0075】
ステップSA26で、情報処理装置10は、メモリ120に一時記憶した30秒間の心拍間隔RRI(t)の平均値である値R30を算出する(ステップSA26)。情報処理装置10は、値R30から値R60を除算することにより差を算出し、求めた値を観測値Rとしてメモリ120に記憶させる(ステップSA27)。
【0076】
このように、ステップSA21~SA23では、車両1の始動後の最初の60秒間におけるユーザU1の心拍間隔の平均値R60が算出される。ステップSA24~SA26では、車両1の始動から60秒間を経過した後に、30秒毎に、ユーザU1の心拍間隔の平均値R30が算出される。そして、情報処理装置10は、平均値R30を算出する毎に、値R30と値R60の差を求め、求めた差を観測値Rとする。従って、車両1の始動から90秒が経過したときから、30秒毎に観測値Rが算出され、算出された観測値Rが順次、メモリ120に蓄積される。
【0077】
情報処理装置10は心拍観測処理を終了するか否かを判定する(ステップSA28)。車両1の制御系が停止した場合や、心拍観測処理の終了に関する操作がユーザU1により行われた場合など、心拍観測処理を終了する条件が成立した場合には(ステップSA28;YES)、情報処理装置10は図8の処理を終了する。処理を終了しない場合(ステップSA28;NO)、情報処理装置10はステップSA24に戻る。
【0078】
図9は、情報処理装置10の動作例を示すフローチャートであり、瞳孔径観測処理を示す。ステップSA31~SA38は取得部101により実行される。
取得部101は、カメラ311の撮影画像データを解析することにより、ユーザU1の瞳孔径の計測を実行する。例えば、取得部101は、カメラ311の撮影画像データからユーザU1の目の画像を抽出し、抽出した画像における目の輪郭と瞳孔の大きさとを比較することにより、瞳孔径を算出する。取得部101は、瞳孔径の計測を、予め設定された計測周期で実行し、計測を行う毎に瞳孔径の計測結果を出力する。
【0079】
情報処理装置10は、車両1の始動を検知してから瞳孔径の計測値を取得し、取得した計測値を瞳孔径Pupil(t)としてメモリ120に一時記憶する(ステップSA31)。瞳孔径Pupil(t)は瞳孔径の計測値を時刻に対応付けたデータである。この時刻は、瞳孔径を計測した計測時刻または情報処理装置10が計測値を取得した時刻であり、観測時刻といえる。情報処理装置10は、車両1の始動から60秒が経過したか否かを判定し(ステップSA32;YES)、60秒が経過する前であれば(ステップSA32;NO)、ステップSA31に戻る。情報処理装置10は、車両1の始動から60秒が経過すると(ステップSA32)、ステップSA33に移行する。ステップSA33で、情報処理装置10は、車両1の始動から60秒間の瞳孔径Pupil(t)の平均値である値P60を算出する(ステップSA33)。
【0080】
続いて、情報処理装置10は、ステップSA31と同様に瞳孔径の計測値を取得し、取得した計測値を瞳孔径Pupil(t)としてメモリ120に一時記憶する(ステップSA34)。ステップSA34の動作はステップSA32の直後に開始されてもよい。情報処理装置10は、瞳孔径Pupil(t)の取得開始から30秒が経過したか否かを判定し(ステップSA35)、30秒が経過する前であれば(ステップSA35;NO)、ステップSA34に戻る。情報処理装置10は、瞳孔径Pupil(t)の取得開始から30秒が経過すると(ステップSA35;YES)、ステップSA36に移行する。
【0081】
ステップSA36で、情報処理装置10は、メモリ120に一時記憶した30秒間の瞳孔径Pupil(t)の平均値である値P30を算出する(ステップSA36)。情報処理装置10は、値P30から値P60を除算することにより差を算出し、求めた値を観測値Pとしてメモリ120に記憶させる(ステップSA37)。
【0082】
このように、ステップSA31~SA33では、車両1の始動後の最初の60秒間におけるユーザU1の瞳孔径の平均値P60が算出される。ステップSA34~SA36では、車両1の始動から60秒間を経過した後に、30秒毎に、ユーザU1の瞳孔径の平均値P30が算出される。そして、情報処理装置10は、平均値P30を算出する毎に、値P30と値P60の差を求め、求めた差を観測値Pとする。従って、車両1の始動から90秒が経過したときから、30秒毎に観測値Pが算出され、算出された観測値Pが順次、メモリ120に蓄積される。
【0083】
情報処理装置10は瞳孔径観測処理を終了するか否かを判定する(ステップSA38)。車両1の制御系が停止した場合や、瞳孔径観測処理の終了に関する操作がユーザU1により行われた場合など、瞳孔径観測処理を終了する条件が成立した場合には(ステップSA38;YES)、情報処理装置10は図9の処理を終了する。処理を終了しない場合(ステップSA38;NO)、情報処理装置10はステップSA34に戻る。
【0084】
情報処理装置10は、図7において、観測値R及び観測値Pを取得する(ステップSA14)。ステップSA14で、情報処理装置10は、メモリ120に記憶されている観測値R及び観測値Pを取得するので、心拍観測処理(図8)及び瞳孔径観測処理(図9)のいずれかが実行中であってもステップSA14を実行可能である。
【0085】
情報処理装置10は、ステップSA14で取得した観測値R及び観測値Pを状態変数として含む観測情報を生成する(ステップSA15)。本実施形態では状態変数が2つの観測値R、Pを含むが、状態変数は3以上の観測値を含んでもよい。情報処理装置10は、生成した観測情報を、観測値R及び観測値Pのいずれか、或いは両方が生成された時刻に対応付けてメモリ120に記憶する(ステップSA16)。ステップSA16で、情報処理装置10は、観測情報を生成した時刻に対応付けて、観測情報を記憶してもよい。情報処理装置10は、観測情報生成処理を終了するか否かを判定する(ステップSA17)。車両1の制御系が停止した場合など、観測情報生成処理を終了する条件が成立した場合には(ステップSA17;YES)、情報処理装置10は図7の処理を終了する。処理を終了しない場合(ステップSA17;NO)、情報処理装置10はステップSA14に戻る。
【0086】
図7図8及び図9の動作により、1台の車両1において、ユーザU1の観測情報が生成される。この動作を複数の車両1において情報処理装置10が実行することにより、複数のユーザU1を対象として、観測情報が生成される。生成された観測情報は、時刻に対応付けてメモリ120に記憶される。従って、1人のユーザU1に対して、時刻の異なる複数の観測情報が生成され、メモリ120に蓄積される。
【0087】
[5-3.状態モデルの生成]
図10は、サーバ5の動作例を示すフローチャートであり、状態モデル生成処理の詳細を示す。図10のステップSB11は観測情報収集部501により実行され、ステップSB12~SB13はクラスタリング処理部511により実行され、ステップSB13~SB19はクラスタ割当部512により実行される。図11は、状態モデル生成処理におけるヒト状態マップ540の例を示す模式図である。
【0088】
サーバ5は、各々の車両1から、車両毎に観測情報を取得する(ステップSB11)。例えば、サーバ5は、車両1Aから観測情報を取得する処理、及び、車両1Bから観測情報を取得する処理を実行する。サーバ5は、取得した観測情報から観測値R及び観測値Pを抽出し、観測値Rと観測値Pとをヒト状態マップ540上にプロットする(ステップSB12)。ヒト状態マップ540はクラスタリング処理部511の動作を模式的に示すマップであり、実際にはヒト状態マップ540に相当するデータがメモリ520に記憶される。
【0089】
ヒト状態マップ540は、図11に例として示すように、観測情報に含まれる状態変数が2つの観測値R、Pを含むことに対応する2次元のマップである。図11の例では、横軸が観測値Pであり、縦軸が観測値Rであり、1つの観測情報が1つのプロット541として配置される。例えば、2台の車両1A、1Bのそれぞれから、時刻の異なる10個の観測情報をサーバ5が取得した場合、ヒト状態マップ540には20個の観測情報がプロットされる。
【0090】
サーバ5は、ヒト状態マップ540上のプロット541を対象としてクラスタリング処理を実行し、指定された数のクラスタに分類する(ステップSB13)。本実施形態ではクラスタの数として3が指定される。分類の具体的な手法としては、上述したように、k平均法、階層法、その他の公知のクラスタ解析の手法を用いることができる。
【0091】
サーバ5は、ステップSB13で分類された各クラスタに含まれる観測情報の観測値R、及び、観測値Pを取得する(ステップSB14)。サーバ5は、クラスタ毎に、ステップSB14で取得した観測値Rの平均値、及び、観測値Pの平均値を算出する(ステップSB15)。
【0092】
サーバ5は、観測値Rの平均値が最も小さいクラスタを、適度な認知負荷状態に対応付ける(ステップSB16)。これにより、1つのクラスタに対し、認知負荷状態の意味づけが行われる。
【0093】
続いて、サーバ5は、意味づけがされていない残りのクラスタのうち観測値Pの平均値が最も大きいクラスタを、高認知負荷状態に対応付ける(ステップSB17)。さらに、サーバ5は、意味づけがされていない残りのクラスタを、低認知負荷状態に対応付ける(ステップSB18)。ステップSB16~SB18により、3つのクラスタに対し、認知負荷状態の意味づけが行われる。
【0094】
図11には、クラスタリング処理部511により分類された3つのクラスタC1、C2、C3を示す。クラスタC1は適度な認知負荷状態に対応付けられ、クラスタC2は低認知負荷状態に対応付けられ、クラスタC3は高認知負荷状態に対応付けられる。
【0095】
サーバ5は、状態モデル513を生成する(ステップSB19)。状態モデル513は、新たな観測情報が状態モデル513に入力された場合に、入力された観測情報がクラスタC1、C2、C3のいずれに属するかを判定し、判定したクラスタに対して意味づけがなされた認知負荷状態を、判定結果として出力する。従って、状態モデル513の出力は、適度な認知負荷状態、高認知負荷状態、低認知負荷状態のいずれかである。
【0096】
状態モデル513は、例えば、クラスタC1、C2、C3と、各クラスタに含まれる観測値R及び観測値Pの値との相関を機械学習した学習済みモデルであり、いわゆるAI(Artificial Intelligence)である。この場合、ステップSB12~SB13のクラスタリング処理部511によるクラスタリング処理は、機械学習の一種である教師なし学習に相当する。ステップSB14~SB18の処理は、学習済みモデルの出力データの設定を行うことに相当する。また、状態モデル513は、観測値R及び観測値Pから認知負荷状態を判定するプログラム、関数、或いは、閾値等のパラメータであってもよい。
【0097】
ステップSB19で生成された状態モデル513は、サーバ5が情報処理装置10及び状態推定装置20への送信を行うため、メモリ520に状態モデル524として記憶される。状態モデル524は、状態モデル513それ自体、または、情報処理装置10及び状態推定装置20が状態モデル513と同様のモデルを生成するためのプログラムやデータである。そして、図6のステップSB3において、状態モデル524は情報処理装置10、及び、状態推定装置20に送信され、情報処理装置10及び状態推定装置20が推定処理を実行可能となる。
【0098】
サーバ5は、図10の状態モデル生成処理を所定のタイミングで実行する。例えば、サーバ5は、情報処理装置10から受信した観測情報の数が予め設定された閾値以上となった場合に、状態モデル生成処理を実行する。また、サーバ5は、設定された数の観測情報を情報処理装置10から受信する毎、或いは、状態モデル513を生成してから設定された時間が経過する毎に、状態モデル生成処理を実行する。この場合、サーバ5は、既に生成した状態モデル513を更新し、更新した状態モデル513に対応する状態モデル524を、情報処理装置10及び状態推定装置20に送信する。
【0099】
[5-4.推定処理]
図12は、状態推定装置20の動作例を示すフローチャートであり、推定処理の詳細を示す。推定処理は、図6に示したように、情報処理装置10及び状態推定装置20の両方が実行可能である。ここでは、ステップSC2で状態推定装置20が実行する推定処理を説明するが、情報処理装置10が実行する推定処理も同様である。
ステップSC11~SC14は取得部201により実行され、ステップSC15は観測情報生成部202により実行され、ステップSC16は推定部210により実行される。ステップSC17~SC19は出力制御部212により実行される。
【0100】
状態推定装置20は、車両2の始動を検知すると(ステップSC11)、心拍観測処理を開始し(ステップSC12)、瞳孔径観測処理を開始する(ステップSC13)。ステップSC12、SC13は逆の順序であっても同時に行われてもよい。ステップSC11~SC13は、図7に示したステップSA11~SA13と同様の動作である。
【0101】
状態推定装置20は、観測値R及び観測値Pを取得する(ステップSC14)。ステップSC14で、状態推定装置20は、メモリ220に記憶されている観測値R及び観測値Pを取得するので、心拍観測処理(図8)及び瞳孔径観測処理(図9)のいずれかが実行中であってもステップSC14を実行可能である。
【0102】
状態推定装置20は、ステップSC14で取得した観測値R及び観測値Pを状態変数として含む観測情報を生成する(ステップSC15)。状態推定装置20は、ステップSC15で生成した観測情報を状態モデル211に入力することにより、観測情報が属するクラスタを特定する(ステップSC16)。状態推定装置20は、特定したクラスタに対応付けられた認知負荷状態を取得する(ステップSC17)。具体的には、状態推定装置20は、適度な認知負荷状態、高認知負荷状態、及び低認知負荷状態のいずれかの推定結果を取得する。
【0103】
状態推定装置20は、ステップSC17で取得した認知負荷状態を表示する(ステップSC18)。ステップSC18では、認知負荷状態から特定されるユーザU2の集中度を表示してもよい。例えば、状態推定装置20は、ディスプレイ302、及び、メーターパネル304のいずれか又は両方に、ユーザU2の認知負荷状態または運転に対する集中度を示す文字や画像を表示する。
【0104】
図13は、出力制御部212がメーターパネル304に表示させる状態表示部361の例を示す図である。状態表示部361は、例えば、メーターパネル304に設けられる液晶表示パネルに表示される。
【0105】
状態表示部361は、針形状のインジケータ363と、インジケータ363の移動範囲に配置されたゲージ362とを有する。ゲージ362は円弧状の形状であり、インジケータ363はゲージ362に沿って回動する。ゲージ362及びインジケータ363は、例えば液晶表示パネルに表示される画像である。
【0106】
ゲージ362は、3つの領域362A、362B、362Cに区分され、各領域362A、362B、362Cは異なる色で塗り分けられる。領域362AはユーザU2の認知負荷状態が低いこと、すなわち低認知負荷状態であることを示す。領域362BはユーザU2が適度な認知負荷状態であることを示し、領域362CはユーザU2が高認知負荷状態であることを示す。領域362A、362B、362Cの色は、各々の領域が対応する認知負荷状態を連想させる色で塗り分けられてもよい。また、領域362A、362B、362Cに、各領域が対応する認知負荷状態を示す文字、或いは、各領域の認知負荷状態に対応するタスク処理量を示す文字が付加されてもよい。
【0107】
出力制御部212は、状態表示部361を表示させることにより、ゲージ362におけるインジケータ363の位置によってユーザU2の認知負荷状態、タスク処理量、或いは、運転への集中度を表示できる。
【0108】
状態推定装置20は、ステップSC18の後、或いはステップSC18と並行して、認知負荷状態に対応して状態推定装置20の出力を調整する(ステップSC19)。ステップSC19では、車両2が備える装置からユーザU2に対する出力を調整する。具体的には、状態推定装置20は、出力制御部212によって、スピーカ303から出力される音の音量、ディスプレイ302またはメーターパネル304の表示輝度、及び、表示される情報量を調整する。
【0109】
ユーザU2が高認知負荷状態である場合、出力制御部212は、ユーザU2の認知負荷を軽減するように、出力を調整する。例えば、出力制御部212は、スピーカ303から出力される音の音量を低下させる処理、ディスプレイ302の表示輝度(明るさ)を低下させる処理、メーターパネル304の表示輝度(明るさ)を低下させる処理を実行する。これらの処理によってユーザU2に加わる外的刺激の強度を低下させることができ、ユーザU2の認知負荷の増大の抑制、或いは、認知負荷の低減を実現できる。
【0110】
また、例えば、出力制御部212は、ユーザU2の認知負荷を軽減させるため、ユーザU2に対して車両1が出力する情報量を低減させる。具体的には、出力制御部212は、スピーカ303から音を出力する機会を減少させる。状態推定装置20が、ナビゲーションシステム331から入力されるデータに基づいてスピーカ303から音声を出力させる制御を行う場合、出力制御部212は、音声の出力に用いるデータを間引くことにより、スピーカ303から音声を出力する回数や頻度を低下させる。出力制御部212は、ナビゲーションシステム331に対して、音声出力の回数や頻度を低下させることの指示を出力してもよい。
【0111】
また、例えば、出力制御部212は、ユーザU2の認知負荷を軽減させるため、ディスプレイ302やメーターパネル304に表示される情報の量を減少させる。状態推定装置20が、ナビゲーションシステム331から入力されるデータに基づいてディスプレイ302に情報を表示させる制御を行う場合、出力制御部212は、表示に用いるデータを間引くことにより、表示される情報量を低減させる。また、出力制御部212は、ナビゲーションシステム331に対して、表示する情報量を低減させることの指示を出力してもよい。また、出力制御部212は、メーターパネル304において、車両1の走行に関する重要度の低い表示を停止させてもよい。
【0112】
ユーザU2が低認知負荷状態であると推定された場合、出力制御部212は、ユーザU2の認知負荷を増加させるように、出力処理を実行する。例えば、出力制御部212は、スピーカ303から出力される音の音量を大きくする処理、ディスプレイ302の表示輝度(明るさ)を増大させる処理、メーターパネル304の表示輝度(明るさ)を増大させる処理を実行する。これらの処理によってユーザU2に加わる外的刺激の強度を増大させることができ、ユーザU2の認知負荷の低下の抑制、或いは、認知負荷の増加を実現できる。また、例えば、出力制御部212は、ユーザU2に対して車両1が出力する情報量を増加させる。具体的には、出力制御部212は、スピーカ303から音を出力する機会を増加させる。この場合、出力制御部212は、ナビゲーションシステム331に対して、音声出力の回数や頻度を増加させることの指示を出力してもよい。また、出力制御部212は、ディスプレイ302やメーターパネル304に表示される情報の量を増加させてもよい。具体的には、出力制御部212は、ナビゲーションシステム331に対して、表示する情報量を増加させることの指示を出力してもよい。また、出力制御部212は、メーターパネル304において、車両1の走行に関する重要度の低い表示を多く表示させてもよい。
【0113】
ユーザU2が適度な認知負荷状態であると推定された場合、出力制御部212は、ユーザU2の認知負荷の変動を抑制するように、出力処理を実行する。例えば、出力制御部212は、スピーカ303から出力される音の音量の変化を抑制する処理、ディスプレイ302の表示輝度(明るさ)の変化を抑制する処理、メーターパネル304の表示輝度(明るさ)の変化を抑制する処理を実行する。具体的には、出力制御部212は、スピーカ303から出力される音の音量を、予め設定された範囲を超えて増大または低減させる処理または操作がなされた場合に、音量の変化量を、当該処理または操作に対応する変化量よりも小さくする。これらの処理によってユーザU2に加わる外的刺激の変化を抑制させ、ユーザU2の認知負荷を、適度な認知負荷状態に維持できる。この場合において、出力制御部212は、例えば、スピーカ303から音を出力する機会の増加及び減少、ディスプレイ302やメーターパネル304に表示される情報量の変化を抑制してもよい。
【0114】
状態推定装置20は、推定処理を終了するか否かを判定する(ステップSC20)。車両1の制御系が停止した場合など、推定処理を終了する条件が成立した場合には(ステップSC20;YES)、状態推定装置20は図12の処理を終了する。処理を終了しない場合(ステップSC20;NO)、状態推定装置20はステップSC14に戻る。
【0115】
状態推定装置20は、ステップSC14~SC20を繰り返し実行することにより、例えば30秒毎に新しい観測値R及び観測値Pが取得される。このため、ユーザU2の認知負荷状態の推定結果が、30秒毎に更新され、更新された推定結果に基づいて、認知負荷状態の表示(ステップSC18)、及び、出力の調整(ステップSC19)が行われる。
【0116】
上述したように、図12及び図13を参照して説明した推定処理は、状態推定装置20に限定されず、情報処理装置10が、推定部110及び出力制御部112によって実行できる。これにより、ユーザU1の状態の推定、ユーザU1に関する推定結果に応じた認知負荷状態の表示、及び、ユーザU1の認知負荷状態に対応する出力の調整を実行可能である。そして、出力制御部112、212を含むことにより、情報処理装置10及び状態推定装置20は、制御装置の一例に対応する。
【0117】
[6.他の実施形態]
上述した実施形態は、あくまでも一態様を示すものであり任意に変形及び応用が可能である。
例えば、上記実施形態では、ユーザの状態情報として、瞳孔径の観測値、及び、心拍間隔の観測値を利用する例を説明した。これは一例であり、ユーザの単位時間あたりの呼吸間隔を観測値として含む状態情報を用いてもよい。また、観測情報は、観測値のほか、操作量を含んでもよい。これらの場合、状態モデル生成部510は、観測情報に含まれる観測値及び操作量をクラスタリングし、指定された数のクラスタを特定する。
【0118】
上記実施形態では、状態モデル生成部510が処理する観測情報が、2つの観測値を含む2次元のデータセットであり、2次元のヒト状態マップ540によりクラスタリング処理を実行する例を説明した。これは一例であり、例えば、より多くの次元のデータセットをクラスタリング処理してもよい。すなわち、観測情報に含まれる観測値と操作量とが合わせて3以上である場合に、3次元、或いはより多次元のデータセットに対するクラスタリング処理を実行してもよい。
【0119】
上記実施形態では、車両1、2が備える車両機能部330の例としてナビゲーションシステム331を説明したが、車両機能部330は、表示や音声出力を行う他の装置であってもよい。具体的には、車両機能部330は、ADAS(Advanced Driver-Assistance System)、音楽プレイヤー、その他のインフォテイメントシステムを含んでもよい。
【0120】
また、情報処理装置10は、状態モデル取得部104、推定部110、及び、出力制御部112を備えていない構成であってもよい。すなわち、情報処理装置10は、観測情報を生成してサーバ5に送信する機能のみを備える装置であってもよい。
【0121】
状態モデル513を生成する処理をサーバ5が実行する構成は一例である。例えば、情報処理装置10または状態推定装置20が、状態モデル生成部510と同様の構成を備え、状態モデルを生成する処理を行ってもよい。この場合、状態モデルを生成した情報処理装置10または状態推定装置20は、他の情報処理装置10及び状態推定装置20に状態モデルを送信してもよい。
【0122】
プロセッサ100、200、500は、単一のプロセッサにより構成されてもよいし、複数のプロセッサにより構成されていてもよい。プロセッサ100、200、500は、対応する機能部を実現するようプログラムされたハードウェアでもよい。すなわち、プロセッサ100は、例えば、ASIC(Application Specific Integrated Circuit)やFPGA(Field Programmable Gate Array)で構成されてもよい。
【0123】
また、図2図4図5に示した各部の構成は一例であって、具体的な実装形態は特に限定されない。つまり、必ずしも各部に個別に対応するハードウェアが実装される必要はなく、一つのプロセッサがプログラムを実行することで各部の機能を実現する構成とすることも勿論可能である。また、上述した実施形態においてソフトウェアで実現される機能の一部をハードウェアとしてもよく、或いは、ハードウェアで実現される機能の一部をソフトウェアで実現してもよい。その他、情報処理システム1000の各部の具体的な細部構成についても任意に変更可能である。
【0124】
また、図6図10図12に示す動作のステップ単位は、動作の理解を容易にするために、主な処理内容に応じて分割したものであり、処理単位の分割の仕方や名称によって、本発明が限定されることはない。処理内容に応じて、さらに多くのステップ単位に分割してもよい。また、1つのステップ単位がさらに多くの処理を含むように分割してもよい。また、そのステップの順番は、本発明の趣旨に支障のない範囲で適宜に入れ替えてもよい。
【0125】
また、上述した情報処理システム1000における情報処理方法を、プロセッサ100、200、500を用いて実現する場合、これらの各プロセッサが実行するプログラムを非一時的な記録媒体に記憶する態様としてもよいし、このプログラムを伝送する伝送媒体の態様で構成することも可能である。例えば、アプリ122、222、522は、可搬型の情報記録媒体にアプリ122を記録した状態で実現することも可能である。情報記録媒体は、ハードディスク等の磁気的記録媒体、CD等の光学的記録媒体、USB(Universal Serial Bus)メモリやSSD(Solid State Drive)等の半導体記憶デバイスが挙げられるが、その他の記録媒体を用いることも可能である。
【0126】
[7.上記実施形態によりサポートされる構成]
上記実施形態は、以下の構成をサポートする。
【0127】
(構成1)移動体を操縦する操縦者を観測した観測値を含む状態変数を取得する取得部と、所定の観測タイミングで観測された前記観測値を含む前記状態変数に基づいて、前記操縦者の観測情報を生成する観測情報生成部と、複数の前記操縦者のそれぞれの前記観測値を含む前記状態変数に基づいて生成された複数の前記観測情報を取得する観測情報収集部と、前記観測情報収集部により取得された複数の前記観測情報を、複数のクラスタにクラスタリングするクラスタリング処理部と、を備える、情報処理システム。
構成1の情報処理システムによれば、移動体を操縦する複数の操縦者について生成された観測情報をクラスタリングすることにより、複数の操縦者に関する情報をもとに、操縦者の状態を判定するための情報を得ることができる。このため、移動体を操縦する操縦者の状態を、より高精度で判定する技術の実現を可能とし、延いては持続可能な輸送システムの発展に寄与できる。
【0128】
(構成2)複数の前記クラスタの各々に、前記操縦者の操縦中における認知負荷に対応する意味づけを行うクラスタ割当部を備える、構成1に記載の情報処理システム。
構成2の情報処理システムによれば、操縦者に関する観測値を含む状態変数を、操縦中における認知負荷に対応付けられたクラスタに分類することにより、観測値と認知負荷との相関を示す情報を得ることができる。これにより、移動体を操縦する操縦者の状態を、より高精度で判定する技術を実現できる。
【0129】
(構成3)前記クラスタ割当部は、複数の前記クラスタの各々に、前記操縦者の操縦中における認知負荷の高さに対応する意味づけを行う、構成2に記載の情報処理システム。
構成3の情報処理システムによれば、操縦者に関する観測値を用いて、観測値と認知負荷の高さとの相関を示す情報を得ることができる。これにより、移動体を操縦する操縦者の状態を、より高精度で判定する技術を実現できる。
【0130】
(構成4)前記取得部は前記移動体に搭載され、前記観測情報収集部は、前記移動体において前記取得部が取得した前記状態変数に基づいて前記観測情報生成部が生成する前記観測情報を、複数の前記移動体から取得する、構成1から構成3のいずれか1項に記載の情報処理システム。
構成4の情報処理システムによれば、複数の移動体から操縦者の観測値に関する情報を収集することによって、より多くの情報に基づいて、観測値と操縦者の状態との相関に関する情報を得ることができる。このため、操縦者の状態を、より高い精度で判定する技術を実現できる。
【0131】
(構成5)前記観測値は、前記操縦者の心拍間隔、呼吸間隔、及び、瞳孔径の少なくともいずれかを含む、構成1から構成4のいずれか1項に記載の情報処理システム。
構成5の情報処理システムによれば、操縦者の身体に関する観測値から、操縦者の状態を、より高い精度で判定できる。
【0132】
(構成6)前記状態変数は、前記観測値と、前記移動体が備える操作部の操作量とを含む、構成1から構成5のいずれか1項に記載の情報処理システム。
構成6の情報処理システムによれば、移動体の操作部に対する操縦者の操作を反映して、操縦者の状態を、より高精度で判定できる。
【0133】
(構成7)コンピュータにより、移動体を操縦する操縦者を観測した観測値を含む状態変数を取得し、所定の観測タイミングで観測された前記観測値を含む前記状態変数に基づいて、前記操縦者の観測情報を生成し、複数の前記操縦者のそれぞれの前記観測値を含む前記状態変数に基づいて生成された複数の前記観測情報を取得し、取得した複数の前記観測情報を複数のクラスタにクラスタリングする、情報処理方法。
構成7の情報処理方法によれば、移動体を操縦する複数の操縦者について生成された観測情報をクラスタリングすることにより、複数の操縦者に関する情報をもとに、操縦者の状態を判定するための情報を得ることができる。このため、移動体を操縦する操縦者の状態を、より高精度で判定する技術の実現を可能とし、延いては持続可能な輸送システムの発展に寄与できる。
【符号の説明】
【0134】
1、2…車両(移動体)、5…サーバ、10…情報処理装置(状態推定装置)、20…状態推定装置、100…プロセッサ、101…取得部、102…観測情報生成部、103…観測情報送信部、104…状態モデル取得部、110…推定部、111…状態モデル、112…出力制御部、120…メモリ、121…制御プログラム、122…アプリ、123…観測情報、131、231…センサI/F、132、232…操作部I/F、200…プロセッサ、201…取得部、202…観測情報生成部、204…状態モデル取得部、210…推定部、211…状態モデル、212…出力制御部、221…制御プログラム、222…アプリ、301…通信装置、302…ディスプレイ、303…スピーカ、304…メーターパネル、311…カメラ、312…心拍センサ、321…アクセルペダルセンサ、322…ブレーキペダルセンサ、323…舵角センサ、330…車両機能部、331…ナビゲーションシステム、361…状態表示部、500…プロセッサ、501…観測情報収集部、502…送信処理部、510…状態モデル生成部、511…クラスタリング処理部、512…クラスタ割当部、513…状態モデル、520…メモリ、521…制御プログラム、522…アプリ、523…観測情報、524…状態モデル、530…通信装置、1000…情報処理システム、NW…通信ネットワーク、R、P…観測値、U1、U1A、U1B、U2、U2A、U2B…ユーザ(操縦者)。
図1
図2
図3
図4
図5
図6
図7
図8
図9
図10
図11
図12
図13