IP Force 特許公報掲載プロジェクト 2022.1.31 β版

知財求人 - 知財ポータルサイト「IP Force」

▶ 本田技研工業株式会社の特許一覧

特開2024-141442情報処理システム、情報処理方法、及び、プログラム
<>
  • 特開-情報処理システム、情報処理方法、及び、プログラム 図1
  • 特開-情報処理システム、情報処理方法、及び、プログラム 図2
  • 特開-情報処理システム、情報処理方法、及び、プログラム 図3
  • 特開-情報処理システム、情報処理方法、及び、プログラム 図4
  • 特開-情報処理システム、情報処理方法、及び、プログラム 図5
  • 特開-情報処理システム、情報処理方法、及び、プログラム 図6
  • 特開-情報処理システム、情報処理方法、及び、プログラム 図7
  • 特開-情報処理システム、情報処理方法、及び、プログラム 図8
  • 特開-情報処理システム、情報処理方法、及び、プログラム 図9
  • 特開-情報処理システム、情報処理方法、及び、プログラム 図10
  • 特開-情報処理システム、情報処理方法、及び、プログラム 図11
  • 特開-情報処理システム、情報処理方法、及び、プログラム 図12
< >
(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公開特許公報(A)
(11)【公開番号】P2024141442
(43)【公開日】2024-10-10
(54)【発明の名称】情報処理システム、情報処理方法、及び、プログラム
(51)【国際特許分類】
   G08G 1/16 20060101AFI20241003BHJP
   G08G 1/00 20060101ALI20241003BHJP
【FI】
G08G1/16 F
G08G1/00 D
【審査請求】未請求
【請求項の数】8
【出願形態】OL
(21)【出願番号】P 2023053100
(22)【出願日】2023-03-29
(71)【出願人】
【識別番号】000005326
【氏名又は名称】本田技研工業株式会社
(74)【代理人】
【識別番号】110001081
【氏名又は名称】弁理士法人クシブチ国際特許事務所
(72)【発明者】
【氏名】村松 雄介
(72)【発明者】
【氏名】坂本 直宏
(72)【発明者】
【氏名】安達 紘子
【テーマコード(参考)】
5H181
【Fターム(参考)】
5H181AA01
5H181BB04
5H181CC04
5H181CC27
5H181FF10
5H181LL07
5H181LL08
5H181LL20
(57)【要約】
【課題】車両等の移動体を操縦する操縦者の状態を、より高精度で推定する技術を実現する。
【解決手段】移動体を操縦する操縦者を観測した観測値を含む状態変数を取得する取得部と、移動体において観測された観測値を含む状態変数に基づいて、操縦者の観測情報を生成する観測情報生成部と、1人の操縦者の観測情報を蓄積し、蓄積した複数の観測情報を複数のクラスタにクラスタリングする処理、及び、複数のクラスタの各々に、操縦者の操縦中における認知負荷に対応する意味づけを行う処理を実行することにより、状態変数と操縦者の操縦中における認知負荷との相関を有する状態モデルを生成する状態モデル生成部と、状態モデルを用いることにより、状態変数または観測情報から操縦者の状態を推定する推定部と、を備える、情報処理システム。
【選択図】図1
【特許請求の範囲】
【請求項1】
移動体を操縦する操縦者を観測した観測値を含む状態変数を取得する取得部と、
前記移動体において観測された前記観測値を含む前記状態変数に基づいて、前記操縦者の観測情報を生成する観測情報生成部と、
1人の前記操縦者の前記観測情報を蓄積し、蓄積した複数の前記観測情報を複数のクラスタにクラスタリングする処理、及び、複数の前記クラスタの各々に、前記操縦者の操縦中における認知負荷に対応する意味づけを行う処理を実行することにより、前記状態変数と前記操縦者の操縦中における認知負荷との相関を有する状態モデルを生成する状態モデル生成部と、
前記状態モデルを用いることにより、前記状態変数または前記観測情報から前記操縦者の状態を推定する推定部と、を備える、情報処理システム。
【請求項2】
前記観測値は、前記操縦者の心拍間隔、呼吸間隔、及び、瞳孔径の少なくともいずれかを含む、請求項1に記載の情報処理システム。
【請求項3】
前記取得部は、前記状態変数を所定の周期で取得し、
前記推定部は、前記取得部が前記状態変数を取得する毎に、取得された前記状態変数から前記操縦者の状態を推定する、請求項1に記載の情報処理システム。
【請求項4】
前記推定部が推定する前記操縦者の状態は、前記操縦者の操縦に対する集中度に対応する、請求項1に記載の情報処理システム。
【請求項5】
前記状態変数は、前記観測値と、前記移動体が備える操作部の操作量とを含む、請求項1に記載の情報処理システム。
【請求項6】
前記推定部の推定結果を、前記移動体に設けられた表示部に表示させる、請求項1に記載の情報処理システム。
【請求項7】
コンピュータにより、
移動体を操縦する操縦者を観測した観測値を含む状態変数を取得し、
所定の観測タイミングで観測された前記観測値を含む前記状態変数に基づいて、前記操縦者の観測情報を生成し、
1人の前記操縦者の前記観測情報を蓄積し、蓄積した複数の前記観測情報を複数のクラスタにクラスタリングする処理、及び、複数の前記クラスタの各々に、前記操縦者の操縦中における認知負荷に対応する意味づけを行う処理を実行することにより、前記状態変数と前記操縦者の操縦中における認知負荷との相関を有する状態モデルを生成し、
前記状態モデルを用いることにより、前記状態変数または前記観測情報から前記操縦者の状態を推定する、情報処理方法。
【請求項8】
コンピュータを、
移動体を操縦する操縦者を観測した観測値を含む状態変数を取得する取得部と、
前記移動体において観測された前記観測値を含む前記状態変数に基づいて、前記操縦者の観測情報を生成する観測情報生成部と、
1人の前記操縦者の前記観測情報を蓄積し、蓄積した複数の前記観測情報を複数のクラスタにクラスタリングする処理、及び、複数の前記クラスタの各々に、前記操縦者の操縦中における認知負荷に対応する意味づけを行う処理を実行することにより、前記状態変数と前記操縦者の操縦中における認知負荷との相関を有する状態モデルを生成する状態モデル生成部と、
前記状態モデルを用いることにより、前記状態変数または前記観測情報から前記操縦者の状態を推定する推定部と、
して機能させる、プログラム。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、情報処理システム、情報処理方法、及び、プログラムに関する。
【背景技術】
【0002】
近年、交通参加者の中でも高齢者や障がい者や子供といった脆弱な立場にある人々にも配慮した持続可能な輸送システムへのアクセスを提供する取り組みが活発化している。この実現に向けて運転支援技術を通して交通の安全性や利便性をより一層改善する研究開発に注力している。
例えば、特許文献1は、車両の運転に係るアクセルペダル、ブレーキペダル、ハンドルなどの操作量を解析することにより、車両の運転を行うドライバーの緊張度を判定する構成を開示する。また、特許文献2は、車両のドライバーの顔を撮影した画像を用いて、ドライバーの眠気レベルを判定する構成を開示する。
【先行技術文献】
【特許文献】
【0003】
【特許文献1】特開2017―197002号公報
【特許文献2】特開2021―096784号公報
【発明の概要】
【発明が解決しようとする課題】
【0004】
ところで、車両のドライバー等の操縦者を支援する支援技術においては、操縦者の状態に合わせて適切な支援を行うことが求められるが、そのためには操縦者の状態を、より高い精度で推定する必要があった。
本願は上記課題の解決のため、車両等の移動体を操縦する操縦者の状態をより高精度で推定する技術の実現を目的としたものである。そして、延いては持続可能な輸送システムの発展に寄与するものである。
【課題を解決するための手段】
【0005】
本発明の一態様は、移動体を操縦する操縦者を観測した観測値を含む状態変数を取得する取得部と、前記移動体において観測された前記観測値を含む前記状態変数に基づいて、前記操縦者の観測情報を生成する観測情報生成部と、1人の前記操縦者の前記観測情報を蓄積し、蓄積した複数の前記観測情報を複数のクラスタにクラスタリングする処理、及び、複数の前記クラスタの各々に、前記操縦者の操縦中における認知負荷に対応する意味づけを行う処理を実行することにより、前記状態変数と前記操縦者の操縦中における認知負荷との相関を有する状態モデルを生成する状態モデル生成部と、前記状態モデルを用いることにより、前記状態変数または前記観測情報から前記操縦者の状態を推定する推定部と、を備える、情報処理システムである。
【発明の効果】
【0006】
本発明の一態様によれば、1人の操縦者を観測した観測値から生成される状態モデルを利用して、この操縦者の状態を推定する。このため、操縦者の状態をより高い精度で推定することが可能となり、延いては持続可能な輸送システムの発展に寄与できる。
【図面の簡単な説明】
【0007】
図1図1は、情報処理システムの構成例を示す図である。
図2図2は、情報処理装置の構成例を示すブロック図である。
図3図3は、車両の構成例を示す図である。
図4図4は、サーバの構成例を示すブロック図である。
図5図5は、情報処理システムの動作例を示すシーケンス図である。
図6図6は、情報処理装置の動作例を示すフローチャートである。
図7図7は、情報処理装置の動作例を示すフローチャートである。
図8図8は、情報処理装置の動作例を示すフローチャートである。
図9図9は、サーバの動作例を示すフローチャートである。
図10図10は、ヒト状態マップの例を示す模式図である。
図11図11は、状態推定装置の動作例を示すフローチャートである。
図12図12は、状態表示部の例を示す図である。
【発明を実施するための形態】
【0008】
[1.情報処理システムの構成]
図1は、情報処理システム1000の構成を示す図である。
情報処理システム1000は、車両1に搭載された情報処理装置10と、サーバ5と、を含む。サーバ5は、通信ネットワークNWを介して、情報処理装置10と相互にデータ通信可能に接続される。図1には、2台の車両1A、1Bに搭載された情報処理装置10が情報処理システム1000に含まれる構成を一例として示しているが、情報処理システム1000に含まれる情報処理装置10の数に制限はない。以下の説明では、車両1A、1Bを区別しない場合に車両1と記載する。
【0009】
車両1は移動体の一例である。車両1は、ユーザUが搭乗するキャビン(乗員室)を備えていればよく、移動体は、4輪の車両に限定されず、5輪以上の車両でもよく、3輪以下の車両でもよい。また、移動体としての車両は、バス等の大型車両、商用車両、或いは作業用車両等であってもよい。また、移動体としては、上記の自動車のような陸上移動体のほか、船舶、潜水艇等の海洋移動体、eVTOL(Electric Vertical Take-Off and Landing aircraft)を含む航空機、飛行船等の空中移動体、あるいは、宇宙船、人工衛星などの宇宙移動体であってもよい。
【0010】
車両1AにはユーザU1Aが乗車し、車両1BにはユーザU1Bが乗車する。ユーザU1A、U1Bを区別しない場合にユーザU1と記載する。ユーザU1は、移動体を操縦する操縦者の一例である。ユーザU1が車両1を運転することは、操縦の一例である。
【0011】
通信ネットワークNWは、公衆回線網や、専用線、その他の通信回路などで構成される通信ネットワークである。
【0012】
サーバ5は、各々の情報処理装置10とデータを送受信するコンピュータである。サーバ5は、単一のサーバコンピュータであってもよいし、複数のサーバコンピュータにより構成されてもよいし、クラウドサーバであってもよい。サーバ5は、管理装置の一例に対応する。
【0013】
[2.情報処理装置の構成]
図2は、車両1に搭載される情報処理装置10の構成例を示すブロック図である。図3は、車両1の構成例を示す図である。
情報処理装置10は、車両1に搭載される装置であり、プロセッサ100を有するコンピュータである。情報処理装置10は、車両1に固定された装置であってもよいし、携帯可能な装置であって車両1に一時的に設置される装置であってもよい。例えば、情報処理装置10として、スマートフォン、タブレット型コンピュータ、その他の形態のパーソナルコンピュータ、カーナビゲーション装置、または、ディスプレイオーディオ装置を採用できる。
【0014】
情報処理装置10には、車両1に搭載された通信装置301、ディスプレイ302、スピーカ303、及び、メーターパネル304が接続される。これらの装置を情報処理装置10が内蔵する構成であってもよい。
【0015】
通信装置301は、データを送信するトランスミッタ、及び、データを受信するレシーバを備える無線通信装置であり、セルラー通信を実行する。通信装置301は、プロセッサ100の制御に従って通信ネットワークNWに接続し、通信ネットワークNWを通じてサーバ5との間でデータ通信を実行する。
【0016】
ディスプレイ302は、液晶表示パネルや有機EL(Electro Luminescence)パネルで構成される表示画面を有し、情報処理装置10が出力する表示信号またはデジタル表示データに基づいて、表示画面に文字や画像を表示する。ディスプレイ302は、例えば、図3に示すように、車両1のダッシュボード350、或いは、インストゥルメントパネルに設置され、ユーザU1から良好に視認される位置にある。
【0017】
スピーカ303は、情報処理装置10が出力する音声信号、または、デジタル音声データに基づいて音を出力する。
【0018】
メーターパネル304は、図3に示すように、ユーザU1が着座する位置の正面、或いは、その近傍に設置される。メーターパネル304は、車両1の車速、エンジン回転数、バッテリの残容量等の情報を表示する。メーターパネル304は液晶表示パネル等の表示画面を用いて構成されてもよいし、LED(Light Emitting Diode)等を有するインジケータランプで構成されてもよい。ディスプレイ302、スピーカ303及びメーターパネル304は、車両1が備える出力装置の一例である。出力装置は、音声、映像、画像、光、その他の刺激により情報をユーザU1に出力する装置を含む。ディスプレイ302及びメーターパネル304は表示部の一例である。
【0019】
情報処理装置10には、カメラ311、及び、心拍センサ312が接続される。
カメラ311は、ユーザU1の顔を含む撮影範囲を撮影するデジタルカメラであり、撮影画像データを情報処理装置10に出力する。カメラ311の撮影画像データは、後述するように、ユーザU1の瞳孔径の観測、及び、ユーザU1の呼吸の検出の少なくともいずれかに利用される。
【0020】
心拍センサ312は、ユーザU1の単位時間あたりの心拍を計測するセンサである。心拍センサ312は、例えば、図3に示すように、車両1のステアリングホイール351に設置された一対の電極354に接続される。この例で、心拍センサ312は、ユーザU1の手が電極354に接触している状態で、ユーザU1の脈の拍動に伴う身体表面の電位変化を検出することにより、ユーザU1の心拍を検出する。心拍センサ312は、ユーザU1の心拍間隔を算出する。心拍センサ312は、例えば、電極354を用いて心拍を検出するセンサと、心拍間隔を算出する制御回路とを含むセンサユニットである。心拍センサ312は、計測値として心拍間隔を出力する。心拍間隔は、例えば秒またはミリ秒を単位とする時間の値である。心拍センサ312が心拍を検出するための構成は電極354に制限されず、例えば、ユーザU1の身体に装着される光センサ等によりユーザU1の心拍を検出してもよい。また、心拍センサ312が検出した心拍に基づいて、プロセッサ100が心拍間隔を算出する構成であってもよい。
【0021】
カメラ311及び心拍センサ312は、ユーザU1の身体に関する観測を行う構成であり、観測部と呼ぶこともできる。情報処理装置10が観測部を用いて観測する対象は、ユーザU1の瞳孔径、呼吸間隔、心拍間隔に制限されず、その他の生体情報を計測するものであってもよい。
【0022】
情報処理装置10は、センサI/F(インターフェイス)131を備える。センサI/F131は、カメラ311及び心拍センサ312に有線で接続される接続部であり、ケーブルを接続するコネクターとインターフェイス回路とを備える。センサI/F131は、カメラ311が出力する撮影画像データ、及び、心拍センサ312が出力する心拍間隔の計測データを取得する。
【0023】
情報処理装置10は、操作部I/F132を備える。操作部I/F132には、車両1が備えるアクセルペダルセンサ321、ブレーキペダルセンサ322、及び、舵角センサ323の少なくともいずれかが接続される。アクセルペダルセンサ321は、車両1を発進および増速させる操作部であるアクセルペダルの踏み込み量、或いは、アクセルペダルの操作に対応するスロットル開度を検出する。ブレーキペダルセンサ322は、車両1を減速および停止させる操作部であるブレーキペダルの踏み込み量を検出する。舵角センサ323は、操作部であるステアリングホイール351の操作量、或いは、ステアリングホイール351の操作に伴う車両1の舵角を検出する。アクセルペダルセンサ321、ブレーキペダルセンサ322、及び、舵角センサ323は、検出値を情報処理装置10に出力する。操作部I/F132は、アクセルペダルセンサ321、ブレーキペダルセンサ322、及び、舵角センサ323が出力する操作量のデータを取得する。操作部I/F132は、例えば、車両1に設置されたCAN(Contrtoller Area Network)に接続される通信装置であり、CANを介して各操作部の操作量を取得してもよい。
【0024】
また、情報処理装置10には、車両1が搭載する車両機能部330が接続される。車両機能部330は、車両1において情報処理装置10とは異なる機能を有する装置である。車両機能部330は、情報処理装置10とは別に機能を実行し、車両機能部330の機能に基づく音声を出力する装置である。車両機能部330は、例えば、ダッシュボード350に設置されてもよいし、情報処理装置10と一体の筐体に収容されてもよい。車両機能部330の具体的な構成は、車両1の仕様等に応じて適宜に変更可能である。本実施形態では、車両機能部330としてナビゲーションシステム331を例示する。
【0025】
ナビゲーションシステム331は、例えば、プロセッサ100とは異なるプロセッサを有するハードウェアであり、例えば、情報処理装置10とは別に車両1に設置されたECU(Electronic Control Unit)を備える。ナビゲーションシステム331は、車両1が移動する移動経路の探索、及び、車両1の移動中における移動経路の案内を行う。ナビゲーションシステム331は、探索した経路に沿って経路案内の実行するため、地図、及び、車両1の現在位置を示す画像を含むナビゲーション用の画面をディスプレイ302に表示させる。また、ナビゲーションシステム331は、車両1の進行方向や、車両1を右折または左折させる場所を知らせる音声を、スピーカ303から出力させる。
【0026】
情報処理装置10は、プロセッサ100、及び、メモリ120を備える。プロセッサ100は、CPU(Central Processing Unit)、MPU(Micro Processing Unit)、或いはその他の集積回路で構成されるコンピュータである。メモリ120は、プログラムやデータを記憶する記憶装置である。プロセッサ100は、揮発性のRAM(Random Access Memory)をワークエリアとして利用してもよい。RAMは、プロセッサ100に統合して実装されてもよいし、メモリ120がRAMを備える構成であってもよい。
【0027】
メモリ120は、書き換え可能な不揮発性の記憶装置であり、プロセッサ100が実行するプログラム、及び、プロセッサ100により処理されるデータを記憶する。メモリ120は、例えば、フラッシュROM(Read Only Memory)やSSD(Solid State Disk)等の半導体記憶デバイス、或いは、磁気的記憶デバイスで構成される。メモリ120は、制御プログラム121、アプリ122、及び、観測情報123を記憶する。
【0028】
制御プログラム121、及びアプリ122はプロセッサ100が実行するプログラムであり、プロセッサ100により読み取り可能にメモリ120に記憶される。制御プログラム121は、プロセッサ100が情報処理装置10の各部を制御するための基本制御プログラムであり、OS(Operating System)である。アプリ122は、OS上で実行されるアプリケーションプログラムである。
【0029】
プロセッサ100は、機能部として、取得部101、観測情報生成部102、観測情報送信部103、状態モデル取得部104、推定部110、及び、出力制御部112を有する。これらの機能部は、プロセッサ100がアプリ122を実行することにより、実現される。アプリ122は、プログラムの一例である。情報処理装置10は、状態モデル取得部104、推定部110、及び出力制御部112に係る機能に関して、状態推定装置の一例に対応する。
【0030】
取得部101は、ユーザU1が車両1を運転している間にユーザU1を観測した観測値を含む状態変数を取得する。状態変数は、少なくとも観測値を含む。観測値とは、具体的には、ユーザU1の心拍間隔、呼吸間隔、及び、瞳孔径の少なくともいずれかを含む。呼吸間隔は、ユーザU1の呼吸の間隔であり、例えば秒またはミリ秒を単位とする時間の値である。例えば、取得部101は、センサI/F131によって取得したカメラ311の撮影画像データから、ユーザU1の瞳孔径の算出、及び、ユーザU1の呼吸の検出の少なくともいずれかを実行する。取得部101は、ユーザU1の呼吸を検出した場合、呼吸間隔を算出する。また、例えば、取得部101は、心拍センサ312の計測値である心拍間隔を観測値として取得する。これらの瞳孔径、呼吸間隔、心拍間隔の少なくともいずれかが状態変数に含まれる。また、状態変数は車両1の操作部の操作量を含んでもよい。例えば、取得部101が操作部I/F132によって操作量を取得し、観測値と操作量とを含む状態変数を取得または生成してもよい。
【0031】
観測情報生成部102は、取得部101が取得した状態変数に基づいて、ユーザU1の観測情報を生成する。観測情報は、状態変数を含む情報であって、状態変数を取得した車両1、情報処理装置10、或いは状態変数の取得の対象となったユーザU1を特定する情報を含む。観測情報生成部102は、状態変数を生成する処理を、予め設定された周期で繰り返し実行する。観測情報送信部103は、観測情報生成部102により生成した観測情報を、通信装置301によってサーバ5に送信する。
【0032】
状態モデル取得部104は、後述するように、サーバ5から状態モデル111を取得する。状態モデル111は、取得部101が取得する状態変数から、ユーザU1の運転中における認知負荷を求めるモデルである。
【0033】
推定部110は、状態モデル111を有する。状態モデル111は、取得部101が取得する状態変数、或いは、状態変数を含む観測情報を状態モデル111に与えることにより、ユーザU1の状態を推定する。推定部110は、例えば、取得部101が状態変数を取得する毎に、或いは、観測情報生成部102が観測情報を生成する毎に、状態変数からユーザU1の状態を推定する。
【0034】
推定部110が推定するユーザU1の状態とは、運転に対するユーザU1の集中度ということができる。後述する例では、推定部110が、ユーザU1の状態を、適度な認知負荷状態と、高認知負荷状態と、低認知負荷状態とのいずれであるかを推定する。
【0035】
発明者らは、車両1等の移動体を操縦するときの人間の集中状態は、人間の認知負荷あるいは認知的負荷に影響を受けることに着目した。認知負荷は、人間の知覚、視覚や聴覚により受ける刺激、人間の動作等に起因して認知機能に加わる負荷をいう。認知負荷状態は、ユーザU1の脳が処理するタスクの処理量ということができる。適度な認知負荷状態では、タスク処理量も適度である。これに対し、高認知負荷状態はタスク処理量が多い状態であり、低認知負荷状態はタスク処理量が少ない状態である。
【0036】
ユーザU1が車両1を運転中のユーザU1の認知負荷が適度である場合、運転に対するユーザU1の集中度が適度な状態となる。運転中のユーザU1の認知負荷が高認知負荷状態である場合、ユーザU1が焦りを感じるような状態となるため、運転に対するユーザU1の集中度が低下する。また、運転中のユーザU1の認知負荷が低認知負荷状態である場合、ユーザU1は刺激の少ない漫然とした状態であるため、運転に対するユーザU1の集中度が低下する。
【0037】
従って、推定部110がユーザU1の状態を推定した結果が、適度な認知負荷状態と、高認知負荷状態と、低認知負荷状態とのいずれであるかをもとに、運転に対するユーザU1の集中度が適度な状態であるか、より集中度が低い状態であるかを判断できる。推定部110は、ユーザU1の観測情報からユーザU1の認知負荷状態を推定し、推定された認知負荷状態から運転に対するユーザU1の集中度を特定できる。つまり、推定部110は、運転に対するユーザU1の集中度を推定するといえる。
【0038】
出力制御部112は、推定部110の推定結果に基づく出力処理を実行する。出力制御部112が実行する出力処理は、推定部110の推定結果を、ディスプレイ302及びメーターパネル304の少なくともいずれかに表示させる処理を含む。また、出力制御部112が実行する出力処理は、ユーザU1への出力を調整する処理を含む。具体的には、出力制御部112は、スピーカ303から出力される音の音量、及び、ディスプレイ302またはメーターパネル304に表示される情報量を調整する。例えば、ユーザU1が高認知負荷状態であると推定された場合、出力制御部112は、ユーザU1の認知負荷を軽減するように、ディスプレイ302、スピーカ303、及びメーターパネル304等からの出力を調整する。出力制御部112は、ユーザU1が低認知負荷状態であると推定された場合、ユーザU1の認知負荷を増加させるように、ディスプレイ302、スピーカ303、及びメーターパネル304等からの出力を調整する。出力の調整に関する具体的な例は後述する。
【0039】
[3.サーバの構成]
図4は、サーバ5の構成例を示すブロック図である。
サーバ5は、プロセッサ500、メモリ520、及び、通信装置530を備える。
【0040】
通信装置530は、データを送信するトランスミッタ、及び、データを受信するレシーバを備える無線通信装置であり、セルラー通信を実行する。通信装置530は、プロセッサ500の制御に従って通信ネットワークNWに接続し、通信ネットワークNWを通じてサーバ5との間でデータ通信を実行する。
【0041】
サーバ5は、プロセッサ500、及び、メモリ520を備える。プロセッサ500は、CPU、MPU、或いはその他の集積回路で構成されるコンピュータである。メモリ520は、プログラムやデータを記憶する記憶装置である。プロセッサ500は、揮発性のRAMをワークエリアとして利用してもよい。RAMは、プロセッサ500に統合して実装されてもよいし、メモリ520がRAMを備える構成であってもよい。
【0042】
メモリ520は、書き換え可能な不揮発性の記憶装置であり、プロセッサ500が実行するプログラム、及び、プロセッサ500により処理されるデータを記憶する。メモリ520は、例えば、フラッシュROMやSSD等の半導体記憶デバイス、或いは、磁気的記憶デバイスで構成される。メモリ520は、制御プログラム521、アプリ522、観測情報523、及び、状態モデル524を記憶する。
【0043】
制御プログラム521、及びアプリ522はプロセッサ500が実行するプログラムであり、プロセッサ500により読み取り可能にメモリ520に記憶される。制御プログラム521は、プロセッサ500がサーバ5の各部を制御するための基本制御プログラムであり、OSである。アプリ522は、OS上で実行されるアプリケーションプログラムである。
【0044】
プロセッサ500は、機能部として、観測情報収集部501、送信処理部502、及び、状態モデル生成部510を有する。これらの機能部は、プロセッサ500がアプリ522を実行することにより、実現される。アプリ522は、プログラムの一例である。
【0045】
観測情報収集部501は、情報処理装置10から観測情報を取得する。観測情報収集部501は、情報処理システム1000に含まれる複数の情報処理装置10から観測情報を取得することによって、複数のユーザU1のそれぞれの観測値を含む状態変数を得ることができる。観測情報収集部501は、情報処理装置10から取得した観測情報をメモリ520に観測情報523として記憶させる。メモリ520には、後述するように、ユーザ毎に観測情報523が記憶される。例えば、メモリ520には、ユーザU1Aを観測した観測値を含む観測情報523Aと、ユーザU1Bを観測した観測値を含む観測情報523Bとが、それぞれ記憶される。
【0046】
状態モデル生成部510は、クラスタリング処理部511、クラスタ割当部512、及び、状態モデル513を有する。クラスタリング処理部511は、観測情報収集部501によって取得された複数の観測情報を、複数のクラスタにクラスタリングする処理を実行する。クラスタ割当部512は、クラスタリング処理部511によりクラスタリングされた複数のクラスタの各々に、ユーザU1の操縦中における認知負荷に対応する意味づけを行う処理を実行する。
【0047】
クラスタリング処理部511は、例えば、k平均法(k-means clustering)、階層法、その他の公知のクラスタ解析の手法を用いて、複数の観測情報を予め指定された数のクラスタに分類する。本実施形態では、観測情報を3つのクラスタに分類する。クラスタ割当部512は、3つのクラスタの各々に、ユーザU1の高認知負荷状態、低認知負荷状態、及び、適度な認知負荷状態を対応付ける。クラスタリング処理部511及びクラスタ割当部512の処理によって、状態モデル513が生成される。状態モデル513は、観測情報が取得された場合に、取得された観測情報を3つのクラスタのいずれかに分類し、分類されたクラスタに対し意味づけされた認知負荷状態を求める。つまり、状態モデル513は、観測情報からユーザU1の認知負荷状態を推定できる。
【0048】
状態モデル513は、観測情報からユーザU1の認知負荷を求めるモデルであり、機械学習済みの学習モデル、観測情報に含まれる観測値からユーザU1の認知負荷を判定するプログラム、関数、或いは、パラメータである。状態モデル生成部510は、クラスタリング処理部511及びクラスタ割当部512の処理結果を反映した状態モデル513を生成する。状態モデル生成部510は、状態モデル513を情報処理装置10に送信するための状態モデル524を生成し、メモリ520に記憶させる。状態モデル513は、後述するように、情報処理システム1000を利用する複数のユーザU1の各々に対応して生成される。例えば、メモリ520が記憶する状態モデル524Aは、ユーザU1Aに対応し、状態モデル524BはユーザU1Bに対応する。なお、サーバ5は、より多数のユーザU1に対応する状態モデル524を生成してもよく、メモリ520には状態モデル524A、524B以外の状態モデル524を格納できる。
【0049】
送信処理部502は、状態モデル生成部510により生成された状態モデル524を、通信装置530を用いて、情報処理装置10に送信する。送信処理部502は、送信処理部の一例に対応する。
【0050】
[4.情報処理システムの動作]
[4-1.全体の動作]
図5は、情報処理システム1000の動作例を示すシーケンス図である。
ステップSA1~SA4は情報処理装置10の動作であり、ステップSB1~SB3はサーバ5の動作である。
【0051】
情報処理装置10は、取得部101及び観測情報生成部102により観測情報生成処理を実行する(ステップSA1)。情報処理装置10は、観測情報生成処理によって生成した観測情報を、観測情報送信部103によりサーバ5に送信する(ステップSA2)。ステップSA1~SA2の動作を、複数の情報処理装置10が並行して実行してもよい。例えば、車両1Aに搭載された情報処理装置10、及び、車両1Bに搭載された情報処理装置10が、それぞれステップSA1~SA2を実行できる。
【0052】
サーバ5は、情報処理装置10が送信した観測情報を観測情報収集部501によって受信し(ステップSB1)、状態モデル生成部510によって状態モデル生成処理を実行する(ステップSB2)。ここで、サーバ5は、状態モデル生成処理を実行するために十分な数の観測情報を受信するまで、ステップSB1の動作を繰り返し行いながら待機してもよい。
【0053】
サーバ5は、状態モデル生成部510により生成した状態モデル524を、送信処理部502によって情報処理装置10に送信する(ステップSB3)。
【0054】
情報処理装置10は、サーバ5が送信した状態モデルを状態モデル取得部104により取得する(ステップSA3)。情報処理装置10は、取得した状態モデル111を推定部110に搭載し、推定部110によって推定処理を実行する(ステップSA4)。
車両1Aが搭載する情報処理装置10、及び、車両1Bが搭載する情報処理装置10は、それぞれ、図5のステップSA1~SA4を実行する。この場合、サーバ5は、各々の情報処理装置10に対応してステップSB1~SB3を実行する。
【0055】
上記のように、サーバ5は、各々のユーザU1に対応する状態モデル524を有する。例えば、サーバ5はユーザU1Aに対応する状態モデル524Aと、ユーザU1Bに対応する状態モデル524Bとを有する。サーバ5は、ステップSB3で、情報処理装置10に送信する状態モデル524を選択する処理を行ってもよい。例えば、サーバ5は、情報処理装置10に状態モデル524を送信する前に、送信先の情報処理装置10を利用するユーザU1を特定する処理を行ってもよい。具体的には、サーバ5は、情報処理装置10に対し、利用者である情報処理装置10の識別用の情報を送信するよう要求し、要求に応じて情報処理装置10が送信する情報に基づいて、状態モデル524を選択する。また、情報処理装置10は、ステップSA3に先立ち、サーバ5に対して、状態モデル524を指定して要求する処理を行ってもよい。この場合、情報処理装置10は、ユーザU1の識別用の情報をサーバ5に送信し、この識別用の情報に対応する状態モデル524を要求する。
【0056】
以下に、観測情報生成処理(ステップSA1)、状態モデル生成処理(ステップSB2)、及び、推定処理(ステップSA4)について詳細に説明する。
【0057】
[4-2.観測情報の生成]
図6は、情報処理装置10の動作例を示すフローチャートであり、観測情報生成処理の詳細を示す。図6のステップSA11~SA14は取得部101により実行され、ステップSA15~SA17は観測情報生成部102により実行される。
【0058】
情報処理装置10は、車両1の始動を検知すると(ステップSA11)、心拍観測処理を開始し(ステップSA12)、瞳孔径観測処理を開始する(ステップSA13)。ステップSA12、SA13は逆の順序であっても同時に行われてもよい。車両1の始動とは、車両1の制御系の装置が停止している状態から起動することを指し、例えば、車両1のイグニッションスイッチがオンにされること、或いは、車両1のシステム電源がオンにされることである。
【0059】
図7は、情報処理装置10の動作例を示すフローチャートであり、心拍観測処理を示す。ステップSA21~SA28は取得部101により実行される。
心拍センサ312は、上述したように、予め設定された計測周期でユーザU1の心拍を検出し、心拍を検出する毎に心拍間隔を算出し、心拍間隔を計測結果として出力する。心拍センサ312は、予め設定された所定時間における心拍間隔の平均値を算出し、心拍間隔の平均値を、計測値として出力してもよい。情報処理装置10は、車両1の始動を検知してから心拍センサ312の計測値を取得し、取得した計測値を心拍間隔RRI(t)としてメモリ120に一時記憶する(ステップSA21)。心拍間隔RRI(t)は心拍センサ312の計測値を時刻に対応付けたデータである。この時刻は、心拍センサ312が計測をした計測時刻または情報処理装置10が計測値を取得した時刻であり、観測時刻といえる。情報処理装置10は、車両1の始動から60秒が経過したか否かを判定し(ステップSA22;YES)、60秒が経過する前であれば(ステップSA22;NO)、ステップSA21に戻る。情報処理装置10は、車両1の始動から60秒が経過すると(ステップSA22)、ステップSA23に移行する。ステップSA23で、情報処理装置10は、車両1の始動から60秒間の心拍間隔RRI(t)の平均値である値R60を算出する(ステップSA23)。
【0060】
続いて、情報処理装置10は、ステップSA21と同様に心拍センサ312の計測値を取得し、取得した計測値を心拍間隔RRI(t)としてメモリ120に一時記憶する(ステップSA24)。ステップSA24の動作はステップSA22の直後に開始されてもよい。情報処理装置10は、心拍間隔RRI(t)の取得開始から30秒が経過したか否かを判定し(ステップSA25)、30秒が経過する前であれば(ステップSA25;NO)、ステップSA24に戻る。情報処理装置10は、心拍間隔RRI(t)の取得開始から30秒が経過すると(ステップSA25;YES)、ステップSA26に移行する。
【0061】
ステップSA26で、情報処理装置10は、メモリ120に一時記憶した30秒間の心拍間隔RRI(t)の平均値である値R30を算出する(ステップSA26)。情報処理装置10は、値R30から値R60を除算することにより差を算出し、求めた値を観測値Rとしてメモリ120に記憶させる(ステップSA27)。
【0062】
このように、ステップSA21~SA23では、車両1の始動後の最初の60秒間におけるユーザU1の心拍間隔の平均値R60が算出される。ステップSA24~SA26では、車両1の始動から60秒間を経過した後に、30秒毎に、ユーザU1の心拍間隔の平均値R30が算出される。そして、情報処理装置10は、平均値R30を算出する毎に、値R30と値R60の差を求め、求めた差を観測値Rとする。従って、車両1の始動から90秒が経過したときから、30秒毎に観測値Rが算出され、算出された観測値Rが順次、メモリ120に蓄積される。
【0063】
情報処理装置10は心拍観測処理を終了するか否かを判定する(ステップSA28)。車両1の制御系が停止した場合や、心拍観測処理の終了に関する操作がユーザU1により行われた場合など、心拍観測処理を終了する条件が成立した場合には(ステップSA28;YES)、情報処理装置10は図8の処理を終了する。処理を終了しない場合(ステップSA28;NO)、情報処理装置10はステップSA24に戻る。
【0064】
図8は、情報処理装置10の動作例を示すフローチャートであり、瞳孔径観測処理を示す。ステップSA31~SA38は取得部101により実行される。
取得部101は、カメラ311の撮影画像データを解析することにより、ユーザU1の瞳孔径の計測を実行する。例えば、取得部101は、カメラ311の撮影画像データからユーザU1の目の画像を抽出し、抽出した画像における目の輪郭と瞳孔の大きさとを比較することにより、瞳孔径を算出する。取得部101は、瞳孔径の計測を、予め設定された計測周期で実行し、計測を行う毎に瞳孔径の計測結果を出力する。
【0065】
情報処理装置10は、車両1の始動を検知してから瞳孔径の計測値を取得し、取得した計測値を瞳孔径Pupil(t)としてメモリ120に一時記憶する(ステップSA31)。瞳孔径Pupil(t)は瞳孔径の計測値を時刻に対応付けたデータである。この時刻は、瞳孔径を計測した計測時刻または情報処理装置10が計測値を取得した時刻であり、観測時刻といえる。情報処理装置10は、車両1の始動から60秒が経過したか否かを判定し(ステップSA32;YES)、60秒が経過する前であれば(ステップSA32;NO)、ステップSA31に戻る。情報処理装置10は、車両1の始動から60秒が経過すると(ステップSA32)、ステップSA33に移行する。ステップSA33で、情報処理装置10は、車両1の始動から60秒間の瞳孔径Pupil(t)の平均値である値P60を算出する(ステップSA33)。
【0066】
続いて、情報処理装置10は、ステップSA31と同様に瞳孔径の計測値を取得し、取得した計測値を瞳孔径Pupil(t)としてメモリ120に一時記憶する(ステップSA34)。ステップSA34の動作はステップSA32の直後に開始されてもよい。情報処理装置10は、瞳孔径Pupil(t)の取得開始から30秒が経過したか否かを判定し(ステップSA35)、30秒が経過する前であれば(ステップSA35;NO)、ステップSA34に戻る。情報処理装置10は、瞳孔径Pupil(t)の取得開始から30秒が経過すると(ステップSA35;YES)、ステップSA36に移行する。
【0067】
ステップSA36で、情報処理装置10は、メモリ120に一時記憶した30秒間の瞳孔径Pupil(t)の平均値である値P30を算出する(ステップSA36)。情報処理装置10は、P30からP60を除算することにより差を算出し、求めた値を観測値Pとしてメモリ120に記憶させる(ステップSA37)。
【0068】
このように、ステップSA31~SA33では、車両1の始動後の最初の60秒間におけるユーザU1の瞳孔径の平均値P60が算出される。ステップSA34~SA36では、車両1の始動から60秒間を経過した後に、30秒毎に、ユーザU1の瞳孔径の平均値P30が算出される。そして、情報処理装置10は、平均値P30を算出する毎に、値P30と値P60の差を求め、求めた差を観測値Pとする。従って、車両1の始動から90秒が経過したときから、30秒毎に観測値Pが算出され、算出された観測値Pが順次、メモリ120に蓄積される。
【0069】
情報処理装置10は瞳孔径観測処理を終了するか否かを判定する(ステップSA38)。車両1の制御系が停止した場合や、瞳孔径観測処理の終了に関する操作がユーザU1により行われた場合など、瞳孔径観測処理を終了する条件が成立した場合には(ステップSA38;YES)、情報処理装置10は図8の処理を終了する。処理を終了しない場合(ステップSA38;NO)、情報処理装置10はステップSA34に戻る。
【0070】
情報処理装置10は、図6において、観測値R及び観測値Pを取得する(ステップSA14)。ステップSA14で、情報処理装置10は、メモリ120に記憶されている観測値R及び観測値Pを取得するので、心拍観測処理(図7)及び瞳孔径観測処理(図8)のいずれかが実行中であってもステップSA14を実行可能である。車両1Aに搭載された情報処理装置10は、ステップSA14でユーザU1Aの観測値R及び観測値Pを取得する。また、車両1Bに搭載された情報処理装置10は、ステップSA14で、ユーザU1Bの観測値R及び観測値Pを取得する。
【0071】
情報処理装置10は、ステップSA14で取得した観測値R及び観測値Pを状態変数として含む観測情報を生成する(ステップSA15)。本実施形態では状態変数が2つの観測値R、Pを含むが、状態変数は3以上の観測値を含んでもよい。情報処理装置10は、生成した観測情報を、観測値R及び観測値Pのいずれか、或いは両方が生成された時刻に対応付けてメモリ120に記憶する(ステップSA16)。ステップSA16で、情報処理装置10は、観測情報を生成した時刻に対応付けて、観測情報を記憶してもよい。情報処理装置10は、観測情報生成処理を終了するか否かを判定する(ステップSA17)。車両1の制御系が停止した場合など、観測情報生成処理を終了する条件が成立した場合には(ステップSA17;YES)、情報処理装置10は図6の処理を終了する。処理を終了しない場合(ステップSA17;NO)、情報処理装置10はステップSA14に戻る。
【0072】
図6図7及び図8の動作により、例えば、車両1AではユーザU1Aの観測情報が生成され、車両1BではユーザU1Bの観測情報が生成される。これらの動作を複数の車両1A、1Bにおいて情報処理装置10が実行することにより、複数のユーザU1A、U1Bを対象として、観測情報が生成される。生成された観測情報は、各々のユーザU1及び時刻に対応付けて、各々の情報処理装置10のメモリ120に記憶される。つまり、情報処理装置10は、1人のユーザU1に対して時刻の異なる複数の観測情報を生成し、メモリ120に蓄積する。
【0073】
[4-3.状態モデルの生成]
図9は、サーバ5の動作例を示すフローチャートであり、状態モデル生成処理の詳細を示す。図9のステップSB11は観測情報収集部501により実行され、ステップSB12~SB13はクラスタリング処理部511により実行され、ステップSB13~SB19はクラスタ割当部512により実行される。図10は、状態モデル生成処理におけるヒト状態マップ540の例を示す模式図である。
【0074】
サーバ5は、車両1に搭載された情報処理装置10から観測情報を取得し、ユーザ毎にメモリ520に記憶する(ステップSB11)。例えば、サーバ5は、ユーザU1Aの観測情報を観測情報523Aとして記憶し、ユーザU1Bの観測情報を観測情報523Bとして記憶する。
【0075】
図1に示すように、ユーザU1Aが車両1Aを操縦し、ユーザU1Bが車両1Bを操縦することが定まっている場合、観測情報収集部501は、車両1Aの情報処理装置10から取得した観測情報を観測情報523Aとして記憶する。また、観測情報収集部501は、車両1Bの情報処理装置10から取得した観測情報を観測情報523Bとして記憶する。
【0076】
また、情報処理システム1000において、情報処理装置10が、ユーザU1の識別を行う構成であってもよい。例えば、取得部101は、ステップSA11で車両1の始動を検知した場合に、その車両1を操縦するユーザU1を識別する。具体的には、ユーザU1が、ユーザ名やユーザID等の識別用の情報を情報処理装置10に入力すること、取得部101がカメラ311の撮影画像を用いてユーザU1の顔を識別すること、等が挙げられる。この場合、情報処理装置10は、サーバ5が、観測情報を、どのユーザU1の観測情報であるか識別できるように、サーバ5に観測情報を送信する。例えば、情報処理装置10は、観測情報生成処理(図6)において、ユーザU1の識別用の情報を含む観測情報を生成する(ステップSA15)。この場合、観測情報にユーザU1の識別用の情報が含まれるため、サーバ5は、観測情報を参照することにより、観測情報に対応するユーザU1を特定する。また、例えば、情報処理装置10は、サーバ5に観測情報を送信する際に(ステップSA2)、観測情報に、ユーザU1の識別用の情報を付加してもよい。この場合、サーバ5は、情報処理装置10が送信する観測情報に付加された識別用の情報を参照することによって、観測情報に対応するユーザU1を特定する。
【0077】
このように、サーバ5は、ステップSB11において、情報処理装置10から受信した観測情報に対応するユーザU1を特定し、特定したユーザU1に対応付けて観測情報をメモリ120に記憶させる。サーバ5は、1人のユーザU1についての観測情報を、繰り返し情報処理装置10から取得することができる。上述したように、情報処理装置10は、周期的に観測値R及び観測値Pを生成し、観測情報を生成する。情報処理装置10は、観測情報を生成する毎、あるいは、観測情報を所定数生成する毎に、サーバ5に観測情報を送信する。サーバ5は、観測情報を受信した場合に、受信した観測情報と同じユーザU1に対応する観測情報123を特定し、特定した観測情報123に、受信した観測情報を追加して更新する処理を行う。これにより、メモリ120には、ユーザ毎に、複数の観測情報が蓄積される。各々の観測情報123は、異なる車両1で観測された観測情報を含んでもよい。例えば、ユーザU1Aの観測情報は、車両1AでユーザU1Aを観測した観測情報と、車両1BでユーザU1Aを観測した観測情報とを含んでもよい。
【0078】
サーバ5は、取得した観測情報から観測値R及び観測値Pを抽出し、観測値Rと観測値Pとを、ユーザ毎のヒト状態マップ540上にプロットする(ステップSB12)。ステップSB12で、サーバ5は、メモリ120が記憶する観測情報123に複数の観測情報が含まれる場合、これら複数の観測情報に含まれる観測値Rと観測値Pとの組合せをヒト状態マップ540上にプロットする。ヒト状態マップ540はクラスタリング処理部511の動作を模式的に示すマップであり、実際にはヒト状態マップ540に相当するデータがメモリ520に記憶される。サーバ5は、ヒト状態マップ540を、ユーザ毎に生成する。具体的には、サーバ5は、ユーザU1Aに対応するヒト状態マップ540と、ユーザU1Bに対応するヒト状態マップ540とを有する。例えば、ユーザU1Aに対応するヒト状態マップ540には、ユーザU1Aの観測情報がプロットされる。
【0079】
ヒト状態マップ540は、図10に例として示すように、観測情報に含まれる状態変数が2つの観測値R、Pを含むことに対応する2次元のマップである。図10の例では、横軸が観測値Pであり、縦軸が観測値Rであり、1つの観測情報が1つのプロット541として配置される。例えば、サーバ5が有する観測情報123が、ユーザU1Aの10個の観測情報を含む場合、ヒト状態マップ540には10個の観測情報がプロットされる。
【0080】
サーバ5は、ヒト状態マップ540上のプロット541を対象としてクラスタリング処理を実行し、指定された数のクラスタに分類する(ステップSB13)。本実施形態ではクラスタの数として3が指定される。分類の具体的な手法としては、上述したように、k平均法、階層法、その他の公知のクラスタ解析の手法を用いることができる。
【0081】
サーバ5は、ステップSB13で分類された各クラスタに含まれる観測情報の観測値R、及び、観測値Pを取得する(ステップSB14)。サーバ5は、クラスタ毎に、ステップSB14で取得した観測値Rの平均値、及び、観測値Pの平均値を算出する(ステップSB15)。
【0082】
サーバ5は、観測値Rの平均値が最も小さいクラスタを、適度な認知負荷状態に対応付ける(ステップSB16)。これにより、1つのクラスタに対し、認知負荷状態の意味づけが行われる。
【0083】
続いて、サーバ5は、意味づけがされていない残りのクラスタのうち観測値Pの平均値が最も大きいクラスタを、高認知負荷状態に対応付ける(ステップSB17)。さらに、サーバ5は、意味づけがされていない残りのクラスタを、低認知負荷状態に対応付ける(ステップSB18)。ステップSB16~SB18により、3つのクラスタに対し、認知負荷状態の意味づけが行われる。
【0084】
図10には、クラスタリング処理部511により分類された3つのクラスタC1、C2、C3を示す。クラスタC1は適度な認知負荷状態に対応付けられ、クラスタC2は低認知負荷状態に対応付けられ、クラスタC3は高認知負荷状態に対応付けられる。
【0085】
サーバ5は、状態モデル513を生成する(ステップSB19)。状態モデル513は、新たな観測情報が状態モデル513に入力された場合に、入力された観測情報がクラスタC1、C2、C3のいずれに属するかを判定し、判定したクラスタに対して意味づけがなされた認知負荷状態を、判定結果として出力する。従って、状態モデル513の出力は、適度な認知負荷状態、高認知負荷状態、低認知負荷状態のいずれかである。
【0086】
状態モデル513は、例えば、クラスタC1、C2、C3と、各クラスタに含まれる観測値R及び観測値Pの値との相関を機械学習した学習済みモデルであり、いわゆるAI(Artificial Intelligence)である。この場合、ステップSB12~SB13のクラスタリング処理部511によるクラスタリング処理は、機械学習の一種である教師なし学習に相当する。ステップSB14~SB18の処理は、学習済みモデルの出力データの設定を行うことに相当する。また、状態モデル513は、観測値R及び観測値Pから認知負荷状態を判定するプログラム、関数、或いは、閾値等のパラメータであってもよい。
【0087】
サーバ5は、ステップSB19で生成された状態モデル513を、状態モデル513の生成に用いたヒト状態マップ540に対応するユーザに対応付けて、メモリ520に状態モデル524として記憶させる。状態モデル524は、状態モデル513それ自体、または、情報処理装置10が状態モデル513と同様のモデルを生成するためのプログラムやデータである。そして、図5のステップSB3において、状態モデル524は情報処理装置10に送信され、情報処理装置10が推定処理を実行可能となる。メモリ520には、情報処理システム1000を利用するユーザU1の各々に対応付けて状態モデル524が記憶される。例えば、ユーザU1Aに対応する状態モデル524Aは、情報処理装置10においてユーザU1Aの状態を推定する場合に、ユーザU1Aの状態をより高精度で推定することができ、好適である。
【0088】
サーバ5は、図9の状態モデル生成処理を所定のタイミングで実行する。例えば、サーバ5は、情報処理装置10から受信した観測情報の数が予め設定された閾値以上となった場合に、状態モデル生成処理を実行する。また、サーバ5は、設定された数の観測情報を情報処理装置10から受信する毎、或いは、状態モデル513を生成してから設定された時間が経過する毎に、状態モデル生成処理を実行する。この場合、サーバ5は、既に生成した状態モデル513を更新し、更新した状態モデル513に対応する状態モデル524を、情報処理装置10に送信する。
【0089】
[4-4.推定処理]
図11は、情報処理装置10の動作例を示すフローチャートであり、推定処理の詳細を示す。図11の動作を実行する情報処理装置10は、制御装置の一例に対応する。
ステップSA11~SA15は図6と同様の動作である。ステップSA41は推定部110により実行され、ステップSA42~SA45は出力制御部112により実行される。
【0090】
情報処理装置10は、車両1の始動を検知すると(ステップSA11)、心拍観測処理を開始し(ステップSA12)、瞳孔径観測処理を開始する(ステップSA13)。情報処理装置10は、観測値R及び観測値Pを取得する(ステップSA14)。情報処理装置10は、ステップSA14で取得した観測値R及び観測値Pを状態変数として含む観測情報を生成する(ステップSA15)。
【0091】
情報処理装置10は、ステップSA15で生成した観測情報を状態モデル111に入力することにより、観測情報が属するクラスタを特定する(ステップSA41)。状態モデル111は、情報処理装置10がサーバ5から受信した状態モデル524により形成され、情報処理装置10を使用するユーザU1に対応する状態モデルである。情報処理装置10は、特定したクラスタに対応付けられた認知負荷状態を取得する(ステップSA42)。具体的には、情報処理装置10は、適度な認知負荷状態、高認知負荷状態、及び低認知負荷状態のいずれかの推定結果を取得する。
【0092】
情報処理装置10は、ステップSA42で取得した認知負荷状態を表示する(ステップSA43)。ステップSA43では、認知負荷状態から特定されるユーザU1の集中度を表示してもよい。例えば、情報処理装置10は、ディスプレイ302、及び、メーターパネル304のいずれか又は両方に、ユーザU1の認知負荷状態または運転に対する集中度を示す文字や画像を表示する。
【0093】
図12は、出力制御部112がメーターパネル304に表示させる状態表示部361の例を示す図である。状態表示部361は、例えば、メーターパネル304に設けられる液晶表示パネルに表示される。
【0094】
状態表示部361は、針形状のインジケータ363と、インジケータ363の移動範囲に配置されたゲージ362とを有する。ゲージ362は円弧状の形状であり、インジケータ363はゲージ362に沿って回動する。ゲージ362及びインジケータ363は、例えば液晶表示パネルに表示される画像である。
【0095】
ゲージ362は、3つの領域362A、362B、362Cに区分され、各領域362A、362B、362Cは異なる色で塗り分けられる。領域362AはユーザU1の認知負荷状態が低いこと、すなわち低認知負荷状態であることを示す。領域362BはユーザU1が適度な認知負荷状態であることを示し、領域362CはユーザU1が高認知負荷状態であることを示す。領域362A、362B、362Cの色は、各々の領域が対応する認知負荷状態を連想させる色で塗り分けられてもよい。また、領域362A、362B、362Cに、各領域が対応する認知負荷状態を示す文字、或いは、各領域の認知負荷状態に対応するタスク処理量を示す文字が付加されてもよい。
【0096】
出力制御部112は、状態表示部361を表示させることにより、ゲージ362におけるインジケータ363の位置によってユーザU1の認知負荷状態、タスク処理量、或いは、運転への集中度を表示できる。
【0097】
情報処理装置10は、ステップSA43の後、或いはステップSA43と並行して、認知負荷状態に対応して情報処理装置10の出力を調整する(ステップSA44)。ステップSA44では、車両1が備える装置からユーザU1に対する出力を調整する。具体的には、情報処理装置10は、出力制御部112によって、スピーカ303から出力される音の音量、ディスプレイ302またはメーターパネル304の表示輝度、及び、表示される情報量を調整する。
【0098】
ユーザU1が高認知負荷状態である場合、出力制御部112は、ユーザU1の認知負荷を軽減するように、出力を調整する。例えば、出力制御部112は、スピーカ303から出力される音の音量を低下させる処理、ディスプレイ302の表示輝度(明るさ)を低下させる処理、メーターパネル304の表示輝度(明るさ)を低下させる処理を実行する。これらの処理によってユーザU1に加わる外的刺激の強度を低下させることができ、ユーザU1の認知負荷の増大の抑制、或いは、認知負荷の低減を実現できる。
【0099】
また、例えば、出力制御部112は、ユーザU1の認知負荷を軽減させるため、ユーザU1に対して車両1が出力する情報量を低減させる。具体的には、出力制御部112は、スピーカ303から音を出力する機会を減少させる。情報処理装置10が、ナビゲーションシステム331から入力されるデータに基づいてスピーカ303から音声を出力させる制御を行う場合、出力制御部112は、音声の出力に用いるデータを間引くことにより、スピーカ303から音声を出力する回数や頻度を低下させる。出力制御部112は、ナビゲーションシステム331に対して、音声出力の回数や頻度を低下させることの指示を出力してもよい。
【0100】
また、例えば、出力制御部112は、ユーザU1の認知負荷を軽減させるため、ディスプレイ302やメーターパネル304に表示される情報の量を減少させる。情報処理装置10が、ナビゲーションシステム331から入力されるデータに基づいてディスプレイ302に情報を表示させる制御を行う場合、出力制御部112は、表示に用いるデータを間引くことにより、表示される情報量を低減させる。また、出力制御部112は、ナビゲーションシステム331に対して、表示する情報量を低減させることの指示を出力してもよい。また、出力制御部112は、メーターパネル304において、車両1の走行に関する重要度の低い表示を停止させてもよい。
【0101】
ユーザU1が低認知負荷状態であると推定された場合、出力制御部112は、ユーザU1の認知負荷を増加させるように、出力処理を実行する。例えば、出力制御部112は、スピーカ303から出力される音の音量を大きくする処理、ディスプレイ302の表示輝度(明るさ)を増大させる処理、メーターパネル304の表示輝度(明るさ)を増大させる処理を実行する。これらの処理によってユーザU1に加わる外的刺激の強度を増大させることができ、ユーザU1の認知負荷の低下の抑制、或いは、認知負荷の増加を実現できる。また、例えば、出力制御部112は、ユーザU1に対して車両1が出力する情報量を増加させる。具体的には、出力制御部112は、スピーカ303から音を出力する機会を増加させる。この場合、出力制御部112は、ナビゲーションシステム331に対して、音声出力の回数や頻度を増加させることの指示を出力してもよい。また、出力制御部112は、ディスプレイ302やメーターパネル304に表示される情報の量を増加させてもよい。具体的には、出力制御部112は、ナビゲーションシステム331に対して、表示する情報量を増加させることの指示を出力してもよい。また、出力制御部112は、メーターパネル304において、車両1の走行に関する重要度の低い表示を多く表示させてもよい。
【0102】
ユーザU1が適度な認知負荷状態であると推定された場合、出力制御部112は、ユーザU1の認知負荷の変動を抑制するように、出力処理を実行する。例えば、出力制御部112は、スピーカ303から出力される音の音量の変化を抑制する処理、ディスプレイ302の表示輝度(明るさ)の変化を抑制する処理、メーターパネル304の表示輝度(明るさ)の変化を抑制する処理を実行する。具体的には、出力制御部112は、スピーカ303から出力される音の音量を、予め設定された範囲を超えて増大または低減させる処理または操作がなされた場合に、音量の変化量を、当該処理または操作に対応する変化量よりも小さくする。これらの処理によってユーザU1に加わる外的刺激の変化を抑制させ、ユーザU1の認知負荷を、適度な認知負荷状態に維持できる。この場合において、出力制御部112は、例えば、スピーカ303から音を出力する機会の増加及び減少、ディスプレイ302やメーターパネル304に表示される情報量の変化を抑制してもよい。
【0103】
情報処理装置10は、推定処理を終了するか否かを判定する(ステップSA45)。車両1の制御系が停止した場合など、推定処理を終了する条件が成立した場合には(ステップSA45;YES)、情報処理装置10は図11の処理を終了する。処理を終了しない場合(ステップSA45;NO)、情報処理装置10はステップSA14に戻る。
【0104】
情報処理装置10は、ステップSA14~SA45を繰り返し実行することにより、例えば30秒毎に新しい観測値R及び観測値Pが取得される。このため、ユーザU1の認知負荷状態の推定結果が、30秒毎に更新され、更新された推定結果に基づいて、認知負荷状態の表示(ステップSA43)、及び、出力の調整(ステップSA44)が行われる。
【0105】
[5.他の実施形態]
上述した実施形態は、あくまでも一態様を示すものであり任意に変形及び応用が可能である。
例えば、上記実施形態では、ユーザの状態情報として、瞳孔径の観測値、及び、心拍間隔の観測値を利用する例を説明した。これは一例であり、ユーザの単位時間あたりの呼吸間隔を観測値として含む状態情報を用いてもよい。また、観測情報は、観測値のほか、操作量を含んでもよい。これらの場合、状態モデル生成部510は、観測情報に含まれる観測値及び操作量をクラスタリングし、指定された数のクラスタを特定する。
【0106】
上記実施形態では、状態モデル生成部510が処理する観測情報が、2つの観測値を含む2次元のデータセットであり、2次元のヒト状態マップ540によりクラスタリング処理を実行する例を説明した。これは一例であり、例えば、より多くの次元のデータセットをクラスタリング処理してもよい。すなわち、観測情報に含まれる観測値と操作量とが合わせて3以上である場合に、3次元、或いはより多次元のデータセットに対するクラスタリング処理を実行してもよい。
【0107】
上記実施形態では、車両1が備える車両機能部330の例としてナビゲーションシステム331を説明したが、車両機能部330は、表示や音声出力を行う他の装置であってもよい。具体的には、車両機能部330は、ADAS(Advanced Driver-Assistance System)、音楽プレイヤー、その他のインフォテイメントシステムを含んでもよい。
【0108】
また、情報処理装置10は、状態モデル取得部104、推定部110、及び、出力制御部112を備えていない構成であってもよい。すなわち、情報処理装置10は、観測情報を生成してサーバ5に送信する機能のみを備える装置であってもよい。
【0109】
状態モデル513を生成する処理をサーバ5が実行する構成は一例である。例えば、情報処理装置10が、状態モデル生成部510と同様の構成を備え、状態モデルを生成する処理を行ってもよい。この場合、状態モデルを生成した情報処理装置10は、他の情報処理装置10に状態モデルを送信してもよい。
【0110】
プロセッサ100、500は、単一のプロセッサにより構成されてもよいし、複数のプロセッサにより構成されていてもよい。プロセッサ100、500は、対応する機能部を実現するようプログラムされたハードウェアでもよい。すなわち、プロセッサ100は、例えば、ASIC(Application Specific Integrated Circuit)やFPGA(Field Programmable Gate Array)で構成されてもよい。
【0111】
また、図2及び図4に示した各部の構成は一例であって、具体的な実装形態は特に限定されない。つまり、必ずしも各部に個別に対応するハードウェアが実装される必要はなく、一つのプロセッサがプログラムを実行することで各部の機能を実現する構成とすることも勿論可能である。また、上述した実施形態においてソフトウェアで実現される機能の一部をハードウェアとしてもよく、或いは、ハードウェアで実現される機能の一部をソフトウェアで実現してもよい。その他、情報処理システム1000の各部の具体的な細部構成についても任意に変更可能である。
【0112】
また、図5図9図11に示す動作のステップ単位は、動作の理解を容易にするために、主な処理内容に応じて分割したものであり、処理単位の分割の仕方や名称によって、本発明が限定されることはない。処理内容に応じて、さらに多くのステップ単位に分割してもよい。また、1つのステップ単位がさらに多くの処理を含むように分割してもよい。また、そのステップの順番は、本発明の趣旨に支障のない範囲で適宜に入れ替えてもよい。
【0113】
また、上述した情報処理システム1000における情報処理方法を、プロセッサ100、500を用いて実現する場合、これらの各プロセッサが実行するプログラムを非一時的な記録媒体に記憶する態様としてもよいし、このプログラムを伝送する伝送媒体の態様で構成することも可能である。例えば、アプリ122、522は、可搬型の情報記録媒体にアプリ122を記録した状態で実現することも可能である。情報記録媒体は、ハードディスク等の磁気的記録媒体、CD等の光学的記録媒体、USB(Universal Serial Bus)メモリやSSD(Solid State Drive)等の半導体記憶デバイスが挙げられるが、その他の記録媒体を用いることも可能である。
【0114】
[6.上記実施形態によりサポートされる構成]
上記実施形態は、以下の構成をサポートする。
【0115】
(構成1)移動体を操縦する操縦者を観測した観測値を含む状態変数を取得する取得部と、前記移動体において観測された前記観測値を含む前記状態変数に基づいて、前記操縦者の観測情報を生成する観測情報生成部と、1人の前記操縦者の前記観測情報を蓄積し、蓄積した複数の前記観測情報を複数のクラスタにクラスタリングする処理、及び、複数の前記クラスタの各々に、前記操縦者の操縦中における認知負荷に対応する意味づけを行う処理を実行することにより、前記状態変数と前記操縦者の操縦中における認知負荷との相関を有する状態モデルを生成する状態モデル生成部と、前記状態モデルを用いることにより、前記状態変数または前記観測情報から前記操縦者の状態を推定する推定部と、を備える、情報処理システム。
構成1の情報処理システムによれば、1人の操縦者を観測した観測値から生成される状態モデルを利用して、この操縦者の状態を推定する。このため、操縦者の状態をより高い精度で推定することが可能となり、延いては持続可能な輸送システムの発展に寄与できる。
【0116】
(構成2)前記観測値は、前記操縦者の心拍間隔、呼吸間隔、及び、瞳孔径の少なくともいずれかを含む、構成1に記載の情報処理システム。
構成2の情報処理システムによれば、操縦者の身体に関する観測値を利用して、操縦者の状態を高精度で推定できる。
【0117】
(構成3)前記取得部は、前記状態変数を所定の周期で取得し、前記推定部は、前記取得部が前記状態変数を取得する毎に、取得された前記状態変数から前記操縦者の状態を推定する、構成1または構成2に記載の情報処理システム。
構成3の情報処理システムによれば、時間の経過に伴って変化する操縦者の状態を周期的に推定できる。
【0118】
(構成4)前記推定部が推定する前記操縦者の状態は、前記操縦者の操縦に対する集中度に対応する、構成1から構成3のいずれか1項に記載の情報処理システム。
構成4の情報処理システムによれば、操縦者の操縦に対する集中度を推定できる。このため、例えば、操縦者の集中度を高めるように働きかけを行うことによって、操縦者を効果的に支援することが可能となる。
【0119】
(構成5)前記状態変数は、前記観測値と、前記移動体が備える操作部の操作量とを含む、構成1から構成4のいずれか1項に記載の情報処理システム。
構成5の情報処理システムによれば、移動体の操作部に対する操縦者の操作を反映して、操縦者の状態をより適切に推定できる。
【0120】
(構成6)前記推定部の推定結果を、前記移動体に設けられた表示部に表示させる、構成1から構成5のいずれか1項に記載の状態推定システム。
構成6の状態推定システムによれば、移動体の操縦者の状態を推定した結果を、操縦者に知らせることができる。
【0121】
(構成7)コンピュータにより、移動体を操縦する操縦者を観測した観測値を含む状態変数を取得し、所定の観測タイミングで観測された前記観測値を含む前記状態変数に基づいて、前記操縦者の観測情報を生成し、1人の前記操縦者の前記観測情報を蓄積し、蓄積した複数の前記観測情報を複数のクラスタにクラスタリングする処理、及び、複数の前記クラスタの各々に、前記操縦者の操縦中における認知負荷に対応する意味づけを行う処理を実行することにより、前記状態変数と前記操縦者の操縦中における認知負荷との相関を有する状態モデルを生成し、前記状態モデルを用いることにより、前記状態変数または前記観測情報から前記操縦者の状態を推定する、情報処理方法。
構成7の情報処理方法によれば1人の操縦者を観測した観測値から生成される状態モデルを利用して、この操縦者の状態を推定する。このため、操縦者の状態をより高い精度で推定することが可能となり、延いては持続可能な輸送システムの発展に寄与できる。
【0122】
(構成8)コンピュータを、移動体を操縦する操縦者を観測した観測値を含む状態変数を取得する取得部と、前記移動体において観測された前記観測値を含む前記状態変数に基づいて、前記操縦者の観測情報を生成する観測情報生成部と、1人の前記操縦者の前記観測情報を蓄積し、蓄積した複数の前記観測情報を複数のクラスタにクラスタリングする処理、及び、複数の前記クラスタの各々に、前記操縦者の操縦中における認知負荷に対応する意味づけを行う処理を実行することにより、前記状態変数と前記操縦者の操縦中における認知負荷との相関を有する状態モデルを生成する状態モデル生成部と、前記状態モデルを用いることにより、前記状態変数または前記観測情報から前記操縦者の状態を推定する推定部と、して機能させる、プログラム。
構成8のプログラムを実行することにより、1人の操縦者を観測した観測値から生成される状態モデルを利用して、この操縦者の状態を推定する。このため、操縦者の状態をより高い精度で推定することが可能となり、延いては持続可能な輸送システムの発展に寄与できる。
【符号の説明】
【0123】
1、1A、1A…車両(移動体)、5…サーバ、10…情報処理装置、100…プロセッサ、101…取得部、102…観測情報生成部、103…観測情報送信部、104…状態モデル取得部、110…推定部、111…状態モデル、112…出力制御部、120…メモリ、121…制御プログラム、122…アプリ、123…観測情報、131…センサI/F、132…操作部I/F、301…通信装置、302…ディスプレイ、303…スピーカ、304…メーターパネル、311…カメラ、312…心拍センサ、321…アクセルペダルセンサ、322…ブレーキペダルセンサ、323…舵角センサ、330…車両機能部、331…ナビゲーションシステム、350…ダッシュボード、351…ステアリングホイール、354…電極、361…状態表示部、500…プロセッサ、501…観測情報収集部、502…送信処理部、510…状態モデル生成部、511…クラスタリング処理部、512…クラスタ割当部、513…状態モデル、520…メモリ、521…制御プログラム、522…アプリ、523、523A、523B…観測情報、524、524A、524B…状態モデル、530…通信装置、1000…情報処理システム、NW…通信ネットワーク、P、R…観測値、U1、U1A、U1B…ユーザ(操縦者)。
図1
図2
図3
図4
図5
図6
図7
図8
図9
図10
図11
図12