(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公開特許公報(A)
(11)【公開番号】P2023170239
(43)【公開日】2023-12-01
(54)【発明の名称】出力制御方法及び出力制御装置
(51)【国際特許分類】
G08G 1/0962 20060101AFI20231124BHJP
G16Y 40/60 20200101ALI20231124BHJP
G16Y 20/20 20200101ALI20231124BHJP
G16Y 10/40 20200101ALI20231124BHJP
【FI】
G08G1/0962
G16Y40/60
G16Y20/20
G16Y10/40
【審査請求】未請求
【請求項の数】14
【出願形態】OL
(21)【出願番号】P 2022081831
(22)【出願日】2022-05-18
(71)【出願人】
【識別番号】000003997
【氏名又は名称】日産自動車株式会社
(71)【出願人】
【識別番号】507308902
【氏名又は名称】ルノー エス.ア.エス.
【氏名又は名称原語表記】RENAULT S.A.S.
【住所又は居所原語表記】122-122 bis, avenue du General Leclerc, 92100 Boulogne-Billancourt, France
(74)【代理人】
【識別番号】110002468
【氏名又は名称】弁理士法人後藤特許事務所
(72)【発明者】
【氏名】志小田 雄宇
(72)【発明者】
【氏名】井上 裕史
(72)【発明者】
【氏名】河西 純
【テーマコード(参考)】
5H181
【Fターム(参考)】
5H181AA01
5H181BB04
5H181BB05
5H181BB13
5H181BB20
5H181CC04
5H181CC27
5H181EE02
5H181FF04
5H181FF13
5H181FF22
5H181FF27
5H181FF33
5H181MC24
5H181MC27
(57)【要約】
【課題】車内ユーザが音声メッセージを聞くことができる状況で、車外ユーザからの音声メッセージを適切に伝える。
【解決手段】無線通信を利用して第2OPS300から送信される音声ファイルに基づく音声メッセージを車載スピーカ204から出力させる出力制御方法である。この出力制御方法は、音声ファイルを取得する取得処理(ステップS501)と、車両C1の車内ユーザの状態が音声メッセージを聞くことが可能な状態であるか否かの指標を示すメッセージ受容度を推定する推定処理(ステップS503)と、メッセージ受容度の大きさに基づいて、車載スピーカ204から音声メッセージを出力させるタイミングを決定する決定処理(ステップS504乃至S510)とを含む。
【選択図】
図7
【特許請求の範囲】
【請求項1】
無線通信を利用して車外の機器から送信される音声情報に基づく音声メッセージを車内の出力機器から出力させる出力制御方法であって、
前記音声情報を取得する取得処理と、
車両の車内ユーザの状態が前記音声メッセージを聞くことが可能な状態であるか否かの指標を示す受容度を推定する推定処理と、
前記受容度の大きさに基づいて、前記出力機器から前記音声情報に基づく前記音声メッセージを出力させるタイミングを決定する決定処理と、を含む、
出力制御方法。
【請求項2】
請求項1に記載の出力制御方法であって、
前記決定処理では、予め設定された基準受容度よりも前記受容度が低い場合には、前記出力機器から前記音声メッセージを出力させるタイミングを遅延させる遅延処理を実行することを決定する、
出力制御方法。
【請求項3】
請求項2に記載の出力制御方法であって、
前記決定処理では、前記受容度が前記基準受容度よりも高い場合には、前記取得処理で前記音声情報が取得されたタイミングで当該音声情報に基づく前記音声メッセージを前記出力機器から出力させる通常処理を実行することを決定する、
出力制御方法。
【請求項4】
請求項2又は3に記載の出力制御方法であって、
前記決定処理では、前記遅延処理が実行されている場合において、前記受容度が前記基準受容度よりも高くなったときには、前記遅延処理を終了させ、当該遅延処理により遅延対象となった前記音声メッセージを前記出力機器から出力させた後に、前記取得処理で取得された前記音声情報に基づく前記音声メッセージを前記出力機器から順次出力させる決定を行う、
出力制御方法。
【請求項5】
請求項1から3の何れかに記載の出力制御方法であって、
前記受容度は、前記車内ユーザの運転負荷と前記車内ユーザの発話状況とのうちの少なくとも1つに関連する指標であり、
前記推定処理では、前記車両の挙動と、前記車内ユーザの状態と、前記車両の周囲情報とのうちの少なくとも何れかの条件データに基づいて前記受容度を推定する、
出力制御方法。
【請求項6】
請求項5に記載の出力制御方法であって、
前記推定処理では、前記条件データから前記受容度を推定するための学習をされた学習済みの学習モデルに、入力データとして新たに取得された前記条件データを入力することで前記受容度の推定を行う、
出力制御方法。
【請求項7】
請求項6に記載の出力制御方法であって、
前記推定処理では、
入力層及び出力層を含み、前記入力層への前記入力データとして前記条件データを入力し、前記出力層からの前記出力データとして前記受容度を出力するニューラルネットワークと、
前記入力データ及び前記出力データの実績値を教師データとして前記ニューラルネットワークに学習をさせることにより前記学習済みモデルを取得する学習部と、を用いて、
前記学習部により取得された前記学習済みモデルに、新たに取得された前記条件データを前記入力データとして入力することで前記受容度の推定を行う、
出力制御方法。
【請求項8】
請求項1から3の何れかに記載の出力制御方法であって、
前記出力制御方法は、前記車外の機器の車外ユーザと前記車内ユーザとの間で会話を行う通信システムにおける出力制御方法であり、
前記推定処理で推定された前記受容度を前記車外の機器に送信し、当該受容度を前記車外ユーザに提示する提示処理をさらに含む、
出力制御方法。
【請求項9】
請求項2又は3に記載の出力制御方法であって、
前記出力制御方法は、前記車外の機器の車外ユーザと前記車内ユーザとの間で会話を行う通信システムにおける出力制御方法であり、
前記遅延処理が実行されている場合に、前記遅延処理が実行されていることを示す遅延情報を前記車外の機器に送信し、当該遅延情報を前記車外の機器の車外ユーザに提示する提示処理をさらに含む、
出力制御方法。
【請求項10】
請求項2又は3に記載の出力制御方法であって、
前記遅延処理が実行されている場合に、前記遅延処理が実行されていることを示す遅延情報を前記車内ユーザに提示する提示処理をさらに含む、
出力制御方法。
【請求項11】
請求項2又は3に記載の出力制御方法であって、
前記遅延処理が実行されている場合に、前記遅延処理を終了させるための遅延終了指示が前記車内ユーザにより行われたことを認識する認識処理を含み、
前記決定処理では、前記遅延処理が実行されている場合において、前記遅延終了指示が行われたときには、当該遅延処理を終了させ、当該遅延処理により遅延対象となった前記音声メッセージを前記出力機器から出力させた後に、前記取得処理で取得された前記音声情報に基づく前記音声メッセージを前記出力機器から順次出力させる決定を行う、
出力制御方法。
【請求項12】
請求項1から3の何れかに記載の出力制御方法であって、
前記音声メッセージに含まれる文章を、予め設定された分割基準に基づいて決定される分割位置で分割する分割処理をさらに含み、
前記決定処理では、前記受容度に基づいて、前記分割処理で分割された文単位で、前記出力機器から前記音声メッセージを出力させるタイミングを決定する、
出力制御方法。
【請求項13】
請求項12に記載の出力制御方法であって、
前記分割位置は、前記文章において一文が完結する位置、又は、前記文章において文脈上の関係性が強い一群の文が完結する位置である、
出力制御方法。
【請求項14】
無線通信を利用して車外の機器から送信される音声情報に基づく音声メッセージを車内の出力機器から出力させる出力制御装置であって、
前記音声情報を取得する取得部と、
車両の車内ユーザの状態が前記音声メッセージを聞くことが可能な状態であるか否かの指標を示す受容度を推定する推定部と、
前記受容度の大きさに基づいて、前記出力機器から前記音声情報に基づく前記音声メッセージを出力させるタイミングを決定する決定部と、を備える、
出力制御装置。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、音声メッセージを車内の出力機器から出力させる出力制御方法及び出力制御装置に関する。
【背景技術】
【0002】
従来、車両に乗車する車内ユーザが車外ユーザとの間で、音声メッセージのやり取りを行う技術が存在する。例えば、車外ユーザの発話終了時点から所定時間以上、車内ユーザの発話が行われない場合に、車内ユーザの応答が遅れることを通知する音声メッセージを車外ユーザに送信する技術が提案されている(例えば、特許文献1参照)。
【先行技術文献】
【特許文献】
【0003】
【発明の概要】
【発明が解決しようとする課題】
【0004】
上述した従来技術では、車外ユーザは、車内ユーザの応答が遅れることを把握できるが、車内ユーザの状況を把握できない。このため、車外ユーザは、車内ユーザが音声メッセージを聞くことができない状況でも、必要な情報を伝えようとすることが想定される。この場合には、車内ユーザからの聞直しにより通信時間が増加し、各機器の演算量が増加するおそれがある。また、車内ユーザが音声メッセージを聞くことができない状況では、車外ユーザからの音声メッセージを適切に伝えることができないため、音声メッセージの応対品質が低下するおそれがある。
【0005】
本発明は、車内ユーザが音声メッセージを聞くことができる状況で、車外ユーザからの音声メッセージを適切に伝えることを目的とする。
【課題を解決するための手段】
【0006】
本発明の一態様は、無線通信を利用して車外の機器から送信される音声情報に基づく音声メッセージを車内の出力機器から出力させる出力制御方法である。この出力制御方法は、音声情報を取得する取得処理と、車両の車内ユーザの状態が音声メッセージを聞くことが可能な状態であるか否かの指標を示す受容度を推定する推定処理と、受容度の大きさに基づいて、出力機器から音声情報に基づく音声メッセージを出力させるタイミングを決定する決定処理とを含む。
【発明の効果】
【0007】
本発明によれば、車内ユーザが音声メッセージを聞くことができる状況で、車外ユーザからの音声メッセージを適切に伝えることができる。
【図面の簡単な説明】
【0008】
【
図1】
図1は、オペレータシステムのシステム構成の一例を示す図である。
【
図2】
図2は、第1OPSの構成例を示すブロック図である。
【
図3】
図3は、第2OPSの構成例を示すブロック図である。
【
図4】
図4は、音声ファイルの通信例と、音声メッセージの出力例とを模式的に示す図である。
【
図5】
図5は、音声ファイルの通信例と、音声メッセージの出力例とを模式的に示す図である。
【
図6】
図6は、音声メッセージに含まれる文章を分割基準に基づいて分割位置で分割する分割例と、その分割位置からの音声メッセージを出力する出力例とを模式的に示す図である。
【
図7】
図7は、出力制御装置における音声メッセージの出力制御処理の一例を示すフローチャートである。
【発明を実施するための形態】
【0009】
以下、添付図面を参照しながら本発明の実施形態について説明する。
【0010】
[オペレータシステムの構成例]
図1は、オペレータシステム1のシステム構成の一例を示す図である。オペレータシステム1は、車両C1の車内ユーザをサポートする通信システムである。例えば、オペレータシステム1は、自動車向けオペレータサービスに利用する音声対話システムである。この自動車向けオペレータサービスは、車室内において車内ユーザが外部のオペレータとの間で通話が可能なサービスであり、車内ユーザ(ドライバ又は他の乗員)の各種の困りごとを解決するサービス等である。なお、外部のオペレータとの通話以外にも、他の車両の乗員との間で通話が可能な音声対話システムについても本実施形態を適用可能である。
【0011】
なお、車両C1は、内燃機関車両、ハイブリッド車両、電動車両等の車両である。また、
図1では、説明を容易にするため、1台の車両C1のみを示すが、複数の車両が存在する場合についても本実施形態を適用可能である。
【0012】
オペレータシステム1は、ネットワーク10を介して各機器が通信可能に構成されている。例えば、ネットワーク10を介して第1OPS(オペレータシステム)200、第2OPS300等が通信可能に構成される。例えば、第1OPS200は、無線通信を利用した通信方式により基地局20を介してネットワーク10に接続される。また、例えば、第2OPS300は、無線通信を利用した通信方式又は有線通信を利用した通信方式の何れかの方式、又は、双方の方式によってネットワーク10に接続される。
【0013】
また、本実施形態では、第1OPS200及び第2OPS300間で行われる通信として、音声チャットを想定して説明する。この音声チャットは、インターネット等の所定のネットワークを利用して、複数人の間で音声によるメッセージをリアルタイムでやり取りするシステムを意味する。この音声チャットは、人から発せられた音を所定の区切り毎に音声ファイルに変換し、この音声ファイルを所定のネットワークを介して機器間でやり取りすることにより実現される。なお、本実施形態では、第1OPS200及び第2OPS300間で行われる通信として、音声チャットの例を示すが、音声チャット以外の他の音声通信についても同様に適用可能である。このように、第1OPS200及び第2OPS300は、音声通信システムとして機能する。
【0014】
また、本実施形態では、第1OPS200及び第2OPS300間で行われる音声チャットにおいて、第1OPS200からの音声出力を遅延させる遅延処理を実行する例を示す。この遅延処理については、
図5乃至
図7等を参照して詳細に説明する。
【0015】
ネットワーク10は、例えば、通話者同士をつなぐことが可能な通信回線ネットワークであり、携帯電話ネットワーク、インターネット等の公衆ネットワーク、専用ネットワーク等の各種の通信ネットワークを利用可能である。
【0016】
第1OPS200は、車両C1に搭載される1又は複数の機器により構成される車載側のオペレータシステムであり、音声対話システムを実現するための各通信を第2OPS300との間で実行する。また、車両C1の車内ユーザは、ドライバ、又は、ドライバ以外の乗員である。このように、本実施形態では、車内ユーザがドライバの場合に特に有用であるが、車内ユーザが乗員であってもよい。
【0017】
第2OPS300は、お問い合わせセンタ等に設置される1又は複数の機器により構成される遠隔側のオペレータシステムであり、音声対話システムを実現するための各通信を第1OPS200との間で実行する。また、本実施形態で示す車外ユーザ(遠隔ユーザ)は、お問い合わせセンタ等で車両のドライバをサポートするオペレータである。なお、車外ユーザ(遠隔ユーザ)は、人以外でもよい。例えば、情報処理システムの合成音声を、外部のオペレータが発する音としてもよい。
【0018】
第1OPS200、第2OPS300として、携帯情報端末、車載システム、パーソナルコンピュータ等の各種の情報処理装置が利用可能である。
【0019】
このように、本実施形態では、ユーザ同士がネットワーク10を介して対話を行う通信システムに適用可能である。
【0020】
[オペレータシステム(車載側)の構成例]
図2は、第1OPS200の構成例を示すブロック図である。第1OPS200は、自動車向けオペレータサービスを実現する主要な機能を備える車載システムである。
【0021】
第1OPS200は、車載マイク201と、車載センサ類202と、操作受付部203と、車載スピーカ204と、出力制御装置210とを備える。
【0022】
車載マイク201は、車両C1の車室内の音を取得するものであり、取得された音に関する音情報を送信処理部214に出力する。車載マイク201として、例えば、1又は複数のマイクや音取得センサを用いることができる。
【0023】
車載センサ類202は、車両C1に設置されている各種センサであり、その検出値を受容度推定部215及びユーザ許可認識部216に出力する。車載センサ類202として、舵角センサ、アクセル開度センサ、車速センサ、車内カメラ、車外カメラ、車内音取得センサ、車外音取得センサ、位置情報取得センサ、シート型センサ、発汗センサ等の各種センサを用いることができる。なお、これらの各センサは、車両C1に設置可能なセンサの一例であり、他のセンサを用いてもよい。また、外部機器から取得可能な他の情報を用いてもよい。
【0024】
舵角センサは、ステアリングホイールの回転角度を計測するセンサである。また、アクセル開度センサは、アクセルペダルの踏込み量を計測するセンサである。また、車速センサは、車両C1の速度を計測するセンサである。
【0025】
また、車外カメラは、車両C1の外部の被写体を撮像して画像(画像データ)を生成するカメラである。また、車内カメラは、車両C1の車室内の被写体を撮像して画像(画像データ)を生成するカメラである。なお、車外カメラ及び車内カメラは、例えば、被写体を撮像することが可能な1又は複数のカメラ機器や画像センサにより構成される。なお、この例では、少なくとも2つの車外カメラ及び車内カメラを備える例を示すが、1又は3以上の撮像装置を備え、これらの撮像装置のうちの一部の画像を用いてもよい。
【0026】
車内音取得センサは、車両C1の車室内の音を取得するセンサである。なお、音取得センサは、車載マイク201を用いることが可能である。また、車外音取得センサは、車両C1の外部の音を取得するセンサである。
【0027】
位置情報取得センサは、車両C1が存在する位置に関する位置情報を取得するものである。例えば、GNSS(Global Navigation Satellite System:全球測位衛星システム)を利用して位置情報を取得するGNSS受信機により実現できる。また、その位置情報には、GNSS信号の受信時における緯度、経度、高度等の位置に関する各データが含まれる。また、他の位置情報の取得方法により位置情報を取得してもよい。例えば、周囲に存在するアクセスポイントや基地局からの情報を用いて位置情報を導き出してもよい。また、ビーコンを用いて位置情報を取得してもよい。また、例えば、ナビゲーション装置による位置推定技術を用いて位置情報を導き出してもよい。
【0028】
シート型センサは、ドライバの心拍数と呼吸数を計測するセンサである。また、発汗センサは、ドライバの発汗量を計測するセンサである。
【0029】
操作受付部203は、車両C1の車内ユーザ(ドライバ又は他の乗員)からの操作を受け付けるものであり、受け付けられた操作内容をユーザ許可認識部216に出力する。操作受付部203については、各種情報を表示することが可能な表示部と一体のユーザインタフェースとして構成してもよく、別体のユーザインタフェースとして構成してもよい。この表示部として、有機EL(Electro Luminescence)パネル、LCD(Liquid Crystal Display)パネル等の表示パネルを用いることができる。また、一体のユーザインタフェースとして、使用者がその指を表示面に接触又は近接することにより操作入力を行うことが可能なタッチパネルを用いることができる。別体のユーザインタフェースとして、各種の操作部材、例えばボタンを用いることができる。
【0030】
車載スピーカ204は、車両C1の車室内に音を出力するものである。車載スピーカ204として、例えば、1又は複数のスピーカを用いることができる。なお、車載マイク201、操作受付部203及び車載スピーカ204は、ユーザインタフェースの一例であり、これらのうちの一部を一体としてもよく、他のユーザインタフェースを用いてもよい。
【0031】
出力制御装置210は、通信ユニット211と、受信処理部212と、分割処理部213と、送信処理部214と、受容度推定部215と、ユーザ許可認識部216と、遅延処理決定部217と、記憶部218と、音声出力処理部219と、遅延情報出力処理部220とを備える。
【0032】
通信ユニット211は、無線通信を利用して基地局20と接続され、ネットワーク10を介して第2OPS300との間で各種情報のやりとりを行うものである。
【0033】
受信処理部212は、通信ユニット211を介して第2OPS300から受信した各情報について受信処理を実行するものである。例えば、受信処理部212は、第2OPS300から送信された音声ファイルを、通信ユニット211を介して受信する受信処理を実行する。なお、受信処理部212は、受信した音声ファイルを、必要に応じて記憶部218に一時的に記憶させる。また、受信処理部212は、受信した音声ファイルを分割処理部213及び音声出力処理部219に出力する。また、受信処理部212は、遅延処理決定部217により遅延処理を実行することが決定された場合には、受信した音声ファイルを記憶部218に記憶させる。
【0034】
分割処理部213は、受信処理部212から出力された音声ファイルに基づく音声情報、すなわち音声メッセージに含まれる文章を、予め設定された分割基準に基づいて分割する分割処理を実行する。また、分割処理部213は、分割処理により決定された各文章の分割位置を示す分割情報を遅延処理決定部217に出力する。この分割処理については、
図6を参照して詳細に説明する。なお、分割処理部213による分割処理は、発話区切り判定処理とも称することができる。
【0035】
送信処理部214は、車載マイク201から出力された音情報を、通信ユニット211を介して第2OPS300に送信する送信処理を実行するものである。例えば、送信処理部214は、車載マイク201から出力された音情報に基づいて音声ファイルを生成し、この音声ファイルを、通信ユニット211を介して第2OPS300に送信する送信処理を実行する。なお、送信処理部214は、送信対象となる音声ファイルを、必要に応じて記憶部218に一時的に記憶させる。
【0036】
受容度推定部215は、車載センサ類202からの各情報に基づいて、車両C1の車内ユーザU1(ドライバ又は乗員)のメッセージ受容度を推定する推定処理を実行する。また、受容度推定部215は、推定処理により推定されたメッセージ受容度を通信ユニット211及び遅延処理決定部217に出力する。なお、通信ユニット211は、メッセージ受容度を第2OPS300に送信する。
【0037】
[メッセージ受容度の推定例]
ここで、メッセージ受容度の推定方法について説明する。メッセージ受容度は、車両C1の車内ユーザの状態が音声メッセージを聞くことが可能な状態であるか否かの指標を意味する。本実施形態では、車両C1の車内ユーザが音声メッセージを聞くことが可能な状態ではメッセージ受容度を高い値とし、車両C1の車内ユーザが音声メッセージを聞くことができない状態ではメッセージ受容度を低い値とする例を示す。
【0038】
言い換えると、メッセージ受容度は、車両C1のドライバの運転負荷と、車両C1の車内ユーザ(ドライバ又は他の乗員)の会話状況とのうちの少なくとも1つに関連する指標である。また、本実施形態では、車両C1の挙動と、車両C1の車内ユーザ(ドライバ又は他の乗員)の状態と、車両C1の周囲情報とのうちの少なくとも何れかの条件データに基づいてメッセージ受容度を推定する例を示す。
【0039】
ここで、車両C1の挙動は、車両C1自体の挙動とともに、車両C1のドライバの挙動としても把握できる。車両C1の挙動は、例えば、車両C1の操作量に基づいて取得可能である。車両C1のドライバの挙動は、例えば、車両C1の運転状態に基づいて取得可能である。
【0040】
[車両の操作量に基づくメッセージ受容度の推定例]
車両C1の操作量は、例えば、ステアリング舵角、アクセル開度、車速等である。これらの各値は、車載センサ類202から取得可能である。
【0041】
例えば、ステアリングホイールの操作量が閾値以上である場合、又は、ステアリングホイールの操作頻度が閾値以上である場合には、車両C1の進行方向が大きく変化していたり、車両C1の進行方向が頻繁に変化していたりする可能性が高い。この場合には、車両C1のドライバの運転負荷が高いと想定される。また、ステアリングホイールの操作頻度が閾値以上である場合は、車両C1のドライバがステアリングを細かく切っている状況が想定される。このため、ステアリングホイールの操作量の増加、又は、ステアリングホイールの操作頻度の増加に応じて、メッセージ受容度を低い値とすることが可能である。なお、ステアリングホイールの操作頻度は、例えば、ステアリングホイールの操作を時系列データで保持することにより取得可能である。
【0042】
また、例えば、アクセル開度が閾値以上である場合、又は、アクセルペダルの操作頻度閾値以上である場合には、車両C1の速度が速かったり、車両C1の加減速が頻繁に発生していたりする可能性が高い。この場合には、車両C1のドライバの運転負荷が高いと想定される。このため、アクセル開度の増加、又は、アクセルペダルの操作頻度の度増加に応じて、メッセージ受容度を低い値とすることが可能である。
【0043】
また、例えば、車速が閾値以上である場合には、車両C1のドライバの運転負荷が高いと想定される。このため、車速の増加に応じて、メッセージ受容度を低い値とすることが可能である。なお、これらの各閾値は、実験データ等により適宜設定可能である。
【0044】
このように、例えば、ステアリングホイールの操作量の増加、ステアリングホイールの操作頻度の増加、アクセル開度の増加、アクセルペダルの操作頻度の増加、車速の増加に応じて、車両C1のドライバの運転負荷が高くなるため、メッセージ受容度を低い値とする。
【0045】
[ドライバ状態に基づくメッセージ受容度の推定例]
車両C1の運転状態は、例えば、ドライバの心拍数、ドライバの発汗量、ドライバの姿勢、ドライバの視線、ドライバの車内会話状況等である。これらの各値は、車載センサ類202から取得可能である。
【0046】
例えば、ドライバの心拍数が閾値以上である場合、又は、ドライバの発汗量が閾値以上である場合には、ドライバが運転に集中していたり、ドライバが運転に緊張していたりする可能性が高い。この場合には、車両C1のドライバの運転負荷が高いと想定される。このため、ドライバの心拍数の増加、又は、ドライバの発汗量の増加に応じて、メッセージ受容度を低い値とすることが可能である。なお、ドライバの心拍数は、例えば、シート型センサにより取得可能である。また、ドライバの発汗量は、例えば、発汗センサにより取得可能である。また、ドライバの心拍数、ドライバの発汗量については、ドライバが身に着けている電子機器、例えばウェアラブル機器から取得してもよい。また、他のセンサにより取得された各値を用いた所定の計算式によりドライバの心拍数、ドライバの発汗量を推定してもよい。
【0047】
例えば、ドライバの姿勢の変化量が閾値以上である場合、又は、ドライバの姿勢の変化頻度が閾値以上である場合には、ステアリングホイールの操作量が高い、ステアリングホイールの操作頻度が高い等により、ドライバの身体が振られていることが多い。このような場合には、車両C1の進行方向が大きく変化していたり、車両C1の進行方向が頻繁に変化していたりする可能性が高いため、車両C1のドライバの運転負荷が高いと想定される。このため、ドライバの姿勢の変化量の増加、又は、ドライバの姿勢の変化頻度の増加に応じて、メッセージ受容度を低い値とすることが可能である。なお、ドライバの姿勢の変化量、又は、ドライバの姿勢の変化頻度は、車内カメラにより取得されたドライバの画像に基づいて取得可能である。
【0048】
例えば、ドライバの視線の変化量が閾値以上である場合、又は、ドライバの視線の変化頻度が閾値以上である場合には、ドライバが知らない道を走行している、ドライバが何かを探している等により、車両C1のドライバの運転負荷が高いと想定される。このため、ドライバの視線の変化量の増加、又は、ドライバの視線の変化頻度の増加に応じて、メッセージ受容度を低い値とすることが可能である。なお、ドライバの視線の変化量、又は、ドライバの視線の変化頻度は、車内カメラにより取得されたドライバの顔の画像に基づいて取得可能である。
【0049】
例えば、車内でのドライバの会話状況として、車内で会話をしている状態では、その会話に割り込むことを防止することが重要である。このため、車内でのドライバの会話状況として、車内で会話をしている状態と判定された場合には、メッセージ受容度を低い値とすることが可能である。この場合に、車内での会話状態に応じて、メッセージ受容度を低い値とすることが可能である。例えば、車内での会話の音量、車内での会話の内容等に応じて、メッセージ受容度を低い値とすることが可能である。例えば、車内での会話の音量が大きくなるのに応じて、メッセージ受容度を低い値とする。また、例えば、車内での笑い声を含む頻度が大きくなるのに応じて、メッセージ受容度を低い値とする。
【0050】
また、本実施形態では、車両C1の車内ユーザがドライバである場合を主に想定するが、車両C1の車内ユーザが乗員である場合についてもっても本実施形態を適用可能である。このように、車両C1の車内ユーザが乗員である場合には、車両C1の運転負荷ではなく、車内での会話状況等を用いてメッセージ受容度を推定することが好ましい。この場合の車内での会話状況等として、乗員が他の電話中であり、話ができない状態等も想定される。このような場合にも、メッセージ受容度を低い値とする。
【0051】
[車両の周辺情報に基づくメッセージ受容度の推定例]
車両C1の周辺情報は、車両C1の周囲から取得可能な情報である。例えば、車外カメラにより取得された車両C1の周囲の画像、車外音取得センサにより取得された車両C1の周囲の音、車両C1の位置情報に基づいて取得可能である。
【0052】
例えば、車両C1が山道、住宅街等の細い道を走行している場合には、車両C1のドライバの運転負荷が高いと想定される。この場合に、ドライバの運転負荷が高い道路を車両C1が走行しているか否かに応じて、メッセージ受容度を低い値とすることが可能である。例えば、ドライバの運転負荷が高い道路を車両C1が走行していることに応じて、メッセージ受容度を低い値とすることが可能である。このような車両C1のドライバの運転負荷が高い道路については、位置情報取得センサと地図情報とに基づいて判定可能である。
【0053】
また、例えば、車両C1が暗い道、例えば夕方や夜の道、雨天の道、雪の道を走行している場合には、車両C1のドライバの運転負荷が高いと想定される。この場合に、ドライバの運転負荷が高い状態で車両C1が走行しているか否かに応じて、メッセージ受容度を低い値とすることが可能である。例えば、ドライバの運転負荷が高い状態で車両C1が走行していることに応じて、メッセージ受容度を低い値とすることが可能である。このような車両C1のドライバの運転負荷が高い道路については、時刻情報、天候情報に基づいて判定可能である。
【0054】
なお、上述したメッセージ受容度の推定方法は、一例であり、他の推定方法によりメッセージ受容度を推定してもよい。例えば、車両C1に搭載された他のセンサデータ(例えば、ドライバモニタリングシステム(DMS(Driver Monitoring System)))から得られるドライバ認識情報(性別、年齢、挙動、視線等)、先進運転支援システム(ADAS(Advanced Driving Assistant System))から得られる自動車の周囲状況(緯度経度、車両間隔、歩行者検知情報等)、車両挙動(車速、ステアリング舵角、ウィンカー、アクセル開度等)、車内会話の状況等を条件データとして用いてメッセージ受容度を推定してもよい。また、上述したメッセージ受容度の推定方法のうちの少なくとも2つを組み合わせてメッセージ受容度を推定してもよい。例えば、上述した各条件データのうちの少なくとも1つを用いて、重回帰分析等の予測方法によりメッセージ受容度を定量化して求めてもよい。
【0055】
また、人工知能(AI(Artificial Intelligence))を用いてッセージ受容度を推定してもよい。例えば、上述した各条件データからメッセージ受容度を推定するための学習をされた学習済みの学習モデルに、入力データとして新たに取得された条件データを入力し、その入力データに対応する新たな出力データとしてメッセージ受容度を出力させることにより、メッセージ受容度を推定してもよい。
【0056】
例えば、人工知能を用いる場合には、入力層及び出力層を含み、入力層への入力データとして条件データを入力し、出力層からの出力データとしてメッセージ受容度を出力するニューラルネットワークと、入力データ及び出力データの実績値を教師データとしてニューラルネットワークに学習をさせることにより学習済みモデルを取得する学習部とを用いることができる。この場合には、受容度推定部215は、学習部により取得された学習済みモデルに、新たに取得された条件データを入力データとして入力することでメッセージ受容度の推定を行う。
【0057】
なお、メッセージ受容度は、ユーザによって個人差がある。そこで、車内ユーザによる音声メッセージの許可情報と、その許可された時の各条件データとをロギングし、それらの各情報に基づいて、遅延処理の要否を判定する際に用いる基準値をユーザに応じて動的に変更してもよい。なお、遅延処理の要否判定については遅延処理決定部217により実行される。また、それらの各情報に基づいて、ある条件において遅延処理を実行しないようにマスクをしてもよい。なお、音声メッセージの許可情報は、ユーザ許可認識部216から出力される。
【0058】
ユーザ許可認識部216は、車載センサ類202又は操作受付部203からの各情報に基づいて、音声メッセージの出力を許可するユーザ指示を認識するものであり、その認識結果、すなわち音声メッセージの許可情報を遅延処理決定部217に出力する。例えば、車両C1の車内ユーザによる機器操作、音声入力、ジェスチャー等の指示方法により、第1OPS200において実行されている遅延処理を強制的に解除することが可能である。例えば、車両C1の車内ユーザにより所定ボタンの押下操作がされた場合、又は、車両C1の車内ユーザにより所定の音声が発せられた場合には、音声メッセージの出力を許可するユーザ指示として認識される。これにより、受容度推定部215により推定されたメッセージ受容度が低い場合でも、第2OPS300のオペレータからの音声メッセージの出力を許可することができる。
【0059】
遅延処理決定部217は、受容度推定部215により推定されたメッセージ受容度に基づいて、音声メッセージを出力するタイミングを遅延させる遅延処理を実行するか否かを決定するものである。そして、遅延処理決定部217は、その決定結果である遅延情報(分割情報を含む)を音声出力処理部219及び遅延情報出力処理部220に出力する。また、遅延処理決定部217は、その遅延情報を通信ユニット211及び受信処理部212に出力する。なお、通信ユニット211は、その遅延情報を第2OPS300に送信する。また、受信処理部212は、その遅延情報に基づいて、音声メッセージを記憶部218に記憶させるか否かを判定する。
【0060】
例えば、遅延処理決定部217は、メッセージ受容度が基準値以上であるか否かに基づいて、遅延処理を実行するか否かを決定する。具体的には、遅延処理決定部217は、メッセージ受容度が基準値以上である場合には、通常処理を実行すると決定し、メッセージ受容度が基準値未満である場合には、遅延処理を実行すると決定する。ただし、メッセージ受容度が基準値未満である場合でも、音声メッセージの出力が許可されたことがユーザ許可認識部216により認識されたときには、遅延処理決定部217は、遅延処理を実行せずに通常処理を実行すると決定する。ここで、基準値は、予め設定された基準となるメッセージ受容度である。この基準値は、実験データ等に基づいて適宜設定可能である。また、ユーザ操作に基づいて基準値を設定してもよい。
【0061】
また、遅延処理決定部217は、分割処理部213から出力された分割情報に基づいて、分割処理により決定された分割位置に基づく文単位で、音声メッセージを遅延させるタイミングを決定する。
【0062】
記憶部218は、各種情報を記憶する記憶媒体である。例えば、記憶部218には、出力制御装置210が各種処理を行うために必要となる各種情報(例えば、制御プログラム、音声ファイル)が記憶される。なお、記憶部218として、例えば、ROM(Read Only Memory)、RAM(Random Access Memory)、HDD(Hard Disk Drive)、SSD(Solid State Drive)、又は、これらの組み合わせを用いることができる。
【0063】
音声出力処理部219は、受信処理部212により受信された音声ファイルに基づく音声メッセージを車載スピーカ204から出力させる音声出力処理を実行するものである。この場合に、音声出力処理部219は、遅延処理決定部217から出力された遅延情報に基づいて、車載スピーカ204から音声メッセージを出力させるタイミングを遅延させる遅延処理を実行する。
【0064】
遅延情報出力処理部220は、遅延処理決定部217から出力された遅延情報を出力させる出力処理を実行するものである。例えば、遅延情報出力処理部220は、遅延情報に基づく音声メッセージを車載スピーカ204から出力させる出力処理を実行する。また、例えば、遅延情報出力処理部220は、遅延情報に基づく画像を表示部に表示させる出力処理を実行する。このように、遅延情報に基づく音声メッセージを音声出力させたり、遅延情報に基づく画像を表示させたりすることができる。このように、遅延情報出力処理部220は、遅延情報を出力し、第2OPS300のオペレータからの音声メッセージが遅延されている旨を車両C1のドライバに通知する。
【0065】
[オペレータシステム(遠隔側)の構成例]
図3は、第2OPS300の構成例を示すブロック図である。第2OPS300は、自動車向けオペレータサービスを実現する主要な機能を備えるシステムである。
【0066】
第2OPS300は、通信ユニット301と、マイク302と、送信処理部303と、受信処理部304と、スピーカ305と、出力処理部306、出力部307とを備える。
【0067】
通信ユニット301は、無線通信又は有線通信を利用してネットワーク10と接続され、ネットワーク10を介して第1OPS200との間で各種情報のやりとりを行うものである。
【0068】
マイク302は、第2OPS300の設置場所において音を取得するものであり、取得された音に関する音情報を送信処理部303に出力する。マイク302として、例えば、1又は複数のマイクや音取得センサを用いることができる。
【0069】
送信処理部303は、マイク302から出力された音情報を、通信ユニット301を介して第1OPS200に送信する送信処理を実行するものである。なお、送信処理部303は、
図2に示す送信処理部214に対応するものであり、ここでの詳細な説明を省略する。
【0070】
受信処理部304は、通信ユニット301を介して第1OPS200から受信した各情報、例えば音声ファイルについて受信処理及び出力処理を実行するものである。例えば、受信処理部304は、第1OPS200から送信される音声ファイルを、通信ユニット301を介して受信する受信処理を実行する。なお、受信処理部304は、受信した音声ファイルを、必要に応じて記憶部(図示省略)に一時的に記憶させる。また、受信処理部304は、受信した音声ファイルに基づく音声メッセージをスピーカ305から出力させる音声出力処理を実行する。
【0071】
スピーカ305は、第2OPS300の設置場所において音を出力するものである。スピーカ305として、例えば、1又は複数のスピーカを用いることができる。なお、マイク302及びスピーカ305は、ユーザインタフェースの一例であり、これらのうちの一部を一体としてもよく、他のユーザインタフェースを用いてもよい。
【0072】
出力処理部306は、通信ユニット301を介して第1OPS200から受信した各情報、例えばメッセージ受容度及び遅延情報について受信処理及び出力処理を実行するものである。例えば、受信処理部304は、第1OPS200から送信される遅延情報を、通信ユニット301を介して受信する受信処理を実行する。また、受信処理部304は、受信した遅延情報に基づく音声メッセージ又は画像を出力部307から出力させる出力処理を実行する。例えば、音声メッセージを音声出力させたり、画像を表示させたりすることができる。
【0073】
出力部307は、第1OPS200から受信したメッセージ受容度及び遅延情報に基づく音声メッセージ又は画像を出力するものである。出力部307は、例えば、スピーカ、表示パネル等のユーザインタフェースにより実現される。なお、出力部307の代わりに、スピーカ305を用いて音声メッセージを音声出力させてもよい。このように、出力部307は、メッセージ受容度及び遅延情報の出力部として機能する。
【0074】
このように、第2OPS300のオペレータO1は、車両C1の車内ユーザU1(ドライバ又は乗員)の状況を出力部307により知ることができる。
【0075】
[音声ファイルの通信例、音声メッセージの出力例]
図4及び
図5は、音声ファイルの通信例と、音声メッセージの出力例とを模式的に示す図である。
【0076】
[メッセージ受容度が基準値以上である場合の遷移例]
図4には、車両C1の周囲でおいしい店を探したいと考えた車内ユーザU1が、第2OPS300のオペレータO1に質問をする場合の例を示す。また、
図4では、受容度推定部215により推定されたメッセージ受容度が基準値以上である場合の例を示す。
【0077】
図4(A)に示すように、車内ユーザU1が、音声S1「この近くでお薦めのおいしい店はありますか?」を発したものとする。この場合には、車載マイク201は、音声S1を取得し、音声S1に関する音声情報を送信処理部214に出力する。送信処理部214は、音声S1に関する音声情報に基づいて音声ファイル401を生成し、通信ユニット211を介して第2OPS300に送信する送信処理を実行する。
【0078】
第2OPS300の通信ユニット301は、第1OPS200からの音声ファイル402を受信すると、音声ファイル402を受信処理部304に出力する。なお、音声ファイル402は、音声ファイル401に対応する。
【0079】
受信処理部304は、音声ファイル402を取得すると、音声ファイル402に基づく音声情報S2「この近くでお薦めのおいしい店はありますか?」をスピーカ305から出力させる。
【0080】
図4(B)には、車内ユーザU1からの質問に対して、第2OPS300から応答がされる場合の例を示す。
図4(B)に示すように、第2OPS300のオペレータO1が、音声S3「ABC町にある焼肉料理のXYZ店がお薦めです。」を発したものとする。この場合には、マイク302は、音声S3を取得し、音声S3に関する音声情報を送信処理部303に出力する。送信処理部303は、音声S3に関する音声情報に基づいて音声ファイル411を生成し、通信ユニット301を介して第1OPS200に送信する送信処理を実行する。
【0081】
第1OPS200の通信ユニット211は、第2OPS300からの音声ファイル412を受信すると、音声ファイル412を受信処理部212に出力する。また、受信処理部212は、通常処理を実行するため、音声ファイル412を音声出力処理部219に出力する。なお、音声ファイル412は、音声ファイル411に対応する。
【0082】
音声出力処理部219は、音声ファイル412を取得すると、音声ファイル412に基づく音声情報S4「ABC町にある焼肉料理のXYZ店がお薦めです。」を車載スピーカ204から出力させる。なお、通常処理では、音声出力処理の際に必要に応じて音声ファイル412を記憶部218に記憶させる。
【0083】
[メッセージ受容度が基準値未満である場合の遷移例]
図5では、メッセージ受容度が基準値未満となった後に、メッセージ受容度が基準値以上となったとき、又は、音声メッセージの出力が許可されたときの遷移例を示す。また、
図5(A)(B)では、受容度推定部215により推定されたメッセージ受容度が基準値未満であり、かつ、音声メッセージの出力が車内ユーザU1により許可されていない場合の例を示す。また、
図5(C)では、受容度推定部215により推定されたメッセージ受容度が基準値以上となった場合、又は、音声メッセージの出力が車内ユーザU1により許可された場合の例を示す。
【0084】
なお、
図5に示す例は、
図4の一部を変形した例であり、
図5(B)において、第2OPS300が音声ファイル411を第1OPS200に送信するまでの各処理は共通する。このため、これらの各処理については説明を省略する。
【0085】
受容度推定部215により推定されたメッセージ受容度が基準値未満である場合には、遅延処理決定部217は、車載スピーカ204から音声メッセージを出力させるタイミングを遅延させる遅延処理を実行することを決定する。この遅延処理では、
図5(B)に示すように、車載スピーカ204から音声メッセージを出力させるタイミングとなるまでの間、第2OPS300から受信した音声ファイル412を記憶部218に記憶させる。すなわち、第1OPS200の通信ユニット211は、第2OPS300からの音声ファイル412を受信すると、音声ファイル412を受信処理部212に出力する。また、受信処理部212は、遅延処理決定部217からの遅延情報に基づいて、音声ファイル412を記憶部218に記憶させ、遅延処理を実行する。この遅延処理は、受容度推定部215により推定されたメッセージ受容度が基準値以上となるか、音声メッセージの出力が車内ユーザU1により許可されるまでの間、継続して実行される。すなわち、車内ユーザU1は、音声メッセージを聞くことができる状態となるまでの間、第2OPS300からの音声ファイル412に基づく音声情報S4を聞くことができない。
【0086】
図5(C)に示すように、メッセージ受容度が基準値以上となった場合、又は、音声メッセージの出力が車内ユーザU1により許可された場合には、遅延処理決定部217は、車載スピーカ204から音声メッセージを出力させるタイミングを通常に戻す通常処理を実行することを決定する。ただし、この通常処理では、通常処理に戻す前に、遅延処理のために記憶部218に記憶された音声ファイルが存在する場合には、その音声ファイルを優先的に出力する。
【0087】
すなわち、
図5(C)に示すように、音声出力処理部219は、遅延処理決定部217からの遅延情報に基づいて、記憶部218に記憶されている音声ファイル412を取得する。そして、音声出力処理部219は、音声ファイル412に基づく音声情報S4「ABC町にある焼肉料理のXYZ店がお薦めです。」を車載スピーカ204から出力させる。このように、車内ユーザU1は、音声メッセージを聞くことができる状態となった後に、第2OPS300からの音声ファイル412に基づく音声情報S4を聞くことができる。
【0088】
このように、自動車向けオペレータサービスにおいて、メッセージ受容度が低い場合、例えば、車内ユーザU1の運転負荷が高い場合には、第2OPS300のオペレータO1からの音声メッセージの出力を停止する。また、音声メッセージの出力が停止された場合には、会話の当事者、すなわちオペレータO1及び車内ユーザU1の双方に音声メッセージの出力が停止されている旨を通知する。また、音声メッセージの停止後に、車内ユーザU1のメッセージ受容度が高くなった場合には、オペレータO1からの音声メッセージの出力を再開する。
【0089】
また、メッセージ受容度が高くなったことが自動的に判定された場合、又は、メッセージ受容度が高くなったことを車内ユーザU1が確認し、車内ユーザU1により許可された場合には、オペレータO1からの音声メッセージの出力を再開することができる。これにより、音声メッセージの出力を円滑に再開することができる。
【0090】
[音声ファイルにおける分割位置からの音声メッセージの出力例]
図6は、音声メッセージに含まれる文章を分割基準に基づいて分割位置で分割する分割例と、その分割位置からの音声メッセージを出力する出力例とを模式的に示す図である。なお、車内ユーザU1が第2OPS300に質問し、その質問に対して音声ファイル421が第1OPS200に送信されるまでの各処理は、
図4(A)及び
図5(A)と同様である。ただし、第2OPS300から送信される音声ファイルの内容が異なる。このため、
図4及び
図5と共通する点については、説明を省略する。
【0091】
図6(A)乃至(C)では、受容度推定部215により推定されたメッセージ受容度が基準値以上である場合の例を示す。
【0092】
図6(A)には、車内ユーザU1からの質問に対して、第2OPS300からの応答により送信された音声ファイル421を示す。音声ファイル421に対応する音声メッセージは「ABC町にある焼肉料理のXYZ店がお薦めです。特に特上カルビが一番人気です。」とする。
【0093】
第1OPS200の通信ユニット211は、第2OPS300からの音声ファイル421を受信すると、音声ファイル421を受信処理部212に出力する。また、受信処理部221は、通常処理を実行するため、音声ファイル412を分割処理部213及び音声出力処理部219に出力する。
【0094】
図6(B)に示すように、分割処理部213は、音声ファイル421に基づく音声メッセージに含まれる文章を分割基準に基づいて分割する分割処理を実行する。この分割処理では、音声メッセージに含まれる文章を文単位で分割する分割位置を決定する。この分割位置は、音声メッセージに含まれる文章において一文が完結する位置、又は、音声メッセージに含まれる文章において文脈上の関係性が強い一群の文が完結する位置とすることができる。すなわち、音声メッセージに含まれる文章における分割位置は、所定の意味のある区切りを意味する。
【0095】
例えば、句読点で区切られる文の位置等を分割位置とすることができる。この句読点は、日本語の場合には句点(。)、読点(、)であり、英語の場合には終止符(.)、カンマ(,)である。また、疑問符(?)、感嘆符(!)、省略符、各種括弧等の記述記号類等に基づいて分割位置を決定してもよい。
図6(B)では、「。」で終了する文の位置を分割位置とする例を示す。すなわち、分割処理部213は、音声メッセージ「ABC町にある焼肉料理のXYZ店がお薦めです。特に特上カルビが一番人気です。」について、「。」で終了する文の位置を分割位置SP1として決定する。このように、音声メッセージに含まれる文章における分割位置SP1を決定することにより、話題の途中等のように、切の悪い位置でオペレータO1の話が停止されないように遅延処理を実行することが可能である。また、分割処理部213は、分割処理により決定された各文章の分割位置を示す分割情報を遅延処理決定部217に出力する。なお、これらの文章メッセージの分割処理については、公知の音声認識技術を用いることができる。
【0096】
図6(C)に示すように、音声出力処理部219は、音声ファイル421を取得すると、音声ファイル421に基づく音声情報S5「ABC町にある焼肉料理のXYZ店がお薦めです。」を車載スピーカ204から出力させる。ただし、この例では、音声情報S5を車載スピーカ204から出力させた直後に、メッセージ受容度が基準値未満に変化する場合を想定する。この場合には、音声出力処理部219は、遅延処理決定部217からの遅延情報に基づいて、車載スピーカ204から出力中の音声メッセージ「ABC町にある焼肉料理のXYZ店がお薦めです。特に特上カルビが一番人気です。」のうち、出力中の文の分割位置SP1まで出力する。そして、その分割位置SP1以降の文については、メッセージ受容度が基準値以上となるか、又は、音声メッセージの出力が許可された後に出力される。
【0097】
具体的には、音声情報S5「ABC町にある焼肉料理のXYZ店がお薦めです。」が車載スピーカ204から出力中である場合には、分割位置SP1までが出力される。そして、
図6(D)に示すように、音声ファイル421が記憶部218に記憶される。その後に、メッセージ受容度が基準値以上となった後、又は、音声メッセージの出力が許可された後に、
図6(E)に示すように、分割位置SP1以降の文が出力される。すなわち、音声ファイル421に基づく音声情報S6「特に特上カルビが一番人気です。」が車載スピーカ204から出力される。
【0098】
以上では、車両C1の周囲の店を第2OPS300に質問する例を示したが、他の質問等を第2OPS300にしてもよい。例えば、車両C1の機能を第2OPS300に質問する場合についても同様に実施が可能である。
【0099】
[出力制御装置の動作例]
図7は、出力制御装置210における音声メッセージの出力制御処理の一例を示すフローチャートである。また、この出力制御処理は、記憶部218に記憶されているプログラムに基づいて実行される。また、この出力制御処理は、制御周期毎に常時実行される。また、この出力制御処理では、
図1乃至
図6を適宜参照して説明する。
【0100】
ステップS501において、受信処理部212は、第2OPS300から送信される音声ファイルを、通信ユニット211を介して受信する受信処理を実行する。この音声ファイルは、必要に応じて記憶部218に一時的に記憶される。
【0101】
ステップS502において、分割処理部213は、ステップS501で受信した音声ファイルに基づく音声情報、すなわち音声メッセージに含まれる文章を、予め設定された分割基準に基づいて分割位置で分割する分割処理を実行する。
【0102】
ステップS503において、受容度推定部215は、車載センサ類202からの各情報に基づいて、車両C1の車内ユーザU1(ドライバ又は乗員)のメッセージ受容度を推定する推定処理を実行する。
【0103】
ステップS504において、遅延処理決定部217は、ステップS503で推定されたメッセージ受容度が基準値以上であるか否かを判定する。メッセージ受容度が基準値以上である場合には、ステップS505に進む。一方、メッセージ受容度が基準値未満である場合には、ステップS507に進む。
【0104】
ステップS505において、音声出力処理部219は、第2OPS300から送信された音声メッセージのうち、車載スピーカ204から出力されていない音声メッセージが存在するか否かを判定する。具体的には、ステップS501で受信処理部212により受信された音声ファイルに基づく音声メッセージ、又は、ステップS510で記憶部218に記憶された音声ファイルに基づく音声メッセージが存在するか否かが判定される。音声メッセージが存在する場合には、ステップS506に進む。一方、音声メッセージが存在しない場合には、出力制御処理の動作を終了する。
【0105】
ステップS506において、音声出力処理部219は、音声メッセージを車載スピーカ204から出力させる出力処理を実行する。なお、ステップS510で記憶部218に記憶された音声ファイルに基づく音声メッセージのうち、車載スピーカ204から出力されていない音声メッセージが存在する場合には、この音声メッセージを優先的に出力する。
【0106】
ステップS507において、ユーザ許可認識部216は、車載センサ類202又は操作受付部203からの各情報に基づいて、音声メッセージの出力が、車両C1のユーザ(ドライバ又は乗員)により許可されているか否かを判定する。音声メッセージの出力が許可されている場合には、ステップS505に進む。一方、音声メッセージの出力が許可されていない場合には、ステップS508に進む。
【0107】
ステップS508において、音声出力処理部219は、音声メッセージを車載スピーカ204から出力中であるか否かを判定する。音声メッセージを出力中である場合には、ステップS509に進む。一方、音声メッセージを出力中でない場合には、ステップS510に進む。
【0108】
ステップS509において、音声出力処理部219は、車載スピーカ204から出力中の音声メッセージのうち、ステップS502で分割処理部213により決定された分割位置までの文が終了したか否かを判定する。分割位置までの文が終了した場合には、ステップS510に進む。一方、分割位置までの文が終了していない場合には、その分割位置までの文が終了するまでの間、監視を継続して行う。
【0109】
このように、オペレータの音声メッセージが出力中の場合には、その音声メッセージの内容に基づいて、関連する話題が終了したか否かを判定する。そして、出力中の話題に区切りがついたと判定された場合に、オペレータの音声メッセージを蓄積する処理(ステップS510)に進む。
【0110】
ステップS510において、受信処理部212は、ステップS501で受信した音声ファイルを記憶部218に蓄積する。
【0111】
ステップS511において、遅延情報出力処理部220は、ステップS501で受信した音声ファイルが記憶部218に蓄積されている間、車両C1の車内ユーザU1(ドライバ又は乗員)に対して遅延情報を出力する出力処理を実行する。また、通信ユニット211は、ステップS501で受信した音声ファイルが記憶部218に蓄積されている間、第2OPS300のオペレータO1に対して遅延情報を送信する送信処理を実行する。このように、車両C1の車内ユーザU1と、第2OPS300のオペレータO1との双方に音声メッセージの出力が遅延していることを示す遅延情報を提示する。また、第2OPS300のオペレータO1に対しては、メッセージ受容度も送信される。
【0112】
以上では、メッセージ受容度が基準値未満となった後には、メッセージ受容度が基準値以上となるか、音声メッセージの出力が車内ユーザにより許可されるまでの間、遅延処理を継続して実行する例を示した。ただし、メッセージ受容度が基準値未満となった後には、所定期間だけ遅延処理を実行してもよい。この所定期間は、メッセージ受容度の大きさに基づいて設定が可能である。例えば、メッセージ受容度が小さくなるのに応じて、所定期間を長く設定することができる。また、遅延処理が所定期間実行された後に、メッセージ受容度が基準値以上になったか否かの判定を再度実行し、この判定結果に基づいて、所定期間の遅延処理を順次設定してもよい。
【0113】
[本実施形態の効果]
本実施形態では、車両C1の車内ユーザのメッセージ受容度が高い場合、又は、音声メッセージの出力が許可された場合においてのみ、第2OPS300のオペレータO1からの音声メッセージを出力させる。このため、発話内容の聞き逃しを低減させることができ、オペレータとの対話に集中することが可能となる。また、第2OPS300のオペレータ側からの視点では、車内ユーザの状況を考慮せずに話しても、遅延処理が自動的に実行されるため、オペレータの見えない状況を把握しなければならないという負荷を低減することができる。また、車内ユーザからの聞き返しによるオペレーション時間の増加を抑制することもできる。
【0114】
例えば、車内ユーザU1のメッセージ受容度が低い状況でも、第2OPS300のオペレータO1は、その状況を把握することができないため、会話を続けてしまうことが多い。ここで、運転中に車内ユーザU1が音声対話を行うことは、車内ユーザU1にとって認知負荷が大きく、安全性を考慮することが重要となる。例えば、運転中の音声対話に伴う運転の反応遅れを考慮することが重要である。そこで、本実施形態では、運転負荷の高い状況における反応遅れを考慮して、運転負荷の高い状況では、第2OPS300のオペレータO1との会話を停止する。このように、車内ユーザU1の運転負荷等の状況に応じて、オペレータO1と会話を行うことができる。このため、運転負荷の高い状況において、オペレータサービス利用に伴う安全性を高めることができる。
【0115】
なお、以上では、メッセージ受容度の推定処理、車載スピーカ204から音声メッセージを出力させるタイミングを決定する決定処理を、出力制御装置210において実行する例を示したが、それらの各処理の全部または一部を他の機器において実行してもよい。この場合には、それらの各処理の一部を実行する各機器により情報処理システムが構成される。例えば、第2OPS300、車内ユーザU1により使用されている電子機器(例えば、スマートフォン、タブレット端末、パーソナルコンピュータ、カーナビゲーション装置、IVI(In-Vehicle Infotainment))、インターネット等の所定のネットワークを介して接続可能なサーバ等の各種情報処理装置、各種電子機器を用いて各処理の少なくとも一部を実行させることができる。
【0116】
また、出力制御装置210の機能を実行可能な情報処理システムの一部(または全部)については、インターネット等の所定のネットワークを介して提供可能なアプリケーションにより提供されてもよい。このアプリケーションは、例えばSaaS(Software as a Service)である。
【0117】
[本実施形態の構成例及びその効果]
本実施形態に係る出力制御方法は、無線通信を利用して第2OPS300(車外の機器の一例)から送信される音声ファイル(音声情報の一例)に基づく音声メッセージを車載スピーカ204(車内の出力機器の一例)から出力させる出力制御方法である。この出力制御方法は、音声ファイルを取得する取得処理(ステップS501)と、車両C1の車内ユーザの状態が音声メッセージを聞くことが可能な状態であるか否かの指標を示すメッセージ受容度(受容度の一例)を推定する推定処理(ステップS503)と、メッセージ受容度の大きさに基づいて、車載スピーカ204から音声メッセージを出力させるタイミングを決定する決定処理(ステップS504乃至S510)とを含む。
【0118】
この構成によれば、メッセージ受容度に応じて音声メッセージを出力させるタイミングを変えることで、車内ユーザはメッセージ受容度の高い状況で音声メッセージを受け取ることができる。これにより、車内ユーザからの聞直しにより通信時間の増加を抑制し、各機器の演算量の増加を抑制することができる。また、車内ユーザが音声メッセージを聞くことができる状況で、車外ユーザからの音声メッセージを適切に伝えることができる。
【0119】
本実施形態に係る出力制御方法において、決定処理(ステップS504、S507乃至S510)では、基準値(予め設定された基準受容度の一例)よりもメッセージ受容度が低い場合には、車載スピーカ204から音声メッセージを出力させるタイミングを遅延させる遅延処理を実行することを決定する。
【0120】
この構成によれば、メッセージ受容度が基準値よりも低い場合には、音声メッセージの出力タイミングを遅らせることで、車内ユーザはメッセージ受容度の高い状況で音声メッセージを受け取ることができる。
【0121】
本実施形態に係る出力制御方法において、決定処理(ステップS504、S505)では、メッセージ受容度が基準値(予め設定された基準受容度の一例)よりも高い場合には、取得処理(ステップS501)で音声ファイルが取得されたタイミングでその音声ファイルに基づく音声メッセージを車載スピーカ204から出力させる通常処理を実行することを決定する。
【0122】
この構成によれば、メッセージ受容度が基準値よりも高い場合には、音声メッセージの出力タイミングを遅らせないようにすることで、車内ユーザはメッセージ受容度の高い状況であれば、リアルタイムに音声メッセージを受け取ることができる。
【0123】
本実施形態に係る出力制御方法において、決定処理(ステップS504乃至S510)では、遅延処理が実行されている場合において、メッセージ受容度が基準値(予め設定された基準受容度の一例)よりも高くなったときには、その遅延処理を終了させ、その遅延処理により遅延対象となった音声メッセージを車載スピーカ204から出力させた後に、取得処理(ステップS501)で取得された音声ファイルに基づく音声メッセージを車載スピーカ204から順次出力させる決定を行う。
【0124】
この構成によれば、遅延処理の実行中にメッセージ受容度が回復したら、その遅延処理を終了することで、不必要な音声メッセージの遅延をなくすことができる。
【0125】
本実施形態に係る出力制御方法では、メッセージ受容度は、車両C1の車内ユーザの運転負荷と、車内ユーザの発話状況とのうちの少なくとも1つに関連する指標であり、推定処理(ステップS503)では、車両C1の挙動と、車内ユーザの状態と、車両C1の周囲情報とのうちの少なくとも何れかの条件データに基づいてメッセージ受容度を推定する。
【0126】
この構成によれば、車両C1の挙動と、車内ユーザの状態と、車両C1の周囲情報とのうちの少なくとも何れかの条件データを用いてメッセージ受容度を推定することができるため、時々刻々と変化するメッセージ受容度をリアルタイムに推定することができる。
【0127】
本実施形態に係る出力制御方法において、推定処理(ステップS503)では、条件データからメッセージ受容度を推定するための学習をされた学習済みの学習モデルに、入力データとして新たに取得された条件データを入力することでメッセージ受容度の推定を行う。
【0128】
この構成によれば、学習モデルを用いたメッセージ受容度の推定処理を実行することにより、より精度の高いメッセージ受容度を推定することが可能である。
【0129】
本実施形態に係る出力制御方法において、推定処理(ステップS503)では、入力層及び出力層を含み、入力層への入力データとして条件データを入力し、出力層からの出力データとしてメッセージ受容度を出力するニューラルネットワークと、入力データ及び出力データの実績値を教師データとしてニューラルネットワークに学習をさせることにより学習済みモデルを取得する学習部と、を用いて、学習部により取得された学習済みモデルに、新たに取得された条件データを入力データとして入力することでメッセージ受容度の推定を行う。
【0130】
この構成によれば、ニューラルネットワーク及び学習部を用いたメッセージ受容度の推定処理を実行することにより、より精度の高いメッセージ受容度を推定することが可能である。
【0131】
本実施形態に係る出力制御方法は、第2OPS300のオペレータ(車外ユーザの一例)と車両C1の車内ユーザとの間で会話を行う通信システムにおける出力制御方法であり、推定処理(ステップS503)で推定されたメッセージ受容度を第2OPS300に送信し、そのメッセージ受容度を第2OPS300のオペレータに提示する提示処理(ステップS511)をさらに含む。
【0132】
この構成によれば、車内ユーザのメッセージ受容度を第2OPS300のオペレータに提示することができるため、そのオペレータ(遠隔地にいるユーザ)は、車内ユーザのメッセージ受容度を容易に確認することができる。
【0133】
本実施形態に係る出力制御方法では、音声メッセージの遅延処理が実行されている場合に、その遅延処理が実行されていることを示す遅延情報を第2OPS300(車外の機器の一例)に送信し、その遅延情報を第2OPS300のオペレータ(車外ユーザの一例)に提示する提示処理(ステップS511)をさらに含む。
【0134】
この構成によれば、音声メッセージの出力を遅延させていることを、第2OPS300のオペレータに提示することができるため、そのオペレータは車内ユーザからの返答が遅い理由を容易に把握することができる。
【0135】
本実施形態に係る出力制御方法では、音声メッセージの遅延処理が実行されている場合に、その遅延処理が実行されていることを示す遅延情報を車内ユーザに提示する提示処理(ステップS511)をさらに含む。
【0136】
この構成によれば、第2OPS300からの音声メッセージを遅延させていることを車内ユーザに提示することができるため、第2OPS300からの返答が遅い理由を車内ユーザは容易に把握することができる。
【0137】
本実施形態に係る出力制御方法では、遅延処理が実行されている場合に、遅延処理を終了させるための遅延終了指示が車内ユーザにより行われたことを認識する認識処理(ステップS507)を含み、決定処理(ステップS504乃至S510)では、遅延処理が実行されている場合において、遅延終了指示が行われたときには、その遅延処理を終了させ、その遅延処理により遅延対象となった音声メッセージを車載スピーカ204から出力させた後に、取得処理(ステップS501)で取得された音声ファイルに基づく音声メッセージを車載スピーカ204から順次出力させる決定を行う。
【0138】
この構成によれば、車内ユーザにより遅延処理の終了が指示された場合には、その遅延処理を終了させるため、車内ユーザのメッセージ受容度の個人差によって生じる音声遅延によるストレスを緩和することができる。
【0139】
本実施形態に係る出力制御方法では、音声メッセージに含まれる文章を、予め設定された分割基準に基づいて決定される分割位置で分割する分割処理(ステップS502)をさらに含み、決定処理(ステップS508乃至S510)では、メッセージ受容度に基づいて、分割処理で分割された文単位で、車載スピーカ204から音声メッセージを出力させるタイミングを決定する。
【0140】
この構成によれば、車載スピーカ204から音声メッセージが出力中に、車内ユーザが音声メッセージを聞くことができない状況となった場合には、分割処理で分割された文単位で遅延処理を実行することが可能となる。例えば、文脈上の関係性が強い一群の文が終わった直後から遅延処理を開始させることが可能となる。これにより、遅延処理が発生しても、車内ユーザは通常の対話のように、音声メッセージのやり取りを行うことができる。
【0141】
本実施形態に係る出力制御方法において、分割位置は、文章において一文が完結する位置、又は、文章において文脈上の関係性が強い一群の文が完結する位置である。
【0142】
この構成によれば、より適切な分割基準に基づいて分割位置を決定することができる。
【0143】
出力制御装置210は、無線通信を利用して第2OPS300(車外の機器の一例)から送信される音声ファイル(音声情報の一例)に基づく音声メッセージを車載スピーカ204(車内の出力機器の一例)から出力させる出力制御装置である。出力制御装置210は、音声ファイルを取得する通信ユニット211(取得部の一例)と、車両C1の車内ユーザの状態が音声メッセージを聞くことが可能な状態であるか否かの指標を示すメッセージ受容度(受容度の一例)を推定する受容度推定部215(推定部の一例)と、メッセージ受容度の大きさに基づいて、車載スピーカ204から音声メッセージを出力させるタイミングを決定する遅延処理決定部217(決定部の一例)とを備える。
【0144】
この構成によれば、メッセージ受容度に応じて音声メッセージを出力させるタイミングを変えることで、車内ユーザはメッセージ受容度の高い状況で音声メッセージを受け取ることができる。これにより、車内ユーザからの聞直しにより通信時間の増加を抑制し、各機器の演算量の増加を抑制することができる。また、車内ユーザが音声メッセージを聞くことができる状況で、車外ユーザからの音声メッセージを適切に伝えることができる。
【0145】
なお、本実施形態で示した各処理手順は、本実施形態を実現するための一例を示したものであり、本実施形態を実現可能な範囲で各処理手順の一部の順序を入れ替えてもよく、各処理手順の一部を省略したり他の処理手順を追加したりしてもよい。
【0146】
なお、本実施形態で示した各処理は、各処理手順をコンピュータに実行させるためのプログラムに基づいて実行されるものである。このため、本実施形態は、それらの各処理を実行する機能を実現するプログラム、そのプログラムを記憶する記録媒体の実施形態としても把握することができる。例えば、出力制御装置に新機能を追加するためのアップデート処理により、そのプログラムを出力制御装置の記憶装置に記憶させることができる。これにより、そのアップデートされた出力制御装置に本実施形態で示した各処理を実施させることが可能となる。
【0147】
以上、本発明の実施形態について説明したが、上記実施形態は本発明の適用例の一部を示したに過ぎず、本発明の技術的範囲を上記実施形態の具体的構成に限定する趣旨ではない。
【符号の説明】
【0148】
1 オペレータシステム、10 ネットワーク、20 基地局、200 第1OPS、201 車載マイク、202 車載センサ類、203 操作受付部、204 車載スピーカ、210 出力制御装置、211 通信ユニット、212 受信処理部、213 分割処理部、214 送信処理部、215 受容度推定部、216 ユーザ許可認識部、217 遅延処理決定部、218 記憶部、219 音声出力処理部、220 遅延情報出力処理部、300 第2OPS、301 通信ユニット、302 マイク、303 送信処理部、304 受信処理部、305 スピーカ、306 出力処理部、307 出力部307