(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公開特許公報(A)
(11)【公開番号】P2022124063
(43)【公開日】2022-08-25
(54)【発明の名称】通話支援装置
(51)【国際特許分類】
B60R 11/02 20060101AFI20220818BHJP
H04M 1/60 20060101ALI20220818BHJP
H04R 3/00 20060101ALI20220818BHJP
【FI】
B60R11/02 S
H04M1/60 A
B60R11/02 T
H04R3/00 310
【審査請求】未請求
【請求項の数】8
【出願形態】OL
(21)【出願番号】P 2021021610
(22)【出願日】2021-02-15
(71)【出願人】
【識別番号】000001487
【氏名又は名称】フォルシアクラリオン・エレクトロニクス株式会社
(74)【代理人】
【識別番号】110001081
【氏名又は名称】弁理士法人クシブチ国際特許事務所
(72)【発明者】
【氏名】渡邉 尚紀
【テーマコード(参考)】
3D020
5D220
5K127
【Fターム(参考)】
3D020BA07
3D020BA10
3D020BA20
3D020BC02
3D020BD03
3D020BE03
5D220AA01
5D220AB08
5K127AA36
5K127BA03
5K127BA10
5K127CB33
5K127GB47
5K127JA14
5K127MA08
(57)【要約】
【課題】乗員の通話を適正に支援する。
【解決手段】通話支援ECU11は、車両に搭載され、乗員CRのスマートフォンSPによる通話を支援する通話支援ECU11であって、車両に配置されたカメラ13から乗員CRの画像情報PCを取得する画像取得部111と、車両に配置されたマイク14から乗員CRの音声情報SDを取得する音声取得部112と、画像情報PCと音声情報SDとに基づいて、乗員CRがスマートフォンSPによる通話を開始したか否かを判定する通話判定部117と、通話判定部117の判定結果に応じて、乗員CRの通話を支援する通話支援部119と、を備える。
【選択図】
図1
【特許請求の範囲】
【請求項1】
車両に搭載され、乗員の携帯電話機器による通話を支援する通話支援装置であって、
前記車両に配置された撮像装置から前記乗員の画像情報を取得する画像取得部と、
前記車両に配置された音声取得装置から前記乗員の音声情報を取得する音声取得部と、
前記画像情報と前記音声情報とに基づいて、前記乗員が前記携帯電話機器による通話を開始したか否かを判定する通話判定部と、
前記通話判定部の判定結果に応じて、前記乗員の通話を支援する通話支援部と、
を備える、通話支援装置。
【請求項2】
前記通話支援部は、前記乗員の通話の妨げとなる音を低減する通話支援処理を実行する、
請求項1に記載の通話支援装置。
【請求項3】
前記通話支援処理は、前記車両に配置された音響機器から出力される音量を低減する処理、前記車両に配置された空調機器のファンの回転速度を低減する処理、及び、前記車両に配置された窓を閉める処理、の少なくとも1つを含む、
請求項2に記載の通話支援装置。
【請求項4】
前記画像情報に基づいて、前記乗員の耳と前記携帯電話機器との距離を算出する距離算出部を更に備え、
前記通話判定部は、前記距離算出部の算出結果に基づいて、前記乗員が前記携帯電話機器による通話を開始したか否かを判定する、
請求項1から請求項3のいずれか1項に記載の通話支援装置。
【請求項5】
前記画像情報に基づいて、前記乗員の口が通話のために動いているか否かを判定する動作判定部を更に備え、
前記通話判定部は、前記動作判定部の判定結果に基づいて、前記乗員が前記携帯電話機器による通話を開始したか否かを判定する、
請求項1から請求項4のいずれか1項に記載の通話支援装置。
【請求項6】
前記音声情報に基づいて、発話者の人数、前記携帯電話機器の発信音の有無、前記携帯電話機器の着信音の有無、及び、前記携帯電話機器による通話を示唆する特定の文言の発話の有無、の少なくとも1つを判定する音声判定部を更に備え、
前記通話判定部は、前記音声判定部の判定結果に基づいて、前記乗員が前記携帯電話機器による通話を開始したか否かを判定する、
請求項1から請求項5のいずれか1項に記載の通話支援装置。
【請求項7】
前記乗員が前記携帯電話機器による通話を開始したか否かを前記通話判定部が判定できない場合に、前記車両の運転者に対して、前記乗員が前記携帯電話機器による通話を開始したか否かの判定を促す旨を通知する通知部を更に備える、
請求項1から請求項6のいずれか1項に記載の通話支援装置。
【請求項8】
前記音声情報に含まれる機器音声情報を前記音声情報から除外することによって、前記音声情報を補正する除外部を更に備え、
前記機器音声情報は、前記車両に配置された音響機器から出力される音声に対応する、
請求項1から請求項7のいずれか1項に記載の通話支援装置。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、通話支援装置に関する。
【背景技術】
【0002】
従来、車両に搭乗する同乗者に対して携帯電話機を快適に使用できるようにする技術が、例えば特許文献1に開示されている。
特許文献1に記載のハンズフリー通話装置は、携帯電話機が、運転者の携帯電話機か同乗者の携帯電話機かを判定し、運転者の携帯電話機による通話時には運転者の携帯電話機をハンズフリー状態とし、同乗者の携帯電話機による通話時にはカーオーディオの音量を低下させる。
【先行技術文献】
【特許文献】
【0003】
【発明の概要】
【発明が解決しようとする課題】
【0004】
しかしながら、特許文献1に記載のハンズフリー通話装置では、車室内で通話する際に、車載装置と携帯電話機とがBluetooth(登録商標)等の通信機構で接続されていない場合には、携帯電話機による通話が開始されたことを検知できなかった。そのため、通話者に対して適正に支援を行うことができない場合があった。
本発明は、乗員の通話を適正に支援することの可能な通話支援装置を提供することを目的とする。
【課題を解決するための手段】
【0005】
上記目的を達成するために、本実施形態の通話支援装置は、車両に搭載され、乗員の携帯電話機器による通話を支援する通話支援装置であって、前記車両に配置された撮像装置から前記乗員の画像情報を取得する画像取得部と、前記車両に配置された音声取得装置から前記乗員の音声情報を取得する音声取得部と、前記画像情報と前記音声情報とに基づいて、前記乗員が前記携帯電話機器による通話を開始したか否かを判定する通話判定部と、前記通話判定部の判定結果に応じて、前記乗員の通話を支援する通話支援部と、を備える。
【発明の効果】
【0006】
本実施形態によれば、画像情報と音声情報とに基づいて、乗員が携帯電話機器による通話を開始したか否かを判定し、その判定結果に応じて、乗員の通話を支援するため、乗員の通話を適正に支援できる。
【図面の簡単な説明】
【0007】
【
図1】本実施形態に係る通話支援装置の構成の一例を示す図である。
【
図2】通話判定部の判定方法の一例を示す図表である。
【
図3】通話支援ECUの処理の一例を示すフローチャートである。
【
図4】通話支援ECUの処理の一例を示すフローチャートである。
【発明を実施するための形態】
【0008】
以下、図面を参照して本実施形態について説明する。
【0009】
図1は、本実施形態に係る通話支援システム1の構成の一例を示す図である。通話支援システム1は、車両に搭載される。
通話支援システム1は、乗員CRのスマートフォンSPによる通話を支援する。本実施形態では、乗員CRは、運転者を含まない。
なお、スマートフォンSPによる通話は、電話回線を介した通話に限定されない。スマートフォンSPによる通話は、インターネットを介した通話でもよい。インターネットを介した通話は、例えば、SNS(Social Networking Service)を介した通話でもよいし、Skype(登録商標)、Microsoft Teams(登録商標)、ZOOM(登録商標)等のアプリケーションソフトウェアによる通話でもよい。
スマートフォンSPは、「携帯電話機器」の一例に対応する。
【0010】
図1に示すように、通話支援システム1は、通話支援ECU(Electronic Control Unit)11と、カメラ13と、マイク14と、を備える。
通話支援ECU11は、車載ネットワークを介して、音響機器2、空調機器4、窓開閉制御ECU5、及び、通話開始判定ボタン6と通信する。
通話支援ECU11は、「通話支援装置」の一例に対応する。
【0011】
カメラ13は、CCD(Charge Coupled Device)、CMOS(Complementary Metal-Oxide-Semiconductor)等のイメージセンサを備える。カメラ13は、通話支援ECU11からの指示に従って、乗員CRの画像を撮像し、画像情報PCを生成する。カメラ13は、例えば、第1カメラ131、及び第2カメラ132で構成される。
第1カメラ131は、例えば、助手席に着座する乗員CRの画像を撮像し、第1画像情報PC1を生成する。第1カメラ131は、例えば、車両のダッシュボードに配置される。第1カメラ131は、第1画像情報PC1を通話支援ECU11へ出力する。
第2カメラ132は、例えば、後部座席に着座する乗員CRの画像を撮像し、第2画像情報PC2を生成する。第2カメラ132は、例えば、後部座席に向けて、助手席に配置される。第2カメラ132は、第2画像情報PC2を通話支援ECU11へ出力する。
カメラ13は、「撮像装置」の一例に対応する。
【0012】
マイク14は、通話支援ECU11からの指示に従って、乗員CRの音声を取得し、音声情報SDを生成する。マイク14は、例えば、第1マイク141、及び第2マイク142で構成される。
第1マイク141は、例えば、助手席に着座する乗員CRの発する音声を取得し、第1音声情報SD1を生成する。第1マイク141は、例えば、車両のダッシュボードに配置される。第1マイク141は、第1音声情報SD1を通話支援ECU11へ出力する。
第2マイク142は、例えば、後部座席に着座する乗員CRの発する音声を取得し、第2音声情報SD2を生成する。第2マイク142は、例えば、後部座席に向けて、助手席に配置される。第2マイク142は、第2音声情報SD2を通話支援ECU11へ出力する。
マイク14は、「音声取得装置」の一例に対応する。
【0013】
音響機器2は、例えば、CD(Compact Disc)プレイヤと、アンプと、を備える。アンプは、CDプレイヤから出力された音声信号を増幅して、スピーカ3に対して、音声信号SGを出力する。
スピーカ3は、音声信号SGに対応する音声を出力する。
【0014】
スピーカ3は、例えば、第1スピーカ31、第2スピーカ32、第3スピーカ33、及び第4スピーカ34を含む。第1スピーカ31は、運転席の右側のドアに配置される。第2スピーカ32は、助手席の左側のドアに配置される。第3スピーカ33は、後部座席の右側のドアに配置される。第4スピーカ34は、後部座席の左側のドアに配置される。
【0015】
空調機器4は、車両の室内の空気を調和する。空調機器4は、例えば、車両の室内の暖房、及び冷房を行う。空調機器4は、ファン41を備える。ファン41は、空気調和後の空気を室内へ送出する。
【0016】
窓開閉制御ECU5は、車両のドアに配置された窓WDの開閉を制御する。窓WDは、例えば、第1窓WD1、第2窓WD2、第3窓WD3、及び第4窓WD4を含む。第1窓WD1は、運転席の右側のドアに配置される。第2窓WD2は、助手席の左側のドアに配置される。第3窓WD3は、後部座席の右側のドアに配置される。第4窓WD4は、後部座席の左側のドアに配置される。
窓開閉制御ECU5は、第1窓WD1、第2窓WD2、第3窓WD3、及び第4窓WD4の各々の開閉を駆動するモータを制御する。
【0017】
通話開始判定ボタン6は、運転者に対して、乗員CRのスマートフォンSPによる通話が開始されたか否かを判定させるボタンである。通話開始判定ボタン6は、例えば、インストルメントパネル、又はその周辺に配置される。通話開始判定ボタン6は、例えば、プッシュボタンであって、LED(Light Emitting Diode)を備える。
例えば、運転者に対して乗員CRのスマートフォンSPによる通話が開始されたか否かを判定させる場合には、通話支援ECU11は、LEDを点滅させる。運転者は、乗員CRのスマートフォンSPによる通話が開始されたと判断した場合には、通話開始判定ボタン6を押下する。通話開始判定ボタン6が押下された場合には、通話支援ECU11は、LEDを点灯させる。通話開始判定ボタン6が押下されない場合には、通話支援ECU11は、LEDの点滅を開始してから所定時間経過後に、LEDを消灯する。所定時間は、例えば、3分である。
【0018】
通話支援ECU11は、CPU(Central Processing Unit)、MPU(Micro-Processing Unit)等のプロセッサ11Aと、ROM(Read Only Memory)、RAM(Random Access Memory)等のメモリ11Bと、を備える。
通話支援ECU11は、これらの装置の他に、センサ類や周辺機器等を接続するためのインターフェース回路、車載ネットワークを介して他の車載装置と通信する車載ネットワーク通信回路等を備える。
メモリ11Bは、制御プログラムを記憶する。
【0019】
通話支援ECU11は、画像取得部111と、音声取得部112と、除外部113と、距離算出部114と、動作判定部115と、音声判定部116と、通話判定部117と、通知部118と、通話支援部119とを備える。
具体的には、通話支援ECU11のプロセッサ11Aが、メモリ11Bに記憶された制御プログラムを実行することによって、画像取得部111、音声取得部112、除外部113、距離算出部114、動作判定部115、音声判定部116、通話判定部117、通知部118、及び通話支援部119として機能する。
【0020】
画像取得部111は、第1カメラ131及び第2カメラ132の各々から第1画像情報PC1及び第2画像情報PC2を取得する。第1画像情報PC1は、助手席に着座する乗員CRの画像を示す。第2画像情報PC2は、後部座席に着座する乗員CRの画像を示す。
本実施形態では、画像取得部111は、車両が走行中(すなわち、走行速度が所定速度以上)である場合に、第1カメラ131及び第2カメラ132の各々に乗員CRの画像を撮像させ、第1画像情報PC1及び第2画像情報PC2を生成させる。また、画像取得部111は、第1カメラ131及び第2カメラ132の各々によって生成された第1画像情報PC1及び第2画像情報PC2を取得する。所定速度は、例えば、5km/時である。
【0021】
音声取得部112は、第1マイク141及び第2マイク142の各々から第1音声情報SD1及び第2音声情報SD2を取得する。第1音声情報SD1は、助手席に着座する乗員CRの発する音声を示す。第2音声情報SD2は、後部座席に着座する乗員CRの発する音声を示す。
本実施形態では、音声取得部112は、車両が走行中(すなわち、走行速度が所定速度以上)である場合に、第1マイク141及び第2マイク142の各々に乗員CRの音声を取得させ、第1音声情報SD1及び第2音声情報SD2を生成させる。また、音声取得部112は、第1マイク141及び第2マイク142の各々によって生成された第1音声情報SD1及び第2音声情報SD2を取得する。
【0022】
除外部113は、音声情報SDに含まれる機器音声情報SDAを音声情報SDから除外することによって、音声情報SDを補正する。機器音声情報SDAは、音響機器2から出力される音声を示す。
具体的には、除外部113は、第1音声情報SD1と機器音声情報SDAとに基づいて、第1音声情報SD1に含まれる機器音声情報SDA1を算出する。機器音声情報SDA1は、音響機器2から出力される音声に対応する。そして、除外部113は、機器音声情報SDA1を第1音声情報SD1から除外することによって、第1音声情報SD1を補正する。
また、除外部113は、第2音声情報SD2と機器音声情報SDAとに基づいて、第2音声情報SD2に含まれる機器音声情報SDA2を算出する。機器音声情報SDA2は、音響機器2から出力される音声に対応する。そして、除外部113は、機器音声情報SDA2を第2音声情報SD2から除外することによって、第2音声情報SD2を補正する。
すなわち、除外部113は、次の式(1)によって、第1音声情報SD1を補正し、次の式(2)によって、第2音声情報SD2を補正する。
SD1←SD1-SDA1 (1)
SD2←SD2-SDA2 (2)
【0023】
距離算出部114は、第1画像情報PC1及び第2画像情報PC2に基づいて、乗員CRの耳とスマートフォンSPとの距離Lを算出する。
具体的には、距離算出部114は、第1画像情報PC1に基づいて、助手席に着座する乗員CRの耳とスマートフォンSPとの距離Lを算出する。また、距離算出部114は、第2画像情報PC2に基づいて、後部座席に着座する乗員CRの耳とスマートフォンSPとの距離Lを算出する。
【0024】
動作判定部115は、第1画像情報PC1及び第2画像情報PC2に基づいて、乗員CRの口が通話のために動いているか否かを判定する。例えば、口が動いている場合であっても、飲食のために口が動いている場合には、動作判定部115は、乗員CRの口が通話のために動いていないと判定する。
具体的には、動作判定部115は、第1画像情報PC1に基づいて、助手席に着座する乗員CRの口が通話のために動いているか否かを判定する。また、動作判定部115は、第2画像情報PC2に基づいて、後部座席に着座する乗員CRの口が通話のために動いているか否かを判定する。
【0025】
音声判定部116は、除外部113による補正後の第1音声情報SD1及び第2音声情報SD2に基づいて、発話者の人数、スマートフォンSPの発信音の有無、スマートフォンSPの着信音の有無、及び、スマートフォンSPによる通話を示唆する特定の文言の発話の有無、を判定する。
また、音声判定部116は、第1音声情報SD1及び第2音声情報SD2のノイズレベルαを評価する。ノイズレベルαは、0~1の数字であって、ノイズが大きい程小さい値を示す。
「発話者の人数」とは、乗員CRのうちの発話している者の人数である。
「特定の文言」とは、電話での通話の際に発せられる特徴的な文言である。特定の文言は、例えば、「もしもし」、「こんにちは」等を含む。
なお、発信音、着信音、及び特定の文言は、通話支援ECU11のメモリ11Bに予め記憶されている。
ノイズレベルαについては、
図2を参照して更に説明する。
【0026】
通話判定部117は、画像情報PCと音声情報SDとに基づいて、乗員CRがスマートフォンSPによる通話を開始したか否かを判定する。
具体的には、通話判定部117は、距離算出部114の算出結果に基づいて、乗員CRがスマートフォンSPによる通話を開始したか否かを判定する。また、通話判定部117は、動作判定部115の判定結果に基づいて、乗員CRがスマートフォンSPによる通話を開始したか否かを判定する。また、通話判定部117は、音声判定部116の判定結果に基づいて、乗員CRがスマートフォンSPによる通話を開始したか否かを判定する。
通話判定部117の処理については、
図2を参照して更に説明する。
【0027】
通知部118は、乗員CRがスマートフォンSPによる通話を開始したか否かを通話判定部117が判定できない場合に、車両の運転者DVに対して、乗員CRがスマートフォンSPによる通話を開始したか否かの判定を促す旨を通知する。
通知部118は、例えば、乗員CRがスマートフォンSPによる通話を開始したか否かを通話判定部117が判定できない場合に、通話開始判定ボタン6のLEDを点滅させる。そして、通知部118は、通話開始判定ボタン6が押下された場合に、乗員CRがスマートフォンSPによる通話を開始したと判定し、通話開始判定ボタン6のLEDを点灯させる。通話開始判定ボタン6が押下されない場合には、通知部118は、LEDの点滅を開始してから所定時間経過後に、乗員CRがスマートフォンSPによる通話を開始していないと判定し、LEDを消灯する。
【0028】
通話支援部119は、通話判定部117の判定結果に応じて、乗員CRの通話を支援する。
具体的には、通話判定部117によって乗員CRがスマートフォンSPによる通話を開始したと判定された場合に、通話支援部119は、乗員CRの通話の妨げとなる音を低減する通話支援処理を実行する。
「通話支援処理」は、車両に配置された音響機器2から出力される音量を低減する処理、車両に配置された空調機器4のファン41の回転速度を低減する処理、及び、車両に配置された窓WDを閉める処理を含む。
車両に配置された窓WDを閉める処理は、通話支援部119が、窓開閉制御ECU5に対して窓WDを閉める旨を指示することによって実行される。
【0029】
更に具体的には、通話判定部117によって乗員CRがスマートフォンSPによる通話を開始したと判定された場合に、通話支援部119は、以下の処理を実行する。すなわち、通話支援部119は、音響機器2から出力される音声の音量を低減する旨の指示を音響機器2に対して出力する。また、通話支援部119は、空調機器4のファン41の回転速度を低減する旨の指示を空調機器4に対して出力する。また、通話支援部119は、窓開閉制御ECU5に対して窓WDを閉める旨の指示を出力する。
【0030】
次に、
図2を参照して、通話判定部117の判定方法について説明する。
図2は、通話判定部117の判定方法の一例を示す図表である。
図2には、距離評点情報121、動作評点情報122、人数評点情報123、発信音評点情報124、着信音評点情報125、文言評点情報126、及び総合評点情報127を示す。
図2に示す距離評点情報121、動作評点情報122、人数評点情報123、発信音評点情報124、着信音評点情報125、文言評点情報126、及び総合評点情報127は、通話支援ECU11のメモリ11Bに予め記憶される。
【0031】
距離評点情報121は、距離算出部114が算出した距離Lと、距離評点X11との関係を示す。距離Lが「0」である場合、すなわち、乗員CRの耳とスマートフォンSPとが接触している場合には、通話判定部117によって、距離評点X11が「5」に設定される。距離Lが「0」より大であり、且つ、所定距離以下である場合、すなわち、乗員CRの耳とスマートフォンSPとが近接している場合には、通話判定部117によって、距離評点X11が「3」に設定される。所定距離は、例えば、30cmである。距離Lが所定距離より大である場合、すなわち、乗員CRの耳とスマートフォンSPとが離間している場合には、通話判定部117によって、距離評点X11が「0」に設定される。
【0032】
動作評点情報122は、動作判定部115の判定結果、すなわち、乗員CRの口が通話のために動いているか否かと、動作評点X12との関係を示す。乗員CRの口が通話のために動いていると動作判定部115が判定した場合には、通話判定部117によって、動作評点X12が「3」に設定される。乗員CRの口が通話のために動いていないと動作判定部115が判定した場合には、通話判定部117によって、動作評点X12が「0」に設定される。
【0033】
人数評点情報123は、音声判定部116の第1の判定結果、すなわち、発話者の人数と、人数評点X21との関係を示す。発話者が居ないと音声判定部116が判定した場合には、通話判定部117によって、人数評点X21が「0」に設定される。発話者が一人であると音声判定部116が判定した場合には、通話判定部117によって、人数評点X21が「3」に設定される。発話者が二人であると音声判定部116が判定した場合には、通話判定部117によって、人数評点X21が「2」に設定される。発話者が三人であるあると音声判定部116が判定した場合には、人数評点X21が「1」に設定される。
【0034】
発信音評点情報124は、音声判定部116の第2の判定結果、すなわち、スマートフォンSPの発信音の有無と、発信音評点X22との関係を示す。スマートフォンSPの発信音が有ると音声判定部116が判定した場合には、通話判定部117によって、発信音評点X22が「1」に設定される。スマートフォンSPの発信音が無いと音声判定部116が判定した場合には、通話判定部117によって、発信音評点X22が「0」に設定される。
【0035】
着信音評点情報125は、音声判定部116の第3の判定結果、すなわち、スマートフォンSPの着信音の有無と、着信音評点X23との関係を示す。スマートフォンSPの着信音が有ると音声判定部116が判定した場合には、通話判定部117によって、着信音評点X23が「1」に設定される。スマートフォンSPの着信音が無いと音声判定部116が判定した場合には、通話判定部117によって、着信音評点X23が「0」に設定される。
【0036】
文言評点情報126は、音声判定部116の第4の判定結果、すなわち、スマートフォンSPによる通話を示唆する特定の文言の発話の有無と、文言評点X24との関係を示す。特定の文言の発話が有ると音声判定部116が判定した場合には、通話判定部117によって、文言評点X24が「5」に設定される。特定の文言の発話が無いと音声判定部116が判定した場合には、通話判定部117によって、文言評点X24が「0」に設定される。
【0037】
総合評点情報127は、総合評点Xの値と、通話判定部117の判定結果との関係を示す。総合評点Xは、次の式(3)で求められる。総合評点Xは、乗員CRがスマートフォンSPによる通話を開始した可能性の高さを示す。
X=(X11+X12)+(X21+X22+X23+X24)×α (3)
なお、ノイズレベルαは、第1音声情報SD1及び第2音声情報SD2のS/N比を示す。S/N比が大きい程、音声判定部116によって、ノイズレベルαは大きく設定される。
【0038】
総合評点Xが第1閾値SH1以上である場合には、通話判定部117は、乗員CRがスマートフォンSPによる通話を開始したと判定する。第1閾値SH1は、例えば、「12」である。総合評点Xが第1閾値SH1未満、且つ、第2閾値SH2以上である場合には、通話判定部117は、乗員CRがスマートフォンSPによる通話を開始したか否かを判定不可と判定する。第2閾値SH2は、例えば、「5」である。総合評点Xが第2閾値SH2未満である場合には、乗員CRがスマートフォンSPによる通話を開始していないと判定する。
【0039】
次に、
図3及び
図4を参照して、通話支援ECU11の処理について説明する。
図3及び
図4は、通話支援ECU11の処理の一例を示すフローチャートである。
図3に示すように、まず、ステップS101において、通話支援ECU11は、車両が走行を開始したか否かを判定する。通話支援ECU11は、例えば、走行速度が5km/時以上である場合に走行を開始したと判定する。
車両が走行を開始していないと通話支援ECU11が判定した場合(ステップS101;NO)には、処理が待機状態になる。車両が走行を開始したと通話支援ECU11が判定した場合(ステップS101;YES)には、処理がステップS103へ進む。
そして、ステップS103において、通話支援ECU11は、例えば、シートベルトの装着情報に基づいて、乗員CRが居るか否かを判定する。シートベルトの装着情報は、例えば、乗員CR用の3個のシートベルトにおいて、装着状態にあるシートベルトの有無を示す。装着状態にあるシートベルトがある場合には、乗員CRが居ることを示す。装着状態にあるシートベルトがない場合には、乗員CRが居ないことを示す。なお、通話支援ECU11が、シートに配置された圧力センサの検出結果に基づいて、乗員CRが居るか否かを判定してもよい。
乗員CRが居ないと通話支援ECU11が判定した場合(ステップS103;NO)には、処理が終了する。乗員CRが居ると通話支援ECU11が判定した場合(ステップS103;YES)には、処理がステップS105へ進む。
【0040】
そして、ステップS105において、画像取得部111は、第1カメラ131及び第2カメラ132の各々から第1画像情報PC1及び第2画像情報PC2を取得する。
次に、ステップS107において、音声取得部112は、第1マイク141及び第2マイク142の各々から第1音声情報SD1及び第2音声情報SD2を取得する。
次に、ステップS109において、除外部113は、第1音声情報SD1、及び第2音声情報SD2の各々に含まれる機器音声情報SDAを第1音声情報SD1、及び第2音声情報SD2の各々から除外することによって、第1音声情報SD1、及び第2音声情報SD2を補正する。機器音声情報SDAは、音響機器2から出力される音声に対応する。
次に、ステップS111において、距離算出部114は、第1画像情報PC1及び第2画像情報PC2に基づいて、乗員CRの耳とスマートフォンSPとの距離Lを算出する。
次に、ステップS113において、通話判定部117は、距離Lと、
図2に示す距離評点情報121とに基づいて、距離評点X11を算出する。
【0041】
次に、ステップS115において、動作判定部115は、第1画像情報PC1及び第2画像情報PC2に基づいて、乗員CRの口が通話のために動いているか否かを判定する。
次に、ステップS117において、通話判定部117は、動作判定部115の判定結果と、
図2に示す動作評点情報122とに基づいて、動作評点X12を算出する。
次に、ステップS119において、音声判定部116は、ステップS109における補正後の第1音声情報SD1及び第2音声情報SD2に基づいて、発話者の人数を判定する。
次に、ステップS121において、通話判定部117は、発話者の人数と、
図2に示す人数評点情報123とに基づいて、人数評点X21を算出する。
【0042】
次に、
図4に示すように、ステップS123において、音声判定部116は、ステップS109における補正後の第1音声情報SD1及び第2音声情報SD2に基づいて、スマートフォンSPの発信音の有無を判定する。
次に、ステップS125において、通話判定部117は、発信音の有無と、
図2に示す発信音評点情報124とに基づいて、発信音評点X22を算出する。
次に、ステップS127において、音声判定部116は、ステップS109における補正後の第1音声情報SD1及び第2音声情報SD2に基づいて、スマートフォンSPの着信音の有無を判定する。
次に、ステップS129において、通話判定部117は、着信音の有無と、
図2に示す着信音評点情報125とに基づいて、着信音評点X23を算出する。
【0043】
次に、ステップS131において、音声判定部116は、ステップS109における補正後の第1音声情報SD1及び第2音声情報SD2に基づいて、スマートフォンSPによる通話を示唆する特定の文言の発話の有無を判定する。
次に、ステップS133において、通話判定部117は、特定の文言の発話の有無と、
図2に示す文言評点情報126とに基づいて、文言評点X24を算出する。
次に、ステップS135において、音声判定部116は、ステップS109における補正後の第1音声情報SD1及び第2音声情報SD2のノイズレベルαを評価する。
次に、ステップS137において、通話判定部117は、上記の式(3)によって、総合評点Xを算出する。
【0044】
次に、ステップS139において、通話判定部117は、総合評点Xが第1閾値SH1以上であるか否かを判定する。第1閾値SH1は、例えば「12」である。
総合評点Xが第1閾値SH1以上であると通話判定部117が判定した場合(ステップS139;YES)には、通話判定部117は、乗員CRがスマートフォンSPによる通話を開始したと判定し、処理がステップS147へ進む。総合評点Xが第1閾値SH1以上ではないと通話判定部117が判定した場合(ステップS139;NO)には、処理がステップS141へ進む。
そして、ステップS141において、通話判定部117は、総合評点Xが第2閾値SH2以上であるか否かを判定する。第2閾値SH2は、例えば「5」である。
総合評点Xが第2閾値SH2以上ではないと通話判定部117が判定した場合(ステップS141;NO)には、通話判定部117は、乗員CRがスマートフォンSPによる通話を開始していないと判定し、処理がステップS151へ進む。総合評点Xが第2閾値SH2以上であると通話判定部117が判定した場合(ステップS141;YES)には、通話判定部117は、乗員CRがスマートフォンSPによる通話を開始したか否かを判定不可であると判定し、処理がステップS143へ進む。
【0045】
そして、ステップS143において、通知部118は、車両の運転者DVに対して、乗員CRがスマートフォンSPによる通話を開始したか否かの判定を促す旨を通知する。具体的には、通知部118は、通話開始判定ボタン6のLEDを点滅させる。
次に、ステップS145において、通知部118は、所定時間内に通話開始判定ボタン6が押下されたか否かを判定する。所定時間は、例えば、例えば、3分である。
所定時間内に通話開始判定ボタン6が押下されていないと通知部118が判定した場合(ステップS145;NO)には、通知部118は、乗員CRがスマートフォンSPによる通話を開始していないと判定し、処理がステップS151へ進む。所定時間内に通話開始判定ボタン6が押下されたと通知部118が判定した場合(ステップS145;YES)には、通知部118は、乗員CRがスマートフォンSPによる通話を開始したと判定し、処理がステップS147へ進む。
【0046】
そして、ステップS147において、通話支援部119は、乗員CRの通話を支援する。具体的には、通話支援部119は、乗員CRの通話の妨げとなる音を低減する通話支援処理を実行する。
次に、ステップS149において、通話支援ECU11は、第1画像情報PC1、及び第2画像情報PC2と、ステップS109における補正後の第1音声情報SD1及び第2音声情報SD2とに基づいて、乗員CRの通話が終了したか否かを判定する。
乗員CRの通話が終了していないと通話支援ECU11が判定した場合(ステップS149;NO)には、処理がステップS147に戻る。乗員CRの通話が終了したと通話支援ECU11が判定した場合(ステップS149;YES)には、処理がステップS151へ進む。
そして、ステップS151において、通話支援ECU11は、車両が走行を終了したか否かを判定する。通話支援ECU11は、例えば、車両が所定時間以上継続して停車している場合に、車両が走行を終了したと判定する。所定時間は、例えば、3分間である。
車両が走行を終了していないと通話支援ECU11が判定した場合(ステップS151;NO)には、処理が
図3のステップS105に戻る。車両が走行を終了したと通話支援ECU11が判定した場合(ステップS151;YES)には、処理が終了する。
【0047】
図2~
図4を参照して説明したように、通話判定部117は、距離評点X11、動作評点X12、人数評点X21、発信音評点X22、着信音評点X23、文言評点X24、及びノイズレベルαに基づいて、上述の式(3)によって総合評点Xを算出する。そして、通話判定部117は、総合評点Xの値に基づいて、乗員CRがスマートフォンSPによる通話を開始したか否かを判定する。したがって、乗員CRがスマートフォンSPによる通話を開始したか否かを適正に判定できる。
【0048】
また、
図3及び
図4を参照して説明したように、通話判定部117が、乗員CRがスマートフォンSPによる通話を開始したか否かを判定不可であると判定した場合には、通知部118は、車両の運転者DVに対して、乗員CRがスマートフォンSPによる通話を開始したか否かの判定を促す旨を通知する。具体的には、通知部118は、通話開始判定ボタン6のLEDを点滅させる。そして、通知部118は、所定時間内に通話開始判定ボタン6が押下された場合には、通知部118は、乗員CRがスマートフォンSPによる通話を開始したと判定する。したがって、乗員CRがスマートフォンSPによる通話を開始したか否かを更に適正に判定できる。
【0049】
以上、
図1~
図4を参照して説明したように、本実施形態の通話支援ECU11は、車両に搭載され、乗員CRのスマートフォンSPによる通話を支援する通話支援ECU11であって、車両に配置されたカメラ13から乗員CRの画像情報PCを取得する画像取得部111と、車両に配置されたマイク14から乗員CRの音声情報SDを取得する音声取得部112と、画像情報PCと音声情報SDとに基づいて、乗員CRがスマートフォンSPによる通話を開始したか否かを判定する通話判定部117と、通話判定部117の判定結果に応じて、乗員CRの通話を支援する通話支援部119と、を備える。
すなわち、画像情報PCと音声情報SDとに基づいて、乗員CRがスマートフォンSPによる通話を開始したか否かを判定し、乗員CRがスマートフォンSPによる通話を開始したと判定した場合には、乗員CRの通話を支援する。
よって、乗員CRがスマートフォンSPによる通話を開始したか否かを適正に判定できる。したがって、乗員CRの通話を適正に支援できる。
【0050】
また、上記通話支援ECU11において、通話支援部119は、乗員CRの通話の妨げとなる音を低減する通話支援処理を実行する。
よって、乗員CRがスマートフォンSPによる通話を開始した場合に、乗員CRの通話の妨げとなる音が低減される。したがって、乗員CRの通話を適正に支援できる。
【0051】
また、上記通話支援ECU11において、通話支援処理は、車両に配置された音響機器2から出力される音量を低減する処理、車両に配置された空調機器4のファン41の回転速度を低減する処理、及び、車両に配置された窓WDを閉める処理を含む。
よって、乗員CRの通話の妨げとなる音を効果的に低減できる。したがって、乗員CRの通話を適正に支援できる。
【0052】
また、上記通話支援ECU11において、画像情報PCに基づいて、乗員CRの耳とスマートフォンSPとの距離Lを算出する距離算出部114を更に備え、通話判定部117は、距離算出部114の算出結果に基づいて、乗員CRが前記スマートフォンSPによる通話を開始したか否かを判定する。
したがって、距離Lに基づいて、乗員CRがスマートフォンSPによる通話を開始したか否かを判定するため、乗員CRがスマートフォンSPによる通話を開始したか否かを適正に判定できる。
【0053】
また、上記通話支援ECU11において、画像情報PCに基づいて、乗員CRの口が通話のために動いているか否かを判定する動作判定部115を更に備え、通話判定部117は、動作判定部115の判定結果に基づいて、乗員CRがスマートフォンSPによる通話を開始したか否かを判定する。
したがって、乗員CRの口が通話のために動いているか否かの判定に基づいて、乗員CRがスマートフォンSPによる通話を開始したか否かを判定するため、乗員CRがスマートフォンSPによる通話を開始したか否かを適正に判定できる。
【0054】
また、上記通話支援ECU11において、音声情報SDに基づいて、発話者の人数、スマートフォンSPの発信音の有無、スマートフォンSPの着信音の有無、及び、スマートフォンSPによる通話を示唆する特定の文言の発話の有無、を判定する音声判定部116を更に備え、通話判定部117は、音声判定部116の判定結果に基づいて、乗員CRがスマートフォンSPによる通話を開始したか否かを判定する。
すなわち、発話者の人数、スマートフォンSPの発信音の有無、スマートフォンSPの着信音の有無、及び、スマートフォンSPによる通話を示唆する特定の文言の発話の有無、の判定結果に基づいて、乗員CRがスマートフォンSPによる通話を開始したか否かを判定する。したがって、乗員CRがスマートフォンSPによる通話を開始したか否かを適正に判定できる。
【0055】
また、上記通話支援ECU11において、乗員CRがスマートフォンSPによる通話を開始したか否かを通話判定部117が判定できない場合に、車両の運転者に対して、乗員CRがスマートフォンSPによる通話を開始したか否かの判定を促す旨を通知する通知部118を更に備える。
したがって、乗員CRがスマートフォンSPによる通話を開始したか否かを通話判定部117が判定できない場合であっても、乗員CRがスマートフォンSPによる通話を開始したか否かを適正に判定できる。
【0056】
また、上記通話支援ECU11において、音声情報SDに含まれる機器音声情報SDAを音声情報SDから除外することによって、音声情報SDAを補正する除外部113を更に備える。機器音声情報SDAは、車両に配置された音響機器2から出力される音声に対応する。
よって、音声情報SDに含まれる機器音声情報SDAを音声情報SDから除外することによって、音声情報SDを補正するため、音声情報SDを適正に補正できる。したがって、乗員CRがスマートフォンSPによる通話を開始したか否かを適正に判定できる。
【0057】
上述した本実施形態は、あくまでも本発明の一実施形態を例示したものであって、本発明の主旨を逸脱しない範囲で任意に変形、及び応用が可能である。
例えば、
図1は、本発明の理解を容易にするために、構成要素を主な処理内容に応じて分類して示した図であり、構成要素は、処理内容に応じて、更に多くの構成要素に分類することもできる。また、1つの構成要素が更に多くの処理を実行するように分類することもできる。
また、各構成要素の処理は、1つのハードウェアで実行されてもよいし、複数のハードウェアで実行されてもよい。
また、各構成要素の処理は、1つのプログラムで実現されてもよいし、複数のプログラムで実現されてもよい。
【0058】
また、本実施形態では、「通話支援装置」が、通話支援ECU11である場合について説明したが、これに限定されない。「通話支援装置」が、プロセッサとメモリとを備えればよい。例えば、「通話支援装置」が、パーソナルコンピュータでもよいし、タブレット型コンピュータでもよいし、スマートフォンSPでもよい。
【0059】
また、本実施形態では、「携帯電話機器」がスマートフォンSPである場合について説明するがこれに限定されない。「携帯電話機器」が携帯電話でもよい。また、「携帯電話機器」が通話機能を有するノートパソコン、タブレット端末でもよい。
ノートパソコン、タブレット端末は、例えば、SNSを介して通話機能が実現される。また、ノートパソコン、タブレット端末は、例えば、Skype(登録商標)、Microsoft Teams(登録商標)、ZOOM(登録商標)等のアプリケーションソフトウェアを実行することによって、通話機能が実現される。
【0060】
また、本実施形態では、カメラ13が、第1カメラ131、及び第2カメラ132で構成される場合について説明するが、これに限定されない。カメラ13が、1台でもよいし、カメラ13が、3台以上でもよい。
【0061】
また、本実施形態では、マイク14が、第1マイク141、及び第2マイク142で構成される場合について説明するが、これに限定されない。マイク14が、1台でもよいし、マイク14が、3台以上でもよい。
【0062】
また、本実施形態では、「通話支援処理」が、車両に配置された音響機器2から出力される音量を低減する処理、車両に配置された空調機器4のファン41の回転速度を低減する処理、及び、車両に配置された窓WDを閉める処理を含む場合について説明するが、これに限定されない。「通話支援処理」が、車両に配置された音響機器2から出力される音量を低減する処理、車両に配置された空調機器4のファン41の回転速度を低減する処理、及び、車両に配置された窓WDを閉める処理、の少なくとも1つを含めばよい。
【0063】
また、本実施形態では、音声判定部116は、発話者の人数、スマートフォンSPの発信音の有無、スマートフォンSPの着信音の有無、及び、スマートフォンSPによる通話を示唆する特定の文言の発話の有無、を判定する場合について説明したが、これに限定されない。音声判定部116は、発話者の人数、スマートフォンSPの発信音の有無、スマートフォンSPの着信音の有無、及び、スマートフォンSPによる通話を示唆する特定の文言の発話の有無、の少なくとも1つを判定すればよい。
【0064】
また、本実施形態では、通知部118が、乗員CRがスマートフォンSPによる通話を開始したか否かを通話判定部117が判定できない場合に、通話開始判定ボタン6のLEDを点滅させる場合について説明したが、これに限定されない。通知部118が、乗員CRがスマートフォンSPによる通話を開始したか否かを通話判定部117が判定できない場合に、車両の運転者DVに対して、乗員CRがスマートフォンSPによる通話を開始したか否かの判定を促す旨を通知すればよい。例えば、カーナビゲーションシステムのLCD(Liquid Crystal Display)に、乗員CRがスマートフォンSPによる通話を開始したか否かの判定を促す旨を表示してもよい。
【0065】
また、本実施形態では、制御プログラムを通話支援ECU11のメモリ11Bに記憶するが、制御プログラムを他の記録媒体、又はこの制御プログラムを伝送する伝送媒体の態様で構成することも可能である。
記録媒体には、磁気的、光学的記録媒体又は半導体メモリーデバイスを用いることができる。具体的には、フレキシブルディスク、HDD、CD-ROM(Compact Disk Read Only Memory)、DVD、Blu-ray(登録商標) Disc、光磁気ディスク、フラッシュメモリ、カード型記録媒体等の可搬型、或いは固定式の記録媒体が挙げられる。また、上記記録媒体は、通話支援ECU11が備えるRAM、ROM、HDD等の不揮発性記憶装置であってもよい。
また、制御プログラムを、通話支援ECU11とネットワークを介して通信可能に接続されたサーバ装置から通話支援ECU11がダウンロードしてもよい。
【0066】
また、例えば、
図3及び
図4に示すフローチャートの処理単位は、通話支援ECU11の処理の理解を容易にするために、主な処理内容に応じて分割したものであり、処理単位の分割の仕方や名称によって、本発明が限定されることはない。通話支援ECU11の処理は、処理内容に応じて、更に多くの処理単位に分割してもよい。また、通話支援ECU11の処理は、1つの処理単位が更に多くの処理を含むように分割してもよい。
【符号の説明】
【0067】
1 通話支援システム
11 通話支援ECU(通話支援装置)
11A プロセッサ
11B メモリ
111 画像取得部
112 音声取得部
113 除外部
114 距離算出部
115 動作判定部
116 音声判定部
117 通話判定部
118 通知部
119 通話支援部
121 距離評点情報
122 動作評点情報
123 人数評点情報
124 発信音評点情報
125 着信音評点情報
126 文言評点情報
127 総合評点情報
13 カメラ(撮像装置)
131 第1カメラ
132 第2カメラ
14 マイク(音声取得装置)
141 第1マイク
142 第2マイク
2 音響機器
3 スピーカ
31 第1スピーカ
32 第2スピーカ
33 第3スピーカ
34 第4スピーカ
4 空調機器
41 ファン
5 窓開閉制御ECU
6 通話開始判定ボタン
CR 乗員
L 距離
PC 画像情報
PC1 第1画像情報
PC2 第2画像情報
SD 音声情報
SD1 第1音声情報
SD2 第2音声情報
SDA、SDA1、SDA2 機器音声情報
SG 音声信号
SH1 第1閾値
SH2 第2閾値
SP スマートフォン
WD 窓
X 総合評点
X11 距離評点
X12 動作評点
X21 人数評点
X22 発信音評点
X23 着信音評点
X24 文言評点
α ノイズレベル