【実施例】
【0018】
次に、本発明の実施例に係る車載装置による会話支援機能の概要について説明する。例えば、運転者と後部座席にいる搭乗者とが会話する際、乗車位置の関係より、後部座席にいる搭乗者にとって、運転者が話す言葉が聞き取り難いという問題がある。このような場面で、車載装置の会話支援機能は、運転者が発する音声を車内マイクにより取得し、その音声を後部座席にあるスピーカから出力させることができる。
【0019】
但し、運転者と助手席の搭乗者との会話が後部座席方向に出力されてしまうと、後部座席にいる者にとっては、却って煩わしく感じることもある。そこで、本発明に係る車載装置では、運転者が、後部座席にいる搭乗者に話しかけるようなしぐさ(会話動作)を検知したとき、会話の支援が実行される。
【0020】
車載装置は、好ましい態様では、例えば、運転者がルームミラー越しに後部座席の搭乗者を見る視線を検知したり、運転者が後部座席の搭乗者に話しかけるように顔をやや後ろ側に傾けるような顔の向きを検知し、これにより、運転者と後部座席との搭乗者間による会話が成されていると判定し、運転者による音声を、後部座席方向に出力する。
【0021】
図1は、本実施例の車載装置における各デバイスの配置構成を示す図である。本実施例に係る車載装置10は、同図に示すように、車両20の内部に搭載された電子装置であって、中央前方にある本体部40と、その本体部40に接続され、運転者の視線や顔の向きを検出する車載カメラ60と、各座席A〜Dに対応するように配置された複数の音声モジュール80a〜80dとを含んで構成される。好ましい態様では、各座席には重量センサが取付けられ、重量センサの出力が本体部40へ提供される。そして、本体部40において、搭乗者が存在している座席が認識される。
【0022】
図2は、本体部40と各デバイスとの接続関係を示す図である。本体部40は、その前面にタッチパネル42を備え、例えば、メニューや周辺地図などの各種画面を表示するとともに、タッチ操作によるユーザー入力を受け各種設定を行うことができる。本体部40には、ルームミラー62などに取り付けられた車載カメラ60と、各座席A〜Dに対応するように配置された音声モジュール80a〜80dとが接続されている。音声モジュール80a〜80dは、それぞれ車内マイク82a〜82dと車載用スピーカ84a〜84dとを備え、各モジュールは、後述するように無線通信等によって本体部40に接続される。また、各モジュールには、スピーカからのボリュームを調整するための操作部が取付けられる。
【0023】
本体部40と音声モジュール80a〜80d間の接続には、好ましくは、Bluetooth(登録商標)のBT HSP(Headset Profile)が用いられる。BT HSPは、接続した機器同士間での音声データの送受信を可能にするプロファイルであって、このプロファイルが本体部40および各音声モジュール80a〜80dによってサポートされ、本体部40は、当該プロファイルに従い各モジュール80間の音声データの転送を制御する。すなわち、本体部40は、マイク82a〜82dから入力された音声データをどのスピーカから出力させるかの転送制御を行う。好ましい態様では、本体部40は、運転者の動作から運転者の会話の方向を自動的に判定し、後部座席の搭乗者への会話であると判定された場合には、運転者の音声データが後部座席のスピーカから出力され、そのような会話でないと判定された場合には、運転者の音声データが後部座席のスピーカから出力されないようにする。
【0024】
図3は、車載装置10の一構成例を示すブロック図である。車載装置10は、運転者の動作をモニタリングする車載カメラ60、搭乗者の音声を取得したり、その音声を後部座席方向に出力する音声モジュール80(80a〜80d)、CD、DVD、ブルーレイディスク、ハードディスク装置などに格納されたオーディオデータやビデオデータを再生したり、デジタルテレビ放送、AM/FMラジオ放送などを受信するマルチメディア再生部100、自車位置周辺の道路地図を表示したり、目的地までの誘導経路を案内するナビゲーション部102、外部のネットワーク等とデータ通信を行うことを可能にする通信部104、プログラムやデータ等を記憶する記憶部106、音声や画像等を出力する出力部108、ユーザー操作や音声等を入力する入力部110、マイクロコントローラやマイクロプロセッサ等を含みプログラムを実行することで各部を制御する制御部120を含んで構成される。また、制御部120は、上記したように重量センサ(搭乗者センサ)の検出結果を受け取り、この検出結果に基づき、搭乗者が存在している座席を識別する。なお、ここに示される構成は例示であり、車載装置10は、このような構成に限定されるものではない。
【0025】
車載カメラ60は、運転者の視線方向や顔の向きをモニタリングするため、例えば、
図1に示すように、フロントの上部中央にあるルームミラー62に取り付けられ、運転者の顔を撮像している。本実施例では、前部座席AまたはBに座る運転者が、後部座席CおよびDに座る搭乗者に話しかける際の前部搭乗者のしぐさ(会話動作)を検出するために車載カメラ60を利用するが、視線や顔の向き等を検出可能なものであれば、他のセンサであってもよい。さらに、視線や顔の向きが検出可能であれば、車載カメラ60の取り付け位置は必ずしもルームミラー62に限らず、フロントガラス、メーターや計器類を含むインスツルメンツパネル、本体部42などに取付けられてもよい。さらに、車載カメラ60は、少なくとも座席数に応じて、複数台用意してもよい。一方、取得された画像データは、制御部120により視線方向や顔の向きなどを検知するため画像解析が行われる。画像データは、会話支援機能以外に、運転者の居眠り防止機能にも利用される。
【0026】
音声モジュール80は、搭乗者の音声を取得する車内マイク82と、車内マイク82から取得された音声データを出力する車載用スピーカ84とを含み、各音声モジュール80a〜80dは、
図1に示すように、各座席A〜Dにそれぞれ配置され、無線より制御部120に接続される。制御部120は、BT HSPによる接続において、各音声モジュール80a〜80dのデバイスを識別し、音声モジュール間における音声データの送受を制御する。好ましい態様では、制御部120は、運転者の会話動作に基づき運転者から後部座席の搭乗者への会話の方向を自動的に判定し、運転者の車内マイク82aにより取得した音声データを、搭乗者が着座している後部座席用のスピーカ84cまたは84dから出力させる。
【0027】
通信部104は、音声モジュール80の間で音声データの入出力を可能にするための接続手段として、例えばBluetoothモジュール(以下、BTモジュールと略す)を含んで構成される。BTモジュールには、例えば、HSPなどのプロファイルが含まれており、音声モジュール80と制御部120間の音声データの送受信を可能にする。
【0028】
制御部120は、記憶部106から読み出された各種プログラムに従い、各部の機能を制御する。ここでは、その中の1つである会話支援プログラムを制御部120が実行したときの音声データの処理を説明する。
【0029】
図4は、会話支援プログラム140の機能的な構成を示す図である。会話支援プログラム140は、同図に示すように、運転者の視線、または顔の向きをモニタリングするための車載カメラ60から画像データを取得する画像データ取得部142と、車内マイク82から入力された音声データを取得する音声データ取得部144と、取得した音声データからノイズをカットするとともに、搭乗者の発話にかかる音声データを抽出する処理を行う音声処理部と146と、音声処理された音声データを選択された車載用スピーカ84から出力させる音声データ出力部148と、画像データ取得部142により取得した画像データに基づき、運転者が後部座席の搭乗者に話しかける会話動作があるか否かを判定する会話動作判定部150と、会話動作判定部150の判定結果に基づき音声データ出力部148を制御する出力制御部152とを備えている。
【0030】
画像データ取得部142は、車載カメラ60によって撮像された運転者の画像データを取得し、それを会話動作判定部150に提供する。好ましい態様では、画像データ取得部142は、撮像された画像データの中から運転者の顔の部分、または視線の部分の画像データをトリミングして会話動作判定部150へ提供するようにしてもよい。この場合、トリミングする範囲は予め設定される。
【0031】
音声処理部146は、車両のエンジン音、道路とタイヤの摩擦音、走行による風切り音などのロードノイズをカットするフィルタ機能を有し、取得した音声データからロードノイズを除去することができる。また、音声処理部146は、音声認識機能を有し、取得した音声データから、搭乗者の発話に係る音声データのみを抽出することができる。音声データ出力部150は、音声処理部146により音声処理された音声データを選択された音声モジュール80から出力させることができる。
【0032】
会話動作判定部150は、画像データ取得部142により取得した運転者の画像データを画像解析し、運転者が後部座席の搭乗者に話しかける動作をしたか否かを判定することができる。例えば、運転者が後部座席の搭乗者に話しかける際、ルームミラー越しに、相手を見るような行為を行う傾向がある。あるいは運転者は、後部座席の搭乗者に話しかける際、後部座席方向に顔を向ける傾向がある。会話動作判定部150は、このような運転者のしぐさ(会話動作)に基づき、前部座席から後部座席への会話の方向を判定する。
【0033】
なお、運転者による会話の有無の判定条件には、運転者による発話の有無を含めるようにしてもよい。この場合、会話動作判定部150は、運転者の座席の音声モジュール80から音声データが入力されたことを、前提条件とし、そのような音声データが入力されていない場合には、運転者の視線や顔の変化があったとしても、運転者から後部座席の搭乗者への会話がないものと判定するようにしてもよい。
【0034】
さらに、運転者の視線や顔の変化の他に、会話開始のサイン(動作)を予め決定しておき、当該サインを判定条件としてもよい。例えば、運転者がウインクを複数回行う行為、運転者が口を開ける行為、または運転者が眉毛を動かす行為などをサインにしてもよい。
【0035】
出力制御部152は、会話動作判定部150による会話動作があるか否かの判定に応じて、音声データ出力部148による出力を制御する。運転者による後部座席の搭乗者への会話動作があると判定されたとき、音声データ出力部148は、運転者の座席に対応する音声モジュール80aの車内マイク82aから入力された音声データを後部座席の搭乗者に対応する音声モジュール80cまたは80dのスピーカ84cまたは84dから出力させる。
【0036】
次に、本発明の実施例における車載装置の会話支援動作について図面を参照して説明する。
図5は、車載装置による会話支援動作を説明するフローチャートである。
【0037】
車載装置の電源がオンされることで、会話支援機能が起動される(S200)。会話支援機能が起動されると、制御部120は、記憶部106より会話支援プログラム140を読み出し、当該会話支援プログラム140に従い各部を制御する。会話支援機能を有効にするか否かはユーザー設定が可能であり、予め有効と設定されている場合には、車載装置10の電源投入と同時に起動される。また、車載装置の電源がオンにされた後、ユーザーの指示に従い、会話支援機能を起動してもよい。
【0038】
会話支援機能が起動されると、画像データ取得部142は、車載カメラ60から出力される画像データを取得する(S201)。画像データは、運転者の動作をモニタリングするためのものであり、運転者の顔の画像を含む。会話動作判定部150は、取得した画像データを画像解析し、画像データの中から運転者の視線または顔を認識し、運転者の視線、または顔の向きを検知する(S202)。
【0039】
次に、会話動作判定部150は、その運転者の視線または顔の向きの変化に応じて、後部座席の搭乗者に話しかけるような会話動作であるか否かを判定する(S203)。例えば、会話動作判定部150は、運転者の視線がルームミラー越しに後部座席の搭乗者を確認する方向に一定角度以上変化されたとき、または、後部座席に話しかけるように顔の向きが一定角度変化されたとき、後部座席の搭乗者への会話動作が発生したと判定する。
【0040】
会話動作判定部150は、後部座席の搭乗者への会話動作の発生の判定条件として、運転者の座席の音声モジュールにおいて音声が入力されたこと、あるいは搭乗者の後部座席の音声モジュールにおいて音声が入力されたことを加重要件としてもよい。
【0041】
会話動作判定部150により会話動作がないと判定された場合には、出力制御部152は、運転者の座席の音声モジュールからの音声データが音声データ取得部144によって取得された場合であっても、後部座席の音声モジュールから音声データが出力されないように音声データ出力部148を制御する(S204)。
【0042】
例えば、音声データ出力部148は、運転者の音声モジュールからの音声データの転送を停止する。あるいは、出力制御部152は、搭乗者が存在する後部座席の音声モジュールのスピーカがミュートされるような制御信号を出力するようにしてもよい。これにより、後部座席の搭乗者は、自分に無関係な会話の支援を受けないので、大きな不快を感じることはない。
【0043】
一方、会話動作判定部150により会話動作があると判定された場合には、音声データ取得部144によって取得された運転者の音声データが音声処理部146によって処理された後、当該音声データは、出力制御部152によって搭乗者の後部座席に対応する音声モジュールに転送され、そこから音声出力される(S205)。これにより、後部座席の搭乗者は、会話支援された運転者の音声を聞くことができる。
【0044】
このように本実施例によれば、運転者の視線や顔の向きを検知することで、運転者と後部座席の搭乗者間による会話動作の有無を自動的に判定し、会話動作があると判定されたときに、運転者の音声を後部座席から出力させるようにしたので、後部座席の搭乗者は、自分に関係のある会話の支援を受けることができる。また、運転者は、後部座席の搭乗者との会話であることを指示する必要がないため、安全に運転を行うことができる。
【0045】
上記実施例では、運転者が後部座席の搭乗者への会話を支援する例を説明したが、本発明は、運転者に限らず、前部座席の搭乗者、例えば助手席の搭乗者にも適用することができる。さらに上記実施例では、4人乗りの車両に車載装置を搭載した例を説明したが、これに限らず、複数の座席が前後に配列されるようなバスや航空機などに搭載してもよい。その場合、前部座席とは、最前列にある座席に限らず、後部座席に対して相対的に前方にある座席であればよい。
【0046】
さらに上記実施例では、重量センサにより搭乗者の有無を判定するようにしたが、これに限らず、車内を撮像する撮像カメラからの画像データやシートベルトの着用センサの出力信号に基づき搭乗者の有無を判定してもよい。さらに、搭乗者の乗車位置データを作成し、出力制御部は、乗車位置データに基づき会話支援を行うことができる。
【0047】
本発明は、上記実施例に限定されるものではなく、特許請求の範囲に記載された発明の要旨の範囲において、種々の変形・変更が可能である。