(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】
(24)【登録日】2024-09-25
(45)【発行日】2024-10-03
(54)【発明の名称】表示制御装置、表示制御システム及び表示制御方法
(51)【国際特許分類】
G06F 3/01 20060101AFI20240926BHJP
G09G 5/00 20060101ALI20240926BHJP
G08G 1/16 20060101ALI20240926BHJP
G06F 3/0484 20220101ALI20240926BHJP
G06F 3/038 20130101ALI20240926BHJP
【FI】
G06F3/01 510
G09G5/00 550C
G09G5/00 510V
G08G1/16 C
G06F3/0484
G06F3/038 310A
(21)【出願番号】P 2020208423
(22)【出願日】2020-12-16
【審査請求日】2023-08-23
(73)【特許権者】
【識別番号】322003857
【氏名又は名称】パナソニックオートモーティブシステムズ株式会社
(74)【代理人】
【識別番号】110002952
【氏名又は名称】弁理士法人鷲田国際特許事務所
(72)【発明者】
【氏名】打越 忠宏
(72)【発明者】
【氏名】安藤 寛
(72)【発明者】
【氏名】池田 浩
(72)【発明者】
【氏名】津幡 真太郎
(72)【発明者】
【氏名】大石 将仁
【審査官】伊藤 昭治
(56)【参考文献】
【文献】特開2007-145310(JP,A)
【文献】特開2015-055999(JP,A)
【文献】特開2019-215663(JP,A)
【文献】特開2016-024778(JP,A)
【文献】特開2007-249567(JP,A)
(58)【調査した分野】(Int.Cl.,DB名)
G06F 3/01
G06F 3/038
G06F 3/048 - 3/04895
G06F 3/14 - 3/153
B60K 35/00 - 37/20
G08B 1/00 - 9/20
G08B 13/00 - 15/02
G08B 17/00
G08B 19/00 - 21/24
G08B 23/00 - 31/00
G09G 5/00
G08G 1/16
(57)【特許請求の範囲】
【請求項1】
車両の乗員の視線が向かう方向を示す視線情報が出力されている場合、前記車両の乗員に提供される情報を表示する複数の表示装置の内、前記視線が向かう方向に存在する表示装置を、前記情報を表示させる表示装置として選択する第1選択部と、
前記視線情報が出力されていない場合、複数の前記表示装置の内、前記乗員の視線が向かう蓋然性が他の表示装置よりも高い表示装置を、前記情報を表示させる表示装置として選択する第2選択部と、
を備え
、
前記第2選択部は、前記第1選択部で選択された表示装置に向けられた視線の累積時間に基づき、前記乗員の視線が向かう蓋然性の高い表示装置を、前記情報を表示させる表示装置として選択する、
表示制御装置。
【請求項2】
車両の乗員の視線が向かう方向を示す視線情報が出力されている場合、前記車両の乗員に提供される情報を表示する複数の表示装置の内、前記視線が向かう方向に存在する表示装置を、前記情報を表示させる表示装置として選択する第1選択部と、
前記視線情報が出力されていない場合、複数の前記表示装置の内、前記乗員の視線が向かう蓋然性が他の表示装置よりも高い表示装置を、前記情報を表示させる表示装置として選択する第2選択部と、
を備え、
前記第2選択部は、前記第1選択部で選択された表示装置に視線が向けられた回数に基づき、前記乗員の視線が向かう蓋然性の高い表示装置を、前記情報を表示させる表示装置として選択する、
表示制御装置。
【請求項3】
車両の乗員の視線が向かう方向を示す視線情報が出力されている場合、前記車両の乗員に提供される情報を表示する複数の表示装置の内、前記視線が向かう方向に存在する表示装置を、前記情報を表示させる表示装置として選択する第1選択部と、
前記視線情報が出力されていない場合、複数の前記表示装置の内、前記乗員の視線が向かう蓋然性が他の表示装置よりも高い表示装置を、前記情報を表示させる表示装置として選択する第2選択部と、
を備え、
前記第2選択部は、前記第1選択部で選択された表示装置の内、直近の時刻に視線が向けられていた表示装置を、前記情報を表示させる表示装置として選択する、
表示制御装置。
【請求項4】
車両の乗員の視線が向かう方向を示す視線情報が出力されている場合、前記車両の乗員に提供される情報を表示する複数の表示装置の内、前記視線が向かう方向に存在する表示装置を、前記情報を表示させる表示装置として選択する第1選択部と、
前記視線情報が出力されていない場合、複数の前記表示装置の内、前記乗員の視線が向かう蓋然性が他の表示装置よりも高い表示装置を、前記情報を表示させる表示装置として選択する第2選択部と、
を備え、
前記第2選択部は、前記第1選択部で選択された表示装置に表示された前記情報の累積時間に基づき、前記情報を表示させる表示装置を選択する
表示制御装置。
【請求項5】
車両の乗員の視線が向かう方向を示す視線情報が出力されている場合、前記車両の乗員に提供される情報を表示する複数の表示装置の内、前記視線が向かう方向に存在する表示装置を、前記情報を表示させる表示装置として選択する第1選択部と、
前記視線情報が出力されていない場合、複数の前記表示装置の内、前記乗員の視線が向かう蓋然性が他の表示装置よりも高い表示装置を、前記情報を表示させる表示装置として選択する第2選択部と、
を備え、
前記第2選択部は、前記第1選択部で選択された表示装置に表示された前記情報の表示回数に基づき、前記情報を表示させる表示装置を選択する、
表示制御装置。
【請求項6】
車両の乗員の視線が向かう方向を示す視線情報が出力されている場合、前記車両の乗員に提供される情報を表示する複数の表示装置の内、前記視線が向かう方向に存在する表示装置を、前記情報を表示させる表示装置として選択する第1選択部と、
前記視線情報が出力されていない場合、複数の前記表示装置の内、前記乗員の視線が向かう蓋然性が他の表示装置よりも高い表示装置を、前記情報を表示させる表示装置として選択する第2選択部と、
を備え、
前記第2選択部は、前記第1選択部で選択された表示装置の内、直近の時刻に注意喚起画像が表示されていた表示装置を、前記情報を表示させる表示装置として選択する、
表示制御装置。
【請求項7】
車両の乗員の視線が向かう方向を示す視線情報が出力されている場合、前記車両の乗員に提供される情報を表示する複数の表示装置の内、前記視線が向かう方向に存在する表示装置を、前記情報を表示させる表示装置として選択する第1選択部と、
前記視線情報が出力されていない場合、複数の前記表示装置の内、前記乗員の視線が向かう蓋然性が他の表示装置よりも高い表示装置を、前記情報を表示させる表示装置として選択する第2選択部と、
を備え、
前記第2選択部は、予め設定された表示装置を、前記乗員の視線が向かう蓋然性が他の表示装置よりも高い表示装置として選択する
表示制御装置。
【請求項8】
車両の乗員の視線が向かう方向を示す視線情報が出力されている場合、前記車両の乗員に提供される情報を表示する複数の表示装置の内、前記視線が向かう方向に存在する表示装置を、前記情報を表示させる表示装置として選択する第1選択部と、
前記視線情報が出力されていない場合、複数の前記表示装置の内、前記乗員の視線が向かう蓋然性が他の表示装置よりも高い表示装置を、前記情報を表示させる表示装置として選択する第2選択部と、
を備え、
前記第2選択部によって、前記乗員の視線が向かう蓋然性が他の表示装置よりも高い表示装置が選択された場合、複数の前記表示装置の内、前記第2選択部で選択されていない第1表示装置から、前記第2選択部で選択された第2表示装置へ、視線を移すことを促すことを示す画像情報を生成し、当該画像情報を前記第1表示装置に出力する画像情報出力部をさらに備える、
表示制御装置。
【請求項9】
車両の乗員の視線が向かう方向を示す視線情報が出力されている場合、前記車両の乗員に提供される情報を表示する複数の表示装置の内、前記視線が向かう方向に存在する表示装置を、前記情報を表示させる表示装置として選択する第1選択部と、
前記視線情報が出力されていない場合、複数の前記表示装置の内、前記乗員の視線が向かう蓋然性が他の表示装置よりも高い表示装置を、前記情報を表示させる表示装置として選択する第2選択部と、
を備え、
前記第2選択部は、前記乗員が持ち運び可能な端末装置を、前記乗員の視線が向かう蓋然性が他の表示装置よりも高い表示装置として選択する、
表示制御装置。
【請求項10】
請求項1から
9の何れか一項に記載の表示制御装置と、複数の前記表示装置とを備えた
表示制御システム。
【請求項11】
撮影部を用いて車両の乗員の視線を検出する検出ステップと、
前記視線が向かう方向を示す視線情報を出力する視線情報出力ステップと、
前記視線情報が出力されている場合、前記車両の乗員に提供される情報を表示する複数の表示装置の内、前記視線が向かう方向に存在する表示装置を、前記情報を表示させる表示装置として選択する第1選択ステップと、
前記視線情報が出力されていない場合、複数の前記表示装置の内、前記乗員の視線が向かう蓋然性が他の表示装置よりも高い表示装置を、前記情報を表示させる表示装置として選択する第2選択ステップと、
を含み、
前記第2選択ステップでは、前記第1選択ステップで選択された表示装置に向けられた視線の累積時間に基づき、前記乗員の視線が向かう蓋然性の高い表示装置を、前記情報を表示させる表示装置として選択する
表示制御方法。
【請求項12】
撮影部を用いて車両の乗員の視線を検出する検出ステップと、
前記視線が向かう方向を示す視線情報を出力する視線情報出力ステップと、
前記視線情報が出力されている場合、前記車両の乗員に提供される情報を表示する複数の表示装置の内、前記視線が向かう方向に存在する表示装置を、前記情報を表示させる表示装置として選択する第1選択ステップと、
前記視線情報が出力されていない場合、複数の前記表示装置の内、前記乗員の視線が向かう蓋然性が他の表示装置よりも高い表示装置を、前記情報を表示させる表示装置として選択する第2選択ステップと、を含み、
前記第2選択ステップでは、前記第1選択ステップで選択された表示装置に視線が向けられた回数に基づき、前記乗員の視線が向かう蓋然性の高い表示装置を、前記情報を表示させる表示装置として選択する、
表示制御方法。
【発明の詳細な説明】
【技術分野】
【0001】
本開示は、表示制御装置、表示制御システム及び表示制御方法に関する。
【背景技術】
【0002】
特許文献1には、車両に搭載されている複数の表示装置の内、運転者の視線が向けられている表示装置を選択し、選択した表示装置の画面に、運転に必要な情報を表示させる技術が開示される。
【0003】
特許文献1に開示されている表示制御装置は、撮影部により撮影された運転者の顔画像に基づいて運転者の視線が向かう方向を検出する視線検出手段と、視線が向かう方向を示す視線情報に基づいて、複数の表示装置の内、運転者が視線を向けている表示装置を、運転に必要な情報を表示させる表示装置として選択する選択手段とを備えている。
【0004】
当該表示制御装置によれば、運転者が視線を向けている表示装置に対して、運転に必要な情報が表示されるため、視線が向けられている車両周囲の状況を把握しながら、運転に必要な情報を確認することができる。
【先行技術文献】
【特許文献】
【0005】
【発明の概要】
【発明が解決しようとする課題】
【0006】
しかしながら特許文献1に開示されている従来技術では、例えば、視線を検出するための撮影部が曇ることによって、運転者の視線を検出することができない場合、安全な運転に必要な情報を表示装置に表示させることができないという課題がある。
【0007】
本開示の非限定的な実施例は、視線を検出できない場合でも視線が向き得る表示装置に安全な運転に必要な情報を表示させる表示制御装置、表示制御システム及び表示制御方法の提供に資する。
【課題を解決するための手段】
【0008】
本開示の一実施例に係る表示制御装置は、車両の乗員の視線が向かう方向を示す視線情報が出力されている場合、前記車両の乗員に提供される情報を表示する複数の表示装置の内、前記視線が向かう方向に存在する表示装置を、前記情報を表示させる表示装置として選択する第1選択部と、前記視線情報が出力されていない場合、複数の前記表示装置の内、前記乗員の視線が向かう蓋然性が他の表示装置よりも高い表示装置を、前記情報を表示させる表示装置として選択する第2選択部と、を備える。
【0009】
本開示の一実施例に係る表示制御システムは、上記の表示制御装置と、前記表示装置とを備える。
【0010】
本開示の一実施例に係る表示制御方法は、撮影部を用いて車両の乗員の視線を検出する検出ステップと、前記視線が向かう方向を示す視線情報を出力する視線情報出力ステップと、前記視線情報が出力されている場合、前記車両の乗員に提供される情報を表示する複数の表示装置の内、前記視線が向かう方向に存在する表示装置を、前記情報を表示させる表示装置として選択する第1選択ステップと、前記視線情報が出力されていない場合、複数の前記表示装置の内、前記乗員の視線が向かう蓋然性が他の表示装置よりも高い表示装置を、前記情報を表示させる表示装置として選択する第2選択ステップと、を含む。
【発明の効果】
【0011】
本開示の一実施例によれば、視線を検出できない場合でも視線が向き得る表示装置に安全な運転に必要な情報を表示させる表示制御装置、表示制御システム及び表示制御方法を提供できる。
【0012】
本開示の一実施例における更なる利点及び効果は、明細書及び図面から明らかにされる。かかる利点及び/又は効果は、いくつかの実施形態並びに明細書及び図面に記載された特徴によってそれぞれ提供されるが、1つ又はそれ以上の同一の特徴を得るために必ずしも全てが提供される必要はない。
【図面の簡単な説明】
【0013】
【
図1】本開示の実施の形態に係る表示制御システム100の構成例を示す図
【
図2】本開示の実施の形態に係る表示制御システム100の動作を説明するためのフローチャート
【
図3A】表示位置選択処理を説明するためのフローチャート
【
図3B】表示位置選択処理を説明するためのフローチャート
【
図4】本開示の実施の形態に係る表示制御システム100のハードウェア構成例を示す図
【発明を実施するための形態】
【0014】
以下に添付図面を参照しながら、本開示の好適な実施の形態について詳細に説明する。尚、本明細書及び図面において、実質的に同一の機能を有する構成要素については、同一の符号を付することにより重複説明を省略する。
【0015】
(実施の形態)
まず、本開示に係る実施形態を創作するに至った背景について説明する。
【0016】
例えば特許文献1に記載の公知技術などでは、撮影部により撮影された運転者の顔の画像に基づいて検出された運転者の視線が向かう方向を示す視線情報が出力されている場合、複数の表示装置の内、運転者が視線を向けている表示装置に、運転に必要な情報が表示される。
【0017】
ところが、視線を検出するための撮影部が曇ることによって視線を検出できない場合、又は、視線検出手段のソフトウェアにバグが生じたことによって視線を検出できない場合には、乗員の視線が向かう方向を示す視線情報が出力されない。このため、視線が向かっている表示装置に運転に必要な情報を表示させることができず、運転の安全性が低下する可能性がある。
【0018】
このようなことから、視線情報が出力されていない場合でも、運転の安全性が低下することを抑制することが望まれる。以下、本開示に係る実施形態について説明する。
【0019】
図1は本開示の実施の形態に係る表示制御システム100の構成例を示す図である。
図1に示される車両200は、表示制御システム100と、車両200の乗員の視線を逐次検出する視線検出装置10と、車両周辺に存在する物体を監視する周辺監視装置20とを備えている。
【0020】
乗員は、車両200の運転者、同乗者などである。車両200は、乗用車、貨物車、乗合車などである。本開示の実施の形態では、車両200の運転者の視線を検出する表示制御システム100の構成例について説明する。
【0021】
(表示制御システム100)
表示制御システム100は、複数の表示装置30A~30Cと、表示制御装置50とを備えている。以下では、複数の表示装置30A~30Cを区別しない場合、「表示装置30」と称する。
【0022】
(視線検出装置10)
視線検出装置10は、車両200の運転者の視線方向を検出し、運転者の視線が向かう方向を示す視線情報を出力する装置である。
【0023】
視線検出装置10は、画像撮影部11、画像処理部12、視線検出部13、及び視線情報出力部14を備えている。
【0024】
(画像撮影部11)
画像撮影部11は、車両内部を撮影するカメラなどである。画像撮影部11は、CCD(Charge Coupled Device)、CMOS(Complementary Metal Oxide Semiconductor)などの撮像素子を備えている。
【0025】
画像撮影部11は、運転者の顔を撮影できる位置に設けられ、運転者の顔を含む画像を撮影し、撮影した画像のデータ(以下、画像データと呼ぶ。)を画像処理部12に逐次出力する。
【0026】
運転者の顔を撮影できる位置は、例えば、車両200のダッシュボード、運転席の計器パネル、車両200の天井などである。
【0027】
なお、画像撮影部11は、1つに限定されず、車両内に複数設けられてもよい。
【0028】
(画像処理部12)
画像処理部12は、画像データを入力すると、画像撮影部11で撮影された画像を二値化処理することにより、二値画像を得る。画像処理部12は、二値画像のデータ(以下、二値画像データと呼ぶ。)を、視線検出部13に入力する。
【0029】
(視線検出部13)
視線検出部13は、二値画像データに基づき視線を検出する。例えば、視線検出部13は、二値画像データを解析することによって運転者の眼球領域を特定するとともに、眼球形状の曲率から眼球中心座標を求める。
【0030】
また、視線検出部13は、眼球領域から黒目(瞳孔)領域を特定して黒目中心座標を求め、上記の眼球中心座標から黒目中心座標へと向かう方向を視線方向として定める。
【0031】
さらに、視線検出部13は、眼球中心位置を始点として、当該始点から視線方向へ延びる直線を視線として特定し、特定した視線を示す情報である視線情報を視線情報出力部14に送信する。
【0032】
(視線情報出力部14)
視線情報出力部14は、視線情報出力部14から送信された視線情報を、表示制御装置50の情報入力部51に対して出力する。情報入力部51の構成の詳細は後述する。
【0033】
(周辺監視装置20)
周辺監視装置20は、車両周辺に存在する物体を検出するための装置である。
【0034】
周辺監視装置20は、周辺画像撮影部21、画像処理部22、物体検出センサ23、対象物検出部25、及び検出情報出力部26を備えている。
【0035】
(周辺画像撮影部21)
周辺画像撮影部21は、車両周辺の画像を撮影する全方向カメラ、パノラマカメラなどである。以下では車両周辺の画像を、「周辺画像」と称する。周辺画像撮影部21は、視線検出装置10の画像撮影部11と同様に、CCD、CMOSなどの撮像素子を備えている。
【0036】
周辺画像は、例えば、車両200の前方の風景、車両200の側方の風景、車両200の後方の風景などの画像である。風景には、例えば、車両200が走行中の車道に存在する物体が含まれる。車道に存在する物体は、例えば、自動車、建築物、工作物(広告、道路標識、信号機、電信柱など)、人、動物などである。
【0037】
周辺画像撮影部21は、例えば、車外の風景を撮影できる位置に配置される。当該位置は、フロントグリル、サイドミラー、天井、リアバンパーなどである。周辺画像撮影部21は、撮影した周辺画像のデータ(以下、周辺画像データと呼ぶ。)を画像処理部22に入力する。
【0038】
(画像処理部22)
画像処理部22は、周辺画像データに基づき、車両200周辺に存在する物体の中から、予め設定された検出対象の物体を検出するための画像処理を行う。以下では、予め設定された検出対象の物体を、「対象物」と称する。
【0039】
対象物は、例えば、乗用車、バイク、バス、タクシー、自転車、歩行者、動物などである。画像処理は、例えばエッジ検出処理などである。画像処理部22は、対象物の画像を対象物検出部25に入力する。
【0040】
(物体検出センサ23)
物体検出センサ23は、車両周辺に存在する物体の位置を検出するためのセンサであり、例えばソナーである。
【0041】
ソナーが例えば一定周波数のパルス状の音波を発振し、パルス状の音波が車両周辺の物体などに当たると反射し、パルス状の音波の一部がソナーに戻る。車両から物体までの距離が長くなるほど、ソナーからパルス状の音波が発振されてからその一部がソナーに戻るまでの時間が長くなる。
【0042】
この関係性を利用して、ソナーは、パルス状の音波を発振してから、物体で反射したエコーがソナーに戻るまでの往復時間を測定することにより、物体までの距離を推定し、推定した距離に基づき、車両を基準にした物体の位置を検出する。
【0043】
また、物体検出センサ23は、検出した物体の位置を示す情報である物体位置情報を対象物検出部25に入力する。
【0044】
(対象物検出部25)
対象物検出部25は、対象の画像と物体位置情報とに基づき、例えば、次のような判定を行う。
【0045】
(1)対象物検出部25は、例えば検出対象の先行車の後端が、車両の前方に存在し、かつ、当該後端から車両の先端までの距離が相対速度に応じて変化する所定の値(例えば数m~数十m)以上の場合、衝突リスク無し、と判定する。
【0046】
(2)対象物検出部25は、例えば検出対象の先行車の後端が、車両の前方に存在し、かつ、当該後端から車両の先端までの距離が上記の所定の値未満の場合、衝突リスク有り、と判定する。
【0047】
このように対象物検出部25は、車両に衝突し得る対象物を検出し、車両に衝突し得る対象物を検出したことを示す情報である対象物検出情報を生成し、検出情報出力部26に送信する。
【0048】
検出情報出力部26は、対象物検出部25から送信された対象物検出情報を、表示制御装置50の情報入力部54に対して出力する。情報入力部54の構成の詳細は後述する。
【0049】
(表示制御装置50)
表示制御装置50は、視線情報及び対象物検出情報に基づき、乗員に提供される注意喚起画像を生成して、生成した注意喚起画像を表示装置30に送信する装置である。
【0050】
注意喚起画像は、運転に必要な情報の一例である。注意喚起画像は、例えば、車両200に衝突し得る対象物が車両周辺に存在することを、乗員に注意喚起するための画像である。注意喚起画像は、例えば、周辺監視装置20から送信される対象物検出情報に基づいて作成される。
【0051】
注意喚起画像は、乗員に注意喚起することができる「!」などの記号、「衝突危険」などの文字でもよい。また、注意喚起画像は、これらを組み合わせたものでもよい。
【0052】
表示制御装置50は、情報入力部51、記憶部52、第1選択部57、情報入力部54、注意喚起画像作成部55、画像情報出力部56、第1選択部57、及び第2選択部58を備えている。
【0053】
(情報入力部51)
情報入力部51は、視線情報出力部14から送信された視線情報を入力し、第1選択部57及び第2選択部58へ転送する。
【0054】
(記憶部52)
記憶部52は、例えば、座標データ、表示装置30の識別ID(Identifier)、視線検出履歴、情報表示履歴などを記憶している。これらの情報の詳細は後述する。
【0055】
(第1選択部57)
第1選択部57は、例えば、視線情報出力部14から視線情報が所定周期で出力されている場合、視線検出装置10が運転者の視線を正常に検出していると判断する。
【0056】
この場合、第1選択部57は、複数の表示装置30の内、視線が向かう方向に存在する表示装置30を、注意喚起画像を表示させる表示装置として選択する。
【0057】
具体的には、第1選択部57は、記憶部52に記憶されている座標データを読み出して、車載メータパネルの正面を基準位置として、運転者の視線上に存在する表示装置30を特定する。座標データは、複数の表示装置30のそれぞれの表示面の車両内における位置を表すデータである。
【0058】
第1選択部57は、特定した表示装置30を、注意喚起画像を表示させる表示装置として選択する。
【0059】
第1選択部57は、選択した表示装置30に対応する識別IDを、例えば記憶部52から読み出して、画像情報出力部56に送信する。画像情報出力部56の構成の詳細は後述する。
【0060】
(第2選択部58)
第2選択部58は、例えば、視線情報出力部14から視線情報が所定周期で出力されない場合、視線検出装置10が運転者の視線を正常に検出できない状態になっていると判断する。
【0061】
視線を正常に検出できない状態とは、例えば、画像撮影部11のレンズが曇ることによって運転者の視線を検出できない状態、視線検出装置10を制御するソフトウェアにバグが生じたことによって運転者の視線を検出できない状態、眼鏡などで視線が遮られている状態、などである。
【0062】
このように、視線情報出力部14から視線情報が出力されない場合、運転者の視線が向かっている表示装置30に、運転に必要な情報である注意喚起画像を、表示させることができず、運転の安全性が低下する可能性がある。
【0063】
この対策として、本開示の実施の形態に係る表示制御装置50は、以下で説明する履歴情報に基づき、複数の表示装置30の内、乗員の視線が向かう蓋然性が他の表示装置よりも高い表示装置30を推定して、推定した表示装置30に対して、注意喚起画像を表示させるように構成されている。
【0064】
具体的には、第2選択部58が、履歴情報に基づき、複数の表示装置30の内、乗員の視線が向かう蓋然性が他の表示装置よりも高い表示装置を、注意喚起画像を表示させる表示装置として選択することにより、選択した表示装置30に対して、注意喚起画像を表示させる。
【0065】
なお、履歴情報には、例えば視線検出履歴、情報表示履歴などが含まれる。
【0066】
視線検出履歴としては、以下のような情報を例示できる。
(1)過去に第1選択部57で選択された表示装置30に向けられた視線の累積時間。
(2)過去に第1選択部57で選択された表示装置30に視線が向けられた回数。
(3)過去に第1選択部57で選択された表示装置30の内、直近の時刻に視線が向けられていた表示装置30を示す情報。
【0067】
情報表示履歴としては、以下のような情報を例示できる。
(1)過去に第1選択部57で選択された表示装置30に表示された注意喚起画像の累積時間。
(2)過去に第1選択部57で選択された表示装置30に表示された注意喚起画像の表示回数。
(3)過去に第1選択部57で選択された表示装置30の内、直近の時刻に注意喚起画像が表示されていた表示装置30を示す情報。
【0068】
これらの履歴情報は、第2選択部58に予め設定されているものでもよいし、記憶部52に記憶されたものでもよい。
【0069】
(情報入力部54)
情報入力部54は、検出情報出力部26が出力した対象物検出情報を入力し、注意喚起画像作成部55へ転送する。
【0070】
(注意喚起画像作成部55)
注意喚起画像作成部55は、対象物検出情報に基づき、前述した注意喚起画像を生成し、画像情報出力部56に入力する。
【0071】
(画像情報出力部56)
画像情報出力部56は、注意喚起画像作成部55で作成された注意喚起画像を、第1選択部57又は第2選択部58で選択された表示装置30に出力する。
【0072】
具体的には、画像情報出力部56は、第1選択部57又は第2選択部58から送信された表示装置30の識別IDを受信すると、記憶部52又は画像情報出力部56に設定されているテーブル情報を参照することによって、識別IDに対応する表示装置30を特定する。
【0073】
そして、画像情報出力部56は、特定した表示装置30に対して、注意喚起画像作成部55で作成された注意喚起画像を、特定した表示装置30に対して出力する。
【0074】
(表示装置30)
表示装置30Aは、情報入力部31、元画像生成部32、画像重畳部33、及び画像表示装置34を備えている。表示装置30Aは、例えば車室内に設けられている例えばセンターディスプレイである。
【0075】
表示装置30Bは、表示装置30Aと同様に構成されている。表示装置30Bは、例えば運転席前に設けられている車載メータパネルである。
【0076】
表示装置30Cは、表示装置30Aと同様に構成されている。表示装置30Cは、例えばヘッドアップディスプレイである。
【0077】
なお、車両200に設けられている表示装置30の種類は、これらに限定されるものではなく、例えば、車載カメラとディスプレイを組み合わせた電子ミラー(例えば、電子ルームミラーや電子サイドミラーなど)などを含んでもよい。
【0078】
また、車両200に設けられている表示装置30の数は3つに限定されず、2つでもよいし、4つ以上でもよい。
【0079】
(情報入力部31)
情報入力部31は、画像情報出力部56が出力した注意喚起画像を入力し、画像重畳部33に転送する。
【0080】
(元画像生成部32)
元画像生成部32は、元画像データを生成し、画像重畳部33へ入力する。元画像データは、衝突し得る対象物が車両周辺に存在しないときに、画像表示装置34に表示される画像(元画像)のデータである。
【0081】
具体的には、表示装置30Aの画像表示装置34に表示される元画像は、例えばナビゲーションの画面に表示される地図、オーディオ機器を操作する画像などである。
【0082】
また、表示装置30Bの画像表示装置34に表示される元画像は、例えばスピードメータ、油圧計、燃料残量計などの画像である。
【0083】
また、表示装置30Cの画像表示装置34に表示される元画像は、例えば、車速を示す画像、車両進行方向を示す画像などである。
【0084】
(画像重畳部33)
画像重畳部33は、元画像と注意喚起画像とに基づき、元画像に注意喚起画像を重畳させた画像を表す重畳画像データを生成し、画像表示装置34に入力する。
【0085】
(画像表示装置34)
画像表示装置34は、重畳画像データに基づき重畳画像を生成し、重畳画像を画像表示装置34の画面に表示する。
【0086】
これにより、例えば、走行中の車両200において、運転者が車載メータパネルを注視しているときに、先行車との車間距離が狭くなった場合、運転者の視線が向かっている車載メータパネル上の元画像に、注意喚起画像が重畳表示される。
【0087】
このため、視線が前方に向かっていない場合でも、車両200が周辺の物体に衝突し得る状況であることを、運転者に早く知らせることができる。これにより、運転者は急ブレーキなどの衝突回避行動をとることができる。
【0088】
【0089】
図2は本開示の実施の形態に係る表示制御システム100の動作を説明するためのフローチャートである。
【0090】
画像撮影部11によって運転者の顔の撮影が開始される(ステップS11)。撮影された画像は、画像処理部12を介して、視線検出部13に送信される。
【0091】
ステップS11の処理の後、視線検出部13は、受信した画像に基づいて、運転者の視線が向かう方向を検出する(ステップS12)。
【0092】
視線の検出結果である視線情報は、視線情報出力部14及び情報入力部51を介して、第1選択部57及び第2選択部58に送信される。第1選択部57及び第2選択部58の処理については後述する。
【0093】
ステップS12の処理と平行して、情報入力部54は、検出情報出力部26が送信した対象物検出情報を受信し、対象物検出情報を、注意喚起画像作成部55に転送する(ステップS13)。
【0094】
ステップS13の処理の後、注意喚起画像作成部55は、対象物検出情報に基づいて、注意喚起画像を作成する(ステップS14)。
【0095】
ステップS14の処理の後、注意喚起画像作成部55は、作成した注意喚起画像を、画像情報出力部56に送信する。その後、ステップS15に示す表示位置選択処理が実行される。
【0096】
図3A及び
図3Bを参照して、ステップS15に示す表示位置選択処理について説明する。
【0097】
図3A及び
図3Bは表示位置選択処理を説明するためのフローチャートである。
【0098】
表示制御装置50は、視線情報が出力されているか否かを判定する(ステップS21)。
【0099】
視線情報が出力されていない場合(ステップS21,NO)、ステップS22の処理が実行される。
【0100】
ステップS22では、視線検出機能が働いている状態であるか、又は、運転者などの操作によって、視線検出機能が停止している状態であるかを判断する処理が実行される。
【0101】
具体的には、前述したステップS21において、視線情報が出力されていない場合、表示制御装置50は、視線検出装置10による視線検出機能がオン状態であるかオフ状態であるかを判断する(ステップS22)。
【0102】
オン状態は、視線検出装置10による視線検出機能が働いている状態であり、オフ状態は、視線検出装置10による視線検出機能が停止している状態である。
【0103】
視線検出機能のオン又はオフは、運転者が選択することができる。例えば、視線検出機能がオンに設定された場合、視線検出装置10から表示制御装置50に対して、視線検出機能が働いている状態を示す信号が送信される。
【0104】
視線検出機能がオフに設定された場合、視線検出装置10から表示制御装置50に対して、視線検出機能が停止している状態を示す信号が送信される。
【0105】
表示制御装置50は、これらの信号により、視線検出機能が働いている状態であるか、又は、運転者などの操作によって、視線検出機能が停止している状態であるかを判断することができる。
【0106】
表示制御装置50は、視線検出装置10による視線検出機能がオフ状態の場合(ステップS22,NO)、運転者によって、視線検出機能がオフにされているために、視線情報が出力されていないと判断する。この場合、ステップS30の処理を実行し、注意喚起画像の表示を継続する。ステップS30の処理に関しては後述する。
【0107】
表示制御装置50は、視線検出装置10による視線検出機能がオン状態の場合(ステップS22,YES)、視線を正常に検出できない状態のため、視線情報が出力されていないと判断する。
【0108】
この場合、視線検出機能がオン状態であるにも関わらず、視線検出が行われていないことを運転者に通知する(ステップS23)。
【0109】
通知方法は、例えば「視線が検出されていません」などのメッセージを表示装置30に表示させてもよいし、車両内のスピーカーから音声を再生することでもよい。
【0110】
また、通知方法は、車両内のランプを点滅させることでもよいし、ステアリング、シートなどを振動させることでもよい。
【0111】
このとき、カメラが曇っていないかを運転者に確認させるメッセージ、顔がマスクなどで覆われていないかを運転者に確認させるメッセージなどを、表示装置30に表示させてもよい。
【0112】
ステップS23の後、第2選択部58による表示装置30の選択が行われる(ステップS24)。これにより、選択された表示装置30に注意喚起画像が表示される(ステップS25)。
【0113】
なお、ステップS24及びステップS25の処理は、ステップS21の処理が完了してから、ステップS22の処理が開始されるまでの間に実行されてもよい。
【0114】
ステップS25の処理の後、表示制御装置50は、視線検出機能をオフにする操作が行われたか否かを判断する(ステップS26)。
【0115】
例えば、表示制御装置50は、「視線検出機能をオフに設定しますか?」というメッセージを表示装置30に表示させることによって、視線検出機能をオフにする操作が行われた場合(ステップS26,YES)、視線検出機能がオフになったことを運転者に通知した上で、ステップS31以降の処理を実行する。
【0116】
また、表示制御装置50は、当該メッセージを表示装置30に表示させたにもかかわらず、視線検出機能をオフにする操作が行われなかった場合(ステップS26,NO)、ステップS23以降の処理を繰り返す。
【0117】
なお、表示制御装置50は、ステップS26の処理の代わりに、例えば視線検出装置10を自動又は手動で再起動させてもよい。
【0118】
視線検出装置10を再起動させることによって、ソフトウェアが正常に動作して、視線を検出できるようになる場合がある。
【0119】
視線検出装置10を再起動しても、視線情報が得られない場合、表示制御装置50は、運転者にその旨を知らせるメッセージを生成して、表示装置30に表示する。これにより、再起動しても視線検出が困難な状況であることを、運転者に知らせることができる。
【0120】
なお、表示制御装置50は、再起動しても視線を検出できない状態であることを運転者に通知した後、視線検出機能を強制的にオフしてもよい。
【0121】
ステップS21に戻り、視線情報が出力されている場合(ステップS21,YES)、ステップS27の処理が実行される。
【0122】
ステップS21において、視線情報が出力されている場合、表示制御装置50は、複数の表示装置30の何れかに視線が向けられているか否かを判断する(ステップS27)。
【0123】
複数の表示装置30の何れかに視線が向けられている場合(ステップS27,YES)、第1選択部57は、ステップS28の処理を実行する。
【0124】
第1選択部57は、視線が向けられている表示装置30を選択する(ステップS28)。
【0125】
ステップS28に表示装置30が選択されると、画像情報出力部56は、選択された表示装置30に対して、注意喚起画像を送信する。これにより、視線が向けられている表示装置30に表示されている元画像に、注意喚起画像が重畳して表示される(ステップS29)。
【0126】
その後、表示制御装置50は、例えば、運転者が表示装置30に表示された注意喚起画像に対応する動作が完了したか否かを判断する(ステップS30)。
【0127】
例えば、表示制御装置50は、ヘッドアップディスプレイに「衝突注意」というメッセージを表示させた後、障害回避操作が行われた場合、ハンドルの回転方向、ハンドルの回転量、ブレーキペダルの踏み込み量、アクセルペダルの踏み込み量など基づいて、衝突回避操作が完了したか否かを判断する。
【0128】
衝突回避操作が完了していない場合(ステップS30,NO)、表示制御装置50は、ステップS29以降の処理を繰り返す。
【0129】
衝突回避操作が完了した場合(ステップS30,YES)、表示制御装置50は、注意喚起画像に対応する動作が完了したと判断して、注意喚起画像を消去する(ステップS31)。
【0130】
なお、ステップS31の処理は、これに限定されず、以下のような処理でもよい。
【0131】
例えば、表示制御装置50は、タッチパネル式のセンターディスプレイに「衝突を回避できましたか?」という確認メッセージを表示させた後、運転者が確認メッセージをタッチ操作した場合、注意喚起画像に対応する動作が完了したと判断して、注意喚起画像を消去してもよい。
【0132】
ステップS27に戻り、複数の表示装置30の何れにも視線が向けられていない場合(ステップS27,NO)、
図2に示すステップS16の処理が実行される。
【0133】
図2に示すステップS16において、表示制御装置50は、ステップS15までの処理が完了していない場合(ステップS16,NO)、ステップS13以降の処理を繰り返す。
【0134】
図2に示すステップS16において、表示制御装置50は、ステップS15までの処理が完了した場合(ステップS16,YES)、一連の処理を終了する。
【0135】
なお、複数の表示装置30の何れにも視線が向けられていない場合、第1選択部57は、視線から最も近い位置に存在する表示装置30を、運転者の視線が向かう方向に存在する表示装置30として特定するように構成してもよい。
【0136】
次に、
図4を参照して、表示制御システム100のハードウェア構成例について説明する。
図4は本開示の実施の形態に係る表示制御システム100のハードウェア構成例を示す図である。
【0137】
車両200は、車載機210として、視線検出装置10、周辺監視装置20、表示制御装置50、表示装置30A、表示装置30B、表示装置30C、及びECU220を備えている。
【0138】
ECU220は、補助記憶装置230A、メモリ装置230B、CPU230C、及びインタフェース装置230Dを備える。これらは情報処理装置230を構成し、互いにバスライン230Eで接続される。
【0139】
補助記憶装置230Aは、ECU220の処理に必要なファイル及びデータを格納している、HDD(Hard Disk Drive)、フラッシュメモリなどである。メモリ装置230Bは、プログラムの起動指示があった場合に、補助記憶装置230Aからプログラムを読み出して格納する。
【0140】
CPU230Cは、メモリ装置230Bに格納されたプログラムを実行し、プログラムに従ってECU220の各種機能を実現する。
【0141】
インタフェース装置230Dは、例えば、CPU230Cを、視線検出装置10、周辺監視装置20などに接続するインタフェースである。
【0142】
なお、本実施の形態では、周辺監視装置20から出力されている対象物検出情報を用いて、注意喚起画像を作成する場合の構成例について説明したが、注意喚起画像は、車両200に設けられている各種センサから得られる車両情報を利用して作成してもよい。
【0143】
車両情報は、例えば、ドア開閉状態情報、タイヤの空気圧情報、エンジンの水温情報、走行可能距離情報などである。
【0144】
ドア開閉状態情報に基づき作成される注意喚起画像は、例えば「ドアが開いています」というメッセージである。
【0145】
このようなメッセージが表示装置30に表示された後、ドアが閉じられた場合、表示制御装置50は、前述したステップS30の処理で、注意喚起画像に対応する動作が完了したと判断し、前述したステップS31の処理で、注意喚起画像を消去する。
【0146】
タイヤの空気圧情報に基づき作成される注意喚起画像は、例えば「空気圧が適正範囲を超えています」というメッセージ、「空気圧が低下しています」というメッセージなどである。
【0147】
このようなメッセージが表示装置30に表示された後、空気圧が適正値に調整された場合、表示制御装置50は、前述したステップS30の処理で、注意喚起画像に対応する動作が完了したと判断して、前述したステップS31の処理で、注意喚起画像を消去する。
【0148】
エンジンの水温情報に基づき作成される注意喚起画像は、例えば「オーバーヒートする可能性があります」というメッセージである。
【0149】
このようなメッセージが表示装置30に表示された後、エンジンが点検された場合、表示制御装置50は、前述したステップS30の処理で、注意喚起画像に対応する動作が完了したと判断して、前述したステップS31の処理で、注意喚起画像を消去する。
【0150】
走行可能距離情報に基づき作成される注意喚起画像は、例えば「走行可能距離は残り10kmです」というメッセージである。
【0151】
このようなメッセージが表示装置30に表示された後、燃料が補充された場合、表示制御装置50は、前述したステップS30の処理で、注意喚起画像に対応する動作が完了したと判断して、注意喚起画像を消去する。
【0152】
なお、第2選択部58は、以下のように構成してもよい。
【0153】
第2選択部58は、視線情報が出力されていない場合、予め設定された表示装置30を、乗員の視線が向かう蓋然性が他の表示装置よりも高い表示装置として選択するように構成してもよい。
【0154】
例えば、視線情報が出力されていない場合に、注意喚起画像を表示させる表示装置30として、ヘッドアップディスプレイを設定しておくことにより、視線情報が出力されていない場合には、ヘッドアップディスプレイに注意喚起画像を自動的に表示させることができる。
【0155】
この構成により、視線情報が出力されていない場合でも、乗員の視線が向かう蓋然性が高い表示装置30として、予め設定された表示装置30に、注意喚起画像を表示させることができるため、運転の安全性を高めることができる。
【0156】
なお、画像情報出力部56は、以下のように構成してもよい。
【0157】
画像情報出力部56は、第2選択部58によって、乗員の視線が向かう蓋然性が他の表示装置30よりも高い表示装置30が選択された場合、複数の表示装置30の内、第2選択部58で選択されていない第1表示装置から、第2選択部58で選択された第2表示装置へ、視線を移すことを促すことを示す画像情報を生成し、画像情報を第1表示装置に出力するように構成してもよい。
【0158】
この場合、画像情報出力部56は、例えば、視線情報が出力されていない場合、「ヘッドアップディスプレイを参照」というメッセージを生成する。
【0159】
そして、画像情報出力部56は、当該メッセージをセンターディスプレイに表示させるとともに、ヘッドアップディスプレイに対して、注意喚起画像を表示させる。
【0160】
このように「ヘッドアップディスプレイを参照」というメッセージを、センターディスプレイに表示させることにより、運転者がセンターディスプレイに視線を向けているときに視線検出ができなくなった場合でも、センターディスプレイ上に表示されているメッセージによって、注意喚起画像がヘッドアップディスプレイに表示されていることを、運転者が気づくことができる。従って、運転者は、ヘッドアップディスプレイに対して素早く視線を向けることができる。
【0161】
このため、注意喚起画像に対応した行動を素早くとることができ、運転の安全性をより一層高めることができる。
【0162】
なお、第2選択部58は、乗員の視線が向かう蓋然性が他の表示装置30よりも高い表示装置30として、乗員が持ち運び可能な端末装置を選択するように構成してもよい。
【0163】
例えば、スマートフォンなどの端末装置と車両200に搭載されている車載機とが互いにBluetooth(登録商標)などで近距離無線通信を行ってペアリングが完了した後、第2選択部58によって当該端末装置が選択された場合、画像情報出力部56は、第2選択部58で選択された端末装置に対して、注意喚起画像を転送する。これにより、端末装置がナビゲーション装置として利用される場合でも、端末装置に注意喚起画像を表示させることができる。
【0164】
なお、表示制御装置50は、例えば、注意喚起画像を一定時間表示させた後に、注意喚起画像に対応する動作が完了しない場合には、運転者が注意喚起画像を無視しているか、当該動作を必要としない状況と判断して、表示装置30上の注意喚起画像を消去するように構成してもよい。
【0165】
注意喚起画像を消去することにより、表示装置30には元画像のみ表示されるため、運転者は元画像を認識し易くなり、運転の安全性をより一層高めることができる。
【0166】
なお、表示制御装置50は、車両周囲の物体を検出するセンサから得られる情報を利用して、バイクなどの物体の位置を特定し、その位置と運転者との間に配置されている表示装置30に、注意喚起画像を表示させてもよい。
【0167】
例えば、交差点に向かって走行中の車両200において、車両200の左前方から車両200に接近するバイクを検出した場合、表示制御装置50は、運転者の左前方に位置するセンターディスプレイに「衝突の危険あり」などのメッセージを点滅表示させる。
【0168】
これにより、車両200に物体が衝突し得る状況であることを運転者に知らせることができる。このとき、表示制御装置50は、注意を促す音声ガイダンスを同時に出力させてもよい。これにより、運転者は急ブレーキなどの衝突回避行動をとることができるため、運転の安全性をより一層高めることができる。
【0169】
なお、例えば、以下のような態様も本開示の技術的範囲に属するものと了解される。
【0170】
(1)表示制御装置は、車両の乗員の視線が向かう方向を示す視線情報が出力されている場合、前記車両の乗員に提供される情報を表示する複数の表示装置の内、前記視線が向かう方向に存在する表示装置を、前記情報を表示させる表示装置として選択する第1選択部と、前記視線情報が出力されていない場合、複数の前記表示装置の内、前記乗員の視線が向かう蓋然性が他の表示装置よりも高い表示装置を、前記情報を表示させる表示装置として選択する第2選択部と、を備える。
【0171】
(2)前記第2選択部は、前記第1選択部で選択された表示装置に向けられた視線の累積時間に基づき、前記乗員の視線が向かう蓋然性の高い表示装置を、前記情報を表示させる表示装置として選択する。
【0172】
(3)前記第2選択部は、前記第1選択部で選択された表示装置に視線が向けられた回数に基づき、前記乗員の視線が向かう蓋然性の高い表示装置を、前記情報を表示させる表示装置として選択する。
【0173】
(4)前記第2選択部は、前記第1選択部で選択された表示装置の内、直近の時刻に視線が向けられていた表示装置を、前記情報を表示させる表示装置として選択する。
【0174】
(5)前記第2選択部は、前記第1選択部で選択された表示装置に表示された前記情報の累積時間に基づき、前記情報を表示させる表示装置を選択する。
【0175】
(6)前記第2選択部は、前記第1選択部で選択された表示装置に表示された前記情報の表示回数に基づき、前記情報を表示させる表示装置を選択する。
【0176】
(7)前記第2選択部は、前記第1選択部で選択された表示装置の内、直近の時刻に注意喚起画像が表示されていた表示装置を、前記情報を表示させる表示装置として選択する。
【0177】
(8)前記第2選択部は、予め設定された表示装置を、前記乗員の視線が向かう蓋然性が他の表示装置よりも高い表示装置として選択する。
【0178】
(9)表示制御装置は、前記第2選択部によって、前記乗員の視線が向かう蓋然性が他の表示装置よりも高い表示装置が選択された場合、複数の前記表示装置の内、前記第2選択部で選択されていない第1表示装置に、当該第1表示装置から、前記第2選択部によって選択された第2表示装置へ視線を移すことを促すことを示す画像情報を生成して、前記第1表示装置に出力する画像情報出力部をさらに備える。
【0179】
(10)前記第2選択部は、前記乗員が持ち運び可能な端末装置を、前記乗員の視線が向かう蓋然性が他の表示装置よりも高い表示装置として選択する。
【0180】
(11)表示制御システムは、上記の表示制御装置と、前記表示装置とを備える。
【0181】
(12)表示制御方法は、撮影部を用いて車両の乗員の視線を検出する検出ステップと、前記視線が向かう方向を示す視線情報を出力する視線情報出力ステップと、前記視線情報が出力されている場合、前記車両の乗員に提供される情報を表示する複数の表示装置の内、前記視線が向かう方向に存在する表示装置を、前記情報を表示させる表示装置として選択する第1選択ステップと、前記視線情報が出力されていない場合、複数の前記表示装置の内、前記乗員の視線が向かう蓋然性が他の表示装置よりも高い表示装置を、前記情報を表示させる表示装置として選択する第2選択ステップと、を含む。
【0182】
以上、図面を参照しながら各種の実施の形態について説明したが、本開示はかかる例に限定されないことは言うまでもない。当業者であれば、本開示に記載された範疇内において、各種の変更例又は修正例に想到し得ることは明らかであり、それらについても当然に本開示の技術的範囲に属するものと了解される。また、本開示の趣旨を逸脱しない範囲において、上記実施の形態における各構成要素を任意に組み合わせてもよい。
【0183】
以上、本開示の具体例を詳細に説明したが、これらは例示にすぎず、特許請求の範囲を限定するものではない。特許請求の範囲に記載の技術は、本開示において例示した具体例を様々に変形、変更したものが含まれ得る。
【産業上の利用可能性】
【0184】
本開示の一実施例は、表示制御装置及び表示制御システムに好適である。
【符号の説明】
【0185】
10 視線検出装置
11 画像撮影部
12 画像処理部
13 視線検出部
14 視線情報出力部
20 周辺監視装置
21 周辺画像撮影部
22 画像処理部
23 物体検出センサ
25 対象物検出部
26 検出情報出力部
30 表示装置
31 情報入力部
32 元画像生成部
33 画像重畳部
34 画像表示装置
50 表示制御装置
51 情報入力部
52 記憶部
54 情報入力部
55 注意喚起画像作成部
56 画像情報出力部
57 第1選択部
58 第2選択部
100 表示制御システム
200 車両
210 車載機
220 ECU
230 情報処理装置
230A 補助記憶装置
230B メモリ装置
230C CPU
230D インタフェース装置
230E バスライン