(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】
(24)【登録日】2023-09-07
(45)【発行日】2023-09-15
(54)【発明の名称】車両用表示制御装置、表示制御方法、およびプログラム
(51)【国際特許分類】
G08G 1/16 20060101AFI20230908BHJP
H04N 7/18 20060101ALI20230908BHJP
B60R 1/28 20220101ALI20230908BHJP
【FI】
G08G1/16 C
H04N7/18 J
B60R1/28 100
(21)【出願番号】P 2020054581
(22)【出願日】2020-03-25
【審査請求日】2022-04-28
(73)【特許権者】
【識別番号】314012076
【氏名又は名称】パナソニックIPマネジメント株式会社
(74)【代理人】
【識別番号】100138771
【氏名又は名称】吉田 将明
(72)【発明者】
【氏名】岡部 吉正
(72)【発明者】
【氏名】道口 将由
(72)【発明者】
【氏名】濱井 裕也
(72)【発明者】
【氏名】井上 正人
(72)【発明者】
【氏名】山崎 正純
(72)【発明者】
【氏名】節 貴憲
【審査官】小林 勝広
(56)【参考文献】
【文献】国際公開第2014/129026(WO,A1)
【文献】特開2019-036924(JP,A)
【文献】特開2000-251080(JP,A)
(58)【調査した分野】(Int.Cl.,DB名)
B60R 1/00- 1/04、 1/08- 1/31
G08G 1/00-99/00
H04N 7/18
(57)【特許請求の範囲】
【請求項1】
車両内に設置された表示部に表示させる表示画像を制御する車両用表示制御装置であって、
前記車両に設置された1以上の撮像部により撮像された撮影画像に前記車両の乗員の視認を妨げるための処理を行い、前記表示画像を生成する画像処理部と、
前記車両の状態を示す情報および前記車両の周辺環境の情報を取得する取得部と、
前記取得部にて取得された情報に基づき、前記車両が第1の状況か否かを判定する状況判定部と、を備え、
前記状況判定部は、サイレン音、ブレーキ音、クラクション、警笛音、または衝突音を検知した場合、回転灯またはハザードランプ点滅を検知した場合、走行位置が駐車場内、ロータリー内、多差路交差点内、または複合交差点内であることを検知した場合、車内の撮影画像による運転者の頭部または眼球の所定の挙動を検知した場合、前記運転者の所定の体重移動を検知した場合、の少なくともいずれかの場合に、前記第1の状況であると判定し、
前記画像処理部は、前記状況判定部にて前記車両が前記第1の状況であると判定された場合、前記撮影画像に対する前記処理の適用を禁止、または、前記処理の適用の程度を減じた前記表示画像を生成して前記表示部に表示させる、
車両用表示制御装置。
【請求項2】
前記状況判定部はさらに、
前記車両に衝撃を検知した場合、前記車両の転覆、横転、または縦回転を検知した場合、走行中の道路の方向と比較して前記車両の進行方向が所定の範囲外であることを検知した場合、前記車両のスリップ、スピン、駆動輪の空転、または車輪のロックを検知した場合、前記車両の浸水、入水、または落水を検知した場合、の少なくともいずれかの場合に、前記車両が前記第1の状況とは異なる第2の状況
であると判定し、
前記画像処理部は、前記状況判定部にて前記車両が前記第2の状況であると判定された場合、前記表示画像に前記処理の適用を禁止、または、前記第1の状況であると判定した場合に前記表示画像に適用される前記処理の程度よりもさらに適用する程度を減じた前記表示画像を生成する、
請求項1に記載の車両用表示制御装置。
【請求項3】
前記画像処理部は、前記撮影画像に対する前記処理の適用を禁止、または、前記処理の適用の程度を減ずる場合、前記表示画像において、前記車両に接近する物体、または、前記車両が接近する物体に視線誘導を行うように前記表示画像の表示を制御する、
請求項1
または2に記載の車両用表示制御装置。
【請求項4】
前記撮影画像に対する前記処理の適用を禁止、または、前記処理の適用の程度を減ずる場合、前記取得部にて取得された前記情報にて特定される前記車両に接近する物体、または、前記車両が接近する物体の方向を音声にて報知する報知部をさらに備える、
請求項1~
3のうちいずれか一項に記載の車両用表示制御装置。
【請求項5】
前記画像処理部は、前記処理として、前記撮影画像の一部を切り出して前記表示画像を生成する、
請求項1~
4のうちいずれか一項に記載の車両用表示制御装置。
【請求項6】
前記画像処理部は、前記処理として、前記撮影画像に対する輝度、明度、または彩度の変更、解像度の低減、コントラストの低減、またはマスクの重畳のうちの少なくともいずれかを行う、
請求項1~
5のうちいずれか一項に記載の車両用表示制御装置。
【発明の詳細な説明】
【技術分野】
【0001】
本開示は、車両用表示制御装置、表示制御方法、およびプログラムに関する。
【背景技術】
【0002】
近年、車両に積載したカメラが撮像した画像を処理し、車両の運転者に提示することで、運転を支援する車両用表示装置が普及し始めている。例えば、車両に設けられたサイドミラーに代えてカメラで撮影した画像を車内の表示装置に表示するような構成の車両がある。
【0003】
特許文献1では、車載のカメラにて撮影された画像を表示する際に、画像のうち、車両から近い領域はそのまま表示し、遠い領域はぼかして表示する構成が開示されている。これにより、運転者が表示画像を参照した際に距離感を把握しやすくしている。
【先行技術文献】
【特許文献】
【0004】
【発明の概要】
【発明が解決しようとする課題】
【0005】
一方、所定の状況下において、特許文献1のように表示画像の一部をぼかした場合、運転者による周辺の視認を妨げる可能性がある。
【0006】
本開示は、上述した従来の事情に鑑みて案出され、車両または車両周辺の状況に応じて、運転者に車両の周辺環境のより適切な視認を促す画像表示を提供する車両用表示制御装置、表示制御方法、およびプログラムを提供することを目的とする。
【課題を解決するための手段】
【0007】
本開示は、車両内に設置された表示部に表示させる表示画像を制御する車両用表示制御装置であって、前記車両に設置された1以上の撮像部により撮像された撮影画像に前記車両の乗員の視認を妨げるための処理を行い、前記表示画像を生成する画像処理部と、前記車両の状態を示す情報および前記車両の周辺環境の情報を取得する取得部と、前記取得部にて取得された情報に基づき、前記車両が第1の状況か否かを判定する状況判定部と、を備え、前記画像処理部は、前記状況判定部にて前記車両が前記第1の状況であると判定された場合、前記撮影画像に対する前記処理の適用を禁止、または、前記処理の適用の程度を減じた前記表示画像を生成して前記表示部に表示させる、車両用表示制御装置を提供する。
【0008】
また、本開示は、車両内に設置された表示部に表示させる表示画像を制御する表示制御方法であって、前記車両に設置された1以上の撮像部によって撮像された撮影画像に前記車両の乗員の視認を妨げるための処理を行い、前記表示部に表示させる表示画像を生成し、前記車両の状態を示す情報および前記車両の周辺環境の情報を取得し、取得された前記情報に基づき、前記車両が第1の状況か否かを判定し、前記車両が前記第1の状況であると判定された場合、前記撮影画像に対する前記処理の適用が禁止、または、前記処理の適用の程度を減じた前記表示画像を生成して前記表示部に表示させる、表示制御方法を提供する。
【0009】
また、本開示は、車両に設置されたコンピュータである表示制御装置に、車両に設置された1以上の撮像部によって撮像された撮影画像に前記車両の乗員の視認を妨げるための処理を行い、前記車両に設置された表示部に表示させる表示画像を生成するステップと、前記車両の状態を示す情報および前記車両の周辺環境の情報を取得するステップと、取得された前記情報に基づき、前記車両が第1の状況か否かを判定するステップと、前記車両が前記第1の状況であると判定された場合、前記撮影画像に対する前記処理の適用が禁止、または、前記処理の適用の程度を減じた前記表示画像を生成して前記表示部に表示させるステップと、を実行させるための、プログラムを提供する。
【0010】
なお、以上の構成要素の任意の組み合わせ、本開示の表現を方法、装置、システム、記憶媒体、コンピュータプログラムなどの間で変換したものもまた、本開示の態様として有効である。
【発明の効果】
【0011】
本開示によれば、車両または車両周辺の状況に応じて、運転者に車両の周辺環境のより適切な視認を促す画像表示を提供することが可能となる。
【図面の簡単な説明】
【0012】
【
図1】実施の形態1に係る車両の内部構成例を示す図
【
図2】
図1に示すカメラ群のそれぞれの配置例を示す車両上面図
【
図3】
図1に示す表示部の表示画像の構成例を示す図
【
図4】実施の形態1に係るカメラの視野範囲(画角)の切り替え例を説明するための上面図
【
図5】実施の形態1に係る表示部の表示画像の切り替え例を説明するための概念図
【
図6A】実施の形態1に係る表示部の表示画像の切り替え例を説明するための図
【
図6B】実施の形態1に係る表示部の表示画像の切り替え例を説明するための図
【
図7】実施の形態1に係る表示制御装置の処理手順例のフローチャート
【発明を実施するための形態】
【0013】
以下、添付図面を適宜参照しながら、本開示に係る車両用表示制御装置、表示制御方法、およびプログラムを具体的に開示した実施の形態を詳細に説明する。但し、必要以上に詳細な説明は省略する場合がある。例えば、既によく知られた事項の詳細説明、あるいは、実質的に同一の構成に対する重複説明を省略する場合がある。これは、以下の説明が不必要に冗長になることを避け、当業者の理解を容易にするためである。なお、添付図面および以下の説明は、当業者が本開示を十分に理解するために提供されるものであって、これらにより特許請求の範囲に記載の主題を限定することは意図されない。
【0014】
<実施の形態1>
[車両および表示制御装置の構成概要]
図1~
図3を参照して、実施の形態1に係る車両1の構成について説明する。
図1は、実施の形態1に係る車両1の内部構成例を示す図である。
図2は、
図1に示すカメラ群106のそれぞれの配置例を示す車両上面図である。
図3は、
図1に示す表示部112の表示画像例を示す図である。なお、以下の説明において、車両1は、実施の形態1に係る車両用表示制御装置の一例としての表示制御装置100が設置される自車両を示す。
【0015】
図1に示すように、車両1は、実施の形態1に係る表示制御装置100、カメラ群106、ナビゲーション装置111、表示部112、センサ群113、および報知装置114を含んで構成される。カメラ群106およびセンサ群113は、車両1の走行環境に関する各種情報を取得する。
【0016】
実施の形態1に係る車両1は、4つの車輪のそれぞれを有する四輪車であり、前車軸で回転支持される一対の前車輪と、後車軸で回転支持される一対の後車輪と、を有する。また、実施の形態1に係る車両1は、カメラモニタリングシステム(CMS:Camera Monitoring System)を備える。すなわち、車両1は、車両1の後方を確認するためのバックミラー、および車両1の左右方向を確認するためのサイドミラーを備えない、いわゆるミラーレス車両として構成される。ミラーレス車両としての車両1は、撮像部であるカメラ群106によって車両1の後方および左右方向を撮影し、車両1の内部に配置された表示部112が備えるディスプレイ(不図示)に撮影された撮影画像が表示される。これにより、車両1は、運転者に車両1の後方および左右方向を視認可能に構成される。また、カメラ群106は、車両1の内部を撮影する。カメラ群106によって撮影された撮影画像は、車両1の各種制御に用いられる。なお、実施の形態1に係る車両1は、上述したバックミラーおよびサイドミラーを備えてもよい。
【0017】
以下の説明では、CMSとして、従来のバックミラーが設置される位置に1つの表示部112を設置し、その表示部112が備えるディスプレイ上に車両1の周辺に関する撮影画像を画像処理して生成された表示画像を表示する構成を例に挙げて説明する。しかし、この構成に車両1の構成を、限定するものではない。例えば、従来のサイドミラーに対応する複数の表示部112を、車両1の車内の左右前方に設置し、周辺の撮影画像を画像処理して生成された複数の表示画像それぞれを、左右前方に設置された複数の表示部112それぞれに表示するような構成であってもよい。
【0018】
なお、実施の形態1に係る車両1が備える駆動原動機(不図示)の一例は電動モータであるが、これに限定されず内燃機関またはそれの組み合わせであってもよい。駆動原動機は、回転機構を有し、その回転機構を回転駆動させることで車両1に運動エネルギーを付加して車両1を走行させる。また、車両1が備える制動機構(不図示)は、車輪を制動させるための機構であり、例えば変速機およびブレーキ機構などである。制動機構は、車輪の駆動軸(不図示)に減速用のトルク(制動力)を付加することで車両1を加速、減速、または停止させる。
【0019】
図1および
図2に示すように、撮像部および取得部の一例としてのカメラ群106は、右カメラ107、左カメラ108、後方カメラ109、および車内カメラ110を少なくとも含んで構成される。右カメラ107、左カメラ108、後方カメラ109、および車内カメラ110のそれぞれは、例えばCCD(Charge Coupled Device)もしくはCMOS(Complementary Metal-Oxide Semiconductor)などの撮像素子を有して構成されており、所定の撮像対象物を撮像した撮像情報を表示制御装置100に送信する。撮像情報には、撮影画像の他、撮影した際の属性情報(設定情報、日時、場所など)が含まれてよい。
【0020】
右カメラ107および左カメラ108それぞれは、車両1のサイドドアの前端部に車幅方向外方に突設される一対のカメラ支持部によって固定支持される。右カメラ107および左カメラ108のそれぞれは、その光軸が車両1の左右方向でかつ後方、つまり車両1の斜め後ろに向けて配置される。右カメラ107および左カメラ108のそれぞれは、車両1の左右方向に所定角範囲で広がる画角で車両1の左右方向に位置する撮像対象物を撮像する。
【0021】
後方カメラ109は、例えば車両1の後部のバンパよりも上方に設置される。後方カメラ109は、その光軸が車両1の車体の後方の路面を向けて設置され、車両1の後方に向けて所定角範囲で広がる画角で後方に位置する撮像対象物を撮像する。
【0022】
車内カメラ110は、車両1の内部を撮影するためのカメラである。車内カメラ110は、少なくとも車両1の運転者が画角内に位置するように設置され、運転者を含めた車両1の内部を撮影する。
図2の例の場合、車両1は、右ハンドルの構成であり、車内カメラ110が運転席の正面に設置されている。なお、車両1は、左ハンドルの構成を有する車両であってもよいことは言うまでもない。
【0023】
なお、上記のカメラの他、カメラ群106には前方カメラとして機能する複眼カメラ(不図示)がさらに含まれてもよい。複眼カメラは、例えば車両1のフロントガラスの上端部に近接した位置で、車両1の内部に設置される。複眼カメラの光軸は、車両1の前方の路面に向けて配置され、車両1の前方を所定角範囲で広がる画角視野で前方に位置する撮像対象物を撮像する。また、複眼カメラは、複数のカメラセンサ(撮像素子)のそれぞれを備える。そのため、複眼カメラは、例えば三角測量の原理に基づく車両1の前方を撮影した複数の距離画像のそれぞれを生成し、それらの複数の距離画像のそれぞれに基づいて、車両1の前方の障害物を含む撮像対象物を認識する。複眼カメラは、車両1(つまり、複眼カメラの設置位置)と認識された撮像対象物との間の距離を計測する。すなわち、複眼カメラは、異なる撮像位置から同じ物体(撮像対象物)を撮像し、複数のカメラセンサのそれぞれの撮影画像上で結像された結像点が、撮像された物体との間の距離によって変化することを利用して複眼カメラと物体との間の距離および車両1に対する物体の位置を特定することが可能である。
【0024】
このように、実施の形態1に係る車両1には右カメラ107、左カメラ108、後方カメラ109、および車内カメラ110が配置される。車両1は、右カメラ107、左カメラ108、後方カメラ109、および車内カメラ110によって撮像された複数の撮影画像のそれぞれに基づいて、車両1の周囲における走行環境に関する各種情報を取得する。
【0025】
取得部の一例としてのナビゲーション装置111は、例えば車載ディスプレイ装置であって、車両1の走行時または停車時に車両1の現在位置および目的地までの経路を表示し、車両1の運転者をガイドする。ナビゲーション装置111により実行される目的地までの経路のガイドは、地図情報あるいは指示情報などが車載ディスプレイ装置に同時に表示されて行われる。また、ナビゲーション装置111は、運転者または同乗者により入力操作された目的地の情報に基づいて、車両1の進路(つまり、目的地までの経路の少なくとも一部)、車両1の進行方向における道路の幅、車線構成、道路の回転半径、および標高の変化の情報などの道路情報を含む地理情報を取得して、表示制御装置100に送信する。地図情報または地理情報は、例えば、ナビゲーション装置111が備える外部とデータ通信可能に接続された通信装置(不図示)を介して最新のデータが取得される。ナビゲーション装置111は、既存の地図情報または地理情報を、適時取得された最新の地図情報または地理情報に上書きして更新し、ナビゲーション装置111におけるメモリ(不図示)に記録・管理する。
【0026】
表示部の一例としての表示部112は、上述したようにCMSの一部分を構成し、例えばその1つとして車両1の車内に配置されるディスプレイを有して構成され、表示制御装置100により生成された表示画像を表示する。表示部112のディスプレイは、例えばLCD(Liquid Crystal Display)もしくは有機EL(Electro Luminescence)を用いて構成される。表示部112のディスプレイは、例えば、従来の車両においてバックミラーが配置される位置にそのバックミラーの代わりとして車体のルーフから懸下される支持具を介して固定支持されて設置されてよい。
図2に、実施の形態1に係る表示部112のディスプレイの配置位置の例を示す。
【0027】
表示部112は、右カメラ107、左カメラ108、および後方カメラ109によって撮像された撮像情報(撮影画像)のそれぞれを用いて表示制御装置100により生成された画面を一箇所に集約して車両1の運転者に表示する。具体的には、
図3に示すように、表示部112のディスプレイは、従来のバックミラーの形状と同様に、車両幅方向(左右方向)に延在する長尺板状に形成され、その表示画像は左右方向で3分割される。
【0028】
なお、ディスプレイが複数設置される場合、表示部112は、右カメラ107、左カメラ108、および後方カメラ109によって撮像された撮像情報(撮影画像)のそれぞれを用いて表示制御装置100により生成された1枚あるいは複数枚の表示画像を、ディスプレイの数およびディスプレイの設置位置に対応して表示してよい。例えば、表示部112が車両1の前方左右に、従来のサイドミラーのそれぞれの機能を実現するために配置される場合、車両1の前方右側に配置された表示部112は、右カメラ107および後方カメラ109によって撮像された複数の撮影画像のそれぞれを用いて表示制御装置100により生成された表示画像を表示する。同様に、車両1の前方左側に配置された表示部112は、左カメラ108および後方カメラ109によって撮像された複数の撮影画像のそれぞれを用いて表示制御装置100により生成された表示画像を表示する。
【0029】
具体的には、表示部112のディスプレイは、複数の表示領域のそれぞれを有する。ディスプレイの左側の画面301には、左カメラ108にて撮影された撮影画像に基づいて生成された表示画像が表示される。ディスプレイの右側の画面303には右カメラ107にて撮影された撮影画像に基づいて生成された表示画像が表示される。ディスプレイの中央の画面302には後方カメラ109にて撮影された撮影画像に基づいて生成された表示画像が表示される。これら3つの画面301~303のそれぞれには、単に撮影画像それぞれが表示されるのではなく、右カメラ107、左カメラ108、および後方カメラ109の互いの画角の重畳領域が合成されてあたかも1つの画像となるように生成された表示画像が表示されてよい。
【0030】
なお、
図3に示す画面の分割例では、表示部112のディスプレイは、右カメラ107、左カメラ108、および後方カメラ109それぞれに対応して、3つの領域が同じサイズにて分割するように示されているが、これは便宜的に示したものに過ぎない。したがって、右カメラ107、左カメラ108、および後方カメラ109それぞれにて撮影した撮影画像を1つの表示画像に合成した後、その表示画像を、画面301、302、303のサイズに合わせて分割したうえで各画面に表示するような構成であってもよい。また、表示部112のディスプレイは、
図3に示すように画面を分割することなく、右カメラ107、左カメラ108、後方カメラ109それぞれにて撮影された撮影画像を1の表示画像として合成し、その1つの表示画像を表示するような構成であってもよい。このような表示画像の表示(提供)により、車両1の運転者は、車両1の左右方向および後方の状況を容易かつ即時に把握することが可能となる。
【0031】
取得部の一例としてのセンサ群113は、例えば、加速度センサ、ジャイロセンサ、レーダ、気温センサ、車速センサ、音センサ(マイク)、地磁気センサ、雨滴センサ、荷重センサ、浸水センサなどを含んで構成される。レーダは、例えばミリ波レーダ、ソナーレーダ、ライダ(LiDAR:Light Detection and Ranging)を用いて構成される。なお、センサ群113に含まれる各種センサは、後述する状況を検知するために上記以外の種類が含まれてもよく、また、同種のセンサが検知位置に対応して車両1の複数の位置に設けられてよい。
【0032】
加速度センサは、所定の軸方向における車両1の加速度を測定する。ジャイロセンサは、例えば、車両1の所定の軸方向に対する回転を測定し、測定結果を表示制御装置100に送信する。加速度センサによって測定された測定結果は、例えば、車両1の進行方向の変化を検知する際に用いられる。レーダは、超音波もしくはミリ波等の電磁波を限られた角度範囲で走査しながら照射し、その反射光を受光して照射の開始時点と反射光の受光時点との時間差を測定する。これにより、レーダは、車両1と障害物と距離さらには車両1から見た障害物の方向を検知できる。レーダは、測定結果を表示制御装置100に送信する。
【0033】
気温センサは、車両1の車外の気温を測定し、測定結果を表示制御装置100に送信する。気温センサは、例えばサーミスタの電気回路により構成される。サーミスタは、温度によって抵抗値が変化する。車速センサは、車両1の車輪の回転速度を測定し、計測結果を表示制御装置100に送信する。例えば、車速センサは、車輪または駆動軸とともに回転するロータのパルス周期を測定し、その測定したパルス周期(つまり、パルスの単位時間当たりの数)に基づいて車輪の回転速度を測定する。
【0034】
音センサは、マイクにより構成され、車両1の周辺における音を収音または振動を拾って音声信号に変換し、変換された音声信号を表示制御装置100に送信する。雨滴センサは、フロントガラスまたはカメラが備えるレンズなどの検知領域への雨滴の付着度合いを測定し、測定結果を表示制御装置100に送信する。雨滴センサは、例えば、検知領域に向けて発光する発光素子と検知領域によって反射した反射光を受光する受光素子とを有する光学式のセンサであってよい。荷重センサは、車両1の座席に設置され、乗員の有無、または座席における体重移動などを検知し、検知結果を表示制御装置100に送信する。浸水センサは、例えば、車両1の室内空間、エンジンルームなどに設置され、水の侵入を検知し、測定結果を表示制御装置100に送信する。
【0035】
報知部の一例としての報知装置114は、車両1の乗員(例えば、運転者)に対して、各種情報の報知を行う。報知装置114は、例えば、視覚的な報知を行うためのLED(Light Emitting Diode)、聴覚的な報知を行うためのスピーカなどを備える。なお、報知の方法は特に限定するものではなく、上記以外の構成を備えてもよい。また、報知装置114は、表示部112と一体に構成されてよい。
【0036】
実施の形態1に係る表示制御装置100は、画像処理部101、視線検知部102、状況判定部103、画像制御部104、および車内通信部105、を含んで構成される。表示制御装置100は、車両1の内部に備えられ、表示部112および報知装置114の表示制御を行う。表示制御装置100は、カメラ群106、ナビゲーション装置111、およびセンサ群113などから送信された各種のデータおよび検知情報に基づいて、表示部112、および報知装置114を制御する。これにより、実施の形態1に係る車両1の表示制御を実現する。
【0037】
また、実施の形態1に係る表示制御装置100は、ECU(Electronic Control Unit)により構成され、処理部および記憶部を含み、処理部が記憶部に記憶保持される各種プログラムを読み出して実行することにより、後述する各種機能を適宜実現する。処理部は、実施の形態1ではプロセッサであるが、その他、コントローラ、CPU(Central Processing Unit)といった他の用語に読み替えられてもよい。記憶部は、ROM(Read Only Memory)、RAM(Random Access Memory)、HDD(Hard Disk Drive)、またはこれらの組み合わせによって構成され、ECUが有する機能を実現するためのプログラムおよびデータなどの情報を記憶保持する。RAMは、例えば揮発性メモリによって構成される。
【0038】
なお、表示制御装置100は実施の形態1に係る機能を実現すればよく、その他、マイコン、集積回路、ASIC(Application Specific Integrated Circuit)、PLD(Programmable Logic Device)、またはFPGA(Field Programmable Gate Array)などによって構成されてもよい。また、上述したナビゲーション装置111の一部または全部のそれぞれも表示制御装置100と同様に個別のECUによって構成されてよい。あるいは、表示制御装置100、およびナビゲーション装置111が1つのECUによって構成されてもよい。
【0039】
画像処理部101は、カメラ群106から送信された撮像情報を取得してカメラ群106が備える複数のカメラのそれぞれについて、カメラ同士の画角の重畳領域を合成して表示画像を生成する。画像処理部101は、カメラ群106のそれぞれで撮影した複数の撮影画像をあたかも1つの画像に見えるような表示画像を生成し、表示部112に表示できる。この表示により、運転者は、自らの視線を大きく変更することなく車両1の周辺状況を一見して容易かつ即時に把握することが可能である。また、画像処理部101では、視線検知部102、状況判定部103、および画像制御部104などで撮像情報を利用可能にするため、前処理として画像処理が実行される。
【0040】
視線検知部102は、カメラ群106から送信され、車内カメラ110により撮像された撮像情報を取得する。視線検知部102は、取得された撮像情報に含まれる運転者の顔画像に基づき、運転者の眼球移動から運転者の視線を導出し、その視線の向きを特定する。視線検知の方法は、公知の方法を用いてよく、特に限定するものではない。また、視線検知部102は、運転者の顔の向き、顔または頭部の動きといった挙動を併せて検知してよい。
【0041】
状況判定部103は、カメラ群106から送信された撮像情報、および、センサ群113から送信された測定情報を車両1の走行環境の情報として取得する。状況判定部103は、これら取得された撮像情報および測定情報を含む各種情報に基づいて、車両1の周囲における状況を判定する。ここで判定される状況の詳細については後述する。
【0042】
画像処理部の一例としての画像制御部104は、状況判定部103の判定結果に基づいて、表示部112のディスプレイにて表示される表示画像の制御を行う。具体的には、画像処理部101にて生成された表示画像を表示部112に送信し、表示部112のディスプレイに表示させる。また、画像制御部104は、状況判定部103の判定結果に基づいて、カメラ群106の撮影に関する設定を切り替える制御指示を生成して送信する。
【0043】
車内通信部105は、通信ネットワーク(例えばCAN:Controller Area Network)およびEthernet(登録商標)を介するデータの送受信を制御して、車両1の構成部品間を双方向で通信可能に接続する。例えば、車内通信部105は、通信ネットワークを通じてカメラ群106から送信された撮像情報、およびセンサ群113から送信された測定情報を送受信する。そして、車内通信部105は、その受信された撮像情報および測定情報の各種情報を表示制御装置100の画像処理部101、視線検知部102、状況判定部103、および画像制御部104に適宜出力する。表示制御装置100の画像処理部101、視線検知部102、状況判定部103、および画像制御部104は、車内通信部105から出力された測定情報および撮像情報の各種情報に基づいて、車両1の表示に関する各種の処理または制御を行う。
【0044】
なお、
図1の構成では、実施の形態1に係る車両1の構成のみを示したが、その他、車両1の走行制御に関する部位をさらに含んでいてよい。ここでの走行制御としては、自動運転、走行支援に関する制御などが含まれてよい。
【0045】
図4は、実施の形態1に係るカメラ群106の視野範囲(画角)の切り替え例を説明するための上面図である。実施の形態1に係る車両1は、表示制御装置100の画像制御部104による指示に基づき、右カメラ107および左カメラ108による視野範囲の切り替えが行われる。なお、実施の形態1においては、後方カメラ109の視野範囲の切り替えは行われないものとして説明するが、これに限定するものではない。
【0046】
角度401は、表示制御装置100による制御指示に基づいて、視野範囲を広げた時の右カメラ107および左カメラ108の画角を示す。角度402は、表示制御装置100による制御指示に基づいて、視野範囲を狭めた時の右カメラ107および左カメラ108の画角を示す。実施の形態1において右カメラ107および左カメラ108は、通常時には角度402の画角が用いられ、視野範囲拡大時に角度401の画角が用いられるものとして説明する。なお、
図4においては、車両1の左右方向における画角の切り替え例を示したが、車両1の上下方向の画角を併せて切り替えるような構成であるとする。また、実施の形態1では、2つの視野範囲の例を挙げて説明したが、これに限定するものではなく、より多くの段階(例えば、3段階以上)にて視野範囲(画角)が切り替えられるような構成であってもよい。
【0047】
視野範囲が切り替えられた場合、画像処理部101は、切り替え後の各カメラの画角に応じて撮影画像に車両1のより広範囲の状況を表示可能な表示画像を生成するための変換処理を行う。そして、画像処理部101は、通常時よりも車両1の周辺についてより広範囲を視認可能な1つの表示画像として、表示部112のディスプレイに表示させる。視野範囲拡大時には、右カメラ107および左カメラ108の視野範囲(画角)に応じて、後方カメラ109の撮影画像のうちディスプレイに表示される領域を変更し、少なくとも複数のカメラによって撮像された撮影画像同士の画角の重畳領域における倍率が同一または近似するように制御する。なお、右カメラ107および左カメラ108の撮影画像に対しては後方カメラ109の撮影画像よりも横方向の倍率が小さくなるように、表示画像の生成処理が行われてよい。
【0048】
図5は、実施の形態1に係る表示部の表示画像の切り替え例を説明するための図である。
図5の上側は、通常時の表示部112のディスプレイに表示される表示画像の構成を示す。
図3にて説明したような構成により、表示制御装置100は、左画像501、後方画像502、および右画像503を1つのカメラにより撮像されたような1つの画像となるように表示画像を生成し、表示部112に送信して表示させる。また、
図5の下側は、視野範囲拡大時の表示部112のディスプレイに表示される表示画像の構成を示す。右カメラ107および左カメラ108の視野範囲(画角)が広がることにより、表示部112のディスプレイには、車両1の周辺領域の範囲が通常時よりも広い表示画像が表示される。実施の形態1では、表示部112のディスプレイは、通常時の左画像501、後方画像502、および右画像503を含むように、左画像504、後方画像505、および右画像506が表示される。視野範囲拡大時における各画像の生成処理の内容は異なってよい。例えば、通常時においては、表示制御装置100は、右カメラ107、左カメラ108、および後方カメラ109それぞれにて撮影された撮影画像を同じ倍率にて変換した左画像501、後方画像502、および右画像503を生成してよい。一方、視野範囲拡大時では、表示制御装置100は、右カメラ107、および左カメラ108にて撮影された撮影画像を、後方カメラ109にて撮影された撮影画像よりも横方向の倍率が小さくなるように変換した、左画像504、後方画像505、および右画像506を生成してよい。
【0049】
右カメラ107および左カメラ108は、表示制御装置100から送信された制御指示に基づいて視野範囲(画角)を広げることにより、撮像された撮影画像に含まれる周辺の領域の範囲が広くなる。表示制御装置100は、視野範囲(画角)を広げて撮影された撮影画像の全部または一部を切り出すことで、表示部112のディスプレイに表示される表示画像を生成する。なお、表示制御装置100は、撮影画像の切り出しの他、不透過のマスクを撮影画像に適用することで表示範囲を制限し、表示部112のディスプレイに表示される表示画像を生成してもよい。表示制御装置100は、撮影画像から切り出す範囲を広げることで、表示部112のディスプレイに表示される表示画像にて示される車両1の周辺の領域の範囲がより広くなる。また、表示制御装置100は、視野範囲(画角)を広げることで、表示部112のディスプレイに表示しようとする切り出し範囲の自由度を高くできる。以下の説明では、表示部112のディスプレイに表示される表示画像に含まれる車両1の周辺の領域の範囲を広げる処理を視野範囲拡大処理と称する。一方、表示部112のディスプレイに表示される表示画像に含まれる車両1の周辺の領域の範囲を狭める処理を視野範囲低減処理と称する。
【0050】
なお、上述したように、実施の形態1では、表示制御装置100は、後方カメラ109の視野範囲(画角)の切り替えは行われていないものとする。そのため、後方カメラ109は、通常時と視野範囲拡大時とのいずれにおいても、右カメラ107あるいは左カメラ108が撮影を行う視野範囲(画角)に対応した撮影画像が取得できるような視野範囲(画角)で撮影が行われているものとする。
【0051】
図6Aおよび
図6Bは、実施の形態1に係る表示部112の表示画像の切り替え例を説明するための図である。
図6Aおよび
図6Bを参照して、右カメラ107の撮影画像に基づく表示画像の切り替え例を説明する。
図6Aは通常時の表示例を示し、
図6Bは視野範囲拡大時の表示例を示す。通常時に表示される表示画像は、視野範囲拡大時の表示画像の一部分に相当し、視野範囲拡大時の方がより広範囲の表示が行われる。一方、通常時の表示画像は、視野範囲拡大時の表示画像に比べ、所定の部分領域を拡大して表示した構成となる。
【0052】
実施の形態1において、画像制御部104は、右カメラ107、および左カメラ108にて撮影された撮影画像に視認性低減処理を適用した表示画像を生成して表示部112に送信し、生成された表示画像を表示部112のディスプレイに表示させることができる。実施の形態1では、画像制御部104は、一例として、車両1からの距離に応じて、撮影画像に含まれる領域に対して視認性低減処理を行うものとする。視認性低減処理を適用する領域を特定するための距離の閾値は、予め固定値として規定された値を用いてもよいし、車両1の走行速度に応じて切り替えられてもよい。もしくは、そのほかの基準に基づいて、視認性低減処理が適用される領域が決定されてもよい。
【0053】
視認性低減処理は、撮影画像に対して視認性を低下させる処理である。画像制御部104は、視認性低減処理として、例えば、撮影画像の輝度、明度、もしくは彩度の変更、解像度の低減、コントラストの低減、所定のマスクの重畳、鮮明度を低下させるためのフィルタの適用のいずれかもしくはこれらのうちの組み合わせを適用する処理を行う。視認性低減処理は、いわゆるボカシ処理であってもよい。
【0054】
図6Aに示す表示画像では、車両1の一部がオブジェクト601として表示されている。画像制御部104は、車両1からの距離に応じて、領域602と領域603に分割し、通常時は領域603に対して視認性低減処理が適用される。
【0055】
表示画像のうち視認性低減処理を適用された領域は、表示画像が不鮮明となり、運転者が視認しにくくなる。その結果、例えば、表示画像は、表示画像における遠近感の補強(つまり、遠い方の景色領域にボカシ処理を適用)、不要な視覚刺激の低減(例えば、輝度、明度あるいは彩度の変更処理を適用)、および視認性低減処理が適用されていない位置への視線誘導などの効果を得ることができる。
【0056】
表示部112のディスプレイは、運転者に対して各種情報を提供するための表示を含めてよい。例えば、
図6Bに示す表示画像では、表示制御装置100は、表示画像において視野範囲(画角)が拡大している(つまり、通常時よりも車両1の周辺についてより広範囲の状況を示す)状態であることを示すアイコン611、および注目すべき範囲、後述する要注意対象を示すフレーム612などを表示させてよい。そのほか、表示制御装置100は、運転者に視認を促すアイコンなどを表示部112のディスプレイに表示させてよい。例えば、車両1の右側にてより大きなサイレン音を検知した場合、表示制御装置100は、
図3に示す表示部112のディスプレイにおいて右側の画面303の周囲を強調表示させるような構成であってもよい。
【0057】
なお、表示制御装置100によって行われる視野範囲低減処理および視認性低減処理のいずれの処理も、表示部112のディスプレイにおいて、乗員(特に運転者)による周辺状況の広範囲の視認を妨げる(制限する)処理となる。実施の形態1における表示制御装置100は、車両1がおかれた状況に応じて、車両1の周辺について広範囲の視認が可能な表示画像の提示が望ましいか、または一定程度広範囲の視認が制限された表示画像の提示が望ましいかの変化に着目し、乗員に対して提示される表示画像への視認を妨げる処理の適用を切り替える。
【0058】
[車両の状況について]
実施の形態1に係る車両1は、周辺環境または車両1の状態に応じて視野範囲の切り替え、または視認性低減処理の有無の切り替えを行う。ここでは、車両1の状況として、「通常状況」、「要注意状況」、および「危機的状況」の3つを例に挙げて説明する。
【0059】
通常状況は、通常の車両1の走行状態を意味し、車両1が後述するような要注意状況または危機的状況でない状況として扱う。なお、実施の形態1では、車両1が前進していることを前提として説明を行う。そのため、後退時の走行については、以下の説明に係る通常状況の走行状態からは除くものとする。
【0060】
第1の状況の一例としての要注意状況は、車両1の周辺もしくは自車両にて注意を要する事象が発生している状況を示し、カメラ群106にて取得された撮像情報、またはセンサ群113にて取得された各種測定情報に基づいて、表示制御装置100により識別される。より具体的には、表示制御装置100は、カメラ群106から送信された撮像情報、またはセンサ群113から送信された各種測定情報に基づいて、サイレン音、ブレーキ音、または衝突音を検知した場合、要注意対象の接近を検知した場合、緊急地震速報を受信した場合、周辺車両のハザードランプ、ブレーキランプの点灯を検知した場合、後続車両、対向車などのパッシング、クラクションを検知した場合、自車両の急減速、急加速など所定の速度変化を検知した場合、他車両の所定速度以上による接近を検知した場合、所定の走行領域(例えば、合流点、車線が減少する位置)への接近を検知した場合、所定の領域(例えば、駐車場、多差路交差点、複合交差点)への侵入を検知した場合、運転者の所定の挙動(例えば、頭部の移動、座席における体重移動)を検知した場合、所定の走行領域(例えば、高速道路)における所定値以上の舵角による走行を検知した場合、所定の走行領域(例えば、高速道路)におけるUターン走行を検知した場合、もしくは、自車両または他車両の逆走を検知した場合などが挙げられる。
【0061】
上記の要注意対象とは、車両1の運転者が注意を要する対象である。要注意対象は、警察車両、救急車などの緊急車両の他、例えば、自車両が停車または急減速している際の後続車両、自車両に対してパッシングやクラクションを行っている後続車両、対向車など、後方の撮影画像で読み取り可能な道路標識や路面標示(後方の撮影画像で表示が読み取り可能な場合車両1は逆走中である)、または逆走中であることを警告する表示などが挙げられる。要注意対象として判断する基準は、車両1の走行状態などに応じて変動してよい。
【0062】
第2の状況の一例としての危機的状況は、車両1に危機的な事象が発生している、もしくは、発生している可能性が高い状況を示し、カメラ群106にて取得された撮像情報、またはセンサ群113にて取得された各種測定情報に基づいて、表示制御装置100により識別される。より具体的には、表示制御装置100は、自車両にて衝撃を検知した場合、自車両の転覆、横転、もしくは縦回転を検知した場合、走行中の道路の方向と比較して車両1の進行方向が所定の範囲外であることを検知した場合、自車両のスリップ、スピン、駆動輪の空転、もしくは車輪のロックを検知した場合、自車両内への浸水、自車両の入水または落水を検知した場合などが挙げられる。
【0063】
例えば、表示制御装置100は、車両1の四輪の回転数(車輪速)を比較し、回転数の差異が所定の閾値以上であれば、車輪の空転が生じていると判定してよい。表示制御装置100は、加速度センサが示す車両1の減速度と、車輪の回転数(車輪速)にて示される減速度が異なっていた場合には、車両1がスリップしていると判定してよい。表示制御装置100は、地磁気センサによる車体の向きの変化度合いが所定の閾値を超えた場合には、車両1がスピンしていると判定してよい。表示制御装置100は、直線道路を走行している際に加速度センサが所定の閾値以上の横G(Gravity)を検知した場合には、車両1がスピンしていると判定してよい。
【0064】
また、表示制御装置100は、加速度センサが所定の閾値以上の加速度を検知した場合には、車両1にて衝突が発生したと判定してよい。表示制御装置100は、加速度センサが示す加速度の方向がロール軸周りの回転方向である場合には、車両1が横転したと判定してよい。表示制御装置100は、加速度センサが定常的な荷重を車両1の底面方向以外の方向にて検知した場合には、車両1が横転したと判定してよい。表示制御装置100は、浸水センサが水の存在を検知した場合には、車両1の落水、入水、もしくは浸水が発生したと判定してよい。
【0065】
なお、上記の要注意状況と危機的状況の分類は一例であり、これに限定するものではない。また、各場合を判定するために利用する情報は、特に限定するものではなく、上述したカメラ群106またはセンサ群113に含まれる部位にて取得された他の情報、ナビゲーション装置111にて提供される地図情報に加え、他の情報が用いられてもよい。
【0066】
要注意状況の一例として挙げた車両1のUターン走行および逆走について説明する。例えば、車両1が、中央分離帯で分離された反対車線がある道路でUターンする時に、誤って中央分離帯で分離された反対車線に入らずにUターンすると逆走になる。この類の逆走は、運転者が反対車線の存在に気付かなかったり、中央分離帯の向こうに見える反対車線を、走ってきた道路の反対車線ではなく別の道路であると誤認したりすることで生じる。そのため表示制御装置100は、車両1がUターンする時には、運転者が車両1の周辺状況を最大限に確認できるよう、視認性低減処理を禁止もしくは抑制した表示画像を生成して、表示部112のディスプレイに表示させるべきである。
【0067】
運転者が、周辺状況を見落としたり誤認したりして逆走になる類例として、片側2車線の道の左側にある店舗に入った車が店舗を出て引き返す時に、手前の車道の追い越し車線に入る例がある。また、逆走になる類例として、片側一車線道路から中央分離帯のある片側二車線道路に突き当たるT字路で、片側一車線道路と誤認して右折する例、あるいは高速道路のパーキングエリアに入った車が、パーキングエリアを出る時に入る時と同じ道を通って本線に戻って逆走する例がある。
【0068】
高速道路の場合は、ナビゲーション装置111の機能により車両1の位置をGNSS(Global Navigation Satellite System)で追跡して現在走行中の高速道路の位置と照合し、許された方向と逆方向に移動している場合に警告することが可能であると想定される。一方、一般道の場合は、中央分離帯で隔てられた正しい走行位置と、逆走している追い越し車線との位置の違いを判別できず、ナビゲーション装置111では適切な警告ができないことが想定される。GNSSによらない逆走の検知方法としては、車両後方の撮影画像を画像処理し、道路標識、路面標示が読み取れる場合は逆走と判定する方式がある。
【0069】
表示制御装置100は、何らかの手段で自車両の逆走を検知した場合には、視認性低減処理を禁止した表示画像を生成して、表示部112のディスプレイに表示させ、運転者に周辺状況を最大限に見せることが望ましい。これは、逆走が生じた場合に、運転者が周辺状況をより早く把握することで、重大事故になる危険性を抑制することが可能であると想定されるためである。しかし、逆走が生じた後では重大事故になる危険性があるため、逆走が始まる前に予防した方が更によい。そのため、表示制御装置100は、逆走の開始後に警告を与えることは無論であるが、逆走の開始前に、運転者が周辺状況を最大限に確認できるよう、視認性低減処理を禁止もしくは抑制した表示画像を生成して表示部112のディスプレイに表示させ、運転者に周辺状況の見落し、または誤認を抑制して、逆走を予防する方が望ましい。つまり、逆走の引き金となる車両1の動作を検出した時点で、視認性低減処理を禁止もしくは抑制した画像を表示する方がよい。
【0070】
逆走の引き金となる車両1の動作としては、Uターンと、道路外、狭い道から本線道路への進入が挙げられる。表示制御装置100は、車両1が狭い道から本線道路へ進入する場合は、本線道路に進入する角度が直角に近い時に右折してよいと運転者が誤認しやすいため、自車両の進路と本線道路の成す角度が閾値以上であるか否かを判定してよい。表示制御装置100は、車両1が道路外から誤って手前の車道の追い越し車線に入って逆走を始める場合も同様に、道路外から遠い側の車線に入るために侵入角が大きくなるため、自車両の進路と本線道路の成す角度が閾値以上であるか否かを判定してよい。
【0071】
上述したように、要注意状況および危機的状況においては、運転者は、通常時に比べてより広範囲での周辺状況の認知を要することが想定される。言い換えると、運転者により広範囲での周辺の確認を促す場合、表示制御装置100は、視認性低減処理の禁止または解除による表示画像の生成を行う。なお、視認性低減処理の省略(禁止)は、視認性低減処理を適用していた領域(例えば、
図6Aの領域603)全体の視認性低減処理の適用を禁止することに限定するものではない。例えば、表示制御装置100は、当該領域において要注意対象の範囲を特定可能である場合、特定された範囲における視認性低減処理を禁止するような構成であってもよい。
【0072】
撮影画像に対して視認性低減処理の適用を禁止する範囲は、要注意状況または危機的状況の内容に応じて切り替えてもよい。例えば、表示制御装置100は、新たに検知した要注意対象の位置または方向が特定できる場合には、視認性低減処理を適用していた領域のうち、要注意対象の位置または方向に対応する領域の視認性低減処理の適用を禁止した上で表示画像を生成する。それ以外の場合には、撮影画像全体に対する視認性低減処理の適用を禁止した表示画像を生成するような構成であってよい。
【0073】
新たに検知した要注意対象の方向が特定できない場合とは、例えば、表示制御装置100は、緊急車両によるサイレン音を検知したが、緊急車両が備える回転灯の明滅を検知できず、緊急車両が位置する方向が特定できない場合が相当する。この場合、表示制御装置100は、撮影画像全体に対する視認性低減処理の適用を禁止した表示画像を生成して表示部112のディスプレイに表示させる。その後、表示制御装置100は、緊急車両の回転灯の明滅を検知した時点で、回転灯の方向に視線誘導する表示制御(例えば、LEDの点灯、回転灯の方向を示すアイコン、回転灯が検知された領域を示すフレームなど)または回転灯の位置または方向に対応する領域の視認性低減処理の適用を禁止した表示画像の生成処理に切り換えればよい。
【0074】
また、表示制御装置100は、自車両がスリップ/スピン/衝突したこと検知し、車両1の向きが通常時の走行方向と違っている場合は、後続車両が突っ込んでくる(走行してくる)と想定される方向(自車両から見た方向)が特定できない。そのため、表示制御装置100は、撮影画像全体に対する視認性低減処理の適用を禁止した表示画像を生成して、表示部112のディスプレイに表示させることで、可能な限り広範囲を運転者が視認できるように制御することが望ましい。
【0075】
また、例えば、車両1が走行中に合流点、車線減少箇所に接近した場合、側方または後側方から接近してきた他車に割り込まれたり、逆に、自車両が割り込んだりすることが想定される。また、車両1が走行中に合流点、車線減少箇所に接近した場合、合流で速度低下した四輪車の間を、二輪車がすり抜けて追い越すこともある。そのため、運転者は、車両1の後方にも注意を向ける必要がある。したがって、表示制御装置100は、撮影画像全体に対する視認性低減処理の適用を禁止した表示画像を生成し、表示部112のディスプレイに表示させることで、可能な限り広範囲を運転者が視認できるように制御することが望ましい。
【0076】
また、自車両が落水または水没した場合、運転者は、自車から脱出した後の避難ルートを探すことが想定される。そのため、表示制御装置100は、撮影画像全体に対する視認性低減処理の適用を禁止した上で表示画像を生成して表示部112のディスプレイに表示することで、運転者が可能な限り車両1の周辺において広範囲が視認できるように制御することが望ましい。
【0077】
また、レンズ(不図示)の汚れ(着雪、氷結、結露を含む)によりカメラ群106に含まれる各カメラの視界が妨げられている場合を考える。レンズの汚れは、洗浄機能(不図示)により視界を回復できる事がある。但し、表示制御装置100は、汚れた状態のレンズを用いて撮影した撮影画像に視認性低減処理を適用した表示画像を生成する場合、レンズの洗浄が必要なことに運転者が気付くのが遅れたり、気付かなかったりすることがある。特に、汚れで不鮮明になっている部分(領域)に対して、視認性低減処理を適用した場合、運転者は汚れに気付きにくい。例えば、運転者は、右左折のために広範囲を確認する必要がある状況となり、視認性低減処理の適用を禁止した場合に、レンズが汚れて視界が妨げられていることに気付いても、レンズの洗浄が間に合わず、盲目状態で右左折して事故を引き起こす可能性がある。よって、撮影画像の輝度またはコントラストが低下してレンズの汚れが疑われる場合は、表示制御装置100は、撮影画像全体に対する視認性低減処理の適用を禁止した表示画像を生成して表示部112のディスプレイに表示することで、運転者がレンズの汚れを認識できるように制御することが望ましい。
【0078】
また、降雪、霧などの車両1の周辺の視認性が低下する天候条件、または気象条件に起因して撮影画像のコントラストが低下している場合、撮影画像の視覚刺激が下がっている。そのため、表示制御装置100は、撮影画像に視認性低減処理を適用した表示画像を生成する必要は無い。また、降雪あるいは霧の時は、遠方の視認性が低下していることにより遠近感が得られるため、表示制御装置100は、遠近感を得る目的で撮影画像に視認性低減処理を適用した表示画像を生成する必要は無い。
【0079】
また、撮影画像全体が不明瞭であったり、真っ暗であったりして画像の品質が低い場合には、表示制御装置100は、視認性低減処理を適用した表示画像を生成する必要はない。
【0080】
さらに、
図4にて説明した視野範囲拡大処理と、視認性低減処理の禁止制御との併用について説明する。
【0081】
例えば、車両1にて衝突、スリップなどが生じた結果に、自車両の向きが道路の進行方向と大きく違っている場合を想定する。このような場合、CMSにより表示される画像は、道路の進行方向の反対側とは大きく違った方向となりうる。この状況において、自車両に対する脅威は、道路上を走る後続車が突っ込んでくることが挙げられる。このような場合、表示制御装置100は、CMSが自車両の後方の狭い範囲を表示するよりも、自車両の左右を含む広範囲を表示可能な表示画像を生成した方が、運転者が脅威をより早期に認識し、適切に対処できる可能性が高くなる。そのため、このような場合には、表示制御装置100は、視認性低減処理の適用の禁止制御と併せて、視野範囲拡大処理を行った表示画像の生成を行うことが望ましい。
【0082】
また、車両1が転覆し、各カメラの路面に対するピッチ角が通常と大きく違っている場合を想定する。このような場合、表示制御装置100は、CMSにて自車両の後方の狭い範囲を表示する表示画像を表示させると、表示画像に空、路面しか表示されていないことが生じうる。このような場合には、表示制御装置100は、CMSに表示される表示画像に含まれる各カメラの撮影画像の領域を左右方向および上下方向にも広げる(つまり、各カメラによって撮像された撮影画像のうち表示画像として切り出される範囲を広くする)。そして、表示制御装置100は、例えば撮影画像の切り出し範囲外において水平方向から突っ込んでくるような後続車両を含めた表示画像を生成してCMSに表示させる。これにより、運転者は、後続車両の脅威をより早期に認識し、適切に対処できる可能性が高くなる。そのため、このような場合には、表示制御装置100は、視認性低減処理の適用の禁止制御と併せて、視野範囲拡大処理を行った表示画像を生成することが望ましい。
【0083】
また、車両1が岸壁などから水中に転落した場合を想定する。このような場合、車両1は、車両1のエンジンを積んだ側が下がって傾き、車両1は水平な状態にならない。この時、表示制御装置100は、撮影画像のうち車両1の後方の上下左右においてより広範囲を含んで切出した表示画像を生成して送信し、CMSに表示させる。これにより運転者は、岸壁など車両1が来た方向の状況を視認できる。その結果、運転者は、例えば転落などの状況をより早期に把握して適切に避難できる可能性が高くなる。よって、このような場合には、表示制御装置100は、視認性低減処理の適用の禁止と併せて、視野範囲拡大処理を行った表示画像を生成することが望ましい。
【0084】
なお、転覆、横転、または落水に至らなくても、車両1の変形、または衝撃によって、カメラ群106の取り付け角が大きくずれることが起こりうる。このような場合には、表示制御装置100は、各カメラによって撮像された撮影画像のそれぞれの上下左右においてより広範囲を含んで切り出した表示画像を生成して送信し、生成された表示画像をCMSに表示する。これにより、運転者は状況をより早期に把握して適切に対処できる可能性が高くなる。よって、このような場合には、表示制御装置100は、視認性低減処理の適用の禁止と併せて、視野範囲拡大処理を行った表示画像を生成することが望ましい。
【0085】
また、道路の氷結などで、車両1がスピンしている場合を想定する。このような場合、CMSにて表示される表示画像が車両1の回転に従って横方向に流れるため、運転者は、表示画像上に何が表示されているのかを把握しにくくなる。この時、表示制御装置100は、各カメラによって撮像された撮影画像のうち車両1の左右方向を含むより広範囲を含んで切り出して生成した表示画像をCMSに表示し、車両1の左右方向の視野範囲を拡大させる。これにより、表示制御装置100は、CMS上において表示される表示画像の横方向に流れる速さを運転者に遅く感じさせることができる。その結果、運転者は、表示画像上に何が表示されているかを把握しやすくなる。例えば、走行中に道路の進行方向に対して180度近く車両1が回転した場合、CMSは、道路の進行方向の状況を示す表示画像が表示されることとなる。運転者は、その方向に障害物があるか否かを画面から把握できれば、耐衝撃姿勢を取るなど、より適切な対応ができる可能性が高くなる。よって、このような場合には、表示制御装置100は、視認性低減処理の適用の禁止と併せて、視野範囲拡大処理を行った表示画像を生成することが望ましい。
【0086】
[フローチャート]
次に、
図7を参照して、実施の形態1に係る車両1の表示制御装置100の処理のフローチャートについて説明する。
図7は、実施の形態1に係る表示制御装置100の処理手順例のフローチャートである。
【0087】
上述したように表示制御装置100は、ナビゲーション装置111の地図情報、地理情報(道路情報を含む)、カメラ群106の撮像情報、およびセンサ群113の測定情報などを車両1の走行環境に関する各種情報として取得可能であるとする。
【0088】
表示制御装置100は、カメラ群106の撮像情報およびセンサ群113の測定情報に基づく姿勢異常情報および自車異常情報を要求する(S701)。ここでの姿勢異常情報は、上述した危機的状況に該当する旨を示す情報であり、特に車両1の姿勢が異常状態を示す情報である。例えば、姿勢異常情報は、検知したロール角またはピッチ角に基づいて車両1の転覆、横転、縦回転を示す情報、あるいは車両1の進行方向または走行中の道路の方向に対して、検知したヨー角が所定の範囲を超える値を超えることにより異常を示す情報などが挙げられる。なお、姿勢異常情報は上記に限定するものではなく、他の情報であってよい。また、ここでの自車異常情報は、上述した危機的状況に該当する旨を示す情報であり、特に車両1にて異常状態が発生したことを示す情報である。例えば、自車異常情報は、自車両が衝撃を検知したことを示す情報、直前の車速と駆動輪の回転数の不一致で駆動輪の空転を検知したことを示す情報、直前の車速がゼロでなく、かつ全車輪が停止していることを示す情報、車輪の回転数に顕著な不一致があることを示す情報、浸水、入水、または落水を検知したことを示す情報などが挙げられる。なお、自車異常情報は、上記に限定するものではなく、カメラ群106またはセンサ群113にて検知された情報にて特定される車両1の状態を示す他の情報であってよい。なお、以下の説明では、姿勢異常情報および自車異常情報をまとめて異常情報とも称する。
【0089】
表示制御装置100は、ステップS701の工程にて異常情報を取得したか否かを判定する(S702)。異常情報を取得したと判定した場合(S702、YES)、表示制御装置100の処理は、ステップS705へ進む。一方、異常情報を取得しなかったと判定した場合(S702、NO)、表示制御装置100の処理は、ステップS703へ進む。
【0090】
表示制御装置100は、カメラ群106の撮像情報およびセンサ群113の測定結果に基づく周辺注意情報および乗員注意情報を要求する(S703)。ここでの周辺注意情報は、上述した要注意状況に該当する旨を示す情報であり、特に車両1の周辺において運転者の注意を要する事象が発生したことを示す情報である。例えば、周辺注意情報は、サイレン音、ブレーキ音、クラクション、警笛音、衝突音の検知したことを示す情報、緊急車両の回転灯を検知したことを示す情報、ハザードランプの点滅を検知したことを示す情報、走行位置が所定の位置であることを示す情報などが挙げられる。ここでの所定の位置としては、例えば、駐車場、ロータリー、多差路交差点、および複合交差点などが挙げられる。また、乗員注意情報は、上述した要注意状況に該当する旨を示す情報であり、特に乗員による所定の動作が行われたことを示す情報である。例えば、乗員注意情報は、運転者の頭部または眼球が所定の範囲以上の動きを検出したことを示す情報、運転者の体重移動が所定の範囲外へ行われたことを検出したことを示す情報、運転者が周囲を確認しようとする顕著な動きを行ったことを示す情報などが挙げられる。なお、以下の説明では、周辺注意情報および乗員注意情報をまとめて注意情報とも称する。
【0091】
表示制御装置100は、ステップS703の工程にて注意情報を取得したか否かを判定する(S704)。注意情報を取得したと判定した場合(S704、YES)、表示制御装置100の処理は、ステップS706へ進む。一方、注意情報を取得しなかったと判定した場合(S704、NO)、表示制御装置100は、本処理フローを終了する。この場合、車両1は、通常状況であるものとし、表示部112のディスプレイにおける表示は、通常の表示(右カメラ107および左カメラ108の視野範囲(画角)は角度402、視認性低減処理が適用可能)にて実施可能であるとする。
【0092】
表示制御装置100は、右カメラ107、および左カメラ108の視野範囲(画角)が拡大状態となるようにモードの変更を行う(S705)。具体的には、表示制御装置100は、
図4に示すように右カメラ107、および左カメラ108の視野範囲(画角)が角度402から角度401となるように制御する。そして、表示制御装置100は、拡大した視野範囲に基づいて、表示部112のディスプレイに表示される表示画像に含まれる車両1の周囲の範囲がより広くなるように視野範囲拡大処理を行う。
【0093】
表示制御装置100は、視認性低減処理を禁止状態とするように変更を行う(S706)。
【0094】
表示制御装置100は、カメラ群106の撮像情報またはセンサ群113の各種測定結果に基づいて、要注意対象の特定処理を行う(S707)。表示制御装置100は、姿勢異常情報、自車異常情報、または乗員注意情報が取得されていた場合、車両1に接近する物体を要注意対象として撮影画像にて特定する。また、表示制御装置100は、接近する物体を検知したことを示す周辺注意情報が取得されていた場合、車両1に接近する物体を要注意対象として撮影画像にて特定する。表示制御装置100は、所定の音を検知したことを示す周辺注意情報が取得されていた場合、当該所定の音の方向を特定する。表示制御装置100は、ランプ、灯火を検知したことを示す周辺注意情報が取得されていた場合、点滅光の方向を特定する。なお、連続して撮像された撮影画像のそれぞれにおいて、物体の位置が概ね変わらず、時間と共に大きくなる物体について、車両1に接近しているものとして判定してよい。一方、表示制御装置100は、連続して撮像された撮影画像のそれぞれにおいて、時間と共に大きくなると同時に、左右のどちらか一方に移動する物体については、自車両に衝突しないと考えられるため、車両1に接近する物体から除外してもよい。
【0095】
表示制御装置100は、ステップS707の工程にて要注意対象を特定したか否かを判定する(S708)。要注意対象を特定したと判定した場合(S708、YES)、表示制御装置100の処理は、ステップS709へ進む。一方、要注意対象を特定しなかったと判定した場合(S708、NO)、表示制御装置100の処理は、ステップS710へ進む。
【0096】
表示制御装置100は、特定した要注意対象を表示部112のディスプレイにて強調表示処理(例えば、要注意対象をフレームで囲う処理)を行う(S709)。併せて、表示制御装置100は、要注意対象が特定され、車両1に接近している旨を運転者に報知する。例えば、表示制御装置100は、要注意対象が他車両などの物体である場合には、その物体を
図6Bに示すようなフレーム612で囲って強調して表示し、さらにそのフレーム612内の輝度などを変動させてもよい。また、表示制御装置100は、警戒対象が音である場合には、その音が発している方向を表示画像に示すような表示(例えば、矢印などのアイコンによる示唆)を行ってもよいし、音声信号をその音が発している側に設置されたスピーカ(不図示)に送信して音声出力させることにより、運転者にその方向を報知してもよい。
【0097】
表示制御装置100は、カメラ群106の撮像情報およびセンサ群113の測定情報に基づく姿勢異常情報、自車異常情報、周辺注意情報、および乗員注意情報を再度要求する(S710)。ここでの取得処理は、ステップS701およびステップS703の工程と同じであってよい。また、ここでは未取得の情報が取得されるものとする。
【0098】
表示制御装置100は、ステップS710の工程にて異常情報または注意情報を取得したか否かを判定する(S711)。表示制御装置100は、予め設定された所定時間(例えば、10秒)連続して異常情報および注意情報のいずれも再取得しなかったか否かを判定する。表示制御装置100は、所定時間連続して異常情報および注意情報のいずれも取得しない場合には、ステップS701またはステップS703の工程にて取得された情報にて示される異常または注意を要する事象は解消したと判定する。なお、ステップS711の工程では、表示制御装置100は、乗員注意情報についてはすでに一度乗員に注意を促しているため、判定の対象から除いてもよい。異常情報または注意情報を再取得したと判定した場合(S711、YES)、表示制御装置100の処理は、ステップS709にて行った警戒対象の強調表示/報知を終了する(S712)。一方、異常情報および注意情報を取得しなかったと判定した場合(S711、NO)表示制御装置100の処理は、ステップS707へ戻り、以降の処理を繰り返す。
【0099】
表示制御装置100は、ステップS705およびステップS706にて変更したモードを初期化する(S713)。具体的には、表示制御装置100は、
図4に示すように右カメラ107、左カメラ108の視野範囲(画角)が角度401から角度402となるように制御する。また、表示制御装置100は、視認性低減処理の禁止状態を解除する。そして、本処理フローが終了する。
【0100】
以上により、実施の形態1に係る表示制御装置100は、車両1に設置されたカメラ群106の撮影画像に画像処理を行い、表示部112に表示させる画像を生成する画像処理部101と、各種情報を取得するカメラ群106、ナビゲーション装置111、およびセンサ群113と、取得された情報に基づき、車両1が要注意状況であるか否かを判定する状況判定部103とを備える。また、画像制御部104は、表示部112に表示する画像に対し車両1の乗員の視認を妨げるための処理を適用可能である。さらに、画像制御部104は、状況判定部103にて車両1が要注意状況であると判定した場合、撮影画像に対する視認を妨げるための処理の適用を禁止、または、視認を妨げるための処理の適用の程度を減ずる。
【0101】
なお、本実施の形態ではステップS705で視野範囲を拡大し、ステップS706で視認性低減処理を禁止しているが、これを逆にして、ステップS705で視認性低減処理を禁止し、ステップS706で視野範囲を拡大するようにしてもよい。この順序の変更により、異常情報がある時は順序に関らず両方が実施されるので変化は無いが、注意情報がある時は視野範囲拡大だけを行うようになる。これは視認性と視野範囲のどちらを重く見るかによって、つまり設計思想によって適用を変更すべき部分である。
図7とは異なるフローになるが、注意情報がある時は視野範囲拡大と視認性低減処理の制限を限定的に行い、異常情報がある時は視野範囲拡大と視認性低減処理の制限を最大限に行うようにしてもよい。または、異常情報と注意情報を区別せず、どちらであっても視野範囲拡大と視認性低減処理の禁止の両方を行う適用にしてもよい。
【0102】
これにより、表示制御装置100は、車両1の状況に応じて、運転者に周辺環境の適切な視認を促す表示画像を提供することが可能となる。
【0103】
また、状況判定部103はさらに、車両1が危機的状況であるか否かを判定する。画像処理部101は、状況判定部103にて車両1が危機的状況であると判定された場合、撮影画像に対する視認を妨げるための処理の適用を禁止、または、要注意状況であると判定された場合に撮影画像に適用される視認を妨げる処理の程度よりもさらに適用する程度を減ずる。これにより、表示制御装置100は、車両1の状況に応じて、運転者に対して周辺環境のさらに適切な視認を促す表示画像を提供することが可能となる。
【0104】
また、状況判定部103は、車両1に対する衝撃を検知した場合、車両1の転覆、横転、または縦回転を検知した場合、走行中の道路の方向と比較して車両1の進行方向が所定の範囲外であることを検知した場合、車両1のスリップ、スピン、駆動輪の空転、または車輪のロックを検知した場合、車両1の浸水、入水、または落水を検知した場合、の少なくともいずれかの場合に、危機的状況であると判定する。これにより、表示制御装置100は、車両1の具体的な危機的状況に応じて、運転者に対して周辺環境のさらに適切な視認を促す表示画像を提供することが可能となる。
【0105】
また、状況判定部103は、サイレン音、ブレーキ音、クラクション、警笛音、または衝突音を検知した場合、回転灯またはハザードランプ点滅を検知した場合、走行位置が駐車場内、ロータリー内、多差路交差点内、または複合交差点内であることを検知した場合、車内の画像による運転者の頭部または眼球の所定の挙動を検知した場合、運転者の所定の体重移動を検知した場合、の少なくともいずれかの場合に、要注意状況であると判定する。これにより、表示制御装置100は、車両1の具体的な要注意状況に応じて、運転者に対して周辺環境のさらに適切な視認を促す表示画像を提供することが可能となる。
【0106】
また、画像制御部104は、撮影画像に対する視認を妨げるための処理の適用を禁止、または、視認を妨げるための処理の適用の程度を減ずる場合、表示部112に表示する画像において、車両1に接近する物体、または、車両1が接近する物体に視線誘導を行うように表示画像の表示を制御する。これにより、表示制御装置100は、運転者に対して要注意対象をより適切に認識させることが可能となる。
【0107】
また、表示制御装置100は、撮影画像に対する視認を妨げる処理の適用を禁止、または、視認を妨げる処理の適用の程度を減ずる場合、カメラ群106、ナビゲーション装置111、およびセンサ群113にて取得した情報にて特定される車両1に接近する物体、または、車両1が接近する物体の方向を音声にて報知する報知装置114をさらに備える。これにより、表示制御装置100は、運転者に対して要注意対象をより適切に認識させることが可能となる。
【0108】
また、画像制御部104は、視認を妨げる処理として、撮影画像の一部を切り出して表示部112に表示する画像とする処理を行う。これにより、表示制御装置100は、運転者に対してより適切な視野範囲の表示画像を提供することができる。
【0109】
また、画像制御部104は、視認を妨げる処理として、撮影画像に対する輝度、明度、または彩度の変更、解像度の低減、コントラストの低減、またはマスクの重畳のうちの少なくともいずれかの処理を行う。これにより、表示制御装置100は、運転者に対してより適切な視認性を有する表示画像を提供することができる。
【0110】
<その他の実施形態>
また、上述した1以上の実施の形態の機能を実現するためのプログラムおよびアプリケーションを、ネットワークまたは記憶媒体等を用いてシステムまたは装置に供給し、そのシステムまたは装置のコンピュータにおける1つ以上のプロセッサがプログラムを読出し実行する処理でも実現可能である。
【0111】
また、1以上の機能を実現する回路(例えば、ASIC(Application Specific Integrated Circuit)、またはFPGA(Field Programmable Gate Array))によって実現してもよい。
【0112】
以上、図面を参照しながら各種の実施形態について説明したが、本開示は係る例に限定されないことは言うまでもない。当業者であれば、特許請求の範囲に記載された範疇内において、各種の変更例、修正例、置換例、付加例、削除例、均等例に相当し得ることは明らかであり、それらについても当然に本開示の技術的範囲に属するものと了解される。また、発明の趣旨を逸脱しない範囲において、上述した各種の実施形態における各構成要素を任意に組み合わせてもよい。
【産業上の利用可能性】
【0113】
本開示は、車両の状況に応じて、車両または車両周辺の状況に応じて、運転者に車両の周辺環境のより適切な視認を促す表示画像を提供する車両用表示制御装置、表示制御方法、およびプログラムとして有用である。
【符号の説明】
【0114】
1 車両
100 表示制御装置
101 画像処理部
102 視線検知部
103 状況判定部
104 画像制御部
105 車内通信部
106 カメラ群
107 右カメラ
108 左カメラ
109 後方カメラ
110 車内カメラ
111 ナビゲーション装置
112 表示部(ヒューマンマシンインターフェース)
113 センサ群
114 報知装置