(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】
(24)【登録日】2022-05-13
(45)【発行日】2022-05-23
(54)【発明の名称】画像表示装置、画像表示方法
(51)【国際特許分類】
G09G 5/00 20060101AFI20220516BHJP
B60R 1/20 20220101ALI20220516BHJP
G06T 1/00 20060101ALI20220516BHJP
G09G 5/36 20060101ALI20220516BHJP
G09G 5/377 20060101ALI20220516BHJP
H04N 7/18 20060101ALI20220516BHJP
【FI】
G09G5/00 550C
B60R1/20 100
G06T1/00 330B
G09G5/00 520H
G09G5/36 520F
G09G5/36 520M
H04N7/18 J
(21)【出願番号】P 2018179371
(22)【出願日】2018-09-25
【審査請求日】2021-01-08
【前置審査】
(73)【特許権者】
【識別番号】000101732
【氏名又は名称】アルパイン株式会社
(74)【代理人】
【識別番号】100107766
【氏名又は名称】伊東 忠重
(74)【代理人】
【識別番号】100070150
【氏名又は名称】伊東 忠彦
(72)【発明者】
【氏名】谷口 敬大
(72)【発明者】
【氏名】勝山 佳洋
【審査官】武田 悟
(56)【参考文献】
【文献】特開2018-52215(JP,A)
【文献】特開2003-196645(JP,A)
【文献】特開2007-158426(JP,A)
【文献】特開2014-198531(JP,A)
【文献】米国特許出願公開第2014/0114534(US,A1)
(58)【調査した分野】(Int.Cl.,DB名)
G09G 5/00 - 5/42
B60R 1/00 - 1/31
G06T 1/00
H04N 7/18
(57)【特許請求の範囲】
【請求項1】
車両の後方を撮像して撮像画像を生成する撮像装置と、
車両の前方から後方に向かって車室内が撮像された車室内画像を取得する車両内画像取得手段と、
車両の現在の走行速度を検出する速度検出手段と、
前記速度検出手段が検出した前記走行速度が大きいほど前記車室内画像の
中央部を囲む領域の透明度を大きくして前記撮像画像と合成し、合成画像を生成する画像合成手段と、
前記画像合成手段が合成した前記合成画像を表示装置に出力する画像出力手段と、を有し、
前記画像合成手段は、少なくとも前記撮像画像を視認できる透明度が前記走行速度に関わらず確保されている前記車室内画像の中央部の大きさを、前記走行速度が大きいほど大きくすることを特徴とする画像表示装置。
【請求項2】
前記車室内画像の中央部は、少なくとも前記撮像画像を視認できる透明度が前記走行速度に関わらず確保されており、
前記画像合成手段は、前記車室内画像の中央部を囲む領域の透明度を、前記走行速度が大きいほど大きくすることを特徴とする請求項1に記載の画像表示装置。
【請求項3】
前記画像合成手段は、同じ前記走行速度において、前記車室内画像の上方ほど透明度を大きくすることを特徴とする請求項1又は2に記載の画像表示装置。
【請求項4】
前記画像合成手段は、前記車室内画像の上方ほど大きな係数が対応付けられた対応情報を参照して、前記車室内画像の画素の高さに応じて前記係数を決定し、
前記係数を前記車両の現在の走行速度に乗じた値を定数から減じた値に基づいて前記車室内画像の画素の透明度を決定することを特徴とする請求項3に記載の画像表示装置。
【請求項5】
前記車室内画像は、車室内画像の特徴となる輪郭を輪郭線のみで表した画像であることを特徴とする請求項1~4のいずれか1項に記載の画像表示装置。
【請求項6】
前記画像表示装置は、前記車室内画像を撮像する撮像手段を有し、
前記画像合成手段は、前記撮像手段が撮像した前記車室内画像の透明度を前記走行速度が大きいほど大きくして前記撮像画像と合成し、前記合成画像を生成することを特徴とする請求項1~4のいずれか1項に記載の画像表示装置。
【請求項7】
車両の後方を撮像して撮像画像を生成する撮像装置と、
車両の前方から後方に向かって車室内が撮像された車室内画像を取得する車両内画像取得手段と、
車両の後方を走行する後方車両との距離を検出する距離検出手段と、
前記距離検出手段が検出した前記距離が大きいほど前記車室内画像の透明度を大きくして前記撮像画像と合成し、合成画像を生成する画像合成手段と、
前記画像合成手段が合成した前記合成画像を表示装置に出力する画像出力手段と、を有し、
前記距離検出手段が、前記後方車両を検出できない場合、
前記画像合成手段は、前記車室内画像の全体を透明にして前記撮像画像と合成し、合成画像を生成することを特徴とする画像表示装置。
【請求項8】
撮像装置が、車両の後方を撮像して撮像画像を生成するステップと、
車両内画像取得手段が、車両の前方から後方に向かって車室内が撮像された車室内画像を取得するステップと、
速度検出手段が、車両の現在の走行速度を検出するステップと、
画像合成手段が、前記速度検出手段が検出した前記走行速度が大きいほど前記車室内画像の
中央部を囲む領域の透明度を大きくして前記撮像画像と合成し、合成画像を生成するステップと、
画像出力手段が、前記画像合成手段が合成した前記合成画像を表示装置に出力するステップと、を有し、
前記画像合成手段は、少なくとも前記撮像画像を視認できる透明度が前記走行速度に関わらず確保されている前記車室内画像の中央部の大きさを、前記走行速度が大きいほど大きくすることを特徴とする画像表示方法。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、画像表示装置、及び、画像表示方法に関する。
【背景技術】
【0002】
車両のルームミラーをCMS(カメラモニタリングシステム)で置き換える試みがある。CMSは撮像装置で撮像した画像をディスプレイに表示する技術である。CMSが採用されたルームミラーを以下、電子ルームミラーと称する。電子ルームミラーは従来のルームミラーにディスプレイが内蔵された形態となる。従来のルームミラーは、車両の乗員や荷物により後方の視界を遮られる場合があるが、電子ルームミラーは車両後方に設置された撮像装置の映像をルームミラー内のディスプレイに表示するので、後方視界を確保しやすくなる。
【0003】
しかしながら、従来のルームミラーを電子ルームミラーに置き換えると、撮像装置の取り付け位置や焦点距離などの影響で電子ルームミラーに表示される後方物体の大きさがルームミラーに映る従来の後方物体の大きさと異なるため、後方物体との距離感を運転者が掴みにくいことが知られている。この現象は特に自車両の近傍にある後方物体との距離感で生じやすい。
【0004】
この不都合を低減するために、車室内を撮像した車室内画像を用意し、車両後方に設置された撮像装置の画像に車室内画像をはめ込む技術が知られている(例えば、特許文献1参照。)。特許文献1には、車室内画像を半透明にして車両後方に設置された撮像装置が撮像した画像に重ねる技術が開示されている。
【0005】
また、車両後方に設置された撮像装置の画像と共に表示される他の映像の透明度を車速に応じて変更する技術が考案されている(例えば、特許文献2参照。)。特許文献2には、車両後方に設置された撮像装置の画像の下方に、車速が高いほど透明度を低くした自車両のシンボル画像を表示する技術が開示されている。
【先行技術文献】
【特許文献】
【0006】
【文献】特許第5115136号公報
【文献】特開2017-215446号公報
【発明の概要】
【発明が解決しようとする課題】
【0007】
しかしながら、従来の技術では、比較的車速が大きい場合、撮像装置が撮像した画像と共に表示される画像により運転者の視界が狭められるという問題がある。
図1を用いて説明する。
【0008】
図1は、車室内の画像と車両後方に設置された撮像装置が撮像した画像を合成した場合の課題を説明する図である。
図1(a)は車室内画像9と車両後方に設置された撮像装置11が撮像した画像の合成を説明する図である。撮像装置が撮像した画像を以下、撮像画像8という。車室内画像9の中央部は、車室内画像9を少なくとも視認できる程度の透明度が確保されている。例えば、ほぼ完全な透明である。このように透明度が確保されている領域を車室内画像9の透明部31という。透明部31の形状は車両のリアガラスの形状と同じか又は模倣されている。つまり、車室内画像9においてリアガラスの部分は透明部31となっている。
【0009】
これにより、撮像画像8に車室内画像9を重ねると、
図1(b)に示すように、透明部31に撮像画像8が表示され、撮像画像8の周囲に車室内画像9が表示される。
【0010】
図1(b)のように、撮像画像8と車室内画像9が合成して表示されることで、運転者は後方車両の大きさを把握しやすくなり、距離感を掴みやすい。
【0011】
しかし、
図1(c)に示すように、車両が高速で移動している場合、後方車両の大きさと距離感の相関が薄れるため、撮像画像8と車室内画像9を合成して表示されることの恩恵が少なくなる。つまり、車速が大きい場合、運転者は周囲のより広い状況を把握すべきであるが、特許文献1に開示された技術では、車室内画像9は車速に関わらず常に半透明に表示されるため、常に視界を妨げてしまう。また、特許文献2に開示された技術では、車速が高いほど自車両のシンボル画像(車室内画像9に相当)が濃く表示されるため、車速が大きいほど運転者の視界を妨げてしまう。このように、従来の技術では車速が大きい場合に広い視界を確保することが考慮されていなかった。
【0012】
本発明は、上記課題に鑑み、撮像装置が撮像した画像と共に表示される画像により運転者の視界が狭められることを抑制した画像表示装置を提供することを目的とする。
【課題を解決するための手段】
【0013】
本発明は、上記課題に鑑み、車両の後方を撮像して撮像画像を生成する撮像装置と、車両の前方から後方に向かって車室内が撮像された車室内画像を取得する車両内画像取得手段と、車両の現在の走行速度を検出する速度検出手段と、前記速度検出手段が検出した前記走行速度が大きいほど前記車室内画像の中央部を囲む領域の透明度を大きくして前記撮像画像と合成し、合成画像を生成する画像合成手段と、前記画像合成手段が合成した前記合成画像を表示装置に出力する画像出力手段と、を有し、前記画像合成手段は、少なくとも前記撮像画像を視認できる透明度が前記走行速度に関わらず確保されている前記車室内画像の中央部の大きさを、前記走行速度が大きいほど大きくすることを特徴とする画像表示装置を提供する。
【発明の効果】
【0014】
撮像装置が撮像した画像と共に表示される画像により運転者の視界が狭められることを抑制した画像表示装置を提供することができる。
【図面の簡単な説明】
【0015】
【
図1】車室内の画像と車両後方に設置された撮像装置が撮像した画像を合成した場合の課題を説明する図である。
【
図2】電子ルームミラーのディスプレイユニットが表示する撮像画像と車室内画像の表示制御について説明する図の一例である。
【
図4】ディスプレイユニットの概略斜視図の一例である。
【
図5】ディスプレイユニットの概略構造を示す図の一例である。
【
図6】ディスプレイユニットの機能を説明する機能ブロック図の一例である。
【
図8】電子ルームミラーがディスプレイに画像を表示する手順を示すフローチャート図の一例である。
【
図9】ディスプレイユニットの機能を説明する機能ブロック図の一例である(実施例2)。
【
図10】後方車両との距離とα値の関係を説明する図の一例である。
【
図11】電子ルームミラーがディスプレイに画像を表示する手順を示すフローチャート図の一例である(実施例2)。
【
図12】車室内画像の高さ方向の透明度の制御について説明する図の一例である。
【
図13】車室内画像の高さYに応じたα値の決定方法を説明する図の一例である。
【
図14】電子ルームミラーがディスプレイに画像を表示する手順を示すフローチャート図の一例である(実施例3)。
【
図15】車室内画像の輪郭を表す画像について説明する図である。
【
図16】電子ルームミラーが表示する画像の一例を示す図である。
【
図17】ディスプレイユニットの機能を説明する機能ブロック図の一例である(実施例4)。
【
図18】電子ルームミラーがディスプレイに画像を表示する手順を示すフローチャート図の一例である(実施例4)。
【
図19】電子ルームミラーが表示する画像の一例を示す図である。
【
図20】電子ルームミラーがディスプレイに画像を表示する手順を示すフローチャート図の一例である(実施例5)。
【発明を実施するための形態】
【0016】
以下、本発明を実施するための形態の一例として、電子ルームミラーと電子ルームミラーが行う画像表示方法ついて実施例を挙げながら図面を参照しながら説明する。
【実施例1】
【0017】
<本実施形態の電子ルームミラーの概略>
図2は、本実施形態の電子ルームミラーのディスプレイユニット12が表示する撮像画像8と車室内画像9の表示制御について説明する図の一例である。本実施形態の電子ルームミラーは、車速に合わせて車室内画像9の透明度を変更する。
車速 : 中~大 → 透明度 低
車速 : 小~中 → 透明度 大
図2(a)~
図2(c)は車速が大きいほど、車室内画像9の透明度が大きくなる様子を示している。すなわち、
図2(a)では車速が小さいので車室内画像9はほぼ不透明である。
図2(b)では車速が中程度なので車室内画像9は半透明である。
図2(c)では車速が大きいので車室内画像9はほぼ透明である。
【0018】
したがって、低速では車室内画像9がはっきりと表示されるので、運転者は後方車両との距離感を掴みやすく、車速が大きくなるほど車室内画像9が透明になるので、後方の視界を確保しやすくなる。
【0019】
<用語について>
画像表示装置は、車両に設置された撮像装置11を用いて撮像された車両の周辺の画像データを表示装置に表示する装置である。車室内画像と合成した撮像画像が表示される装置として電子ルームミラーを例にして説明するが、撮像装置11と表示装置は車両などの移動体に搭載されていればよい。撮像画像と何らかの画像が合成されればよく、画像表示装置は電子ルームミラーには限られない。なお、電子ルームミラーは電子バックミラー、電子ミラーなどと呼ばれてもよい。
【0020】
撮像装置は車両以外の移動体に搭載されてよい。例えば、自動二輪車、自転車等の軽車両、車椅子、ロボットなどに搭載されてよい。
【0021】
<構成例>
図3は、電子ルームミラー10の搭載例を示す図である。
図3(a)は車室内に設置されるディスプレイユニット12の一例を示し、
図3(b)は撮像装置11とディスプレイユニット12の配置例を示す図である。
【0022】
図3(a)に示すように、電子ルームミラー10のディスプレイユニット12は従来のルームミラーと同様に、運転席と助手席の間でありフロントガラス内側の上部に固定されている。ディスプレイユニット12の搭載位置については法令上の明確な指定がない国や地域があり、図示する位置は一例に過ぎない。また、法令上の明確な指定がある国や地域では法令に従った位置に搭載される。ディスプレイユニット12の数は1つに限らず、複数のディスプレイユニット12が搭載されてよい。
【0023】
撮像装置11は車両101の後方に配置されている。従来のルームミラーに入射する光の方向に近い光軸方向で撮像装置11が撮像することが好ましい。従来のルームミラーはフロントガラスの上方に配置され車両の後方を鏡に映し出すものであるため、撮像装置11も車両の上方に配置されることが好ましい場合が多い。例えば、ルーフやルーフスポイラーに設置してよい。撮像装置11の水平方向に関しては車両の中央又は中央付近であることが好ましい。しかし、右端又は左端に設置されても後方の撮像は可能である。右端又は左端に設置された撮像装置11の画像を中央付近で撮像したように画像処理してもよい。
【0024】
なお、撮像装置11の場所は、車種ごとに限らず個別の車両ごとに異なってよい。例えば、ナンバープレートの周辺、車両メーカエンブレムの周辺、リアバンパーの適切な場所などでもよい。
【0025】
また、従来から車両101にはバックカメラが搭載される場合がある。バックカメラは車庫入れなど、車を後進させる際(運転者がシフトレバーをリバースに操作した場合)に、後方の映像を映し出すカメラで、撮像された画像がカーナビゲーションシステムなどのディスプレイに映し出されることが多い。本実施形態では、このバックカメラの画像をディスプレイユニット12で表示してもよいし、電子ルームミラー10の撮像装置11が撮像した画像をバックカメラの画像としてカーナビゲーションシステムなどのディスプレイに表示してもよい。
【0026】
また、魚眼カメラなど比較的、広角なカメラを電子ルームミラー10とバックカメラで兼用してしようしてもよい。すなわち、広角カメラが撮像した画像の一部をディスプレイユニット12で表示し、別の一部(重複してよい)をカーナビゲーションシステムなどのディスプレイで表示する。
【0027】
なお、撮像装置11からディスプレイユニット12までの配線は天井又は床付近などに這わせればよく、配線長や取り回しを考慮して決定される。また、撮像装置11が例えばディスプレイユニット12まで無線通信で画像を送信してもよい。
【0028】
また、ディスプレイユニット12には車速センサ19が接続されている。車速センサ19とは、車両の現在の走行速度を割り出すために、車輪の回転速度に応じたパルス信号を出力するセンサである。車速センサ19が検出する走行速度は車室内画像9と撮像画像8の合成に利用される。
【0029】
また、ディスプレイユニット12には、電源ライン、リバース信号線、ウィンカー信号線、及び、他の撮像装置(サイドカメラ、バックカメラなど)のビデオ入力などが接続されていてよいが、
図3では図示が省略されている。例えば、リバース信号線からの信号によりバックカメラの画像をディスプレイユニット12が表示したり、ウィンカー信号線からの信号によりサイドカメラの画像をディスプレイユニット12が表示したりすることが可能になる。
【0030】
図4は、ディスプレイユニット12の概略斜視図の一例である。ディスプレイユニット12は、ディスプレイ15、4つの操作ボタン1~4、及び、レバー17を有している。なお、配線のインタフェースなどは省略されている。図示する構成の他、ドライブレコーダのようにメモリカードの挿入部を有していてもよく、形状、ボタン数、ボタンの位置などは一例に過ぎない。
【0031】
ディスプレイ15は液晶ディスプレイや有機ELディスプレイなどのフラットパネルディスプレイである。リアプロジェクション型でもよい。後述するようにディスプレイ15の前面(室内側)にはハーフミラーがディスプレイ15と重畳するように固定されている。
【0032】
4つの操作ボタン1~4は電子ルームミラー10の設定画面を表示し、ユーザからの操作を受け付けるための入力装置である。簡易的な設定画面を表示する機能としてOSD(On Screen Display)が知られている。ただし、どのようにユーザインタフェースを表示するかはディスプレイユニット12のリソースに応じて変更されうる。例えば、後述する基板14にOS(Operation System)がインストールされている場合、OSがサポートする画面表示の機能を利用できる。
【0033】
また、ディスプレイ15の周辺(図では上部)に車室内撮像装置18が設置されている。車室内撮像装置18はディスプレイユニット12(車両前方)から車両後方の車室内を撮像する撮像装置である。車室内撮像装置18はリアルタイムに車室内を撮像できるので、リアリティが高い車室内画像9をディスプレイ15に表示できる。一方、車室の後席等に乗員がいる場合、視界を遮るおそれもあるので、必ずしもリアルタイムに撮像する必要はなく、車室内撮像装置18は乗員の乗車前に1枚以上の車室内画像9を撮像しておけばよい。乗員の乗車前に1枚以上の車室内画像9を撮像しておくという点では、運転者等が可搬型のカメラで1枚以上の車室内画像9を撮像しておいてもよい。この車室内画像9を記憶したメモリカードがディスプレイユニット12に装着されれば、ディスプレイユニット12が車室内画像9を撮像画像8と合成できる。また、カーナビゲーションシステムがサーバから車室内画像9をダウンロードしてもよい。したがって、車室内撮像装置18はなくてもよい。
【0034】
各操作ボタンの機能は例えば次のようになる。
操作ボタン1:メニュー表示(輝度、コントラスト、色温度、言語、表示領域の設定など)
操作ボタン2:ある方向の選択(右移動、上移動、右回転、増大など)
操作ボタン3:別の方向の選択(左移動、下移動、左回転、減少など)
操作ボタン4:決定
運転者は輝度、コントラスト、色温度、言語などの設定、撮像画像の回転、及び、表示領域の移動などを行うことができる。
【0035】
レバー17は電子ルームミラー10の電源ONと電源OFFを切り替えるための入力装置である。電源ONの場合、ディスプレイユニット12は撮像装置11が撮像した画像を出力し、電源OFF場合、ディスプレイユニット12は撮像装置11が撮像した画像を表示しない。このため、ハーフミラーにより外光が反射され、ディスプレイユニット12は通常の鏡と同様に室内を映し出す鏡となる。
図5を用いて説明する。
【0036】
図5は、ディスプレイユニット12の概略構造を示す図の一例である。
図5(a)は電源ONの状態のハーフミラー16の作用を示し、
図5(b)は電源OFFの状態のハーフミラー16の作用を示す。例えば、ハーフミラー16の透明度がT%(例えば50~95%)であるとすると、電源ONの状態では、ディスプレイ15のT%の光がハーフミラー16を通過する。T%の光しか通過しなくてもディスプレイ15の明るさは車室内より明るいので、運転者はディスプレイ15が表示する画像を目視できる。
【0037】
電源OFFの状態ではディスプレイ15が光を照射しないので、ハーフミラーの内側は暗くなっている。ハーフミラーの内側よりも車室内の光の方が強いため、ハーフミラー16が反射する光の強度も大きい。この結果、ハーフミラー16の内側からの透過光は、車室側の明るい反射光にかきけされてしまうため、車室側から鏡のように見える。したがって、運転者はレバーを前方又は後方に揺動する操作でディスプレイ15により表示される画像と通常の鏡による室内光の反射とを簡単に切り替えることができる。例えば、西日などで車両後方からの入射光が強く、ディスプレイ15の視認性が低下した際などに、通常のミラーに切り替えるといった使い方が可能になる。
【0038】
なお、
図5に示すように、ディスプレイユニット12は基板14を有しており、この基板14により撮像装置11の制御と撮像画像8から表示領域を切り取るなどの画像処理を行っている。基板14は、一般的なコンピュータの機能を有し、CPU、RAM、ROM、フラッシュメモリ、及び、入出力I/Fなどを有している。
【0039】
<ディスプレイユニットの機能>
図6を用いてディスプレイユニット12が有する機能について説明する。
図6はディスプレイユニット12の機能を説明する機能ブロック図の一例である。ディスプレイユニット12は、画像取得部21、車室内画像取得部22、画像切り取り部23、画像合成部24、画像出力部25、及び、車速取得部30を有する。これらディスプレイユニット12が有する各機能は、ディスプレイユニット12の基板14が有するCPUがプログラムを実行して実現させる機能又は手段である。
【0040】
なお、基板14は撮像装置11の一般的な制御を行っている。例えば、基板14は画像が適正な明るさとなるようにシャッター速度及び感度(ゲイン量)の少なくとも一方を制御する露出制御を行う。また、オートホワイトバランス制御(AWB制御)と呼ばれる、R、G,Bのそれぞれの比率を同程度にすることで、光源の色温度により被写体の白色部及び彩色部の色彩が変化してしまうことを低減する処理を行う。また、撮像素子が適切なタイミングで撮像動作を行えるように駆動信号を生成したり、A/D変換器にクロック信号を供給したりする。この他、ノイズを除去したり、エッジ成分のみを抽出・強調して画像のシャープネスを調整したりする処理なども行ってよい。
【0041】
画像取得部21は、撮像装置11から所定のフレームレートで順次、画像データを取得する。このように画像は動画であることが想定されるが、画像は静止画でもよい。本実施形態ではこの画像データを撮像画像8と称する。
【0042】
車室内画像取得部22は、車室内画像記憶部26に記憶されている車室内画像9、又は、車室内撮像装置18が撮像した車室内画像9を取得する。車室内画像記憶部26は上記のメモリカード又は基板14が有するフラッシュメモリなどである。
【0043】
画像切り取り部23は、撮像画像8から表示領域を切り取る。表示領域とは、画像データのうちディスプレイ15が表示する領域である。これは撮像画像のサイズ(画素数)の方がディスプレイ15のサイズ(画素数)よりも大きいために行われる。表示領域はディスプレイ15のサイズとほぼ同じサイズの画像データである。切り取る処理をトリミングという場合がある。
【0044】
車速取得部30は車速センサ19から現在の走行速度(車速)を周期的又は繰り返し取得する。車速センサ19は車速を推測できればよく、車速取得部30は、例えばGPS(Global Positioning System)が検出する位置情報の差分から車速を推定してもよい。
【0045】
画像合成部24は、車速に応じて車室内画像9と撮像画像8を合成する。すなわち、車速が大きいほど、車室内画像9の透明度を大きくして撮像画像8と合成する。車室内画像9と撮像画像8とが合成された画像を合成画像という。
【0046】
画像出力部25は合成画像をディスプレイ15に送出してディスプレイ15に表示させる。
【0047】
<合成処理について>
図7を用いて合成処理の一例を説明する。
図7(a)は車室内画像9と撮像画像8の合成を説明する図の一例である。手前側に車室内画像9、その奥に撮像画像8の順に重ねて合成される。車室内画像9は、常に透明な透明部31と、透明部31を囲む領域として、車速に応じてほぼ完全な不透明からほぼ完全な透明まで変化する透明度可変部32とを有する。
【0048】
車室内画像9が予め用意される場合、車両のリアガラスの形状を模倣した透明部31が予め車室内画像9の中央部に設定されている。すなわち、リアガラスの形状に対応する画素のα値に0が設定されている。α値については次述する。車室内画像9がリアルタイムに撮像される場合、車両のリアガラスの形状に対応する画素が予め決まっており、ディスプレイユニット12が車室内画像9のうちリアガラスの形状に対応する画素のα値を0に設定する。車両のリアガラスの形状に対応する画素は、運転者などが任意に設定しておいてもよいし、リアガラスの輝度が他よりも明るいことを利用して車室内画像取得部22が設定してもよい。
【0049】
車室内画像9が予め用意される場合、車室内画像9はディスプレイユニット12が搭載される車両と同一の車両で撮像された画像であることが好ましいが、一般的な車両の車室内画像9が用意されてもよい。
【0050】
本実施形態では透明度可変部32の透明度をアルファ値(α値)で表す。α値はコンピュータが扱う画像データにおいて、各画素に設定された透明度情報である。α値は、0が完全な透明(無色)を表し、255(8bitの場合)が完全な不透明を表す。したがって、透明部31のα値は常に0であり(あるいは透明と見なせる程度の小さい値)、透明度可変部32のα値は255~0の値を取る。
【0051】
図7(b)は、透明度可変部32のα値と車速との関係の一例を示す。車速V=Vmaxで透明度可変部32が完全な透明になるように、α値が設定されている。Vmaxは距離感よりも視野の広さが優先される車速として予め設定されていてよい。また、運転者が所望の車速(Vmax)をOSDから設定してもよい。例えば、Vmax=30km/h~80km/hとすることが考えられるが、この値には限られない。
【0052】
図7(b)に示すように車速が決まればα値が一意に決まるため、画像合成部24は撮像画像8と車室内画像9とを合成できる。車速とα値の関係は直線110でもよいし、曲線120でもよいし、曲線130でもよい。また、テーブルにより対応付けられていてもよい。また、車速Vmaxで車室内画像9を完全に透明にするのでなく、わずかに不透明にしておくこともできる。同様に、車速0で車室内画像9を完全に不透明にするのでなく、わずかに透明にしておくこともできる。
【0053】
画像合成部24は、以下のように撮像画像8と車室内画像9とを合成する。このようにα値を用いて合成することをアルファブレンドという。合成は画素ごとに行われる。
・α=0の場合
撮像画像8の画素のみを描画
・α=255の場合
車室内画像9のみを描画
・α=254~1の場合
下式で算出した画素値を描画
「{α×車室内画像9の画素値+(255-α)×撮像画像8の画素値}/256」 …(1)
撮像画像8と車室内画像9とを合成することで、車速が大きくなると徐々に車室内画像9が透けて、撮像画像8が見えるようになる。
【0054】
<動作手順>
図8は、電子ルームミラーがディスプレイ15に画像を表示する手順を示すフローチャート図の一例である。
図8の処理は電子ルームミラーの電源がONの間、繰り返し実行される。
【0055】
まず、画像取得部21は、撮像装置11から画像データ(撮像画像8)を取得する(S10)。撮像装置11からは次々と撮像画像8が送信される。
【0056】
画像切り取り部23は撮像画像8から表示領域を切り取る(S20)。表示領域の切り取りは合成後に行われてもよい。この場合、撮像画像8から表示領域を特定する処理が必要になるため合成前に表示領域を切り取っておくことが好しい場合が多い。
【0057】
次に、車室内画像取得部22は車室内画像9を取得する(S30)。車室内画像9は車室内画像記憶部26に記憶されていても、車室内撮像装置18が撮像したものでもよい。車室内画像記憶部26に記憶されている車室内画像9にはα値が0の領域(透明部31)と255~0まで変化する領域(透明度可変部32)が予め設定されている。車室内撮像装置18が撮像した場合は、車室内画像取得部22が車室内画像9の画素ごとに、α値が0の領域と255~0まで変化する領域とを車室内画像9に設定する。
【0058】
車速取得部30は現在の車速を車速センサ19から取得する(S40)。車速の変動が車室内画像9の透明度に直接影響して、車室内画像9を点滅させないため車速の移動平均を使ってもよい。
【0059】
次に、画像合成部24は車速に応じて透明度可変部32のα値を決定する(S50)。透明部31のα値は0(一定)である。
【0060】
画像合成部24はα値で撮像画像8と車室内画像9を合成して合成画像を生成する(S60)。画像出力部25は合成画像をディスプレイ15に表示する(S70)。
【0061】
<まとめ>
以上説明したように、本実施形態の電子ルームミラー10は、低速では車室内画像9をはっきりと表示するので運転者は後方車両との距離感を掴みやすく、車速が大きくなるほど車室内画像9を透明にするので、後方の視界を確保しやすくなる。
【実施例2】
【0062】
実施例1では車速に応じて透明度を変更したが、本実施例では後方車両との距離に応じて透明度を変更する電子ルームミラーについて説明する。一般に、後方車両との距離が短い場合は車速も小さく、後方車両との距離が長い場合は車速も大きいという関係があるため、後方車両との距離を車速の代わりに使用できる。
【0063】
<ディスプレイユニットの機能について>
図9は、本実施例のディスプレイユニット12の機能を説明する機能ブロック図の一例である。
図9の説明に関し、
図6において同一の符号を付した構成要素は同様の機能を果たすので、主に本実施例の主要な構成要素についてのみ説明する場合がある。
【0064】
本実施例のディスプレイユニット12は距離推定部27を有し、車速取得部30を有さない。したがって、車速センサ19とディスプレイユニット12を接続する配線が不要になる。距離推定部27は、撮像画像8から後方車両を認識して、後方車両がどの位の大きさで撮像されているかにより後方車両との距離を推定する。後方車両の認識には例えば機械学習が利用され、予め機械学習により後方車両を識別する識別モデルが生成されているものとする。機械学習によりおよその車種の判断も可能である。距離推定部27は車種ごとに、後方車両の撮像サイズ(撮像画像における後方車両の外接矩形の対角線の長さ、面積など)と距離が対応付けられたテーブルを有しており、テーブルを参照することで後方車両との距離を推定する。距離情報は画像合成部24に送出される。
【0065】
なお、このような画像処理により後方車両との距離を推定するのでなく、ミリ波レーダやLidar(Light Detection and Ranging、Laser Imaging Detection and Ranging)により後方車両との距離を測定してもよい。
【0066】
画像合成部24は距離情報に応じてα値を決定し、撮像画像8と車室内画像9とを合成する。その他の機能は実施例1と同様でよい。
【0067】
<後方車両との距離に応じたα値の決定>
図10は後方車両との距離とα値の関係を説明する図の一例である。車速L=Lmaxで透明度可変部32が完全な透明になるように、α値が設定されている。Lmaxは距離感よりも視野の広さが優先される距離として予め設定されていてよい。また、運転者が所望の距離をOSDから設定してもよい。例えば、Lmax=30m~50mとすることが考えられるが、この値には限られない。
【0068】
図10に示すように距離が決まればα値が一意に決まるため、画像合成部24は撮像画像8と車室内画像9とを合成できる。距離とα値の関係は直線110でもよいし、曲線120でもよいし、曲線130でもよい。
【0069】
なお、距離推定部27が後方車両を検出できない場合(後方車両が存在しない場合)、運転者が距離感を掴む必要性が低いので、車室内画像9の透明度可変部32は透明でよい。これにより、後方車両が検出されない場合は後方視界を確保しやすくなる。
【0070】
<動作手順>
図11は、電子ルームミラーがディスプレイ15に画像を表示する手順を示すフローチャート図の一例である。なお、
図11の説明では主に
図8との相違を説明する。ステップS110~130の処理は
図8のステップS10~S30と同様でよい。
【0071】
ステップS130で車室内画像9を取得すると、距離推定部27が撮像画像8を画像処理して後方車両との距離を推定する(S140)。なお、距離の検出は周期的に又は繰り返し実行されている。距離推定部27は、後方車両を検出した場合は後方車両との距離を画像合成部24に送出し、後方車両を検出しなかった場合はその旨を画像合成部24に送出する。
【0072】
画像合成部24は後方車両との距離を推定するプロセスで、後方車両を検出できたか否かを距離推定部27からの通知に基づいて判断する(S150)。
【0073】
ステップS150の判断がNoの場合、画像合成部24は透明度可変部32のα値を0に設定する(S190)。これにより、透明度可変部32が透明になり後方車両が検出されない場合は後方視界を確保しやすくなる。
【0074】
ステップS150の判断がYesの場合、画像合成部24は後方車両との距離に応じて、透明度可変部32のα値を決定する(S160)。ステップS170~180の処理は
図8のステップS60~S70と同様でよい。
【0075】
<まとめ>
本実施例では車速センサ19を用いることなく画像処理により、実施例1と同様の効果を奏することができる。
【実施例3】
【0076】
実施例1,2では車室内画像9の全体を車速又は後方車両との距離に応じて透明にしたが、距離感を掴むためには車室内画像9の下側が表示されていることが有効であると知られている。そこで、本実施例では車室内画像9の高さ方向に応じて透明度を制御できる電子ルームミラーについて説明する。
【0077】
<本実施例の電子ルームミラーの表示例>
図12は、車室内画像9の高さ方向の透明度の制御について説明する図の一例である。
図12(a)は車速が低(例えば0)の場合の車室内画像9の透明度を、
図12(b)は車速が中程度の場合の車室内画像9の透明度を、
図12(c)は車速が大(Vmax)の場合の車室内画像9の透明度をそれぞれ示している。作図の都合上、
図12では網掛けの濃度で透明度可変部32の透明度を示している。すなわち、網掛けの濃度が濃いことは透明度が低いこと(α値が大きい)を意味し、網掛けの濃度が薄いことは透明度が高いこと(α値が小さい)を意味する。
【0078】
図12(a)の車室内画像9では、車速が低いため、透明度可変部32の透明度は高さ方向で変化がなく低くなっている(例えば、車速0でα値が255)。
【0079】
図12(b)の車室内画像9では、車速が中程度のため透明度可変部32の透明度が、上方ほど高く下方ほど小さくなっている。例えば、上端でα値が小、中断でα値が中、下端でα値が大となっている。このように同じ車速において、車室内画像9の上方ほど、透明度可変部32の透明度が大きくなっている。
【0080】
図12(c)の車室内画像9では、車速が大きい(Vmax)ため透明度可変部32の上方はほぼ透明であり、下方にのみ車室内画像9が残っている。また、下方の車室内画像9の透明度は
図12(b)の下方よりも高くなっている(α値が小)。
【0081】
このように車速に対し、車室内画像9の上方を下方よりも大きな透明度で表示することで、車室内画像9の下方のみが強調され、距離感を掴みやすいまま、視界を確保できるようになる。
【0082】
<車室内画像の高さYに応じたα値の決定方法>
次に、
図13を用いて車室内画像9の高さYに応じたα値の決定方法について説明する。なお、本実施例ではα値の決定方法が異なるだけなので、
図6の機能ブロック図を援用して説明する。
【0083】
図13は、車室内画像9の高さYに応じたα値の決定方法を説明する図の一例である。
図13(a)は車室内画像9の上下方向と高さYの関係を示している。
図13(a)に示すように、車室内画像9の上方向にいくほど高さYが大きくなるものとする。
【0084】
図13(b)はα値を求める係数Kと高さYの関係の一例を示す図である。
図13(b)の直線150に示すように、係数K(絶対値)は高さYが大きくなるほど大きくなる。なお、Y=0でK=0にならないように係数Kは切片を持っている。なお、
図13(b)は対応情報の一例である。
【0085】
図13(c)は高さYに応じた車速Vとα値の関係を説明する図の一例である。本実施例ではα値が以下のように算出される。
α = 255-K×V
すなわち、定数255から係数Kと車速Vの積を減じた値がα値である。このように係数Kは車速Vとα値の比例係数である。Kが大きいほど車速が大きくなった場合にα値が小さくなる。Kは高さYが大きいほど大きいので、車速が大きくなると車室内画像9の上方ほど早く透明になる。
【0086】
係数Kは、例えば高さY=Ymaxの場合に、車速V=Vmaxでα値が0になるように設定される(K=255/Vmax)。こうすると、車室内画像9の上方は車速V=Vmaxで完全に透明になるが、車室内画像9の下方は車速V=Vmaxでも完全には透明にならないので、車速が大きくても運転者が距離感を掴みやすくなる。
【0087】
なお、
図13(b)に示すように、高さYに対し係数Kをどのように変化させるかにより、車室内画像9の上方と下方で透明感を調整できる。例えば、車室内画像9の上方をより低い車速で透明にしたければ高さYに対し係数Kが大きい点線170のように係数Kを求めればよい。車室内画像9の下方をより高い車速で不透明にしたければ高さYに対し係数Kが小さい点線160のように係数Kを求めればよい。この他、係数Kはどのように決定してもよい。
【0088】
<動作手順>
図14は、電子ルームミラーがディスプレイ15に画像を表示する手順を示すフローチャート図の一例である。なお、
図14の説明では、主に
図8との相違を説明する。
図14ではステップS50-2の処理が
図8と異なっている。
【0089】
ステップS50-2において、画像合成部24は高さYごとに係数Kを決定する。なお、高さYが同じならば係数Kは定数なので(変化しないので)予め決定しておいてよい。次に、画像合成部24は透明度可変部32の画素ごとに、この画素の高さYにより決定した係数Kと車速Vに基づいてα値を算出する。以降の処理は
図8と同様でよい。
【0090】
<まとめ>
以上説明したように、本実施例の電子ルームミラーは、同じ車速において、車室内画像9の上方の透明度を下方よりも大きくすることで、車室内画像9の下方を表示したまま上方を透明にできるので、距離感を掴むことと視界の確保を両立しやすくなる。
【0091】
なお、本実施例では車速に対し透明度を決定したが、後方車両との距離に対して透明度を決定してもよい。
【実施例4】
【0092】
実施例1~3では車室内画像9と撮像画像8とを合成したが、本実施例では車室内画像9の輪郭を表す画像と撮像画像8を合成する電子ルームミラー10について説明する。
【0093】
<車室内画像の輪郭を表す画像>
図15を用いて車室内画像9の輪郭を表す画像について説明する。車室内画像9の輪郭を表す画像を以下、輪郭画像という。
図15(a)は車室内画像9を示し、
図15(b)は輪郭画像を示す。図示するように、輪郭画像は車室内画像9の特徴となる輪郭を白黒の輪郭線180のみで表した画像である。
【0094】
例えば、リアガラスの位置と形状、その他、車室内の構造を表す特徴的な形状のみが輪郭線180で描画された輪郭画像である。輪郭線180がない部分は常に透明となる。すなわち本実施例では輪郭線180がない部分が透明部31である。また、輪郭線180は車速に応じて透明度が変更されるため、本実施例の透明度可変部32である。したがって、運転者は輪郭画像により後方車両との距離感を掴むことができ、輪郭画像の透明な部分により視界を確保できる。
【0095】
<電子ルームミラーが表示する画像の一例>
図16は、本実施形態の電子ルームミラーが表示する画像の一例を示す。本実施例の電子ルームミラーは、実施例1と同様に車速に合わせて輪郭画像の透明度を変更する。輪郭線以外の部分(透明部31)は常に透明である。
車速 : 中~大 → 透明度 低
車速 : 小~中 → 透明度 大
図16(a)~
図16(c)は車速が大きいほど、輪郭画像の透明度が大きくなる様子を示している。すなわち、
図16(a)では車速が小さいので輪郭画像の輪郭線180はほぼ不透明である。
図16(b)では車速が中程度なので輪郭画像の輪郭線180は半透明である。
図16(c)では車速が大きいので車室内画像9はほぼ透明である。
【0096】
したがって、車室内画像9のようなリアリティは少なくなるが、後方の視界の確保を優先しながら、後方車両との距離感を掴みやすくなる。
【0097】
なお、透明度を制御するのでなく輪郭画像を切り替えてもよい。予め、輪郭線180の太さが異なるいくつかの輪郭画像を用意しておき、画像合成部24は車速に応じて輪郭画像を切り替える。この場合、アルファブレンドで合成するのでなく、単に、撮像画像8に輪郭画像を重ねればよい。したがって、合成処理が不要になり、基板14のCPUの処理負荷を低減できる。
【0098】
<ディスプレイユニットの機能について>
図17は、本実施例のディスプレイユニット12の機能を説明する機能ブロック図の一例である。なお、
図17の説明では主に
図6との相違を説明する。
図17のディスプレイユニット12は輪郭画像記憶部29を有している。輪郭画像記憶部29は上記の輪郭画像を予め記憶している。ただし、実施例1のように車室内撮像装置18が撮像した車室内画像9から車室内画像取得部22が輪郭画像を生成してもよい。輪郭線180は画像のエッジに対応するのでエッジを検出する等の処理で輪郭画像を動的に生成することができる。
【0099】
画像合成部24は輪郭画像の輪郭線のα値を実施例1と同様に、車速に応じて変更する。すなわち、
図7(b)のように車速に応じてα値を決定し、撮像画像8のうち輪郭線180と重なる画素について、式(1)を用いて輪郭線180と合成する。その他の機能は
図6と同様でよい。
【0100】
<動作手順>
図18は、電子ルームミラーがディスプレイ15に画像を表示する手順を示すフローチャート図の一例である。なお、
図18の説明では、主に
図8との相違を説明する。
図18ではステップS30、S60で車室内画像9が輪郭画像に変更されている。これ以外の処理は
図8と同様でよい。
【0101】
<まとめ>
以上説明したように、本実施例の電子ルームミラーは、車室内画像9の輪郭を表す輪郭画像を撮像画像8と合成するので、後方の視界の確保を優先しながら、後方車両との距離感を掴みやすくなる。
【0102】
なお、本実施例では車速に対し透明度を決定したが、後方車両との距離に対して透明度決定してもよい。
【0103】
また、本実施例に実施例3を適用してもよい。すなわち、車速が大きくなった場合に、輪郭画像の上方を下方よりも早く透明にする。こうすることで、後方車両との距離感を掴みやすいまま、更に視界を確保しやすくなる。
【実施例5】
【0104】
本実施例では車室内画像9の透明部31を車速に応じて大きくする電子ルームミラーについて説明する。
【0105】
<電子ルームミラーが表示する画像の一例>
図19は、本実施形態の電子ルームミラーが表示する画像の一例を示す。本実施例の電子ルームミラーは、車速が大きいほど常に透明な透明部31を大きくする。
車速 : 中~大 → 透明部31 小
車速 : 小~中 → 透明部31 大
図19(a)~
図19(c)は車速が大きいほど、透明部31が大きくなる様子を示している。すなわち、
図19(a)では車速が小さいので透明部31は小さい。
図19(b)では車速が中程度なので透明部31がやや大きくなっている。
図19(c)では車速が大きいので透明部31が最大になる。
【0106】
したがって、車速が小さい場合には車室内画像9が大きな面積を占めるので後方車両との距離を掴みやすく、車速が大きい場合には車室内画像9が占める面積が少なくなるので後方の視界を確保しやすくなる。
【0107】
<動作手順>
図20は、電子ルームミラーがディスプレイ15に画像を表示する手順を示すフローチャート図の一例である。なお、
図20の説明では、主に
図8との相違を説明する。
図20ではステップS50-3で、画像合成部24が車速に応じて車室内画像9の透明部31を広狭する。
【0108】
車室内画像9の透明部31を広狭する方法としては以下のような方法がある。
(i) 車室内画像9の中心を基準に拡大又は縮小する。車速に応じて拡大率が決まっており、ディスプレイのサイズを超えた部分は削除される。
(ii) 車室内画像9の透明度可変部32の画素に対応付けて閾値が設定されたテーブルが用意される。画素ごとにこのテーブルの閾値と現在の車速を比較して、車速が閾値よりも大きければ画素のα値を0に、車速が閾値以下であれば画素のα値を255にする。この場合、透明度可変部32の画素のうち透明部31に近い画素ほど小さい閾値が設定されている。
(iii) 透明部31の大きさが異なる複数の車室内画像9を用意しておき、車速に応じて撮像画像8と合成する車室内画像9を切り替える。
【0109】
このような方法により、車速が大きいほど透明部31を大きくすることができる。これ以外の処理は
図8と同様でよい。
【0110】
<まとめ>
本実施例によれば、車速に応じて透明部31を大きくすることで、車速が小さい場合には後方車両との距離感を掴みやすく、車速が大きい場合には後方の視界を確保しやすくなる。
【0111】
なお、本実施例では車速に対し透明度を決定したが、後方車両との距離に対して透明部31の大きさを決定してもよい。
【0112】
また、実施例1と組み合わせて、車速が大きいほど透明度可変部32の透明度を変更してもよい。更に、実施例3と組み合わせてもよい。
【0113】
<その他の適用例>
以上、本発明を実施するための最良の形態について実施例を用いて説明したが、本発明はこうした実施例に何等限定されるものではなく、本発明の要旨を逸脱しない範囲内において種々の変形及び置換を加えることができる。
【0114】
例えば、
図6などの構成例は、電子ルームミラー10による処理の理解を容易にするために、主な機能に応じて分割したものである。処理単位の分割の仕方や名称によって本願発明が制限されることはない。電子ルームミラー10の処理は、処理内容に応じて更に多くの処理単位に分割することもできる。また、1つの処理単位が更に多くの処理を含むように分割することもできる。
【0115】
なお、車室内画像取得部22は車両内画像取得手段の一例であり、車速取得部30は速度検出手段の一例であり、画像合成部24は画像合成手段の一例であり、画像出力部25は画像出力手段の一例であり、距離推定部27は距離検出手段の一例であり、車室内撮像装置18は撮像手段の一例である。
【符号の説明】
【0116】
10 電子ルームミラー
11 撮像装置
12 ディスプレイユニット
14 基板
15 ディスプレイ