特許 7172932 付着物検出装置および付着物検出方法

(19)【発行国】日本国特許庁(JP)

(12)【公報種別】特許公報(B2)

(11)【特許番号】

(24)【登録日】2022-11-08

(45)【発行日】2022-11-16

(54)【発明の名称】付着物検出装置および付着物検出方法

(51)【国際特許分類】

   G01N 21/17 20060101AFI20221109BHJP

   G06T 7/00 20170101ALI20221109BHJP

【ＦＩ】

G01N21/17 E

G06T7/00 300F

【請求項の数】 4

(21)【出願番号】P 2019172212

(22)【出願日】2019-09-20

(65)【公開番号】P2021050935

(43)【公開日】2021-04-01

【審査請求日】2021-12-14

(73)【特許権者】

【識別番号】000237592

【氏名又は名称】株式会社デンソーテン

(74)【代理人】

【識別番号】100106149

【弁理士】

【氏名又は名称】矢作 和行

(74)【代理人】

【識別番号】100121991

【弁理士】

【氏名又は名称】野々部 泰平

(74)【代理人】

【識別番号】100145595

【弁理士】

【氏名又は名称】久保 貴則

(72)【発明者】

【氏名】山本 大輔

(72)【発明者】

【氏名】朝山 信徳

(72)【発明者】

【氏名】池田 修久

(72)【発明者】

【氏名】谷 泰司

(72)【発明者】

【氏名】河野 貴

(72)【発明者】

【氏名】塩田 大輔

(72)【発明者】

【氏名】上林 輝彦

【審査官】清水 靖記

(56)【参考文献】

【文献】特開２０１９－０２９９０１（ＪＰ，Ａ）

【文献】国際公開第２０１９／００３３１４（ＷＯ，Ａ１）

【文献】特開２００８－０１９７９５（ＪＰ，Ａ）

【文献】特開２０１９－１２８７９８（ＪＰ，Ａ）

(58)【調査した分野】(Int.Cl.，ＤＢ名)

Ｇ０１Ｎ ２１／００ － ２１／９５８

Ｇ０１Ｂ １１／００ － １１／３０

Ｇ０６Ｔ ７／００ － ７／９０

Ｈ０４Ｎ ５／２２２ － ５／２５７

Ｇ０８Ｇ １／００ － ９９／００

(57)【特許請求の範囲】

【請求項1】

撮像画像に含まれる所定数の画素からなる単位領域毎に、各画素のエッジベクトルに基づく領域特徴量を算出する算出部と、
前記領域特徴量に基づいて付着物によるカメラの埋もれ状態を仮判定するとともに、直近分を含む所定数の過去分の仮判定履歴において所定の確定条件が成立した場合に、該当する前記埋もれ状態を確定結果として確定させる判定部と、
前記カメラが搭載された車両がイグニッションオンされた場合に、該イグニッションオンの直後に、前記確定条件の成立が早まるように所定の初期値を前記仮判定履歴に設定する設定部と
を備え、
前記設定部は、
前記車両が停車中である場合に、前記確定条件の成立が早まるように該確定条件を緩和することを特徴とする付着物検出装置。

【請求項2】

前記設定部は、
前記イグニッションオンの直後に前記初期値を設定する場合に、前記仮判定履歴の直近分から過去分へ向けて所定個数分、前記初期値を設定する
ことを特徴とする請求項１に記載の付着物検出装置。

【請求項3】

前記設定部は、
前記イグニッションオンの直後に前記初期値を設定する場合に、前記カメラが埋もれていることを示すフラグ値を前記初期値として設定する
ことを特徴とする請求項１または２に記載の付着物検出装置。

【請求項4】

撮像画像に含まれる所定数の画素からなる単位領域毎に、各画素のエッジベクトルに基づく領域特徴量を算出する算出工程と、
前記領域特徴量に基づいて付着物によるカメラの埋もれ状態を仮判定するとともに、直近分を含む所定数の過去分の仮判定履歴において所定の確定条件が成立した場合に、該当する前記埋もれ状態を確定結果として確定させる判定工程と、
前記カメラが搭載された車両がイグニッションオンされた場合に、該イグニッションオンの直後に、前記確定条件の成立が早まるように所定の初期値を前記仮判定履歴に設定し、前記車両が停車中である場合に、前記確定条件の成立が早まるように該確定条件を緩和する設定工程と、
を含むことを特徴とする付着物検出方法。

【発明の詳細な説明】

【技術分野】

【0001】

開示の実施形態は、付着物検出装置および付着物検出方法に関する。

【背景技術】

【0002】

従来、車両等に搭載されたカメラによって撮像された撮像画像に基づいて、カメラレンズに付着した付着物を検出する付着物検出装置が知られている。付着物検出装置には、たとえば、時系列の撮像画像の差分に基づいて付着物を検出するものがある（たとえば、特許文献１参照）。

【先行技術文献】

【特許文献】

【0003】

【文献】特開２０１２－０３８０４８号公報

【発明の概要】

【発明が解決しようとする課題】

【0004】

しかしながら、上述した従来技術には、付着物の検出性能を向上させるうえで、さらなる改善の余地がある。

【0005】

実施形態の一態様は、上記に鑑みてなされたものであって、付着物の検出性能を向上させることができる付着物検出装置および付着物検出方法を提供することを目的とする。

【課題を解決するための手段】

【0006】

実施形態の一態様に係る付着物検出装置は、算出部と、判定部と、設定部とを備える。前記算出部は、撮像画像に含まれる所定数の画素からなる単位領域毎に、各画素のエッジベクトルに基づく領域特徴量を算出する。前記判定部は、前記領域特徴量に基づいて付着物によるカメラの埋もれ状態を仮判定するとともに、直近分を含む所定数の過去分の仮判定履歴において所定の確定条件が成立した場合に、該当する前記埋もれ状態を確定結果として確定させる。前記設定部は、前記カメラが搭載された車両がイグニッションオンされた場合に、該イグニッションオンの直後に、前記確定条件の成立が早まるように所定の初期値を前記仮判定履歴に設定する。前記設定部は、前記車両が停車中である場合に、前記確定条件の成立が早まるように該確定条件を緩和する。

【発明の効果】

【0007】

実施形態の一態様によれば、付着物の検出性能を向上させることができる。

【図面の簡単な説明】

【0008】

【図1A】図１Ａは、実施形態に係る付着物検出方法の概要説明図（その１）である。

【図1B】図１Ｂは、実施形態に係る付着物検出方法の概要説明図（その２）である。

【図1C】図１Ｃは、実施形態に係る付着物検出方法の概要説明図（その３）である。

【図1D】図１Ｄは、実施形態に係る付着物検出方法の概要説明図（その４）である。

【図1E】図１Ｅは、実施形態に係る付着物検出方法の概要説明図（その５）である。

【図2】図２は、実施形態に係る付着物検出装置のブロック図である。

【図3】図３は、算出部の処理内容を示す図（その１）である。

【図4】図４は、算出部の処理内容を示す図（その２）である。

【図5】図５は、算出部の処理内容を示す図（その３）である。

【図6】図６は、算出部の処理内容を示す図（その４）である。

【図7】図７は、算出部の処理内容を示す図（その５）である。

【図8】図８は、算出部の処理内容を示す図（その６）である。

【図9】図９は、算出部の処理内容を示す図（その７）である。

【図10】図１０は、算出部の処理内容を示す図（その８）である。

【図11】図１１は、算出部の処理内容を示す図（その９）である。

【図12】図１２は、算出部の処理内容を示す図（その１０）である。

【図13】図１３は、設定部の処理内容を示す図である。

【図14】図１４は、実施形態に係る付着物検出装置が実行する処理手順を示すフローチャートである。

【発明を実施するための形態】

【0009】

以下、添付図面を参照して、本願の開示する付着物検出装置および付着物検出方法の実施形態を詳細に説明する。なお、以下に示す実施形態によりこの発明が限定されるものではない。

【0010】

まず、図１Ａ～図１Ｅを用いて、実施形態に係る付着物検出方法の概要について説明する。図１Ａ～図１Ｅは、実施形態に係る付着物検出方法の概要説明図（その１）～（その５）である。

【0011】

図１Ａに示すように、たとえば、車載カメラのレンズ表面に雪が付着した状態で撮像された撮像画像Ｉがあるものとする。以下では、実施形態に係る付着物検出方法を適用した付着物検出装置１（図２参照）が、かかる撮像画像Ｉの各画素の輝度勾配に関する特徴量（以下、「エッジ特徴量」と言う場合がある）に基づいて、雪によって車載カメラのレンズの大半が埋もれている状態（以下、「埋もれ状態」と言う場合がある）を検出する場合を例に挙げる。

【0012】

具体的には、図１Ａに示すように、付着物検出装置１は、撮像画像Ｉの所定の注目領域であるＲＯＩ（Region Of Interest）から算出される各画素ＰＸのエッジ特徴量に基づいて、雪の付着状態を検出する。エッジ特徴量は、角度特徴量および強度特徴量を含む。角度特徴量は、各画素ＰＸのエッジベクトル（輝度勾配）の向き（以下、「エッジ向き」と言う場合がある）である。強度特徴量は、各画素ＰＸのエッジベクトルの大きさ（以下、「エッジ強度」と言う場合がある）である。

【0013】

なお、付着物検出装置１は、画像処理における処理負荷を軽減するため、かかるエッジ特徴量を、所定数の画素ＰＸからなるセル１００単位で取り扱う。これにより、画像処理における処理負荷の軽減に資することができる。また、ＲＯＩを構成する単位領域ＵＡは、かかるセル１００の集まりである。

【0014】

つづいて、付着物検出装置１は、かかるセル１００毎に算出したエッジ特徴量に基づいて、単位領域ＵＡ毎の特徴量である領域特徴量を算出する。領域特徴量は、言わば単位領域ＵＡ毎におけるエッジ特徴量の統計的特徴量であり、たとえばペア領域の個数およびペア領域のエッジ強度の総和を含む。ここで、ペア領域は、隣接し、エッジ向きが互いに逆向きであるセル１００の組み合わせである。

【0015】

そのうえで、付着物検出装置１は、かかる領域特徴量に基づいて、単位領域ＵＡ毎に付着物の付着状態を判定する。そして、付着物検出装置１は、その単位領域ＵＡ毎の判定結果に基づき、レンズの埋もれ状態を判定する。

【0016】

より具体的には、図１Ａに示すように、付着物検出装置１は、撮像画像Ｉにおいて、所定数のセル１００が上下方向および左右方向に配列された所定の領域である単位領域ＵＡ毎に、まずセル１００単位でエッジ特徴量を算出する（ステップＳ１）。エッジ特徴量は、上述したようにエッジ向きおよびエッジ強度である。

【0017】

セル１００のエッジ向きは、図１Ａに示すように、所定の角度範囲で角度分類される各画素ＰＸのベクトル向きの代表値であり、図１Ａの例では、９０°の角度範囲毎に区切られた上下左右のいずれかで決定される。また、セル１００のエッジ強度は、各画素ＰＸのベクトル強度の代表値である。なお、かかるセル１００単位のエッジ特徴量の算出処理については、図３および図４を用いて後述する。

【0018】

つづいて、付着物検出装置１は、ステップＳ１で算出したセル１００毎のエッジ特徴量に基づいて、単位領域ＵＡ毎の領域特徴量を算出する（ステップＳ２）。そして、付着物検出装置１は、算出した領域特徴量に基づいて単位領域ＵＡ毎の付着状態（「付着」か「非付着」か）を判定する（ステップＳ３）。

【0019】

そして、たとえばＲＯＩ内の付着率が一定以上になれば、付着物検出装置１は、車載カメラのレンズの大半が埋もれている「埋もれ」であると仮判定する（ステップＳ４）。ここで、付着率は、たとえばＲＯＩ内において「付着」と判定された単位領域ＵＡである付着箇所の面積率である。

【0020】

また、「仮判定」とは、付着物検出装置１は、１フレーム分の処理結果だけによらず、過去の判定履歴の内容を加味した総合的な判断によって判定結果を確定させるため、ステップＳ４の段階では「仮判定」と表現している。

【0021】

ここで、かかる仮判定の内容は、図１Ｂに示すように、仮判定フラグによって示される。仮判定フラグは、値としてたとえば「１」、「－１」、「０」をとりうる。

【0022】

値「１」の意味は、「埋もれ」である。かかる「１」は、たとえば付着率が４０％以上である場合に設定される。また、値「－１」の意味は、「埋もれでない」である。かかる「－１」は、たとえば付着率が３０％未満である場合に設定される。また、値「０」の意味は、「キープ」である。かかる「０」は、たとえば付着率が上記以外である場合または判定困難である場合等に設定される。

【0023】

そして、付着物検出装置１は、図１Ｃに示すように、処理中の撮像画像Ｉ_ｎを直近分として含む、所定数（ここでは、たとえば９）の過去フレーム分の仮判定フラグの履歴に基づいて埋もれ状態を確定させる。かかる仮判定フラグの履歴を「判定履歴情報」と言う。

【0024】

図１Ｄに示すように、付着物検出装置１は、かかる判定履歴情報の履歴９個中、５個以上が「１」であれば、埋もれ状態を「埋もれ」と確定させ、仮判定フラグに対する本判定フラグである「埋もれフラグ」をオンする。

【0025】

また、付着物検出装置１は、かかる履歴９個中、５個以上が「－１」であれば、埋もれ状態を「埋もれでない」と確定させ、「埋もれフラグ」をオフする。なお、以下では、かかる履歴９個中、５個以上の成立条件を、「５／９条件」と言う場合がある。

【0026】

このため、埋もれ状態は、通常は「埋もれ」の仮判定から最短でも５フレームは状態の安定を待った後に、埋もれフラグをオンする動作となる。これにより、埋もれ状態の判定結果が不安定化するのを防止することができる。

【0027】

ただし、車両のＩＧ（イグニッション）オンに際しては、たとえば駐車中だった車両に対する積雪等の影響が考えられるため、通常よりもレスポンスよく埋もれ状態の確定結果が通知されることが好ましい。

【0028】

そこで、図１Ｅに示すように、実施形態に係る付着物検出方法では、車両のＩＧオンに際して、判定履歴情報の直近分から過去分へ向けて所定個数分（ここでは、２個）、初期値として「１」を設定することとした。

【0029】

すると、図１Ｅに示すように、これにより、ＩＧオン後、最短３フレーム目で「埋もれ」との確定が可能となる。すなわち、実施形態に係る付着物検出方法では、車両のＩＧオンに際しては、埋もれ状態の判定結果の確定条件の成立が早まるように、判定履歴情報に所定の初期値を設定することとした。

【0030】

これにより、実施形態に係る付着物検出方法によれば、付着物の検出性能を向上させることができる。

【0031】

なお、図１Ｅに示した例では、判定履歴情報に対する初期値の設定によって、埋もれ状態の判定結果の確定条件の成立を早めることとしたが、確定条件そのもの（たとえば、前述の５／９条件）を緩和することとしてもよい。かかる例については、図１３を用いて後述する。

【0032】

以下、上述した実施形態に係る付着物検出方法を適用した付着物検出装置１の構成例について、さらに具体的に説明する。

【0033】

図２は、実施形態に係る付着物検出装置１のブロック図である。なお、図２では、本実施形態の特徴を説明するために必要な構成要素のみを機能ブロックで表しており、一般的な構成要素についての記載を省略している。

【0034】

換言すれば、図２に図示される各構成要素は機能概念的なものであり、必ずしも物理的に図示の如く構成されていることを要しない。たとえば、各機能ブロックの分散・統合の具体的形態は図示のものに限られず、その全部または一部を、各種の負荷や使用状況などに応じて、任意の単位で機能的または物理的に分散・統合して構成することが可能である。

【0035】

図２に示すように、実施形態に係る付着物検出装置１は、記憶部２と、制御部３とを備える。また、付着物検出装置１は、カメラ１０と、ＩＧスイッチ２０と、車速センサ３０と、各種機器５０とに接続される。

【0036】

なお、図２では、付着物検出装置１が、カメラ１０、ＩＧスイッチ２０、車速センサ３０および各種機器５０とは別体で構成される場合を示したが、これに限らず、カメラ１０、ＩＧスイッチ２０、車速センサ３０および各種機器５０の少なくともいずれかと一体に構成されてもよい。

【0037】

カメラ１０は、たとえば、魚眼レンズ等のレンズと、ＣＣＤ（Charge Coupled Device）やＣＭＯＳ（Complementary Metal Oxide Semiconductor）などの撮像素子とを備えた車載カメラである。カメラ１０は、たとえば、車両の前後方、側方の様子を撮像可能な位置にそれぞれ設けられ、撮像された撮像画像Ｉを付着物検出装置１へ出力する。

【0038】

ＩＧスイッチ２０は、イグニッションスイッチである。車速センサ３０は、車両の車速を検出するセンサである。

【0039】

各種機器５０は、付着物検出装置１の検出結果を取得して、車両の各種制御を行う機器である。各種機器５０は、たとえば、カメラ１０のレンズに付着物が付着していることやユーザへの付着物の拭き取り指示を通知する表示装置、流体や気体等をレンズへ向けて噴射して付着物を除去する除去装置、および、自動運転等を制御する車両制御装置などを含む。

【0040】

記憶部２は、たとえば、ＲＡＭ（Random Access Memory）、フラッシュメモリ（Flash Memory）等の半導体メモリ素子、または、ハードディスク、光ディスク等の記憶装置によって実現され、図２の例では、判定履歴情報２１と、テンプレート情報２２と、閾値情報２３とを記憶する。

【0041】

判定履歴情報２１は、図１Ｄおよび図１Ｅに示した判定履歴情報に該当する。テンプレート情報２２は、後述する算出部３３が実行するマッチング処理において用いられるテンプレートに関する情報である。閾値情報２３は、後述する判定部３４が実行する判定処理において用いられる閾値に関する情報である。

【0042】

制御部３は、コントローラ（controller）であり、たとえば、ＣＰＵ（Central Processing Unit）やＭＰＵ（Micro Processing Unit）等によって、付着物検出装置１内部の記憶デバイスに記憶されている各種プログラムがＲＡＭを作業領域として実行されることにより実現される。また、制御部３は、たとえば、ＡＳＩＣ（Application Specific Integrated Circuit）やＦＰＧＡ（Field Programmable Gate Array）等の集積回路により実現することができる。

【0043】

制御部３は、取得部３１と、設定部３２と、算出部３３と、判定部３４とを有し、以下に説明する情報処理の機能や作用を実現または実行する。

【0044】

取得部３１は、カメラ１０で撮像された撮像画像Ｉを取得する。取得部３１は、取得した撮像画像Ｉにおける各画素を輝度に応じて白から黒までの各階調に変換するグレースケール化処理を行うとともに、各画素について平滑化処理を行って、算出部３３へ出力する。なお、平滑化処理にはたとえば、平均化フィルタや、ガウシアンフィルタ等の任意の平滑化フィルタを用いることができる。また、グレースケール化処理や、平滑化処理については、省略されてもよい。

【0045】

また、取得部３１は、ＩＧスイッチ２０または車速センサ３０からの入力信号に基づいて、車両の状況を取得する。また、取得部３１は、取得した車両の状況を設定部３２へ通知する。

【0046】

設定部３２は、取得部３１から通知された車両の状況に基づいて、判定履歴情報２１を設定する。設定部３２は、車両の状況としてたとえばＩＧスイッチ２０を介してＩＧオンが通知された場合に、判定履歴情報２１の直近分から過去分へ向けて所定個数分（図１Ｅに示した例では２個）、初期値として「１」を設定する。

【0047】

なお、設定部３２は、車両の状況としてたとえば車速センサ３０を介して車両の停車中が通知された場合に、埋もれ状態の確定条件の成立が早まるように、前述の５／９条件を緩和させることもできる。後述する判定部３４は、かかる設定部３２による条件の変更に応じつつ、埋もれ状態を確定させることとなる。かかる点については、図１３を用いた説明で後述する。

【0048】

算出部３３は、取得部３１から取得した撮像画像Ｉのセル１００毎に、エッジ特徴量を算出する。ここで、図３および図４を用いて、算出部３３によるエッジ特徴量の算出処理について具体的に説明する。

【0049】

図３および図４は、算出部３３の処理内容を示す図（その１）および（その２）である。図３に示すように、算出部３３は、まず、各画素ＰＸにつきエッジ検出処理を行って、Ｘ軸方向（撮像画像Ｉの左右方向）のエッジｅｘの強度と、Ｙ軸方向（撮像画像Ｉの上下方向）のエッジｅｙの強度とを検出する。エッジ検出処理には、たとえば、Ｓｏｂｅｌフィルタや、Ｐｒｅｗｉｔｔフィルタ等の任意のエッジ検出フィルタを用いることができる。

【0050】

つづいて、算出部３３は、検出したＸ軸方向のエッジｅｘの強度と、Ｙ軸方向のエッジｅｙの強度とに基づき、三角関数を用いることでエッジベクトルＶを算出し、かかるエッジベクトルＶとＸ軸とがなす角度θであるエッジ向きと、エッジベクトルＶの長さＬであるエッジ強度を算出する。

【0051】

つづいて、算出部３３は、算出した各画素ＰＸのエッジベクトルＶに基づき、セル１００におけるエッジ向きの代表値を抽出する。具体的には、図４の上段に示すように、算出部３３は、セル１００における各画素ＰＸのエッジベクトルＶのエッジ向き－１８０°～１８０°を、９０°毎の上下左右４方向である角度分類（０）～（３）（以下、「上下左右４分類」と言う場合がある）に分類する。

【0052】

より具体的には、算出部３３は、画素ＰＸのエッジ向きが、－４５°以上４５°未満の角度範囲である場合には角度分類（０）に分類し、４５°以上１３５°未満の角度範囲である場合には角度分類（１）に分類し、１３５°以上１８０°未満、または－１８０°以上－１３５°未満の角度範囲である場合には角度分類（２）に分類し、－１３５°以上－４５°未満の角度範囲である場合には角度分類（３）に分類する。

【0053】

そして、図４の下段に示すように、算出部３３は、各セル１００について、角度分類（０）～（３）を各階級とするヒストグラムを生成する。そして、算出部３３は、生成したヒストグラムにおいて、最も度数が高い階級の度数が所定の閾値ＴＨａ以上である場合に、かかる階級に対応する角度分類（図４の例では、角度分類（１））を、セル１００におけるエッジ向きの代表値として抽出する。

【0054】

前述のヒストグラムの度数は、セル１００内における各画素ＰＸのうち、同一の角度範囲に分類された画素ＰＸのエッジ強度を足し合わせて算出する。具体的に、角度分類（０）の階級におけるヒストグラムの度数について考える。たとえば、角度分類（０）に分類された画素ＰＸが３つあるとし、それぞれの画素ＰＸにおけるエッジ強度を１０，２０，３０とする。この場合、角度分類（０）の階級におけるヒストグラムの度数は、１０＋２０＋３０＝６０と算出される。

【0055】

このようにして算出されたヒストグラムに基づき、算出部３３はセル１００におけるエッジ強度の代表値を算出する。具体的に、かかるエッジ強度の代表値は、ヒストグラムにおいて最も度数が高い階級の度数が所定の閾値ＴＨａ以上である場合に、かかる階級に対応する度数をセル１００のエッジ強度とする。すなわち、算出部３３におけるエッジ強度の代表値の算出処理は、エッジ向きの代表値に対応した、セル１００内におけるエッジの強さに関する特徴を算出する処理とも言える。

【0056】

一方、算出部３３は、最も度数が高い階級の度数が所定の閾値ＴＨａ未満である場合は、かかるセル１００のエッジ向きについては、「無効」、換言すれば、「エッジ向きの代表値なし」として取り扱う。これにより、各画素ＰＸのエッジ向きのばらつきが大きい場合に、特定のエッジ向きを代表値として算出してしまうことを防止できる。

【0057】

なお、図３および図４で示した算出部３３の処理内容は、あくまで一例であって、エッジ向きの代表値を算出可能であれば、処理内容は任意であってよい。たとえば、セル１００における各画素ＰＸのエッジ向きの平均値を算出し、かかる平均値に対応する角度分類（０）～（３）をエッジ向きの代表値としてもよい。

【0058】

また、図４では、４×４の計１６個の画素ＰＸを１つのセル１００とする場合を示したが、セル１００における画素ＰＸの数は、任意に設定されてよく、また、３×５等のように、上下方向および左右方向の画素ＰＸの数が異なってもよい。

【0059】

図２の説明に戻る。また、算出部３３は、算出したセル１００毎のエッジ特徴量に基づいて、単位領域ＵＡ毎の領域特徴量を算出する。

【0060】

まず、算出部３３は、領域特徴量として、単位領域ＵＡ毎における輝度平均、セル１００のエッジ強度の平均および分散を算出する。また、算出部３３は、領域特徴量として、ペア領域２００の個数およびエッジ強度の総和を算出する。

【0061】

ここで、ペア領域２００の個数およびエッジ強度の総和を算出する場合について、図５および図６を用いて説明する。図５および図６は、算出部３３の処理内容を示す図（その３）および（その４）である。

【0062】

なお、図５では、２つのペア領域２００が、セル１００を共有していない場合を示し、図６では、２つのペア領域２００が、セル１００を共有している場合を示している。

【0063】

図５に示すように、算出部３３は、単位領域ＵＡの左右方向および上下方向に配列された複数のセル１００について、左右方向および上下方向に走査し、ペア領域２００を探索する。すなわち、算出部３３は、単位領域ＵＡにおけるセル１００のうち、隣接し、エッジ向きが互いに逆向きであるセル１００同士をペア領域２００として抽出する。

【0064】

そして、算出部３３は、抽出されたペア領域２００の個数、および、ペア領域２００におけるエッジ強度の総和を算出する。なお、図５に示すように、算出部３３は、抽出されたたとえば２つのペア領域２００がセル１００を共有していない場合、ペア領域２００の個数を２つと算出し、エッジ強度の総和を、２つのペア領域２００に含まれる４つのセル１００のエッジ強度を合計した値として算出する。

【0065】

また、図６に示すように、算出部３３は、抽出されたたとえば２つのペア領域２００がセル１００を共有している場合、ペア領域２００の個数を２つと算出し、エッジ強度の総和を、２つのペア領域２００に含まれる３つのセル１００のエッジ強度を合計した値として算出する。

【0066】

なお、算出部３３は、上述した「上下左右４分類」の角度分類だけでなく、たとえば「斜め４分類」の角度分類に基づいて、１つのセル１００について２種類以上のエッジ向きの代表値を割り当て、領域特徴量を算出してもよい。かかる点について、図７および図８を用いて説明する。図７および図８は、算出部３３の処理内容を示す図（その５）および（その６）である。

【0067】

算出部３３は、「上下左右４分類」を第１の角度分類とし、これに基づくエッジ向きの代表値を第１代表値とすれば、図７に示すように、「斜め４分類」を第２の角度分類とし、これに基づくエッジ向きの代表値を第２代表値として算出することができる。

【0068】

かかる場合、算出部３３は、セル１００における各画素ＰＸのエッジベクトルＶのエッジ向き－１８０°～１８０°を、第２の角度分類により、９０°毎の斜め４方向である角度分類（４）～（７）に分類する。

【0069】

より具体的には、算出部３３は、画素ＰＸのエッジ向きが、０°以上９０°未満の角度範囲である場合には角度分類（４）に分類し、９０°以上１８０°未満の角度範囲である場合には角度分類（５）に分類し、－１８０°以上－９０°未満の角度範囲である場合には角度分類（６）に分類し、－９０°以上０°未満の角度範囲である場合には角度分類（７）に分類する。

【0070】

そして、図４の下段に示したのと同様に、算出部３３は、各セル１００について、角度分類（４）～（７）を各階級とするヒストグラムを生成する。そして、算出部３３は、生成したヒストグラムにおいて、最も度数が高い階級の度数が所定の閾値ＴＨａ以上である場合に、かかる階級に対応する角度分類を、セル１００におけるエッジ向きの第２代表値として算出する。

【0071】

これにより、図８に示すように、１つのセル１００についてそれぞれ２つのエッジ向きの代表値を割り当てることができる。そして、図８に示すように、算出部３３は、隣接するセル１００において、エッジ向きの第１代表値、および、第２代表値の少なくとも一方が互いに逆向きである場合、かかる隣接するセル１００をペア領域２００として抽出する。

【0072】

つまり、算出部３３は、各セル１００において、エッジ向きの第１代表値および第２代表値を算出することで、１種類のエッジ向きのみでは抽出できなかったペア領域２００を抽出することが可能となる。

【0073】

たとえば、エッジ向きが１４０°の画素ＰＸと、エッジ向きが－４０°の画素ＰＸとについて、第１角度範囲では逆向きとはならないが、第２角度範囲では逆向きとなることで、セル１００におけるエッジ向きの変化をより高精度に検出することが可能となる。

【0074】

また、算出部３３は、領域特徴量として、パターンマッチング時の交点の数を算出する。ここで、パターンマッチング時の交点の数を算出する場合について、図９～図１２を用いて説明する。

【0075】

図９～図１２は、算出部３３の処理内容を示す図（その７）～（その１０）である。なお、図７、図９および図１０に示す不定形のハッチング部分は、撮像画像Ｉにおいて所定のエッジ特徴量を有するパターン部分であるものとする。

【0076】

算出部３３は、算出したセル１００のエッジ特徴量のうちのエッジ向きを用いて、所定のテンプレートと一致する所定の探索パターンを探索する。図９に示すように、探索方向は左右方向および上下方向である。

【0077】

たとえば、算出部３３は、「注目する角度分類の両サイドに逆向きの角度分類が現れないこと」を条件として探索パターンを探索する。具体的には、注目する角度分類を角度分類（１）として左右方向に探索した場合に、図１０に示すように、たとえば開始位置は「角度分類が逆向きでない」角度分類（２）のセル１００－１に隣接する角度分類（１）のセル１００－２が開始位置となる。

【0078】

そして、角度分類（１）の配列がつづき、「角度分類が逆向きでない」角度分類（０）のセル１００－４が現れた場合、かかるセル１００－４に隣接する角度分類（１）のセル１００－３が終了位置となる。かかる場合、図１０の例ではマッチ長は「８」となる。なお、算出部３３は、このように探索パターンとの一致があった場合、その位置とマッチ長とを保持しておく。

【0079】

また、図１０に示した探索パターンでの一致があった場合、開始位置と終了位置には、角度分類４種のうち、隣り合う分類間での輝度変化が見られることになる。

【0080】

そして、算出部３３は、図１１に示すように、左右方向と上下方向で探索パターンの一致が交わる際には、その交点に対応する単位領域ＵＡに対応する記憶情報として、角度分類別に水平マッチ長および上下マッチ長の積を累積加算する。

【0081】

具体的に図１０および図１１の例に沿った場合、算出部３３は、図１２に示すように、当該単位領域の角度分類（１）に紐づけて、５×８を累積加算する。また、図示していないが、算出部３３は、同じく当該単位領域の角度分類（１）に紐づけて、交点の数も累積加算する。

【0082】

こうしたマッチング処理を繰り返し、後述する判定部３４は、所定の検出条件に基づき、当該単位領域ＵＡの各角度分類（０）～（３）に紐づく累積加算結果のうち、たとえば３種以上が所定の閾値以上であった場合、当該単位領域ＵＡの付着状態は「付着」と判定する。また、かかる判定条件を満たさなければ「非付着」と判定する。なお、図９～図１２に示したマッチング処理の処理内容はあくまで一例であって、処理内容を限定するものではない。

【0083】

図２の説明に戻る。そして、算出部３３は、算出した単位領域ＵＡ毎の領域特徴量を判定部３４へ出力する。

【0084】

判定部３４は、算出部３３によって算出された領域特徴量に基づいて、単位領域ＵＡ毎の付着物の付着状態を判定する。また、判定部３４は、判定した単位領域ＵＡ毎の付着状態に基づいて付着率を算出し、かかる付着率に基づいてカメラ１０のレンズの埋もれ状態を判定する。

【0085】

ここで、判定部３４は、単位領域ＵＡの付着状態がそれぞれ「付着」であるか、「非付着」であるかを判定する。そして、判定部３４は、その判定結果に基づき、撮像画像Ｉの所定の注目領域において「付着」とされた単位領域ＵＡの面積率、すなわち付着率を算出する。

【0086】

そして、判定部３４は、付着率が一定以上（たとえば４０％以上）である場合、「埋もれ」であるとして、上述の仮判定フラグに「１」を設定する。また、判定部３４は、付着率が一定未満（たとえば３０％未満）である場合、「埋もれでない」として、仮判定フラグに「－１」を設定する。また、判定部３４は、付着率が上記以外である場合または判定困難である場合、「キープ」として、仮判定フラグに「０」を設定する。

【0087】

そのうえで、判定部３４は、判定履歴情報２１に基づいて埋もれ状態を確定する。たとえば、判定部３４は、前述の５／９条件が成立した場合に、該当するフラグ値を確定結果として埋もれフラグに反映させ、各種機器５０へ通知する。判定部３４は、たとえば５／９条件をフラグ値「１」が満たせば、埋もれフラグをオンする。また、判定部３４は、たとえば５／９条件をフラグ値「－１」が満たせば、埋もれフラグをオフする。

【0088】

ところで、埋もれ状態の確定条件の成立は、上述したＩＧオンに際しての判定履歴情報２１への初期値の設定によって早めることができるが、確定条件そのものを緩和することによっても早めることができる。かかる例について、図１３を用いて説明する。図１３は、設定部３２の処理内容を示す図である。

【0089】

図１３に示すように、判定履歴情報２１に「１」が続いていた車両が停車中であるものとする。かかる場合、「１＝埋もれ」を通知され続けていたユーザが付着物を拭き取ったことが想定される。

【0090】

もし、拭き取りが行われたのであれば、早期に「埋もれでない」ことが確定して通知され、大半が「１」で埋まった判定履歴情報２１がクリアされることが好ましい。

【0091】

したがって、かかる場合、設定部３２は、車両の状況としてたとえば車速センサ３０を介して車両の停車中が通知されたならば、拭き取り発生を想定し、前述の５／９条件を３／５条件（５履歴中、３個以上）へ変更する。

【0092】

すると、これにより、変更後、判定部３４によって最短３フレーム目で「埋もれでない」との確定が可能となる。すなわち、実施形態に係る付着物検出方法では、車両の停車中に際しては、埋もれ状態の判定結果の確定条件の成立が早まるように、確定条件を緩和することとした。

【0093】

これにより、実施形態に係る付着物検出方法によれば、付着物の検出性能を向上させることができる。

【0094】

また、設定部３２は、確定条件の緩和後、「埋もれでない」と確定されたならば、判定履歴情報２１を「０」でクリアする。なお、かかるクリア後、設定部３２は、緩和した確定条件を元に戻すとよい。

【0095】

なお、判定履歴情報２１に「１」が続いていた車両が停車中であったとしても、実際に拭き取りが行われるとは限らない。ただし、仮に拭き取りが行われなかったとしても、確定条件の緩和で早期に「埋もれ」が確定されるので、埋もれ状態の判定処理そのものに支障はない。

【0096】

次に、図１４を用いて、実施形態に係る付着物検出装置１が実行する処理手順について説明する。図１４は、実施形態に係る付着物検出装置１が実行する処理手順を示すフローチャートである。なお、図１４では、１フレーム分の撮像画像Ｉについての処理手順を示している。

【0097】

図１４に示すように、まず、取得部３１が、車両の状況を取得する（ステップＳ１０１）。ここで、ＩＧオン直後である場合（ステップＳ１０２，Ｙｅｓ）、設定部３２が、確定条件の成立が早まるように判定履歴情報２１へ初期値を設定し（ステップＳ１０３）、ステップＳ１０６へ移行する。

【0098】

また、ＩＧオン直後でない場合で（ステップＳ１０２，Ｎｏ）、車両が停車中である場合（ステップＳ１０４，Ｙｅｓ）、設定部３２が、確定条件の成立が早まるように確定条件を緩和する（ステップＳ１０５）。

【0099】

なお、車両が停車中でない場合（ステップＳ１０４，Ｎｏ）、そのままステップＳ１０６へ移行する。

【0100】

そして、取得部３１が、撮像画像Ｉを取得する（ステップＳ１０６）。あわせて取得部３１は、撮像画像Ｉに対してグレースケール化処理および平滑化処理を施す。

【0101】

つづいて、算出部３３が、撮像画像Ｉのセル１００毎のエッジ特徴量を算出する（ステップＳ１０７）。また、算出部３３は、算出したエッジ特徴量に基づいて、単位領域ＵＡ毎の領域特徴量を算出する（ステップＳ１０８）。

【0102】

そして、判定部３４が、算出部３３によって算出された領域特徴量に基づいて単位領域ＵＡ毎の付着状態を判定し（ステップＳ１０９）、判定した付着状態および判定履歴情報２１に基づいて埋もれ状態を確定する（ステップＳ１１０）。

【0103】

そして、判定部３４は、確定結果を各種機器５０へ通知して（ステップＳ１１１）、処理を終了する。なお、図１４では図示を略しているが、車両が停車中で緩和された確定条件に基づいて埋もれ状態が確定された場合は、設定部３２が判定履歴情報２１を「０」でクリアすることとなる。

【0104】

上述してきたように、実施形態に係る付着物検出装置１は、算出部３３と、判定部３４と、設定部３２とを備える。算出部３３は、撮像画像Ｉに含まれる所定数の画素ＰＸからなる単位領域ＵＡ毎に、各画素ＰＸのエッジベクトルに基づく領域特徴量を算出する。判定部３４は、上記領域特徴量に基づいて付着物によるカメラ１０の埋もれ状態を仮判定するとともに、直近分を含む所定数の過去分の仮判定履歴である判定履歴情報２１において所定の確定条件が成立した場合に、該当する上記埋もれ状態を確定結果として確定させる。設定部３２は、カメラ１０が搭載された車両がＩＧオンされた場合に、かかるＩＧオンの直後に、上記確定条件の成立が早まるように所定の初期値を判定履歴情報２１に設定する。

【0105】

したがって、実施形態に係る付着物検出装置１によれば、付着物の検出性能を向上させることができる。

【0106】

また、設定部３２は、ＩＧオンの直後に上記初期値を設定する場合に、判定履歴情報２１の直近分から過去分へ向けて所定個数分、上記初期値を設定する。

【0107】

したがって、実施形態に係る付着物検出装置１によれば、ＩＧオンの直後の埋もれ状態判定の応答性能を向上させることができる。

【0108】

また、設定部３２は、ＩＧオンの直後に上記初期値を設定する場合に、カメラ１０が埋もれていることを示すフラグ値「１」を前記初期値として設定する。

【0109】

したがって、実施形態に係る付着物検出装置１によれば、ＩＧオンの直後の「埋もれ」検出の応答性能を向上させることができる。

【0110】

また、設定部３２は、車両が停車中である場合に、上記確定条件の成立が早まるようにかかる確定条件を緩和する。

【0111】

したがって、実施形態に係る付着物検出装置１によれば、ユーザが拭き取りを行ったことが想定される場合に、早期に「埋もれでない」ことを確定して通知することができる。また、これに伴い、早期に判定履歴情報２１をクリアすることが可能となる。

【0112】

なお、上述した実施形態では、ＩＧオンに際して判定履歴情報２１に初期値を設定する場合の設定個数が２個である場合を例に挙げたが、パラメータとして調整可能な数値であり、１であってもよいし、３以上であってもよい。

【0113】

また、上述した実施形態では、判定履歴情報２１が直近分を含む過去９フレーム分であることとしたが、複数であればよく、フレーム数を限定するものではない。また、上述した５／９条件や３／５条件もあくまで一例であり、確定条件の内容を限定するものではない。

【0114】

また、上述した実施形態では、－１８０°～１８０°を９０°毎の角度範囲で分割した４方向に角度分類する場合を示したが、角度範囲は９０°に限定されず、たとえば６０°毎の角度範囲で分割した６方向に角度分類してもよい。

【0115】

また、第１の角度分類および第２の角度分類でそれぞれの角度範囲の幅が異なってもよい。たとえば、第１の角度分類では９０°毎で角度分類し、第２の角度分類では、６０°毎で角度分類してもよい。また、第１の角度分類および第２の角度分類では、角度範囲の角度の境界を４５°ずらしたが、ずらす角度が４５°を超える、もしくは、４５°未満であってもよい。

【0116】

さらなる効果や変形例は、当業者によって容易に導き出すことができる。このため、本発明のより広範な態様は、以上のように表しかつ記述した特定の詳細および代表的な実施形態に限定されるものではない。したがって、添付の特許請求の範囲およびその均等物によって定義される総括的な発明の概念の精神または範囲から逸脱することなく、様々な変更が可能である。

【符号の説明】

【0117】

１ 付着物検出装置
２ 記憶部
３ 制御部
１０ カメラ
２１ 判定履歴情報
２２ テンプレート情報
２３ 閾値情報
３１ 取得部
３２ 設定部
３３ 算出部
３４ 判定部
５０ 各種機器
１００ セル
２００ ペア領域
Ｉ 撮像画像
ＰＸ 画素
ＵＡ 単位領域

【図1A】

【図1B】

【図1C】

【図1D】

【図1E】

【図2】

【図3】

【図4】

【図5】

【図6】

【図7】

【図8】

【図9】

【図10】

【図11】

【図12】

【図13】

【図14】