(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公開特許公報(A)
(11)【公開番号】P2022025650
(43)【公開日】2022-02-10
(54)【発明の名称】カメラ異常検出装置、及びカメラ異常検出方法
(51)【国際特許分類】
H04N 5/225 20060101AFI20220203BHJP
B60R 1/06 20060101ALI20220203BHJP
B60R 11/02 20060101ALI20220203BHJP
G06T 7/00 20170101ALI20220203BHJP
H04N 5/232 20060101ALI20220203BHJP
G03B 15/00 20210101ALI20220203BHJP
【FI】
H04N5/225 430
B60R1/06 D
B60R11/02 Z
G06T7/00 650Z
H04N5/232 290
H04N5/232 990
G03B15/00 V
【審査請求】未請求
【請求項の数】8
【出願形態】OL
(21)【出願番号】P 2020128599
(22)【出願日】2020-07-29
(71)【出願人】
【識別番号】000001487
【氏名又は名称】フォルシアクラリオン・エレクトロニクス株式会社
(74)【代理人】
【識別番号】110001081
【氏名又は名称】特許業務法人クシブチ国際特許事務所
(72)【発明者】
【氏名】宮武 嘉晃
(72)【発明者】
【氏名】小堀 隆行
【テーマコード(参考)】
3D020
3D053
5C122
5L096
【Fターム(参考)】
3D020BA20
3D020BB01
3D020BC13
3D053FF31
3D053GG06
5C122DA14
5C122EA02
5C122EA36
5C122FH10
5C122FH12
5C122FH14
5C122GD04
5C122HA76
5C122HA82
5C122HB01
5L096AA06
5L096BA04
5L096CA04
5L096DA02
5L096FA67
5L096FA69
5L096HA08
(57)【要約】
【課題】車両に搭載されたカメラのレンズの異常を簡素な構成で検出する。
【解決手段】カメラ異常検出装置1は、車両100に搭載されたカメラ120のレンズLSの異常を検出するカメラ異常検出装置1であって、カメラ120の位置、及び姿勢の少なくとも一方が変化する前後において、カメラ120によって撮影された複数の撮影画像Pを取得する取得部113と、複数の撮影画像Pの各々を構成する画素において、画素値が変化しない画素の有無を検出する画素検出部114と、画素検出部114の検出結果に応じて、レンズLSの異常の有無を判定する判定部115と、を備える。
【選択図】
図1
【特許請求の範囲】
【請求項1】
車両に搭載されたカメラのレンズの異常を検出するカメラ異常検出装置であって、
前記カメラの位置、及び姿勢の少なくとも一方が変化する前後において、前記カメラによって撮影された複数の撮影画像を取得する取得部と、
前記複数の撮影画像の各々を構成する画素において、画素値が変化しない画素の有無を検出する画素検出部と、
前記画素検出部の検出結果に応じて、前記レンズの異常の有無を判定する判定部と、
を備える、カメラ異常検出装置。
【請求項2】
前記画素検出部は、前記複数の撮影画像の画素毎のオプティカルフローを求め、前記オプティカルフローが発生しない画素の有無を検出する、
請求項1に記載のカメラ異常検出装置。
【請求項3】
前記カメラの位置、及び姿勢の少なくとも一方を変更させる変更指示部を更に備える、
請求項1、又は請求項2に記載のカメラ異常検出装置。
【請求項4】
前記変更指示部は、サスペンションの状態を変更させることによって、前記カメラの位置を変更させる、
請求項3に記載のカメラ異常検出装置。
【請求項5】
前記カメラは、ドアミラーに設置され、
前記変更指示部は、前記ドアミラーを開閉することによって、前記カメラの位置及び姿勢を変更させる、
請求項3、又は請求項4に記載のカメラ異常検出装置。
【請求項6】
前記カメラの位置、及び姿勢の少なくとも一方の変化を検出する位置検出部を更に備える、
請求項1から請求項5のいずれか1項に記載のカメラ異常検出装置。
【請求項7】
前記レンズの異常は、前記レンズの傷、ひび割れ、曇り、及び汚れを含む、
請求項1から請求項6のいずれか1項に記載のカメラ異常検出装置。
【請求項8】
車両に搭載されたカメラのレンズの異常を検出するカメラ異常検出装置のカメラ異常検出方法であって、
前記カメラの位置、及び姿勢の少なくとも一方が変化する前後において、前記カメラによって撮影された複数の撮影画像を取得する取得ステップ、
前記複数の撮影画像の各々を構成する画素において、画素値が変化しない画素の有無を検出する検出ステップ、及び、
前記検出ステップでの検出結果に応じて、前記レンズの異常の有無を判定する判定ステップ、
を含む、カメラ異常検出方法。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、カメラ異常検出装置、及びカメラ異常検出方法に関する。
【背景技術】
【0002】
従来、車両に搭載されたカメラのレンズ等の異常を検出する技術が、例えば特許文献1に開示されている。
特許文献1に記載の撮影異常診断装置は、車載カメラによって撮影された車両周囲の画像を取得する画像取得部と、三次元センサによって検出された車両周囲の三次元情報を取得する三次元情報取得部と、三次元情報取得部によって取得された三次元情報に基づいて画像上の物体が表されているべき領域を特定する領域特定部と、画像の解析により画像の所定の領域に物体が写っている度合いである映り度合いを検出する映り度合い検出部と、物体が表されているべき領域における映り度合いが所定度合い以下であるときには車載カメラによる撮影に異常が生じていると判断する診断部と、を備える。
【先行技術文献】
【特許文献】
【0003】
【発明の概要】
【発明が解決しようとする課題】
【0004】
しかしながら、特許文献1に記載の撮影異常診断装置では、三次元センサを備える必要があり、カメラによって撮影された画像と三次元センサの検出結果とを比較する必要があるため、装置の構成及び処理が複雑になる。
本発明は、車両に搭載されたカメラのレンズの異常を簡素な構成で検出することの可能なカメラ異常検出装置、及びカメラ異常検出方法を提供することを目的とする。
【課題を解決するための手段】
【0005】
上記目的を達成するために本実施形態のカメラ異常検出装置は、車両に搭載されたカメラのレンズの異常を検出するカメラ異常検出装置であって、前記カメラの位置、及び姿勢の少なくとも一方が変化する前後において、前記カメラによって撮影された複数の撮影画像を取得する取得部と、前記複数の撮影画像の各々を構成する画素において、画素値が変化しない画素の有無を検出する画素検出部と、前記検出部の検出結果に応じて、前記レンズの異常の有無を判定する判定部と、を備える。
【0006】
また、上記目的を達成するために本実施形態のカメラ異常検出方法は、車両に搭載されたカメラのレンズの異常を検出するカメラ異常検出装置のカメラ異常検出方法であって、前記カメラの位置、及び姿勢の少なくとも一方が変化する前後において、前記カメラによって撮影された複数の撮影画像を取得する取得ステップ、前記複数の撮影画像の各々を構成する画素において、画素値が変化しない画素の有無を検出する検出ステップ、及び、前記検出ステップでの検出結果に応じて、前記レンズの異常の有無を判定する判定ステップ、を含む。
【発明の効果】
【0007】
本実施形態によれば、カメラの位置、及び姿勢の少なくとも一方が変化する前後において撮影された複数の撮影画像の各々を構成する画素において、画素値が変化しない画素の有無を検出し、その検出結果に応じて、レンズの異常の有無を判定するため、車両に搭載されたカメラのレンズの異常を簡素な構成で検出できる。
【図面の簡単な説明】
【0008】
【
図1】本実施形態に係るカメラ異常検出装置の構成の一例を示す図である。
【
図2】カメラ異常検出装置が搭載される車両の構成の一例を示す側面図である。
【
図3】画素検出部及び判定部の処理の具体例を示す図である。
【
図4】第1実施形態に係る制御部の処理の一例を示すフローチャートである。
【
図5】第2実施形態に係る制御部の処理の一例を示すフローチャートである。
【発明を実施するための形態】
【0009】
以下、図面を参照して本実施形態について説明する。本実施形態に係るカメラ異常検出装置1は、
図1~
図4を参照して説明するカメラ異常検出装置1Aと、
図1~
図3及び
図5を参照して説明するカメラ異常検出装置1Bとを含む。
【0010】
[1.カメラ異常検出装置、及び車両の構成]
図1は、本実施形態に係るカメラ異常検出装置1の構成の一例を示す図である。
図2は、カメラ異常検出装置1が搭載される車両100の構成の一例を示す側面図である。
図2の矢印FRは、車両100の前方向を示し、矢印UPは、車両100の上方向を示す。
以下、
図1及び
図2を参照して、カメラ異常検出装置1の構成について説明する。
【0011】
図1に示すように、カメラ異常検出装置1は、制御部11を備える。
また、車両100は、制御部11に加えて、車両本体10と、撮像部12と、サスペンション制御部21と、サスペンション駆動機構22と、ドアミラー制御部31と、ドアミラー駆動機構32と、ドアミラー33と、表示部4と、を備える。
【0012】
図2に示すように、車両本体10は、車体5、ドア6、及び車輪7を含む。
ドア6は、右前ドア61、左前ドア62、右後ドア63、及び左後ドア64を含む。
右前ドア61は、車体5の前部の右側に配置される。左前ドア62は、車体5の前部の左側に配置される。右後ドア63は、車体5の後部の右側に配置される。左後ドア64は、車体5の後部の左側に配置される。
車体5は、サスペンション制御部21、サスペンション駆動機構22、ドアミラー制御部31、及び表示部4を収容する。
車輪7は、車体5を支持する。車輪7は、右前輪71、右後輪72、左前輪73、及び左後輪74、を含む。
【0013】
図1及び
図2に示すように、ドアミラー33は、右側ドアミラー331と、左側ドアミラー332と、を備える。右側ドアミラー331は、車両本体10の前方右側に設置される。具体的には、右側ドアミラー331は、運転席の右側のドアの前部に配置される。左側ドアミラー332は、車両本体10の前方左側に設置される。具体的には、左側ドアミラー332は、助手席の左側のドアの前部に配置される。
【0014】
撮像部12は、右前方カメラ13と、右後方カメラ14と、左前方カメラ15と、左後方カメラ16と、を備える。右前方カメラ13、右後方カメラ14、左前方カメラ15、及び左後方カメラ16の各々は、制御部11からの指示に従って、撮像画像を生成する。
右前方カメラ13は、右側ドアミラー331の前部に配置され、車両100の右側前方を撮像する。右後方カメラ14は、右側ドアミラー331の後部に配置され、車両100の右側後方を撮像する。左前方カメラ15は、左側ドアミラー332の前部に配置され、車両100の左側前方を撮像する。左後方カメラ16は、左側ドアミラー332の後部に配置され、車両100の左側後方を撮像する。
右前方カメラ13、右後方カメラ14、左前方カメラ15、及び左後方カメラ16の各々は、CCD(Charge-Coupled Device)やCMOS(Complementary Metal-Oxide-Semiconductor)等のイメージセンサ131、イメージセンサ141、イメージセンサ151、及びイメージセンサ161と、レンズ132、レンズ142、レンズ152、及びレンズ162と、を備える。
以下の説明において、右前方カメラ13、右後方カメラ14、左前方カメラ15、及び左後方カメラ16を、区別しない場合には、カメラ120と記載する場合がある。
また、レンズ132、レンズ142、レンズ152、及びレンズ162を、区別しない場合には、レンズLSと記載する場合がある。
【0015】
サスペンション駆動機構22は、いわゆる「アクティブサスペンション」のアクチュエータとして機能する。サスペンション駆動機構22は、車両本体10と路面との距離を調整することによって、路面の凹凸に起因する車両本体10の揺れを軽減する。
サスペンション駆動機構22は、右前油圧シリンダ221と、右後油圧シリンダ222と、左前油圧シリンダ223と、左後油圧シリンダ224とを備える。
右前油圧シリンダ221は、右前輪71と車体5との間隔を調整する。右後油圧シリンダ222は、右後輪72と車体5との間隔を調整する。左前油圧シリンダ223は、左前輪73と車体5との間隔を調整する。左後油圧シリンダ224は、左後輪74と車体5との間隔を調整する。
【0016】
右前油圧シリンダ221は、右前油圧シリンダ221のストロークを検出する右前ストロークセンサS11を備える。右前ストロークセンサS11は、サスペンション制御部21を経由して、制御部11に、右前油圧シリンダ221のストロークを示す右前ストローク信号SG11を出力する。
右後油圧シリンダ222は、右後油圧シリンダ222のストロークを検出する右後ストロークセンサS12を備える。右後ストロークセンサS12は、サスペンション制御部21を経由して、制御部11に、右後油圧シリンダ222のストロークを示す右後ストローク信号SG12を出力する。
左前油圧シリンダ223は、左前油圧シリンダ223のストロークを検出する左前ストロークセンサS13を備える。左前ストロークセンサS13は、サスペンション制御部21を経由して、制御部11に、左前油圧シリンダ223のストロークを示す左前ストローク信号SG13を出力する。
左後油圧シリンダ224は、左後油圧シリンダ224のストロークを検出する左後ストロークセンサS14を備える。左後ストロークセンサS14は、サスペンション制御部21を経由して、制御部11に、左後油圧シリンダ224のストロークを示す左後ストローク信号SG14を出力する。
右前ストロークセンサS11~左後ストロークセンサS14の各々は、例えば、測距センサ等で構成される。
以下の説明において、右前ストロークセンサS11~左後ストロークセンサS14を区別しない場合には、ストロークセンサS1と記載する場合がある。また、右前ストローク信号SG11~左後ストローク信号SG14を区別しない場合には、ストローク信号SG1と記載する場合がある。
【0017】
第1実施形態に係るカメラ異常検出装置1Aでは、サスペンション駆動機構22は、制御部11からの指示に従って、右前油圧シリンダ221~左後油圧シリンダ224の各々のストロークを伸縮することによって、車両本体10の位置を上下方向に移動する。その結果、右前方カメラ13、右後方カメラ14、左前方カメラ15、及び左後方カメラ16の各々の位置を変更する。
【0018】
第2実施形態に係るカメラ異常検出装置1Bでは、運転者等が車両100に乗車することによって、右前油圧シリンダ221~左後油圧シリンダ224の各々のストロークが伸縮し、車両本体10の位置が上下方向に移動する。その結果、右前方カメラ13、右後方カメラ14、左前方カメラ15、及び左後方カメラ16の各々の位置が変化する。
【0019】
サスペンション制御部21は、例えば、ECU(Electronic Control Unit)として構成される。サスペンション制御部21は、制御部11からの指示に従って、サスペンション駆動機構22を制御する。
第1実施形態では、サスペンション制御部21は、車両本体10の位置が上下方向に移動するように、サスペンション駆動機構22を制御する。
【0020】
ドアミラー駆動機構32は、右側ドアミラー駆動機構321と、左側ドアミラー駆動機構322と、を含む。
右側ドアミラー駆動機構321は、制御部11からの指示に従って、右側ドアミラー331を開閉する。左側ドアミラー駆動機構322は、制御部11からの指示に従って、左側ドアミラー332を開閉する。
【0021】
右側ドアミラー駆動機構321は、右側ドアミラー331の開閉を検出する右開閉センサS21を備える。右開閉センサS21は、ドアミラー制御部31を経由して、制御部11に、右側ドアミラー331の開閉を示す右開閉信号SG21を出力する。
左側ドアミラー駆動機構322は、左側ドアミラー332の開閉を検出する左開閉センサS22を備える。左開閉センサS22は、ドアミラー制御部31を経由して、制御部11に、左側ドアミラー332の開閉を示す左開閉信号SG22を出力する。
右開閉センサS21及び左開閉センサS22の各々は、例えば、測距センサや近接センサ等によって構成される。
以下の説明において、右開閉センサS21と左開閉センサS22とを区別しない場合には、開閉センサS2と記載する。また、右開閉信号SG21と左開閉信号SG22とを区別しない場合には、開閉信号SG2と記載する場合がある。
【0022】
ドアミラー制御部31は、例えば、ECUとして構成され、右側ドアミラー制御部311と、左側ドアミラー制御部312と、を含む。
右側ドアミラー制御部311は、制御部11からの指示に従って、右側ドアミラー駆動機構321に、右側ドアミラー331を開閉させる。左側ドアミラー制御部312は、制御部11からの指示に従って、左側ドアミラー駆動機構322に、左側ドアミラー332を開閉させる。
【0023】
第1実施形態に係るカメラ異常検出装置1Aでは、サスペンション駆動機構22が、車両本体10の位置を上下方向に移動することによって、右前方カメラ13~左後方カメラ16の各々の位置を変更する場合について説明するが、第1実施形態に係るカメラ異常検出装置1Aはこれに限定されない。例えば、右側ドアミラー331を開閉することによって、右前方カメラ13、及び右後方カメラ14、の各々の位置を変更し、左側ドアミラー332を開閉することによって、左前方カメラ15、及び左後方カメラ16の各々の位置を変更してもよい。
【0024】
第2実施形態に係るカメラ異常検出装置1Bでは、右前ストロークセンサS11~左後ストロークセンサS14の各々が、右前方カメラ13~左後方カメラ16の各々の位置の変化を検出するが、第2実施形態に係るカメラ異常検出装置1Bはこれに限定されない。例えば、右開閉センサS21及び左開閉センサS22が、右前方カメラ13~左後方カメラ16の各々の位置の変化を検出してもよい。
【0025】
表示部4は、LCD(Liquid Crystal Display)を備え、LCDに種々の画像を表示する。本実施形態では、表示部4は、制御部11からの指示に従って、レンズ132、142、152、162の異常の有無を表示する。
【0026】
[2.制御部の構成]
制御部11は、例えば、ECUとして構成される。制御部11は、CPU(Central Processing Unit)やMPU(Micro-Processing Unit)等のプロセッサ11Aと、ROM(Read Only Memory)やRAM(Random Access Memory)等のメモリ11Bと、を備える。
制御部11は、これらの装置の他に、センサ類や周辺機器等を接続するためのインターフェース回路、車載ネットワークを介して他の車載装置と通信する車載ネットワーク通信回路等を備える。
【0027】
制御部11は、変更指示部111と、位置検出部112と、取得部113と、画素検出部114と、判定部115と、報知部116と、を備える。具体的には、制御部11のプロセッサ11Aが、メモリ11Bに記憶された制御プログラムを実行することによって、変更指示部111、位置検出部112、取得部113、画素検出部114、判定部115、及び報知部116、として機能する。
【0028】
変更指示部111は、サスペンションの状態を変更させることによって、カメラ120の位置を変更させる。変更指示部111は、例えば、サスペンション駆動機構22に対して、車両本体10の位置を上下方向に移動させることによって、右前方カメラ13~左後方カメラ16の各々の位置を変更する。
変更指示部111は、例えば、右前油圧シリンダ221~左後油圧シリンダ224の各々のストロークを所定長さだけ短くすることを示すコマンドCM1をサスペンション制御部21に出力する。この場合には、車両本体10の位置が所定長さに対応する距離だけ低くなる。
【0029】
位置検出部112は、カメラ120の位置の変化を検出する。例えば、位置検出部112は、例えば、ストローク信号SG1に基づいて、車両本体10の位置の上下方向の変化を検出する。
【0030】
取得部113は、カメラ120の位置が変化する前後において、カメラ120によって撮影された複数の撮影画像Pを取得する。
取得部113は、例えば、カメラ120の位置が変化する前の撮像画像である前撮像画像PSと、カメラ120後撮像画像PEとを撮像する。前撮像画像PSは、第1前撮像画像PS1、第2前撮像画像PS2、第3前撮像画像PS3、及び第4前撮像画像PS4を含む。後撮像画像PEは、第1後撮像画像PE1、第2後撮像画像PE2、第3後撮像画像PE3、及び第4後撮像画像PE4を含む。
第1前撮像画像PS1及び第1後撮像画像PE1は、右前方カメラ13によって撮像された撮像画像である。第2前撮像画像PS2及び第2後撮像画像PE2は、右後方カメラ14によって撮像された撮像画像である。第3前撮像画像PS3及び第3後撮像画像PE3は、左前方カメラ15によって撮像された撮像画像である。第4前撮像画像PS4及び第4後撮像画像PE4は、左後方カメラ16によって撮像された撮像画像である。
【0031】
画素検出部114は、複数の撮影画像の各々を構成する画素において、画素値が変化しない画素の有無を検出する。例えば、第1前撮像画像PS1及び第1後撮像画像PE1の各々を構成する画素において、画素値が変化しない画素の有無を検出する。また、例えば、第2前撮像画像PS2及び第2後撮像画像PE2の各々を構成する画素において、画素値が変化しない画素の有無を検出する。
【0032】
また、画素検出部114は、例えば、複数の撮影画像の画素毎のオプティカルフローを求め、オプティカルフローが発生しない画素の有無を検出することによって、画素値が変化しない画素の有無を検出する。
「オプティカルフロー」とは、カメラ120の位置が変化する前後で、撮影画像中の点や図形が、どのような方向へ、どの程度の距離を移動するかを示すベクトルのことであり、異なるタイミングで撮像された複数の撮影画像の差分によって求めることができる。
すなわち、「オプティカルフロー」は、例えば、第1前撮像画像PS1中のある点や図形が、第1後撮像画像PE1において、どのような方向へ、どの程度の距離を移動するかを示すベクトルのことである。また、「オプティカルフロー」は、第1前撮像画像PS1と第1後撮像画像PE1との差分によって求めることができる。
【0033】
判定部115は、画素検出部114の検出結果に応じて、レンズLSの異常の有無を判定する。レンズLSは、レンズ132、レンズ142、レンズ152、及びレンズ162の各々を示す。
なお、レンズLSの各々の異常は、レンズLSの傷、ひび割れ、曇り、及び汚れを含む。
例えば、判定部115は、第1前撮像画像PS1及び第1後撮像画像PE1に対する画素検出部114の検出結果に応じて、レンズ132の異常の有無を判定する。
また、例えば、判定部115は、第2前撮像画像PS2及び第2後撮像画像PE2に対する画素検出部114の検出結果に応じて、レンズ142の異常の有無を判定する。
また、例えば、判定部115は、第3前撮像画像PS3及び第3後撮像画像PE3に対する画素検出部114の検出結果に応じて、レンズ152の異常の有無を判定する。
また、例えば、判定部115は、第4前撮像画像PS4及び第4後撮像画像PE4に対する画素検出部114の検出結果に応じて、レンズ162の異常の有無を判定する。
【0034】
判定部115は、例えば、画素値が変化しない画素、すなわち、オプティカルフローが発生しない画素が有る場合に、レンズLSの異常があると判定する。
また、判定部115は、例えば、画素値が変化しない画素、すなわち、オプティカルフローが発生しない画素が無い場合に、レンズLSの異常がないと判定する。
【0035】
報知部116は、判定部115の判定結果を、運転者に報知する。報知部116は、例えば、レンズLSの異常があると判定部115が判定した場合に、表示部4のLCDにレンズLSの異常がある旨のガイダンスGDを表示する。
また、報知部116は、レンズ132、レンズ142、レンズ152、及びレンズ162のうち、どのレンズに異常があるかを示す画像を表示部4のLCDに表示することが好ましい。
また、報知部116は、レンズの異常がある位置を示す画像を表示部4のLCDに表示することが好ましい。
【0036】
なお、第1実施形態に係るカメラ異常検出装置1Aでは、制御部11は、位置検出部112を備えなくてもよい。
また、第2実施形態に係るカメラ異常検出装置1Bでは、制御部11は、変更指示部111を備えなくてもよい。
【0037】
第1実施形態に係るカメラ異常検出装置1Aでは、変更指示部111は、車両本体10の位置を上下方向に移動することによって、カメラ120の位置を変更するが、第1実施形態に係るカメラ異常検出装置1Aはこれに限定されない。例えば、変更指示部111は、右側ドアミラー331及び左側ドアミラー制御部312を開閉することによって、カメラ120の位置を変更してもよい。この場合には、変更指示部111は、例えば、右側ドアミラー331及び左側ドアミラー制御部312を閉状態から開状態にすることを示すコマンドCM2をドアミラー制御部31に出力する。
【0038】
第2実施形態に係るカメラ異常検出装置1Bでは、位置検出部112は、ストローク信号SG1に基づいて、車両本体10の位置の上下方向の変化を検出するが、第2実施形態係るカメラ異常検出装置1Bはこれに限定されない。位置検出部112は、開閉信号SG2に基づいて、ドアミラー33の開閉を検出してもよい。
【0039】
[3.画素検出部及び判定部の処理の具体例]
図3は、画素検出部114及び判定部115の処理の具体例を示す図である。
図3では、左後方カメラ16が撮像する第4前撮像画像PS4及び第4後撮像画像PE4について説明する。また、
図3では、車両本体10の位置を下方向に移動する場合について説明する。
【0040】
図3の上段には、左後方カメラ16の位置の変化を示す。左側は、車両本体10の位置を下方向に移動する前の左後方カメラ16の位置を示し、右側は、車両本体10の位置を下方向に移動した後の左後方カメラ16の位置を示す。
中心線LC1は、車両本体10の位置を下方向に移動する前の左後方カメラ16の中心位置を示し、中心線LC2は、車両本体10の位置を下方向に移動した後の左後方カメラ16の中心位置を示す。中心線LC1及び中心線LC2は、水平方向に延びる。
距離L1は、中心線LC1と中心線LC2との間の距離を示す。すなわち、車両本体10が下方向に距離L1だけ移動する。
また、
図3の上段に示すように、左後方カメラ16のレンズ162には汚れDTが付着している。
【0041】
図3の下段には、左側に、車両本体10の位置が変化する前の左後方カメラ16の撮像画像である第4前撮像画像PS4を示し、右側に、車両本体10の位置が変化した後の左後方カメラ16の撮像画像である第4後撮像画像PE4を示す。
第4前撮像画像PS4及び第4後撮像画像PE4に含まれる物体画像PBは、車両本体10の左側後方に位置する物体の画像である。
上端線LC3は、第4前撮像画像PS4における物体画像PBの上端位置を示し、上端線LC4は、第4後撮像画像PE4における物体画像PBの上端位置を示す。上端線LC3及び上端線LC4は、水平方向に延びる。
距離L2は、上端線LC3と上端線LC4との間の距離を示す。すなわち、車両本体10が下方向に距離L1だけ移動することによって、物体画像PBは、上方向に距離L2だけ移動する。距離L2を示すベクトルは、物体画像PBを構成する画素のオプティカルフローを示す。オプティカルフローは、画素検出部114によって求められる。
【0042】
図3の下段に示すように、物体画像PBが上方向に距離L2だけ移動するに対して、汚れDTがレンズ162に付着しているため、汚れ画像PDTは移動しない。汚れ画像PDTは、汚れDTの画像である。
したがって、画素検出部114は、画素値が変化しない画素、すなわち、オプティカルフローが発生しない画素として、汚れ画像PDTを構成する画素を検出する。この場合には、判定部115は、レンズ162に異常が有ると判定する。
【0043】
[4.第1実施形態に係る制御部の処理]
図4は、第1実施形態に係るカメラ異常検出装置1Aの制御部11の処理の一例を示すフローチャートである。
まず、ステップS101において、変更指示部111が、サスペンションの状態を変更させることによって、カメラ120の位置を変更させるか否かを判定する。例えば、変更指示部111が、コマンドCM1をサスペンション制御部21に出力したか否かを判定する。
カメラ120の位置を変更させないと変更指示部111が判定した場合(ステップS101;NO)には、処理が待機状態になる。カメラ120の位置を変更させると変更指示部111が判定した場合(ステップS101;YES)には、処理がステップS103に進む。
そして、ステップS103において、取得部113は、カメラ120の位置が変化する前の撮像画像である前撮像画像PSを取得する。
【0044】
次に、ステップS105において、位置検出部112は、カメラ120の位置の変化が開始したことを検出する。
次に、ステップS107において、位置検出部112は、カメラ120の位置の変化が終了したか否かを判定する。
カメラ120の位置の変化が終了していないと位置検出部112が判定した場合(ステップS107;NO)には、処理が待機状態になる。カメラ120の位置の変化が終了したと位置検出部112が判定した場合(ステップS107;YES)には、処理がステップS109に進む。
そして、ステップS109において、取得部113は、カメラ120の位置が変化した後の撮像画像である後撮像画像PEを取得する。
次に、ステップS111において、画素検出部114は、前撮像画像PSと後撮像画像PEとの画素毎のオプティカルフローを算出する。
【0045】
次に、ステップS113において、画素検出部114は、オプティカルフローが発生しない画素が有るか否かを判定する。
オプティカルフローが発生しない画素が無いと画素検出部114が判定した場合(ステップS113;NO)には、処理がステップS115に進む。
そして、ステップS115において、判定部115は、レンズLSの異常が無いと判定し、処理が終了する。
オプティカルフローが発生しない画素が有ると画素検出部114が判定した場合(ステップS113;YES)には、処理がステップS117に進む。
そして、ステップS117において、判定部115は、レンズLSの異常が有ると判定する。
次に、ステップS119において、報知部116は、レンズLSの異常が有る旨のガイダンスGDを表示部4のLCDに表示する。その後、処理が終了する。
【0046】
なお、ステップS103及びステップS109は、「取得ステップ」の一例に対応する。ステップS111及びステップS113は、「検出ステップ」の一例に対応する。ステップS115、及びステップS117は、「判定ステップ」の一例に対応する。
【0047】
図4を参照して説明したように、カメラ120の位置を変更して、前撮像画像PS及び後撮像画像PEを取得し、前撮像画像PSと後撮像画像PEとの画素毎のオプティカルフローを算出する。そして、オプティカルフローが発生しない画素が有る場合には、レンズLSの異常が有ると判定する。したがって、簡素な処理で、レンズLSの異常の有無を検出できる。
【0048】
なお、第1実施形態に係るカメラ異常検出装置1Aでは、変更指示部111が、カメラ120の位置を変更する場合について説明したが、第1実施形態に係るカメラ異常検出装置1Aは、これに限定されない。変更指示部111が、カメラ120の位置及び姿勢の少なくとも一方を変更すればよい。変更指示部111が、例えば、カメラ120の姿勢を変更してもよい。
具体的には。カメラ120の撮像方向を調整するために、車両100がカメラ120の姿勢、すなわちカメラ120の向きを調整するカメラ姿勢調整機構を備え、変更指示部111がカメラ姿勢調整機構に対して、カメラ120の姿勢を変更させてもよい。
【0049】
[5.第2実施形態に係る制御部の処理]
図5は、第2実施形態に係るカメラ異常検出装置1Bの制御部11の処理の一例を示すフローチャートである。
まず、ステップS201において、位置検出部112は、カメラ120の位置の変化の開始を検出したか否かを判定する。
なお、カメラ120の位置の変化は、例えば、車両100にユーザが搭乗する場合に発生する。すなわち、ユーザが搭乗することによって、ユーザの体重が車両本体10を下方向に押下するため、車両本体10の位置が下方に移動し、その結果、カメラ120の位置が下方向に移動する。
カメラ120の位置の変化の開始を検出していないと位置検出部112が判定した場合(ステップS201;NO)には、処理が待機状態になる。カメラ120の位置の変化の開始を検出したと位置検出部112が判定した場合(ステップS201;YES)には、処理がステップS203に進む。
そして、ステップS203において、取得部113は、カメラ120の位置の変化の開始直後の撮像画像を前撮像画像PSとして取得する。
【0050】
次に、ステップS205において、位置検出部112は、カメラ120の位置の変化の終了を検出したか否かを判定する。
カメラ120の位置の変化の終了を検出していないと位置検出部112が判定した場合(ステップS205;NO)には、処理が待機状態になる。カメラ120の位置の変化の終了を検出したと位置検出部112が判定した場合(ステップS205;YES)には、処理がステップS207に進む。
そして、ステップS207において、取得部113は、カメラ120の位置の変化の終了後の撮像画像を後撮像画像PEとして取得する。
ステップS209~ステップS217の各々は、
図4におけるステップS111~ステップS119の各々に対応するため、その説明を省略する。
【0051】
なお、ステップS203及びステップS207は、「取得ステップ」の一例に対応する。ステップS209及びステップS211は、「検出ステップ」の一例に対応する。ステップS213、及びステップS215は、「判定ステップ」の一例に対応する。
【0052】
図5を参照して説明したように、カメラ120の位置の変化を検出して、前撮像画像PS及び後撮像画像PEを取得し、前撮像画像PSと後撮像画像PEとの画素毎のオプティカルフローを算出する。そして、オプティカルフローが発生しない画素が有る場合には、レンズLSの異常が有ると判定する。したがって、簡素な処理で、レンズLSの異常の有無を検出できる。
【0053】
なお、第2実施形態に係るカメラ異常検出装置1Bでは、位置検出部112が、カメラ120の位置の変化を検出する場合について説明したが、第2実施形態に係るカメラ異常検出装置1Bは、これに限定されない。位置検出部112が、カメラ120の位置及び姿勢の少なくとも一方の変化を検出すればよい。位置検出部112が、例えば、カメラ120の姿勢の変化を検出してもよい。
具体的には、カメラ120の撮像方向を調整するために、運転者がカメラ120の姿勢、すなわちカメラ120の向きを調整するときに、位置検出部112が、カメラ120の姿勢の変化を検出してもよい。
【0054】
[6.本実施形態の構成と効果]
以上説明したように、本実施形態のカメラ異常検出装置1は、車両100に搭載されたカメラ120のレンズLSの異常を検出するカメラ異常検出装置1であって、カメラ120の位置、及び姿勢の少なくとも一方が変化する前後において、カメラ120によって撮影された複数の撮影画像Pを取得する取得部113と、複数の撮影画像Pの各々を構成する画素において、画素値が変化しない画素の有無を検出する画素検出部114と、画素検出部114の検出結果に応じて、レンズLSの異常の有無を判定する判定部115と、を備える。
すなわち、取得部113が、カメラ120の位置、及び姿勢の少なくとも一方が変化する前後において、カメラ120によって撮影された複数の撮影画像Pを取得する。また、画素検出部114が、複数の撮影画像Pの各々を構成する画素において、画素値が変化しない画素の有無を検出する。そして、判定部115が、画素検出部114の検出結果に応じて、レンズLSの異常の有無を判定する。したがって、簡素な構成でレンズLSの異常を検出できる。
【0055】
また、画素検出部114は、複数の撮影画像Pの画素毎のオプティカルフローを求め、オプティカルフローが発生しない画素の有無を検出する。
したがって、画素値が変化しない画素を適正に検出できる。
【0056】
また、カメラ120の位置、及び姿勢の少なくとも一方を変更させる変更指示部111を更に備える。
したがって、カメラ120の位置、及び姿勢の少なくとも一方が変化するタイミングを容易に判定できるため、取得部113は、複数の撮影画像Pを容易に取得できる。
【0057】
また、変更指示部111は、サスペンションの状態を変更させることによって、カメラ120の位置を変更させる。
よって、カメラ120の位置を上下方向に変更できる。したがって、画素検出部114は、画素毎のオプティカルフローを容易に算出できる。
【0058】
また、カメラ120は、ドアミラー33に設置され、変更指示部111は、ドアミラー33を開閉することによって、カメラ120の位置及び姿勢を変更させる。
したがって、カメラ120の位置及び姿勢を変更できる。したがって、画素検出部114は、画素毎のオプティカルフローを容易に算出できる。
【0059】
また、カメラ120の位置、及び姿勢の少なくとも一方の変化を検出する位置検出部112を更に備える。
したがって、変更指示部111を備えない場合であっても、取得部113は、複数の撮影画像Pを容易に取得できる。
【0060】
また、レンズLSの異常は、レンズLSの傷、ひび割れ、曇り、及び汚れを含む。
したがって、レンズLSの傷、ひび割れ、曇り、及び汚れを検出できる。
【0061】
また、本実施形態のカメラ異常検出方法は、車両100に搭載されたカメラ120のレンズLSの異常を検出するカメラ異常検出装置1のカメラ異常検出方法であって、カメラ120の位置、及び姿勢の少なくとも一方が変化する前後において、カメラ120によって撮影された複数の撮影画像Pを取得する取得ステップ、複数の撮影画像Pの各々を構成する画素において、画素値が変化しない画素の有無を検出する検出ステップ、及び、検出ステップでの検出結果に応じて、レンズLSの異常の有無を判定する判定ステップ、を含む。
すなわち、取得ステップで、カメラ120の位置、及び姿勢の少なくとも一方が変化する前後において、カメラ120によって撮影された複数の撮影画像Pを取得する。また、検出ステップで、複数の撮影画像Pの各々を構成する画素において、画素値が変化しない画素の有無を検出する。そして、判定ステップで、画素検出部114の検出結果に応じて、レンズLSの異常の有無を判定する。したがって、簡素な構成でレンズLSの異常を検出できる。
【0062】
[7.他の実施形態]
上述した本実施形態は、あくまでも本発明の一実施形態を例示したものであって、本発明の主旨を逸脱しない範囲で任意に変形、及び応用が可能である。
例えば、
図1は、本発明の理解を容易にするために、構成要素を主な処理内容に応じて分類して示した図であり、構成要素は、処理内容に応じて、更に多くの構成要素に分類することもできる。また、1つの構成要素が更に多くの処理を実行するように分類することもできる。
また、各構成要素の処理は、1つのハードウェアで実行されてもよいし、複数のハードウェアで実行されてもよい。また、各構成要素の処理は、1つのプログラムで実現されてもよいし、複数のプログラムで実現されてもよい。
【0063】
また、本実施形態では、画素検出部114がオプティカルフローに基づいて画素値が変化しない画素の有無を検出する場合について説明したが、本発明の実施形態は、これに限定されない。画素検出部114が、画素値が変化しない画素の有無を検出すればよい。画素検出部114が、例えば、公知の画像処理によって、画素値が変化しない画素の有無を検出してもよい。
【0064】
また、本実施形態では、判定部115は、画素値が変化しない画素が有る場合に、レンズLSの異常が有ると判定するが、本発明の実施形態は、これに限定されない。判定部115は、画素値が変化しない画素に基づいて、レンズLSの異常の有無を判定すればよい。判定部115は、例えば、画素値が変化しない画素として、互いに隣接した所定個数以上の画素が検出された場合に、レンズLSの異常が有ると判定してもよい。この場合には、カメラ120の解像度、画素数等に応じて、所定個数を適正に設定することによって、レンズLSの異常の有無を適正に判定できる。
【0065】
また、本実施形態では、制御プログラムを制御部11のメモリ11Bに記憶するが、制御プログラムを他の記録媒体、又はこの制御プログラムを伝送する伝送媒体の態様で構成することも可能である。
記録媒体には、磁気的、光学的記録媒体又は半導体メモリーデバイスを用いることができる。具体的には、フレキシブルディスク、HDD、CD-ROM(Compact Disk Read Only Memory)、DVD、Blu-ray(登録商標) Disc、光磁気ディスク、フラッシュメモリ、カード型記録媒体等の可搬型、或いは固定式の記録媒体が挙げられる。また、上記記録媒体は、カメラ異常検出装置1が備えるRAM、ROM、HDD等の不揮発性記憶装置であってもよい。
また、制御プログラムを、カメラ異常検出装置1とネットワークを介して通信可能に接続されたサーバ装置からカメラ異常検出装置1がダウンロードしてもよい。
【0066】
また、例えば、
図4及び
図5の各々に示すフローチャートの処理単位は、カメラ異常検出装置1の処理の理解を容易にするために、主な処理内容に応じて分割したものであり、処理単位の分割の仕方や名称によって、本発明が限定されることはない。カメラ異常検出装置1の処理は、処理内容に応じて、更に多くの処理単位に分割してもよい。また、カメラ異常検出装置1の処理は、1つの処理単位が更に多くの処理を含むように分割してもよい。
【符号の説明】
【0067】
100 車両
10 車両本体
1、1A、1B カメラ異常検出装置
11 制御部
11A プロセッサ
11B メモリ
111 変更指示部
112 位置検出部
113 取得部
114 画素検出部
115 判定部
116 報知部
12 撮像部
13 右前方カメラ
14 右後方カメラ
15 左前方カメラ
16 左後方カメラ
120 カメラ
131、141、151、161 イメージセンサ
132、142、152、162、LS レンズ
21 サスペンション制御部
22 サスペンション駆動機構
31 ドアミラー制御部
32 ドアミラー駆動機構
33 ドアミラー
331 右側ドアミラー
332 左側ドアミラー
4 表示部
PE 後撮像画像
PS 前撮像画像
S1 ストロークセンサ
S2 開閉センサ