IP Force 特許公報掲載プロジェクト 2022.1.31 β版

知財求人 - 知財ポータルサイト「IP Force」

▶ 株式会社デンソーの特許一覧 ▶ トヨタ自動車株式会社の特許一覧 ▶ 株式会社ミライズテクノロジーズの特許一覧

<>
  • 特開-画像処理装置 図1
  • 特開-画像処理装置 図2
  • 特開-画像処理装置 図3
  • 特開-画像処理装置 図4
  • 特開-画像処理装置 図5
  • 特開-画像処理装置 図6
  • 特開-画像処理装置 図7
  • 特開-画像処理装置 図8
< >
(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公開特許公報(A)
(11)【公開番号】P2024139833
(43)【公開日】2024-10-10
(54)【発明の名称】画像処理装置
(51)【国際特許分類】
   G06T 7/00 20170101AFI20241003BHJP
   G06V 10/82 20220101ALI20241003BHJP
   H04N 23/60 20230101ALI20241003BHJP
   H04N 23/61 20230101ALI20241003BHJP
   B60R 11/02 20060101ALI20241003BHJP
【FI】
G06T7/00 350C
G06T7/00 650B
G06V10/82
H04N23/60 500
H04N23/61
B60R11/02 Z
【審査請求】未請求
【請求項の数】8
【出願形態】OL
(21)【出願番号】P 2023050747
(22)【出願日】2023-03-28
(71)【出願人】
【識別番号】000004260
【氏名又は名称】株式会社デンソー
(71)【出願人】
【識別番号】000003207
【氏名又は名称】トヨタ自動車株式会社
(71)【出願人】
【識別番号】520124752
【氏名又は名称】株式会社ミライズテクノロジーズ
(74)【代理人】
【識別番号】110000028
【氏名又は名称】弁理士法人明成国際特許事務所
(72)【発明者】
【氏名】山元 左近
(72)【発明者】
【氏名】滝澤 哲郎
【テーマコード(参考)】
3D020
5C122
5L096
【Fターム(参考)】
3D020BA20
3D020BC02
3D020BE03
5C122DA14
5C122EA01
5C122FH11
5C122FH14
5C122HA87
5C122HB01
5L096BA04
5L096CA02
5L096HA11
5L096JA11
5L096KA04
(57)【要約】      (修正有)
【課題】画像に発生した外乱の種類に応じたニューラルネットワークを選択することで、高精度な画像処理を実現する画像処理装置を提供する。
【解決手段】車両VWは、対象物を含む画像を生成する撮像部10と、車両の周囲の環境の一つ以上の要素それぞれの強度を表す数値を取得する一つ以上の要素取得部20と、第1画像処理部30と、第2画像処理部40と、第1画像処理部と第2画像処理部とのうち、画像に対して演算処理を実行させる画像処理部を選択する処理選択部50と、を備え、一部の要素について、強度の第1の範囲において、第1画像処理部の精度は第2画像処理部の精度よりも高く、第1の範囲よりも低い第2の範囲において、第2画像処理部の精度は第1画像処理部の精度よりも高く、処理選択部は、一つ以上の要素取得部が取得した要素の強度を表す数値に基づいて、演算処理を実行させる画像処理部を選択する。
【選択図】図1
【特許請求の範囲】
【請求項1】
車両(VW)に搭載される画像処理装置(1)であって、
対象物を撮像して、前記対象物を含む画像を生成する撮像部(10)と、
前記車両の周囲の環境の一つ以上の要素の、それぞれの強度を表す数値を取得する、一つ以上の要素取得部(20)と、
第1ニューラルネットワークモデルを使用して、前記画像に対して演算処理を行うことができる第1画像処理部(30)と、
第2ニューラルネットワークモデルを使用して、前記画像に対して演算処理を行うことができる第2画像処理部(40)と、
前記第1画像処理部と前記第2画像処理部と、のうち、前記画像に対して演算処理を実行させる画像処理部を選択する処理選択部(50)と、
を備え、
一部の前記要素について、強度の第1の範囲において、前記第1画像処理部の精度は前記第2画像処理部の精度よりも高く、前記第1の範囲よりも低い第2の範囲において、前記第2画像処理部の精度は前記第1画像処理部の精度よりも高く、
前記処理選択部は、
前記一つ以上の要素取得部(10)によって取得された前記要素の強度を表す数値に基づいて、演算処理を実行させる画像処理部を選択する、画像処理装置。
【請求項2】
請求項1に記載の画像処理装置であって、
他の前記要素について、強度の第1の範囲において、前記第2画像処理部の精度は前記第1画像処理部の精度よりも高く、前記第1の範囲よりも低い第2の範囲において、前記第1画像処理部の精度は前記第2画像処理部の精度よりも高い、画像処理装置。
【請求項3】
請求項1に記載の画像処理装置であって、
前記一つ以上の要素のうち明るさについて、前記第1の範囲において、前記第1画像処理部の演算処理の精度は前記第2画像処理部の演算処理の精度よりも高く、前記第2の範囲において、前記第2画像処理部の演算処理の精度は前記第1画像処理部の演算処理の精度よりも高い、画像処理装置。
【請求項4】
請求項1から請求項3のいずれか一項に記載の画像処理装置であって、
さらに、演算処理によって得られたデータに基づいて、前記車両の制御を行う車両制御部(60)を備え、
前記車両制御部は、
前記処理選択部に選択された前記画像処理部に基づいて制御を行う第1モード(MD1)と、
前記処理選択部に選択された前記画像処理部に基づかずに、前記第1画像処理部が出力した演算処理のデータに基づいて、前記車両の制御を行う第2モード(MD2)と、
を備え、
前記処理選択部による前記画像処理部の選択が行われていない間は、前記第2モードで前記車両の制御を実行する、画像処理装置。
【請求項5】
請求項4に記載の画像処理装置であって、
前記車両制御部によって前記第2モードが実行されている間は、
前記第1画像処理部および前記第2画像処理部が演算処理を実行し、
前記車両制御部は、
前記第1モードにおいて、前記第1画像処理部と前記第2画像処理部と、のうち、前記処理選択部が選択した前記画像処理部が出力した演算処理のデータに基づいて、前記車両の制御を行う、画像処理装置。
【請求項6】
請求項1に記載の画像処理装置であって、
前記要素取得部(20D)は、前記撮像部が生成した前記画像に基づいて、前記車両の周囲の環境の要素の強度を表す数値を取得する、画像処理装置。
【請求項7】
請求項1に記載の画像処理装置であって、
前記一つ以上の要素取得部のうち、一つの前記要素取得部は、
ネットワークを通じて、雨の強度を表す数値としての第1数値(FN)を取得するネット情報部(210B)と、
前記車両の周囲の雨を直接、検出することで、前記雨の強度を表す数値としての第2数値(SN)を取得する検出部(220B)と、を含み、
前記第1数値と、前記第2数値と、を出力し、
前記処理選択部は、前記第1数値と前記第2数値のうち、大きい数値を、前記要素取得部が取得した前記雨の強度を表す数値として使用して、前記画像処理部の選択を行う、画像処理装置。
【請求項8】
請求項1に記載の画像処理装置であって、
前記一つ以上の要素のうち明るさの前記第1の範囲とは、
トンネルの内部の明るさの強度を表す数値よりも大きい範囲である、画像処理装置。
【発明の詳細な説明】
【技術分野】
【0001】
本開示は、画像処理装置に関する。
【背景技術】
【0002】
特許文献1において、荒天である場合に、撮影した画像を、荒天でないときに設定されているフレームレートよりも高いフレームレートに自動で切り替えて記録する画像記録装置が開示されている。画像記録装置は、ドライブレコーダであり、車に搭載されている。この画像記録装置は、撮像部によって撮像された撮影画像に基づいて、荒天判定処理部が荒天か否かを判定する。具体的には、ワイヤー検出部によって、撮像画像からワイパーを囲む矩形の領域が抽出される。矩形の領域の抽出は、SSDやYOLO等の物体検出アルゴリズムを用いて実現される。
【0003】
ワイパー動作周期推定部が、ワイパー検出部から供給されたワイパー領域のデータと、過去の複数のワイパー領域のデータと、を参照して、ワイパーの動作周期を推定する。そして、荒天判定部が、ワイパー動作周期が閾値未満である場合、荒天であると判定する。そして、フレームレート切替部が、フレームレートを変更する。これにより、画像記録装置の記録容量を最小限に抑えつつ、危険シーンの情報不足を防ぐことができる。
【先行技術文献】
【特許文献】
【0004】
【特許文献1】特開2021-52350号公報
【発明の概要】
【発明が解決しようとする課題】
【0005】
ところで、一般に、先進運転支援システムのために、車両の周囲の物体を、ニューラルネットワークを使用して検出する技術が用いられることがある。しかし、ニューラルネットワークを使用した画像処理において、雨や、輝度の変化等の外乱によって、処理の精度が低下することが知られている。高精度な画像処理を実現するためには、外乱が発生した際の画像データの蓄積と、機械学習のための時間が必要となり、その作業を行う者にとって大きな負担となる。ここで、ニューラルネットワークは、その種類によって、種々の外乱を受けた場合の精度の低下のし方が異なることが知られている。そこで、本願の発明者は、画像に発生した外乱の種類に応じたニューラルネットワークを選択することで、高精度な画像処理を実現することを考えた。
【課題を解決するための手段】
【0006】
本開示は、以下の形態として実現することが可能である。
【0007】
本開示の一形態によれば車両(VW)に搭載される画像処理装置(1)が提供される。この画像処理装置において、対象物を撮像して、前記対象物を含む画像を生成する撮像部(10)と、前記車両の周囲の環境の一つ以上の要素の、それぞれの強度を表す数値を取得する、一つ以上の要素取得部(20)と、第1ニューラルネットワークモデルを使用して、前記画像に対して演算処理を行うことができる第1画像処理部(30)と、第2ニューラルネットワークモデルを使用して、前記画像に対して演算処理を行うことができる第2画像処理部(40)と、前記第1画像処理部と前記第2画像処理部と、のうち、前記画像に対して演算処理を実行させる画像処理部を選択する処理選択部(50)と、を備え、一部の前記要素について、強度の第1の範囲において、前記第1画像処理部の精度は前記第2画像処理部の精度よりも高く、前記第1の範囲よりも低い第2の範囲において、前記第2画像処理部の精度は前記第1画像処理部の精度よりも高く、前記処理選択部は、前記一つ以上の要素取得部(10)によって取得された前記要素の強度を表す数値に基づいて、演算処理を実行させる画像処理部を選択する。
【0008】
この形態の画像処理装置によれば、処理選択部が、要素取得部によって取得された要素の数値に基づいて、第1画像処理部または第2画像処理部のいずれかに演算処理を実行させる。これにより、高精度な画像処理を実現することができる。
【図面の簡単な説明】
【0009】
図1】本実施形態の車両の構成を説明する図。
図2】第1画像処理部と第2画像処理部と処理選択部と車両制御部の構成を示すブロック図。
図3】第1画像処理部および第2画像処理部のそれぞれの、明るさに対する検出精度を示す図。
図4】画像処理装置による画像処理部の選択の一例を示す工程図。
図5】第2実施形態の車両を示す図。
図6】雨量に対する画像処理部の精度を示す図。
図7】第2実施形態の画像処理装置による画像処理部の選択の一例を示す工程図。
図8】第3実施形態の画像処理装置による画像処理部の選択の一例を示す工程図。
【発明を実施するための形態】
【0010】
A.第1実施形態:
A1.第1実施形態の構成:
図1は、本実施形態の車両VWの構成を説明する図である。車両VWは、ADAS(Advanced Driving Assistant System: 先進運転システム)による走行が可能である。図1に示すように、車両VWは、画像処理装置1を搭載している。画像処理装置1は、車両VWの周囲の対象物の検出を行い、検出の結果に基づいて、車両VWの制御を行う。本実施形態において、画像処理装置1は、撮像部10と、第1要素取得部20と、第1画像処理部30と、第2画像処理部40と、処理選択部50と、車両制御部60と、を備える。
【0011】
撮像部10は、車両VWの周囲の対象物を撮像して、対象物を含む画像を生成する。対象物とは、他車両や、人や、動物や、信号機や、建物等をいう。撮像部10は、第1画像処理部30と、第2画像処理部40と、電気的に接続しており、第1画像処理部30と、第2画像処理部40に、生成した画像のデータを送信する。本実施形態において、撮像部10はカメラである。なお、撮像部10として、車両VWの周囲の対象物を撮像して画像を生成するものであれば、カメラ以外の構成が採用可能である。
【0012】
第1要素取得部20は、車両VWの周囲の環境の要素の、強度を表す数値を取得する。本実施形態において、車両VWの周囲の環境の要素とは明るさであり、第1要素取得部20は照度センサである。照度センサは、車両VWの前方からの外光を受光するように、車両VWの配置されている。照度センサは、受光した光の強度を表す数値を取得する。本実施形態において、数値の単位はルクス(lx)である。なお、本明細書における要素取得部によって取得される数値は、要素取得部が要素の強度の程度を検知して、その程度に応じた値を出力することを含む。第1要素取得部20は、取得した数値を示す信号を処理選択部50に送信する。
【0013】
図2は、第1画像処理部30と第2画像処理部40と処理選択部50と車両制御部60の構成を示すブロック図である。第1画像処理部30は、第1ニューラルネットワークモデルを使用して、撮像部10が生成した画像に対して演算処理を行うことができる。第1画像処理部30は、演算処理によって得られたデータを、処理選択部50に送信する。本実施形態において、第1ニューラルネットワークモデルは、CNN(Convolutional neural network)である。第1画像処理部30は、NPU(Neural Processing Unit)31と、プロセッサ32と、メモリ33と、を備えている。NPU31は、CNNを使用した演算処理を実行する。プロセッサ32は、NPU31の全体制御を行う。メモリ33は、演算処理によって得られた結果を記憶する。
【0014】
第2画像処理部40は、第2ニューラルネットワークモデルを使用して、撮像部10が生成した画像に対して演算処理を行うことができる。第2画像処理部40は、演算処理によって得られたデータを、処理選択部50に送信する。本実施形態において、第2ニューラルネットワークモデルは、Transformerである。第2画像処理部40は、NPU41と、プロセッサ42と、メモリ43と、を備えている。NPU41は、Transformerを用いた演算処理を実行する。プロセッサ42は、NPU41の全体制御を行う。メモリ43は、演算処理によって得られた結果を記憶する。
【0015】
処理選択部50は、第1画像処理部30と第2画像処理部40と、の二つの画像処理部のうち、画像に対して演算処理を実行させる画像処理部を選択する。具体的には、処理選択部50は、第1要素取得部20によって取得された要素の強度を表す数値に基づいて、画像に対して演算処理を実行させる画像処理部を選択する。また、処理選択部50は、選択した画像処理部の演算処理の結果のデータを、車両制御部60に送信する。本実施形態においては、処理選択部50は、照度センサが受光した光の強度を表す数値に基づいて、画像処理部を選択する。本実施形態において処理選択部50は、プロセッサ51と、メモリ52を備えている。プロセッサ51は、画像処理部を選択する。メモリ52は、処理選択部50が選択した画像処理部と、選択した画像処理部による演算処理の結果のデータを、時系列で記憶する。
【0016】
車両制御部60は、処理選択部50によって選択された画像処理部の演算処理により得られたデータに基づいて、車両VWの制御を行う。車両制御部60は、例えばデータに、画像において他車両が含まれていることが示されている場合に、車両VWの図示しないブレーキを作動させて車両VWを停止させることができる。車両制御部60は、処理選択部50と互いに信号を送受信することが可能である。車両制御部60は、プロセッサ61と、ROM62と、RAM63とを備える。プロセッサ61が、ROM62に記憶された各種プログラムをRAM63上に展開することによって、各種プログラムを実行する。
【0017】
本実施形態において車両制御部60は、第1モードMD1と第2モードMD2と、を備える。第1モードMD1は、処理選択部50に選択された画像処理部に基づいて制御を行うモードである。第2モードMD2は、処理選択部50に選択された画像処理部に基づかずに、第1画像処理部30が出力した演算処理のデータに基づいて、車両VWの制御を行うモードである。車両制御部60は、処理選択部50による画像処理部の選択が行われていない間は、第2モードMD2で車両VWの制御を実行する。
【0018】
また、本実施形態においては、車両制御部60によって第2モードMD2が実行されている間、第1画像処理部30および第2画像処理部40の両方によって、演算処理が実行されている。そして、車両制御部60は、第1モードMD1において、第1画像処理部30と第2画像処理部40と、のうち、処理選択部50が選択した画像処理部が出力した、演算処理の結果のデータに基づいて、車両VWの制御を行う。
【0019】
A2.第1画像処理部30と第2画像処理部40のそれぞれの特徴:
図3は、第1画像処理部30および第2画像処理部40のそれぞれの、明るさに対する検出精度を示す図である。図3において、明るさの強度を横軸において示し、画像処理部の検出精度を縦軸において示している。本明細書における検出精度とは、予め準備された画像に対し画像処理部が演算処理を行った場合の、正解の割合をいう。検出精度は、作業者によって要素別に、予め試験される。本実施形態においては、複数の、異なる明るさの画像に対して画像処理部が演算処理を行った場合の検出精度を示している。以下、画像処理部の検出精度を、「精度」と表記する。
【0020】
図3に示すように、第1の範囲FR1において、CNNを使用した第1画像処理部30の精度が、Transformerを使用した第2画像処理部40の精度よりも高い。また、強度の第2の範囲SR1において、第2画像処理部40の精度が、第1画像処理部30の精度よりも高い。図3において、第1画像処理部30の精度を表す線を実線で表し、第2画像処理部40の精度を表す線を一点鎖線で表している。後に説明する図6においても同様である。本実施形態においては、第1の範囲FR1の、最も小さな数値は、第1閾値T1よりも大きい。また、第2の範囲SR1の、最も大きな数値は、第1閾値T1よりも小さい。
【0021】
本実施形態における第1閾値T1は、作業者が準備した、明るさが異なる複数の画像に対して第1画像処理部30と第2画像処理部40のそれぞれが演算処理を実行した際の、第1画像処理部30の精度が、第2画像処理部40の精度と等しくなった画像データの明るさの強度である。
【0022】
なお、第1閾値T1は、上述した方法以外で決定されることが可能である。例えば、作業者によって計測された、任意の複数のトンネルのそれぞれの入口の明るさの強度のうち、最も大きな強度を、第1閾値T1としてもよい。任意の複数のトンネルの入口の明るさは、作業者によってそれぞれのトンネルの入り口から、1m、トンネルの内側において計測される。なお、任意の複数のトンネルのそれぞれの複数箇所において明るさが計測され、そのうちの最も大きな強度が第1閾値T1とされてもよい。
【0023】
また、一般に、CNNは晴天時の日中において、時間経過に応じた明るさの変化に対する精度変化が、Transformerに対して小さい性質を有することが知られている。晴天時の日中の明るさは、図3における第1の範囲FR1に属している。一方、CNNは、トンネル内や雨天等、車両VWの外界の明るさの強度が晴天時の日中と比べて小さくなる状況において、Transformerに対して、精度が低くなることが知られている。晴天時と比べて強度が小さくなる状況における明るさは、図3の第2の範囲SR1に属している。
【0024】
A3.処理選択部50による第1画像処理部30または第2画像処理部40の選択:
図4は、画像処理装置1による画像処理部の選択の一例を示す工程図である。図4のステップS10において、ユーザーによって車両VWの電源が入れられた後、車両制御部60が、第2モードMD2で車両VWの制御の実行を開始する。第2モードMD2の開始後、予め定められた時間の経過後に、処理がステップS20に移行する。予め定められた時間は、5秒や10秒や、1分等、任意に設定されることが可能である。
【0025】
ステップS20において、撮像部10によって生成された画像のデータが、第1画像処理部30および第2画像処理部40に送信される。ステップS30において、第1画像処理部30および第2画像処理部40が、画像データに対して演算処理を実行する。そして、第1画像処理部30および第2画像処理部40は、処理選択部50に、演算処理の結果のデータを送信する。処理選択部50は、第1画像処理部30による演算処理の結果のデータを車両制御部60に送信する。そして、車両制御部60によって、第1画像処理部30が出力した演算処理の結果に基づいて、車両VWの制御が行われる。なお、以降、処理が終了するまで撮像部10による画像の生成と、第1画像処理部30および第2画像処理部40による演算処理と結果の出力が、1秒毎に実行される。
【0026】
ステップS40において、照度センサが、受光した光の強度に対応した数値を取得して、数値のデータを処理選択部50に送信する。なお、ステップS40の処理は、ステップS20の処理の前に実行されてもよい。ステップS50において、処理選択部50が、照度センサが受光した光の強度を表す数値に基づいて、画像処理部を選択する。具体的には、数値が第1閾値T1以上である場合、処理選択部50は、第1画像処理部30を選択する。数値が第1閾値T1よりも小さい場合、処理選択部50は、第2画像処理部40を選択する。本実施形態においては、処理選択部50は、第1画像処理部30を選択し、ステップS30において第1画像処理部30から受信した演算処理の結果のデータを、車両制御部60に送信する。
【0027】
ステップS60において、車両制御部60が、第1モードMD1によって車両VWを制御する。本実施形態においては、車両制御部60が、第1画像処理部30による演算処理のデータに基づいて、車両VWの制御を行う。ステップS70において、車両制御部60によって、処理を終了するか否かの判定が行われる。ステップS60の処理の実行から予め定められた時間内に、ユーザーによって車両VWが停止され、車両VWの電源が落とされる場合、処理は終了する。ステップS60の処理の実行から予め定められた時間経過時に、ユーザーによって車両VWの走行が継続されている場合、車両制御部60によって、処理を終了しないと判定され、第1モードMD1が実行された状態で、処理は再度ステップS40に移行する。
【0028】
本実施形態において、処理選択部50が、第1要素取得部20によって取得された要素の数値に基づいて、第1画像処理部30または第2画像処理部40のいずれかに演算処理を実行させる。これにより、高精度な画像処理を実現することができる。
【0029】
本実施形態においては、照度センサが受光した光の強度を表す数値に基づいて、処理選択部50によって画像処理部が選択される。画像処理部による演算処理の精度において、影響を与える頻度が高いと考えられる明るさに基づいて、画像処理部が選択されることで、高精度な画像処理が実現されることが可能である。
【0030】
車両VWの走行は、晴天時の日中に行われることが最も多いと考えられる。本実施形態において、図3に示すように、明るさの強度の第1の範囲FR1において、CNNを使用した第1画像処理部30の精度が、Transformerを使用した第2画像処理部40の精度よりも高い。そして、処理選択部50による画像処理部の選択が行われていない、第2モードMD2が実行されている間は、第1画像処理部30の演算処理によって得られたデータに基づいて車両VWが制御される。これにより、走行の環境として確率が高い晴天時の日中において、処理選択部50による画像処理部による選択が行われていない間、明るさの強度に対応して生じる演算処理の精度の低下を抑えることができる。
【0031】
さらに、第2モードMD2において、第1画像処理部30と第2画像処理部40の両方によって演算処理が実行されているため、第2モードMD2から第1モードMD1に制御が切り替えられた際に、演算処理の結果のデータが準備されている。そのため、車両制御部60が、データに基づいて迅速に車両VWの制御を行うことができる。
【0032】
また、一般に、CNNは、入力されたアナログ信号をデジタル化するA/D変換時のノイズが大きくなると、ノイズの影響を受け、精度が低くなることが知られている。車両VWがトンネルに進入したときや、建物内に進入したとき等、車両VWの周囲が暗くなる状況において、A/D変換時のノイズが大きくなる可能性が高い。そのため、第1要素取得部20が取得した数値が第1閾値T1よりも小さい第2の範囲SR1に属する場合に、Transformerを使用した第2画像処理部40が処理選択部50によって選択されることで、高精度な演算処理が実行される。
【0033】
B.第2実施形態:
第2実施形態の画像処理装置1Bは、第1画像処理部30BがTransformerを使用した画像処理部であり、第2画像処理部40BがCNNを使用した画像処理部である点と、明るさではなく雨の強度に基づいて、処理選択部50が画像処理部を選択する点と、要素取得部と、図4のステップS30の処理が、第1実施形態と異なる。その他の構成については、第1実施形態と同様であるので、同一の符号を付し、詳細な説明を省略する。
【0034】
図5は、第2実施形態の車両VWを示す図である。まず、第2実施形態においては、上述したように、Transformerを使用した第1画像処理部30Bと、CNNを使用した第2画像処理部40Bが、画像に対して演算処理を行う。
【0035】
第2実施形態の第2要素取得部20Bは、車両VWの周囲の環境の、雨の強度を表す数値を取得する。第2要素取得部20Bは、ネット情報部210Bと、雨量検出部220Bと、を備える。ネット情報部210Bは、GPS衛星からの信号を使用して、現在地を取得する。そして、ネットワークを通じて、現在地の降水量を取得する。具体的には、ネット情報部210Bは、ある時間内に、現時点の地表の水平面に達した降水の量を取得する。ネット情報部210Bは、取得した降水量を、1平方メートルに1秒間で降った雨量に変換して、雨の強度を表す数値として取得する。ネット情報部210Bが取得した数値を、第1数値FNと表記する。第1数値FNは、処理選択部50に出力される。
【0036】
雨量検出部220Bは、車両VWの周囲の雨を直接、検出する。雨量検出部220Bは、車両VWのフロントガラスFRに設置されている。本実施形態において、雨量検出部220Bはレインセンサを含む。レインセンサは、赤外線LEDと、Siフォトダイオードの組み合わせによって、フロントガラスFRに接触した雨を検知している。具体的には、赤外線LEDからフロントガラスFRに向かって、赤外光が照射される。フロントガラスFRに水滴が付着していない場合、赤外線LEDはフロントガラスFRで反射して、Siフォトダイオードに入射する。一方、フロントガラスFRに水滴が付着している場合、赤外線LEDはフロントガラスFRで反射せずに、水滴を透過する。Siフォトダイオードへの反射光の入射量で、雨量が測定される。雨量検出部220Bは、レインセンサによって測定された雨量を、1平方メートルに1秒間で降った雨量に変換して、雨の強度を表す数値として出力する。雨量検出部220Bが取得した数値を、第2数値SNと表記する。第2数値SNは、処理選択部50に出力される。
【0037】
処理選択部50は、第1数値FNと第2数値SNのうち、大きい数値を、第2要素取得部20Bが取得した雨の強度を表す数値として使用して、画像処理部の選択を行う。
【0038】
図6は、雨量に対する画像処理部の精度を示す図である。横軸は、1平方メートルに1秒間で降った雨量であり、縦軸は、画像処理部の精度を表している。一般に、CNNは、画像データに移る雨や雪や埃等により、演算処理の精度が低下することが知られている。図6に示すように、第1の範囲FR2において、Transformerを使用した第1画像処理部30Bの精度が、CNNを使用した第2画像処理部40Bの精度よりも高い。また、第2の範囲SR2において、CNNを使用した第2画像処理部40Bの精度が、Transformerを使用した第1画像処理部30Bの精度がよりも高い。第2実施形態において、第1の範囲FR2の、最も小さな数値は、第2閾値T2よりも大きい。また、第2の範囲SR2の、最も大きな数値は、第2閾値T2よりも小さい。
【0039】
第2実施形態において、第2閾値T2は、1平方メートルに対し1秒間で降った雨量が異なる、複数の雨天時の画像を用いて調べられた、第1画像処理部30Bと第2画像処理部40Bのそれぞれの精度が一致する雨量である。画像は、作業者によって準備された任意の画像である。なお、第2閾値T2は、作業者によって決められた任意の値であってもよい。例えば、1平方メートルの画像において、雨粒が占める面積が、予め定められた面積以上となる雨量を、第2閾値T2と定めることもできる。
【0040】
図7は、第2実施形態の画像処理装置1Bによる画像処理部の選択の一例を示す工程図である。ステップS10とステップS20の処理は、図4と同様であるので、詳細を省略する。図7のステップS30Bにおいて、車両制御部60が、第2画像処理部40による演算処理の結果のデータに基づいて、車両VWの制御を行う。つまり、CNNを用いた演算処理の結果のデータに基づいて、車両VWの制御を行う。
【0041】
ステップS40Bにおいて、レインセンサが第1数値FNを出力し、雨量検出部220Bが第2数値SNを出力する。ステップS50Bにおいて、処理選択部50が、第1数値FNと第2数値SNのうち、大きい数値を使用して、画像処理部の選択を行う。具体的には、処理選択部50は、使用する数値が第2閾値T2以上である場合、第1画像処理部30Bを選択する。一方、使用する数値が第2閾値T2よりも小さい場合、第2画像処理部40Bを選択する。ステップS60以降の処理は、図4と同様である。
【0042】
第2実施形態において、処理選択部50が、第1数値FNと第2数値SNのうち、値が大きい数値を使用して画像処理部の選択を行う。これにより、雨の強度に応じて、高精度な演算処理が可能となる。
【0043】
C.第3実施形態:
第3実施形態の画像処理装置1Cは、画像処理装置1Cが第1要素取得部20と第2要素取得部20Bを備える点と、処理選択部50による画像処理部の選択が、上記実施形態と異なる。その他の構成については、第1実施形態と同様であるので、同一の符号を付し、詳細な説明を省略する。
【0044】
第3実施形態において、画像処理装置1Cは、第1要素取得部20と第2要素取得部20Bを備える。第1要素取得部20は車両VWの周囲の環境の明るさの強度を表す数値を取得する。第2要素取得部20Bは、雨の強度を表す数値を取得する。第1要素取得部20は、照度センサであり、第1実施形態と同様の構成を備える。第2要素取得部20Bは、ネット情報部210Bと雨量検出部220Bを備える。ネット情報部210Bと雨量検出部220Bは、第2実施形態と同様の構成を備える。
【0045】
第3実施形態において、第1画像処理部30はCNNを使用した画像処理部であり、第2画像処理部40はTransformerを使用した画像処理部である。第3実施形態においては、図3に示す明るさの強度の第1の範囲FR1において、第1画像処理部30の精度が第2画像処理部40の精度よりも高い。また、第2の範囲SR1において、第2画像処理部40の精度が第1画像処理部30の精度よりも高い。一方、図6に示す雨の強度の第1の範囲FR2において、第2画像処理部40の精度が第1画像処理部30の精度よりも高い。また、第2の範囲SR2において、第1画像処理部30の精度が、第2画像処理部40の精度よりも高い。
【0046】
図8は、第3実施形態の画像処理装置1Cによる画像処理部の選択の一例を示す工程図である。ステップS10からステップS30の処理は、図3と同様であるので、説明を省略する。ステップS40Cにおいて、第1要素取得部20と第2要素取得部20Bのそれぞれから、要素の強度を表す数値が出力される。なお、第3実施形態においては、ネット情報部210Bと雨量検出部220Bは電気的に接続しており、第1数値FNと第2数値SNのうち、大きい数値が、第2要素取得部20Bから出力される。
【0047】
ステップS50Cにおいて、処理選択部50によって、第1要素取得部20と第2要素取得部20Bのそれぞれが取得した要素の強度を表す数値に基づいた画像処理部の選択が行われる。第1要素取得部20が取得した数値に基づく画像処理部の選択が、図4と同様の処理で実行される。第2要素取得部20Bが取得した数値に基づく画像処理部の選択が、図7と同様の処理で実行される。
【0048】
ステップ60Cにおいて、処理選択部50によって、第2画像処理部40が予め定められた回数以上、選択されているかの判定が行われる。ステップS50Cにおいて、第1要素取得部20が取得した数値に基づいて、第2画像処理部40が選択された場合、第2画像処理部40が一回選択された、と表記する。ステップS50Cにおいて、第2要素取得部20Bが取得した数値に基づいて、第2画像処理部40が選択された場合、第2画像処理部40が一回選択された、と表記する。第3実施形態において、予め定められた回数は、一回である。処理選択部50によって第2画像処理部40が一回以上選択された場合、処理はステップS70Cに移行する。処理選択部50によって、第2画像処理部40が一回も選択されず、第1画像処理部30のみが選択された場合、処理はステップS80Cに移行する。なお、予め定められた回数は、作業者によって決定され、予め処理選択部50に入力される。
【0049】
ステップS70Cにおいて、車両制御部60によって第1モードMD1が実行される。ステップS70Cにおいては、第2画像処理部40が演算処理を実行する。ステップS80Cにおいて、車両制御部60によって第1モードMD1が実行される。ステップ80Cにおいては、第1画像処理部30が演算処理を実行する。その後、処理はステップS90Cに移行する。ステップS90Cの処理は、図4のステップS70の処理と同様である。
【0050】
第3実施形態において、画像処理装置1Cが、一つ以上の複数の要素の強度を表す数値に基づいて、画像処理部を選択することができる。
【0051】
D.第4実施形態:
第4実施形態は、画像処理装置1Dが、図示しない第3要素取得部20Dを備え、第3要素取得部20Dが、撮像部10が取得した画像に基づいて、車両VWの周囲の環境の要素の強度を表す数値を取得する点と、照度センサを備えない点で、上記第1実施形態と異なる。その他の構成については、第1実施形態と同様であるので、同一の符号を付し、詳細な説明を省略する。
【0052】
第4実施形態において、撮像部10が、生成した画像のデータを、第3要素取得部20Dに送信する。第3要素取得部20Dは、画像のデータの、単位ピクセル当たりの明るさを検出する。そして、画像の明るさの平均を算出し、強度を表す数値を取得して、数値を処理選択部50に出力する。処理選択部50は、第3要素取得部20Dによって取得された数値に基づいて、第1実施形態と同様の方法で、画像処理部を選択する。
【0053】
第4実施形態において、要素の強度を表す数値を取得する装置を用いることなく、撮像部10が取得した画像によって、車両VWの周囲の環境の要素の強度を表す数値を取得することができる。
【0054】
E.他の実施形態:
E1:他の実施形態1:
(1)上記第1実施形態において、第1要素取得部20は明るさの強度を表す数値を取得している。また、上記第2実施形態において、第2要素取得部20Bは、雨の強度を表す数値を取得している。なお、例えば要素取得部は、フロントガラスに付着した埃や雪の程度を表す数値を取得してもよい。
【0055】
(2)上記実施形態において、第1の範囲FR1の、最も小さな数値は、第1閾値T1よりも大きい。また、第2の範囲SR1の、最も大きな数値は、第1閾値T1よりも小さい。また、第1の範囲FR2の、最も小さな数値は、第2閾値T2よりも大きい。また、第2の範囲SR2の、最も大きな数値は、第2閾値T2よりも小さい。なお、第1閾値の決定の方法によっては、第1閾値が、第1の範囲と第2の範囲のいずれかに属していてもよい。例えば、作業者によって計測された、任意の複数のトンネルのそれぞれの明るさの強度のうち、最も大きな強度を、第1閾値とする場合、第1閾値が、第1の範囲と第2の範囲のいずれかに属していてもよい。同様に、第2閾値の決定の方法によっては、第2閾値が、第1の範囲と第2の範囲のいずれかに属していてもよい。
【0056】
(3)上記実施形態においては、処理選択部50は、要素取得部が取得した数値が第1閾値T1や第2閾値以上であるか否かに基づいて、画像処理部を選択する。なお、処理選択部は、例えば閾値が第1の範囲と第2の範囲のいずれかに属している態様において、閾値に基づかずに画像処理部を選択してもよい。この態様において、処理選択部は、要素取得部が取得した数値が、第1の範囲に属している場合、第1画像処理部を選択し、数値が第2の範囲に属している場合、第2画像処理部を選択し、数値が第1の範囲と第2の範囲のいずれにも属していない場合、第1画像処理部または第2画像処理部のうち、作業者によって予め定められた方を選択してもよい。
【0057】
(4)上記第1実施形態において、図4のステップS10の処理でユーザーによって車両VWの電源が入れられた後、車両制御部60が、第2モードMD2で車両VWの制御を実行する。なお、車両の電源が入れられるタイミング以外で、第2モードが実行されてもよい。例えば車両制御部によって、自動運転が開始された後に、第2モードで車両の制御が実行されてもよく、車両が走行を開始してから予め定められた時間が経過した後に、車両制御部によって、第2モードで車両の制御が実行されてもよい。
【0058】
(5)例えば、画像処理装置が、第1画像処理部と第2画像処理部と処理選択部と、して機能する制御部を備えていてもよい。この態様において、制御部は、NPUと、プロセッサと、メモリを備え、NPUが、CNNとTransformerを使用した演算処理を実行させ、処理選択部が、第1画像処理部と第2画像処理部と、のうち、いずれかに、演算処理を実行させる。プロセッサは、NPUの全体制御を行う。この形態の画像処理装置によれば、第1画像処理部と第2画像処理部と処理選択部とが、同一の制御部において制御されているため、処理選択部による、第1画像処理部または第2画像処理部の切り替えが迅速に行われる。
【0059】
(6)上記実施形態において、照度センサが受光した光の強度を表す数値が、第1閾値以上である場合、処理選択部50は、第1画像処理部30を選択する。なお、数値が第1閾値よりも大きい場合、処理選択部は、第1画像処理部を選択し、第1閾値以下である場合、第2画像処理部を選択してもよい。
【0060】
(7)上記実施形態において、車両VWは、ADAS(Advanced Driving Assistant System: 先進運転システム)による走行が可能である。なお、例えば車両は、AD(Autonomous Driving)による走行が可能な態様としてもよい。
【0061】
(8)上記第1実施形態において、車両制御部60によって、処理を終了しないと判定された場合、処理は再度図4のステップS40に移行する。なお、車両制御部によって自動運転が終了すると判断された場合に、処理が終了してもよい。また、図4のステップS60の処理の後、処理がステップS40に移行してもよい。この態様において、ユーザーによって走行が終了された場合、いずれの工程の処理が実行されていたとしても、処理が終了する。
【0062】
(9)上記第1実施形態において、第2モードMD2の開始後、予め定められた時間の経過後に、処理がステップS20に移行する。なお、例えば第2モードの開始直後に処理がステップS20に移行し、その後、予め定められた時間が経過したあとに、処理がステップS60に移行してもよい。
【0063】
E2:他の実施形態2:
(1)上記第3実施形態において、画像処理装置1Bは二つの要素取得部として、第1要素取得部20と第2要素取得部20Bを備えている。なお、例えば画像処理装置は、三つや五つ等、二つ以外の複数の要素取得部を備えていてもよい。この態様において、要素取得部はそれぞれ、雨や、明るさや、埃等の一つ以上の要素うち、一つの要素の強度を表す数値を取得する。そして、複数の要素取得部によって取得された要素の数値にもとづいて、処理選択部が画像処理部を選択する。
【0064】
(2)上記第3実施形態において、予め定められた回数は一回である。なお、作業者は、車両が走行される環境や、要素の種類や数に応じて、予め定められた回数を決定することが可能である。例えば、画像処理装置が二つの要素取得部を備えている態様において、処理選択部によって、第2画像処理部が二回選択された場合のみ、第1モードにおいて第2画像処理部が演算処理を実行する態様としてもよい。また、例えば画像処理装置が五つの要素取得部を備えている態様において、処理選択部によって、第2画像処理部が一回以上選択された場合に、第1モードにおいて第2画像処理部が演算処理を実行する態様としてもよく、五回選択された場合に、第1モードにおいて第2画像処理部が演算処理を実行する態様としてもよい。
【0065】
E3:他の実施形態3:
上記第3実施形態において、第2画像処理部40が予め定められた回数以上、選択されている場合、処理選択部50によって第2画像処理部40が選択される。なお、例えば、画像処理装置が複数の要素取得部を備え、そのうちの一つが照度センサである態様において、処理選択部は、照度センサが取得した数値にのみ基づいて、画像処理部を選択してもよい。
【0066】
E4:他の実施形態4:
(1)上記実施形態において、画像処理装置1は、車両制御部60を備えている。なお、例えば処理選択部が車両の制御を行う態様において、画像処理装置が車両制御部を備えていなくてもよい。
【0067】
(2)上記実施形態において、車両制御部60は、第1モードMD1と、第2モードMD2を備えている。なお、例えば要素取得部によって数値が取得されるまでの間、ユーザーの運転によって車両が走行される態様において、車両制御部は、第2モードを備えず、第1モードのみを備え、処理選択部による画像処理部の選択が行われていない間は、車両制御部による制御が行われなくてもよい。また、車両の電源が入れられた直後に、処理選択部による画像処理部の選択が実行される態様において、第2モードが実行されなくてもよい。
【0068】
E5:他の実施形態5:
(1)上記実施形態において、第2モードMD2が実行されている間は、第1画像処理部30および第2画像処理部40による演算処理が実行され、第1モードMD1において、第1画像処理部30および第2画像処理部40のうち、一方が出力した演算処理のデータに基づいて、車両VWの制御が行われる。なお、例えば車両制御部が第2モードを備えていない態様において、処理選択部による前記画像処理部の選択が行われていない間、例えば第1画像処理部による演算処理のみが実行されてもよく、第1画像処理部および第2画像処理部の両方において、演算処理が実行されなくてもよい。また、例えば車両制御部が第2モードを備えていない態様において、要素取得部が取得した数値を示す信号を受信した処理選択部が画像処理部を選択し、その後、選択された画像処理部が、撮像部から画像のデータを受信し、演算処理を実行してもよい。
【0069】
E6:他の実施形態6:
(1)上記第4実施形態において、第3要素取得部20Dは、撮像部10が生成した画像に基づいて、要素の強度を表す数値を取得する。なお、例えば要素取得部は、照度センサと、撮像部が生成した画像に基づいて要素の強度を表す数値を取得する照度処理部と、を備え、照度処理部と照度センサを併用して、要素の強度を表す数値を取得してもよい。この態様において、照度処理部と照度センサのそれぞれが取得した数値のうち、小さい数値に基づいて、処理選択部によって画像処理部が選択されてもよい。また、この態様において、処理選択部は、照度センサに異常が発生した場合に、照度センサの代替として、照度処理部が取得した数値を用いて、画像処理部を選択してもよい。
【0070】
(2)要素取得部は、ネット情報部と雨量検出部と撮像部とを併用して、雨の強度を表す数値を取得してもよい。
【0071】
E7:他の実施形態7:
(1)上記第2実施形態において、第2要素取得部20Bは、ネット情報部210Bと、雨量検出部220Bと、を備える。なお、例えば要素取得部は、ネット情報部と雨量検出部の、いずれか一方のみを備えていてもよい。
【0072】
(2)上記第2実施形態において、ネット情報部210Bと、雨量検出部220Bは、1平方メートルに1秒間で降った雨量を出力する。なお、例えばネット情報部と、雨量検出部は、1平方メートルに1分間で降った雨量を出力してもよい。
【0073】
(3)上記第2実施形態において、処理選択部50は、第1数値FNと第2数値SNのうち、大きい数値を、第2要素取得部20Bが取得した雨の強度を表す数値として使用して、画像処理部の選択を行う。なお、例えば第2要素取得部が、第1数値と第2数値のうち、大きい方の数値を示す信号を、処理選択部に送信してもよい。
【0074】
また、例えばネット情報部と雨量検出部は、それぞれ予め定められた閾値以上の数値を取得した場合に、処理選択部に雨を検出したことを示す信号と、数値を示す信号を送信し、処理選択部は、受信した数値に基づいて、画像処理部の選択を行ってもよい。この態様において、ネット情報部と雨量検出部のいずれか一方が、雨を検出した場合に、処理選択部による画像処理部の選択が行われることができる。車両が走行する環境において雨が降っている場合に、迅速に画像処理部の選択が行われるため、高精度な演算処理が可能となる。
【0075】
E8:他の実施形態8:
上記第1実施形態において、第1閾値T1は、作業者が準備した、明るさが異なる複数の画像に対して第1画像処理部30と第2画像処理部40のそれぞれが演算処理を実行した際の、第1画像処理部30の精度が、第2画像処理部40の精度と等しくなった画像データの明るさの強度であり、第1の範囲FR1は、第1閾値T1よりも大きい数値の範囲である。例えば明るさの第1の範囲とは、トンネルの内部の明るさの強度よりも大きい範囲のことをいってもよい。本明細書におけるトンネルの内部の明るさの強度とは、国土交通省の道路照明施設設置基準において定められた、トンネルの基本照明の平均路面輝度、または、国土交通省の道路照明施設設置基準において定められた、入口部照明各部の路面輝度よりも大きい範囲のいずれかである。
【0076】
本開示は、上述の実施形態や変形例に限られるものではなく、その趣旨を逸脱しない範囲において種々の構成で実現することができる。例えば、発明の概要の欄に記載した各形態中の技術的特徴に対応する実施形態、変形例中の技術的特徴は、上述の課題の一部又は全部を解決するために、あるいは、上述の効果の一部又は全部を達成するために、適宜、差し替えや、組み合わせを行うことが可能である。また、その技術的特徴が本明細書中に必須なものとして説明されていなければ、適宜、削除することが可能である。
【符号の説明】
【0077】
1、1B、1C、1D…画像処理装置、10…撮像部、20…第1要素取得部、20B…第2要素取得部、20D…第3要素取得部、30、30B…第1画像処理部、31…第1画像処理部のNPU、32…第1画像処理部のプロセッサ、33…第1画像処理部のメモリ、40、40B…第2画像処理部、41…第2画像処理部のNPU、42…第2画像処理部のプロセッサ、43…第2画像処理部のメモリ、50…処理選択部、51…処理選択部のプロセッサ、52…処理選択部のメモリ、60…車両制御部、61…車両制御部のプロセッサ、62…ROM、63…RAM、210B…ネット情報部、220B…雨量検出部、FN…第1数値、FR…フロントガラス、FR1、FR2…第1の範囲、MD1…第1モード、MD2…第2モード、SN…第2数値、SR1、SR2…第2の範囲、T1…第1閾値、T2…第2閾値、VW…車両
図1
図2
図3
図4
図5
図6
図7
図8