(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】
(24)【登録日】2022-01-24
(45)【発行日】2022-02-01
(54)【発明の名称】サーバ装置、判別プログラム及び判別システム
(51)【国際特許分類】
G01N 21/17 20060101AFI20220125BHJP
G06T 1/00 20060101ALI20220125BHJP
G06T 9/00 20060101ALI20220125BHJP
【FI】
G01N21/17 F
G06T1/00 330A
G06T9/00 200
(21)【出願番号】P 2017019293
(22)【出願日】2017-02-06
【審査請求日】2019-12-20
(73)【特許権者】
【識別番号】000006747
【氏名又は名称】株式会社リコー
(74)【代理人】
【識別番号】100107766
【氏名又は名称】伊東 忠重
(74)【代理人】
【識別番号】100070150
【氏名又は名称】伊東 忠彦
(72)【発明者】
【氏名】金箱 裕介
【審査官】赤木 貴則
(56)【参考文献】
【文献】特開平11-211659(JP,A)
【文献】特開2013-066166(JP,A)
【文献】米国特許出願公開第2013/0050570(US,A1)
【文献】米国特許出願公開第2008/0129541(US,A1)
【文献】特開2013-148504(JP,A)
【文献】特開2015-144421(JP,A)
【文献】特開2017-016414(JP,A)
(58)【調査した分野】(Int.Cl.,DB名)
G01N 21/00-G01N 21/01
G01N 21/17-G01N 21/61
G06T 1/00
G06T 9/00
G06N 3/00-G06N 3/12
JSTPlus/JMEDPlus/JST7580(JDreamIII)
(57)【特許請求の範囲】
【請求項1】
路面を撮影することで得られる輝度画像と偏光画像とを取得する取得手段と、
前記輝度画像と前記偏光画像とを連結した画像を
入力データとし、該入力データと等しい出力データが出力されるよう機械学習されたオートエンコーダの、少なくとも入力層と中間層とを含む圧縮器に、新たに取得された輝度画像と偏光画像とを連結した画像を入力することで、該中間層より画像構造を示す情報を抽出する抽出手段と、
前記輝度画像の画素値の統計値及び前記偏光画像の画素値の統計値と、前記輝度画像と前記偏光画像とを連結した画像を前記圧縮器に入力することで抽出された画像構造を示す情報とを入力データとし、路面の状態が機械学習されたニューラルネットワークを含む判別器に、前記新たに取得された輝度画像の画素値の統計値及び前記新たに取得された偏光画像の画素値の統計値と、前記抽出手段により抽出された画像構造を示す情報とを入力することで、路面の状態を判別する判別手段と
を有することを特徴とするサーバ装置。
【請求項2】
前記路面を撮影した位置を示す位置情報と、前記判別手段が判別した判別結果とを対応付けて出力する出力手段を更に有することを特徴とする請求項1に記載のサーバ装置。
【請求項3】
前記判別手段は、前記
新たに取得された輝度画像の平均画素値と、前記
新たに取得された偏光画像の平均画素値と、前記
抽出手段により抽出された画像構造を示す情報とを用いて、前記路面の状態を判別することを特徴とする請求項1、2のいずれか1項に記載のサーバ装置。
【請求項4】
路面を撮影することで得られる輝度画像と偏光画像とを取得する取得工程と、
前記輝度画像と前記偏光画像とを連結した画像を
入力データとし、該入力データと等しい出力データが出力されるよう機械学習されたオートエンコーダの、少なくとも入力層と中間層とを含む圧縮器に、新たに取得された輝度画像と偏光画像とを連結した画像を入力することで、該中間層より画像構造を示す情報を抽出する抽出工程と、
前記輝度画像の画素値の統計値及び前記偏光画像の画素値の統計値と、前記輝度画像と前記偏光画像とを連結した画像を前記圧縮器に入力することで抽出された画像構造を示す情報とを入力データとし、路面の状態が機械学習されたニューラルネットワークを含む判別器に、前記新たに取得された輝度画像の画素値の統計値及び前記新たに取得された偏光画像の画素値の統計値と、前記抽出工程において抽出された画像構造を示す情報とを入力することで、路面の状態を判別する判別工程と
をコンピュータに実行させるための判別プログラム。
【請求項5】
路面を撮影する偏光カメラと、
前記偏光カメラによる撮影に基づき、輝度画像と偏光画像とを生成する制御装置と、を有する判別システムであって、
前記制御装置は、
前記輝度画像と前記偏光画像とを連結した画像を
入力データとし、該入力データと等しい出力データが出力されるよう機械学習されたオートエンコーダの、少なくとも入力層と中間層とを含む圧縮器に、新たに取得された輝度画像と偏光画像とを連結した画像を入力することで、該中間層より画像構造を示す情報を抽出する抽出手段と、
前記輝度画像の画素値の統計値及び前記偏光画像の画素値の統計値と、前記輝度画像と前記偏光画像とを連結した画像を前記圧縮器に入力することで抽出された画像構造を示す情報とを入力データとし、路面の状態が機械学習されたニューラルネットワークを含む判別器に、前記新たに取得された輝度画像の画素値の統計値及び前記新たに取得された偏光画像の画素値の統計値と、前記抽出手段により抽出された画像構造を示す情報とを入力することで、路面の状態を判別する判別手段と
を有することを特徴とする判別システム。
【請求項6】
前記判別システムは、前記制御装置と接続されるサーバ装置を更に有し、
前記サーバ装置は、
前記輝度画像と
前記偏光画像とを連結した画像を、入力データとして前記オートエンコーダに入力した場合の出力データが、該入力データと等しくなるように前記オートエンコーダのパラメータを決定することで、前記抽出手段を生成する生成手段を有することを特徴とする請求項5に記載の判別システム。
【請求項7】
前記判別手段は、前記
新たに取得された輝度画像の平均画素値と、前記
新たに取得された偏光画像の平均画素値と、前記
抽出手段により抽出された画像構造を示す情報とを用いて、前記路面の状態を判別することを特徴とする請求項5または6に記載の判別システム。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、サーバ装置、判別プログラム及び判別システムに関する。
【背景技術】
【0002】
車両が走行する道路を管理する管理業務において、路面状態を把握することは重要である。特に、冬季においては、凍結や積雪等の路面状態を把握し、凍結防止剤の散布位置を決定したり、散布量を調整するなどの対応が求められる。
【0003】
一方で、従来より、偏光カメラを用いて路面を撮影し、偏光画像を用いて路面状態を判別する判別システムが知られている。当該判別システムによれば、輝度画像のみを用いて判別した場合と比較して、特定の路面状態について、判別精度を向上させることができる。
【発明の概要】
【発明が解決しようとする課題】
【0004】
しかしながら、上記判別システムを用いた場合であっても、乾燥、湿潤、凍結、積雪等のように様々に変化する路面状態を精度よく判別することは容易ではなく、更なる判別精度の向上が求められている。
【0005】
本発明は、上記課題に鑑みてなされたものであり、路面状態の判別精度を向上させることを目的とする。
【課題を解決するための手段】
【0006】
本発明の各実施形態に係るサーバ装置は、以下のような構成を有する。即ち、路面を撮影することで得られる輝度画像と偏光画像とを取得する取得手段と、前記輝度画像と前記偏光画像とを連結した画像を入力データとし、該入力データと等しい出力データが出力されるよう機械学習されたオートエンコーダの、少なくとも入力層と中間層とを含む圧縮器に、新たに取得された輝度画像と偏光画像とを連結した画像を入力することで、該中間層より画像構造を示す情報を抽出する抽出手段と、前記輝度画像の画素値の統計値及び前記偏光画像の画素値の統計値と、前記輝度画像と前記偏光画像とを連結した画像を前記圧縮器に入力することで抽出された画像構造を示す情報とを入力データとし、路面の状態が機械学習されたニューラルネットワークを含む判別器に、前記新たに取得された輝度画像の画素値の統計値及び前記新たに取得された偏光画像の画素値の統計値と、前記抽出手段により抽出された画像構造を示す情報とを入力することで、路面の状態を判別する判別手段とを有することを特徴とする。
【発明の効果】
【0007】
本発明の各実施形態によれば、路面状態の判別精度を向上させることができる。
【図面の簡単な説明】
【0008】
【
図1】判別システムのシステム構成の一例を示す図である。
【
図3】偏光カメラのハードウェア構成の一例を示す図である。
【
図5】サーバ装置のハードウェア構成の一例を示す図である。
【
図8】第1生成部の機能構成の一例を示す図である。
【
図9】圧縮器生成部の処理を説明するための図である。
【
図10】他の圧縮器生成部の処理を説明するための図である。
【
図11】第2生成部の機能構成の一例を示す図である。
【
図12】判別器生成部の処理を説明するための図である。
【
図13】路面状態判別部の機能構成の一例を示す図である。
【
図14】画像構造情報抽出部における画像構造情報の抽出処理を説明するための図である。
【
図15】判別部における判別処理を説明するための図である。
【
図16】路面状態判別処理の流れを示すフローチャートである。
【
図18】判別結果に対する評価結果の一例を示す図である。
【
図19】路面状態判別部の機能構成の他の一例を示す図である。
【発明を実施するための形態】
【0009】
以下、各実施形態の詳細について添付の図面を参照しながら説明する。なお、各実施形態に係る明細書及び図面の記載に際して、実質的に同一の機能構成を有する構成要素については、同一の符号を付することにより重複した説明を省く。
【0010】
[第1の実施形態]
<1.判別システムのシステム構成>
はじめに、第1の実施形態に係る判別システムのシステム構成について説明する。
図1は、判別システムのシステム構成の一例を示す図である。
【0011】
図1に示すように、判別システム100は、計測装置110と、サーバ装置120と、端末130とを有する。計測装置110とサーバ装置120とはネットワーク140を介して接続される。また、サーバ装置120と端末130とはネットワーク140を介して接続される。
【0012】
計測装置110は、車両111に搭載され、車両111の走行中に、計測情報を取得する。計測情報とは、路面の状態を判別するのに用いられる情報である。計測装置110は、取得した計測情報をネットワーク140を介してサーバ装置120に送信する。
【0013】
サーバ装置120には、第1生成プログラム、第2生成プログラム、路面状態判別プログラムがインストールされており、当該プログラムが実行されることで、サーバ装置120は、第1生成部121、第2生成部122、路面状態判別部123として機能する。
【0014】
第1生成部121は、路面状態が既知の輝度画像及び偏光画像を含む学習画像情報を学習画像情報格納部124より読み出し、輝度画像と偏光画像とを連結することで得られる画像を用いた機械学習により「圧縮器」を生成する。本実施形態において、圧縮器とは、画像を圧縮することで「画像構造情報」を抽出するニューラルネットワークである(したがって、"圧縮器を生成する"、とは、機械学習によりニューラルネットワークのパラメータを決定し、設定することに他ならない)。また、画像構造情報とは、画像の見た目の情報を保持したまま低次元に圧縮することで得られる情報である。第1生成部121は、生成した圧縮器を、「画像構造情報抽出部」として第2生成部122及び路面状態判別部123に組み込む。
【0015】
第2生成部122は、学習画像情報を学習画像情報格納部124より読み出し、輝度画像、偏光画像、露光時間を用いた機械学習により「判別器」を生成する。本実施形態において、判別器とは、計測情報に基づいて路面状態を判別するためのニューラルネットワークである(したがって、"判別器を生成する"、とは、機械学習によりニューラルネットワークのパラメータを決定し、設定することに他ならない)。第2生成部122は、生成した判別器を、「判別部」として路面状態判別部123に組み込む。
【0016】
路面状態判別部123は、第1生成部121により画像構造抽出部として組み込まれた圧縮器と、第2生成部122により判別部として組み込まれた判別器とを含む。路面状態判別部123は、計測装置110より送信され、計測情報格納部125に格納された計測情報を読み出し、当該計測情報に基づき各位置での路面状態を判別し、判別結果を路面状態情報として端末130に送信する。
【0017】
端末130は、サーバ装置120より送信された路面状態情報を取得し、各位置での路面状態に基づいて、例えば、凍結防止剤の散布量を算出する。また、端末130は、取得した路面状態情報に基づいて、地図情報に対してマーキングを施し、当該道路を走行する車両の運転者に、各位置での路面状態がわかる地図情報を提供する。
【0018】
<2.計測装置の構成>
次に、計測装置110の構成について説明する。
図2は、計測装置の一構成例を示す図である。
図2に示すように、計測装置110は、GPS(Global Positioning System)201、通信装置202、制御装置203、照明装置204、偏光カメラ205を有する。
【0019】
GPS201は、車両111の現在位置を示す位置情報を逐次制御装置203に通知する。制御装置203は、照明装置204のオンオフ制御、偏光カメラ205の撮影制御を行うとともに、偏光カメラ205にて撮影されたP成分画像及びS成分画像に基づき、偏光画像及び輝度画像を生成する。また、制御装置203は、P成分画像及びS成分画像が撮影された際の露光時間を偏光カメラ205から取得し、生成した偏光画像及び輝度画像、並びに、通知された位置情報とともに、通信装置202に通知する。
【0020】
通信装置202は、制御装置203より通知された、偏光画像、輝度画像、位置情報、露光時間を、計測情報として、サーバ装置120に送信する。
【0021】
なお、上記説明では、制御装置203において偏光画像及び輝度画像を生成するものとしたが、偏光画像及び輝度画像は、サーバ装置120において生成するように構成してもよい。この場合、制御装置203では、P成分画像及びS成分画像を、露光時間、位置情報とともに通信装置202に通知し、通信装置202では、P成分画像、S成分画像、位置情報、露光時間を、計測情報として、サーバ装置120に送信する。
【0022】
<3.偏光カメラのハードウェア構成>
次に、偏光カメラ205のハードウェア構成について説明する。本実施形態において、偏光カメラ205は、領域分割偏光フィルタを有しているものとする。
【0023】
図3は、偏光カメラのハードウェア構成の一例を示す図である。このうち、
図3(a)は、偏光カメラ205の光学フィルタ304と撮像素子305との位置関係を正面から見た様子を示している。また、
図3(b)は、光学フィルタ304と撮像素子305との位置関係を側面から見た様子を示している。
【0024】
図3(a)、(b)に示すように、光学フィルタ304は、フィルタ基板301、充填層302、偏光フィルタ層303を含む。フィルタ基板301は、撮像レンズを介して光学フィルタ304に入射する入射光を透過する透明な基板である。フィルタ基板301の撮像素子305側の面には、偏光フィルタ層303が形成されており、偏光フィルタ層303を覆うように、充填層302が形成されている。
【0025】
光学フィルタ304に入射した光のうち、偏光フィルタ層303を透過した光は、撮像素子305の画素領域に入射する。偏光フィルタ層303には、撮像素子305の画素サイズに対応した偏光子が領域分割して形成されている。
【0026】
偏光フィルタ層303には、偏光子として、S偏光成分透過領域とP偏光成分透過領域とが含まれる。なお、
図3(a)の例は、S偏光成分透過領域とP偏光成分透過領域とを左右方向に交互に配置した場合を示しているが、S偏光成分透過領域とP偏光成分透過領域とは、短冊状に配置してもよい。
【0027】
<4.計測情報の説明>
次に、計測装置110により送信される計測情報について説明する。
図4は、計測情報の一例を示す図である。
図4に示すように、計測装置110の偏光カメラ205は、時刻t
1、t
2、t
3、t
4、・・・の各時刻において、S成分画像401_1、・・・、401_4・・・、P成分画像402_1、・・・、404_2・・・を生成する。
【0028】
計測装置110の制御装置203は、例えば、偏光カメラ205より送信されるS成分画像401_1、P成分画像402_1に基づいて、偏光画像403_1を生成する。具体的には、制御装置203は、下式に基づいて偏光画像を生成する。
【0029】
【数1】
また、計測装置110の制御装置203は、例えば、偏光カメラ205より送信されるS成分画像401_1、P成分画像402_1に基づいて、輝度画像404_1を生成する。具体的には、制御装置203は、下式に基づいて輝度画像を生成する。
【0030】
【数2】
制御装置203は、生成した偏光画像403_1と、輝度画像404_1と、位置情報405_1と、露光時間406_1とを対応付けて計測情報として通信装置202に通知する。同様に、時刻t
2、t
3、t
4、・・・においても、それぞれ、偏光画像403_2~403_4、輝度画像404_2~404_4、位置情報405_2~405_4、露光時間406_2~406_4を対応付けて計測情報として通信装置202に通知する。
【0031】
これにより、通信装置202では、各時刻における偏光画像と輝度画像と位置情報と露光時間とが対応付けられた計測情報を、サーバ装置120に送信することができる。
【0032】
<5.サーバ装置のハードウェア構成>
次に、サーバ装置120のハードウェア構成について説明する。
図5は、サーバ装置のハードウェア構成の一例を示す図である。
図5に示すように、サーバ装置120は、CPU(Central Processing Unit)501、ROM(Read Only Memory)502、RAM(Random Access Memory)503を有する。CPU501、ROM502、RAM503は、いわゆるコンピュータを形成する。
【0033】
また、サーバ装置120は、補助記憶装置504、表示装置505、操作装置506、I/F(Interface)装置507、ドライブ装置508を有する。なお、サーバ装置120の各部は、バス509を介して相互に接続されている。
【0034】
CPU501は、補助記憶装置504にインストールされている各種プログラム(例えば、第1生成プログラム、第2生成プログラム、路面状態判別プログラム等)を実行するデバイスである。
【0035】
ROM502は、不揮発性メモリである。ROM502は、補助記憶装置504にインストールされている各種プログラムをCPU501が実行するために必要な各種プログラム、データ等を格納する、主記憶デバイスとして機能する。具体的には、ROM502はBIOS(Basic Input/Output System)やEFI(Extensible Firmware Interface)等のブートプログラム等を格納する。
【0036】
RAM503は、DRAM(Dynamic Random Access Memory)やSRAM(Static Random Access Memory)等の揮発性メモリである。RAM503は、補助記憶装置504にインストールされている各種プログラムがCPU501によって実行される際に展開される作業領域を提供する、主記憶デバイスとして機能する。
【0037】
補助記憶装置504は、各種プログラムや、各種プログラムが実行されることで生成される情報、ならびに各種プログラムが実行される際に用いられる情報を格納する補助記憶デバイスである。学習画像情報格納部124、計測情報格納部125は、補助記憶装置504において実現される。
【0038】
表示装置505は、サーバ装置120の内部情報を表示する表示デバイスである。操作装置506は、サーバ装置120の管理者がサーバ装置120に対して各種指示を入力する際に用いる入力デバイスである。
【0039】
I/F装置507は、ネットワーク140に接続し、計測装置110、端末130と通信を行うための通信デバイスである。
【0040】
ドライブ装置508は記録媒体510をセットするためのデバイスである。ここでいう記録媒体510には、CD-ROM、フレキシブルディスク、光磁気ディスク等のように情報を光学的、電気的あるいは磁気的に記録する媒体が含まれる。また、記録媒体510には、ROM、フラッシュメモリ等のように情報を電気的に記録する半導体メモリ等が含まれていてもよい。
【0041】
なお、補助記憶装置504に格納される各種プログラムは、例えば、配布された記録媒体510がドライブ装置508にセットされ、該記録媒体510に記録された各種プログラムがドライブ装置508により読み出されることでインストールされるものとする。
【0042】
<6.学習画像情報の説明>
次に、学習画像情報格納部124に格納される学習画像情報について説明する。
図6は、学習画像情報の一例を示す図である。
【0043】
図6に示すように、学習画像情報600には情報の項目として、"路面状態"、"ファイル名1"、"ファイル名2"、"ファイル名3"が含まれる。
【0044】
"路面状態"には、判別すべき路面状態の種類が格納される。
図6の例は、路面状態として、「乾燥」、「湿潤」、「凍結」、「積雪」の4種類が判別されることを示している。
【0045】
"ファイル名1"には、目視により路面状態が判断された路面を撮影することで得られた各輝度画像のファイルが格納される。
図6の例は、目視により「乾燥」と判断された路面を撮影することで得られた輝度画像が500枚、目視により「湿潤」と判断された路面を撮影することで得られた輝度画像が500枚格納されていることを示している。また、
図6の例は、目視により「凍結」と判断された路面を撮影することで得られた輝度画像が500枚、目視により「積雪」と判断された路面を撮影することで得られた輝度画像が500枚格納されていることを示している。
【0046】
"ファイル名2"には、目視により路面状態が判断された路面を撮影することで得られた各偏光画像のファイルが格納される。
図6の例は、目視により「乾燥」と判断された路面を撮影することで得られた偏光画像が500枚、目視により「湿潤」と判断された路面を撮影することで得られた偏光画像が500枚格納されていることを示している。また、
図6の例は、目視により「凍結」と判断された路面を撮影することで得られた偏光画像が500枚、目視により「積雪」と判断された路面を撮影することで得られた偏光画像が500枚格納されていることを示している。
【0047】
"ファイル名3"には、対応する輝度画像、偏光画像を生成した際の露光時間に関する情報が格納される。
【0048】
<7.計測情報リストの説明>
次に、計測情報格納部125に格納される計測情報リストについて説明する。
図7は、計測情報リストの一例を示す図である。
【0049】
図7に示すように、計測情報リスト700には情報の項目として、"ファイル名"、"備考"が含まれる。
【0050】
"ファイル名"には、計測装置110より送信された計測情報のファイルが格納される。"備考"には、対応する計測情報に含まれる位置情報により特定される道路を表す情報が格納される。
【0051】
図7の例は、ファイル名=「計測情報1」の計測情報は、「国道XX号線のY
1キロポスト~Y
2キロポスト」までの区間の道路の路面を計測することで得た計測情報であることを示している。また、ファイル名=「計測情報2」の計測情報は、「国道XX号線のY
3キロポスト~Y
4キロポスト」までの区間の道路の路面を計測することで得た計測情報であることを示している。
【0052】
<8.サーバ装置の各部の説明>
次に、サーバ装置120の各部(第1生成部121、第2生成部122、路面状態判別部123)の詳細について説明する。
【0053】
<8.1 第1生成部121の説明>
はじめに、第1生成部121の詳細について説明する。
図8は、第1生成部の機能構成の一例を示す図である。
図8に示すように、第1生成部121は、学習画像情報入力部801、画像連結部802、圧縮器生成部803、比較部804を有する。
【0054】
学習画像情報入力部801は、学習画像情報格納部124より、輝度画像及び偏光画像を順次読み出し、画像連結部802に通知する。
【0055】
画像連結部802は、輝度画像と偏光画像とを重ね合わせるように連結させ、1枚の画像を生成する。
【0056】
圧縮器生成部803は生成手段の一例であり、第2生成部122及び路面状態判別部123に画像構造情報抽出部として組み込むための圧縮器を生成する。
【0057】
圧縮器生成部803は、Autoencoder(オートエンコーダ)により構成されており、画像連結部802において生成された画像を順次入力データとして入力し、出力データが入力データと等しくなるようにパラメータを決定する。これにより、圧縮器生成部803は、学習画像情報600を用いた機械学習により決定されたパラメータを有するニューラルネットワークである、圧縮器を生成することができる。
【0058】
比較部804は、画像連結部802において生成された入力データと、該入力データが順次入力されることで圧縮器生成部803より順次出力される出力データとを比較し、両者が等しくなるように、パラメータを変更していく。比較部804は、変更したパラメータを圧縮器生成部803に入力する。
【0059】
図9は、圧縮器生成部の具体例を示す図である。
図9に示すように、Autoencoderは、入力層と出力層とが同じ数のユニット(入力データの画素数に等しい数のユニット)により構成され、中間層は、入力層よりも少ない数のユニットにより構成される。
【0060】
圧縮器生成部803において、入力層に入力される入力データ(x)から中間層にて出力される中間データ(h)への伝播(エンコード)は、下式により表すことができる。
【0061】
【数3】
また、圧縮器生成部803において、中間層にて出力される中間データ(h)から出力層にて出力される出力データ(y)への伝播(デコード)は、下式により表すことができる。
【0062】
【数4】
Autoencoderは、入力データ(x)と出力データ(y)とが同じになるように、パラメータW、W'、b、b'を変更する。具体的には、比較部804は下式に基づいて、パラメータW、W'、b、b'を変更する。
【0063】
【数5】
なお、W、W'は、次層への結合係数、b及びb'はニューロンが持つ値である。また、関数f及びf'にはシグモイド関数、双曲線正接関数等が用いられるものとする。
【0064】
このように、学習画像情報600を用いた機械学習により、パラメータW、W'、b、b'が決定されたAutoencoderによれば、入力データを低次元に圧縮することで得られる画像構造情報を、中間層において抽出することができる。
【0065】
圧縮器生成部803では、パラメータが決定されたAutoencoderの入力層と中間層とを含む圧縮器を、画像構造情報抽出部として、第2生成部122及び路面状態判別部123に組み込む。
【0066】
図10は、圧縮器生成部の他の具体例を示す図である。
図10(a)は、Autoencoderの一例である、Convolutional Autoencoder(畳み込みオートエンコーダ)を示したものである。Convolutional Autoencoderは、畳み込み層(画像の局所的な特徴を担う層)とプーリング層(局所ごとに特徴をまとめあげる層)とを有するオートエンコーダである。Convolutional Autoencoderは、ConvolutionとDeconvolutionとを繰り返すことで出力データを算出し、比較部804は、入力データと出力データとが等しくなるようにパラメータを順次変更していく。これにより、圧縮器生成部803は、学習画像情報600を用いた機械学習によりに決定されたパラメータを有する圧縮器を生成することができる。
【0067】
図10(b)は、学習画像情報600を用いた機械学習により決定されたパラメータが設定されたConvolutional Autoencoderの各畳み込み層における処理結果の一例を示している。
【0068】
入力データ1001を畳み込み層1において処理することで処理結果1002が出力される。また、出力された処理結果1002を畳み込み層2、3においてそれぞれ処理することで処理結果1003、1004が出力される。
【0069】
ここで、入力データ1001は画像中央の輝度が高く、その周辺が暗い画像であるが、畳み込み層3から出力される処理結果1004は、低次元に圧縮された画像となる。
【0070】
一方、畳み込み層3から出力される処理結果1004を逆畳み込み層2、1においてそれぞれ処理することで、処理結果1005、1006が出力され、出力データ1007が得られる。逆畳み込み層2、1により復元された出力データ1007は、入力データ1001とは輝度画素値が若干異なるものの、入力データ1001とほぼ等しい画像となる。このように機械学習によりパラメータが決定された圧縮器では、入力データ1001とほぼ等しい画像を出力データ1007として出力することができる。
【0071】
圧縮器生成部803では、パラメータが決定されたConvolutional Autoencoderの各畳み込み層1~3を含む圧縮器を、画像構造情報抽出部として、第2生成部122及び路面状態判別部123に組み込む。
【0072】
以上のとおり、圧縮器生成部803は、学習画像情報600を用いた機械学習により、AutoencoderまたはConvolutional Autoencoderのパラメータを決定することで、圧縮器を生成する。このため、従来のように学習画像情報に基づいて人手で圧縮器を生成する場合と比較して、圧縮器生成の手間を省くことができる。
【0073】
なお、ここでは、圧縮器生成部803が、AutoencoderまたはConvolutional Autoencoderを用いて圧縮器を生成する方法について説明したが、圧縮器の生成方法はこれに限定されない。
【0074】
<8.2 第2生成部122の説明>
次に、第2生成部122について説明する。
図11は、第2生成部の機能構成の一例を示す図である。
図11に示すように、第2生成部122は、学習画像情報入力部1101、画像連結部1102、画像構造情報抽出部1103、平均偏光画素値算出部1104、輝度画像補正部1105、平均輝度画素値算出部1106を有する。また、第2生成部122は、データ連結部1107、判別器生成部1108、比較部1109を有する。
【0075】
学習画像情報入力部1101は、学習画像情報格納部124より、輝度画像、偏光画像、露光時間を順次読み出す。また、学習画像情報入力部1101は、読み出した輝度画像、偏光画像を画像連結部1102に通知する。また、読み出した偏光画像を平均偏光画素値算出部1104に通知する。更に、読み出した輝度画像、露光時間を輝度画像補正部1105に通知する。
【0076】
画像連結部1102は、輝度画像と偏光画像とを重ね合わせるように連結させ、1枚の画像を生成し、入力データとして画像構造情報抽出部1103に入力する。
【0077】
画像構造情報抽出部1103は、第1生成部121の圧縮器生成部803により生成された圧縮器の一部が組み込まれたものである。画像構造情報抽出部1103は、画像連結部1102により入力された入力データに基づいて中間層より画像構造情報を抽出し、データ連結部1107に入力する。
【0078】
平均偏光画素値算出部1104は、偏光画像の平均画素値を算出し、平均偏光画素値として、データ連結部1107に入力する。
【0079】
輝度画像補正部1105は、輝度画像を露光時間で除算することで、輝度画像を補正する。また、輝度画像補正部1105は、補正輝度画像を平均輝度画素値算出部1106に入力する。
【0080】
平均輝度画素値算出部1106は、補正輝度画像の平均画素値を算出し、平均輝度画素値として、データ連結部1107に入力する。
【0081】
データ連結部1107は、画像構造情報と、平均偏光画素値と、平均輝度画素値とを連結させて連結データを生成する。例えば、画像構造情報がD次元、平均偏光画素値がD'次元、平均輝度画素値がD"次元であってとすると、データ連結部1107は、D+D'+D"次元となるように、連結データを生成する。
【0082】
判別器生成部1108は、ニューラルネットワーク構成を有しており、データ連結部1107において生成された連結データを順次入力し、判別結果が、学習画像情報600の"路面状態"と等しくなるようにパラメータを決定する。これにより、判別器生成部1108では、学習画像情報600に応じて決定されたパラメータを有するニューラルネットワークである、判別器を生成することができる。判別器生成部1108において生成した判別器は、判別部として、路面状態判別部123に組み込まれる。
【0083】
比較部1109は、判別器生成部1108における判別結果と、学習画像情報600の"路面状態"とを比較し、両者が等しくなるように、パラメータを順次変更していく。比較部1109は、変更したパラメータを判別器生成部1108に入力する。
【0084】
図12は、判別器生成部の具体例を示す図である。
図12に示すように、判別器生成部1108のニューラルネットワーク構成は、入力層と中間層と出力層とを含み、入力層には、学習画像情報600に基づいて生成された連結データ(x)が入力される。また、出力層からは路面状態についての判別結果(y)である、「乾燥」、「湿潤」、「凍結」、「積雪」のいずれかが出力される。
【0085】
比較部1109では、判別器生成部1108により出力された判別結果が、学習画像情報600の"路面状態"と等しくなるように、パラメータV、cを変更する。具体的には、比較部1109は、下式に基づいて、パラメータV、cを変更する。
【0086】
【数6】
なお、Vは、次層への結合係数、cはニューロンが持つ値である。また、関数fにはシグモイド関数等が用いられる。
【0087】
このように、判別器生成部1108では、学習画像情報600を用いた機械学習により、パラメータV、cを決定することで、路面状態を判別するのに適した判別器を生成し、路面状態判別部123に判別部として組み込む。このため、従来のように学習画像情報に基づいて人手で判別器を生成する場合と比較して、判別器生成の手間を省くことができる。
【0088】
<8.3 路面状態判別部123の説明>
次に、路面状態判別部123について説明する。
図13は、路面状態判別部の機能構成の一例を示す図である。
図13に示すように、路面状態判別部123は、計測情報取得部1301、画像連結部1302、画像構造情報抽出部1303、平均偏光画素値算出部1304、輝度画像補正部1305、平均輝度画素値算出部1306を有する。また、路面状態判別部123は、データ連結部1307、判別部1308、出力部1309を有する。
【0089】
計測情報取得部1301は取得手段の一例であり、計測情報格納部125より、計測情報(輝度画像、偏光画像、露光時間、位置情報)を順次読み出す。また、計測情報取得部1301は、読み出した輝度画像、偏光画像を画像連結部1302に通知し、読み出した偏光画像を平均偏光画素値算出部1304に通知する。また、読み出した輝度画像、露光時間を輝度画像補正部1305に通知する。更に、計測情報取得部1301は、読み出した位置情報を出力部1309に通知する。
【0090】
画像連結部1302は、輝度画像と偏光画像とを重ね合わせるように連結させ、1枚の画像を生成し、入力データとして画像構造情報抽出部1303に入力する。輝度画像と偏光画像とを重ね合わせるように連結されるとは、例えば、輝度画像の画素値(輝度画素値)と、偏光画像の画素値(偏光画素値)を重ね合わせて1枚の画像を生成することである。なお、重ね合わせ方法は単純に各画素に輝度画素値、偏光画素値を持つように連結してもよいし、画素値を足し合せてもよいし、それぞれの画素値に重み付けを行ってもよい。
【0091】
画像構造情報抽出部1303には、第1生成部121の圧縮器生成部803において生成され、路面状態判別部123に組み込まれた圧縮器である。路面状態判別部123において、画像構造情報抽出部1303は抽出手段として機能し、画像連結部1302により入力された入力データに基づいて中間層より画像構造情報を抽出し、データ連結部1307に入力する。
【0092】
図14は、画像構造情報抽出部の一例を示す図である。このうち、
図14(a)は、Autoencoderのニューラルネットワーク構成により形成された画像構造情報抽出部を示している。一方、
図14(b)は、Convolutional Autoencoderのニューラルネットワーク構成により形成された画像構造情報抽出部を示している。いずれの画像構造情報抽出部1303も、入力データを入力層に入力することで、中間層より画像構造情報を抽出することができる。
【0093】
図13の説明に戻る。平均偏光画素値算出部1304は、偏光画像の平均画素値を算出し、平均偏光画素値として、データ連結部1307に入力する。
【0094】
輝度画像補正部1305は、輝度画像を露光時間で除算することで、輝度画像を補正する。また、輝度画像補正部1305は、補正輝度画像を平均輝度画素値算出部1306に入力する。
【0095】
平均輝度画素値算出部1306は、補正輝度画像の平均画素値を算出し、平均輝度画素値として、データ連結部1307に入力する。
【0096】
データ連結部1307は、画像構造情報と、平均偏光画素値と、平均輝度画素値とを連結させる。例えば、画像構造情報がD次元、平均偏光画素値がD'次元、平均輝度画素値がD"次元であったとすると、データ連結部1307は、D+D'+D"次元となるように、連結データを生成する。
【0097】
判別部1308には、第2生成部122の判別器生成部1108において生成され、路面状態判別部123に組み込まれた判別器である。路面状態判別部123において、判別部1308は判別手段として機能し、データ連結部1307において生成された連結データを入力することで、判別結果を出力部1309に出力する。
【0098】
出力部1309は出力手段の一例であり、判別部1308より出力された判別結果と、計測情報取得部1301より出力された位置情報とを対応付けて、路面状態情報として出力する。
【0099】
図15は、判別部の一例を示す図である。
図15に示すように、判別部1308のニューラルネットワーク構成は、入力層と中間層と出力層とを含み、入力層には、計測情報に基づいて生成された連結データが入力される。出力層からは路面状態についての判別結果である、「乾燥」、「湿潤」、「凍結」、「積雪」のいずれかが出力される。
【0100】
このように、本実施形態では、路面状態の判別において、判別部1308に連結データを入力する。このため、偏光画像及び輝度画像の各画素値を入力する場合と比較して、判別部1308における処理を高速化することができる。
【0101】
また、連結データには、平均偏光画素値と平均輝度画素値とが含まれる。これらの特徴量は、各路面状態(「乾燥」、「湿潤」、「凍結」、「積雪」)を撮影することで得られる偏光画像及び輝度画像において、各路面状態の全体的な傾向を端的に表す特徴量である。
【0102】
更に、連結データには、画像構造情報が含まれる。当該特徴量は、偏光画像及び輝度画像において、各路面状態に含まれる局所的な特徴を抽出したものである。
【0103】
つまり、本実施形態では、判別部1308が路面状態の判別に有効な特徴量を用いて判別を行うため、判別精度を向上させることができる。
【0104】
<9.路面状態判別処理の流れ>
次に、サーバ装置120による路面状態判別処理の流れについて説明する。
図16は、路面状態判別処理の流れを示すフローチャートである。サーバ装置120の管理者により路面状態判別処理の開始指示が入力されると、
図16に示す路面状態判別処理が開始される。
【0105】
ステップS1601において、計測情報取得部1301は、計測情報格納部125より、計測情報を取得する。
【0106】
ステップS1602において、計測情報取得部1301は取得した計測情報より、輝度画像、偏光画像、露光時間、位置情報を抽出する。
【0107】
ステップS1603において、画像連結部1302は、抽出された輝度画像及び偏光画像を連結し、入力データを生成する。
【0108】
ステップS1604において、画像構造情報抽出部1303は、生成された入力データに基づいて、中間層より画像構造情報を抽出する。
【0109】
ステップS1605において、平均偏光画素値算出部1304は、ステップS1602において抽出された偏光画像の平均偏光画素値を算出する。
【0110】
ステップS1606において、輝度画像補正部1305は、ステップS1602において抽出された輝度画像及び露光時間に基づいて、補正輝度画像を生成する。
【0111】
ステップS1607において、平均輝度画素値算出部1306は、補正輝度画像の平均輝度画素値を算出する。
【0112】
ステップS1608において、データ連結部1307は、画像構造情報と、平均偏光画素値と、平均輝度画素値とを連結し、連結データを生成する。
【0113】
ステップS1609において、判別部1308は、生成された連結データに基づいて、判別対象について路面状態を判別する。
【0114】
ステップS1610において、出力部1309は、判別結果と位置情報とを対応付けて、路面状態情報として出力する。
【0115】
ステップS1611において、路面状態判別処理を終了するか否かを判定する。ステップS1611において、終了しないと判定した場合には、ステップS1601に戻り、計測情報より次の輝度画像、偏光画像、露光時間、位置情報を抽出する。一方、ステップS1611において、終了すると判定した場合には、路面状態判別処理を終了する。
【0116】
図17は、路面状態情報の一例を示す図である。
図17に示すように、路面状態情報1700には、情報の項目として、"位置情報"、"判別結果"が含まれる。
【0117】
"位置情報"には、計測情報に含まれる各位置情報が格納される。"判別結果"には、各位置情報により特定される位置における計測情報に基づいて、路面状態判別部123により判別された路面状態の判別結果が格納される。
【0118】
<10.判別結果の評価>
次に、サーバ装置120による路面状態判別処理の判別結果についての評価を、他の判別方法による判別結果と比較しながら説明する。
図18は、判別結果に対する評価結果の一例を示す図である。
【0119】
判別結果に対する評価結果1800において、横軸は、路面状態を示す"乾燥"、"湿潤"、"凍結"、"積雪"及び"平均"を表している。また、縦軸は、"判別方法"を示している。
図18の例は、判別方法として以下の3通りを比較した場合を示している。
・輝度画像の平均輝度画素値と偏光画像の平均偏光画素値とに基づいて路面状態を判別する第1の判別方法(比較例)
・画像構造情報に基づいて路面状態を判別する第2の判別方法(比較例)
・輝度画像の平均輝度画素値と偏光画像の平均偏光画素値と画像構造情報とに基づいて路面状態を判別する第3の判別方法(本実施形態による判別方法)
評価結果1800において、第1の判別方法の場合、路面状態=「乾燥」と判別すべき計測情報のうち、51.2%の計測情報について、路面状態=「乾燥」と判別できたことを示している(すなわち、正答率が51.2%であったことを示している)。同様に、第1の判別方法の場合、路面状態=「湿潤」、「凍結」、「積雪」については、それぞれ、正答率が、89.0%、70.0%、99.6%であったことを示している。更に、平均の正答率が77.5%であったことを示している。
【0120】
一方、第2の判別方法の場合、路面状態=「乾燥」、「湿潤」、「凍結」、「積雪」について、それぞれ、正答率が、84.2%、62.2%、77.2%、71.4%であったことを示している。また、平均の正答率が73.7%であったことを示している。
【0121】
また、第3の判別方法の場合、路面状態=「乾燥」、「湿潤」、「凍結」、「積雪」について、それぞれ、正答率が、90.2%、97.0%、86.6%、99.0%であったことを示している。また、平均の正答率が93.2%であったことを示している。
【0122】
このように、「湿潤」と「積雪」について正答率の高い第1の判別方法と、「乾燥」と「凍結」について正答率の高い第2の判別方法と組み合わせることで、第3の判別方法によれば、「乾燥」、「湿潤」、「凍結」、「積雪」について高い正答率を実現できる。
【0123】
つまり、輝度画像の平均輝度画素値と偏光画像の平均偏光画素値と画像構造情報とに基づいて路面状態を判別することで、いずれの路面状態についても、第1及び第2の判別方法よりも高い正答率で判別することが可能となる。
【0124】
<11.まとめ>
以上の説明から明らかなように、本実施形態におけるサーバ装置は、
・輝度画像と偏光画像とを取得するとともに、輝度画像と偏光画像とを連結した画像を低次元に圧縮することで、当該画像の画像構造情報を抽出する構成とした。
・取得した輝度画像の平均輝度画素値及び偏光画像の平均偏光画素値と、抽出した画像構造情報とを用いて、路面状態を判別する構成とした。
【0125】
これにより、従来の判別方法と比較して、路面状態の判別精度を向上させることが可能となった。
【0126】
[第2の実施形態]
上記第1の実施形態では、連結データとして、画像構造情報、平均偏光画素値、平均輝度画素値を含むものとして説明した。しかしながら、連結データに含まれるデータはこれに限定されない。
【0127】
例えば、計測装置110に路面温度を測定するセンサを配し、路面温度を測定することで、路面温度情報を連結データに加えてもよい。
【0128】
図19は、路面状態判別部の機能構成の他の一例を示す図である。
図13との相違点は、計測情報取得部1901、データ連結部1902、判別部1903である。
【0129】
計測情報取得部1901は、計測情報格納部125より、計測情報として、輝度画像、偏光画像、露光時間、位置情報、路面温度情報を順次読み出す。また、計測情報取得部1901は、読み出した輝度画像、偏光画像を画像連結部1302に、読み出した偏光画像を平均偏光画素値算出部1304に、読み出した輝度画像、露光時間を輝度画像補正部1305にそれぞれ通知する。更に、計測情報取得部1901は、読み出した路面温度情報をデータ連結部1902に、読み出した位置情報を出力部1309にそれぞれ通知する。
【0130】
データ連結部1902は、画像構造情報と、平均偏光画素値と、平均輝度画素値と、路面温度情報とを連結させる。例えば、画像構造情報がD次元、平均偏光画素値がD'次元、平均輝度画素値がD"次元、路面温度情報がD'''次元であったとすると、データ連結部1902は、D+D'+D"+D'''次元となるように、連結データを生成する。
【0131】
判別部1903には、第2生成部122の判別器生成部1108により生成された判別器が組み込まれる。なお、本実施形態の場合、路面温度情報を含む学習画像情報を用いて生成された連結データを、判別器生成部1108に入力することで判別器が生成されているものとする。
【0132】
判別部1903は、データ連結部1902において生成された連結データに基づいて、路面状態を判別する。
【0133】
このように、連結データとして、画像構造情報、平均偏光画素値、平均輝度画素値に加え、路面温度情報を含めることで、本実施形態によれば、路面状態の判別精度をより向上させることが可能となる。
【0134】
[その他の実施形態]
上記第1及び第2の実施形態では、計測装置110に搭載する偏光カメラ205が、領域分割偏光フィルタを有する偏光カメラであるとして説明した。しかしながら、計測装置110に搭載する偏光カメラ205は、領域分割偏光フィルタを有する偏光カメラに限定されず、例えば、撮像素子の前面に偏光子を配し、偏光子を回転させながら、偏光角が異なる複数枚の画像を取得する偏光カメラであってもよい。
【0135】
また、上記第1及び第2の実施形態では、サーバ装置120において路面状態を判別し、判別状態情報を端末130に送信する構成としたが、判別システムのシステム構成はこれに限定されない。
【0136】
例えば、路面状態判別部123を端末130に配する構成としてもよい。この場合、端末130では、サーバ装置120の第1生成部121で生成された圧縮器と、第2生成部122で生成された判別器とを、サーバ装置120よりダウンロードし、路面状態判別部123に画像構造情報抽出部及び判別部として組み込む。
【0137】
これにより、端末130では、計測装置110より送信された計測情報に基づいて、路面状態を判別することが可能となる。
【0138】
同様に、路面状態判別部123を計測装置110の制御装置203に配する構成としてもよい。この場合も、制御装置203では、サーバ装置120の第1生成部121で生成された圧縮器と、第2生成部122で生成された判別器とを、サーバ装置120よりダウンロードし、路面状態判別部123に画像構造情報抽出部及び判別部として組み込む。
【0139】
これにより、計測装置110では、計測情報を取得しながら、リアルタイムに路面状態を判別し、凍結防止剤の散布量を調整したうえで、散布することが可能となる。
【0140】
また、この場合、路面状態の判別結果は、凍結防止剤の散布量の調整等に利用するだけにとどまらず、例えば、車両の走行制御に反映させるようにしてもよい。
【0141】
また、上記第1及び第2の実施形態では、平均偏光画素値算出部1304において、偏光画像の平均偏光画素値を算出したが、各路面状態の全体的な傾向を端的に表す特徴量であれば、平均偏光画素値に限定されない。偏光画像の各画素の画素値の統計値であれば、他の特徴量であってもよい。同様に、上記第1及び第2の実施形態では、平均輝度画素値算出部1306において、輝度画像の平均輝度画素値を算出したが、各路面状態の全体的な傾向を端的に表す特徴量であれば、平均輝度画素値に限定されない。輝度画像の各画素の画素値の統計値であれば、他の特徴量であってもよい。
【0142】
また、上記第2の実施形態では、連結データに路面温度情報を追加する場合について説明したが、連結データに追加する情報は、路面温度情報に限定されない。例えば、走行速度の情報や、走行中の各位置での天気情報等を追加してもよい。
【0143】
なお、上記実施形態に挙げた構成等に、その他の要素との組み合わせなど、ここで示した構成に本発明が限定されるものではない。これらの点に関しては、本発明の趣旨を逸脱しない範囲で変更することが可能であり、その応用形態に応じて適切に定めることができる。
【符号の説明】
【0144】
100 :判別システム
110 :計測装置
111 :車両
120 :サーバ装置
121 :第1生成部
122 :第2生成部
123 :路面状態判別部
130 :端末
201 :GPS装置
202 :通信装置
203 :制御装置
204 :照明装置
205 :偏光カメラ
600 :学習画像情報
700 :計測情報リスト
801 :学習画像情報入力部
802 :画像連結部
803 :圧縮器生成部
804 :比較部
1101 :学習画像情報入力部
1102 :画像連結部
1103 :画像構造情報抽出部
1104 :平均偏光画素値算出部
1105 :輝度画像補正部
1106 :平均輝度画素値算出部
1107 :データ連結部
1108 :判別器生成部
1109 :比較部
1301 :計測情報取得部
1302 :画像連結部
1303 :画像構造情報抽出部
1304 :平均偏光画素値算出部
1305 :輝度画像補正部
1306 :平均輝度画素値算出部
1307 :データ連結部
1308 :判別部
1309 :出力部
1700 :路面状態情報
1901 :計測情報取得部
1902 :データ連結部
1903 :判別部
【先行技術文献】
【特許文献】
【0145】
【文献】特開平8-327530号公報
【文献】特開2013-148504号公報