(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公開特許公報(A)
(11)【公開番号】P2023161938
(43)【公開日】2023-11-08
(54)【発明の名称】情報処理装置、情報処理方法及びプログラム
(51)【国際特許分類】
G06T 5/00 20060101AFI20231031BHJP
G06T 1/00 20060101ALI20231031BHJP
G08G 1/00 20060101ALI20231031BHJP
H04N 7/18 20060101ALI20231031BHJP
【FI】
G06T5/00 735
G06T1/00 330A
G08G1/00 D
H04N7/18 J
【審査請求】未請求
【請求項の数】10
【出願形態】OL
(21)【出願番号】P 2022072603
(22)【出願日】2022-04-26
(71)【出願人】
【識別番号】000006633
【氏名又は名称】京セラ株式会社
(74)【代理人】
【識別番号】110002147
【氏名又は名称】弁理士法人酒井国際特許事務所
(72)【発明者】
【氏名】渡邊 正人
(72)【発明者】
【氏名】服部 成人
【テーマコード(参考)】
5B057
5C054
5H181
【Fターム(参考)】
5B057AA16
5B057CE11
5B057DC40
5C054DA09
5C054EJ00
5C054FC04
5C054FE06
5C054FE11
5C054FE18
5C054FE22
5C054HA30
5H181AA01
5H181BB04
5H181CC04
5H181CC12
5H181CC27
5H181MC19
(57)【要約】
【課題】移動体で撮像した画像データを監視する監視者の疲労の蓄積を抑制する。
【解決手段】例えば、情報処理装置100は、移動体で撮像された画像データD10が示す画像において、所定輝度以上の輝度となる第1領域を抽出する抽出部151と、抽出された第1領域の抽出データD30を所定輝度よりも低い第1輝度に変換する変換部152と、変換された抽出データD30が反映された画像データD10を出力する出力部153と、を備える。
【選択図】
図4
【特許請求の範囲】
【請求項1】
移動体で撮像された画像データが示す画像において、所定輝度以上の輝度となる第1領域を抽出する抽出部と、
抽出された前記第1領域の抽出データを前記所定輝度よりも低い第1輝度に変換する変換部と、
変換された前記抽出データが反映された前記画像データを出力する出力部と、
を備える情報処理装置。
【請求項2】
請求項1に記載の情報処理装置において、
前記変換部は、前記抽出データと撮像条件が異なりかつ前記抽出データの特徴を有する複数の学習用画像データを、前記第1輝度に変換するように機械学習した変換モデルで、入力した前記抽出データを変換する
情報処理装置。
【請求項3】
請求項2に記載の情報処理装置において、
前記変換モデルは、
前記第1領域の前記学習用画像データが示す画像を前記第1輝度に変換するように機械学習した第1変換モデルと、
前記学習用画像データが示す画像で、前記所定輝度以上の撮像物が存在する領域を前記第1輝度に変換せずに、前記第1領域で前記所定輝度以上の撮像物が存在しない領域を前記第1輝度に変換するように機械学習した第2変換モデルと、を有し、
前記変換部は、入力した第1変換条件を満たす前記抽出データを前記第1変換モデルで、変換し、入力した第2変換条件を満たす前記抽出データを前記第2変換モデルで、変換する
情報処理装置。
【請求項4】
請求項2に記載の情報処理装置において、
撮像された前記画像データは、所定ルートを周期的に移動する移動体に設けられた、前記移動体の外部を撮像可能な撮像装置によって撮像された画像データであり、
前記学習用画像データは、前記所定ルートにおいて撮像された前記画像データに基づくデータである
情報処理装置。
【請求項5】
請求項4に記載の情報処理装置において、
前記撮像条件は、時間帯を含む、
情報処理装置。
【請求項6】
請求項2に記載の情報処理装置において、
前記画像データ及び前記学習用画像データは、付加データとして、
前記画像データ及び前記学習用画像データを取得した位置情報、
前記画像データ及び前記学習用画像データを撮像した方向の方向情報、
前記画像データ及び前記学習用画像データを撮像した時間の時間情報、
前記画像データ及び前記学習用画像データを撮像した際の天候の天候情報、及び、
前記画像データ及び前記学習用画像データの対象画像の特徴を識別可能な特徴情報の少なくとも1つを含む
情報処理装置。
【請求項7】
請求項1に記載の情報処理装置において、
前記抽出部は、前記画像データと前記画像データにガンマ補正処理した変換データとを比較して前記画像の前記第1領域を特定し、前記画像データから前記第1領域の前記抽出データを抽出する
情報処理装置。
【請求項8】
請求項1に記載の情報処理装置において、
前記変換部は、
前記画像が示す街灯の輝度は低下させ、
前記画像が示す信号機、車のランプ、工事現場の照明及び人が着用している発光体の少なくともいずれかの輝度低下を前記街灯の輝度低下よりも抑制する
情報処理装置。
【請求項9】
コンピュータが、
移動体で撮像された画像データが示す画像において、所定輝度以上の輝度となる第1領域を抽出することと、
抽出された前記第1領域の抽出データを前記所定輝度よりも低い第1輝度に変換することと、
変換された前記抽出データが反映された前記画像データを出力することと、
を含む情報処理方法。
【請求項10】
コンピュータに、
移動体で撮像された画像データが示す画像において、所定輝度以上の輝度となる第1領域を抽出することと、
抽出された前記第1領域の抽出データを前記所定輝度よりも低い第1輝度に変換することと、
変換された前記抽出データが反映された前記画像データを出力することと、
を実行させるプログラム。
【発明の詳細な説明】
【技術分野】
【0001】
本出願は、情報処理装置、情報処理方法及びプログラムに関する。
【背景技術】
【0002】
自動運転車両は、遠隔監視が行われている。特許文献1には、移動体のカメラが撮影した画像から、所定の間隔で挿入されるキーフレームと差分フレームとからなる画像データを受信し、キーフレームの受信状態に基づいて緊急制御信号の送信を制御するサーバ装置を備える監視制御システムが開示されている。
【先行技術文献】
【特許文献】
【0003】
【発明の概要】
【発明が解決しようとする課題】
【0004】
従来の遠隔監視システムでは、遠隔地から監視者が複数の移動体からの映像を監視することで、緊急時の検知や緊急時の対応を可能にしている。しかし、遠隔監視システムは、移動体からの映像を監視者がリアルタイムで監視するため、映像に高輝度の映像が含まれていると疲労が蓄積してしまう。このため、遠隔監視システムでは、移動体で撮像した画像データを監視する監視者の疲労の蓄積を抑制したいとのニーズがある。
【課題を解決するための手段】
【0005】
態様の1つに係る情報処理装置は、移動体で撮像された画像データが示す画像において、所定輝度以上の輝度となる第1領域を抽出する抽出部と、抽出された前記第1領域の抽出データを前記所定輝度よりも低い第1輝度に変換する変換部と、変換された前記抽出データが反映された前記画像データを出力する出力部と、を備える。
【0006】
態様の1つに係る情報処理方法は、コンピュータが、移動体で撮像された画像データが示す画像において、所定輝度以上の輝度となる第1領域を抽出することと、抽出された前記第1領域の抽出データを前記所定輝度よりも低い第1輝度に変換することと、変換された前記抽出データが反映された前記画像データを出力することと、を含む。
【0007】
態様の1つに係るプログラムは、コンピュータに、移動体で撮像された画像データが示す画像において、所定輝度以上の輝度となる第1領域を抽出することと、抽出された前記第1領域の抽出データを前記所定輝度よりも低い第1輝度に変換することと、変換された前記抽出データが反映された前記画像データを出力することと、を実行させる。
【図面の簡単な説明】
【0008】
【
図1】
図1は、実施形態に係る情報処理装置を含むシステムの概要を説明するための図である。
【
図2】
図2は、実施形態に係る情報処理装置の画像データに対する処理概要の一例を示す図である。
【
図3】
図3は、
図1に示す移動体の構成の一例を示す構成図である。
【
図4】
図4は、
図1に示す情報処理装置の構成の一例を示す図である。
【
図5】
図5は、学習用画像データと付加データとの一例を示す図である。
【
図6】
図6は、画像データが示す画像から第1領域を抽出する抽出例を説明するための図である。
【
図7】
図7は、画像データが示す画像から第1領域を抽出する他の抽出例を説明するための図である。
【
図8】
図8は、情報処理装置の第1領域の抽出方法の一例を示す図である。
【
図9】
図9は、実施形態に係る移動体が実行する処理手順の一例を示すフローチャートである。
【
図10】
図10は、実施形態に係る情報処理装置が実行する処理手順の一例を示すフローチャートである。
【
図13】
図13は、実施形態に係る情報処理装置が実行する収集処理の処理手順の一例を示すフローチャートである。
【発明を実施するための形態】
【0009】
本出願に係る情報処理装置、情報処理方法、プログラム等を実施するための複数の実施形態を、図面を参照しつつ詳細に説明する。なお、以下の説明により本出願が限定されるものではない。また、以下の説明における構成要素には、当業者が容易に想定できるもの、実質的に同一のもの、いわゆる均等の範囲のものが含まれる。以下の説明において、同様の構成要素について同一の符号を付すことがある。さらに、重複する説明は省略することがある。
【0010】
図1は、実施形態に係る情報処理装置を含むシステムの概要を説明するための図である。
図1に示すように、システム1は、情報処理装置100と、複数の移動体1000と、を備える。システム1は、情報処理装置100が複数の移動体1000を遠隔地で監視可能な遠隔監視システムである。システム1は、図示しないネットワークを介して、情報処理装置100と複数の移動体1000とが通信可能に接続されている。なお、本実施形態では、システム1は、情報処理装置100と複数の移動体1000とが一対複数の関係になっているが、情報処理装置100と移動体1000とが一対一の関係であってもよい。また、本開示は、いかに説明する情報処理装置100の機能が移動体1000に搭載されたものとしてもよい。
【0011】
情報処理装置100は、複数の移動体1000を遠隔地で監視可能な装置である。情報処理装置100は、複数の移動体1000で撮像された画像データD10を処理、表示等が可能な装置である。情報処理装置100は、例えば、移動体1000の外部に設けられたサーバ装置である。情報処理装置100は、移動体1000が伝送した画像データD10(映像)をリアルタイムで表示する機能を有する。画像データD10は、例えば、動画、静止画等の2次元画像を含む。本実施形態では、説明を簡単化するために、画像データD10は、静止画である場合について説明する。
【0012】
移動体1000は、例えば、自動走行、運転者による手動走行等で移動可能な車両を含む。車両は、例えば、バス、トラック、乗用車等を含む。本実施形態では、移動体1000は、巡行経路を自動で走行する車両である場合について説明するが、これに限定されない。移動体1000は、電車、飛行機、船、ドローン、宇宙船などでもよい。巡行経路は、移動体1000が周期的に移動する経路である。移動体1000は、自機の周辺を撮像する撮像装置を備える。移動体1000は、撮像装置が撮像した画像データD10を情報処理装置100に伝送する機能を有する。すなわち、移動体1000は、同一の位置で、昼間、夜間、晴天、雨天等の異なる交通環境で撮像した画像データD10を、情報処理装置100に伝送することができる。
【0013】
情報処理装置100は、移動体1000が伝送した画像データD10をリアルタイムで表示することで、移動体1000の周辺の状況を監視者に確認させることを可能にしている。情報処理装置100は、複数の移動体1000が伝送した複数の画像データD10を、表示画面に分割して同時に表示することができる。これにより、情報処理装置100は、移動体1000の自動運転等を遠隔地の監視者に監視させることで、緊急時の検知や緊急時の対応を可能にしている。
【0014】
システム1では、情報処理装置100は、移動体1000が伝送した画像データD10をそのまま表示すると、監視者が眩しいと感じる画像が画像データD10に含まれていた場合、眩しさに伴う疲労度が監視者に蓄積され、監視の質が低下する可能性がある。また、情報処理装置100は、移動体1000が伝送した画像データD10の輝度を低下させて表示すると、移動体1000の前方のブレーキランプ等の重要な箇所の監視の質が低下する可能性がある。本実施形態では、情報処理装置100は、監視の質を低下させることなく、移動体1000で撮像した画像データD10を監視する監視者の疲労の蓄積を抑制することを可能にする。
【0015】
図2は、実施形態に係る情報処理装置100の画像データD10に対する処理概要の一例を示す図である。
図2に示すように、情報処理装置100は、撮像された画像データD10が示す画像D11で所定輝度以上の輝度となる第1領域E10-1及び第1領域E10-2を抽出する。所定輝度は、例えば、監視者が眩しいと感じる輝度等を設定できる。第1領域E10-1は、第1領域E10-2よりも輝度が高い、例えば、街灯、対向車両のヘッドライト等の撮像物を含む領域である。第1領域E10-2は、所定輝度以上の車両のテールランプ等の撮像物を含む領域である。以下の説明では、第1領域E10-1及び第1領域E10-2を区別して説明する必要がない場合には、単に第1領域E10と記す。
【0016】
情報処理装置100は、抽出された第1領域E10の抽出データD30を所定輝度よりも低い第1輝度に変換する変換部152を備える。第1輝度は、例えば、監視者が眩しいと感じない所定輝度よりも低い輝度、監視者が希望する輝度等を設定できる。変換部152は、抽出データと撮像条件が異なりかつ抽出データD30の特徴を有する複数の学習用画像データを、第1輝度に変換するように機械学習した変換モデルMを有する。撮像条件は、例えば、撮像した時間帯、日時、天候等を含む。学習用画像データは、抽出データD30の特徴を有し、抽出データD30(画像データD10)とは異なる撮像条件で撮像された画像を示すデータである。なお、学習用画像データの一例については、後述する。
【0017】
変換部152は、例えば、街灯の輝度は低下させ、信号機、車のランプ、工事現場の照明及び人が着用している発光体の少なくともいずれかの輝度低下を、街灯の輝度低下よりも抑制するとしてもよい。すなわち、変換部152は、監視者にとって眩しいと感じる画像D11の部分のうち、街灯などの移動体1000の移動における安全性において、重要性の低いものの輝度は低下させる。しかし、変換部152は、信号機、車のランプ、工事現場の照明及び人が着用している発光体のように、移動体1000の移動における安全性に重要なものの輝度の低下は抑制する。
【0018】
変換モデルMは、第1変換モデルM1と第2変換モデルM2を有する。第1変換モデルM1は、学習用画像データを第1輝度に変換するように機械学習した機械学習済みモデルである。第1変換モデルM1は、入力された抽出データD30を第1輝度に変換し、変換後の抽出データD30を出力する。第2変換モデルM2は、学習用画像データが示す画像で、所定輝度以上の撮像物が存在する領域を第1輝度に変換せずに、当該撮像物が存在しない領域を第1輝度に変換するように機械学習した機械学習済みモデルである。第2変換モデルM2は、入力された抽出データD30が示す画像で、所定輝度以上の撮像物が存在しない領域を第1輝度に変換し、変換後の抽出データD30を出力する。
【0019】
情報処理装置100は、抽出データD30が眩しさを抑え、かつ監視対象を含まない画像である場合、抽出データD30を第1変換モデルM1に入力し、第1変換モデルM1が出力した変換後の抽出データD30を得る。情報処理装置100は、抽出データD30が監視対象を含む画像である場合、抽出データD30を第2変換モデルM2に入力し、第2変換モデルM2が出力した変換後の抽出データD30を得る。情報処理装置100は、変換した抽出データD30のパッチを画像データD10が示す画像D11の第1領域E10-1及び第1領域E10-2にブレンディングすることで、抽出データD30を画像データD10に反映する。これにより、情報処理装置100は、画像D11における重要度の低い照明等の眩しさを低減し、車両のテールランプ等の監視対象を維持した変換後の画像D12を示す画像データD10を提供することができる。その結果、情報処理装置100は、変換した画像データD10が示す重要な画像を監視者に視認させることでき、かつ疲労感を軽減することができる。
【0020】
[実施形態に係る移動体の構成例]
図3は、
図1に示す移動体1000の構成の一例を示す構成図である。
図3に示すように、移動体1000は、複数の撮像装置1100と、センサ部1200と、通信部1300と、ECU(Electronic Control Unit)1400と、を備える。ECU1400は、撮像装置1100、センサ部1200、通信部1300等と通信可能に接続されている。
【0021】
複数の撮像装置1100は、移動体1000の前方、後方、右側方及び左側方の各々を撮像可能に、移動体1000に設けられている。複数の撮像装置1100は、例えば、CCD(Charge Coupled Device Image Sensor)、CMOS(Complementary Metal Oxide Semiconductor)等のイメージセンサを用いて電子的に画像データを撮像できる。複数の撮像装置1100は、撮像方向が異なっている。複数の撮像装置1100は、移動体1000の周辺の環境を所定のフレームレートでリアルタイムに撮像し、撮像した画像データD10をECU1400に供給できる。
【0022】
センサ部1200は、移動体1000の状態を識別可能なセンサ情報を検出する。センサ部1200は、例えば、位置センサ、ジャイロセンサ等のセンサを用いることができる。位置センサとしては、GPS(Global Positioning System)受信機等の絶対座標の位置を取得するセンサ等が例示される。センサ部1200は、移動体1000の位置(情報処理装置100の位置)、角速度等を含むセンサ情報をECU1400に供給できる。これにより、ECU1400は、センサ情報に基づいて、撮像装置1100の撮像位置、方向等の情報を取得できる。
【0023】
通信部1300は、例えば、他の通信機器等と通信できる。通信部1300は、各種通信規格をサポートできる。通信部1300は、例えば、有線又は無線ネットワーク等を介して各種データを送受信できる。通信部1300は、受信したデータをECU1400に供給できる。通信部1300は、ECU1400が指示した送信先に、エンコーダ1410が復号化した画像データD10を情報処理装置100に送信できる。
【0024】
ECU1400は、エンコーダ1410と、記憶部1420と、制御部1430と、を備える。制御部1430は、エンコーダ1410及び記憶部1420と電気的に接続されている。
【0025】
エンコーダ1410は、制御部1430の制御によって画像データD10を符号化する機能を有する。エンコーダ1410は、移動体1000が伝送する画像データD10を、一定の形式に基づいて特定の符号に変換する。エンコーダ1410は、制御部1430から入力された画像データD10を復号化し、復号化した画像データD10を通信部1300に供給する。
【0026】
記憶部1420は、各種データ及びプログラムを記憶する。記憶部1420は、例えば、RAM、フラッシュメモリ等の半導体メモリ素子、ハードディスク、光ディスク等である。記憶部1420は、通信部1300を介して受信した情報等を記憶する。記憶部1420は、例えば、上述した画像データD10、位置情報D51、方向情報D52、時間情報D53等の各種情報を記憶する。位置情報D51は、例えば、センサ部1200によって検出された画像データD10の撮像位置を示す情報を含む。方向情報D52は、例えば、センサ部1200によって検出された画像データD10の撮像方向を示す情報を含む。時間情報D53は、例えば、画像データD10を撮像した日時、時間帯等を示す情報を含む。位置情報D51、方向情報D52及び時間情報D53は、画像データD10に関連付けられている。位置情報D51、方向情報D52及び時間情報D53は、画像データD10に含めてもよい。
【0027】
記憶部1420は、例えば、機械学習データを記憶してもよい。ここで、機械学習データは、機械学習によって生成されるデータとしてよい。機械学習データは、機械学習によって生成されるパラメータを含むとしてよい。また、機械学習とは、特定のタスクをトレーニングによって実行可能になるAI(Artificial Intelligence)の技術に基づくものとしてよい。より具体的には、機械学習とは、コンピュータのような情報処理装置が多くのデータを学習し、分類及び/又は予測などのタスクを遂行するアルゴリズム又はモデルを自動的に構築する技術としてよい。本明細書において、AIの一部には、機械学習が含まれるとしてもよい。本明細書において、機械学習には、正解データをもとに入力データの特徴又はルールを学習する教師あり学習が含まれるものとしてよい。また、機械学習には、正解データがない状態で入力データの特徴又はルールを学習する教師なし学習が含まれるものとしてもよい。さらに、機械学習には、報酬又は罰などを与えて入力データの特徴又はルールを学習する強化学習などが含まれるものとしてもよい。また、本明細書において、機械学習は、教師あり学習、教師なし学習、及び強化学習を任意に組み合わせたものとしてもよい。
【0028】
本実施形態の機械学習データの概念は、入力データに対して学習されたアルゴリズムを用いて所定の推論(推定)結果を出力するアルゴリズムを含むとしてもよい。本実施形態は、このアルゴリズムとして、例えば、従属変数と独立変数との関係を予測する線形回帰、人の脳神経系ニューロンを数理モデル化したニューラルネットワーク(NN)、誤差を二乗して算出する最小二乗法、問題解決を木構造にする決定木、及びデータを所定の方法で変形する正則化などその他適宜なアルゴリズムを用いることができる。本実施形態は、ニューラルネットワークの一種であるディープニューラルネットワークラーニングを利用するとしてよい。ディープニューラルネットワークラーニングは、ニューラルネットワークの一種であり、一般にネットワークの階層が中間層が1層以上の深い構造のものを意味するニューラルネットワークがディープラーニングと呼ばれている。ディープラーニングは、AIを構成するアルゴリズムとして多用されている。
【0029】
制御部1430は、演算処理装置である。演算処理装置は、例えば、CPU(Central Processing Unit)、SoC(System-on-a-Chip)、MCU(Micro Control Unit)、FPGA(Field-Programmable Gate Array)、及びコプロセッサを含むが、これらに限定されない。制御部1430は、移動体1000を制御する統合制御ユニットである。
【0030】
具体的には、制御部1430は、記憶部1420に記憶されている情報を必要に応じて参照しつつ、記憶部1420に記憶されているプログラムに含まれる命令を実行する。そして、制御部1430は、複数の撮像装置1100が撮像した画像データD10の各々をエンコーダ1410で復号化させ、当該画像データD10を位置情報D51、方向情報D52及び時間情報D53に関連付けて情報処理装置100に伝送する制御を行う機能を有する。制御部1430は、移動体1000が巡行経路を移動している場合に、通信部1300を介して、画像データD10をリアルタイムで情報処理装置100に伝送する。
【0031】
以上、実施形態に係る移動体1000の機能構成例について説明した。なお、
図3を用いて説明した上記の構成はあくまで一例であり、実施形態に係る移動体1000の機能構成は係る例に限定されない。実施形態に係る移動体1000の機能構成は、仕様や運用に応じて柔軟に変形可能である。
【0032】
[実施形態に係る情報処理装置の構成例]
図4は、
図1に示す情報処理装置100の構成の一例を示す図である。
図5は、学習用画像データD40と付加データD50との一例を示す図である。
図6は、画像データD10が示す画像D11から第1領域E10を抽出する抽出例を説明するための図である。
図7は、画像データD10が示す画像D11から第1領域E10を抽出する他の抽出例を説明するための図である。
図8は、情報処理装置100の第1領域E10の抽出方法の一例を示す図である。
【0033】
図4に示すように、情報処理装置100は、表示部110と、通信部120と、デコーダ130と、記憶部140と、制御部150と、を備える。制御部150は、表示部110、通信部120、デコーダ130、記憶部140等と電気的に接続されている。
【0034】
表示部110は、制御部150の制御によって移動体1000が伝送した画像データD10等を表示できる。表示部110は、制御部150の制御によってデコーダ130が復号化した画像データD10等を表示できる。表示部110は、例えば、液晶ディスプレイ、有機ELディスプレイ(organic electroluminescent display)等の表示デバイスを用いることができる。表示部110は、例えば、複数の移動体1000が伝送した複数の画像データD10を選択的に表示したり、同時に表示したりすることができる。表示部110は、複数の表示デバイスで実現してもよい。
【0035】
通信部120は、例えば、移動体1000の通信部1300、他の通信機器等と通信できる。通信部120は、各種通信規格をサポートできる。通信部120は、例えば、有線又は無線ネットワーク等を介して各種データを送受信できる。通信部120は、受信したデータを制御部150に供給できる。通信部120は、制御部150が指示した送信先にデータを送信できる。
【0036】
デコーダ130は、制御部150の制御によって画像データD10を復号化する。デコーダ130は、通信部120で受信した画像データD10を一定の形式に基づいて復号化し、復号化した画像データD10を制御部150に供給する。
【0037】
記憶部140は、プログラム及びデータを記憶できる。記憶部140は、制御部150の処理結果を一時的に記憶する作業領域としても利用される。記憶部140は、半導体記憶媒体、及び磁気記憶媒体等の任意の非一過的(non-transitory)な記憶媒体を含んでよい。記憶部140は、複数の種類の記憶媒体を含んでよい。記憶部140は、メモリカード、光ディスク、又は光磁気ディスク等の可搬の記憶媒体と、記憶媒体の読み取り装置との組み合わせを含んでよい。記憶部140は、RAM(Random Access Memory)等の一時的な記憶領域として利用される記憶デバイスを含んでよい。
【0038】
記憶部140は、例えば、プログラム141、第1変換モデルM1、第2変換モデルM2、画像データD10、変換データD20、抽出データD30、学習用画像データD40、付加データD50等の各種データを記憶できる。プログラム141は、情報処理装置100の各種動作に関する処理を実現するための機能を制御部150に実行させるプログラムである。第1変換モデルM1は、学習用画像データD40を第1輝度に変換するように機械学習した機械学習済みモデルである。第2変換モデルM2は、学習用画像データD40が示す画像で、所定輝度以上の撮像物が存在する領域を第1輝度に変換せずに、当該撮像物が存在しない領域を第1輝度に変換するように機械学習した機械学習済みモデルである。
【0039】
本開示は、夜間の時間帯の撮像条件で街灯が点灯している画像D11を、輝度が低下した画像D11に変換するモデルを第1変換モデルM1としてよい。本開示は、夜間の時間帯の撮像条件で車などのテールランプが点灯している画像D11の輝度を低下させずに、街灯などの輝度を低下した画像D11に変換するモデルを第2変換モデルM2としてよい。すなわち、本開示では、画像D11の監視者にとってあまり重要ではない街灯などの輝度を、第1変換モデルM1により低下させる。他方、本開示では、画像D11の監視者にとって安全性などから重要な車のテールランプなどの輝度は第2変換モデルM2により低下させない。本開示は、第1変換モデルM1や第2変換モデルM2を用いることにより、画像D11の輝度を重要度に適した変換方法に切り替えることができる。
【0040】
画像データD10は、移動体1000が伝送した画像データD10である。記憶部140は、複数の移動体1000ごとに画像データD10を時系列の順序で記憶している。変換データD20は、画像データD10をガンマ補正処理したガンマ変換画像を示すデータである。抽出データD30は、画像データD10が示す画像D11の第1領域E10から抽出した抽出画像を示すデータである。学習用画像データD40は、抽出データD30と撮像条件が異なりかつ抽出データD30の特徴を有する機械学習用の画像を示すデータである。学習用画像データD40は、機械学習の教師データである。本実施形態では、学習用画像データD40は、移動体1000が撮像したデータを含む。
【0041】
付加データD50は、抽出データD30を抽出した画像データD10、学習用画像データD40等に付加されるデータである。付加データD50は、撮像条件を識別可能なデータである。付加データD50は、
図5に示すように、位置情報D51と、方向情報D52と、時間情報D53と、特徴情報D54と、天候情報D55とを有する。位置情報D51は、学習用画像データD40を撮像した位置を示す、緯度、経度、GPS情報などの情報を含む。方向情報D52は、学習用画像データD40を撮像した移動体1000の撮像方向を示す情報を含む。時間情報D53は、学習用画像データD40を撮像した日時、時間帯等を示す情報を含む。特徴情報D54は、画像D11が示す対象画像の認識結果、対象画像の形状物体の特徴ベクトル、対象画像の背景等の特徴を識別可能な情報を含む。対象画像は、例えば、街灯、車両のランプ、信号機等の発光可能な物体の画像を含む。天候情報D55は、学習用画像データD40を撮像した、晴天、曇り、雨、雪、霧、気温などの天候を示す情報を含む。本開示は、付加データD50として上記に限定するものではなく、他の付加データを含むとしてよい。
【0042】
図5に示す一例では、学習用画像データD40と付加データD50とを関連付けているが、これに限定されない。付加データD50は、画像データD10及び抽出データD30の少なくとも一方に関連付けることができる。
【0043】
情報処理装置100は、学習用画像データD40と付加データD50とを関連付けることで、付加データD50を学習用画像データD40のラベルとして用いることができる。情報処理装置100は、画像データD10または抽出データD30に付加データD50を関連付けることで、付加データD50に類似した撮像条件が異なる学習用画像データD40の収集することができる。これにより、情報処理装置100は、移動体1000が伝送する複数の画像データD10の中から、付加データD150に基づく学習用画像データD40を収集することができる。
【0044】
図4に示すように、制御部150は、演算処理装置である。演算処理装置は、例えば、CPU、SoC、MCU、FPGA、及びコプロセッサを含むが、これらに限定されない。制御部150は、情報処理装置100の動作を統括的に制御して各種の機能を実現できる。
【0045】
具体的には、制御部150は、記憶部140に記憶されている情報を必要に応じて参照しつつ、記憶部140に記憶されているプログラム141に含まれる命令を実行できる。そして、制御部150は、データ及び命令に応じて機能部を制御し、それによって各種機能を実現できる。機能部は、例えば、表示部110及び通信部120を含むが、これらに限定されない。
【0046】
制御部150は、抽出部151、変換部152、出力部153、収集部154等の機能部を有する。制御部150は、プログラム141を実行することによって、抽出部151、変換部152、出力部153、収集部154等の機能部を実現する。プログラム141は、情報処理装置100の制御部150を、抽出部151、変換部152、出力部153及び収集部154として機能させるためのプログラムである。
【0047】
抽出部151は、移動体1000の撮像装置1100によって撮像された画像データD10が示す画像D11で所定輝度以上の輝度となる第1領域E10を抽出する。
図6に示しように、抽出部151は、画像D11で、監視者が眩しいと感じる輝度の領域である街灯の領域(第1領域E10-1)、テールランプの点灯を維持する領域(第1領域E10-2)等を抽出する。第1領域E10-1は、画像D11に含まれる点灯画像を変更する領域を含む。第1領域E10-1は、画像D11に含まれる点灯画像を、撮像条件が異なる同一箇所の非点灯画像に置き換える領域を含む。抽出部151は、第1領域E10-1の画像を示す抽出データD30-1を抽出する。第1領域E10-2は、画像D11に含まれる点灯画像を維持する領域を含む。第1領域E10-2は、画像D11に含まれる点灯画像を、撮像条件が異なる輝度が抑制された点灯画像に置き換える領域を含む。抽出部151は、第1領域E10-2の画像を示す抽出データD30-2を抽出して記憶部140に記憶する。
【0048】
抽出部151は、
図7に示すように、移動体1000の撮像装置1100によって撮像された画像データD10が示す画像D11で所定輝度以上の輝度となり、かつ領域の面積が判定閾値Kよりも大きい第1領域E10を抽出する。判定閾値Kは、画像D11の全体の輝度を低下させるか否かを判定するための値である。面積が判定閾値Kよりも大きい第1領域E10は、例えば、画像D11における白飛びの領域を含む。抽出部151は、面積が判定閾値Kよりも大きい第1領域E10の画像D11を示す抽出データD30を抽出して記憶部140に記憶する。
【0049】
抽出部151は、
図8に示すように、画像データD10と、画像データD10をガンマ補正処理したガンマ変換画像を示す変換データD20との差分から、所定輝度以上の第1領域E10-1及び第1領域E10-2を画像D11から抽出する。ガンマ補正処理は、例えば、画像データD10を高輝度化する処理を含む。抽出部151は、第1領域E10-1及び第1領域E10-2の画像を示す抽出データD30を画像データD10から抽出する。抽出部151は、抽出データD30が示す画像に対して照度不変な特徴量を用いてベクトル化し、ベクトルVとベクトルVとの間のなす角θに基づくコサイン類似度を計算する。これにより、抽出部151は、抽出データD30が示す画像の類似度を機別可能な特徴情報D54を求めことができる。特徴量は、例えば、公知であるSIFT特徴量、SURF特徴量等を含む。抽出部151は、求めた特徴情報D54を抽出データD30に関連付けた記憶部140に記憶する。
【0050】
図4に示すように、変換部152は、抽出された第1領域E10の抽出データD30を所定輝度よりも低い第1輝度に変換する。変換部152は、抽出データD30と撮像条件が異なりかつ抽出データD30の特徴を有する複数の学習用画像データD40を、第1輝度に変換するように機械学習した変換モデルMで、入力した抽出データD30を変換する。すなわち、変換部152は、抽出データD30を変換モデルMに入力することで、抽出データD30を第1輝度に変換する。
【0051】
変換部152は、第1変換モデルM1で、入力した第1変換条件を満たす抽出データD30を変換する。例えば、移動体1000が撮像した画像D11では、監視者が監視すべき領域は、移動体1000の前方を撮像した画像D11であれば、中央付近から下方であり、中央から上方は監視が不要な領域となる。このため、第1変換条件は、第1領域E10が画像D11における変換領域に存在するか否かの条件を含む。変換領域は、例えば、画像D11の上下方向における2/3よりも上方の領域を含む。変換部152は、第2変換モデルM2で、入力した第2変換条件を満たす抽出データD30を変換する。第2変換条件は、第1領域E10が画像D11における監視領域に存在するか否かの条件を含む。監視領域は、例えば、画像D11の上下方向における2/3よりも下方の領域を含む。変換部152は、変換した抽出データD30のパッチを画像データD10が示す画像D11の第1領域E10にブレンディングすることで、抽出データD30を画像データD10に反映する。
【0052】
変換部152は、抽出部151が第1領域E10を抽出した場合、第1領域E10の面積が判定閾値よりも大きいと、画像データD10が示す画像D11の全体の画素の輝度を下げる低輝度化処理を実行する。変換部152は、記憶部140に記憶している元の画像データD10を、変換後の画像データD10に置き換える。
【0053】
出力部153は、変換された抽出データD30が反映された画像データD10を出力する。出力部153は、変化後の画像データD10を出力(表示)するように、表示部110を制御する。これにより、表示部110は、高輝度の領域が抑制された画像データD10を表示できる。
【0054】
収集部154は、抽出データD30と撮像条件が異なりかつ抽出データD30の特徴を有する複数の学習用画像データD40を収集する。収集部154は、抽出データD30に付加された付加データD50に基づいて、特徴が類似した画像を示す学習用画像データD40を収集する。例えば、移動体1000が路線バスである場合、路線バスは、特定の巡行経路を何度も運行するため、同じ地点で異なる時間帯に画像データD10を撮影することができる。付加データD50が示す撮像位置で異なる日時、時間帯及び天候等に、移動体1000で撮像した画像データD10は、抽出データD30と類似した特徴、背景等を有する画像を含む確率が高い。例えば、雨の日の画像は、晴れの日の画像に比べて輝度や明瞭度が異なる。このため、収集部154は、移動体1000で撮像した画像データD10から、抽出データD30と撮像条件が異なりかつ抽出データD30の特徴を有する複数の学習用画像データD40を収集する。収集部154は、収集した学習用画像データD40に、画像の特徴等を識別可能な付加データD50を関連付けて記憶部140に記憶する。これにより、情報処理装置100は、複数の学習用画像データD40を、第1輝度に変換するように機械学習した第1変換モデルM1及び第2変換モデルM2の信頼性を向上させることができる。
【0055】
以上、本実施形態に係る情報処理装置100の機能構成例について説明した。なお、
図4を用いて説明した上記の構成はあくまで一例であり、本実施形態に係る情報処理装置100の機能構成は係る例に限定されない。本実施形態に係る情報処理装置100の機能構成は、仕様や運用に応じて柔軟に変形可能である。
【0056】
[移動体の処理手順例]
図9は、実施形態に係る移動体1000が実行する処理手順の一例を示すフローチャートである。
図9に示す処理手順は、移動体1000の制御部1430がプログラムを実行することによって実現される。
図9に示す処理手順は、移動体1000が巡行している場合に実行される。
図9に示す処理手順は、説明を簡単化するために、移動体1000の前方を撮像する撮像装置1100の画像データD10を伝送する手順を示している。
【0057】
図9に示すように、移動体1000は、画像データD10を取得する(ステップS101)。例えば、移動体1000は、撮像装置1100から画像データD10を取得し、センサ部1200から取得したセンサ情報に基づく位置情報D51、撮像装置1100の撮像方向を示す方向情報D52及び時間情報D53を関連付けた画像データD10を記憶部1420に記憶する。移動体1000は、ステップS101の処理が終了すると、処理をステップS102に進める。
【0058】
移動体1000は、画像データD10をエンコードする(ステップS102)。例えば、移動体1000は、画像データD10、位置情報D51、方向情報D52、時間情報D53等を伝送する伝送データをエンコーダ1410でエンコードする。移動体1000は、ステップS102の処理が終了すると、処理をステップS103に進める。
【0059】
移動体1000は、画像データD10を伝送する(ステップS103)。例えば、移動体1000は、エンコードした伝送データの情報処理装置100への伝送を通信部1300に指示することで、画像データD10を情報処理装置100に伝送する。移動体1000は、ステップS103の処理が終了すると、処理をステップS104に進める。
【0060】
移動体1000は、伝送終了であるか否かを判定する(ステップS104)。例えば、移動体1000は、画像データD10の伝送終了条件を満たす場合に、伝送終了であると判定する。伝送終了条件は、例えば、移動体1000の巡行移動の終了タイミング、予め設定された終了タイミング等の条件が設定される。移動体1000は、伝送終了ではないと判定した場合(ステップS104でNo)、処理を既に説明したステップS101に戻し、処理を継続する。また、移動体1000は、伝送終了であると判定した場合(ステップS104でYes)、
図9に示す処理手順を終了させる。
【0061】
[情報処理装置の処理手順例]
図10は、実施形態に係る情報処理装置100が実行する処理手順の一例を示すフローチャートである。
図11は、
図10に示す変換処理の処理手順の一例を示すフローチャートである。
図10及び
図11に示す処理手順は、情報処理装置100の制御部150がプログラム141を実行することによって実現される。
図10及び
図11に示す処理手順は、監視者が移動体1000を監視する場合に実行される。
図10及び
図11に示す処理手順は、説明を簡単化するために、1台の移動体1000から伝送された画像データD10を処理する手順を示している。
【0062】
図10に示すように、情報処理装置100は、画像データD10を受信する(ステップS201)。例えば、情報処理装置100は、通信部120を介して、移動体1000が伝送した画像データD10を受信する。情報処理装置100は、画像データD10を受信すると、処理をステップS202に進める。
【0063】
情報処理装置100は、受信した画像データD10をデコードする(ステップS202)。例えば、情報処理装置100は、通信部120で受信した伝送データをデコーダ130でデコードすることで、画像データD10、位置情報D51、方向情報D52、時間情報D53等をデコードする。情報処理装置100は、デコードした画像データD10を位置情報D51、方向情報D52及び時間情報D53と移動体1000を識別可能な情報に関連付けて記憶部140に記憶すると、処理をステップS203に進める。
【0064】
情報処理装置100は、画像D11から第1領域E10の抽出データD30を抽出する(ステップS203)。例えば、情報処理装置100は、デコードした画像データD10が示す画像D11から、所定輝度以上の輝度となる第1領域E10を抽出し、第1領域E10の画像を示す抽出データD30を抽出する。情報処理装置100は、画像データD10と、画像データD10をガンマ補正処理で変換した変換データD20との差分に基づいて第1領域E10を抽出し、第1領域E10の画像を示す抽出データD30を抽出する。情報処理装置100は、抽出した抽出データD30を画像データD10に関連付けて記憶部140に記憶する。情報処理装置100は、付加データD50を生成して抽出データD30及び画像データD10に関連付ける。情報処理装置100は、ステップS203の処理が終了すると、処理をステップS204に進める。
【0065】
情報処理装置100は、抽出データD30の変換処理を実行する(ステップS204)。情報処理装置100は、
図11に示す変換処理を実行することで、抽出データD30の輝度を変換する。
【0066】
図11に示すように、情報処理装置100は、元の画像データD10を取得する(ステップS301-1)。例えば、情報処理装置100は、抽出データD30に関連付けられた抽出元の画像データD10を記憶部140から取得する。そして、情報処理装置100は、第1領域E10の画像の面積を算出する(ステップS301-2)。例えば、情報処理装置100は、第1領域E10の縦横の長さに基づいて面積を算出する。
【0067】
情報処理装置100は、ステップS301-2の面積が判定閾値Kよりも大きいか否かを判定する(ステップS302)。情報処理装置100は、面積が判定閾値Kよりも大きいと判定した場合(ステップS302でYes)、抽出データD30が白飛びの画像と見なし、処理をステップS303に進める。白飛びとは、撮像画像の輝度が撮像対象の輝度を超えたものとしてよい。白飛びは、撮像装置1100のダイナミックレンジの限界を超えた場合に発生するとしてよい。
【0068】
情報処理装置100は、ステップS301-1の処理が終了し、かつステップS302で面積が判定閾値Kよりも大きいと判定されると、元の画像データD10を低輝度化する(ステップS303)。例えば、情報処理装置100は、ステップS301-1で取得した元の画像データD10の全体の輝度を、眩しさを低減させる輝度に低下させる画像処理を実行する。そして、情報処理装置100は、変換したデータを記憶部140に記憶する(ステップS304)。例えば、情報処理装置100は、変換データD20として変換した元の画像データD10を記憶部140に記憶する。情報処理装置100は、ステップS304の処理が終了すると、
図11に示す処理手順を終了させ、
図10に示すステップS204の処理に復帰する。
【0069】
また、情報処理装置100は、面積が判定閾値Kよりも大きくないと判定した場合(ステップS302でNo)、処理をステップS305に進める。情報処理装置100は、抽出データD30の変換条件を判定する(ステップS305)。例えば、情報処理装置100は、第1領域E10が画像D11における変換領域に存在する場合、第1変換条件を満たすと判定する。例えば、情報処理装置100は、第1領域E10が画像D11における監視領域に存在する場合、第2変換条件を満たすと判定する。例えば、情報処理装置100は、複数の抽出データD30が存在する場合、複数の抽出データD30の各々の変換条件を判定する。情報処理装置100は、ステップS305の処理が終了すると、処理をステップS306に進める。
【0070】
情報処理装置100は、第1変換条件を満たすか否かを判定する(ステップS306)。情報処理装置100は、ステップS305の判定結果に基づいて、第1変換条件を満たすと判定した場合(ステップS306でYes)、処理をステップS307に進める。情報処理装置100は、第1変換モデルM1で、入力した抽出データD30を変換する(ステップS307)。例えば、情報処理装置100は、第1変換条件を満たす抽出データD30を第1変換モデルM1に入力し、第1変換モデルM1が抽出データD30を第1輝度に変換し、第1変換モデルM1が出力したデータを変換後の抽出データD30とする。情報処理装置100は、ステップS307の処理が終了すると、処理をステップS304に進める。情報処理装置100は、変換したデータを記憶部140に記憶する(ステップS304)。例えば、情報処理装置100は、変換データD20として変換した抽出データD30を記憶部140に記憶する。情報処理装置100は、ステップS304の処理が終了すると、
図11に示す処理手順を終了させ、
図10に示すステップS204の処理に復帰する。
【0071】
また、情報処理装置100は、ステップS305の判定結果に基づいて、第1変換条件を満たさないと判定した場合(ステップS306でNo)、処理を後述するステップS308に進める。
【0072】
情報処理装置100は、第2変換条件を満たすか否かを判定する(ステップS308)。情報処理装置100は、ステップS305の判定結果に基づいて、第2変換条件を満たさないと判定した場合(ステップS308でNo)、処理をステップS304に進める。情報処理装置100は、変換したデータを記憶部140に記憶する(ステップS304)。例えば、情報処理装置100は、データを変換していないことを示す情報を記憶部140に記憶してもよいし、変換していない抽出データD30を変換データD20として記憶部140に記憶してもよい。情報処理装置100は、ステップS304の処理が終了すると、
図11に示す処理手順を終了させ、
図10に示すステップS204の処理に復帰する。
【0073】
また、情報処理装置100は、ステップS305の判定結果に基づいて、第2変換条件を満たすと判定した場合(ステップS308でYes)、処理をステップS309に進める。情報処理装置100は、第2変換モデルM2で、入力した抽出データD30を変換する(ステップS309)。例えば、情報処理装置100は、第2変換条件を満たす抽出データD30を第2変換モデルM2に入力し、第2変換モデルM2が抽出データD30を、所定輝度以上の撮像物が存在する領域を第1輝度に変換せずに、当該撮像物が存在しない領域を第1輝度に変換する。情報処理装置100は、第2変換モデルM2が出力したデータを変換後の抽出データD30とする。情報処理装置100は、ステップS309の処理が終了すると、処理をステップS304に進める。情報処理装置100は、変換したデータを記憶部140に記憶する(ステップS304)。例えば、情報処理装置100は、変換データD20として変換した抽出データD30を記憶部140に記憶する。情報処理装置100は、ステップS304の処理が終了すると、
図11に示す処理手順を終了させ、
図10に示すステップS204の処理に復帰する。
【0074】
図10に戻り、情報処理装置100は、ステップS204の変換処理が終了すると、処理をステップS205に進める。情報処理装置100は、画像データD10に変換データD20を反映する(ステップS205)。例えば、情報処理装置100は、変換した抽出データD30のパッチを画像データD10が示す画像D11の第1領域E10にブレンディングすることで、抽出データD30を画像データD10に反映する。情報処理装置100は、ステップS205の処理が終了すると、処理をステップS206に進める。
【0075】
情報処理装置100は、画像データD10を表示部110に出力する(ステップS206)。例えば、情報処理装置100は、変化後の画像データD10を出力(表示)するように、表示部110を制御する。例えば、情報処理装置100は、変換後の画像データD10を、通信部120を介して外部の機器に出力してもよい。情報処理装置100は、ステップS206の処理が終了すると、処理をステップS207に進める。
【0076】
情報処理装置100は、伝送終了であるか否かを判定する(ステップS207)。例えば、情報処理装置100は、画像データD10の伝送終了条件を満たす場合に、伝送終了であると判定する。伝送終了条件は、例えば、通信部120を介して画像データD10を受信していない継続時間、予め設定された終了タイミング等の条件が設定される。情報処理装置100は、伝送終了ではないと判定した場合(ステップS207でNo)、処理を既に説明したステップS201に戻し、処理を継続する。また、情報処理装置100は、伝送終了であると判定した場合(ステップS207でYes)、
図10に示す処理手順を終了させる。
【0077】
以上のように、情報処理装置100は、撮像された画像データD10が示す画像D11で所定輝度以上の輝度となる第1領域E10を抽出し、当該第1領域E10の抽出データD30の輝度を低い輝度に変換する。情報処理装置100は、変換された抽出データD30を反映した画像データD10を表示部110に出力する。これにより、情報処理装置100は、所定輝度以上の輝度を低減した画像データD10を表示部110に表示できるので、監視者の疲労度を軽減させることができる。
【0078】
情報処理装置100は、抽出データD30と撮像条件が異なりかつ抽出データD30の特徴を有する複数の学習用画像データD40を、第1輝度に変換するように機械学習した変換モデルMで、入力した前記抽出データを変換することができる。これにより、情報処理装置100は、抽出データD30を変換モデルMに入力すればよいので、複数の移動体1000の画像データD10を監視する場合の処理負担を抑制することができる。
【0079】
情報処理装置100は、第1変換モデルM1で、入力した第1変換条件を満たす抽出データD30を変換し、第2変換モデルM2で、入力した第2変換条件を満たす抽出データD30を変換することができる。これにより、情報処理装置100は、画像データD10で対象画像の輝度を変換したり、変換しなかったりすることができるので、重要度の高い対象画像を維持することができる。
【0080】
情報処理装置100は、画像データD10と画像データD10にガンマ補正処理した変換データD20とを比較して画像D11の第1領域E10を特定し、画像データD10から第1領域E10の抽出データD30を抽出する。これにより、情報処理装置100は、ガンマ補正処理のガンマ値を高く設定することで、画像データD10と変換データD20との差分から眩しい領域(高輝度領域)を検出することができる。
【0081】
図12は、移動体1000の巡行経路1000Rの一例を示す図である。
図13は、実施形態に係る情報処理装置100が実行する収集処理の処理手順の一例を示すフローチャートである。
図13に示す処理手順は、情報処理装置100の制御部150がプログラム141を実行することによって実現される。
図13に示す処理手順は、監視者が移動体1000を監視する場合に実行され、終了が指示された場合に実行が終了される。
【0082】
図12に示す経路データD60は、移動体1000の所定ルートである巡行経路1000R、複数の停留所1000B等の位置や、巡行スケジュールを識別可能な情報を有する。移動体1000は、巡行経路1000Rを何度も運行するため、同じ地点で異なる時間帯の画像データD10を撮像することができる。例えば、情報処理装置100は、位置情報D51、方向情報D52及び時間情報D53が抽出データD30に関連付けられている場合、位置情報D51及び方向情報D52が同じで、時間情報D53が示す時間帯または時間、天候情報D55が示す天候等の撮像条件が異なる画像データD10から、学習用画像データD40を収集する。
【0083】
図13に示すように、情報処理装置100は、画像データD10を取得する(ステップS401)。例えば、情報処理装置100は、通信部120を介して受信したデコード済みの画像データD10を取得する。情報処理装置100は、画像D11から第1輝度以上の第1領域E10を検出する(ステップS402)。例えば、情報処理装置100は、画像D11から所定輝度以上の輝度となる第1領域E10を検出する。情報処理装置100は、第1領域E10の検出結果を記憶部140に記憶すると、処理をステップS403に進める。
【0084】
情報処理装置100は、ステップS403の検出結果に基づいて、第1領域E10を検出したか否かを判定する(ステップS403)。情報処理装置100は、第1領域E10を検出したと判定した場合(ステップS403でYes)、処理をステップS404に進める。情報処理装置100は、画像D11から第1輝度以上の第1領域E10を抽出する(ステップS404)。例えば、情報処理装置100は、画像データD10から画像D11の第1領域E10を示す抽出データD30を抽出する。情報処理装置100は、抽出した抽出データD30を記憶部140に記憶すると、処理をステップS405に進める。
【0085】
情報処理装置100は、抽出データD30の特徴ベクトルを算出する(ステップS405)。例えば、情報処理装置100は、抽出データD30が示す画像D11に対して照度不変な特徴量を用いて特徴ベクトルを算出する。情報処理装置100は、算出した特徴ベクトル、物体、背景等を含む特徴情報D54を、付加データD50として抽出データD30に関連付けて記憶部140に記憶する。情報処理装置100は、移動体1000が移動している位置の天候を示す天候情報D55を取得し、天候情報D55を付加データD50として抽出データD30に関連付けて記憶部140に記憶する。情報処理装置100は、ステップS405の処理が終了すると、処理をステップS406に進める。
【0086】
情報処理装置100は、撮像条件が異なる別の画像データD10を取得する(ステップS406)。例えば、情報処理装置100は、画像データD10に関連付けられた付加データD50に基づいて、撮像位置及び撮像方向が同じで時間帯、天候等が異なる別の画像データD10を取得する。情報処理装置100は、別の画像データD10から第1領域E10の第2抽出データを取得する(ステップS407)。例えば、情報処理装置100は、別の画像データD10から画像D11の第1領域E10を示す第2抽出データを抽出する。情報処理装置100は、抽出した第2抽出データを記憶部140に記憶すると、処理をステップS408に進める。
【0087】
情報処理装置100は、第2抽出データの特徴ベクトルを算出する(ステップS408)。例えば、情報処理装置100は、第2抽出データが示す画像D11に対して照度不変な特徴量を用いて特徴ベクトルを算出する。そして、情報処理装置100は、抽出データと第2抽出データとの類似度を算出する(ステップS409)。例えば、情報処理装置100は、算出プログラム、機械学習等を用いて、特徴ベクトルの類似度を算出し、算出結果を記憶部140に記憶する。情報処理装置100は、ステップS409の処理が終了すると、処理をステップS410に進める。
【0088】
情報処理装置100は、類似度が判定閾値よりも大きいか否かを判定する(ステップS410)。類似度の判定閾値は、特徴が同一であるか否かを判定するために設定された閾値である。情報処理装置100は、類似度が判定閾値よりも大きいと判定した場合(ステップS410でYes)、処理をステップS411に進める。情報処理装置100は、第2抽出データの第1領域E10を識別可能な情報に関連付けて保存する(ステップS411)。例えば、情報処理装置100は、第2抽出データの抽出元の画像データD10に関連付けられた付加データD50を参照し、付加データD50の特徴情報D54を第2抽出データの特徴を示すように変更する。情報処理装置100は、第2抽出データを学習用画像データD40とし、付加データD50を関連付けて記憶部140に保存する。情報処理装置100は、ステップS411の処理が終了すると、処理を後述するステップS412に進める。
【0089】
また、情報処理装置100は、類似度が判定閾値よりも大きくないと判定した場合(ステップS410でNo)、処理をステップS412に進める。情報処理装置100は、次のフレームの画像データD10を取得する(ステップS412)。例えば、情報処理装置100は、通信部120を介して、移動体1000が伝送した次のフレームの画像データD10を取得する。情報処理装置100は、ステップS412の処理が終了すると、処理を既に説明したステップS402に戻し、処理を継続する。
【0090】
以上のように、情報処理装置100は、巡行中の移動体1000が伝送する画像データD10から、付加データD50に基づく抽出データD30の学習に適した大量の学習用画像データD40を取集することができる。例えば、同一の位置で同一の撮像方向を撮像した画像データD10は、時間帯、天候等の撮像条件が異なることで、コンテキストが類似した画像D11であっても、輝度、視認性等が異なる可能性が高い。情報処理装置100は、経路データD60が示す巡行経路1000Rで撮像した画像データD10から、付加データD50が示す特徴と類似した特徴を有し、かつ撮像条件が異なる学習用画像データD40を収集することができる。これにより、情報処理装置100は、変換モデルMが多くの学習用画像データD40を機械学習できるので、変換モデルMの出力の信頼度をより一層向上させることができる。
【0091】
上述した情報処理装置100は、画像データD10が示す画像D11のRGB情報、コンテキスト等に基づいて画像D11における撮像物を認識し、認識結果で変換に用いる第1変換モデルM1と第2変換モデルM2を切り替えるように構成してもよい。
【0092】
上述した情報処理装置100は、画像データD10の輝度を変換する機能と、学習用画像データD40を収集する機能とを実現する場合について説明したが、これに限定されない。例えば、情報処理装置100は、画像データD10の輝度を変換する機能のみを有する構成としてもよい。例えば、情報処理装置100は、2つの機能を個別の装置で実現してもよい。例えば、情報処理装置100は、学習用画像データD40を収集する機能を移動体1000で実現してもよい。
【0093】
上述した情報処理装置100は、移動体1000の外部に設ける場合について説明したが、これに限定されない。情報処理装置100は、移動体1000に搭載されてもよいし、移動体1000に搭載れたECU1400、車載器等で実現してもよい。
【0094】
添付の請求項に係る技術を完全かつ明瞭に開示するために特徴的な実施形態に関し記載してきた。しかし、添付の請求項は、上記実施形態に限定されるべきものでなく、本明細書に示した基礎的事項の範囲内で当該技術分野の当業者が創作しうるすべての変形例及び代替可能な構成を具現化するように構成されるべきである。本開示の内容は、当業者であれば本開示に基づき種々の変形および修正を行うことができる。したがって、これらの変形および修正は本開示の範囲に含まれる。例えば、各実施形態において、各機能部、各手段、各ステップなどは論理的に矛盾しないように他の実施形態に追加し、若しくは、他の実施形態の各機能部、各手段、各ステップなどと置き換えることが可能である。また、各実施形態において、複数の各機能部、各手段、各ステップなどを1つに組み合わせたり、或いは分割したりすることが可能である。また、上述した本開示の各実施形態は、それぞれ説明した各実施形態に忠実に実施することに限定されるものではなく、適宜、各特徴を組み合わせたり、一部を省略したりして実施することもできる。
【符号の説明】
【0095】
1 システム
100 情報処理装置
110 表示部
120 通信部
130 デコーダ
140 記憶部
141 プログラム
150 制御部
151 抽出部
152 変換部
153 出力部
154 収集部
1000 移動体
1000R 巡行経路
1100 撮像装置
1200 センサ部
1300 通信部
1400 ECU
1410 エンコーダ
1420 記憶部
1430 制御部
D10 画像データ
D11 画像
D20 変換データ
D30 抽出データ
D40 学習用画像データ
D50 付加データ
D51 位置情報
D52 方向情報
D53 時間情報
D54 特徴情報
D55 天候情報
D60 経路データ
E10 第1領域