(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】
(24)【登録日】2024-11-11
(45)【発行日】2024-11-19
(54)【発明の名称】情報処理装置、情報処理システム、情報処理方法および情報処理プログラム
(51)【国際特許分類】
G06N 20/00 20190101AFI20241112BHJP
G06T 7/00 20170101ALI20241112BHJP
G08G 1/16 20060101ALI20241112BHJP
G08G 1/00 20060101ALI20241112BHJP
【FI】
G06N20/00
G06T7/00 350B
G06T7/00 650Z
G08G1/16 A
G08G1/00 A
(21)【出願番号】P 2021567309
(86)(22)【出願日】2020-12-15
(86)【国際出願番号】 JP2020046778
(87)【国際公開番号】W WO2021131911
(87)【国際公開日】2021-07-01
【審査請求日】2023-11-16
(31)【優先権主張番号】P 2019233594
(32)【優先日】2019-12-24
(33)【優先権主張国・地域又は機関】JP
(73)【特許権者】
【識別番号】000002185
【氏名又は名称】ソニーグループ株式会社
(74)【代理人】
【識別番号】110002147
【氏名又は名称】弁理士法人酒井国際特許事務所
(72)【発明者】
【氏名】佐藤 竜太
【審査官】福西 章人
(56)【参考文献】
【文献】特開2019-159659(JP,A)
【文献】特開2010-055303(JP,A)
【文献】米国特許出願公開第2019/0034829(US,A1)
【文献】特開2015-135552(JP,A)
(58)【調査した分野】(Int.Cl.,DB名)
G06N 3/00-99/00
G06F 18/00-18/40
G06T 7/00
G08G 1/16
G08G 1/00
(57)【特許請求の範囲】
【請求項1】
予め学習された第1の認識器により、センサにより取得されたセンサ情報を用いて物体認識処理を行う認識部と、
前記第1の認識器とは異なる第2の認識器に、前記センサ情報を学習データとして適用可能か否かを判定する学習データ適用判定部と、
前記学習データとして前記第2の認識器に適用するために前記センサ情報を前記第1の認識器を生成可能なサーバに送信するか否かを、該センサ情報に基づき判定する送信判定部と、
を備え
、
前記送信判定部は、
前記センサ情報のうち、前記学習データ適用判定部により前記第2の認識器から指定された認識処理が可能な認識器の数が所定数以上のセンサ情報を、前記サーバに送信する、
情報処理装置。
【請求項2】
前記送信判定部は、
次に更新されるまでの時間が所定時間未満の前記センサ情報を前記サーバに送信する、
請求項
1に記載の情報処理装置。
【請求項3】
前記送信判定部は、
出現の頻度が所定未満の前記センサ情報を前記サーバに送信する、
請求項
1に記載の情報処理装置。
【請求項4】
他の情報処理装置と通信可能な通信部をさらに備え、
前記送信判定部は、
前記通信部により前記他の情報処理装置と通信を行い該他の情報処理装置が前記サーバに送信するセンサ情報を示す情報を取得し、取得した該情報に基づき、前記センサにより取得されたセンサ情報を前記サーバに送信するか否かを判定する、
請求項
1に記載の情報処理装置。
【請求項5】
前記センサ情報を蓄積部に蓄積するか否かを判定する蓄積判定部をさらに備え、
前記蓄積判定部は、
前記送信判定部により前記サーバに送信しないと判定された前記センサ情報を前記蓄積部に蓄積する、
請求項
1に記載の情報処理装置。
【請求項6】
前記送信判定部は、
前記蓄積部に蓄積された前記センサ情報を、通信コストが低いタイミングで前記サーバに送信する、
請求項
5に記載の情報処理装置。
【請求項7】
前記蓄積判定部は、
前記サーバに送信しないと判定された前記センサ情報の優先度を求め、該優先度に基づき該センサ情報を前記蓄積部に蓄積するか否かを判定する、
請求項
5に記載の情報処理装置。
【請求項8】
サーバと、
前記サーバと通信可能な情報処理装置と、
を含み、
前記サーバは、
学習データに基づく機械学習により第1の認識器と、該第1の認識器と異なる第2の認識部と、を生成する学習部を備え、
前記情報処理装置は、
前記第1の認識器により、センサにより取得されたセンサ情報を用いて物体認識処理を行う認識部と、
前記第1の認識器とは異なる第2の認識器に、前記センサ情報を学習データとして適用可能か否かを判定する学習データ適用判定部と、
前記学習データとして前記第2の認識器に適用するために前記センサ情報を前記第1の認識器を生成可能なサーバに送信するか否かを、該センサ情報に基づき判定する送信判定部と、
を備え
、
前記送信判定部は、
前記センサ情報のうち、前記学習データ適用判定部により前記第2の認識器から指定された認識処理が可能な認識器の数が所定数以上のセンサ情報を、前記サーバに送信する、
情報処理システム。
【請求項9】
プロセッサにより実行される、
予め学習された第1の認識器により、センサにより取得されたセンサ情報を用いて物体認識処理を行う認識ステップと、
前記第1の認識器とは異なる第2の認識器から、前記センサ情報を用いた認識処理が可能な認識器を、前記センサ情報に基づき指定する認識器判定ステップと、
前記第1の認識器とは異なる第2の認識器に、前記センサ情報を学習データとして適用可能か否かを判定する学習データ適用判定ステップと、
前記学習データとして前記第2の認識器に適用するために前記センサ情報を前記第1の認識器を生成可能なサーバに送信するか否かを、該センサ情報に基づき判定する送信判定ステップと、
を含
み、
前記送信判定ステップは、
前記センサ情報のうち、前記学習データ適用判定ステップにより前記第2の認識器から指定された認識処理が可能な認識器の数が所定数以上のセンサ情報を、前記サーバに送信する、
情報処理方法。
【請求項10】
予め学習された第1の認識器により、センサにより取得されたセンサ情報を用いて物体認識処理を行う認識ステップと、
前記第1の認識器とは異なる第2の認識器から、前記センサ情報を用いた認識処理が可能な認識器を、前記センサ情報に基づき指定する認識器判定ステップと、
前記第1の認識器とは異なる第2の認識器に、前記センサ情報を学習データとして適用可能か否かを判定する学習データ適用判定ステップと、
前記学習データとして前記第2の認識器に適用するために前記センサ情報を前記第1の認識器を生成可能なサーバに送信するか否かを、該センサ情報に基づき判定する送信判定ステップと、
をコンピュータに実行させ、
前記送信判定ステップは、
前記センサ情報のうち、前記学習データ適用判定ステップにより前記第2の認識器から指定された認識処理が可能な認識器の数が所定数以上のセンサ情報を、前記サーバに送信する、
ための情報処理プログラム。
【請求項11】
学習データに基づく機械学習により第1の認識器と、該第1の認識器と異なる第2の認識器と、を生成する学習部と、
前記第1の認識器を含む端末装置から送信されたセンサ情報に基づき、前記第2の認識器に、該センサ情報を学習データとして適用可能か否かを判定する学習データ適用判定部と、
前記学習データとして前記第2の認識器に適用するために前記センサ情報を前記第1の認識器を生成可能なサーバに送信するか否かを、該センサ情報に基づき判定する送信判定部と、
を備え、
前記学習部は、
前記学習データ適用判定部により、前記第2の認識器に前記センサ情報を学習データとして適用可能であると判定された場合に、該第2の認識器を、前記センサ情報に基づき再学習して、該第2の認識器を更新
し、
前記送信判定部は、
前記センサ情報のうち、前記学習データ適用判定部により前記第2の認識器から指定された認識処理が可能な認識器の数が所定数以上のセンサ情報を、前記サーバに送信する、
情報処理装置。
【請求項12】
前記学習データ適用判定部は、
前記センサ情報が示すシーンに基づき、前記第2の認識器に該センサ情報を学習データとして適用可能か否かを判定する、
請求項
11に記載の情報処理装置。
【請求項13】
前記学習データ適用判定部は、
前記センサ情報を変換することで、該センサ情報を前記第2の認識器に学習データとして適用可能となるか否かを判定する、
請求項
11に記載の情報処理装置。
【請求項14】
前記学習データ適用判定部は、
前記センサ情報が示す、センサにより検出されたオブジェクトに応じて、前記第2の認識器に該センサ情報を学習データとして適用可能か否かを判定する、
請求項
11に記載の情報処理装置。
【請求項15】
情報処理装置と、
センサにより取得されたセンサ情報を用いて物体認識処理を行う第1の認識器を有し、前記情報処理装置と通信可能な端末装置と、
を含み、
前記情報処理装置は、
学習データに基づく機械学習により前記第1の認識器と、該第1の認識器と異なる第2の認識器と、を生成する学習部と、
前記第1の認識器を含む端末装置から送信されたセンサ情報に基づき、前記第2の認識器に、該センサ情報を学習データとして適用可能か否かを判定する学習データ適用判定部と、
前記学習データとして前記第2の認識器に適用するために前記センサ情報を前記第1の認識器を生成可能なサーバに送信するか否かを、該センサ情報に基づき判定する送信判定部と、
を備え、
前記学習部は、
前記学習データ適用判定部により、前記第2の認識器に前記センサ情報を学習データとして適用可能であると判定された場合に、該第2の認識器を、前記センサ情報に基づき再学習して、該第2の認識器を更新
し、
前記送信判定部は、
前記センサ情報のうち、前記学習データ適用判定部により前記第2の認識器から指定された認識処理が可能な認識器の数が所定数以上のセンサ情報を、前記サーバに送信する、
情報処理システム。
【請求項16】
プロセッサにより実行される、
学習データに基づく機械学習により第1の認識器と、該第1の認識器と異なる第2の認識器と、を生成する学習ステップと、
前記第1の認識器を含む端末装置から送信されたセンサ情報に基づき、前記第2の認識器に、該センサ情報を学習データとして適用可能か否かを判定する学習データ適用判定ステップと、
前記学習データとして前記第2の認識器に適用するために前記センサ情報を前記第1の認識器を生成可能なサーバに送信するか否かを、該センサ情報に基づき判定する送信判定ステップと、
を含み、
前記学習ステップは、
前記学習データ適用判定ステップにより、前記第2の認識器に前記センサ情報を学習データとして適用可能であると判定された場合に、該第2の認識器を、前記センサ情報に基づき再学習して、該第2の認識器を更新
し、
前記送信判定ステップは、
前記センサ情報のうち、前記学習データ適用判定ステップにより前記第2の認識器から指定された認識処理が可能な認識器の数が所定数以上のセンサ情報を、前記サーバに送信する、
情報処理方法。
【請求項17】
学習データに基づく機械学習により第1の認識器と、該第1の認識器と異なる第2の認識器と、を生成する学習ステップと、
前記第1の認識器を含む端末装置から送信されたセンサ情報に基づき、前記第2の認識器に、該センサ情報を学習データとして適用可能か否かを判定する学習データ適用判定ステップと、
前記学習データとして前記第2の認識器に適用するために前記センサ情報を前記第1の認識器を生成可能なサーバに送信するか否かを、該センサ情報に基づき判定する送信判定ステップと、
をコンピュータに実行させ、
前記学習ステップは、
前記学習データ適用判定ステップにより、前記第2の認識器に前記センサ情報を学習データとして適用可能であると判定された場合に、該第2の認識器を、前記センサ情報に基づき再学習して、該第2の認識器を更新
し、
前記送信判定ステップは、
前記センサ情報のうち、前記学習データ適用判定ステップにより前記第2の認識器から指定された認識処理が可能な認識器の数が所定数以上のセンサ情報を、前記サーバに送信する、
ための情報処理プログラム。
【発明の詳細な説明】
【技術分野】
【0001】
本開示は、情報処理装置、情報処理システム、情報処理方法および情報処理プログラムに関する。
【背景技術】
【0002】
車両に搭載した車載カメラを用いて、車両の走行を行う際に撮像された撮像画像を解析して、車両の進行方向に人など障害物が存在するか否かを判定する情報処理システムが提案されている。また、このような情報処理システムにおいて、撮像画像に基づく障害物の検出を、機械学習により学習された認識モデルを用いて実行する技術が提案されている。また、機械学習による認識モデルの構築を、ネットワーク上の例えばサーバにて行う構成が知られている。
【0003】
ところで、撮像画像に基づく障害物などの検出を機械学習を用いて行う場合、学習データを随時収集して再学習を行い、認識モデルを更新していくことが好ましい。例えば、サーバは、車両において取得されたデータを通信を介して取得して収集し、収集されたデータを学習データとして用いて再学習を行い、認識モデルを更新する。更新された認識モデルは、通信により車両に送信される。車両側では、この更新された認識モデルを用いることで、より的確に障害物などの検出を行うことが可能となる。
【先行技術文献】
【特許文献】
【0004】
【発明の概要】
【発明が解決しようとする課題】
【0005】
しかしながら、再学習のために送信されるデータは、例えばデータ送信が行われた地域といったデータが取得された状況などに応じて、様々な属性を持っており、その属性が有効な範囲でしか活用できなかった。
【0006】
本開示は、学習データを効率的に利用可能とする情報処理装置、情報処理システム、情報処理方法および情報処理プログラムを提供することを目的とする。
【課題を解決するための手段】
【0007】
本開示に係る情報処理装置は、予め学習された第1の認識器により、センサにより取得されたセンサ情報を用いて物体認識処理を行う認識部と、前記第1の認識器とは異なる第2の認識器に、前記センサ情報を学習データとして適用可能か否かを判定する学習データ適用判定部と、前記学習データとして前記第2の認識器に適用するために前記センサ情報を前記第1の認識器を生成可能なサーバに送信するか否かを、該センサ情報に基づき判定する送信判定部と、を備え、前記送信判定部は、前記センサ情報のうち、前記学習データ適用判定部により前記第2の認識器から指定された認識処理が可能な認識器の数が所定数以上のセンサ情報を、前記サーバに送信する。
【図面の簡単な説明】
【0008】
【
図1】各実施形態に関連する運転支援システムの全体像を概略的に示す一例の模式図である。
【
図2】各実施形態に係る運転支援システムの一例の構成を示すブロック図である。
【
図3】各実施形態に適用可能な端末装置のハードウェア構成の例を示すブロック図である。
【
図4】実施形態に適用可能なサーバシステムのハードウェア構成の例を示すブロック図である。
【
図5】第1の実施形態に係る運転支援システムの一例の構成を示すブロック図である。
【
図6】第1の実施形態に係るサーバシステムの機能を説明するための一例の機能ブロック図である。
【
図7】第1の実施形態に係るサーバシステムにおける処理を示す一例のフローチャートである。
【
図8】第1の実施形態の第1の変形例に係るサーバシステムの機能を説明するための一例の機能ブロック図である。
【
図9】第1の実施形態に係るサーバシステムにおける処理を示す一例のフローチャートである。
【
図10】第1の実施形態の第2の変形例に係るサーバシステムの機能を説明するための一例の機能ブロック図である。
【
図11】センサ情報に含まれる画像データによる画像の例を示す模式図である。
【
図12】第1の実施形態の第2の変形例に係るサーバシステムにおける処理を示す一例のフローチャートである。
【
図13】第2の実施形態に係る運転支援システムの一例の構成を示すブロック図である。
【
図14】第2の実施形態に係る端末装置の機能を説明するための一例の機能ブロック図である。
【
図15】第2の実施形態に係る端末装置における処理を示す一例のフローチャートである。
【
図16】第2の実施形態の第1の変形例に係る端末装置の機能を説明するための一例の機能ブロック図である。
【
図17】第2の実施形態の第1の変形例に係る端末装置における処理を示す一例のフローチャートである。
【
図18】第2の実施形態の第2の変形例に係る端末装置の機能を説明するための一例の機能ブロック図である。
【
図19】第2の実施形態の第2の変形例に係る端末装置における処理を示す一例のフローチャートである。
【
図20】第2の実施形態の第3の変形例に係る端末装置の機能を説明するための一例の機能ブロック図である。
【
図21】第2の実施形態の第3の変形例に係る端末装置における処理を示す一例のフローチャートである。
【
図22】第3の実施形態に係る運転支援システムの一例の構成を示すブロック図である。
【
図23】第3の実施形態に係る端末装置の機能を説明するための一例の機能ブロック図である。
【
図24】第3の実施形態に係る端末装置における処理を示す一例のフローチャートである。
【
図25】第3の実施形態の第1の変形例に係る端末装置の機能を説明するための一例の機能ブロック図である。
【
図26】第3の実施形態の第1の変形例に係る端末装置における処理を示す一例のフローチャートである。
【
図27】第3の実施形態の第2の変形例に係る端末装置の機能を説明するための一例の機能ブロック図である。
【
図28】第3の実施形態の第2の変形例に係る端末装置における処理を示す一例のフローチャートである。
【
図29】本開示に係る技術が適用され得る移動体制御システムの一例である車両制御システムの概略的な構成例を示すブロック図である。
【発明を実施するための形態】
【0009】
以下、本開示の実施形態について、図面に基づいて詳細に説明する。なお、以下の実施形態において、同一の部位には同一の符号を付することにより、重複する説明を省略する。
【0010】
以下、本開示の実施形態について、下記の順序に従って説明する。
1.各実施形態に適用可能な技術
1-1.各実施形態に適用可能なシステムの全体像
1-2.各実施形態に係るシステムの概要
1-3.ハードウェア構成例
2.第1の実施形態
2-1.第1の変形例
2-2.第2の変形例
3.第2の実施形態
3-1.第1の変形例
3-2.第2の変形例
3-3.第3の変形例
4.第3の実施形態
4-1.第1の変形例
4-2.第2の変形例
5.第4の実施形態
【0011】
[1.各実施形態に適用可能な技術]
(1-1.各実施形態に適用可能なシステムの全体像)
先ず、本開示の各実施形態に適用可能な技術について説明する。
図1は、各実施形態に関連する運転支援システムの全体像を概略的に示す一例の模式図である。
図1において、運転支援システムは、それぞれネットワーク1に接続されるサーバシステム2と、1以上の車両10とを含む。ネットワーク1は、例えば車車間・路車間(V2X)通信を行うためのV2Xネットワークである。
【0012】
サーバシステム2は、例えば、互いにネットワークで接続され協働して動作する複数のコンピュータやストレージ装置を含むクラウドシステムを適用することができる。これに限らず、サーバシステム2は、単独のコンピュータを用いたサーバ装置により構成してもよい。サーバシステム2は、センサ情報に基づき物体認識を行う認識器を機械学習により生成することができる。
【0013】
車両10は、ネットワーク1に接続される端末装置11が搭載される。端末装置11は、例えばCPU(Central Processing Unit)、ROM(Read Only Memory)、RAM(Random Access Memory)、各種インタフェースを含む情報処理装置として構成され、センサ12の出力に基づき物体認識処理を行う認識器が含まれる。センサ12は、例えばカメラである。以下、センサ12をカメラ12として説明を行う。認識器は、例えば、サーバシステム2により生成された認識器をネットワーク1を介してダウンロードすることで、端末装置11に搭載される。これに限らず、端末装置11に予め認識器を搭載しておいてもよい。
【0014】
端末装置11は、カメラ12で取得された撮像画像に基づき、認識器により物体認識処理を行う。端末装置11は、この物体認識処理により、車両10における運転支援を行うことができる。ここで、新たな学習データを用いて随時、認識器を更新すると、認識処理の性能の向上を図ることができ、好ましい。そこで、端末装置11は、カメラ12により取得された撮像画像による画像データを、ネットワーク1を介してサーバシステム2に送信する(ステップS1、ステップS2)。
【0015】
サーバシステム2は、端末装置11から送信された画像データを記憶部20に蓄積する。記憶部20は、例えばハードディスクドライブや大規模なフラッシュメモリによるストレージ装置を適用でき、認識器、および、物体認識処理を行う認識器を生成するためのパラメータ情報がさらに蓄積されている。サーバシステム2は、学習部3において、端末装置11から送信された画像データを含んで記憶部20に記憶される各データを学習データとして用いて(ステップS3)、認識器の最適化および再学習を実行する(ステップS4)。この最適化および再学習により、認識器が更新された再学習後認識器21が生成される(ステップS5)。
【0016】
サーバシステム2は、生成した再学習後認識器21を、ネットワーク1を介して端末装置11に送信する(ステップS6、ステップS7)。端末装置11は、ネットワーク1を介して送信された再学習後認識器21により、既存の認識器を更新する。このように、新たに収集した学習データを用いて既存の認識器を再学習させることで、認識器による認識処理の性能を向上させることができる。
【0017】
このような運転支援システムにおいて、機械学習の手法を改善して、認識器の再学習を行うことも考えられる一方で、新たな学習データを用いての再学習も、効果的である。この、新たな学習データを用いての再学習により認識器の性能を改善するためには、性能改善に資する学習データ(例えば画像データ)を収集し続けることが望ましい。
【0018】
このとき、再学習に用いるために端末装置11からサーバシステム2に送信される時系列データや画像データは、一般的には、サイズが大きく、そのため、通信コストが嵩んでしまうおそれがある。また、これら時系列データや画像データは、様々な属性を持っており、この属性は、例えば車両10毎、地域毎といった様々な要因で異なる可能性がある。一例として、交通道路標識に関する認識データは、例えば国により異なり、A国で取得された交通道路標識を含む画像データは、B国の交通道路標識を認識するための学習データとしては利用できない可能性がある。
【0019】
本開示の各実施形態では、再学習に用いるための新たな学習データについて、当該学習データを効率的に利用可能とすることを目的とする。
【0020】
(1-2.各実施形態に係るシステムの概要)
次に、各実施形態に係る運転支援システムの概要について説明する。
図2は、各実施形態に係る運転支援システムの一例の構成を示すブロック図である。
図2では、各実施形態およびその各変形例に関わりの深い部分は、太枠を用いて示している。
【0021】
図2において、サーバシステム2は、上述した学習部3および記憶部20に加えて、学習データ適用判定部22を含む。記憶部20は、学習データが蓄積されると共に、複数の認識器が格納される。詳細後述するが、学習データ適用判定部22は、端末装置11から送信されるセンサ情報に基づき、記憶部20に記憶される認識器から、当該センサ情報を用いて再学習させる認識器を指定する。サーバシステム2は、学習データ適用判定部22により指定された認識器を示す情報を、端末装置11に送信する。
【0022】
図2において、端末装置11は、認識部101と、制御部102と、蓄積判定部103と、蓄積部104と、記憶部105と、蓄積情報出力部106と、送信判定部107と、通信部110と、を含む。端末装置11は、さらに、学習データ適用判定部108を含むことができる。
【0023】
認識部101は、例えばサーバシステム2からダウンロードした認識器を含み、カメラ12で撮像された撮像画像による画像データを含むセンサ情報に基づき物体認識処理を行う。
【0024】
このとき、認識部101は、カメラ12で撮像された撮像画像として、RAWデータを用いることができる。すなわち、カメラ12で撮像され、視認に用いる画像データは、一般的に、デモザイク処理や、RGB各色のデータをそれぞれ例えば8ビットに圧縮処理などの画像処理を施す。これに対して、認識処理には、このような画像処理が不要な場合が多く、特に、夜間や遠方の認識には、カメラ12が持つイメージセンサの出力を略そのままの状態で用いるRAWデータの方が、認識率(認識スコア)を高くできる。なお、認識スコアは、認識の度合いを示す値であって、例えば0以上1以下の範囲を取る。認識スコアの値が大きいほど、認識の度合いが高いことを示す。
【0025】
また、特に遠方の物体の認識を考慮した場合、カメラ12の解像度(イメージセンサの解像度)は、高い方が好ましい。
【0026】
認識部101による物体認識結果は、車両10の運転制御を行う制御部102に渡される。制御部102は、認識部101から渡された物体認識結果に基づき、障害物回避などの自動運転制御を行う。
【0027】
ここで、センサ情報は、当該画像データを含むと共に、カメラ12およびカメラ12による撮像に関する属性情報であるメタデータを含む。メタデータは、例えばカメラ12の型番や解像度、フレームレートなどのカメラの性能などに関する情報や、カメラ12において実行された画像処理(ホワイトバランス処理、ゲイン調整処理など)を示す情報を含むことができる。メタデータは、さらに、車両10の車種や仕向地を示す情報、車両10の現在位置に関する情報、車両10の走行速度などの、車両10に関する情報を含むことができる。
【0028】
蓄積判定部103は、カメラ12から出力されたセンサ情報を蓄積部104により例えばストレージ装置である記憶部105に蓄積するか否かを判定する。具体例は後述するが、蓄積判定部103は、例えば、センサ情報に含まれる画像データやメタデータに基づき、当該センサ情報を蓄積部104により記憶部105に蓄積するか否かを判定する。蓄積情報出力部106は、記憶部105に蓄積されたセンサ情報を外部に出力する。蓄積情報出力部106は、センサ情報を有線通信にて外部に出力してもよいし、Wi-Fi(登録商標)やBluetooth(登録商標)といった無線通信により外部に出力することもできる。
【0029】
送信判定部107は、カメラ12から出力されたセンサ情報をサーバシステム2に送信するか否かを判定する。例えば、送信判定部107は、認識部101による認識結果と、センサ情報とに基づき、当該センサ情報をサーバシステム2送信するか否かを判定する。送信判定部107は、当該センサ情報をサーバシステム2に送信すると判定した場合には、送信するセンサ情報に対して、サーバシステム2において学習データ適用判定部22から送信された、認識器を示す情報を付加する。送信判定部107によりサーバシステム2に送信しないと判定されたセンサ情報は、蓄積部104により記憶部105に蓄積される。
【0030】
この運転支援システムによれば、端末装置11では、送信判定部107がセンサ情報を送信するか否かを判定するため、センサ情報の送信に係る通信コストを抑制することが可能である。また、サーバシステム2では、学習データ適用判定部22により、端末装置11から送信されたセンサ情報を適用する認識器を判定するため、センサ情報を、端末装置11が含む認識器とは異なる認識処理を行う認識器に適用することができ、センサ情報を効率的に利用できる。
【0031】
(1-3.ハードウェア構成例)
次に、各実施形態に適用可能なサーバシステム2および端末装置11のハードウェア構成の例について説明する。
図3は、各実施形態に適用可能な端末装置11のハードウェア構成の例を示すブロック図である。
図3において、端末装置11は、それぞれバス1030により互いに通信可能に接続された、CPU1001と、ROM1002と、RAM1003と、インタフェース(I/F)1004および1005と、通信インタフェース1006と、GNSS受信機1007と、を含む。
【0032】
CPU1001は、ROM1002に予め記憶されたプログラムに従い、RAM1003をワークメモリとして用いて、この端末装置11の全体の動作を制御する。なお、ROM1002は、CPU1001の制御により、記憶されるデータおよびプログラムを書き換え可能とされており、例えば上述した、サーバシステム2からダウンロードした認識器を構成するプログラムを記憶および更新することができる。これに限らず、RAM1003が不揮発性の領域を含み、このRAM1003の不揮発性領域に対して認識器を構成するプログラムを記憶させてもよい。
【0033】
インタフェース1004は、カメラ12と通信を行うためのインタフェースであって、カメラ12で撮像された撮像画像による画像データや、当該画像データを含むセンサ情報は、このインタフェース1004から端末装置11に入力される。また、CPU1001は、このインタフェース1004を介して、カメラ12に対して撮像などの指示を送ることができる。
【0034】
インタフェース1005は、この端末装置11が搭載される車両10の制御システムに対するインタフェースである。認識器による物体認識結果などの情報は、このインタフェース1005を介して車両10の制御システムに渡される。インタフェース1005は、CPU1001の指示に従いネットワーク1に対する通信を制御する。
【0035】
GNSS受信機1007は、GNSS(Global Navigation Satellite System)による信号を受信し、現在の位置を示す位置情報を取得する。また、GNSS受信機1007は、現在の位置と共に、現在の標高や時刻を取得することができる。なお、当該端末装置11が搭載される車両10が、別途に位置情報取得手段を有する場合、位置情報をこの位置情報取得手段から取得することで、端末装置11におけるGNSS受信機1007を省略することができる。
【0036】
このように、端末装置11は、CPU1001、ROM1002、RAM1003と、各種のインタフェースを備え、コンピュータ(情報処理装置)として機能する。
【0037】
なお、上述した、端末装置11に含まれる認識部101、蓄積判定部103、蓄積部104、蓄積情報出力部106、送信判定部107および通信部110は、CPU1001上で動作する情報処理プログラムにより実現される。これに限らず、例えば蓄積判定部103、蓄積部104、蓄積情報出力部106、送信判定部107および通信部110のうち一部または全部を、互いに協働して動作するハードウェア回路により構成してもよい。
【0038】
図4は、実施形態に適用可能なサーバシステム2のハードウェア構成の例を示すブロック図である。なお、
図4では、サーバシステム2が単体のコンピュータ(情報処理装置)として構成されるように示されている。
図4において、サーバシステム2は、それぞれバス2010により互いに通信可能に接続された、CPU2000と、ROM2001と、RAM2002と、ストレージ装置2004と、通信インタフェース2005とを含む。
【0039】
CPU2000は、ROM2001やストレージ装置2004に予め記憶されるプログラムに従い、RAM2002をワークメモリとして用いて、このサーバシステム2の全体の動作を制御する。CPU2000により、プログラムに従った機械学習により生成された認識器を構成するプログラムおよび各パラメータは、例えばストレージ装置2004に記憶される。
【0040】
通信インタフェース2005は、ネットワーク1に対する通信を制御するインタフェースである。
【0041】
なお、上述した、サーバシステム2に含まれる学習部3および学習データ適用判定部22は、CPU2000上で動作する情報処理プログラムにより実現される。これに限らず、学習部3および学習データ適用判定部22のうち一部または全部を、互いに協働して動作するハードウェア回路により構成してもよい。
【0042】
[2.第1の実施形態]
次に、本開示の第1の実施形態について説明する。本開示の各実施形態では、端末装置11において取得されたセンサ情報を再学習のための学習データとして適用する認識器を、複数の認識器から指定することができる。第1の実施形態では、この認識器の指定を、サーバシステム2において行う。
図5は、第1の実施形態に係る運転支援システムの一例の構成を示すブロック図である。第1の実施形態では、
図5に塗り潰しを用いて示すように、
図2に示した端末装置11側の学習データ適用判定部108を用いず、サーバシステム2側の学習データ適用判定部22aを用いる。
【0043】
この第1の実施形態では、端末装置11から送信されたセンサ情報に対して、当該センサ情報に含まれる画像データの撮像時のシーンを、所定のルールや学習に基づき判定する。そして、例えば判定されたシーン毎に、当該センサ情報を学習データとして適用する認識器を指定する。
【0044】
ここで、シーンとは、センシングすなわちカメラ12による撮像を行った際の状況を示すもので、例えば撮像を行った場所や環境条件を含む。より具体的には、シーンを示すシーン情報は、以下の情報を含むことができる。
・GNSS受信機1007などにより取得した現在位置、現在の時刻を示す情報、車両10に搭載される車載システムのシステムステータスといった、カメラ12の外部から取得される情報。
・カメラ12における撮像時の露光時間やホワイトバランス処理などの、センサ内部情報。
・センシングした情報(例えば撮像画像による画像データ)から所定のルールに基づき推定、あるいは、学習により推定した情報。
【0045】
学習データ適用判定部22aは、上述のようにして取得したシーン情報に基づき、ルールベースやデータベース探索により、適用可能な認識器を推定する。これに限らず、学習データ適用判定部22aは、学習により、シーン情報に基づき適用可能な認識器を直接的に指定することもできる。
【0046】
図6は、第1の実施形態に係るサーバシステム2の機能を説明するための一例の機能ブロック図である。
図6において、サーバシステム2は、通信部200と、学習データ適用判定部22aaと、学習データ蓄積部201と、学習部202と、学習結果利用部203と、を含む。また、学習データ適用判定部22aは、メタデータ解析部221と、学習データ判定部222と、を含む。これら通信部200、学習データ適用判定部22a(メタデータ解析部221および学習データ判定部222)、学習データ蓄積部201、学習部202および学習結果利用部203は、CPU2000上で動作する情報処理プログラムにより実現される。
【0047】
ここで、サーバシステム2は、複数の認識器2101、2102、2103、2104、…を有している。なお、以下では、これら認識器2101、2102、2103、2104、…を区別する必要の無い場合には、これらを認識器210で代表させて説明を行う。学習データ蓄積部201は、これら複数の認識器210を生成するための学習データが、認識器210毎に蓄積される。
【0048】
通信部200は、通信インタフェース2005を制御して、例えば端末装置11から送信されたセンサ情報を受信する。メタデータ解析部221は、センサ情報からメタデータを抽出し、抽出されたメタデータを解析する。学習データ判定部222は、メタデータの解析結果に基づき、複数の認識器210のうち当該センサ情報を適用可能な認識器210を指定する。
【0049】
このとき、学習データ判定部222は、当該センサ情報を送信した端末装置11が有する認識器とは異なる認識器を、当該センサ情報を適用可能な認識器210として指定することができる。例えば、学習データ判定部222は、当該センサ情報が上述したシーン情報の何れに対応するかを判定し、当該センサ情報が対応するシーン情報に応じて、当該センサ情報を適用可能な認識器210を指定する。
【0050】
学習データ判定部222は、当該センサ情報に対して例えば指定した認識器210を示す情報を付加して学習データ蓄積部201に蓄積する。
【0051】
学習部202は、学習データ蓄積部201に指定された認識器210毎に蓄積された学習データを用いて、当該認識器210の再学習を行い、当該認識器210を更新する。学習結果利用部203は、学習部202で再学習され更新された認識器210の利用処理を行う。例えば、学習結果利用部203は、更新された認識器210を、対応する端末装置11に送信する。
【0052】
図7は、第1の実施形態に係るサーバシステム2における処理を示す一例のフローチャートである。最初のステップS100で、サーバシステム2は、通信部200により通信処理を行い、端末装置11からネットワーク1を介して送信されたセンサ情報を受信する。このステップS100の処理は、複数の端末装置11のそれぞれから送信された各センサ情報を受信する処理を含む。
【0053】
次のステップS101で、サーバシステム2は、メタデータ解析部221により、ステップS100の通信処理で取得された各センサ情報から、画像データおよびメタデータをそれぞれ取得する。次のステップS102で、サーバシステム2は、メタデータ解析部221により、ステップS101で取得された各メタデータの解析処理を実行する。
【0054】
次のステップS103stは、ステップS103edとの間で、ステップS100の通信処理で取得された全てのセンサ情報について実行することを示すループ処理の開始を示している。次のステップS104stは、ステップS104edとの間で、各センサ情報の全ての適用先、すなわち各認識器210について実行することを示すループ処理の開始を示している。
【0055】
ステップS105で、サーバシステム2は、学習データ判定部222により、メタデータ適用判定処理が実行される。すなわち、ステップS105で、学習データ判定部222は、ステップS100の通信処理で取得された各センサ情報のうち1つのセンサ情報(対象のセンサ情報とする)について、メタデータに基づき、各認識器210のうち対象の認識器210に適用可能かを調べる。
【0056】
次のステップS106で、学習データ判定部222は、対象のセンサ情報を対象の認識器210に適用可能であると判定した場合(ステップS106、「Yes」)、処理をステップS107に移行させる。ステップS107で、サーバシステム2は、学習データ蓄積部201により、適用先の学習データの蓄積処理が実行される。すなわち、ステップS107で、学習データ蓄積部201は、対象のセンサ情報を、ステップS106で適用可能であると判定された、対象の認識器210に対する学習データとして蓄積する。
【0057】
ステップS107の処理の後、サーバシステム2は、処理をステップS104edからステップS104stに戻し、各認識器210のうち次の認識器210を対象の認識器210として、ステップS105およびステップS106の処理が実行される。
【0058】
一方、ステップS106で、対象のセンサ情報を対象の認識器210に適用可能ではない判定した場合(ステップS106、「No」)、処理をステップS104edからステップS104stに戻す。
【0059】
対象のセンサ情報について、各認識器210に対するステップS104st~ステップS104edの処理が終了すると、サーバシステム2は、処理をステップS103edからステップS103stに戻し、ステップS100の通信処理で取得された各センサ情報のうち次のセンサ情報を対象のセンサ情報として、ステップS103st~ステップS103edの処理を繰り返す。
【0060】
各センサ情報に対するステップS103st~ステップS103edの処理が終了すると、サーバシステム2は、処理をステップS108に移行させる。ステップS108で、サーバシステム2は、学習部202により、上述までの処理により学習データ蓄積部201に蓄積された各センサ情報を学習データとして用いて、それぞれ対応する認識器210の再学習処理を行う。ステップS108の処理が終了すると、サーバシステム2は、処理をステップS109に移行させ、学習結果利用部203により、ステップS108で再学習された各認識器210の利用処理を実行する。
【0061】
このように、第1の実施形態では、各端末装置11から送信された各センサ情報を、メタデータに基づき適用可能とされた認識器210の学習データとして適用する。そのため、各端末装置11から送信された各センサ情報を、送信元の端末装置11が当該センサ情報に対して用いる認識器とは異なる認識機に対しても、学習データとして適用することができ、センサ情報を学習データとしてより効率的に利用可能である。
【0062】
(2-1.第1の変形例)
次に、第1の実施形態の第1の変形例について説明する。第1の実施形態の第1の変形例は、認識器の指定をサーバシステム2にて行う場合において、サーバシステム2は、サーバシステム2が有する複数の認識器210から、端末装置11から送信されたセンサ情報を適用可能に変換できる認識器210を、当該センサ情報を学習データとして適用する認識器に指定する。なお、第1の実施形態の第1の変形例では、
図5を用いて説明した第1の実施形態に係る運転支援システムの構成を適用できる。
【0063】
図8は、第1の実施形態の第1の変形例に係るサーバシステム2の機能を説明するための一例の機能ブロック図である。第1の実施形態の第1の変形例では、
図8に示すように、
図2に示した端末装置11側の学習データ適用判定部108を用いず、サーバシステム2側の学習データ適用判定部22bを用いる。また、学習データ適用判定部22bは、上述した第1の実施形態の学習データ適用判定部22aの構成とは異なり、ドメイン解析部230、ドメイン評価部231および学習データ判定部232を含む。
【0064】
この第1の実施形態の第1の変形例では、サーバシステム2は、ドメインアダプテーション(Domain Adaptation)の適用性を用いてセンサ情報のドメインを変換する。ここで、ドメインは、地域(国など)、環境(昼/夜、高速道路/一般道など)といった、対象を限定するための領域(カテゴリ)を示す。ドメインアダプテーションは、認識器の対象となる領域(対象物、国、タスク、…)を変換する技術である。一例として、ドメインアダプテーションにより、日本のデータで学習した認識器をアメリカのデータで認識可能にする。この場合、日本とアメリカという二つのドメインを変換することになる。
【0065】
すなわち、第1の実施形態の第1の変形例による学習データ適用判定部22bは、認識器210の対象となる領域を、ドメインアダプテーションが可能なドメインの組み合わせルールにヒットさせる。具体的な例として、N個のドメイン#1、ドメイン#2、ドメイン#3、…、ドメイン#Nを考える。このN個のドメインにおいて、有向グラフで表される変換可能ドメインの組み合わせが、例えば下記のように存在するものとする。
・ドメイン#1→ドメイン#2、ドメイン#5、ドメイン#7、…
・ドメイン#2→ドメイン#1、ドメイン#3、…
【0066】
ドメイン#iが入力された場合に、ドメイン#jへ何段階で変換できるかを表すステップ数を、S_{ij}とする。また、ホップ数当たりの評価値を、α(<1)とし、ドメイン#iがからドメイン#jへ変換した場合の評価値を、β_{ij}(<1)とする。
【0067】
入力されたセンサ情報のドメイン#aからドメイン#bへの評価値Evは、次式(1)にて求められる。
Ev=α(S_{ij})+β_{ij} …(1)
【0068】
この評価値Evに対して閾値を設定し、評価値Evが閾値より高い認識器210を、適用可能な認識器210として設定する。
【0069】
ドメイン解析部230は、通信部200が端末装置11から受信したセンサ情報を解析し、当該センサ情報に関連するドメインを求める。ドメイン解析部230は、センサ情報に含まれる画像データからドメインを求めてもよいし、メタデータからドメインを求めてもよい。ドメイン評価部231は、ドメイン解析部230で求められたドメインに基づき、例えばサーバシステム2が有する各認識器210に対して上述した式(1)により評価値Evを算出する。
【0070】
学習データ判定部232は、ドメイン評価部231で算出された各評価値Evを閾値と比較し、評価値Evが閾値より高い認識器210を、当該センサ情報を適用可能な認識器210として指定する。
【0071】
図9は、第1の実施形態の第1の変形例に係るサーバシステム2における処理を示す一例のフローチャートである。最初のステップS200で、サーバシステム2は、通信部200により通信処理を行い、端末装置11からネットワーク1を介して送信されたセンサ情報を受信する。このステップS200の処理は、複数の端末装置11のそれぞれから送信された各センサ情報を受信する処理を含む。
【0072】
次のステップS201で、サーバシステム2において、ドメイン解析部230は、ステップS200の通信処理で受信されたセンサ情報を取得し、次のステップS202で、ステップS201で取得されたセンサ情報を解析して、当該センサ情報に関連するドメインを求める。
【0073】
次のステップS203stは、ステップS203edとの間で、ステップS200の通信処理で取得された全てのセンサ情報について実行することを示すループ処理の開始を示している。次のステップS204stは、ステップS204edとの間で、各センサ情報の全ての適用先、すなわち各ドメイン変換先について実行することを示すループ処理の開始を示している。
【0074】
ステップS205で、サーバシステム2において、ドメイン解析部230は、変換先として対象のドメインについて、対象のセンサ情報から求められたドメインからの変換経路を算出する。次のステップS206で、サーバシステム2において、ドメイン評価部231は、ステップS205で算出されたドメインの変換経路に対して、上述した式(1)に従い評価値Evを算出する。
【0075】
次のステップS207で、学習データ判定部232は、ステップS206で算出された評価値Evが閾値を超えたか否かを判定する。
【0076】
学習データ判定部232は、ステップS207で、評価値Evがしきい値を超えたと判定した場合(ステップS207、「Yes」)、処理をステップS208に移行する。ステップS208で、サーバシステム2において学習データ蓄積部201は、適用先の学習データの蓄積処理を実行する。すなわち、ステップS208で、学習データ蓄積部201は、対象のセンサ情報を、ステップS206で適用可能であると判定された、対象の認識器210に対する学習データとして蓄積する。
【0077】
ステップS208の処理の後、サーバシステム2は、処理をステップS204edからステップS204stに戻し、各ドメインのうち次のドメインを変換先の対象のドメインとして、ステップS205~ステップS207の処理が実行される。
【0078】
一方、学習データ判定部232は、ステップS207で、評価値Evが閾値以下であると判定した場合(ステップS207、「No」)、処理をステップS204edからステップS204stに戻す。
【0079】
対象のセンサ情報について、各ドメインに対するステップS204st~ステップS204edの処理が終了すると、サーバシステム2は、処理をステップS203edからステップS203stに戻し、ステップS200の通信処理で取得された各センサ情報のうち次のセンサ情報を対象のセンサ情報として、ステップS203st~ステップS203edの処理を繰り返す。
【0080】
各センサ情報に対するステップS203st~ステップS203edの処理が終了すると、サーバシステム2は、処理をステップS209に移行させる。ステップS209で、サーバシステム2は、学習部202により、上述までの処理により学習データ蓄積部201に蓄積された各センサ情報を学習データとして用いて、それぞれ対応する認識器210の再学習処理を行う。ステップS208の処理が終了すると、サーバシステム2は、処理をステップS210に移行させ、学習結果利用部203により、ステップS209で再学習された各認識器210の利用処理を実行する。
【0081】
このように、第1の実施形態の第1の変形例によれば、端末装置11から送信されたセンサ情報を、センサ情報が取得された際のドメインとは異なるドメインに適用させることができる。これにより、当該センサ情報のより効率的な利用が可能となる。
【0082】
(2-2.第2の変形例)
次に、第1の実施形態の第2の変形例について説明する。第1の実施形態の第2の変形例は、認識器の指定をサーバシステム2にて行う場合において、サーバシステム2は、サーバシステム2が有する複数の認識器210から、端末装置11から送信されたセンサ情報が有する画像データに含まれるオブジェクトに応じて、当該センサ情報を学習データとして適用する認識器に指定する。なお、第1の実施形態の第2の変形例では、
図5を用いて説明した第1の実施形態に係る運転支援システムの構成を適用できる。
【0083】
図10は、第1の実施形態の第2の変形例に係るサーバシステム2の機能を説明するための一例の機能ブロック図である。第1の実施形態の第2の変形例では、
図10に示すように、
図2に示した端末装置11側の学習データ適用判定部108を用いず、サーバシステム2側の学習データ適用判定部22cを用いる。また、学習データ適用判定部22cは、上述した第1の実施形態の学習データ適用判定部22aの構成とは異なり、センシング解析部240および学習データ判定部241を含む。
【0084】
図10において、センシング解析部240は、通信部200により受信されたセンサ情報に含まれる画像データを解析する。学習データ判定部241は、センシング解析部240により解析された情報に基づき、複数の認識器210のうち当該センサ情報を適用可能な認識器210を指定する。
【0085】
より具体的に説明する。第1の実施形態の第2の変形例では、端末装置11から送信されたセンサ情報に含まれる画像データを解析し、当該画像データに含まれるオブジェクトや物体クラスを求める。そして、求めたオブジェクトや物体クラス毎に、データベースを用いて、当該センサ情報を学習データとして適用可能か否かを探索する。データベースの内容としては、適用候補の認識器と対象物とのペアを適用することができる。この場合、データベースの内容は、適用可能な対象が列挙されたポジティブリストに限らず、ネガティブリスト(適用不可の対象物の列挙)でもよいし、ポジティブリストとネガティブリストとの組み合わせでもよい。
【0086】
第1の実施形態の第2の変形例に適用可能な認識器に対するデータベースの例として、例えば下記が考えられる。
・標識認識器:日本国内で利用する場合、他国標識のネガティブリスト
・歩行者検出器:日本国内で利用する場合、歩行者のポジティブリスト
【0087】
図11は、センサ情報に含まれる画像データによる画像50の例を示す模式図である。
図11に示される画像50は、オブジェクトとして歩行者51と、交通道路標識52と、車両53と、を含んでいる。
【0088】
センシング解析部240は、この画像50を解析して各オブジェクト(歩行者51、交通道路標識52および車両53)を検出する。ここで、日本国内で利用する認識器に対し、検出された歩行者51および交通道路標識52がアメリカのものであった場合について考える。学習データ判定部241は、センシング解析部240の解析結果に基づき、画像50に他国標識が存在するため、標識認識器を当該センサ情報に適用する認識器として非選択とする。一方、画像50に歩行者が存在するため、歩行者検出器を当該センサ情報に適用する認識器として選択する。
【0089】
図12は、第1の実施形態の第2の変形例に係るサーバシステム2における処理を示す一例のフローチャートである。最初のステップS300で、サーバシステム2は、通信部200により通信処理を行い、端末装置11からネットワーク1を介して送信されたセンサ情報を受信する。このステップS300の処理は、複数の端末装置11のそれぞれから送信された各センサ情報を受信する処理を含む。
【0090】
次のステップS301で、サーバシステム2において、センシング解析部240は、ステップS300の通信処理で受信されたセンサ情報を取得し、次のステップS302で、ステップS301で取得されたセンサ情報を解析して、当該センサ情報が有する画像データに含まれるオブジェクトや物体クラスを求める。以下、画像データから解析されるオブジェクトおよび物体クラスのうち、オブジェクトを例にとって説明を行う。
【0091】
次のステップS303stは、ステップS303edとの間で、ステップS300の通信処理で取得された全てのセンサ情報について実行することを示すループ処理の開始を示している。次のステップS304stは、ステップS304edとの間で、各センサ情報の全ての適用先、すなわち各認識器210について実行することを示すループ処理の開始を示している。
【0092】
ステップS305で、サーバシステム2において、学習データ判定部241は、ステップS302で対象のセンサ情報が有する画像データに含まれる各オブジェクトに基づき、当該センサ情報が、各認識器210のうち対象の認識器210に適用可能かを調べる。
【0093】
学習データ判定部241は、ステップS306で、対象のセンサ情報を対象の認識器210に適用可能であると判定した場合(ステップS306、「Yes」)、処理をステップS307に移行させる。ステップS307で、サーバシステム2において学習データ蓄積部201は、適用先の学習データの蓄積処理を実行する。すなわち、ステップS307で、学習データ蓄積部201は、対象のセンサ情報を、ステップS306で適用可能であると判定された、対象の認識器210に対する学習データとして蓄積する。
【0094】
ステップS307の処理の後、サーバシステム2は、処理をステップS304edからステップS304stに戻し、各認識器210のうち次の認識器210を対象の認識器210として、ステップS305およびステップS306の処理が実行される。
【0095】
一方、学習データ判定部232は、ステップS306で、対象のセンサ情報を対象の認識器210に適用可能ではない判定した場合(ステップS306、「No」)、処理をステップS304edからステップS304stに戻す。
【0096】
対象のセンサ情報について、各認識器210に対するステップS304st~ステップS304edの処理が終了すると、サーバシステム2は、処理をステップS303edからステップS303stに戻し、ステップS300の通信処理で取得された各センサ情報のうち次のセンサ情報を対象のセンサ情報として、ステップS303st~ステップS303edの処理を繰り返す。
【0097】
各センサ情報に対するステップS303st~ステップS303edの処理が終了すると、サーバシステム2は、処理をステップS308に移行させる。ステップS308で、サーバシステム2は、学習部202により、上述までの処理により学習データ蓄積部201に蓄積された各センサ情報を学習データとして用いて、それぞれ対応する認識器210の再学習処理を行う。ステップS308の処理が終了すると、サーバシステム2は、処理をステップS309に移行させ、学習結果利用部203により、ステップS308で再学習された各認識器210の利用処理を実行する。
【0098】
このように、第1の実施形態の第2の変形例では、端末装置11から送信されたセンサ情報が有する画像データに含まれるオブジェクトや物体クラスに基づき、当該センサ情報を適用可能な認識器210を選択している。そのため、当該センサ情報のより効率的な利用が可能となる。
【0099】
[3.第2の実施形態]
次に、本開示の第2の実施形態について説明する。上述した第1の実施形態およびその各変形例では、端末装置11から送信されたセンサ情報を適用させる認識器210を、サーバシステム2側で指定していた。これに対して、第2の実施形態では、端末装置11が、送信するセンサ情報を適用する認識器210を指定する。さらに、第2の実施形態では、端末装置11は、取得したセンサ情報をサーバシステム2に送信するか否かを判定する。
【0100】
図13は、第2の実施形態に係る運転支援システムの一例の構成を示すブロック図である。
図13に示される運転支援システムでは、端末装置11において
図2に示した学習データ適用判定部108を用いる。この場合、例えば、サーバシステム2側の学習データ適用判定部22は、サーバシステム2が有する認識器210を示す情報を、端末装置11側の学習データ適用判定部108に送信する。また、第2の実施形態および後述する各変形例においては、図中に塗り潰しを用いて示すように、送信判定部107aが中心的な役割を果たす。
【0101】
学習データ適用判定部108は、例えば上述した第1の実施形態と同様にして、カメラ12から取得されたセンサ情報が有するメタデータに基づき、当該センサ情報を、サーバシステム2が有する認識器210のうち何れに適用させるかを判定する。送信判定部107aは、サーバシステム2送信するセンサ情報に対して、学習データ適用判定部108により当該センサ情報を適用すると判定された認識器210を示す情報を付加して、サーバシステム2に送信する。このとき、送信判定部107aは、例えばセンサ情報に含まれるメタデータなどに基づき、当該センサ情報をサーバシステム2に送信するか否かを判定する。これにより、センサ情報の効率的な利用が可能となると共に、センサ情報を送信するための通信コストを抑制することが可能である。
【0102】
図14は、第2の実施形態に係る端末装置11の機能を説明するための一例の機能ブロック図である。
図14において、端末装置11は、撮像部300と、認識部101と、認識結果利用部301と、学習データ適用判定部108aと、送信判定部107aと、通信部110と、を含む。これら撮像部300、認識部101、学習データ適用判定部108a、送信判定部107aおよび通信部110は、CPU1001上で動作する情報処理プログラムにより実現される。
【0103】
撮像部300は、カメラ12を制御して撮像画像による画像データと、撮像に係るメタデータとを取得する。撮像部300は、取得した画像データおよびメタデータを、センサ情報として出力する。認識部101は、例えばサーバシステム2からネットワーク1を介して取得した認識器210を用いて、撮像部300から出力されたセンサ情報に含まれる画像データに対して、物体認識処理を実行する。認識結果利用部301は、例えばこの端末装置11が搭載される車両10の制御システムの含まれ、物体認識処理の結果に応じて障害物回避などの制御を行う。
【0104】
メタデータ解析部250および学習データ判定部222は、例えば第1の実施形態で説明したメタデータ解析部221および学習データ判定部222と同等の機能を有する。例えば、メタデータ解析部250は、センサ情報からメタデータを抽出し、抽出されたメタデータを解析する。学習データ判定部251は、メタデータの解析結果に基づき、サーバシステム2が有する複数の認識器210のうち当該センサ情報を適用可能な認識器210を指定する。
【0105】
送信判定部107aは、撮像部300で取得されたセンサ情報をサーバシステム2に送信するか否かを判定する。例えば、送信判定部107aは、センサ情報を送信するか否かを、当該センサ情報に基づき判定する。これに限らず、送信判定部107aは、センサ情報を送信するか否かを、当該センサ情報に基づく認識部101の認識結果に応じて判定することもできる。
【0106】
通信部110は、送信判定部107aで送信を行うと判定されたセンサ情報を、ネットワーク1を介してサーバシステム2に送信する。
【0107】
図15は、第2の実施形態に係る端末装置11における処理を示す一例のフローチャートである。最初のステップS400で、端末装置11は、撮像部300により撮像処理を行い、カメラ12から撮像画像による画像データと、カメラ12による撮像に係るメタデータとを含むセンサ情報を受信する。
【0108】
次のステップS401で、端末装置11は、認識部101により、ステップS400の撮像処理で取得されたセンサ情報に基づき物体認識処理を行う。次のステップS402で、端末装置11は、認識結果利用部301により、認識部101の物体認識処理による認識結果を用いた処理を実行する。
【0109】
次のステップS403で、メタデータ解析部250により、ステップS400の撮像処理で取得されたセンサ情報からメタデータを取得し、取得したメタデータの解析処理を実行する。
【0110】
次のステップS404stは、ステップS404edとの間で、センサ情報の全ての適用先、すなわちサーバシステム2が有する各認識器210について実行することを示すループ処理の開始を示している。
【0111】
ステップS405で、端末装置11は、学習データ判定部251により、メタデータ適用判定処理が実行される。すなわち、ステップS405で、学習データ判定部251は、ステップS400の撮像処理で取得されたセンサ情報について、メタデータに基づき、各認識器210のうち対象の認識器210に適用可能かを調べる。ここで、学習データ判定部251は、第1の実施形態で説明した判定方法を適用できる。すなわち学習データ判定部251は、センサ情報に対して、当該センサ情報に含まれる画像データの撮像時のシーンを、所定のルールや学習に基づき判定し、例えば判定されたシーン毎に、当該センサ情報を学習データとして適用する認識器210を指定する。
【0112】
次のステップS406で、学習データ判定部251は、当該センサ情報を対象の認識器210に適用可能であると判定した場合(ステップS406、「Yes」)、処理をステップS407に移行させる。ステップS407で、端末装置11は、蓄積判定部103により、適用先の学習データの蓄積処理が実行される。すなわち、ステップS407で、蓄積判定部103は、当該センサ情報を、ステップS406で適用可能であると判定された、対象の認識器210に対する学習データとして蓄積するよう判定する。蓄積部104は、この判定に従い、当該センサ情報を、記憶部105に記憶、蓄積する。
【0113】
ステップS407の処理の後、端末装置11は、処理をステップS404edからステップS404stに戻し、各認識器210のうち次の認識器210を対象の認識器210として、ステップS405~ステップS407の処理が実行される。
【0114】
一方、ステップS406で、対象のセンサ情報を対象の認識器210に適用可能ではない判定した場合(ステップS406、「No」)、処理をステップS404edからステップS404stに戻す。
【0115】
当該センサ情報について、各認識器210に対するステップS404st~ステップS404edの処理が終了すると、端末装置11は、処理をステップS408に移行させる。ステップS408で、端末装置11は、送信判定部107aにより、ステップS404st~ステップS404edの処理で当該センサ情報の適用先として判定された認識器210の数が、十分であるか(例えば、閾値を超えたか)否かを判定する。送信判定部107aは、当該センサ情報の適用先として判定された認識器210の数が十分ではないと判定した場合、当該センサ情報をサーバシステム2に送信せずに、この
図15のフローチャートによる一連の処理を終了させる。
【0116】
一方、送信判定部107aは、ステップS408で、当該センサ情報の適用先として判定された認識器210の数が十分であると判定した場合、処理をステップS409に移行させる。送信判定部107aは、ステップS409で、当該センサ情報の送信処理を行う。送信判定部107aは、例えば、ステップS407において記憶部105に記憶されたセンサ情報に対して、ステップS404st~ステップS404edの処理により適用可能であると判定された各認識器210を示す情報を付加する。
【0117】
次のステップS410で、各認識器210を示す情報が付加されたセンサ情報が記憶部105から読み出され、通信部110により、ネットワーク1を介してサーバシステム2に送信される。サーバシステム2は、端末装置11から送信された当該センサ情報を、当該センサ情報に付加された各認識器210を示す情報に基づき、これら各認識器210の再学習を行う学習データとして、各認識器210に関連付けて、記憶部20に記憶する。
【0118】
このように、第2の実施形態では、カメラ12から出力された、撮像画像による画像データとメタデータとを含むセンサ情報について、メタデータに基づき、サーバシステム2が有する各認識器210に適用可能か否かを判定する。そのため、端末装置11は、カメラ12により取得されたセンサ情報を、端末装置11が当該センサ情報に対して用いる認識器とは異なる認識機に対しても、学習データとして適用することができ、センサ情報を学習データとしてより効率的に利用可能である。また、端末装置11は、送信判定部107aにより、例えばセンサ情報に含まれるメタデータなどに基づき、当該センサ情報をサーバシステム2に送信するか否かを判定する。これにより、センサ情報を送信するための通信コストの抑制も可能である。
【0119】
なお、上述では、送信判定部107aは、センサ情報が有するメタデータに基づき、当該センサ情報をサーバシステム2に送信するか否かを判定したが、これはこの例に限定されない。送信判定部107aは、例えば、認識部101による当該センサ情報含まれる画像データに対する認識結果に含まれる認識スコアに基づき、当該センサ情報をサーバシステム2に送信するか否かを判定してもよい。この場合、例えば、送信判定部107aは、認識スコアが所定値以下の場合に、当該センサ情報をサーバシステム2に送信することが考えられる。サーバシステム2において、このような低い認識スコアのセンサ情報に基づき学習を行うことで、認識性能をより向上させることができる。
【0120】
(3-1.第1の変形例)
次に、第2の実施形態の第1の変形例について説明する。第2の実施形態の第1の変形例は、端末装置11が、取得したセンサ情報をサーバシステム2に送信するか否かを、当該センサ情報の即時性に基づき判定する例である。なお、第2の実施形態の第1の変形例では、
図13を用いて説明した第1の実施形態に係る運転支援システムの構成を適用できる。
【0121】
より具体的に説明する。カメラ12により取得されたセンサ情報には、時定数のオーダーが大幅に異なる情報が同時に含まれることがある。一例として、センサ情報のメタデータに含まれるレンズ経年劣化補正の情報と、画像データに基づきなされる歩行者認識処理とでは、その情報が発生してから対応が必要になるまでの時間が大幅に異なる。そこで、第2の実施形態の第1の変形例では、対象のセンサ情報について、使用目的毎の即時送信の必要性を求め、即時に必要なセンサ情報を優先させてサーバシステム2送信する。即時性が少ないセンサ情報は蓄積し、取得の時点では送信しない。
【0122】
図16は、第2の実施形態の第1の変形例に係る端末装置11の機能を説明するための一例の機能ブロック図である。
図16において、端末装置11は、
図14を用いて説明した第2の実施形態に係る端末装置11の構成に対して、学習データ適用判定部108aと、送信判定部107aとの間に、学習データ即時性算出部152と、学習データ即時性判定部153と、が挿入されている。
【0123】
学習データ即時性算出部151は、学習データ判定部251で認識器210に対する適用が指定されたセンサ情報の即時性を算出する。例えば、学習データ即時性算出部151は、当該センサ情報に対して学習データ判定部251で適用が指定された認識器210の使用目的に応じて、当該センサ情報の即時性を算出する。学習データ即時性判定部153は、算出された即時性に応じて、当該センサ情報の即時性を判定する。
【0124】
上述の例では、当該認識器210がレンズ経年変化補正に関する認識を行うものであり、認識内容の変化のスパンが長い場合、学習データ即時性算出部152は、例えば当該センサ情報のメタデータに基づき次の補正のタイミングを求め、このタイミングと現在の時刻との差分を算出する。学習データ即時性判定部153は、この算出された差分が閾値より長い場合、当該センサ情報は即時性が低いと判定する。上述の別の例では、当該認識器210が歩行者認識を行うものである場合、学習データ即時性判定部153は、当該センサ情報の即時性が高いと判定する。
【0125】
送信判定部107bは、学習データ即時性判定部153で判定された即時性に応じて、当該センサ情報をサーバシステム2に送信するか否かを判定する。すなわち、送信判定部107bは、即時性が高いと判定されたセンサ情報は、その時点でサーバシステム2に送信すると判定する。一方。送信判定部107bは、即時性が低いと判定されたセンサ情報は、その時点で送信する必要がないとして、例えば蓄積部104により記憶部105に蓄積する。
【0126】
通信部110は、送信判定部107bにより送信を行うと判定されたセンサ情報を、直ちにサーバシステム2に送信する。
【0127】
図17は、第2の実施形態の第1の変形例に係る端末装置11における処理を示す一例のフローチャートである。最初のステップS500で、端末装置11は、撮像部300により撮像処理を行い、カメラ12から撮像画像による画像データと、カメラ12による撮像に係るメタデータとを含むセンサ情報を取得する。
【0128】
次のステップS501で、端末装置11は、認識部101により、ステップS500の撮像処理で取得されたセンサ情報に基づき物体認識処理を行う。次のステップS502で、端末装置11は、認識結果利用部301により、認識部101の物体認識処理による認識結果を用いた処理を実行する。
【0129】
次のステップS503で、メタデータ解析部250により、ステップS500の撮像処理で取得されたセンサ情報からメタデータを取得し、取得したメタデータの解析処理を実行する。
【0130】
次のステップS504stは、ステップS504edとの間で、センサ情報の全ての適用先、すなわちサーバシステム2が有する各認識器210について実行することを示すループ処理の開始を示している。
【0131】
ステップS505で、端末装置11は、学習データ判定部251により、メタデータ適用判定処理が実行される。すなわち、ステップS505で、学習データ判定部251は、ステップS500の撮像処理で取得されたセンサ情報について、メタデータに基づき、各認識器210のうち対象の認識器210に適用可能かを調べる。ここで、学習データ判定部251は、第1の実施形態で説明した判定方法を適用できる。すなわち学習データ判定部251は、センサ情報に対して、当該センサ情報に含まれる画像データの撮像時のシーンを、所定のルールや学習に基づき判定し、例えば判定されたシーン毎に、当該センサ情報を学習データとして適用する認識器210を指定する。
【0132】
次のステップS506で、学習データ判定部251は、当該センサ情報を対象の認識器210に適用可能であると判定した場合(ステップS506、「Yes」)、処理をステップS507に移行させる。ステップS507で、端末装置11は、蓄積判定部103により、適用先の学習データの蓄積処理が実行される。すなわち、ステップS507で、蓄積判定部103は、当該センサ情報を、ステップS506で適用可能であると判定された、対象の認識器210に対する学習データとして蓄積するよう判定する。蓄積部104は、この判定に従い、当該センサ情報を、記憶部105に記憶、蓄積する。
【0133】
ステップS507の処理の後、端末装置11は、処理をステップS504edからステップS504stに戻し、各認識器210のうち次の認識器210を対象の認識器210として、ステップS505~ステップS507の処理が実行される。
【0134】
一方、ステップS506で、対象のセンサ情報を対象の認識器210に適用可能ではない判定した場合(ステップS506、「No」)、処理をステップS504edからステップS504stに戻す。
【0135】
当該センサ情報について、各認識器210に対するステップS504st~ステップS504edの処理が終了すると、端末装置11は、処理をステップS508に移行させる。ステップS508で、端末装置11は、学習データ即時性算出部152により当該センサ情報の即時性を算出し、次のステップS509で、学習データ即時性判定部153により当該センサ情報の即時性を判定する。
【0136】
次のステップS510で、端末装置11は、送信判定部107bにより、ステップS509で判定された即時性に基づき、当該センサ情報をサーバシステム2に送信するか否かを判定する。送信判定部107bは、当該センサ情報の即時性が低いと判定されている場合、当該センサ情報をサーバシステム2に送信しないと判定し(ステップS510、「No」)、この
図17のフローチャートの一連の処理を終了させる。
【0137】
一方、ステップS510で、送信判定部107bは、当該センサ情報の即時性が高いと判定されている場合、当該センサ情報をサーバシステム2に送信すると判定し(ステップS510、「Yes」)、処理をステップS511に移行させる。送信判定部107bは、ステップS511で、当該センサ情報の送信処理を行う。送信判定部107bは、例えば、当該センサ情報に対して、ステップS504st~ステップS504edの処理により適用可能であると判定された認識器210を示す情報を付加する。
【0138】
次のステップS512で、各認識器210を示す情報が付加されたセンサ情報が、通信部110により、ネットワーク1を介してサーバシステム2に送信される。サーバシステム2は、端末装置11から送信された当該センサ情報を、当該センサ情報に付加された認識器210を示す情報に基づき、当該認識器210の再学習を行う学習データとして、当該認識器210に関連付けて、記憶部20に記憶する。
【0139】
このように、第2の実施形態の第1の変形例では、センサ情報の即時性に基づき、当該センサ情報をサーバシステム2に送信するか否かを判定している。そのため、センサ情報を送信するための通信コストの抑制が可能である。
【0140】
(3-2.第2の変形例)
次に、第2の実施形態の第2の変形例について説明する。第2の実施形態の第2の変形例は、端末装置11が、取得したセンサ情報をサーバシステム2に送信するか否かを、当該センサ情報の希少性に基づき判定する例である。なお、第2の実施形態の第2の変形例では、
図13を用いて説明した第1の実施形態に係る運転支援システムの構成を適用できる。
【0141】
より具体的に説明する。カメラ12により取得されたセンサ情報には、希少性があり早期に収集する必要があるものが存在する。例えば、新規に導入された道路や交通システムに関するセンサ情報は、可能な限り早期に学習データに反映させることが好ましい。このようなセンサ情報の収集のためには、早期に収集すべき状況が発生する領域を、事前に、あるいは、V2Xなどの通信により随時に設定し、当該領域内で取得されたセンサ情報は、サーバシステム2に送信すべき情報であると判定する。
【0142】
図18は、第2の実施形態の第2の変形例に係る端末装置11の機能を説明するための一例の機能ブロック図である。
図18において、端末装置11は、
図14を用いて説明した第2の実施形態に係る端末装置11の構成に対して、学習データ適用判定部108aが省略され、希少性解析部310と、希少性判定部311と、が追加されている。
【0143】
撮像部300により取得されたセンサ情報は、認識部101を介して送信判定部107eに入力される。一方、希少性解析部310は、カメラ12により撮像される範囲における事象の希少性を解析する。希少性判定部311は、希少性解析部310で解析された事象の希少性を判定する。
【0144】
例えば、希少性解析部310は、外部との通信や、ユーザ設定などにより、希少性のある事象を含む領域を設定する処理を行う。さらに、希少性解析部310は、例えば端末装置11が備えるGNSS受信機1007から現在の位置を示す位置情報を取得する。希少性判定部311は、希少性解析部310の解析結果に基づき、カメラ12かにより撮像される撮像範囲が設定された領域を含むか否かを判定する。例えば、希少性判定部311は、希少性解析部310に取得された現在の位置を示す位置情報と、設定された領域とに基づき、取得された位置情報が設定された領域に対応する場合に、カメラ12から取得されるセンサ情報に希少性があると判定する。
【0145】
送信判定部107cは、希少性判定部311の判定結果に従い、カメラ12から取得されたセンサ情報をサーバシステム2送信するか否かを判定する。通信部110は、送信判定部107cにより送信すると判定されたセンサ情報を、ネットワーク1を介してサーバシステム2に送信する。
【0146】
図19は、第2の実施形態の第2の変形例に係る端末装置11における処理を示す一例のフローチャートである。最初のステップS600で、端末装置11は、撮像部300により撮像処理を行い、カメラ12から撮像画像による画像データと、カメラ12による撮像に係るメタデータとを含むセンサ情報を受信する。
【0147】
次のステップS601で、端末装置11は、認識部101により、ステップS600の撮像処理で取得されたセンサ情報に基づき物体認識処理を行う。次のステップS602で、端末装置11は、認識結果利用部301により、認識部101の物体認識処理による認識結果を用いた処理を実行する。
【0148】
次のステップS603で、希少性解析部310は、設定されたステップS600の撮像処理で取得されたセンサ情報からメタデータを取得し、取得したメタデータの解析処理を実行する。次のステップS604で、希少性解析部310は、希少性の解析を行う。例えば、希少性解析部310は、現在の位置を示す位置情報と、設定された領域の情報とを取得する。
【0149】
次のステップS605で、希少性判定部311は、ステップS604での解析結果に基づき、当該センサ情報を希少性のあるセンサ情報を用いて学習した認識器210に適用可能か否かを判定する。例えば、希少性判定部311は、現在の位置を示す位置情報と、設定された領域を示す情報とに基づき、現在の位置が当該領域に対応する位置である場合に、カメラ12から取得されたセンサ情報が希少性のあるセンサ情報であると判定できる。
【0150】
次のステップS606で、希少性判定部311は、当該センサ情報が希少性のあるセンサ情報を用いて学習した認識器210に適用可能であると判定した場合(ステップS606、「Yes」)、処理をステップS607に移行させる。ステップS607で、端末装置11は、送信判定部107cにより、当該センサ情報の送信処理を行う。送信判定部107cは、例えば、当該センサ情報に対して、希少性がある旨を示す情報を付加する。当該情報が付加されたセンサ情報は、通信部110によりネットワーク1を介してサーバシステム2に送信される。
【0151】
一方、ステップS606で、当該センサ情報が希少性のあるセンサ情報を用いて学習した認識器210に適用可能ではないと判定した場合、当該センサ情報をサーバシステム2に送信せずに、この
図19のフローチャートによる一連の処理を終了させる。
【0152】
このように、第2の実施形態の第2の変形例では、センサ情報の希少性に基づき、当該センサ情報をサーバシステム2に送信するか否かを判定している。そのため、センサ情報を送信するための通信コストの抑制が可能である。
【0153】
(3-3.第3の変形例)
次に、第2の実施形態の第3の変形例について説明する。第2の実施形態の第3の変形例は、複数の車両10から重複するセンサ情報が送信されることを回避可能とした例である。なお、第2の実施形態の第3の変形例では、
図13を用いて説明した第1の実施形態に係る運転支援システムの構成を適用できる。
【0154】
すなわち、センサ情報の送信機能を有する複数の車両10が、例えば比較的近接して存在する場合、これら複数の車両10から、同じようなセンサ情報が複数、サーバシステム2に対して送信されてしまうおそれがある。そのため、第2の実施形態の第3の変形例では、近接して存在する複数の車両10がそれぞれ異なるデータをサーバシステム2に対して送信可能とする。より具体的には、第2の実施形態の第3の変形例では、注目する車両10(以下、注目車両)は、周囲の車両10との間で、各々送信するセンサ情報のメタデータの送受信を行い、既に他の車両10が送信したセンサ情報に類似したセンサ情報を当該注目車両から送信しないようにする。
【0155】
図20は、第2の実施形態の第3の変形例に係る端末装置11の機能を説明するための一例の機能ブロック図である。
図20において、注目車両の端末装置11は、撮像部300と、認識部101と、認識結果利用部301と、送信判定部107dと、通信部110aと、他車データ蓄積部320と、記憶部321と、を含む。また、注目車両に対して他の車両10
1、10
2、10
3、…は、それぞれ撮像部300と、認識部101と、認識結果利用部301と、送信判定部107と、通信部110と、を含んでいる。これに限らず、他の車両10
1、10
2、10
3、…それぞれも、注目車両と同様の構成を有していてもよい。
【0156】
撮像部300、認識部101および認識結果利用部301は、例えば
図14に示す撮像部300、認識部101および認識結果利用部301と同等の機能を有するため、ここでの説明を省略する。
【0157】
図20において、通信部110aは、他の車両10
1、10
2、10
3、…の通信部110と通信を行い、他の車両10
1、10
2、10
3、…が既にサーバシステム2に送信したセンサ情報を示す情報を取得する。
【0158】
例えば、注目車両において、認識部101は、カメラ12から取得されたセンサ情報に含まれる画像データに対して物体認識処理を行い、認識結果を送信判定部107dに渡す。同様に、各車両101、102、103、…においても、認識部101は、カメラ12から取得されたセンサ情報に含まれる画像データに対して物体認識処理を行い、認識結果をそれぞれの送信判定部107dに渡す。
【0159】
通信部110aは、各車両101、102、103、…と通信を行い、各車両101、102、103、…に対して送信するセンサ情報を示す情報を要求する。各車両101、102、103、…の各送信判定部107は、この要求に応じて、例えば、センサ情報に含まれるメタデータと、認識結果と、を注目車両にネットワーク1を介して送信する。
【0160】
注目車両に搭載される端末装置11において、通信部110aは、各車両101、102、103、…から受信したメタデータおよび認識結果を他車データ蓄積部320に渡す。他車データ蓄積部320は、渡された各メタデータおよび認識結果を記憶部321に蓄積する。
【0161】
送信判定部107dは、認識部101から渡された認識結果と、センサ情報に含まれるメタデータと、に基づき、記憶部321に、当該認識結果およびメタデータに対応する、既に送信されたデータが蓄積されているか否かを判定する。送信判定部107dは、蓄積されていなければ、当該認識結果およびメタデータを通信部110aによりサーバシステム2に送信する。一方、蓄積されていれば、当該認識結果およびメタデータの送信は行わない。
【0162】
このように、複数の車両10間で重複するセンサ情報が送信されることを回避することで、通信コストを削減することができる。
【0163】
図21は、第2の実施形態の第3の変形例に係る端末装置11における処理を示す一例のフローチャートである。なお、
図21において、セクション(a)に示されるステップS700~ステップS709の処理と、セクション(b)に示されるステップS720~ステップS721の処理は、例えば別スレッドにより互いに独立して動作する処理である。また、これらセクション(a)およびセクション(b)の処理は、注目車両に搭載される端末装置11により実行される処理である。
【0164】
先ず、セクション(b)の処理について説明する。ステップS720で、通信部110aは、他車送信情報を受信するための受信処理を行う。例えば、通信部110aは、他の車両101、102、103、…それぞれに対して、送信済みのセンサ情報のメタデータと、当該センサ情報に基づく認識結果とを要求する。次のステップS721で、通信部110aは、ステップS720での要求に応じた他車送信情報を他車データ蓄積部320により記憶部321に蓄積する蓄積処理を行う。例えば、通信部110aは、ステップS720の要求に応じて他の車両101、102、103、…から送信されたメタデータおよび認識結果の組を受信し、受信したメタデータおよび認識結果の組を他車データ蓄積部320に渡す。他車データ蓄積部320は、通信部110aから渡されたメタデータおよび認識結果の組を記憶部321に記憶し蓄積する。
【0165】
このセクション(b)のステップS720およびステップS721の処理は、随時、実行される。
【0166】
次に、セクション(a)の処理について説明する。最初のステップS700で、端末装置11は、撮像部300により撮像処理を行い、カメラ12から撮像画像による画像データと、カメラ12による撮像に係るメタデータとを含むセンサ情報を取得する。
【0167】
次のステップS701で、端末装置11は、認識部101により、ステップS700の撮像処理で取得されたセンサ情報に基づき物体認識処理を行う。次のステップS702で、端末装置11は、認識結果利用部301により、認識部101の物体認識処理による認識結果を用いた処理を実行する。また、認識部101は、認識結果と、当該センサ情報が有するメタデータとを送信判定部107dに渡す。
【0168】
次のステップS703stは、ステップS703edとの間で、セクション(b)のステップS721により記憶部321に蓄積された全ての他車データ(認識結果およびメタデータ)について実行することを示すループ処理の開始を示している。
【0169】
ステップS704で、送信判定部107dは、他車データ蓄積部320に対して記憶部321に蓄積されたメタデータおよび認識結果の組を1つ、読み出すように要求し、この要求に応じて記憶部321から読み出されたメタデータおよび認識結果の組を取得する。
【0170】
次のステップS705で、送信判定部107dは、ステップS704で記憶部321から読みだしたメタデータおよび認識結果の組が、ステップS702で認識部101から渡されたメタデータおよび認識結果の組と近いデータであるか否かを判定する。送信判定部107dは、例えば、それぞれの認識結果の類似度を求め、求めた類似度が閾値以下であれば、記憶部321から読みだしたメタデータおよび認識結果の組と、認識部101から渡されたメタデータおよび認識結果の組と、が近いデータであると判定できる。これに限らず、それぞれのメタデータを比較して、この判定を行ってもよい。
【0171】
送信判定部107dは、これらが近いデータであると判定した場合(ステップS706、「Yes」)、処理をステップS706に移行させ、記憶部321から読み出したメタデータおよび認識結果の組に、未送信フラグをセットする。送信判定部107dは、ステップS706の処理の後、処理をステップS703edからステップS703stに戻し、記憶部321に蓄積された次のメタデータおよび認識結果の組について、ステップS704からの処理を実行する。
【0172】
一方、送信判定部107dは、これらが近いデータではないと判定した場合(ステップS705、「No」)、処理をステップS703edからステップS703stに戻し、記憶部321に蓄積された次のメタデータおよび認識結果の組について、ステップS704からの処理を実行する。
【0173】
記憶部321に蓄積された全てのメタデータおよび認識結果の組についてステップS704およびステップS705の処理が終了すると、送信判定部107dは、処理をステップS707に移行させる。
【0174】
ステップS707で、送信判定部107dは、記憶部321に蓄積された全てのメタデータおよび認識結果の組のうち、ステップS706で未送信フラグをセットされたメタデータおよび認識結果の組の有無を判定する。送信判定部107dは、記憶部321に蓄積された全てのメタデータおよび認識結果の組に未送信フラグがセットされていないと判定した場合(ステップS707、「Yes」)、処理をステップS708に移行させる。
【0175】
ステップS708で、送信判定部107dは、ステップS702で認識部101から渡されたメタデータおよび認識結果の組に対応するセンサ情報を通信部110aに渡し、当該センサ情報をサーバシステム2に送信するための送信処理を行う。次のステップS709で、通信部110aは、送信判定部107dから渡されたセンサ情報を、サーバシステム2にネットワーク1を介して送信する。
【0176】
一方、ステップS707で、送信判定部107dは、記憶部321に蓄積された全てのメタデータおよび認識結果の組のうち、ステップS706で未送信フラグをセットされたメタデータおよび認識結果の組が1つでもあると判定した場合(ステップS707、「No」)、センサ情報の送信処理を行わずに、
図21におけるセクション(a)のフローチャートによる一連の処理を終了させる。
【0177】
このように、第2の実施形態の第3の変形例では、他の車両10により送信済みのセンサ情報に近いセンサ情報を送信しないようにしているため、センサ情報を送信するための通信コストを削減することができる。
【0178】
[4.第3の実施形態]
次に、第3の実施形態について説明する。第3の実施形態は、上述の第2の実施形態においてサーバシステム2に送信しなかったセンサ情報に関するもので、これら第2の実施形態およびその各変形例の何れにも適用可能なものである。ここでは、説明のため、第3の実施形態による処理を、上述した第2の実施形態に対して適用させるものとして説明を行う。
【0179】
図22は、第3の実施形態に係る運転支援システムの一例の構成を示すブロック図である。
図22に示される構成は、第2の実施形態において
図13を用いて説明した構成と同等であるが、
図22に塗り潰しを用いて示すように、蓄積判定部103、蓄積部104および蓄積情報出力部106が主要な役割を果たす。
【0180】
すなわち、上述した第2の実施形態などにおいて、送信されかなったセンサ情報も、必要な場合が有り得る。そこで、第3の実施形態では、送信されなかったセンサ情報を蓄積部104により記憶部105に記憶し蓄積しておく。その後、任意のタイミングで、蓄積情報出力部106から、ケーブル接続やLAN(Local Area Network)などの、インターネット等を介さない直接的な接続により、センサ情報を出力する。
【0181】
図23は、第3の実施形態に係る端末装置11の機能を説明するための一例の機能ブロック図である。基本的な構成は、
図14を用いて説明した、第2の実施形態に係る端末装置11の構成と同様であるため、詳細な説明は省略する。第3の実施形態に係る端末装置11では、送信判定部107eは、送信しないと判定したセンサ情報を蓄積部104に渡し、蓄積部104は当該センサ情報を記憶部105に記憶させ蓄積する。蓄積情報出力部106は、センサ情報を収集可能な外部装置が接続されると、蓄積部104に対して記憶部105に蓄積されたセンサ情報を要求し、蓄積部104により記憶部105から読み出されたセンサ情報を、当該外部装置に出力する。
【0182】
図24は、第3の実施形態に係る端末装置11における処理を示す一例のフローチャートである。なお、
図24において、セクション(b)に示されるステップS820~ステップS821の処理は、例えば蓄積情報出力部106に対して外部装置が接続された際に起動される処理である。
【0183】
先ず、セクション(a)の処理について説明する。セクション(a)の処理は、
図15を用いて説明した第2の実施形態に係る処理と略同一である。すなわち、最初のステップS800で、端末装置11は、撮像部300により撮像処理を行い、カメラ12から撮像画像による画像データと、カメラ12による撮像に係るメタデータとを含むセンサ情報を受信する。次のステップS801で、端末装置11は、認識部101により、ステップS800の撮像処理で取得されたセンサ情報に基づき物体認識処理を行う。次のステップS802で、端末装置11は、認識結果利用部301により、認識部101の物体認識処理による認識結果を用いた処理を実行する。
【0184】
次のステップS803で、メタデータ解析部250により、ステップS800の撮像処理で取得されたセンサ情報からメタデータを取得し、取得したメタデータの解析処理を実行する。
【0185】
次のステップS804stは、ステップS804edとの間で、センサ情報の全ての適用先、すなわちサーバシステム2が有する各認識器210について実行することを示すループ処理の開始を示している。
【0186】
ステップS805で、端末装置11は、学習データ判定部251により、メタデータ適用判定処理が実行される。すなわち、ステップS805で、学習データ判定部251は、ステップS800の撮像処理で取得されたセンサ情報について、メタデータに基づき、例えば第1の実施形態で説明した判定方法を用いて、各認識器210のうち対象の認識器210に適用可能かを調べる。
【0187】
次のステップS806で、学習データ判定部251は、当該センサ情報を対象の認識器210に適用可能であると判定した場合(ステップS806、「Yes」)、処理をステップS807に移行させる。ステップS807で、端末装置11は、蓄積判定部103により、適用先の学習データの蓄積処理が実行される。すなわち、ステップS807で、蓄積判定部103は、当該センサ情報を、ステップS806で適用可能であると判定された、対象の認識器210に対する学習データとして蓄積するよう判定する。蓄積部104は、この判定に従い、当該センサ情報を、記憶部105に記憶、蓄積する。
【0188】
ステップS807の処理の後、端末装置11は、処理をステップS804edからステップS804stに戻し、各認識器210のうち次の認識器210を対象の認識器210として、ステップS805~ステップS807の処理が実行される。
【0189】
一方、ステップS806で、対象のセンサ情報を対象の認識器210に適用可能ではない判定した場合(ステップS806、「No」)、処理をステップS804edからステップS804stに戻す。
【0190】
当該センサ情報について、各認識器210に対するステップS804st~ステップS804edの処理が終了すると、端末装置11は、処理をステップS808に移行させる。ステップS808で、端末装置11は、送信判定部107eにより、ステップS804st~ステップS804edの処理で当該センサ情報の適用先として判定された認識器210の数が、十分であるか(例えば、閾値を超えたか)否かを判定する。
【0191】
送信判定部107eは、当該センサ情報の適用先として判定された認識器210の数が十分ではないと判定した場合、処理をステップS811に移行させる。ステップS811で、送信判定部107eは、センサ情報の蓄積処理を行う。例えば、送信判定部107eは、蓄積部104に対して、ステップS807で記憶部105に蓄積されたセンサ情報をそのまま保持するように指示する。蓄積処理が終了されると、この
図24のセクション(a)のフローチャートによる一連の処理を終了させる。
【0192】
一方、送信判定部107eは、ステップS808で、当該センサ情報の適用先として判定された認識器210の数が十分であると判定した場合、処理をステップS809に移行させる。送信判定部107eは、ステップS809で、当該センサ情報の送信処理を行う。送信判定部107eは、例えば、ステップS807において記憶部105に蓄積されたセンサ情報に対して、ステップS804st~ステップS804edの処理により適用可能であると判定された各認識器210を示す情報を付加する。
【0193】
次のステップS810で、各認識器210を示す情報が付加されたセンサ情報が記憶部105から読み出され、通信部110により、ネットワーク1を介してサーバシステム2に送信される。蓄積部104は、送信されたセンサ情報を、記憶部105から削除する。サーバシステム2は、端末装置11から送信された当該センサ情報を、当該センサ情報に付加された各認識器210を示す情報に基づき、これら各認識器210の再学習を行う学習データとして、各認識器210に関連付けて、記憶部20に記憶する。
【0194】
セクション(b)の処理について説明する。蓄積情報出力部106は、外部装置がケーブルなどで直接的に接続されると、ステップS820で、当該外部装置との接続処理を実行する。当該外部装置との接続が確立されると、蓄積情報出力部106は、蓄積部104に対して、記憶部105から、蓄積されたセンサ情報を読み出す指示を出す。蓄積情報出力部106は、蓄積部104により記憶部105から読み出された各センサ情報を、外部装置に送信する。
【0195】
このように、第3の実施形態では、送信判定部107eによりサーバシステム2に送信されなかったセンサ情報を、任意のタイミングで外部装置に出力することができる。これにより、ネットワーク1による通信コストを掛けずに、センサ情報の効率的な利用が可能となる。
【0196】
(4-1.第1の変形例)
次に、第3の実施形態の第1の変形例について説明する。第3の実施形態の第1の変形例は、上述の第2の実施形態およびその各変形例においてサーバシステム2に送信しなかったセンサ情報に関するもので、これら第2の実施形態およびその各変形例の何れにも適用可能なものである。ここでは、説明のため、第3の実施形態による処理を、上述した第2の実施形態に対して適用させるものとして説明を行う。
【0197】
端末装置11からネットワーク1を介してサーバシステム2にセンサ情報を送信する際の通信コストは、ネットワーク1に接続するために例えばWi-Fi(登録商標)のホットスポットを用いる場合や、通信負荷の低いタイミングに通信を行う場合など、変動する。そのため、第3の実施形態の第1の変形例では、ネットワーク通信の料金プラン(時間毎の通信料金情報)や、通信プラン(時間毎の通信量計画)を事前に設定、あるいは、V2X等の通信によって設定する。そして、通信コストが低いタイミング、通信負荷が高くない時間帯、自車内の通信量が少ない場合などに、蓄積したセンサ情報を送信するようにする。
【0198】
図25は、第3の実施形態の第1の変形例に係る端末装置11の機能を説明するための一例の機能ブロック図である。基本的な構成は、
図14を用いて説明した、第2の実施形態に係る端末装置11の構成と同様であるため、詳細な説明は省略する。第3の実施形態の第1の変形例に係る端末装置11では、送信判定部107eは、送信しないと判定したセンサ情報を蓄積部104に渡し、蓄積部104は当該センサ情報を記憶部105に記憶させ蓄積する。送信判定部107eは、上述の、通信コストが低いタイミング、通信負荷が高くない時間帯、自車内の通信量が少ない場合などに、記憶部105から、蓄積されたセンサ情報を読み出して、ネットワーク1を介してサーバシステム2に送信する。
【0199】
図26は、第3の実施形態の第1の変形例に係る端末装置11における処理を示す一例のフローチャートである。なお、
図26において、セクション(a)に示されるステップS900~ステップS911の処理と、セクション(b)に示されるステップS920~ステップS924の処理は、例えば別スレッドにより互いに独立して動作する処理である。
【0200】
先ず、セクション(a)の処理について説明する。セクション(a)の処理は、
図15を用いて説明した第2の実施形態に係る処理と略同一である。すなわち、最初のステップS900で、端末装置11は、撮像部300により撮像処理を行い、カメラ12から撮像画像による画像データと、カメラ12による撮像に係るメタデータとを含むセンサ情報を受信する。次のステップS901で、端末装置11は、認識部101により、ステップS900の撮像処理で取得されたセンサ情報に基づき物体認識処理を行う。次のステップS902で、端末装置11は、認識結果利用部301により、認識部101の物体認識処理による認識結果を用いた処理を実行する。
【0201】
次のステップS903で、メタデータ解析部250により、ステップS900の撮像処理で取得されたセンサ情報からメタデータを取得し、取得したメタデータの解析処理を実行する。
【0202】
次のステップS904stは、ステップS904edとの間で、センサ情報の全ての適用先、すなわちサーバシステム2が有する各認識器210について実行することを示すループ処理の開始を示している。
【0203】
ステップS905で、端末装置11は、学習データ判定部251により、メタデータ適用判定処理が実行される。すなわち、ステップS905で、学習データ判定部251は、ステップS900の撮像処理で取得されたセンサ情報について、メタデータに基づき、例えば第1の実施形態で説明した判定方法を用いて、各認識器210のうち対象の認識器210に適用可能かを調べる。
【0204】
次のステップS906で、学習データ判定部251は、当該センサ情報を対象の認識器210に適用可能であると判定した場合(ステップS906、「Yes」)、処理をステップS907に移行させる。ステップS907で、端末装置11は、蓄積判定部103により、適用先の学習データの蓄積処理が実行される。すなわち、ステップS907で、蓄積判定部103は、当該センサ情報を、ステップS906で適用可能であると判定された、対象の認識器210に対する学習データとして蓄積するよう判定する。蓄積部104は、この判定に従い、当該センサ情報を、記憶部105に記憶、蓄積する。
【0205】
ステップS907の処理の後、端末装置11は、処理をステップS904edからステップS904stに戻し、各認識器210のうち次の認識器210を対象の認識器210として、ステップS905~ステップS907の処理が実行される。
【0206】
一方、ステップS906で、対象のセンサ情報を対象の認識器210に適用可能ではない判定した場合(ステップS906、「No」)、処理をステップS904edからステップS904stに戻す。
【0207】
当該センサ情報について、各認識器210に対するステップS904st~ステップS904edの処理が終了すると、端末装置11は、処理をステップS908に移行させる。ステップS908で、端末装置11は、送信判定部107eにより、ステップS904st~ステップS904edの処理で当該センサ情報の適用先として判定された認識器210の数が、十分であるか(例えば、閾値を超えたか)否かを判定する。
【0208】
送信判定部107eは、ステップS908で、当該センサ情報の適用先として判定された認識器210の数が十分ではないと判定した場合(ステップS908、「No」)、処理をステップS911に移行させる。ステップS911で、送信判定部107eは、センサ情報の蓄積処理を行う。例えば、送信判定部107eは、蓄積部104に対して、ステップS907で記憶部105に蓄積されたセンサ情報をそのまま保持するように指示する。蓄積処理が終了されると、この
図26のセクション(a)のフローチャートによる一連の処理を終了させる。
【0209】
一方、送信判定部107eは、ステップS908で、当該センサ情報の適用先として判定された認識器210の数が十分であると判定した場合(ステップS908、「Yes」)、処理をステップS909に移行させる。送信判定部107eは、ステップS909で、当該センサ情報の送信処理を行う。送信判定部107eは、例えば、ステップS907において記憶部105に蓄積されたセンサ情報に対して、ステップS904st~ステップS904edの処理により適用可能であると判定された各認識器210を示す情報を付加する。
【0210】
次のステップS910で、各認識器210を示す情報が付加されたセンサ情報が記憶部105から読み出され、通信部110により、ネットワーク1を介してサーバシステム2に送信される。蓄積部104は、送信されたセンサ情報を、記憶部105から削除する。サーバシステム2は、端末装置11から送信された当該センサ情報を、当該センサ情報に付加された各認識器210を示す情報に基づき、これら各認識器210の再学習を行う学習データとして、各認識器210に関連付けて、記憶部20に記憶する。
【0211】
次に、セクション(b)の処理について説明する。ステップS920で、送信判定部107eは、通信部110によりネットワーク1に接続する接続処理を行う。次のステップS921で、送信判定部107eは、ネットワーク1における通信コストの推定処理を行う。例えば、送信判定部107eは、ネットワーク1への接続に係る通信プラン、料金プラン、時間帯、ネットワーク1のトラフィック量などに基づき、通信コストを推定する。
【0212】
次のステップS922で、送信判定部107eは、ステップS921で推定された通信コストが安いか否か、例えば、通信コストが所定未満であるか否かを判定する。送信判定部107eは、推定された通信コストが高いと判定した場合(ステップS922、「No」)、記憶部105に蓄積されたセンサ情報の送信を行わずに、このセクション(b)のフローチャートによる一連の処理を終了させる。
【0213】
一方、ステップS922で、送信判定部107eは、ステップS921で推定された通信コストが安いと判定した場合(ステップS922、「Yes」)、処理をステップS923に移行させる。ステップS923で、送信判定部107eは、記憶部105に蓄積されたセンサ情報の送信処理を行う。例えば、送信判定部107eは、蓄積部104に対して、記憶部105に蓄積されたセンサ情報の読み出しを指示する。
【0214】
次のステップS924で、送信判定部107eは、ステップS923での指示に応じて蓄積部104により記憶部105から読み出されたセンサ情報を、通信部110により、ネットワーク1を介してサーバシステム2に送信する。蓄積部104は、送信されたセンサ情報を、記憶部105から削除する。
【0215】
このように、第3の実施形態の第1の変形例では、取得時にサーバシステム2に送信されずに記憶部105に蓄積されたセンサ情報を、通信コストに応じて、ネットワーク1を介してサーバシステム2に送信するようにしている。そのため、センサ情報の送信に係る通信コストを削減することができる。
【0216】
(4-2.第2の変形例)
次に、第3の実施形態の第2の変形例について説明する。第3の実施形態の第2の変形例は、上述の第2の実施形態およびその各変形例においてサーバシステム2に送信しなかったセンサ情報に関するもので、これら第2の実施形態およびその各変形例の何れにも適用可能なものである。ここでは、説明のため、第3の実施形態の第2の変形例による処理を、上述した第2の実施形態に対して適用させるものとして説明を行う。
【0217】
第3の実施形態の第2の変形例では、取得時にサーバシステム2に送信されなかったセンサ情報に優先度を付与し、優先度に応じてセンサ情報の蓄積を制御する。すなわち、センサ情報は、含まれる内容や取得時の状況などに応じて優先度が異なる場合がある。そこで、蓄積判定部103は、サーバシステム2に送信されなかったセンサ情報の蓄積時に、当該センサ情報に優先度を付与して記憶部105に蓄積する。蓄積判定部103は、蓄積部104(記憶部105)の蓄積可能な情報量を超える量のセンサ情報を蓄積する場合、蓄積済みのセンサ情報のうち最も優先度の低いセンサ情報から順次削除していき、優先度の高いセンサ情報を蓄積する。
【0218】
図27は、第3の実施形態の第2の変形例に係る端末装置11の機能を説明するための一例の機能ブロック図である。基本的な構成は、
図14を用いて説明した、第2の実施形態に係る端末装置11の構成と同様であるため、詳細な説明は省略する。第3の実施形態の第2の変形例に係る端末装置11では、送信しないと判定したセンサ情報を蓄積判定部103に渡し、蓄積判定部103は当該センサ情報に優先度を付与する。蓄積部104は、優先度が付与されたセンサ情報を記憶部105に記憶させ蓄積する。このとき、蓄積判定部103は、記憶部105に空き容量が無い場合に、記憶部105に記憶される各センサ情報のうち最も低い優先度が付与されたセンサ情報を削除する。
【0219】
また、送信判定部107eは、上述の、通信コストが低いタイミング、通信負荷が高くない時間帯、自車内の通信量が少ない場合などに、記憶部105から、蓄積されたセンサ情報を読み出して、ネットワーク1を介してサーバシステム2に送信する。
【0220】
図28は、第3の実施形態の第2の変形例に係る端末装置11における処理を示す一例のフローチャートである。なお、
図28において、セクション(a)に示されるステップS1000~ステップS1017の処理と、セクション(b)に示されるステップS1030~ステップS1034の処理は、別スレッドにより互いに独立して動作する処理である。
【0221】
先ず、セクション(a)の処理について説明する。セクション(a)の処理は、ステップS1000~ステップS1010の処理が、
図15のフローチャートにおけるステップS400~ステップS410の処理と略同一である。すなわち、最初のステップS1000で、端末装置11は、撮像部300により撮像処理を行い、カメラ12から撮像画像による画像データと、カメラ12による撮像に係るメタデータとを含むセンサ情報を受信する。次のステップS1001で、端末装置11は、認識部101により、ステップS1000の撮像処理で取得されたセンサ情報に基づき物体認識処理を行う。次のステップS1002で、端末装置11は、認識結果利用部301により、認識部101の物体認識処理による認識結果を用いた処理を実行する。
【0222】
次のステップS1003で、メタデータ解析部250により、ステップS1000の撮像処理で取得されたセンサ情報からメタデータを取得し、取得したメタデータの解析処理を実行する。
【0223】
次のステップS1004stは、ステップS1004edとの間で、センサ情報の全ての適用先、すなわちサーバシステム2が有する各認識器210について実行することを示すループ処理の開始を示している。
【0224】
ステップS1005で、端末装置11は、学習データ判定部251により、メタデータ適用判定処理が実行される。すなわち、ステップS1005で、学習データ判定部251は、ステップS1000の撮像処理で取得されたセンサ情報について、メタデータに基づき、例えば第1の実施形態で説明した判定方法を用いて、各認識器210のうち対象の認識器210に適用可能かを調べる。
【0225】
次のステップS1006で、学習データ判定部251は、当該センサ情報を対象の認識器210に適用可能であると判定した場合(ステップS1006、「Yes」)、処理をステップS1007に移行させる。ステップS1007で、端末装置11は、蓄積判定部103により、適用先の学習データの蓄積処理が実行される。すなわち、ステップS1007で、蓄積判定部103は、当該センサ情報を、ステップS1006で適用可能であると判定された、対象の認識器210に対する学習データとして蓄積するよう判定する。蓄積部104は、この判定に従い、当該センサ情報を、記憶部105に記憶、蓄積する。
【0226】
ステップS1007の処理の後、端末装置11は、処理をステップS1004edからステップS1004stに戻し、各認識器210のうち次の認識器210を対象の認識器210として、ステップS1005~ステップS1007の処理が実行される。
【0227】
一方、ステップS1006で、対象のセンサ情報を対象の認識器210に適用可能ではない判定した場合(ステップS1006、「No」)、処理をステップS1004edからステップS1004stに戻す。
【0228】
当該センサ情報について、各認識器210に対するステップS1004st~ステップS1004edの処理が終了すると、端末装置11は、処理をステップS1008に移行させる。ステップS1008で、端末装置11は、送信判定部107eにより、ステップS1004st~ステップS1004edの処理で当該センサ情報の適用先として判定された認識器210の数が、十分であるか(例えば、閾値を超えたか)否かを判定する。
【0229】
一方、送信判定部107eは、ステップS1008で、当該センサ情報の適用先として判定された認識器210の数が十分であると判定した場合(ステップS1008、「Yes」)、処理をステップS1009に移行させる。送信判定部107eは、ステップS1009で、当該センサ情報の送信処理を行う。送信判定部107eは、例えば、ステップS1007において記憶部105に蓄積されたセンサ情報に対して、ステップS1004st~ステップS1004edの処理により適用可能であると判定された各認識器210を示す情報を付加する。
【0230】
次のステップS1010で、各認識器210を示す情報が付加されたセンサ情報が記憶部105から読み出され、通信部110により、ネットワーク1を介してサーバシステム2に送信される。蓄積部104は、送信されたセンサ情報を、記憶部105から削除する。サーバシステム2は、端末装置11から送信された当該センサ情報を、当該センサ情報に付加された各認識器210を示す情報に基づき、これら各認識器210の再学習を行う学習データとして、各認識器210に関連付けて、記憶部20に記憶する。
【0231】
送信判定部107eは、ステップS1008で、当該センサ情報の適用先として判定された認識器210の数が十分ではないと判定した場合(ステップS1008、「No」)、処理をステップS1011に移行させる。
【0232】
ステップS1011で、蓄積判定部103は、当該センサ情報(新規センサ情報とする)に対して優先度を設定する。例えば、蓄積判定部103は、新規センサ情報が有するメタデータに基づき優先度を設定することができる。また、蓄積判定部103は、認識部101の認識結果に基づき新規センサ情報に優先度を設定することができる。例えば、蓄積判定部103は、新規センサ情報に対して、認識結果が示す認識率が高い程、高い優先度を設定するようにできる。
【0233】
次のステップS1012で、蓄積判定部103は、記憶部105に新規センサ情報を記憶できるだけの空き容量があるか否かを判定する。例えば、蓄積判定部103は、蓄積部104に対して記憶部105の空き容量を問い合わせる。
【0234】
蓄積判定部103は、ステップS1012で、記憶部105に新規センサ情報を記憶できるだけの空き容量があると判定された場合(ステップS1012、「No」)、処理をステップS1017に移行させる。ステップS1017で、蓄積判定部103は、蓄積部104に対して、新規センサ情報の記憶部105への記憶を指示する。記憶部105は、この指示に応じて、新規センサ情報を記憶部105に記憶させ蓄積する。センサ情報の記憶部105への記憶が完了すると、このセクション(a)のフローチャートによる一連の処理が終了される。
【0235】
一方、蓄積判定部103は、ステップS1012で、記憶部105に新規センサ情報を記憶できるだけの空き容量が無いと判定された場合(ステップS1012、「Yes」)、処理をステップS1013に移行させる。ステップS1013で、蓄積判定部103は、蓄積部104に対して、記憶部105に蓄積されている各センサ情報のうち、最低の優先度が設定されているセンサ情報の探索を指示する。
【0236】
次のステップS1014で、蓄積判定部103は、ステップS1013で探索されたセンサ情報の優先度と、新規センサ情報の優先度と、を比較する。比較の結果、ステップS1013で探索されたセンサ情報(最低優先度センサ情報とする)の優先度の方が、新規センサ情報の優先度よりも高いと判定した場合(ステップS1014、「最低優先度データの優先度が高い」)、このセクション(a)のフローチャートによる一連の処理を終了させる。この場合、新規センサ情報は、例えば破棄される。
【0237】
一方、蓄積判定部103は、ステップS1014で、新規センサ情報の優先度の方が、最低優先度センサ情報の優先度よりも高いと判定した場合、(ステップS1014、「新規優先度データの優先度が高い」)、処理をステップS1015に移行させる。ステップS1015で、蓄積判定部103は、蓄積部104に対して、記憶部105から最低優先度センサ情報を削除するよう指示する。蓄積部104は、この指示に応じて、当該最低優先度センサ情報を記憶部105から削除する。
【0238】
次のステップS1016で、蓄積判定部103は、蓄積部104に対して、新規センサ情報の記憶部105への記憶を指示する。記憶部105は、この指示に応じて、新規センサ情報を記憶部105に記憶させ蓄積する。センサ情報の記憶部105への記憶が完了すると、このセクション(a)のフローチャートによる一連の処理が終了される。
【0239】
セクション(b)の処理について説明する。
図28のセクション(b)による処理は、
図26のセクション(b)の処理と略同一である。すなわち、ステップS1030で、送信判定部107eは、通信部110によりネットワーク1に接続する接続処理を行う。次のステップS1031で、送信判定部107eは、ネットワーク1における通信コストの推定処理を行う。例えば、送信判定部107eは、ネットワーク1への接続に係る通信プラン、料金プラン、時間帯、ネットワーク1のトラフィック量などに基づき、通信コストを推定する。
【0240】
次のステップS1032で、送信判定部107eは、ステップS1031で推定された通信コストが安いか否か、例えば、通信コストが所定未満であるか否かを判定する。送信判定部107eは、推定された通信コストが高いと判定した場合(ステップS1032、「No」)、記憶部105に蓄積されたセンサ情報の送信を行わずに、このセクション(b)のフローチャートによる一連の処理を終了させる。
【0241】
一方、ステップS1032で、送信判定部107eは、ステップS1031で推定された通信コストが安いと判定した場合(ステップS1032、「Yes」)、処理をステップS1033に移行させる。ステップS1033で、送信判定部107eは、記憶部105に蓄積されたセンサ情報の送信処理を行う。例えば、送信判定部107eは、蓄積部104に対して、記憶部105に蓄積されたセンサ情報の読み出しを指示する。
【0242】
次のステップS1034で、送信判定部107eは、ステップS1033での指示に応じて蓄積部104により記憶部105から読み出されたセンサ情報を、通信部110により、ネットワーク1を介してサーバシステム2に送信する。蓄積部104は、送信されたセンサ情報を、記憶部105から削除する。
【0243】
このように、第3の実施形態の第2の変形例では、サーバシステム2に送信されなかったセンサ情報に優先度を設定し、記憶部105にセンサ情報を記憶できるだけの空き容量が無い場合に、優先度の低いセンサ情報を削除するようにしている。これにより、記憶部105の記憶容量を節約できる。また、優先度の高いセンサ情報は記憶部105に蓄積されるため、記憶部105に記憶されるセンサ情報を所定のタイミングで読み出してサーバシステム2に送信することで、センサ情報の効率的な利用も可能であり、また、通信コストも削減できる。
【0244】
[5.第4の実施形態]
本開示に係る技術(本技術)は、様々な製品へ応用することができる。例えば、本開示に係る技術は、自動車、電気自動車、ハイブリッド電気自動車、自動二輪車、自転車、パーソナルモビリティ、飛行機、ドローン、船舶、ロボット等のいずれかの種類の移動体に搭載される装置として実現されてもよい。
【0245】
図29は、本開示に係る技術が適用され得る移動体制御システムの一例である車両制御システムの概略的な構成例を示すブロック図である。
【0246】
車両制御システム12000は、通信ネットワーク12001を介して接続された複数の電子制御ユニットを備える。
図29に示した例では、車両制御システム12000は、駆動系制御ユニット12010、ボディ系制御ユニット12020、車外情報検出ユニット12030、車内情報検出ユニット12040、及び統合制御ユニット12050を備える。また、統合制御ユニット12050の機能構成として、マイクロコンピュータ12051、音声画像出力部12052、及び車載ネットワークI/F(interface)12053が図示されている。
【0247】
駆動系制御ユニット12010は、各種プログラムにしたがって車両の駆動系に関連する装置の動作を制御する。例えば、駆動系制御ユニット12010は、内燃機関又は駆動用モータ等の車両の駆動力を発生させるための駆動力発生装置、駆動力を車輪に伝達するための駆動力伝達機構、車両の舵角を調節するステアリング機構、及び、車両の制動力を発生させる制動装置等の制御装置として機能する。
【0248】
ボディ系制御ユニット12020は、各種プログラムにしたがって車体に装備された各種装置の動作を制御する。例えば、ボディ系制御ユニット12020は、キーレスエントリシステム、スマートキーシステム、パワーウィンドウ装置、あるいは、ヘッドランプ、バックランプ、ブレーキランプ、ウィンカー又はフォグランプ等の各種ランプの制御装置として機能する。この場合、ボディ系制御ユニット12020には、鍵を代替する携帯機から発信される電波又は各種スイッチの信号が入力され得る。ボディ系制御ユニット12020は、これらの電波又は信号の入力を受け付け、車両のドアロック装置、パワーウィンドウ装置、ランプ等を制御する。
【0249】
車外情報検出ユニット12030は、車両制御システム12000を搭載した車両の外部の情報を検出する。例えば、車外情報検出ユニット12030には、撮像部12031が接続される。車外情報検出ユニット12030は、撮像部12031に車外の画像を撮像させるとともに、撮像された画像を受信する。車外情報検出ユニット12030は、受信した画像に基づいて、人、車、障害物、標識又は路面上の文字等の物体検出処理又は距離検出処理を行ってもよい。
【0250】
撮像部12031は、光を受光し、その光の受光量に応じた電気信号を出力する光センサである。撮像部12031は、電気信号を画像として出力することもできるし、測距の情報として出力することもできる。また、撮像部12031が受光する光は、可視光であっても良いし、赤外線等の非可視光であっても良い。
【0251】
車内情報検出ユニット12040は、車内の情報を検出する。車内情報検出ユニット12040には、例えば、運転者の状態を検出する運転者状態検出部12041が接続される。運転者状態検出部12041は、例えば運転者を撮像するカメラを含み、車内情報検出ユニット12040は、運転者状態検出部12041から入力される検出情報に基づいて、運転者の疲労度合い又は集中度合いを算出してもよいし、運転者が居眠りをしていないかを判別してもよい。
【0252】
マイクロコンピュータ12051は、車外情報検出ユニット12030又は車内情報検出ユニット12040で取得される車内外の情報に基づいて、駆動力発生装置、ステアリング機構又は制動装置の制御目標値を演算し、駆動系制御ユニット12010に対して制御指令を出力することができる。例えば、マイクロコンピュータ12051は、車両の衝突回避あるいは衝撃緩和、車間距離に基づく追従走行、車速維持走行、車両の衝突警告、又は車両のレーン逸脱警告等を含むADAS(Advanced Driver Assistance System)の機能実現を目的とした協調制御を行うことができる。
【0253】
また、マイクロコンピュータ12051は、車外情報検出ユニット12030又は車内情報検出ユニット12040で取得される車両の周囲の情報に基づいて駆動力発生装置、ステアリング機構又は制動装置等を制御することにより、運転者の操作に拠らずに自律的に走行する自動運転等を目的とした協調制御を行うことができる。
【0254】
また、マイクロコンピュータ12051は、車外情報検出ユニット12030で取得される車外の情報に基づいて、ボディ系制御ユニット12020に対して制御指令を出力することができる。例えば、マイクロコンピュータ12051は、車外情報検出ユニット12030で検知した先行車又は対向車の位置に応じてヘッドランプを制御し、ハイビームをロービームに切り替える等の防眩を図ることを目的とした協調制御を行うことができる。
【0255】
音声画像出力部12052は、車両の搭乗者又は車外に対して、視覚的又は聴覚的に情報を通知することが可能な出力装置へ音声及び画像のうちの少なくとも一方の出力信号を送信する。
図29の例では、出力装置として、オーディオスピーカ12061、表示部12062及びインストルメントパネル12063が例示されている。表示部12062は、例えば、オンボードディスプレイ及びヘッドアップディスプレイの少なくとも一つを含んでいてもよい。
【0256】
図30は、撮像部12031の設置位置の例を示す図である。
【0257】
図30では、車両12100は、撮像部12031として、撮像部12101,12102,12103,12104,12105を有する。
【0258】
撮像部12101,12102,12103,12104,12105は、例えば、車両12100のフロントノーズ、サイドミラー、リアバンパ、バックドア及び車室内のフロントガラスの上部等の位置に設けられる。フロントノーズに備えられる撮像部12101及び車室内のフロントガラスの上部に備えられる撮像部12105は、主として車両12100の前方の画像を取得する。サイドミラーに備えられる撮像部12102,12103は、主として車両12100の側方の画像を取得する。リアバンパ又はバックドアに備えられる撮像部12104は、主として車両12100の後方の画像を取得する。撮像部12101及び12105で取得される前方の画像は、主として先行車両又は、歩行者、障害物、信号機、交通標識又は車線等の検出に用いられる。
【0259】
なお、
図30には、撮像部12101ないし12104の撮影範囲の一例が示されている。撮像範囲12111は、フロントノーズに設けられた撮像部12101の撮像範囲を示し、撮像範囲12112,12113は、それぞれサイドミラーに設けられた撮像部12102,12103の撮像範囲を示し、撮像範囲12114は、リアバンパ又はバックドアに設けられた撮像部12104の撮像範囲を示す。例えば、撮像部12101ないし12104で撮像された画像データが重ね合わせられることにより、車両12100を上方から見た俯瞰画像が得られる。
【0260】
撮像部12101ないし12104の少なくとも1つは、距離情報を取得する機能を有していてもよい。例えば、撮像部12101ないし12104の少なくとも1つは、複数の撮像素子からなるステレオカメラであってもよいし、位相差検出用の画素を有する撮像素子であってもよい。
【0261】
例えば、マイクロコンピュータ12051は、撮像部12101ないし12104から得られた距離情報を基に、撮像範囲12111ないし12114内における各立体物までの距離と、この距離の時間的変化(車両12100に対する相対速度)を求めることにより、特に車両12100の進行路上にある最も近い立体物で、車両12100と略同じ方向に所定の速度(例えば、0km/h以上)で走行する立体物を先行車として抽出することができる。さらに、マイクロコンピュータ12051は、先行車の手前に予め確保すべき車間距離を設定し、自動ブレーキ制御(追従停止制御も含む)や自動加速制御(追従発進制御も含む)等を行うことができる。このように運転者の操作に拠らずに自律的に走行する自動運転等を目的とした協調制御を行うことができる。
【0262】
例えば、マイクロコンピュータ12051は、撮像部12101ないし12104から得られた距離情報を元に、立体物に関する立体物データを、2輪車、普通車両、大型車両、歩行者、電柱等その他の立体物に分類して抽出し、障害物の自動回避に用いることができる。例えば、マイクロコンピュータ12051は、車両12100の周辺の障害物を、車両12100のドライバが視認可能な障害物と視認困難な障害物とに識別する。そして、マイクロコンピュータ12051は、各障害物との衝突の危険度を示す衝突リスクを判断し、衝突リスクが設定値以上で衝突可能性がある状況であるときには、オーディオスピーカ12061や表示部12062を介してドライバに警報を出力することや、駆動系制御ユニット12010を介して強制減速や回避操舵を行うことで、衝突回避のための運転支援を行うことができる。
【0263】
撮像部12101ないし12104の少なくとも1つは、赤外線を検出する赤外線カメラであってもよい。例えば、マイクロコンピュータ12051は、撮像部12101ないし12104の撮像画像中に歩行者が存在するか否かを判定することで歩行者を認識することができる。かかる歩行者の認識は、例えば赤外線カメラとしての撮像部12101ないし12104の撮像画像における特徴点を抽出する手順と、物体の輪郭を示す一連の特徴点にパターンマッチング処理を行って歩行者か否かを判別する手順によって行われる。マイクロコンピュータ12051が、撮像部12101ないし12104の撮像画像中に歩行者が存在すると判定し、歩行者を認識すると、音声画像出力部12052は、当該認識された歩行者に強調のための方形輪郭線を重畳表示するように、表示部12062を制御する。また、音声画像出力部12052は、歩行者を示すアイコン等を所望の位置に表示するように表示部12062を制御してもよい。
【0264】
以上、本開示に係る技術が適用され得る車両制御システムの一例について説明した。本開示に係る技術は、以上説明した構成のうち、カメラ12を撮像部12031に適用可能であり、端末装置11を車外情報検出ユニット12030に適用可能である。本開示の技術を車外情報検出ユニット12030に適用することにより、カメラ12で取得されたセンサ情報をより効率的に利用することができ、結果として、歩行者などの認識率を高めることが可能となる。また、第2の実施形態およびその各変形例や、第3の実施形態およびその各変形例を車外情報検出ユニット12030に適用することにより、センサ情報を送信するための通信コストを削減することも可能となる。
【0265】
なお、本技術は以下のような構成も取ることができる。
(1)
予め学習された第1の認識器により、センサにより取得されたセンサ情報を用いて物体認識処理を行う認識部と、
前記第1の認識器とは異なる第2の認識器に、前記センサ情報を学習データとして適用可能か否かを判定する学習データ適用判定部と、
を備える情報処理装置。
(2)
前記学習データとして前記第2の認識器に適用するために前記センサ情報を前記サーバに送信するか否かを、該センサ情報に基づき判定する送信判定部、
をさらに備える前記(1)に記載の情報処理装置。
(3)
前記送信判定部は、
前記センサ情報のうち、前記学習データ適用判定部により前記第2の認識器から指定された認識処理が可能な認識器の数が所定数以上のセンサ情報を、前記サーバに送信する、
前記(2)に記載の情報処理装置。
(4)
前記送信判定部は、
次に更新されるまでの時間が所定時間未満の前記センサ情報を前記サーバに送信する、
前記(2)または(3)に記載の情報処理装置。
(5)
前記送信判定部は、
出現の頻度が所定未満の前記センサ情報を前記サーバに送信する、
前記(2)乃至(4)の何れかに記載の情報処理装置。
(6)
他の情報処理装置と通信可能な通信部をさらに備え、
前記送信判定部は、
前記通信部により前記他の情報処理装置と通信を行い該他の情報処理装置が前記サーバに送信するセンサ情報を示す情報を取得し、取得した該情報に基づき、前記センサにより取得されたセンサ情報を前記サーバに送信するか否かを判定する、
前記(2)乃至(5)の何れかに記載の情報処理装置。
(7)
前記センサ情報を蓄積部に蓄積するか否かを判定する蓄積判定部をさらに備え、
前記蓄積判定部は、
前記送信判定部により前記サーバに送信しないと判定された前記センサ情報を前記蓄積部に蓄積する、
前記(2)乃至(6)の何れかに記載の情報処理装置。
(8)
前記送信判定部は、
前記蓄積部に蓄積された前記センサ情報を、通信コストが低いタイミングで前記サーバに送信する、
前記(7)に記載の情報処理装置。
(9)
前記蓄積判定部は、
前記サーバに送信しないと判定された前記センサ情報の優先度を求め、該優先度に基づき該センサ情報を前記蓄積部に蓄積するか否かを判定する、
前記(7)または(8)に記載の情報処理装置。
(10)
サーバと、
前記サーバと通信可能な情報処理装置と、
を含み、
前記サーバは、
学習データに基づく機械学習により第1の認識部と、該第1の認識部と異なる第2の認識部と、を生成する学習部を備え、
前記情報処理装置は、
前記第1の認識器により、センサにより取得されたセンサ情報を用いて物体認識処理を行う認識部と、
前記第1の認識器とは異なる第2の認識器に、前記センサ情報を学習データとして適用可能か否かを判定する学習データ適用判定部と、
を備える、
情報処理システム。
(11)
プロセッサにより実行される、
予め学習された第1の認識器により、センサにより取得されたセンサ情報を用いて物体認識処理を行う認識ステップと、
前記第1の認識器とは異なる第2の認識器から、前記センサ情報を用いた認識処理が可能な認識器を、前記センサ情報に基づき指定する認識器判定ステップと、
前記第1の認識器とは異なる第2の認識器に、前記センサ情報を学習データとして適用可能か否かを判定する学習データ適用判定ステップと、
を含む情報処理方法。
(12)
予め学習された第1の認識器により、センサにより取得されたセンサ情報を用いて物体認識処理を行う認識ステップと、
前記第1の認識器とは異なる第2の認識器から、前記センサ情報を用いた認識処理が可能な認識器を、前記センサ情報に基づき指定する認識器判定ステップと、
前記第1の認識器とは異なる第2の認識器に、前記センサ情報を学習データとして適用可能か否かを判定する学習データ適用判定ステップと、
をコンピュータに実行させるための情報処理プログラム。
(13)
学習データに基づく機械学習により第1の認識部と、該第1の認識部と異なる第2の認識部と、を生成する学習部と、
前記第1の認識部を含む端末装置から送信されたセンサ情報に基づき、前記第2の認識器に、該センサ情報を学習データとして適用可能か否かを判定する学習データ適用判定部と、
を備え、
前記学習部は、
前記学習データ適用判定部により、前記第2の認識器に前記センサ情報を学習データとして適用可能であると判定された場合に、該第2の認識器を、前記センサ情報に基づき再学習して、該第2の認識器を更新する、
情報処理装置。
(14)
前記学習データ適用判定部は、
前記センサ情報が示すシーンに基づき、前記第2の認識器に該センサ情報を学習データとして適用可能か否かを判定する、
前記(13)に記載の情報処理装置。
(15)
前記学習データ適用判定部は、
前記センサ情報を変換することで、該センサ情報を前記第2の認識器に学習データとして適用可能となるか否かを判定する、
前記(13)または(14)に記載の情報処理装置。
(16)
前記学習データ適用判定部は、
前記センサ情報が示す、前記センサにより検出されたオブジェクトに応じて、前記第2の認識器に該センサ情報を学習データとして適用可能か否かを判定する、
前記(13)乃至(15)の何れかに記載の情報処理装置。
(17)
情報処理装置と、
センサにより取得されたセンサ情報を用いて物体認識処理を行う第1の認識部を有し、前記情報処理装置と通信可能な端末装置と、
を含み、
前記情報処理装置は、
学習データに基づく機械学習により前記第1の認識部と、該第1の認識部と異なる第2の認識部と、を生成する学習部と、
前記第1の認識部を含む端末装置から送信されたセンサ情報に基づき、前記第2の認識器に、該センサ情報を学習データとして適用可能か否かを判定する学習データ適用判定部と、
を備え、
前記学習部は、
前記学習データ適用判定部により、前記第2の認識器に前記センサ情報を学習データとして適用可能であると判定された場合に、該第2の認識器を、前記センサ情報に基づき再学習して、該第2の認識器を更新する、
情報処理システム。
(18)
プロセッサにより実行される、
学習データに基づく機械学習により第1の認識部と、該第1の認識部と異なる第2の認識部と、を生成する学習ステップと、
前記第1の認識部を含む端末装置から送信されたセンサ情報に基づき、前記第2の認識器に、該センサ情報を学習データとして適用可能か否かを判定する学習データ適用判定ステップと、
を含み、
前記学習ステップは、
前記学習データ適用判定ステップにより、前記第2の認識器に前記センサ情報を学習データとして適用可能であると判定された場合に、該第2の認識器を、前記センサ情報に基づき再学習して、該第2の認識器を更新する、
情報処理方法。
(19)
学習データに基づく機械学習により第1の認識部と、該第1の認識部と異なる第2の認識部と、を生成する学習ステップと、
前記第1の認識部を含む端末装置から送信されたセンサ情報に基づき、前記第2の認識器に、該センサ情報を学習データとして適用可能か否かを判定する学習データ適用判定ステップと、
をコンピュータに実行させ、
前記学習ステップは、
前記学習データ適用判定ステップにより、前記第2の認識器に前記センサ情報を学習データとして適用可能であると判定された場合に、該第2の認識器を、前記センサ情報に基づき再学習して、該第2の認識器を更新する、
ための情報処理プログラム。
【符号の説明】
【0266】
1 ネットワーク
2 サーバシステム
3,202 学習部
10,101,102,103 車両
11 端末装置
12 カメラ
20,105 記憶部
22,22a,22b,22c,22d,108,108a, 学習データ適用判定部
101 認識部
103 蓄積判定部
104 蓄積部
106 蓄積情報出力部
107,107a,107b,107c、107d,107e 送信判定部
110,110a,200 通信部
152 学習データ即時性算出部
153 学習データ即時性判定部
201 学習データ蓄積部
210,2101,2102,2103,2104 認識器
221,250 メタデータ解析部
230 ドメイン解析部
231 ドメイン評価部
232,241,251 学習データ判定部
240 センシング解析部
300 撮像部
310 希少性解析部
311 希少性判定部
320 他車データ蓄積部