(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公開特許公報(A)
(11)【公開番号】P2023102049
(43)【公開日】2023-07-24
(54)【発明の名称】データ生成方法、データ生成装置、データ生成プログラム、モデル構築方法、モデル構築装置、モデル構築プログラム、学習済モデル、車両およびサーバ
(51)【国際特許分類】
G08G 1/01 20060101AFI20230714BHJP
G06N 20/00 20190101ALI20230714BHJP
G06N 3/02 20060101ALI20230714BHJP
G09B 29/00 20060101ALI20230714BHJP
【FI】
G08G1/01 A
G06N20/00
G06N3/02
G09B29/00 Z
【審査請求】有
【請求項の数】13
【出願形態】OL
(21)【出願番号】P 2022002380
(22)【出願日】2022-01-11
(71)【出願人】
【識別番号】501440684
【氏名又は名称】ソフトバンク株式会社
(74)【代理人】
【識別番号】110000338
【氏名又は名称】弁理士法人 HARAKENZO WORLD PATENT & TRADEMARK
(72)【発明者】
【氏名】小宮山 陽夫
【テーマコード(参考)】
2C032
5H181
【Fターム(参考)】
2C032HC27
5H181AA01
5H181BB04
5H181BB20
5H181FF22
5H181FF32
5H181MC12
5H181MC27
(57)【要約】
【課題】デジタルツインを生成するデジタルツインシステムにおいて機械学習または予測を担う装置の計算量の削減を実現する。
【解決手段】データ生成方法は、交通に関する情報を出力する学習済モデルを構築するための機械学習に用いられる入力データ(D
2)を生成するものであって、車両が備える複数のセンサからそれぞれ検知データを取得するステップ(A1)と、取得した複数の検知データ(D
1)の少なくとも二つに基づく画像(I
1)が重畳された地図を、入力データ(D
2)として生成するステップ(A2)と、を有する。
【選択図】
図3
【特許請求の範囲】
【請求項1】
交通に関する情報を出力する学習済モデルを構築するための機械学習に用いられる入力データを生成するデータ生成方法であって、
車両が備える複数のセンサからそれぞれ検知データを取得するステップと、
取得した複数の検知データの少なくとも二つに基づく画像が重畳された地図を、前記入力データとして生成するステップと、を有するデータ生成方法。
【請求項2】
前記検知データを取得するステップで、前記車両の進行方向データおよび前記車両の速度データを取得し、
前記地図を生成するステップで、前記車両の進行方向が矢印、前記車両の速度が前記矢印の色で表された前記画像を生成する、請求項1に記載のデータ生成方法。
【請求項3】
前記検知データを取得するステップで、前記車両の位置データおよび前記車両の速度データの他、前記車両の加速度データ、前記車両に関する異常データの少なくともいずれかを取得する、請求項1または2に記載のデータ生成方法。
【請求項4】
交通に関する情報を出力する学習済モデルを構築するための機械学習に用いられる入力データを生成するデータ生成装置であって、
車両が備える複数のセンサからそれぞれ検知データを取得する取得部と、
取得した複数の検知データの少なくとも二つに基づく画像が重畳された地図を、前記入力データとして生成する生成部と、を有するデータ生成装置。
【請求項5】
請求項4に記載のデータ生成装置としてコンピュータを機能させるためのデータ生成プログラムであって、上記取得部、および上記生成部としてコンピュータを機能させるためのデータ生成プログラム。
【請求項6】
車両が備える複数のセンサからそれぞれ取得した複数の検知データの少なくとも二つに基づく画像が重畳された地図を、入力データとして取得するステップと、
交通に関する情報を取得するステップと、
生成した前記入力データと取得した前記交通に関する情報との組を教師データとして、交通に関する情報を出力する学習済モデルを機械学習により構築するステップと、を有するモデル構築方法。
【請求項7】
車両が備える複数のセンサからそれぞれ取得した複数の検知データの少なくとも二つに基づく画像が重畳された地図を、入力データとして取得する第一取得部と、
交通に関する情報を取得する第二取得部と、
取得した前記入力データと前記交通に関する情報との組を教師データとして、交通に関する情報を出力する学習済モデルを機械学習により構築する構築部と、を有するモデル構築装置。
【請求項8】
請求項7に記載のモデル構築装置としてコンピュータを機能させるためのモデル構築プログラムであって、上記第一取得部、上記第二取得部および上記構築部としてコンピュータを機能させるためのモデル構築プログラム。
【請求項9】
車両が備える複数のセンサからそれぞれ取得した複数の検知データの少なくとも二つに基づく画像が重畳された地図と、交通に関する情報と、の組を教師データとする機械学習により、交通に関する情報を出力するよう構築された学習済モデル。
【請求項10】
複数のセンサと、
前記複数のセンサからそれぞれ検知データを取得する取得部と、
取得した複数の検知データの少なくとも二つに基づく画像が重畳された地図を、入力データとして生成する生成部と、
生成した前記入力データが入力されると、交通に関する情報を出力する学習済モデルを用いて、前記交通に関する情報を取得する情報取得部と、を備える車両。
【請求項11】
運転者が視認可能な位置に設けられた表示部と、
前記情報取得部が取得した交通に関する情報を前記表示部に表示させる表示制御部と、を備える請求項10に記載の車両。
【請求項12】
前記情報取得部が取得した交通に関する情報に基づいて車両の少なくとも一部の動作を自動で制御する運転制御部を備える、請求項10に記載の車両。
【請求項13】
車両が備える複数のセンサからそれぞれ検知データを受信する通信部と、
受信した複数の検知データの少なくとも二つに基づく画像が重畳された地図を、入力データとして生成する生成部と、
生成した前記入力データが入力されると、交通に関する情報を出力とする学習済モデルを用いて、前記交通に関する情報を取得する情報取得部と、を備え、
前記通信部は、取得した交通に関する情報を前記車両へ送信する、サーバ。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、データ生成方法、データ生成装置、データ生成プログラム、モデル構築方法、モデル構築装置、モデル構築プログラム、学習済モデル、車両およびサーバに関する。
【背景技術】
【0002】
機械学習により構築された学習済モデルを用いて車両の制御を支援する技術が従来知られている。例えば特許文献1には、機械学習に用いるパラメータを供給する供給側車両の状態に関するセンサ情報を取得するデータ取得部と、取得したセンサ情報であって学習済モデルの入力パラメータおよび出力パラメータを含むデータである入出力検知データセットを用いて機械学習を行うことにより学習済モデルを生成する学習部と、生成した学習済モデルおよび制御を支援する車両のセンサ情報を入力パラメータとして生成した学習済モデルに入力して算出された出力パラメータの少なくとも一方を送信する送信部と、を備える制御支援装置について記載されている。
【先行技術文献】
【特許文献】
【0003】
【発明の概要】
【発明が解決しようとする課題】
【0004】
上述のような従来技術によれば、サーバまたは一部の車両のみに機械学習または予測をさせることにより、複数の車両およびサーバで構成されるシステム全体の計算量を削減することは可能である。しかしながら、上述のような従来技術においては、機械学習または予測を担う個々の装置(車両またはサーバ)の計算量を削減することは考慮されていない。
【課題を解決するための手段】
【0005】
本発明の一態様に係るデータ生成方法は、
交通に関する情報を出力する学習済モデルを構築するための機械学習に用いられる入力データを生成するデータ生成方法であって、
車両が備える複数のセンサからそれぞれ検知データを取得するステップと、
取得した複数の検知データの少なくとも二つに基づく画像が重畳された地図を、前記入力データとして生成するステップと、を有する。
【0006】
本発明の他の態様に係るデータ生成装置は、
交通に関する情報を出力する学習済モデルを構築するための機械学習に用いられる入力データを生成するデータ生成装置であって、
車両が備える複数のセンサからそれぞれ検知データを取得する取得部と、
取得した複数の検知データの少なくとも二つに基づく画像が重畳された地図を、前記入力データとして生成する生成部と、を有する。
【0007】
本発明の他の態様に係るモデル構築方法は、
車両が備える複数のセンサからそれぞれ取得した複数の検知データの少なくとも二つに基づく画像が重畳された地図を、入力データとして取得するステップと、
交通に関する情報を取得するステップと、
生成した前記入力データと取得した前記交通に関する情報との組を教師データとして、交通に関する情報を出力する学習済モデルを機械学習により構築するステップと、を有する。
【0008】
本発明の他の態様に係るモデル構築装置は、
車両が備える複数のセンサからそれぞれ取得した複数の検知データの少なくとも二つに基づく画像が重畳された地図を、入力データとして取得する第一取得部と、
交通に関する情報を取得する第二取得部と、
取得した前記入力データと前記交通に関する情報との組を教師データとして、交通に関する情報を出力する学習済モデルを機械学習により構築する構築部と、を有する。
【0009】
本発明の他の態様に係る学習済モデルは、
車両が備える複数のセンサからそれぞれ取得した複数の検知データの少なくとも二つに基づく画像が重畳された地図と、交通に関する情報と、の組を教師データとする機械学習により、交通に関する情報を出力するよう構築されている。
【0010】
本発明の他の態様に係る車両は、
複数のセンサと、
前記複数のセンサからそれぞれ検知データを取得する取得部と、
取得した複数の検知データの少なくとも二つに基づく画像が重畳された地図を、入力データとして生成する生成部と、
生成した前記入力データが入力されると、交通に関する情報を出力する学習済モデルを用いて、前記交通に関する情報を取得する情報取得部と、を備える。
【0011】
本発明の他の態様に係るサーバは、
車両が備える複数のセンサからそれぞれ検知データを受信する通信部と、
受信した複数の検知データの少なくとも二つに基づく画像が重畳された地図を、入力データとして生成する生成部と、
生成した前記入力データが入力されると、交通に関する情報を出力とする学習済モデルを用いて、前記交通に関する情報を取得する情報取得部と、を備え、
前記通信部は、取得した交通に関する情報を前記車両へ送信する。
【0012】
本発明の各態様に係るデータ生成装置およびモデル構築装置は、コンピュータによって実現してもよく、この場合には、コンピュータを前記データ生成装置および前記モデル構築装置が備える各部(ソフトウェア要素)として動作させることにより前記データ生成装置および前記モデル構築装置をコンピュータにて実現させるデータ生成装置およびモデル構築装置のデータ生成プログラムおよびモデル構築プログラム、およびそれらを記録したコンピュータ読み取り可能な記録媒体も、本発明の範疇に入る。
【図面の簡単な説明】
【0013】
【
図1】本発明の一態様の実施形態に係るデータ生成装置の機能的構成を示すブロック図である。
【
図2】車両および当該車両が備えるセンサを示す斜視図である。
【
図3】同実施形態に係るデータ生成装置による入力データの生成の仕方を示す概念図である。
【
図4】同実施形態に係るデータ生成装置による入力データの生成の仕方の変形例を示す概念図である。
【
図5】同実施形態に係るデータ生成装置が生成する入力データの変形例を示す画像図である。
【
図6】本発明の一態様の実施形態に係るデータ生成方法の流れを示すフローチャートである。
【
図7】本発明の他の態様の実施形態に係るモデル構築装置の機能的構成を示すブロック図である。
【
図8】本発明の他の態様の実施形態に係るモデル構築方法の流れを示すフローチャートである。
【
図9】本発明の他の態様の実施形態に係る車両の機能的構成を示すブロック図である。
【
図10】同車両およびデジタルツインサーバによって構成されるデジタルツインシステムを示すブロック図である。
【
図11】デジタルツインサーバの機能的構成を示すブロック図である。
【
図12】本発明の他の態様の実施形態に係るサーバの機能的構成を示すブロック図である。
【発明を実施するための形態】
【0014】
<発明1実施形態>
まず、本発明の一態様(以下、発明1)であるデータ生成に関する発明(データ生成装置100、データ生成方法)の一実施形態について、詳細に説明する。
【0015】
〔データ生成装置100〕
初めに、発明1の実施形態に係るデータ生成装置100について説明する。
図1はデータ生成装置100の機能的構成を示すブロック図である。
図2は車両および当該車両が備えるセンサを示す斜視図である。
図3はデータ生成装置100による入力データD
2の生成の仕方を示す概念図である。
図4はデータ生成装置100による入力データD
2の生成の仕方の変形例を示す概念図である。
図5はデータ生成装置100が生成する入力データD
2の変形例を示す画像図である。
【0016】
データ生成装置100は、交通に関する情報(以下、交通情報)を出力する学習済モデルを構築するための機械学習に用いられる入力データD
2を生成する装置である。交通情報は、事故に関する情報、渋滞に関する情報、逆走に関する情報等を含む。データ生成装置100は、
図1に示したように、取得部11と、生成部12と、を有する。本実施形態に係るデータ生成装置100は、出力部13と、通信部2と、を更に有する。本実施形態に係る取得部11、生成部12および出力部13は、制御部1に含まれる。
【0017】
(通信部2)
通信部2は、他の装置(例えば、複数のセンサを備える車両V、検知データD1を格納する記憶装置、後述するモデル構築装置200、車両300a、サーバ400a等)との間で、各種データ、各種信号等を、有線または無線で送受信する。本実施形態に係る通信部2は、通信モジュールで構成されている。
【0018】
(取得部11および検知データD1)
取得部11は、車両Vが備える複数のセンサからそれぞれ検知データD1を取得する。本実施形態に係る取得部11は、各種検知データD1を、通信部2を介して車両Vから受信する。
【0019】
車両が備えるセンサSは、例えば
図2に示したような、位置(距離/角度)センサS
1、速度センサS
2、加速度センサS
3、圧力センサS
4、温度センサS
5、力(トルク)センサS
6、流量計S
7、およびガスセンサS
8の少なくともいずれかを含む。
【0020】
位置(距離/角度)センサS1は、前方に存在する物体からの距離を検知するセンサS11、後方に存在する物体からの距離を検知するセンサS12、ハンドルの回転角度を検知するセンサS13、スロットルバルブの傾斜角を検知するセンサS14、アクセルペダルの傾斜角を検知するセンサS15、およびブレーキペダルの傾斜角を検知するセンサS16の少なくともいずれかを含む。
【0021】
速度センサS2は、ホイールの回転速度を検知するセンサS21、クランクシャフトの速度を検知するセンサS22、カムシャフトの速度を検知するセンサS23、およびディーゼルエンジンにおける噴射ポンプの噴射速度を検知するセンサS24の少なくともいずれかを含む。
【0022】
加速度センサS3は、車体に作用する加速度(衝撃)を検知する。
【0023】
圧力センサS4は、タイヤ空気圧を検知するセンサS41、ブレーキ圧を検知するセンサS42、パワーステアリングにおける油圧リザーバー圧力を検知するセンサS43、吸引圧力を検知するセンサS44、充填圧力を検知するセンサS45、燃圧を検知するセンサS46、空調における冷媒圧力を検知するセンサS47、およびオートマチックトランスミッションにおける変調圧力を検知するセンサS48の少なくともいずれかを含む。
【0024】
温度センサS5は、タイヤ温度を検知するセンサS51、給気温度を検知するセンサS52、周囲温度を検知するセンサS53、内部温度を検知するセンサS54、空調におけるエバポレータ温度を検知するセンサS55、クーラント温度を検知するセンサS56、エンジンオイル温度を検知するセンサS57、の少なくともいずれかを含む。
【0025】
力(トルク)センサS6は、ペダルを踏む力を検知するセンサS61、乗員の体重を検知するセンサS62、およびドライブシャフトに作用するトルクを検知するセンサS63、およびハンドルに作用するトルクを検知するセンサS64の少なくともいずれかを含む。
【0026】
流量計S7は、燃料要件を検知するセンサS71、およびエンジンが吸引する空気量を検知するセンサS72の少なくとも一方を含む。
【0027】
ガスセンサS8は、排気ガスの組成を検知するセンサS81、および供給される空気に含まれる有害物質を検出するセンサS82の少なくとも一方を含む。
【0028】
なお、上記各種センサSは、例えば下記Webページにおいて開示されているように、公知のものである。
・Vehicle sensors functions and types
https://innovationdiscoveries.space/vehicle-sensors-functions-and-types/
・Automotive sensors: the design engineer’s guide
https://www.avnet.com/wps/portal/abacus/solutions/markets/automotive-and-transportation/automotive/communications-and-connectivity/automotive-sensors/
い。
【0029】
なお、取得部11は、複数の車両Vから検知データD1をそれぞれ取得するようになっていてもよい。また、取得部11は、車両Vから図示しない記憶装置を介して(いったん記憶装置に格納された)検知データD1を取得するようになっていてもよい。また、取得部11は、通信部2ではなく、記録媒体等を介して検知データD1を取得するようになっていてもよい。また、取得部11は、車両V以外の交通参加者(自転車、携帯端末を所持する歩行者、ドローン等)から検知データD1を取得するようになっていてもよい。また、取得部11は、車両や携帯端末のナビゲーションシステムに設定された経路情報を検知データとして取得するようになっていてもよい。また、取得部11は、車両が備えるドライブレコーダやリアカメラが撮影した画像を検知データD1として取得するようになっていてもよい。また、取得部11は、検知データD1に基づいて車両Vが判断した情報(ドライバの眠気等)を検知データD1として取得するようになっていてもよい。また、取得部11は、路上に設置されたカメラ、センサ等から検知データD1を取得してもよい。
【0030】
(生成部12)
生成部12は、
図3に示したように、取得した複数の検知データD
1の少なくとも二つに基づく画像Iが重畳された地図を、入力データD
2として生成する。「重畳」は、地図に画像Iが埋め込まれている(同一レイヤとされている、画像Iが独立して数値データを持っていない)状態を指す。本実施形態に係る生成部12は、三種類以上の検知データD
1に基づく画像Iが重畳された地図を生成する。三種類以上の検知データD
1に基づく画像Iは、例えば、進行方向データD
11、速度データD
12及び加速度データD
13に基づく矢印I
1を含む。この場合、矢印I
1の向きが進行方向、矢印I
1の色が速度および加速度を示す。こうすることで、三種類(三次元)以上の検知データD
1が、二次元の形に集約される。その結果、入力データD
2に基づく演算を行う際の計算量が低減される。なお、矢印I
1の太さや長さで速度、加速度等を示すようになっていてもよい。
【0031】
また、本実施形態に係る生成部12は、一種類の検知データD1に基づく画像Iも生成する。一種類の検知データD1に基づく画像Iは、例えば、位置データD14に基づく丸印I2、異常データD15に基づく感嘆符I3(警報)等を含む。
【0032】
なお、速度データD12に基づく矢印I1が重畳された入力データD2を生成する場合、生成部12は、速度が大きくなるに従って地図の縮尺を大きくしていくようになっていてもよい。
【0033】
(出力部13)
出力部13は、
図1に示したように、生成した入力データD
2(画像Iが重畳された地図)を他の装置(例えば、後述するモデル構築装置200、サーバ400a等)へ出力する。本実施形態に係る出力部13は、入力データD
2を、通信部2を介して他の装置へ送信する。なお、出力部13は、通信部2ではなく、記録媒体等を介して入力データD
2を出力するようになっていてもよい。
【0034】
(データ生成装置その他)
上記取得部11が複数の車両V,300aから検知データD
1をそれぞれ取得するようになっている場合、データ生成装置100は、結合部14を備えていてもよい。結合部14は、
図4に示したように、それぞれ同一種類の画像Iが重畳された複数の入力データD
2を結合し、一の俯瞰入力データD
3を生成する。画像Iの種類(チャネル)ごとに複数の入力データD
2がある場合には、画像Iの種類ごとに俯瞰入力データD
3を生成する。この場合、俯瞰入力データD
3は、入力データD
2に含まれる。このようにすれば、結合後も次元数は維持されるものの、俯瞰入力データD
3のデータ量は、各センサからの複数の検知データD
1の合計よりも低減される。その結果、入力データD
2に基づく演算を行う際の計算量が低減される。
【0035】
また、生成部12は、複数種類の画像Iが重畳された入力データD
2を生成するようになっていてもよい。その場合、結合部は、
図5に示したような、複数種類の画像Iが重畳された俯瞰入力データD
3を生成するようになっていてもよい。
【0036】
また、データ生成装置100は、検知データD1の取得、および入力データD2の生成を繰り返すようになっていてもよい。このようにすれば、車両Vの状態をリアルタイムで入力データD2とすることができる。
【0037】
〔データ生成方法〕
次に、発明1の実施形態に係るデータ生成方法について説明する。
図6はデータ生成方法の流れを示すフローチャートである。
【0038】
データ生成方法は、交通情報を出力する学習済モデルを構築するための機械学習に用いられる入力データD
2を生成する方法である。データ生成方法は、
図6に示したように、取得ステップA1と、生成ステップA2と、を有する。本実施形態に係るデータ生成方法は、出力ステップA3を更に有する。また、本実施形態に係るデータ生成方法では、上記データ生成装置100を用いる。
【0039】
(取得ステップA1)
初めの取得ステップA1では、車両が備える複数のセンサからそれぞれ検知データD1を取得する。本実施形態に係る取得ステップA1では、データ生成装置100の取得部11が、通信部2を介して受信する。また、本実施形態に係る取得ステップA1では、例えば、車両の進行方向データD11および車両の速度データD12を取得する。また、本実施形態に係る取得ステップでは、車両の位置データD14および車両の速度データD12の他、車両の加速度データD13、車両に関する異常データD15の少なくともいずれかを取得する。
【0040】
(生成ステップA2)
各種検知データD1を取得した後は、生成ステップA2に移る。生成ステップA2では、取得した複数の検知データD1の少なくとも二つに基づく画像Iが重畳された地図を、入力データD2として生成する。本実施形態に係る生成ステップA2では、生成部12が入力データD2を生成する。また、本実施形態に係る生成ステップA2では、車両の進行方向が矢印、車両の速度が矢印の色で表された画像Iを生成する。
【0041】
(出力ステップA3)
入力データD2を生成した後は、出力ステップA3へ移る。出力ステップA3では、生成した入力データD2(地図)を他の装置へ出力する。本実施形態に係る出力ステップA3では、出力部13が、通信部2を介して送信する。なお、入力データD2を他の装置へ出力する必要がない場合(たとえば、データ生成装置100が、入力データD2を教師データとして学習済モデルを構築する機能を有していて、生成した入力データD2をそのまま学習済モデルへ入力する場合等)には、出力ステップA3は不要である。
【0042】
〔発明1実施形態の作用効果〕
以上説明してきた本実施形態に係るデータ生成装置100またはデータ生成方法によれば、複数のセンサから得られる検知データD1が一つの地図に纏められるため、入力データD2の次元数を削減することができる。その結果、入力データD2が入力されるニューラルネットワークのノード数が少なくて済むようになり、この入力データD2を用いて学習済モデルを構築する際の計算量を削減することができる。
【0043】
<発明2実施形態>
次に、本発明の他の態様(以下、発明2)であるモデル構築に関する発明(モデル構築装置、モデル構築方法)の一実施形態について、詳細に説明する。なお、説明の便宜上、上記発明1の実施形態にて説明した部材と同じ機能を有する部材については、同じ符号を付記し、その説明を繰り返さない。
【0044】
〔モデル構築装置200および学習済モデル〕
初めに、発明2の実施形態に係るモデル構築装置200について説明する。
図7はモデル構築装置200の機能的構成を示すブロック図である。
【0045】
モデル構築装置200は、
図7に示したように、第一取得部31と、第二取得部32と、構築部33と、を有する。本実施形態に係るモデル構築装置200は、出力部34と、通信部2と、記憶部4と、を更に有する。本実施形態に係る第一取得部31、第二取得部32、構築部33および出力部34は、制御部3に含まれる。
【0046】
(記憶部4)
記憶部4は、学習前の予測モデルのパラメータを格納している。また、記憶部4は、後述する学習済モデルを格納することが可能となっている。本実施形態に係る記憶部4は、例えばハードディスク(HDD)、不揮発性メモリ等で構成されている。
【0047】
(第一取得部31)
第一取得部31は、入力データD2(画像Iが重畳された地図)を取得する。本実施形態に係る第一取得部31は、入力データD2を、通信部2を介して、例えば、上記データ生成装置100、後述する車両300a、サーバ400a等から受信する。
【0048】
(第二取得部32)
第二取得部32は、交通情報を取得する。本実施形態に係る第二取得部32は、第一取得部31が取得した入力データD2に対応する交通情報を、通信部2を介して他の装置M(外部のデータベース等)から受信する。交通情報は、上述したように、事故に関する情報、渋滞に関する情報、逆走に関する情報等を含む。第二取得部32が取得する交通情報は、第一取得部が取得した入力データD2に対応する典型的なイベント(事故、渋滞、逆走等)を示す人工的に作成した情報である。なお、第二取得部32は、図示しない入力IFを介してユーザが入力した文字情報、音声等を、交通情報として取得するようになっていてもよい。
【0049】
(構築部33)
構築部33は、交通情報を出力する学習済モデルを機械学習により構築する。構築部33は、入力データD2と交通情報との組を教師データとする機械学習により、学習済モデルを構築する。教師データは、例えば、複数の車両の位置、速度、加速度、進行方向等をそれぞれ示す入力データD2と、車両が入力データD2のような状態となっている場合に対応する交通情報との組を含む。具体的には、2台の車両が接したまま停止していることを示す入力データD2と事故が起こっている旨の交通情報との組、複数の車両が制限速度を下回る速度で同一車線上を走行していることを示す入力データD2と渋滞が起こっている旨の交通情報との組、車両が道路の進行方向右寄りを走行していることを示す入力データD2と逆走が起こっている旨の交通情報との組、高速道路の走行車線上で停止していることを示す入力データD2と故障が起こっている旨の交通情報の組、等を含む。
【0050】
本実施形態に係る構築部33は、画像Iの特徴を二次元で捉えるディープニューラルネットワークを用いた深層学習のアルゴリズム(例えば、Region-based CNN(R-CNN)、Single Shot Multibox Detector(SSD)等)を用いて学習済モデルを構築する。具体的には、学習前のモデルが出力する交通情報と、教師データとして準備した交通情報と、の差に基づく損失関数を定義し、当該損失関数が最小となるようなパラメータを算出する。このように、二次元のデータを学習に用いるため、ディープニューラルネットワークのノード数を削減することができる。その結果、構築部33の計算量を削減することができる。
【0051】
(学習済モデル)
モデル構築装置200によって構築された学習済モデルは、上記機械学習により、新たな入力データD2が入力されると、交通情報を出力するようになっている。
【0052】
(出力部34)
出力部34は、構築した学習済モデルを出力する。本実施形態に係る出力部34は、学習済モデルを、記憶部4へ格納する、または通信部2を介して他の装置(例えば、後述する車両300a、サーバ400a等)へ送信する。
【0053】
〔モデル構築方法〕
次に、発明2の実施形態に係るモデル構築方法について説明する。
図8はモデル構築方法の流れを示すフローチャートである。
【0054】
モデル構築方法は、
図8に示したように、第一取得ステップB1と、第二取得ステップB2と、構築ステップB3と、を有する。本実施形態に係るモデル構築方法は、出力ステップB4を更に有する。また、本実施形態に係るモデル構築方法は、上記モデル構築装置200を用いる。
【0055】
(第一取得ステップB1)
初めの第一取得ステップB1では、入力データD2を取得する。本実施形態に係る第一取得ステップB1では、第一取得部31が、通信部2を介して他の装置(例えば、データ生成装置100)から受信する。
【0056】
(第二取得ステップB2)
また、第二取得ステップB2では、第一取得部31が取得した入力データD2に対応する交通情報を取得する。本実施形態に係る第二取得ステップB2では、第二取得部32が、通信部2を介して他の装置Mから受信する。なお、第二取得ステップB2は、第一取得ステップB1の前であってもよいし、第一取得ステップB1と同時であってもよい。
【0057】
(構築ステップB3)
入力データD2および交通情報を取得した後は、構築ステップB3に移る。構築ステップB3では、学習済モデルを機械学習により構築する。本実施形態に係る構築ステップB3では、構築部33が構築する。
【0058】
(出力ステップB4)
学習済モデルを構築した後は、出力ステップB4に移る。出力ステップB4では、学習済モデルを出力する。本実施形態に係る第一取得ステップB1では、出力部34が、記憶部4へ格納する、または通信部2を介して他の装置へ送信する。
【0059】
〔発明2実施形態の作用効果〕
以上説明してきた本実施形態に係るモデル構築装置またはモデル構築方法によれば、入力データD2として、複数のセンサから得られる検知データD1が一つの地図に纏められ、次元数が削減されたものが用いられる。このため、この入力データD2を用いて学習済モデルを構築する際の計算量を削減することができ、学習済モデルを容易に構築することができる。
【0060】
また、上述したように、本実施形態に係る取得ステップA1では、車両の位置データD14および車両の速度データD12の他、車両の加速度データD13、車両に関する異常データD15の少なくともいずれかを取得し、それらを機械学習に用いる。このため、本実施形態に係るモデル構築装置またはモデル構築方法によれば、車両の位置および速度のみを学習させた学習済モデルよりも、より高度な交通情報を出力することのできる学習済モデルを構築することができる。
【0061】
また、上述したように、本実施形態に係る生成ステップA2では、車両の進行方向が矢印、車両の速度が矢印の色で表された画像Iを生成する。すなわち、車両の進行方向および速度が、見やすい(学習しやすい)形で表される。このため、本実施形態に係るモデル構築装置またはモデル構築方法によれば、矢印の長さや太さ等で表す場合に比べて、検知データD1を正確に学習させることができる。
【0062】
<発明3実施形態>
次に、本発明の他の態様(発明3)である車両の一実施形態について、詳細に説明する。
図9は車両300aの機能的構成を示すブロック図である。
図10はデジタルツインシステム300を示すブロック図である。
図11はサーバ300bの機能的構成を示すブロック図である。なお、説明の便宜上、上記発明1,2の実施形態にて説明した部材と同じ機能を有する部材については、同じ符号を付記し、その説明を繰り返さない。
【0063】
〔車両〕
車両300aは、
図9に示したように、複数のセンサSと、取得部11と、生成部12と、情報取得部51と、を備える。本実施形態に係る車両300aは、通信部2と、記憶部4Aと、表示部6と、送信制御部52と、受信制御部53と、表示制御部54と、を更に備える。本実施形態に係る取得部11、生成部12、情報取得部51、送信制御部52、受信制御部53および表示制御部54は、制御部5に含まれる。
【0064】
また、本実施形態に係る複数の車両300aは、
図10に示したように、他の車両300と共にサーバ300bと通信ネットワークNを介して接続されることにより、デジタルツインを生成するデジタルツインシステム300を構成している。
【0065】
(記憶部4A)
記憶部4Aは、学習済モデルを格納している。
【0066】
(取得部11)
本実施形態に係る取得部11は、複数のセンサSからそれぞれ検知データD1を取得する。また、本実施形態に係る取得部11は、各センサSが接続された図示しない入力IFを介して検知データD1を取得する。また、本実施形態に係る取得部11は、各種検知データD1を、所定時間が経過する度に繰り返し取得する。
【0067】
(生成部12)
本実施形態に係る生成部12は、取得部11が検知データD1を取得する度に、入力データD2を繰り返し生成する。このため、車両300aが移動した場合、入力データD2が生成される度に画像Iの位置が変化していく。このため、本実施形態に係る生成部12は、画像Iの移動に合わせて、入力データD2として切り取る地図の範囲も、画像Iがはみ出さないように移動させる。
【0068】
(送信制御部52)
送信制御部52は、生成部12が入力データD2を生成すると、入力データD2を送信するよう通信部2を制御する。これにより、通信部2は、生成した入力データD2をサーバ300bへ無線で送信する。上述したように、本実施形態に係る生成部12は入力データD2を繰り返し生成する。このため、本実施形態に係る送信制御部52は、入力データD2を繰り返し送信する。サーバ300bは、複数の車両300aからそれぞれ入力データD2を取得し、それらを結合した俯瞰入力データD3を繰り返し生成する。
【0069】
(受信制御部53)
受信制御部53は、俯瞰入力データD3を受信するよう通信部2を制御する。これにより、通信部2は、サーバ300bから俯瞰入力データD3を無線で受信する。上述したように、本実施形態に係るサーバ300bは俯瞰入力データD2を繰り返し生成する。このため、本実施形態に係る受信制御部53は、俯瞰入力データD2を繰り返し受信する。
【0070】
(情報取得部51)
情報取得部51は、学習済モデルを用いて、交通情報を取得する。具体的には、情報取得部51は、サーバ300bから受信した俯瞰入力データD3を学習済モデルに入力し、それにより当該学習済モデルが出力した交通情報を取得する。上述したように、本実施形態に係る受信制御部53は俯瞰入力データD2を繰り返し受信する。このため、本実施形態に係る情報取得部51は、交通情報を繰り返し取得する。
【0071】
(表示部6)
表示部6は、運転者が視認可能な位置に設けられている。また、表示部6は、表示制御部54からの信号に基づく画面を表示する。
【0072】
(表示制御部54)
表示制御部54は、情報取得部51が取得した交通情報を表示部6に表示させる。こうすることで、交通情報がより早く運転者に提供される。このため、運転者はより安全性の高い運転ができる。また、このような構成によれば、都市と人間の居住地が安全になる。これにより、持続可能な開発目標(SDGs)の目標11「住み続けられるまちづくりを」の達成に貢献できる。
【0073】
なお、車両300aは、表示部6および表示制御部54の代わりに、または表示部6および表示制御部54に加えて、
図9に示したように、運転制御部55を備えていてもよい。運転制御部55は、学習済モデルが出力した交通情報に基づいて車両300aの少なくとも一部の動作を自動で制御する。このようにすれば、交通情報がより早く運転制御部55に提供される。このため、運転制御部55はより安全性の高い運転ができる。
【0074】
(サーバ300b)
サーバ300bは、
図11に示したように、受信制御部71と、結合部72と、送信制御部73と、を備えている。本実施形態に係るサーバ300bは、通信部2を更に備えている。また、本実施形態に係る取得部71、結合部72および配信部73は、制御部7に含まれる。
【0075】
受信制御部71は、入力データD2を受信するよう通信部2を制御する。これにより、通信部2は、車両300aから入力データD2を無線で受信する。
【0076】
結合部72は、各車両300aから取得した複数の入力データD2を結合し、一の俯瞰入力データD3を生成する。
【0077】
配信部73は、俯瞰入力データD3を送信するよう通信部2を制御する。これにより、通信部2は、俯瞰入力データD3を各車両へ無線で配信する。
【0078】
(車両その他)
車両300aは、他の車両300aから入力データD2を取得し、自ら俯瞰入力データD3を生成する(サーバの主機能を有する)ようになっていてもよい。その場合、車両300aは、サーバと通信する機能を有していなくてもよい。
【0079】
(デジタルツインシステムその他)
デジタルツインシステム300は、入力データD2を出力する機能を有しているが俯瞰入力データD3を取得する機能を有していない車両V、および入力データD2を出力する機能を有していないが俯瞰入力データD3を取得する機能を有している車両の少なくとも一方を含んでいてもよい。
【0080】
〔発明3実施形態の作用効果〕
以上説明してきた本実施形態に係る車両300aによれば、入力データD2として、複数のセンサから得られる検知データD1が一つの地図に纏められ、次元数が削減されたものが用いられる。このため、学習済モデルを用いて交通情報を出力する際の計算量が削減される。その結果、交通情報をより早く出力することができる。また、サーバ300bによって、俯瞰入力データD3を広く流通させることができる。
【0081】
<発明4実施形態>
次に、本発明の他の態様(以下、発明4)であるサーバの一実施形態について、以下に説明する。
図12はサーバ400aの機能的構成を示すブロック図である。なお、説明の便宜上、上記発明1~3の実施形態にて説明した部材と同じ機能を有する部材については、同じ符号を付記し、その説明を繰り返さない。
【0082】
サーバ400aは、
図12に示したように、第二受信制御部81と、生成部12と、情報取得部51と、第二送信制御部82と、通信部2と、を備えている。本実施形態に係る受信制御部81、生成部12、情報取得部51および送信制御部82は、制御部8に含まれる。
【0083】
本実施形態に係るサーバ400aは、デジタルツインを生成するデジタルツインサーバとなっている。また、本実施形態に係るサーバ400aは、
図10に示したように、複数の車両Vと通信ネットワークNを介して接続されることにより、デジタルツインシステム400を構成している。
【0084】
(第二受信制御部81)
第二受信制御部81は、車両Vが備える複数のセンサからそれぞれ検知データD1を受信するよう通信部2を制御する。これにより、通信部2は、車両Vが備える複数のセンサからそれぞれ検知データD1を受信する。
【0085】
(第二送信制御部82)
第二送信制御部82は、交通情報を送信するよう通信部2を制御する。これにより、通信部2は、取得した交通情報を車両Vへ送信する。
【0086】
(デジタルツインシステムその他)
デジタルツインシステム400は、上記車両300aを含んでいてもよい。
【0087】
〔発明4実施形態の作用効果〕
以上説明してきた本実施形態に係るサーバ400aによれば、入力データD2として、複数のセンサから得られる検知データD1が一つの地図に纏められ、次元数が削減されたものが用いられる。このため、学習済モデルを用いて交通情報を出力する際の計算量が削減される。その結果、交通情報をより早く車両Vへ送信することができる。
【0088】
<発明1~4その他>
上記各制御ブロックの機能の一部または全部は、論理回路により実現することも可能である。例えば、上記各制御ブロックとして機能する論理回路が形成された集積回路も本発明の範疇に含まれる。この他にも、例えば量子コンピュータにより上記各制御ブロックの機能を実現することも可能である。
【0089】
〔ソフトウェアによる実現例〕
上記データ生成装置100およびモデル構築装置200(以下、「装置」と呼ぶ)の機能は、当該装置としてコンピュータを機能させるためのデータ生成プログラムおよびモデル構築プログラム(以下、プログラム)であって、当該装置の各制御ブロック(特に制御部1,3に含まれる各部)としてコンピュータを機能させるためのプログラムにより実現することができる。この場合、上記装置は、上記プログラムを実行するためのハードウェアとして、少なくとも1つの制御装置(例えばプロセッサ)と少なくとも1つの記憶装置(例えばメモリ)を有するコンピュータを備えている。この制御装置と記憶装置により上記プログラムを実行することにより、上記各実施形態で説明した各機能が実現される。上記プログラムは、一時的ではなく、コンピュータ読み取り可能な、1または複数の記録媒体に記録されていてもよい。この記録媒体は、上記装置が備えていてもよいし、備えていなくてもよい。後者の場合、上記プログラムは、有線または無線の任意の伝送媒体を介して上記装置に供給されてもよい。
【0090】
本発明は上述した各実施形態に限定されるものではなく、請求項に示した範囲で種々の変更が可能であり、異なる実施形態にそれぞれ開示された技術的手段を適宜組み合わせて得られる実施形態についても本発明の技術的範囲に含まれる。
【符号の説明】
【0091】
100 データ生成装置
1 制御部
11 取得部
12 生成部
13 出力部
2 通信部
200 モデル構築装置
3 制御部
31 第一取得部
32 第二取得部
33 構築部
34 出力部
4 記憶部
300 デジタルツインシステム
300a,V 車両
S センサ
5 制御部
51 情報取得部
52 送信制御部
53 受信制御部
54 表示制御部
55 運転制御部
4A 記憶部
6 表示部
300b サーバ
7 制御部
71 取得部
72 結合部
73 配信部
400 デジタルツインシステム
400a サーバ
8 制御部
D1 検知データ
D2 入力データ
D3 俯瞰入力データ
I 画像
S センサ