(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】
(24)【登録日】2023-12-04
(45)【発行日】2023-12-12
(54)【発明の名称】処理装置、推定装置、処理方法及び推定方法
(51)【国際特許分類】
G06N 20/00 20190101AFI20231205BHJP
【FI】
G06N20/00 130
(21)【出願番号】P 2022501465
(86)(22)【出願日】2020-02-19
(86)【国際出願番号】 JP2020006445
(87)【国際公開番号】W WO2021166104
(87)【国際公開日】2021-08-26
【審査請求日】2022-08-10
(73)【特許権者】
【識別番号】000004237
【氏名又は名称】日本電気株式会社
(74)【代理人】
【識別番号】100110928
【氏名又は名称】速水 進治
(72)【発明者】
【氏名】小倉 一峰
(72)【発明者】
【氏名】有吉 正行
【審査官】渡辺 順哉
(56)【参考文献】
【文献】国際公開第2019/229910(WO,A1)
【文献】国際公開第2010/125916(WO,A1)
(58)【調査した分野】(Int.Cl.,DB名)
G06N 3/00-99/00
(57)【特許請求の範囲】
【請求項1】
送信アンテナから電磁波を照射し、受信アンテナで反射波を受信する電磁波送受信手段と、
受信された前記反射波の信号に基づき、ラベル決定用画像を生成するラベル決定用画像生成手段と、
受信された前記反射波の信号の中の一部であって、前記ラベル決定用画像の生成に利用される信号よりも少ない信号に基づき、学習用画像を生成する学習用画像生成手段と、
前記ラベル決定用画像に基づきラベルを決定するラベル決定手段と、
前記学習用画像と前記ラベルとを紐付けた教師データを生成し、教師データ記憶手段に記憶させる教師データ生成手段と、
を有する処理装置。
【請求項2】
前記学習用画像生成手段は、受信された前記反射波の信号の中から、ランダムに、前記学習用画像の生成に利用する信号を選択する
請求項1に記載の処理装置。
【請求項3】
前記電磁波送受信手段は、複数の前記送信アンテナから電磁波を照射し、複数の前記受信アンテナで反射波を受信し、
前記学習用画像生成手段は、受信された前記反射波の信号の中から、選択した前記送信アンテナから照射された前記電磁波に基づく前記反射波の信号、及び、選択した前記受信アンテナで受信した前記反射波の信号の少なくとも一方を除いた信号を、前記学習用画像の生成に利用する信号として選択する
請求項1に記載の処理装置。
【請求項4】
前記電磁波送受信手段は、周波数を変えながら、前記送信アンテナから前記電磁波を照射し、
前記学習用画像生成手段は、受信された前記反射波の信号の中から、選択した周波数の信号を除いた信号を、前記学習用画像の生成に利用する信号として選択する
請求項1又は3に記載の処理装置。
【請求項5】
送信アンテナから電磁波を照射し、受信アンテナで反射波を受信する電磁波送受信手段と、
受信された前記反射波の信号に基づき、ラベル決定用画像を生成するラベル決定用画像生成手段と、
受信された前記反射波の信号の中の一部であって、前記ラベル決定用画像の生成に利用される信号よりも少ない信号に基づき、学習用画像を生成する学習用画像生成手段と、
前記ラベル決定用画像に基づきラベルを決定するラベル決定手段と、
前記学習用画像と前記ラベルとを紐付けた教師データを生成し、教師データ記憶手段に記憶させる教師データ生成手段と、
前記教師データ記憶手段が記憶する前記教師データに基づく機械学習により、推定モデルを生成する推定モデル生成手段と、
を有する処理装置が生成した前記推定モデルを記憶する推定モデル記憶手段と、
推定用送信アンテナから電磁波を照射し、推定用受信アンテナで反射波を受信する推定用電磁波送受信手段と、
受信された前記反射波の信号に基づき、推定用画像を生成する推定用画像生成手段と、
前記推定用画像と、前記推定モデルとに基づき、前記推定用画像に含まれる物体を推定する推定手段と、
を有する推定装置。
【請求項6】
前記電磁波送受信手段は、複数の前記送信アンテナから電磁波を照射し、複数の前記受信アンテナで反射波を受信し、
前記推定用電磁波送受信手段は、複数の前記推定用送信アンテナから電磁波を照射し、複数の前記推定用受信アンテナで反射波を受信し、
前記電磁波送受信手段と前記推定用電磁波送受信手段とは、同じ構成となっており、
複数の前記推定用送信アンテナの照射順番及び照射時間を、複数の前記送信アンテナの照射順番及び照射時間と同じにするパラメータ設定手段をさらに有する
請求項5に記載の推定装置。
【請求項7】
前記推定用画像生成手段は、前記推定用電磁波送受信手段で受信された前記反射波の信号の中の一部の信号に基づき、前記推定用画像を生成する
請求項6に記載の推定装置。
【請求項8】
前記電磁波送受信手段は、複数の前記送信アンテナから電磁波を照射し、複数の前記受信アンテナで反射波を受信し、
前記推定用電磁波送受信手段は、複数の前記推定用送信アンテナから電磁波を照射し、複数の前記推定用受信アンテナで反射波を受信し、
電磁波を照射する前記推定用送信アンテナの数は、電磁波を照射する前記送信アンテナの数より少なく、
反射波を受信する前記推定用受信アンテナの数は、反射波を受信する前記受信アンテナの数より少ない
請求項5に記載の推定装置。
【請求項9】
コンピュータが、
送信アンテナから電磁波を照射し、受信アンテナで反射波を受信し、
受信された前記反射波の信号に基づき、ラベル決定用画像を生成し、
受信された前記反射波の信号の中の一部であって、前記ラベル決定用画像の生成に利用される信号よりも少ない信号に基づき、学習用画像を生成し、
前記ラベル決定用画像に基づきラベルを決定し、
前記学習用画像と前記ラベルとを紐付けた教師データを生成し、教師データ記憶手段に記憶させる処理方法。
【請求項10】
コンピュータが、
送信アンテナから電磁波を照射し、受信アンテナで反射波を受信する電磁波送受信手段と、
受信された前記反射波の信号に基づき、ラベル決定用画像を生成するラベル決定用画像生成手段と、
受信された前記反射波の信号の中の一部であって、前記ラベル決定用画像の生成に利用される信号よりも少ない信号に基づき、学習用画像を生成する学習用画像生成手段と、
前記ラベル決定用画像に基づきラベルを決定するラベル決定手段と、
前記学習用画像と前記ラベルとを紐付けた教師データを生成し、教師データ記憶手段に記憶させる教師データ生成手段と、
前記教師データ記憶手段が記憶する前記教師データに基づく機械学習により、推定モデルを生成する推定モデル生成手段と、
を有する処理装置が生成した前記推定モデルを記憶しておき、
推定用送信アンテナから電磁波を照射し、推定用受信アンテナで反射波を受信し、
受信された前記反射波の信号に基づき、推定用画像を生成し、
前記推定用画像と、前記推定モデルとに基づき、前記推定用画像に含まれる物体を推定する推定方法。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、処理装置、推定装置、処理方法及び推定方法に関する。
【背景技術】
【0002】
非特許文献1は、セキュリティ強化のため、不審者をマーキングして追跡することや、マイクロ波レーダで不審物を探知することや、顔認証で人物を識別することや、透過画像で所持物検査をすること等を開示している。
【0003】
特許文献1は、金属検出器、X線画像等の各種技術を用いて乗客の所持物検査を行い、検査結果に応じてゲートの開閉を制御し、乗客の進行方向をコントロールすること等を開示している。
【0004】
特許文献2は、ミリ波センサで侵入者を検出すると、監視カメラの視線をその侵入者の検出位置に向け、その侵入者のズーム画像を得ること等を開示している。
【先行技術文献】
【特許文献】
【0005】
【文献】特表2017-537399号
【文献】特開2005-45712号
【非特許文献】
【0006】
【文献】“「先進的な空港保安」を我が国に広く根付かせるための処方箋 -空港保安の将来像研究会 調査報告書 概要版”、[online]、2017年7月18日、空港保安の将来像研究会、[2019年9月18日検索]、インターネット<URL: https://www.nttdata-strategy.com/aboutus/newsrelease/170718/report.pdf>
【発明の概要】
【発明が解決しようとする課題】
【0007】
本発明者は、電磁波(例:マイクロ波、ミリ波、テラヘルツ波等)の画像に基づく物体検出において、次のような課題を見出した。
【0008】
まず、本発明者は、ラベル付き画像(教師データ)で生成された推定モデルに基づき画像に含まれる物体を推定する技術において、十分な精度の推定結果が得られる範囲で画像生成に用いる電磁波の信号を減らす(データ量を減らす)ことにより、コンピュータの処理負担の軽減、送受信アンテナの削減によるセンサデバイスの小型化やコスト負担の軽減、送信アンテナの削減による照射時間の短縮や動きブラーの抑制等を実現する技術を想到した。
【0009】
しかし、コンピュータが画像に含まれる物体を十分な精度で認識できるか否かを基準にデータ量を減らすと、人が画像に含まれる物体を認識できない程度まで画像の鮮明度が低下してしまう。この場合、教師データ生成場面において、「人が画像を閲覧し、画像に含まれる物体を認識し、認識結果に基づきその画像にラベルを付す」という人手でのラベル付け作業が困難になる。
【0010】
本発明は、電磁波の信号に基づくラベル付き画像(教師データ)で生成された推定モデルに基づき画像に含まれる物体を推定する技術において、十分な精度の推定結果が得られる範囲で画像生成に用いる電磁波の信号を減らす(データ量を減らす)ことで生じるラベル付け作業の困難性を改善することを課題とする。
【課題を解決するための手段】
【0011】
本発明によれば、
送信アンテナから電磁波を照射し、受信アンテナで反射波を受信する電磁波送受信手段と、
受信された前記反射波の信号に基づき、ラベル決定用画像を生成するラベル決定用画像生成手段と、
受信された前記反射波の信号の中の一部であって、前記ラベル決定用画像の生成に利用される信号よりも少ない信号に基づき、学習用画像を生成する学習用画像生成手段と、
前記ラベル決定用画像に基づきラベルを決定するラベル決定手段と、
前記学習用画像と前記ラベルとを紐付けた教師データを生成し、教師データ記憶手段に記憶させる教師データ生成手段と、
を有する処理装置が提供される。
【0012】
また、本発明によれば、
送信アンテナから電磁波を照射し、受信アンテナで反射波を受信する電磁波送受信手段と、
受信された前記反射波の信号に基づき、ラベル決定用画像を生成するラベル決定用画像生成手段と、
受信された前記反射波の信号の中の一部であって、前記ラベル決定用画像の生成に利用される信号よりも少ない信号に基づき、学習用画像を生成する学習用画像生成手段と、
前記ラベル決定用画像に基づきラベルを決定するラベル決定手段と、
前記学習用画像と前記ラベルとを紐付けた教師データを生成し、教師データ記憶手段に記憶させる教師データ生成手段と、
前記教師データ記憶手段が記憶する前記教師データに基づく機械学習により、推定モデルを生成する推定モデル生成手段と、
を有する処理装置が生成した前記推定モデルを記憶する推定モデル記憶手段と、
推定用送信アンテナから電磁波を照射し、推定用受信アンテナで反射波を受信する推定用電磁波送受信手段と、
受信された前記反射波の信号に基づき、推定用画像を生成する推定用画像生成手段と、
前記推定用画像と、前記推定モデルとに基づき、前記推定用画像に含まれる物体を推定する推定手段と、
を有する推定装置が提供される。
【0013】
また、本発明によれば、
コンピュータが、
送信アンテナから電磁波を照射し、受信アンテナで反射波を受信し、
受信された前記反射波の信号に基づき、ラベル決定用画像を生成し、
受信された前記反射波の信号の中の一部であって、前記ラベル決定用画像の生成に利用される信号よりも少ない信号に基づき、学習用画像を生成し、
前記ラベル決定用画像に基づきラベルを決定し、
前記学習用画像と前記ラベルとを紐付けた教師データを生成し、教師データ記憶手段に記憶させる処理方法が提供される。
【0014】
また、本発明によれば、
コンピュータが、
送信アンテナから電磁波を照射し、受信アンテナで反射波を受信する電磁波送受信手段と、
受信された前記反射波の信号に基づき、ラベル決定用画像を生成するラベル決定用画像生成手段と、
受信された前記反射波の信号の中の一部であって、前記ラベル決定用画像の生成に利用される信号よりも少ない信号に基づき、学習用画像を生成する学習用画像生成手段と、
前記ラベル決定用画像に基づきラベルを決定するラベル決定手段と、
前記学習用画像と前記ラベルとを紐付けた教師データを生成し、教師データ記憶手段に記憶させる教師データ生成手段と、
前記教師データ記憶手段が記憶する前記教師データに基づく機械学習により、推定モデルを生成する推定モデル生成手段と、
を有する処理装置が生成した前記推定モデルを記憶しておき、
推定用送信アンテナから電磁波を照射し、推定用受信アンテナで反射波を受信し、
受信された前記反射波の信号に基づき、推定用画像を生成し、
前記推定用画像と、前記推定モデルとに基づき、前記推定用画像に含まれる物体を推定する推定方法が提供される。
【発明の効果】
【0015】
本発明によれば、電磁波の信号に基づくラベル付き画像(教師データ)で生成された推定モデルに基づき画像に含まれる物体を推定する技術において、十分な精度の推定結果が得られる範囲で画像生成に用いる電磁波の信号を減らす(データ量を減らす)ことで生じるラベル付け作業の困難性が改善される。
【図面の簡単な説明】
【0016】
【
図1】本実施形態の推定用電磁波送受信部の構成の一例を示す図である。
【
図2】本実施形態の推定用電磁波送受信部の構成の一例を示す図である。
【
図3】本実施形態の推定装置が生成する画像の一例を示す図である。
【
図4】本実施形態の電磁波送受信部の構成の一例を示す図である。
【
図5】本実施形態の処理装置が生成する画像の一例を示す図である。
【
図6】本実施形態の処理装置及び推定装置のハードウエア構成の一例を示す図である。
【
図7】本実施形態の推定装置の機能ブロック図の一例である。
【
図8】本実施形態の送信アンテナ及び受信アンテナの配置の仕方の一例を示す図である。
【
図9】本実施形態の複数の送信アンテナからの電磁波の照射の仕方の一例を示す図である。
【
図10】本実施形態の推定装置の処理の流れの一例を示すフローチャートである。
【
図11】本実施形態の処理装置の機能ブロック図の一例である。
【
図12】本実施形態の送信アンテナ及び受信アンテナの配置の仕方の一例を示す図である。
【
図13】本実施形態の送信アンテナ及び受信アンテナの配置の仕方の一例を示す図である。
【
図14】本実施形態の
処理装置の処理の流れの一例を示すフローチャートである。
【
図15】本実施形態の
電磁波送受信部の構成の一例を示す図である。
【
図16】本実施形態の
推定用電磁波送受信部の構成の一例を示す図である。
【
図17】本実施形態の推定装置の処理の流れの一例を示すフローチャートである。
【発明を実施するための形態】
【0017】
<第1の実施形態>
「推定システムの概要」
まず、本実施形態の推定システムの概要を説明する。本実施形態の推定システムは、空港、駅等の任意の場所にいる人の所持物検査を行うための推定装置と、当該所持物検査で利用する推定モデルを機械学習で生成するための処理装置とを含む。
【0018】
例えば、
図1に示すような推定用電磁波送受信部21(推定装置の一部)が空港等の任意の場所に設置される。推定用電磁波送受信部21は、電磁波を送信する送信アンテナ、及び、電磁波を受信する受信アンテナを含む。推定用電磁波送受信部21は、所定位置を通過する人1に向けて電磁波を照射するとともに、その反射波を受信する。推定装置は、当該反射波の信号に基づき画像を生成し、生成した画像と、予め生成された推定モデルとに基づき、その人1の所持物を推定する。このように、推定装置によれば、所定位置を通過する人1に対してウォークスルー型の所持物検査を行うことが可能となる。
【0019】
図2に推定用電磁波送受信部21の上面図の一例を示す。そして、
図3に、当該推定用電磁波送受信部21が受信した反射波の信号に基づき生成された画像の一例を示す。
図3の枠の部分が、
図2の人1が所持していた拳銃(所持物2)の存在箇所である。人の目では、
図3の枠の部分における拳銃を認識することは困難である。しかし、コンピュータは、
図3に示す画像から、枠の部分における拳銃を十分な精度で認識できる。すなわち、推定用電磁波送受信部21が受信した反射波の信号に基づき生成される画像は、画像内の物体をコンピュータが十分な精度で認識できるが、画像内の物体を人が認識できない程度の鮮明度となり得る。換言すれば、推定用電磁波送受信部21は、このような画像を生成可能な構成となっている。
【0020】
次に、
図4に、推定モデルを生成する場面において、教師データ(ラベル付き画像)を生成するために利用される電磁波送受信部11の上面図の一例を示す。電磁波送受信部11は、電磁波を送信する送信アンテナ、及び、電磁波を受信する受信アンテナを含む。
図4と
図2とを比較すると、電磁波送受信部11は、追加部分3を有する点で、推定用電磁波送受信部21と異なる。この追加部分3における送信アンテナ及び受信アンテナの存在により、所持物2の反射波をより漏らすことなく受信し、所持物2をより鮮明に表した画像を生成することが可能になる。
【0021】
図5に、電磁波送受信部11が受信した反射波の信号に基づき生成された画像の一例を示す。
図5の枠の部分が、
図4の人1が所持していた拳銃(所持物2)の存在箇所である。当該例の場合、人の目でも、その形状から、
図5の枠の部分における拳銃を認識できる。当然、コンピュータは、
図5に示す画像から、枠の部分における拳銃を十分な精度で認識できる。
【0022】
処理装置10は、このような電磁波送受信部11が受信した反射波の信号に基づき、ラベル決定用画像と、学習用画像とを生成する。
【0023】
具体的には、処理装置10は、電磁波送受信部11が受信した反射波の信号の全部又は大部分を用いて、ラベル決定用画像を生成する。このようにして生成されるラベル決定用画像は、
図5に示すように、画像内の物体を人が認識できる程度の鮮明度の画像となる。
【0024】
また、処理装置10は、電磁波送受信部11が受信した反射波の信号の一部を用いて、学習用画像を生成する。このようにして生成される学習用画像は、
図4に示すように、画像内の物体をコンピュータが十分な精度で認識できるが、画像内の物体を人が認識できない程度の鮮明度となる。すなわち、学習用画像は、推定装置20による推定処理で利用される画像と同程度の鮮明度となる。
【0025】
そして、処理装置10は、上記ラベル決定用画像に基づきラベルを決定すると、上記学習用画像と上記ラベルとを紐付けた教師データを生成し、記憶装置に記憶させる。
【0026】
このように、本実施形態の推定システムは、人1の所持物を推定する処理に用いる画像の生成に利用するデータの量(推定装置20が推定処理に利用する画像の生成に利用するデータの量、教師データとする画像の生成に利用するデータの量)を、コンピュータによる十分な精度の推定結果が得られる範囲で十分に減らす。結果、コンピュータの処理負担の軽減、送受信アンテナの削減によるセンサデバイスの小型化やコスト負担の軽減、送信アンテナの削減による照射時間の短縮や動きブラーの抑制等が実現される。
【0027】
そして、本実施形態の推定システムは、推定モデルを生成する場面においては、実際に空港等に設置されて利用される推定用電磁波送受信部21よりも多くの反射波のデータを取得可能な構成となった電磁波送受信部11を利用し、物体への電磁波の照射及び反射波の受信を行う。そして、本実施形態の推定システムは、電磁波送受信部11により受信された反射波の信号に基づき、画像内の物体を人が認識できる程度の鮮明度のラベル決定用画像と、推定装置20による推定処理で利用される画像と同程度の鮮明度の学習用画像とを生成する。そして、当該ラベル決定用画像に基づき決定されたラベルと、当該学習用画像とを紐付けて、教師データを生成する。このような構成のため、上述のように人1の所持物を推定する処理に用いる画像の生成に利用するデータの量を減らしても、問題なくラベル付け作業を行うことができる。
【0028】
「推定装置の構成」
次に、推定装置の構成を詳細に説明する。まず、推定装置のハードウエア構成の一例を説明する。推定装置が備える各機能部は、任意のコンピュータのCPU(Central Processing Unit)、メモリ、メモリにロードされるプログラム、そのプログラムを格納するハードディスク等の記憶ユニット(あらかじめ装置を出荷する段階から格納されているプログラムのほか、CD(Compact Disc)等の記憶媒体やインターネット上のサーバ等からダウンロードされたプログラムをも格納できる)、ネットワーク接続用インターフェイスを中心にハードウエアとソフトウエアの任意の組合せによって実現される。そして、その実現方法、装置にはいろいろな変形例があることは、当業者には理解されるところである。
【0029】
図6は、推定装置のハードウエア構成を例示するブロック図である。
図6に示すように、推定装置は、プロセッサ1A、メモリ2A、入出力インターフェイス3A、周辺回路4A、バス5A、電磁波送受信装置6Aを有する。周辺回路4Aには、様々なモジュールが含まれる。
推定装置は周辺回路4Aを有さなくてもよい。なお、
推定装置は物理的及び/又は論理的に分かれた複数の装置で構成されてもよいし、物理的及び/又は論理的に一体となった1つの装置で構成されてもよい。
推定装置が物理的及び/又は論理的に分かれた複数の装置で構成される場合、複数の装置各々が上記ハードウエア構成を備えてもよい。
【0030】
バス5Aは、プロセッサ1A、メモリ2A、周辺回路4A及び入出力インターフェイス3Aが相互にデータを送受信するためのデータ伝送路である。プロセッサ1Aは、例えばCPU、GPU(Graphics Processing Unit)などの演算処理装置である。メモリ2Aは、例えばRAM(Random Access Memory)やROM(Read Only Memory)などのメモリである。入出力インターフェイス3Aは、入力装置、外部装置、外部サーバ、外部センサ、カメラ等から情報を取得するためのインターフェイスや、出力装置、外部装置、外部サーバ等に情報を出力するためのインターフェイスなどを含む。外部センサの一例として、電磁波送受信装置6Aが示されている。電磁波送受信装置6Aは、電磁波を送信する送信アンテナ、及び、電磁波を受信する受信アンテナを含む。電磁波送受信装置6Aは、例えばレーダである。入力装置は、例えばキーボード、マウス、マイク、物理ボタン、タッチパネル等である。出力装置は、例えばディスプレイ、スピーカ、プリンター、メーラ等である。プロセッサ1Aは、各モジュールに指令を出し、それらの演算結果をもとに演算を行うことができる。
【0031】
次に、推定装置の機能構成を説明する。
図7に、推定装置20の機能ブロック図の一例を示す。図示するように、推定装置20は、推定用電磁波送受信部21と、推定用画像生成部22と、推定部23と、推定モデル記憶部24と、推定用パラメータ設定部25とを有する。
【0032】
推定モデル記憶部24は、処理装置10が生成した推定モデルを記憶する。当該推定モデルの詳細は、以下の処理装置10の構成の説明で明らかになる。
【0033】
推定用電磁波送受信部21は、推定用送信アンテナと推定用受信アンテナとを含んで構成される。そして、推定用電磁波送受信部21は、推定用送信アンテナから電磁波を照射し、推定用受信アンテナで反射波を受信する。推定用電磁波送受信部21は、例えばレーダである。推定用電磁波送受信部21が送受信する電磁波は、例えば波長30マイクロメートル以上1メートル以下の電磁波(例:マイクロ波、ミリ波、テラヘルツ波等)である。推定用電磁波送受信部21は、あらゆる技術を採用して構成できる。例えば、推定用電磁波送受信部21は、
図8の例のように、複数の推定用送信アンテナ及び複数の推定用受信アンテナを並べたセンサパネルであってもよい。複数の推定用送信アンテナは互いにタイミングをずらして所定の順で電磁波を照射する。そして、複数の推定用受信アンテナすべてでその反射波を受信する。
【0034】
なお、
図1に示す例では、互いに対向した2つのセンサパネルで推定用電磁波送受信部21を構成しているが、1つのセンサパネルで推定用電磁波送受信部21を構成してもよいし、3つ以上のセンサパネルで推定用電磁波送受信部21を構成してもよい。また、
図1に示す例では、2つのセンサパネルでゲートを作成し、その間を人1が通過するようにしているが、例えば壁等にセンサパネルを埋め込み、人がセンサパネルの存在を認識できないようにしてもよい。
【0035】
図7に戻り、推定用パラメータ設定部25は、推定用電磁波送受信部21による電磁波の送受信に関する各種パラメータの設定を行う。例えば、推定用パラメータ設定部25は、複数の推定用送信アンテナの照射順番、各推定用送信アンテナが照射する電磁波の周波数、各推定用送信アンテナの照射時間等を設定する。例えば、
図9に示すように、複数の推定用送信アンテナから照射する電磁波の周波数を時間に応じて変更させることができる。推定用パラメータ設定部25は、ユーザ入力に基づき、上記各種パラメータの設定を行うことができる。推定用電磁波送受信部21は、推定用パラメータ設定部25により設定された各種パラメータに基づき、電磁波の送受信を行う。
【0036】
推定用画像生成部22は、推定用電磁波送受信部21により受信された反射波の信号に基づき、推定用画像を生成する。推定用画像生成部22は、例えば下記式(1)に基づき、推定用画像を生成することができる。
【0037】
【0038】
なお、推定用画像は3次元であり、複数のvoxel各々の値の集合で構成される。vベクトルは、1つのvoxelの中心位置を示す。Rmベクトルは、送信アンテナ(推定用送信アンテナ)の位置を示す。Rnベクトルは、受信アンテナ(推定用受信アンテナ)の位置を示す。sm、n、fは、送信アンテナmが照射し、受信アンテナnが受信した周波数fの電磁波(反射波)の信号を示す。F(f)は、時間インデックスfのときの周波数を示す。jは虚数であり、cは光の速度である。
【0039】
図3に、推定用画像生成部22が生成した推定用画像の一例を示す。
図3の枠の部分は、拳銃の存在箇所である。図示するように、推定用画像は、画像内の物体をコンピュータが十分な精度で認識できるが、画像内の物体を人が認識できない程度の鮮明度となり得る。換言すれば、推定用電磁波送受信部21は、このような画像が生成される構成(推定用送信アンテナの数、推定用受信アンテナの数、配置の仕方、使用する周波数及びその数等)となっている。
【0040】
推定部23は、推定用画像生成部22が生成した推定用画像と、推定モデル記憶部24に記憶されている推定モデルとに基づき、推定用画像に含まれる物体を推定する。
【0041】
次に、
図10のフローチャートを用いて、推定装置20の処理の流れの一例を説明する。
【0042】
処理を開始すると、推定用電磁波送受信部21は、波長30マイクロメートル以上1メートル以下の電磁波の照射、及び、反射波の受信を予め定められた間隔で繰り返す。そして、推定用画像生成部22は、推定用電磁波送受信部21により出力された上記反射波の信号を取得すると(S10)、当該信号に基づき推定用画像を生成する(S11)。
【0043】
次いで、推定部23は、S11で推定用画像生成部22が生成した推定用画像と、予め推定モデル記憶部24に記憶されている推定モデルとに基づき、推定用画像に含まれる物体を推定する(S12)。
【0044】
そして、推定装置20は、推定結果を出力する(S13)。例えば、推定装置20は、ディスプレイ、投影装置、スピーカ、プリンター、メーラ等の任意の出力装置を介して、推定結果を出力してもよい。推定結果は、推定用画像に含まれると推定された物体に関する情報(名称等)を含む。
【0045】
その他、推定装置20は、予め定められた物体が推定用画像に含まれると推定された場合、警告処理を行ってもよい。警告処理は、警告ランプの点灯、警告音の出力、ディスプレイ等の出力装置を介した警告情報の出力等であるが、これらに限定されない。予め定められた物体は、その場所で所持することが許されていない物体であり、例えば拳銃やナイフ等の危険物が例示される。
【0046】
「処理装置の構成」
処理装置の構成を詳細に説明する。処理装置のハードウエア構成の一例は、上述した推定装置20のハードウエア構成の一例と同様である。
【0047】
次に、処理装置の機能構成を説明する。
図11に、処理装置10の機能ブロック図の一例を示す。図示するように、処理装置10は、電磁波送受信部11と、ラベル決定用画像生成部12と、学習用画像生成部13と、ラベル決定部14と、教師データ生成部15と、教師データ記憶部16と、推定モデル生成部17と、パラメータ設定部18とを有する。
【0048】
電磁波送受信部11は、送信アンテナと受信アンテナとを含んで構成される。そして、電磁波送受信部11は、送信アンテナから電磁波を照射し、受信アンテナで反射波を受信する。電磁波送受信部11は、例えばレーダである。電磁波送受信部11が送受信する電磁波は、例えば波長30マイクロメートル以上1メートル以下の電磁波(例:マイクロ波、ミリ波、テラヘルツ波等)である。電磁波送受信部11は、あらゆる技術を採用して構成できる。例えば、電磁波送受信部11は、
図8の例のように、複数の送信アンテナ及び複数の受信アンテナを並べたセンサパネルであってもよい。複数の送信アンテナは互いにタイミングをずらして所定の順で電磁波を照射する。そして、複数の受信アンテナすべてでその反射波を受信する。
【0049】
なお、電磁波送受信部11は、推定用電磁波送受信部21に比べて、所持物2の反射波をより漏らすことなく受信する構成となっている。
【0050】
例えば、電磁波送受信部11は、推定用電磁波送受信部21よりも多くの送信アンテナ及び受信アンテナを備えてもよい。すなわち、推定用電磁波送受信部21の推定用送信アンテナの数は、電磁波送受信部11の送信アンテナの数より少なく、推定用電磁波送受信部21の推定用受信アンテナの数は、電磁波送受信部11の受信アンテナの数より少なくてもよい。送信アンテナ(推定用送信アンテナ)及び受信アンテナ(推定用受信アンテナ)の数が少ないと、単純に、取得可能な反射波の信号が少なくなる(データ量が少なくなる)。結果、その信号から生成される画像の鮮明度が低下し得る。また、推定用電磁波送受信部21が使用する周波数の数は、電磁波送受信部11が使用する周波数の数より少なくてもよい。使用する周波数の数を減らした場合、生成される画像の鮮明度が低下し得る。
【0051】
また、電磁波送受信部11は、推定用電磁波送受信部21よりも、開口長が長くてもよい。開口長は、複数の送信アンテナ(推定用送信アンテナ)の中の左右方向の両端に位置する送信アンテナ(推定用送信アンテナ)間の距離である。
図12のWtが当該開口長を示す。また、開口長は、複数の受信アンテナ(推定用受信アンテナ)の中の左右方向の両端に位置する受信アンテナ(推定用受信アンテナ)間の距離である。
図12のWrが当該開口長を示す。
【0052】
なお、開口長は、複数の送信アンテナ(推定用送信アンテナ)の中の上下方向の両端に位置する送信アンテナ(推定用送信アンテナ)間の距離をも含む概念であってもよい。
図12のHtが当該開口長を示す。また、開口長は、複数の受信アンテナ(推定用受信アンテナ)の中の上下方向の両端に位置する受信アンテナ(推定用受信アンテナ)間の距離をも含む概念であってもよい。
図12のHrが当該開口長を示す。
【0053】
開口長が短いと、反射波の受信漏れが発生し得る。例えば、
図2に示すように所持物2がレーダ面に対して傾きがある状態だと、その所持物2で反射した反射波(
図2の矢印)の受信漏れが発生し得る。これに対し、
図4に示すように、開口長が長いと、
図4に示すように所持物2がレーダ面に対して傾きがある状態であっても、その所持物2で反射した反射波(
図4の矢印)を受信し得る。
【0054】
また、電磁波送受信部11は、推定用電磁波送受信部21よりも多くの送信アンテナ及び受信アンテナを備えているが、電磁波送受信部11及び推定用電磁波送受信部21の上記開口長は同一であってもよい。この例を、
図12及び
図13に示す。
図12が電磁波送受信部11の構成例であり、
図13が推定用電磁波送受信部21の構成例である。図示する例の場合、電磁波送受信部11は、推定用電磁波送受信部21よりも多くの送信アンテナ及び受信アンテナを備えている。しかし、電磁波送受信部11及び推定用電磁波送受信部21の上記開口長は同程度となっている。
【0055】
図12及び
図13は、1つのセンサパネルにおける送信アンテナ及び受信アンテナの配置の仕方の工夫により、上述した「推定用電磁波送受信部21よりも多くの送信アンテナ及び受信アンテナを備えているが、電磁波送受信部11及び推定用電磁波送受信部21の上記開口長は同一」を実現している。他の例として、
図15及び
図16に示すように、複数のセンサパネル全体での送信アンテナ及び受信アンテナの配置の仕方の工夫により、上述した「推定用電磁波送受信部21よりも多くの送信アンテナ及び受信アンテナを備えているが、電磁波送受信部11及び推定用電磁波送受信部21の上記開口長は同一」を実現してもよい。
【0056】
なお、
図2及び
図4の例のように、電磁波送受信部11の構成は、推定用電磁波送受信部21の構成に一部構成(追加部分3)を追加したものとしてもよい。このようにすれば、電磁波送受信部11が受信する反射波の信号は、概ね、「推定用電磁波送受信部21の構成を採用した場合に取得される反射波の信号」と、「追加した一部構成により取得される反射波の信号」との組み合わせと考えることが可能となる。この場合、例えば「追加した一部構成により取得される反射波の信号」を除去し、「推定用電磁波送受信部21の構成を採用した場合に取得される反射波の信号」に基づき上述した学習用画像を生成することで、推定時に利用される画像と概ね同条件下(例:完全に同一条件下)で生成された画像(教師データ)に基づく機械学習で推定モデルを生成することが可能となる。すなわち、学習用画像生成部13による学習用画像生成のためのデータの取得環境(送受信アンテナの数及び位置、使用する周波数及びその数等)と、推定用画像生成部22による推定用画像生成のためのデータの取得環境(送受信アンテナの数及び位置、使用する周波数及びその数等)を完全に一致させることが可能となる。結果、推定精度の向上等が期待される。
【0057】
図11に戻り、パラメータ設定部18は、電磁波送受信部11による電磁波の送受信に関する各種パラメータの設定を行う。例えば、パラメータ設定部18は、複数の
送信アンテナの照射順番、各
送信アンテナが照射する電磁波の周波数、各
送信アンテナの照射時間等を設定する。例えば、
図9に示すように、複数の送信アンテナから照射する電磁波の周波数を時間に応じて変更させることができる。パラメータ設定部18は、ユーザ入力に基づき、上記各種パラメータの設定を行うことができる。電磁波送受信部11は、パラメータ設定部18により設定された各種パラメータに基づき、電磁波の送受信を行う。
【0058】
図11に戻り、ラベル決定用画像生成部12は、電磁波送受信部11により受信された反射波の信号に基づき、ラベル決定用画像を生成する。受信された反射波の信号に基づき画像を生成する処理は、推定用画像生成部22で説明した画像生成処理と同様である。ラベル決定用画像生成部12は、電磁波送受信部11が受信した反射波の信号の全部又は大部分を用いて、ラベル決定用画像を生成する。このようにして生成されるラベル決定用画像は、
図5に示すように、画像内の物体を人が認識できる程度の鮮明度の画像となる。
【0059】
図11に戻り、学習用画像生成部13は、電磁波送受信部11により受信された反射波の信号の中の一部であって、ラベル決定用画像生成部12によるラベル決定用画像の生成に利用される信号よりも少ない信号に基づき、学習用画像を生成する。このようにして生成される学習用画像は、画像内の物体をコンピュータが十分な精度で認識できるが、画像内の物体を人が認識できない程度の鮮明度となり得る。すなわち、学習用画像は、上述した推定用画像生成部22が生成する画像と同程度の鮮明度となり得る。なお、受信された反射波の信号に基づき画像を生成する処理は、推定用画像生成部22で説明した画像生成処理と同様である。
【0060】
ここで、電磁波送受信部11により受信された反射波の信号の中から、学習用画像生成のために利用する一部を選択する方法を説明する。
【0061】
例えば、学習用画像生成部13は、電磁波送受信部11により受信された反射波の信号の中から、ランダムに、学習用画像生成のために利用する一部を選択してもよい。選択するデータ数は、推定用画像生成部22による画像の生成に利用されるデータ数と同数とすることが好ましい。
【0062】
他の例として、学習用画像生成部13は、複数の送信アンテナの中から一部を選択し、電磁波送受信部11により受信された反射波の信号の中から、選択した送信アンテナが照射した電磁波の反射波の信号を除いた信号を、学習用画像生成のために利用する一部として選択してもよい。
【0063】
ここで、一部の送信アンテナを選択する手法の一例を説明する。例えば、
図2及び
図4の例のように、電磁波送受信部11の構成を、推定用電磁波送受信部21の構成に一部構成(追加部分3)を追加したものとする場合、学習用画像生成部13は、追加部分3の送信アンテナを選択してもよい。その他、学習用画像生成部13は、複数の送信アンテナの中からランダムに所定数の送信アンテナを選択してもよい。選択されずに残った送信アンテナの位置または数またはその両方が、推定用電磁波送受信部21が備える推定用送信アンテナの位置または数またはその両方で同じとなることが好ましい。
【0064】
他の例として、学習用画像生成部13は、複数の受信アンテナの中から一部を選択し、電磁波送受信部11により受信された反射波の信号の中から、選択した受信アンテナが受信した反射波の信号を除いた信号を、学習用画像生成のために利用する一部として選択してもよい。
【0065】
ここで、一部の受信アンテナを選択する手法の一例を説明する。例えば、
図2及び
図4の例のように、電磁波送受信部11の構成を、推定用電磁波送受信部21の構成に一部構成(追加部分3)を追加したものとする場合、学習用画像生成部13は、追加部分3の受信アンテナを選択してもよい。その他、学習用画像生成部13は、複数の受信アンテナの中からランダムに所定数の受信アンテナを選択してもよい。選択されずに残った受信アンテナの位置または数またはその両方が、推定用電磁波送受信部21が備える推定用受信アンテナの位置または数またはその両方と同じとなることが好ましい。
【0066】
他の例として、学習用画像生成部13は、複数の送信アンテナの中から一部を選択するとともに、複数の受信アンテナの中から一部を選択してもよい。そして、学習用画像生成部13は、電磁波送受信部11により受信された反射波の信号の中から、選択した送信アンテナが照射した電磁波の反射波の信号、及び、選択した受信アンテナが受信した反射波の信号を除いた信号を、学習用画像生成のために利用する一部として選択してもよい。
【0067】
ここで、一部の送信アンテナ及び受信アンテナを選択する手法の一例を説明する。例えば、
図2及び
図4の例のように、電磁波送受信部11の構成を、推定用電磁波送受信部21の構成に一部構成(追加部分3)を追加したものとする場合、学習用画像生成部13は、追加部分3の送信アンテナ及び受信アンテナを選択してもよい。その他、学習用画像生成部13は、複数の送信アンテナの中からランダムに所定数の送信アンテナ及び受信アンテナを除去する一部として選択してもよい。なお、選択されずに残った送信アンテナ及び受信アンテナの位置及び数またはその両方が、推定用電磁波送受信部21が備える推定用送信アンテナ及び推定用受信アンテナの位置または数またはその両方と同じとなることが好ましい。
【0068】
他の例として、上述のように、電磁波送受信部11が周波数を変えながら、送信アンテナから電磁波を照射する場合、学習用画像生成部13は、電磁波送受信部11により受信された反射波の信号の中から、選択した周波数の信号を除いた信号を、学習用画像生成のために利用する一部として選択してもよい。
【0069】
さらに、学習用画像生成部13は、複数の送信アンテナの中から一部を選択し、複数の受信アンテナの中から一部を選択し、さらに、使用する周波数の中から一部を選択してもよい。そして、学習用画像生成部13は、電磁波送受信部11により受信された反射波の信号の中から、選択した送信アンテナが照射した電磁波の反射波の信号、選択した受信アンテナが受信した反射波の信号、及び、選択した周波数の信号を除いた信号を、学習用画像生成のために利用する一部として選択してもよい。
【0070】
図11に戻り、ラベル決定部14は、ラベル決定用画像生成部12が生成したラベル決定用画像に基づきラベルを決定する。
【0071】
例えば、ラベル決定部14は、ラベル決定用画像を出力する手段と、出力したラベル決定用画像のラベル(ラベル決定用画像に含まれる物体の名称及び位置など)のユーザ入力を受付ける手段とを有してもよい。ラベル決定用画像の出力は、ディスプレイ、投影装置、プリンター、メーラ等のあらゆる画像出力装置に基づき実現される。また、ラベルのユーザ入力は、キーボード、マウス、マイク、物理ボタン、タッチパネル等のあらゆる入力装置と、任意のUI(user interface)画面とに基づき実現される。
【0072】
他の例として、予め、ラベル決定用画像と同程度の鮮明度となったラベル付き画像(教師データ)に基づく機械学習により、ラベル決定用画像と同程度の鮮明度となった画像からその画像に含まれる物体の名称及び位置を推定する推定モデルが生成されていてもよい。そして、ラベル決定部14は、ラベル決定用画像と、当該推定モデルとに基づき、そのラベル決定用画像に含まれる物体を推定し、推定結果(物体の名称及び位置等)をそのラベル決定用画像のラベルとして決定してもよい。
【0073】
教師データ生成部15は、学習用画像生成部13が生成した学習用画像と、ラベル決定部14が決定したラベルとを紐付けた教師データを生成し、教師データ記憶部16に記憶させる。
【0074】
推定モデル生成部17は、教師データ記憶部16が記憶する教師データに基づく機械学習により、電磁波の反射波の信号に基づき生成された画像から、その画像に含まれる物体を推定する推定モデルを生成する。
【0075】
次に、
図14のフローチャートを用いて、処理装置10の処理の流れの一例を説明する。
【0076】
まず、電磁波送受信部11が送信アンテナから電磁波を照射し、受信アンテナで反射波を受信する(S20)。
【0077】
次いで、ラベル決定用画像生成部12は、S20で受信された反射波の信号に基づきラベル決定用画像を生成する(S23)。次いで、ラベル決定部14は、ラベル決定用画像を例えばディスプレイに表示し(S24)、表示したラベル決定用画像のラベルのユーザ入力を受付ける(S25)。
【0078】
また、S20の後、学習用画像生成部13は、S20で受信された反射波の信号の中から学習用画像生成のために利用する一部を選択する(S21)。そして、学習用画像生成部13は、選択された一部の信号に基づき、学習用画像を生成する(S22)。なお、学習用画像の生成に利用される信号(データ)は、ラベル決定用画像の生成に利用される信号(データ)よりも少ない。
【0079】
次いで、教師データ生成部15は、S22で生成された学習用画像と、S25で入力されたラベルとを紐付けた教師データを生成し、教師データ記憶部16に記憶させる(S26)。以降、同様の処理を繰り返すことで、教師データ記憶部16に教師データが蓄積されていく。
【0080】
なお、
図14の処理例では、反射波の信号が受信されるごとに、学習用画像の生成(S21、S22)、ラベル決定用画像の生成(S23)、ラベルの決定(S24、S25)、及び、教師データの生成・蓄積(S26)の一連の処理を行った。
【0081】
変形例として、学習用画像の生成(S21、S22)及びラベル決定用画像の生成(S23)を行う処理と、ラベルの決定(S24、S25)及び教師データの生成・蓄積(S26)を行う処理とを切り離し、各々を独立して行ってもよい。
【0082】
すなわち、反射波の信号が受信されるごとに(S20)、学習用画像の生成(S21、S22)及びラベル決定用画像の生成(S23)のみを行い学習用画像とラベル決定用画像とを生成し、それらを紐付けて記憶手段に記憶させてもよい。この処理を繰り返すことで、学習用画像とラベル決定用画像とを紐付けた情報が、記憶手段に蓄積されていく。
【0083】
そして、その後の任意のタイミングで、記憶手段に蓄積された複数の学習用画像に対するラベル付け処理(ラベルの決定(S24、S25)、及び、教師データの生成・蓄積(S26))がバッチ処理で行われてもよい。
【0084】
「推定システムの作用効果」
以上説明した推定システムは、人1の所持物を推定する処理に用いる画像の生成に利用するデータの量(推定装置20が推定処理に利用する画像の生成に利用するデータの量、教師データとする画像の生成に利用するデータの量)を、コンピュータによる十分な精度の推定結果が得られる範囲で十分に減らす。結果、コンピュータの処理負担の軽減、送受信アンテナの削減によるセンサデバイスの小型化やコスト負担の軽減、送信アンテナの削減による照射時間の短縮や動きブラーの抑制等が実現される。
【0085】
そして、本実施形態の推定システムは、推定モデルを生成する場面においては、実際に空港等に設置されて利用される推定用電磁波送受信部21よりも多くの反射波のデータを取得可能な構成となった電磁波送受信部11を利用し、物体への電磁波の照射及び反射波の受信を行う。そして、本実施形態の推定システムは、電磁波送受信部11により受信された反射波の信号に基づき、画像内の物体を人が認識できる程度の鮮明度のラベル決定用画像と、推定装置20による推定処理で利用される画像と同程度の鮮明度の学習用画像とを生成する。そして、当該ラベル決定用画像に基づき決定されたラベルと、当該学習用画像とを紐付けて、教師データを生成する。このような構成のため、上述のように人1の所持物を推定する処理に用いる画像の生成に利用するデータの量を減らしても、問題なくラベル付け作業を行うことができる。
【0086】
また、本実施形態の推定システムは、電磁波送受信部11により受信された反射波の信号の中から、学習用画像生成のために利用する一部を特徴的な手法で選択することができる。例えば、一部の送信アンテナ及び受信アンテナを選択し、選択した送信アンテナが送信した電磁波による反射波の信号、及び、選択した受信アンテナが受信した反射波の信号を除去することができる。この場合、適切に一部の送信アンテナ及び受信アンテナを選択すると、学習用画像生成に利用する信号が、「推定用電磁波送受信部21の構成を採用した場合に取得される反射波の信号」と同様なものとなる。そして、「推定用電磁波送受信部21の構成を採用した場合に取得される反射波の信号」に基づき上述した学習用画像を生成することが可能となる。結果、推定時に利用される画像と概ね同条件下で生成された画像(教師データ)に基づく機械学習で推定モデルを生成することが可能となり、推定精度の向上等が期待される。
【0087】
<第2の実施形態>
本実施形態の推定システムは、電磁波送受信部11及び推定用電磁波送受信部21が同じ構成となっている。すなわち、電磁波送受信部11を構成する送信アンテナと推定用電磁波送受信部21を構成する推定用送信アンテナの数は同数であり、その配置の仕方は同じである。また、電磁波送受信部11を構成する受信アンテナと推定用電磁波送受信部21を構成する推定用受信アンテナの数は同数であり、その配置の仕方は同じである。
【0088】
本実施形態のパラメータ設定部18と推定用パラメータ設定部25とは、各種パラメータの値を互いに同じ値に設定する。すなわち、複数の送信アンテナ各々の照射順番は、複数の推定用送信アンテナの中の対応する(配置位置が同じ)推定用送信アンテナと同じである。また、複数の送信アンテナ各々が照射する電磁波の周波数は、複数の推定用送信アンテナの中の対応する(配置位置が同じ)推定用送信アンテナと同じである。また、複数の送信アンテナ各々の照射時間は、複数の推定用送信アンテナの中の対応する(配置位置が同じ)推定用送信アンテナの照射時間と同じである。
【0089】
そして、推定用画像生成部22は、推定用電磁波送受信部21で受信された反射波の信号の中の一部の信号に基づき、推定用画像を生成する。
【0090】
ここで、推定用電磁波送受信部21により受信された反射波の信号の中から、推定用画像生成のために利用する一部を選択する方法を説明する。
【0091】
例えば、推定用画像生成部22は、推定用電磁波送受信部21で受信された反射波の信号の中から、ランダムに、推定用画像の生成に利用する信号を選択してもよい。
【0092】
また、推定用画像生成部22は、推定用電磁波送受信部21で受信された反射波の信号の中から、選択した推定用送信アンテナから照射された電磁波に基づく反射波の信号、及び、選択した推定用受信アンテナで受信した反射波の信号の少なくとも一方を除いた信号を、推定用画像の生成に利用する信号として選択してもよい。
【0093】
また、推定用画像生成部22は、推定用電磁波送受信部21で受信された反射波の信号の中から、選択した周波数の信号を除いた信号を、推定用画像の生成に利用する信号として選択してもよい。
【0094】
推定用画像生成部22によるこれらの方法は、第1の実施形態で説明した学習用画像生成部13による「電磁波送受信部11により受信された反射波の信号の中から、学習用画像生成のために利用する一部を選択する方法」と同様である。
【0095】
なお、推定用画像生成部22と学習用画像生成部13とは、同じ方法で、推定用電磁波送受信部21及び電磁波送受信部11により受信された反射波の信号の中から、推定用画像及び学習用画像生成のために利用する一部を選択することが好ましい。
【0096】
次に、
図17のフローチャートを用いて、推定装置20の処理の流れの一例を説明する。
【0097】
処理を開始すると、推定用電磁波送受信部21は、波長30マイクロメートル以上1メートル以下の電磁波の照射、及び、反射波の受信を予め定められた間隔で繰り返す。そして、推定用画像生成部22は、推定用電磁波送受信部21により出力された上記反射波の信号を取得すると(S20)、取得した信号の中から推定画像生成に利用する一部を選択する(S31)。そして、推定用画像生成部22は、選択した信号に基づき推定用画像を生成する(S32)。
【0098】
次いで、推定部23は、S32で推定用画像生成部22が生成した推定用画像と、予め推定モデル記憶部24に記憶されている推定モデルとに基づき、推定用画像に含まれる物体を推定する(S33)。
【0099】
そして、推定装置20は、推定結果を出力する(S34)。例えば、推定装置20は、ディスプレイ、投影装置、スピーカ、プリンター、メーラ等の任意の出力装置を介して、推定結果を出力してもよい。推定結果は、推定用画像に含まれると推定された物体に関する情報(名称等)を含む。
【0100】
その他、推定装置20は、予め定められた物体が推定用画像に含まれると推定された場合、警告処理を行ってもよい。警告処理は、警告ランプの点灯、警告音の出力、ディスプレイ等の出力装置を介した警告情報の出力等であるが、これらに限定されない。予め定められた物体は、その場所で所持することが許されていない物体であり、例えば拳銃やナイフ等の危険物が例示される。
【0101】
本実施形態の処理システムのその他の構成は、第1の実施形態の処理システムと同様である。
【0102】
以上説明した本実施形態の推定システムによれば、電磁波の信号に基づくラベル付き画像(教師データ)で生成された推定モデルに基づき画像に含まれる物体を推定する技術において、十分な精度の推定結果が得られる範囲で画像生成に用いる電磁波の信号を減らす(データ量を減らす)ことで生じるラベル付け作業の困難性が改善される。
【0103】
また、本実施形態の推定システムによれば、第1の実施形態の処理システムが実現した「送受信アンテナの削減によるセンサデバイスの小型化やコスト負担の軽減、送信アンテナの削減による照射時間の短縮や動きブラーの抑制等」は実現できないものの、人1の所持物を推定する処理に用いる画像の生成に利用するデータの量(推定装置20が推定処理に利用する画像の生成に利用するデータの量、教師データとする画像の生成に利用するデータの量)を減らすことによるコンピュータの処理負担の軽減が実現される。
【0104】
また、本実施形態の推定システムによれば、推定用画像生成部22と学習用画像生成部13とは、同じ方法で、推定用電磁波送受信部21及び電磁波送受信部11により受信された反射波の信号の中から、推定用画像及び学習用画像生成のために利用する一部を選択するようにできる。この場合、推定時に利用される画像と概ね同条件下で生成された画像(教師データ)に基づく機械学習で推定モデルを生成することが可能となり、推定精度の向上等が期待される。
【0105】
以上、実施形態(及び実施例)を参照して本願発明を説明したが、本願発明は上記実施形態(及び実施例)に限定されるものではない。本願発明の構成や詳細には、本願発明のスコープ内で当業者が理解し得る様々な変更をすることができる。
【0106】
上記の実施形態の一部又は全部は、以下の付記のようにも記載されうるが、以下には限定されない。
1. 送信アンテナから電磁波を照射し、受信アンテナで反射波を受信する電磁波送受信手段と、
受信された前記反射波の信号に基づき、ラベル決定用画像を生成するラベル決定用画像生成手段と、
受信された前記反射波の信号の中の一部であって、前記ラベル決定用画像の生成に利用される信号よりも少ない信号に基づき、学習用画像を生成する学習用画像生成手段と、
前記ラベル決定用画像に基づきラベルを決定するラベル決定手段と、
前記学習用画像と前記ラベルとを紐付けた教師データを生成し、教師データ記憶手段に記憶させる教師データ生成手段と、
を有する処理装置。
2. 前記教師データ記憶手段が記憶する前記教師データに基づく機械学習により、推定モデルを生成する推定モデル生成手段をさらに有する1に記載の処理装置。
3. 前記ラベル決定用画像生成手段は、
前記ラベル決定用画像を出力する手段と、
出力した前記ラベル決定用画像の前記ラベルのユーザ入力を受付ける手段と、
を有する1又は2に記載の処理装置。
4. 前記学習用画像生成手段は、受信された前記反射波の信号の中から、ランダムに、前記学習用画像の生成に利用する信号を選択する1から3のいずれかに記載の処理装置。
5. 前記電磁波送受信手段は、複数の前記送信アンテナから電磁波を照射し、複数の前記受信アンテナで反射波を受信し、
前記学習用画像生成手段は、受信された前記反射波の信号の中から、選択した前記送信アンテナから照射された前記電磁波に基づく前記反射波の信号、及び、選択した前記受信アンテナで受信した前記反射波の信号の少なくとも一方を除いた信号を、前記学習用画像の生成に利用する信号として選択する1から3のいずれかに記載の処理装置。
6. 前記電磁波送受信手段は、周波数を変えながら、前記送信アンテナから前記電磁波を照射し、
前記学習用画像生成手段は、受信された前記反射波の信号の中から、選択した周波数の信号を除いた信号を、前記学習用画像の生成に利用する信号として選択する1から3および5のいずれかに記載の処理装置。
7. 送信アンテナから電磁波を照射し、受信アンテナで反射波を受信する電磁波送受信手段と、
受信された前記反射波の信号に基づき、ラベル決定用画像を生成するラベル決定用画像生成手段と、
受信された前記反射波の信号の中の一部であって、前記ラベル決定用画像の生成に利用される信号よりも少ない信号に基づき、学習用画像を生成する学習用画像生成手段と、
前記ラベル決定用画像に基づきラベルを決定するラベル決定手段と、
前記学習用画像と前記ラベルとを紐付けた教師データを生成し、教師データ記憶手段に記憶させる教師データ生成手段と、
前記教師データ記憶手段が記憶する前記教師データに基づく機械学習により、推定モデルを生成する推定モデル生成手段と、
を有する処理装置が生成した前記推定モデルを記憶する推定モデル記憶手段と、
推定用送信アンテナから電磁波を照射し、推定用受信アンテナで反射波を受信する推定用電磁波送受信手段と、
受信された前記反射波の信号に基づき、推定用画像を生成する推定用画像生成手段と、
前記推定用画像と、前記推定モデルとに基づき、前記推定用画像に含まれる物体を推定する推定手段と、
を有する推定装置。
8. 前記電磁波送受信手段は、複数の前記送信アンテナから電磁波を照射し、複数の前記受信アンテナで反射波を受信し、
前記推定用電磁波送受信手段は、複数の前記推定用送信アンテナから電磁波を照射し、複数の前記推定用受信アンテナで反射波を受信し、
前記電磁波送受信手段と前記推定用電磁波送受信手段とは、同じ構成となっており、
複数の前記推定用送信アンテナの照射順番及び照射時間を、複数の前記送信アンテナの照射順番及び照射時間と同じにするパラメータ設定手段をさらに有する7に記載の推定装置。
9. 前記推定用画像生成手段は、前記推定用電磁波送受信手段で受信された前記反射波の信号の中の一部の信号に基づき、前記推定用画像を生成する8に記載の推定装置。
10. 前記推定用画像生成手段は、前記推定用電磁波送受信手段で受信された前記反射波の信号の中から、ランダムに、前記推定用画像の生成に利用する信号を選択する9に記載の推定装置。
11. 前記推定用画像生成手段は、前記推定用電磁波送受信手段で受信された前記反射波の信号の中から、選択した前記推定用送信アンテナから照射された前記電磁波に基づく前記反射波の信号、及び、選択した前記推定用受信アンテナで受信した前記反射波の信号の少なくとも一方を除いた信号を、前記推定用画像の生成に利用する信号として選択する9に記載の推定装置。
12. 前記推定用電磁波送受信手段は、周波数を変えながら、前記推定用送信アンテナから前記電磁波を照射し、
前記推定用画像生成手段は、前記推定用電磁波送受信手段で受信された前記反射波の信号の中から、選択した周波数の信号を除いた信号を、前記推定用画像の生成に利用する信号として選択する9または11に記載の推定装置。
13. 前記電磁波送受信手段は、複数の前記送信アンテナから電磁波を照射し、複数の前記受信アンテナで反射波を受信し、
前記推定用電磁波送受信手段は、複数の前記推定用送信アンテナから電磁波を照射し、複数の前記推定用受信アンテナで反射波を受信し、
電磁波を照射する前記推定用送信アンテナの数は、電磁波を照射する前記送信アンテナの数より少なく、
反射波を受信する前記推定用受信アンテナの数は、反射波を受信する前記受信アンテナの数より少ない7に記載の推定装置。
14. 複数の前記推定用送信アンテナの中の左右方向の両端に位置する前記推定用送信アンテナ間の距離と、複数の前記送信アンテナの中の左右方向の両端に位置する前記送信アンテナ間の距離は、同一である13に記載の推定装置。
15. 複数の前記推定用受信アンテナの中の左右方向の両端に位置する前記推定用受信アンテナ間の距離と、複数の前記受信アンテナの中の左右方向の両端に位置する前記受信アンテナ間の距離は、同一である13又は14に記載の推定装置。
16. コンピュータが、
送信アンテナから電磁波を照射し、受信アンテナで反射波を受信し、
受信された前記反射波の信号に基づき、ラベル決定用画像を生成し、
受信された前記反射波の信号の中の一部であって、前記ラベル決定用画像の生成に利用される信号よりも少ない信号に基づき、学習用画像を生成し、
前記ラベル決定用画像に基づきラベルを決定し、
前記学習用画像と前記ラベルとを紐付けた教師データを生成し、教師データ記憶手段に記憶させる処理方法。
17. コンピュータが、
送信アンテナから電磁波を照射し、受信アンテナで反射波を受信する電磁波送受信手段と、
受信された前記反射波の信号に基づき、ラベル決定用画像を生成するラベル決定用画像生成手段と、
受信された前記反射波の信号の中の一部であって、前記ラベル決定用画像の生成に利用される信号よりも少ない信号に基づき、学習用画像を生成する学習用画像生成手段と、
前記ラベル決定用画像に基づきラベルを決定するラベル決定手段と、
前記学習用画像と前記ラベルとを紐付けた教師データを生成し、教師データ記憶手段に記憶させる教師データ生成手段と、
前記教師データ記憶手段が記憶する前記教師データに基づく機械学習により、推定モデルを生成する推定モデル生成手段と、
を有する処理装置が生成した前記推定モデルを記憶しておき、
推定用送信アンテナから電磁波を照射し、推定用受信アンテナで反射波を受信し、
受信された前記反射波の信号に基づき、推定用画像を生成し、
前記推定用画像と、前記推定モデルとに基づき、前記推定用画像に含まれる物体を推定する推定方法。