IP Force 特許公報掲載プロジェクト 2022.1.31 β版

知財求人 - 知財ポータルサイト「IP Force」

▶ パナソニックIPマネジメント株式会社の特許一覧

特許7539115識別情報付与装置、識別情報付与方法、及びプログラム
<>
  • 特許-識別情報付与装置、識別情報付与方法、及びプログラム 図1
  • 特許-識別情報付与装置、識別情報付与方法、及びプログラム 図2
  • 特許-識別情報付与装置、識別情報付与方法、及びプログラム 図3
  • 特許-識別情報付与装置、識別情報付与方法、及びプログラム 図4
  • 特許-識別情報付与装置、識別情報付与方法、及びプログラム 図5
  • 特許-識別情報付与装置、識別情報付与方法、及びプログラム 図6
  • 特許-識別情報付与装置、識別情報付与方法、及びプログラム 図7
  • 特許-識別情報付与装置、識別情報付与方法、及びプログラム 図8
  • 特許-識別情報付与装置、識別情報付与方法、及びプログラム 図9
  • 特許-識別情報付与装置、識別情報付与方法、及びプログラム 図10
  • 特許-識別情報付与装置、識別情報付与方法、及びプログラム 図11
  • 特許-識別情報付与装置、識別情報付与方法、及びプログラム 図12
  • 特許-識別情報付与装置、識別情報付与方法、及びプログラム 図13
  • 特許-識別情報付与装置、識別情報付与方法、及びプログラム 図14
  • 特許-識別情報付与装置、識別情報付与方法、及びプログラム 図15
< >
(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】
(24)【登録日】2024-08-15
(45)【発行日】2024-08-23
(54)【発明の名称】識別情報付与装置、識別情報付与方法、及びプログラム
(51)【国際特許分類】
   G06N 20/00 20190101AFI20240816BHJP
   G06T 7/00 20170101ALI20240816BHJP
【FI】
G06N20/00 130
G06T7/00 350B
【請求項の数】 13
(21)【出願番号】P 2021566796
(86)(22)【出願日】2020-07-28
(86)【国際出願番号】 JP2020028895
(87)【国際公開番号】W WO2021131127
(87)【国際公開日】2021-07-01
【審査請求日】2023-05-29
(31)【優先権主張番号】P 2019231757
(32)【優先日】2019-12-23
(33)【優先権主張国・地域又は機関】JP
(73)【特許権者】
【識別番号】314012076
【氏名又は名称】パナソニックIPマネジメント株式会社
(74)【代理人】
【識別番号】100106518
【弁理士】
【氏名又は名称】松谷 道子
(74)【代理人】
【識別番号】100132241
【弁理士】
【氏名又は名称】岡部 博史
(74)【代理人】
【識別番号】100135703
【弁理士】
【氏名又は名称】岡部 英隆
(74)【代理人】
【識別番号】100163902
【弁理士】
【氏名又は名称】市川 奈月
(72)【発明者】
【氏名】伊藤 智祥
(72)【発明者】
【氏名】秦 秀彦
(72)【発明者】
【氏名】市村 大治郎
(72)【発明者】
【氏名】宮田 淳司
(72)【発明者】
【氏名】沖本 純幸
(72)【発明者】
【氏名】田中 朗宏
(72)【発明者】
【氏名】水嶋 海都
【審査官】坂庭 剛史
(56)【参考文献】
【文献】特開2012-042990(JP,A)
【文献】特開平06-244747(JP,A)
【文献】秦 秀彦、伊藤智祥、安達孝夫、金子有旗,B2B向け現場サイバーフィジカルシステム化技術,パナソニック技報[online],日本,パナソニック株式会社,2019年05月15日,Vol.65,No.1(2019年5月号),pp.9-14
(58)【調査した分野】(Int.Cl.,DB名)
G06N 20/00
G06T 7/00
(57)【特許請求の範囲】
【請求項1】
連続性のある複数の画像データを取得する取得部と、
前記複数の画像データに対し、指標値を求め、当該指標値を利用して全ての前記画像データから一部を学習用データとして選択する選択部と、
複数の画像データ及び各画像データに含まれる識別情報の関係を学習済みの学習モデルを用いて、前記選択部で選択された画像データに識別情報を付与する付与部と、
前記付与部で前記識別情報が付与された前記画像データを用いて前記学習モデルを更新する更新部とを備え、
前記付与部は、更新された前記学習モデルを用いて前記取得部が取得した残りの画像データに識別情報を付与する
識別情報付与装置。
【請求項2】
前記画像データと、当該画像データに前記付与部で付与された前記識別情報とを表示部に表示し、前記識別情報を修正するリクエストを受け付け、当該リクエストにしたがって前記識別情報を修正する修正部をさらに備え、
前記更新部は、前記修正部で前記識別情報が修正された画像データを用いて学習モデルを更新する
請求項1に記載の識別情報付与装置。
【請求項3】
前記選択部は、前記複数の画像データにランダムな値を指標値として付し、当該指標値の降順又は昇順で学習用データとする画像データを選択する
請求項1または2に記載の識別情報付与装置。
【請求項4】
前記複数の画像データの全てについて、既存の識別モデルを用いて予め仮の識別情報である仮識別情報を付与する前処理部をさらに備え、
前記選択部は、前記前処理部で付与された前記仮識別情報が、所定の条件に該当するか否かに応じた指標値を設定し、当該指標値を用いて学習用データとする画像データを選択する
請求項1または2に記載の識別情報付与装置。
【請求項5】
連続性のある複数の画像データを取得する取得部と、
前記複数の画像データから、全ての前記画像データの一部を学習用データとして選択する選択部と、
複数の画像データ及び各画像データに含まれる識別情報の関係を学習済みの学習モデルを用いて、前記選択部で選択された画像データに識別情報を付与する付与部と、
前記付与部で前記識別情報が付与された前記画像データを用いて前記学習モデルを更新する更新部とを備え、
前記付与部は、更新された前記学習モデルを用いて前記取得部が取得した残りの画像データに識別情報を付与する
識別情報付与装置。
【請求項6】
前記画像データと、当該画像データに前記付与部で付与された前記識別情報とを表示部に表示し、前記識別情報を修正するリクエストを受け付け、当該リクエストにしたがって前記識別情報を修正する修正部をさらに備え、
前記更新部は、前記修正部で前記識別情報が修正された画像データを用いて学習モデルを更新する
請求項5に記載の識別情報付与装置。
【請求項7】
前記選択部は、前記複数の画像データから、ランダムに学習用データとする画像データを選択する
請求項5または6に記載の識別情報付与装置。
【請求項8】
前記複数の画像データの全てについて、既存の識別モデルを用いて予め仮の識別情報である仮識別情報を付与する前処理部をさらに備え、
前記選択部は、前記前処理部で付与された前記仮識別情報が、所定の条件に該当する場合、前記画像データを学習用データとする画像データを選択する
請求項5または6に記載の識別情報付与装置。
【請求項9】
前記画像データは、所定の空間において撮影された画像データであり、前記識別情報は、前記空間を移動する動体を識別する情報とともに、前記空間における位置情報とを含み、
前記選択部は、前記前処理部で得られた前記仮識別情報で特定される位置情報が、前記空間のレイアウト情報に応じて不適切と定められる条件に該当する画像データを、学習用データとして選択する
請求項4または8に記載の識別情報付与装置。
【請求項10】
前記画像データは、所定の空間において撮影された画像データであり、前記識別情報は、前記空間を移動する動体を識別する情報とともに、前記空間における位置情報とを含み、
前記選択部は、前記前処理部で得られた前記仮識別情報で特定される位置情報が、前記空間内で動体を検出するセンサで検出された動体の検出データで特定される前記動体の位置情報と異なる画像データを、学習用データとして選択する
請求項4又は8に記載の識別情報付与装置。
【請求項11】
前記複数の画像データの全てについて、第1の画像データと、当該第1の画像と連続して撮影された画像データである第2の画像データとの差分を求める差分演算部をさらに備え、
前記選択部は、前記差分演算部で得られた差分を指標値とし、当該指標値が所定の範囲である場合、前記第1の画像データ又は前記第2の画像データを学習用データとして選択する
請求項1、2、5又は8に記載の識別情報付与装置。
【請求項12】
連続性のある複数の画像データを取得する取得ステップと、
前記複数の画像データに対し、指標値を求め、当該指標値を利用して全ての前記画像データから一部を学習用データとして選択する選択ステップと、
複数の画像データ及び各画像データに含まれる識別情報の関係を学習済みの学習モデルを用いて、前記選択ステップで選択された画像データに前記識別情報を付与する第1付与ステップと、
前記第1付与ステップで前記識別情報が付与された前記画像データを用いて前記学習モデルを更新する更新ステップと、
更新された前記学習モデルを用いて前記取得ステップで取得した残りの画像データに前記識別情報を付与する第2付与ステップとを含む、
識別情報付与方法。
【請求項13】
コンピュータに、請求項12に記載の方法を実行させるプログラム。
【発明の詳細な説明】
【技術分野】
【0001】
本開示は、機械学習で使用するデータに識別情報を付与する識別情報付与装置、識別情報付与方法、及びプログラムに関する。
【背景技術】
【0002】
近年、機械学習が様々な分野で利用されている。機械学習では、学習用データの量が重要であり、多量の学習用データで学習させることで、精度の高い結果を得ることができる。このとき、予め、データに関連する情報の付与を行う必要がある。このような作業はアノテーションと呼ばれ、例えば、写真データに人が写っている場合、写真データにおける人が存在する領域の位置情報や「人」というカテゴリ等の情報等が付与される。
【0003】
学習用データの量は膨大であるため、アノテーションの作業は、人手で行うと多大な手間と時間を要する。特許文献1では、人手による作業を軽減する技術が記載されている。特許文献1では、はじめに手作業で基準データを生成し、この基準データを利用して学習用データを生成する技術が記載されている。
【先行技術文献】
【特許文献】
【0004】
【文献】特開2018-200531号公報
【発明の概要】
【発明が解決しようとする課題】
【0005】
本開示は、学習モデルの学習に効率的な学習用データを選択することのできる識別情報付与装置、識別情報付与方法、及びプログラムを提供する。
【課題を解決するための手段】
【0006】
本開示の識別情報付与装置は、連続性のある複数の画像データを取得する取得部と、複数の画像データに対し、指標値を求め、当該指標値を利用して全ての画像データから一部を学習用データとして選択する選択部と、複数の画像データ及び各画像データに含まれる識別情報の関係を学習済みの学習モデルを用いて、選択部で選択された画像データに識別情報を付与する付与部と、付与部で識別情報が付与された画像データを用いて学習モデルを更新する更新部とを備え、付与部は、更新された学習モデルを用いて取得部が取得した残りの画像データに識別情報を付与する。
【0007】
これらの概括的かつ特定の態様は、システム、方法、及びコンピュータプログラム、並びに、それらの組み合わせにより、実現されてもよい。
【発明の効果】
【0008】
本開示の識別情報付与装置、識別情報付与方法、及びプログラムによれば、機械学習の利用において、学習モデルの学習に効率的な学習用データを選択することができる。
【図面の簡単な説明】
【0009】
図1】実施の形態1に係る識別情報付与装置を含む動線分析システムの構成を説明するブロック図である。
図2】実施の形態1に係る識別情報付与装置の構成を説明するブロック図である。
図3】識別情報付与装置で識別情報を付与する一連の画像データの説明図である。
図4】識別情報付与装置における第1アノテーション用の画像データの選択の説明図である。
図5】実施の形態1に係る識別情報付与装置で画像データに付与される識別情報の一例である。
図6】実施の形態1に係る識別情報付与及び学習モデル更新の処理を説明するフローチャートである。
図7】実施の形態2に係る識別情報付与装置の構成を説明するブロック図である。
図8】実施の形態2に係る識別情報付与装置で利用する条件データの説明図である。
図9】実施の形態2に係る識別情報付与装置で利用する条件データの他の説明図である。
図10】実施の形態2に係る識別情報付与及び学習モデル更新の処理を説明するフローチャートである。
図11】実施の形態3に係る識別情報付与装置の構成を説明するブロック図である。
図12】実施の形態3に係る識別情報付与装置における検出データと仮識別情報の比較の説明図である。
図13】実施の形態3に係る識別情報付与及び学習モデル更新の処理を説明するフローチャートである。
図14】実施の形態4に係る識別情報付与装置の構成を説明するブロック図である。
図15】実施の形態4に係る識別情報付与及び学習モデル更新の処理を説明するフローチャートである。
【発明を実施するための形態】
【0010】
[本開示の基礎となった知見]
近年、機械学習の利用が広い分野に普及している。また、高速GPU(Graphics Processing Unit)サーバ等の演算装置の進歩により、画像データの処理速度の向上も進んでいる。これにより、機械学習を利用した動画像データを利用する情報の分析等により、人間だけでは分析が困難であった内容も詳細に分析できるようになっている。例えば、工場、倉庫、店舗、オフィス等の様々な場所における人や物等の動体の動きを解析し、これを分析する際にも、機械学習を利用することで、多量のデータを利用し、人間による分析だけでは困難であった高精度の分析を可能とする。
【0011】
ところで、このように機械学習を利用する場合、学習用データの生成が学習モデルの生成に大きく左右する。例えば、複数の画像データから選択した画像データを用いて学習モデルを生成する際、学習用データとする画像データの選択により学習の効率が左右される。しかしながら、多量の画像データから、学習モデルの生成に利用する画像データを効率的に選択することは困難であった。
【0012】
本開示は、機械学習において効果的な学習を可能とする画像データを選択するとともに、画像データへの識別情報を効率的に行う識別情報付与装置、識別情報付与方法及びプログラムを提供する。これにより、精度の高い結果を得ることのできる学習用データを生成することができる。
【0013】
[実施形態]
以下に、図面を用いて本開示における実施形態を、図面を適宜参照しながら説明する。ただし、詳細な説明において、従来技術および実質的に同一の構成に関する説明のうち不必要な部分は省略されることもある。これは、説明を簡単にするためである。また、以下の説明および添付の図面は、当業者が本開示を充分に理解できるよう開示されるのであって、特許請求の範囲の主題を限定することを意図されていない。
【0014】
本開示に係る、識別情報付与装置、識別情報付与方法及びプログラムは、機械学習の学習用データの生成の際に自動で識別情報を付与するものである。以下では、識別情報付与装置は、対象の空間における動体の動線分析のために利用する学習用データを拡張する一例で説明する。
【0015】
以下の説明では、「学習モデル」は、画像データに識別情報を付与するものであるものとして説明する。
【0016】
「識別情報」とは、機械学習の学習用データとなる画像データへ付与されるタグやメタデータ等の情報である。また、「識別情報の付与」とは、画像データへのタグやメタデータの付与であって、「アノテーション」と同義である。
【0017】
「動線」とは、人や物等の動体が移動する経路や軌跡をいう。また、「動体」とは、動線分析の対象である、人や物等である。「物」とは、例えば、人によって動かされるカート等である。「動線分析」とは、人や物の動線を記録し、統計的なデータとして分析及び出力することである。
【0018】
以下では、識別情報付与装置が、動体を含む画像データに対し、この画像データを機械学習の学習用データとするため、画像に含まれる動体に関する識別情報を付与する例で説明する。
【0019】
〈実施の形態1〉
〈動線分析システム〉
図1に示すように、実施の形態1に係る識別情報付与装置1は、例えば、人等の動きを分析する動線分析システム100で利用される。動線分析システム100は、識別情報付与装置1とともに、撮影装置2、センサ3、センサ値処理装置4及び動線分析装置5を有する。
【0020】
識別情報付与装置1は、撮影装置2で撮影された画像データに識別情報を付与するものである。識別情報付与装置1の具体的な構成及び識別情報付与装置1における処理等については、図2乃至図6を用いて後述する。
【0021】
撮影装置2は、動線分析の対象となる空間を撮影するカメラである。この撮影装置2は、必ずしも動画像を撮影するものである必要はないが、動線分析システム100は、人等の動体の動きを分析するものであるため、連続した複数フレームの画像を撮影可能とする必要がある。図1では、1台の撮影装置2のみ示すが、対象となる空間全体を撮影することが好ましいため、動線分析システム100は、複数台の撮影装置2を備えてもよい。また、動線分析システム100では、これら複数の撮影装置2で同時に撮影された画像データを1枚の画像データに合成して利用することが可能である。例えば、1台の撮影装置2では、撮影範囲の制限により動線分析の対象の空間全体を撮影することができない場合であっても、複数台の撮影装置2で撮影された画像を合成することで、広範囲の画像データを得ることが可能となる。なお、以下の説明においては、1のタイミングで撮影される画像データは、1枚であるもの、または、既に合成されたものとして説明し、合成処理については説明を省略する。
【0022】
センサ3は、例えば、赤外線や超音波を利用して人の存在を検知する人感センサである。また、センサ3は、音を入力して人等の動きを検知する音センサであってもよい。センサ3は、人、物等に備えられる発信器から発信される電波を受信するものであってもよい。なお、図1では、1台のセンサ3のみ示すが、動線分析システム100は、複数台のセンサ3を備えてもよく、また、複数種類のセンサを備えてもよい。動線分析において、センサ3による検知結果を利用することで、画像データのみから動体を検知する場合と比較して、動体の検知の精度を向上させることができる。例えば、センサ3から得られる位置情報を画像データとともに活用し、画像データに識別情報を付与した対象が、カートであるかどうかを判定するために使用することができる。具体的には、カートにセンサ3として発信器が設置されている場合、そのセンサ3の電波により、画像データ中でそのカートがどこに含まれるかを正確に判断することができるためである。
【0023】
センサ値処理装置4は、センサ3によって得られたセンサ値を処理し、対象の空間における動体に関する情報をセンサ値データとして生成する。
【0024】
動線分析装置5は、識別情報付与装置1によって識別情報が付与されて生成された画像データ、センサ値処理装置4によって処理されたセンサ値データを用いて、対象の空間における、人等の動線分析データを生成する。生成された動線分析データを用いることにより、対象の空間における物の配置や作業内容の改善を効果的に行うことが可能となる。
【0025】
〈識別情報付与装置〉
続いて、識別情報付与装置1について説明する。識別情報付与装置1は、図2に示すように、制御部10、記憶部20、通信インタフェース(I/F)21、入力部22及び出力部23等を備える情報処理装置である。
【0026】
制御部10は、識別情報付与装置1全体の制御を司るコントローラである。例えば、制御部10は、記憶部20に記憶される識別情報付与プログラムPを読み出して実行することにより、取得部11、選択部12、付与部13、修正部14及び更新部15としての処理を実現する。また、制御部10は、ハードウェアとソフトウェアの協働により所定の機能を実現するものに限定されず、所定の機能を実現する専用に設計されたハードウェア回路でもよい。すなわち、制御部10は、CPU、MPU、GPU、FPGA、DSP、ASIC等、種々のプロセッサで実現することができる。
【0027】
記憶部20は種々の情報を記録する記録媒体である。記憶部20は、例えば、RAM、ROM、フラッシュメモリ、SSD(Solid State Device)、ハードディスク、その他の記憶デバイス又はそれらを適宜組み合わせて実現される。記憶部20には、制御部10が実行する識別情報付与プログラムPの他、識別情報で使用する情報や識別情報付与のために取得された種々の情報等が格納される。例えば、記憶部20は、学習モデル200、画像データ210及び識別情報220を記憶する。
【0028】
通信I/F21は、外部の装置(図示せず)とのデータ通信を可能とするためのインタフェース回路(モジュール)である。入力部22は、操作やデータの入力に利用される操作ボタン、キーボード、マウス、タッチパネル、マイクロフォン等の入力手段である。出力部23は、処理結果やデータの出力に利用されるディスプレイ、スピーカ等の出力手段である。
【0029】
なお、識別情報付与装置1は、複数の情報処理装置によって実現されてもよい。また、記憶部20に記憶されるデータの一部は外部の記憶装置に記憶され、外部の記憶装置から読み出して使用する構成であってもよい。例えば、識別情報付与装置1は、学習モデル200を使用可能であればよく、外部のサーバ装置等から読み出して利用可能な構成であってもよい。
【0030】
取得部11は、撮影装置2で撮影された連続性のある複数の画像データ210を取得する。また、取得部11は、取得した画像データ210を記憶部20に記憶させる。例えば、各画像データ210は、図3に示すような、動画像データの各フレームである。なお、以下では、必要に応じて、ある画像データを「第1の画像データ」とし、この第1の画像データに連続して撮影された画像データを「第2の画像データ」として説明する。
【0031】
選択部12は、複数の画像データ210から、全ての画像データ210から一部を学習用データとして選択する。以下では、図4に示すように、選択部12によって選択された画像データ210は、必要に応じて「第1アノテーション用の画像データ」(黒色で示す画像データ)として説明する。また、選択部12によって選択されない画像データ210は、必要に応じて「第2アノテーション用の画像」(破線で示す画像データ)として説明する。具体的には、選択部12は、複数の画像データ210から、学習用データとしてランダムに第1アノテーション用の画像データ211を選択する。
【0032】
付与部13は、画像データ210に、学習モデル200を用いて識別情報220を付与する。また、付与部13は、付与した識別情報220を画像データ210と関連付けて記憶部20に記憶させる。具体的には、付与部13は、選択部12で選択された第1アノテーション用の画像データ211に学習済みの学習モデル200を用いて識別情報220を付与する。この学習モデル200は、画像データ及び画像データに含まれる識別情報を学習済みである。学習モデル200は、例えば、汎用の学習モデルであって、その識別精度が十分でないものも含むとする。また、後に、学習モデル200が更新されると、付与部13は、更新された学習モデル200を用いて、取得部11が取得した残りの画像データ210、具体的には、第2アノテーション用の画像データ212に識別情報を付与する。
【0033】
修正部14は、第1アノテーション用の画像データ211と、付与部13により第1アノテーション用の画像データ211に付与された識別情報220とを出力部23に表示し、識別情報220を修正するリクエストを受け付ける。また、修正部14は、当該リクエストにしたがって識別情報220を修正する。
【0034】
更新部15は、識別情報220が付与された画像データ210を用いて学習モデル200を更新する。具体的には、更新部15は、複数の画像データ210と、各画像データ210に対応する正解データである識別情報220とが学習用データとして入力されると、学習器を用いて機械学習により、この画像データ210と識別情報220との関係を学習する。これにより、更新部15は、入力される画像データ210に対して識別情報を導く学習モデル200を更新する。更新部15が利用する学習器は、識別情報付与装置1の内部にあってもよいし、外部にあってもよい。このとき、学習器は、記憶部20に記憶される学習モデル200を再学習し、新たな学習モデル200を生成することができる。更新部15に更新されることにより、記憶部20に記憶される学習モデル200は、更新された新たな学習モデル200となる。なお、更新部15は、修正部14により識別情報220が修正された場合には、修正後の識別情報220及び対応する画像データ210を用いて学習モデル200を更新する。
【0035】
《選択部による画像データの選択》
選択部12は、上述したように、ランダムに第1アノテーション用の画像データ211を選択する。例えば、全ての画像データ210から、所定割合に相当する数の画像データ210をランダムに第1アノテーション用の画像データ211として選択する。画像データ210をランダムに選択する具体的な方法は限定しない。一例として、連続する全ての画像データ210にランダムに指標値である番号を付し、この指標値の降順または昇順で、所定割合に相当する数の画像データ210を選択する方法がある。この指標値は、第1アノテーション用の画像データ211の選択の指標として用いる値である。
【0036】
例えば、図4に示すような動画像データを構成する複数の連続する画像データ210では、時系列的に近い画像データ210同士は類似する傾向にある。このような類似する複数の画像データ210を学習用データとして学習するよりも、ランダムに選択された画像データ210を学習用データとした方が、学習モデル200は、効率的な学習結果を得ることができる。したがって、選択部12は、図4に一例を示すように、第1アノテーション用の画像データ211をランダムに選択する。
【0037】
《付与部による画像データの付与》
(第1アノテーション処理)
付与部13は、選択された第1アノテーション用の画像データ211に予め記憶部20で記憶される学習モデル200を用いて識別情報220を付与する。例えば、識別情報220としては、画像データ210において対象が抽出された「座標」、対象として抽出された領域のx軸方向の長さである「幅」とy軸方向の長さである「高さ」、対象の種別を特定する「クラス」等が関連付けられる情報である。対象の種別を特定する「クラス」とは、例えば、動線抽出の対象が『人』であるのか、『カート』であるのか等を特定する情報である。なお、画像データ210には、複数の対象を含むことがあるため、1枚の画像データ210から複数の領域が抽出され、複数の識別情報を付与することもある。また、付与部13は、この識別情報を、画像データ210に関連付けて記憶部20に記憶させる。
【0038】
例えば、付与部13は、図5に示すように第1アノテーション用の画像データ211に対し、複数の識別情報を付与する。図5に示す画像データ210は、例えば、複数の障害物310を含む空間のデータである。具体的には、付与部13は、画像データ210から識別対象の領域を選択し、選択された領域に含まれる識別対象の識別情報を付与する。図5に示す例では、付与部13が、人320の領域(破線の矩形)に対して「人」の識別情報を付与し、カート330の領域(一点鎖線の矩形)に対して「カート」の識別情報を付与した例である。また、図5に示す例では、人320の領域を破線の矩形で示し、カートの領域を一点鎖線の矩形で示すが、これは図面上区別しやすくするための一例である。また、図5の「人」と「カート」の領域が重なる例のように、識別対象が近接する場合、複数の識別対象の領域が重なる場合がある。なお、障害物310の位置を特定する座標等の情報については、予め記憶部20に記憶しておくことができる。
【0039】
(第2アノテーション処理)
付与部13は、第1アノテーションの後、更新された学習モデル200を用いて、残りの画像データである第2アノテーション用の画像データ212に識別情報を付与する。第2アノテーション用の画像データ212への識別情報の付与については、第1アノテーション処理と同一であるため、説明を省略する。
【0040】
〈識別情報付与及び学習モデル更新の処理〉
次に、図6に示すフローチャートを用いて、識別情報付与装置1で実行される識別情報220の付与及びその後の学習モデル200の更新までの一連の処理について説明する。
【0041】
取得部11は、撮影装置2で撮影された画像データ210を取得する(S1)。この画像データ210は、連続性のある複数フレームの画像データ210である。このとき、取得部11は、取得した画像データ210を、画像の撮影時刻と関連付けて記憶部20に記憶させる。
【0042】
選択部12は、ステップS1で取得された画像データ210から、ランダムに第1アノテーション用の画像データ211を選択する(S2)。ステップS1で取得された複数の画像データ210のうち、ステップS2で選択されなかった画像データ210は、第2アノテーション用の画像データ212となる。
【0043】
付与部13は、記憶部20に記憶される学習モデル200を用いて、ステップS2で選択された第1アノテーション用の画像データ211に識別情報220を付与する第1アノテーション処理を実行する(S3)。このとき、付与部13は、この識別情報220を画像データ210に関連付けて記憶部20に記憶させる。
【0044】
修正部14は、ステップS3で付与された識別情報220の修正を受け付けるため、第1アノテーション用の画像データ211及び対応する識別情報220を出力部23に表示させる(S4)。例えば、修正部14は、図5を用いて上述したような画像を表示させてもよい。
【0045】
入力部22を介して識別情報220の修正リクエストを受け付けた場合(S5でYES)、修正部14は、修正リクエストに従って識別情報220を修正し、記憶部20に反映させる(S6)。
【0046】
更新部15は、ステップS5で修正リクエストを受け付けなかった場合、又は、ステップS6で修正が終了した後、各第1アノテーション用の画像データ211及び識別情報220を用いて学習処理を実行し、学習モデル200を更新する(S7)。
【0047】
付与部13は、ステップS7で更新された学習モデル200を用いて、第2アノテーション処理を実行し、各第2アノテーション用の画像データ212に、識別情報220を付与する(S8)。このとき、付与部13は、この識別情報220を画像データ210に関連付けて記憶部20に記憶させる。
【0048】
その後、更新部15は、各第2アノテーション用の画像データ212及び識別情報220を用いて学習処理を実行し、記憶部20に記憶される学習モデル200を更新する(S9)。
【0049】
このように、識別情報付与装置1は、連続する複数の画像データ210から、ランダムに第1アノテーション用の画像データ211を選択することで、有用な学習用データをバランス良く選択することが可能となり、類似の画像データ210を学習用データとすることを防止することができる。このように選択された第1アノテーション用の画像データ211の利用により、効率の良い学習が可能となり、有用な学習モデル200を生成することを可能とする。その後、識別情報付与装置1は、この学習用データとして有用な第1アノテーション用の画像データ211を用いて学習モデル200を生成する。また、識別情報付与装置1は、生成された学習モデル200を用いてさらに学習用データとする第2アノテーション用の画像データ212に識別情報220を付して、学習モデル200を更新する。これにより、識別情報付与装置1は、効率の良い学習を可能とする。
【0050】
〈実施の形態2〉
図7を用いて、実施の形態2に係る識別情報付与装置1Aについて説明する。図1乃至図6を用いて上述した識別情報付与装置1は、第1アノテーション用の画像データ211を全ての画像データ210からランダムに選択していた。実施の形態2において、識別情報付与装置1Aは、記憶部20に予め登録されるレイアウト情報230及び条件データ240と、識別器を実現する既存の識別モデル250を用いて仮に付与された識別情報である仮識別情報260と、を利用する。以下では、図7に示すように、識別情報付与装置1Aは、図2を用いて上述した識別情報付与装置1と比較し、前処理部16を有し、記憶部20において、レイアウト情報230、条件データ240、識別モデル250及び仮識別情報260を記憶する点で異なる。
【0051】
レイアウト情報230は、空間のレイアウトに関する情報であり、空間への出入り口の位置、空間内で人等の動体が自由に移動可能な位置、空間内で動体の移動を妨げる障害物の位置等に関する座標情報を含む。
【0052】
条件データ240は、動線として不適切であるとして規定される条件である。条件データ240で規定する条件は、図8及び9を用いて後述する。
【0053】
識別モデル250は、例えば、画像データ210に識別情報を付与することができる汎用の識別モデルであって、画像データ210に対して識別情報を付与することができる。ただし、この識別モデル250は、識別精度が高いものである必要はない。したがって、識別モデル250により付与される識別情報は、信頼性が低い場合もある。
【0054】
仮識別情報260は、取得された各画像データ210にデータの前処理として、識別モデル250により仮に付与される識別情報である。
【0055】
前処理部16は、複数の画像データ210の全てについて、識別モデル250を用いて仮の識別情報として仮識別情報260を付与する。また、前処理部16は、画像データ210と関連付けて、仮識別情報260を記憶部20に記憶させる。ここで、連続する画像データ210で特定される複数の仮識別情報260を、動体毎に時系列で結ぶことにより、各動体の軌跡である動線が構成される。これにより、選択部12は、このように仮識別情報260に基づいて特定された動線を第1アノテーション用の画像データ211の選択に利用することができる。例えば、この動線が開始するべきでない位置で開始した場合、仮識別情報260としての動体の検知にエラーが発生したと扱うことができる。
【0056】
選択部12は、前処理部16で仮識別情報260が付与された複数の画像データ210に基づいて特定される動線から、画像データ210に付与された識別情報220を、対象の空間のレイアウト情報230と比較して、予め定められる条件データ240で規定される条件に該当するか否かを利用して第1アノテーション用の画像データ211を選択する。また例えば、選択部12は、第1の画像データ210の仮識別情報260で特定される位置から、第1の画像データ210に連続して撮影された画像データである第2の画像データの仮識別情報260で特定される位置への変化が、対象の空間のレイアウト情報230と比較して不適切と定められる条件に該当するとき、第2の画像データ210を、第1アノテーション用の画像データ211として選択する。例えば、選択部12は、不適切と定められる条件に該当する画像データ210と、条件に該当しない画像データ210とで異なる指標値を設定し、設定した指標値に応じて第1アノテーション用の画像データ211を選択してもよい。
【0057】
レイアウト情報230から、複数の画像データ210と対応する仮識別情報260で特定される動体の動線が、動線として適切であるか否かを特定することができる。具体的には、レイアウト情報230から、動線となり得る可能な移動範囲を特定することができる。また、連続する画像データ210の識別情報220から、動線として適切な動きを特定できる。したがって、識別情報付与装置1Aでは、このように動線として不適切な条件を、条件データ240として予め設定する。例えば、不適切な条件としては、以下のような条件が挙げられる。
【0058】
(1)出入口以外から開始又は終了する移動
特定の空間内で動体が移動する際、これらの移動は出入口から開始又は終了するものである。言い換えれば、出入口以外の場所から開始又は終了する移動は起こり得ない。したがって、図8に示すように、出入口340以外から開始する動線Lは、識別情報の付与の誤り等のエラーで生じたものと考えられる。また、同様に、出入口340以外で終了する動線も、識別情報の付与の誤り等のエラーで生じたものと考えられる。このような出入口以外から開始又は終了する条件を、不適切であるとして、予め条件データ240として定め、記憶部20に登録する。例えば、条件データ240では、仮識別情報260を用いて定められる動体の移動が、出入口340を特定する座標以外から開始又は終了する場合に不適切と規定する。
【0059】
(2)障害物を無視した移動
また、動体の移動は、障害物等を避けものである。具体的には、例えば、空間が店舗であれば、動体は、テーブル、棚等の障害物を避けて移動する。また、空間が工場である場合も同様に、動体は、棚、作業台、機械等の障害物を避けて移動する。したがって、図9に示すような障害物310上を移動するような動線Lは生じ得ない。このような障害物310を無視した動線Lも、識別情報の付与の誤り等のエラーで生じたものと考えられる。識別情報付与装置1Aは、このような条件も、不適切であるとして予め定め、記憶部20に登録する。例えば、条件データ240では、仮識別情報260を用いて定められる動体の位置が、移動可能として定められる領域の座標以外に存在する場合に不適切と規定する。
【0060】
なお、動画像データを構成する複数の画像データ210では、動体の位置が、移動可能として定められる領域以外に存在する期間が一定期間連続する場合もあると考えられる。このような連続する画像データ210を全て選択すると、ある期間の画像データ210が全て選択されることとなり、類似する第1アノテーション用の画像データ211の数が多くなる。そのため、連続する画像データ210の全てが選択されないようにする必要がある。例えば、選択部12は、第1アノテーション用の画像データ211として選択した場合、その後の所定期間の画像データ210を選択対象としないようにする。これにより、選択部12が複数の類似する画像データ210を選択することを防止できる。
【0061】
上述の条件データ240は、仮識別情報260の付与の誤り等のエラーが生じた画像データ210を検出するためのものである。したがって、条件データ240を用いて検出された画像データ210を学習用データとすることで、仮識別情報260の付与の誤りの生じた画像データ210を用いた学習を可能とし、識別情報付与の誤りを防ぐことのできる、識別精度の高い学習モデル200を生成することができる。
【0062】
〈識別情報付与及び学習モデル更新の処理〉
図10を用いて、識別情報付与装置1Aで実行される識別情報220の付与及びその後の学習モデル200の更新までの一連の処理について説明する。ここで、図6を用いて上述した処理と同一の処理については、同一の処理番号を付して説明を省略する。なお、図10のフローチャートにおいて、図6のフローチャートと異なる処理には処理番号に下線を付す。
【0063】
前処理部16は、ステップS1で取得部11が取得した各画像データ210に、識別モデル250を用いて、仮識別情報260を付与する(S101)。このとき、前処理部16は、仮識別情報260を、対応する画像データ210と関連付けて記憶部20に記憶させる。
【0064】
選択部12は、記憶部20に記憶されるレイアウト情報230及び条件データ240と、ステップS101で画像データ210に付与された仮識別情報260を用いて、第1アノテーション用の画像データ211を選択する(S102)。
【0065】
その後の処理は、図6を用いて上述した場合と同様に、ステップS102で選択された第1アノテーション用の画像データ211に学習モデル200を用いて識別情報を付与し(S3)、ステップS4~S9の処理を実行する。
【0066】
このように、識別情報付与装置1Aは、動線分析の対象の空間を撮影した連続する複数の画像データ210から、空間のレイアウト情報230を用いて、仮に付与される仮識別情報260の適否を判定し、判定結果を用いて第1アノテーション用の画像データ211を選択する。これにより、識別情報付与装置1Aは、識別情報220の自動付与が困難な画像データ210を第1アノテーション用の画像データ211として選択することができる。したがって、識別情報付与装置1Aにより、有用な学習用データの選択が可能となり、効率の良い学習が可能となり、有用な学習モデル200を生成することができる。
【0067】
〈実施の形態3〉
図11を用いて実施の形態3に係る識別情報付与装置1Bについて説明する。識別情報付与装置1Bは、既存の学習モデルである識別モデル250を用いて仮に付与された仮識別情報260と、センサ3で検出された検出データ270とを用いて、第1アノテーション用の画像データ211を選択する。したがって、実施の形態3に係る識別情報付与装置1Bは、図2を用いて上述した識別情報付与装置1と比較し、前処理部16及び受信部17を有し、記憶部20において、識別モデル250、仮識別情報260及び検出データ270を記憶する点で異なる。
【0068】
前処理部16は、実施の形態2で上述したように、全ての画像データ210に対し、識別モデル250を用いて予め仮識別情報260を付与する。
【0069】
受信部17は、動線分析の対象である空間に設置され、動体を検出するセンサ3で検出された動体の検出データ270を受信する。具体的には、検出データ270は、センサ値処理装置4によって処理されたセンサ値データである。また、検出データ270は、対象の空間内での動体の位置を特定することができるものである。
受信部17は、受信した検出データ270を、記憶部20に記憶させる。このとき、受信部17は、検出データ270を、センサ3による検出時刻が撮影時刻と対応する画像データ210、または、検出の時刻情報と関連付けて記憶部20に記憶させる。この検出データ270で特定される情報を用いて、動体の画像データ210での位置の座標を特定することができる。ここで、センサ3の検出の精度は高く、したがって、検出データ270から特定できる動体の位置は、信頼性が高いものとする。
【0070】
選択部12は、画像データ210の仮識別情報260で特定される位置が、検出データ270により特定される位置と異なる画像データ210を、第1アノテーション用の画像データ211として選択する。上述したように、画像データ210と、検出データ270とは、その取得時刻が対応するように記憶部20に記憶される。したがって、対応する画像データ210から特定される動体の位置と、検出データ270で特定される動体の位置とは、両者が正確であれば、一致するはずである。これにより、例えば、図12に示すように、検出データ270で特定される動線L2が継続しているにも関わらず、仮識別情報260で特定される動線Lが途切れた場合等のように、検出データ270で特定される位置と仮識別情報260で特定される位置とが一致しない範囲Xの画像データ210を第1アノテーション用の画像データ211として選択する。このような範囲の画像データ210は、識別対象である動体が識別できない例であり、このような画像データを学習用データとすることで、識別しにくい動体の識別を可能とする効果的な学習を可能とし、識別精度の高い学習モデル200を生成することができる。
【0071】
例えば、選択部12は、仮識別情報260で特定される位置と、検出データ270で特定される位置とが一致するか否かで、画像データ210に異なる指標値を設定し、設定した指標値に応じて第1アノテーション用の画像データ211を選択してもよい。
【0072】
なお、動画像データを構成する複数の画像データ210では、このように画像データ210から識別される仮識別情報260で特定される位置と、検出データ270で特定される位置とが不一致となる期間が一定期間連続する場合もあると考えられる。したがって、連続する画像データ210を全て選択すると、ある期間の画像データ210が全て選択されることとなり、類似する第1アノテーション用の画像データ211の数が多くなる。そのため、連続する画像データ210の全てが選択されないようにする必要がある。例えば、選択部12は、第1アノテーション用の画像データとして選択した場合、その後の所定期間の画像データ210を選択対象としないようにする。これにより、選択部12が複数の類似する画像データ210を選択することを防止できる。
【0073】
〈識別情報付与及び学習モデル更新の処理〉
図13を用いて、識別情報付与装置1Bで実行される識別情報付与及びその後の学習モデルの更新の一連の処理について説明する。ここで、図6を用いて上述した処理と同一の処理については、同一の処理番号を付して説明を省略する。なお、図13のフローチャートにおいて、図6のフローチャートと異なる処理には処理番号に下線を付す。
【0074】
受信部17は、センサ3から、検出データ270を受信する(S201)。このとき、受信部17は、検出データ270を、対応する画像データ210と関連付けて記憶部20に記憶させる。
【0075】
前処理部16は、ステップS1で取得部11が取得した各画像データ210に、識別モデル250を用いて、仮識別情報260を付与する(S202)。このとき、前処理部16は、仮識別情報260を、対応する画像データ210と関連付けて記憶部20に記憶させる。
【0076】
選択部12は、記憶部20に記憶される仮識別情報260で特定される動体の位置と、検出データ270で特定される動体の位置とが一致するか否かにより、第1アノテーション用の画像データ211を選択する(S203)。
【0077】
その後の処理は、図6を用いて上述した場合と同様に、ステップS203で選択された第1アノテーション用の画像データ211に学習モデル200を用いて識別情報を付与し(S3)、ステップS4~S9の処理を実行する。
【0078】
このように、識別情報付与装置1Bは、動線分析の対象の空間を撮影した連続する複数の画像データ210から、検出データ270を用いて、仮に付与される仮識別情報260の適否を判定し、判定結果を用いて第2アノテーション用の画像データ212を選択する。これにより、識別情報付与装置1Bは、識別情報220の自動付与が困難な画像データ210を第1アノテーション用の画像データ211として選択することができる。したがって、識別情報付与装置1Bにより、識別対象である動体が識別しにくい画像データ210を学習用データとし、効率の良い学習が可能となり、有用な学習モデル200を生成することができる。
【0079】
〈実施の形態4〉
図14を用いて実施の形態4に係る識別情報付与装置1Cについて説明する。識別情報付与装置1Bは、連続する画像データ210の差分を用いて、第1アノテーション用の画像データ211を選択する。そのため、実施の形態4に係る識別情報付与装置1Cは、図2を用いて上述した識別情報付与装置1と比較し、差分演算部18を有し、記憶部20において、閾値データ280及び差分データ290を記憶する点で異なる。
【0080】
差分演算部18は、複数の画像データ210の全てについて、第1の画像データ210と、当該第1の画像データと連続して撮影された画像データ210である第2の画像データ210との差分を求める。また、差分演算部18は、求めた差分を、差分の演算に用いた画像データ210と関連付けて、記憶部20に差分データ290として記憶させる。
【0081】
選択部12は、差分演算部18で得られた差分が所定の範囲である場合、第1の画像データ210または第2の画像データ210のいずれかを選択する。具体的には、選択部12は、差分を指標値として各画像データ210に異なる指標値を設定し、設定した指標値が所定の範囲であるか否かに応じて第1アノテーション用の画像データ211を選択してもよい。例えば、第2の画像データ210が選択される所定の範囲とは、学習用データとして利用するために有益な画像データ210である。
【0082】
(1)背景差分が小さい画像
動体が少ない、または、動体等の動きも小さい等の理由により、連続する画像データ210間で背景差分が小さくなると、誤検知が生じやすくなる。例えば、動線分析の目的で得られる画像データは、検出対象である動体以外の背景部分に、変化が生じることは少ない。このような状況で生じる誤検知としては、動体ではない対象以外の箇所を誤検知したり、動体を検知できなかったりする場合が挙げられる。このような誤検知が生じやすい画像データ210を学習用データとして多く利用して学習することで、学習モデル200の精度を向上させることができる。そのため、識別情報付与装置1Cでは、このような背景差分の下限の閾値を定めており、選択部12は、差分演算部18で得られた差分が下限閾値より小さくなる場合、このような画像データ210を選択する。
【0083】
(2)背景差分が大きい画像
動体が多い、または、動体の動きが大きい等の理由により、連続する画像データ210間で背景差分が大きくなると、正確に識別情報を付与することが困難となる。例えば、識別対象が多くなると、多クラス分類が必要になる場合もあるが、このような多クラス分類は複雑なため学習も難しい。このような誤検知が生じやすく、学習も困難な背景差分の大きい画像データ210を学習用データとして多く利用して学習することで、学習モデル200の精度を向上させることができる。そのため、識別情報付与装置1Cでは、このような背景差分の上限の閾値を定めており、選択部12は、差分演算部で得られた差分が上限閾値より大きくなる場合、このような画像データ210を選択する。
【0084】
なお、動画像データを構成する複数の画像データでは、背景差分が小さい画像は一定期間連続すると考えられる。同様に、動画像データにおいて、背景差分が大きい画像も一定期間連続すると考えられる。したがって、差分演算部18で得られた差分が下限閾値より小さい場合及び上限閾値より大きい場合に連続する画像データ210を全て選択すると、ある期間の画像データ210が全て選択されることとなり、類似する第1アノテーション用の画像データ211の数が多くなる。そのため、連続する画像データ210の全てが選択されないようにする必要がある。例えば、選択部12は、第1アノテーション用の画像データとして選択した場合、その後の所定期間の画像データ210を選択対象としないようにする。これにより、選択部12が複数の類似する画像データ210を選択することを防止できる。
【0085】
上述の閾値データ280は、識別情報220の付与の誤り等のエラーが生じやすい画像データ210を特定するためのものである。したがって、閾値データ280を用いて検出された画像データ210を学習用データとすることで、識別情報付与の誤りを防ぐことのできる、識別精度の高い学習モデル200を生成することができる。
【0086】
〈識別情報付与及び学習モデル更新の処理〉
図15を用いて、識別情報付与装置1Cで実行される識別情報220の付与及びその後の学習モデル200の更新の一連の処理について説明する。ここで、図6を用いて上述した処理と同一の処理については、同一の処理番号を付して説明を省略する。なお、図15のフローチャートにおいて、図6のフローチャートと異なる処理には処理番号に下線を付す。
【0087】
差分演算部18は、連続する各画像データの画像差分を演算する(S301)。このとき、差分演算部18は、求めた差分を、差分データ290として、演算に用いた画像データ210と関連付けて記憶部20に記憶させる。
【0088】
選択部12は、記憶部20に記憶される閾値データ280と、ステップS301で求めた差分とを比較して、第1アノテーション用の画像データ211を選択する(S302)。
【0089】
その後の処理は、図15を用いて上述した場合と同様に、ステップS203で選択された第1アノテーション用の画像データ211に学習モデル200を用いて識別情報を付与し(S3)、ステップS4~S9の処理を実行する。
【0090】
このように、識別情報付与装置1Cは、動線分析の対象の空間を撮影した連続する複数の画像データ210から、連続する画像データ210間の差分を用いて第1アノテーション用の画像データ211を選択する。これにより、識別情報付与装置1Cは、学習に効果的な画像データ210を第1アノテーション用の画像データ211として選択することができる。したがって、識別情報付与装置1Cにより、有用な学習用データの選択が可能となり、効率の良い学習が可能となり、有用な学習モデル200を生成することができる。
【0091】
[効果及び補足]
以上のように、本出願において開示する技術の例示として、上記実施形態を説明した。しかしながら、本開示における技術は、これに限定されず、適宜、変更、置き換え、付加、省略などを行った実施形態にも適用可能である。そこで、以下、他の実施形態を例示する。
【0092】
《実施形態の概要》
(1)本開示の識別情報付与装置は、連続性のある複数の画像データを取得する取得部と、複数の画像データに対し、指標値を求め、当該指標値を利用して全ての画像データから一部を学習用データとして選択する選択部と、複数の画像データ及び各画像データに含まれる識別情報の関係を学習済みの学習モデルを用いて、選択部で選択された画像データに識別情報を付与する付与部と、付与部で識別情報が付与された画像データを用いて学習モデルを更新する更新部とを備え、付与部は、更新された学習モデルを用いて取得部が取得した残りの画像データに識別情報を付与する。
【0093】
これにより、複数の画像データから学習に有効な画像データを学習用データとして選択し、効率の良い学習を可能とする。
【0094】
(2)(1)の識別情報付与装置は、画像データと、当該画像データに前記付与部で付与された識別情報とを表示部に表示し、識別情報を修正するリクエストを受け付け、当該リクエストにしたがって識別情報を修正する修正部をさらに備え、更新部は、修正部で識別情報が修正された画像データを用いて学習モデルを更新する。
【0095】
これにより、画像データから学習用データとして選択された一部の画像データに付与された識別情報を修正して学習モデルを生成し、他の画像データに対し有効な識別情報の付与を可能とする。
【0096】
(3)(1)~(2)の識別情報付与装置は、前記選択部は、前記複数の画像データにランダムな値を指標値として付し、当該指標値の降順又は昇順で学習用データを選択する。
【0097】
これにより、異なる画像データを学習用データとしてバランス良く選択することで、効率の良い学習を可能とする。
【0098】
(4)(1)~(2)の識別情報付与装置は、前記複数の画像データの全てについて、既存の識別モデルを用いて予め仮の識別情報である仮識別情報を付与する前処理部をさらに備え、前記選択部は、前記前処理部で付与された仮識別情報が、所定の条件に該当するか否かに応じた指標値を設定し、当該指標値を用いて学習用データとする画像データを選択してもよい。
【0099】
これにより、識別情報の自動付与が困難な画像データを学習用データとして選択することで、効率の良い学習を可能とする。
【0100】
(5)本開示の他の識別情報付与装置は、連続性のある複数の画像データを取得する取得部と、複数の画像データから、全ての前記画像データの一部を学習用データとして選択する選択部と、複数の画像データ及び各画像データに含まれる識別情報の関係を学習済みの学習モデルを用いて、選択部で選択された画像データに識別情報を付与する付与部と、付与部で識別情報が付与された前記画像データを用いて学習モデルを更新する更新部とを備え、付与部は、更新された学習モデルを用いて取得部が取得した残りの画像データに識別情報を付与する。
【0101】
これにより、複数の画像データから学習に有効な画像データを学習用データとして選択し、効率の良い学習を可能とする。
【0102】
(6)(5)の識別情報付与装置は、画像データと、当該画像データに付与部で付与された識別情報とを表示部に表示し、識別情報を修正するリクエストを受け付け、当該リクエストにしたがって識別情報を修正する修正部をさらに備え、更新部は、修正部で識別情報が修正された画像データを用いて学習モデルを更新してもよい。
【0103】
これにより、画像データから学習用データとして選択された一部の画像データに付与された識別情報を修正して学習モデルを生成し、他の画像データに対し有効な識別情報の付与を可能とする。
【0104】
(7)(5)または(6)の識別情報付与装置は、選択部は、前記複数の画像データから、ランダムに学習用データとする画像データを選択してもよい。
【0105】
これにより、異なる画像データを学習用データとしてバランス良く選択することで、効率の良い学習を可能とする。
【0106】
(8)(5)または(6)の識別情報付与装置は、複数の画像データの全てについて、既存の識別モデルを用いて予め仮の識別情報である仮識別情報を付与する前処理部をさらに備え、選択部は、前処理部で付与された仮識別情報が、所定の条件に該当する場合、画像データを学習用データとする画像データを選択してもよい。
【0107】
これにより、識別情報の自動付与が困難な画像データを学習用データとして選択することで、効率の良い学習を可能とする。
【0108】
(9)(4)または(8)の識別情報付与装置は、前記画像データは、所定の空間において撮影された画像データであり、前記識別情報は、前記空間を移動する動体を識別する情報とともに、前記空間における位置情報とを含み、前記選択部は、前記前処理部で得られた仮識別情報で特定される位置情報が、前記空間のレイアウト情報に応じて不適切と定められる条件に該当する画像データを、学習用データとして選択してもよい。
【0109】
これにより、識別情報の自動付与が困難な画像データを学習用データとして選択することで、効率の良い学習を可能とする。
【0110】
(10)(4)または(8)の識別情報付与装置は、前記画像データは、所定の空間において撮影された画像データであり、前記識別情報は、前記空間を移動する動体を識別する情報とともに、前記空間における位置情報とを含み、前記選択部は、前記前処理部で得られた仮識別情報で特定される位置情報が、前記空間内で動体を検出するセンサで検出された動体の検出データで特定される前記動体の位置情報と異なる画像データを、学習用データとして選択してもよい。
【0111】
これにより、識別情報の自動付与が困難な画像データを学習用データとして選択することで、効率の良い学習を可能とする。
【0112】
(11)(1)、(2)、(5)または(8)の識別情報付与装置は、前記複数の画像データの全てについて、第1の画像データと、当該第1の画像と連続して撮影された画像データである第2の画像データとの差分を求める差分演算部をさらに備え、前記選択部は、前記差分演算部で得られた差分を指標値とし、当該指標値が所定の範囲である場合、前記第1の画像データ又は前記第2の画像データを学習用データとして選択してもよい。
【0113】
これにより、学習に効果的な画像データを学習用データとして選択することで、効率の良い学習を可能とする。
【0114】
(12)本開示の画像処理方法は、連続性のある複数の画像データを取得する取得ステップと、複数の画像データに対し、指標値を求め、当該指標値を利用して全ての前記画像データから一部を学習用データとして選択する選択ステップと、複数の画像データ及び各画像データに含まれる識別情報の関係を学習済みの学習モデルを用いて、選択ステップで選択された画像データに識別情報を付与する第1付与ステップと、付与ステップで識別情報が付与された画像データを用いて学習モデルを更新する更新ステップと、更新された学習モデルを用いて取得ステップで取得した残りの画像データに識別情報を付与する第2付与ステップとを含む。
【0115】
これにより、取得する画像データから既存の学習モデルを利用して識別情報を付与し、また学習モデルを更新して目的とする学習モデルを生成することが可能となり、オペレータの手作業による識別情報の付与を不要とすることで、識別情報の付与の作業の簡易化と付与される識別情報の精度を向上させることができる。
【0116】
(13)本開示のプログラムは、コンピュータに(12)の方法を実行させる。
【0117】
これにより、取得する画像データから既存の学習モデルを利用して識別情報を付与し、また学習モデルを更新して目的とする学習モデルを生成することが可能となり、オペレータの手作業による識別情報の付与を不要とすることで、識別情報の付与の作業の簡易化と付与される識別情報の精度を向上させることができる。
【0118】
本開示の全請求項に記載の識別情報付与装置及び識別情報付与方法は、ハードウェア資源、(例えば、プロセッサ、メモリ、及びプログラム)との協働などによって、実現される。
【産業上の利用可能性】
【0119】
本開示の識別情報付与装置及び識別情報付与方法は、機械学習の教師データの作成に有用である。
【符号の説明】
【0120】
1,1A,1B,1C 識別情報付与装置
10 制御部
11 取得部
12 選択部
13 付与部
14 修正部
15 更新部
16 前処理部
17 受信部
18 差分演算部
20 記憶部
200 学習モデル
210 画像データ
211 第1アノテーション用の画像データ
212 第2アノテーション用の画像データ
220 識別情報
230 レイアウト情報
240 条件データ
250 識別モデル
260 仮識別情報
270 検出データ
280 閾値データ
290 差分データ
P 識別情報付与プログラム
21 通信I/F
22 入力部
23 出力部(表示部)
図1
図2
図3
図4
図5
図6
図7
図8
図9
図10
図11
図12
図13
図14
図15