IP Force 特許公報掲載プロジェクト 2022.1.31 β版

知財求人 - 知財ポータルサイト「IP Force」

▶ 日本電気株式会社の特許一覧

特開2024-99635画像分析装置、画像分析方法及びプログラム
(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公開特許公報(A)
(11)【公開番号】P2024099635
(43)【公開日】2024-07-25
(54)【発明の名称】画像分析装置、画像分析方法及びプログラム
(51)【国際特許分類】
   G06F 3/04817 20220101AFI20240718BHJP
   G06T 7/00 20170101ALI20240718BHJP
   H04N 7/18 20060101ALI20240718BHJP
   G06F 3/04847 20220101ALI20240718BHJP
【FI】
G06F3/04817
G06T7/00 Z
H04N7/18 D
G06F3/04847
【審査請求】有
【請求項の数】10
【出願形態】OL
(21)【出願番号】P 2024066652
(22)【出願日】2024-04-17
(62)【分割の表示】P 2022538515の分割
【原出願日】2020-07-20
(71)【出願人】
【識別番号】000004237
【氏名又は名称】日本電気株式会社
(74)【代理人】
【識別番号】100110928
【弁理士】
【氏名又は名称】速水 進治
(72)【発明者】
【氏名】吉田 諭史
(72)【発明者】
【氏名】西村 祥治
【テーマコード(参考)】
5C054
5E555
5L096
【Fターム(参考)】
5C054CA04
5C054CC02
5C054EA03
5C054HA19
5E555AA79
5E555BA02
5E555BB02
5E555BC17
5E555BE09
5E555CA02
5E555CA12
5E555CA18
5E555CB34
5E555CC03
5E555DB18
5E555DB56
5E555EA22
5E555FA00
5L096CA05
5L096DA03
(57)【要約】      (修正有)
【課題】画像データの分析処理の全体を適切に構成することを容易に行うことが可能な画像分析装置などを提供する。
【解決手段】画像分析装置は、分析の対象となる画像データの入力元を示す複数の入力元アイコン、画像データに対する画像処理エンジンを示す複数の画像処理アイコン、画像処理エンジンによる処理結果の出力先を示す少なくとも1つの出力先アイコンを含む複数のアイコンを画面に配置するための指示を受け付け、当該指示に基づいて複数のアイコンを画面に配置するアイコン配置部と、画面に配置されたアイコン間を接続するための接続指示を受け付ける接続部と、接続指示に基づいて、アイコン間のデータの流れを設定して画面に表示するデータフロー設定部とを備える。接続指示は、少なくとも1つの画像処理アイコンを介在させて、複数の入力元アイコンの少なくとも1つと前記少なくとも1つの出力先アイコンとを接続する指示を含む。
【選択図】図1
【特許請求の範囲】
【請求項1】
分析の対象となる画像データの入力元を示す複数の入力元アイコン、前記画像データに対する画像処理エンジンを示す複数の画像処理アイコン、画像処理エンジンによる処理結果の出力先を示す少なくとも1つの出力先アイコンを含む複数のアイコンを画面に配置するための指示を受け付け、当該指示に基づいて前記複数のアイコンを画面に配置するアイコン配置手段と、
前記画面に配置されたアイコン間を接続するための接続指示を受け付ける接続手段と、
前記接続指示に基づいて、前記アイコン間のデータの流れを設定して前記画面に表示するデータフロー設定手段とを備え、
前記接続指示は、少なくとも1つの前記画像処理アイコンを介在させて、前記複数の入力元アイコンの少なくとも1つと前記少なくとも1つの出力先アイコンとを接続する指示を含む
画像分析装置。
【請求項2】
前記画面に配置された画像処理アイコンが選択されると、当該選択された画像処理アイコンに対応する前記画像処理エンジンに適用するパラメータに対する設定値を受け付けるパラメータ設定手段をさらに備える
請求項1に記載の画像分析装置。
【請求項3】
前記パラメータ設定手段は、
前記画面に配置された画像処理アイコンが選択されると、当該選択された画像処理アイコンに対応する前記画像処理エンジンに適用する前記パラメータに対する設定値の候補を、前記画像データの少なくとも一部に基づいて求めるパラメータ推定手段と、
前記求められた候補を前記画面に表示させるパラメータ候補表示手段と、
前記パラメータの設定値を受け付けるパラメータ受付手段とを含む
請求項2に記載の画像分析装置。
【請求項4】
前記パラメータ推定手段は、
前記画面に配置された画像処理アイコンが選択されると、当該選択された画像処理アイコンに対応付けられた画像処理エンジンが人物を識別する機能を含む場合に、当該画像処理エンジンによる処理において、前記画像データの少なくとも一部を構成するフレーム画像に含まれる人物がすべて異なる人物であると分析されるように前記設定値の候補を求める
請求項3に記載の画像分析装置。
【請求項5】
前記パラメータ推定手段は、
前記画面に配置された画像処理アイコンが選択されると、当該選択された画像処理アイコンに対応付けられた画像処理エンジンによる処理を前記画像データの少なくとも一部に対して実行することによって得られる1つ又は複数のサンプル画像を前記画面に表示させるサンプル表示手段と、
前記1つ又は複数のサンプル画像に対するユーザの評価を受け付ける評価受付手段と、
前記処理結果に基づいて、前記設定値の候補を求める候補取得手段とを含む
請求項3又は4に記載の画像分析装置。
【請求項6】
前記画像データに対して、前記画面に配置された複数のアイコン及び当該複数のアイコンの接続関係に従った分析処理を実行する分析手段をさらに備え、
前記パラメータ設定手段は、前記画面に配置された複数のアイコンの各々に対応付けられた設定値から構成される複数組の設定値を受け付け、
前記分析手段は、前記設定値の各組について、前記画面に配置された複数のアイコンの接続関係に従って前記画像データに対する分析処理を実行する
請求項2から5のいずれか1項に記載の画像分析装置。
【請求項7】
前記分析手段は、
前記分析処理の結果に異常が発生するか否かを予想する異常予想手段と、
前記異常が発生すると予想された場合に、前記設定値の変更を促すための報知をする分析中断手段とを含む
請求項6に記載の画像分析装置。
【請求項8】
前記分析手段は、
前記分析処理の結果に異常が含まれるか否かを判定する異常検出手段と、
前記異常が含まれると判定された場合に、前記設定値の変更を促すための報知をする異常報知手段とを含む
請求項6又は7に記載の画像分析装置。
【請求項9】
分析の対象となる画像データの入力元を示す複数の入力元アイコン、前記画像データに対する画像処理エンジンを示す複数の画像処理アイコン、画像処理エンジンによる処理結果の出力先を示す少なくとも1つの出力先アイコンを含む複数のアイコンを画面に配置するための指示を受け付け、当該指示に基づいて前記複数のアイコンを画面に配置し、
前記画面に配置されたアイコン間を接続するための接続指示を受け付け、
前記接続指示に基づいて、前記アイコン間のデータの流れを設定して前記画面に表示することを含み、
前記接続指示は、少なくとも1つの前記画像処理アイコンを介在させて、前記複数の入力元アイコンの少なくとも1つと前記少なくとも1つの出力先アイコンとを接続する指示を含む
画像分析方法。
【請求項10】
コンピュータに、
分析の対象となる画像データの入力元を示す複数の入力元アイコン、前記画像データに対する画像処理エンジンを示す複数の画像処理アイコン、画像処理エンジンによる処理結果の出力先を示す少なくとも1つの出力先アイコンを含む複数のアイコンを画面に配置するための指示を受け付け、当該指示に基づいて前記複数のアイコンを画面に配置し、
前記画面に配置されたアイコン間を接続するための接続指示を受け付け、
前記接続指示に基づいて、前記アイコン間のデータの流れを設定して前記画面に表示することを実行させ、
前記接続指示は、少なくとも1つの前記画像処理アイコンを介在させて、前記複数の入力元アイコンの少なくとも1つと前記少なくとも1つの出力先アイコンとを接続する指示を含むプログラム。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、画像分析装置、画像分析方法及びプログラムに関する。
【背景技術】
【0002】
画像分析を支援する装置やシステムとして、例えば特許文献1~4に記載の技術が提案されている。
【0003】
特許文献1に記載の医用画像処理装置は、医用画像診断装置から医用画像を取得する画像取得部と、取得した医用画像について所定の画像処理を行う画像処理部と、操作者の入力部を有する。そして、当該医用画像処理装置は、画像処理部で画像処理された医用画像に対して入力部による操作者の指摘に基づいて画像処理部での画像処理をやり直すように構成される。
【0004】
特許文献2に記載の医療用画像処理システムは、ネットワークに接続された専用のハードウェアとソフトウェアを持つサーバーと、クライアント端末上の専用アプリケーションを用いて、CT画像の一連の画質改善処理をネットワーク上で分担させ、リアルタイムに連携させる。
【0005】
特許文献3に記載の画像認識エンジン連携装置は、画像認識エンジンおよび画像認識エンジンとは異なる画像解析手法により画像中の被写体の認識を行う異種エンジンであるバーコード検出エンジンを含む複数のエンジンへの問い合わせ処理と、問い合わせ処理に応じた認識結果の受け付け処理とを含むエンジン連携処理を実行する連携処理部を有する。連携処理部は、エンジン連携処理を連携シナリオとして管理する。
【0006】
特許文献4に記載の解析エンジン制御装置は、解析エンジン毎に解析処理の内容と解析処理結果の特性とを記憶した解析エンジンメタ情報テーブルと、解析処理の内容と解析処理結果の条件とが設定された解析処理要求に応じて、解析処理結果の条件を満たして解析処理の内容に対応する解析処理を実行する複数の解析エンジンを選定しプロセスフローを生成するプロセスフロー生成手段と、生成されたプロセスフローに基づいて解析処理を実行する解析処理実行手段とを備える。プロセスフロー生成手段は、実行された実際の解析処理結果に応じて解析処理結果の条件を満たして解析処理の内容に対応する解析処理を実行するよう、プロセスフローを解析エンジンメタ情報テーブルに基づいて修正する。
【先行技術文献】
【特許文献】
【0007】
【特許文献1】特開2019-54896号公報
【特許文献2】特開2016-106312号公報
【特許文献3】特開2018-181081号公報
【特許文献4】国際公開第2012/108125号
【発明の概要】
【発明が解決しようとする課題】
【0008】
一般的に、画像データの分析では、複数の機能を備えた画像処理エンジンが準備され、予め準備された画像処理エンジンの中から、分析の目的に応じて適切な画像処理エンジンを選定する必要がある。また、複数のカメラの各々で撮影された画像データを分析する場合、画像データの各々に対して選定した画像処理エンジンを対応付けて構成する必要がある。すなわち、画像データの分析では、画像データの入力から分析結果の出力に至るまで、複数の画像処理エンジンを適切に接続して、それらを構成する必要がある。
【0009】
このような画像データの分析において、画像データの入力から、画像処理エンジンによる画像処理を介して、適切な分析結果が得られるまでの全体を適切に構成するには、画像分析に関する高度に専門的な知識や経験が必要になることが多い。そのため、画像分析に関する専門的な知識を有していない非技術者が、画像データの分析処理の全体を適切に構成することは、現状では困難である。
【0010】
特許文献1~4に記載の技術は、専門的な知識や経験を有する技術者が画像データの分析を行うことを前提としており、非技術者がこれらの技術を参照したとしても、画像データの分析処理の全体を適切に構成することは、依然として困難であると考えられる。
【0011】
本発明は、上述の事情に鑑みてなされたもので、画像データの分析処理の全体を適切に構成することを容易に行うことが可能な画像分析装置などを提供することを目的とする。
【課題を解決するための手段】
【0012】
上記目的を達成するため、本発明の第1の観点に係る画像分析装置は、
分析の対象となる画像データの入力元を示す複数の入力元アイコン、前記画像データに対する画像処理エンジンを示す複数の画像処理アイコン、画像処理エンジンによる処理結果の出力先を示す少なくとも1つの出力先アイコンを含む複数のアイコンを画面に配置するための指示を受け付け、当該指示に基づいて前記複数のアイコンを画面に配置するアイコン配置手段と、
前記画面に配置されたアイコン間を接続するための接続指示を受け付ける接続手段と、
前記接続指示に基づいて、前記アイコン間のデータの流れを設定して前記画面に表示するデータフロー設定手段とを備える。
前記接続指示は、少なくとも1つの前記画像処理アイコンを介在させて、前記複数の入力元アイコンの少なくとも1つと前記少なくとも1つの出力先アイコンとを接続する指示を含む。
【0013】
上記目的を達成するため、本発明の第2の観点に係る画像分析方法は、
分析の対象となる画像データの入力元を示す複数の入力元アイコン、前記画像データに対する画像処理エンジンを示す複数の画像処理アイコン、画像処理エンジンによる処理結果の出力先を示す少なくとも1つの出力先アイコンを含む複数のアイコンを画面に配置するための指示を受け付け、当該指示に基づいて前記複数のアイコンを画面に配置し、
前記画面に配置されたアイコン間を接続するための接続指示を受け付け、
前記接続指示に基づいて、前記アイコン間のデータの流れを設定して前記画面に表示することを含む。
前記接続指示は、少なくとも1つの前記画像処理アイコンを介在させて、前記複数の入力元アイコンの少なくとも1つと前記少なくとも1つの出力先アイコンとを接続する指示を含む。
【0014】
上記目的を達成するため、本発明の第3の観点に係るプログラムは、
コンピュータに、
分析の対象となる画像データの入力元を示す複数の入力元アイコン、前記画像データに対する画像処理エンジンを示す複数の画像処理アイコン、画像処理エンジンによる処理結果の出力先を示す少なくとも1つの出力先アイコンを含む複数のアイコンを画面に配置するための指示を受け付け、当該指示に基づいて前記複数のアイコンを画面に配置し、
前記画面に配置されたアイコン間を接続するための接続指示を受け付け、
前記接続指示に基づいて、前記アイコン間のデータの流れを設定して前記画面に表示することを実行させ、
前記接続指示は、少なくとも1つの前記画像処理アイコンを介在させて、前記複数の入力元アイコンの少なくとも1つと前記少なくとも1つの出力先アイコンとを接続する指示を含むプログラムである。
【発明の効果】
【0015】
本発明によれば、画像データの分析処理の全体を適切に構成することを容易に行うことが可能になる。
【図面の簡単な説明】
【0016】
図1】本発明の一実施の形態に係る画像分析システムの構成を示す図である。
図2】一実施の形態に係る分析対象領域としての店舗を上方から見た図である。
図3】一実施の形態に係るデータフロー設定部の機能的な構成を示す図である。
図4】一実施の形態に係るパラメータ設定部の機能的な構成を示す図である。
図5】一実施の形態に係る分析部の機能的な構成を示す図である。
図6】一実施の形態に係る画像分析装置の物理的な構成の例を示す図である。
図7A】本発明の一実施の形態に係る画像分析処理の一例を示すフローチャートである。
図7B】本発明の一実施の形態に係る画像分析処理の一例を示すフローチャートである。
図8】一実施の形態に係る分析構成作成処理の一例を示すフローチャートである。
図9】画面に配置されたアイコンの一例を示す図である。
図10】接続指示の一例を示す図である。
図11】一実施の形態に係るデータフロー設定処理の一例を示すフローチャートである。
図12図10に示す接続指示に従って設定されたアイコン間の接続関係の例を示す図である。
図13】禁則に含まれる接続指示の一例を示す図である。
図14A】禁則処理の第1の例を示す図である。
図14B】禁則処理の第2の例を示す図である。
図15】接続関係が画面上に表示された例を示す図であり、図9に示す複数のアイコンに対して設定された接続関係が画面上に表示された例を示す。
図16A】一実施の形態に係るパラメータ設定処理の一例を示すフローチャートである。
図16B】一実施の形態に係るパラメータ設定処理の一例を示すフローチャートである。
図17】選択されたアイコンに対して候補が表示される例を示す図である。
図18】すべてのアイコンに対するパラメータの設定値が設定された例を示す図である。
図19】本発明の一実施の形態に係るコンポーネント作成処理の一例を示すフローチャートである。
図20】コンポーネントとしてアイコン群を選択する例を示す図である。
図21】コンポーネントを用いて分析構成を作成する例を示す図である。
【発明を実施するための形態】
【0017】
以下、本発明の一実施の形態について、図面を参照しつつ説明する。全図を通じて同一の要素には同一の符号を付す。なお、すべての図面において、同様な構成要素には同様の符号を付し、適宜説明を省略する。
【0018】
<本実施の形態に係る画像分析システムの機能的構成>
本発明の一実施の形態に係る画像分析システム100は、分析対象領域を撮影した画像データに対して画像処理を行うことによって、目的とする分析結果を得るためのシステムである。本実施の形態に係る画像分析システム100は、図1に示すように、3台のカメラ101a,101b,101cと、画像分析装置102とを備える。
【0019】
カメラ101a,101b,101cの各々は、分析対象領域を撮影するための撮像装置の例である。以下において、カメラ101a,101b,101cの各々を特に区別しない場合、単に、カメラ101とも表記する。
【0020】
本実施の形態に係るカメラ101は、分析対象領域としての店舗Sの内部を上方から見た図である図2に示すように、分析対象領域としての店舗S内の概ね全体を撮影するように設置される。
【0021】
詳細には、カメラ101aは、店舗S内の領域Aを撮影し、カメラ101bは、店舗S内の領域Bを撮影し、カメラ101cは、店舗S内の領域Cを撮影するように設置されている。店舗S内の概ね全体を撮影できるようにするため、領域A、領域B、領域Cは、一部が互いに重なり合っている。
【0022】
このようなカメラ101によって例えば、図2に示すように、出入口Eを通じて店舗Sに入った顧客A~Cが、商品が陳列される棚MS1,MS2,MS3やレジスタ装置Rの近傍を通過して、出入口Eから出るまでの移動する様子が撮影される。
【0023】
図2の実線で示す移動経路M_Aは、店舗Sにおける顧客Aの移動経路であり、点線で示す移動経路M_Bは、店舗Sにおける顧客Bの移動経路であり、一点鎖線で示す移動経路M_Cは、店舗Sにおける顧客Cの移動経路を示す。
【0024】
なお、本実施の形態では、画像分析システム100による画像分析が、店舗Sのような小売店における人の行動分析に適用される例を説明する。しかし、画像分析システム100による画像分析は、その他の人の行動分析、人探し、熟練者の技術の分析などに適用することもできる。その他の人の行動分析の例としては、行政、都市計画、交通、輸送を目的とする画像分析を挙げることができる。人探しの例としては、捜査、監視、迷子探しなどを目的とする画像分析を挙げることができる。熟練者の技術の分析の例としては、製造や加工現場における熟練工、建設現場の作業員、スポーツ選手、教育者などの技術の習得を目的とした画像分析を挙げることができる。そして、分析対象領域には、画像分析の目的に応じて、例えば、建物、施設、設備、道路などが設定されるとよい。
【0025】
なお、本実施の形態では、カメラ101a,101b,101cが設置される台数は、2台以上であればよく、カメラ101a,101b,101cの各々は、静止画像を撮影してもよい。
【0026】
画像分析装置102は、機能的には図1に示すように、入力部103と、表示部104と、表示制御部105と、画像取得部106と、アイコン配置部107と、アイコン記憶部108と、アイコン-処理記憶部109と、接続部110と、データフロー設定部111と、パラメータ設定部112と、分析部113と、コンポーネント作成部114と、コンポーネント記憶部115とを備える。
【0027】
入力部103は、ユーザが入力するためのキーボード、マウス、タッチパネルなどである。
【0028】
表示部104は、画面を表示する液晶ディスプレイなどである。
【0029】
表示制御部105は、表示部104に画面を表示させる。
【0030】
画像取得部106は、分析の対象となる画像データを取得する。
【0031】
アイコン配置部107は、複数のアイコンを画面に配置するための指示を入力部103から受け付け、当該指示に基づいて複数のアイコンを画面に配置する。
【0032】
アイコン記憶部108は、アイコン画像を含むアイコンデータを保持するための記憶部である。アイコンデータは、詳細には例えば、アイコンの種別を識別するためのアイコン種別情報と、アイコンの画像情報とを対応付けるデータである。
【0033】
アイコンには、例えば、入力元アイコン、画像処理アイコン、出力先アイコンなどを含む。
【0034】
入力元アイコンは、分析の対象となる画像データの入力元を示すアイコンである。画像処理アイコンは、画像データに対する画像処理エンジンを示すアイコンである。出力先アイコンは、画像処理エンジンによる処理結果の出力先を示すアイコンである。
【0035】
アイコン-処理記憶部109は、処理エンジンを含む処理エンジンデータを保持するための記憶部である。処理エンジンデータは、詳細には例えば、アイコン識別情報と、処理エンジンと、設定されるべきパラメータとを対応付けるデータである。
【0036】
処理エンジンには、例えば、分析の対象となる画像データの入力処理を行う入力エンジン、画像データに対して各種の画像処理を行う画像処理エンジン、処理結果の出力処理を行う出力エンジンなどが含まれる。
【0037】
入力エンジンは、画像データをカメラ101から概ねリアルタイムで入力するリアルタイム入力エンジンである。リアルタイム入力エンジンのパラメータは、例えば、リアルタイム入力エンジンではその生成元となるカメラ101のネットワークアドレスである。
【0038】
なお、入力エンジンは、記憶部に保存された画像データを入力する保持データ入力エンジンであってもよく、保持データ入力エンジンのパラメータは例えば、画像データの保存場所を示す情報である。
【0039】
画像処理エンジンは、例えば、検出エンジン、追跡エンジン、特徴量抽出エンジン、検索エンジン、再特定エンジンを含む。
【0040】
検出エンジンは、物体や人などの検出対象を画像データから検出するための画像処理エンジンである。
【0041】
追跡エンジンは、物体や人などの追跡対象を画像データにおいて追跡するための画像処理エンジンである。
【0042】
特徴量抽出エンジンは、画像データにおける特徴量を抽出するための画像処理エンジンである。
【0043】
検索エンジンは、物体や人などの検索対象を画像データから検索するための画像処理エンジンである。
【0044】
再特定エンジンは、物体や人などの追跡対象を複数の画像データにまたがって追跡するための画像処理エンジンである。
【0045】
これらの画像処理エンジンは、機械学習によって学習済みのモデルが好適に採用され、この場合のパラメータは、学習済みのモデルを調整するためのパラメータである。1つの画像処理エンジンが画像処理を実行するために、複数のパラメータに対する値の設定が必要とされてもよいが、本実施の形態では、画像処理エンジンの各々が画像処理を行うためのパラメータは、1つであるとする。
【0046】
また、画像処理アイコンのうち、検出エンジン、追跡エンジン、特徴量抽出エンジン、検索エンジン、再特定エンジンに対応付けられるアイコンを区別する場合、それぞれ、検出アイコン、追跡アイコン、特徴量抽出アイコン、検索アイコン、再特定アイコンと称する。
【0047】
出力エンジンは、画面に処理結果を出力するエンジンである。出力エンジンのパラメータは、例えば、出力先となる画面を識別するための情報である。
【0048】
なお、出力先となる画面が複数である場合、複数の画面が1つのディスプレイ装置に表示されてもよく、複数のディスプレイのそれぞれに表示されてもよい。複数のディスプレイに出力される場合、出力エンジンのパラメータは、ディスプレイの各々を識別するための情報であってもよい。
【0049】
接続部110は、画面に配置されたアイコン間を接続するための接続指示を入力部103から受け付ける。
【0050】
データフロー設定部111は、接続部110によって受け付けられた接続指示に基づいて、アイコン間のデータの流れを設定して画面に表示する。
【0051】
詳細には、データフロー設定部111は、図3に示すように、禁則処理部116と、禁則記憶部117と、適正フロー設定部118とを含む。
【0052】
禁則処理部116は、接続部110によって接続指示が受け付けられた場合に、接続指示に関わるアイコン間の接続が禁則データに含まれるか否かを判定し、判定の結果に基づいて禁則処理を行う。
【0053】
禁則データは、アイコン間の接続に関する禁則を示すデータであって、これを保持するための禁則記憶部117に予め設定される。
【0054】
禁則データには、禁止されるアイコン間の接続関係が禁則として含まれる。
【0055】
接続関係とは、アイコン間の接続に関する関係であり、接続されるアイコンに対応する処理エンジン間でのデータの流れを含む。通常行われないアイコン間の接続関係には、典型的には、アイコン間の接続順が逆である場合があり、例えば、他のアイコンから入力元アイコンへデータが流れる接続関係、出力先アイコンから他のアイコンへデータが流れる接続関係が含まれる。
【0056】
なお、検出エンジンの1種である顔検出エンジン及び特徴量抽出エンジンの1種である色抽出エンジンが採用される場合には、顔検出エンジンと色抽出エンジンとは通常接続されないため、禁則は、これらに対応するアイコンの接続が含まれてもよい。
【0057】
より詳細には、禁則処理部116は、接続指示に関わるアイコン間の接続が禁則データに含まれないと判定した場合には、当該接続指示に従ってデータの流れを設定して画面に表示する。これに対して、接続指示に関わるアイコン間の接続が禁則データに含まれると判定した場合には、禁則処理部116は、禁則処理を行う。
【0058】
禁則処理は、接続関係を設定しないこと、接続指示を予め定められた方法で修正した接続関係を設定すること、接続指示に関わるアイコン間の接続が禁止されている旨を報知すること、の少なくとも1つを含む。
【0059】
適正フロー設定部118は、接続部110によって受け付けられる接続指示に従って、アイコン間のデータの流れを設定して画面に表示する
【0060】
図1を再び参照する。
パラメータ設定部112は、画面に配置された各アイコンに対応付けられるパラメータの設定値を受け付ける。パラメータ設定部112は、画面に配置されたアイコンが選択されると、当該選択されたアイコンに対応する処理エンジンに適用されるパラメータの設定値を受け付け、当該選択されたアイコンに当該受け付けた設定値を設定する。
【0061】
詳細には、パラメータ設定部112は、図4に示すように、パラメータに対する設定値の候補を求めるパラメータ推定部119と、候補を画面に表示させるパラメータ候補表示部120と、パラメータの設定値を受け付けるパラメータ受付部121とを含む。
【0062】
パラメータ推定部119は、画面に配置された画像処理アイコンが選択されると、画像データの少なくとも一部に基づいて、パラメータに対する設定値の候補を求める。
【0063】
ここで、パラメータに対する設定値の候補とは、選択された画像処理アイコンに対応する画像処理エンジンに適用するパラメータに対する設定値の候補であり、候補は、値や数値範囲などで求められる。候補を求めるために参照される画像データは、当該候補を求めるための処理負荷を軽減するために、画像データの一部であることが望ましい。
【0064】
より詳細には、パラメータ推定部119は、図4に示すように、ユーザの支援を受けずに自身で候補を推定する自動推定部122と、ユーザの支援を受けて候補を推定するユーザ支援推定部123とを含む。
【0065】
自動推定部122は、選択された画像処理アイコンに対応する画像処理エンジンに適用するパラメータに対する設定値の候補を自動的に推定する。
【0066】
ユーザ支援推定部123は、選択された画像処理アイコンに対応する画像処理エンジンに適用するパラメータに対する設定値の候補を、ユーザの評価を参照して推定する。ユーザ支援推定部123は、サンプル表示部124と、評価受付部125と、候補取得部126とを含む。
【0067】
サンプル表示部124は、画面に配置された画像処理アイコンが選択されると、当該選択された画像処理アイコンに対応付けられた画像処理エンジンによる処理を画像データの少なくとも一部に対して実行する。サンプル表示部124は、当該処理を実行することによって得られる1つ又は複数のサンプル画像を画面に表示させる。
【0068】
評価受付部125は、1つ又は複数のサンプル画像に対する評価を入力部103から受け付ける。
【0069】
候補取得部126は、評価受付部125によって受け付けられた評価に基づいて、設定値の候補を求める。
【0070】
パラメータ候補表示部120は、パラメータ推定部119によって求められた候補を画面に表示させる。
【0071】
パラメータ受付部121は、パラメータの設定値を、選択された画像処理アイコンに対応付けて受け付ける。すなわち、ユーザは、画面に表示された候補を参照して、パラメータの設定値を設定することができる。
【0072】
分析部113は、画像データに対して、画面に設定された分析構成に従った分析処理を実行し、表示制御部105を介して分析処理の結果を画面に表示させる。画面に設定された分析構成とは、画像データを分析するための処理構成であって、画面に配置された複数のアイコン及び当該複数のアイコンの接続関係を含む。
【0073】
詳細には、分析部113は、図5に示すように、分析実行部127と、異常予想部128と、分析中断部129と、異常検出部130と、異常報知部131と、結果出力部132とを含む。
【0074】
分析実行部127は、画面に設定された分析構成に従った分析処理を実行する。
【0075】
異常予想部128は、分析実行部127による分析処理を監視し、分析処理の結果に異常が発生するか否かを予想する。分析中断部129は、異常予想部128によって異常が発生すると予想された場合に、設定値の変更を促すための報知をする。
【0076】
異常検出部130は、分析実行部127による分析処理の結果に異常が含まれるか否かを判定する。異常報知部131は、異常が含まれると判定された場合に、設定値の変更を促すための報知をする。
【0077】
ここで、異常とは、例えば、画面に配置された画像処理アイコンに対応付けられた画像処理エンジンが人物を識別する機能を含む場合に、画像データを構成するフレーム画像に含まれる複数の人物が同一人物であると分析されることである。
【0078】
また例えば、異常とは、分析の対象が、店舗S内のような連続する空間の異なる領域A~Cを撮影することによって得られた複数の画像データである場合に、当該複数の画像データの間で同一人物と分析される人物の数が閾値よりも少ないことである。この例についても、画面に配置された画像処理アイコンに対応付けられた画像処理エンジンが人物を識別する機能を含む場合が対象となる。
【0079】
報知は、表示制御部105を介してメッセージを表示することや、図示しないスピーカなどから音を発することなどである。
【0080】
結果出力部132は、異常予想部128によって異常の発生が予想されず、かつ、異常検出部130によって異常が検出されずに分析処理を終了することができた場合に、分析構成に従った分析処理の結果を画面に表示させる。
【0081】
ここで、分析処理を実行するには、1つの分析構成に含まれる処理エンジンのすべてのパラメータに対して設定された設定値から構成される1組の設定値が必要である。すなわち、画面に配置された複数のアイコンの対応するすべてのパラメータに設定値が設定される必要があり、設定値の組は、当該すべてのパラメータに対する設定値から構成されるものとする。
【0082】
例えば本実施の形態では、上述した通り、画像処理エンジンの各々が画像処理を行うためのパラメータは1つであり、入力元アイコン及び出力先アイコンの各々のパラメータも1つである。そのため、本実施の形態に係る設定値の組は、画面に配置された複数のアイコンの各々に対応付けられた1つの設定値から構成される。
【0083】
本実施の形態に係るパラメータ設定部112では、画面に配置された画像処理エンジンの一部又は全部に対応付けられるパラメータについて、複数の設定値を受け付けてもよく、この場合、画面に設定された分析構成に対して複数組の設定値を受け付けることになる。
【0084】
このように複数組の設定値が設定された場合、分析部113は、設定値の各組について、画面に設定された分析構成に従って画像データに対する分析処理を実行する。言い換えると、分析部113は、設定された設定値のすべての組み合わせについて分析処理を実行する。そして、分析部113は、設定値の各組についての分析処理が終了するたびに、表示制御部105を介して当該分析処理の結果を画面に表示させる。
【0085】
コンポーネント作成部114は、画面に配置されて接続された複数のアイコンの一部又は全部に対する選択を受け付けて、当該選択された複数のアイコン及び当該複数のアイコン間の接続関係を含むコンポーネントデータを生成してコンポーネント記憶部115に保持させる。
【0086】
コンポーネント記憶部115は、コンポーネント作成部114によって作成されたコンポーネントデータを保持するための記憶部である。コンポーネントデータは、コンポーネントを示すデータであり、コンポーネントは、複数のアイコン及び当該複数のアイコン間の接続関係から構成される。
【0087】
コンポーネント記憶部115に保持されたコンポーネントは、アイコン配置部107によって参照されて、アイコンと同様に分析構成を作成するための1つの要素として配置される。
【0088】
<本実施の形態に係る画像分析装置の物理的構成>
ここから、本実施の形態に係る画像分析装置102の物理的構成の例について、図を参照して説明する。
【0089】
画像分析装置102は物理的には、図6に示すように、バス1010、プロセッサ1020、メモリ1030、ストレージデバイス1040、ネットワークインタフェース1050、ユーザインタフェース1060を有する。
【0090】
バス1010は、プロセッサ1020、メモリ1030、ストレージデバイス1040、ネットワークインタフェース1050、及びユーザインタフェース1060が、相互にデータを送受信するためのデータ伝送路である。ただし、プロセッサ1020などを互いに接続する方法は、バス接続に限定されない。
【0091】
プロセッサ1020は、CPU(Central Processing Unit)やGPU(Graphics Processing Unit)などで実現されるプロセッサである。
【0092】
メモリ1030は、RAM(Random Access Memory)などで実現される主記憶装置である。
【0093】
ストレージデバイス1040は、HDD(Hard Disk Drive)、SSD(Solid State Drive)、メモリカード、又はROM(Read Only Memory)などで実現される補助記憶装置である。
【0094】
ストレージデバイス1040は、画像分析装置102の記憶部(アイコン記憶部108、アイコン-処理記憶部109、コンポーネント記憶部115)を実現する。
【0095】
また、ストレージデバイス1040は、画像分析装置102の各機能部(表示制御部105、画像取得部106、アイコン配置部107、接続部110、データフロー設定部111、パラメータ設定部112、分析部113、コンポーネント作成部114)を実現するためのプログラムモジュールを記憶している。プロセッサ1020がこれら各プログラムモジュールをメモリ1030上に読み込んで実行することで、そのプログラムモジュールに対応する各機能部が実現される。
【0096】
ネットワークインタフェース1050は、有線、無線又はこれらを組み合わせて構成されるネットワークに画像分析装置102を接続するためのインタフェースである。本実施の形態に係る画像分析装置102は、ネットワークインタフェース1050を通じてネットワークに接続されることによって、カメラ101と通信する。
【0097】
ユーザインタフェース1070は、ユーザから情報が入力されるインタフェース及びユーザに情報を提示するインタフェースであり、例えば、入力部103としてのマウス、キーボード、タッチセンサなど、表示部104としての液晶ディスプレイなどを含む。
【0098】
このように画像分析装置102の機能は、ソフトウェアプログラムを物理的な各構成要素が協働して実行することによって実現することができる。そのため、本発明は、ソフトウェアプソフトウェアプログラムグラム」ともいう。)として実現されてもよく、そのプログラムが記録された非一時的な記憶媒体として実現されてもよい。
【0099】
<本実施の形態に係る画像分析処理>
ここから、本実施の形態に係る画像分析処理について、図を参照して説明する。
【0100】
図7A及び7Bは、本実施の形態に係る画像分析処理の一例を示すフローチャートである。
【0101】
画像分析処理は、画像を分析するための分析構成を作成し、当該作成した分析構成によって画像を分析する処理であり、例えば、ユーザの開始の指示を入力部103から受け付けて開始される。
【0102】
図7Aに示すように、アイコン配置部107、接続部110、データフロー設定部111及びパラメータ設定部112は、分析構成を作成するための処理を行う(S101)。
【0103】
詳細には図8に示すように、アイコン配置部107は、入力部103からのユーザの指示に基づいて、アイコンを画面に配置する(ステップS201)。
【0104】
ステップS201によって、画面に配置されたアイコンの例を図9に示す。例えば、ユーザは、画面内の図示しない領域に予め表示される各種のアイコンから、所望のアイコンを選択して、所望の位置に配置することを繰り返して、複数のアイコンは画面に配置される。
【0105】
ここで、図9に示すように、アイコンは、対応付けられた処理エンジンの機能に応じて、形状、模様、外枠(一重又は二重)の組み合わせが異なっている。特に、画像処理エンジンでは、画像処理エンジンの機能ごとに、形状、模様、外枠(一重又は二重)の組み合わせが異なっている。
【0106】
このようにアイコンは、対応付けられた処理エンジンの機能に応じて、形状、色、模様、外形線の態様(線の太さ、数、色など)の少なくとも1つが異なることによって、ユーザは、視覚的にアイコンの違いを認識して、分析構成を作成することができる。従って、適切な分析構成の作成を容易に行うことが可能になる。
【0107】
また、図9に示す各アイコンに含まれる点線の四角は、当該アイコンに設定されるパラメータの設定欄を示す。ステップS201にて配置されたアイコンでは、パラメータは未設定であるため、図9では、すべての設定欄が空白になっている。なお、適宜の初期値が設定されていてもよいことはもちろんである。
【0108】
接続部110は、画面に配置されたアイコン間に対する接続指示を入力部103から受け付ける(ステップS202)。
【0109】
例えば、入力部103としてのマウスを利用して入力元アイコンと検出アイコンとに対する接続指示を与える場合、図10に示すように、画面に表示されたポインタをポインタ位置P1に位置付けて予め定められた操作をすることによって、接続関係の起点が設定される。ポインタ位置P1は、入力元アイコンの外縁を指すポインタの位置である。
【0110】
そして、ポインタ位置P2に位置付けて予め定められた操作をすることによって、接続関係の終点が設定される。ポインタ位置P2は、検出アイコンの外縁を指すポインタの位置である。
【0111】
データフロー設定部111は、ステップS202にて受け付けられた接続指示に基づいて、アイコン間のデータの流れを設定して画面に表示する(ステップS203)。
【0112】
より詳細には図11に示すように、禁則処理部116は、ステップS202にて指示された接続関係が禁則に含まれるか否かを判定する(ステップS301)。
【0113】
禁則に含まれないと判定された場合(ステップS301;No)、適正フロー設定部118は、ステップS202にて指示された接続関係に従って、アイコン間のデータの流れを示す接続関係を設定し、設定した画面に表示させる(適正フロー設定処理;ステップS302)。
【0114】
ここで、アイコン間のデータの流れとは、アイコンに対応付けられた処理エンジン間のデータの流れに対応する。
【0115】
例えば、図10を参照して上述した接続指示に応じたデータの流れ、すなわち、入力エンジンから出力されて検出エンジンへ入力される画像データの流れは、通常行われることであるため、禁則には含まれていないとする。
【0116】
この場合、禁則処理部116は禁則に含まれないと判定し、適正フロー設定部118は、図12に示すように、受け付けられた接続指示に従って、入力元アイコンから検出アイコンへ向かう矢印によって、これらのアイコンを接続する。つまり、アイコン間を接続する矢印の方向は、矢印によって接続されたアイコンに対応する処理エンジン間において画像データが流れる方向に対応している。
【0117】
禁則に含まれると判定した場合(ステップS301;Yes)、禁則処理部116は、ステップS202にて指示された接続関係が該当する禁則に応じて、予め定められた禁則処理を行う(ステップS303)。
【0118】
例えば、ステップ202にて、図13に示すような接続指示、すなわち検出アイコンの外縁を指すポインタ位置P3を起点として、入力元アイコンの外縁を指すポインタ位置P4を終点とする接続指示が受け付けられたとする。この接続指示に従えば、検出アイコンから入力元アイコンへ向かう矢印で、これらのアイコン間を接続することになる。
【0119】
しかし、入力エンジンへ画像データを入力する処理は、通常行われない。そのため、入力アイコンへ向かう矢印を設定する接続指示、すなわち、入力アイコンの外縁を終点とする接続指示が、禁則に含まれているとする。
【0120】
このような場合、禁則処理部116は例えば、図14A又は図14Bに示す禁則処理を行う。
【0121】
図14Aは、禁則処理の第1の例を示しており、受け付けられた接続指示を予め定められた方法で修正した接続関係を設定して画面上に表示するとともに、接続指示を修正した旨を画面表示によって報知する禁則処理の例を示す。入力元アイコンは、通常、矢印の起点となるため、この例では、受け付けられた接続指示に係る起点と終点とを入れ替えることによって修正した接続関係を設定している。
【0122】
図14Bは、禁則処理の第2の例を示しており、接続指示を設定せずに、接続指示に関わるアイコン間の接続が禁止されている旨を画面表示によって報知する禁則処理の例を示す。
【0123】
このような禁則処理を行うことによって、分析構成の作成に不慣れな者や非技術者が、アイコン間を誤って接続するために適切な分析構成を作成できなくなる可能性を低減することができる。従って、適切な分析構成の作成を容易に行うことが可能になる。
【0124】
このようなデータフロー設定処理(ステップS203)を、画面に配置された複数のアイコンのうち、所望のアイコンの各対に対して繰り返すことによって、図15に例示するようなアイコン間の複数の接続関係が設定されて画面上に表示される。
【0125】
なお、ここでは、複数のアイコンをすべて配置した後に、複数のアイコンにおけるすべての接続関係を設定し、すべてのアイコンのパラメータ設定を順に行う例を説明した。しかし、例えば一部のアイコンの配置及び接続関係の設定をした後に、他のアイコンの配置及び接続関係の設定を繰り返し、その後に、パラメータ設定が行われるなど、アイコンの配置、接続、パラメータ設定は、適宜の順序で行われてよい。
【0126】
図8を再び参照する。
パラメータ設定部112は、ステップS201にて画面に配置された各アイコンに対応付けられるパラメータの設定値を受け付け、当該受け付けた設定値を各アイコンに設定する(ステップS204)。
【0127】
なお、画面に配置されたアイコンの中に、パラメータが不要な処理エンジンに対応付けられたアイコンがある場合、そのようなアイコンに対してステップS204の処理は行われなくてよい。
【0128】
パラメータ設定処理の詳細な例を図16A及び16Bに示す。
図16Aに示すように、自動推定部122は、画面に配置された画像処理アイコンが選択されると、当該選択された画像処理アイコンに対応付けられた画像処理エンジンが人物識別機能を含むか否かを判定する(ステップS401)。
【0129】
人物識別機能とは、画像から人物を識別する機能である。
【0130】
例えば、検出エンジン一種である人を検出するエンジンは、人を画像から検出する。これには、通常、画像中の人の異同を区別することが必要になるため、人を検出するエンジンは、人物識別機能を含む。また例えば、特定の人を検索するエンジンは、特定の人を画像から検索するので、人物識別機能を含む。さらに例えば、複数の画像データにまたがって移動する人を再特定する再特定エンジンでは、人を画像から検索するので、人物識別機能を含む。
【0131】
人物識別機能を含むと判定した場合(ステップS401;Yes)、自動推定部122は、画像取得部106を介して画像データを取得し、当該取得した画像データに含まれるフレーム画像に対して、自動推定処理を行う(ステップS402)。
【0132】
自動推定処理は、パラメータの候補を自動的に推定する処理であり、このとき参照される画像データには、少なくとも1つのフレーム画像が含まれていればよい。ここで、フレーム画像は、画像データが動画像を示す場合には、動画像を構成する各静止画像であり、画像データが静止画像を示す場合には、当該静止画像である。
【0133】
自動推定処理では例えば、各フレーム画像において、複数の人物を同一と識別することがないパラメータの値又は数値範囲が、ステップS401にて選択されたアイコンに対応付けられた処理エンジンに対するパラメータの候補として求められる。
【0134】
すなわち、自動推定部122は、ステップS401にて選択されたアイコンに対応する処理エンジンによる処理において、フレーム画像に含まれる人物がすべて異なる人物であると分析されるように、当該処理エンジンに対するパラメータの候補を求める。
【0135】
続けて、ユーザ支援推定部123は、第1ユーザ支援推定処理を行う(ステップS403)。
【0136】
詳細には、サンプル表示部124は、ステップS401にて選択された画像処理アイコンに対応付けられた画像処理エンジンを制御する。このとき、サンプル表示部124は、ステップS402にて求められたパラメータの候補を適用させる。そして、サンプル表示部124は、当該画像処理エンジンにサンプル画像を選定させ、選定されたサンプル画像を画面に表示させる(第1サンプル表示処理;ステップS403a)。
【0137】
ここで、サンプル画像は、ステップS402にて取得された画像データに含まれるフレーム画像のうち、同一の人物が含まれると分析された異なるフレーム画像であり、このとき選定されるフレーム画像は、2つ以上であればよい。
【0138】
なお、サンプル画像は、複数のフレーム画像のうち、同一と分析された人物部分又はその近傍を拡大した画像であってもよい。
【0139】
評価受付部125は、ステップS403aにて表示されたサンプル画像に対するユーザの評価を入力部103から受け付ける(第1評価受付処理;ステップS403b)。
【0140】
例えば、ユーザは、ステップS403aにて表示された複数のサンプル画像を参照して、複数のサンプル画像において同一であると分析されている人物が、実際に同一であれば、正しいと評価し、実際には異なっていれば、誤りであると評価する。そして、ユーザは、このような複数のサンプル画像に含まれる人物が同一か否かに関する評価の結果を入力部103によって入力する。
【0141】
候補取得部126は、ステップS403bにて受け付けた評価に基づいて、設定値の候補を求める(第1候補取得処理;ステップS403c)。
【0142】
候補取得部126は、例えば、ステップS403bにて正しいとの評価を受け付けたサンプル画像でのパラメータの設定値を含めるように候補を求める。また例えば、候補取得部126は、ステップS403bにて誤りであるとの評価を受け付けたサンプル画像でのパラメータの設定値を除外した候補を求める。
【0143】
ここで、ステップS403aにて説明したように、ステップS402にて求められたパラメータの候補が、候補を求めるための画像処理エンジンに適用される。そのため、ステップS403cで求められる候補は、ステップS402にて求められた候補を加味したものである。
【0144】
このように、自動推定処理(ステップS402)と、ユーザの支援を受けて候補を推定するユーザ支援推定処理(ステップS403)とを、共通の処理エンジンに適用することによって、より適切な候補を絞り込んで求めることができる。
【0145】
なお、自動推定処理(ステップS402)で求められた候補と、ユーザの支援を受けて候補を推定するユーザ支援推定処理(ステップS403)で求められた候補とが、独立に求められて、自動推定部122、候補取得部126のそれぞれに保持されてもよい。
【0146】
人物識別機能を含まないと判定した場合(ステップS401;No)、又はステップS403の後に、サンプル表示部124は、ステップS401にて選択された画像処理アイコンに対応付けられた画像処理エンジンが検出機能を含むか否かを判定する(ステップS404)。
【0147】
検出機能とは、画像から検出対象を検出する機能である。
【0148】
ここで、本実施の形態では、人を検出する検出エンジンについては、ステップS403にてパラメータの候補が求められるため、ステップS401での検出対象は、鞄、ペットなどの物でよい。
【0149】
検出機能を含むと判定した場合(ステップS404;Yes)、ユーザ支援推定部123は、図16Bに示すように、第2ユーザ支援推定処理を行う(ステップS405)。
【0150】
詳細には、サンプル表示部124は、画像取得部106を介して画像データを取得し、当該取得した画像データに含まれるフレーム画像に対して第2サンプル表示処理を行う(ステップS405a)。
【0151】
例えば、サンプル表示部124は、ステップS404での判定対象となった画像処理エンジンを制御し、フレーム画像に対して、検出対象たる対象物を検出するための分析を行わせる。そして、サンプル表示部124は、分析の結果、検出された対象物を含むフレーム画像をサンプル画面として画面に表示させる。
【0152】
ここで、サンプル画像は、ステップS405aにて取得した画像データに含まれるフレーム画像のうち、対象物が含まれるフレーム画像であり、このとき選定されるフレーム画像は、1つ以上であればよい。
【0153】
なお、サンプル画像は、フレーム画像のうち、対象物と分析された部分又はその近傍を拡大した画像であってもよい。
【0154】
評価受付部125は、ステップS405aにて表示されたサンプル画像に対するユーザの評価を入力部103から受け付ける(第2評価受付処理;ステップS405b)。
【0155】
例えば、ユーザは、ステップS405aにて表示されたサンプル画像を参照して、サンプル画像において検出対象であると示される対象物が、実際に対象物に該当する物であれば、正しいと評価し、実際には対象物に該当する物でなければ、誤りであると評価する。そして、ユーザは、このような対象物が正しく検出されているか否かに関する評価の結果を入力部103によって入力する。
【0156】
候補取得部126は、ステップS405bにて受け付けた評価に基づいて、設定値の候補を求める(第2候補取得処理;ステップS405c)。
【0157】
候補取得部126は、例えば、ステップS405bにて正しいとの評価を受け付けたサンプル画像でのパラメータの設定値を含めるように候補を求める。また例えば、候補取得部126は、ステップS405bにて誤りであるとの評価を受け付けたサンプル画像でのパラメータの設定値を除外した候補を求める。
【0158】
検出機能を含まないと判定した場合(ステップS404;No)、又はステップS405の後に、パラメータ候補表示部120は、ステップS402、S403又はS405で求められた候補を画面に表示させる(ステップS406)。
【0159】
ここで、図17は、検出アイコンが選択され、当該選択された検出アイコンに対応付けられる検出エンジンに適用されるパラメータに対する設定値の候補を表示する例を示す。検出アイコンは、例えば、ポインタPで指し示した後に、予め定められた操作(例えば、マウスのボタンのダブルクリック)が行われることによって選択される。同図に示すように、候補は、選択された検出アイコンに対応付けて表示されるとよい。
【0160】
また、ステップS406では、ステップS402、S403又はS405で候補が求められた場合に、当該求められた候補が表示されればよく、候補が求められていない場合、ステップS406の処理は、何も表示されずに終了すればよい。
【0161】
例えば図17において、3つの入力元アイコンのそれぞれに、「映像A」「映像B」「映像C」が設定されている。例えば、映像Aは、ネットワークにおけるカメラ101aのアドレスであり、入力データは、カメラ101aによって撮影される画像データであるとする。入力元アイコンに対応付けられる入力エンジンは、人物識別機能、検出機能のいずれの機能も含まないため、本実施の形態では、入力元アイコンに対応付けられる候補は求められない。従って、入力元アイコンに設定されたパラメータの値を設定する際に、ステップS406では、候補が表示されない。
【0162】
なお、入力元アイコンに対応付けて、例えばネットワークに接続されたカメラ101のアドレスが候補として表示されてもよい。また、カメラ101で実際に撮影されている画像がサンプル画像として画面に表示され、そのサンプル画像を参照してパラメータの設定値が設定されてもよい。
【0163】
パラメータ受付部121は、画面に配置された各アイコンに対応付けられるパラメータの設定値を受け付けて設定する(ステップS407)。
【0164】
パラメータ受付部121は、例えば図18に示すように、各アイコンの設定欄に入力される値を設定値として受け付けて、各アイコンと対応付けて設定値を保持する。アイコンに対応付けられた設定値は、当該アイコンに対応する処理エンジンに適用されるパラメータの設定値である。
【0165】
ここで、本実施の形態では、各種の処理エンジンに適用されるパラメータが1つである例を説明している。しかし、図18に示す例では、追跡アイコンの各々に2つの設定値が設定されている(例えば、図18にて一番上の追跡アイコンには「b11」、「b12」の2つの設定値が設定されている。)。また、検索エンジンの1つ(図18にて上方の検索アイコン)にも2つの設定値が設定されている。このように、処理エンジンでの処理に必要なパラメータに対して、複数の設定値が設定されてもよい。このように設定された複数の設定値の利用方法については、後述する。
【0166】
候補が表示された場合、ユーザは、候補を参照してパラメータを設定することができるので、適切なパラメータの設定を容易にすることが可能になる。従って、適切な分析構成の作成を容易に行うことが可能になる。
【0167】
図7Aを再び参照する。
【0168】
分析部113は、分析開始の指示を受け付けたか否かを判定する(ステップS102)。
【0169】
分析開始の指示を受け付けていないと判定された場合(ステップS102;No)、これまで説明した分析構成作成処理(ステップS101)が継続して実行される。
【0170】
分析開始の指示を受け付けたと判定した場合、分析部113は、設定値のすべての組について、ステップS104~S110の処理を繰り返す(ステップS103)。
【0171】
ここで、図18に示す分析構成の例では、14個のアイコンが配置されており、本実施の形態では上述の通り、すべての処理エンジンに対して1つのパラメータの設定値が設定される。そのため、図18に示す分析構成の例では、1組の設定値は、各アイコンに対応付けられた14個の設定値から構成される。
【0172】
そして、図18に示す分析構成の例では、上述した通り、3つの追跡アイコンと1つの検索アイコンとの各々には、2つの異なる設定値が設定されている。そのため、図18に示す分析構成の例では、16(=24)組の設定値が設定されていることになる。ステップS103の処理によって、このような設定値の組のすべてについて分析処理が行われる。
【0173】
分析実行部127は、分析の対象となる画像データを画像取得部106を介して取得し、ステップS101にて作成された分析構成に従って、分析処理を実行する(ステップS104)。
【0174】
詳細には、分析実行部127は、処理エンジンデータに基づいて、画面に配置されたアイコンに対応する処理エンジンを取得して、当該処理エンジンに処理を実行させる。分析実行部127は、その処理結果である画像データを保持し、接続関係によって接続された次のアイコンに対応する処理エンジンを取得して、保持している画像データに対する処理を当該取得した処理エンジンに実行させる。このような処理を分析構成に従って実行する。
【0175】
異常予想部128は、分析実行部127による分析処理の結果に異常の発生が予想されるか否かを判定する(ステップS105)。
【0176】
例えば、各処理エンジンの処理に適宜の処理単位を予め設定し、ステップS103にて処理単位の処理が終了するたびに、異常予想部128は、異常の発生が予想されるか否かを判定する。
【0177】
異常の発生が予想されないと判定された場合(ステップS105;No)、分析実行部127は、1組の設定値についての分析処理が終了したか否かを判定する(ステップS106)。
【0178】
1組の設定値についての分析処理が終了していないと判定した場合(ステップS106;No)、分析実行部127は、分析処理(ステップS104)を継続して実行する。
【0179】
異常の発生が予想されると判定された場合(ステップS105;Yes)、分析中断部129は、図7Bに示すように、分析処理を中断させて異常を報知し(ステップS107)、画像分析処理を終了させる。
【0180】
ステップS107での異常報知は、設定値の変更を促すための報知であり、分析中断部129は例えば、異常の発生が予想された処理に関わる処理エンジンのパラメータに対する設定値を変更する旨のメッセージを画面に表示させる。このとき、分析中断部129は、異常の発生が予想された画像を画面に表示させてもよい。
【0181】
異常予想部128によって予想される異常とは、例えば、ステップS104で実行中の画像処理エンジンが人物識別機能を含む場合に、当該画像処理エンジンによって、フレーム画像において複数の人物が同一人物であると分析されることである。
【0182】
また例えば、ステップS104で実行中の画像処理エンジンが再特定エンジンである場合に、複数の画像データの間で同一人物と分析される人物の数が閾値よりも少ないこと、複数の画像データの間で連続的に検出されるべき人物が検出されないことなどである。
【0183】
このような異常発生の予想に基づく異常報知処理(ステップS107)を行うことで、すべての組み合わせについての分析処理が完了する前に、ユーザは、処理エンジンの構成、パラメータの設定値などが適切であるかどうかを検討することができる。これにより、すべての組み合わせについての分析処理が完了する前に、処理エンジンの構成、パラメータの設定値などを修正することができる。従って、適切な分析構成の作成及びパラメータの設定を迅速に行うことが可能になる。
【0184】
なお、分析中断部129は、ステップS107での報知の後に、画像分析処理を強制的に終了させず、入力部103からの指示に従って画像分析処理の終了と継続とのいずれかを選択してもよい。
【0185】
図7Aを再び参照する。
1組の設定値についての分析処理が終了したと判定された場合(ステップS106;Yes)、異常検出部130は、図7Bに示すように、当該設定値の組を適用した分析実行部127による分析処理の結果に異常が含まれるか否かを判定する(ステップS108)。
【0186】
異常が含まれると判定された場合(ステップS108;Yes)、異常報知部131は、分析処理を中断させて、異常を報知し(ステップS109)、画像分析処理を終了させる。
【0187】
ステップS109での異常報知は、設定値の変更を促すための報知であり、異常報知部131は、例えば、異常が含まれると判定された画像に関わる処理エンジンのパラメータに対する設定値を変更する旨のメッセージを画面に表示させる。このとき、異常報知部131は、異常が含まれると判定された画像を画面に表示させてもよい。
【0188】
異常報知部131によって検出される異常とは、例えば、人物識別機能を含む画像処理エンジンがステップS104で実行された分析構成に含まれる場合に、分析の結果に含まれるフレーム画像において複数の人物が同一人物であると分析されることである。
【0189】
また例えば、分析構成が再特定エンジンを含む場合に、分析の結果において同一人物と分析される人物の数が閾値よりも少ないこと、分析の結果において連続的に検出されるべき人物が検出されないことなどである。
【0190】
このような異常検出に基づく異常報知処理(ステップS109)を行うことで、すべての組み合わせについての分析処理が完了する前に、ユーザは、処理エンジンの構成、パラメータの設定値などが適切であるかどうかを検討することができる。これにより、すべての組み合わせについての分析処理が完了する前に、処理エンジンの構成、パラメータの設定値などを修正することができる。従って、適切な分析構成の作成及びパラメータの設定を迅速に行うことが可能になる。
【0191】
なお、異常報知部131は、ステップS109での報知の後に、画像分析処理を強制的に終了させず、入力部103からの指示に従って画像分析処理の終了と継続とのいずれかを選択してもよい。
【0192】
異常が含まれないと判定された場合(ステップS108;No)、結果出力部132は、当該分析処理の結果を画面に表示させる(ステップS110)。
【0193】
処理結果の一例は、図2に示すような店舗S内を上方から見て、予め定められた条件で検索された顧客A~Cの各々の移動経路を示す画面である。
【0194】
図7A及び7Bに示すように、ステップS110は、1つの設定値の組についての分析処理が終了するたびに行われるので、ユーザは、設定値の各組についての分析処理の結果が適切であるかどうかを検討することができる。
【0195】
検討の結果、不適切と判断した場合には、すべての組み合わせについての分析処理が完了する前に、処理エンジンの構成、パラメータの設定値などを修正することができる。また、検討の結果、適切と判断した場合には、すべての組み合わせについての分析処理が完了する前に、処理エンジンの構成、パラメータの設定値などを決定することもできる。従って、適切な分析構成の作成及びパラメータの設定を迅速に行うことが可能になる。
【0196】
なお、異常の発生が予想された場合(ステップS105;Yes)や、異常が検出された場合(ステップS108;Yes)であっても、入力部103からの指示に従って画像分析処理を継続し、分析処理を終了することができることがある。このような場合は、結果出力部132は、当該分析処理の結果を画面に表示させてもよい。
【0197】
分析実行部127は、異なる設定値の組について、ステップS104~S110の処理を続けて実行し、設定値のすべての組についてステップS104~S110の処理を完了すると、画像分析処理を終了する。
【0198】
<本実施の形態に係るコンポーネント作成処理>
ここから、本実施の形態に係るコンポーネント作成処理について、図を参照して説明する。
【0199】
図19は、本実施の形態に係るコンポーネント作成処理の一例を示すフローチャートである。コンポーネント作成処理は、分析構成の作成中、又は分析構成の作成後に実行される。
【0200】
コンポーネント作成部114は、コンポーネント作成指示を受け付けたか否かを判定する(ステップS501)。
【0201】
コンポーネント作成指示は、コンポーネントに含めるアイコン群及び接続関係を選択し、当該選択されたアイコン群及び接続関係を含むコンポーネントを作成する指示である。コンポーネント作成部114は、例えば、ユーザによる入力部103の操作に基づいて、コンポーネント作成指示を受け付ける。
【0202】
図20は、図18に示す分析構成の中から、矩形の点線CMPで囲まれたアイコン群及び接続関係が選択された例を示す。
【0203】
コンポーネント作成指示を受け付けていないと判定した場合(ステップS501;No)、コンポーネント作成部114は、コンポーネント作成処理を終了する。
【0204】
コンポーネント作成指示を受け付けたと判定した場合(ステップS501;Yes)、コンポーネント作成部114は、コンポーネントデータをコンポーネント記憶部115に記憶させ(ステップS502)、コンポーネント作成処理を終了する。
【0205】
コンポーネントデータは、ステップS501にて受け付けたコンポーネント作成指示に係るアイコン群及び接続関係から構成されるコンポーネントと、コンポーネントを識別するための情報とを対応付けて示すデータである。
【0206】
このようなコンポーネントを作成することによって、アイコン配置部107は、コンポーネントデータに含まれるコンポーネントを、アイコンと同様に配置することができる。図21は、図20にて選択されたコンポーネントが「広域特定」というコンポーネントとして、分析構成を作成するための画面に配置される例を示す。すなわち、図21に示す分析構成と、図15に示す分析構成は、同じ内容である。
【0207】
このようにコンポーネントを作成することによって、適切な分析構成の一部又は全部を容易に再利用して新たな分析構成を作成することができる。従って、適切な分析構成の作成を容易に行うことが可能になる。
【0208】
なお、本実施の形態では、コンポーネントは、アイコン群及び接続関係から構成されるものとし、パラメータの設定値を含まない例を説明したが、コンポーネントがさらにパラメータの設定値を含んでもよい。
【0209】
これまで、本発明の一実施の形態について説明した。
【0210】
本実施の形態によれば、アイコン配置部107によって、複数の入力元アイコン、複数の画像処理アイコン、少なくとも1つの出力先アイコンを含む複数のアイコンが、画面に配置するための指示に基づいて画面に配置される。そして、接続部110が接続指示を受け付けると、接続指示に基づいて、アイコン間のデータの流れが設定されて画面に表示される。
これにより、ユーザは、画面の表示によって画像データの分析処理の内容を認識しながら、分析構成を作成すること(すなわち、画像データの分析処理の全体を構成すること)ができる。従って、画像データの分析処理の全体を適切に構成することを容易に行うことが可能になる。
【0211】
以上、本発明の実施の形態及び変形例について説明したが、本発明は、これらに限られるものではない。例えば、本発明は、これまで説明した実施の形態及び変形例の一部又は全部を適宜組み合わせた形態、その形態に適宜変更を加えた形態をも含む。
【0212】
上記の実施の形態の一手段または全手段は、以下の付記のようにも記載されうるが、以下に限られない。
【0213】
1.分析の対象となる画像データの入力元を示す複数の入力元アイコン、前記画像データに対する画像処理エンジンを示す複数の画像処理アイコン、画像処理エンジンによる処理結果の出力先を示す少なくとも1つの出力先アイコンを含む複数のアイコンを画面に配置するための指示を受け付け、当該指示に基づいて前記複数のアイコンを画面に配置するアイコン配置手段と、
前記画面に配置されたアイコン間を接続するための接続指示を受け付ける接続手段と、
前記接続指示に基づいて、前記アイコン間のデータの流れを設定して前記画面に表示するデータフロー設定手段とを備える
画像分析装置。
【0214】
2.前記画面に配置された画像処理アイコンが選択されると、当該選択された画像処理アイコンに対応する前記画像処理エンジンに適用するパラメータに対する設定値を受け付けるパラメータ設定手段をさらに備える
上記1に記載の画像分析装置。
【0215】
3.前記パラメータ設定手段は、
前記画面に配置された画像処理アイコンが選択されると、当該選択された画像処理アイコンに対応する前記画像処理エンジンに適用する前記パラメータに対する設定値の候補を、前記画像データの少なくとも一部に基づいて求めるパラメータ推定手段と、
前記求められた候補を前記画面に表示させるパラメータ候補表示手段と、
前記パラメータの設定値を受け付けるパラメータ受付手段とを含む
上記2に記載の画像分析装置。
【0216】
4.前記パラメータ推定手段は、
前記画面に配置された画像処理アイコンが選択されると、当該選択された画像処理アイコンに対応付けられた画像処理エンジンが人物を識別する機能を含む場合に、当該画像処理エンジンによる処理において、前記画像データの少なくとも一部を構成するフレーム画像に含まれる人物がすべて異なる人物であると分析されるように前記設定値の候補を求める
上記3に記載の画像分析装置。
【0217】
5.前記パラメータ推定手段は、
前記画面に配置された画像処理アイコンが選択されると、当該選択された画像処理アイコンに対応付けられた画像処理エンジンによる処理を前記画像データの少なくとも一部に対して実行することによって得られる1つ又は複数のサンプル画像を前記画面に表示させるサンプル表示手段と、
前記1つ又は複数のサンプル画像に対するユーザの評価を受け付ける評価受付手段と、
前記処理結果に基づいて、前記設定値の候補を求める候補取得手段とを含む
上記3又は4に記載の画像分析装置。
【0218】
6.前記サンプル表示手段は、前記1つ又は複数のサンプル画像から構成される複数のサンプルセットを表示させ、
前記評価受付手段は、前記複数のサンプルセットの各々に対するユーザの評価を受け付ける
上記5に記載の画像分析装置。
【0219】
7.前記サンプル表示手段は、前記画面に配置された画像処理アイコンが選択されると、当該選択された画像処理アイコンに対応付けられた画像処理エンジンが、前記画像データに含まれる検出対象を検出する機能を含む場合に、前記検出された検出対象を示す前記1つ又は複数のサンプル画像を表示させ、
前記評価受付手段は、前記1つ又は複数のサンプル画像にて前記検出対象が正しく検出されているか否かを、前記評価として受け付ける
上記6に記載の画像分析装置。
【0220】
8.前記サンプル表示手段は、前記画面に配置された画像処理アイコンが選択されると、当該選択された画像処理アイコンに対応付けられた画像処理エンジンが人物を識別する機能を含む場合に、人物を含む複数の前記サンプル画像を表示させ、
前記評価受付手段は、前記複数のサンプル画像に含まれる人物が同一か否かを、前記評価として受け付ける
上記6又は7に記載の画像分析装置。
【0221】
9.前記画像データに対して、前記画面に配置された複数のアイコン及び当該複数のアイコンの接続関係に従った分析処理を実行する分析手段をさらに備え、
前記パラメータ設定手段は、前記画面に配置された複数のアイコンの各々に対応付けられた設定値から構成される複数組の設定値を受け付け、
前記分析手段は、前記設定値の各組について、前記画面に配置された複数のアイコンの接続関係に従って前記画像データに対する分析処理を実行する
上記2から8のいずれか1つに記載の画像分析装置。
【0222】
10.前記分析手段は、前記設定値の各組について、前記画面に配置された複数のアイコンの接続関係に従って前記画像データに対する分析処理が終了するたびに、当該分析処理の結果を前記画面に表示させる
上記9に記載の画像分析装置。
【0223】
11.前記分析手段は、
前記分析処理の結果に異常が発生するか否かを予想する異常予想手段と、
前記異常が発生すると予想された場合に、前記設定値の変更を促すための報知をする分析中断手段とを含む
上記9又は10に記載の画像分析装置。
【0224】
12.前記分析手段は、
前記分析処理の結果に異常が含まれるか否かを判定する異常検出手段と、
前記異常が含まれると判定された場合に、前記設定値の変更を促すための報知をする異常報知手段とを含む
上記9から11のいずれか1項に記載の画像分析装置。
【0225】
13.前記異常は、
前記画面に配置された画像処理アイコンに対応付けられた画像処理エンジンが人物を識別する機能を含む場合に、前記画像データを構成するフレーム画像に含まれる複数の人物が同一人物であると分析されることと、
前記画面に配置された画像処理アイコンに対応付けられた画像処理エンジンが人物を識別する機能を含み、かつ、前記分析の対象が、連続する空間の異なる領域を撮影することによって得られた複数の画像データである場合に、当該複数の画像データの間で同一人物と分析される人物の数が閾値より少ないこと、との少なくとも1つである
上記11又は12に記載の画像分析装置。
【0226】
14.前記画面に配置されて接続された複数のアイコンの一部又は全部に対する選択を受け付けて、当該選択された複数のアイコン及び当該複数のアイコン間の接続関係を、コンポーネントとして保持させるコンポーネント作成手段をさらに備える
上記1から13のいずれか1つに記載の画像分析装置。
【0227】
15.前記画像処理アイコンは、
画像データから検出対象を検出するための画像処理エンジンである検出エンジンに対応付けられる検出アイコンと、
画像データにおいて追跡対象を追跡するための画像処理エンジンである追跡エンジンに対応付けられる追跡アイコンと、
画像データにおける特徴量を抽出するための画像処理エンジンである特徴量抽出エンジンに対応付けられる特徴量抽出アイコンと、
画像データから検索対象を検索するための画像処理エンジンである検索エンジンに対応付けられる検索アイコンと、
複数の画像データにまたがって追跡対象を追跡するための画像処理エンジンである再特定エンジンに対応付けられる再特定アイコンと、の少なくとも1つを含む
上記1から14のいずれか1つに記載の画像分析装置。
【0228】
16.前記データフロー設定手段は、
前記接続手段によって接続指示が受け付けられた場合に、当該接続指示に関わる前記アイコン間の接続が、前記アイコン間の接続に関する禁則を示す禁則データに含まれるか否かを判定し、判定の結果に基づいて禁則処理を行う禁則処理手段と、
前記接続指示及び前記禁則処理に従って、前記アイコン間のデータの流れを設定して前記画面に表示する適正フロー設定手段とを含む
上記1から15のいずれか1つに記載の画像分析装置。
【0229】
17.前記禁則処理は、前記接続指示に従った接続関係を生成しないこと、前記接続指示を予め定められた方法で修正すること、前記接続指示に関わる前記アイコン間の接続が禁止されている旨を報知すること、の少なくとも1つを含む
上記16に記載の画像分析装置。
【0230】
18.前記画像処理エンジンは、画像処理に関する異なる機能を備えた処理エンジンを含み、
前記画像処理アイコンは、前記画像処理エンジンの機能ごとに、形状、色、模様、外形線の態様の少なくとも1つが異なる
上記1から17のいずれか1つに記載の画像分析装置。
【0231】
19.上記1から18のいずれか1つに記載の画像分析装置と、
前記画像データを得るための複数の撮像装置とを備える
画像分析システム。
【0232】
20.分析の対象となる画像データの入力元を示す複数の入力元アイコン、前記画像データに対する画像処理エンジンを示す複数の画像処理アイコン、画像処理エンジンによる処理結果の出力先を示す少なくとも1つの出力先アイコンを含む複数のアイコンを画面に配置するための指示を受け付け、当該指示に基づいて前記複数のアイコンを画面に配置すること、
前記画面に配置されたアイコン間を接続するための接続指示を受け付けることと、
前記接続指示に基づいて、前記アイコン間のデータの流れを設定して前記画面に表示することを含む
画像分析方法。
【0233】
21.コンピュータに、
分析の対象となる画像データの入力元を示す複数の入力元アイコン、前記画像データに対する画像処理エンジンを示す複数の画像処理アイコン、画像処理エンジンによる処理結果の出力先を示す少なくとも1つの出力先アイコンを含む複数のアイコンを画面に配置するための指示を受け付け、当該指示に基づいて前記複数のアイコンを画面に配置すること、
前記画面に配置されたアイコン間を接続するための接続指示を受け付けることと、
前記接続指示に基づいて、前記アイコン間のデータの流れを設定して前記画面に表示することを実行させるためのプログラム。
【符号の説明】
【0234】
100 画像分析システム
101a,101b,101c カメラ
102 画像分析装置
103 入力部
104 表示部
105 表示制御部
106 画像取得部
107 アイコン配置部
108 アイコン記憶部
109 アイコン-処理記憶部
110 接続部
111 データフロー設定部
112 パラメータ設定部
113 分析部
114 コンポーネント作成部
115 コンポーネント記憶部
116 禁則処理部
117 禁則記憶部
118 適正フロー設定部
119 パラメータ推定部
120 パラメータ候補表示部
121 パラメータ受付部
122 自動推定部
123 ユーザ支援推定部
124 サンプル表示部
125 評価受付部
126 候補取得部
127 分析実行部
128 異常予想部
129 分析中断部
130 異常検出部
131 異常報知部
132 結果出力部
図1
図2
図3
図4
図5
図6
図7A
図7B
図8
図9
図10
図11
図12
図13
図14A
図14B
図15
図16A
図16B
図17
図18
図19
図20
図21