(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公表特許公報(A)
(11)【公表番号】
(43)【公表日】2023-06-28
(54)【発明の名称】交通異常を検出する方法および装置、電子機器、記憶媒体並びにコンピュータプログラム
(51)【国際特許分類】
G06T 7/00 20170101AFI20230621BHJP
G06V 20/54 20220101ALI20230621BHJP
G08G 1/04 20060101ALI20230621BHJP
G16Y 10/40 20200101ALI20230621BHJP
G16Y 20/20 20200101ALI20230621BHJP
G16Y 40/10 20200101ALI20230621BHJP
H04N 7/18 20060101ALI20230621BHJP
【FI】
G06T7/00 650B
G06V20/54
G08G1/04 C
G16Y10/40
G16Y20/20
G16Y40/10
H04N7/18 D
【審査請求】有
【予備審査請求】未請求
(21)【出願番号】P 2022561125
(86)(22)【出願日】2022-01-29
(85)【翻訳文提出日】2022-10-06
(86)【国際出願番号】 CN2022075071
(87)【国際公開番号】W WO2022227766
(87)【国際公開日】2022-11-03
(31)【優先権主張番号】202110466631.2
(32)【優先日】2021-04-28
(33)【優先権主張国・地域又は機関】CN
(81)【指定国・地域】
(71)【出願人】
【識別番号】514322098
【氏名又は名称】ベイジン バイドゥ ネットコム サイエンス テクノロジー カンパニー リミテッド
【氏名又は名称原語表記】Beijing Baidu Netcom Science Technology Co., Ltd.
【住所又は居所原語表記】2/F Baidu Campus, No.10, Shangdi 10th Street, Haidian District, Beijing 100085, China
(74)【代理人】
【識別番号】110000914
【氏名又は名称】弁理士法人WisePlus
(72)【発明者】
【氏名】ウー, ウェンハオ
(72)【発明者】
【氏名】ジャオ, ユーシァン
【テーマコード(参考)】
5C054
5H181
5L096
【Fターム(参考)】
5C054CA04
5C054CC02
5C054FC12
5C054FC13
5C054FC14
5C054FC15
5C054FC16
5C054HA19
5C054HA26
5H181AA01
5H181BB04
5H181BB13
5H181BB20
5H181CC04
5H181DD03
5H181DD07
5H181DD08
5H181DD09
5H181DD10
5H181EE02
5H181EE15
5H181FF03
5H181FF10
5H181FF13
5H181FF32
5H181FF33
5H181MB02
5H181MB05
5H181MB08
5H181MC17
5H181MC19
5H181MC27
5L096BA04
5L096CA04
5L096FA02
5L096FA52
5L096FA67
5L096FA69
5L096GA51
5L096HA04
5L096HA05
5L096MA07
(57)【要約】
本開示は、人工知能分野、特にコンピュータビジョンおよび深層学習技術の分野に関し、映像解析のシーンに適用できる、交通異常を検出する方法および装置を提供する。具体的な実現形態は、少なくとも2フレームの連続した交通画像を取得し、少なくとも2フレームの連続した交通画像からそれぞれ対象車両の位置を認識して位置情報セットを得、位置情報セットに基づいて対象車両の進行方向および速度を決定し、対象車両の進行方向および速度と予め生成された車両ベクトルフィールドとを比較し、対象車両が異常であるか否かを判定すること含む。当該実施形態により、交通異常検出の速度および精度を向上させることができる。
【選択図】
図2
【特許請求の範囲】
【請求項1】
交通異常を検出する方法であって、
少なくとも2フレームの連続した交通画像を取得するステップと、
前記少なくとも2フレームの連続した交通画像からそれぞれ対象車両の位置を認識して位置情報セットを得るステップと、
前記位置情報セットに基づいて前記対象車両の進行方向および速度を決定するステップと、
前記対象車両の進行方向および速度と予め生成された車両ベクトルフィールドとを比較して、前記対象車両が異常であるか否かを判定するステップと、
を含む交通異常を検出する方法。
【請求項2】
所定時間間隔の交通映像を取得するステップと、
前記交通映像の画面と同じ大きさのマトリクスを作成するステップであって、前記マトリクスの各要素は前記画面上の画素点を表し、各要素の初期値はゼロである、ステップと、
前記交通映像における車両に対して追跡検出を行い、車両の検出枠における画素点に対応する要素を非ゼロ値に設定するステップと、
前記マトリクスにおける非ゼロ値に対応する画素点を道路として決定し、道路領域を得るステップと、
をさらに含む請求項1に記載の方法。
【請求項3】
車両の検出枠の位置変化に基づいて車両軌跡セットを得るステップと、
前記車両軌跡セットをクラスタリング解析して車両ベクトルフィールドを生成するステップと、
をさらに含む請求項2に記載の方法。
【請求項4】
前記対象車両の進行方向および速度と予め生成された車両ベクトルフィールドとを比較して、前記対象車両が異常であるか否かを判定するステップは、
前記対象車両の位置が前記道路領域内にあり、かつ、速度がゼロである時間が所定の時間間隔閾値を超えたと判断されたことに応答して、前記対象車両が異常停車していると判定するステップを含む請求項2に記載の方法。
【請求項5】
前記対象車両の進行方向および速度と予め生成された車両ベクトルフィールドとを比較して、前記対象車両が異常であるか否かを判定するステップは、
前記対象車両が前記道路領域から非道路領域へ進行したと検出されたことに応答して、前記対象車両が道路から退出したと判定するステップを含む請求項2に記載の方法。
【請求項6】
前記対象車両の進行方向および速度と予め生成された車両ベクトルフィールドとを比較して、前記対象車両が異常であるか否かを判定するステップは、
前記対象車両の進行方向と前記車両ベクトルフィールドの方向とを比較し、なす角度が所定閾値を超えたと判断されたことに応答して、前記対象車両の軌跡が異常であると判定するステップを含む請求項1に記載の方法。
【請求項7】
同一位置に軌跡異常が発生した車両の数が2台を超えたことに応答して、車両の衝突が発生したと判定するステップをさらに含む請求項6に記載の方法。
【請求項8】
少なくとも2フレームの連続した交通画像を取得するように構成される取得ユニットと、
前記少なくとも2フレームの連続した交通画像からそれぞれ対象車両の位置を認識して位置情報セットを得るように構成される認識ユニットと、
前記位置情報セットに基づいて前記対象車両の進行方向および速度を決定するように構成される決定ユニットと、
前記対象車両の進行方向および速度と予め生成された車両ベクトルフィールドとを比較して、前記対象車両が異常であるか否かを判定するように構成される検出ユニットと、
を備える交通異常を検出する装置。
【請求項9】
所定時間間隔の交通映像を取得するステップと、
前記交通映像の画面と同じ大きさのマトリクスを作成するステップであって、前記マトリクスの各要素は前記画面上の画素点を表し、各要素の初期値はゼロである、ステップと、
前記交通映像における車両に対して追跡検出を行い、車両の検出枠における画素点に対応する要素を非ゼロ値に設定するステップと、
前記マトリクスにおける非ゼロ値に対応する画素点を道路として決定し、道路領域を得るステップと、
を行うように構成される抽出ユニットをさらに備える請求項8に記載の装置。
【請求項10】
前記抽出ユニットは、
車両の検出枠の位置変化に基づいて車両軌跡セットを得るステップと、
前記車両軌跡セットをクラスタリング解析して車両ベクトルフィールドを生成するステップと、
を行うようにさらに構成される請求項9に記載の装置。
【請求項11】
前記検出ユニットは、
前記対象車両の位置が前記道路領域内にあり、かつ、速度がゼロである時間が所定の時間間隔閾値を超えたと判断されたことに応答して、前記対象車両が異常停車していると判定するようにさらに構成される請求項9に記載の装置。
【請求項12】
前記検出ユニットは、
前記対象車両が前記道路領域から非道路領域へ進行したと検出されたことに応答して、前記対象車両が道路から退出したと判定するようにさらに構成される請求項9に記載の装置。
【請求項13】
前記検出ユニットは、
前記対象車両の進行方向と前記車両ベクトルフィールドの方向とを比較し、なす角度が所定閾値を超えたと判断されたことに応答して、前記対象車両の軌跡が異常であると判定するようにさらに構成される請求項8に記載の装置。
【請求項14】
前記検出ユニットは、
同一位置に軌跡異常が発生した車両の数が2台を超えたことに応答して、車両の衝突が発生したと判定するようにさらに構成される請求項13に記載の装置。
【請求項15】
少なくとも1つのプロセッサと、
前記少なくとも1つのプロセッサと通信可能に接続されるメモリと、を備える電子機器であって、
前記メモリには、前記少なくとも1つのプロセッサによって実行可能な指令が記憶され、前記指令が前記少なくとも1つのプロセッサによって実行されると、前記少なくとも1つのプロセッサに請求項1~7のいずれか1項に記載の方法を実行させる、電子機器。
【請求項16】
コンピュータ指令が記憶されている非一時的コンピュータ可読記憶媒体であって、
前記コンピュータ指令は前記コンピュータに請求項1~7のいずれか1項に記載の方法を実行させるために用いられる、非一時的コンピュータ可読記憶媒体。
【請求項17】
プロセッサによって実行されると、請求項1~7のいずれか1項に記載の方法が実現されるコンピュータプログラムを含むコンピュータプログラム製品。
【発明の詳細な説明】
【技術分野】
【0001】
<関連出願の相互参照>
本開示は、2021年4月28日に提出された、出願番号が202110466631.2で、発明の名称が「交通異常を検出する方法および装置」である中国特許出願に基づく優先権を主張し、当該特許出願の全文を引用により本開示に組み込む。
【0002】
本開示は、人工知能分野に関し、具体的にコンピュータビジョンおよび深層学習技術に関し、映像解析のシーンに適用でき、特に交通異常を検出する方法および装置に関する。
【背景技術】
【0003】
交通シーンでの異常検出は、本線道路に異常が発生した車両、例えば車の衝突、失速、本線道路からの逸脱および逆方向走行などの問題に対するものである。従来の交通映像監視はオブザーバの判断に頼っており、この方式は多大な労力を要し、効率が悪い。これにより生じた視覚に基づいた異常検知システムは、コンピュータビジョンを用いて異常車両を検知する。
【0004】
従来技術におけるコンピュータによる異常交通イベントの検出方法は、異なるシーンに対してロバスト性に優れているもの、認識精度および認識可能な異常状況が複雑な交通シーンに対応できない。
【発明の概要】
【課題を解決するための手段】
【0005】
本開示は、交通異常を検出する方法、装置、機器、記憶媒体およびコンピュータプログラム製品を提出する。
【0006】
本開示の第1の態様によれば、交通異常を検出する方法であって、少なくとも2フレームの連続した交通画像を取得するステップと、前記少なくとも2フレームの連続した交通画像からそれぞれ対象車両の位置を認識して位置情報セットを得るステップと、前記位置情報セットに基づいて前記対象車両の進行方向および速度を決定するステップと、前記対象車両の進行方向および速度と予め生成された車両ベクトルフィールドとを比較して、前記対象車両が異常であるか否かを判定するステップと、を含む交通異常を検出する方法を提供する。
【0007】
本開示の第2の態様によれば、少なくとも2フレームの連続した交通画像を取得するように構成される取得ユニットと、前記少なくとも2フレームの連続した交通画像からそれぞれ対象車両の位置を認識して位置情報セットを得るように構成される認識ユニットと、前記位置情報セットに基づいて前記対象車両の進行方向および速度を決定するように構成される決定ユニットと、前記対象車両の進行方向および速度と予め生成された車両ベクトルフィールドとを比較して、前記対象車両が異常であるか否かを判定するように構成される検出ユニットと、を備える交通異常を検出する装置を提供する。
【0008】
本開示の第3の態様によれば、少なくとも1つのプロセッサと、前記少なくとも1つのプロセッサと通信可能に接続されるメモリとを備える電子機器であって、前記メモリには、前記少なくとも1つのプロセッサによって実行可能な指令が記憶され、前記指令が前記少なくとも1つのプロセッサによって実行されると、前記少なくとも1つのプロセッサに第1の態様のいずれか1項に記載の方法を実行させる、電子機器を提供する。
【0009】
本開示の第4の態様によれば、コンピュータ指令が記憶されている非一時的コンピュータ可読記憶媒体であって、前記コンピュータ指令は前記コンピュータに第1の態様のいずれか1項に記載の方法を実行させるために用いられる、非一時的コンピュータ可読記憶媒体を提供する。
【0010】
本開示の第5の態様によれば、プロセッサによって実行されると、第1の態様のいずれか1項に記載の方法が実現されるコンピュータプログラムを含むコンピュータプログラム製品を提供する。
【0011】
本開示の実施形態に係る交通異常を検出する方法および装置は、車両追跡により車両ベクトルフィールドを得、車両ベクトルフィールドに基づいて異常車両を判定する。これにより、逆走、衝突、失速、故障などの状況の解析を実現する。グローバルに深層学習ネットワークを使用することによる大量の計算需要を有効に解決し、現在の車両監視異常解析状況を改善した。
【0012】
なお、発明の概要に記載された内容は、本開示の実施形態のかなめとなる特徴または重要な特徴を限定することを意図するものではなく、本開示の範囲を限定するものでもない。本開示の他の特徴は、以下の説明によって理解しやすくなる。
【0013】
図面は本開示をよりよく理解するために用いられ、本開示に対する限定ではない。
【図面の簡単な説明】
【0014】
【
図1】本開示の一実施形態を適用可能な例示的なシステムアーキテクチャを示す図である。
【
図2】本開示に係る交通異常を検出する方法の一実施形態のフローチャートである。
【
図3】本開示に係る交通異常を検出する方法の一応用シーンを示す概略図である。
【
図4】本開示に係る交通異常を検出する方法のもう一つの実施形態のフローチャートである。
【
図5】本開示に係る交通異常を検出する方法のもう一つの応用シーンの概略図である。
【
図6】本開示に係る交通異常を検出する装置の一実施形態の構造概略図である。
【
図7】本開示の実施形態に係る交通異常を検出する方法を実現するための電子機器のブロック図である。
【発明を実施するための形態】
【0015】
以下は、図面を参照して本開示の例示的な実施形態を説明し、ここで理解を助けるため、本開示の実施形態の様々な詳細を記載するが、これらは単なる例示的なものに過ぎないことを理解すべきである。従って、本開示の範囲および要旨を逸脱しない限り、当業者が本明細書の実施形態に対して様々な変更および修正を行うことができることを理解すべきである。なお、以下の説明では、明確化および簡略化のため、公知の機能および構成については説明を省略する。
【0016】
図1は、本開示に係る交通異常を検出する方法または交通異常を検出する装置の実施形態が適用可能な例示的なシステムアーキテクチャ100を示している。
【0017】
図1に示すように、システムアーキテクチャ100は、カメラ101、102、103、ネットワーク104、およびサーバ105を含んでもよい。ネットワーク104は、カメラ101、102、103とサーバ105の間で通信リンクを提供するための媒体として使用される。ネットワーク104は、有線、無線通信リンクまたは光ファイバケーブルなどの様々なタイプの接続を含んでもよい。
【0018】
ユーザは、メッセージを送受信するために、カメラ101、102、103を使用してネットワーク104を介してサーバ105と情報のやり取りをすることができる。
【0019】
カメラ101、102、103は、車両の監視を行うための、車両の情報(例えば、ナンバープレート、車種)を認識可能なカメラを指す。交差点で違法(例えば、実線車線を踏まえて車線を越え、逆走、非自動車車線を占用、案内標識に従わずに走行、赤信号を無視するなど)した車両を捕らえる電子警官であってもよい。また高速道路、県道および国道のいくつかの重点区間に取り付けられ、スピード違反行為を捕らえるためのバヨネットカメラであってもよい。カメラ101、102、103はまた、駐車違反キャプチャカメラ、流量監視カメラ、スカイネット監視カメラ、モバイルキャプチャカメラなどであってもよい。
【0020】
サーバ105は、様々なサービスを提供するサーバ、例えば、カメラ101、102、103上で採集された車両データを解析するバックエンド解析サーバであってもよい。バックエンド解析サーバは受信した車両データに対して解析等の処理を行い、且つ処理結果(例えば、逆走、衝突、失速、故障などの異常状況)を出力することができる。
【0021】
なお、サーバは、ハードウェアであってもよく、ソフトウェアであってもよい。サーバがハードウェアである場合、複数のサーバから構成される分散サーバクラスターとしても、単一のサーバとしても実装され得る。サーバがソフトウェアである場合、複数のソフトウェアまたはソフトウェアモジュール(例えば、分散サービスを提供するためのソフトウェアまたはソフトウェアモジュール)として実現されてもよく、または単一のソフトウェア若しくはソフトウェアモジュールとして実現されてもよい。ここでは特に限定しない。サーバは、分散システムのサーバ、あるいはブロックチェーンを結合したサーバであってもよい。サーバは、クラウドサーバであってもよいし、人工知能技術を有するスマートクラウドコンピューティングサーバまたはスマートクラウドホストであってもよい。
【0022】
なお、本開示の実施形態に係る交通異常を検出する方法は、通常にサーバ105によって実行され、これに応じて、交通異常を検出する装置は、通常にサーバ105に設けられている。
【0023】
図1におけるカメラ、ネットワークおよびサーバの数が例示的なものに過ぎないことを理解すべきである。実現の必要に応じて、カメラ、ネットワークおよびサーバの数を任意に加減してもよい。
【0024】
次に、本開示に係る交通異常を検出する方法の一実施形態のフロー200を示す
図2を参照する。当該交通異常を検出する方法は、次のステップを含む。
【0025】
ステップ201では、少なくとも2フレームの連続した交通画像を取得する。
【0026】
本実施形態において、交通異常を検出する方法の実行主体(例えば、
図1に示すサーバ)は有線接続方式または無線接続方式によりカメラから少なくとも2フレームの連続した交通画像を受信することができる。取得された交通画像は、同一カメラによって同一位置にて同じ角度で撮影されたものである。画像から車両の進行方向と速度を判断する必要があるため、車両の位置変化の判断に少なくとも2フレームの画像が必要である。実際の使用では、複数フレームの画像を含む映像を取得してもよい。カメラのフレームレートは、通常25~30フレーム/秒である。異なる交通画像間の時間間隔は、フレームレートに基づいて決定されてもよい。
【0027】
ステップ202では、少なくとも2フレームの連続した交通画像からそれぞれ対象車両の位置を認識して位置情報セットを得る。
【0028】
本実施形態では、従来技術の多目的追跡アルゴリズム(例えば、deepsortアルゴリズム)を用いて、交通画像中の車両を認識することができる。ここで、対象車両とは、追跡認識可能な車両を指す。通常、1枚の交通画像には複数台の車両が存在し、そうすると複数の対象車両が存在する。交通画像毎に対象車両を検出することができ、検出枠で囲んで、検出枠の中心点の位置を対象車両の位置とすることができる。これらの中心点を連結すれば車両の軌跡を形成し、位置情報セットで表すことができ、各位置情報は検出枠の中心点の画像における座標位置である。
【0029】
ステップ203では、位置情報セットに基づいて対象車両の進行方向および速度を決定する。
【0030】
本実施形態では、検出枠の中心点の位置変化に基づいて、対象車両の走行ルート、即ち方向を特定することができる。画素点距離と実際の距離とのマッピング関係は、既知のカメラのパラメータに基づいて決定される。対象車両が移動した後、検出枠の中心点が移動した距離とマッピング関係から、対象車両が実際に移動した距離を算出することができる。さらに、フレームレートに基づいて対象車両が走行した時間を算出することにより、対象車両の速度を算出することができる。
【0031】
ステップ204では、対象車両の進行方向および速度と予め生成された車両ベクトルフィールドとを比較し、対象車両が異常であるか否かを判定する。
【0032】
本実施形態において、車両ベクトルフィールドは、履歴データに基づいて自動的に生成されてもよいし、手動で標定されてもよい。車両ベクトルフィールドには、車両が走行する方向と速度が含まれる。車両ベクトルフィールドの方向を
図3Aに示す。速度は、カメラで撮影された道路区間における大量の車両の平均速度であってもよい。現在検出された対象車両の進行方向と車両ベクトルフィールドの方向とを比較し、逆であれば、対象車両が逆走していることを意味する。また、現在検出された対象車両の速度と車両ベクトルフィールドの速度とを比較し、ある範囲を超えた場合に対象車両が異常であることを意味する。例えば、対象車両の車速は、車両ベクトルフィールドの速度の0.5倍よりも小さいか、または、対象車両の車速は、車両ベクトルフィールドの速度の1.5倍よりも大きい。車両ベクトルフィールドの速度が60km/hである場合、対象車両の車速が30km/h未満(車速が異常に低い)または90km/hを超える(車速が異常に高い)と、対象車両の車速が異常である。車速が異常に低い車両の数が予め設定された車両閾値に達すると、その道路区間に渋滞が発生したことを意味し、監視作業員に提示情報を出力し、交通事故が発生したか否かをさらにチェックするように促すことができる。
【0033】
また、異常車両の位置を直接特定することができ、救援に便利である。異常車両が検出されると、ナンバープレート認識により車主情報を取得することができ、個人識別情報の他に、本人および家族の連絡先、病歴(例えば喘息、心臓病など)などの関連情報が含まれてもよい。交通管理部門に通知して処理することもできる。交通管理部門は特定した位置に基づいて車両を見つけることができ、車両が故障した場合、牽引するトレーラを手配することができる。車主の病気による場合、予め認識した病歴に基づいて救急を行い、その家族に連絡することができる。
【0034】
以上説明したように、本開示の実施形態に係る方法によれば、車両の追跡により検出された車両の方向および速度を、既知の車両ベクトルフィールドと比較することで、異常車両を迅速かつ正確に特定することができ、後続の処理に関連する情報を提供することにより、異常車両の問題を迅速に解消することができる。
【0035】
本実施形態のいくつかのオプション的な実施形態では、対象車両の進行方向および速度と予め生成された車両ベクトルフィールドとを比較して対象車両が異常であるか否かを判定することは、対象車両の進行方向と車両ベクトルフィールドの方向とを比較し、なす角度が所定閾値を超えた場合に、対象車両の軌跡が異常であると判定することを含む。なす角度が所定閾値を超えた場合、車両が車線変更したことを意味し、車両が正常に車線変更して追い越しをすることをフィルタリングするために、複数のフレームを連続して監視して、得られた軌跡が正常な車線変更の軌跡でなければ、車両が異常であることを意味する。なす角度が約180度であるとき、車両が逆走していることを意味する。これにより、車両の走行方向を人手でマーキングすることなく異常検出を行うことができ、検出の柔軟性が向上する。この方法は、マークされていない任意の道路区間に適用することができる。
【0036】
本実施形態のいくつかのオプション的な実施形態では、同一位置に軌跡異常が発生した車両の数が2台を超えたことに応答して、車両の衝突が発生したと判定する。
図3Cに示すように、同一グループの画像において同一位置に軌跡異常が発生した車両の数が2台を超えた場合、少なくとも2台の車両が衝突していることを意味する。交通事故を迅速かつ正確に検出することができ、事故車両のナンバープレートを迅速に検出し、関連する保険会社に通知して処理を行うことができる。関連する映像が案件を報告するための証拠として直接保存されると、交通警察は、事故の発生時刻を見つけるために映像を開始時刻から終了時刻まで確認する必要はない。本開示の技術的解決策は、事故の発生時刻を直接特定することができる。交通管理部門が迅速に事故の原因を調査し、事故の責任を判定するのに便利である。交通事故の処理効率を高めることができる。
【0037】
次に、
図3を参照し、
図3は、本実施形態に係る交通異常を検出する方法の応用シーンを示す概略図である。
図3の応用シーンにおいて、通常時の車両ベクトルフィールドを
図3Aに示す。図中の白い領域が道路であり、両道路における車両の進行方向が一致していることが分かる。
図3Bは、車両が道路外を走行している様子を示している。車両の検出枠の位置が道路領域内にあるか否かにより、車両が道路を出たか否かを判断することができる。道路を出た場合、交通事故が発生したことを意味する。
図3Cは両車両が衝突したときの車両の軌跡を示している。2台の車両の方向はいずれもベクトルフィールドと同じではなく、偏差が大きい。
図3Dは車両の失速または故障で動かないことを示しており、検出枠が重複するフレーム数が所定のフレーム数の閾値を超えたことに基づいて車両が移動していないとともに道路領域内に存在すると判定し、駐車場内の車両の誤検出を防止できる。
【0038】
さらに、交通異常を検出する方法のもう一つの実施形態のフロー400を示す
図4を参照する。当該交通異常を検出する方法は、次のステップを含む。
【0039】
ステップ401では、所定時間間隔の交通映像を取得する。
【0040】
本実施形態において、交通異常を検出する方法の実行主体(例えば、
図1に示すサーバ)は有線接続方式または無線接続方式によりカメラから所定時間間隔の交通映像を取得することができる。時間間隔の長さは採取時刻と関係があり、交通量のピーク期間であれば短い時間が必要であり、交通量の少ない期間であれば長い時間に亘って採集する必要がある。ステップ201と同じカメラを用いて同一位置にて同じ角度で映像を取得する。これにより、当該映像から分割された道路領域をフロー200に適用できることが確保される。
【0041】
ステップ402では、交通映像の画面と同じ大きさのマトリクスを作成する。
【0042】
本実施形態において、マトリクスの各要素は画面上の1つの画素点を表し、各要素の初期値はゼロである。例えば、映像解像度が900*1024である場合、900*1024の全ゼロのマトリクスを作成する。
【0043】
ステップ403では、交通映像における車両に対して追跡検出を行い、車両の検出枠における画素点に対応する要素を非ゼロ値に設定する。
【0044】
本実施形態では、車両が検出される毎に、検出枠内の画素点を道路としてマークし、マトリクスの対応する位置の要素を非ゼロ値(例えば、1)に設定してもよい。初期マトリクスを
【数1】
とすると、画像内の(0,1)、(1,1)、(2,1)の位置に車両が検出された場合、マトリクスを
【数2】
に変更する。
【0045】
ステップ404では、マトリクスにおける非ゼロ値に対応する画素点を道路として決定し、道路領域を得る。
【0046】
本実施形態では、ステップ403で特定された非ゼロ値の画素点を連結して道路領域を構成している。
【0047】
オプションとして、異常検出率が所定閾値まで上昇した場合に、ステップ401~404に基づいて新たに道路領域を決定してもよい。強風などによりカメラの角度が微小に変化する可能性があるため、本来決定された道路領域に基づいて異常判定を行うと精度が低くなり、突然大量の車両異常が検出される恐れがあり(例えば、大量の車両が道路を出たことが検出されることにつながる)、道路領域の修正が必要となる。修正後の道路領域を用いることにより、現在撮影されている画像中の車両を正確に検出することができる。
【0048】
上述した本開示の実施形態に係る方法では、道路認識モデルを用いて道路認識を行うのではなく、実際に通過する車両によって道路を特定する方法を提供する。道路認識モデルは駐車場を道路として誤検出する恐れがあるためである。また、この方法は、必要に応じて道路を随時再マーキングすることができる。手動マーキングに比べて、現在の状況に応じて道路領域を適時に更新し、誤検出を避けることができる。
【0049】
次に、
図5を参照し、
図5は、本実施形態に係る交通異常を検出する方法の応用シーンを示す概略図である。
図5の応用シーンにおいて、カメラで撮影した交通画像を
図5Aに示す。
図5Bは追跡アルゴリズムにより車両を検出し、検出枠で車両を囲んだものである。
図5Cは、検出枠が存在する領域の画素点を白色で塗りつぶすことを示している。
図5Dは、非白色領域を道路領域とし、その他の色の領域を非道路領域として黒に統一したものである。
【0050】
本実施形態のいくつかのオプション的な実施形態では、この方法は、車両の検出枠の位置変化に基づいて車両軌跡セットを得ることをさらに含む。車両軌跡セットをクラスタリング解析して車両ベクトルフィールドを生成する。クラスタリング解析はkmeansのような一般的なクラスタリングアルゴリズムで行うことができる。最終的なクラスタリング結果は車線別の軌跡であり、軌跡は方向を含む。そして、各車線の軌跡に基づいて、その車線を通過する車両の平均速度を算出する。速度と方向はベクトルフィールドを構成する。この方式で得られるベクトルフィールドは、手動ラベリング方式よりも便利で、迅速である。また、現在の状況に応じてリアルタイムに更新することができ、例えば、渋滞などの原因に対して、ある車線を一時的に方向転換させることができ(潮汐車線(Tidal lane)を参照)、この場合、本開示の方法により、ベクトルフィールドを即時に更新することができ、誤判別が発生することがない。
【0051】
本実施形態のいくつかのオプション的な実施形態では、対象車両の進行方向および速度と予め生成された車両ベクトルフィールドとを比較して対象車両が異常であるか否かを判定することは、対象車両の位置が道路領域内にあり、速度がゼロである時間が所定の時間間隔閾値を超えたことに応答して、対象車両が異常停車していると判定することを含む。検出枠が重なっていれば、車両が移動しておらず、速度が0であることがわかる。停車時間は、検出枠が重なるフレーム数により特定することができ、停車時間が所定の時間間隔閾値を超えて異常停車として特定できない場合には、さらに車両がその時点で道路領域内にあるか否かを判定する必要がある。道路領域で停車した場合は異常停車とする。道路外に停車していれば、他の車両の走行を妨げない。この方法は、異常停車を迅速かつ正確に検出して、早めに対処することができる。例えば、交通放送を通じて他の運転手に通知し、衝突しないように安全に注意させたり、早めに車線を変えるようにしたりすることができる。
【0052】
本実施形態のいくつかのオプション的な実施形態では、対象車両の進行方向および速度と予め生成された車両ベクトルフィールドとを比較して対象車両が異常であるか否かを判定することは、対象車両が道路領域から非道路領域へ進行したと検出されたことに応答して対象車両が道路から退出したことを判定することを含む。道路から退出したことも異常であり、パンクなどの原因につながる可能性がある。本方法によれば、車両が道路から退出したことを迅速かつ正確に検出し、交通管理部門に事故の発生位置を迅速に通知し、直ちに救援を行い、二次傷害を避けることができる。
【0053】
更に
図6を参照すると、上記の各図に示された方法の実施態様として、本開示は、交通異常を検出する装置の一実施形態を提供し、当該装置の実施形態は、
図2に示された方法の実施形態に対応しており、当該装置は、具体的に様々な電子機器に適用することができる。
【0054】
図6に示すように、本実施形態に係る交通異常を検出する装置600は、取得ユニット601と、認識ユニット602と、決定ユニット603と、検出ユニット604とを備える。取得ユニット601は、少なくとも2フレームの連続した交通画像を取得するように構成される。認識ユニット602は、少なくとも2フレームの連続した交通画像からそれぞれ対象車両の位置を認識して位置情報セットを得るように構成される。決定ユニット603は、位置情報セットに基づいて対象車両の進行方向および速度を決定するように構成される。検出ユニット604は、対象車両の進行方向および速度と予め生成された車両ベクトルフィールドとを比較して、対象車両が異常であるか否かを判定するように構成される。
【0055】
本実施形態では、交通異常を検出する装置600の取得ユニット601、認識ユニット602、決定ユニット603および検出ユニット604の具体的な処理は、
図2に対応する実施形態のステップ201、ステップ202、ステップ203およびステップ204を参照できる。
【0056】
本実施形態のいくつかのオプション的な実施形態では、装置600は、所定時間間隔の交通映像を取得するように構成される抽出ユニット605をさらに備える。交通映像の画面と同じ大きさのマトリクスを作成する。マトリクスの各要素は画面上の画素点を表し、各要素の初期値はゼロである。交通映像における車両を追跡して検出を行い、車両の検出枠における画素点に対応する要素を非ゼロ値に設定する。マトリクスにおける非ゼロ値に対応する画素点を道路として決定し、道路領域を得る。
【0057】
本実施形態のいくつかのオプション的な実施形態において、抽出ユニット605は、車両の検出枠の位置変化に基づいて、車両軌跡セットを得るようにさらに構成される。車両軌跡セットをクラスタリング解析して車両ベクトルフィールドを生成する。
【0058】
本実施形態のいくつかのオプション的な実施形態では、検出ユニット604は、対象車両の位置が道路領域内にあり、かつ、速度がゼロである時間が所定の時間間隔閾値を超えたと判断されたことに応答して、対象車両が異常停車していると判定するようにさらに構成される。
【0059】
本実施形態のいくつかのオプション的な実施形態では、検出ユニット604は、対象車両が道路領域から非道路領域へ進行したと検出されたことに応答して、対象車両が道路から退出したと判定するようにさらに構成される。
【0060】
本実施形態のいくつかのオプション的な実施形態では、検出ユニット604は、対象車両の進行方向と車両ベクトルフィールドの方向とを比較し、なす角度が所定閾値を超えた場合に、対象車両の軌跡が異常であると判定するようにさらに構成される。
【0061】
本実施形態のいくつかのオプション的な実施形態では、検出ユニット604は、同一位置に軌跡異常が発生した車両の数が2台を超えたことに応答して、車両の衝突が発生したと判定するようにさらに構成される。
【0062】
本開示の実施形態によれば、本開示はさらに電子機器、読み取り可能な記憶媒体およびコンピュータプログラムを提供する。
【0063】
電子機器は、少なくとも1つのプロセッサと、前記少なくとも1つのプロセッサと通信可能に接続されたメモリとを備え、前記メモリには、前記少なくとも1つのプロセッサによって実行可能な指令が記憶されており、前記指令が前記少なくとも1つのプロセッサによって実行されると、前記少なくとも1つのプロセッサにフロー200またはフロー400に記載の方法を実行させる。
【0064】
コンピュータ指令が記憶されている非一時的コンピュータ可読記憶媒体であって、前記コンピュータ指令は前記コンピュータにフロー200またはフロー400に記載の方法を実行させるために用いられる。
【0065】
プロセッサによって実行されるとフロー200またはフロー400に記載の方法が実現されるコンピュータプログラムを含むコンピュータプログラム製品を提供する。
【0066】
図7は、本開示の実施形態を実施するために使用できる例示的な電子機器700の概略ブロック図を示している。電子機器は、ラップトップコンピュータ、デスクトップコンピュータ、ワークステーション、パーソナルデジタルアシスタント、サーバ、ブレード型サーバ、メインフレームコンピュータおよびその他の適切なコンピュータ等の様々な形態のデジタルコンピュータを表す。また、電子機器は、個人デジタル動作、携帯電話、スマートフォン、ウェアラブル機器およびその他の類似する計算装置等の様々な形態のモバイルデバイスを表すことができる。なお、ここで示したコンポーネント、それらの接続関係、およびそれらの機能はあくまでも例示であり、ここで記述および/または要求した本開示の実施形態を限定することを意図するものではない。
【0067】
図7に示すように、電子機器700は、読み出し専用メモリ(ROM)702に記憶されているコンピュータプログラムまたは記憶ユニット708からランダムアクセスメモリ(RAM)703にロードされたコンピュータプログラムによって様々な適当な動作および処理を実行することができる計算ユニット701を備える。RAM703には、機器700の動作に必要な様々なプログラムおよびデータがさらに格納されることが可能である。計算ユニット701、ROM702およびRAM703は、バス704を介して互いに接続されている。入/出力(I/O)インターフェース705もバス704に接続されている。
【0068】
電子機器700において、キーボード、マウスなどの入力ユニット706と、様々なタイプのディスプレイ、スピーカなどの出力ユニット707と、磁気ディスク、光ディスクなどの記憶ユニット708と、ネットワークプラグイン、モデム、無線通信送受信機などの通信ユニット709とを含む複数のコンポーネントは、I/Oインターフェース705に接続されている。通信ユニット709は、電子機器700がインターネットなどのコンピュータネットワークおよび/または様々な電気通信ネットワークを介して他の装置と情報またはデータのやりとりを可能にする。
【0069】
計算ユニット701は、処理および計算機能を有する様々な汎用および/または専用処理コンポーネントであってもよい。計算ユニット701のいくつかの例示として、中央処理装置(CPU)、グラフィックスプロセシングユニット(GPU)、様々な専用人工知能(AI)計算チップ、機械学習モデルアルゴリズムを実行する様々な計算ユニット、デジタルシグナルプロセッサ(DSP)、および任意の適切なプロセッサ、コントローラ、マイクロコントローラなどを含むが、これらに限定されない。計算ユニット701は、上述した交通異常を検出する方法のような様々な方法および処理を実行する。例えば、いくつかの実施形態では、交通異常を検出する方法は、記憶ユニット708などの機械可読媒体に有形に含まれるコンピュータソフトウェアプログラムとして実現されてもよい。いくつかの実施形態では、コンピュータプログラムの一部または全部は、ROM702および/または通信ユニット709を介して電子機器700にロードおよび/またはインストールされてもよい。コンピュータプログラムがRAM703にロードされ、計算ユニット701によって実行されると、上述の交通異常を検出する方法の1つまたは複数のステップを実行可能である。あるいは、他の実施形態では、計算ユニット701は、他の任意の適切な形態によって(例えば、ファームウェアを介して)、交通異常を検出する方法を実行するように構成されてもよい。
【0070】
ここで説明するシステムおよび技術の様々な実施形態はデジタル電子回路システム、集積回路システム、フィールドプログラマブルゲートアレイ(FPGA)、特定用途向け集積回路(ASIC)、特定用途向け標準製品(ASSP)、システムオンチップ(SOC)、コンプレックスプログラマブルロジックデバイス(CPLD)、コンピュータハードウェア、ファームウェア、ソフトウェア、および/またはそれらの組み合わせにおいて実現することができる。これらの各実施形態は、1つまたは複数のコンピュータプログラムに実装され、当該1つまたは複数のコンピュータプログラムは少なくとも1つのプログラマブルプロセッサを含むプログラマブルシステムにおいて実行および/または解釈することができ、当該プログラマブルプロセッサは専用または汎用プログラマブルプロセッサであってもよく、記憶システム、少なくとも1つの入力装置および少なくとも1つの出力装置からデータおよび指令を受信することができ、且つデータおよび指令を当該記憶システム、当該少なくとも1つの入力装置および当該少なくとも1つの出力装置に伝送することを含み得る。
【0071】
本開示の方法を実施するためのプログラムコードは、1つまたは複数のプログラミング言語のあらゆる組み合わせで作成されてもよい。これらのプログラムコードは、汎用コンピュータ、専用コンピュータ、または他のプログラミング可能なデータ処理装置のプロセッサまたはコントローラに提供されることができ、これらのプログラムコードがプロセッサまたはコントローラによって実行されると、フローチャートおよび/またはブロック図に規定された機能または動作が実施される。プログラムコードは、完全にデバイス上で実行されることも、部分的にデバイス上で実行されることも、スタンドアロンソフトウェアパッケージとして部分的にデバイス上で実行されながら部分的にリモートデバイス上で実行されることも、または完全にリモートデバイスもしくはサーバ上で実行されることも可能である。
【0072】
本開示のコンテキストでは、機械可読媒体は、有形の媒体であってもよく、指令実行システム、装置または機器が使用するため、または指令実行システム、装置または機器と組み合わせて使用するためのプログラムを含むか、または格納してもよい。機械可読媒体は、機械可読信号媒体または機械可読記憶媒体であり得る。機械可読媒体は、電子的、磁気的、光学的、電磁的、赤外線の、または半導体のシステム、装置または機器、またはこれらのあらゆる適切な組み合わせを含むことができるが、これらに限定されない。機械可読記憶媒体のより具体的な例には、1本または複数本のケーブルに基づく電気的接続、携帯型コンピュータディスク、ハードディスク、ランダムアクセスメモリ(RAM)、読み取り専用メモリ(ROM)、消去可能プログラマブル読み取り専用メモリ(EPROMまたはフラッシュメモリ)、光ファイバ、コンパクトディスク読み取り専用メモリ(CD-ROM)、光学記憶装置、磁気記憶装置、またはこれらのあらゆる適切な組み合わせが含まれ得る。
【0073】
ユーザとのインタラクションを提供するために、ここで説明するシステムと技術は、ユーザに情報を表示するための表示装置(例えば、陰極線管(CathodeRayTube,CRT)またはLCD(液晶ディスプレイ)モニタ)と、キーボードおよびポインティングデバイス(例えば、マウスまたはトラックボール)とを備えるコンピュータ上で実装することができ、ユーザが該キーボードおよび該ポインティングデバイスを介してコンピュータに入力を提供できる。他の種類の装置もユーザとのやりとりを行うことに用いることができる。例えば、ユーザに提供されるフィードバックは、例えば、視覚フィードバック、聴覚フィードバック、または触覚フィードバックであるいかなる形態のセンシングフィードバックであってもよく、且つ音入力、音声入力若しくは触覚入力を含むいかなる形態でユーザからの入力を受信してもよい。
【0074】
ここで説明したシステムおよび技術は、バックエンドコンポーネントを含むコンピューティングシステム(例えば、データサーバ)に実施されてもよく、またはミドルウェアコンポーネントを含むコンピューティングシステム(例えば、アプリケーションサーバ)に実施されてもよく、またはフロントエンドコンポーネントを含むコンピューティングシステム(例えば、グラフィカルユーザインターフェースまたはウェブブラウザを有するユーザコンピュータ)に実施されてもよく、ユーザは該グラフィカルユーザインターフェースまたはウェブブラウザを介してここで説明したシステムおよび技術の実施形態とインタラクションしてもよく、またはこのようなバックエンドコンポーネント、ミドルウェアコンポーネントまたはフロントエンドコンポーネントのいずれかの組み合わせを含むコンピューティングシステムに実施されてもよい。また、システムの各コンポーネントの間は、通信ネットワーク等の任意の形態または媒体を介してデジタルデータ通信により接続されていてもよい。通信ネットワークとしては、ローカルエリアネットワーク(LAN)、ワイドエリアネットワーク(WAN)およびインターネットなどを含む。
【0075】
コンピュータシステムは、クライアントとサーバとを含んでもよい。クライアントとサーバは、通常、互いに離れており、通信ネットワークを介してやりとりを行う。クライアントとサーバとの関係は、互いにクライアント-サーバの関係を有するコンピュータプログラムをそれぞれのコンピュータ上で動作することによって生成される。サーバは、分散システムのサーバ、あるいはブロックチェーンを結合したサーバであってもよい。サーバは、クラウドサーバであってもよいし、人工知能技術を有するスマートクラウドコンピューティングサーバまたはスマートクラウドホストであってもよい。サーバは、分散システムのサーバ、あるいはブロックチェーンを結合したサーバであってもよい。サーバは、クラウドサーバであってもよいし、人工知能技術を有するスマートクラウドコンピューティングサーバまたはスマートクラウドホストであってもよい。
【0076】
なお、上述した様々な形態のフローを用いて、ステップを並び替え、追加または削除を行うことができることを理解すべきである。例えば、本開示に記載された各ステップは、本開示に開示された技術的解決方案の所望の結果が達成できる限り、並行して実行されてもよく、順番に実行されてもよく、異なる順番で実行されてもよい。本明細書はここで制限しない。
【0077】
上記具体的な実施形態は、本開示の保護範囲を限定するものではない。当業者であれば、設計要件および他の要因に応答して、様々な修正、組み合わせ、副次的な組み合わせ、および置換を行うことができることを理解すべきである。本開示の趣旨および原理を逸脱せずに行われたあらゆる修正、均等な置換および改善などは、いずれも本開示の保護範囲内に含まれるべきである。
【手続補正書】
【提出日】2022-10-06
【手続補正1】
【補正対象書類名】特許請求の範囲
【補正対象項目名】全文
【補正方法】変更
【補正の内容】
【特許請求の範囲】
【請求項1】
交通異常を検出する方法であって、
少なくとも2フレームの連続した交通画像を取得するステップと、
前記少なくとも2フレームの連続した交通画像からそれぞれ対象車両の位置を認識して位置情報セットを得るステップと、
前記位置情報セットに基づいて前記対象車両の進行方向および速度を決定するステップと、
前記対象車両の進行方向および速度と予め生成された車両ベクトルフィールドとを比較して、前記対象車両が異常であるか否かを判定するステップと、
を含む交通異常を検出する方法。
【請求項2】
所定時間間隔の交通映像を取得するステップと、
前記交通映像の画面と同じ大きさのマトリクスを作成するステップであって、前記マトリクスの各要素は前記画面上の画素点を表し、各要素の初期値はゼロである、ステップと、
前記交通映像における車両に対して追跡検出を行い、車両の検出枠における画素点に対応する要素を非ゼロ値に設定するステップと、
前記マトリクスにおける非ゼロ値に対応する画素点を道路として決定し、道路領域を得るステップと、
をさらに含む請求項1に記載の方法。
【請求項3】
車両の検出枠の位置変化に基づいて車両軌跡セットを得るステップと、
前記車両軌跡セットをクラスタリング解析して車両ベクトルフィールドを生成するステップと、
をさらに含む請求項2に記載の方法。
【請求項4】
前記対象車両の進行方向および速度と予め生成された車両ベクトルフィールドとを比較して、前記対象車両が異常であるか否かを判定するステップは、
前記対象車両の位置が前記道路領域内にあり、かつ、速度がゼロである時間が所定の時間間隔閾値を超えたと判断されたことに応答して、前記対象車両が異常停車していると判定するステップを含む請求項2に記載の方法。
【請求項5】
前記対象車両の進行方向および速度と予め生成された車両ベクトルフィールドとを比較して、前記対象車両が異常であるか否かを判定するステップは、
前記対象車両が前記道路領域から非道路領域へ進行したと検出されたことに応答して、前記対象車両が道路から退出したと判定するステップを含む請求項2に記載の方法。
【請求項6】
前記対象車両の進行方向および速度と予め生成された車両ベクトルフィールドとを比較して、前記対象車両が異常であるか否かを判定するステップは、
前記対象車両の進行方向と前記車両ベクトルフィールドの方向とを比較し、なす角度が所定閾値を超えたと判断されたことに応答して、前記対象車両の軌跡が異常であると判定するステップを含む請求項1に記載の方法。
【請求項7】
同一位置に軌跡異常が発生した車両の数が2台を超えたことに応答して、車両の衝突が発生したと判定するステップをさらに含む請求項6に記載の方法。
【請求項8】
少なくとも2フレームの連続した交通画像を取得するように構成される取得ユニットと、
前記少なくとも2フレームの連続した交通画像からそれぞれ対象車両の位置を認識して位置情報セットを得るように構成される認識ユニットと、
前記位置情報セットに基づいて前記対象車両の進行方向および速度を決定するように構成される決定ユニットと、
前記対象車両の進行方向および速度と予め生成された車両ベクトルフィールドとを比較して、前記対象車両が異常であるか否かを判定するように構成される検出ユニットと、
を備える交通異常を検出する装置。
【請求項9】
所定時間間隔の交通映像を取得するステップと、
前記交通映像の画面と同じ大きさのマトリクスを作成するステップであって、前記マトリクスの各要素は前記画面上の画素点を表し、各要素の初期値はゼロである、ステップと、
前記交通映像における車両に対して追跡検出を行い、車両の検出枠における画素点に対応する要素を非ゼロ値に設定するステップと、
前記マトリクスにおける非ゼロ値に対応する画素点を道路として決定し、道路領域を得るステップと、
を行うように構成される抽出ユニットをさらに備える請求項8に記載の装置。
【請求項10】
前記抽出ユニットは、
車両の検出枠の位置変化に基づいて車両軌跡セットを得るステップと、
前記車両軌跡セットをクラスタリング解析して車両ベクトルフィールドを生成するステップと、
を行うようにさらに構成される請求項9に記載の装置。
【請求項11】
前記検出ユニットは、
前記対象車両の位置が前記道路領域内にあり、かつ、速度がゼロである時間が所定の時間間隔閾値を超えたと判断されたことに応答して、前記対象車両が異常停車していると判定するようにさらに構成される請求項9に記載の装置。
【請求項12】
前記検出ユニットは、
前記対象車両が前記道路領域から非道路領域へ進行したと検出されたことに応答して、前記対象車両が道路から退出したと判定するようにさらに構成される請求項9に記載の装置。
【請求項13】
前記検出ユニットは、
前記対象車両の進行方向と前記車両ベクトルフィールドの方向とを比較し、なす角度が所定閾値を超えたと判断されたことに応答して、前記対象車両の軌跡が異常であると判定するようにさらに構成される請求項8に記載の装置。
【請求項14】
前記検出ユニットは、
同一位置に軌跡異常が発生した車両の数が2台を超えたことに応答して、車両の衝突が発生したと判定するようにさらに構成される請求項13に記載の装置。
【請求項15】
少なくとも1つのプロセッサと、
前記少なくとも1つのプロセッサと通信可能に接続されるメモリと、を備える電子機器であって、
前記メモリには、前記少なくとも1つのプロセッサによって実行可能な指令が記憶され、前記指令が前記少なくとも1つのプロセッサによって実行されると、前記少なくとも1つのプロセッサに請求項1~7のいずれか1項に記載の方法を実行させる、電子機器。
【請求項16】
コンピュータ指令が記憶されている非一時的コンピュータ可読記憶媒体であって、
前記コンピュータ指令
はコンピュータに請求項1~7のいずれか1項に記載の方法を実行させるために用いられる、非一時的コンピュータ可読記憶媒体。
【請求項17】
プロセッサによって実行されると、請求項1~7のいずれか1項に記載の方法が実現されるコンピュータプログラ
ム。
【手続補正3】
【補正対象書類名】明細書
【補正対象項目名】0005
【補正方法】変更
【補正の内容】
【0005】
本開示は、交通異常を検出する方法、装置、機器、記憶媒体およびコンピュータプログラムを提出する。
【手続補正4】
【補正対象書類名】明細書
【補正対象項目名】0009
【補正方法】変更
【補正の内容】
【0009】
本開示の第4の態様によれば、コンピュータ指令が記憶されている非一時的コンピュータ可読記憶媒体であって、前記コンピュータ指令はコンピュータに第1の態様のいずれか1項に記載の方法を実行させるために用いられる、非一時的コンピュータ可読記憶媒体を提供する。
【手続補正5】
【補正対象書類名】明細書
【補正対象項目名】0010
【補正方法】変更
【補正の内容】
【0010】
本開示の第5の態様によれば、プロセッサによって実行されると、第1の態様のいずれか1項に記載の方法が実現されるコンピュータプログラムを提供する。
【手続補正6】
【補正対象書類名】明細書
【補正対象項目名】0064
【補正方法】変更
【補正の内容】
【0064】
コンピュータ指令が記憶されている非一時的コンピュータ可読記憶媒体であって、前記コンピュータ指令はコンピュータにフロー200またはフロー400に記載の方法を実行させるために用いられる。
【手続補正7】
【補正対象書類名】明細書
【補正対象項目名】0065
【補正方法】変更
【補正の内容】
【0065】
プロセッサによって実行されるとフロー200またはフロー400に記載の方法が実現されるコンピュータプログラムを提供する。
【国際調査報告】