(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公開特許公報(A)
(11)【公開番号】P2023029990
(43)【公開日】2023-03-07
(54)【発明の名称】選択された関心領域に関する高サンプリングレートの動的選択のためのシステムおよび方法
(51)【国際特許分類】
H04N 23/60 20230101AFI20230228BHJP
B61L 23/00 20060101ALI20230228BHJP
G06T 7/00 20170101ALI20230228BHJP
【FI】
H04N23/60
B61L23/00 A
G06T7/00 650Z
【審査請求】有
【請求項の数】6
【出願形態】OL
【外国語出願】
(21)【出願番号】P 2022196334
(22)【出願日】2022-12-08
(62)【分割の表示】P 2020555369の分割
【原出願日】2019-05-01
(31)【優先権主張番号】62/664,970
(32)【優先日】2018-05-01
(33)【優先権主張国・地域又は機関】US
(71)【出願人】
【識別番号】516291125
【氏名又は名称】レール ビジョン リミテッド
【氏名又は名称原語表記】RAIL VISION LTD
(74)【代理人】
【識別番号】100120891
【弁理士】
【氏名又は名称】林 一好
(74)【代理人】
【識別番号】100165157
【弁理士】
【氏名又は名称】芝 哲央
(74)【代理人】
【識別番号】100205659
【弁理士】
【氏名又は名称】齋藤 拓也
(74)【代理人】
【識別番号】100126000
【弁理士】
【氏名又は名称】岩池 満
(74)【代理人】
【識別番号】100185269
【弁理士】
【氏名又は名称】小菅 一弘
(72)【発明者】
【氏名】ハニア シャハール
(57)【要約】 (修正有)
【課題】画像フレームの細部を高速に処理できる、撮像デバイスと処理ユニットを含むシステム及び方法を提供する。
【解決手段】方法は、撮像デバイスにより、対応する複数の画像フレーム処理サイクルを実行することにより、対応する複数の画像フレームの複数のデータセットを取得し、処理ユニットにより、それぞれの画像フレームのデータセットに基づいて、撮像デバイスにより取得した複数の画像フレームの、少なくともいくつかの各々において特定関心領域(SROI)を定義し、撮像デバイスにより、複数の画像フレーム処理サイクルの、少なくともいくつかの各々の期間であって、画像フレーム取得時間の終わりと、それぞれの画像フレーム処理サイクルの終わり、との間の残余時間内に、SROIの少なくとも1つの部分データセットを取得する。
【選択図】
図5
【特許請求の範囲】
【請求項1】
関心のある選択領域のイメージャ検出器のサンプリングレートを高めるシステムにおいて、
撮像デバイスと、
前記撮像デバイスと通信する処理ユニットと、
を備え、前記撮像デバイスは、対応する複数の画像フレーム処理サイクルを実行することにより、対応する複数の画像フレームの複数のデータセットを取得するように構成され、
前記処理ユニットは、前記それぞれの画像フレームの前記データセットに基づいて、前記複数の画像フレームの少なくともいくつかの各々において、特定関心領域(SROI)を定義するように構成され、
前記撮像デバイスは、さらに、前記複数の画像フレーム処理サイクルの、少なくともいくつかの各々の期間であって、画像フレーム取得時間の終わりと、前記それぞれの画像フレーム処理サイクルの終わりとの間の残余時間内に、前記SROIの少なくとも1つの部分データセットを取得するように構成される、システム。
【請求項2】
前記撮像デバイスが、列車の進行方向に向かうように、前記列車の機関車に配置され、前記処理ユニットは、
前記複数の画像フレームの少なくともいくつかの各々におけるレールを検出し、
前記複数の画像フレームの少なくともいくつかの各々における検出されたレールの両側のマージンを定義し、
前記列車の安全制動距離に基づいて、前記複数の画像フレームの、少なくともいくつかの各々において安全制動線を定義し、
前記定義されたマージンおよび前記定義された安全制動線に基づいて、前記複数の画像フレームの、少なくともいくつかの各々において安全ゾーンを定義し、
前記定義された安全ゾーンの遠位端において、前記複数の画像フレームの少なくともいくつかの各々において前記SROIを定義する、
ように構成された追跡モジュールを備えた、請求項1に記載のシステム。
【請求項3】
前記処理ユニットは、
前記フル画像フレーム内の、前記SROIの少なくとも前記部分データセットを解析し、
前記解析に基づいて、レール上の、または前記定義されたSROI内の潜在的な物体/障害物を検出する、
ように構成された障害物検出モジュールを備えた、請求項2に記載のシステム。
【請求項4】
選択された関心領域のためのイメージャ検出器のサンプリングレートを高める方法において、
撮像デバイスにより、対応する複数の画像フレーム処理サイクルを実行することにより、対応する複数の画像フレームの複数のデータセットを取得するステップと、
処理ユニットにより、前記それぞれの画像フレームの前記データセットに基づいて、前記複数の画像フレームの少なくともいくつかの各々において、特定関心領域(SROI)を定義するステップと、
前記撮像デバイスにより、前記複数の画像フレーム処理サイクルの、少なくともいくつかの各々の期間であって、画像フレーム取得時間の終わりと前記それぞれの画像フレーム処理サイクルの終わりとの間の残余時間内で、前記SROIの少なくとも1つの部分データセットを取得するステップと、
を備えた、方法。
【請求項5】
前記処理ユニットの追跡モジュールにより、前記複数の画像フレームの、少なくともいくつかの各々においてレールを検出するステップと、
前記追跡モジュールにより、前記複数の画像フレームの少なくともいくつかの各々において前記検出されたレールの両側のマージンを定義するステップと、
前記追跡モジュールにより、前記列車の安全制動距離に基づいて、前記複数の画像フレームの、少なくともいくつかの各々において安全制動線を定義するステップと、
前記追跡モジュールにより、前記定義されたマージンと、前記定義された安全制動線とに基づいて、前記複数の画像フレームの、少なくともいくつかの各々において安全ゾーンを定義するステップと、
前記追跡モジュールにより、前記定義された安全ゾーンの遠位端において、前記複数の画像フレーム野少なくともいくつかの各々において前記SROIを定義するステップと、
をさらに備えた、請求項4に記載の方法。
【請求項6】
前記処理ユニットの障害物検出モジュールにより、前記フル画像フレーム内の前記SROIの、少なくとも前記部分データセットを解析するステップと、
前記障害物検出モジュールにより、前記解析に基づいて、レール上の、または前記定義されたSROI内の潜在的物体/障害物を検出するステップと、をさらに備えた、請求項5に記載の方法。
【発明の詳細な説明】
【技術分野】
【0001】
この発明は、撮像デバイスのサンプリングレートを向上させる分野に関し、特に、より良い検出性能のために、画像フレーム内の選択された関心領域に関するサンプリングレートを高めることに関する。
【背景技術】
【0002】
画像フレームの細部の処理、特に、画像フレームデータへの計算の適用は、計算リソースと計算時間の少なくとも1つと本質的に矛盾する。フレーム細部の解像度が高ければ高いほど、必要とされる計算リソースは大きくなり、および/または計算結果は遅くなる。高分解能の計算を画像フレームの事前選択した領域(例えば、関心領域(ROI))にのみ適用すると、処理結果時間は短くなり、および/または計算負荷が低下する可能性がある。しかしながら、選択されたROIは、重要度が高い可能性がある、少なくともいくつかの画像細部を偶然にも含まない可能性がり、それにより、結果として得られる利益と、重要データの損失とのバランスが取れない可能性がある。
【0003】
例えば、処理した画像フレームが(例えば、驚異となる障害物の事前警告を提供するために)走行する列車の前方視認撮像デバイスから撮像されるとき、所定のしきい値よりも高い障害物、および所定の第2のしきい値より低い誤警報率(FAR)の検出確率(PD)で、領域に含まれる細部が列車の前方のレールを囲む領域(例えば、安全ゾーン(SZ)またはガバリット(gabarit)と呼ばれる)に含まれることを保証するとともに、画像フレームの細部を高速に処理する必要がある。
【発明の概要】
【0004】
この発明の一態様は、選択された関心領域のイメージャディテクタ(imager detector)のサンプリングレートを高めるためのシステムを提供することができ、前記システムは、撮像デバイスと、前記撮像デバイスと通信している処理装置とを含み、前記撮像デバイスは、対応する複数の画像フレーム処理サイクルを実行することにより、対応する複数の画像フレームの複数のデータセットを取得するにように構成され、前記処理ユニットは、前記それぞれの画像フレームのデータセットに基づいて、前記複数の画像フレームの少なくともいくつかの各々における特別な関心領域(SROI)を定義するように構成され、前記画像デバイスはさらに、前記複数の画像フレーム処理サイクルの少なくともいくつかの各々の期間、および画像フレーム取得時間の終わりと、それぞれの画像フレーム処理サイクルの終わりとの間の残余時間内に、前記SROIの少なくとも1つの部分データセットを取得するようにさらに構成される。この開示の他の態様は、選択された関心領域のためのイメージャディテクタのサンプリングレートを高める方法を提供することができ、この方法は、撮像装置により、対応する複数の画像フレーム処理サイクルを実行することにより、対応する複数の画像フレームの複数のデータセットを取得するステップと、処理ユニットにより、それぞれの画像フレームのデータセットに基づいて、前記複数の画像フレームの少なくともいくつかの各々における特別関心領域(SROI)を定義するステップと、前記撮像デバイスにより、前記複数の画像フレーム処理サイクルの少なくとも、いくつかのの各々の期間および画像フレーム取得時間の終わりと画像フレーム処理サイクルの終わりとの間の残余時間内に、前記SROIの少なくとも1つの部分データセットを取得するステップと、を含むことができる。この発明の、これらの、追加、および/または他の態様、および/または利点は、以下の詳細な説明に記載され、詳細な説明から推測可能であり、および/または、この発明を実施することにより学習可能である。この発明の実施形態をより良く理解するために、およびこの発明の実施形態がどのように実施できるかを示すために、単なる例示として、全体を通して、同様の数字が、対応するエレメントまたはセクションを示す添付図面を参照する。
【図面の簡単な説明】
【0005】
【
図1A】この発明のいくつかの実施形態に従う、安全な制動距離範囲を定義する安全な制動線(braking line)を有するれールを描画する画像フレームの概略図である。
【
図1B】この発明のいくつかの実施形態に従う、画像フレーム内のレールと特定関心領域を描画する画像フレームの概略図である。
【
図2】撮像デバイスによる一般的な画像フレーム処理の概略時間グラフである。
【
図3】この発明の実施形態に従う、画像フレーム処理の時間グラフである。
【
図4】この発明のいくつかの実施形態に従う、画像フレーム内の選択された関心領域に対するイメージディテクタのサンプリングレートを高めるためのシステムの概略図である。
【
図5】この発明のいくつかの実施形態に従う、画像フレーム内の選択された関心領域に関する、イメージディテクタのサンプリングレートを高める方法のフローチャートである。
【
図6】この発明のいくつかの実施形態に従う、画像フレーム内の選択された関心領域に関する、イメージディテクタのサンプリングレートを高めることができる、移動する列車による障害物検出のための光学システムの概略図である。
【
図7-1】この発明のいくつかの実施形態に従う、画像フレーム内の選択された関心領域に関するイメージディテクタのサンプリングレートを高める、移動する列車による障害物検出の方法のフローチャートである。図の簡単かつ明瞭化のために、図中に示されるエレメントは、必ずしも縮尺通りではないことが理解されるであろう。例えば、エレメントのいくつかの寸法は、明瞭さのために、他のエレメントに対して誇張されている場合がある。さらに、適切であると考えられる場合、対応するまたは類似のエレメントを示すために、図面間で参照符号を反復する場合がある。
【
図7-2】この発明のいくつかの実施形態に従う、画像フレーム内の選択された関心領域に関するイメージディテクタのサンプリングレートを高める、移動する列車による障害物検出の方法のフローチャートである。図の簡単かつ明瞭化のために、図中に示されるエレメントは、必ずしも縮尺通りではないことが理解されるであろう。例えば、エレメントのいくつかの寸法は、明瞭さのために、他のエレメントに対して誇張されている場合がある。さらに、適切であると考えられる場合、対応するまたは類似のエレメントを示すために、図面間で参照符号を反復する場合がある。
【発明を実施するための形態】
【0006】
以下の説明において、この発明の種々の態様が記述される。説明の目的のため、この発明の完全な理解を提供するために、特定の構成および説明が記載される。しかしながら、この発明は、ここに述べた特定の詳細な説明なしで、実施できることは当業者には明白であろう。さらに、この発明をあいまいにしないために、よく知られた特徴は、省略するか、簡単化することができる。図面を特に参照して、図示する詳細は、例として、この発明の例示的議論のみを目的としており、この発明の原理的および概念的態様の最も有用で容易に理解されると思われるものを提供するために提示される。この点に関して、この発明の基本的な理解に必要以上にこの発明の構造的詳細についての試みはなされておらず、図面とともに行われた説明により、この発明のいくつかの形態が実際にどのように具現化できるかが、当業者には、明白である。
【0007】
この発明の少なくとも1つの実施形態が詳細に説明される前に、この発明は、その適用において、以下の記述で述べた、あるいは図面に示した、コンポーネントの構成と配置の詳細に限定されないことを理解されたい。この発明は、種々の方法で実施または実行可能な、他の実施形態ならびに開示された実施形態の組み合わせに適用可能である。また、ここに採用したフレーズおよび用語は、記述目的であり、限定するものとみなされるべきでないことを理解されたい。
【0008】
以下の説明から明らかなように、そうでないと特に記載しない限り、「処理する」、「コンピューティング」、「計算する」、「決定する」、「高める」等のような用語を利用する明細書の記述は、電子、コンピューティングシステムのレジスタおよび/またはメモリ内の量のような、物理量として表されたデータを、コンピューティングシステムのメモリ、レジスタまたはそのような情報ストレージ、送信またはディスプレイデバイス内の物理量として同様に表された他のデータに操作および/または変換する、コンピュータまたはコンピューティングシステムのアクションおよび/またはプロセスを指すことが理解される。開示したモジュールまたはユニットのいずれも、少なくとも部分的にコンピュータプロセッサによりインプリメントすることができる。
【0009】
この開示のいくつかの態様は、画像フレーム内の選択された関心領域の撮像デバイスのサンプリングレートを高めるためのシステムと方法を提供することができる。いくつかの実施形態によれば、システムは、撮像デバイスと処理ユニットを含むことができる。
【0010】
いくつかの実施形態によれば、撮像デバイスは、対応する複数の画像フレーム処理サイクルを実行することにより、対応する複数の画像フレームの複数のデータセットを取得するように構成することができる。いくつかの実施形態によれば、処理ユニットは、それぞれの画像フレームのデータセットに基づいて、撮像デバイスにより取得した複数の画像フレームの、少なくともいくつかの各々における特定の関心領域を定義するように構成することができる。SROIは、拡張された画像処理領域(例えば、空間分解能)を必要し得る画像フレーム内の領域であり得る。
【0011】
いくつかの実施形態によれば、撮像デバイスは、さらに、複数の画像フレーム処理サイクルの、少なくともいくつかの各々の期間と、画像フレーム取得時間の終わりとそれぞれの画像フレーム処理サイクルの終わりとの間の残余時間内に、SROIの少なくとも1つの部分データセットを取得するように構成することができる。有利なことに、開示したシステムと方法は、所定のフレームレート値で撮像デバイスのフレームレートを維持しながら全画像フレーム内のSROIのデータセットを取得するレートを増大可能にすることができる。
【0012】
図1Aを参照すると、この発明のいくつかの実施形態に従う、サイドマージン(side margins)120を有するレール110と、安全制動距離範囲140を定義する安全制動線142の概略図が示される。また、
図1Bを参照すると、この発明のいくつかの実施形態に従う、画像フレーム内のレール110と、特定関心領域(SROI)180を描画する画像フレーム100a、100bの概略図が示される。
【0013】
移動する列車の安全ゾーン160(例えば、ライトグレーの色により
図1Aに描画された)は、列車の先端(例えば、列車の機関車)から、列車の前方のレール110に沿った安全制動距離140までのレール110の両側の定義されたマージン120を有するエリアとして定義することができる。セーフティゾーン160は、識別した物体が、移動する列車に危険をもたらす可能性が高いエリアを表すことができる。
【0014】
典型的に、セーフティゾーン160は、画像フレーム100において、セーフティゾーン160が画像フレーム20の上部に向かって進むに連れ、画像フレーム100の底部に近い画像エリアの底部からの狭まる形状を有し得る。安全制動距離140は、列車の移動速度(および、重要度は低いが、列車やレールのメカ的条件および気象態様)にダイレクトに比例し得る。
【0015】
図1Aの安全制動線142(移動する列車に向かって)から距離をおいて引かれた水平線144は、安全ゾーン160内の特定関心領域(SROI)を定義し得、列車からの距離のために、列車を脅かす可能性のある物体を識別するための十分な能力を保証するために、拡張された処理分解能が必要になる場合がある。
【0016】
例えば、SROI180は、幅がXSROIで、高さがYSROIを有する方形形状を有し、寸法XSROIは、画像フレーム100の水平寸法Xframeに並行であり、寸法YSROIは、画像フレーム100の垂直寸法Yframeに並行である。画像フレーム100内のSROI180のロケーションは、画像フレーム100の基準コーナからのコーナの1つの2次元距離により示すことができる。例えば、画像フレーム100内のSROI180のロケーションは、水平距離X180と垂直距離Y180により示すことができる。
【0017】
画像フレーム100内のSROI180のサイズ、アスペクト比およびロケーション(集合的にSROIパラメータ)は、例えば、SROI180が、安全ゾーン160の遠位端を取り囲むように決定または選択することができる。SROI180のサイズは、SROI180内部の詳細に対して、できるだけ高い分解能を提供する必要性と、システムの所定の性能数値内で動作する必要性とのバランスを取るように設定することができる。SROI180の方形形状は、例えば、SROI180のロケーションとサイズの直接の、容易な、そしてリソースを節約する設定をサポートするシステムに好適であり得る。
【0018】
SROI180のパラメータを決定/定義する際に、以下の考察の1つまたは複数に依存することができる。(i)SROIにおける所望の物体分解能、(ii)検出の予想または望ましい確率と誤警報率数値、(iii)画像処理のための利用可能な計算リソース、(iv)画像デバイスの利用可能なフレームレート等。例えば、SROI180の垂直寸法と垂直位置は、安全制動線142と水平線144を取り囲むように選択することができる。SROI180の水平寸法と水平位置は、安全制動線142と水平線144との間に延伸する安全ゾーン160の全体を包含するように選択することができる。いくつかの実施形態によれば、SROI180は、(例えば、
図6に関して以下に説明するように)追跡モジュールを用いて画像フレームに定義することができる。
【0019】
追跡モジュールは、レール110が撮像される画像フレーム内のロケーションを定義および追跡するように構成することができる。追跡モジュールは、さらに、後続する画像フレーム100内のレール110のロケーションを定義し、それにより画像フレーム100内のSROI180のロケーションを追跡するように構成することができる。例えば、
図1Bは、追跡モジュールの動作の結果として、第1の画像フレーム100aの実質的に中央部におけるレール110の遠位端の周りに位置するSROI180を有する第1の画像フレーム100aと、第2の画像フレーム100の中心の横に位置するレール110の遠位端の周りに位置するSROI180を有した第2の画像フレームを描画する。
【0020】
列車を脅かす可能性のある障害物の検出の高い確率および/または低い誤報率に到達するための1つの方法は、画像フレーム100全体より小さいSROI180を選択することにより、イベントの確率を下げることである。この欠点は、SROI180外のイベントは、検出されず、それらの一部は、重要過ぎて誤検出されない可能性があることである。
【0021】
列車を脅かす可能性がある障害物の検出の高い可能性および/またはその低い誤報率に到達するための別の方法は、画像デバイスのフレームレートを上げることによりサンプリング帯域幅(BW)を増大させることである。この帰結は、システムの計算リソース(例えば、処理ユニット)の負荷が増大する可能性がある。
【0022】
いくつかの実施形態によれば、開示したシステムと方法は、(例えば、
図3に関して以下に記載するように)所定のフレームレートで撮像デバイスのフレームレートを維持しながら、完全な画像フレーム内のSROI180のサンプリングレートを増加させることを可能にし得る。
【0023】
このように、開示したシステムと方法は、例えば、列車を脅かす可能性のある障害物の検出確率を増加させることを可能にし、および/または計算リソースを実質的にロードし、および撮像デバイスの既存のインタフェースの使用を可能にすることなく誤警報率を減少させることができる。
【0024】
図2を参照すると、撮像デバイスによる一般的な画像フレーム処理の概略時間グラフ200が示される。画像フレームは、一般的に、画像フレーム(例えば、ここでは、互換可能に「t
cyc」と呼ぶ)間の所定のサイクルタイム220を有する所定フレームレート(以下、互換可能に「FR」と呼ぶ)で取得され、所定サイクル時間220は、所定フレームレートに反比例する(例えば、t
cyc=1/FR)。一般的に、各画像フレームの取得は、画像フレーム取得時間(例えば、ここでは、互換的に「Δt
at」と呼ぶ)を持続し、撮像デバイスの時間単位あたり(例えば、ピクセル/時間)最大データ容量(DCM)260に従うデータアイテム(例えば、データセット)の取得を含む。従って、撮像デバイスのノーマルモード動作において、各Δt
atにおいて取得したデータアイテムの量(例えば、互換的に、「フレームあたりのピクセル」または「PPF]と呼ぶ)は、式1により表すことができ、撮像デバイスの所定フレームレート(FR)における毎秒あたりの取得データアイテムの量(例えば、ここでは、互換的に「DPS」と呼ぶ)は、式2により表すことができる。
PPF=Δt
ac・DCM (式1)
DPS=PF*FR=Δt*DCM*FR (式2)
【0025】
一般的な撮像デバイスは、イメージャでの画像光子の蓄積、撮像デバイスからの画像データ転送、画像データセービングおよび画像データ処理を含む、ある最大データ処理能力を有することができる。撮像デバイスの特定の性能は、各フル画像フレームのデータアイテムを取得するのに必要な画像フレーム取得時間240(Δtat)を定義することができる。一般的に、画像フレーム取得時間240(Δtat)は、所定のサイクル時間220(tcyc)より小さく、それは、撮像デバイスがビジーでない各所定のサイクル時間220(例えば、tcyc)の期間に残余時間280(ここでは、互換的に「tres」と呼ぶ)があることに起因する。
【0026】
図3を参照すると、この発明の実施形態に従う、画像フレーム処理の時間グラフ300が示される。画像フレームの処理サイクルは、所定のサイクル時間320(例えば、t
cyc)持続することができ、フル画像フレームのデータアイテム(例えば、データセット)が取得される、画像フレーム取得時間340(例えば、Δt
at)と、画像フレームがビジーでない期間の残余時間380(例えば、t
res)を含むことができる。例えば、所定のサイクル時間320,画像フレーム取得時間340および残余時間380は、それぞれ、
図2に関して上述した所定のサイクル時間220、画像フレーム取得時間240および残余時間280と同様であり得る。
【0027】
実施形態によれば、少なくとも1つの画像フレーム処理サイクルの残余時間380の期間に、(例えば、
図3に示すように)画像フレームの選択された部位のデータアイテムを取得する少なくとも1つの追加のサイクルを実行することができる。画像フレームの選択された部位から取得したデータアイテムは、ここでは、互換的に、「部分データアイテム」、または「部分データセット」、または「部分データセット(複数)」と呼ぶ。画像フレームの選択された部位の部分データアイテム/部分データセットの取得は、
【0028】
部分取得時間390(ここでは、互換的に「Δt
pat」と呼ぶ)続く場合がある。画像フレームの選択された部分は、拡張された画像処理分解能が必要とされる可能性がある画像フレーム内の領域であり得る。画像フレームの選択された部分は、例えば、
図1Aおよび1Bに関して上述したSROI180のような画像フレーム内の関心のある特定領域であり得る。画像フレームの選択された部分の特定のデータアイテムを取得するのに必要な画像部分取得時間390(Δt
pat)は、例えば、選択された部分のサイズと、取得データレート(pixel/ms)に依存することができる。選択された部分の取得データレートが、フル画像フレーム取得の取得データレートと同じであると仮定すると、比Δt
pda/Δt
daは、フル画像のエリアに対する画像フレームの選択された部分のエリアの比に等しい。いくつかの実施形態において、画像フレームの選択された部位は、(例えば、
図3に示すように)Δt
pda<<Δt
daのようにフル画像フレームに比べて極めて小さい。例えば、画像フレームの選択された部位は、1024×720ピクセルを有するフル画像フレームに比べて200×200であり得る。この例では、画像フレームの選択された部位から取得したデータアイテムの部分量は、フル画像フレームから取得する必要があるデータアイテムの量のわずか5%であり得る。
【0029】
従って、画像フレームの選択された部位の部分データアイテム/部分データセットを取得する1つまたは複数の追加サイクルは、1つまたは複数の画像フレーム処理サイクルの各々の残余時間380の期間に行うことができ、それにより、フレームレートを変更せずに、あるいは、撮像デバイスの(
図2に関して上述したDCM260のような)所定の最大データ容量(DCM)360を超える必要なく、画像フレームの選択された部位の詳細の画像分解能を高めることができる。
【0030】
例えば、
図3に示す実施形態の場合、撮像デバイスの所定のフレームレート(FR)で取得した毎秒あたりのデータアイテム(DPS)の量は、式3により表すことができる。
DPS=(Δt
da+Δt
pda)・DCM・FR|Δt
da>>Δt
pda≒Δt
da・DCM・FR (式3)
【0031】
図4を参照すると、この発明のいつかの実施形態に従う、画像フレームの選択された関心領域のイメージャ検出器のサンプリングレートを高めるシステム400の概略図が示される。いくつかの実施形態によれば、システム400は、撮像デバイス410と処理ユニット420を含むことができる。システム400は、撮像デバイス410が列車の進行方向を向くように列車の機関車に配置することができる。しかしながら、システム400は、(例えば、自動車等のような)他のアプリケーションにも同様に適用することができる。
【0032】
いくつかの実施形態によれば、撮像デバイス410は、対応する複数の画像フレーム処理サイクルを実行することにより、対応する複数の画像フレームの複数のデータセットを取得するように構成することができる。例えば、撮像デバイス410により取得した画像フレームは、
図1Aに関して上述した画像フレーム100と同様であり得る。
【0033】
いくつかの実施形態によれば、処理ユニット420は、それぞれの画像フレームのデータセットに基づいて画像デバイス410により取得された複数の画像フレームの少なくともいくつかの各々の特定関心領域(SROI)を定義するように構成することができる。SROIは、拡張された画像処理分解能が必要となり得る画像フレーム内の領域であり得る。例えば、SROIは、
図1Aおよび1Bに関して上述したSROI180であり得る。
【0034】
いくつかの実施形態によれば、撮像デバイス410は、さらに、複数の画像フレーム処理サイクルの少なくともいくつかの各々の期間であって、画像フレーム取得時間の終わりとそれぞれの画像フレーム処理サイクル(例えば、
図3に関して上述したような)の終わりとの間の残余時間内に、SROIの少なくとも1つの部分データセットを取得するように構成することができる。
【0035】
図5を参照すると、この発明のいくつかの実施形態に従う、画像フレーム内の選択された関心領域に対するイメージャ検出器のサンプリングレートを高めるための方法500のフローチャートが示される。方法500は、方法500をインプリメントするように構成することができる(例えば、
図4に関して上述したような)システム400によりインプリメントすることができる。方法500は、
図5に示されるフローチャートおよび対応する記述に限定されない。いくつかの実施形態によれば、方法500は、撮像デバイスにより、対応する複数の画像フレーム処理サイクル(ステージ510)を実行することにより、対応する複数の画像フレームの複数のデータセットを取得することを含むことができる。例えば、
図4に関して上述した撮像デバイス410。
【0036】
いくつかの実施形態によれば、方法500は、それぞれの画像フレームのデータセットに基づいて、撮像デバイスにより取得された複数の画像フレームの少なくともいくつかの各々の特定関心領域(SROI)を定義することを含むことができる。
例えば、
図4に関して上述したSROI。
【0037】
いくつかの実施形態によれば、方法500は、(例えば、
図3に関して上述したような)複数の画像フレーム処理サイクルの、少なくともいくつかの各々の期間および画像フレーム取得時間の終わりと、それぞれの画像フレーム処理サイクルの終わりとの間の残余時間内で、SROIの少なくとも1つの部分データセットを撮像デバイスにより取得することを含むことができる。有利なことに、システム400と方法500は、所定のフレームレートで撮像デバイスのフレームレートを維持しながら、フル画像フレーム内のSROIのデータセットを取得するレートを増加させることができる。
【0038】
図6を参照すると、この発明のいくつかの実施形態に従う、列車のような移動する乗り物90による障害物検出のための、および画像フレーム内の選択された関心領域のイメージャ検出器のサンプリングレートを高めることができる光学システム600の概略図が示される。いくつかの実施形態によれば、システム600は、撮像デバイス610および処理ユニット620を含むことができる。システム600は、撮像デバイス610が列車90の進行方向を向くように列車90の機関車92に配置することができる。
【0039】
いくつかの実施形態によれば、撮像デバイス610は、対応する複数の画像フレーム処理サイクルを実行することにより、対応する複数の画像フレームの複数のデータセットを取得するように構成することができる。例えば、撮像デバイス610により取得された画像フレームは、
図1Aおよび1Bに関して、上述した画像フレーム100と同様であり得る。いくつかの実施形態において、撮像デバイス610は、赤外線検出器である。
【0040】
画像フレームは、移動する機関車92の前方の少なくともレール110を描画することができる。画像フレーム処理サイクルは、所定のフレームレートで、および画像フレーム間の所定のサイクル時間で、撮像デバイス610により実行することができる。例えば、
図3に関して上述した、所定フレームレートFR、所定サイクル時間320(例えば、t
cyc)および画像フレーム処理サイクル。いくつかの実施形態によれば、処理ユニット620は、追跡モジュール622を含むことができる。
【0041】
いくつかの実施形態において、追跡モジュール622は、撮像デバイス410により取得した複数の画像フレームの少なくともいくつかの各々のレールを検出するように構成することができる。例えば、レールは、
図1Aに関して上述したレール110のようなレールであり得る。レールは、従来技術で知られた任意の技術を用いて画像フレーム内で検出することができる。例えば、レールは、(例えば、撮像デバイス610が赤外線検出器であるとき)レールと、それらの背景との間の温度差に基づいて検出することができる。
【0042】
いくつかの実施形態において、追跡モジュール622は、複数の画像フレームの少なくともいくつかの、各々の検出されたレールの両側のマージンを定義するように構成することができる。例えば、マージンは、
図1Aに対して上述したマージン120であり得る。マージンは、レールの検出の効率/品質に従って定義することができる。例えば、レールの検出が向上すると、マージンからレールまでの距離が短くなる可能性があります。さらに、この例では、レールがうまく検出できない場合、レールからの距離を大きくしてマージンを設定し、レールの検出不良を補うことができる。
【0043】
いくつかの実施形態において、追跡モジュール622は、列車90の安全制動距離に基づいて、複数の画像フレームの少なくともいくつかの、各々の安全制動線を定義するように構成することができる。例えば、安全制動線と安全制動距離は、
図1Aを参照して上述した安全制動線142と、安全制動距離140と同様であり得る。安全制動距離は、例えば、列車90の速度に基づいて決定することができる。
【0044】
いくつかの実施形態において、追跡モジュール622は、定義されたマージンと、定義された安全制動線に基づいて、複数の画像フレームの少なくともいくつかの各々の安全ゾーンを定義するように構成することができる。例えば、安全ゾーンは、
図1Aを参照して上述した安全ゾーン160であり得る。
【0045】
いくつかの実施形態において、追跡モジュール622は、定義された安全ゾーンの遠位端における複数の画像フレームの、少なくともいくつかの各々の特定関心領域(SROI)を定義するように構成することができる。例えば、
図1Aに対して上述したSROI180であり得る。SROIは、列車90からの距離により、列車90を脅かす可能性のある物体を検出するための、十分な能力を保証するために、拡張された画像処理分解能が必要となる可能性がある、ゾーンであり得る。
【0046】
いくつかの実施形態において、追跡モジュール622は、後続の画像フレームにおいて、SROIを定義するように構成し、それにより、(例えば、
図1Bに関して上述したような)画像フレーム内のSROIのロケーションを追跡することができる。いくつかの実施形態によれば、撮像デバイス610は、さらに、複数の画像フレーム処理サイクルの、少なくともいくつかの各々の期間、および画像フレーム取得時間の終わりと、それぞれの画像フレーム処理サイクル(例えば、
図3に関して上述したような)との間の残余時間内で、SROIの少なくとも1つの部分データセットを取得するように構成することができる。
【0047】
いくつかの実施形態によれば、処理ユニット620は、障害物検出モジュール624を含むことができる。障害物検出モジュール624は、フル画像フレームのデータセットおよび/またはフル画像フレーム内のSROIの部分データセットを解析し、その解析に基づいて、レール110上の、および/または定義されたSROI内の、潜在的な物体/障害物を検出するように構成することができる。
【0048】
図7を参照すると、この発明のいくつかの実施形態に従う、画像フレーム内の選択された関心領域のためのイメージャ検出器のサンプリングレートを高める、移動する列車による障害物検出の方法のフローチャート700が示される。方法700は、方法700をインプリメントするように構成することができるシステム600により、インプリメントすることができる。方法700は、
図7に図示するフローチャートおよび対応する記述に限定されないことに留意する必要がある。例えば、種々の実施形態において、方法700は、図示したボックスまたはステージの各々を通過する必要はなく、あるいは、図示し、記述した通りの順番である必要はない。
【0049】
いくつかの実施形態によれば、方法700は、撮像デバイスにより、対応する複数の画像フレーム処理サイクルを実行することにより、対応する複数の画像フレームの複数のデータセットを取得することを含むことができる(ステージ710)。例えば、撮像デバイスは、
図6を参照して上述した撮像デバイス610と同様であり得る。いくつかの実施形態によれば、方法700は、処理ユニットの追跡モジュールにより、それぞれの画像フレームのデータセットに基づいて、撮像デバイスにより取得した複数の画像フレームの少なくともいくつかの各々において、特定関心領域(SROI)を定義することを含むことができる(ステージ720)。例えば、追跡ユニットと処理ユニットは、
図6を参照して上述した追跡ユニット622と処理ユニット620と同様であり得る。SROIは、
図1Aおよび1Bを参照して上述したSROI180と同様であり得る。いくつかの実施形態において、方法700は、さらに、(例えば、
図6を参照して記載したように)複数の画像フレームの少なくともいくつかの各々において、レールを検出することを含むことができる(ステージ721)。
【0050】
いくつかの実施形態において、方法700はさらに(
図6を参照して記載したように)複数の画像フレームの少なくともいくつかの各々において、検出されたレールの両側のマージンを定義することを含むことができる(ステージ722)。いくつかの実施形態において、方法700は、さらに、(
図6に関して上述したように)列車の安全制動距離に基づいて、複数の画像フレームの、少なくともいくつかの各々において、安全制動線を定義することを含むことができる(ステージ723)。いくつかの実施形態において、方法700は、(例えば、
図6に関して上述したように)定義されたマージンと定義された安全制動線に基づいて、複数の画像フレームの、少なくともいくつかの各々における安全ゾーンを定義することを含むことができる(ステージ724)。
【0051】
いくつかの実施形態において、方法700は、さらに、(例えば、
図6に関して記載したように)定義された安全ゾーンにおける複数の画像フレームの、少なくともいくつかの各々における特定関心領域(SROI)を定義することを含むことができる(ステージ725)。いくつかの実施形態において、方法700は、さらに、(
図6に関して上述したように)後続の画像フレーム内にSROIを定義し、それにより、画像フレーム内のSROIのロケーションを追跡することを含むことができる(ステージ726)。いくつかの実施形態によれば、方法700は、(例えば、
図3および
図6を参照して記載したように)撮像デバイスにより、複数の画像フレーム処理サイクルの、少なくともいくつかの各々の期間であって、画像フレーム取得時間の終わりとそれぞれの画像フレーム処理サイクルの終わりとの間の残余時間内に、SROIの少なくとも1つの部分データセットを取得することを含むことができる(ステージ730)。
【0052】
いくつかの実施形態によれば、方法700は、処理ユニットの障害物検出モジュールにより、フル画像フレームのデータセットおよび/またはフル画像フレーム内のSROIの部分データセットを解析し、その解析に基づいて、レール上のおよび/または定義されたSROI内の潜在的物体/障害物を検出することを含むことができる(ステージ740)。例えば、
図6に関して上述した障害物検出モジュール624のような障害物検出モジュール。
【0053】
有利なことに、システム600と方法700は、(例えば、
図3に関して記述したように)所定フレームレートで撮像デバイスのフレームレートを維持しながら、フル画像フレーム内のSROI180のサンプリングレートを高めることができる。このように、システム600と方法700は、計算リソースを実質的にロードすることなく、かつ撮像デバイスの既存のインタフェースの使用をイネーブルにすることなく、列車を脅かす可能性がある障害物の検出確率を高めることができ、および/または誤報率を低減することができる。
【0054】
上述したいくつかの実施形態によれば、画像フレームの選択された領域のより高い分解能を、撮像デバイスの所定のフレームレートまたはデータ容量を変更することなく、得ることができる。画像フレーム内の選択された部分のサイズおよびそのロケーションを決定または指示することができる。いくつかの実施形態によれば、画像フレーム内の選択された部分のサイズとロケーションは、より高い画像分解能を必要とする特定関心領域(SROI)を満足するように設定することができる。
【0055】
例えば、列車の線路をモニタリングし、レール上のまたはレール近くの障害物の事前警告を提供するのに使用可能なシステムの場合、画像分解能を高めることは、(
図1Aおよび1B、
図6、
図7)に関して上述したように)画像フレーム内で検出されたレールの遠位端を含む画像の一部に必要であり得る。SROIのロケーションとサイズを決定するために、追跡モジュールを使用することができる。追跡モジュールは、画像フレーム内のレールの存在を追跡するグラフィクス処理ユニットであり得る。そのような追跡モジュールは、画像処理を行うコンピュータ上で実行されるプログラムとして具現化することができる。例えば、画像フレーム内のレールの近位端(一般的には、画像の下端の中央部に近く、目立つ存在)が画像フレームの上方向に向かって追跡される場合、画像フレーム内のレールの遠位端は、相対的に低い追加計算負荷を用いて検出することができる。画像フレーム内の列車レールの遠位端の追跡の結果は、次にSROIのロケーションとサイズに変換することができる。
【0056】
この発明の態様は、この発明の実施形態に従う、方法、装置(システム)およびコンピュータプログラムプロダクトのフローチャート表示および/または部分図を参照して上述される。フローチャート表示の各部分および/又は部分図、およびフローチャート表示の部分および/または部分図の組み合わせは、コンピュータプログラム命令によりインプリメントすることができることが理解されよう。
【0057】
コンピュータプログラム命令は、汎用コンピュータ、特定用途コンピュータ、または、他のプログラム可能なデータ処理装置のプロセッサに提供されてマシンを製造することができ、コンピュータまたは他のプログラム可能なデータ処理装置のプロセッサを介して実行される命令が、フローチャートおよび/または部分図または部分に指定される機能/動作をインプリメントするための手段を作ることができる。これらのコンピュータプログラム命令は、コンピュータ、他のプログラム可能なデータ処理装置、または特定の方法で機能するための他のデバイスを指示することができるコンピュータ可読媒体に記憶することができ、コンピュータ可読媒体に記憶された命令は、フローチャートおよび/または部分図部分またはその部分で指定された機能/行為をインプリメントする命令を含む製品を作る。
【0058】
コンピュータプログラム命令は、また、コンピュータ、プログラム可能なデータ処理装置、または他のデバイスにロードして、コンピュータ、他のプログラム可能な装置、または他のデバイス上で、一連の動作ステップを実行させ、コンピュータまたは他のプログラム可能な装置上で実行される命令が、フローチャート、および/または部分図の一部分または複数の部分で指定された機能/行為をインプリメントするためのプロセスを提供する。
【0059】
上述したフローチャートと、図がこの開示の種々の実施形態に従うシステム、方法およびコンピュータプログラムの可能なインプリメンテーションのアーキテクチャ、機能性、及び動作を図示する。この点に関して、フローチャートまたは部分図内の各部分は、指定した論理機能(複数の場合もある)をインプリメントするための1つまたは複数の実行可能な命令を含む、モジュール、セグメント、またはコードの一部を表すことができる。いくつかの代替インプリメンテーションにおいて、部分に示される機能は、図に示した順番から外れて生じる可能性がある。例えば、連続して示されている2つの部分は、実際には、実質的に同時に実行することができるか、あるいは、これらの部分は、逆の順序で実行することもできる。部分図および/またはフローチャート表示の各部分、および部分図および/またはフローチャート表示の部分の組み合わせは、指定された機能または行為を実行する特定用途ハードウェアベースシステム、あるいは、特定用途ハードウェアとコンピュータ命令の組み合わせによりインプリメントすることができることに留意する必要がある。
【0060】
上記記述において、一実施形態は、この発明の一例またはインプリメンテーションである。「一実施形態(one embodiment)」、「一実施形態(an embodiment)」、「ある実施形態」または「いくつかの実施形態」という種々の表現は、必ずしもすべてが同じ実施形態を指しているわけではない。この発明の種々の特徴を一実施形態のコンテキストにおいて記載し得るけれども、これらの特徴は、また別個にまたは任意の適切な組み合わせで提供することもできる。逆に、この発明は明瞭さのために別個の実施形態のコンテキストにおいて、ここに記載することが出来るけれども、この発明はまた、単一の実施形態でインプリメントすることも出来る。この発明のある実施形態は、上述した異なる実施形態からの特徴を含むことができ、ある実施形態は、上述した他の実施形態からのエレメントを組み込むことができる。特定の実施形態のコンテキストにおいて、この発明のエレメントの開示は、特定の実施形態のみの使用に限定されると理解されるべきではない。さらに、この発明は、種々の方法で実行または実施することができ、この発明は、上述した実施形態で説明した実施形態以外の、ある実施形態でインプリメントすることができることが理解されねばならない。
【0061】
この発明は、これらの図または対応する記述に限定されない。例えば、フローは、各図示したボックスまたは状態を通過する必要はなく、あるいは、図示および記載したのと全く同じ順番である必要はない。ここに使用した技術的および科学的用語の意味は、そうでないと定義されない限り、この発明が属する当業者によるものとして一般的に理解されるべきである。この発明を限られた数の実施形態に関して記載したが、これらは、この発明の範囲を限定するものとして解釈されるべきではなく、むしろ、好適実施形態のいくつかの例示として解釈されるべきである。他の可能な変形、変更および応用も、この発明の範囲内である。従って、この発明の範囲は、以上述べたものに限定されるべきではなく、添付された請求項およびそれらの法的均等物により限定される。
【手続補正書】
【提出日】2022-12-08
【手続補正1】
【補正対象書類名】特許請求の範囲
【補正対象項目名】全文
【補正方法】変更
【補正の内容】
【特許請求の範囲】
【請求項1】
関心のある選択領域のイメージャ検出器のサンプリングレートを高めるシステムにおいて、
撮像デバイスと、
前記撮像デバイスと通信する処理ユニットと、
を備え、前記撮像デバイスは、対応する複数の画像フレーム処理サイクルを実行することにより、対応する複数の画像フレームの複数のデータセットを取得するように構成され、
前記処理ユニットは、前記それぞれの画像フレームの前記データセットに基づいて、前記複数の画像フレームの少なくともいくつかの各々において、特定関心領域(SROI)を定義するように構成され、
前記撮像デバイスは、さらに、前記複数の画像フレーム処理サイクルの、少なくともいくつかの各々の期間であって、前記撮像デバイスがビジーでない、画像フレーム取得時間の終わりと前記それぞれの画像フレーム処理サイクルの終わりとの間の残余時間内のみで、前記SROIの少なくとも1つの部分データセットを取得するように構成される、システム。
【請求項2】
前記撮像デバイスが、列車の進行方向に向かうように、前記列車の機関車に配置され、前記処理ユニットは、
前記複数の画像フレームの少なくともいくつかの各々におけるレールを検出し、
前記複数の画像フレームの少なくともいくつかの各々における検出されたレールの両側の
マージンを定義し、
前記列車の安全制動距離に基づいて、前記複数の画像フレームの、少なくともいくつかの各々において安全制動線を定義し、
前記定義されたマージンおよび前記定義された安全制動線に基づいて、前記複数の画像フレームの、少なくともいくつかの各々において安全ゾーンを定義し、
前記定義された安全ゾーンの遠位端において、前記複数の画像フレームの少なくともいくつかの各々において前記SROIを定義する、
ように構成された追跡モジュールを備えた、請求項1に記載のシステム。
【請求項3】
前記処理ユニットは、
フル画像フレーム内の、前記SROIの少なくとも前記部分データセットを解析し、
前記解析に基づいて、レール上の、または前記定義されたSROI内の潜在的な物体/障害物を検出する、
ように構成された障害物検出モジュールを備えた、請求項2に記載のシステム。
【請求項4】
選択された関心領域のためのイメージャ検出器のサンプリングレートを高める方法において、
撮像デバイスにより、対応する複数の画像フレーム処理サイクルを実行することにより、対応する複数の画像フレームの複数のデータセットを取得するステップと、
処理ユニットにより、前記それぞれの画像フレームの前記データセットに基づいて、前記複数の画像フレームの少なくともいくつかの各々において、特定関心領域(SROI)を定義するステップと、
前記撮像デバイスにより、前記複数の画像フレーム処理サイクルの、少なくともいくつかの各々の期間であって、前記撮像デバイスがビジーでない、画像フレーム取得時間の終わりと前記それぞれの画像フレーム処理サイクルの終わりとの間の残余時間内のみで、前記SROIの少なくとも1つの部分データセットを取得するステップと、
を備えた、方法。
【請求項5】
前記処理ユニットの追跡モジュールにより、前記複数の画像フレームの、少なくともいくつかの各々においてレールを検出するステップと、
前記追跡モジュールにより、前記複数の画像フレームの少なくともいくつかの各々において前記検出されたレールの両側のマージンを定義するステップと、
前記追跡モジュールにより、列車の安全制動距離に基づいて、前記複数の画像フレームの、少なくともいくつかの各々において安全制動線を定義するステップと、
前記追跡モジュールにより、前記定義されたマージンと、前記定義された安全制動線とに基づいて、前記複数の画像フレームの、少なくともいくつかの各々において安全ゾーンを定義するステップと、
前記追跡モジュールにより、前記定義された安全ゾーンの遠位端において、前記複数の画像フレーム野少なくともいくつかの各々において前記SROIを定義するステップと、
をさらに備えた、請求項4に記載の方法。
【請求項6】
前記処理ユニットの障害物検出モジュールにより、フル画像フレーム内の前記SROIの、少なくとも前記部分データセットを解析するステップと、
前記障害物検出モジュールにより、前記解析に基づいて、レール上の、または前記定義されたSROI内の潜在的物体/障害物を検出するステップと、をさらに備えた、請求項5に記載の方法。
【手続補正2】
【補正対象書類名】明細書
【補正対象項目名】0026
【補正方法】変更
【補正の内容】
【0026】
図3を参照すると、この発明の実施形態に従う、画像フレーム処理の時間グラフ300が示される。画像フレームの処理サイクルは、所定のサイクル時間320(例えば、t
cyc)持続することができ、フル画像フレームのデータアイテム(例えば、データセット)が取得される、画像フレーム取得時間340(例えば、Δt
at)と、
撮像デバイスがビジーでな
い残余時間380(例えば、t
res)を含むことができる。例えば、所定のサイクル時間320,画像フレーム取得時間340および残余時間380は、それぞれ、
図2に関して上述した所定のサイクル時間220、画像フレーム取得時間240および残余時間280と同様であり得る。
【外国語明細書】