IP Force 特許公報掲載プロジェクト 2022.1.31 β版

知財求人 - 知財ポータルサイト「IP Force」

▶ ビーエヌエスエフ レイルウェイ カンパニーの特許一覧

特開2024-23500遷移画像を使用してオブジェクトを再構成するためのシステム及び方法
<>
  • 特開-遷移画像を使用してオブジェクトを再構成するためのシステム及び方法 図1
  • 特開-遷移画像を使用してオブジェクトを再構成するためのシステム及び方法 図2
  • 特開-遷移画像を使用してオブジェクトを再構成するためのシステム及び方法 図3
  • 特開-遷移画像を使用してオブジェクトを再構成するためのシステム及び方法 図4
  • 特開-遷移画像を使用してオブジェクトを再構成するためのシステム及び方法 図5
  • 特開-遷移画像を使用してオブジェクトを再構成するためのシステム及び方法 図6
  • 特開-遷移画像を使用してオブジェクトを再構成するためのシステム及び方法 図7
< >
(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公開特許公報(A)
(11)【公開番号】P2024023500
(43)【公開日】2024-02-21
(54)【発明の名称】遷移画像を使用してオブジェクトを再構成するためのシステム及び方法
(51)【国際特許分類】
   G06T 7/00 20170101AFI20240214BHJP
【FI】
G06T7/00 650Z
【審査請求】未請求
【請求項の数】20
【出願形態】OL
(21)【出願番号】P 2023203821
(22)【出願日】2023-12-01
(62)【分割の表示】P 2022581595の分割
【原出願日】2021-05-12
(31)【優先権主張番号】16/917,590
(32)【優先日】2020-06-30
(33)【優先権主張国・地域又は機関】US
(71)【出願人】
【識別番号】505220284
【氏名又は名称】ビーエヌエスエフ レイルウェイ カンパニー
【住所又は居所原語表記】2500 Lou Menk Drive, Fort Worth, Texas 76131 U.S.A.
(74)【代理人】
【識別番号】100110423
【弁理士】
【氏名又は名称】曾我 道治
(74)【代理人】
【識別番号】100111648
【弁理士】
【氏名又は名称】梶並 順
(74)【代理人】
【識別番号】100221729
【弁理士】
【氏名又は名称】中尾 圭介
(74)【代理人】
【識別番号】100120662
【弁理士】
【氏名又は名称】川上 桂子
(74)【代理人】
【識別番号】100216770
【弁理士】
【氏名又は名称】三品 明生
(74)【代理人】
【識別番号】100217364
【弁理士】
【氏名又は名称】田端 豊
(74)【代理人】
【識別番号】100180529
【弁理士】
【氏名又は名称】梶谷 美道
(72)【発明者】
【氏名】コーラー、 レイチェル
(57)【要約】      (修正有)
【課題】遷移画像を使用してオブジェクトを再構成するためのシステム及び方法を提供する。
【解決手段】方法は、オブジェクト再構成モジュールによって、第1画像及び第2画像を受信するステップを含む。第1画像はオブジェクトの第1領域を含み、第2画像はオブジェクトの第2領域を含む。方法はまた、オブジェクト再構成モジュールによって遷移画像を識別するステップを含む。遷移画像は、オブジェクトの第1領域及びオブジェクトの第2領域を含む。方法はさらに、オブジェクト再構成モジュールによって、遷移画像内のオブジェクトの第1領域及び第1画像内のオブジェクトの第1領域が等価領域であると決定するステップと、オブジェクト再構成モジュールによって、第1画像及び遷移画像を使用してオブジェクトの再構成を生成するステップとを含む。オブジェクトの再構成は、オブジェクトの第1領域及びオブジェクトの第2領域を含み、等価領域を除外する。
【選択図】図6
【特許請求の範囲】
【請求項1】
装置であって、
1つ以上のプロセッサと、
前記1つ以上のプロセッサに結合された1つ以上のコンピュータ可読非一時的記憶媒体であって、前記1つ以上のプロセッサによって実行されると、前記装置に処理を実行させる命令を含む1つ以上のコンピュータ可読非一時的記憶媒体と、
を含み、
前記処理は、
プロセッサを介して、遷移画像を識別する処理であって、前記遷移画像は、
輸送インフラ構成要素の第1画像内のオブジェクトの第1領域、及び
前記輸送インフラ構成要素の第2画像内の前記オブジェクトの第2領域、
を含む処理と、
前記遷移画像を使用して前記オブジェクトの再構成を生成する処理であって、前記オブジェクトの再構成は、前記オブジェクトの第1領域及び前記オブジェクトの第2領域を含む処理と、
前記第1画像内の前記オブジェクトの第1部分を識別する処理と、
前記第1画像内の前記オブジェクトの第1部分の周辺に第1バウンディングボックスを構成する処理であって、前記第1バウンディングボックスは、前記オブジェクトの第1領域を含む処理と、
前記遷移画像内の前記オブジェクトの第2部分を識別する処理と、
前記遷移画像内の前記オブジェクトの第2部分の周辺に第2バウンディングボックスを構成する処理であって、前記第2バウンディングボックスは、前記遷移画像内の前記オブジェクトの第1領域及び前記オブジェクトの第2領域を含む処理と、
を含む、
装置。
【請求項2】
前記第1画像は、前記オブジェクトの第3領域、前記オブジェクトの第4領域、及び前記オブジェクトの第5領域をさらに含み、
前記遷移画像は、前記オブジェクトの第3領域及び前記オブジェクトの第4領域を含む請求項1に記載の装置。
【請求項3】
前記処理は、
前記遷移画像内の前記オブジェクトの第3領域及び前記第1画像内の前記オブジェクトの第3領域が第3等価領域であると決定する処理と、
前記遷移画像内の前記オブジェクトの第4領域及び前記第1画像内の前記オブジェクトの第4領域が第4等価領域であると決定する処理と、
を含み、
前記オブジェクトの再構成は、前記第3及び第4等価領域を除外する、請求項2に記載の装置。
【請求項4】
前記処理は、前記オブジェクトの再構成を生成するために、前記オブジェクトの第1領域、前記オブジェクトの第2領域、前記オブジェクトの第3領域、前記オブジェクトの第4領域、及び前記オブジェクトの第5領域を連結する処理をさらに含み、前記オブジェクトの再構成は、前記オブジェクト全体を示す、請求項2に記載の装置。
【請求項5】
前記処理は、前記遷移画像内の前記オブジェクトの第1領域及び前記第1画像内の前記オブジェクトの第1領域が前記第1等価領域であることを決定するために、IoU(Intersection over Union)を使用する処理をさらに含む、請求項1に記載の装置。
【請求項6】
前記1つ以上のプロセッサは、オブジェクト再構成モジュールを含む、請求項1に記載の装置。
【請求項7】
前記遷移画像は、前記第1画像の半分及び前記第2画像の半分を含む、請求項1に記載の装置。
【請求項8】
方法であって、
プロセッサを介して、遷移画像を識別するステップであって、前記遷移画像は、
輸送インフラ構成要素の第1画像内のオブジェクトの第1領域、及び
前記輸送インフラ構成要素の第2画像内の前記オブジェクトの第2領域、
を含むステップと、
前記遷移画像を使用して前記オブジェクトの再構成を生成する処理であって、前記オブジェクトの再構成は、前記オブジェクトの第1領域及び前記オブジェクトの第2領域を含むステップと、
前記第1画像内の前記オブジェクトの第1部分を識別するステップと、
前記第1画像内の前記オブジェクトの第1部分の周辺に第1バウンディングボックスを構成するステップであって、前記第1バウンディングボックスは、前記オブジェクトの第1領域を含むステップと、
前記遷移画像内の前記オブジェクトの第2部分を識別するステップと、
前記遷移画像内の前記オブジェクトの第2部分の周辺に第2バウンディングボックスを構成するステップであって、前記第2バウンディングボックスは、前記遷移画像内の前記オブジェクトの第1領域及び前記オブジェクトの第2の領域を含むステップと、
を含む、
方法。
【請求項9】
前記第1画像は、
前記オブジェクトの第3領域、前記オブジェクトの第4領域、及び前記オブジェクトの第5領域をさらに含み、
前記遷移画像は、
前記オブジェクトの第3領域、及び前記オブジェクトの第4領域を含む、
請求項8に記載の方法。
【請求項10】
前記オブジェクト再構成モジュールによって、前記遷移画像内の前記オブジェクトの第3領域、及び前記第1画像内の前記オブジェクトの第3領域が第3等価領域であると決定するステップと、
前記オブジェクト再構成モジュールによって、前記遷移画像内の前記オブジェクトの第4領域、及び前記第1画像内の前記オブジェクトの第4領域が第4等価領域であると決定するステップと、
をさらに含み、
前記オブジェクトの再構成は、前記第3及び第4等価領域を除外する、
請求項9に記載の方法。
【請求項11】
前記方法は、
前記オブジェクト再構成モジュールによって、前記オブジェクトの再構成を生成するために、前記オブジェクトの第1領域、前記オブジェクトの第2領域、前記オブジェクトの第3領域、前記オブジェクトの第4領域、及び前記オブジェクトの第5領域を連結するステップをさらに含み、
前記オブジェクトの再構成は、前記オブジェクト全体を示す、
請求項9に記載の方法。
【請求項12】
前記遷移画像内の前記オブジェクトの第1領域及び前記第1画像内の前記オブジェクトの第1領域が前記第1等価領域であることを決定するために、IoU(Intersection over Union)を使用するステップをさらに含む、請求項8に記載の方法。
【請求項13】
前記プロセッサは、オブジェクト再構成モジュールを含む、請求項8に記載の方法。
【請求項14】
前記遷移画像は、前記第1画像の半分及び前記第2画像の半分を含む、請求項8に記載の方法。
【請求項15】
プロセッサによって実行されると、前記プロセッサに処理を実行させる命令を具現化する1つ以上のコンピュータ可読非一時的記憶媒体であって、
前記処理は、
プロセッサを介して、遷移画像を識別する処理であって、前記遷移画像は、
輸送インフラ構成要素の第1画像内のオブジェクトの第1領域、及び
前記輸送インフラ構成要素の第2画像内の前記オブジェクトの第2領域、
を含む処理と、
前記遷移画像を使用して前記オブジェクトの再構成を生成する処理であって、前記オブジェクトの再構成は、前記オブジェクトの第1領域及び前記オブジェクトの第2領域を含む処理と、
前記第1画像内の前記オブジェクトの第1部分を識別する処理と、
前記第1画像内の前記オブジェクトの第1部分の周辺に第1バウンディングボックスを構成する処理であって、前記第1バウンディングボックスは、前記オブジェクトの第1領域を含む処理と、
前記遷移画像内の前記オブジェクトの第2部分を識別する処理と、
前記遷移画像内の前記オブジェクトの第2部分の周辺に第2バウンディングボックスを構成する処理であって、第2バウンディングボックスは、前記遷移画像内の前記オブジェクトの前記第1領域及び前記オブジェクトの前記第2領域を含む処理と、
を含む、
コンピュータ可読非一時的記憶媒体。
【請求項16】
前記第1画像は、前記オブジェクトの第3領域、前記オブジェクトの第4領域、及び前記オブジェクトの第5領域をさらに含み、
前記遷移画像は、前記オブジェクトの第3領域及び前記オブジェクトの第4領域を含む、
請求項15に記載のコンピュータ可読非一時的記憶媒体。
【請求項17】
前記処理は、
前記オブジェクト再構成モジュールによって、前記遷移画像内の前記オブジェクトの第3領域、及び前記第1画像内の前記オブジェクトの第3領域が第3等価領域であると決定する処理と、
前記オブジェクト再構成モジュールによって、前記遷移画像内の前記オブジェクトの第4領域、及び前記第1画像内の前記オブジェクトの第4領域が第4等価領域であると決定する処理と、
をさらに含み、
前記オブジェクトの再構成は、前記第3及び第4等価領域を除外する、
請求項16に記載のコンピュータ可読非一時的記憶媒体。
【請求項18】
前記処理は、
前記オブジェクト再構成モジュールによって、前記オブジェクトの再構成を生成するために、前記オブジェクトの第1領域、前記オブジェクトの第2領域、前記オブジェクトの第3領域、前記オブジェクトの第4領域、及び前記オブジェクトの第5領域を連結する処理をさらに含み、
前記オブジェクトの再構成は、オブジェクト全体を示す、
請求項16に記載のコンピュータ可読非一時的記憶媒体。
【請求項19】
前記処理は、
前記遷移画像内の前記オブジェクトの第1領域及び前記第1画像内の前記オブジェクトの第1領域が前記第1等価領域であることを決定するために、IoU(Intersection over Union)を使用する処理をさらに含む、請求項15に記載のコンピュータ可読非一時的記憶媒体。
【請求項20】
前記1つ以上のプロセッサは、オブジェクト再構成モジュールを含む、請求項15に記載のコンピュータ可読非一時的記憶媒体。
【発明の詳細な説明】
【技術分野】
【0001】
本開示は、一般にオブジェクト再構成(reconstructing object
)に関し、特に遷移画像(transitional image)を使用してオブジェ
クトを再構成するシステム及び方法に関する。
【背景技術】
【0002】
オブジェクト検出モデル(Object detection model)は、大量
の画像データを処理すると共に各画像を独立的に類推する。深層学習モデル(deep
learning model)の速度と精度の間には、本質的なトレードオフ(tra
deoff)が存在する。このトレードオフは、サイズが劇的に変化するオブジェクト及
び/又は全体のピクセルデータの比率が非常に小さいオブジェクトの一部を検出するよう
にモデルを訓練するときに増幅される。オブジェクト検出モデルは、複数の画像内のオブ
ジェクトを正確に識別するように訓練することができるが、特定のシステムでは、オブジ
ェクトの非常に小さな部分を正確に検出することにともなう遅延ペナルティ(laten
cy penalty)を許容することができない。
【発明の概要】
【課題を解決するための手段】
【0003】
一実施形態によれば、方法は、オブジェクト再構成モジュール(object rec
onstruction module)によって、第1画像及び第2画像を受信するス
テップを含む。第1画像は、オブジェクトの第1領域を含み、第2画像は、オブジェクト
の第2領域を含む。この方法はまた、オブジェクト再構成モジュールによって、遷移画像
を識別するステップを含む。遷移画像は、オブジェクトの第1領域及びオブジェクトの第
2領域を含む。方法はまた、オブジェクト再構成モジュールによって、遷移画像内のオブ
ジェクトの第1領域及び第1画像内のオブジェクトの第1領域が第1等価領域(firs
t equivalent region)であると決定するステップと、オブジェクト
再構成モジュールによって、第1画像及び遷移画像を使用してオブジェクトの再構成(r
econstruction)を生成するステップとを含む。オブジェクトの再構成は、
オブジェクトの第1領域及びオブジェクトの第2領域を含み、第1等価領域を除外する。
【0004】
特定の実施形態では、第1画像は、オブジェクトの第3領域、オブジェクトの第4領域
、及びオブジェクトの第5領域をさらに含み、遷移画像は、オブジェクトの第3領域、及
びオブジェクトの第4領域を含む。いくつかの実施形態では、方法は、オブジェクト再構
成モジュールによって、遷移画像内のオブジェクトの第3領域、及び第1画像内のオブジ
ェクトの第3領域を決定するステップを含む。画像は、第3等価領域であり、オブジェク
ト再構成モジュールによって、遷移画像内のオブジェクトの第4領域、及び第1画像内の
オブジェクトの第4領域が第4等価領域であると決定する。特定の実施形態では、オブジ
ェクトの再構成は、第3及び第4領域を除外する。いくつかの実施形態では、方法は、オ
ブジェクト再構成モジュールによって、オブジェクトの再構成を生成するために、オブジ
ェクトの第1領域、オブジェクトの第2領域、オブジェクトの第3領域、オブジェクトの
第4領域、及びオブジェクトの第5領域を連結するステップを含み、ここでオブジェクト
の再構成は、オブジェクト全体を示す。
【0005】
特定の実施形態では、方法は、オブジェクト再構成モジュールによって、第1画像内の
オブジェクトの第1部分(first portion)を識別するステップと、オブジ
ェクト再構成モジュールによって、第1画像内のオブジェクトの第1部分の周辺に第1バ
ウンディングボックス(first bounding box)を構成するステップと
を含む。第1バウンディングボックスは、オブジェクトの第1領域を含み得る。いくつか
の実施形態では、方法は、オブジェクト再構成モジュールによって、遷移画像内のオブジ
ェクトの第2部分を識別するステップと、オブジェクト再構成モジュールによって、遷移
画像内のオブジェクトの第2部分の周辺に第2バウンディングボックスを構成するステッ
プとを含む。第2バウンディングボックスは、オブジェクトの第1領域及びオブジェクト
の第2領域を含み得る。特定の実施形態では、方法は、遷移画像内のオブジェクトの第1
領域及び第1画像内のオブジェクトの第1領域が等価領域であることを決定するために、
IoU(Intersection over Union)を使用する処理を含む。い
くつかの実施形態では、遷移画像は、第1画像の半分及び第2画像の半分を含む。
【0006】
他の実施形態によれば、装置は、1つ以上のプロセッサと、1つ以上のプロセッサに結
合された1つ以上のコンピュータ可読非一時的記憶媒体(computer-reada
ble non-transitory storage media)とを含む。1つ
以上のコンピュータ可読非一時的記憶媒体は、1つ以上のプロセッサによって実行される
と、第1画像及び第2画像の受信を含む処理を装置に実行させる命令を含む。第1画像は
、オブジェクトの第1領域を含み、第2画像は、オブジェクトの第2領域を含む。処理は
、遷移画像を識別する処理も含む。遷移画像は、オブジェクトの第1領域及びオブジェク
トの第2領域を含む。処理はまた、遷移画像内のオブジェクトの第1領域及び第1画像内
のオブジェクトの第1領域が第1等価領域であると決定する処理と、第1画像及び遷移画
像を使用してオブジェクトの再構成を生成する処理とを含む。オブジェクトの再構成は、
オブジェクトの第1領域及びオブジェクトの第2領域を含み、第1等価領域を除外する。
【0007】
また他の実施形態によれば、1つ以上のコンピュータ可読記憶媒体は、プロセッサによ
って実行されると、オブジェクト再構成モジュールによって、第1画像及び第2画像を受
信する処理を含む処理をプロセッサに実行させる命令を具現化する。第1画像は、オブジ
ェクトの第1領域を含み、第2画像は、オブジェクトの第2領域を含む。処理はまた、オ
ブジェクト再構成モジュールによって、遷移画像を識別する処理を含む。遷移画像は、オ
ブジェクトの第1領域及びオブジェクトの第2領域を含む。処理はまた、オブジェクト再
構成モジュールによって、遷移画像内のオブジェクトの第1領域、及び第1画像内のオブ
ジェクトの第1領域が第1等価領域であると決定する処理と、オブジェクト再構成モジュ
ールによって、第1画像及び遷移画像を使用してオブジェクトの再構成を生成する処理と
を含む。オブジェクトの再構成は、オブジェクトの第1領域及びオブジェクトの第2領域
を含み、第1等価領域を除外する。
【0008】
本開示の特定の実施形態の技術的利点は、以下のうちの1つ以上を含み得る。本開示は
、遷移画像を使用してオブジェクトを再構成するシステム及び方法について説明する。特
定の実施形態では、オブジェクトを再構成するために使用されるバウンディングボックス
縮小アルゴリズムは、単一画像及び単一類推結果内に含まれたバウンディングボックスを
縮小するために、画像別に動作する標準の非最大抑制アルゴリズム(non-maxim
um suppression algorithms)と組み合わせて使用され得る。
特定の実施形態では、遷移画像は、2つの画像を所定のパーセンテージで重ね合わせるこ
とによって生成される。本開示の特定の実施形態では、50%の所定のパーセンテージで
使用されるが、本開示は、任意の適切な所定のパーセンテージ(例えば、25パーセント
、75パーセントなど)を企図する。特定の実施形態では、本明細書に開示されたシステ
ム及び方法は、2つ以上のボックス間のIoUスコア、検出ラベルの同等性、及び/又は
信頼スコアの閾値などの縮小基準を使用し得る。
【0009】
本開示の特定の実施形態では、本明細書に開示されたシステム及び方法は、同じ画像内
のいくつかのオブジェクトクラスにわたって使用され得る。例えば、いくつかの実施形態
では、同じクラスに属するバウンディングボックスを論理的に縮小することができ、その
結果、いくつかの完全に構成されたオブジェクトが生成されてもよい。特定の実施形態で
は、等価を算出するために、標準の非最大抑制アルゴリズムが使用される方法と同様に、
IoUを使用して、バウンディングボックス及び/又は他の関心領域の等価領域を算出し
てもよい。本開示で説明するシステム及び方法は、鉄道、道路、及び水路を含む様々な運
送インフラに一般化し得る。
【0010】
他の技術的利点は、以下の図面、説明、及び特許請求の範囲から当業者には容易に明ら
かになるであろう。さらに、特定の利点が上に列挙されているが、様々な実施形態は、列
挙された利点の全部又は一部を含むか、全く含まなくてもよい。
【0011】
本開示内容の理解を助けるために、添付の図面と併せて以下の説明を参照する。
【図面の簡単な説明】
【0012】
図1】遷移画像を使用してオブジェクトを再構成するための例示的なシステムを示す図である。
図2図1のシステムによって使用され得る例示的な画像を示す図である。
図3図1のシステムによって使用され得る例示的な遷移画像を示す図である。
図4図1のシステムによって決定され得る例示的な等価領域を示す図である。
図5図1のシステムによって生成され得るオブジェクト再構成の例を示す図である。
図6】遷移画像を使用してオブジェクトを再構成する例示的な方法を示す図である。
図7】本明細書に記載のシステム及び方法によって使用され得る例示的なコンピュータシステムを示す図である。
【発明を実施するための形態】
【0013】
図1図7は、遷移画像を使用してオブジェクトを再構成するための例示的なシステム
及び方法を示している。図1は、遷移画像を使用してオブジェクトを再構成するための例
示的なシステムを示し、図2は、図1のシステムによって使用され得る例示的な画像を示
している。図3は、図1のシステムによって使用され得る例示的な遷移画像を示し、図4
は、図1のシステムによって決定され得る例示的な等価領域を示している。図5は、図1
のシステムによって生成され得るオブジェクト再構成の例を示している。図6は、遷移画
像を使用してオブジェクトを再構成する例示的な方法を示している。図7は、本明細書に
記載のシステム及び方法によって使用され得る例示的なコンピュータシステムを示してい
る。
【0014】
図1は、遷移画像を使用してオブジェクトを再構成するための例示的なシステム100
を示す。システム100又はその一部は、組織(entity)に関連することができ、
遷移画像を使用してオブジェクトを再構成する、企業、会社(例えば、鉄道会社、運送会
社など)又は政府機関(例えば、運輸局、公安局など)のような任意の組織を含み得る。
システム100の要素は、ハードウェア、ファームウェア、及びソフトウェアの任意の適
切な組み合わせを使用して実現され得る。例えば、システム100の要素は、図7のコン
ピュータシステムの1つ以上の構成要素を使用して実現されてもよい。システム100は
、ネットワーク110、鉄道環境(railway environment)120、
鉄道線路130、鉄道車両140、画像キャプチャモジュール150、オブジェクト16
0、オブジェクト再構成モジュール170、画像172、遷移画像174、バウンディン
グボックス176、等価領域、及びオブジェクト再構成180を含む。
【0015】
ネットワーク110は、システム100の構成要素間の伝達を容易にする任意のタイプ
のネットワークであり得る。ネットワーク110の1つ以上の部分は、アドホックネット
ワーク、イントラネット、エクストラネット、仮想私設網(VPN)、ローカルエリアネ
ットワーク(LAN)、無線LAN(WLAN)、広域ネットワーク(WAN)、無線W
AN(WWAN)、大都市圏ネットワーク(MAN)、インターネットの一部、公衆交換
電話網(PSTN)の一部、携帯電話網、3Gネットワーク、4Gネットワーク、5Gネ
ットワーク、LTE(Long Term Evolution)セルラ通信網、これら
の2つ以上の組み合わせ、又はその他の適切なタイプのネットワークを含み得る。ネット
ワーク110の1つ以上の部分は、1つ以上のアクセス(例えば、モバイルアクセス)、
コア及び/又はエッジネットワークを含み得る。ネットワーク110は、私設網(pri
vate network)、公衆網(public network)、インターネッ
トを介した接続、モバイルネットワーク、WI-FIネットワーク、ブルートゥース(登
録商標)ネットワークなどの任意の通信網であり得る。システム100の1つ以上の構成
要素は、ネットワーク110を介して伝達し得る。例えば、オブジェクト再構成モジュー
ル170は、画像キャプチャモジュール150から情報を受信することを含め、ネットワ
ーク110を介して伝達し得る。
【0016】
システム100の鉄道環境120は、1つ以上の鉄道線路130を含む領域である。鉄
道環境120は、区画(division)及び/又は細区画(subdivision
)に関連し得る。区画は、監督者の監督下にある鉄道の部分である。細区画は、区画のさ
らに小さな部分である。細区画は、作業員区域(crew district)及び/又
は支線(branch line)であり得る。図1に示す実施形態では、鉄道環境12
0は、鉄道線路130、鉄道車両140、画像キャプチャモジュール150、及びオブジ
ェクト160を含む。
【0017】
システム100の鉄道線路130は、鉄道車両140の車輪が転がるための表面を提供
することによって、鉄道車両140が動くことを可能にする構造である。特定の実施形態
では、鉄道線路130は、レール、締結装置、枕木、バラストなどを含む。システム10
0の鉄道車両140は、鉄道線路130に沿って移動できる車両である。鉄道車両140
は、ジオメトリ車両、機関車、客車、貨車、有蓋車、長物車、タンク車などであってもよ
い。特定の実施形態では、鉄道車両140は、1つ以上の画像キャプチャモジュール15
0に関連付けられてもよい。
【0018】
システム100の画像キャプチャモジュール150は、オブジェクト160の画像17
2をキャプチャする構成要素である。システム100のオブジェクト160は、道路、鉄
道、航空路、水路、運河、パイプライン、及びターミナル構成要素などの輸送インフラ構
成要素である。オブジェクト160は、鉄道線路130、破片(debris)(例えば
、瓦礫(rubble)、残骸(wreckage)、廃虚(ruins)、落葉(li
tter)、ゴミ(trash)、小枝(brush)など)、歩行者(例えば、侵入者
(trespasser))、動物(animal)、植生(vegetation)、
バラストなどの鉄道環境120内の構成要素を含み得る。オブジェクト160は、ジョイ
ント(joint)、スイッチ(switch)、フロッグ(frog)、レールヘッド
(rail head)、アンカー(anchor)、ファスナ(fastener)、
ゲージプレート(gage plate)、バラスト(ballast)、枕木(例えば
、コンクリート製の枕木及び木製の枕木)などの鉄道線路130の構成要素を含み得る。
システム100の画像172は、1つ以上のオブジェクト160の物理的形態を示す。画
像172は、デジタル画像、写真などを含み得る。画像172は、画像172a、画像1
72bなどを含み、画像172nまで続き、ここで、172nは、任意の適切な数を表す
【0019】
画像キャプチャモジュール150は、1つ以上のカメラ、レンズ、センサ、光学装置、
照明要素などを含み得る。例えば、画像キャプチャモジュール150は、オブジェクト1
60の画像172を自動でキャプチャする1つ以上のカメラ(例えば、高解像度カメラ、
ラインスキャンカメラ、ステレオカメラなど)を含んでもよい。特定の実施形態では、画
像キャプチャモジュール150は、鉄道車両140に取り付けられる。画像キャプチャモ
ジュール150は、鉄道環境120の鮮明な視野を提供する任意の適所で鉄道車両140
に取り付けられ得る。例えば、画像キャプチャモジュール150は、鉄道線路130の下
向きのビューを提供するために、鉄道車両140の前方端部(例えば、フロントバンパ)
に取り付けられてもよい。別の例として、画像キャプチャモジュール150は、鉄道線路
130の前方ビューを提供するために、鉄道車両140の前方端部(例えば、フロントガ
ラス)に取り付けられてもよい。また別の例として、画像キャプチャモジュール150は
、鉄道線路130の後方ビューを提供するために、鉄道車両140の後方端部(例えば、
後部フロントガラス)に取り付けられてもよい。
【0020】
画像キャプチャモジュール150は、鉄道車両140が鉄道線路130に沿って移動す
る間に、静止画像又は動画172を自動でキャプチャし得る。画像キャプチャモジュール
150は、任意の適切な数の静止画像又は動画172を自動でキャプチャし得る。例えば
、画像キャプチャモジュール150は、カメラ(例えば、ラインスキャンカメラ)をトリ
ガーするために、エンコーダ(例えば、位置エンコーダ)を使用して、距離の関数として
画像172を自動でキャプチャしてもよい。別の例として、画像キャプチャモジュール1
50は、毎秒、毎分、毎時間など、所定の数の静止画像172を自動でキャプチャしても
よい。いくつかの実施形態では、画像キャプチャモジュール150は、オブジェクト16
0に対して画像172を検査し得る。例えば、画像キャプチャモジュール150は、1つ
以上のモデルを使用して、画像172内のオブジェクト160を検出してもよい。モデル
は、1つ以上のオブジェクト検出モデル、機械学習モデル、マシンビジョンモデル、深層
学習モデルなどを含み得る。画像キャプチャモジュール150は、1つ以上のオブジェク
ト160の1つ以上の画像172をオブジェクト再構成モジュール170に伝達し得る。
【0021】
システム100のオブジェクト再構成モジュール170は、1つ以上の画像172及び
/又は1つ以上の遷移画像174からオブジェクト160を再生成する構成要素である。
特定の実施形態では、オブジェクト再構成モジュール170は、システム100の1つ以
上の構成要素から画像172を受信する。例えば、オブジェクト再構成モジュール170
は、画像キャプチャモジュール150から画像172a及び画像172bを受信してもよ
い。複数の画像172は、単一オブジェクト160の1つ以上の部分を含み得る。例えば
、画像172aは、オブジェクト160の第1部分を含んでもよく、画像172bは、オ
ブジェクト160の第2部分を含んでもよい。
【0022】
各オブジェクト160は、領域として表し得る。例えば、オブジェクト160(例えば
、レールの継目板)は、画像172aがオブジェクト160の4つの連続した領域を含み
、画像172bがオブジェクト160の残りの第5領域を含むように、5つの領域を有し
てもよい。別の例として、オブジェクト160は、画像172aがオブジェクト160の
3つの連続的な領域を含み、画像172bがオブジェクト160の残りの第4領域及び第
5領域を含むように5つの領域を有してもよい。
【0023】
特定の実施形態では、オブジェクト再構成モジュール170は、1つ以上の画像172
及び/又は遷移画像174に対する類推を実行する。オブジェクト再構成モジュール17
0は、画像172及び/又は遷移画像174内のオブジェクト160を検出するために、
オブジェクト検出アルゴリズムを実行することによって類推を実行し得る。類推の実行に
応答して、オブジェクト再構成モジュール170は、1つ以上のオブジェクト160(又
はその一部)の周辺に1つ以上のバウンディングボックス176を生成し得る。バウンデ
ィングボックス176は、オブジェクト160を識別する輪郭線である。特定の実施形態
では、各バウンディングボックス176は、長方形の4つの角を識別するx及びy座標で
あり、オブジェクト160の周辺の長方形のボックスである。バウンディングボックス1
76は、バウンディングボックス176a、バウンディングボックス176b、バウンデ
ィングボックス176cなどを含み、バウンディングボックス176nまで続き、ここで
、174nは、任意の適切な数を表す。
【0024】
特定の実施形態では、画像キャプチャモジュール150は、画像172内のオブジェク
ト160(又はその一部)の周辺にバウンディングボックス176を構成する。例えば、
オブジェクト再構成モジュール170は、画像172a内のオブジェクト160の第1部
分を識別し、画像172a内のオブジェクト160の第1部分の周辺にバウンディングボ
ックス176aを構成してもよい。別の例として、オブジェクト再構成モジュール170
は、画像172b内のオブジェクト160の第2部分を識別し、画像172b内のオブジ
ェクト160の第2部分の周辺にバウンディングボックス176bを構成してもよい。ま
た別の例として、オブジェクト再構成モジュール170は、遷移画像174a内のオブジ
ェクト160の第3部分を識別し、遷移画像176a内のオブジェクト160の第3部分
の周辺にバウンディングボックス176cを構成してもよい。
【0025】
いくつかの実施形態では、オブジェクト160の領域は、バウンディングボックス17
6によって画定される。例えば、5つの領域を有するオブジェクトの場合、画像172a
内のバウンディングボックス176aによって囲まれたオブジェクト160の第1部分は
、オブジェクト160の第1領域、第2領域、第3領域、及び第4領域を画定してもよく
、画像172b内のバウンディングボックス176bによって囲まれたオブジェクト16
0の第2部分は、オブジェクト160の第5領域を画定してもよく、そして、遷移画像1
74a内のバウンディングボックス176cによって囲まれたオブジェクト160の第3
部分は、オブジェクト160の第2領域、第3領域、第4領域、及び第5領域を画定して
もよい。
【0026】
特定の実施形態では、オブジェクト再構成モジュール170は、画像172から遷移画
像174を生成する。遷移画像174は、1つ以上の他の画像172と同じピクセルを共
有する画像である。例えば、画像172a及び遷移画像174aは、同じピクセルの所定
の比率(例えば、25,50、又は75%)を共有してもよい。遷移画像174は、遷移
画像174a、遷移画像174b、及び遷移画像174nまで含み、ここで、176nは
、任意の適切な数を表す。
【0027】
いくつかの実施形態では、オブジェクト再構成モジュール170は、2つ以上の画像1
72を重ね合わせることによって遷移画像174を生成する。例えば、オブジェクト再構
成モジュール170は、遷移画像174aが画像172aと画像172bの重なった部分
を含むように、画像172aの一部(例えば、50%)と画像172bの一部(例えば、
50%)を重ねて遷移画像174aを生成してもよい。いくつかの実施形態では、画像キ
ャプチャモジュール150は、遷移画像174をキャプチャする。例えば、画像キャプチ
ャモジュール150は、所定の量の重なり(例えば、25,50又は75パーセントの重
なり)を含む後続の画像172をキャプチャするように構成してもよい。
【0028】
特定の実施形態では、各遷移画像174は、オブジェクト160の1つ以上の領域を含
む。例えば、5つの領域を有するオブジェクトの場合、画像172aは、第1領域、第2
領域、第3領域、及び第4領域を含んでもよく、画像172bは、第5領域を含んでもよ
く、遷移画像174aは、画像172aの第2、第3、及び第4領域と画像172bの第
5領域を含んでもよい。
【0029】
特定の実施形態では、オブジェクト再構成モジュール170は、1つ以上の等価領域1
78を決定する。等価領域178は、同じピクセルを共有する画像172及び遷移画像1
74内の領域である。等価領域178は、等価領域178a、等価領域178bなどを等
価領域178nまで含み、ここで、178nは、任意の適切な数を表す。オブジェクト再
構成モジュール170は、1つ以上の画像172と1つ以上の遷移画像174との間の等
価領域178を決定し得る。例えば、オブジェクト再構成モジュール170は、画像17
2a及び遷移画像174aの両方がオブジェクト160の第2、第3、及び第4領域を含
むと決定してもよい。特定の実施形態では、オブジェクト再構成モジュール170は、オ
ブジェクト再構成180から等価領域178を除外する。いくつかの実施形態では、オブ
ジェクト再構成モジュール170は、遷移画像174内のオブジェクト160の第1領域
と画像172a内のオブジェクト160の第1領域とが等価領域178であることを決定
するために、IoU、検出ラベルの同等性、及び/又は信頼度スコアの閾値を使用する。
【0030】
特定の実施形態では、オブジェクト再構成モジュール170は、オブジェクト再構成1
80を生成する。各オブジェクト再構成180は、オブジェクト160の全体の表現であ
る。例えば、オブジェクト再構成180は、画像172aの第1、第2、第3、及び第4
領域、及び画像172bの第5領域を含んでもよい。オブジェクト再構成180は、オブ
ジェクト再構成180a、オブジェクト再構成180bなどを含み、オブジェクト再構成
180nまで続き、ここで、180nは、任意の適切な数を表す。特定の実施形態では、
オブジェクト再構成モジュール170は、1つ以上の画像172及び1つ以上の遷移画像
174を使用してオブジェクト再構成180を生成する。例えば、オブジェクト再構成モ
ジュール170は、画像172aからの第1、第2、第3、及び第4領域と遷移画像17
4aからの第5領域とを連結することによって、オブジェクト再構成180aを生成して
もよい。特定の実施形態では、オブジェクト再構成モジュール170は、オブジェクト再
構成180を生成するときに、オブジェクト160の領域の重複を避けるために、等価領
域178を除外する。例えば、画像172a及び遷移画像174aの両方が、オブジェク
ト160の第2領域、第3領域、及び第4領域を含む場合、オブジェクト再構成モジュー
ル170は、オブジェクト再構成180aにおいてこれらの領域が重複するのを避けるた
めに、遷移画像174aの第2領域、第3領域、及び第4領域を除外してもよい。
【0031】
作動中に、システム100の画像キャプチャモジュール150は、鉄道車両140に取
り付けられる。
【0032】
画像キャプチャモジュールは、鉄道車両140が鉄道環境120の鉄道線路130に沿
って移動する間に、オブジェクト160の画像172a及び画像172bをキャプチャす
る。システム100のオブジェクト再構成モジュール170は、ネットワーク110を介
して、画像キャプチャモジュール150からオブジェクト160(例えば、レールの継目
板(rail joint bar))の画像172a及び画像172bを受信する。オ
ブジェクト再構成モジュール170は、画像172a内のオブジェクト160の第1部分
を検出するために、1つ以上のオブジェクト検出モデルを使用する。オブジェクト再構成
モジュール170は、画像172a内のオブジェクト160の第1部分の周辺にバウンデ
ィングボックス176aを構成する。オブジェクト160は、5つの領域として表され、
バウンディングボックス176aによって囲まれた画像172aの第1部分は、オブジェ
クト160の第1領域、第2領域、第3領域、及び第4領域を含む。画像172bは、オ
ブジェクト160の第2部分及び第5領域を含む。しかし、オブジェクト再構成モジュー
ル170は、画像172bの全体サイズに対する第2部分のサイズのために、オブジェク
ト160の第2部分を検出しないことがある。
【0033】
オブジェクト再構成モジュール170は、遷移画像174aが画像172aの半分と画
像172bの半分とを含むように、画像172aと画像172bとを重ね合わせることに
よって、遷移画像174aを生成する。オブジェクト再構成モジュール170は、遷移画
像174a内のオブジェクト160の第3部分を検出し、オブジェクト160の第3部分
の周辺にバウンディングボックス176cを構成する。バウンディングボックス176c
は、オブジェクト160の第2領域、第3領域、第4領域、及び第5領域を含む。オブジ
ェクト再構成モジュール170は、画像172a及び遷移画像174aの第2領域、第3
領域、及び第4領域が等価領域178であると決定する。オブジェクト再構成モジュール
170は、オブジェクト160の領域の重複を避けるために、オブジェクト再構成180
において等価領域178(例えば、遷移画像174aの第3領域、第4領域、及び第5領
域)を除外する。オブジェクト再構成モジュール170は、画像172aの第1領域、第
2領域、第3領域、及び第4領域と遷移画像174aの第5領域とを連結することによっ
て、オブジェクト160のオブジェクト再構成180を生成する。このように、システム
100は、オブジェクト160の小さい部分が画像172bで検出されない場合でも、オ
ブジェクト160全体を正確に再生成するのに使用され得る。
【0034】
図1は、ネットワーク110、鉄道環境120、鉄道線路130、鉄道車両140、画
像キャプチャモジュール150、オブジェクト160、オブジェクト再構成モジュール1
70、画像172、バウンディングボックス176、遷移画像174、等価領域178、
及びオブジェクト再構成180の特定の配置を示す。本明細書は、ネットワーク110、
鉄道環境120、鉄道線路130、鉄道車両140、画像キャプチャモジュール150、
オブジェクト160、オブジェクト再構成モジュール170、画像172、バウンディン
グボックス176、遷移画像174、等価領域178、及びオブジェクト再構成180の
任意の適切な配置を企図する。
【0035】
例えば、画像キャプチャモジュール150、及びオブジェクト再構成モジュール170
は、単一モジュールに結合され得る。
【0036】
図1は、ネットワーク110、鉄道環境120、鉄道線路130、鉄道車両140、画
像キャプチャモジュール150、オブジェクト160、オブジェクト再構成モジュール1
70、画像172、バウンディングボックス176、遷移画像174、等価領域178、
及びオブジェクト再構成180の特定の数を示す。本明細書は、ネットワーク110、鉄
道環境120、鉄道線路130、鉄道車両140、画像キャプチャモジュール150、オ
ブジェクト160、オブジェクト再構成モジュール170、画像172、遷移画像174
、バウンディングボックス176、等価領域178、及びオブジェクト再構成180の任
意の適切な数を企図する。例えば、システム100は、複数の鉄道環境120、複数の画
像キャプチャモジュール150及び/又は複数のオブジェクト再構成モジュール170を
含んでもよい。
【0037】
図2は、図1のシステムによって使用され得る例示的な画像172を示す。図2に示し
た実施形態では、画像172は、画像172a及び画像172bを含む。画像172aは
、オブジェクト(例えば、図1のオブジェクト160)の一部を含み、画像172bは、
同一のオブジェクトの残りの部分を含む。画像172a内のオブジェクトの部分は、バウ
ンディングボックス176aによって囲まれ、画像172b内のオブジェクトの部分は、
バウンディングボックス176bによって囲まれている。
【0038】
画像172内のオブジェクト全体を理解するのに役立つように、オブジェクトを5つの
領域に分割する。画像172a内のオブジェクトの部分は、領域1、領域2、領域3、及
び領域4を含み、画像172b内のオブジェクトの部分は、領域5を含む。オブジェクト
が2つの独立的な画像172として表される場合、オブジェクト全体の再構成は、画像1
72aからのバウンディングボックス176a(領域1から4を含む)と、それに続く画
像172bからのバウンディングボックス176b(領域5を含む)である。バウンディ
ングボックス176aとバウンディングボックス176bとの連結は、領域1から5まで
の完全なセットを生成する。
【0039】
図2に示すように、画像172bは、オブジェクトの相対的に小さい部分であるオブジ
ェクトの5分の1を含む。図1のオブジェクト再構成モジュールは、画像172b内のオ
ブジェクトの相対的に小さい部分を正確に検出するように訓練され得るが、このプロセス
は、オブジェクト検出速度を著しく低下させる可能性がある。特定の実施形態では、オブ
ジェクト再構成モジュールは、画像172b内の領域5を検出することの遅延ペナルティ
を吸収できない場合がある。しかし、オブジェク再構成モジュールは、オブジェクト全体
をキャプチャする必要がある。この問題を解決するために、オブジェクト再構成モジュー
ルは、以下の図3で説明するように遷移画像を利用して、完全な遅延ペナルティを招かず
に、オブジェクト全体を正確に検出することができる。
【0040】
図3は、図1のシステムによって使用され得る遷移画像174aを示す。画像172a
及び画像172bは、各々2つの部分、即ち第1部分及び第2部分に分割される。画像1
72aの第2部分は、バウンディングボックス176aの領域2、領域3、及び領域4を
含み、画像172bの第1部分は、バウンディングボックス176bの領域5を含む。特
定の実施形態では、オブジェクト再構成モジュールは、画像172aの第2部分を画像1
72bの第1部分と重ね合わせることによって、遷移画像174aが画像172aの第2
部分及び画像172bの第1部分を含むように生成し得る。いくつかの実施形態では、遷
移画像174aは、画像キャプチャモジュールによって生成される。
【0041】
図3の画像172a、画像172b及び遷移画像174aの各々に対して独立的な類推
が実行される。類推の実行に応答して、バウンディングボックス176aは、画像172
a上に構成され、バウンディングボックス176bは、画像172b上に構成され、バウ
ンディングボックス176cは、遷移画像174a上に構成される。画像172aは、領
域1,2,3及び4を含み、画像172bは、領域5を含み、遷移画像174aは、領域
2、3、4、及び5を含む。
【0042】
遷移画像174aが存在するため、速度のために精度を犠牲にするオブジェクト再構成
モジュールは、画像172a及び画像172b内のオブジェクト全体を正確に検出するこ
とができる。オブジェクト再構成モジュールが画像172b内のオブジェクトの領域5を
検出できない場合でも、画像172bに元々含まれていたピクセルは、遷移画像174a
にも含まれる。従って、画像172a及び遷移画像174a内のオブジェクトの検出は、
完全な検出である。追加の画像(例えば、遷移画像174a)に対する類推は、遅延ペナ
ルティを招くが、特定の実施形態では、この遅延ペナルティは、画像172b内のオブジ
ェクトの領域5を正確に検出することによって生じる遅延ペナルティよりも少なくなり得
る。以下の図4及び図5は、領域1から5までの重複を避けるために画像に適用される追
加の処理を示している。
【0043】
図4は、図1のシステムによって決定され得る例示的な等価領域178aを示す。画像
172aは、バウンディングボックス176a(オブジェクトの領域1、領域2、領域3
、及び領域4を囲む)、及び画像172bは、バウンディングボックス176b(オブジ
ェクトの領域5を囲む)を含む。特定の実施形態では、それぞれの領域は、自身のバウン
ディングボックス176によって囲まれ得る。例えば、画像172aの領域1は、第1バ
ウンディングボックス176によって囲まれることができ、画像172aの領域2は、第
2バウンディングボックス176によって囲まれることができ、以下同様である。特定の
実施形態では、バウンディングボックスは、互いの中に入れ子にすることができる。例え
ば、重なる2つの他のオブジェクトが検出された場合、領域1は、さらに大きいバウンデ
ィングボックス176内に入れ子にできる第1バウンディングボックス176によって囲
まれてもよい。
【0044】
図4に示すように、画像172aのバウンディングボックス176aと遷移画像174
aのバウンディングボックス176cは、同等でない。バウンディングボックス176a
及びバウンディングボックス176cは、互いに異なる座標空間を占有し、オブジェクト
の互いに異なる領域を含む。しかし、画像172aの第2部分に含まれたピクセルは、遷
移画像174aの第1部分に含まれたピクセルと同じピクセルである。画像172aのバ
ウンディングボックス176aと遷移画像174aのバウンディングボックス176cの
単純な連結は、領域12342345を生成するが、これは、オブジェクト全体の領域2
、3、及び4の不正確な重複である。
【0045】
オブジェクトの領域を重複せずにオブジェクト全体を正確に再構成するために、画像1
72a及び/又は遷移画像174aは、重なるピクセルを考慮して縮小される。特定の実
施形態では、図1のオブジェクト再構成モジュールは、画像172a及び遷移画像174
a内の等価領域178aを決定する。等価領域178aは、同じピクセルを共有する2つ
以上の画像内の領域である。オブジェクト再構成モジュール170は、等価領域178a
を決定するために、IoU、検出ラベルの同等性、及び/又は信頼度スコアの閾値を使用
し得る。例えば、オブジェクト再構成モジュール170は、画像172aの領域2、領域
3、及び領域4を囲むバウンディングボックス176と遷移画像174aの領域2、領域
3、及び領域4が等価領域178aであることを決定するために、IoUを使用してもよ
い。特定の実施形態では、オブジェクト再構成モジュールは、画像172a及び遷移画像
174aにおける検出のIoUを算出し、IoUが所定の閾値より大きいか否かを決定す
る。IoUが所定の閾値よりも大きい場合、オブジェクト再構成モジュール170は、画
像172aと遷移画像174aとの間の重なりが等価領域178aを画定すると決定する
。以下の図5で説明するように、等価領域178aは、最終的なオブジェクト再構成から
除外し得る。
【0046】
図5は、図1のシステムによって生成され得る例示的なオブジェクト再構成180aを
示す。上の図4に表示すように、画像172a及び遷移画像174aの領域2、3、4は
、等価領域178aである。等価領域178aは、このような領域の重複を避けるために
、オブジェクト再構成180aから除外される(即ち、領域2、3、及び4は、オブジェ
クト再構成180aに一度だけ含まれる)。図1のオブジェクト再構成モジュールは、領
域1、2、3、4、及び5を連結することによって、オブジェクト再構成180aを生成
する。領域1から5の連結は、オブジェクト再構成180aがオブジェクト(例えば、全
体で図1のオブジェクト160)を示すように12345として表し得る。オブジェクト
再構成モジュールによって画像172b内のオブジェクトの領域5が検出された場合、等
価領域178bの重複を避けるために、同じプロセスが適用され得る。
【0047】
図6は、遷移画像(例えば、図1の遷移画像174a)を使用してオブジェクトを再構
成するための例示的な方法600を示す。方法600は、ステップ610で開始する。ス
テップ620で、オブジェクト再構成モジュール(例えば、図1のオブジェクト再構成モ
ジュール170)は、ネットワーク(例えば、図1のネットワーク110)を介して、オ
ブジェクト(例えば、図1のオブジェクト160)の2つ以上の画像を受信する。例えば
、オブジェクト再構成モジュールは、画像キャプチャモジュール(例えば、図1の画像キ
ャプチャモジュール150)からオブジェクトの第1画像(例えば、図1の画像172a
)及び第2画像(例えば、図1の画像172b)を受信してもよい。画像キャプチャモジ
ュールは、鉄道車両(例えば、図1の鉄道車両140)に取り付けられ得る。特定の実施
形態では、画像キャプチャモジュールは、鉄道車両が鉄道環境(例えば、図1の鉄道環境
120)の鉄道線路(例えば、鉄道線路130)に沿って移動する間に、オブジェクトの
画像をキャプチャする。次に、方法600は、ステップ620からステップ630に移動
する。
【0048】
方法600のステップ630で、オブジェクト再構成モジュールは、オブジェクト再構
成のために遷移画像(例えば、図3の遷移画像174a)を使用するか否かを決定する。
例えば、オブジェクト再構成モジュールは、オブジェクト再構成モジュールがオブジェク
ト検出精度よりオブジェクト検出速度を優先する場合(例えば、受信した画像内のオブジ
ェクトの相対的に小さい部分を検出)、遷移画像を利用するように決定してもよい。オブ
ジェクト再構成モジュールがオブジェクト再構成のために遷移画像を利用しないと決定し
た場合、オブジェクト再構成モジュールは、ステップ630からステップ670に進み、
オブジェクト再構成モジュールは、受信した画像からオブジェクトの再構成を生成する。
例えば、オブジェクト再構成モジュールによって受信された第1画像は、オブジェクトの
第1領域、第2領域、及び第3領域を含んでもよく、オブジェクト再構成モジュールによ
って受信され第2画像は、オブジェクトの第4領域及び第5領域を含んでもよい。
【0049】
オブジェクト再構成モジュールは、第1画像内のオブジェクトの第1領域、第2領域、
及び第3領域を検出し得る。オブジェクト再構成モジュールは、第2画像内のオブジェク
トの第4領域及び第5領域を検出し得る。オブジェクト再構成モジュールは、オブジェク
ト再構成がオブジェクト全体を示すように、第1画像で検出された第1領域、第2領域、
及び第3領域を、第2画像で検出された第4領域及び第5領域と連結することによって、
オブジェクトの再構成を生成し得る。次に、方法600は、ステップ670からステップ
680に移動し、ここで方法600は終了する。
【0050】
ステップ630において、オブジェクト再構成モジュールが、オブジェクト再構成のた
めに遷移画像を利用すると決定した場合、オブジェクト再構成モジュールは、遷移画像が
各画像の重なった部分を含むように、第1画像及び第2画像を重ねて遷移画像を作成し得
る。例えば、オブジェクト再構成モジュールによって受信された第1画像は、オブジェク
トの第1領域、第2領域、第3領域、及び第4領域を含んでもよく、オブジェクト再構成
モジュールによって受信され第2画像は、オブジェクトの第5領域を含んでもよい。オブ
ジェクト再構成モジュールは、オブジェクトの第2領域、第3領域、第4領域、及び第5
領域を含むように、第1画像と第2画像とを重ねて遷移画像を生成し得る。特定の実施形
態では、オブジェクト再構成モジュールは、画像キャプチャモジュールから遷移画像を受
信する。次に、方法600は、ステップ630からステップ640に移動する。
【0051】
方法600のステップ640で、オブジェクト再構成モジュールは、各画像に対して類
推を実行する。例えば、オブジェクト再構成モジュールは、第1画像、第2画像、及び遷
移画像内のオブジェクトを検出するためにオブジェクト検出アルゴリズムを実行すること
によって、第1画像、第2画像、及び遷移画像に対する類推を実行してもよい。類推を実
行してオブジェクトを検出することに応答して、オブジェクト再構成モジュールは、検出
されたオブジェクト(又はその一部)の周辺に1つ以上のバウンディングボックスを生成
し得る。各バウンディングボックスは、オブジェクトの1つ以上の領域を含み得る。次に
、方法600は、ステップ640からステップ650に移動する。
【0052】
方法600のステップ650で、オブジェクト再構成モジュールは、受信した画像内の
等価領域(例えば、図4の等価領域178a)を決定する。等価領域は、同じピクセルを
共有する領域である。特定の実施形態では、オブジェクト再構成モジュールは、2つ以上
のボックスのIoUを算出する前に、重複領域を超えて延在し得るバウンディングボック
スを正規化するために、第1画像、第2画像、及び遷移画像のバウンディングボックス及
び重複領域の交差を実行する。いくつかの実施形態では、オブジェクト再構成モジュール
は、IoU、検出ラベル等価性、及び/又は信頼度スコアの閾値を使用して、重複領域を
決定する。例えば、オブジェクト再構成モジュールは、第2領域、第3領域、及び第4領
域が第1画像及び遷移画像で重複することを決定するために、IoU、検出レーベル等価
性、及び/又は信頼スコアの閾値を使用してもよい。別の例として、オブジェクト再構成
モジュールは、第5領域が第2画像及び遷移画像で重複することを決定するために、Io
U、検出ラベルの同等性、及び/又は信頼度スコアの閾値を使用してもよい。次に、方法
600は、ステップ650からステップ660に移動する。
【0053】
方法600のステップ660で、オブジェクト再構成モジュールは、オブジェクトの再
構成から等価領域を除外する。例えば、オブジェクト再構成モジュールが、第1画像及び
遷移画像からの第2領域、第3領域、及び第4領域が等価領域であると決定した場合、オ
ブジェクト再構成モジュールは、オブジェクト再構成が第2領域、第3領域、及び第4領
域の1つの複製だけを含むようにオブジェクト再構成で等価領域を除外してもよい。別の
例として、オブジェクト再構成モジュールが、第2画像からの第5領域及び遷移画像が等
価領域であると決定した場合、オブジェクト再構成モジュールは、オブジェクト再構成が
第5領域の1つの複製だけを含むようにオブジェクト再構成において等価領域を除外して
もよい。次に、方法600は、ステップ660からステップ670に移動する。
【0054】
方法600のステップ670で、オブジェクト再構成モジュールは、1つ以上の受信し
た画像及び1つ以上の遷移画像からオブジェクトの再構成(例えば、図5のオブジェクト
再構成180a)を生成する。例えば、オブジェクト再構成モジュールによって受信され
た第1画像は、オブジェクトの第1領域、第2領域、第3領域、及び第4領域を含んでも
よく、方法600のステップ630で生成された遷移画像は、オブジェクトの第2領域、
第3領域、第4領域、及び第5領域を含んでもよい。オブジェクト再構成モジュールは、
オブジェクトの再構成がオブジェクト全体を示すように、第1画像からの第1領域、第2
領域、第3領域、及び第4領域を遷移画像の第5領域と連結することによって、オブジェ
クトの再構成を生成し得る。次に、方法600は、ステップ670からステップ680に
移動し、ここで方法600は終了する。このように、方法600は、受信した画像内のオ
ブジェクトの特定の領域が検出されない場合でも、オブジェクトを全体的に再構成するた
めに使用され得る。
【0055】
図4に示される方法600に対して、修正、追加、又は省略を行うことができる。方法
600は、より多い、より少ない、又は他のステップを含み得る。例えば、方法600は
、第2遷移画像を利用することを含み得る。ステップは、並行して、又は任意の適切な順
序で実行され得る。方法600のステップを完了する特定の構成要素として論じられてい
るが、任意の適切な構成要素は、方法600の任意のステップを実行し得る。例えば、方
法600の1つ以上のステップは、画像キャプチャモジュールによって実行されてもよい
【0056】
図7は、本明細書に記載のシステム及び方法によって使用され得る例示的なコンピュー
タシステムを示す。例えば、図1のシステム100の1つ以上の構成要素(例えば、画像
キャプチャモジュール150及び/又はオブジェクト再構成モジュール170)は、1つ
以上のインターフェース710、処理回路720、メモリ730、及び/又は他の適切な
要素を含んでもよい。インターフェース710は、入力を受信し、出力を送信し、入力及
び/又は出力を処理して、及び/又は他の適切な動作を実行する。インターフェース71
0は、ハードウェア及び/又はソフトウェアを含み得る。
【0057】
処理回路720は、構成要素の処理を実行又は管理する。処理回路720は、ハードウ
ェア及び/又はソフトウェアを含み得る。処理回路の例は、1つ以上のコンピュータ、1
つ以上のマイクロプロセッサ、1つ以上のアプリケーションなどを含む。特定の実施形態
では、処理回路720は、入力から出力を生成するなどのアクション(例えば、処理)を
実行するめのロジック(例えば、命令)を実行する。処理回路720によって実行される
ロジックは、1つ以上の有形の非一時的なコンピュータ可読媒体(例えば、メモリ730
)に符号化され得る。例えば、ロジックは、コンピュータプログラム、ソフトウェア、コ
ンピュータ実行可能命令、及び/又はコンピュータによって実行可能である命令を含んで
もよい。特定の実施形態では、実施形態の処理は、コンピュータプログラムを格納、実現
及び/又は符号化、及び/又は格納及び/又は符号化されたコンピュータプログラムを有
する1つ以上のコンピュータ可読媒体によって実行されてもよい。
【0058】
メモリ730(又はメモリユニット)は、情報を格納する。メモリ730は、1つ以上
の非一時的、有形、コンピュータ可読、及び/又はコンピュータ実行可能記憶媒体を含み
得る。メモリ730の例は、コンピュータメモリ(例えば、RAM又はROM)、大容量
記憶媒体(例えば、ハードディスク)、リムーバブル記憶媒体(例えば、コンパクトディ
スク(CD)又はデジタルビデオディスク(DVD))、データベース及び/又はネット
ワークストレージ(例えば、サーバ)及び/又はその他コンピュータ可読媒体を含む。
【0059】
本明細書では、コンピュータ可読非一時的記憶媒体又は媒体は、1つ以上の半導体ベー
ス又は他の集積回路(IC)(例えば、フィールドプログラマブルゲートアレイ(FPG
A)又は特定用途向け集積回路(ASIC))、ハードディスクドライブ(HDD)、ハ
イブリッドハードドライブ(HHD)、光ディスク、光ディスクドライブ(ODD)、光
磁気ディスク、光磁気ドライブ、フロッピーディスク、フロッピーディスクドライブ(F
DD)、磁気テープ、ソリッドステートドライブ(SSD)、RAMドライブ、SD(S
ECURE DIGITAL)カード又はドライブ、その他の適切なコンピュータ可読の
非一時的記憶媒体、又は必要に応じてこれらの2以上の適切な組み合わせを含み得る。コ
ンピュータ可読非一時的記憶媒体は、必要に応じて、揮発性、不揮発性、又は揮発性と不
揮発性の組み合わせであり得る。
【0060】
本明細書において、「又は」は、明示的に別段の指示がない限り、又は文脈によって別
段の指示がない限り、包括的であって排他的ではない。従って、本明細書において、「A
又はB」は、明示的に別段の指示がない限り、又は文脈によって別段の指示がない限り、
「A、B、又はその両方」を意味する。また、「及び」は、明示的に別段の指示がない限
り、又は文脈によって別段の指示がない限り、共同及び複数を意味する。従って、本明細
書で「A及びB」は、明示的に別段の指示がない限り、又は文脈によって別段の指示がな
い限り、「A及びB、共同、又は個別」を意味する。本開示の範囲は、当業者が理解する
ことのできる本明細書に記載又は図示された例示的な実施形態に対する全ての変更、置換
、変形、変更及び修正を含む。本開示の範囲は、本明細書に記載又は図示された例示的な
実施形態に限定されない。さらに、本開示は、特定の構成要素、要素、特徴、機能、処理
、又はステップを含むものとして本明細書のそれぞれの実施形態を説明及び例示している
が、これらの実施形態のいずれも、当業者が理解し得る本明細書のどこかに記載又は図示
された構成要素、要素、特徴、機能、処理、又はステップのうちの任意の組み合わせ又は
順列を含み得る。さらに、特定の機能を実行するように適切に構成して配置され、作動又
は作動可能な装置、又はシステム、又はその構成要素に対する添付された特許請求の範囲
の言及は、その装置、システム、又は構成要素が適切に構成して配置され、作動又は作動
可能、又は特定の機能が活性化又は解除されたかにかかわらず、その装置のシステム又は
構成要素を含む。さらに、本開示は、特定の利点を提供するものとして特定の実施形態を
説明又は図示しているが、特定の実施形態は、これらの利点のいずれも提供しないか、一
部を提供、又は全てを提供し得る。
図1
図2
図3
図4
図5
図6
図7