(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】
(24)【登録日】2024-09-09
(45)【発行日】2024-09-18
(54)【発明の名称】監視システム
(51)【国際特許分類】
H04N 7/18 20060101AFI20240910BHJP
G06T 7/00 20170101ALI20240910BHJP
G06V 20/54 20220101ALI20240910BHJP
G08B 25/04 20060101ALI20240910BHJP
G08B 25/00 20060101ALI20240910BHJP
【FI】
H04N7/18 D
H04N7/18 K
G06T7/00 300F
G06V20/54
G08B25/04 C
G08B25/00 510M
(21)【出願番号】P 2024505904
(86)(22)【出願日】2022-12-13
(86)【国際出願番号】 JP2022045759
(87)【国際公開番号】W WO2023171068
(87)【国際公開日】2023-09-14
【審査請求日】2024-03-15
(31)【優先権主張番号】P 2022034071
(32)【優先日】2022-03-07
(33)【優先権主張国・地域又は機関】JP
(73)【特許権者】
【識別番号】000001122
【氏名又は名称】株式会社日立国際電気
(74)【代理人】
【識別番号】110000062
【氏名又は名称】弁理士法人第一国際特許事務所
(72)【発明者】
【氏名】長谷川 圭吾
(72)【発明者】
【氏名】生内 友輔
【審査官】長谷川 素直
(56)【参考文献】
【文献】特開2015-182556(JP,A)
【文献】特開2010-181614(JP,A)
【文献】国際公開第2018/084191(WO,A1)
【文献】特開2006-111177(JP,A)
【文献】特開2006-118914(JP,A)
【文献】特開2015-70401(JP,A)
【文献】特開2021-64398(JP,A)
(58)【調査した分野】(Int.Cl.,DB名)
H04N 7/18
G06T 7/00
G06V 20/54
G08B 25/00
(57)【特許請求の範囲】
【請求項1】
撮像装置と、解析装置とを備え、
前記解析装置は、状態解析制御部と、状態解析部とを有し、
前記状態解析制御部は、前記撮像装置が取得した映像の解析または状態通知部から通知された情報によって列車が接近していることを検知すると前記状態解析部に対して踏切内の映像解析の開始を指示し、
前記状態解析部は、前記撮像装置が取得した映像を用いて踏切内の移動物体の検知と追跡を行い、少なくとも前記移動物体の現在移動速度を用いて踏切の遮断完了までに検知対象が設定した仮想線まで到達できないと判定した場合に危険事象が発生していると判定して発報処理を行
い、
前記状態解析部は、種別に応じて前記移動物体の現在の位置と速度から前記仮想線までの到達時間を予想し、予想した到達時間が踏切の遮断完了時間よりも長い場合は、危険事象が発生していると判定することを特徴とする監視システム。
【請求項2】
請求項1に記載の監視システムにおいて、
前記状態解析部は、検知対象を識別するIDと、検知対象の種別を画像解析により特定して種別を識別するIDを、検知対象ごとに紐づけて追跡し、
前記種別には少なくとも人物、自動車、自転車、車いす、ベビーカー、杖、白杖を含むことを特徴とする監視システム。
【請求項3】
請求項1に記載の監視システムにおいて、
前記状態解析部は、前記移動物体の現在の移動速度と、前記移動物体の現在の位置から前記仮想線までの距離から、前記移動物体が前記仮想線まで到達する時間を算出し、この時間が踏切の遮断完了までの残り時間よりも多い場合は危険事象が発生していると判定することを特徴とする監視システム。
【請求項4】
請求項1に記載の監視システムにおいて、
前記状態解析部は、前記移動物体が踏切内に存在し、かつ、前記移動物体の現在の時間の移動量が所定の閾値以下であり、かつ、踏切の遮断完了までの時間が所定の閾値以内の場合、危険事象が発生していると判定する監視システム。
【請求項5】
請求項1に記載の監視システムにおいて、
表示装置を備え、前記表示装置は、複数の前記撮像装置からの映像を並べて表示し、前記状態解析部で危険事象が発生していると判定した前記撮像装置の映像を強調または拡大して表示することを特徴とする監視システム。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、監視システムに関し、特に、画像中の検知対象を検知し追跡した結果に基づき、危険事象を検知する監視システムに関する。
【背景技術】
【0002】
例えば、踏切では自動踏切警報器や交通信号機などを設置し、歩行者、自動車、列車を分離して通行することで交通安全を実現している。しかしながら、踏切内に人や自動車、車椅子などが取り残されて、列車と衝突する事故が発生している。このため、安全向上のため踏切内に残存する歩行者や自動車等を検知するためのレーザセンサを設置することが一般的に行われている。
【0003】
一方、特許文献1には、横断路へ車両が接近していると判断された場合には、検出された物体が移動中である移動物体であるか否かを判断し、物体が移動物体であると判断された場合には、その移動物体の位置変化を予測し、予測された移動物体の位置変化に基づき、移動物体が車両の走行を妨げるおそれがあるか否かを予測する移動物体検知装置が開示されている。
【0004】
また、特許文献2には、通行人の位置及び通行速度を踏切情報と照合することで、通行人が踏切を通行可能であるか判断し、判断の結果を通行人に通知する踏切通過可否判断支援システムが開示されている。
【先行技術文献】
【特許文献】
【0005】
【文献】特開2006-111177号公報
【文献】特開2016-155405号公報
【発明の概要】
【発明が解決しようとする課題】
【0006】
しかしながら、レーザセンサによる方法は遮断桿が降りた後の危険事象の検知であることから、検知から発報し列車が停止するまでの時間猶予が短い。また、踏切内を監視する監視カメラを設置して映像を目視で確認することも考えられるが、映像監視による方法は多数の踏切を監視員が同時に監視するため大きな負担となる。
【0007】
一方、特許文献1ではレーザ照射式のセンサの使用を前提としている。この場合、レーザで照射して検知できる範囲が限定されるとともに、レーザから得られる情報も限られた情報となる。また、レーザ照射式のセンサはカメラに比べて高価である。さらに、踏切内の状況を監視員が目視で確認するためにはカメラを別に設ける必要がある。
【0008】
また、特許文献2では、通行人が携帯端末を保持していることにより通行人の位置を取得することを前提としている。このため、通行人が対応する携帯端末を保持していない場合は通行人を検知することができない。
【0009】
本発明は、上記課題に鑑みて、踏切内の危険事象をより的確に検知できる監視システムを提供することを目的とする。
【課題を解決するための手段】
【0010】
上記目的を達成するため、代表的な本発明の監視システムの一つは、撮像装置と、解析装置とを備え、前記解析装置は、状態解析制御部と、状態解析部とを有し、前記状態解析制御部は、前記撮像装置が取得した映像の解析または状態通知部から通知された情報によって列車が接近していることを検知すると前記状態解析部に対して踏切内の映像解析の開始を指示し、前記状態解析部は、前記撮像装置が取得した映像を用いて踏切内の移動物体の検知と追跡を行い、少なくとも前記移動物体の現在移動速度を用いて踏切の遮断完了までに検知対象が設定した仮想線まで到達できないと判定した場合に危険事象が発生していると判定して発報処理を行う。
【発明の効果】
【0011】
本発明によれば、監視システムにおいて、踏切内の危険事象をより的確に検知できる。
上記以外の課題、構成及び効果は、以下の実施形態により明らかにされる。
【図面の簡単な説明】
【0012】
【
図1】
図1は、本開示の実施形態による態様を実施するためのコンピュータシステムのブロック図である。
【
図2】
図2は、本発明の監視システムの構成例を示すブロック図である。
【
図3】
図3は、本発明の監視システムの適用例を示す概念図である。
【
図4】
図4は、本発明の監視システムの処理のフローチャートの一例を示す。
【
図5】
図5は、本発明の監視システムの判定方法を説明するための図である。
【
図6】
図6は、本発明の監視システムにおける第1の表示例を示す図である。
【
図7】
図7は、本発明の監視システムにおける第2の表示例を示す図である。
【発明を実施するための形態】
【0013】
本発明を実施するための形態を説明する。
【0014】
<実施形態による態様を実施するためのコンピュータシステム>
図1は、本開示の実施形態による態様を実施するためのコンピュータシステム1のブロック図である。本明細書で開示される様々な実施形態の機構及び装置は、任意の適切なコンピューティングシステムに適用されてもよい。コンピュータシステム1の主要コンポーネントは、1つ以上のプロセッサ2、メモリ4、端末インターフェース12、ストレージインターフェース14、I/O(入出力)デバイスインターフェース16、及びネットワークインターフェース18を含む。これらのコンポーネントは、メモリバス6、I/Oバス8、バスインターフェースユニット9、及びI/Oバスインターフェースユニット10を介して、相互的に接続されてもよい。
【0015】
コンピュータシステム1は、プロセッサ2と総称される1つ又は複数の処理装置2A及び2Bを含んでもよい。各プロセッサ2は、メモリ4に格納された命令を実行し、オンボードキャッシュを含んでもよい。ある実施形態では、コンピュータシステム1は複数のプロセッサを備えてもよく、また別の実施形態では、コンピュータシステム1は単一の処理装置によるシステムであってもよい。処理装置としては、CPU(Central Processing Unit)、FPGA(Field-Programmable Gate Array)、GPU(Graphics Processong Unit)、DSP(Digital Signal Processor)等を適用できる。
【0016】
ある実施形態では、メモリ4は、データ及びプログラムを記憶するためのランダムアクセス半導体メモリ、記憶装置、又は記憶媒体(揮発性又は不揮発性のいずれか)を含んでもよい。ある実施形態では、メモリ4は、コンピュータシステム1の仮想メモリ全体を表しており、ネットワークを介してコンピュータシステム1に接続された他のコンピュータシステムの仮想メモリを含んでもよい。メモリ4は、概念的には単一のものとみなされてもよいが、他の実施形態では、このメモリ4は、キャッシュおよび他のメモリデバイスの階層など、より複雑な構成となる場合がある。例えば、メモリは複数のレベルのキャッシュとして存在し、これらのキャッシュは機能毎に分割されてもよい。その結果、1つのキャッシュは命令を保持し、他のキャッシュはプロセッサによって使用される非命令データを保持する構成であってもよい。メモリは、いわゆるNUMA(Non-Uniform
Memory Access)コンピュータアーキテクチャのように、分散され、種々の異なる処理装置に関連付けられてもよい。
【0017】
メモリ4は、本明細書で説明する機能を実施するプログラム、モジュール、及びデータ構造のすべて又は一部を格納してもよい。例えば、メモリ4は、潜在因子特定アプリケーション50を格納していてもよい。ある実施形態では、潜在因子特定アプリケーション50は、後述する機能をプロセッサ2上で実行する命令又は記述を含んでもよく、あるいは別の命令又は記述によって解釈される命令又は記述を含んでもよい。ある実施形態では、潜在因子特定アプリケーション50は、プロセッサベースのシステムの代わりに、またはプロセッサベースのシステムに加えて、半導体デバイス、チップ、論理ゲート、回路、回路カード、および/または他の物理ハードウェアデバイスを介してハードウェアで実施されてもよい。ある実施形態では、潜在因子特定アプリケーション50は、命令又は記述以外のデータを含んでもよい。ある実施形態では、カメラ、センサ、または他のデータ入力デバイス(図示せず)が、バスインターフェースユニット9、プロセッサ2、またはコンピュータシステム1の他のハードウェアと直接通信するように提供されてもよい。このような構成では、プロセッサ2がメモリ4及び潜在因子識別アプリケーションにアクセスする必要性が低減する可能性がある。
【0018】
コンピュータシステム1は、プロセッサ2、メモリ4、表示システム24、及びI/Oバスインターフェースユニット10間の通信を行うバスインターフェースユニット9を含んでもよい。I/Oバスインターフェースユニット10は、様々なI/Oユニットとの間でデータを転送するためのI/Oバス8と連結していてもよい。I/Oバスインターフェースユニット10は、I/Oバス8を介して、I/Oプロセッサ(IOP)又はI/Oアダプタ(IOA)としても知られる複数のI/Oインターフェースユニット12、14、16、及び18と通信してもよい。表示システム24は、表示コントローラ、表示メモリ、又はその両方を含んでもよい。表示コントローラは、ビデオ、オーディオ、又はその両方のデータを表示装置26に提供することができる。また、コンピュータシステム1は、データを収集し、プロセッサ2に当該データを提供するように構成された1つまたは複数のセンサ等のデバイスを含んでもよい。例えば、コンピュータシステム1は、湿度データ、温度データ、圧力データ等を収集する環境センサ、及び加速度データ、運動データ等を収集するモーションセンサ等を含んでもよい。これ以外のタイプのセンサも使用可能である。表示メモリは、ビデオデータをバッファするための専用メモリであってもよい。表示システム24は、単独のディスプレイ画面、テレビ、タブレット、又は携帯型デバイスなどの表示装置26に接続されてもよい。ある実施形態では、表示装置26は、オーディオをレンダリングするためスピーカを含んでもよい。あるいは、オーディオをレンダリングするためのスピーカは、I/Oインターフェースユニットと接続されてもよい。他の実施形態では、表示システム24が提供する機能は、プロセッサ2を含む集積回路によって実現されてもよい。同様に、バスインターフェースユニット9が提供する機能は、プロセッサ2を含む集積回路によって実現されてもよい。
【0019】
I/Oインターフェースユニットは、様々なストレージ又はI/Oデバイスと通信する機能を備える。例えば、端末インターフェースユニット12は、ビデオ表示装置、スピーカテレビ等のユーザ出力デバイスや、キーボード、マウス、キーパッド、タッチパッド、トラックボール、ボタン、ライトペン、又は他のポインティングデバイス等のユーザ入力デバイスのようなユーザI/Oデバイス20の取り付けが可能である。ユーザは、ユーザインターフェースを使用して、ユーザ入力デバイスを操作することで、ユーザI/Oデバイス20及びコンピュータシステム1に対して入力データや指示を入力し、コンピュータシステム1からの出力データを受け取ってもよい。ユーザインターフェースは例えば、ユーザI/Oデバイス20を介して、表示装置に表示されたり、スピーカによって再生されたり、プリンタを介して印刷されたりしてもよい。
【0020】
ストレージインターフェース14は、1つ又は複数のディスクドライブや直接アクセスストレージ装置22(通常は磁気ディスクドライブストレージ装置であるが、単一のディスクドライブとして見えるように構成されたディスクドライブのアレイ又は他のストレージ装置であってもよい)の取り付けが可能である。ある実施形態では、ストレージ装置22は、任意の二次記憶装置として実装されてもよい。メモリ4の内容は、ストレージ装置22に記憶され、必要に応じてストレージ装置22から読み出されてもよい。ネットワークインターフェース18は、コンピュータシステム1と他のデバイスが相互的に通信できるように、通信経路を提供してもよい。この通信経路は、例えば、ネットワーク30であってもよい。
【0021】
図1に示されるコンピュータシステム1は、プロセッサ2、メモリ4、バスインタフェース9、表示システム24、及びI/Oバスインターフェースユニット10の間の直接通信経路を提供するバス構造を備えているが、他の実施形態では、コンピュータシステム1は、階層構成、スター構成、又はウェブ構成のポイントツーポイントリンク、複数の階層バス、平行又は冗長の通信経路を含んでもよい。さらに、I/Oバスインターフェースユニット10及びI/Oバス8が単一のユニットとして示されているが、実際には、コンピュータシステム1は複数のI/Oバスインターフェースユニット10又は複数のI/Oバス8を備えてもよい。また、I/Oバス8を様々なI/Oデバイスに繋がる各種通信経路から分離するための複数のI/Oインターフェースユニットが示されているが、他の実施形態では、I/Oデバイスの一部または全部が、1つのシステムI/Oバスに直接接続されてもよい。
【0022】
ある実施形態では、コンピュータシステム1は、マルチユーザメインフレームコンピュータシステム、シングルユーザシステム、又はサーバコンピュータ等の、直接的ユーザインターフェースを有しない、他のコンピュータシステム(クライアント)からの要求を受信するデバイスであってもよい。他の実施形態では、コンピュータシステム1は、デスクトップコンピュータ、携帯型コンピュータ、ノートパソコン、タブレットコンピュータ、ポケットコンピュータ、電話、スマートフォン、又は任意の他の適切な電子機器であってもよい。
【0023】
<監視システムのブロック図>
図2は、本発明の監視システムの構成例を示すブロック図である。
【0024】
図2で示される監視システム100は、撮像装置101、解析装置102、警報装置103、表示装置104、状態通知部105を備えている。
【0025】
撮像装置101は、例えばネットワークカメラによって構成され、踏切等の監視エリアの映像取得に用いられる。撮像装置101は、レンズや絞りを介して撮像素子に入射光を結像して情報を得るカメラの構成を適用できる。ここでの撮像素子の例としては、CCD(Charge-Coupled Device)イメージセンサやCMOS(Complementary Metal Oxide Semiconductor)イメージセンサ等があげられる。撮像装置101は、映像として、例えば、1秒間に3フレーム(3fps)以上等で撮影して、その情報は、解析装置102へ送られる。撮像装置101は、状況に応じて複数設置可能である。カメラとしては、可視光や赤外線等のカメラを用いることができる。
【0026】
解析装置102は、状態解析制御部106と状態解析部107を備える。解析装置102は、例えば、CPU、GPU、FPGA、DSPなどのプロセッサを搭載したコンピュータによって実現され、例えば、
図1のコンピュータシステム1を適用できる。状態解析制御部106は、撮像装置101によって得られた映像や状態通知部105から通知された列車の接近情報に基づき、状態解析部107による危険事象の検知開始を制御する。状態解析部107は、撮像装置101によって得た映像を解析し、人物や自動車などの移動物体が踏切内で取り残される等の危険事象が発生するかどうかの予測を行う。具体的な判定方法については後述する。
【0027】
警報装置103は、例えば、スピーカなどで構成され、状態解析部107が危険事象を検知すると、音声によって踏切周囲に危険を知らせる。また、その他の態様として、防護無線装置によって構成され、状態解析部107が危険事象を検知した際に非常停止信号の発信を該当する列車等へ行う。
【0028】
表示装置104は、撮像装置101で撮影された監視映像を表示できる表示装置である。このとき、状態解析部107で検知した危険事象の内容等の表示を行うことができる。表示装置104は、例えば、液晶ディスプレイや有機EL(OLED)ディスプレイ等で構成することができる。また、スイッチャーやキーボードやマウスなどの操作手段を付属していてもよい。表示装置104は、各撮像装置101による映像を監視センターなどに集約してもよい。表示装置104は、解析装置102と同じ場所に構成してもよいし、別の場所に構成してもよい。表示装置104は、
図1の例ならば表示装置26として適用できる。
【0029】
状態通知部105は、踏切制御子やATS(Automatic Train Stop)などを用いて構成される。状態通知部105は、該当する踏切への列車の接近を検知し、状態解析制御部106に接近情報を通知する。この接近情報は、例えば、該当する踏切までの列車の位置や該当する踏切に到達するまでの予想時間が所定の値以内に達したか否か等で判定することができる。
【0030】
<監視システムの適用例>
図3は、本発明の監視システムの適用例を示す概念図である。
【0031】
図3では、踏切150の横断エリア160を渡る車椅子で例示された移動物体130が示されている。横断エリア160は、前方と後方の遮断桿151の間のエリアであり、線路170を横切る。移動物体130は前方の境界線161を超えると横断エリア160を抜けて安全なエリアに到達することができる。横断エリア160の境界線161は前方の遮断桿151付近の境界線である。
【0032】
撮像装置101は、踏切警報機152等に設置することができ、横断エリア160全体を撮影することができるように設置される。このため、ある程度以上高い位置に設置するとよい。例えば、人の高さより高い2m以上などである。また、撮像装置101は、一台だけでなく対角などに複数設置して、横断エリア160を含む踏切150全体を多角的に撮影するようにしてもよい。
【0033】
警報装置103は、踏切150近傍に設置され、踏切150や踏切150近傍にいる人に警報を発することができる。
図3の例では、踏切警報機152に設置されている。
【0034】
解析装置102は、踏切150とは別の場所に設置することが可能である。また、状態解析部107は、踏切150近傍に設置されてもよいし、解析装置102と一体に設置されてもよい。
【0035】
表示装置104は、踏切150とは別の場所に設置することが可能である。例えば、監視センターなどに他の踏切における撮像装置101の情報とあわせて集約させることが可能である。
【0036】
図3は、移動物体130が踏切150の横断エリア160に取り残されそうな危険事象が発生する場合を示す。この場合は、撮像装置101で撮影された映像に基づき解析装置102でその情報が解析され危険事象と判定される。それに基づき警報装置103で所定の発報がなされる。また、表示装置104では監視員が危険事象と判定された映像を確認できる。
【0037】
<フローチャート>
図4は、本発明の監視システムの処理のフローチャートの一例を示す。
図4を使って、監視システム100の処理の流れを説明する。
【0038】
まず、ステップS201では、状態解析制御部106が列車の接近を検知する。ここでの検知は踏切150の予鈴開始や遮断開始を検知する方法があげられる。また、撮像装置101は、状態解析制御部106に踏切監視映像を常時送信している。このため、状態解析制御部106は画像解析によって遮断開始を検知することができる。監視映像によって遮断開始を検知する方法としては、例えば踏切警報機152の踏切警報等の点滅を色・輝度の変化から検知する方法や、遮断桿151の動きを検知する方法がある。また、このほか、列車の接近の検知は状態通知部105が踏切制御子やATSなどからの情報を取得することにより列車の接近を検知してもよい。列車の接近を検知すると状態解析制御部106は、状態解析部107に踏切状態の解析開始を指示する。
【0039】
次に、ステップS202では、状態解析部107が踏切150内の人物、自動車、自転車、バイク、車いす、ベビーカー、杖、白杖等の移動物体130を検知して追跡する。ここでの検知や追跡は、撮像装置101で撮影された映像に基づき、機械学習技術やパターンマッチングなどを組み合わせることによって実現できる。機械学習技術は、AI(人工知能)を用いて、ディープラーニングを用いる等して画像解析により行うことが可能である。パターンマッチングは、例えば、テンプレート画像と照合する等して画像解析により行うことが可能である。移動物体130を一回検知すると、画面上ではフレームごとに移行していく。このとき、検知した移動物体130と同じ物であるかどうかを、機械学習やパターンマッチングを使用して移動してきた履歴を追跡できる。また、移動物体130の検知や追跡は、機械学習やパターンマッチング以外のアルゴリズムを利用してもよい。
【0040】
このとき、各移動物体に対して検知対象を識別する識別IDを付す処理を行うとよい。さらに、各移動物体に対して人物、自動車、自転車、バイク、車いす、ベビーカー、杖、白杖等の種別を特定する検知対象種別IDを付してもよい。このようにIDと検知対象を紐付けすることで後述する判別や後の危険事象の解析に役立てることができる。
【0041】
次に、ステップS203では、移動物体130の速度を推定する。速度の推定は状態解析部107において撮像装置101で撮影された映像の画像解析で行う。速度の推定方法の具体例は、後述する判定方法で説明する。
【0042】
次に、ステップS204では、移動物体130が踏切150を横断できるか否かを判定する。ここでの判定は、状態解析部107で、ステップS203で推定した速度を用いるなどして行うことができる。移動物体130が踏切150を横断したか否かは、例えば、遮断完了までに横断エリア160を通過できるか否か等で判定できる。判定方法の具体例は後述する。ステップS204で、移動物体130が踏切150を横断できる場合は処理が終了する。横断不可(真)の場合はステップS205へ進む。この場合、状態解析部107は危険事象の発生の情報を送信する。
【0043】
ステップS205では、発報処理を行う。例えば、警報装置103により音声等によって踏切150周辺に危険を知らせる。この他、表示装置104が危険事象の発生を警告表示する等してもよい。これらは、状態解析部107からの危険事象の発生の情報を受信し、それに基づき行うことができる。
【0044】
<第1の判定方法>
図5は、本発明の監視システムの判定方法を説明するための図である。
図5を用いて第1の判定方法について説明する。
【0045】
図5は、移動物体130(
図5では車いすを例示)が踏切150を横断している途中の状態を示している。踏切150の横断エリア160の横断方向の後方の境界付近には仮想線301、前方の境界付近には仮想線302が決められる。これらは画像解析により判別可能である。移動物体130は、横断エリア160に存在し、現在の時刻はt
n、現在の位置はP
n(x(t
n),y(t
n))である。
【0046】
第1の判定方法は、移動物体130が踏切150を渡り切るまでの時間が、踏切150の遮断桿151が閉まるまでの残り時間よりも長いと予測される場合に、横断不可(真)とする判定方法である。
【0047】
移動物体130が、前方の仮想線302に達する到達地点をP
G(x
G,y
G)とすると、現在t
nの位置P
n(x(t
n),y(t
n))から到達地点P
G(x
G,y
G)までの距離d(t
n)は以下の式1で示される。
【数1】
ここで、到達地点P
G(x
G,y
G)は、例えば、現在の位置P
n(x(t
n),y(t
n))から、前方の一番距離が短い仮想線302の位置を到達地点P
Gとすることができる。このほか、直前の位置から移動により直近の移動方向が算出できるため、これから算出される移動ベクトルの延長線上の仮想線302との交点を到達地点P
Gとしてもよい。
【0048】
次に、現在の移動速度v(t
n)は次の式2で示される。
【数2】
ここでは、直前の時刻t
n-1における位置P
n-1(x(t
n-1),y(t
n-1))から、現在の時刻t
nの位置P
n(x(t
n),y(t
n))までの移動距離と時間差により求めることができる。直前の時刻t
n-1は、現在の時刻t
nに対して所定時間前であり、例えば、1フレーム前や数フレーム前との差等の所定のフレーム間隔としてもよい。
【0049】
次の式3は判定条件である。
【数3】
ここでは、式1で求めた距離d(t
n)と上記式2で求めた移動速度v(t
n)を用いて、式3が真か偽か判定する。ここでτは現在の時刻t
nから踏切150の遮断完了までの残り時間である。このτは、踏切の遮断開始から遮断完了までの時間はあらかじめ決まっているため、当該踏切の情報に基づき状態解析部107で算出することが可能である。
【0050】
上記の式3の条件を満たすと、踏切150の遮断完了までに移動物体130が仮想線301までに達しないことになる。このため、この条件に合致すれば真となり移動物体130が踏切150を渡り切ることができないため、危険事象が発生していると判定できる。
【0051】
なお、上記の例は、移動物体130の移動方向前方にある仮想線302に対してのみ判定を行う例を示したが、移動物体130の移動方向後方にある仮想線301に対して判定を行ってもよい。また、これ以外にも、仮想線までの距離d(tn)は後方の仮想線301と前方の仮想線302の両方に適用して、両方とも真となった場合には横断不可と判定しても良い。これは、移動物体130が引き返せる可能性も考慮したものである。
【0052】
<第2の判定方法>
第2の判定方法は、検知物体(移動物体130)のある時間の移動量が所定条件の下、閾値以下であるかを判定する。この場合、引き返す動き、うろつき、低速状態にあると想定できるため、このような場合は横断不可(真)と判定する方法である。具体的には次の式4で表すことができる。
【数4】
【0053】
上記の式4のうち、以下に示す最初の条件である式4-1について説明する。
【数5】
ここで、v(t
n)は上記式2で求めた現在時刻の速度である。V
thは時刻t=t
mからt=t
nまでの移動量の閾値である。時刻t
mは現在の時刻t
nよりも前の時刻で、例えば2秒前、さらには5秒前、さらには10秒前等である。すなわち1秒前から10秒前ぐらいの間の値とすることができる。式4-1では、前の時刻t
mから現在の時刻t
nまでの移動量の合計があらかじめ定めた移動量の閾値以下であることを示す。これにより所定時間内の移動量が所定以下の場合は、この式に合致する。式4-1は簡単のため移動量の合計を用いているが、移動方向を考慮した速度ベクトルを用いてもよい。この場合は、合成ベクトルが時刻t=t
mにおける位置P
m(x(t
m),y(t
m))とt=t
nにおける位置P
n(x(t
n),y(t
n))の移動方向と移動距離を表すので、移動距離が短い場合は位置P
m付近に滞留しているとみなせる。
【0054】
上記の式4のうち、以下に示す次の条件である式4-2について説明する。
【数6】
ここでτは、現在の時刻t
nから踏切150の遮断完了までの時間である。T
th1は遮断完了残り時間の閾値である。すなわち、踏切150の遮断完了までの残り時間が少ない場合には危険な状態であるため、この式の条件を満たす。
【0055】
上記の式4のうち、以下に示す最後の条件である式4-3について説明する。
【数7】
ここで、M(x(t
n),y(t
n))は、現在の時刻に検知対象の位置が検知領域であるか否かを示している。検知領域Mは、例えば、横断エリア160が想定され、
図5で示した仮想線301と仮想線302の間の領域が想定される。ここで、検知領域M(x,y)であれば「1」となり、それ以外の領域であれば「0」となる。式4-3では、検知対象(移動物体130)が検知領域M内にいる場合は1となり、この式の条件を満たす。なお、検知領域M(x,y)は踏切内の所定のエリアに設定しても良いが、踏切外の線路領域などの侵入禁止エリアも含めて設定しても良い。
【0056】
上記の式4は、上記の式4-1、式4-2、式4-3をすべて満たす場合に真と判定され、危険事象が発生していると判定できる。しかし、これらの3つの式の一部を満たした場合に段階的に危険度を示しても良い。例えば、式4-1と式4-3を満たす場合などは危険の前段階として、式4-2をさらに満たす場合に危険事象が発生していると判定する等である。
【0057】
<第3の判定方法>
第3の判定方法は、追跡の消失が発生した場合に何らかの異常が発生したとして横断不可(真)と判定する方法である。例えば、検知対象である移動物体130が、踏切150の横断エリア160外の線路への侵入によって検知エリア外に移動した場合や、フェンス、電柱などの建造物の陰に隠れた場合等が相当する。この場合、撮像装置101で検知対象を捉えることができないため、追跡が消失する場合がある。このとき、最後に検知対象を検知した位置から検知対象が動かなかったものとみなし、v=0として取り扱う。そして、v=0の状態が所定の時間Tth2継続した場合に横断不可(真)と判定し、危険事象が発生していると判定する。所定の時間Tth2はあらかじめ定めておくことができる。
【0058】
なお、追跡が消失したことをv=0と取り扱う方法は第1の判定方法、第2の判定方法に適用することも可能である。第1の判定方法であれば、例えば、式3において、v(tn)=0とすれば、式の左辺の値は無限大となり、式3の条件を満たす。これにより、危険事象が発生していると判定できる。第2の判定方法であれば、例えば、式4において、v(tn)=0とすれば、式4-1の部分の式の左辺は0となり、式4の条件を満たす。これにより、危険事象が発生していると判定できる。
【0059】
<第4の判定方法>
第4の判定方法は、ステップS202で説明した、検知対象種別を利用した判定である。検知対象種別の判別は、AI(人工知能)を用いて、ディープラーニングを用いる等して画像解析により行うことが可能である。このとき、検知対象種別に応じた判定を行う。検知対象種別としては、例えば、人物(大人、子供、高齢者)、自動車、自転車、バイク、車いす、ベビーカー、杖、白杖等の種別があげられる。例えば、第2、第3の判定方法で用いた閾値(Vth、Tth1、Tth2)を検知対象種別ごとに変更してあらかじめ設定しておいてもよい。
【0060】
さらに、検知対象種別ごとに、現在の移動速度v(tn)と位置Pn(x(tn),y(tn))から、機械学習に基づき仮想線301又は仮想線302までの到達時間を予想する。そして、その予想到達時間が、踏切150の遮断完了時間よりも長い(遅い)場合、もしくは、長く(遅く)なる確率が所定以上の場合は、危険事象が発生していると判定してもよい。この場合は、過去の当該踏切におけるデータや他の踏切におけるデータを用いることでその種別における到達時間を予測することができる。
【0061】
また、検知対象種別ごとに特定の事象が発生した場合は、危険事象が発生していると判定してもよい。例えば、自動車であるならば、自動車が踏切内に所定時間停留している場合は、前の自動車が渋滞で詰まって動けないか、自動車の故障等のトラブルで動けないことが考えられる。例えば、車いすであるならば、車いすが線路の溝付近や横断ゾーンの線路方向の際で止まっている場合、脱輪により動けなくなっている可能性が考えられる。例えば、所定以上の小さい子供であるならば、子供単独で踏切内にいる場合は、自己の判断で踏切を渡り切れない可能性が考えられる。このような場合は、第1から第3の判定方法にかかわらず、危険事象と判定するか、危険事象になる可能性が高い状態と判定してもよい。
【0062】
<表示例>
図6は、本発明の監視システムにおける第1の画面による表示例を示す図である。
図7は、本発明の監視システムにおける第2の画面による表示例を示す図である。
【0063】
図6に示す第1の画面と
図7に示す第2の画面は、表示装置104によって表示される。これらは、表示する複数の監視映像の中から注目すべき映像を強調または拡大して表示する例を示している。任意の表示方法が可能であるが、監視員が危険に気付くための構成として以下に示す。
【0064】
第1の表示方法は、
図6に示される方法である。
図6の表示画面400では、左側に撮像装置101ごとの複数の映像がタイル状に並んだメイン表示410が表示されている。すなわち異なる踏切の映像が並んで表示されている。
図6のメイン表示410は、横3列と縦3列の9個の映像が表示される例を示している。また、メイン表示410の右側にはサムネイル表示420を有している。サムネイル表示420は、メイン表示410よりも小さい範囲で表示され、1つ1つの映像表示もメイン表示410よりも小さい。サムネイル表示420では、メイン表示410に表示しきれない撮像装置101からの映像を例えば拡大表示している。
図6のサムネイル表示420では、縦に3つの映像が並んで表示されている例を示している。
【0065】
表示の段階としては2つの段階が考えられる。1つは、
図4のステップS201で列車の接近を検知した段階である。これは、遮断開始としてもよい。もう1つは、
図4のステップS204において、危険事象と判定された段階である。通常の段階に対して、列車の接近の段階と、危険事象と判定された段階とをそれぞれ異なる強調表示を行うことができる。例えば、列車の接近を検知した段階で該当する撮像装置101からの映像を何らかのハイライト表示で強調してもよい。この場合、該当する映像を
図6のサムネイル表示420からメイン表示410に移動してもよい。そして、危険事象と判定された段階で、特定のハイライト表示411を行う。ハイライト表示411は、例えば列車の接近は黄色枠、危険事象は赤色枠として色を分けて、異なる色による色枠で警告表示する。
【0066】
また、メイン表示410で表示しきれない映像については同様にサムネイル表示420にハイライト表示411と同様にハイライトして表示してもよい。また、列車の接近と危険事象の状態にある映像を、それ以外の映像よりも上位に表示されるように並べて表示してもよい。例えば、このような映像をメイン表示410の上段の左側から並べていく等である。この場合、危険事象の映像の優先度を列車の接近状態の映像よりも上位に表示させてもよい。
【0067】
第2の表示方法では、
図6の様に列車が接近している映像のハイライト表示411を第1の表示方法と同様に行う。しかし、危険事象と判定したときは、
図7のような第2の表示画面500に遷移する。ここでは、危険事象と判定した映像を
図7の様にメイン表示510に拡大表示511として表示する。拡大表示511は、例えば、
図7に示すように通常の映像の表示スペース4つ分を使い1つの映像を拡大表示する。また、
図7において右側のサムネイル表示420は、
図6と同様の表示が行われる。
【0068】
なお、上記の第1の表示方法、第2の表示方法で、危険事象を検知した後に、危険事象の強調又は拡大表示を解除する機能を備えていてもよい。これは、監視員などにより安全が確認された場合などを想定したものである。この解除の操作のためのインターフェースを表示装置104に備えていてもよい。この場合、一度強調又は拡大表示を開始すると手動による解除が行われるまで強調又は拡大表示を継続するようにしてもよい。
【0069】
また、上記第1の表示方法と第2の表示方法において、遮断開始中の映像や危険事象の映像を優先的にメイン表示410、510に表示し、その他の状態の映像をサムネイル表示420として表示してもよい。このことで特に注目すべき映像をメイン表示410、510に表示する。また、メイン表示410、510は遮断開始中の映像、その他の状態の映像を各タイル状の表示部分に専用で割り当ててもよい。また、各タイル状の表示部分は、巡回表示用に割り当ることも可能である。
【0070】
<効果>
以上の実施形態により、踏切の危険事象を撮像装置の映像を画像解析することにより的確に検知することができる。このとき、列車の接近を検知することで、踏切の遮断が完了する前に検知することができる。また、移動物体が踏切を渡りきれるかを検知することで的確な検知が可能となる。さらに、撮像装置を用いるため、踏切内全体の状態を検知することが可能となる。さらに、レーザ照射式のセンサなど他のセンサを用いなくても実現することが可能となり、コストを抑えることが可能となる。さらに、撮像装置からの映像は監視員がそのまま目視で状況を確認できる。また、表示装置において、監視映像の中から注目すべき映像を強調または拡大して表示することで、監視員がその映像にいち早く気づきやすい表示とすることができる。
【0071】
なお、本発明は上記した実施例に限定されるものではなく、様々な変形例が含まれる。例えば、上記した実施例は本発明を分かりやすく説明するために詳細に説明したものであり、必ずしも説明した全ての構成を備えるものに限定されるものではない。また、ある実施例の構成の一部を他の実施例の構成に置き換えることが可能であり、また、ある実施例の構成に他の実施例の構成を加えることも可能である。また、各実施例の構成の一部について、他の構成の追加・削除・置換をすることが可能である。
【0072】
例えば、上記実施形態は踏切について示したが、これ以外の仮想線までの到達予測時間を用いる状況についても適用可能である。例えば交差点における信号制御、自動ドアの開閉制御、エレベータのドア開閉制御などにも適用可能である。
【0073】
さらに、上記実施形態は検知対象をカメラによる映像によって追跡する例を示したが、LiDAR(ライダー)やミリ波レーダなど各種センサを検知や追跡に追加で用いて、検知の精度を上げる構成としてもよい。
【符号の説明】
【0074】
1…コンピュータシステム、2…プロセッサ、2A、2B…処理装置、4…メモリ、6…メモリバス、8…I/Oバス、9…バスインターフェースユニット、10…I/Oバスインターフェースユニット、12…端末インターフェースユニット、14…ストレージインターフェース、16…I/Oデバイスインターフェース、18…ネットワークインターフェース、20…ユーザI/Oデバイス、22…ストレージ装置、24…表示システム、26…表示装置、30…ネットワーク、50…潜在因子特定アプリケーション、100…監視システム、101…撮像装置、102…解析装置、103…警報装置、104…表示装置、105…状態通知部、106…状態解析制御部、107…状態解析部、130…移動物体、150…踏切、151…遮断桿、152…踏切警報機、160…横断エリア、161…境界線、170…線路、301、302…仮想線、400…表示画面、410…メイン表示、411…ハイライト表示、420…サムネイル表示、500…第2の表示画面、510…メイン表示、511…拡大表示