(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公開特許公報(A)
(11)【公開番号】P2022191797
(43)【公開日】2022-12-28
(54)【発明の名称】監視システム
(51)【国際特許分類】
H04N 7/18 20060101AFI20221221BHJP
G08B 25/08 20060101ALI20221221BHJP
G08B 25/10 20060101ALI20221221BHJP
G08B 25/00 20060101ALI20221221BHJP
G08G 1/16 20060101ALI20221221BHJP
【FI】
H04N7/18 D
G08B25/08 A
G08B25/10 D
G08B25/00 510M
G08G1/16 F
【審査請求】未請求
【請求項の数】9
【出願形態】OL
(21)【出願番号】P 2021100248
(22)【出願日】2021-06-16
(71)【出願人】
【識別番号】000000011
【氏名又は名称】株式会社アイシン
(74)【代理人】
【識別番号】100105957
【弁理士】
【氏名又は名称】恩田 誠
(74)【代理人】
【識別番号】100068755
【弁理士】
【氏名又は名称】恩田 博宣
(72)【発明者】
【氏名】竹内 雅洋
【テーマコード(参考)】
5C054
5C087
5H181
【Fターム(参考)】
5C054AA02
5C054CA04
5C054CC02
5C054DA09
5C054EG01
5C054FC01
5C054FC12
5C054HA19
5C087AA02
5C087AA04
5C087AA09
5C087AA19
5C087BB74
5C087DD03
5C087DD14
5C087EE08
5C087EE18
5C087FF01
5C087FF02
5C087FF04
5C087GG02
5C087GG10
5C087GG70
5H181AA01
5H181AA21
5H181BB04
5H181CC04
5H181LL08
(57)【要約】
【課題】情報通信ネットワークを介した高精度の異常検知を可能とする。
【解決手段】監視システム40は、カメラ8とともに情報通信ネットワーク15のエッジEとなる車両1に設けられた第1画像解析装置11を備える。この第1画像解析装置11は、カメラ8が映す車室6の撮影画像Vdを解析することにより、その車室6の状態変化の検出判定を実行する。また、この第1画像解析装置11は、監視空間41としての車室6に状態変化の発生が検出された場合に、その情報通信ネットワーク15を介した撮影画像Vdの配信を実行する画像配信装置80としての機能を有する。そして、監視システム40は、この情報通信ネットワーク15を介して配信された車室6の撮影画像Vdを解析することにより、その車室6に生じた異常の検知判定を実行する第2画像解析装置22を備える。
【選択図】
図5
【特許請求の範囲】
【請求項1】
カメラとともに情報通信ネットワークのエッジに設けられて前記カメラが映す監視空間の撮影画像を解析することにより前記監視空間に生じた状態変化の検出判定を実行する第1画像解析装置と、
前記状態変化の発生が検出された場合に前記情報通信ネットワークを介した前記撮影画像の配信を実行する画像配信装置と、
前記配信された前記撮影画像を解析することにより前記監視空間に生じた異常の検知判定を実行する第2画像解析装置と、を備える監視システム。
【請求項2】
請求項1に記載の監視システムにおいて、
前記第1画像解析装置は、
前記撮影画像を解析周期毎に取得することにより前回の前記解析周期において取得した前記撮影画像の前回フレームと今回の前記解析周期において取得した前記撮影画像の今回フレームとの画素差分値を演算する画素差分値演算部と、
前記画素差分値の演算履歴を保持する履歴保持部と、
前記演算履歴に基づいて前記画素差分値の分散値を演算する分散値演算部と、
前記分散値が所定の閾値以上である場合に前記監視空間に前記状態変化が生じたと判定する状態変化判定部と、を備えること、を特徴とする監視システム。
【請求項3】
請求項2に記載の監視システムにおいて、
前記画素差分値演算部は、予め前記監視空間に設定された検出領域についてのみ前記画素差分値を演算すること、を特徴とする監視システム。
【請求項4】
請求項1~請求項3の何れか一項に記載の監視システムにおいて、
前記画像配信装置は、前記監視空間の外部に位置する管理者に対し、前記第2画像解析装置において前記異常の発生が検知された場合に、前記撮影画像の配信を実行すること、
を特徴とする監視システム。
【請求項5】
請求項1~請求項4の何れか一項に記載の監視システムにおいて、
前記画像配信装置は、前記監視空間の外部に位置する管理者に対し、前記第2画像解析装置に対して前記配信される前記撮影画像よりも高い圧縮率で、前記撮影画像の配信を実行すること、を特徴とする監視システム。
【請求項6】
請求項5に記載の監視システムにおいて、
前記管理者の要求に基づいて、該管理者に前記配信される前記撮影画像の前記圧縮率を変更可能に構成されること、を特徴とする監視システム。
【請求項7】
請求項4~請求項6の何れか一項に記載の監視システムにおいて、
前記画像配信装置は、前記第2画像解析装置において前記検知判定ができない、又は前記検知判定の精度が低下していると判定される場合に、前記管理者に対する前記撮影画像の配信を実行すること、を特徴とする監視システム。
【請求項8】
請求項7に記載の監視システムにおいて、
前記第2画像解析装置は、前記撮影画像に含まれる人の骨格点を検出するとともに該骨格点の検出により取得される前記人の情報に基づいて前記検知判定を実行するものであって、
前記骨格点の検出状態に基づいて、前記管理者に対する前記撮影画像の配信を実行するか否かが判定されること、を特徴とする監視システム。
【請求項9】
請求項1~請求項8の何れか一項に記載の監視システムにおいて、
前記監視空間は、車両の車室であること、を特徴とする監視システム。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、監視システムに関するものである。
【背景技術】
【0002】
従来、カメラが映す監視空間の撮影画像を、情報通信ネットワークを介して外部から確認することのできる監視システムがある。例えば、特許文献1に記載の車両の状況管理システムは、車両の異常を示す記録イベントの発生を検出する複数のセンサを備える。そして、その発生した記録イベントの種類及び発生時の撮影画像を、携帯電話回線にて確認することのできる構成となっている。
【先行技術文献】
【特許文献】
【0003】
【発明の概要】
【発明が解決しようとする課題】
【0004】
しかしながら、上記従来技術は、人感センサを用いて監視空間に生じた状態変化を検出する構成であることから、その状態変化の発生を検出することのできる状況、及び検出範囲が限られてしまう。このため、情報通信ネットワークを介した高精度の異常検知を行なうことが難しいという問題がある。
【課題を解決するための手段】
【0005】
上記課題を解決する監視システムは、カメラとともに情報通信ネットワークのエッジに設けられて前記カメラが映す監視空間の撮影画像を解析することにより前記監視空間に生じた状態変化の検出判定を実行する第1画像解析装置と、前記状態変化の発生が検出された場合に前記情報通信ネットワークを介した前記撮影画像の配信を実行する画像配信装置と、前記配信された前記撮影画像を解析することにより前記監視空間に生じた異常の検知判定を実行する第2画像解析装置と、を備える。
【0006】
上記構成によれば、情報通信ネットワークのエッジに設けられた第1画像解析装置によって、その撮影画像に映る監視空間に生じた状態変化を検出することができる。そして、この状態変化の検出により配信される監視空間の撮影画像を第2画像解析装置が解析することで、情報通信ネットワークを介して、高精度に、その撮影画像に映る監視空間に生じた異常を検知することができる。
【0007】
また、撮影画像の解析による状態変化の検出判定は、その撮影画像の解析による異常検知判定よりも演算負荷が小さい。このため、第1画像解析装置が実装される情報処理装置については、その要求される演算処理能力が比較的小さく抑えられるという利点がある。そして、監視空間の状態変化が検出されない場合には、情報通信ネットワークを介した撮影画像の配信を行わないことで、その通信負荷を軽減することができる。
【0008】
上記課題を解決する監視システムにおいて、前記第1画像解析装置は、前記撮影画像を解析周期毎に取得することにより前回の前記解析周期において取得した前記撮影画像の前回フレームと今回の前記解析周期において取得した前記撮影画像の今回フレームとの画素差分値を演算する画素差分値演算部と、前記画素差分値の演算履歴を保持する履歴保持部と、前記演算履歴に基づいて前記画素差分値の分散値を演算する分散値演算部と、前記分散値が所定の閾値以上である場合に前記監視空間に前記状態変化が生じたと判定する状態変化判定部と、を備えることが好ましい。
【0009】
上記構成によれば、比較的軽量な演算負荷で、精度よく、その撮影画像の解析に基づいた状態変化の検出判定を行なうことができる。そして、これにより、高い設置自由度を確保しつつ、情報通信ネットワークを介した高精度の異常検知を行なうことができる。
【0010】
加えて、解析周期毎に取得する撮影画像の前回フレームと今回フレームとの画素差分値を用いることで、例えば、光量変化等、その監視空間の外部環境が及ぼす影響を小さく抑えることができる。
【0011】
上記課題を解決する監視システムにおいて、前記画素差分値演算部は、予め前記監視空間に設定された検出領域についてのみ前記画素差分値を演算することが好ましい。
上記構成によれば、予め監視空間に設定された検出領域に生じた状態変化を、精度よく、検出することができる。そして、これにより、誤判定の発生を抑えて、より高精度に、その情報通信ネットワークを介した異常検知を行なうことができる。
【0012】
上記課題を解決する監視システムにおいて、前記画像配信装置は、前記監視空間の外部に位置する管理者に対し、前記第2画像解析装置において前記異常の発生が検知された場合に、前記撮影画像の配信を実行することが好ましい。
【0013】
上記構成によれば、監視空間に生じた異常を、管理者が速やかに確認することができる。これにより、その監視空間に生じた異常に対する迅速な対応を担保することができる。そして、その管理者に撮影画像を配信する状況を限定することで、通信負荷の増大を抑えることができる。
【0014】
上記課題を解決する監視システムにおいて、前記画像配信装置は、前記監視空間の外部に位置する管理者に対し、前記第2画像解析装置に対して前記配信される前記撮影画像よりも高い圧縮率で、前記撮影画像の配信を実行することが好ましい。
【0015】
即ち、解像度の低い高圧縮率の撮影画像であっても、人の目、つまりは管理者が確認することにより、問題なく、その撮影画像に映る監視空間の状況を把握することができる場合が多い。従って、上記構成によれば、通信負荷の増大を抑えつつ、管理者による監視を加えた重層的なシステムを構築することができる。そして、これにより、より高精度に、その情報通信ネットワークを介した異常検知を行なうことができる。
【0016】
上記課題を解決する監視システムは、前記管理者の要求に基づいて、該管理者に前記配信される前記撮影画像の前記圧縮率を変更可能に構成されることが好ましい。
上記構成によれば、通信負荷の増大を抑えつつ、適切な解像度で、その監視空間の撮影画像を管理者が確認することができる。そして、これにより、より高精度に、その情報通信ネットワークを介した異常検知を行なうことができる。
【0017】
上記課題を解決する監視システムにおいて、前記画像配信装置は、前記第2画像解析装置において前記検知判定ができない、又は前記検知判定の精度が低下していると判定される場合に、前記管理者に対する前記撮影画像の配信を実行することが好ましい。
【0018】
上記構成によれば、管理者が監視空間の撮影画像を確認することで、その情報通信ネットワークを介した高精度の異常検知を担保することができる。そして、管理者に撮影画像を配信する状況を限定することで、通信負荷の増大を抑えることができる。
【0019】
上記課題を解決する監視システムにおいて、前記第2画像解析装置は、前記撮影画像に含まれる人の骨格点を検出するとともに該骨格点の検出により取得される前記人の情報に基づいて前記検知判定を実行するものであって、前記骨格点の検出状態に基づいて、前記管理者に対する前記撮影画像の配信を実行するか否かが判定されることが好ましい。
【0020】
上記構成によれば、第2画像解析装置が、その撮影画像の解析による異常検知判定を行なうことができない、又は、その検知判定の精度が低下している状態を、精度よく特定することができる。そして、これにより、管理者に対する撮影画像の配信を実行するか否かの判定を適切に行うことができる。その結果、管理者に対して頻繁に監視空間の撮影画像が配信される状況を回避して、通信負荷の増大を抑えることができる。
【0021】
また、骨格点の検出により、精度よく、人の姿勢や体格等、身体的な情報を取得することができる。そして、これにより、その取得した人の情報に基づいて、高精度の異常検知判定を行うことができる。
【0022】
上記課題を解決する監視システムにおいて、前記監視空間は、車両の車室であることが好ましい。
上記構成によれば、車両の車室に生じた異常を、情報通信ネットワークを介して、精度よく、検知することができる。
【発明の効果】
【0023】
本発明によれば、情報通信ネットワークを介した高精度の異常検知を行なうことができる。
【図面の簡単な説明】
【0024】
【
図2】車室内の乗員、及び、この乗員を撮影するカメラの説明図。
【
図6】第1画像解析装置に設けられた状態変化検出部のブロック図。
【
図9】今回フレームと前回フレームとの画素差分値を可視化したイメージ図。
【
図10】履歴保持部に保持された画素差分値の演算履歴、及び、この演算履歴に基づいた分散値の演算方法を説明するイメージ図。
【
図11】第1画像解析装置による状態変化の検出判定、及び第2画像解析装置に対する画像配信の処理手順を示すフローチャート。
【
図13】第2画像解析装置に設けられた人情報取得部のブロック図。
【
図14】第2画像解析装置による異常検知判定及び骨格点の検出状態判定の処理手順を示すフローチャート。
【
図15】第1画像解析装置によるオペレータに対する画像配信の処理手順を示すフローチャート。
【
図16】オペレータに配信された撮影画像の表示、及びオペレータの要求に基づいた通信接続の処理手順を示すフローチャート。
【
図17】オペレータの要求に基づいた撮影画像の圧縮率変更についての処理手順を示すフローチャート。
【
図18】オペレータの正常確認操作に基づいた撮影画像の配信停止についての処理手順を示すフローチャート。
【
図19】オペレータの要求に基づいた撮影画像の配信についての処理手順を示すフローチャート。
【
図20】第2画像解析装置による正常確認判定に基づいた撮影画像の配信停止についての処理手順を示すフローチャート。
【発明を実施するための形態】
【0025】
以下、監視システムの一実施形態を図面に従って説明する。
図1~
図3に示すように、本実施形態の車両1は、車両前後方向に延在する四角略箱状の車体2を有している。また、車体2の側面には、乗員の乗降口となるドア開口部3が設けられている。尚、このドア開口部3には、車両前後方向、相反する方向に開閉動作する一対のスライドドア4,4が設けられている。そして、車両1の乗員5は、車室6内に設けられたシート7に着座する「座位姿勢」、又は、例えば、図示しない吊り革や手すりを利用する等、「立位姿勢」で、この車両1に乗車する構成になっている。
【0026】
また、本実施形態の車両1には、その車室6内を撮影するカメラ8が設けられている。本実施形態の車両1において、このカメラ8は、車室6の前方位置において、そのコーナー部6fa近傍の天井部9付近に設けられている。尚、このカメラ8には、例えば、赤外線カメラ等が用いられる。そして、本実施形態のカメラ8は、これにより、車両1の乗員5を、その車室6に設定された所定の方向から撮影する構成となっている。
【0027】
図4及び
図5に示すように、本実施形態の車両1において、カメラ8が映す車室6内の撮影画像Vdは、車載の情報処理装置10に実装された第1画像解析装置11に入力される。更に、この撮影画像Vdは、情報通信ネットワーク15を介して、クラウドサーバ17を構成する車外の情報処理装置20に実装された第2画像解析装置22、及び車両1の運行センター30に待機する管理者31としてのオペレータ32に配信される。尚、情報通信ネットワーク15は、無線通信網やインターネット等により構成される。また、オペレータ32に対する撮影画像Vdの配信は、この撮影画像Vdの受像装置33、及びオペレータ32の操作端末34を構成する運行センター30に設けられた情報処理装置35に対して行われる。そして、本実施形態の車両1には、これにより、情報通信ネットワーク15を介して接続された車両内外の情報処理装置10,20が形成する第1画像解析装置11及び第2画像解析装置22、並びに管理者31による重層的な監視システム40が構築されている。
【0028】
即ち、本実施形態の監視システム40においては、カメラ8が映す車両1の車室6が、その監視空間41に設定されている。更に、第1画像解析装置11は、このカメラ8とともに車両1に設けられることにより、情報通信ネットワーク15のエッジEにおいて、その撮影画像Vdに映る車両1の車室6を監視する。そして、本実施形態の監視システム40は、情報通信ネットワーク15を介して配信される車室6の撮影画像Vdを、第2画像解析装置22、及び運行センター30のオペレータ32が、車両1の外部から監視する構成になっている。
【0029】
(第1画像解析装置)
先ず、第1画像解析装置11の構成及び機能について説明する。
図5に示すように、本実施形態の第1画像解析装置11は、カメラ8が映す車室6の撮影画像Vdを解析することにより、その監視空間41として設定された車両1の車室6に生じた状態変化を検出する状態変化検出部50を備えている。
【0030】
詳述すると、
図6~
図10に示すように、本実施形態の状態変化検出部50は、カメラ8が映す車室6の撮影画像Vdを周期的に取得する。また、この状態変化検出部50は、前回の解析周期において取得した撮影画像Vdの前回フレームFbと今回の解析周期において取得した撮影画像Vdの今回フレームFcとの画素差分値δを演算する画素差分値演算部51を備えている。更に、この状態変化検出部50は、その演算された画素差分値δの演算履歴Xを保持する履歴保持部52と、この履歴保持部52に保持された画素差分値δの演算履歴Xに基づいて、その画素差分値δの分散値Yを演算する分散値演算部53と、を備えている。そして、本実施形態の状態変化検出部50は、この画素差分値δの分散値Yに基づいて、その撮影画像Vdに映る車室6に生じた状態変化を判定する状態変化判定部54を備えている。
【0031】
即ち、状態変化検出部50が解析周期毎に取得する撮影画像VdのフレームFは、このフレームFを格子状に分割する最小単位を「画素」として、その各画素の値に表すことができる。そして、本実施形態の画素差分値演算部51は、これら各画素の値について、それぞれ、その前回の解析周期における値と今回の解析周期における値との差分を求めることにより、その前回フレームFbと今回フレームFcとの画素差分値δを演算する。
【0032】
例えば、
図7~
図10に示す例において、
図7は、今回の解析周期において状態変化検出部50が取得した撮影画像Vdの今回フレームFcであり、
図8は、前回の解析周期において状態変化検出部50が取得した撮影画像Vdの前回フレームFbである。そして、
図9は、その今回フレームFcと前回フレームFbとの画素差分値δを、これら各フレームF中の画素配置を再現するかたちで可視化したものである。
【0033】
即ち、
図7に例示する今回フレームFcと
図8に例示するの前回フレームFbとを比較した場合、その撮影画像Vdに映る乗員5の立ち位置が変化している。そして、
図9に示す画素差分値δには、このフロア領域A4を移動した乗員5の動作が現れている。
【0034】
また、本実施形態の画素差分値演算部51は、乗員5が座位姿勢で乗車する後部座席領域A1、前部座席領域A2、及び中間座席領域A3、並びに、乗員5が立位姿勢で乗車するフロア領域A4についてのみ、その画素差分値δの演算を実行する(
図3参照)。即ち、本実施形態の画素差分値演算部51は、車室6に設定された乗員5の乗車領域α0を、その予め設定された検出領域αとし、例えば、撮影画像Vdに映る車窓等については、その画素差分値δの演算を実行しない。そして、本実施形態の状態変化検出部50においては、これにより、撮影画像Vdに映る乗員5の挙動が、その車室6に生じた状態変化として、この画素差分値演算部51が演算する画素差分値δに現れやすくなっている。
【0035】
さらに詳述すると、
図10に示すように、本実施形態の画素差分値演算部51は、状態変化検出部50が撮影画像Vdを取得する各解析周期において、その画素差分値δの演算を実行する。更に、本実施形態の状態変化検出部50においては、この画素差分値演算部51により演算された画素差分値δの前回値δbが、予め定められた過去の所定周期分、画素差分値δの演算履歴Xとして、その履歴保持部52に保持されている。尚、
図10中、前回値δb1は、1回前の解析周期において演算された画素差分値δの前回値δb、前回値δb2は、2回前の解析周期において演算された画素差分値δの前回値δbであることを示している。そして、本実施形態の状態変化検出部50は、この履歴保持部52が保持する画素差分値δの演算履歴Xを読み出すことにより、その解析周期毎に、画素差分値δの分散値Yを演算する。
【0036】
即ち、撮影画像Vdに映る車室6に生じた状態変化が大きいほど、その画素差分値δの分散値Yの値が大きくなる。更に、本実施形態の状態変化検出部50において、状態変化判定部54は、この画素差分値δの分散値Yについて予め定められた所定の閾値Ythを保持する。そして、本実施形態の状態変化判定部54は、その画素差分値δの分散値Yが閾値Yth以上である場合(Y≧Yth)に、撮影画像Vdに映る車室6に状態変化が発生したと判定する構成になっている。
【0037】
また、
図5に示すように、本実施形態の第1画像解析装置11は、情報通信ネットワーク15を介した情報通信を実行する通信制御部55を備えている。更に、この通信制御部55は、上記状態変化検出部50が、撮影画像Vdに映る車室6について、その状態変化の発生を検出した場合に、カメラ8が映す車室6の撮影画像Vdを第2画像解析装置22に配信する。そして、本実施形態の監視システム40は、これにより、車両1の外部に配置された第2画像解析装置22において、その撮影画像Vdの解析による車室6の監視が行われる構成になっている。
【0038】
即ち、
図11に示すように、本実施形態の第1画像解析装置11においては、所定の解析周期毎に、その状態変化検出部50が、車室6の撮影画像Vdを取得する(ステップ101)。次に、この状態変化検出部50は、その前回の解析周期において取得した撮影画像Vdの前回フレームFbと今回の解析周期において取得した撮影画像Vdの今回フレームFcとの画素差分値δを演算する(ステップ102)。続いて、この状態変化検出部50は、過去の解析周期において演算した画素差分値δの演算履歴Xを読み出して(ステップ103)、その画素差分値δの分散値Yを演算する(ステップ104)。更に、この状態変化検出部50は、その画素差分値δの分散値Yが閾値Yth以上である場合に(Y≧Yth、ステップ105:YES)、撮影画像Vdに映る車室6に状態変化が発生したと判定する(ステップ106)。そして、本実施形態の第1画像解析装置11は、これにより、その通信制御部55が、第2画像解析装置22に対する撮影画像Vdの配信を開始する構成になっている(ステップ107)。
【0039】
尚、本実施形態の状態変化検出部50において、履歴保持部52が保持する画素差分値δの演算履歴Xは、画素差分値演算部51が演算する新たな画素差分値δを最新の前回値δbとして、順次更新される。また、状態変化判定部54は、画素差分値δの分散値Yが閾値Ythよりも小さい場合(Y<Yth、ステップ105:NO)、撮影画像Vdに映る車室6には、状態変化検出部50が検出すべき状態変化が発生していないと判定する(ステップ108)。そして、本実施形態の第1画像解析装置11においては、この場合、その通信制御部55が、第2画像解析装置22に対する撮影画像Vdの配信を実行しない構成となっている(ステップ109)。
【0040】
さらに詳述すると、
図5に示すように、本実施形態の第1画像解析装置11には、カメラ8が映す車室6の撮影画像Vdを圧縮する画像圧縮部56が設けられている。そして、本実施形態の第1画像解析装置11は、この画像圧縮部56において圧縮された撮影画像VdLを、その情報通信ネットワーク15を介して接続された第2画像解析装置22に配信する。
【0041】
具体的には、本実施形態の第1画像解析装置11において、上記画像圧縮部56は、その第2画像解析装置22に配信する車室6の撮影画像Vdを所定の圧縮率βLに圧縮する(β=βL)。そして、監視システム40は、これにより、その情報通信ネットワーク15を介した撮影画像Vdの配信による通信負荷の軽減を図る構成となっている。
【0042】
また、本実施形態の第1画像解析装置11には、この第1画像解析装置11に入力された撮影画像Vdの前処理を行なう前処理部57が設けられている。具体的には、本実施形態の第1画像解析装置11において、この前処理部57は、撮影画像Vdに含まれるノイズの除去や、その撮影画像Vdを構成する画素の輝度調整及び平滑化等を実行する。そして、本実施形態の第1画像解析装置11は、これにより、所謂映り込みや外乱光等が撮影画像Vdに及ぼす影響の低減を図る構成になっている。
【0043】
(第2画像解析装置)
次に、第2画像解析装置22の構成及び機能について説明する。
図5に示すように、本実施形態の監視システム40において、第2画像解析装置22は、上記のように、第1画像解析装置11が配信した車室6の撮影画像Vdを受信する機能を有した通信制御部60を備えている。そして、本実施形態の第2画像解析装置22は、この受信した撮影画像Vdを解析することにより、その車両1の車室6に生じた異常の検知判定を実行する機能を有している。
【0044】
詳述すると、本実施形態の第2画像解析装置22は、撮影画像Vdに映る車室6内の人H、つまりは車両1の乗員5を認識する人認識部61を備えている。本実施形態の第2画像解析装置22において、この人認識部61は、機械学習により生成された推論モデルを用いることにより、その人Hの認識処理を実行する。そして、本実施形態の第2画像解析装置22は、これにより認識した車両1の乗員5を監視することで、そのカメラ8が映す車室6内に生じた異常を検知する異常検知部62を備えている。
【0045】
具体的には、
図5及び
図12に示すように、本実施形態の第2画像解析装置22は、撮影画像Vdに含まれる人Hの骨格点SPを検出する骨格点検出部63を備えている。即ち、骨格点SPは、関節や体表面上の点等、人Hの身体を特徴付ける固有の点であり、例えば、頭部、首、肩、腋、肘、手首、手先、腰、股関節、臀部、膝、足首等が該当する。そして、本実施形態の第2画像解析装置22においては、この骨格点検出部63もまた、機械学習により生成された推論モデルを用いることにより、その骨格点SPの検出処理を実行する。
【0046】
また、
図5に示すように、本実施形態の第2画像解析装置22は、この骨格点SPの検出に基づいた特徴量Vspを演算する特徴量演算部64を備えている。具体的には、本実施形態の第2画像解析装置22において、この特徴量演算部64は、撮影画像Vdにおける骨格点SPの二次元座標上の位置に基づいて、その撮影画像Vdに映る人Hの特徴量Vspを演算する。更に、この特徴量演算部64は、例えば、乗員5の肩幅等、その複数の骨格点SPに示される身体寸法に基づいて、その撮影画像Vdに映る人Hの特徴量Vspを演算する。そして、本実施形態の第2画像解析装置22は、この一連の解析処理により得られる人Hの特徴量Vspに基づいて、そのカメラ8が映す監視空間41に認識された人Hの情報Ihを取得する人情報取得部65を備えている。
【0047】
詳述すると、
図13に示すように、本実施形態の人情報取得部65は、撮影画像Vdに映る人Hの姿勢を判定する姿勢判定部66を備えている。本実施形態の姿勢判定部66は、上記特徴量演算部64から取得した人Hの特徴量Vspを機械学習により生成された推論モデルに入力する。そして、これにより得られる姿勢判別確率値に基づいて、その車室6内の撮影画像Vdに映る人Hの姿勢を判別する。
【0048】
具体的には、本実施形態の姿勢判定部66は、姿勢判別の対象者となる乗員5の姿勢が「立位姿勢」であることの確率を演算する立位判別確率値演算部66aを備えている。また、姿勢判定部66は、対象者となる乗員5の姿勢が「座位姿勢」であることの確率を演算する座位判別確率値演算部66bを備えている。そして、本実施形態の姿勢判定部66は、対象者となる乗員5の姿勢が「転倒姿勢」であることの確率を演算する転倒判別確率値演算部66cを備えている。
【0049】
即ち、本実施形態の姿勢判定部66は、姿勢判別確率値として、立位判別確率値演算部66aが立位判別確率値ZAを演算し、座位判別確率値演算部66bが座位判別確率値ZBを演算し、転倒判別確率値演算部66cが転倒判別確率値ZCを演算する。更に、本実施形態の姿勢判定部66は、これらの立位判別確率値ZA、座位判別確率値ZB、及び転倒判別確率値ZCの合計値が「1.0」となるように、その姿勢判別確率値の演算を実行する。そして、本実施形態の姿勢判定部66は、これにより、その姿勢判別確率値に基づいて、矛盾なく、乗員5の姿勢を判定することが可能になっている。
【0050】
尚、本実施形態の立位判別確率値演算部66aが演算する立位判別確率値ZAは、更に、その「立位姿勢」にある乗員5が、「移動状態」である確率、「静止状態」である確率、及び「吊り革や手すり等を利用している状態」である確率に区分される。そして、本実施形態の姿勢判定部66は、これにより、その「立位姿勢」を細分化して判別することのできる構成となっている。
【0051】
また、本実施形態の第2画像解析装置22において、人情報取得部65には、この姿勢判定部66の他、撮影画像Vdに映る人Hの属性を判定する属性判定部67や、その体格を判定する体格判定部68等が設けられている。そして、本実施形態の第2画像解析装置22は、これにより、精度よく、その撮影画像Vdに映る人Hの状態を検知することが可能になっている。
【0052】
図5及び
図13に示すように、本実施形態の異常検知部62は、上記人情報取得部65に設けられた姿勢判定部66によって車両1の乗員5が転倒したと判定された場合に、そのカメラ8の撮影画像Vdに映る車室6内に異常が発生したものと判定する。更に、本実施形態の第2画像解析装置22は、この場合、その異常の発生を検知した旨の通知を車両1及び運行センター30に送信する。尚、本実施形態の第2画像解析装置22において、この異常の発生検知を通知する異常検知信号S1の送信は、その通信制御部60により実行される。そして、本実施形態の監視システム40は、これにより、車両1の運行センター30に待機するオペレータ32が、速やかに、その車室6に生じた異常に対応することのできる構成となっている。
【0053】
また、
図5に示すように、本実施形態の第2画像解析装置22は、その骨格点検出部63による骨格点SPの検出状態を判定する検出状態判定部69を備えている。具体的には、本実施形態の第2画像解析装置22において、この検出状態判定部69は、骨格点検出部63において、その撮影画像Vdの解析による骨格点SPの検出ができているかを判定する。また、この検出状態判定部69は、上記姿勢判定等、撮影画像Vdに映る人Hの情報Ih、つまりは乗員情報Ichに用いられる主要な骨格点SPを安定的に検出することができているかを判定する。更に、本実施形態の第2画像解析装置22においては、この検出状態判定部69が、骨格点SPの検出ができていないと判定した場合、その旨の通知が車両1及び運行センター30に送信される。そして、本実施形態の第2画像解析装置22は、その検出状態判定部69において、骨格点SPを安定的に検出することができない検出精度の低下した状態にあると判定された場合にも、その旨の通知を車両1及び運行センター30に送信する構成となっている。
【0054】
即ち、光源の影響やカメラ8との位置関係等によって、その撮影画像Vdの解析による骨格点SPの検出ができない、或いは、その検出精度が低下した状態になることがある。この点を踏まえ、本実施形態の第2画像解析装置22には、上記検出状態判定部69が設けられている。尚、本実施形態の第2画像解析装置22においては、これらの骨格点SPの検出ができない旨を通知する検出不能信号S2及び検出精度が低下している旨を通知する検出精度低下信号S3の送信もまた、その通信制御部60により実行される。そして、本実施形態の監視システム40は、これにより、その第2画像解析装置22が実行する骨格点SPの検出不能通知、及び検出精度低下通知に基づいて、運行センター30に待機するオペレータ32が、速やかに、その状況を把握することができる。つまりは、第2画像解析装置22による異常検知ができない、又はその検知判定の精度が低下していると判定される状況が発生した事実を認識することのできる構成となっている。
【0055】
また、本実施形態の監視システム40は、上記のように、第2画像解析装置22において、車室6に生じた異常が検知された場合、運行センター30に待機するオペレータ32に対して、そのカメラ8が映す車室6内の撮影画像Vdが配信される。更に、本実施形態の監視システム40においては、第2画像解析装置22による異常検知ができない、又はその検知判定の精度が低下していると判定される状況が発生した場合にも、そのオペレータ32に対する撮影画像Vdの配信が実行される。そして、本実施形態の監視システム40は、これにより、管理者31としてのオペレータ32が、その運行センター30に設けられた受像装置33を利用して、車室6内の撮影画像Vdを確認することのできる構成となっている。
【0056】
即ち、
図14に示すように、本実施形態の第2画像解析装置22は、第1画像解析装置11により配信された車室6の撮影画像Vdを受信すると(ステップ201)、この撮影画像Vdに含まれる乗員5の骨格点検出を実行する(ステップ202)。そして、第2画像解析装置22は、このステップ202における骨格点SPの検出状態判定を実行する(ステップ203)。
【0057】
次に、第2画像解析装置22は、上記ステップ203における検出状態判定の結果に基づいて、骨格点SPの検出できているか否かを判定する(ステップ204)。そして、第2画像解析装置22は、このステップ204において骨格点SPが検出できていると判定した場合(ステップ204:YES)、続いて、その骨格点SPの検出精度が低下した状態にないかを判定する(ステップ205)。
【0058】
更に、本実施形態の第2画像解析装置22は、このステップ205において、骨格点SPの検出精度が低下した状態ではないと判定した場合(ステップ205:YES)に、その骨格点SPの検出に基づいた異常検知判定を実行する(ステップ206)。そして、この異常検知判定において、その撮影画像Vdに映る車室6に生じた異常を検知した場合(ステップ207:YES)に、異常検知信号S1の送信を実行し、及び管理者31に対する撮影画像Vdの配信を決定する(ステップ208)。
【0059】
また、本実施形態の第2画像解析装置22は、上記ステップ204において骨格点SPが検出できていないと判定した場合(ステップ204:NO)、その旨を示す検出不能信号S2の送信を実行する(ステップ209)。更に、第2画像解析装置22は、上記ステップ205において骨格点SPの検出精度が低下していると判定した場合(ステップ205:NO)、その旨を示する検出精度低下信号S3の送信を実行する(ステップ210)。そして、本実施形態の第2画像解析装置22は、これらの場合にも、併せて、その管理者31としてのオペレータ32に対する撮影画像Vdの配信を決定する構成となっている(ステップ209及びステップ210)。
【0060】
(撮影画像の配信制御)
次に、本実施形態の監視システム40における撮影画像Vdの配信制御について説明する。
【0061】
図4及び
図5に示すように、本実施形態の監視システム40において、その管理者31としてのオペレータ32に対する撮影画像Vdの配信は、カメラ8とともに車両1に設けられた第1画像解析装置11により実行される。
【0062】
具体的には、
図15に示すように、本実施形態の第1画像解析装置11は、第2画像解析装置22が送信する上記異常検知信号S1を受信したか否かを判定する(ステップ301)。そして、第1画像解析装置11は、この異常検知信号S1を受信した場合(ステップ301:YES)に、その運行センター30のオペレータ32に対する撮影画像Vdの配信を開始する(ステップ302)。
【0063】
また、第1画像解析装置11は、第2画像解析装置22が送信する上記検出不能信号S2を受信したか否かを判定する(ステップ303)。そして、第1画像解析装置11は、この検出不能信号S2を受信した場合(ステップ303:YES)にも、上記ステップ302の実行により、その運行センター30のオペレータ32に対する撮影画像Vdの配信を開始する。
【0064】
更に、第1画像解析装置11は、第2画像解析装置22が送信する上記検出精度低下信号S3を受信したか否かを判定する(ステップ304)。そして、第1画像解析装置11は、この検出精度低下信号S3を受信した場合(ステップ304:YES)にも、上記ステップ302の実行により、その運行センター30のオペレータ32に対する撮影画像Vdの配信を開始する。
【0065】
また、本実施形態の第1画像解析装置11においては、このとき、上記画像圧縮部56が、そのカメラ8が映す車室6の撮影画像Vdを、上記第2画像解析装置22に配信する撮影画像VdLの圧縮率βLよりも高い圧縮率βHで圧縮する(βH>βL)。そして、本実施形態の監視システム40においては、この高い圧縮率βHを有した車室6の撮影画像VdHが、その情報通信ネットワーク15を介して、運行センター30に待機するオペレータ32に配信される構成となっている。
【0066】
即ち、解像度の低い高圧縮率の撮影画像Vdであっても、人の目、つまりは管理者31としてのオペレータ32が確認することにより、問題なく、その撮影画像Vdに映る車室6の状況を把握することができる場合が多い。この点を踏まえ、本実施形態の監視システム40においては、上記のように、その運行センター30のオペレータ32に対して、より高い圧縮率βHを有した撮影画像VdHが配信される。そして、本実施形態の監視システム40は、これにより、その情報通信ネットワーク15を介した撮影画像Vdの配信による通信負荷の軽減を図る構成となっている。
【0067】
さらに詳述すると、本実施形態の監視システム40は、運行センター30のオペレータ32が、その操作端末34を操作することで、受像装置33に映る車室6の撮影画像Vdを確認しながら、その車室6の状況に対応することのできる構成になっている。具体的には、本実施形態の監視システム40においては、操作端末34に操作することで、運行センター30のオペレータ32が、情報通信ネットワーク15を介して車室6内の乗員5と通話することが可能になっている。そして、本実施形態の監視システム40は、これにより、例えば、車室6内で転倒した乗員5に対し、オペレータ32が、声掛け等の対応を行なうことのできる構成となっている。
【0068】
具体的には、
図16に示すように、本実施形態の監視システム40において、受像装置33を構成する運行センター30の情報処理装置35は、車両1から受信した車室6の撮影画像Vdを、そのディスプレイ70に表示する(
図4参照、ステップ401)。そして、本実施形態の情報処理装置35は、このとき、併せて、その上記第2画像解析装置22から受信した異常検知信号S1、検出不能信号S2、又は検出精度低下信号S3が示す内容についての報知出力を実行する(ステップ402)。
【0069】
また、操作端末34としての情報処理装置35は、車両1との通話接続を要求する操作入力があるか否かを判定する(ステップ403)。更に、情報処理装置35は、これにより、オペレータ32による車両1との通話要求を検出した場合(ステップ403:YES)、車両1に搭載された情報処理装置10に対して通話接続を要求する通話要求信号S4を送信する(ステップ404)。そして、本実施形態の監視システム40は、これにより、その情報通信ネットワーク15を介した車両1と運行センター30との通話接続が確立される構成になっている(ステップ405)。
【0070】
また、本実施形態の監視システム40においては、運行センター30の操作端末34を操作することで、その管理者31であるオペレータ32の要求に応じて、このオペレータ32に配信される撮影画像Vdの圧縮率βを変更することが可能になっている。例えば、高い圧縮率βHを有した撮影画像VdHからでは、その車室6の状況が確認し難い場合、オペレータ32は、操作端末34を操作することで、その撮影画像VdHの圧縮率βを初期値である圧縮率βHから下げることができる。そして、本実施形態の監視システム40は、これにより、より高い解像度で、その運行センター30のオペレータ32が、車室6の撮影画像Vdを確認することのできる構成となっている。
【0071】
具体的には、
図17に示すように、操作端末34としての情報処理装置35は、撮影画像Vdの圧縮率βについて、その変更を要求する操作入力があるか否かを判定する(ステップ501)。更に、情報処理装置35は、これにより、オペレータ32による撮影画像Vdの圧縮率βを変更する旨の要求を検出した場合(ステップ501:YES)、車両1の第1画像解析装置11に対して圧縮率変更要求信号S5を送信する(ステップ502)。尚、本実施形態の監視システム40においては、運行センター30の操作端末34に対して、撮影画像Vdの圧縮率βを下げる操作、又は、その圧縮率βを上げる操作の何れかを入力することが可能になっている。そして、本実施形態の監視システム40は、この圧縮率変更要求信号S5を第1画像解析装置11が受信することで、そのオペレータ32に配信される撮影画像Vdの圧縮率βが変更される構成になっている(ステップ503)。
【0072】
また、本実施形態の監視システム40においては、撮影画像Vdに映る車両1の車室6に異常がないことを確認した場合、オペレータ32が、その操作端末34に対して正常確認操作を入力することになっている。そして、本実施形態の監視システム40は、この正常確認操作の入力に基づいて、その管理者31としてオペレータ32に対する撮影画像Vdの配信が停止される構成になっている。
【0073】
具体的には、
図18に示すように、操作端末34としての情報処理装置35は、撮影画像Vdに映る車両1の車室6に異常がないことを示す正常確認操作の入力があるか否かを判定する(ステップ601)。更に、情報処理装置35は、これにより、オペレータ32による正常確認操作の入力を検出した場合(ステップ601:YES)、車両1の第1画像解析装置11に対し、その車室6に異常がない旨を通知する正常確認信号S6を送信する(ステップ602)。そして、本実施形態の監視システム40は、この正常確認信号S6を第1画像解析装置11が受信することで、そのオペレータ32に対する撮影画像Vdの配信が停止される構成になっている(ステップ603)。
【0074】
また、本実施形態の監視システム40においては、オペレータ32に対する撮影画像Vdの配信が行われていない場合にも、このオペレータ32が操作端末34を操作することで、そのオペレータ32に対する撮影画像Vdの配信が実行されるようになっている。
【0075】
具体的には、
図19に示すように、操作端末34としての情報処理装置35は、撮影画像Vdの配信を要求する操作入力があるか否かを判定する(ステップ701)。更に、情報処理装置35は、これにより、オペレータ32による配信要求操作の入力を検出した場合(ステップ701:YES)、車両1の第1画像解析装置11に対し、この配信要求操作の入力に基づいた配信要求信号S7を送信する(ステップ702)。そして、本実施形態の監視システム40は、この配信要求信号S7を第1画像解析装置11が受信することで、そのオペレータ32に対する撮影画像Vdの配信が開始される構成になっている(ステップ703)。
【0076】
更に、本実施形態の監視システム40においては、上記第2画像解析装置22もまた、その撮影画像Vdに映る車室6に異常がないことの正常確認判定を実行する。尚、この第2画像解析装置22による正常確認判定は、例えば、その異常検知判定において、撮影画像Vdに映る車室6に生じた異常を検知しない状態が所定時間継続するか否かの判定等により行われる(
図14参照、ステップ207:NO)。そして、本実施形態の監視システム40は、この正常確認判定に基づいて、そのクラウドサーバ17を構成する車外の情報処理装置20に実装された第2画像解析装置22に対する撮影画像Vdの配信が停止される構成になっている。
【0077】
即ち、
図20に示すように、本実施形態の第2画像解析装置22は、正常確認判定を実行すると(ステップ801)、この正常確認判定において、撮影画像Vdに映る車室6に異常がないことが確認されたか否かを判定する(ステップ802)。更に、第2画像解析装置22は、その撮影画像Vdに映る車室6に異常がないことを確認した場合(ステップ802:YES)、車両1の第1画像解析装置11に対し、その車室6に異常がない旨を通知する正常確認信号S8を送信する(ステップ803)。そして、本実施形態の監視システム40は、この正常確認信号S8を第1画像解析装置11が受信することで、その第2画像解析装置22に対する撮影画像Vdの配信が停止される構成になっている(ステップ803)。
【0078】
次に、上記のように構成された本実施形態の監視システム40について、その作用を説明する。
図21は、カメラ8の撮影画像Vdに映る車室6に生じた状態変化が「異常なし」、つまりは「正常」と判定される範疇の事象であった場合の例である。
【0079】
この場合、先ず、カメラ8とともに車両1に設けられた第1画像解析装置11によって、その車室6に生じた状態変化が検出される(ステップ1101)。そして、この状態変化の検出に基づいて、第1画像解析装置11が、クラウドサーバ17を構成する車外の情報処理装置20に実装された第2画像解析装置22に対し、情報通信ネットワーク15を介して車室6の撮影画像Vdを配信する(ステップ1102)。尚、上記のように、このとき、その第2画像解析装置22に配信される撮影画像Vdは、比較的低い圧縮率βLで圧縮された撮影画像VdLである。
【0080】
次に、撮影画像Vdを受信した第2画像解析装置22が、この撮影画像Vdに映る車室6の異常検知判定を実行する(ステップ1103)。尚、上記のように、この異常検知判定は、撮影画像Vdに映る乗員5の骨格点SPを検出し、その乗員情報Ichを取得することにより行われる。更に、この例においては、この異常検知判定の実行により、第2画像解析装置22において、その撮影画像Vdに映る車室6に異常がないことが確認されることにより、この第2画像解析装置22が、正常確認信号S8を送信する(ステップ1104)。そして、この正常確認信号S8を第1画像解析装置11が受信することにより、その第2画像解析装置22に対する撮影画像Vdの配信が停止される(ステップ1105)。
【0081】
一方、
図22は、その撮影画像Vdに映る車室6に生じた状態変化が、例えば、乗員5の転倒等、実際に「異常」と判定されるべきものであった場合の例である。
この例においても、先ず、第1画像解析装置11によって、その車室6に生じた状態変化が検出される(ステップ1201)。更に、この状態変化の検出に基づいて、第1画像解析装置11が、第2画像解析装置22に対する撮影画像Vdの配信を開始する(ステップ1202)。そして、この例においては、これにより第2画像解析装置22が実行する異常検知判定によって、その撮影画像Vdに映る車室6に生じた異常が検知される(ステップ1203)。
【0082】
また、この場合、続いて、その第2画像解析装置22が異常検知信号S1を送信する(ステップ1204)。更に、この異常検知信号S1を第1画像解析装置11が受信することで、車両1の運行センター30に待機する管理者31としてのオペレータ32に対し、その情報通信ネットワーク15を介した撮影画像Vdの配信が開始される(ステップ1205)。そして、これにより、その運行センター30に設けられた受像装置33のディスプレイ70に車室6の撮影画像Vdが表示される(ステップ1206)。
【0083】
尚、上記のように、このとき、そのオペレータ32に配信される車室6の撮影画像Vdは、第2画像解析装置22に配信される撮影画像VdLの圧縮率βLよりも高い圧縮率βHで圧縮された撮影画像VdHである(βH>βL)。そして、この撮影画像Vdの表示に併せて、異常検知信号S1の内容、つまりは、その監視空間41である車両1の車室6に異常の発生を検知した旨の報知出力が実行される。
【0084】
また、この例においては、オペレータ32が、運行センター30に設けられた操作端末34に対し、車両1との通話接続を要求する操作入力を行っている(ステップ1207)。更に、この通話接続要求の入力により、運行センター30の情報処理装置35から通話要求信号S4が送信されるとともに、この通話要求信号S4を車両1が受信することで、車両1と運行センター30との通話接続が確立される(ステップ1208)。そして、この例においては、車室6の撮影画像Vdに映る乗員5に対し、オペレータ32が「声掛け」を行なうことで(ステップ1209)、この車両1の車室6に異常がないことが確認されている。
【0085】
次に、オペレータ32が操作端末34に対する正常確認操作の入力を行なうことで、運行センター30の情報処理装置35から正常確認信号S6が送信される(ステップ1210)。そして、この正常確認信号S6を車両1の第1画像解析装置11が受信することで、そのオペレータ32に対する撮影画像Vdの配信が停止される(ステップ1211)。
【0086】
次に、本実施形態の効果について説明する。
(1)監視システム40は、カメラ8とともに情報通信ネットワーク15のエッジEとなる車両1に設けられた第1画像解析装置11を備える。この第1画像解析装置11は、カメラ8が映す車室6の撮影画像Vdを解析することにより、その車室6の状態変化の検出判定を実行する。また、この第1画像解析装置11は、監視空間41としての車室6に状態変化の発生が検出された場合に、その情報通信ネットワーク15を介した撮影画像Vdの配信を実行する画像配信装置80としての機能を有する。そして、監視システム40は、この情報通信ネットワーク15を介して配信された車室6の撮影画像Vdを解析することにより、その車室6に生じた異常の検知判定を実行する第2画像解析装置22を備える。
【0087】
上記構成によれば、車両1に設けられた第1画像解析装置11によって、その撮影画像Vdに映る車室6に生じた状態変化を検出することができる。そして、この状態変化の検出により配信される車室6の撮影画像Vdを第2画像解析装置22が解析することで、情報通信ネットワーク15を介して、高精度に、その撮影画像Vdに映る車室6に生じた異常を検知することができる。
【0088】
また、撮影画像Vdの解析による状態変化の検出判定は、その撮影画像Vdの解析による異常検知判定よりも演算負荷が小さい。このため、第1画像解析装置11が実装される車載の情報処理装置10については、その要求される演算処理能力が比較的小さく抑えられるという利点がある。そして、車室6の状態変化が検出されない場合には、情報通信ネットワーク15を介した撮影画像Vdの配信を行わないことで、その通信負荷を軽減することができる。
【0089】
(2)第1画像解析装置11は、撮影画像Vdを解析周期毎に取得することにより前回の解析周期において取得した前回フレームFbと今回の解析周期において今回フレームFcとの画素差分値δを演算する画素差分値演算部51を備える。また、第1画像解析装置11は、この画素差分値δの演算履歴Xを保持する履歴保持部52と、その演算履歴Xに基づいて画素差分値δの分散値Yを演算する分散値演算部53と、を備える。そして、第1画像解析装置11は、その画素差分値δの分散値Yが所定の閾値Yth以上である場合に、撮影画像Vdに映る車室6に状態変化が発生したと判定する状態変化判定部54を備える。
【0090】
上記構成によれば、比較的軽量な演算負荷で、精度よく、その撮影画像Vdの解析に基づいた状態変化の検出判定を行なうことができる。そして、これにより、優れた車載性能を確保しつつ、情報通信ネットワーク15を介した高精度の異常検知を行なうことができる。
【0091】
加えて、解析周期毎に取得する撮影画像Vdの前回フレームFbと今回フレームFcとの画素差分値δを用いることで、例えば、光量変化等、その車室6の外部環境が及ぼす影響を小さく抑えることができる。
【0092】
(3)画素差分値演算部51は、車室6における乗員5の乗車領域α0を予め車室6に設定された検出領域αとして、その乗車領域α0についてのみ画素差分値δを演算する。
上記構成によれば、その検出領域αに設定された乗車領域α0に生じた状態変化、つまりは、車両1に乗車した車室6内の乗員5を対象として、その車室6に生じた状態変化を精度よく検出することができる。そして、これにより、誤判定の発生を抑えて、より高精度に、その情報通信ネットワーク15を介した異常検知を行なうことができる。
【0093】
(4)画像配信装置80としての第1画像解析装置11は、車両1の運行センター30に位置する管理者31としてのオペレータ32に対し、情報通信ネットワーク15を介して撮影画像Vdを配信する機能を有する。そして、第1画像解析装置11は、第2画像解析装置22に対して配信される撮影画像VdLよりも高い圧縮率βで、そのオペレータ32に対する撮影画像VdHの配信を実行する。
【0094】
即ち、解像度の低い高圧縮率の撮影画像Vdであっても、人の目、つまりは管理者31としてのオペレータ32が確認することにより、問題なく、その撮影画像Vdに映る車室6の状況を把握することができる場合が多い。従って、上記構成によれば、通信負荷の増大を抑えつつ、管理者31による監視を加えた重層的なシステムを構築することができる。そして、これにより、より高精度に、その情報通信ネットワーク15を介した異常検知を行なうことができる。
【0095】
(5)画像配信装置80としての第1画像解析装置11は、第2画像解析装置22において、その撮影画像Vdに映る車室6に生じた異常が検知された場合に、オペレータ32に対する撮影画像Vdの配信を実行する。
【0096】
上記構成によれば、車室6に生じた異常を、その管理者31としてのオペレータ32が速やかに確認することができる。これにより、その車室6に生じた異常に対する迅速な対応を担保することができる。そして、オペレータ32に撮影画像Vdを配信する状況を限定することで、通信負荷の増大を抑えることができる。
【0097】
(6)画像配信装置80としての第1画像解析装置11は、第2画像解析装置22において、その車室6に生じた異常の検知判定ができない、又は検知判定の精度が低下していると判定される場合に、オペレータ32に対する撮影画像Vdの配信を実行する。
【0098】
上記構成によれば、管理者31としてのオペレータ32が車室6の撮影画像Vdを確認することで、その情報通信ネットワーク15を介した高精度の異常検知を担保することができる。そして、オペレータ32に撮影画像Vdを配信する状況を限定することで、通信負荷の増大を抑えることができる。
【0099】
(7)第2画像解析装置22は、撮影画像Vdに含まれる乗員5の骨格点SPを検出する骨格点検出部63を備える。また、第2画像解析装置22は、この骨格点SPの検出により取得される乗員情報Ichに基づいて車室6内に生じた異常を検知する異常検知部62を備える。更に、第2画像解析装置22は、その骨格点SPの検出状態を判定する検出状態判定部69を備える。そして、監視システム40においては、この骨格点SPの検出状態に基づいて、そのオペレータ32に対する撮影画像Vdの配信を実行するか否かが判定される。
【0100】
上記構成によれば、第2画像解析装置22が、その撮影画像Vdの異常検知判定を行なうことができない、又は、その検知判定の精度が低下している状態を、精度よく特定することができる。そして、これにより、そのオペレータ32に対する撮影画像Vdの配信を実行するか否かの判定を適切に行うことができる。その結果、オペレータ32に対して頻繁に車室6の撮影画像Vdが配信される状況を回避して、通信負荷の増大を抑えることができる。
【0101】
また、骨格点SPの検出により、精度よく、乗員5の姿勢や体格等、身体的な乗員情報Ichを取得することができる。そして、これにより、取得した乗員情報Ichに基づいて、乗員5が乗車する車室6について、高精度の異常検知判定を行うことができる。
【0102】
(8)監視システム40は、オペレータ32の要求に基づいて、このオペレータ32に配信される撮影画像Vdの圧縮率βを変更可能に構成される。
上記構成によれば、通信負荷の増大を抑えつつ、適切な解像度で、その車室6の撮影画像Vdをオペレータ32が確認することができる。そして、これにより、より高精度に、その情報通信ネットワーク15を介した異常検知を行なうことができる。
【0103】
なお、上記実施形態は、以下のように変更して実施することができる。上記実施形態及び以下の変更例は、技術的に矛盾しない範囲で互いに組み合わせて実施することができる。
【0104】
・上記実施形態では、カメラ8には、赤外線カメラが用いられることとしたが、その型式は任意に変更してもよい。例えば、可視光カメラ等を用いる構成であってもよい。そして、複数のカメラ8を用いて、その監視空間41を撮影する構成であってもよい。
【0105】
・上記実施形態では、車室6における乗員5の乗車領域α0を予め車室6に設定された検出領域αとして、その乗車領域α0についてのみ画素差分値δを演算することとした。しかし、これに限らず、画素差分値δを演算する検出領域αの設定については、任意に変更してもよい。
【0106】
・第2画像解析装置22に配信する撮影画像VdLの圧縮率βL、及び管理者31としてのオペレータ32に配信する撮影画像VdHの圧縮率βHについては、任意に設定してもよい。通信負荷の増大を抑える観点では、第2画像解析装置22に配信する撮影画像VdLの圧縮率βよりもオペレータ32に配信する撮影画像VdHの圧縮率βHの方が高いことが好ましい(βH>βL)。また、第2画像解析装置22に配信する撮影画像VdLについては、精度よく、その骨格点SPの検出が行える程度の高解像度を確保することが望まれる。そして、オペレータ32に配信する撮影画像VdHについては、通信負荷の増大を抑えることのできる小さな通信量であることが望まれる。
【0107】
・また、第2画像解析装置22に配信する撮影画像Vdと等しい圧縮率βで、そのオペレータ32に対する撮影画像Vdの配信を実行する構成としてもよい。そして、オペレータ32に配信される撮影画像Vdの方が、第2画像解析装置22に配信される撮影画像Vdよりも低い圧縮率βを有していてもよい。
【0108】
・上記実施形態では、骨格点SPの検出状態に基づいて、そのオペレータ32に対する撮影画像Vdの配信を実行するか否かが判定されることとした。しかし、これに限らず、撮影画像Vdの配信可否要因、つまりは第2画像解析装置22において、車室6に生じた異常の検知判定ができない、又は検知判定の精度が低下していることの判定は、必ずしも骨格点SPの検出状態によるものでなくともよい。
【0109】
・上記実施形態では、骨格点SPの検出に基づいて乗員5の姿勢判定を実行する。そして、転倒姿勢の検出により、その撮影画像Vdに映る車室6の異常を検知することとした。しかし、これに限らず、例えば、車両1の走行中に車室6内を移動する乗員5を検出した場合等に、その車室6に異常が発生したと判定してもよい。そして、撮影画像Vdの画像解析により取得した他の乗員情報Ichを利用して、その異常検知判定を実行する構成であってもよい。
【0110】
・更に、第2画像解析装置22による車室6に生じた異常の検知判定は、必ずしも、骨格点SPの検出に基づくものでなくともよい。カメラ8が映す撮影画像Vdの解析によるものであれば、深層学習や機械学習等、所謂AI技術を利用した、その他の方法で、異常の検知判定を行ってもよい。そして、人H以外を対象として、車室6に生じた異常を検知する構成に適用してもよい。
【0111】
・また、第1画像解析装置11による車室6に生じた状態変化の検出判定は、必ずしも、解析周期毎に取得する撮影画像Vdの前回フレームFbと今回フレームFcとの画素差分値δの分散値Yに基づくものでなくともよい。カメラ8が映す撮影画像Vdの解析によるものであればよい。但し、演算能力の最適配分を考慮した場合、第2画像解析装置22による異常検知の判定よりも、第1画像解析装置11による状態変化の検出判定の方が、演算負荷が小さいことが好ましい。
【0112】
・上記実施形態では、車両1の運行センター30に待機するオペレータ32を管理者31として、その管理者31に高い圧縮率βHで撮影画像VdHの配信を行なうこととした。しかし、これに限らず、管理者31の設定は、任意に変更してもよい。例えば、必ずしも、一箇所に待機していなくともよい。更に、撮影画像Vdの受像装置33についてもまた任意に変更してもよく、例えば、携帯端末のようなものであってもよい。そして、管理者31が、その要求を入力する方法についてもまた、例えば、音声入力等、任意に設定してもよい。
【0113】
・上記実施形態では、第1画像解析装置11を画像配信装置80として、その管理者31に対する撮影画像Vdの配信を実行することとした。しかし、これに限らず、第2画像解析装置22が、その受信した撮影画像VdLを圧縮することにより、高い圧縮率βHの撮影画像VdHを生成して、運行センター30の情報処理装置35に転送する構成であってもよい。そして、その画像配信装置80が、これらの第1画像解析装置11や第2画像解析装置22と別構成であってもよい。
【0114】
・また、上記実施形態では、第2画像解析装置22が異常を検知した場合、第2画像解析装置22による異常検知ができない場合、又はその検知判定の精度が低下している場合に、オペレータ32に対する撮影画像Vdの配信が実行されることとした。しかし、これに限らず、オペレータ32に対する撮影画像Vdの配信を実行する状況については、任意に変更してよい。更に、例えば、管理者31に対し、常時、その第2画像解析装置22に配信する撮影画像VdLの圧縮率βよりも高い圧縮率βHの撮影画像VdHを配信する構成であってもよい。そして、このような管理者31に対する撮影画像Vdの配信を行わない構成であってもよい。
【0115】
・上記実施形態では、カメラ8が映す車両1の車室6を監視空間41とした監視システム40に具体化した。しかし、これに限らず、建物の室内を監視空間41とする構成であってもよい。そして、例えば、屋外に監視空間41を設定する構成であってもよい。
【0116】
次に、上記実施形態及び変更例から把握できる技術的思想について記載する。
(イ)前記検出領域は、乗員の乗車領域であること、を特徴とする。これにより、車両に乗車した車室内の乗員を対象として、その車室に生じた状態変化を精度よく検出することができる。
【符号の説明】
【0117】
1…車両
6…車室
8…カメラ
11…第1画像解析装置
15…情報通信ネットワーク
22…第2画像解析装置
40…監視システム
41…監視空間
80…画像配信装置
E…エッジ
Vd…撮影画像