IP Force 特許公報掲載プロジェクト 2022.1.31 β版

知財求人 - 知財ポータルサイト「IP Force」

▶ 矢崎総業株式会社の特許一覧

<>
  • 特許-転倒防止システム 図1
  • 特許-転倒防止システム 図2
  • 特許-転倒防止システム 図3
  • 特許-転倒防止システム 図4
  • 特許-転倒防止システム 図5
< >
(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】
(24)【登録日】2022-06-17
(45)【発行日】2022-06-27
(54)【発明の名称】転倒防止システム
(51)【国際特許分類】
   G06T 7/20 20170101AFI20220620BHJP
   G08B 21/02 20060101ALI20220620BHJP
   G08B 25/04 20060101ALI20220620BHJP
   G08B 25/00 20060101ALI20220620BHJP
   H04N 7/18 20060101ALI20220620BHJP
   G06T 7/00 20170101ALI20220620BHJP
【FI】
G06T7/20 300A
G08B21/02
G08B25/04 K
G08B25/00 510M
H04N7/18 D
G06T7/00 350B
G06T7/00 660B
【請求項の数】 6
(21)【出願番号】P 2020052176
(22)【出願日】2020-03-24
(65)【公開番号】P2021152688
(43)【公開日】2021-09-30
【審査請求日】2021-06-17
【新規性喪失の例外の表示】特許法第30条第2項適用 令和1年10月23日第46回東京モーターショー2019で発表
(73)【特許権者】
【識別番号】000006895
【氏名又は名称】矢崎総業株式会社
(74)【代理人】
【識別番号】110001771
【氏名又は名称】特許業務法人虎ノ門知的財産事務所
(72)【発明者】
【氏名】三宅 英斗
(72)【発明者】
【氏名】石井 宏二
(72)【発明者】
【氏名】齊藤 大輝
【審査官】佐藤 実
(56)【参考文献】
【文献】特開2020-3936(JP,A)
【文献】特開2020-34960(JP,A)
(58)【調査した分野】(Int.Cl.,DB名)
G06T 7/20
G08B 21/02
G08B 25/04
G08B 25/00
H04N 7/18
G06T 7/00
(57)【特許請求の範囲】
【請求項1】
監視対象空間の画像を撮像する撮像部と、
前記撮像部によって撮像された前記画像に含まれる人物を表す骨格モデルを生成する骨格モデル生成部と、
前記骨格モデル生成部によって生成された前記骨格モデルに基づいて、前記骨格モデルに対応する前記人物の状態として、当該人物が立っている状態と、当該人物が座っている状態とを区別して判定する判定部と、
前記判定部による判定結果に基づいて、当該判定結果に応じた処理であって前記人物の転倒を防止する転倒防止処理を実行可能である動作処理部と備え
前記骨格モデル生成部は、前記画像内において認識した前記人物が存在する領域の外側をバウンディングボックスで囲い、当該バウンディングボックス内の前記人物の人体の各骨格部位を組み合わせて当該人物の前記骨格モデルを生成し、
前記判定部は、前記骨格モデル生成部によって生成された前記骨格モデルにおける前記各骨格部位の相対的な位置関係、相対距離、前記バウンディングボックスの大きさに基づいて、前記骨格モデルに対応する前記人物の状態として、当該人物が立っている状態と、当該人物が座っている状態とを区別して判定することを特徴とする、
転倒防止システム。
【請求項2】
案内を行う案内部を備え、
前記動作処理部は、前記判定部によって前記骨格モデルに対応する前記人物が立っている状態であるものと判定された場合、前記転倒防止処理として、前記案内部を制御し当該人物に対して着座を案内する案内処理を実行する、
請求項1に記載の転倒防止システム。
【請求項3】
報知を行う報知部を備え、
前記動作処理部は、前記判定部によって前記骨格モデルに対応する前記人物が立っている状態であるものと判定された場合、前記転倒防止処理として、前記報知部を制御し当該人物とは異なる他の人物に対して当該人物が立っている状態である旨を報知する第1報知処理を実行する、
請求項1又は請求項2に記載の転倒防止システム。
【請求項4】
前記監視対象空間の外部の外部機器と通信可能である外部通信部を備え、
前記動作処理部は、前記案内処理を実行した後、予め定められた期間継続して、前記判定部によって前記骨格モデルに対応する前記人物が立っている状態であるものと判定された場合、前記転倒防止処理として、前記外部通信部を制御し前記外部機器に対して当該人物が立っている状態である旨を通知する第1通知処理を実行する、
請求項2に記載の転倒防止システム。
【請求項5】
車両室内空間が前記監視対象空間とされた車両に搭載された車載機器と通信可能である内部通信部を備え、
前記動作処理部は、前記判定部によって前記骨格モデルに対応する前記人物が立っている状態であるものと判定された場合、前記転倒防止処理として、前記内部通信部を介して前記車載機器を制御し、前記車両の発進を禁止する発進禁止処理を実行する、
請求項1乃至請求項4のいずれか1項に記載の転倒防止システム。
【請求項6】
報知動作を行う報知部と、
前記監視対象空間の外部の外部機器と通信可能である外部通信部とを備え、
前記判定部は、前記骨格モデル生成部によって生成された前記骨格モデルに基づいて、前記骨格モデルに対応する前記人物の状態として、当該人物が立っている状態と、当該人物が座っている状態とに加えて、当該人物が転倒している状態も区別して判定し、
前記動作処理部は、前記判定部によって前記骨格モデルに対応する前記人物が転倒している状態であるものと判定された場合、前記報知部を制御し当該人物とは異なる他の人物に対して当該人物が転倒している状態である旨を報知する第2報知処理、又は、前記外部通信部を制御し前記外部機器に対して当該人物が転倒している状態である旨を通知する第2通知処理を実行する、
請求項1乃至請求項5のいずれか1項に記載の転倒防止システム。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、転倒防止システムに関する。
【背景技術】
【0002】
従来の転倒防止システムに関する技術として、例えば、特許文献1には、検知対象である人体を表す人体画像に基づいてアピアランス特徴量を抽出し、当該アピアランス特徴量を基に人体が転倒したことを検知する転倒検知装置が開示されている。
【先行技術文献】
【特許文献】
【0003】
【文献】特許第6217635号公報
【発明の概要】
【発明が解決しようとする課題】
【0004】
ところで、上述の特許文献1に記載の転倒検知装置は、例えば、より適正な転倒防止の点で更なる改善の余地がある。
【0005】
本発明は、上記の事情に鑑みてなされたものであって、適正に転倒防止を行うことができる転倒防止システムを提供することを目的とする。
【課題を解決するための手段】
【0006】
上記目的を達成するために、本発明に係る転倒防止システムは、監視対象空間の画像を撮像する撮像部と、前記撮像部によって撮像された前記画像に含まれる人物を表す骨格モデルを生成する骨格モデル生成部と、前記骨格モデル生成部によって生成された前記骨格モデルに基づいて、前記骨格モデルに対応する前記人物の状態として、当該人物が立っている状態と、当該人物が座っている状態とを区別して判定する判定部と、前記判定部による判定結果に基づいて、当該判定結果に応じた処理であって前記人物の転倒を防止する転倒防止処理を実行可能である動作処理部と備え、前記骨格モデル生成部は、前記画像内において認識した前記人物が存在する領域の外側をバウンディングボックスで囲い、当該バウンディングボックス内の前記人物の人体の各骨格部位を組み合わせて当該人物の前記骨格モデルを生成し、前記判定部は、前記骨格モデル生成部によって生成された前記骨格モデルにおける前記各骨格部位の相対的な位置関係、相対距離、前記バウンディングボックスの大きさに基づいて、前記骨格モデルに対応する前記人物の状態として、当該人物が立っている状態と、当該人物が座っている状態とを区別して判定することを特徴とする。
【0007】
また、上記転倒防止システムでは、案内を行う案内部を備え、前記動作処理部は、前記判定部によって前記骨格モデルに対応する前記人物が立っている状態であるものと判定された場合、前記転倒防止処理として、前記案内部を制御し当該人物に対して着座を案内する案内処理を実行するものとすることができる。
【0008】
また、上記転倒防止システムでは、報知を行う報知部を備え、前記動作処理部は、前記判定部によって前記骨格モデルに対応する前記人物が立っている状態であるものと判定された場合、前記転倒防止処理として、前記報知部を制御し当該人物とは異なる他の人物に対して当該人物が立っている状態である旨を報知する第1報知処理を実行するものとすることができる。
【0009】
また、上記転倒防止システムでは、前記監視対象空間の外部の外部機器と通信可能である外部通信部を備え、前記動作処理部は、前記案内処理を実行した後、予め定められた期間継続して、前記判定部によって前記骨格モデルに対応する前記人物が立っている状態であるものと判定された場合、前記転倒防止処理として、前記外部通信部を制御し前記外部機器に対して当該人物が立っている状態である旨を通知する第1通知処理を実行するものとすることができる。
【0010】
また、上記転倒防止システムでは、車両室内空間が前記監視対象空間とされた車両に搭載された車載機器と通信可能である内部通信部を備え、前記動作処理部は、前記判定部によって前記骨格モデルに対応する前記人物が立っている状態であるものと判定された場合、前記転倒防止処理として、前記内部通信部を介して前記車載機器を制御し、前記車両の発進を禁止する発進禁止処理を実行するものとすることができる。
【0011】
また、上記転倒防止システムでは、報知動作を行う報知部と、前記監視対象空間の外部の外部機器と通信可能である外部通信部とを備え、前記判定部は、前記骨格モデル生成部によって生成された前記骨格モデルに基づいて、前記骨格モデルに対応する前記人物の状態として、当該人物が立っている状態と、当該人物が座っている状態とに加えて、当該人物が転倒している状態も区別して判定し、前記動作処理部は、前記判定部によって前記骨格モデルに対応する前記人物が転倒している状態であるものと判定された場合、前記報知部を制御し当該人物とは異なる他の人物に対して当該人物が転倒している状態である旨を報知する第2報知処理、又は、前記外部通信部を制御し前記外部機器に対して当該人物が転倒している状態である旨を通知する第2通知処理を実行するものとすることができる。
【発明の効果】
【0012】
本発明に係る転倒防止システムは、撮像部によって監視対象空間の画像を撮像し、骨格モデル生成部によって当該画像に含まれる人物を表す骨格モデルを生成する。そして、判定部は、骨格モデル生成部によって生成された骨格モデルに基づいて、骨格モデルに対応する人物の状態として、当該人物が立っている状態と、当該人物が座っている状態とを区別して判定する。そして、動作処理部は、判定部による判定結果に基づいて、当該判定結果に応じた転倒防止処理を実行可能である。この場合に、転倒防止システムは、上記のように、骨格モデルに基づいて、人物が立っている状態と、人物が座っている状態とを区別して判定することで、人物の状態をより詳細、かつ、正確に判定することができる。この結果、転倒防止システムは、より正確な状態判定に基づいて適正に転倒防止を行うことができる、という効果を奏する。
【図面の簡単な説明】
【0013】
図1図1は、実施形態に係る転倒防止システムの概略構成を表すブロック図である。
図2図2は、実施形態に係る転倒防止システムの搭載例を表す模式的な断面図である。
図3図3は、実施形態に係る転倒防止システムにおける骨格モデルに基づく状態判定の一例を説明する模式図である。
図4図4は、実施形態に係る転倒防止システムにおける制御の一例を表すフローチャート図である。
図5図5は、実施形態に係る転倒防止システムにおける制御の一例を表すフローチャート図である。
【発明を実施するための形態】
【0014】
以下に、本発明に係る実施形態を図面に基づいて詳細に説明する。なお、この実施形態によりこの発明が限定されるものではない。また、下記実施形態における構成要素には、当業者が置換可能かつ容易なもの、あるいは実質的に同一のものが含まれる。
【0015】
[実施形態]
図1図2に示す本実施形態の転倒防止システム1は、監視対象空間SPに存在する人物Pの状態を監視し当該人物Pの転倒を防止するシステムである。本実施形態の転倒防止システム1は、人物Pを乗車させ輸送することが可能な車両Vに搭載される車載システムを構成する。車両Vは、車両室内空間INが転倒防止システム1による監視対象空間SPとされる。言い換えれば、本実施形態の監視対象空間SPは、人物Pを輸送することが可能な車両Vの車両室内空間INである。
【0016】
本実施形態の転倒防止システム1は、上記監視対象空間SPを監視し、人物Pの状態に応じた転倒防止処理を行う構造的なモジュールである。ここでは、転倒防止システム1は、車両Vの外部に設けられる外部機器201と共に連携システムsysを構成する。連携システムsysは、車両Vに搭載される転倒防止システム1と、車両Vの外部に設けられ転倒防止システム1と相互に情報を送受信可能である外部機器201とを備える。
【0017】
そして、本実施形態の転倒防止システム1は、監視対象空間SPに存在する人物Pの状態を、当該人物Pを表す骨格モデルMDL(図3参照)に基づいて判定することで、状態判定の精度を向上し、これに基づいたより適正な転倒防止を図ったものである。転倒防止システム1は、図1に示す構成要素を車両Vに搭載することで実現される。以下、各図を参照して転倒防止システム1の各構成について詳細に説明する。
【0018】
なお、図1に図示する転倒防止システム1において、電力供給、制御信号、各種情報等の授受のための各構成要素間の接続方式は、特に断りのない限り、有線による接続、無線による接続のいずれであってもよい。有線による接続とは、例えば、電線や光ファイバ等の配索材を介した接続である。無線による接続とは、例えば、無線通信、非接触給電等による接続である。
【0019】
また、転倒防止システム1が適用される車両Vは、電気車両(EV(Electric Vehicle))、ハイブリッド車両(HEV(Hybrid Electric Vehicle))、プラグインハイブリッド車両(PHEV(Plug-in Hybrid Electric Vehicle))、ガソリン車両、ディーゼル車両など、駆動源としてモータ又はエンジンを用いるいずれの車両であってもよい。また、当該車両Vの運転は、運転者による手動運転、半自動運転、完全自動運転等、いずれであってもよい。また、当該車両Vは、いわゆる個人が所有する自家用車、レンタカー、シェアリングカー、バス、タクシー、ライドシェアカーのいずれであってもよい。以下の説明では、一例として、車両Vは、バス、タクシー、ライドシェリングカー等、特定の事業者等によって管理され不特定多数の利用者によって利用され、利用者によって予約された乗降位置に自動で移動する完全自動運転可能な車両であるものとして説明する。完全自動運転の場合、車両Vに運転者自体が不在となる場合もありうる。また、外部機器201は、例えば、車両Vを運用する事業者等の施設に設けられる。
【0020】
具体的には、転倒防止システム1は、図1図2に示すように、撮像部2と、情報出力部3と、マイク4と、報知部5と、外部通信部6と、内部通信部7と、制御装置8とを備える。情報出力部3、報知部5、外部通信部6、内部通信部7等は、転倒防止システム1において、人物Pの転倒を防止する種々の転倒防止動作を行う動作部を構成するものである。転倒防止システム1は、例えば、これらの構成要素が筐体等に組み付けられユニット化された上で車両Vの屋根部材(ルーフ)RFに設けられることで、種々の機能を統合したオーバーヘッドモジュール(OHM:Over-Head Module)やルーフモジュール(RM:Roof Module)等を構成してもよい。また、転倒防止システム1は、例えば、各部が車両Vに個別に設けられてもよい。
【0021】
撮像部2は、監視対象空間SPの画像を撮像するものである。撮像部2は、例えば、2次元画像を撮像可能な単眼カメラであってもよいし、3次元画像を撮像可能なステレオカメラであってもよい。また、撮像部2は、いわゆるTOF(Time of Flight)カメラ等であってもよい。撮像部2は、監視対象空間SPを構成する車両室内空間INの全乗員を撮像可能な位置に設けられる。撮像部2は、例えば、車両Vの車両室内空間INの上方、ここでは、屋根部材RFに配置され、撮像範囲に車両室内空間INの全領域が含まれるように画角が設定されている。撮像部2は、1つで車両室内空間INの全域をカバーできない場合には複数が設けられ当該複数によって車両室内空間INの全域をカバーするように構成されてもよい。撮像部2によって撮像された画像は、典型的には、制御装置8によって人物Pの状態判定に用いられる。
【0022】
情報出力部3は、車両室内空間IN(監視対象空間SP)に向けて種々の情報を出力可能なものである。本実施形態の情報出力部3は、後述する案内動作を行う案内部を構成するものであり、各種情報を出力することで種々の案内(アナウンス)を行う。情報出力部3は、一例として、ディスプレイ3a、スピーカ3bを含んで構成される。
【0023】
ディスプレイ3aは、車両室内空間INに向けて画像情報(視覚情報)を表示(出力)するものである。ディスプレイ3aは、例えば、薄型の液晶ディスプレイ、プラズマディスプレイ、有機ELディスプレイ等によって構成される。ディスプレイ3aは、車両室内空間IN内の人物Pから目視可能な位置に画像情報を表示する。
【0024】
スピーカ3bは、車両室内空間INに向けて音情報(聴覚情報)を出力するものである。スピーカ3bは、例えば、車両室内空間INにおいて、情報を提示したい特定の人物Pにのみ音情報を聴き取り可能とする指向性の高いものを用いてもよい。
【0025】
なお、情報出力部3は、ディスプレイ3a、スピーカ3bの他、表示灯、インジケータ等を含んで構成されてもよい。
【0026】
マイク4は、車両室内空間INで発生した音を電気信号に変換する集音装置である。マイク4は、例えば、車両室内空間INの外部の人物(例えば、後述するオペレータ等)との音声のやり取りに使用することができる。
【0027】
報知部5は、後述する報知動作を行うものであり、車両室内空間IN(監視対象空間SP)の内外の人物Pに対して種々の情報を報知可能なものである。報知部5は、典型的には、転倒防止システム1による監視の対象となる人物Pとは異なる人物、例えば、車両Vにおけるサービスをサポートする人物や車両Vが手動運転車の場合には運転者等に対して各種情報を出力することで種々の報知を行う。報知部5は、上述の情報出力部3と同様に、例えば、スピーカ、ディスプレイ、表示灯、インジケータ等を含んで構成される。また、報知部5は、上述の情報出力部3が兼用されてもよい。
【0028】
外部通信部6は、車両Vに搭載される無線通信機能部品であり、車両室内空間IN(監視対象空間SP)の外部の外部機器201と通信可能なものである。外部通信部6は、車両Vと当該車両Vの外部のネットワークNとを無線により接続する通信モジュール(Data Communication Module)である。
【0029】
ここで、ネットワークNは、転倒防止システム1と車両Vの外部機器201とを通信可能に接続するものである。ネットワークNは、有線または無線を問わず、任意の通信網を用いることができる。外部通信部6は、ネットワークNに接続された機器と転倒防止システム1との間で情報の送受信を行う。
【0030】
外部通信部6は、例えば、広域無線、狭域無線等、種々の方式の無線通信によりネットワークNを介して車両Vの外部の機器と通信可能である。ここで、広域無線の方式は、例えば、ラジオ(AM、FM)、TV(UHF、4K、8K)、TEL、GPS、WiMAX(登録商標)等である。また、狭域無線の方式は、例えば、ETC/DSRC、VICS(登録商標)、無線LAN、ミリ波通信等である。本実施形態の外部通信部6は、少なくともネットワークNを介して、当該ネットワークNに接続された外部機器201との間で情報の送受信を行う。つまり、本実施形態の外部通信部6は、車両Vの外部の機器として、少なくとも外部機器201と通信可能に構成される。
【0031】
内部通信部7は、車両Vに搭載される通信中継機能部品であり、車両Vに搭載された車載機器101と通信可能なものである。内部通信部7は、車載ネットワーク等を介して車両Vに搭載されたECU(Electronic Control Unit)100や車載機器101と通信可能に構成される。つまり、内部通信部7は、車両Vに搭載されるECU100や車載機器101と種々の情報を送受信可能に構成される。
【0032】
ここで、ECU100は、車載機器101等を含む車両Vの全体を統括的に制御する電子制御ユニットである。このECU100は、転倒防止システム1の一部として構成されていてもよい。言い換えれば、転倒防止システム1は、ECU100を備える構成であってもよい。車載機器101は、車両Vに搭載され、種々の機能を実現させる機器である。内部通信部7は、ECU100を介して、当該ECU100に接続された複数の車載機器101との間で情報の送受信を行う。本実施形態の複数の車載機器101は、例えば、車両Vを走行させるための種々の機器として走行系アクチュエータを含んで構成される。走行系アクチュエータは、典型的には、走行用パワートレーン、操舵装置、制動装置等を含んで構成される。走行用パワートレーンは、車両Vを走行させる駆動装置である。操舵装置は、車両Vの操舵を行う装置である。制動装置は、車両Vの制動を行う装置である。また、車載機器101は、車両Vの照明機器、空調機器、表示機器、音響機器等を含んで構成されてもよい。
【0033】
制御装置8は、転倒防止システム1の各部を統括的に制御するものである。制御装置8は、車両室内空間INの状況を監視し、状況に応じて様々な対応処理を行うための種々の演算処理を実行する。制御装置8は、CPU(Central Processing Unit)、MPU(Micro Processing Unit)、ASIC(Application Specific Integrated Circuit)、FPGA(Field Programmable Gate Array)等の中央演算処理装置、ROM(Read Only Memory)、RAM(Random Access Memory)及びインターフェースを含む周知のマイクロコンピュータを主体とする電子回路を含んで構成される。制御装置8は、撮像部2、情報出力部3、マイク4、報知部5、外部通信部6、内部通信部7等が電気的に接続される。制御装置8は、各種の検出信号や各部を駆動させるための駆動信号等の各種の電気信号を各部との間で相互に授受することができる。
【0034】
具体的には、制御装置8は、機能概念的に、インターフェース部8A、記憶部8B、及び、処理部8Cを含んで構成される。インターフェース部8A、記憶部8B、及び、処理部8Cは、電気的に接続されている各種機器との間で種々の情報を相互に授受することができる。
【0035】
インターフェース部8Aは、撮像部2、情報出力部3、マイク4、報知部5、外部通信部6、内部通信部7等の転倒防止システム1の各部と種々の情報を送受信するためのインターフェースである。インターフェース部8Aは、各部との間で電線等を介して情報を有線通信する機能、各部との間で無線通信ユニット等を介して情報を無線通信する機能等を有している。
【0036】
記憶部8Bは、種々の情報を記憶する記憶装置である。記憶部8Bは、例えば、ハードディスク、SSD(Solid State Drive)、光ディスクなどの比較的に大容量の記憶装置、あるいは、RAM、フラッシュメモリ、NVSRAM(Non Volatile Static Random Access Memory)などのデータを書き換え可能な半導体メモリであってもよい。記憶部8Bは、制御装置8での各種処理に必要な条件や情報、制御装置8で実行する各種プログラムやアプリケーション、制御データ等が格納されている。記憶部8Bは、例えば、車両室内空間IN(監視対象空間SP)の人物Pの状態判定に用いられる学習済みの数理モデル等を記憶する。また、記憶部8Bは、例えば、撮像部2によって撮像された画像の画像情報、情報出力部3、報知部5から出力される出力情報、外部通信部6、内部通信部7によって受信された各種情報等を一時的に記憶することもできる。記憶部8Bは、処理部8C等によってこれらの情報が必要に応じて読み出される。
【0037】
処理部8Cは、各種入力信号等に基づいて、記憶部8Bに記憶されている各種プログラムを実行し、当該プログラムが動作することにより各部に出力信号を出力し各種機能を実現するための種々の処理を実行する部分である。
【0038】
本実施形態の処理部8Cは、車両室内空間IN(監視対象空間SP)に存在する人物Pの状態を、当該人物Pを表す骨格モデルMDL(図3参照)に基づいて判定し、当該判定結果に応じた転倒防止処理を実行可能である。
【0039】
本実施形態の処理部8Cは、上記各種処理を実行するために、機能概念的に、情報処理部8a、骨格モデル生成部8b、判定部8c、及び、動作処理部8dを含んで構成される。
【0040】
情報処理部8aは、転倒防止システム1で用いる種々の情報に関する処理を実行可能な機能を有する部分である。情報処理部8aは、例えば、撮像部2を制御し、車両Vの車両室内空間IN(監視対象空間SP)の画像を撮像させる処理を実行する。そして、情報処理部8aは、撮像部2によって撮像された車両室内空間INの画像情報を記憶部8Bに記憶させる処理を実行する。
【0041】
また、情報処理部8aは、外部通信部6を制御し、外部機器201との間で種々の情報を送受信させる処理を実行可能である。情報処理部8aは、外部通信部6によって送信される情報を記憶部8Bから読み出す処理や外部通信部6によって受信された情報を記憶部8Bに記憶させる処理を実行可能である。例えば、情報処理部8aは、撮像部2によって撮像された画像情報やマイク4によって集音された音情報を、外部通信部6を介して外部機器201に送信させる処理を実行可能である。さらには、情報処理部8aは、ディスプレイ3a、スピーカ3bで出力させる出力情報を、外部通信部6を介して外部機器201から受信させる処理を実行可能である。転倒防止システム1は、情報処理部8aによるこれらの処理により、外部機器201と相互に情報(例えば、音声情報や画像情報等)のやり取りが可能となる。
【0042】
また、情報処理部8aは、内部通信部7を制御し、車載機器101との間で種々の情報を送受信させる処理を実行可能である。情報処理部8aは、内部通信部7によって送信される情報を記憶部8Bから読み出す処理や内部通信部7によって受信された情報を記憶部8Bに記憶させる処理を実行する。また、情報処理部8aは、例えば、ECU100を介して車載機器101との間で種々の情報を送受信させる処理を実行する。例えば、情報処理部8aは、後述する動作処理部8dによって車載機器101等を動作させるための情報を、内部通信部7を介して当該車載機器101に送信させる処理を実行する。
【0043】
骨格モデル生成部8bは、撮像部2によって撮像された車両室内空間IN(監視対象空間SP)の画像に含まれる人物Pを表す骨格モデルMDL(図3参照)を生成する処理を実行可能な機能を有する部分である。骨格モデルMDLは、人物Pの頭、目、鼻、口、肩、腰、足、膝、肘、手、各関節等を含む人体骨格を3次元で表した人体モデルである。
【0044】
図3は、撮像部2によって撮像された車両室内空間INの画像Iの一例である。骨格モデル生成部8bは、例えば、背景差分法、Mean Shift法、パターンマッチング、各種機械学習等、種々の公知の手法を用いて、撮像部2によって撮像された画像Iから当該画像Iに含まれる人物Pを表す骨格モデルMDLを推定、生成する。
【0045】
骨格モデル生成部8bは、例えば、まず人物Pを検出した後に当該人物Pの骨格を推定するトップダウン型の骨格推定によって、画像Iに含まれる人物Pを表す骨格モデルMDLを生成することができる。この場合、骨格モデル生成部8bは、種々の公知の物体認識技術を用いて、画像I内の人物Pを認識し、画像Iにおいて当該認識した人物Pが存在する領域の外側をバウンディングボックスBBで囲う処理を実行する。ここで、バウンディングボックスBBとは、画像Iにおいて認識された人物Pを囲うために必要な大きさの矩形状の枠である。そして、骨格モデル生成部8bは、当該バウンディングボックスBB内の人物Pの頭、目、鼻、口、肩、腰、足、膝、肘、手、各関節等の人体の各骨格部位(人体パーツ)の3次元位置座標を検出し、これらを組み合わせて当該人物Pの骨格モデルMDLを生成する。図3に例示する骨格モデルMDLは、人物Pの頭、目、鼻、口、肩、腰、足、膝、肘、手、各関節等の人体の各骨格部位を「点」によって象徴的に表すと共にこれらを「線」でつなぎ合わせることで生成されている。骨格モデル生成部8bは、画像Iに含まれる人物Pが複数である場合には、当該人物Pの数に応じて複数の骨格モデルMDLを生成する。
【0046】
なお、骨格モデル生成部8bは、例えば、バウンディングボックスBB等を用いず画像I中の人体の各骨格部位を全て検出した後に人物Pの骨格を推定するボトムアップ型の骨格推定によって、画像Iに含まれる人物Pを表す骨格モデルを生成してもよい。この場合、骨格モデル生成部8bは、まず、種々の公知の物体認識技術を用いて、画像I中の人体の頭、目、鼻、口、肩、腰、足、膝、肘、手、各関節等の各骨格部位の3次元位置座標を全て検出する。その後、骨格モデル生成部8bは、当該検出した各骨格部位を人物Pごとにマッチングさせて繋ぎ合わせていくことで、各人物Pの骨格モデルMDLを生成する。
【0047】
判定部8cは、骨格モデル生成部8bによって生成された骨格モデルMDLに基づいて、当該骨格モデルMDLに対応する人物Pの状態を判定する処理を実行可能な機能を有する部分である。本実施形態の判定部8cは、骨格モデル生成部8bによって生成された骨格モデルMDLに対応する人物Pの状態として、当該人物Pが立っている状態と、当該人物Pが座っている状態とを区別して判定する。図3に示す人物P1は、立っている状態を表しており、図3に示す人物P2は、車両室内空間IN内の座席Sに座っている状態を表している。本実施形態の判定部8cは、骨格モデル生成部8bによって生成された骨格モデルMDLに基づいて、骨格モデルMDLに対応する人物Pの状態として、当該人物Pが立っている状態と、当該人物Pが座っている状態とに加えて、当該人物Pが転倒している状態も区別して判定する。判定部8cは、撮像部2によって撮像された車両室内空間IN(監視対象空間SP)の画像Iに人物Pが含まれていた場合に、当該人物Pに対してこれらの状態判定を行う。
【0048】
この転倒防止システム1は、例えば、骨格モデルMDLにおける各骨格部位の相対的な位置関係や相対距離、バウンディングボックスBBの大きさ等をパラメータとして、予め各種機械学習により、人物Pが立っている状態、座っている状態、転倒している状態を学習しておく。例えば、転倒防止システム1は、予め収集された「骨格モデルMDLにおける各骨格部位の相対的な位置関係、相対距離、バウンディングボックスBBの大きさ」等を説明変数とし 、「立っている状態であるか、座っている状態であるか、転倒している状態であるか」等を目的変数として機械学習を行う。機械学習としては、例えば、ロジスティック回帰、サポートベクトルマシン、ニューラルネットワーク、ランダムフォレスト等、本実施形態に適用可能な様々な形式のアルゴリズムを用いることができる。転倒防止システム1は、この機械学習によって得られた学習済みの状態判定用の数理モデル等を予め記憶部8Bに記憶しておく。
【0049】
そして、判定部8cは、上記にように記憶部8Bに記憶されている学習済みの状態判定用の数理モデル等に基づいた分類・回帰により、骨格モデルMDLに対応する人物の状態を判定する。より具体的には、判定部8cは、実際に撮像された画像Iに含まれる人物Pの骨格モデルMDLから得られる各骨格部位の相対的な位置関係、相対距離、バウンディングボックスBBの大きさを、当該状態判定用の数理モデルに入力する。これにより、判定部8cは、骨格モデルMDLに対応する人物Pの状態として、当該人物Pが立っている状態と、当該人物Pが座っている状態と、当該人物Pが転倒している状態とを区別して判定する。
【0050】
動作処理部8dは、転倒防止システム1の各部の動作を制御する処理を実行可能な機能を有する部分である。本実施形態の動作処理部8dは、判定部8cによる判定結果に基づいて、当該判定結果に応じた処理であって人物Pの転倒を防止する転倒防止処理を実行可能である。動作処理部8dは、判定部による判定結果に基づいて、動作部を構成する情報出力部3、報知部5、外部通信部6、内部通信部7等を制御し、当該判定結果に応じて転倒防止処理を実行する。
【0051】
例えば、動作処理部8dは、人物Pが車両Vに乗車した後、判定部8cによって骨格モデルMDLに対応する人物Pが立っている状態であるものと判定された場合、転倒防止処理として案内処理を実行する。この案内処理とは、情報出力部3を制御し当該人物Pに対して着座を案内する処理である。動作処理部8dは、転倒防止処理として当該案内処理を実行することで、例えば、情報出力部3を構成するディスプレイ3aを制御し当該ディスプレイ3aによって人物Pに対して着座を促すと共に転倒防止の注意喚起を促す案内表示を行う。また、動作処理部8dは、転倒防止処理として案内処理を実行することで、例えば、情報出力部3を構成するスピーカ3bを制御し当該スピーカ3bによって人物Pに対して着座を促すと共に転倒防止の注意喚起を促す音声案内を行うようにしてもよい。
【0052】
この場合、動作処理部8dは、さらに、案内処理を実行した後、予め定められた期間継続して、判定部8cによって骨格モデルMDLに対応する人物Pが立っている状態であるものと判定された場合、転倒防止処理として第1通知処理を実行するようにしてもよい。この第1通知処理とは、外部通信部6を制御し外部機器201に対して当該人物Pが立っている状態である旨を通知する処理である。
【0053】
ここで、外部機器201について簡単に説明しておく。外部機器201は、上述したように、例えば、車両Vを運用する事業者等の施設に設けられる。外部機器201は、車両Vの外部のネットワークN上に実装されるクラウドサービス機器を構成するものであり、いわゆるクラウドサービスにおけるセンタを構成する。外部機器201は、転倒防止システム1(車両V)との間でネットワークNを介して相互に情報を送受信することができる。外部機器201は、既知のPCやワークステーションなどのコンピュータシステムに種々の処理を実現させるアプリケーションをインストールすることで構成することもできる。転倒防止システム1は、当該外部通信部6を介して外部機器201と相互に通信し連携することで当該外部機器201から様々なクラウドサービスを受けることができる。
【0054】
一例として、外部機器201は、図1に例示するように、通信部202と、情報出力部203と、マイク204と、制御装置205とを備える。通信部202は、外部通信部6と同様に、ネットワークNと通信可能な通信モジュールであり、ここでは、有線/無線によりネットワークNを介して転倒防止システム1と通信可能である。情報出力部203は、情報出力部3と同様に、種々の情報を出力可能なものであり、ディスプレイ203a、スピーカ203b等を含んで構成される。マイク204は、マイク4と同様に、音を電気信号に変換する集音装置であり、車両V内の人物P等との音声のやり取りに使用する。制御装置205は、外部機器201の各部を統括的に制御するものであり、制御装置8と同様に、機能概念的に、インターフェース部205A、記憶部205B、及び、処理部205Cを含んで構成される。インターフェース部205Aは、通信部202、情報出力部203、マイク204等の外部機器201の各部と種々の情報を送受信するためのインターフェースである。記憶部205Bは、種々の情報を記憶する記憶装置である。処理部205Cは、各種入力信号等に基づいて、記憶部205Bに記憶されている各種プログラムを実行し、当該プログラムが動作することにより各部に出力信号を出力し各種機能を実現するための種々の処理を実行する部分である。
【0055】
動作処理部8dは、転倒防止処理として当該第1通知処理を実行することで、例えば、上記のように構成される外部機器201を介して事業者のオペレータ等に対して車両Vに乗車した人物Pが未だ立っている状態であることを通知する。さらに、動作処理部8dは、通知を行った後、情報処理部8aによる処理や外部通信部6を介して当該通知先の外部機器201との間で相互通信を行うようにしてもよい。この場合、動作処理部8dは、情報出力部3、203、マイク4、204等を介して、外部機器201と車両Vとの間で各種情報(例えば、音声情報や画像情報等)をやり取りすることで、車両V側の人物Pとの外部機器201側のオペレータ等とで直接、意思の疎通を図らせることができる。これにより、動作処理部8dは、例えば、外部機器201側のオペレータ等から直接、人物Pに着座するように促すことができる。
【0056】
また、動作処理部8dは、例えば、判定部8cによって骨格モデルMDLに対応する人物Pが立っている状態であるものと判定された場合、転倒防止処理として第1報知処理を実行するようにしてもよい。この第1報知処理とは、報知部5を制御し当該人物Pとは異なる他の人物に対して当該人物Pが立っている状態である旨を報知する処理である。動作処理部8dは、転倒防止処理として当該第1報知処理を実行することで、例えば、報知部5を構成するスピーカ、ディスプレイ、表示灯、インジケータ等を制御し、人物Pとは異なる人物、例えば、車両Vにおけるサービスをサポートする人物や車両Vが手動運転車の場合には運転者等に対して当該人物Pが立っている状態である旨を報知する。
【0057】
さらに、動作処理部8dは、例えば、判定部8cによって骨格モデルMDLに対応する人物Pが立っている状態であるものと判定された場合、転倒防止処理として発進禁止処理を実行するようにしてもよい。この発進禁止処理とは、内部通信部7を介して車載機器101を制御し、車両Vの発進を禁止する処理である。動作処理部8dは、転倒防止処理として当該発進禁止処理を実行することで、例えば、車載機器101を構成する走行系アクチュエータ等を制御し、車両Vを発進させないようにする。
【0058】
また、動作処理部8dは、例えば、判定部8cによって骨格モデルMDLに対応する人物Pが転倒している状態であるものと判定された場合、第2報知処理、又は、第2通知処理を実行するようにしてもよい。
【0059】
この第2報知処理とは、報知部5を制御し当該人物Pとは異なる他の人物に対して当該人物Pが転倒している状態である旨を報知する処理である。動作処理部8dは、当該第2報知処理を実行することで、例えば、報知部5を構成するスピーカ、ディスプレイ、表示灯、インジケータ等を制御し、人物Pとは異なる人物、例えば、車両Vにおけるサービスをサポートする人物や車両Vが手動運転車の場合には運転者等に対して当該人物Pが転倒した状態である旨を報知する。
【0060】
一方、第2通知処理とは、外部通信部6を制御し外部機器201に対して当該人物Pが転倒している状態である旨を通知する処理である。動作処理部8dは、当該第2通知処理を実行することで、例えば、上記のように構成される外部機器201を介して事業者のオペレータ等に対して車両Vに乗車した人物Pが転倒した状態であることを通知する。動作処理部8dは、第1通知処理の場合と同様、通知を行った後、情報処理部8aによる処理や外部通信部6を介して当該通知先の外部機器201との間で相互通信を行うようにしてもよい。これにより、動作処理部8dは、例えば、外部機器201側のオペレータ等から直接、転倒した人物Pの状態を確認させることができる。
【0061】
次に、図4図5のフローチャート図を参照して転倒防止システム1おける制御の一例について説明する。図4の制御と図5の制御とは、並行して実行されてもよいし、一方が他方に組み込まれて実行されてもよい。
【0062】
図4の制御では、まず、制御装置8の情報処理部8aは、人物Pが車両Vの車両室内空間IN(監視対象空間SP)に乗車すると、撮像部2を制御し車両室内空間INの画像Iを撮像させ、撮像された画像情報を記憶部8Bに記憶させる(ステップS1)。
【0063】
次に、制御装置8の骨格モデル生成部8bは、記憶部8Bに記憶された車両室内空間INの画像Iに基づいて、物体認識、骨格推定により、人物Pの各骨格部位の位置を検出し(ステップS2)、当該人物Pの骨格モデルMDLを生成する(ステップS3)。
【0064】
次に、制御装置8の判定部8cは、ステップS3の処理で生成された骨格モデルMDLに基づいて、機械学習により学習済みの状態判定用の数理モデル等を用いて、骨格モデルMDLに対応する人物Pが立っている状態であるのか、座っている状態であるのかを検出する(ステップS4)。
【0065】
そして、判定部8cは、骨格モデルMDLに対応する人物Pが立っている状態であるか否かを判定する(ステップS5)。判定部8cは、人物Pが立っている状態ではない、すなわち、座っている状態であると判定した場合(ステップS5:No)、この制御を終了する。
【0066】
制御装置8の動作処理部8dは、判定部8cによって骨格モデルMDLに対応する人物Pが立っている状態であると判定された場合(ステップS5:Yes)、転倒防止処理を実行する(ステップS6)。動作処理部8dは、転倒防止処理として、例えば、上述した案内処理、第1報知処理、発進禁止処理等を実行する。
【0067】
そして、判定部8cは、ステップS6で転倒防止処理が実行された後、予め定められた期間(例えば、数分程度)経過後、骨格モデルMDLに対応する人物Pがまだ立っている状態であるか否かを判定する(ステップS7)。判定部8cは、人物Pが立っている状態ではない、すなわち、座っている状態であると判定した場合(ステップS7:No)、この制御を終了する。
【0068】
動作処理部8dは、判定部8cによって骨格モデルMDLに対応する人物Pがまだ立っている状態であると判定された場合(ステップS7:Yes)、転倒防止処理として、上述した第1通知処理を実行し(ステップS8)、この制御を終了する。
【0069】
図5の制御では、まず、情報処理部8aは、人物Pが車両Vの車両室内空間IN(監視対象空間SP)に乗車すると、撮像部2を制御し車両室内空間INの画像Iを撮像させ、撮像された画像情報を記憶部8Bに記憶させる(ステップS101)。
【0070】
次に、骨格モデル生成部8bは、記憶部8Bに記憶された車両室内空間INの画像Iに基づいて、物体認識、骨格推定により、人物Pの各骨格部位の位置を検出し(ステップS102)、当該人物Pの骨格モデルMDLを生成する(ステップS103)。
【0071】
次に、制御装置8の判定部8cは、ステップS103の処理で生成された骨格モデルMDLに基づいて、機械学習により学習済みの状態判定用の数理モデル等を用いて、骨格モデルMDLに対応する人物Pが転倒した状態であるのかを検出する(ステップS104)。
【0072】
そして、判定部8cは、骨格モデルMDLに対応する人物Pが転倒した状態であるか否かを判定する(ステップS105)。判定部8cは、人物Pが転倒した状態ではない、すなわち、座っている状態か立っている状態であると判定した場合(ステップS105:No)、この制御を終了する。
【0073】
動作処理部8dは、判定部8cによって骨格モデルMDLに対応する人物Pが転倒した状態であると判定された場合(ステップS105:Yes)、上述した第2報知処理、又は、第2通知処理等を実行し(ステップS106)、この制御を終了する。
【0074】
以上で説明した転倒防止システム1は、撮像部2によって監視対象空間SPの画像Iを撮像し、骨格モデル生成部8bによって当該画像Iに含まれる人物Pを表す骨格モデルMDLを生成する。そして、判定部8cは、骨格モデル生成部8bによって生成された骨格モデルMDLに基づいて、骨格モデルMDLに対応する人物Pの状態として、当該人物Pが立っている状態と、当該人物Pが座っている状態とを区別して判定する。そして、動作処理部8dは、判定部8cによる判定結果に基づいて、当該判定結果に応じた転倒防止処理を実行可能である。この場合に、転倒防止システム1は、上記のように、骨格モデルMDLに基づいて、人物Pが立っている状態と、人物Pが座っている状態とを区別して判定することで、人物Pの状態をより詳細、かつ、正確に判定することができる。また、判定部8cは、人物Pを含む画像だけでなく、当該人物Pの骨格モデルMDLから姿勢や状態を判定しているため、例えば、人物Pが様々な動きをしている場合でも当該人物Pの状態をより適正に判定することができる。この結果、転倒防止システム1は、より正確な状態判定に基づいて適正に転倒防止を行うことができる。
【0075】
また、以上で説明した転倒防止システム1は、判定部8cによって骨格モデルMDLに対応する人物Pが立っている状態であるものと判定された場合、動作処理部8dによって転倒防止処理として案内処理を実行することができる。この場合、転倒防止システム1は、立っている人物Pに対して着座を案内することができるので、人物Pの転倒を未然に防ぐことができる。
【0076】
また、以上で説明した転倒防止システム1は、判定部8cによって骨格モデルMDLに対応する人物Pが立っている状態であるものと判定された場合、動作処理部8dによって転倒防止処理として第1報知処理を実行することができる。この場合、転倒防止システム1は、立っている人物Pとは異なる人物、例えば、車両Vにおけるサービスをサポートする人物や車両Vが手動運転車の場合には運転者等に対して立っている人物Pが存在することを報知することができる。この結果、転倒防止システム1は、サポートする人物や運転者等を通じて、人物Pの転倒を未然に防ぐことができる。
【0077】
また、以上で説明した転倒防止システム1は、案内処理を実行した後、予め定められた期間継続して判定部8cによって骨格モデルMDLに対応する人物Pが立っている状態であるものと判定された場合、動作処理部8dによって転倒防止処理として第1通知処理を実行してもよい。この場合、転倒防止システム1は、外部機器201を介して事業者のオペレータ等に対して立っている人物Pが存在することを通知することができる。これにより、転倒防止システム1は、例えば、外部機器201側のオペレータ等から直接、人物Pに着座するように促すことができ、人物Pの転倒を未然に防ぐことができる。
【0078】
また、以上で説明した転倒防止システム1は、判定部8cによって骨格モデルMDLに対応する人物Pが立っている状態であるものと判定された場合、動作処理部8dによって転倒防止処理として発進禁止処理を実行することができる。この場合、転倒防止システム1は、監視対象空間SPである車両室内空間IN内に立っている人物Pが存在した場合には、車両Vの発進を禁止することができるので、人物Pの転倒を未然に防ぐことができる。
【0079】
また、以上で説明した転倒防止システム1は、判定部8cによって骨格モデルMDLに対応する人物Pが転倒している状態であるものと判定された場合、動作処理部8dによって第2報知処理、又は、第2通知処理を実行するようにしてもよい。この場合、転倒防止システム1は、車両Vにおけるサービスをサポートする人物や車両Vが手動運転車の場合には運転者、外部機器201側のオペレータ等に対して、人物Pが転倒した事実を逸早く伝えることができるので、迅速かつ適切な処置を実施させることができる。
【0080】
なお、上述した本発明の実施形態に係る転倒防止システムは、上述した実施形態に限定されず、特許請求の範囲に記載された範囲で種々の変更が可能である。
【0081】
以上の説明では、判定部8cは、骨格モデルMDLが表す人物Pの状態として、当該人物Pが立っている状態と、当該人物Pが座っている状態とに加えて、当該人物Pが転倒している状態も区別して判定するものとして説明したがこれに限らない。判定部8cは、骨格モデルMDLが表す人物Pの状態として、少なくとも当該人物Pが立っている状態と、当該人物Pが座っている状態とを区別して判定できるものであればよい。
【0082】
以上の説明では、転倒防止システム1は、情報出力部3、マイク4、報知部5、外部通信部6、内部通信部7とを備えるものとして説明したがこれに限らず、これらのいずれかを備えない構成であってもよい。
【0083】
以上の説明では、転倒防止処理は、案内処理、報知処理、第1報知処理、発進禁止処理等であるものとして説明したがこれに限らず、人物の転倒を防止する処理であれば他の処理であってもよい。
【0084】
以下の説明では、一例として、車両Vは、バス、タクシー、ライドシェリングカー等、特定の事業者等によって管理され、完全自動運転可能な車両であるものとして説明したがこれに限らない。車両Vは、例えば、車両Vの運転者による運転操作に応じて車両Vの挙動が制御される手動運転可能な車両であってもよい。
【0085】
以下の説明では、転倒防止システム1は、車両Vに搭載され、監視対象空間SPは、車両室内空間INであるものとして説明したがこれに限らない。転倒防止システム1は、車両V以外の施設、例えば、介護施設等に適用されてもよく、監視対象空間SPは、車両室内空間INにかえて当該施設の廊下空間や居室空間等であってもよい。
【0086】
以上で説明した制御装置8は、各部が別体に構成され、当該各部が各種の電気信号を相互に授受可能に接続されることで構成されてもよく、一部の機能が他の制御装置によって実現されてもよい。また、以上で説明したプログラム、アプリケーション、各種データ等は、適宜、更新されてもよいし、転倒防止システム1に対して任意のネットワークを介して接続されたサーバに記憶されていてもよい。以上で説明したプログラム、アプリケーション、各種データ等は、例えば、必要に応じてその全部又は一部をダウンロードすることも可能である。また、例えば、制御装置8が備える処理機能については、その全部又は任意の一部を、例えば、CPU等及び当該CPU等にて解釈実行されるプログラムにて実現してもよく、また、ワイヤードロジック等によるハードウェアとして実現してもよい。
【0087】
本実施形態に係る転倒防止システムは、以上で説明した実施形態、変形例の構成要素を適宜組み合わせることで構成してもよい。
【符号の説明】
【0088】
1 転倒防止システム
2 撮像部
3 情報出力部(案内部)
3a、203a ディスプレイ
3b、203b スピーカ
4、204 マイク
5 報知部
6 外部通信部
7 内部通信部
8、205 制御装置
8A、205A インターフェース部
8B、205B 記憶部
8C、205C 処理部
8a 情報処理部
8b 骨格モデル生成部
8c 判定部
8d 動作処理部
100 ECU
101 車載機器
201 外部機器
202 通信部
203 情報出力部
BB バウンディングボックス
I 画像
IN 車両室内空間
MDL 骨格モデル
N ネットワーク
P、P1、P2 人物
RF 屋根部材
S 座席
SP 監視対象空間
sys 連携システム
図1
図2
図3
図4
図5