IP Force 特許公報掲載プロジェクト 2022.1.31 β版

知財求人 - 知財ポータルサイト「IP Force」

▶ ニチユ三菱フォークリフト株式会社の特許一覧

<>
  • 特許-人検知装置、産業車両、及び人検知方法 図1
  • 特許-人検知装置、産業車両、及び人検知方法 図2
  • 特許-人検知装置、産業車両、及び人検知方法 図3
  • 特許-人検知装置、産業車両、及び人検知方法 図4
  • 特許-人検知装置、産業車両、及び人検知方法 図5
  • 特許-人検知装置、産業車両、及び人検知方法 図6A
  • 特許-人検知装置、産業車両、及び人検知方法 図6B
  • 特許-人検知装置、産業車両、及び人検知方法 図7
  • 特許-人検知装置、産業車両、及び人検知方法 図8
  • 特許-人検知装置、産業車両、及び人検知方法 図9
  • 特許-人検知装置、産業車両、及び人検知方法 図10
< >
(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】
(24)【登録日】2022-09-29
(45)【発行日】2022-10-07
(54)【発明の名称】人検知装置、産業車両、及び人検知方法
(51)【国際特許分類】
   G08G 1/16 20060101AFI20220930BHJP
   H04N 7/18 20060101ALI20220930BHJP
【FI】
G08G1/16 D
H04N7/18 J
【請求項の数】 8
(21)【出願番号】P 2020119883
(22)【出願日】2020-07-13
(65)【公開番号】P2022016902
(43)【公開日】2022-01-25
【審査請求日】2021-03-31
(73)【特許権者】
【識別番号】000232807
【氏名又は名称】三菱ロジスネクスト株式会社
(74)【代理人】
【識別番号】110000785
【氏名又は名称】SSIP弁理士法人
(72)【発明者】
【氏名】飯尾 聡
(72)【発明者】
【氏名】杉本 喜一
(72)【発明者】
【氏名】亀尾 成寿
(72)【発明者】
【氏名】中尾 健太
(72)【発明者】
【氏名】南 昭伍
(72)【発明者】
【氏名】岡本 敏樹
【審査官】田中 将一
(56)【参考文献】
【文献】特開2020-052647(JP,A)
【文献】特開2018-036937(JP,A)
【文献】特開2018-106667(JP,A)
【文献】特開2013-002820(JP,A)
【文献】特表2018-508064(JP,A)
(58)【調査した分野】(Int.Cl.,DB名)
G08G 1/00 - 99/00
H04N 7/18
(57)【特許請求の範囲】
【請求項1】
産業車両の外部を前記産業車両から撮像した画像データを受信するように構成された受信装置と、
前記画像データを解析して前記画像データに対応する領域における人の存在の可能性を示す少なくとも一つの指標であって、機械学習を用いた物体検出アルゴリズムを用いた人検知により前記画像データに対応する領域における人の存在を判定するための少なくとも一つの指標を生成し、前記物体検出アルゴリズムを用いて前記指標が閾値を超えた場合に当該領域に人が存在すると判定するように構成された判定装置と、
を備える人検知装置を備える産業車両であって
前記判定装置は、前記産業車両の外部に前記産業車両から離隔して設置されたミラーを含む領域を撮像した第1画像データを解析して得られる第1指標が第1閾値を超えた場合に、前記ミラーに映る領域内に人が存在すると判定するように構成され、
前記第1閾値は、前記ミラーを含まない領域を撮像した第2画像データを解析して得られる第2指標との比較に用いられる第2閾値よりも低く設定され
前記産業車両は、
前記ミラーを撮像して前記第1画像データを取得するための第1撮像装置と、
前記産業車両の近傍を撮像して周囲監視用に前記第2画像データを取得するための第2撮像装置と、をさらに備える産業車両
【請求項2】
産業車両の外部を前記産業車両から撮像した画像データを受信するように構成された受信装置と、
前記画像データを解析して前記画像データに対応する領域における人の存在の可能性を示す少なくとも一つの指標であって、機械学習を用いた物体検出アルゴリズムを用いた人検知により前記画像データに対応する領域における人の存在を判定するための少なくとも一つの指標を生成し、前記物体検出アルゴリズムを用いて前記指標が閾値を超えた場合に当該領域に人が存在すると判定するように構成された判定装置と、
を備える人検知装置を備える産業車両であって
前記判定装置は、前記産業車両の外部に前記産業車両から離隔して設置されたミラーを含む領域を撮像した第1画像データを解析して得られる第1指標が第1閾値を超えた場合に、前記ミラーに映る領域内に人が存在すると判定するように構成され、
前記第1閾値は、前記ミラーを含まない領域を撮像した第2画像データを解析して得られる第2指標との比較に用いられる第2閾値よりも低く設定され
前記産業車両は、
前記第1画像データを取得するための第1モードと、前記第2画像データを取得するための第2モードとを切替可能に構成される第1撮像装置をさらに備える産業車両
【請求項3】
前記判定装置は、過検知抑制のための時系列フィルタを含み、
前記判定装置の前記時系列フィルタは、前記第1画像データについては、前記第1指標が前記第1閾値を超えた頻度又は時間が第3閾値を超えた場合に人検知が成立したと判定するように構成され、
前記第3閾値は、前記第2画像データに基づいて前記人検知が成立したと判定する場合に前記時系列フィルタに設定される第4閾値よりも低く設定される
請求項1又は2に記載の産業車両
【請求項4】
前記第1画像データを取得する場合の第1撮像パラメータは、前記第2画像データを取得する場合の第2撮像パラメータに比べて、照度が低い環境に適した撮像パラメータに設定される
請求項1乃至3の何れか1項に記載の産業車両。
【請求項5】
前記第1撮像装置の画角は、前記第2撮像装置の画角よりも狭い
請求項に記載の産業車両。
【請求項6】
前記ミラーは、凸面形状の反射面を有し、
前記第1画像データは、前記ミラーを含む領域及び前記ミラーに映るシート状の物体の校正用パターンを撮像した画像データであり、
前記判定装置は、前記第1画像データ内の前記校正用パターンに基づいて、前記第1画像データに含まれる前記ミラー特有の歪みを補正するように構成される
請求項乃至の何れか一項に記載の産業車両。
【請求項7】
前記第1撮像装置は、撮像範囲内にマーカーが含まれている場合に、前記マーカーに基づいて前記ミラーの位置を特定し、前記ミラーの領域を抽出して前記画像データを取得する
請求項乃至の何れか一項に記載の産業車両。
【請求項8】
前記人検知装置の検知結果又は前記検知結果に基づく警報を出力するための出力装置を更に備える
請求項乃至の何れか一項に記載の産業車両。
【発明の詳細な説明】
【技術分野】
【0001】
本開示は、人検知装置、産業車両、及び人検知方法に関する。
【背景技術】
【0002】
車両の外部を撮像した画像に基づいて人を検知し、オペレータに通知する技術が提案されている。例えば、特許文献1には、車両の外部を撮像する車載カメラから取得した画像データを解析し、歩行者を検知するように構成された画像処理装置が開示されている。
【先行技術文献】
【特許文献】
【0003】
【文献】特開2009-237773号公報
【発明の概要】
【発明が解決しようとする課題】
【0004】
特許文献1のように車載カメラを利用すれば、オペレータから直接見えない領域であっても車載カメラの撮像領域であれば、人を検知できる場合がある。しかし、車両から見えない死角(すなわち、車載カメラ及びオペレータから直接見えない領域)に位置する人を検知することは困難である。特に、フォークリフト等の産業車両は、周囲の構造物(例えばコンテナや建物の壁)や積荷等の存在によって死角が発生しやすい環境で走行する場合がある。この場合、死角に位置する人(例えば作業者)を検知できないと安全性を確保できない。特許文献1には、このような安全性を確保するための構成が開示されていない。
【0005】
上述の事情に鑑みて、本開示は、安全性を向上させることが可能な人検知装置等を提供することを目的とする。
【課題を解決するための手段】
【0006】
本開示に係る人検知装置は、
産業車両の外部を前記産業車両から撮像した画像データを受信するように構成された受信装置と、
前記画像データを解析して前記画像データに対応する領域における人の存在の可能性を示す少なくとも一つの指標を生成し、前記指標が閾値を超えた場合に当該領域に人が存在すると判定するように構成された判定装置と、
を備え、
前記判定装置は、前記産業車両の外部に設置されたミラーを含む領域を撮像した第1画像データを解析して得られる第1指標が第1閾値を超えた場合に、前記ミラーに映る領域内に人が存在すると判定するように構成され、
前記第1閾値は、前記ミラーを含まない領域を撮像した第2画像データを解析して得られる第2指標との比較に用いられる第2閾値よりも低く設定される。
【0007】
本開示に係る産業車両は、
上記の人検知装置を備える産業車両であって、
前記ミラーを撮像して前記第1画像データを取得するための第1撮像装置と、
前記産業車両の近傍を撮像して周囲監視用に前記第2画像データを取得するための第2撮像装置と、
を備える。
【0008】
本開示に係る産業車両は、
上記の人検知装置を備える産業車両であって、
前記第1画像データを取得するための第1モードと、前記第2画像データを取得するための第2モードとを切替可能に構成される第1撮像装置を備える。
【0009】
本開示に係る人検知方法は、
産業車両の外部を前記産業車両から撮像した画像データを取得するステップと、
前記画像データを解析して前記画像データに対応する領域における人の存在の可能性を示す少なくとも一つの指標を生成し、前記指標が閾値を超えた場合に当該領域に人が存在すると判定するステップと、
を含み、
前記判定するステップでは、前記産業車両の外部に設置されたミラーを含む領域を撮像した第1画像データを解析して得られる第1指標が第1閾値を超えた場合に、前記ミラーに映る領域内に人が存在すると判定し、
前記第1閾値は、前記ミラーを含まない領域を撮像した第2画像データを解析して得られる第2指標との比較に用いられる第2閾値よりも低く設定される。
【発明の効果】
【0010】
本開示によれば、安全性を向上させることが可能な人検知装置等を提供することができる。
【図面の簡単な説明】
【0011】
図1】一実施形態に係る人検知装置の機能的構成を概略的に示すブロック図である。
図2】一実施形態に係る人検知装置のハードウェア構成を概略的に示すブロック図である。
図3】一実施形態に係る人検知装置の利用環境の一例を概略的に示す斜視図である。
図4】一実施形態に係る人検知装置の利用環境の一例を模式的に示す平面図である。
図5】一実施形態に係る人検知装置が利用するミラーの一例を示す図である。
図6A】第1画像データの一例を示す図である。
図6B図6Aに示す第1画像データからミラーの領域を抽出するための処理を説明するための図である。
図7図6Bのミラーの領域を抽出した画像データを示す図である。
図8図7に示す画像データの歪みを補正した後の画像データを示す図である。
図9】一実施形態に係る人検知装置による人検知結果の一例を概略的に示す図である。
図10】一実施形態に係る人検知装置が実行する人検知処理を説明するためのフローチャートである。
【発明を実施するための形態】
【0012】
以下、添付図面を参照して幾つかの実施形態について説明する。ただし、実施形態として記載されている又は図面に示されている構成部品の寸法、材質、形状、その相対的配置等は、発明の範囲をこれに限定する趣旨ではなく、単なる説明例にすぎない。
例えば、「ある方向に」、「ある方向に沿って」、「平行」、「直交」、「中心」、「同心」或いは「同軸」等の相対的或いは絶対的な配置を表す表現は、厳密にそのような配置を表すのみならず、公差、若しくは、同じ機能が得られる程度の角度や距離をもって相対的に変位している状態も表すものとする。
例えば、「同一」、「等しい」及び「均質」等の物事が等しい状態であることを表す表現は、厳密に等しい状態を表すのみならず、公差、若しくは、同じ機能が得られる程度の差が存在している状態も表すものとする。
例えば、四角形状や円筒形状等の形状を表す表現は、幾何学的に厳密な意味での四角形状や円筒形状等の形状を表すのみならず、同じ効果が得られる範囲で、凹凸部や面取り部等を含む形状も表すものとする。
一方、一の構成要素を「備える」、「具える」、「具備する」、「含む」、又は、「有する」という表現は、他の構成要素の存在を除外する排他的な表現ではない。
【0013】
(人検知装置の構成)
以下、一実施形態に係る人検知装置100の構成について説明する。図1は、一実施形態に係る人検知装置100の構成を概略的に示すブロック図である。図2は、一実施形態に係る人検知装置100のハードウェア構成を概略的に示すブロック図である。人検知装置100は、例えば、ショベルカー、ブルドーザー、フォークリフト等の産業車両600に適用される。一実施形態では、人検知装置100は、フォークリフトに搭載される。
【0014】
図1に示すように、人検知装置100は、受信装置10と、判定装置20と、送信装置30と、を備える。図2に示すように、人検知装置100は、CPU(Central Processing Unit)、GPU(Graphics Processing Unit)等のプロセッサ72と、RAM(RandomAccessMemory)74と、ROM(Read Only Memory)76と、HDD(Hard Disk Drive)78と、入出力I/F80と、出力I/F82と、を含み、これらがバス84を介して互いに接続されたコンピュータを用いて構成される。人検知装置100のプロセッサ72がROM76やRAM74等のメモリに記憶されているプログラムを実行することにより、後述する各種機能を実現する。
【0015】
受信装置10及び送信装置30は、他の装置と通信するように構成される。幾つかの実施形態では、例えば、図1に示すように、人検知装置100は、第1撮像装置40、第2撮像装置50、及び出力装置60と通信可能に接続される。第1撮像装置40、第2撮像装置50、及び出力装置60は、人検知装置100と共に、産業車両600に搭載される構成であってもよい。なお、第1撮像装置40が後述するモード切替等によって第2撮像装置50の機能を兼ねる場合は、人検知装置100は第1撮像装置40のみを備える構成であってもよいし、他の装置から画像データを受信する構成であってもよい。
【0016】
受信装置10は、産業車両600の外部を当該産業車両600から撮像した画像データを他の装置から受信するように構成される。受信装置10は、第1撮像装置40及び/又は第2撮像装置50と近距離無線通信又は有線通信することによって画像データを取得するように構成されてもよい。
【0017】
判定装置20は、受信装置10が受信した画像データを解析して画像データに対応する領域における人の存在の可能性を示す少なくとも一つの指標を生成するように構成される。判定装置20は、機械学習を用いた物体検出アルゴリズム、例えば、物体検出ニューラルネットワークのSSD(Single Shot Multibox Detector)を用いて人検知を行うように構成されてもよい。この様な物体検出技術においては、画像中の物体の位置を特定して矩形(バウンディングボックス)で囲み、更にそれぞれの矩形について物体のクラス(人、車両等)の予測が行われる。人の存在の可能性を示す少なくとも一つの指標としては、このクラス予測の確からしさ(信頼度)、すなわち、矩形で囲まれた領域中の人と予測された物体が実際に人である可能性の高さを示す判定スコアを用いることができる。また、検知対象とする人のサイズが画像上でのサイズで規定されている場合は、矩形の高さ、幅等の情報に基づき計算される人検知の有効度を示すスコアを指標として採用しても良い。判定装置20は、生成した指標(例えば、判定スコア)が閾値を超えた場合に当該領域に人が存在すると判定するように構成される。「画像データに対応する領域」とは、画像データに映る領域である。すなわち、画像データに対応する領域は、直接撮像される領域であってもよいし、後述するミラー200を介して間接的に撮像される領域であってもよい。
【0018】
送信装置30は、判定装置20の判定結果に応じた信号を出力装置60に送信するように構成される。なお、受信装置10及び送信装置30は、さらに産業車両600の外部のサーバ装置(不図示)と無線通信するように構成されてもよい。
【0019】
例えば、産業車両600の外部のサーバ装置が、複数の人検知装置100の送信装置30又は産業車両600や構造物に設けられた撮像装置等から画像データ、判定結果、位置情報等の情報を収集してもよい。受信装置10は、有用な情報をサーバ装置から受信するように構成されてもよい。すなわち、人検知装置100は、判定装置20の判定結果に基づく人検知機能だけでなく、産業車両600の外部のサーバ装置から取得した情報に基づく人検知機能をさらに有していてもよい。
【0020】
出力装置60は、人検知装置100の検知結果又は検知結果に基づく情報(人の有無を示す情報や警報等)を出力するように構成される。出力装置60は、産業車両600(例えばフォークリフト)の車内に設けられる。例えば、出力装置60は、スピーカー及び/又はディスプレイを備え、音声出力及び/又は表示画像によって産業車両600のオペレータに情報を通知するように構成される。出力装置60は、発光によって警報を通知してもよい。
【0021】
ここで、第1撮像装置40及び第2撮像装置50について説明する。第1撮像装置40は、後述するミラー200を撮像するための撮像装置であり、第2撮像装置50は、ミラー200を含まない領域、例えば産業車両の近傍領域を撮像するための周囲監視用の撮像装置である。第1撮像装置40は、産業車両600の進行方向に位置するミラー200を撮像可能な位置、例えば産業車両600の天井に設けられる。第2撮像装置50は、産業車両600の周囲を撮像可能な位置、例えば、産業車両600の車外の上部位置に設けられる。
【0022】
第1撮像装置40の画角は、第2撮像装置50の画角よりも狭いことが好ましい。第1撮像装置40は、画角が29°以下の狭角の望遠レンズを備えることが好ましい。望遠レンズは、例えば、焦点距離が85mm以上600mm以下であることが好ましい。かかる構成によれば、ミラー200が小さい場合であっても検知精度を確保することが可能となる。
【0023】
第2撮像装置50の画角は、第1撮像装置40の画角よりも広いことが好ましい。例えば、第2撮像装置50は、画角が63°以上の広角レンズを備えることが好ましい。また、広角レンズは、焦点距離が35mm以下であることが好ましい。かかる構成によれば、産業車両の周囲に位置する人については第1撮像装置40よりも広角で撮像する第2撮像装置50で検出し、死角に位置する人については第1撮像装置40でミラー200を介して検出することが可能となる。そのため、人検知の対象範囲を広げることができる。
【0024】
ここで、第1撮像装置40又は第2撮像装置50によって撮像される画像データの種類について説明する。第1画像データは、第1撮像装置40が産業車両600の外部に設置されたミラー200(後述)を含む領域を撮像した画像データである。第2画像データは、第2撮像装置50が産業車両の近傍(周囲)領域等のミラー200を含まない領域を撮像した画像データである。なお上述の通り、第1撮像装置40がモード切替等の手段により第2撮像装置50の機能を兼ねる場合には、第1撮像装置が第1画像データ及び第2画像データの両方を撮像する構成であっても良い。
【0025】
第1撮像装置40が第1画像データを取得する場合の第1撮像パラメータは、第2撮像装置50に設定される、又は、第1撮像装置40が第2画像データを取得する場合に設定される第2撮像パラメータに比べて、照度が低い環境に適した撮像パラメータに設定される。例えば、第1撮像装置40の撮像パラメータの設定において、画像データの平均輝度に応じてシャッタースピードを遅くしたり(露光時間を長くしたり)、画像の明るさを調整したりする。
【0026】
判定装置20は、第1画像データを解析して得られる第1指標が第1閾値を超えた場合に、ミラー200に映る領域内に人が存在すると判定するように構成される。第1閾値は、第2画像データを解析して得られる第2指標との比較に用いられる第2閾値よりも低く設定される。判定装置20は、第1画像データ及び第2画像データを同一の手法(人検知アルゴリズム)で解析し、各画像データに対応する領域における人の存在の可能性を示す少なくとも一つの指標、ここでは第1指標及び第2指標を生成する。第1指標及び第2指標は同種、同次元の指標である。
【0027】
判定装置20は、過検知抑制のための時系列フィルタを含んでいてもよい。判定装置20の時系列フィルタは、第1画像データについては、第1指標が第1閾値を超えた頻度又は時間が第3閾値を超えた場合に人検知が成立したと判定するように構成されてもよい。判定装置20は、人検知結果に応じて警報を出力するように構成されてもよい。例えば、判定装置20は、警報を出力するための信号を出力装置60に送信することによって、警報を出力するように構成される。第3閾値は、第2画像データに基づいて人検知の成立を判定する場合に時系列フィルタに設定される第4閾値よりも低く設定される。
【0028】
判定装置20は、第1画像データと第2画像データのそれぞれに対応する時系列フィルタを含み、どの画像データであっても解析可能に構成されてもよい。また、判定装置20は、第1撮像装置40用であって、第2撮像装置50用の判定装置とは独立した装置であってもよい。
【0029】
ミラー200撮像用の第1撮像装置40が、ミラー200以外の監視領域、例えば産業車両600の近傍を撮像する周囲監視用の第2撮像装置50の機能を兼ねる場合は、第1撮像装置40は第1画像データを取得するための第1モードと、第2画像データを取得するための第2モードとを切替可能に構成されてもよい。すなわち、第1撮像装置40は、第1画像データだけでなく、第2画像データも取得可能に構成されてもよい。この場合、判定装置20は、第1撮像装置40から取得した画像データが第1画像データである場合には、第1閾値を用いて人を検知するように構成される。また、判定装置20は、第1撮像装置40から取得した画像データが第2画像データである場合には、第2閾値を用いて人を検知するように構成される。
【0030】
判定装置20は、ミラー200に映るシート状の物体300(後述)の校正用パターンに基づいて、第1画像データに含まれるミラー200特有の歪みを補正するように構成されてもよい。校正用パターンは、シート状の物体300の形状であってもよいし、シート状の物体300の模様であってもよい。模様は、格子状の模様(例えば市松模様)であってもよい。シート状の物体300は、作業者が地面や床面に配置するマットであってもよいし、壁面に貼り付けるポスターであってもよい。
【0031】
第1撮像装置40は、撮像範囲内にマーカー210(後述)が含まれている場合に、マーカー210に基づいてミラー200の位置を特定し、ミラー200の領域を抽出して画像データを取得するように構成されてもよい。なお、第1撮像装置40は、マーカー210の特定や領域の抽出を行わずに撮像のみを行い、判定装置20が上記のような処理を行うように構成されてもよい。
【0032】
(人検知装置の利用環境の具体例)
人検知装置100の利用環境の具体例を説明する。まず、上述したように、人検知装置100は、ミラー200を利用して、死角に位置する人を検知するように構成される。死角は、産業車両から見た場合に、船、建物(倉庫や工場)等の構造物の陰に隠れ、産業車両600に搭載された撮像装置(車載カメラ)及び産業車両600のオペレータからは直接観測ができない、あるいは直接観測が困難な領域である。
【0033】
図3は、一実施形態に係る人検知装置100の利用環境の一例を概略的に示す斜視図である。この例では、死角は、産業車両600が港500に位置する場合において、港500に停泊している船400の出入口付近の内部である。この例では、産業車両600はフォークリフトである。産業車両600から見て、船400の出入口の内部には、屋外よりも薄暗く、かつ船400の構造物の陰に隠れた領域がある。なお、人検知装置100は図示省略しているが、実際には産業車両600に設けられている。
【0034】
図4は、一実施形態に係る人検知装置100の利用環境の一例を模式的に示す平面図である。この図は、図3に示す例に対応している。図3及び図4に示すように、船400の出入口の天井には、船400内の死角が映り込むようにミラー200が設けられている。また、船400の出入口の床面には、シート状の物体300として、市松模様のマットが配置されている。ミラー200にシート状の物体300が映り込むように、ミラー200及びシート状の物体300が配置されている。
【0035】
ミラー200は、凸面形状の反射面を有することが好ましい。凸面形状の曲率は、一般に公道等に設置されるカーブミラー(道路反射鏡)の曲率よりも大きいことが好ましい。これにより、広範囲を映すことが可能となる。ただし、歪みが大きくなるため、人検知精度を向上させるためには画像データの歪みの補正が必要となる。
【0036】
図5は、一実施形態に係る人検知装置100が利用するミラー200の一例を示す図である。図5に示すように、ミラー200は、ドーム型ミラーであってもよい。例えば、ミラー200は、構造物の天井に設けるための取付部200bと、天井に設けた場合に下方の全体を映すことができる半球面状の反射面200aとを有していてもよい。ミラー200は、球面の一部を切り出した形状(例えば、半球面の4分割した形状)を有し、構造物の隅(角部)に設けられてもよい。取付部200bはマグネットベースを含み、金属部材に容易に取り付け可能に構成されてもよい。
【0037】
このような環境において、図3及び図4に示すように、人検知装置100は、第1撮像装置40がミラー200を含む領域を撮像した第1画像データを、受信装置10を介して取得する。人検知装置100の判定装置20は、ミラー200に映り込んだシート状の物体300の模様を校正用パターンとして、取得した第1画像データの歪みを補正する。また、判定装置20は、第1画像データを解析して第1指標を取得し、第1閾値との比較により、ミラー200に映る領域内の人Hを検知する。このように、人検知装置100は、ミラー200を介して死角に位置する人Hを検知することができる。
【0038】
図3及び図4に示す例のように産業車両600が船400の出入口に移動する途中において、船400の出入口の死角に存在する人をミラー200を介して検知可能な時間は短く、データ点数が少ない場合がある。このような場合においても、判定装置20の時系列フィルタは、第1画像データに基づき人検知を行う場合において、第4閾値よりも低い第3閾値が設定されているため、人がミラー200に映り込む時間が極めて短い場合であっても、第1画像データから人Hを検知することができる。そのため、安全性を向上させることができる。
【0039】
産業車両600が荷物の搬入出のために船400の出入口に入っていく場合、産業車両外部のサーバ装置との無線通信が困難となる場合がある。その結果、自己位置が取得できないうえに、船400の停泊位置が毎回同じ位置とは限らないため、自己位置を推定することも困難となり得る。このような場合においても、人検知装置100は、近距離無線通信や有線通信により、第1撮像装置40及び/又は第2撮像装置50から画像データを容易に取得することができる。そのため、サーバ装置との通信による自己位置推定や情報取得をしなくても人検知が可能となる。
【0040】
図6Aは、第1画像データの一例を示す図である。図6Bは、図6Aに示す第1画像データからミラー200の領域(鏡像領域)を抽出するための処理を説明するための図である。図7は、図6Bのミラー200の領域を抽出した画像データを示す図である。図8は、図7に示す画像データの歪みを補正した後の画像データを示す図である。図9は、一実施形態に係る人検知装置100による人検知結果の一例を概略的に示す図である。
【0041】
図6Aに示すように、ミラー200の周囲には、二次元コードを示すマーカー210が設けられてもよい。例えば、ミラー200を取り囲むように4つのマーカー210が設けられてもよい。なお、マーカー210の数及び配置は、図示の例に限られない。第1撮像装置40又は判定装置20は、マーカー210に基づいて第1画像データ内のミラー200の領域を抽出する。なお、第1撮像装置40又は判定装置20は、マーカー210ではなく、ミラー200の形状パターンのマッチングによってミラー200を認識するように構成されてもよい。
【0042】
これにより、例えば、図6Bに示すように、マーカー210に囲まれた矩形状の領域が抽出される。その結果、図7に示すようにミラー200の鏡像を含む画像データが取得される。この画像データの歪みを補正することにより、図8に示す画像データが取得される。歪み補正後の画像データを解析することにより、図9に示すように、人Hを検知し、人の存在の可能性を示す少なくとも一つの指標として、検知した人Hが実際に人である可能性の高さを示す判定スコア(例えば80%)が得られる。
【0043】
(人検知処理の流れ)
以下、一実施形態に係る人検知装置100による人検知処理の流れについて説明する。図10は、一実施形態に係る人検知装置100が実行する人検知処理を説明するためのフローチャートである。本実施形態では、ミラー200とシート状の物体300が配置された後の人検知処理の例を説明する。
【0044】
この例では、(1)第1撮像装置40は第1画像データのみを取得可能な構成であり、第2撮像装置50は第2画像データのみを取得可能な構成であってもよいし、(2)第1撮像装置40がモード切替等により第2撮像装置50の機能を兼ねる場合は、第2撮像装置50は省略され、第1撮像装置40のみで人検知処理を行い、第1撮像装置40が、第1画像データ及び第2画像データの両方を取得する構成であってもよい。すなわち、撮像装置は、各種の画像データの取得において兼用で使用されてもよいし、専用で使用されてもよい。このように、人検知装置100の構成と人検知処理の内容は例示した内容に限られず、適宜変形可能である。
【0045】
まず、人検知装置100は、画像データを取得する(ステップS1)。具体的には、人検知装置100は、受信装置10を介して第1撮像装置40又は第2撮像装置50から画像データを取得する。
【0046】
ここで、人検知装置100は、取得した画像データが第1画像データであるか否かを判別する(ステップS2)。例えば、画像データの送信元が第1撮像装置40であるか否か、第1モードで撮像した画像データであるか、画像データにミラー200又はマーカー210が含まれているか否か等によってこの判別処理が実行される。
【0047】
第1画像データではないと判別した場合(ステップS2;No)、判定装置20は、ステップS8の人検知処理に使用する閾値として第2閾値を設定し(ステップS3)、人検知処理を行う(ステップS8)。
【0048】
第1画像データであると判別した場合(ステップS2;Yes)、人検知装置100は、画像データからミラー200の領域を抽出する(ステップS4)。なお、ステップS4とステップS2の処理では、マーカー210や形状パターンマッチングが利用されてもよい。
【0049】
人検知装置100は、抽出した画像データにシート状の物体300が含まれているか否かを判別する(ステップS5)。シート状の物体300が含まれていると判別した場合(ステップS5;Yes)、判定装置20は、その校正パターンを利用して歪み補正を行う(ステップS6)。シート状の物体300が含まれていないと判別した場合(ステップS5;No)、ステップS6がスキップされる。また、判定装置20は、ステップS7の人検知処理に使用する閾値として第1閾値を設定し(ステップS7)、人検知処理を行う(ステップS8)。
【0050】
人検知処理では、判定装置20は、歪み補正後の第1画像データと、第2画像データとの何れか一つに対する解析を行う。判定装置20は、第1画像データでは第1閾値を用いて、第2画像データでは第2閾値を用いて人の有無を判定する。また、判定装置20は、第3閾値、第4閾値との対比により、人検知が成立したと判断するか否かの判定を行い、その判定結果に応じて出力装置60に信号を送信する。
【0051】
例えば、画像データに対応する領域における人の存在の可能性を示す少なくとも一つの指標として、任意の物体検出(人検知)アルゴリズムが出力する対象矩形領域中の物体の人らしさを示す判定スコアを用いる場合に、第1閾値として60%、第2閾値として90%が設定されている場合を考える。この場合、第2撮像装置50が産業車両600の近傍(周囲)領域等のミラー200を含まない領域を撮像した第2画像データ中の物体を解析した結果として得られる判定スコアについては、第2閾値である90%を超える高い信頼度で人と認識されなければ人が存在するとの判定を行わない。一方で、第1撮像装置40が産業車両600の外部に設置されたミラー200を含む領域を撮像した第1画像データ中の物体を解析した結果として得られる判定スコアについては、第1閾値である60%以上の信頼度で人と認識されれば、人が存在すると判定する。なお、第1閾値、第2閾値の値はあくまで例示であり、これに限定されるものではない。
【0052】
また例えば、時系列フィルタとして、第1画像データについては、第1指標(判定スコア)が第1閾値(例えば上記と同様60%)を超えた時間と比較するための第3閾値として0.5秒が、第2画像データについては、第2指標(判定スコア)が第2閾値(例えば上記と同様90%)を超えた時間と比較するための第4閾値として2秒が設定されている場合を考える。この場合、第2撮像装置50が産業車両600の近傍(周囲)領域等のミラー200を含まない領域を撮像した第2画像データ中の物体を解析した結果として得られる判定スコアについては、第2閾値である90%を超えている時間が2秒以上継続したときに人検知が成立したと判断する。一方で、第1撮像装置40が産業車両600の外部に設置されたミラー200を含む領域を撮像した第1画像データ中の物体を解析した結果として得られる判定スコアについては、第1閾値である60%以上を超えている時間が0.5秒以上継続したときに人検知が成立したと判断する。なお、第3閾値、第4閾値の値はあくまで例示であり、これに限定されるものではない。
【0053】
以上、人検知処理の流れについて説明した。上記の一連のステップは、産業車両600を運転している間において繰り返し実行されてもよい。各ステップの順序は、適宜変更可能である。例えば、各種の閾値設定は、図示の例よりも早いタイミングに実行されてもよい。また、予め何れかの閾値を設定しておき、画像データの種別に応じて閾値が適宜変更されてもよい。
【0054】
本開示は上述した実施形態に限定されることはなく、上述した実施形態に変形を加えた形態や、複数の実施形態を適宜組み合わせた形態も含む。
【0055】
(まとめ)
上記各実施形態に記載の内容は、例えば以下のように把握される。
【0056】
(1)本開示に係る産業車両の人検知装置(100)は、
産業車両(600)の外部を前記産業車両(600)から撮像した画像データを受信するように構成された受信装置(10)と、
前記画像データを解析して前記画像データに対応する領域における人の存在の可能性を示す少なくとも一つの指標を生成し、前記指標が閾値を超えた場合に当該領域に人が存在すると判定するように構成された判定装置(20)と、
を備え、
前記判定装置(20)は、前記産業車両(600)の外部に設置されたミラー(200)を含む領域を撮像した第1画像データを解析して得られる第1指標が第1閾値を超えた場合に、前記ミラー(200)に映る領域内に人が存在すると判定するように構成され、
前記第1閾値は、前記ミラー(200)を含まない領域を撮像した第2画像データを解析して得られる第2指標との比較に用いられる第2閾値よりも低く設定される。
【0057】
上記構成によれば、死角に存在する人をもミラー(200)を介して検知可能となる。ミラー(200)を介した人検知技術では、高精度な検知が困難である。しかし、安全を確保するためには、検知漏れを抑えることが必要である。この点、上記構成では、ミラー(200)を含む領域を撮像した第1画像データについて、第2閾値よりも低い第1閾値を用いて人の検知を行うため、検知漏れを抑えて安全性を向上させることが可能となる。
【0058】
(2)幾つかの実施形態では、上記(1)に記載の構成において、
前記判定装置(20)は、過検知抑制のための時系列フィルタを含み、
前記判定装置(20)の前記時系列フィルタは、前記第1画像データについては、前記第1指標が前記第1閾値を超えた頻度又は時間が第3閾値を超えた場合に人検知が成立したと判定するように構成され、
前記第3閾値は、前記第2画像データに基づいて前記人検知が成立したと判定する場合に前記時系列フィルタに設定される第4閾値よりも低く設定される。
【0059】
第1画像データについては、第4閾値よりも低い第3閾値を用いて人検知が成立したと判定するため、第2画像データよりも人検知が成立したと判定されやすい。そのため、検知漏れを抑えて安全性を向上させることができる。
【0060】
(3)本開示に係る産業車両(600)は、
上記(1)又は(2)に記載の人検知装置(100)を備える産業車両(600)であって、
前記ミラー(200)を撮像して前記第1画像データを取得するための第1撮像装置(40)と、
前記産業車両(600)の近傍を撮像して周囲監視用に前記第2画像データを取得するための第2撮像装置(50)と、
を備える。
【0061】
上記構成によれば、産業車両(600)が人検知装置(100)を備えることにより、検知漏れを抑えて安全性を向上させることが可能となる。また、ミラー(200)の撮像用と周囲監視用との用途ごとに撮像装置を備えているため、各用途に適した撮像条件で撮像を行うように構成することができる。
【0062】
(4)本開示に係る産業車両(600)は、
上記(1)又は(2)に記載の人検知装置(100)を備える産業車両(600)であって、
前記第1画像データを取得するための第1モードと、前記第2画像データを取得するための第2モードとを切替可能に構成される第1撮像装置(40)を備える。
【0063】
上記構成によれば、第1撮像装置(40)が第1画像データと第2画像データを取得可能となるため、全体の構成を簡素化することができる。
【0064】
(5)幾つかの実施形態では、上記(3)又は(4)に記載の構成において、
前記第1画像データを取得する場合の第1撮像パラメータは、前記第2画像データを取得する場合の第2撮像パラメータに比べて、照度が低い環境に適した撮像パラメータに設定される。
【0065】
ミラー(200)に映る死角は暗い場所であることが多い。この点、上記構成によれば、第1画像データを取得する場合の第1撮像パラメータは、第2撮像パラメータに比べて照度が低い環境に適した撮像パラメータに設定される。そのため、画像解析に適した第1画像データを取得することができる。
【0066】
(6)幾つかの実施形態では、上記(3)に記載の構成において、
前記第1撮像装置(40)の画角は、前記第2撮像装置の画角よりも狭い。
【0067】
上記構成によれば、ミラー(200)が小さい場合であっても検知精度を確保することが可能となる。
【0068】
(7)幾つかの実施形態では、上記(3)乃至(6)の何れか一つに記載の構成において、
前記判定装置(20)は、前記ミラー(200)に映るシート状の物体(300)の校正用パターンに基づいて、前記第1画像データに含まれる前記ミラー(200)特有の歪みを補正するように構成される。
【0069】
上記構成によれば、ミラー(200)特有の歪み(ミラー(200)の形状や曲率による歪み)を補正するため、人の検知精度が向上する。また、構造物が顧客の所有物である場合、人検知のための物体を設置することが困難である。このような場合においても、シート状の物体(300)(例えば、マットやポスター)であれば、作業者が容易に仮設できる点で有利である。シート状の物体(300)は、産業車両(600)や人の往来を妨げにくいため、作業性の観点においても有利である。
【0070】
(8)幾つかの実施形態では、上記(3)乃至(7)の何れか一つに記載の構成において、
前記ミラー(200)は、凸面形状の反射面(200b)を有する。
【0071】
上記構成によれば、広範囲の領域がミラー(200)に映るため、死角に位置する人をミラー(200)を介して検知しやすくなる。
【0072】
(9)幾つかの実施形態では、上記(3)乃至(8)の何れか一つに記載の構成において、
前記第1撮像装置(40)は、撮像範囲内にマーカー(210)が含まれている場合に、前記マーカー(210)に基づいて前記ミラー(200)の位置を特定し、前記ミラー(200)の領域を抽出して前記画像データを取得する。
【0073】
上記構成によれば、マーカー(210)を利用するため、ミラー(200)の有無を検知可能であると共に、撮像範囲内に含まれるミラー(200)の領域を抽出しやすくなる。
【0074】
(10)幾つかの実施形態では、上記(3)乃至(9)の何れか一つに記載の構成において、
前記人検知装置(100)の検知結果又は前記検知結果に基づく警報を出力するための出力装置(60)を更に備える。
【0075】
上記構成によれば、産業車両(600)のオペレータに、人の検知結果を通知することができるため、安全性を向上させることができる。
【0076】
(11)本開示に係る人検知方法は、
産業車両(600)の外部を前記産業車両(600)から撮像した画像データを取得するステップと、
前記画像データを解析して前記画像データに対応する領域における人の存在の可能性を示す少なくとも一つの指標を生成し、前記指標が閾値を超えた場合に当該領域に人が存在すると判定するステップと、
を含み、
前記判定するステップでは、前記産業車両(600)の外部に設置されたミラー(200)を含む領域を撮像した第1画像データを解析して得られる第1指標が第1閾値を超えた場合に、前記ミラー(200)に映る領域内に人が存在すると判定し、
前記第1閾値は、前記ミラー(200)を含まない領域を撮像した第2画像データを解析して得られる第2指標との比較に用いられる第2閾値よりも低く設定される。
【0077】
上記方法によれば、死角に存在する人をもミラー(200)を介して検知可能となる。また、ミラー(200)を含む領域を撮像した第1画像データについて、第2閾値よりも低い第1閾値を用いて人の検知を行うため、検知漏れを抑えて安全性を向上させることが可能となる。
【符号の説明】
【0078】
10 受信装置
20 判定装置
30 送信装置
40 第1撮像装置
50 第2撮像装置
60 出力装置
72 プロセッサ
74 RAM
76 ROM
78 HDD
80 入力I/F
82 出力I/F
84 バス
100 人検知装置
200 ミラー
200a 反射面
200b 取付部
210 マーカー
300 物体
400 船
500 港
600 産業車両
図1
図2
図3
図4
図5
図6A
図6B
図7
図8
図9
図10