IP Force 特許公報掲載プロジェクト 2022.1.31 β版

知財求人 - 知財ポータルサイト「IP Force」

▶ 株式会社パル技研の特許一覧 ▶ 極東開発工業株式会社の特許一覧

特開2022-66998ディープラーニング等による物体検知システム、及び、これを用いたゴミ収集車
<>
  • 特開-ディープラーニング等による物体検知システム、及び、これを用いたゴミ収集車 図1
  • 特開-ディープラーニング等による物体検知システム、及び、これを用いたゴミ収集車 図2
  • 特開-ディープラーニング等による物体検知システム、及び、これを用いたゴミ収集車 図3
  • 特開-ディープラーニング等による物体検知システム、及び、これを用いたゴミ収集車 図4
  • 特開-ディープラーニング等による物体検知システム、及び、これを用いたゴミ収集車 図5
< >
(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公開特許公報(A)
(11)【公開番号】P2022066998
(43)【公開日】2022-05-02
(54)【発明の名称】ディープラーニング等による物体検知システム、及び、これを用いたゴミ収集車
(51)【国際特許分類】
   G06T 7/70 20170101AFI20220422BHJP
   G06T 7/00 20170101ALI20220422BHJP
   G06T 7/246 20170101ALI20220422BHJP
   H04N 7/18 20060101ALI20220422BHJP
   B65F 3/00 20060101ALI20220422BHJP
【FI】
G06T7/70 Z
G06T7/00 660B
G06T7/246
H04N7/18 D
B65F3/00 L
【審査請求】未請求
【請求項の数】7
【出願形態】OL
(21)【出願番号】P 2020175660
(22)【出願日】2020-10-19
(71)【出願人】
【識別番号】300066494
【氏名又は名称】株式会社パル技研
(71)【出願人】
【識別番号】000163095
【氏名又は名称】極東開発工業株式会社
(74)【代理人】
【識別番号】100150153
【弁理士】
【氏名又は名称】堀家 和博
(72)【発明者】
【氏名】佐野 拓治
(72)【発明者】
【氏名】毛利 秀志
(72)【発明者】
【氏名】早嶋 節雄
(72)【発明者】
【氏名】秋山 優二
(72)【発明者】
【氏名】今岡 大策
(72)【発明者】
【氏名】中谷 祐輔
(72)【発明者】
【氏名】大仁 惇平
【テーマコード(参考)】
3E024
5C054
5L096
【Fターム(参考)】
3E024AA04
3E024HB05
3E024HC01
3E024HD05
5C054CA04
5C054CC02
5C054DA07
5C054FC12
5C054FE14
5C054HA19
5L096BA02
5L096CA04
5L096FA06
5L096FA09
5L096FA59
5L096FA67
5L096FA69
5L096FA77
5L096HA05
5L096HA11
(57)【要約】
【課題】物体認識・姿勢認識を行って、「事前作業の負担軽減」や「検知対象の拡大」を実現する。
【解決手段】画像内の物体を検知する物体検知システム1は、画像内の人を実際の人と認識等する物体認識部2と、人の姿勢を認識する姿勢認識部3を有する。物体認識部2は画像内の人の輪郭に基づき人全体の位置を認識し、姿勢認識部3は人の所定関節から先の位置を認識したり、人の移動等を追跡する物体追跡部4を有したり、物体追跡部4は人全体や所定関節から先の移動経路を認識しても良い。物体検知システム1を用いたゴミ収集車10は、人の一部が投入口12に入ったり、人全体が所定エリアに入った場合に、プレート13の掻込みを停止する。遮蔽物Sが画像の第1の割合α以上を占めた場合に、物体検知システム1で検知不能と判断したり、遮蔽物SがダンボールB’や傘B”であっても良い。
【選択図】図1
【特許請求の範囲】
【請求項1】
カメラにて撮像した画像内における物体を検知する物体検知システムであって、
前記物体は、人を含み、
前記画像内における人を、実際の人であると少なくとも認識する物体認識部と、
前記画像内における人の姿勢を認識する姿勢認識部を有していることを特徴とする物体検知システム。
【請求項2】
前記物体認識部は、前記画像内における人の輪郭に基づいて、前記人全体の3次元空間中における位置を認識し、
前記姿勢認識部は、前記画像内における人の輪郭に基づいて、前記人における所定の関節を認識し、認識した前記所定の関節から先の部分の3次元空間中における位置を認識することを特徴とする請求項1に記載の物体検知システム。
【請求項3】
前記画像内における人の移動を少なくとも追跡する物体追跡部を有していることを特徴とする請求項1又は2に記載の物体検知システム。
【請求項4】
前記物体追跡部は、前記画像内における人の輪郭に基づいて、前記人全体の3次元空間中における移動経路、及び/又は、前記所定の関節から先の部分の3次元空間中における移動経路を認識することを特徴とする請求項3に記載の物体検知システム。
【請求項5】
請求項1~4の何れか1項に記載の物体検知システムを用いたゴミ収集車であって、
当該ゴミ収集車は、前記画像を撮像するカメラと、前記カメラに撮像され且つゴミを投入可能な投入口と、前記投入口にゴミを掻込み可能なプレートと、前記プレートを制御する制御システムを有し、
前記制御システムは、
前記画像内における人の一部分が前記投入口に入った場合、又は、前記画像内における人全体が所定エリアに入った場合に、
前記プレートの掻込みを停止させることを特徴とするゴミ収集車。
【請求項6】
前記物体は、遮蔽物を含み、
前記物体検知システムの物体認識部は、前記画像内における遮蔽物を、実際の遮蔽物であるとも認識し、
前記制御システムは、
前記画像内における遮蔽物の面積が当該画像の面積の第1の割合以上を占める場合に、
前記物体検知システムでは検知不能であると判断することを特徴とする請求項5に記載のゴミ収集車。
【請求項7】
前記遮蔽物は、ダンボール及び/又は傘であることを特徴とする請求項6に記載のゴミ収集車。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、カメラにて撮像した画像内における物体を検知する物体検知システム、及び、これを用いたゴミ収集車に関するものである。
【背景技術】
【0002】
従来、塵芥収集車の塵芥投入口の近傍をカメラによって撮影し、その画像のデータに基づいて、前記塵芥投入口近傍の人物を認識するようにした人物認識装置が知られている(特許文献1参照)。
この人物認識装置は、前記カメラによって撮影された画像における物体像の色情報を検出し、検出された色情報を、人物の手または足への装着物について記憶部に登録された検出対象色と比較して、前記物体像が人物の手または足であるか否かを識別する人物識別部と、前記人物識別部の識別で用いる前記検出対象色として、前記カメラによって予め撮影された画像における前記装着物の色情報を前記記憶部に登録する色情報登録部と、前記人物識別部によって手または足であると識別された物体像が、前記塵芥投入口近傍の所定エリアに入っているか否かを判定する人物位置判定部と、を備えている。
【先行技術文献】
【特許文献】
【0003】
【特許文献1】特開2019-156564号公報
【発明の概要】
【発明が解決しようとする課題】
【0004】
しかしながら、特許文献1に記載された人物認識装置は、検出された色情報を、人物の手または足への装着物について記憶部に登録された検出対象色と比較することを必須としているところ、塵芥収集車で作業員が着用する手袋や作業着などの色は、自治体や組織等ごとに異なっているため、当該自治体や組織等ごとに、記憶部に登録する検出対象色を変更しなくてはならず、検出対象色の事前変更等の作業負担などが増す。
更に、特許文献1の人物認識装置は、作業員以外の一般の方が事前に登録した検出対象色以外の色の衣服等を着用している場合には、当該一般の方の塵芥投入口近傍における所定の危険エリアへの進入を認識できない問題がある。
【0005】
本発明は、このような点に鑑み、物体認識・姿勢認識を行うことによって、「事前作業の負担軽減」や「検知対象の拡大」を実現する物体検知システム、及び、ゴミ収集車を提供することを目的とする。
【課題を解決するための手段】
【0006】
本発明に係る物体検知システム1は、カメラにて撮像した画像内における物体を検知する物体検知システムであって、前記物体は、人を含み、前記画像内における人を、実際の人であると少なくとも認識する物体認識部と、前記画像内における人の姿勢を認識する姿勢認識部を有していることを第1の特徴とする。
【0007】
本発明に係る物体検知システム1の第2の特徴は、上記第1の特徴に加えて、前記物体認識部は、前記画像内における人の輪郭に基づいて、前記人全体の3次元空間中における位置を認識し、前記姿勢認識部は、前記画像内における人の輪郭に基づいて、前記人における所定の関節を認識し、認識した前記所定の関節から先の部分の3次元空間中における位置を認識する点にある。
【0008】
本発明に係る物体検知システム1の第3の特徴は、上記第1又は2の特徴に加えて、前記画像内における人の移動を少なくとも追跡する物体追跡部を有している点にある。
【0009】
本発明に係る物体検知システム1の第4の特徴は、上記第3の特徴に加えて、前記物体追跡部は、前記画像内における人の輪郭に基づいて、前記人全体の3次元空間中における移動経路、及び/又は、前記所定の関節から先の部分の3次元空間中における移動経路を認識する点にある。
【0010】
これらの特徴により、画像G内における人Hを実際の人である等と認識する物体認識部2と、人Hの姿勢を認識する姿勢認識部3を有することで、特許文献1とは異なり、ゴミ収集車10などに当該物体検知システム1を用いる際に、ゴミ収集車10などで作業員が着用する手袋や作業着などの色が自治体や組織等ごとに異なっていても、事前に、記憶部に登録する検出対象色を変更する等の作業は不要となり、当然に、事前作業の負担は軽減される(「事前作業の負担軽減」)。
これと同時に、ゴミ収集車10などでの作業員以外の一般の方が、何れの色の衣服等を着用していても、当該一般の方の所定エリア(危険エリア等)Dへの近接等を検知可能となり、これは人Hに限らず、物体Bの色を問わず、何れの色の物体Bも、当該物体検知システム1の検知対象となると言える。(「検知対象の拡大」が実現する)。
尚、物体検知システム1は、物体認識部2と姿勢認識部3の2つを有しており、これらにより多層構造化されているとも言える(謂わば、深さを有したディープニューラルネットワーク(DNN、Deep Neural Networkである)ことから、「ディープラーニング等による物体検知システム」であるとも言える。
【0011】
又、物体認識部2で輪郭Heに基づいて人H全体の位置Pを認識し、姿勢認識部3で人Hの輪郭Heに基づいて人Hの所定の関節Hjや当該所定の関節Hjから先の部分の位置Pを認識することで、人Hなどの物体Bの「検知精度の向上」が図れる。
【0012】
更に、人Hの移動等を追跡する物体追跡部4を有したり、物体追跡部4で輪郭Heに基づいて人H全体や所定の関節Hjから先の部分の移動経路Lを認識することで、更なる「検知精度の向上」を図ることが可能となる。
【0013】
本発明に係るゴミ収集車10は、上述した物体検知システムを用いたゴミ収集車であって、当該ゴミ収集車は、前記画像を撮像するカメラと、前記カメラに撮像され且つゴミを投入可能な投入口と、前記投入口にゴミを掻込み可能なプレートと、前記プレートを制御する制御システムを有し、前記制御システムは、前記画像内における人の一部分が前記投入口に入った場合、又は、前記画像内における人全体が所定エリアに入った場合に、前記プレートの掻込みを停止させることを第1の特徴とする。
【0014】
本発明に係るゴミ収集車10の第2の特徴は、上記第1の特徴に加えて、前記物体は、遮蔽物を含み、前記物体検知システムの物体認識部は、前記画像内における遮蔽物を、実際の遮蔽物であるとも認識し、前記制御システムは、前記画像内における遮蔽物の面積が当該画像の面積の第1の割合以上を占める場合に、前記物体検知システムでは検知不能であると判断する点にある。
【0015】
本発明に係るゴミ収集車10の第3の特徴は、上記第2の特徴に加えて、前記遮蔽物は、ダンボール及び/又は傘である点にある。
【0016】
これらの特徴により、制御システム14で、人Hの一部分が投入口12に入ったり、人H全体が所定エリア(危険エリア等)Dに入った場合に、プレート13の掻込みを停止させることで、ゴミ収集車10での作業員等である人Hが、当該ゴミ収集車10の投入口12へのゴミ投入作業における危険動作を検知し、危険動作を検知した際には、作業員などの人Hの危険度を低減できる(「危険度の低減」)。
【0017】
又、制御システム14で、画像G内の遮蔽物Sが当該画像Gの面積の第1の割合以上を占めた場合に、物体検知システム1では検知不能と判断することで、当該物体検知システム1で検知不能であることを、ゴミ収集車10の使用者や、作業員等である人Hに知らせることが可能となり、物体検知システム1以外による危険回避の対応ができるため、更なる「危険度の低減」が図れる。
尚、遮蔽物Sは、ダンボールB’や傘B”であっても良い。
【発明の効果】
【0018】
本発明に係る物体検知システム、及び、ゴミ収集車によると、物体認識・姿勢認識を行うことによって、「事前作業の負担軽減」や「検知対象の拡大」を実現できる。
【図面の簡単な説明】
【0019】
図1】本発明に係る物体検知システムを示す概要図である。
図2】物体検知システムによる検知「後」の画像内における人を例示する図面代用写真である。
図3】本発明に係るゴミ収集車における所定エリア(危険エリア)と、人の動作を示す側面概要図であって、(a)は人の肘から先の部分が所定エリアに入ったことを示し、(b)は人の膝から先の部分等が所定エリアに入ったことを示す。
図4】物体検知システムと、これを用いたゴミ収集車を例示する概要図である。
図5】ゴミ収集車の制御システムを示すフローチャートであって、(a)はプレート停止に係るフローチャートであり、(b)は物体検知システムの検知不能判断に係るフローチャートである。
【発明を実施するための形態】
【0020】
図面に言及しながら、本発明の実施形態を詳細に説明する。
<物体検知システム1の全体構成>
図1、2、4には、本発明に係る物体検知システム1が示されている。
この物体検知システム1は、カメラにて撮像した画像G内における物体Bを検知するシステムである。
【0021】
物体検知システム1は、後述する物体認識部2と、姿勢認識部3を少なくとも有しており、コンピュータで構成されていても良い。又、物体検知システム1は、物体追跡部4を有していても良い。
物体検知システム1は、これら物体認識部2や姿勢認識部3、物体追跡部4以外の部分を有していても良く、例えば、当該物体検知システム1が設けられた場所とは離れた場所にある車両(例えば、後述するゴミ収集車10など)や機器、装置等と、インターネットやその他の通信網を介して又は直接に、有線又は無線にて通信を行う通信部を有し、この通信部にて画像Gや、動画(複数枚の連続した画像Gなど)を送受信していても構わない(図4参照)。又、物体認識部2や姿勢認識部3、物体追跡部4は、サーバで構成されたり、ゴミ収集車10のコンピュータとサーバと協同または分担して構成されていても良い。
次に、画像Gや物体Bについて、以下に述べる。
【0022】
<画像G>
図1、2に示したように、画像Gは、所定のカメラにて撮像されたものである。
画像Gは、後述するゴミ収集車10に取り付けられたカメラ11にて撮像される場合には、後述するゴミ収集車10の投入口12や投入口12以外の部分が当該画像G内に映っていたり、投入口12等近傍の所定エリアDが当該画像G内に映っているものであっても良く、その他、ゴミ収集車10の近傍のみが画像G内に映っているもの(つまり、ゴミ収集車10自体は画像G内に映っていないもの)等であっても構わない。
【0023】
又、画像Gは、ゴミ収集車10以外の他の車(車両)であったり、車以外の装置、製品、施設、機器などに取り付けられたカメラにて撮像されても良く、この場合、他の車等の一部分が当該画像G内に映っていたり、他の車等の一部分近傍の所定エリアが当該画像G内に映っているものであっても良く、その他、他の車等近傍のみが画像G内に映っているもの(つまり、他の車等自体は画像G内に映っていないもの)等であっても構わない。
画像Gは、ゴミ収集車10に取り付けられたカメラ11等で撮像されたもの以外に、ドローンなどの飛行体から撮像されたものや、街中や店舗、商店街、大型ビル施設、テナント、マンションなどに設置された(固定された)カメラ(防犯カメラや監視カメラ等)から撮像されたものであっても良い。
【0024】
画像Gは、ゴミ収集車10に取り付けられたカメラ11等が、投入口12等やその近傍を略上方から撮像したり、投入口12等を略側方からや、略後方から撮像しても良い。
下、画像Gは、主に、後述するゴミ収集車10に取り付けられたカメラ11にて撮像され、且つ、ゴミ収集車10の投入口12や、投入口12等近傍の所定エリアDが当該画像G内に映っているとして述べる。
【0025】
尚、1つの物体検知システム1は、2枚以上の画像Gから、物体Bを検知しても良く、この場合、例えば、ゴミ収集車10に取り付けられた2つ以上のカメラ11(謂わば、ステレオカメラ)で撮像された2枚以上の画像Gであったり、ゴミ収集車10に取り付けられたカメラ11と、飛行体等に取り付けられたカメラなどの2つ以上のカメラによって同時に撮像された2枚以上の画像Gであっても構わない。
その他、画像Gは、カラー画像(明度以外に、色相や彩度を有する画像)であったり、グレースケール画像(明度のみを有し、色相や彩度は有さない画像)や、ハーフトーン(網点)などの白黒2色画像であっても良い。
このような画像G内における物体Bについて、次に述べる。
【0026】
<物体B>
図1~3に示したように、物体Bは、上述した物体検知システム1の検知対象であり、上述した画像G内に映っている。
物体Bは、後述する人Hを含む。
又、物体Bは、後述する遮蔽物Sも含み、この遮蔽物Sは、ダンボールB’及び/又は、傘B”等である。
【0027】
この他、物体Bは、後述する人Hや、ダンボールB’、傘B”以外に、何れの物体であっても良く、例えば、ゴミを入れた袋(ゴミ袋)や、粗大ごみであったり(ゴミ袋や粗大ごみも遮蔽物Sに含まれるとも言える)、その他、人H等の周りの環境における地面や、建物、段差(工場内のピット(約1mほどの段差)等)などであったり、人H等以外に動いている自動車やバイク、自転車、歩行者などの一般の方などを含んでいても構わない。尚、物体Bにおいて、人Hや遮蔽物S以外のもの(地面や、建物、段差、自動車そのもの等)をまとめて、環境(その他のもの)であるとも言える。
又、画像Gには、録画中(記録中)等を示す赤丸が表示されていても良い。
【0028】
<人H、輪郭He、関節Hj>
図1~3に示したように、人Hは、上述した画像G内に映っている人であり、ゴミ収集車10での上述した作業員の他に、自動車やバイク、自転車を運転する運転者や歩行者などのうち、ゴミ収集車10の投入口12に近づいてきた者(所定エリアDに近接してり、所定エリアDに入った者)を含んでも良い。
人Hは、1枚の画像G内において、当該人Hと、その人H以外の部分(ゴミ収集車10や、背景、ダンボールB’、傘B”など)が映っている(存在している)場合と、当該人Hだけが映っている場合(人Hやその一部(手など)が上述したカメラ11に接近する等したため)があると言える。
以下、人Hは、主に、1枚の画像G内において、当該人H以外の部分と共に映っているとして述べる。
【0029】
人Hの輪郭(エッジ)Heは、1枚の画像G内において、当該人Hと、その人H以外の部分との間の境界であって、当該人Hの形状を表していると言える。
尚、この人Hの輪郭Heの画像Gからの抽出は、後述する物体認識部2等にて述べる。
【0030】
人Hは、当然、関節(ジョイント)Hjを有しており、関節Hjとして、具体的には、左右の肩や、左右の肘、左右の手首、左右の手における手のひらの関節、左右の手における親指の第1、2関節、人差し指、中指、薬指、小指の第1~3関節であったり、首(首関節)や、腰(腰関節)、左右の脚の付け根(股関節)、左右の膝、左右の足首、左右の足の関節、左右の足における親指の第1、2関節(母指球を含む)、人差し指、中指、薬指、小指の第1~3関節などがある。
【0031】
<人Hの一部分(肘から先の部分HA、膝から先の部分HBなど>
図1~3に示したように、人Hは、上述した関節Hjを有していると共に、人Hには、所定の関節Hjから先の部分が存在する。
具体的には、左右の肘から先の部分HA(関節から関節までであれば、肘から手首までや、肘から手の何れかの指の第1関節までなど)を有していたり、左右の膝から先の部分HB(同様に、膝から足首までや、膝から足の何れかの指の第1関節までなど)であったり、その他、左右の肩から先の部分(肩から手首までや、肩から手の何れかの指の第1関節までなど)や、左右の股関節から先の部分(股関節から足首までや、股関節から足の何れかの指の第1関節までなど)、首から先の部分(謂わば、頭部)である。
【0032】
尚、これら肘から先の部分HA等について、例えば、後述する物体認識部2や姿勢認識部3が、画像Gから、人Hにおける各腕の先端や、各腕における手の各指の先端(特に中指や親指の先端等)であったり、人Hにおける各脚の先端や、各脚における足のつま先、頭部の上端などを抽出できるのであれば、肘から先の部分HAとは、肘から各腕の先端等であったり、膝から先の部分HBとは、膝から各脚の先端等であったり、首から先の部分とは、首から頭部の上端までなどであっても良い。
以下、人H以外の物体Bについて述べる。
【0033】
<遮蔽物S(ダンボールB’、傘B”など)>
図1に示したように、遮蔽物Sは、上述した人Hの撮像を遮蔽する物であり、画像Gがゴミ収集車10に取り付けられたカメラ11で撮像されたものであれば、カメラ11と投入口12の間に位置して人Hの撮像を遮蔽する物であるとも言える。
遮蔽物Sは、例えば、ダンボールB’や傘B”であったり、その他、ゴミ袋や粗大ごみであっても良い。
【0034】
図1に示したように、ダンボールB’は、上述した画像G内に映っているダンボールである。
ダンボールB’も、1枚の画像G内において、当該ダンボールB’と、そのダンボールB’以外の部分(人Hや、ゴミ収集車10、背景、傘B”など)が映っている(存在している)場合と、当該ダンボールB’だけが映っている場合(ダンボールB’が上述したカメラ11に接近する等したため)があると言える。
以下、ダンボールB’も、主に、1枚の画像G内において、当該ダンボールB’以外の部分と共に映っているとして述べる。
【0035】
ダンボールB’の輪郭B’eも、1枚の画像G内において、当該ダンボールB’と、そのダンボールB’以外の部分との間の境界であって、当該ダンボールB’の形状を表していると言える。
尚、このダンボールB’の輪郭B’eの画像Gからの抽出も、後述する物体認識部2等にて述べる。
【0036】
同様に、図1に示したように、傘B”は、上述した画像G内に映っている傘であり、1枚の画像G内において、当該傘B”と、その傘B”以外の部分(人Hや、ゴミ収集車10、背景、ダンボールB’など)が映っている(存在している)場合と、当該傘B”だけが映っている場合(傘B”が上述したカメラ11に接近する等したため)があると言え、以下、傘B”も、主に、1枚の画像G内において、当該傘B”以外の部分と共に映っているとして述べる。
傘B”の輪郭B”eも、1枚の画像G内において、当該傘B”と、その傘B”以外の部分との間の境界であって、当該傘B”の形状を表していると言え、この傘B”の輪郭B”eの画像Gからの抽出も、後述する物体認識部2等にて述べる。
【0037】
その他、遮蔽物Sがゴミ袋や粗大ごみであっても、1枚の画像G内において、当該ゴミ袋等と、そのゴミ袋等以外の部分(人Hや、ゴミ収集車10、背景、ダンボールB’、傘B”など)が映っている(存在している)場合と、当該ゴミ袋等だけが映っている場合(ゴミ袋等が上述したカメラ11に接近する等したため)があると言え、以下、ゴミ袋等も、主に、1枚の画像G内において、当該ゴミ袋等以外の部分と共に映っているとして述べる。尚、粗大ごみには、ダンボールB’や傘B”が含まれるとも言える。
ゴミ袋等の輪郭も、1枚の画像G内において、当該ゴミ袋等と、そのゴミ袋等以外の部分との間の境界であると言え、このゴミ袋等の輪郭の画像Gからの抽出も、後述する物体認識部2等にて述べる。
次に、物体認識部2等について述べる。
【0038】
<物体認識部2>
図1に示したように、物体認識部2は、上述した画像G内における人Hが、実際の人であると認識することを、少なくとも行う部分である。
尚、物体認識部2は、当然、人H以外についても認識しても良く、例えば、画像G内におけるダンボールB’が、実際のダンボールであると認識したり、画像G内の傘B”が、実際の傘であると認識しても構わない。
又、物体認識部2は、画像G内におけるダンボールB’や傘B”から、実際のダンボールが箱状となっているか、折りたたまれて略矩形状等になっているかを認識したり、実際の傘が開いているか、閉じているか等を認識したり、画像G内において、後述する所定エリアDを認識して(又は、事前に、所定エリアDの画像G内における位置・範囲(領域)や、3次元空間中における位置P・範囲(領域)を物体認識部2等に与えておいて)も良い。
【0039】
物体認識部2は、画像G内における人H等を認識するのであれば、何れの構成であっても良いが、例えば、当該人Hの輪郭Heなどに基づいて、上述した画像G内における人H等が、実際の人等であると認識しても良い。
この他、物体認識部2は、画像Gのノイズや歪みなどを取り除いたり、画像Gにおいて当該人Hの輪郭He等を強調したり、画像Gの明度や色合い(色調、色相や彩度)を調整したり、画像Gから人H等の領域を切り出す(領域抽出)等しても良い。
【0040】
物体認識部2において、人Hの輪郭Heなどが画像Gから抽出等され得るのであれば、何れの画像処理をしても良いが、例えば、画像Gにおける各画素の画素値(各画素における明度等)の変化に対して、1次微分により算出した極大値や極小値から(勾配法によって)抽出等されたり、2次微分により算出した変曲点から(ラプラシアン法によって)抽出等されても良く、その他、平滑化や加重平均を用いた勾配法や、キャニー法などによって人Hの輪郭Heなどを、画像Gから抽出等しても構わない。
又、画像Gからの人Hの輪郭Heなどの抽出等自体を、人工知能(AI、Artificial Intelligence)や、機械学習(ML、Machine Learning)にて行ったり、後述するディープラーニング(DL、Deep Learning、深層学習)等にて行っても良い。
【0041】
物体認識部2は、画像Gから抽出等した人Hの輪郭Heなどに基づき、当該輪郭Heを抽出等した画像G内における人Hが、実際の人であると認識したり、当該輪郭B’e、B”eなどを抽出等した画像G内におけるダンボールB’や傘B”などが、実際のダンボールや傘であると認識することとなるが、この人等であることの認識は、ディープラーニングにて行っていても良い。
詳解すれば、物体認識部2は、人間の脳神経の構造を模したニューラルネットワーク(NN、Neural Network)において、「入力層」や「隠れ層」、「出力層」などの層の数を増やして多層(ディープ)化したディープニューラルネットワーク(DNN、Deep Neural Network)を用いている。
【0042】
このような物体認識部2は、画像Gを入力されるだけで、人Hや当該人H全体における特徴量(パターン)の学習を自動で出来るとも言える。尚、物体認識部2には、画像Gにおいて何れの線が人Hの輪郭He等であるかや、何れ(何れの領域等)が人Hであるか等をラベル付けした(正解を付けた)画像Gを、事前に複数(例えば、何万枚など)与えておき(謂わば、教師あり(正解あり)学習をさせておき)、物体認識部2が自動で特徴量の学習し、当該物体認識部2に入力された画像Gに対して、事前に学習した特徴量から、何れの線が人Hの輪郭He等であるかや、何れが人Hであるか等を、スコア(96%などの割合等)として出力したり、入力された画像Gに対して人Hを認識した旨を示す表示(例えば、「person」との文字が入った矩形で囲むなど、図2参照)を付けた画像Gを出力する等しても良い。
この他、物体認識部2は、教師なし学習や、強化学習等をしていても良い。
【0043】
<3次元空間中における位置P(人H全体の位置Ph)など>
図1~3に示し、上述したように、物体認識部2は、画像G内における人Hの輪郭Heや領域などに基づいて、人H全体の3次元空間中における位置P(左右位置X、前後位置Y、上下位置Zなど)を認識しても良い。
尚、物体認識部2は、人H以外の物体BであるダンボールB’や傘B”等についても、それらの輪郭B’e、B”eや領域などに基づいて、ダンボールB’全体や傘B”全体の3次元空間中における位置Pを認識しても良い。その他、物体認識部2は、物体B以外の背景についても、どの領域が背景か等を、スコアとして出力したり、入力された画像Gに対してダンボールB’や傘B”等を認識した旨を示す表示を付けた画像Gを出力する等しても良い。
【0044】
ここで、3次元空間中における位置Pは、上述したように、画像G内における人HやダンボールB’等の輪郭Heなどに基づいて認識(算出)されるが、その他、3次元空間中における位置Pは、画像Gから抽出された人H等の領域などに基づいて認識されても良い。
3次元空間中における位置Pのうち、特に、人H全体としての3次元空間中における位置Phは、画像Gからの人Hの輪郭Heや領域などに基づいて、画像Gにおける人Hの重心(人Hが占める領域(所定形状の図形)としての重心)の3次元空間中における位置Pとしても良い。
【0045】
人H全体としての3次元空間中における位置Phは、後述する姿勢認識部3にて認識される人Hの関節Hjに基づいて、人Hの腰関節の位置としても良く、又、人Hが立っている地面等と接触した足(母指球など)の位置であっても構わない。
その他、3次元空間中における位置Pのうち、ダンボールB’や傘B”などとしての3次元空間中における位置Pも、画像GからのダンボールB’や傘B”等の輪郭B’e、B”eや領域などに基づいて、画像GにおけるダンボールB’や傘B”等の重心(ダンボールB’や傘B”等が占める領域(例えば、ダンボールB’が箱状であれば略六角形状であったり、ダンボールB’が折りたたまれていれば略平行四辺形状や略矩形状等の図形であり、傘B”が開いていれば略三日月形状の図形であり、傘B”が閉じていればや略線状や略「?(疑問符)」形状(把持部分など)の図形等)としての重心)の3次元空間中における位置Pとしても良い。
【0046】
<姿勢認識部3>
図1に示したように、姿勢認識部3は、上述した画像G内における人Hの姿勢を、又は、上述した物体認識部3が認識した人Hの姿勢を認識する部分である。
尚、姿勢認識部3は、人H以外の姿勢についても認識しても良く、例えば、画像G内におけるダンボールB’や傘B”の姿勢等を認識しても構わない。
【0047】
姿勢認識部3は、画像G内における人Hの姿勢を認識するのであれば、何れの構成であっても良いが、例えば、姿勢認識部3自体が抽出等した人Hの輪郭Heなどに基づいて、上述した画像G内における人Hの所定の関節Hjを認識したり、認識した所定の関節Hjから先の部分の3次元空間中における位置Pを認識しても良い。
一方、姿勢認識部3は、人Hの輪郭Heなどについては、上述した物体認識部2が抽出等したものを利用し、物体認識部2が抽出等した人Hの輪郭Heなどに基づいて、上述した画像G内における人Hの所定の関節Hjを認識したり、認識した所定の関節Hjから先の部分の3次元空間中における位置Pを認識しても良い。
この他、姿勢認識部3も、上述した物体認識部2のように、画像Gのノイズや歪みなどを取り除いたり、画像Gにおいて当該人Hの輪郭He等を強調したり、画像Gの明度や色合いを調整したり、画像Gから人H等の領域を切り出す等しても良い。
【0048】
姿勢認識部3においても、人Hの輪郭Heなどが画像Gから抽出等され得るのであれば、何れの画像処理をしても良いが、上述した物体認識部2のように、例えば、勾配法やラプラシアン法、平滑化や加重平均を用いた勾配法や、キャニー法などによって人Hの輪郭Heなどを、画像Gから抽出等されても良く、その他、画像Gからの人Hの輪郭Heなどの抽出等自体を、人工知能や、機械学習、ディープラーニング等にて行っても構わない。
姿勢認識部3も、当該姿勢認識部3自体(又は、上述の物体認識部2)が画像Gから抽出等した人Hの輪郭Heなどに基づき、画像G内における人Hの所定の関節Hjや、所定の関節Hjから先の部分の3次元空間中における位置Pを認識することとなるが、この所定の関節Hj等の認識は、ディープラーニングにて行っていても良い。ディープラーニング自体の詳細については、上述した物体認識部2と同様である。
【0049】
このような姿勢認識部3は、画像Gを入力されるだけで、人Hの所定の関節Hjにおける特徴量(パターン)の学習を自動で出来るとも言える。尚、姿勢認識部3には、画像G内の人Hにおいて何れの箇所が人Hの所定の関節Hjであるか等をラベル付けした画像Gを、事前に複数与えておき(謂わば、教師あり学習をさせておき)、姿勢認識部3が自動で特徴量の学習し、当該姿勢認識部3に入力された画像Gに対して、事前に学習した特徴量から、何れの箇所が人Hの所定の関節Hjであるかを、スコアとして出力したり、入力された画像Gに対して認識した人Hの所定の関節Hjを「○」等にて示す表示を付けた画像Gを出力する等しても良く、この他、姿勢認識部3は、教師なし学習や、強化学習等をしていても構わない。
又、姿勢認識部3は、人H以外の物体BであるダンボールB’や傘B”等についても、当該姿勢認識部3自体(又は、上述の物体認識部2)が抽出等したダンボールB’や傘B”等の輪郭B’e、B”eなどに基づいて、ダンボールB’や傘B”等において特徴となる部分や点を認識したり、認識した部分や点の3次元空間中における位置Pを認識しても良い。
【0050】
<3次元空間中における位置P(所定の関節Hjから先の部分の位置Pj)など>
図1~3に示し、上述したように、姿勢認識部3は、当該姿勢認識部3自体(又は、上述の物体認識部2)が抽出等した画像G内における人Hの輪郭Heや領域などに基づいて、画像G内における人Hの所定の関節Hjを認識し、認識した所定の関節Hjから先の部分の3次元空間中における位置Pを認識しても良い。
尚、姿勢認識部3は、人H以外の物体BであるダンボールB’や傘B”等についても、当該姿勢認識部3自体(又は、上述の物体認識部2)が抽出等したダンボールB’や傘B”等の輪郭B’e、B”eや領域などに基づいて、ダンボールB’や傘B”等における特徴部分(例えば、ダンボールB’であれば、箱状や、略平行四辺形状、略矩形状等における各角部分であったり、傘B”が開いていれば、略三日月形状の図形における凸円弧側の先端部分や凸円弧側と凹円弧側を繋ぐ両端部分や、略線状の先に付いた略「?」形状(把持部分など)であったり、傘B”が閉じていれば、略線状の先に付いた略「?」形状(把持部分など)とその反対側の先端部分など)の3次元空間中における位置Pを認識しても良い。
【0051】
尚、姿勢認識部3で認識される3次元空間中における位置Pは、人HやダンボールB’における全体の位置Pではなく、一部分の位置Pである。
3次元空間中における位置Pのうち、特に、人Hにおける所定の関節Hj(肘や膝など)から先の部分HA、HB等としての3次元空間中における位置Pjは、画像Gからの人Hの輪郭Heや領域などに基づいて、画像Gにおける人Hの所定の関節Hjから先の部分HA、HB等における略中間点であっても良い。
【0052】
具体的には、当該関節Hjが肘であれば、肘Hjから先の部分HAにおいて、その肘Hjの3次元空間中における位置Pjと、手首の3次元空間中における位置Pjの間の略中間点であっても良く、又、当該関節Hjが膝であれば、膝Hjから先の部分HBにおいて、その膝Hjの3次元空間中における位置Pjと、足首の3次元空間中における位置Pjの間の略中間点であっても構わない。
その他、当該関節Hjが肩であれば、肩Hjから先の部分において、その肩Hjの3次元空間中における位置Pjと、手首の3次元空間中における位置Pjの間の略中間点であったり、肘の3次元空間中における位置Pjであっても良く、又、当該関節Hjが股関節であれば、股関節Hjから先の部分において、その股関節Hjの3次元空間中における位置Pjと、足首の3次元空間中における位置Pjの間の略中間点であったり、膝の3次元空間中における位置Pjであっても構わない。
【0053】
ここで、姿勢認識部3は、画像G内における人Hの所定の関節Hjそれぞれの3次元空間中における位置Pjや、これら関節Hjそれぞれの互いの位置関係から、当該人Hが全体として、立っているか、屈んでいるか、歩いているか、何かを後述するゴミ収集車10の投入口12に入れているか等の姿勢を認識しても良い。
その他、3次元空間中における位置Pのうち、ダンボールB’や傘B”などにおける一部分としての3次元空間中における位置Pも、画像GからのダンボールB’や傘B”等の輪郭B’e、B”eや領域などに基づいて、例えば、ダンボールB’であれば、箱状であったり、折りたたまれた略平行四辺形状等の各角部分そのものの3次元空間中における位置Pであっても良く、又、傘B”が開いていれば、略三日月形状の図形における凸円弧側の先端部分等そのものの3次元空間中における位置Pであったり、傘B”が閉じていれば、略線状の先に付いた略「?」形状(把持部分など)等そのものの3次元空間中における位置Pであっても良い。
【0054】
尚、姿勢認識部3は、ダンボールB’や傘B”などの姿勢も認識しても良く、例えば、ダンボールB’であれば、上述した物体認識部2で述べた画像GにおけるダンボールB’の重心(ダンボールB’が箱状であれば略六角形状であったり、ダンボールB’が折りたたまれていれば略平行四辺形状や略矩形状等の図形としての重心)の3次元空間中における位置Pと、各角部分の3次元空間中における位置Pとの位置関係や、角部分の数などから、当該ダンボールB’が箱状であるか、折りたたまれているか認識しても良い。
又、例えば、傘B”であれば、上述した物体認識部2で述べた画像Gにおける傘B”の重心(傘B”が開いていれば略三日月形状の図形であり、傘B”が閉じていればや略線状や略「?」形状(把持部分など)等の図形としての重心)の3次元空間中における位置Pと、略三日月形状の図形における凸円弧側の先端部分等の3次元空間中における位置Pとの位置関係や、略三日月形状の図形の有無などから、当該傘B”が開いているか、閉じているか認識しても良い。
【0055】
<物体追跡部4>
図1に示したように、物体追跡部4は、上述した画像G内における人Hの移動を、又は、上述した物体認識部2及び姿勢認識部3が認識した人Hの移動を、少なくとも追跡する部分である。
尚、物体追跡部4は、当然、人H以外についても追跡しても良く、例えば、画像G内におけるダンボールB’を追跡したり、画像G内の傘B”を追跡しても構わない。
【0056】
物体追跡部4は、画像G内における人Hを追跡するのであれば、何れの構成であっても良いが、例えば、物体追跡部4自体が抽出等した人Hの輪郭Heなどに基づいて、人H全体の3次元空間中における移動経路Lや、所定の関節Hjから先の部分HA、HB等の3次元空間中における移動経路Lを認識しても良い。
一方、物体追跡部4は、人Hの輪郭Heなどについては、上述した物体認識部2や姿勢認識部3が抽出等したものを利用し、物体認識部2や姿勢認識部3が抽出等した人Hの輪郭Heなどに基づいて、人H全体の3次元空間中における移動経路Lや、所定の関節Hjから先の部分HA、HB等の3次元空間中における移動経路Lを認識しても良い。
【0057】
この他、物体追跡部4は、画像Gを撮像するカメラ(後述するゴミ収集車10に取り付けられたカメラ11等)自体は、そのレンズの光軸が動くように、カメラ自体が動いて、人H等が常に画像G内に映るような構成であっても良い。
尚、物体追跡部4も、上述した物体認識部2のように、画像Gのノイズや歪みなどを取り除いたり、画像Gにおいて当該人Hの輪郭He等を強調したり、画像Gの明度や色合いを調整したり、画像Gから人H等の領域を切り出す等しても良い。
【0058】
物体追跡部4においても、人Hの輪郭Heなどが画像Gから抽出等され得るのであれば、何れの画像処理をしても良いが、上述した物体認識部2や姿勢認識部3のように、例えば、勾配法やラプラシアン法、平滑化や加重平均を用いた勾配法や、キャニー法などによって人Hの輪郭Heなどを、画像Gから抽出等されても良く、その他、画像Gからの人Hの輪郭Heなどの抽出等自体を、人工知能や、機械学習、ディープラーニング等にて行っても構わない。
物体追跡部4も、当該物体追跡部4自体(又は、上述の物体認識部2や姿勢認識部3)が画像Gから抽出等した人Hの輪郭Heや領域などに基づき、人H全体の3次元空間中における移動経路Lや、所定の関節Hjから先の部分HA、HB等の3次元空間中における移動経路Lを認識することとなる。
又、物体追跡部4は、人H以外の物体BであるダンボールB’や傘B”等についても、当該物体追跡部4自体(又は、上述の物体認識部2や姿勢認識部3)が抽出等したダンボールB’や傘B”等の輪郭B’e、B”eや領域などに基づいて、ダンボールB’や傘B”等の全体の3次元空間中における移動経路Lや、ダンボールB’や傘B”等において特徴となる部分や点の3次元空間中における移動経路Lを認識しても良い。
【0059】
<3次元空間中における移動経路L>
図1~3に示し、上述したように、物体追跡部4は、当該物体追跡部4自体(又は、上述の物体認識部2や姿勢認識部3)が抽出等した画像G内における人Hの輪郭Heや領域などに基づいて、人H全体の3次元空間中における移動経路Lや、所定の関節Hjから先の部分HA、HB等の3次元空間中における移動経路Lを認識しても良い。
尚、物体追跡部4は、人H以外の物体BであるダンボールB’や傘B”等についても、当該物体追跡部4自体(又は、上述の物体認識部2や姿勢認識部3)が抽出等した輪郭B’e、B”eや領域などに基づいて、ダンボールB’や傘B”における特徴部分(例えば、ダンボールB’であれば、箱状や、略平行四辺形状、略矩形状等における各角部分であったり、傘B”が開いていれば、略三日月形状の図形における凸円弧側の先端部分や凸円弧側と凹円弧側を繋ぐ両端部分や、略線状の先に付いた略「?」形状(把持部分など)であったり、傘B”が閉じていれば、略線状の先に付いた略「?」形状(把持部分など)とその反対側の先端部分など)の3次元空間中における移動経路Lを認識しても良い。
【0060】
ここで、本発明における「移動経路L」とは、ある時刻から別の時刻までの画像G(初端時刻から終端時刻までの画像であり、例えば、1秒間に30枚の画像Gが撮像されるとすれば、10秒間では、合計300枚の画像)から、人H等の全体や一部分(所定の関節Hjから先の部分HA、HB等)の3次元空間中における移動を示した線分(又は直線)などであり、初端時刻から終端時刻までの画像Gとは、初端時刻での画像Gと、終端時刻での画像Gを含む2枚以上の画像Gが存在している。
更に、本発明における「3次元空間中における移動を示した線分(又は直線)」とは、2つ以上の時刻での画像Gそれぞれでの3次元空間中における位置P(左右位置X、前後位置Y、上下位置Zなど)に基づいて認識される、3次元空間中における所定の線分又は直線である。
【0061】
例えば、時刻が2つであれば(つまり、初端時刻での画像Gと、終端時刻での画像Gの2枚しか画像がなければ)、初端時刻での3次元空間中における位置Pと、終端時刻での3次元空間中における位置Pを結んだ線分が、移動経路Lであると言える。
尚、3次元空間中における位置Pは、左右位置X、前後位置Y、上下位置Zなどの3つの値を1組にまとめたもので表現されるため、2つの時刻での3次元空間中における位置Pが、1つの3次元空間中に同時に存在した仮定することが出来、仮定したこれら2つの位置Pを結んだ線分が移動経路Lであるとも言える。
【0062】
又、時刻が3つ以上であれば(つまり、初端時刻での画像Gと、終端時刻での画像Gの2枚以外に、初端時刻と終端時刻の間の時刻での画像Gが1枚以上ある場合を示し、上述したように、1秒間に30枚の画像Gが撮像されるとすれば、10秒間において、初端時刻と終端時刻の間の時刻では、298枚の画像があることになる)、当該3つ以上の時刻での3次元空間中における位置Pそれぞれが1つの3次元空間中に同時に存在したと仮定し、仮定したこれら3つ以上の位置Pを結んだ線が移動経路Lであると言える。
又は、仮定したこれら3つ以上の位置Pそれぞれに対して、例えば、最小二乗法などにより、位置Pそれぞれとの距離の和が最小となる直線(謂わば、線分回帰した直線)が、移動経路Lであるとも言える。
尚、この移動経路Lが直線の場合、それらの両端は無限に延長され得るが、当該直線の両端が、初端時刻での3次元空間中における位置Pや、終端時刻での3次元空間中における位置Pから離れていくことになるため、厳密には、この移動経路Lは、初端時刻での3次元空間中における位置Pから当該直線(移動経路L)に下した垂線の足から、終端時刻での3次元空間中における位置Pから当該直線に下した垂線の足までの間の線分であるとも言える。
【0063】
その他、人H等の全体や一部分の3次元空間中における移動が、蛇行等をして曲線状である場合には、初端時刻での3次元空間中における位置Pと終端時刻での3次元空間中における位置Pを結んだ線分や、最小二乗法などで線形回帰した直線(又は線分)では、実際の移動とはかけ離れていると言えるため、初端時刻から終端時刻までの画像Gから、1つの3次元空間中に同時に存在した仮定された各時刻での3次元空間中における位置Pそれぞれに対して、非線形回帰をしたり、分割線形回帰をしても良い。
更には、人H等の全体や一部分の3次元空間中における移動が、曲線状か直線状かを問わず、物体追跡部4は、当該移動の認識を、ディープラーニングにて行っていても良い。
【0064】
詳解すれば、物体追跡部4も、多層化したディープニューラルネットワークを用い、初端時刻での画像Gから、終端時刻での画像Gまでを入力されるだけで、人H等の全体や一部分の3次元空間中における移動についての特徴量(パターン)の学習を自動で出来るとも言える。
尚、物体追跡部4には、所定の初端時刻から終端時刻での画像Gにおいて、何れの線が移動経路Lであるか等をラベル付けした画像Gを、事前に複数与えておき(謂わば、教師あり学習をさせておき)、物体追跡部4が自動で特徴量の学習し、当該物体追跡部4に入力された画像Gに対して、事前に学習した特徴量から、何れの線が移動経路Lであるか等を、スコアとして出力したり、入力された画像Gに対して認識した移動経路Lを示す表示を付けた画像Gを出力する等しても良い。
この他、物体追跡部4も、教師なし学習や、強化学習等をしていても良い。
【0065】
このように、物体追跡部4が、人H等の全体や一部分の3次元空間中における移動経路Lを認識すること等によって、例えば、人Hの肘Hjから先の部分HAの移動経路Lに基づけば、当該人Hの肘Hjから先の部分HAが、後述するゴミ収集車10の投入口12に入ったか否かが、より高い精度で判断できると言える。
又、物体追跡部4が、人H等の全体や一部分の3次元空間中における移動経路Lを認識する際、初端時刻での3次元空間中における位置Pと、終端時刻での3次元空間中における位置Pも、当然に認識していることから、人H等の全体や一部分の3次元空間中における移動は、移動経路Lだけでなく、初端時刻での3次元空間中における位置Pから、終端時刻での3次元空間中における位置Pまで移動したという向き(方向、ベクトル)も認識できる。このため、例えば、人Hの肘Hjから先の部分HAが、3次元空間中におけるある位置Pから別の位置Pへ移動したとの向きと、その移動経路Lに基づけば、当該人Hの肘Hjから先の部分HAが、後述するゴミ収集車10の投入口12に入ったか否かが、更により高い精度で判断できると言える。
以下、そのゴミ収集車10について述べる。
【0066】
<ゴミ収集車10>
図3~5に示したように、本発明に係るゴミ収集車10は、上述した物体検知システム1を用いた車(車両)であって、ゴミを収集する。
ここで、本発明における「ゴミ」とは、塵芥であるとも言え、この場合、ゴミ収集車10は、塵芥収集車両であるとも言える。
【0067】
又、本発明における「物体検知システム1を用いた」とは、当該物体検知システム1がゴミ収集車10に搭載された(謂わば、ゴミ収集車10は物体検知システム1を有した)ことを意味するだけでなく、ゴミ収集車10は、当該ゴミ収集車10とは別の場所にある(つまり、ゴミ収集車10には搭載されていない)物体検知システム1に、インターネットを介して接続し、物体検知システム1による物体認識・姿勢認識や、その他、物体追跡などを行うことも含む(図4参照)。
ゴミ収集車10は、カメラ11と、投入口12と、プレート13と、制御システム14を有している。
【0068】
その他、ゴミ収集車10は、当該ゴミ収集車10の車体フレーム21上には、後側に投入口12を有するゴミ収容箱22が搭載され、前側に運転席23等が設けられていても良い。
このゴミ収容箱22は、車体フレーム21に傾動可能に軸支されており、このゴミ収容箱22と車体フレーム21間に連結される傾動シリンダの伸長によりゴミ収集車10の後方に傾動できるようにされても良い。
【0069】
ゴミ収容箱22は、収容箱本体22aとゴミ投入箱22bとを有し、後述する投入口12を後端面に設けたゴミ投入箱22bが、収容箱本体22aの後端側を覆うように連接されている。このゴミ投入箱22bは、収容箱本体22aの後部上端に傾動可能に軸支されている。
その他、ゴミ収集車10は、当該ゴミ収集車10とは離れた場所にある物体検知システム1や、機器、装置等と、インターネットを介して又は直接に、有線又は無線にて通信を行う通信部を有し、この通信部にて画像Gや、動画(複数枚の連続した画像Gなど)を送受信していたり(図4参照)、カメラ11で撮像した画像Gや動画を録画する録画装置(又は、画像Gのデータを記憶する記憶部、図示せず)を有していても良く、これらの通信部や記憶部は、後述する制御システム14内に設けられていても構わない。
以下、ゴミ収集車10が有しているカメラ11等について述べる。
【0070】
<カメラ11>
図3、4に示したように、カメラ11は、上述した画像Gを撮像するもの(撮像装置)である。
カメラ11は、ゴミ収集車10に対して、後述する投入口12が画像G内に入る位置に取り付けられていても良い。
【0071】
カメラ11は、1つのゴミ収集車10に対して、2つ以上取り付けられていても(謂わば、ステレオカメラであっても)良く、又、カメラ11のレンズも、特に限定はないが、例えば、広角レンズであっても構わない。
カメラ11は、投入口12等やその近傍を略上方から撮像したり、投入口12等を略側方からや、略後方から撮像することで、当該カメラ11によって撮像された画像G内に、投入口12や、投入口12等近傍の所定エリアDが映っていれば、何れの場所に設けられていても良いが、例えば、ゴミ収容箱22の後端面の上側(換言すれば、後述する投入口12の上方にはカメラ11が取り付けられ、そのレンズの光軸が後斜下方に向けられていても良い。
【0072】
このようなカメラ11によって撮像された画像Gの範囲も、特に限定はないが、広角レンズを用いていた場合、例えば、画像G内における上側の一部に空が映っていたり、画像G内における左右側の一部に当該ゴミ収集車10の左右の後角部が映っていたりしても良く、又、当該ゴミ収集車10から後ろへ約10m先の地点も、画像G内に映っていても構わない。
その他、カメラ11は、ゴミ収集車10の運転者が後方を監視するためのバックカメラとして用いられるものであっても良い。
又、カメラ11が取り付けられた箇所の下方や側方等の近傍には、作業灯(図示せず)が設けられていても良い。
【0073】
<投入口12>
図3、4に示したように、投入口12は、上述したように、ゴミ収容箱22(ゴミ投入箱22b)の後端面に設けられ、ゴミをゴミ収容箱22に投入可能とする開口部分である。
投入口12は、上述したよう、カメラ11に撮像され、画像G内には、当該投入口12や、投入口12等近傍の所定エリアDが映っていても良い。
又、投入口12は、常に開いていても良いが、開閉可能であっても構わない。
【0074】
投入口12は、ゴミ収容箱22の後端側の外部から、当該ゴミ収容箱22に内部を連通する開口部分であるとも言え、作業員等の人Hが、その肘Hjから先の部分(手や前腕など)HA等を投入口12に入れると、投入口12を略上方等から撮像しているカメラ11による画像Gにおいては、その肘Hjから先の部分HA等が隠れる(つまり、画像G内から肘Hjから先の部分HA等が見えなくなる)。これにより、物体検知システム1(特に、姿勢認識部3)は、人Hの一部分である肘H1から先の部分HA等が投入口12内に入ったと判断している。尚、以下の説明では「人Hの一部分が投入口12内に入ったこと」を「隠れた」と表記する場合がある。
尚、投入口12も、画像G内に映っていることから、当然、上述した物体認識部2にて、その投入口12の3次元空間中における位置Pも認識されても良く、この「投入口12の3次元空間中における位置P」とは、実際の投入口12が所定の広さを有し、且つ、ゴミ収集車10に取り付けたカメラ11と投入口12の位置関係から、画像G内において左右方向に略沿った所定の線分より下方側となり、当該所定の線分の両端が、実際の投入口12の左右端縁となる。
尚、カメラ11を投入口12の上縁や投入口12の内側(ゴミ投入箱22b内)に設けた場合は人H(や肘H1から先の部分HA等の人の一部分)は投入口12に隠れないため、投入口12と重なり合う部分に人Hの一部分がある場合には人Hの一部分が投入口12に入ったと判断できる。
【0075】
又、人Hが肘Hjから先の部分HA等を投入口12に入れた状態等で、後述するプレート13を動かすことは、避けるものとする。
以下、プレート13について述べる。
【0076】
<プレート13>
図3、4に示したようにプレート13は、上述した投入口12に投入されたゴミを、ゴミ収容箱22aの奥に掻込み可能な略板状の部分(部材)である。
プレート13は、投入口12内のゴミをゴミ収容箱22aの奥に掻込み可能であれば、その構成は特に限定はないが、例えば、1つのゴミ収集車10の投入口12近傍において、2か所に設けられていたり(図3(a)参照)、1つのゴミ収集車10の投入口12近傍に1か所だけ設けられていても良く、又、プレート13の形状も特に限定はない(図3(a)、(b)参照)。
【0077】
図3(a)について言えば、プレート13は、上述したゴミ投入箱22b内に設けられ、当該ゴミ投入箱22b内に投入されたゴミを、当該ゴミ投入箱22b内の底部より前方上部に掻き上げるため、回転モータにより支持軸回りに回転可能な第1プレート13aと、この第1プレート13a上のゴミを収容箱本体22a内に押し込むため、押込シリンダにより支持軸回りに前後方向に揺動可能な第2プレート13bであっても良い。
尚、図3(b)の場合については、プレート13は、上述した第1プレート13aのみであり、この第1プレート13aが、ゴミを収容箱本体22aに掻き込む役割を果たしているとも言える。
【0078】
プレート13(第1、2プレート13a、13b)は、その回転角度や揺動角度を検出できるように、その支持軸にエンコーダ等のセンサが取り付けられていても良い。
このように、プレート13における回転角度等を検出することで、当該プレート13の位置がわかるとも言える。
このようなプレート13等を制御する制御システム14を、以下に述べる。
【0079】
<制御システム14>
図4、5に示したように制御システム14は、上述したプレート13を少なくとも制御するシステムであり、コンピュータで構成されていても良い。
制御システム14は、<1-1>上述した画像G内における人Hの一部分(肘Hjから先の部分HAや、膝Hjから先の部分HB等)が、上述した投入口12に隠れて第1の時間(例えば、5秒)以上時間が経過した場合、<1-2>上述した画像G内における人Hの一部分が投入口12に隠れて第2の時間(例えば、5秒)以上時間が経過し、且つ、上述したプレート13が所定位置にある場合、<1-3>上述した画像G内における人H全体が所定エリアDに入って第3の時間(例えば、15秒)以上時間が経過した場合の<1-1>~<1-3>の何れかの場合には、上述したプレート13の掻込みを停止させる。
【0080】
ここで、本発明の<1-1>や<1-2>における「人Hの一部分が投入口12に隠れて5秒以上時間(謂わば、人Hの一部分の投入口12への隠れ時間)が経過した場合」とは、隠れて5秒ちょうどが経過した(隠れ時間がちょうど5秒である)場合だけでなく、隠れて6秒ちょうど、7秒ちょうど、8秒ちょうど、9秒ちょうど、10秒ちょうど、11秒ちょうど、12秒ちょうど、13秒ちょうど、14秒ちょうど、15秒ちょうど等が経過した(隠れ時間がちょうど6秒・・・である)場合も当然に含み、その他、「人Hの一部分が投入口12に隠れて10秒以上時間が経過した場合」や、「人Hの一部分が投入口12に隠れて15秒以上時間が経過した場合」であっても良い。
本発明の<1-3>における「画像G内における人H全体が所定エリアDに入って15秒以上時間(謂わば、人H全体の所定エリアDへの入り時間)が経過した場合」とは、同様に、入って15秒ちょうどが経過した場合だけでなく、入って16秒ちょうど、17秒ちょうど、18秒ちょうど、19秒ちょうど、20秒ちょうど、21秒ちょうど、22秒ちょうど、23秒ちょうど、24秒ちょうど、25秒ちょうど等が経過した(入り時間がちょうど16秒・・・である)場合も当然に含み、その他、「人Hの一部分が投入口12に隠れて20秒以上時間が経過した場合」や、「人Hの一部分が投入口12に隠れて25秒以上時間が経過した場合」であっても良い。
尚、ここまでは、第1の時間~第3の時間以上経過するのを待ってプレート13の掻き込みを停止したが、人Hの一部分が投入口12に入ると直ちに(時間の経過を待たずに)プレート13の掻き込みを停止しても良い。
【0081】
尚、本発明における「画像G内における人Hの一部分が投入口12に隠れる」とは、同じ1つの画像G内における人Hの一部分と投入口12について、文字通り、当該画像G内に映っていた人Hの一部分が画像G内から消える(画像G内には映っていない状態となる)ことを意味し、この人Hの一部分が画像G内から消えたことは、物体認識部2や姿勢認識部3によって認識されると言え、人Hの一部分が左右一対ある(例えば、左右の肘Hjから先の部分HAや、左右の膝Hjから先の部分HB等である)場合には、少なくとも左右のうち何れかの人Hの一部分が投入口12に隠れることを意味する。
ここで、人Hの一部分が画像G内から消えたことの物体認識部2や姿勢認識部3による認識は、同じ1つの画像G内における人Hの一部分と投入口12について、上述した姿勢認識部3に認識された当該人Hの一部分(肘Hjから先の部分HAや、膝Hjから先の部分HB等)の3次元空間中における位置Pが、所定エリアD側、例えば、上述した物体認識部2に認識された投入口12である線分より、当該画像Gにおいて下方側に位置するか否かで認識させても良い。
【0082】
又、本発明における「プレート13が所定位置にある場合」とは、支持軸回りに回転や揺動するプレート13が、所定の回転位置や、所定の揺動位置である場合を意味する。
ここで、プレート13の所定位置の中でも、特に、プレート13の先端と上述したゴミ投入箱22b内の底部における後側の上端(投入口12の下端)との側面視における距離が、所定の値以下となる(プレート13の先端が投入口12の下端に近接する)所定位置(所定の回転位置等)は、危険位置であるとも言える。
【0083】
更に、本発明における「所定エリアD」とは、3次元空間中において所定位置にある所定形状(略直方体状や略立方体状等)・所定の大きさのエリアであり、平面視で(又は、カメラ11の側から見て)、投入口12の下端近傍の所定形状(厳格に平面視であれば略矩形状や略正方形状等であり、カメラ11側から見てであれば(換言すれば、画像G内に映っている所定エリアDの形状が)、湾曲した略矩形状や略台形状等)・所定広さのエリアであると同時に、側面視では、投入口12近傍の所定形状(略矩形状や略正方形状等)・所定広さのエリアであると言える。
この所定エリアDの位置や大きさは、特に限定はないが、例えば、当該所定エリアDが実際の3次元空間中において略直方体状であれば、その最前面が、平面視で投入口12の下端に接する位置(又は、当該下端から数cmの位置)にあったり、その最下面が、側面視で地面から数十cm(10cm以上70cm以下など)の位置にあっても良く、その大きさは、例えば、前後長さが10cm以上100cm以下(約20cmや約50cmなど)であったり、上下長さが30cm以上300cm以下(約60cmや約150cmなど)であったり、左右長さが60cm以上600cm以下(約240cmや約300cmなど)であっても構わない。
【0084】
尚、その最前面が平面視で投入口12の下端に接する位置等にある所定エリアDは、危険エリアであるとも言える。
そして、本発明における「画像G内における人H全体が所定エリアDに入る」とは、同じ1つの画像G内における人H全体と所定エリアDについて、文字通り、当該画像G内に映っていた人H全体が所定エリアDに入ることを意味し、この人H全体が所定エリアDに入ったことは、物体認識部2によって認識されると言える。
【0085】
ここで、人H全体が所定エリアDに入ったことの物体認識部2等による認識は、同じ1つの画像G内における人H全体と所定エリアDについて、上述した物体認識部2等に認識された当該人H全体の3次元空間中における位置Pが、物体認識部2によって認識等されていた所定エリアDの領域内に入っているか否かで認識させても良い。
例えば、画像G内において、人H全体の3次元空間中における位置Pが、人Hが占める領域(所定形状の図形)としての重心であったり、姿勢認識部3にて認識された腰関節の位置である場合には、当該位置Pが、実際に画像G内に映っている所定エリアDの領域内に入っているか否かであり、又、人H全体の3次元空間中における位置Pが、人Hが立っている地面等と接触した足(母指球など)の位置であれば、当該位置Pが、所定エリアDを地面に投影させた領域内に入っているか否かである。
そして、本発明における「プレート13の掻込みを停止させる」とは、上述の<1-1>~<1-3>の何れかの場合となった時点で、その時点におけるプレート13の位置(回転位置や揺動位置)のままの位置を維持するように停止させたり、当該その時点におけるプレート13の位置から若干プレート13先端が投入口12の下端から遠ざかる位置となってから停止させたり、当該その時点におけるプレート13の位置のままの位置を維持しつつ作業員等が手でプレート13先端を投入口12の下端から遠ざけられるように停止させること等を意味する。
【0086】
制御システム14は、<2-1>上述した画像G内におけるダンボールB’及び/又は傘B”の面積が、当該画像Gの面積の第1の割合(例えば、30%)以上を占める場合、<2-2>上述した画像Gに異常があった場合の<2-1>、<2-2>の何れかの場合には、上述した物体検知システム1では検知不能であると判断しても良い。
ここで、本発明の<2-1>における「画像G内におけるダンボールB’及び/又は傘B”の面積が、当該画像Gの面積の30%以上を占める(謂わば、ダンボールB’及び/又は傘B”の画像Gに対する面積率が30%以上である)場合」について、画像G内におけるダンボールB’及び/又は傘B”の面積は、当該画像Gの面積の40%以上を占めたり(面積率が40%以上・・・であったり)、該画像Gの面積の50%以上を占めたり、該画像Gの面積の60%以上を占めたり、当該画像Gの面積の70%以上を占めたり、当該画像Gの面積の80%以上を占めたり、当該画像Gの面積の90%以上を占めたり、当該画像Gの面積の100%を占める場合も含む。
【0087】
尚、本発明における「画像G内におけるダンボールB’及び/又は傘B”の面積」とは、上述した物体認識部2が認識した所定の解像度(dpi、dots per inch)である画像G内において、同じ解像度であるダンボールB’及び/又は傘B”の領域内の画素数(ピクセル数)そのものである、又は、当該画素数から算出されると言える。
又、本発明における「画像Gの面積」とは、上述した解像度である画像Gの縦の画素数(ピクセル数)と、横の画素数(ピクセル数)の積そのものである、又は、当該画素数から算出されると言える。
よって、本発明における「ダンボールB’及び/又は傘B”の画像Gに対する面積率」は、所定の解像度であるダンボールB’及び/又は傘B”の領域内の画素数等を、同じ解像度である画像Gの縦の画素数と横の画素数の積等で割ったものを100倍した値であると言える。
【0088】
ここで、ダンボールB’及び/又は傘B”等の画像G内における位置Pが、画像G内における所定エリアDを覆う位置であったり、所定エリアD近傍であれば、上述した面積率が低くとも、物体検知システム1による物体Bの検知が不能か否かには関係し易いとも言える。そのため、所定エリアD内におけるダンボールB’及び/又は傘B”の面積が、当該所定エリアDの面積の第2の割合(例えば30%)以上を占める場合(条件<2-1’>)には、上述した物体検知システム1では検知不能であると判断してもよい。
そして、本発明における「画像Gに異常があった場合」とは、画像Gの状況により、物体検知システム1では正常に物体Bを検知することが出来なくなる場合であり、例えば、画像G全体が真っ暗や、真っ白等となったり、画像Gを撮像するカメラ11等が故障したり、カメラ11と制御システム14との間のケーブルが断線した場合などを含む。
【0089】
その他、制御システム14は、カメラ11の光軸等がずれるなど、当該カメラ11の位置が異常となった場合には、カメラずれを検知したことを、作業員等に出力しても良い。
又、制御システム14は、プレート13の制御だけでなく、上述したカメラ11のオン・オフや、カメラ11におけるレンズの光軸の向きや、投入口12の開閉なども制御していても良い。
【0090】
<その他>
本発明は、前述した実施形態に限定されるものではない。物体検知システム1や、ゴミ収集車10の各構成又は全体の構造、デザイン形状、寸法、重量などは、本発明の趣旨に沿って適宜変更することが出来る。
物体検知システム1は、上述した物体認識部2と姿勢認識部3や、その他、物体追跡部4を有しているが、これら物体認識部2、姿勢認識部3、物体追跡部4により、常に物体認識・姿勢認識・物体追跡を同時に行っても良いが、逆に、これらの部2~4全てを同時に機能させず、物体認識・姿勢認識・物体追跡のうち何れか1つだけを行う時や場合等や、物体認識・姿勢認識・物体追跡のうち何れか2つだけを行う時や場合等があっても構わない。又、物体検知システム1は、物体認識部2と姿勢認識部3のみを有し、常に物体認識・姿勢認識を同時に行っても良いが、逆に、これらの部2、3を同時に機能させず、物体認識・姿勢認識のうち何れか1つだけを行う時や場合等があっても構わない。
【0091】
又、物体検知システム1は、上述した物体認識・姿勢認識・物体追跡のうち、何れか1つ又は2つを先に行ってから、残り2つ又は1つを行う(例えば、物体認識・姿勢認識の2つを同時に行ってから、残りの1つの物体追跡を行うなど)でも良い。又、物体検知システム1は、物体認識部2と姿勢認識部3のみを有し、物体認識・姿勢認識のうち、何れかを先に行ってから、残りを行っても良い。
物体検知システム1は、上述した物体認識部2や姿勢認識部3や、その他、物体追跡部4が一体となったものを有していたり、これらの各部2~4のうち2つが一体となったものを有していても良い。又、物体検知システム1は、物体認識部2と姿勢認識部3のみを有し、これらが一体となったものを有していても良い。
【0092】
物体検知システム1は、上述した物体認識部2や姿勢認識部3、物体追跡部4とは別に、画像G内における人H等輪郭Heや領域などを抽出等したり、その他、画像Gのノイズや歪みなどを取り除いたり、画像Gにおいて当該人Hの輪郭He等を強調したり、画像Gの明度や色合い(色調、色相や彩度)を調整する等の少なくとも1つを行う前処理部(図示せず)を有し、この前処理部にて画像Gから抽出等された人H等の輪郭Heや領域などに基づいて、上述した物体認識部2では画像G内における人Hを実際の人であると少なくとも認識し、姿勢認識部3では画像G内における人Hの姿勢を認識し、物体追跡部4では画像G内における人Hの移動を少なくとも追跡しても良い。
尚、物体検知システム1が前処理部を有している場合でも、物体認識部2は「画像G内における人Hの輪郭Heに基づいて」人H全体の3次元空間中における位置Pを認識していると言え、姿勢認識部3は「画像G内における人Hの輪郭Heに基づいて」人Hにおける所定の関節Hjを認識し、認識した所定の関節Hjから先の部分HA、HB等の3次元空間中における位置Pを認識していると言え、物体追跡部4は「画像G内における人Hの輪郭Heに基づいて」人H全体の3次元空間中における移動経路L、及び/又は、所定の関節Hjから先の部分HA、HB等の3次元空間中における移動経路Lを認識していると言える。
物体検知システム1は、上述したプレート13の掻込みを停止させる条件として<1-1>~<1-3>の何れかの場合を例示したが、少なくとも<1-1>と<1-3>の条件の何れかの場合に上述したプレート13の掻込みを停止させれば良く、<2-1>、<2-2>の何れかの場合に検知不能であるとの判断は省略しても良い。
【0093】
物体検知システム1は、上述した上述した物体認識部2と姿勢認識部3や、その他、物体追跡部4を有し、人H等が映った画像Gを入力されるのであれば、当該画像Gを撮像するカメラ(ゴミ収集車10のカメラ11等)や、ゴミ収集車10は有していなくとも良い。
物体検知システム1は、検出対象色を事前に登録等しておらず、又、検知対象である物体Bの色情報(色相や彩度等)を用いず検知できるが、検知対象である物体Bが特徴的な色の装着物を装着していても判断することができる。
【産業上の利用可能性】
【0094】
本発明に係る物体検知システムは、画像内における人などの物体認識・人の姿勢認識や、その他、人などの物体追跡により物体を検知するため、ゴミ収集車の投入口近傍における人の危険動作や、危険状態の検知に利用できる他、ゴミ収集車以外であっても、ダンプトラックや、散水車、コンクリートポンプ、ミキサートラック、テールゲートリフタ、タンクローリ、給水車、粉粒体運搬車、脱着ボデー車、積車輌運搬車、レールコンテナ、消防用省力装置、林業・バイオマス関連製品、施設関係、機器・装置関係、立体駐車装置、コインパーキング、防水板など、何れの車(車両)や装置、製品、施設、機器などの近傍における画像内における人などの物体認識・人の姿勢認識・人などの物体追跡により物体検知に利用可能である。
本発明に係るゴミ収集車は、当該ゴミ収集車で作業員が着用する手袋や作業着などの色を問わず、何れの自治体や組織等においても利用できる他、ゴミ収集車の投入口へ、作業員以外の一般の方がゴミを投入する場合など、何れの色の衣服等を着用しているかに寄らず、投入口近傍における全ての人の危険動作や、危険状態の対応に利用可能である。
【符号の説明】
【0095】
1 物体検知システム
2 物体認識部
3 姿勢認識部
4 物体追跡部
10 ゴミ収集車
11 カメラ
12 投入口
13 プレート
14 制御システム
G 画像
B 物体
H 人
He 人の輪郭(エッジ)
Hj 人の所定の関節(ジョイント)
P 3次元空間中における位置
L 3次元空間中における移動経路
D 所定エリア(危険エリア等)
S 遮蔽物
図1
図2
図3
図4
図5