【実施例1】
【0026】
本発明の実施例1の選別システム100は、住宅などの解体処理時あるいは災害時に発生する瓦礫などの選別する選別システムに適用した場合を例として説明する。勿論、実施例1としてこのような廃棄物を例にとって本発明を説明したとしても、それが本発明の技術的範囲を何ら限定するものではない。
【0027】
本実施例1の選別システム100は、
図1の概略説明図で示すように、廃棄物1の搬送手段としてのコンベア20と、コンベア20上の廃棄物W1,W2,W3・・・を順次撮像する撮像装置群10を備えている。この撮像装置群10は、実施例1の選別システムにおいては、RGBカメラ11、X線カメラ12、近赤外線カメラ13、3Dカメラ14から成っている。勿論、どのような撮像装置を設けるかは、判別すべき廃棄物の素材に応じて選択することができる。さらに、コンベア20の供給部近傍の箇所に廃棄物W1,W2,W3・・・の重量を計測する重量センサ15を備えている。コンベア20上の廃棄物W1,W2,W3・・・が、一つずつ重量センサ15の上を通過するように構成することによって一つずつの重量が計測できる。勿論、適当なロボットによって廃棄物W1,W2,W3・・・を一つずつ摘みあげて重量を計測しても良い。
【0028】
一般的にこのような廃棄物W1,W2,W3・・・を流すコンベア20を配置している環境
81は人間にとっては劣悪な環境である。そこで、撮像装置群10で撮像した廃棄物W1,W2,W3・・・の画像を表示する表示手段としてのモニタ30は、コンベア20が配置された選別室とは隔壁80等で隔離された良好な環境
82内に設置されている。
【0029】
実施例1の廃棄物選別システムでは、コンベア20上の廃棄物W1,W2,W3・・・を摘み上げて選別するロボットアーム50と、撮像装置群10(RGBカメラ11、X線カメラ12、近赤外線カメラ13、3Dカメラ14)で撮像した各画像データを画像処理する画像処理部41、選別教師データ生成部42、機械学習部43、選別処理部44、選別教師データ記憶部45などを備えた制御部40(
図2)を主要な構成部としている。この選別教師データ記憶部45は、外部サーバやクラウド内に蓄積することも可能である。
【0030】
本実施例1においては、選別対象である廃棄物は、木材、プラスチック、紙、サイディング、石膏ボードや繊維、ガラス、鉄系金属、非鉄金属など多種多様な素材が混在するものであり、加えて、詳細には図示していないが、解体処理された廃棄物W1,W2,W3・・・の大きさや形状はバラバラで中には素材の確認も困難な細かな廃棄物も混在している。このため、本実施例1の選別システム100では、
図1に示すように、廃棄物Wを選別する際の前処理として廃棄物W1,W2,W3・・・を搬送するメインのコンベア20の前方にサブコンベア21を配置し、メインコンベア20とサブコンベア21の間に振動篩装置22を配置し、この振動篩装置22によって廃棄物Wを所定の大きさ(50mm)以下のものを篩い落としてからコンベア20に供給している。なお、本実施例1においてコンベア20とサブコンベア21はベルト式コンベアによって構成されているが、ローラコンベアやバケット式のコンベアなど、廃棄物Wを搬送できる構成であればよい。
【0031】
撮像装置群10は、コンベア20上により搬送されてきた廃棄物W1,W2,W3・・・の形状及び色彩画像を撮影するRGBカメラ11、廃棄物のX線透過画像を撮影するX線カメラ12、廃棄物の近赤外線画像を撮影する近赤外線カメラ13、廃棄物の3次元画像を撮影する3Dカメラ14等から成り、コンベア20で搬送される廃棄物W1,W2,W3・・・は、それぞれのカメラ11〜14でそれぞれの画像が撮像され、これらの画像データを画像処理部30によって画像処理して表示手段としてのモニタ30に表示している。それらの画像の表示例は
図2に示している。
【0032】
制御部40は、例えば、コンピュータなどから構成されているが、コンピュータとしてパーソナルコンピュータ(PC)で構成されてもよく、ワークステーション、サーバ装置のような大型コンピュータでもよい。また、スマートフォンやタブレットなど携帯型コンピュータによって制御することも可能である。一般的な制御部40は、
図3の機能ブロック図で示すように、画像処理部41、選別教師データ生成部42、機械学習部43、選別処理部44、教師データ記憶部45などで構成されている。
【0033】
画像処理部30に対しては、それぞれの機能のカメラ11〜14で撮像された画像データ及び重量センサ15で取得した数値的なデータが出力され、各カメラ11〜14で撮像された画像データを画像処理し、かつ重量センサ15で取得した数値的なデータに基づいて計算処理して、それらの結果をモニタ20に表示している。
図2に示すようにモニタ20の中央部のメイン画面11AにはRGBカメラ11で撮像された画像が表示され、X線カメラ12で撮像されたX線画像、近赤外線カメラ13で撮像された近赤外線画像、3Dカメラ14で撮像された3次元画像は、それぞれサブ画面12A〜14Aに表示される。これらのサブ画面12A乃至14Aの画面は、選択することにより、中央部のメイン画面11Aに表示することも可能である。また、重量センサ15で取得した重量の数値データは、表示部22に表示されている。
【0034】
本実施例1におけるセンサは、例えば、重量センサ15からなっており、
図1に示すように、コンベア20上を搬送される廃棄物W1,W2,W3・・・の夫々の重量を計測するとともに、3Dカメラ14で撮像された画像の輪郭から廃棄物W1,W2,W3・・・の体積を演算処理し、さらに、その体積と重量センサ15で取得した重量から廃棄物W1,W2,W3・・・の比重を演算して表示部22に廃棄物W1,W2,W3・・・の重量、体積、比重を表示することができる。これらはセンサを介して得られた測定データであるために信頼性は極めて高く、例えば、得られた比重は廃棄物の素材を決定するには信頼可能な重要なデータとなる。
【0035】
また、他のセンサとして、ロボットアーム50の把持部に圧力センサ16を設け、ロボットアーム50で廃棄物W1,W2,W3・・・を把持した際に、廃棄物W1,W2,W3・・・からの反力を検知し、廃棄物W1,W2,W3・・・の硬さを示す数値データを表示部22に表示するように構成してもよい。
【0036】
また、本発明が対象とする廃棄物には、「木くず」「繊維くず」「プラスチック」「鉄系金属」「非鉄金属」「紙」「ガラス」等の多くの素材の廃棄物が混ざっているものであるが、本実施例1のモニタ30においては、
図2に示すように、例えば「木くず」「プラスチック」「鉄系金属」及び「非鉄金属」の4種類の素材判別入力部21と「その他」の素材判別入力部23が表示されている。
【0037】
本実施例1の廃棄物選別システムの作業者は、モニタ30の中央部に表示されるRGBカメラ11で撮像されたメイン画面11Aに表示される画像1A、及び重量センサ15により計測され計算されて表示部22に表示される廃棄物W1,W2,W3・・・の数値データから、コンベア20上の廃棄物W1,W2,W3・・・の素材を判断し、作業者が判断した素材に該当する入力部21を選択することによって、廃棄物W1,W2,W3・・・の素材を指定する。
図2に示した実施例においては、モニタ30に表示されたソフトスイッチ21の何れかを選択して接触することにより素材判定の信号が出力されるが、
図1に示すように、モニタ30とは別に設けられた判別素材入力部60を設けて、判別素材を入力するように構成してもよい。
【0038】
この判別素材入力部21を選択したことにより出力される素材判別信号は、選別処理部44と教師データ生成部42に入力され、選別処理部44によってロボットアーム50を駆動して廃棄物W1,W2,W3・・・を素材別に選別する。その際、ロボットアーム50はコンベア20上の廃棄物W1,W2,W3・・・を個別に把持し、素材に対応する回収ボックス70にそれぞれの廃棄物W1,W2,W3・・・を排出して廃棄物W1,W2,W3・・・を分別する。なお、本実施例では、前述のように、入力部21への入力操作に関してタッチパネル式のモニタ20を用い、モニタ20に表示される入力部21を押圧操作することによって素材情報を入力しているが、例えば、マウス、タブレットペンでの入力など各種の入力デバイスに適用可能である。さらに、モニタ20と独立したスイッチ式の入力部60等を備え、この入力部をスイッチ操作して素材を指定することも可能である。また、音声による素材指定も可能である。
【0039】
制御部40の選別教師データ生成部41は、前記各カメラ11〜14で撮像された画像データ及び重量センサ15で取得した数値的なデータを紐付けするとともに、前記入力部21(判別素材入力部60)からの入力によって作業者が指定した素材情報を紐付けし、これらを教師データD(
図1)として教師データ記憶部45に記憶する。なお、教師データDは、機械学習部43により学習を実施するようにプログラミング処理される。この学習方法として、誤差逆伝播法による最適化手法を用いた畳み込みニューラルネットワークにより機械学習を実施するように構成されている。これにより、撮像装置群10(11〜14)で撮像される廃棄物1の画像11A〜14Aから、その素材を認識するようにデータベース化される。なお、実施例1では、教師データ記憶部45はハードディスク(HDD)、半導体メモリ、フラッシュメモリ、ネットワークサーバ等で構成されている。
【0040】
次に、本実施例1での選別方法について更に説明する。まず、サブコンベア21に廃棄物Wを供給し、選別の前処理として振動篩装置22によって廃棄物Wを所定の大きさ以下(50mm)の廃棄物を篩い落してから廃棄物W1,W2,W3・・・をコンベア20に供給する。なお、予め篩い落とした廃棄物Wに対してさらに磁力選別し、鉄やチタンなどの強磁性体を予め選別してからロボットアーム50による選別を行うようにしてもよい。すなわち、鉄などの磁性体は、磁力選別により容易に選別できるため、予め磁性体を除去してから、その他の素材の選別を行えば、素材を判定する作業者の負担が少なくなる。一方、教師データ記憶部34により、多くの素材選別の教師データDをデータベース化して学習効果を高めるることを優先するのであれば、磁力選別処理しない廃棄物Wをコンベア20に供給するものであってもよい。要は、作業効率を優先するか学習効果を高めた教師データDの蓄積を優先するかは、本システムの使用に関するユーザのニーズに応じて選定すればよい。
図1に示す廃棄物の選別システムは、予めの磁力選別処理をしないシステムが示されている
【0041】
図4のフローチャートを参照して本実施例1のシステムの選別手順について説明すると、振動篩装置22により規定サイズ以下の廃棄物Wを篩い落と後、廃棄物W1,W2,W3・・・をコンベア20に供給して当該コンベア20で廃棄物W1,W2,W3・・・を搬送する(ステップS1)。
【0042】
次に、コンベア20で搬送される廃棄物W1,W2,W3・・・を撮像装置群10(RGBカメラ11、X線カメラ12、近赤外線カメラ13、3Dカメラ14)で撮像するとともに(ステップS2)、重量センサ15によって廃棄物W1,W2,W3・・・の重量を計測する(ステップS3)。なお、このステップS2、S3の順序を逆にし、すなわち、先に重量センサ15によって廃棄物W1,W2,W3・・・の重量を検知(ステップS3)してから廃棄物W1,W2,W3・・・を撮像装置群10で撮像(ステップS2)するようにしてもよい。また、重量以外のデータの計測、例えば、硬度の計測、放射能の計測、濡れているか否か等の検知については、適宜のステップで行うことができる。
【0043】
撮像装置群10からの画像データ11A,12A,13A,14A及び、重量センサ15(及びその他センサ)によって検知した廃棄物W1,W2,W3・・・の重量データ(及びその他計測データ)を画像処理部41で画像処理してモニタ30に表示する(ステップS4)。モニタ30に表示される画像データは、実施例1のシステムにおいては、RGBカメラ11で撮像されたカラー画像11A、X線カメラ12で撮像されたX線画像12A、近赤外線カメラ13で撮像された近赤外線画像13A、3Dカメラ14で撮像された3次元画像14Aである。また、モニタ30の表示部22には、重量センサ15で取得した重量データや3次元画像データ14Aの輪郭から算出した体積及び比重の各データがが重量データと共に表示される(ステップS5)。
【0044】
この廃棄物選別システムの作業者は、モニタ30に表示される画像11A,12A,13A,14A及び、廃棄物Wの重量、体積、比重の各データを確認し、選別対象の廃棄物Wの素材を判断し、その素材に該当する入力部21を押して廃棄物Wの素材を指定する(ステップS6)。なお、作業者がモニタ30に表示される画像11A,12A,13A,14Aや各計測データを確認しても素材が分からない場合、入力部23の「その他」を押すと、素材不明な廃棄物Wとして処理され、ロボットアーム50で取り出すことなく、コンベア20から素材が判別できなかった「その他」の廃棄物として排出され(ステップS7)、人力による判別のステップに回される。もしくは音声による指定で操作も出来る。
【0045】
ステップS6において廃棄物Wの素材が指定されると、選別教師データ生成部42は、各カメラ11〜14で撮像された画像データ11A〜14Aと重量センサ15等で取得した計測データに対して作業者が指定した素材情報を紐付けし(ステップS8)、これを教師データDとして深層学習による機械学習を実施し(ステップS9)、撮像装置群10(11〜14)で撮像される画像11A〜14A及び計測データと指定された素材とが認識されて記憶部34に記憶される(ステップS10)。
【0046】
また、ステップS6において廃棄物Wの素材が指定されると、入力部21から選別処理部44に信号が出力され、選別処理部44によってロボットアーム50を駆動する。ロボットアーム50は、コンベア20上の廃棄物W1,W2,W3・・・を取り出し、作業者が指定した素材に対応する回収ボックス70に廃棄物W1,W2,W3・・・を摘み上げて排出することによって、廃棄物Wが素材毎に選別される(ステップS11)。
【0047】
以上のように構成される本実施例1においては、モニタ30は廃棄物W1,W2,W3・・・が搬送されるコンベア20から離れたエリア82に設置され、モニタ30で確認しながら廃棄物W1,W2,W3・・・の素材を判定して指定することによって、ロボットアーム50を遠隔操作している。すなわち、従来のこの種の瓦礫の選別において手作業で選別処理を行う場合、解体によって発生する瓦礫は、鋭利なガラス片や釘などの不用意に手で触れると怪我などの危険を伴う。特に、近年の震災で発生した放射性物質を含んだ瓦礫の選別処理は、作業者の安全性を確保するために必然的にロボットアーム50による遠隔操作によって瓦礫を選別することになる。このような、遠隔操作による廃棄物Wの選別は、撮像装置群10で撮影した画像を作業者が確認して廃棄物Wの素材を判定するための手法自体は、従来から行われた一般的な方法であった。また、自動的に選別するシステムもあったが、選別の精度が完全ではなかった。
【0048】
本実施例1は、このような、従来から行われている廃棄物Wを遠隔操作で選別を指示する選別システムにおいて、廃棄物Wの素材を判別して指定するシステムを組み合わせることによって、各カメラ11〜14で撮像された画像データ11A〜14Aと重量センサ15等で取得したデータとが素材情報と自動的に紐付けされ、選別教師データDを作成することができる。教師データDはコンベア20に供給される廃棄物W1,W2,W3・・・を、本システムを操作する作業者が素材を指定する毎に学習を実施し、制御部40が撮像装置群10(11〜14)で撮像される画像11A〜14A及び計測データに紐付けられて廃棄物の素材と関連付けられて認識されて教師データ記憶部45に記憶され、データベース化される。すなわち、作業者は従来の遠隔操作による選別手順と同じ方法で選別作業するだけで、選別システムとしては、それぞれ形状や大きさ、色調、色彩が異なる種々の廃棄物W1,W2,W3・・・の素材が機械学習によってデータベース化されるため、極めて効率的に素材毎の選別データが学習され収集されることになる。なお、この選別システム100のデータ学習と収集は、単独の選別システム100の運営に限らず、複数の選別システム100あるいは異なる選別処理施設に設置した選別システム100同士をネットワークで接続し、各選別システム100からのデータを記憶部45に記憶することにより、より高度な学習効果を達成することも可能である。
【0049】
また、廃棄物選別の人工知能プログラムとして、木材専用の人工知能プログラム、プラスチック専用の人工知能プログラムというように、材料毎に学習された人工知能プログラムがあり、それぞれの人工知能プログラムにより、自らの材料に該当しているかいないかと判断する手法を採用するっこともできる。これにより、一つの人工知能プログラムにより、どの素材であるかを判断するよりも、判断速度と正確性の向上が期待できる。
【実施例2】
【0050】
前記実施例1は、遠隔操作による選別システム100において、教師データDを記憶部45に記憶しながらも、モニタ30に表示される画像11A,12A,13A,14A及び、廃棄物Wの重量、体積、比重の各データを確認し、選別対象の廃棄物Wの素材を判断し、その素材に該当する入力部21を押して廃棄物Wの素材を指定する(ステップS6)例を示したが、本実施例2では、操作者による素材判別の情報は入力しながらも、より記憶部45に格納される教師データDに基づいて廃棄物Wを人工知能によって自動選別する例を示している。
【0051】
これにより、実施例1では、廃棄物の素材の判別には、操作者による判断と指定が優先するものであるが、この実施例1の廃棄物選別システムを運用することにより、システムが選別すべき廃棄物の素材が何であったかの情報を収集し、そのデータを日々追加して記憶することにより人工知能として学習することができるものである。そして、実施例2の廃棄物選別システムにおいては、学習された人工知能を使った自動選別を行うと同時に、更に操作者による選別を付加し、それが何であったかの情報を収集し、そのデータをシステム側に与え人工知能に再学習させることができる。これにより人工知能の選別精度、選別速度が向上され続けるものである。
【0052】
以下、
図5のブロック図を参照して本実施例2について説明する。なお、
図5において、実施例1と共通する部分には同一符号を付し、重複する部分の説明を省略し、異なる部分についてのみ説明する。
【0053】
本実施例2の制御部40は、
図5のブロック図に示すよう、前記各カメラ11〜14で撮像された画像データと記憶部34に格納された選別教師データとを比較して廃棄物1の素材を判定する素材判定部55を備える点において実施例1と異なり、その他の構成は実施例1と実質的に共通する。
【0054】
以上のように、
図5で構成される本実施例2での廃棄物の素材の判定方法について
図6のフローチャートを参照して説明する。なお、本実施例2の廃棄物1の選別手順については、実施例1の
図4に示すフローチャートのステップS1〜S5までは同一であるために省略する。
【0055】
本実施例2における素材判定部46は、機械学習部43の学習結果によって各カメラ11〜14で撮像された画像データ11A〜14Aから廃棄物W1,W2,W3・・・の素材を判定する(ステップS20)。この素材判定部46での廃棄物W1,W2,W3・・・の素材の判定は、機械学習部43の学習結果が十分であれば精度が高く判別できるが、学習結果が不十分な場合は判別の精度が低くなる。そこで、所定の判別精度(例えば、判別精度85%)以上の場合は判別可とし、それ以下の場合は判別否とすることができる。
【0056】
この判定において、ステップ20で判別可であり、例えば「木材」と判定された場合、選別教師データ生成部31によって画像データに素材情報を紐付けし(ステップS21)、これを教師データDとして深層学習による機械学習を実施して(ステップS22)、撮像装置10で撮像される画像1Aの素材を認識して記憶部34に記憶する(ステップS23)。これにより、ロボットアーム50は、ステップ20で判別可の状態で、素材判別部46から出力された情報により廃棄物W1,W2,W3・・・の選別処理が実行される(ステップS24)。
【0057】
次に、ステップS20において、廃棄物W1,W2,W3・・・の素材の判定が否と判断された場合(ステップ20で「否」)を考える。このような場合には、例えば、モニタ30上で警告表示あるいは警報音によって作業者に報知することも可能である。このように廃棄物W1,W2,W3・・・の素材が判定され得ないと判断された場合、作業者によるモニタ30の廃棄物Wの画像11A〜14Aや表示部22の情報を確認して作業者の判断で素材を判定して入力部21を選択押圧して廃棄物Wの素材を指定する(ステップS25)。このように、作業者が廃棄物Wの素材を指定すると、その作業者からの判別指示が優先して、ロボットアーム50による廃棄物W1,W2,W3・・・の選別処理が実行される(ステップS24)。また、ステップS25において、廃棄物W1,W2,W3・・・の素材が指定されると、ステップS21において、制御部40の選別教師データ生成部42によって画像データ11A〜14A及び計測情報に素材判別情報が紐付され、この後は、教師データDとして学習を実施して撮像装置群10で撮像される画像11A〜14Aの素材認識を学習して教師データ記憶部45に記憶する(ステップS22、S23)。
【0058】
また、ステップS20において廃棄物Wの素材の判別を「否」と判断し、制御部による素材の判別を指定しない場合、上記説明のように、操作者の判断を優先してロボットアーム50を作動させることも可能であるし、ロボットアーム50を作動させることなく、素材不明な廃棄物Wとしてコンベア20からその他の廃棄物として排出さすることもできる。
【0059】
以上のように、本実施例2では、機械学習部43の学習結果によって各カメラ11〜14で撮像された画像データ11A〜14Aから廃棄物W1,W2,W3・・・の素材を判定する素材判定部46を備えることにより、コンベア20を流れる廃棄物W1,W2,W3・・・の素材を判定することができ、その判定結果に従ってロボットアーム50による自動選別が可能となる。また、素材不明の判定結果に従って作業者が素材を判定するようにしても、作業者の負担を大幅に軽減することが可能である。さらに、素材不明の廃棄物Wを作業者が判定することで素材情報が紐付けされた教師データDとして教師データ記憶部45に記憶されるので、以後の判定精度の向上が可能となる。本実施例2においては、教師データ記憶部45は、外部サーバとして設けている。
【0060】
以上、本発明の実施例1及び2について詳述したが、本発明は前記実施例に限定さるものではなく、種々の変形実施が可能である。例えば、上述した実施例では、建築物を解体処理した際に発生する廃棄物あるいは瓦礫の選別システムに適用した場合を例として説明したが、これに限らず一般家庭から排出されるゴミあるいは家電製品を選別するシステムに適用してもよい。その際、深層学習の最適化手法やネットワーク構成は、学習対象に依存するため、一般家庭のゴミや家電製品など、選別する廃棄物の種類に最適なものを適用すればよい。また、センサとして重量センサや圧力センサに限るものではなく、素材に判別する上に効果的なセンサや計測器であればよい。