特許第6959197号(P6959197)IP Force 特許公報掲載プロジェクト 2022.1.31 β版

知財求人 - 知財ポータルサイト「IP Force」

▶ KDDI株式会社の特許一覧

特許6959197ゴミ分別支援システム、端末装置、ゴミ分別支援方法、及びプログラム
<>
  • 特許6959197-ゴミ分別支援システム、端末装置、ゴミ分別支援方法、及びプログラム 図000002
  • 特許6959197-ゴミ分別支援システム、端末装置、ゴミ分別支援方法、及びプログラム 図000003
  • 特許6959197-ゴミ分別支援システム、端末装置、ゴミ分別支援方法、及びプログラム 図000004
  • 特許6959197-ゴミ分別支援システム、端末装置、ゴミ分別支援方法、及びプログラム 図000005
  • 特許6959197-ゴミ分別支援システム、端末装置、ゴミ分別支援方法、及びプログラム 図000006
  • 特許6959197-ゴミ分別支援システム、端末装置、ゴミ分別支援方法、及びプログラム 図000007
  • 特許6959197-ゴミ分別支援システム、端末装置、ゴミ分別支援方法、及びプログラム 図000008
  • 特許6959197-ゴミ分別支援システム、端末装置、ゴミ分別支援方法、及びプログラム 図000009
  • 特許6959197-ゴミ分別支援システム、端末装置、ゴミ分別支援方法、及びプログラム 図000010
  • 特許6959197-ゴミ分別支援システム、端末装置、ゴミ分別支援方法、及びプログラム 図000011
< >
(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】6959197
(24)【登録日】2021年10月11日
(45)【発行日】2021年11月2日
(54)【発明の名称】ゴミ分別支援システム、端末装置、ゴミ分別支援方法、及びプログラム
(51)【国際特許分類】
   G06Q 50/10 20120101AFI20211021BHJP
   B65F 5/00 20060101ALI20211021BHJP
【FI】
   G06Q50/10ZAB
   B65F5/00
【請求項の数】6
【全頁数】22
(21)【出願番号】特願2018-151500(P2018-151500)
(22)【出願日】2018年8月10日
(65)【公開番号】特開2020-27407(P2020-27407A)
(43)【公開日】2020年2月20日
【審査請求日】2020年5月28日
【前置審査】
(73)【特許権者】
【識別番号】000208891
【氏名又は名称】KDDI株式会社
(74)【代理人】
【識別番号】100165179
【弁理士】
【氏名又は名称】田▲崎▼ 聡
(74)【代理人】
【識別番号】100175824
【弁理士】
【氏名又は名称】小林 淳一
(74)【代理人】
【識別番号】100114937
【弁理士】
【氏名又は名称】松本 裕幸
(72)【発明者】
【氏名】南 雄也
【審査官】 宮地 匡人
(56)【参考文献】
【文献】 特開2010−143645(JP,A)
【文献】 特開2018−125589(JP,A)
【文献】 特開2004−210438(JP,A)
【文献】 特開2007−066121(JP,A)
【文献】 特開2013−140563(JP,A)
(58)【調査した分野】(Int.Cl.,DB名)
G06Q 10/00−99/00
B65F 5/00
(57)【特許請求の範囲】
【請求項1】
端末装置と、サーバとを備えるゴミ分別支援システムであって、
前記端末装置は、
ゴミの画像情報を取得する画像入力部と、
自端末装置の位置を測位する位置測位部と、
前記画像入力部が取得した前記ゴミの前記画像情報と、前記位置測位部が測位した前記自端末装置の位置情報とを含み、前記ゴミの分別の判定を要求する信号であるゴミ分別判定要求を作成する制御部と、
前記制御部が作成した前記ゴミ分別判定要求を前記サーバへ送信し、送信した前記ゴミ分別判定要求に対する応答信号であるゴミ分別応答を受信する通信部と、
前記通信部が受信した前記ゴミ分別応答に含まれるゴミの分別方法を示す画像情報を取得し、取得した前記ゴミの分別方法を示す画像情報に基づいて、ゴミの分別方法を示す画像と、前記画像入力部が取得したゴミ箱の画像情報から得られる前記ゴミ箱の前記画像とを合成して表示する画像出力部とを備え、
前記サーバは、
前記端末装置が送信した前記ゴミ分別判定要求に含まれる前記ゴミの前記画像情報と、前記自端末装置の前記位置情報とを取得し、取得した前記ゴミの前記画像情報に基づいて、前記ゴミの画像の特徴量を抽出し、抽出した前記ゴミの画像の前記特徴量に該当する前記ゴミの分別名称を、ゴミの画像の特徴量と該ゴミの画像で示されるゴミの分別名称とを関連付けて記憶したデータベースから取得し、取得した前記ゴミの前記分別名称と前記自端末装置の前記位置情報とに基づいて、前記ゴミの分別方法を示す情報を取得し、取得した前記ゴミの前記分別方法を示す情報に基づいて、前記ゴミの前記分別方法を示す画像情報を取得し、取得した前記ゴミの前記分別方法を示す画像情報を含む前記ゴミ分別応答を作成する画像認識部と、
前記画像認識部が作成した前記ゴミ分別応答を、前記端末装置へ送信するサーバ通信部と
を備え
前記画像入力部は、前記ゴミ箱の前記画像情報を取得し、
前記制御部は、前記ゴミ箱の前記画像情報をさらに含む前記ゴミ分別判定要求を作成し、
前記画像認識部は、前記端末装置が送信した前記ゴミ分別判定要求に含まれる前記ゴミ箱の前記画像情報をさらに取得し、取得した前記ゴミ箱の前記画像情報と、前記自端末装置の前記位置情報とに基づいて、前記ゴミ箱の位置情報を取得し、
取得した前記ゴミの前記分別名称と前記ゴミ箱の前記位置情報とに基づいて、前記ゴミの前記分別方法を示す情報を取得する、ゴミ分別支援システム。
【請求項2】
前記端末装置は、
前記自端末装置の向きを検出する姿勢検出部
を備え、
前記画像出力部は、前記姿勢検出部が検出した前記向きを示す情報に基づいて、前記画像入力部が取得した前記ゴミ箱の前記画像情報から得られる前記ゴミ箱の前記画像に合成する前記ゴミの前記分別方法を示す画像の位置を補正する、請求項1に記載のゴミ分別支援システム。
【請求項3】
前記画像認識部は、取得した前記ゴミの前記画像情報と前記自端末装置の前記位置情報とに基づいて、前記自端末装置の位置から所定の範囲のゴミ箱の位置情報を取得し、
前記サーバ通信部は、前記画像認識部が取得した前記ゴミ箱の前記位置情報をさらに含む前記ゴミ分別応答を作成する、請求項1又は請求項に記載のゴミ分別支援システム。
【請求項4】
ゴミの画像情報とゴミ箱の画像情報とを取得する画像入力部と、
自端末装置の位置を測位する位置測位部と、
前記画像入力部が取得した前記ゴミの前記画像情報に基づいて、前記ゴミの画像の特徴量を抽出し、抽出した前記ゴミの画像の前記特徴量に該当する前記ゴミの分別名称を、ゴミの画像の特徴量と該ゴミの画像で示されるゴミの分別名称とを関連付けて記憶したデータベースから取得し、取得した前記ゴミの前記分別名称とゴミ箱の画像情報と前記位置測位部が測位した前記自端末装置の位置情報とに基づいて取得される前記ゴミ箱の位置情報とに基づいて、前記ゴミの分別方法を示す情報を取得し、取得した前記ゴミの前記分別方法を示す情報に基づいて、前記ゴミの前記分別方法を示す画像情報を取得する画像認識部と、
前記画像認識部が取得した前記ゴミの前記分別方法を示す前記画像情報に基づいて、前記ゴミの前記分別方法を示す画像と、前記画像入力部が取得したゴミ箱の画像情報から得られる前記ゴミ箱の前記画像とを合成して表示する画像出力部と
を備える、端末装置。
【請求項5】
端末装置と、サーバとを備えるゴミ分別支援システムが実行するゴミ分別支援方法であって、
前記端末装置が、ゴミの画像情報とゴミ箱の画像情報とを取得するステップと、
前記端末装置が、自端末装置の位置を測位するステップと、
前記端末装置が、前記ゴミの前記画像情報と、前記ゴミ箱の前記画像情報と、前記自端末装置の位置情報とを含み、前記ゴミの分別の判定を要求する信号であるゴミ分別判定要求を作成するステップと、
前記端末装置が、前記ゴミ分別判定要求を前記サーバへ送信するステップと、
前記サーバが、前記端末装置が送信した前記ゴミ分別判定要求に含まれる前記ゴミの前記画像情報と、前記ゴミ箱の前記画像情報と、前記自端末装置の前記位置情報とを取得するステップと、
前記サーバが、前記ゴミの前記画像情報に基づいて、前記ゴミの画像の特徴量を抽出し、抽出した前記ゴミの画像の前記特徴量に該当する前記ゴミの分別名称を、ゴミの画像の特徴量と該ゴミの画像で示されるゴミの分別名称とを関連付けて記憶したデータベースから取得するステップと、
前記サーバが、前記ゴミの分別名称と、前記ゴミ箱の前記画像情報と前記自端末装置の前記位置情報とに基づいて取得される前記ゴミ箱の位置情報とに基づいて、前記ゴミの分別方法を示す情報を取得するステップと、
前記サーバが、前記ゴミの前記分別方法を示す情報に基づいて、前記ゴミの前記分別方法を示す画像情報を取得するステップと、
前記サーバが、前記ゴミの前記分別方法を示す前記画像情報を含むゴミ分別応答を作成するステップと、
前記サーバが、前記ゴミ分別応答を、前記端末装置へ送信するステップと、
前記端末装置が、前記サーバが送信した前記ゴミ分別応答を受信するステップと、
前記端末装置が、前記ゴミ分別応答に含まれる前記ゴミの前記分別方法を示す前記画像情報を取得し、取得した前記ゴミの前記分別方法を示す前記画像情報に基づいて、前記ゴミの前記分別方法を示す画像と、取得したゴミ箱の画像情報から得られる前記ゴミ箱の前記画像とを合成して表示するステップと
を有する、ゴミ分別支援方法。
【請求項6】
端末装置と通信を行うサーバのコンピュータに、
前記端末装置が送信したゴミ分別判定要求に含まれるゴミの画像情報と、ゴミ箱の前記画像情報と、前記端末装置の位置情報とを取得するステップと、
取得した前記ゴミの前記画像情報に基づいて、前記ゴミの画像の特徴量を抽出し、抽出した前記ゴミの画像の前記特徴量に該当する前記ゴミの分別名称を、ゴミの画像の特徴量と該ゴミの画像で示されるゴミの分別名称とを関連付けて記憶したデータベースから取得するステップと、
取得した前記ゴミの前記分別名称と、前記ゴミ箱の前記画像情報と前記端末装置の前記位置情報とに基づいて取得される前記ゴミ箱の位置情報とに基づいて、前記ゴミの分別方法を示す情報を取得するステップと、
取得した前記ゴミの前記分別方法を示す情報に基づいて、前記ゴミの前記分別方法を示す画像情報を取得するステップと、
前記ゴミの前記分別方法を示す前記画像情報を含むゴミ分別応答を作成し、作成した前記ゴミ分別応答を、前記端末装置へ送信するステップと
を実行させる、プログラム。
【発明の詳細な説明】
【技術分野】
【0001】
本発明の実施形態は、ゴミ分別支援システム、端末装置、ゴミ分別支援方法、及びプログラムに関する。
【背景技術】
【0002】
廃棄するゴミの分別情報を、ゴミを廃棄しようとしている自治体における分別情報に応じて特定し、かつそれを回収する容器まで指定する技術が知られている(例えば、特許文献1参照)。この技術では、端末は、自治体を特定する情報をサーバに送信することにより、サーバに存在する自治体情報の一覧と自治体別ゴミ分別情報の一覧と回収協力店情報の一覧から該当する自治体の自治体ゴミ分別情報を取得し、取得した自治体ゴミ分別情報と廃棄しようとしている商品の商品分別情報とを照合することによりゴミの分別方法を簡単に特定する。さらに、この技術では、端末に保持してある回収容器ゴミ分別情報の一覧から該当するゴミを回収する容器を特定し、分別作業の負荷軽減と分別精度の向上を実現する。
【先行技術文献】
【特許文献】
【0003】
【特許文献1】特開2005−173961号公報
【発明の概要】
【発明が解決しようとする課題】
【0004】
従来の技術では、ユーザが端末を操作し、廃棄するゴミの属性情報を入力すると、廃棄すべきゴミ箱の情報が得られる。しかし、ゴミを捨てるときに端末を操作してゴミの属性情報を入力しなければ、廃棄すべきゴミ箱の情報を得ることができない。また、仮にペットボトルを廃棄する場合に、ラベルはプラ製容器包装、本体は資源ゴミ、キャップは容器包装プラスチックなど、一つの商品が複数の分別対象に分離され、分離された分別対象の処分先ゴミ箱が別れてしまう場合がある。そのため、廃棄するゴミの分別方法を、文章や図解で説明することが複雑となる場合がある。
本発明は、上記問題を解決すべくなされたもので、その目的は、ゴミの分別の利便性を向上できるゴミ分別支援システム、端末装置、ゴミ分別支援方法、及びプログラムを提供することにある。
【課題を解決するための手段】
【0005】
(1)本発明の一態様は、端末装置と、サーバとを備えるゴミ分別支援システムであって、前記端末装置は、ゴミの画像情報を取得する画像入力部と、自端末装置の位置を測位する位置測位部と、前記画像入力部が取得した前記ゴミの前記画像情報と、前記位置測位部が測位した前記自端末装置の位置情報とを含み、前記ゴミの分別の判定を要求する信号であるゴミ分別判定要求を作成する制御部と、前記制御部が作成した前記ゴミ分別判定要求を前記サーバへ送信し、送信した前記ゴミ分別判定要求に対する応答信号であるゴミ分別応答を受信する通信部と、前記通信部が受信した前記ゴミ分別応答に含まれるゴミの分別方法を示す画像情報を取得し、取得した前記ゴミの分別方法を示す画像情報に基づいて、ゴミの分別方法を示す画像と、前記画像入力部が取得したゴミ箱の画像情報から得られる前記ゴミ箱の前記画像とを合成して表示する画像出力部とを備え、前記サーバは、前記端末装置が送信した前記ゴミ分別判定要求に含まれる前記ゴミの前記画像情報と、前記自端末装置の前記位置情報とを取得し、取得した前記ゴミの前記画像情報に基づいて、前記ゴミの画像の特徴量を抽出し、抽出した前記ゴミの画像の前記特徴量に該当する前記ゴミの分別名称を、ゴミの画像の特徴量と該ゴミの画像で示されるゴミの分別名称とを関連付けて記憶したデータベースから取得し、取得した前記ゴミの前記分別名称と前記自端末装置の前記位置情報とに基づいて、前記ゴミの分別方法を示す情報を取得し、取得した前記ゴミの前記分別方法を示す情報に基づいて、前記ゴミの前記分別方法を示す画像情報を取得し、取得した前記ゴミの前記分別方法を示す画像情報を含む前記ゴミ分別応答を作成する画像認識部と、前記画像認識部が作成した前記ゴミ分別応答を、前記端末装置へ送信するサーバ通信部とを備え、前記画像入力部は、前記ゴミ箱の前記画像情報を取得し、前記制御部は、前記ゴミ箱の前記画像情報をさらに含む前記ゴミ分別判定要求を作成し、前記画像認識部は、前記端末装置が送信した前記ゴミ分別判定要求に含まれる前記ゴミ箱の前記画像情報をさらに取得し、取得した前記ゴミ箱の前記画像情報と、前記自端末装置の前記位置情報とに基づいて、前記ゴミ箱の位置情報を取得し、取得した前記ゴミの前記分別名称と前記ゴミ箱の前記位置情報とに基づいて、前記ゴミの前記分別方法を示す情報を取得する、ゴミ分別支援システムである。
)本発明の一態様は、上記(1)に記載のゴミ分別支援システムにおいて、前記端末装置は、前記自端末装置の向きを検出する姿勢検出部を備え、前記画像出力部は、前記姿勢検出部が検出した前記向きを示す情報に基づいて、前記画像入力部が取得した前記ゴミ箱の前記画像情報から得られる前記画像に合成する前記ゴミの前記分別方法を示す画像の位置を補正する。
)本発明の一態様は、上記(1)又は上記(2)に記載のゴミ分別支援システムにおいて、前記画像認識部は、取得した前記ゴミの前記画像情報と前記自端末装置の前記位置情報とに基づいて、前記自端末装置の位置から所定の範囲のゴミ箱の位置情報を取得し、前記サーバ通信部は、前記画像認識部が取得した前記ゴミ箱の前記位置情報さらに含む前記ゴミ分別応答を作成する。
)本発明の一態様は、ゴミの画像情報とゴミ箱の画像情報とを取得する画像入力部と、自端末装置の位置を測位する位置測位部と、前記画像入力部が取得した前記ゴミの前記画像情報に基づいて、前記ゴミの画像の特徴量を抽出し、抽出した前記ゴミの画像の前記特徴量に該当する前記ゴミの分別名称を、ゴミの画像の特徴量と該ゴミの画像で示されるゴミの分別名称とを関連付けて記憶したデータベースから取得し、取得した前記ゴミの前記分別名称とゴミ箱の画像情報と前記位置測位部が測位した前記自端末装置の位置情報とに基づいて取得される前記ゴミ箱の位置情報とに基づいて、前記ゴミの分別方法を示す情報を取得し、取得した前記ゴミの前記分別方法を示す情報に基づいて、前記ゴミの前記分別方法を示す画像情報を取得する画像認識部と、前記画像認識部が取得した前記ゴミの前記分別方法を示す前記画像情報に基づいて、前記ゴミの前記分別方法を示す画像と、前記画像入力部が取得したゴミ箱の画像情報から得られる前記ゴミ箱の前記画像とを合成して表示する画像出力部とを備える、端末装置である。
)本発明の一態様は、端末装置と、サーバとを備えるゴミ分別支援システムが実行するゴミ分別支援方法であって、前記端末装置が、ゴミの画像情報とゴミ箱の画像情報とを取得するステップと、前記端末装置が、自端末装置の位置を測位するステップと、前記端末装置が、前記ゴミの前記画像情報と、前記ゴミ箱の前記画像情報と、前記自端末装置の位置情報とを含み、前記ゴミの分別の判定を要求する信号であるゴミ分別判定要求を作成するステップと、前記端末装置が、前記ゴミ分別判定要求を前記サーバへ送信するステップと、前記サーバが、前記端末装置が送信した前記ゴミ分別判定要求に含まれる前記ゴミの前記画像情報と、前記ゴミ箱の前記画像情報と、前記自端末装置の前記位置情報とを取得するステップと、前記サーバが、前記ゴミの前記画像情報に基づいて、前記ゴミの画像の特徴量を抽出し、抽出した前記ゴミの画像の前記特徴量に該当する前記ゴミの分別名称を、ゴミの画像の特徴量と該ゴミの画像で示されるゴミの分別名称とを関連付けて記憶したデータベースから取得するステップと、前記サーバが、前記ゴミの分別名称と、前記ゴミ箱の前記画像情報と前記自端末装置の前記位置情報とに基づいて取得される前記ゴミ箱の位置情報とに基づいて、前記ゴミの分別方法を示す情報を取得するステップと、前記サーバが、前記ゴミの前記分別方法を示す情報に基づいて、前記ゴミの前記分別方法を示す画像情報を取得するステップと、前記サーバが、前記ゴミの前記分別方法を示す前記画像情報を含むゴミ分別応答を作成するステップと、前記サーバが、前記ゴミ分別応答を、前記端末装置へ送信するステップと、前記端末装置が、前記サーバが送信した前記ゴミ分別応答を受信するステップと、前記端末装置が、前記ゴミ分別応答に含まれる前記ゴミの前記分別方法を示す前記画像情報を取得し、取得した前記ゴミの前記分別方法を示す前記画像情報に基づいて、前記ゴミの前記分別方法を示す画像と、取得したゴミ箱の画像情報から得られる前記ゴミの前記画像とを合成して表示するステップとを有する、ゴミ分別支援方法である。
)本発明の一態様は、端末装置と通信を行うサーバのコンピュータに、前記端末装置が送信したゴミ分別判定要求に含まれるゴミの画像情報と、ゴミ箱の前記画像情報と、前記端末装置の位置情報とを取得するステップと、取得した前記ゴミの前記画像情報に基づいて、前記ゴミの画像の特徴量を抽出し、抽出した前記ゴミの画像の前記特徴量に該当する前記ゴミの分別名称を、ゴミの画像の特徴量と該ゴミの画像で示されるゴミの分別名称とを関連付けて記憶したデータベースから取得するステップと、取得した前記ゴミの前記分別名称と、前記ゴミ箱の前記画像情報と前記端末装置の前記位置情報とに基づいて取得される前記ゴミ箱の位置情報とに基づいて、前記ゴミの分別方法を示す情報を取得するステップと、取得した前記ゴミの前記分別方法を示す情報に基づいて、前記ゴミの前記分別方法を示す画像情報を取得するステップと、前記ゴミの前記分別方法を示す前記画像情報を含むゴミ分別応答を作成し、作成した前記ゴミ分別応答を、前記端末装置へ送信するステップとを実行させる、プログラムである。
【発明の効果】
【0006】
本発明によれば、ゴミの分別の利便性を向上できるゴミ分別支援システム、端末装置、ゴミ分別支援方法、及びプログラムを提供できる。
【図面の簡単な説明】
【0007】
図1】本発明の実施形態のゴミ分別支援システムの一例を示す図である。
図2】本発明の実施形態のゴミ分別支援システムを構成するサーバのハードウェア構成と、端末装置のハードウェア構成との一例を示す図である。
図3】本発明の実施形態のゴミ分別支援システムを構成するサーバと、端末装置とを示すブロック図である。
図4】本発明の実施形態のゴミ分別支援システムの動作の一例を示すシーケンスチャートである。
図5】本発明の実施形態のゴミ分別支援システムの動作の一例を示す図である。
図6】本発明の実施形態のゴミ分別支援システムの動作の一例を示す図である。
図7】本発明の実施形態のゴミ分別支援システムの動作の一例を示す図である。
図8】本発明の実施形態のゴミ分別支援システムの動作の一例を示す図である。
図9】本発明の実施形態のゴミ分別支援システムの動作の一例を示す図である。
図10】本発明の実施形態のゴミ分別支援システムを構成する端末装置を示すブロック図である。
【発明を実施するための形態】
【0008】
次に、本実施形態のゴミ分別支援システム、端末装置、ゴミ分別支援方法、及びプログラムを、図面を参照しつつ説明する。以下で説明する実施形態は一例に過ぎず、本発明が適用される実施形態は、以下の実施形態に限られない。なお、実施形態を説明するための全図において、同一の機能を有するものは同一符号を用い、繰り返しの説明は省略する。
また、本願でいう「XXに基づく」とは、「少なくともXXに基づく」ことを意味し、XXに加えて別の要素に基づく場合も含む。また、「XXに基づく」とは、XXを直接に用いる場合に限定されず、XXに対して演算や加工が行われたものに基づく場合も含む。「XX」は、任意の要素(例えば、任意の情報)である。
【0009】
(実施形態)
(ゴミ分別支援システム)
図1に示すように、本実施形態のゴミ分別支援システム3は、サーバ1と、端末装置2とを備える。サーバ1と端末装置2との間は、携帯電話網、インターネットなどのネットワーク4を介して接続される。観光地、空港などの外国人が多い公共施設にゴミ箱5が設置される。訪日客などの観光客は、端末装置2にインストールされているゴミ分別アプリを起動する。ゴミ分別アプリが起動することによって、端末装置2は、「分別対象のゴミとゴミ箱とを撮影してください」などのゴミとゴミ箱との撮影(撮像)を促すメッセージを表示する。
端末装置2のユーザ(観光客)は、端末装置2に表示されたメッセージにしたがって、ゴミとゴミ箱とを撮影する。ユーザが撮影することによって、端末装置2は、ゴミの画像情報と、ゴミ箱の画像情報とを生成する。端末装置2は、端末装置2の識別情報と、端末装置2の位置情報と、生成したゴミの画像情報と、ゴミ箱の画像情報とを含むゴミ分別判定要求を作成し、作成したゴミ分別判定要求を、サーバ1へ送信する。
【0010】
サーバ1は、端末装置2が送信したゴミ分別判定要求に含まれるゴミの画像情報に基づいて、ゴミの分別名称などの属性を識別し、ゴミ箱の画像情報に基づいて、ゴミ箱の構成を識別し、ゴミの属性の識別結果とゴミ箱の構成の識別結果とに基づいて、ゴミの分別方法の説明文と、ゴミの分別方法を説明するための情報(以下「ゴミ分別方法説明情報」という)を取得する。ゴミの分別方法は、ゴミ箱5が設置された地域のルールにしたがったものである。サーバ1は、取得したゴミ分別方法説明情報を含み、端末装置2をあて先とするゴミ分別応答を作成し、作成したゴミ分別応答を、端末装置2へ送信する。端末装置2は、サーバ1が送信したゴミ分別応答を受信し、受信したゴミ分別応答に含まれるゴミ分別方法説明情報に基づいて、拡張現実技術(AR: Augmented Reality)により、端末装置2が備える撮像部が撮影したゴミ箱の画像に、ゴミの分別方法を合成して表示する。
図1に示される例では、ゴミ箱5は、可燃ゴミ箱51と、不燃ゴミ箱52と、資源ゴミ箱53との3個の分別ゴミ箱を含む。可燃ゴミ箱51、不燃ゴミ箱52、資源ゴミ箱53などの複数の分別ゴミ箱の各々には、互いに異なる色、文字などの識別情報が割り当てられている。例えば、複数の分別ゴミ箱の各々に、互いに異なる色が割り当てられている場合には、一例として、可燃ゴミ箱51の筐体は赤色で塗装され、不燃ゴミ箱52の筐体は青色で塗装され、資源ゴミ箱53の筐体は緑色で塗装される。
ゴミ箱5を設置した場合に、設置者は、ゴミ箱5の画像情報、文字情報などのゴミ箱の特徴が判別できる情報と、そのゴミ箱5の構成を示す情報(以下「ゴミ箱構成情報」という)を、サーバ1に入力する。以下、ゴミ箱の特徴が判別できる情報の一例として、ゴミ箱5の画像情報を使用した場合について説明を続ける。サーバ1は、ゴミ箱5の画像情報に基づいて、ゴミ箱5の画像の特徴量を導出し、導出したゴミ箱5の画像の特徴量と、ゴミ箱構成情報とを関連付けて記憶する。具体的には、設置者は、サーバ1を操作することによって、ゴミ箱5の画像情報を入力し、入力したゴミ箱5の画像の特徴量を認識させる。設置者は、ゴミ箱構成情報を入力し、サーバ1に、ゴミ箱5の画像の特徴量と、ゴミ箱構成情報とを関連付けて、記憶させる。ゴミ箱構成情報の一例は、各分別ゴミ箱が、可燃ゴミ、不燃ゴミ、資源ゴミのいずれかに該当するかを示す情報である。ここで、可燃ゴミとは燃やせるゴミのことであり、具体的には、生ゴミ、紙くず、繊維くず、プラスチック類、ゴムや皮革などがあげられる。不燃ゴミとは燃やせないゴミのことであり、具体的には、金属、ガラス、陶磁器を原材料とした製品があげられる。資源ゴミとは一般に再資源化が可能なゴミであり、主に缶、ペットボトル、瓶、紙類、電池、金属塊などがあげられる。サーバ1は、ゴミ箱5の画像の特徴量とゴミ箱構成情報とを関連付けて記憶する。
【0011】
ゴミ分別支援システムが実際に使用される場合について説明する。ゴミを捨てようとする者(以下「ユーザ」という)は、端末装置2を操作することによって、ゴミ分別アプリを起動する。ゴミ分別アプリが起動することによって、端末装置2は、ゴミとゴミ箱との撮影を促すメッセージを表示する。端末装置2のユーザは、端末装置2に表示されたメッセージにしたがって、ゴミとゴミ箱とを撮影する。ユーザが撮影することによって、端末装置2は、ゴミの画像情報と、ゴミ箱の画像情報とを生成する。端末装置2は、生成したゴミの画像情報と、ゴミ箱の画像情報と、端末装置2の向きを示す情報と、端末装置2の識別情報と、端末装置2の位置情報とを含むゴミ分別判定要求を作成し、作成したゴミ分別判定要求を、サーバ1へ送信する。サーバ1は、端末装置2が送信したゴミ分別判定要求を受信し、受信したゴミ分別判定要求に含まれるゴミの画像情報と、ゴミ箱の画像情報と、端末装置2の向きを示す情報と、端末装置2の識別情報と、端末装置2の位置情報とを取得する。サーバ1は、取得したゴミの画像情報に基づいて、ゴミの画像からゴミの画像の特徴量を抽出する。サーバ1は、取得したゴミ箱の画像情報に基づいて、ゴミ箱の画像から、ゴミ箱の画像の特徴量を抽出する。
サーバ1は、抽出したゴミの画像の特徴量を示す情報に基づいて、ゴミの画像の特徴量とそのゴミの画像で示されるゴミの分別名称とを関連付けて記憶したデータベースから、そのゴミの画像の特徴量に該当するゴミの分別名称を検索する。また、サーバ1は、抽出したゴミ箱の画像の特徴量を示す情報に基づいて、ゴミ箱の画像の特徴量とそのゴミ箱の構成情報とを関連付けて記憶したデータベースから、そのゴミ箱の画像の特徴量に該当するゴミ箱の構成情報を示す情報を取得する。また、サーバ1は、取得した端末装置2の位置情報と、端末装置の向きを示す情報とに基づいて、ゴミ箱5の位置を推定する。サーバ1は、ゴミ箱5の位置の推定結果に基づいて、地域を示す情報と、その地域でのゴミの分別方法とを関連付けて記憶するデータベースから、そのゴミ箱5の位置の推定結果に該当する地域を示す情報に関連付けて記憶されているゴミの分別方法を示す情報を取得する。
さらに、サーバ1は、取得したゴミの分別方法を示す情報に基づいて、ゴミの分別方法を示す情報と、そのゴミ分別方法説明情報を関連付けて記憶したデータベースから、そのゴミの分別方法を示す情報に該当するゴミ分別方法説明情報を取得する。サーバ1は、取得したゴミ分別方法説明情報を含むゴミ分別応答を作成し、作成したゴミ分別応答を、端末装置2へ送信する。
端末装置2は、サーバ1が送信したゴミ分別応答を受信し、受信したゴミ分別応答に基づいて、端末装置2のユーザに、ゴミ箱5を撮像させる。端末装置2は、ゴミ分別応答に含まれるゴミ分別方法説明情報に基づいて、拡張現実技術により、端末装置2が撮像したゴミ箱5に、ゴミ分別方法説明情報を合成して表示する。以下、ゴミ分別支援システムを構成するサーバ1と、端末装置2とについて、説明する。
【0012】
(ゴミ分別支援システムのハードウェア構成)
図2を参照して、ゴミ分別支援システム3を構成するサーバ1のハードウェア構成と端末装置2のハードウェア構成とについて順次説明する。サーバ1は、CPU152と、メモリ154と、不揮発性メモリ156と、操作部162と、通信I/F166と、内部バス150とを備えている。CPU152は、例えば不揮発性メモリ156に格納されるプログラム1562を実行し、メモリ154をワークメモリとして使用して、サーバ1の各部を制御する。メモリ154は、半導体素子を利用した揮発性のメモリなどのRAMによって構成され、CPU152のワークメモリとして使用される。不揮発性メモリ156は、例えばROM等によって構成される。不揮発性メモリ156には、CPU152によって実行されるプログラム1562と、端末情報1563と、ゴミ別特徴量1564と、ゴミ箱別特徴量1565と、地域別分別情報1566と、分別方法説明情報1567とが格納される。端末情報1563と、ゴミ別特徴量1564と、ゴミ箱別特徴量1565と、地域別分別情報1566と、分別方法説明情報1567とについては、後述する。
操作部162は、ゴミ箱5の設置者などの操作を受け付ける入力デバイスである。具体的には、設置者は、操作部162を操作することによって、ゴミ箱5の画像情報と、ゴミ箱構成情報とを入力する。通信I/F166は、外部機器や、ネットワーク4に接続された端末装置2などと通信して、データの送受信を行うためのインターフェースである。具体的には、通信I/F166は、ワイファイ(登録商標)等の無線通信技術で無線通信を行う無線デバイスによって構成される。また、通信I/F166は、有線LAN等の通信技術で通信を行うデバイスによって構成されてもよい。内部バス150は、CPU152、メモリ154、不揮発性メモリ156、操作部162、及び通信I/F166を互いに接続する。内部バス150に接続される各部は、内部バス150を介して互いにデータのやり取りを行うことができるようにされている。
【0013】
端末装置2は、CPU252と、メモリ254と、測位部255と、不揮発性メモリ256と、操作部257と、表示部258と、撮像部259と、センサ260と、通信I/F266と、内部バス250とを備えている。CPU252は、例えば不揮発性メモリ256に格納されるプログラム2562を実行し、メモリ254をワークメモリとして使用して、端末装置2の各部を制御する。メモリ254は、半導体素子を利用した揮発性のメモリなどのRAMによって構成され、CPU252のワークメモリとして使用される。不揮発性メモリ256は、例えばROM等によって構成される。不揮発性メモリ256には、CPU252によって実行されるプログラム2562が格納される。測位部255は、例えば、GPS衛星を用いた位置測位、又は携帯電話網の基地局を用いた位置測位などを用いて、端末装置2の位置を測位する。操作部257は、例えば、タッチパネルなどによって構成され、表示部258に表示される画面に対するタッチ操作を検出し、タッチ操作の検出結果を、CPU252へ出力する。タッチ操作には、ゴミ分別アプリを起動する操作などが含まれる。表示部258は、例えば、タッチパネルによって構成され、ゴミとゴミ箱との撮影を促すメッセージを表示する。撮像部259は、例えば、カメラによって構成され、外部の風景の静止画と動画とを撮像する。センサ260は、加速度センサ、地磁気センサなどによって構成され、端末装置2の向きを検出する。
通信I/F266は、外部機器や、ネットワーク4に接続されたサーバ1などと通信して、データの送受信を行うためのインターフェースである。具体的には、通信I/F266は、ワイファイ(登録商標)等の無線通信技術で無線通信を行う無線デバイスによって構成される。また、通信I/F266は、有線LAN等の通信技術で通信を行うデバイスによって構成されてもよい。内部バス250は、CPU252、メモリ254、測位部255、不揮発性メモリ256、操作部257、表示部258、撮像部259、センサ260、通信I/F266を互いに接続する。内部バス250に接続される各部は、内部バス250を介して互いにデータのやり取りを行うことができるようにされている。
【0014】
(本実施形態に係るゴミ分別支援システムの機能構成)
図3に示すように、サーバ1は、サーバ通信部101と、端末識別部102と、端末情報記憶部103と、画像認識部104と、ゴミ別特徴量記憶部105と、ゴミ箱別特徴量記憶部106と、地域別分別情報記憶部107と、分別方法説明情報記憶部108とを有している。これらの各部は、図2に示されている各構成要素のいずれかが、不揮発性メモリ156からメモリ154上に展開されたプログラム1562を実行するCPU152からの命令によって動作することで実現される機能である。
図2及び図3を用いて、サーバ1の各機能構成について詳細に説明する。サーバ1のサーバ通信部101は、CPU152からの命令、及び通信I/F166によって実現される。サーバ通信部101は、端末装置2などの他の装置との間でセッションが構築された後、各種データの送受信を行う。具体的には、サーバ通信部101は、端末装置2が送信したゴミ分別判定要求を受信し、受信したゴミ分別判定要求を、端末識別部102へ出力する。ゴミ分別判定要求には、端末装置2の識別情報と、端末装置2の位置情報と、端末装置2の向きを示す情報と、ゴミの画像情報と、ゴミ箱の画像情報とが含まれる。ここで、端末装置2の識別情報は、端末装置2のIPアドレス、MACアドレスなどである。以下、端末装置2の識別情報が、端末装置2のIPアドレスである場合について、説明を続ける。サーバ1と端末装置2とは、端末装置2のIPアドレスを使用して、相互に通信する。端末装置2の位置情報は、例えば、GPS衛星を用いた位置測位、又は携帯電話網の基地局を用いた位置測位などにより取得した、端末装置2の利用場所を表す情報である。
端末装置2の向きを示す情報は、端末装置2のセンサ260が検出した端末装置2の傾きを示す情報と方角を示す情報とを含む。端末装置2の向きを示す情報と、端末装置2の位置情報とによって、ゴミ箱5の位置が推定される。ゴミの画像情報は、端末装置2が撮像した分別対象のゴミの画像情報である。ゴミ箱の画像情報は、ユーザがゴミを廃棄しようとしているゴミ箱の画像情報である。また、サーバ通信部101は、画像認識部104が出力したゴミ分別応答を取得し、取得したゴミ分別応答を、端末装置2へ、送信する。
【0015】
端末識別部102は、CPU152からの命令によって実現される。端末識別部102は、サーバ通信部101が出力したゴミ分別判定要求を取得する。端末識別部102は、取得したゴミ分別判定要求に含まれる端末装置2の識別情報と、端末装置2の位置情報と、端末装置2の向きを示す情報と、ゴミの画像情報と、ゴミ箱の画像情報とを取得する。端末識別部102は、取得した端末装置2の識別情報と、端末装置2の位置情報と、端末装置2の姿勢を示す情報とを、端末情報記憶部103に出力する。また、端末識別部102は、取得した端末装置2の識別情報と、端末装置2の位置情報と、端末装置2の向きを示す情報と、ゴミの画像情報と、ゴミ箱の画像情報とを画像認識部104へ出力する。
端末情報記憶部103は、不揮発性メモリ156の端末情報1563によって実現される。端末情報記憶部103は、データベースであり、端末識別部102が出力した端末装置2の識別情報と、端末装置2の位置情報と、端末装置2の姿勢を示す情報とを取得し、取得した端末装置2の識別情報と、端末装置2の位置情報と、端末装置2の姿勢を示す情報とを関連付けて記憶する。端末情報記憶部103に記憶された情報は、サーバ1と端末装置2とが相互接続するために使用される。
画像認識部104は、CPU152からの命令によって実現される。画像認識部104は、端末識別部102が出力した端末装置2の識別情報と、端末装置2の位置情報と、端末装置2の向きを示す情報と、ゴミの画像情報と、ゴミ箱の画像情報とを取得する。画像認識部104は、取得したゴミの画像情報と、ゴミ箱の画像情報とに基づいて、ゴミの画像と、ゴミ箱の画像とに対して、画像処理技術などを活用し、画像解析を行うことによって、特徴量を抽出する。
画像認識部104は、ゴミ別特徴量記憶部105に検索させることによって、抽出したゴミの画像の特徴量と関連付けて記憶されている分別名称を示す情報を取得する。画像認識部104は、ゴミ別特徴量記憶部105に、ペットボトルや缶など詳細な分別名称まで取得させる。画像認識部104は、ゴミ別特徴量記憶部105が出力した画像の被写体のゴミが該当する分別名称を示す情報を取得する。また、画像認識部104は、画像の被写体のゴミの画像の特徴量と一致するゴミの画像の特徴量がない場合は、ゴミ別特徴量記憶部105から、該当する対象がないことを示す情報を取得する。画像認識部104は、ゴミ箱別特徴量記憶部106に検索させることによって抽出させたゴミ箱の画像の特徴量と一致するゴミ箱の構成情報を取得させる。画像認識部104は、ゴミ箱別特徴量記憶部106が出力したゴミ箱の構成情報を取得する。また、画像認識部104は、画像の被写体のゴミ箱の画像の特徴量と一致するゴミ箱の画像の特徴量がない場合は、ゴミ箱別特徴量記憶部106から、該当する対象がないことを示す情報を取得する。
【0016】
画像認識部104は、端末装置2の位置情報と、端末装置2の向きを示す情報とに基づいて、ゴミ箱5が設置された場所を推定する。画像認識部104は、ゴミの分別名称を示す情報を取得した場合に、地域別分別情報記憶部107に検索させることによって、取得したゴミの分別名称と、ゴミ箱5が設置された場所の推定結果とに関連付けて記憶されている地域別の分別情報を取得させる。画像認識部104は、地域別分別情報記憶部107が出力した地域別分別情報を取得する。また、画像認識部104は、地域別分別情報がない場合は、地域別分別情報記憶部107から、該当する対象がないことを示す情報を取得する。画像認識部104は、地域別の分別情報を取得した場合に、分別方法説明情報記憶部108に検索させることによって、取得した地域別の分別情報に関連付けて記憶されているゴミ分別方法説明情報を取得させる。画像認識部104は、分別方法説明情報記憶部108が出力したゴミ分別方法説明情報を取得する。また、画像認識部104は、ゴミ分別方法説明情報がない場合は、分別方法説明情報記憶部108から、該当する対象がないことを示す情報を取得する。
画像認識部104は、分別方法説明情報記憶部108が出力したゴミ分別方法説明情報を取得した場合には、取得したゴミ分別方法説明情報と、端末装置2の識別情報とを含むゴミ分別応答を作成し、作成したゴミ分別応答を、端末識別部102を経由して、サーバ通信部101へ出力する。また、画像認識部104は、ゴミ別特徴量記憶部105が出力した画像の被写体のゴミの画像の特徴量と一致するゴミの画像の特徴量がないことを示す情報を取得した場合には、分別名称がないことを示す情報と、端末装置2の識別情報とを含むゴミ分別応答を作成し、作成したゴミ分別応答を、端末識別部102を経由して、サーバ通信部101へ出力する。また、画像認識部104は、ゴミ箱別特徴量記憶部106が出力した画像の被写体のゴミ箱の画像の特徴量と一致するゴミ箱の画像の特徴量がないことを示す情報を取得した場合には、画像の被写体のゴミ箱の画像の特徴量と一致するゴミ箱の画像の特徴量がないことを示す情報と、端末装置2の識別情報とを含むゴミ分別応答を作成し、作成したゴミ分別応答を、端末識別部102を経由して、サーバ通信部101へ出力する。また、画像認識部104は、地域別分別情報記憶部107が出力した地域別分別情報がないことを示す情報を取得した場合、地域別分別情報がないことを示す情報と、端末装置2の識別情報とを含むゴミ分別応答を作成し、作成したゴミ分別応答を、端末識別部102を経由して、サーバ通信部101へ出力する。また、画像認識部104は、分別方法説明情報記憶部108が出力したゴミ分別方法説明情報がないことを示す情報を取得した場合、ゴミ分別方法説明情報がないことを示す情報と、端末装置2の識別情報とを含むゴミ分別応答を作成し、作成したゴミ分別応答を、端末識別部102を経由して、サーバ通信部101へ出力する。
【0017】
ゴミ別特徴量記憶部105は、不揮発性メモリ156のゴミ別特徴量1564によって実現される。ゴミ別特徴量記憶部105は、ゴミの分別名称と、そのゴミの画像の特徴量とを関連付けて記憶したデータベースである。ゴミ別特徴量記憶部105は、画像認識部104が出力したゴミの画像の特徴量に基づいて、画像の被写体のゴミがどの分別名称に該当するゴミであるかを検索する。ゴミ別特徴量記憶部105は、画像の被写体のゴミに該当する分別名称がある場合にはその分別名称を示す情報を、画像認識部104へ出力し、画像の被写体のゴミの画像の特徴量がない場合にはゴミの画像の特徴量がないことを示す情報を、画像認識部104へ出力する。
ゴミ箱別特徴量記憶部106は、不揮発性メモリ156のゴミ箱別特徴量1565によって実現される。ゴミ箱別特徴量記憶部106は、ゴミ箱の構成情報と、ゴミ箱の画像の特徴量とを関連付けて記憶したデータベースである。ゴミ箱別特徴量記憶部106は、画像認識部104が出力したゴミ箱の画像の特徴量に基づいて、画像の被写体のゴミ箱の構成情報を検索する。ゴミ箱別特徴量記憶部106は、画像の被写体のゴミ箱の画像の特徴量に該当するゴミ箱の構成情報がある場合にはそのゴミ箱の構成情報を示す情報を、画像認識部104へ出力し、画像の被写体のゴミ箱の画像の特徴量がない場合にはゴミ箱の画像の特徴量がないことを示す情報を、画像認識部104へ出力する。
地域別分別情報記憶部107は、不揮発性メモリ156の地域別分別情報1566によって実現される。地域別分別情報記憶部107は、地域ごとのゴミの分別方法を記憶したデータベースである。具体的には、地域別分別情報記憶部107は、地域の緯度の範囲と経度の範囲を示す情報と、ゴミの分別名称を示す情報と、そのゴミのゴミ分別方法を示す情報とを関連付けて記憶する。地域別分別情報記憶部107は、画像認識部104が出力したゴミの分別名称と、ゴミ箱5が設置された場所の推定結果とを取得し、取得したゴミの分別名称と、ゴミ箱5が設置された場所の推定結果とに基づいて、ゴミの分別方法を示す情報を検索する。地域別分別情報記憶部107は、取得したゴミの分別名称と、ゴミ箱5が設置された場所の推定結果とに該当するゴミの分別方法がある場合にはそのゴミの分別方法を示す情報を、画像認識部104へ出力し、取得したゴミの分別名称と、ゴミ箱5が設置された場所の推定結果とに該当するゴミの分別方法がない場合にはゴミの分別方法がないことを示す情報を、画像認識部104へ出力する。
このように構成することによって、地域別分別情報記憶部107は、ゴミ箱5が設置された場所の推定結果に基づいて、ゴミ箱5がある地域のゴミの分別情報を検索することができる。分別方法説明情報記憶部108は、不揮発性メモリ156の分別方法説明情報1567によって実現される。分別方法説明情報記憶部108は、ゴミの分別方法を示す情報と、ゴミ分別方法説明情報とを関連付けて記憶したデータベースである。ここで、ゴミ分別方法説明情報のゴミの分別方法を説明するための情報の一例は、アニメーション表示である。分別方法説明情報記憶部108は、画像認識部104が出力したゴミの分別方法を示す情報を取得し、取得したゴミの分別方法を示す情報に基づいて、ゴミ分別方法説明情報を検索する。
【0018】
端末装置2は、画像入力部201と、制御部202と、画像認識部203と、姿勢検出部204と、位置測定部205と、通信部206と、画像出力部207とを有している。画像入力部201は、CPU252からの命令、及び撮像部259によって実現される。画像入力部201は、端末装置2に搭載されている撮像部259が撮像することによって得られる動画の映像情報と静止画の画像情報とのいずれか一方又は両方が入力されることによって、動画の映像情報と静止画の画像情報とのいずれか一方又は両方を取得する。本実施形態では、撮像部259が、ゴミと、ゴミ箱とを撮像することによって、ゴミの画像情報と、ゴミ箱の画像情報とを、生成する場合について説明を続ける。画像入力部201は、取得した画像情報を、制御部202へ出力する。
制御部202は、CPU252からの命令によって実現される。制御部202は、端末装置2の動作全般の制御と、管理とを行う。制御部202は、画像入力部201が出力したゴミの画像情報と、ゴミ箱の画像情報とを取得する。また、制御部202は、位置測定部205が出力した端末装置2の位置情報を取得する。また、制御部202は、姿勢検出部204が出力した端末装置2の向きを示す情報を取得する。制御部202は、取得したゴミの画像情報と、ゴミ箱の画像情報と、端末装置2の識別情報と、端末装置2の位置情報とを含み、サーバ1を宛先とするゴミ分別判定要求を作成し、作成したゴミ分別判定要求を、通信部206へ出力する。また、制御部202は、通信部206が出力したゴミ分別応答を取得し、取得したゴミ分別応答に含まれるゴミ分別方法説明情報と、分別名称がないことを示す情報と、ゴミ箱の画像の特徴量がないことを示す情報と、地域別分別情報がないことを示す情報と、ゴミ分別方法説明情報がないことを示す情報とのいずれかを取得する。制御部202は、ゴミ分別方法説明情報を取得した場合にはそのゴミ分別説明情報を、拡張現実技術を用いて処理することによって、画像入力部201が取得した画像情報を画像処理することによって得られる画像に、リアルタイムで合成する。制御部202は、ゴミ分別方法説明情報を合成した画像情報を、画像出力部207へ出力する。制御部202は、ゴミ分別方法説明情報以外の情報を取得した場合にはその情報を、拡張現実技術を用いて処理することによって、画像入力部201が取得した画像情報を画像処理することによって得られる画像に、リアルタイムで合成する。
制御部202は、ゴミ分別方法説明情報以外の情報を合成した画像情報を、画像出力部207へ出力する。具体的には、制御部202は、ゴミ分別方法説明情報を合成する場合には、画像認識部203に、画像入力部201が取得したゴミ箱5の画像から、ゴミ箱5の画像の特徴量を抽出させる。また、制御部202は、姿勢検出部204に、端末装置2の向きを検出させる。制御部202は、画像認識部203に抽出させたゴミ箱5の画像の特徴量に基づいて、ゴミ分別方法説明情報が、ゴミ箱5などの対象物の画像に重なって表示されるように、ゴミ分別方法説明情報を表示する位置を調整する。また、制御部202は、姿勢検出部204に検出させた端末装置2の向きに基づいて、ゴミ分別方法説明情報が、ゴミ箱5などの対象物の画像に重なって表示されるように、ゴミ分別方法説明情報を表示する位置を調整する。
画像認識部203は、CPU252からの命令によって実現される。画像認識部203は、画像入力部201が取得した画像情報に対して、画像処理技術を用いて、画像の特徴量を抽出する。画像認識部203は、制御部202が、ゴミ分別方法説明情報を、拡張現実技術を用いて、画像に、リアルタイムで合成する場合に、抽出した画像の特徴量を制御部202へ出力する。
【0019】
姿勢検出部204は、CPU252からの命令、及びセンサ260によって実現される。姿勢検出部204は、端末装置2の向きを検出する。具体的には、姿勢検出部204は、端末装置2の傾きを示す情報と方角を示す情報とを取得し、取得した傾きを示す情報と方角を示す情報とを、制御部202へ出力する。制御部202は、姿勢検出部204が出力した傾きを示す情報と方角を示す情報とを取得し、取得した傾きを示す情報と方角を示す情報とを、ゴミ分別判定要求に含める。また、姿勢検出部204は、傾きを示す情報と方角を示す情報とを使用して、ゴミ分別方法説明情報を、拡張現実技術を用いて、画像入力部201が取得した画像情報を画像処理することによって得られる画像に、リアルタイムで合成する。このように構成することによって、ゴミ分別方法説明情報を、拡張現実技術を用いて、画像に、合成するときの位置精度を向上させることができる。位置測定部205は、CPU252からの命令、及び測位部255によって実現される。位置測定部205は、端末装置2が利用されている場所を特定する。位置測定部205は、測位部255によって、端末装置2の絶対位置情報を測定する。システムの絶対位置情報の一例は、経度と緯度とで示される。位置測定部205は、端末装置2の位置情報を、制御部202へ出力する。通信部206は、CPU252からの命令、及び通信I/F166によって実現される。通信部206は、制御部202が出力したゴミ分別判定要求を取得し、取得したゴミ分別判定要求を、ネットワーク4を経由して、サーバ1へ送信する。また、通信部206は、サーバ1が送信したゴミ分別応答を受信し、受信したゴミ分別応答を、制御部202へ出力する。画像出力部207は、CPU252からの命令、及び表示部258によって実現される。画像出力部207は、制御部202が出力したゴミ分別方法説明情報を合成した画像情報取得し、取得したゴミ分別方法説明情報を合成した画像情報を、表示部258に表示する。
【0020】
(ゴミ分別支援システムの動作)
図4を参照して、本発明の実施形態のゴミ分別支援システムの動作の一例について説明する。図4に示される例では、ゴミと、ゴミ箱5とを、端末装置2で撮像し、撮像することによって得られたゴミの画像と、ゴミ箱5の画像とに基づいて、ゴミの分別方法を示す情報を取得する。
(ステップS10)
端末装置2のユーザは、操作部257を操作することによって、ゴミ分別アプリを起動させる。
(ステップS11)
端末装置2では、ゴミ分別アプリが起動することによって、表示部258に、ゴミの撮像を促すメッセージが表示される。
(ステップS12)
ユーザは、表示部258に表示されたメッセージを参照し、操作部257に対して、ゴミを撮像する操作を行う。図5に示されるように、表示部258には、撮像するゴミの一例として、ペットボトルPが表示されている。画像入力部201は、撮像部259にゴミを撮像させる。画像入力部201は、ゴミを撮像することによって得られたゴミの画像情報を制御部202へ出力する。図4に戻り説明を続ける。
(ステップS13)
ユーザは、操作部257に対して、ゴミ箱を撮像する操作を行う。図6に示されるように、表示部258には、撮像するゴミ箱5の一例として、可燃ゴミ箱51と、不燃ゴミ箱52と、資源ゴミ箱53との3個の分別ゴミ箱を含むゴミ箱5が示されている。画像入力部201は、撮像部259にゴミ箱を撮像させる。画像入力部201は、ゴミ箱を撮像することによって得られたゴミ箱の画像情報を、制御部202へ出力する。図4に戻り説明を続ける。
(ステップS14)
姿勢検出部204は、センサ260が検出した加速度、地磁気などに基づいて、端末装置2の向きを示す情報を取得し、取得した端末装置2の位置情報を、制御部202へ出力する。
(ステップS15)
位置測定部205は、測位部255が検出した位置情報を取得し、取得した端末装置2の位置情報を、制御部202へ出力する。
(ステップS16)
制御部202は、画像入力部201が出力したゴミの画像情報と、ゴミ箱の画像情報とを取得し、姿勢検出部204が出力した端末装置2の向きを示す情報を取得し、位置測定部205が出力した端末装置2の位置情報を取得する。制御部202は、取得したゴミの画像情報と、ゴミ箱の画像情報と、端末装置2の向きを示す情報と、端末装置2の位置情報と、端末装置2の識別情報とを含むゴミ分別判定要求を作成し、作成したゴミ分別判定要求を、通信部206へ出力する。
(ステップS17)
通信部206は、制御部202が出力したゴミ分別判定要求を取得し、取得したゴミ分別判定要求を、サーバ1へ送信する。
(ステップS18)
サーバ通信部101は、端末装置2が送信したゴミ分別判定要求を受信し、受信したゴミ分別判定要求を、端末識別部102へ出力する。端末識別部102は、サーバ通信部101が出力したゴミ分別判定要求を取得し、取得したゴミ分別判定要求に含まれるゴミの画像情報と、ゴミ箱の画像情報と、端末装置2の向きを示す情報と、端末装置2の位置情報と、端末装置2の識別情報とを取得する。端末識別部102は、取得した端末装置2の向きを示す情報と、端末装置2の位置情報と、端末装置2の識別情報とを関連付けて、端末情報記憶部103に記憶する。また、端末識別部102は、取得したゴミの画像情報と、ゴミ箱の画像情報と、端末装置2の向きを示す情報と、端末装置2の位置情報と、端末装置2の識別情報とを画像認識部104へ出力する。
(ステップS19)
画像認識部104は、端末識別部102が出力したゴミの画像情報と、ゴミ箱5の画像情報と、端末装置2の向きを示す情報と、端末装置2の位置情報と、端末装置2の識別情報とを取得し、取得したゴミの画像情報に基づいて、ゴミの画像の特徴量を抽出する。
(ステップS20)
画像認識部104は、取得したゴミ箱の画像情報に基づいて、ゴミ箱の画像の特徴量を抽出する。
【0021】
(ステップS21)
画像認識部104は、ゴミ別特徴量記憶部105に検索させることによって、抽出したゴミの画像の特徴量に該当するゴミの分別名称を示す情報を取得する。
(ステップS22)
画像認識部104は、ゴミ箱別特徴量記憶部106に検索させることによって、抽出させたゴミ箱の画像の特徴量に該当するゴミ箱の構成情報を取得させる。
(ステップS23)
画像認識部104は、端末装置2の位置情報と、端末装置2の向きを示す情報とに基づいて、ゴミ箱5が設置された場所を推定する。画像認識部104は、地域別分別情報記憶部107に検索させることによって、識別させたゴミの分別名称と、ゴミ箱5が設置された場所の推定結果とに関連付けて記憶されている地域別の分別情報を取得させる。地域別分別情報記憶部107は、識別させた分別名称と、ゴミ箱5が設置された場所の推定結果とに該当する地域別分別情報がある場合には、その該当する地域別分別情報を、画像認識部104へ出力する。
(ステップS24)
画像認識部104は、分別方法説明情報記憶部108に検索させることによって、取得した地域別の分別情報に関連付けて記憶されているゴミ分別方法説明情報を取得させる。分別方法説明情報記憶部108は、取得した地域別の分別情報に関連付けて記憶されているゴミ分別方法説明情報に該当するゴミ分別方法説明情報がある場合には、その該当するゴミ分別方法説明情報を、画像認識部104へ出力する。
(ステップS25)
画像認識部104は、分別方法説明情報記憶部108が出力したゴミ分別方法説明情報を取得した場合、取得したゴミ分別方法説明情報と、端末装置2の識別情報とを含むゴミ分別応答を作成し、作成したゴミ分別応答を、端末識別部102を経由して、サーバ通信部101へ出力する。
(ステップS26)
サーバ通信部101は、作成したゴミ分別応答を、端末装置2へ送信する。
(ステップS27)
通信部206は、サーバ1が送信したゴミ分別応答を受信し、受信したゴミ分別応答を、制御部202へ出力する。
(ステップS28)
制御部202は、通信部206が出力したゴミ分別応答を取得し、取得したゴミ分別応答に含まれるゴミ分別方法説明情報を取得する。制御部202は、取得したゴミ分別方法説明情報を、拡張現実技術を用いて処理することによって、画像入力部201が取得した画像情報を画像処理することによって得られる画像に、リアルタイムで合成する。図7に示されるように、端末装置2の表示部258に、画像入力部201が取得したゴミ箱5の画像情報を画像処理することによって得られるゴミ箱5の画像に、ペットボトルPIが表示される。ここで、ペットボトルPIには、ラベルRaIが取り付けられている。図8に示されるように、端末装置2の表示部258に表示されているペットボトルPIが表示されている状態で、ラベルRaIが外されている。図9に示されるように、端末装置2の表示部258に表示されているペットボトルPIと、ラベルRaIとの各々について、端末装置2の表示部258に表示されているゴミ箱5Iの3個の分別ゴミ箱のうち、いずれの分別ゴミ箱に捨てるべきかを矢印などの指示画像で表示している。具体的には、ペットボトルPIについては資源ゴミ箱53に捨てるよう、ラベルRaIについては不燃ゴミ箱52に捨てるように表示されている。
【0022】
前述した実施形態では、ゴミ箱5が、可燃ゴミ箱51と、不燃ゴミ箱52と、資源ゴミ箱53との3個の分別ゴミ箱を含む場合について説明したが、この例に限られない。例えば、ゴミ箱5は、可燃ゴミ箱51と、不燃ゴミ箱52と、資源ゴミ箱53とのうちの少なくとも1個を含んで構成されてもよい。また、ゴミ箱5は、可燃ゴミ箱51と、不燃ゴミ箱52と、資源ゴミ箱53との3個に限らず、4以上の構成、例えば、雑誌、空き缶、空き瓶などのゴミ箱を含んで構成されてもよい。
前述した実施形態では、端末装置2によって、ゴミと、ゴミ箱とが撮像される場合について説明したが、この例に限られない。例えば、ユーザは、端末装置2を操作することによって、ゴミ箱5が満杯である場合に、そのゴミ箱5を撮像してもよい。サーバ1は、端末装置2が送信したゴミ箱の画像情報に基づいて、ゴミ箱5の状態を推定し、ゴミ箱5の状態の推定結果を示す情報を含む状態通知情報を作成し、作成した状態通知情報を外部装置へ送信してもよい。このように構成することによって、外部装置に通知された状態通知情報に基づいて、ゴミ箱5のゴミの回収などの所定の処理を行うことができる。ゴミ箱5のゴミの回収の効率を向上できるとともに、ゴミ箱5の衛生環境を向上できる。また、端末装置2にゴミ箱の構成情報を予め設定し、設定されたゴミ箱の構成情報と同様の構成であるゴミ箱については、ゴミ箱の撮像を省略させてもよい。つまり、ゴミの画像情報に基づいて、上述した処理が行われてもよい。このように構成することによって、ユーザにゴミ箱を撮像させる手間をなくすことができるとともに、サーバ1の処理を削減できる。
前述した実施形態において、端末装置2に、ゴミの画像情報とゴミ箱の画像情報とゴミ分別方法説明情報とを関連付けて記憶する記憶部を備えてもよい。そして、制御部202は、画像入力部201から入力されたゴミの画像情報と、ゴミ箱の画像情報と関連付けて記憶されているゴミ分別方法説明情報を、記憶部から取得し、取得したゴミ分別方法説明情報を、拡張現実技術を用いて処理することによって、画像入力部201が取得した画像情報を画像処理することによって得られる画像に、リアルタイムで合成する。このように構成することによって、端末装置2から、サーバ1へゴミの分別方法を問い合わせる処理を省略できるため、ゴミと、ゴミ箱とを撮像してから、端末装置2からゴミの分別方法が出力されるまでの時間を短縮できる。
前述した実施形態において、画像認識部104は、取得したゴミの画像情報と端末装置2の位置情報とに基づいて、端末装置2の位置から所定の範囲のゴミ箱の位置情報を取得し、取得したゴミ箱の位置情報をさらに含むゴミ分別応答を作成してもよい。このように構成することによって、ユーザに近傍のゴミ箱を知らせることができる。
本実施形態のゴミ分別判定システムによれば、拡張現実技術を応用し、廃棄対象のゴミとゴミ箱とを撮像部で撮影することにより、端末装置2の表示画面にゴミの分別方法が、ゴミ分別方法説明情報によって、表示される。分別方法が、文章とアニメーションとによって表示されるため、ゴミの分別に不慣れな外国人、異なる地域から訪れた観光客に対しても、十分に分別方法を理解させることができる。
【0023】
(変形例)
前述した実施形態では、ゴミ分別支援システム3が、サーバ1と、端末装置2とを含む場合について説明したが、この例に限られない。例えば、サーバ1の機能が、端末装置2aに含まれるように構成してもよい。図10に示されるように、端末装置2aは、画像入力部201と、制御部202aと、画像認識部203と、姿勢検出部204と、位置測定部205と、通信部206と、画像出力部207と、画像認識部204aと、ゴミ別特徴量記憶部205aと、ゴミ箱別特徴量記憶部206aと、地域別分別情報記憶部207aと、分別方法説明情報記憶部208aとを有している。端末装置2aのハードウェア構成は、図2を適用できる。これらの各部は、図2に示されている各構成要素のいずれかが、不揮発性メモリ256からメモリ254上に展開されたプログラム2562を実行するCPU252からの命令によって動作することで実現される機能である。
制御部202aは、CPU252からの命令によって実現される。制御部202aは、端末装置2aの動作全般の制御と、管理とを行う。制御部202aは、画像入力部201が出力した画像情報を取得する。また、制御部202aは、位置測定部205が出力した端末装置2aの位置情報を取得する。また、制御部202aは、姿勢検出部204が出力した端末装置2aの向きを示す情報を取得する。制御部202aは、取得した画像情報と、端末装置2aの位置情報と、端末装置2aの向きを示す情報とを、画像認識部204aに出力する。
また、制御部202aは、画像認識部204aが出力したゴミ分別方法説明情報と、分別名称がないことを示す情報と、ゴミ箱の画像の特徴量がないことを示す情報と、地域別分別情報がないことを示す情報と、ゴミ分別方法説明情報がないことを示す情報とのいずれかを取得する。制御部202aは、ゴミ分別方法説明情報を取得した場合にはそのゴミ分別説明情報を、拡張現実技術を用いて処理することによって、画像入力部201が取得した画像情報を画像処理することによって得られる画像に、リアルタイムで合成する。制御部202aは、ゴミ分別方法説明情報を合成した画像情報を、画像出力部207へ出力する。制御部202aは、ゴミ分別方法説明情報以外の情報を取得した場合にはその情報を、拡張現実技術を用いて処理することによって、画像入力部201が取得した画像情報を画像処理することによって得られる画像に、リアルタイムで合成する。制御部202aは、ゴミ分別方法説明情報以外の情報を合成した画像情報を、画像出力部207へ出力する。具体的には、制御部202aは、画像認識部203に、画像入力部201が取得した画像から、特徴量を抽出させる。また、制御部202aは、姿勢検出部204に、端末装置2aの向きを検出させる。制御部202aは、画像認識部203に抽出させた特徴量に基づいて、ゴミ分別方法説明情報が、ゴミ箱5などの対象物の画像に重なって表示されるように、ゴミ分別方法説明情報を表示する位置を設定する。また、制御部202aは、姿勢検出部204に検出させた端末装置2aの向きに基づいて、ゴミ分別方法説明情報が、ゴミ箱5などの対象物の画像に重なって表示されるように、ゴミ分別方法説明情報を表示する位置を設定する。
【0024】
画像認識部204aは、CPU252からの命令によって実現される。画像認識部204aは、端末識別部102が出力した端末装置2aの位置情報と、端末装置2aの姿勢を示す情報と、ゴミの画像情報と、ゴミ箱の画像情報とを取得する。画像認識部204aは、取得したゴミの画像情報と、ゴミ箱の画像情報とに基づいて、ゴミの画像と、ゴミ箱の画像とに対して、画像処理技術などを活用し、画像解析を行うことによって、特徴量を抽出する。画像認識部204aは、ゴミ別特徴量記憶部205aに検索させることによって、抽出したゴミの画像の特徴量と関連付けて記憶されている分別名称を示す情報を取得する。画像認識部204aは、ゴミ別特徴量記憶部205aに、ペットボトルや缶など詳細な分別名称まで取得させる。画像認識部204aは、ゴミ別特徴量記憶部205aが出力した画像の被写体のゴミが該当する分別名称を示す情報を取得する。また、画像認識部204aは、ゴミ別特徴量記憶部105から、画像の被写体のゴミの画像の特徴量と一致するゴミの画像の特徴量がないことを示す情報を取得する。画像認識部204aは、ゴミ箱別特徴量記憶部206aに検索させることによって抽出させたゴミ箱の画像の特徴量と一致するゴミ箱の構成情報を取得させる。画像認識部204aは、ゴミ箱別特徴量記憶部206aが出力した、ゴミ箱の構成情報を取得する。画像認識部204aは、ゴミ箱別特徴量記憶部206aから、画像の被写体のゴミ箱の画像の特徴量と一致するゴミ箱の画像の特徴量がないことを示す情報を取得する。
画像認識部204aは、端末装置2aの位置情報と、端末装置2aの向きを示す情報とに基づいて、ゴミ箱5が設置された場所を推定する。画像認識部204aは、地域別分別情報記憶部207aに検索させることによって、識別させたゴミの分別名称と、ゴミ箱5が設置された場所の推定結果とに関連付けて記憶されている地域別の分別情報を取得させる。画像認識部204aは、地域別分別情報記憶部207aが出力した地域別分別情報を取得する。画像認識部204aは、地域別分別情報記憶部207aから、地域別分別情報がないことを示す情報を取得する。画像認識部204aは、分別方法説明情報記憶部208aに検索させることによって、取得した地域別の分別情報に関連付けて記憶されているゴミ分別方法説明情報を取得させる。画像認識部204aは、分別方法説明情報記憶部208aが出力したゴミ分別方法説明情報を取得する。画像認識部204aは、分別方法説明情報記憶部208aから、ゴミ分別方法説明情報とがないことを示す情報を取得する。
【0025】
画像認識部204aは、分別方法説明情報記憶部208aが出力したゴミ分別方法説明情報を取得した場合には、取得したゴミ分別方法説明情報を、制御部202aへ出力する。また、画像認識部204aは、ゴミ別特徴量記憶部205aが出力した画像の被写体のゴミの画像の特徴量と一致するゴミの画像の特徴量がないことを示す情報を取得した場合には、分別名称がないことを示す情報を、制御部202aへ出力する。また、画像認識部204aは、ゴミ箱別特徴量記憶部206aが出力した画像の被写体のゴミ箱の画像の特徴量と一致するゴミ箱の画像の特徴量がないことを示す情報を取得した場合には、画像の被写体のゴミ箱の画像の特徴量と一致するゴミ箱の画像の特徴量がないことを示す情報を、制御部202aへ出力する。また、画像認識部204aは、地域別分別情報記憶部207aが出力した地域別分別情報がないことを示す情報を取得した場合、地域別分別情報がないことを示す情報を、制御部202aへ出力する。
ゴミ別特徴量記憶部205a、ゴミ箱別特徴量記憶部206a、地域別分別情報記憶部207a、分別方法説明情報記憶部208aは、それぞれ、前述した実施形態で説明したゴミ別特徴量記憶部105、ゴミ箱別特徴量記憶部106、地域別分別情報記憶部107、分別方法説明情報記憶部108を適用できる。
変形例の端末装置2aによれば、実施形態の端末装置2と比較して、サーバ1と通信を行うことなく、ユーザに、ゴミの分別方法を通知できる。
以上、実施形態を説明したが、これらの実施形態は、例として提示したものであり、発明の範囲を限定することは意図していない。これら実施形態は、その他の様々な形態で実施されることが可能であり、発明の要旨を逸脱しない範囲で、種々の省略、置き換え、変更、組合せを行うことができる。これら実施形態は、発明の範囲や要旨に含まれると同時に、特許請求の範囲に記載された発明とその均等の範囲に含まれるものである。なお、上述したゴミ分別支援システム3は、コンピュータで実現するようにしてもよい。その場合、各機能ブロックの機能を実現するためのプログラムをコンピュータ読み取り可能な記録媒体に記録する。この記録媒体に記録されたプログラムをコンピュータシステムに読み込ませ、CPUが実行することで実現してもよい。ここでいう「コンピュータシステム」とは、OS(Operating System)や周辺機器などのハードウェアを含むものとする。
【0026】
また、「コンピュータ読み取り可能な記録媒体」とは、フレキシブルディスク、光磁気ディスク、ROM、CD−ROMなどの可搬媒体のことをいう。また、「コンピュータ読み取り可能な記録媒体」は、コンピュータシステムに内蔵されるハードディスクなどの記憶装置を含む。さらに「コンピュータ読み取り可能な記録媒体」とは、短時間の間、動的にプログラムを保持するものを含んでいてもよい。短時間の間、動的にプログラムを保持するものは、例えば、インターネットなどのネットワークや電話回線などの通信回線を介してプログラムを送信する場合の通信線である。
また、「コンピュータ読み取り可能な記録媒体」には、サーバやクライアントとなるコンピュータシステム内部の揮発性メモリのように、一定時間プログラムを保持しているものも含んでもよい。また上記プログラムは、前述した機能の一部を実現するためのものであってもよい。また、上記プログラムは、前述した機能をコンピュータシステムにすでに記録されているプログラムとの組み合わせで実現できるものであってもよい。また、上記プログラムは、プログラマブルロジックデバイスを用いて実現されるものであってもよい。プログラマブルロジックデバイスは、例えば、FPGA(Field Programmable Gate Array)である。なお、上述のゴミ分別支援システム3は内部にコンピュータを有している。そして、上述したサーバ1、端末装置2、端末装置2aの各処理の過程は、プログラムの形式でコンピュータ読み取り可能な記録媒体に記憶されており、このプログラムをコンピュータが読み出して実行することによって、上記処理が行われる。ここでコンピュータ読み取り可能な記録媒体とは、磁気ディスク、光磁気ディスク、CD−ROM、DVD−ROM、半導体メモリなどをいう。また、このコンピュータプログラムを通信回線によってコンピュータに配信し、この配信を受けたコンピュータが当該プログラムを実行するようにしてもよい。
また、上記プログラムは、前述した機能の一部を実現するためのものであってもよい。
さらに、前述した機能をコンピュータシステムにすでに記録されているプログラムとの組み合わせで実現できるもの、いわゆる差分ファイル(差分プログラム)であってもよい。
【符号の説明】
【0027】
1…サーバ、2…端末装置、3…ゴミ分別支援システム、4…ネットワーク、5…ゴミ箱、51…可燃ゴミ箱、52…不燃ゴミ箱、53…資源ゴミ箱、101…サーバ通信部、102…端末識別部、103…端末情報記憶部、104、204a…画像認識部、105、205a…ゴミ別特徴量記憶部、106、206a…ゴミ箱別特徴量記憶部、107、207a…地域別分別情報記憶部、108、208a…分別方法説明情報記憶部、201…画像入力部、202、202a…制御部、104、203、204a…画像認識部、204…姿勢検出部、205…位置測定部、206…通信部、207…画像出力部、152、252…CPU、154、254…メモリ、156、256…不揮発性メモリ、162、257…操作部、166、266…通信I/F、255…測位部、260…センサ、258…表示部、259…撮像部
図1
図2
図3
図4
図5
図6
図7
図8
図9
図10