(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】
(24)【登録日】2025-04-21
(45)【発行日】2025-04-30
(54)【発明の名称】製品管理システム
(51)【国際特許分類】
B65G 1/137 20060101AFI20250422BHJP
G06K 7/10 20060101ALI20250422BHJP
【FI】
B65G1/137 A
G06K7/10 268
(21)【出願番号】P 2021035717
(22)【出願日】2021-03-05
【審査請求日】2024-02-22
(73)【特許権者】
【識別番号】000003193
【氏名又は名称】TOPPANホールディングス株式会社
(74)【代理人】
【識別番号】110002147
【氏名又は名称】弁理士法人酒井国際特許事務所
(72)【発明者】
【氏名】大八木 裕貴
(72)【発明者】
【氏名】笹川 和誉
(72)【発明者】
【氏名】奥原 博任
(72)【発明者】
【氏名】長本 尚志
【審査官】内田 茉李
(56)【参考文献】
【文献】特開2017-001835(JP,A)
【文献】特開2021-031222(JP,A)
【文献】特開2005-100372(JP,A)
【文献】特開2004-352436(JP,A)
【文献】特開2012-108777(JP,A)
【文献】特開2006-103812(JP,A)
【文献】中国特許出願公開第106202333(CN,A)
【文献】特開2018-146177(JP,A)
(58)【調査した分野】(Int.Cl.,DB名)
B65G 1/137
G06K 7/10
(57)【特許請求の範囲】
【請求項1】
製品に付されたRFタグから製品の識別情報を読み出すRFIDリーダ機能を有するゲート部と、
前記ゲート部の周辺を撮影する撮影部と、
前記撮影部が撮影したデータと前記ゲート部が読み出した識別情報に基づき、前記ゲート部を通過する製品を管理する管理部と、を有する製品管理システムであって、
前記管理部は、
前記撮影部が撮影した画像データに基づき、搬送される製品が入庫であるか出庫であるかを示す搬送方向を判定する搬送方向判定処理と、前記搬送される製品の個数を判定する個数判定処理とを実行する画像処理部と、
前記ゲート部が読み出した識別情報の個数と、前記画像処理部によって判定された前記搬送される製品の個数とを比較し
、前記識別情報の個数と前記画像処理部によって判定された個数との一致又は不一致を判定したのち、前記搬送される製品が入庫であるか出庫であるかをさらに判定することにより、前記搬送される製品の過不足を前記搬送方向ごとに判定する過不足判定部とを有する
製品管理システム。
【請求項2】
製品に付されたRFタグから製品の識別情報を読み出すRFIDリーダ機能を有するゲート部と、
前記ゲート部の周辺を撮影する撮影部と、
前記撮影部が撮影したデータと前記ゲート部が読み出した識別情報に基づき、前記ゲート部を通過する製品を管理する管理部と、を有する製品管理システムであって、
前記管理部は、
前記撮影部が撮影した画像データに基づき、搬送される製品が入庫であるか出庫であるかを示す搬送方向を判定する搬送方向判定処理と、前記搬送される製品の個数を判定する個数判定処理とを実行する画像処理部と、
前記ゲート部が読み出した識別情報の個数と、前記画像処理部によって判定された前記搬送される製品の個数とを比較し、前記搬送される製品の過不足を前記搬送方向ごとに判定する過不足判定部とを有し、
前記画像処理部は、前記撮影部が撮影したデータと、前記データに基づき判定された搬送方向の結果とから生成された学習用データによって学習されるモデルを用いて、前記搬送される製品の搬送方向を判定する、
製品管理システム。
【請求項3】
前記画像データは動画データであって、
前記画像処理部は、前記動画データにおいて、前記搬送される製品の搬送が開始されたことを認識したとき、前記ゲート部に前記RFタグの読み出しを行うよう指示する
請求項
1又は2に記載の製品管理システム。
【請求項4】
前記過不足判定部は、さらに、前記搬送する製品の個数に関する個数情報を含む製品リストを取得し、前記製品リストの前記搬送する製品の個数と、前記ゲート部が読み出した識別情報の個数と、前記画像処理部によって判定された前記搬送される製品の個数とを比較し、全てが一致している場合、前記搬送される製品に過不足はないと判定する
請求項
1又は2に記載の製品管理システム。
【請求項5】
前記製品リストは、前記搬送する製品の識別情報を含み、
前記過不足判定部は、前記製品リストの前記搬送する製品の識別情報と、前記ゲート部が読み出した識別情報とが全て一致し、さらに、前記画像処理部によって判定された前記搬送される製品の個数と前記ゲート部が読み出した識別情報の個数とが一致した場合、前記搬送される製品に過不足はないと判定する
請求項
4記載の製品管理システム。
【請求項6】
前記製品リストは、搬送方向に関する情報を含み、
前記過不足判定部は、さらに、前記製品リストの搬送方向と、前記画像処理部によって判定された搬送方向とが一致するとき、前記搬送される製品に過不足はないと判定する
請求項
5記載の製品管理システム。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、製品管理システムに関する。
【背景技術】
【0002】
近年、RFID(Radio-Frequency Identification)を用いた製品管理が増加している。RFIDは、製品に貼られたRFタグを、専用のリーダから非接触で読み出す技術である。RFIDによる製品管理は、例えば、倉庫への製品の入出庫の管理(入出庫管理)に用いられる。入出庫管理は、例えば、商品が通過するRFリーダの機能を有したゲートを設置し、ゲートを通過する際に製品のRFタグを読み取ることで実行される。
【0003】
RFIDによる製品管理に関する技術は、以下の先行技術文献に開示されている。
【先行技術文献】
【特許文献】
【0004】
【文献】特開2012-108777号公報
【文献】特開2006-103812号公報
【発明の概要】
【発明が解決しようとする課題】
【0005】
しかし、RFIDで入庫と出庫を区別して管理しようとすると、入庫用のゲートと出庫用のゲートの両方を設置する必要がある。ゲートは、複数の製品を通過させるものであるため、相応の大きさとなり、複数設置するのには広いスペースが必要となる場合がある。また、ゲートは、大型であり、RFリーダ機能を有するため、高価であるため、複数設置する場合は費用が増大となる。
【0006】
そこで、RFIDを用いた製品管理において、設置費用及び設置スペースを抑制しつつ、入庫及び出庫を区別した製品管理を行うことができる製品管理システム、製品管理方法、及び製品管理プログラムを提供する。
【課題を解決するための手段】
【0007】
本発明の一つの実施の形態によれば、製品に付されたRFタグから製品の識別情報を読み出すRFIDリーダ機能を有するゲート部と、前記ゲート部の周辺を撮影する撮影部と、前記撮影部が撮影したデータと前記ゲート部が読み出した識別情報に基づき、前記ゲート部を通過する製品を管理する管理部と、を有する製品管理システムであって、前記管理部は、前記撮影部が撮影した画像データに基づき、搬送される製品が入庫であるか出庫であるかを示す搬送方向を判定する搬送方向判定処理と、前記搬送される製品の個数を判定する個数判定処理と、を実行する画像処理部と、前記ゲート部が読み出した識別情報の個数と、前記画像処理部によって判定された前記搬送される製品の個数とを比較し、前記搬送される製品の過不足を前記搬送方向ごとに判定する過不足判定部とを有する。
【発明の効果】
【0008】
上記の本発明の一つの実施の形態によれば、設置費用及び設置スペースを抑制しつつ、入庫及び出庫を区別した製品管理を行うことができる。
【図面の簡単な説明】
【0009】
【
図1】
図1は、製品管理システム1の構成例を示す図である。
【
図2】
図2は、製品管理システム1のソフトウェア構成の例を示す図である。
【
図3】
図3は、製品管理システム1の構成例を表す図である。
【
図4】
図4は、製品管理処理のシーケンスの例を示す図である。
【
図5】
図5は、製品管理処理S100の処理フローチャートの例を示す図である。
【
図6】
図6は、過不足判定処理S30の処理フローチャートの例を示す図である。
【
図7】
図7は、第2の実施の形態における過不足判定処理S60の処理フローチャートの例を示す図である。
【
図8】
図8は、入出庫リストと判定結果の例を示す図である。
【
図9】
図9は、第3の実施の形態における製品管理処理S200の処理フローチャートの例を示す図である。
【
図10】
図10は、画像解析用学習モデル事前学習処理S300の処理フローチャートの例を示す図である。
【発明を実施するための形態】
【0010】
以下、発明を実施するための形態について説明する。
【0011】
<製品管理システム1の構成例>
図1は、製品管理システム1の構成例を示す図である。製品管理システム1は、管理装置100、ゲート200、及びカメラ300を有する。製品管理システム1は、ゲート200を通過する製品の入出庫を管理するシステムである。製品は、ゲート200を右方向から左方向(D1)に搬送される場合、出庫されており、逆方向(D2)に搬送されている場合、入庫されていると判定される。
【0012】
製品T1~T3は、例えば、段ボールに梱包されており、それぞれRFタグR1~R3が梱包外面に貼り付けられている。
【0013】
RFタグは、製品に関する情報が記憶されたIC(Integrated Circuit)チップを有する。製品に関する情報は、例えば、製品の識別子を含む。RFタグは、例えば、パッシブタブである。パッシブタブは、バッテリーを搭載せず、RFIDリーダから送信される電波を動力源として、RFIDリーダに電波を送信するタブである。また、RFタグは、自身が有するバッテリーを動力源として電波を送信するアクティブタブやセミアクティブタブであってもよい。
【0014】
ゲート200は、RFIDリーダ機能を有し、ゲート内を通過する製品のRFタグを読み出す装置である。ゲート200は、例えば、RFタグを読み出すための電波を送信し、RFタグから返信された電波を受信することで、近接(所定距離内)に製品が存在することを認識する。なお、ゲート200が電波を送信するタイミングは、例えば、常時、所定間隔、あるいは管理者の操作や他の装置から指示されたタイミングなどである。
【0015】
カメラ300は、ゲート200及びその周辺の所定範囲内の映像を撮影する撮影装置である。映像は、例えば、動画、静止画の一方または両方である。カメラ300の撮影タイミングは、常時、所定間隔、あるいは管理者の操作や他の装置から指示されたタイミングなどである。また、カメラは、モーション機能(移動する物品の移動方向の判定を行うことができる機能)付きのカメラであってもよい。
【0016】
管理装置100は、ゲート200を通して搬送(入庫及び出庫)される製品を管理する装置であり、例えば、コンピュータやサーバマシンである。管理装置100は、カメラ300が撮影した映像の画像データを取得する。管理装置100は、画像データについての画像解析を行い、製品の数、製品の搬送方向(入庫又は出庫)などを判定する。
【0017】
また、管理装置100は、ゲート200が、一連の処理において、又は所定時間内に読み出したRFIDを取得する。そして、画像解析の判定結果と、RFIDの読み出し結果を使用し、製品の入庫及び出庫を管理する。
【0018】
管理装置100、ゲート200、及びカメラ300は、例えば、それぞれネットワークやケーブルを介して接続され、通信を行う。管理装置100は、ゲート200やカメラ300と通信を行い、画像データやRFID読み出し結果を取得する。
【0019】
なお、
図1において、管理装置100、ゲート200、及びカメラ300は、それぞれ異なる装置であるが、全て、あるいはいずれかの2つの装置が同一装置であってもよい。
【0020】
<製品管理システムのソフトウェ構成例>
図2は、製品管理システム1のソフトウェア構成の例を示す図である。
【0021】
カメラ300は、撮影部30を有する。撮影部30は、所定範囲内を撮影し、撮影した映像データを内部メモリに記憶したり、管理装置100の画像処理部10に引き渡したりする。
【0022】
ゲート(ゲート部)200は、RFID読出部20を有する。RFID読出部20は、読み出し契機に応じて、RFタグを読み出すための電波を送信し、送信した電波に応答してRFタグから返信された電波を受信する。そして、RFID読出部20は、受信した電波に含まれる、RFタグの読み出しに成功したRFIDに関する情報(例えば、RFIDの読み出した個数、製品に関する情報を含む)を、データを管理装置100の製品管理部14に引き渡す。
【0023】
管理装置(管理部)100は、画像処理部10及び製品管理部14を有する。画像処理部10は、カメラ300が撮影した画像データを取得し、画像解析を行う。製品管理部14は、画像解析及びRFIDの読み出し結果に基づき、製品の入庫及び出庫を管理する。
【0024】
画像処理部10は、画像解析用学習モデル学習部11、個数判定部12、及び搬送方向判定部13を有する。
【0025】
画像解析用学習モデル学習部11は、画像解析を行う画像解析用学習モデルの学習を行う。画像解析モデルは、例えば、画像解析用のAI(Artificial Intelligence)である。画像解析用学習モデル学習部11は、製品管理システム1の運用中の学習済み画像解析用学習モデルの判定精度の向上、又は製品管理システム1の運用前の画像解析用学習モデルの事前学習を行う。
【0026】
個数判定部12は、画像解析用学習モデルを使用し、画像データに映る製品の個数を判定する。個数判定部12は、個数の判定結果を製品管理部14に引き渡す。
【0027】
搬送方向判定部13は、製品の搬送方向(入庫又は出庫)を判定する。搬送方向判定部13は、搬送方向の判定結果を製品管理部14に引き渡す。
【0028】
製品管理部14は、入出庫リスト取得部15、過不足判定部16、及び学習用データ作成部17を有する。
【0029】
入出庫リスト取得部15は、入庫及び出庫する製品に関する情報をリスト化した入出庫リストを取得する。入出庫リストは、例えば、管理装置100と接続する基幹システムから取得する。
【0030】
過不足判定部16は、入庫及び出庫において、搬送する製品に過不足かあるか否かを判定する。過不足判定部16は、少なくとも、個数判定部12における判定個数、RFID読出部20によるRFIDの読み出しに成功した製品の個数に基づき、過不足の判定を行う。
【0031】
学習用データ作成部17は、製品管理システム1の運用中に撮影した画像データと、過不足の判定結果などから、画像解析用学習モデルを学習させる教師データ(学習用データ)を作成する。
【0032】
なお、各部は、例えば、専用のハードウェアで構成されてもよいし、ロードしたプログラムをプロセッサが実行することで構築されてもよい。
【0033】
<製品管理システムのハードウェア構成例>
図3は、製品管理システム1の構成例を表す図である。製品管理システム1は、CPU(Central Processing Unit)110、ストレージ120、メモリ130、カメラ300、ゲート200、及びディスプレイ160を有する。
【0034】
ストレージ120は、プログラムやデータを記憶する、フラッシュメモリ、HDD(Hard Disk Drive)、又はSSD(Solid State Drive)などの補助記憶装置である。ストレージ120は、RFID読出プログラム121、撮影プログラム122、画像処理プログラム123、製品管理プログラム124、及び画像解析用学習モデル学習プログラム125を記憶する。
【0035】
メモリ130は、ストレージ120に記憶されているプログラムをロードする領域である。また、メモリ130は、プログラムがデータを記憶する領域としても使用されてもよい。
【0036】
CPU110は、ストレージ120に記憶されているプログラムを、メモリ130にロードし、ロードしたプログラムを実行し、各部を構築し、各処理を実行するプロセッサである。
【0037】
カメラ300は、ゲート200周辺の製品を撮影する装置である。カメラ300は、例えば、製品管理システム1を構成するコンピュータの外部に接続されてもよいし、コンピュータに内蔵されていてもよい。
【0038】
ゲート200は、RFIDリーダ機能を有し、RFIDリーダ機能を用いて製品に貼り付けられたRFタグが発信(返信)する電波を受信し、RFタグの情報(製品情報)を取得する装置である。ゲート200は、例えば、製品管理システム1を構成するコンピュータの外部に接続されてもよいし、コンピュータに内蔵されていてもよい。また、ゲート200は、例えば、ゲートタイプであり、ゲート内に位置する、又はゲート200と所定距離内に位置する製品のRFタグからRFIDを読み出す。
【0039】
ディスプレイ160は、画像や動画を表示する表示部である。ディスプレイ160は、例えば、液晶や有機EL(Electro Luminescence)である。ディスプレイ160は、例えば、過不足判定の結果を表示する。
【0040】
CPU110は、RFID読出プログラム121を実行することで、RFID読出部20を構築し、RFID読出処理を行う。RFID読出処理は、ゲート200のRFID読み出し機能を使用し、RFタグから製品情報を読み出す処理である。
【0041】
CPU110は、撮影プログラム122を実行することで、撮影部30を構築し、撮影処理を行う。撮影処理は、カメラ300を使用し、ゲート200の周辺を含む映像を撮影する処理である。
【0042】
CPU110は、画像処理プログラム123を実行することで、画像処理部10を構築し、画像処理を行う。画像処理は、画像データを解析し、画像データに映る製品の個数や、製品の搬入方向(入庫又は出庫)を判定する処理である。
【0043】
CPU110は、製品管理プログラム124を実行することで、製品管理部14を構築し、製品管理処理を行う。製品管理処理は、入庫及び出庫において、製品の過不足判定を判定する処理である。
【0044】
CPU110は、画像解析用学習モデル学習プログラム125を実行することで、画像解析用学習モデル学習部11及び学習用データ作成部17を構築し、画像解析用学習モデル学習処理を行う。画像解析用学習モデル学習処理は、画像解析用学習モデルに学習させる教師データの選択や、教師データの入力など、画像解析用学習モデルの学習に関する処理を行う。なお、画像解析用学習モデル学習処理は、製品管理システム1の運用前に、画像解析用学習モデルの事前学習を含んでもよい。
【0045】
<製品管理処理シーケンス>
図4は、製品管理処理のシーケンスの例を示す図である。以下、各部の処理について説明する。
【0046】
撮影部30は、ゲート200周辺(製品を含む)撮影を行い、撮影した画像データを画像処理部10に送信する(S10)。
【0047】
画像処理部10は、画像解析用学習モデル50を使用し(S11)、個数判定処理S12を実行し、実行結果を製品管理部14に送信する(S13)。画像解析用学習モデル50は、例えば、AI(Artificial Intelligence)である。
【0048】
個数判定処理S12は、画像データに映る製品の個数を判定する処理である。個数判定処理S12の実行結果は、製品の個数(以降、画像個数と呼ぶ場合がある)を含む。なお、個数判定処理S12は、移動している(搬送されている)製品の個数を判定する。移動していない製品(同一位置に滞留している製品)は、搬送されている製品とはみなされず、搬送する製品の個数としてカウントされない。
【0049】
また、画像処理部10は、モーション機能付きカメラからの製品の動く方向に関する移動方向情報を取得し(S14)、搬送方向判定処理S15を実行し、実行結果を製品管理部14に送信する(S16)。
【0050】
搬送方向判定処理S15は、移動方向情報に基づき、製品の搬送方向(入庫されているのか出庫されているのか)を判定する処理である。搬送方向判定処理S15の実行結果は、入庫又は出庫である旨(以降、画像搬送方向と呼ぶ場合がある)を含む。
【0051】
RFID読出部20は、RFIDを読み出し、読み出した結果を製品管理部14に送信する(S20)。読み出した結果は、RFID読み出しに成功した個数(以降、読出個数と呼ぶ場合がある)や、読み出したRFIDに含まれる製品情報を含む。
【0052】
製品管理部14は、画像個数、読出個数、及び画像搬送方向を受信すると、過不足判定処理S30を行い、学習用データ作成処理S40を行う。
【0053】
過不足判定処理S30は、画像個数、読出個数、及び画像搬送方向に基づき、入庫及び出庫ごとに、搬送される製品に過不足があるか否かを判定する処理である。また、過不足判定処理S30は、過不足を判定した結果を、ディスプレイ160に表示する処理を含んでもよい。
【0054】
学習用データ作成処理S40は、画像解析用学習モデル50が画像解析に使用した画像データと、当該画像データの画像解析の正誤の結果などを、教師データとする(教師データを作成する)処理である。学習用データ作成処理S40は、画像解析用学習モデル学習処理S42に教師データを送信する(S41)。なお、学習用データ作成処理S40において作成する教師データは、画像個数の判定に関するものである。モーション機能付きカメラで移動方向を判定している場合、学習用データ作成処理S40において、搬送方向判定に関する教師データは作成されない。
【0055】
画像解析用学習モデル学習処理S42は、教師データを入力し、画像解析用学習モデル50を学習させ、画像解析用学習モデル50を更新する(S43)処理である。学習タイミングは、例えば、製品管理システム1の運用中であってもよいし、製品管理システム1の停止中(夜間やシステムメンテナンス時間など)であってもよい。製品管理システム1では、画像解析を行った画像データを使用し、画像解析用学習モデル50を繰り返し学習させることで、画像解析の精度(個数判定処理S12の実行結果が正しくなる割合)を向上させる。
【0056】
なお、モーション機能を有さないカメラで画像を撮影する場合、例えば、画像解析用学習モデル50を使用し、製品の動く方向及び入庫又は出庫を判定してもよい。この場合、搬送方向判定処理S15についても学習用データを生成し、学習させてもよい。
【0057】
さらに、画像解析用学習モデル50のシステム運用中の学習については、実施しなくてもよい。運用中に学習しない例として、事前学習が十分に行われ、AIとしての精度が相当に高い場合や、処理負荷や通信速度の関係から、運用中の学習が困難な場合などが挙げられる。また、システムの構成として、必ずしも運用中の学習機能を有さなくてもよい。
【0058】
[第1の実施の形態]
第1の実施の形態について説明する。第1の実施の形態において、撮影データは動画データを使用する。管理装置100は、動画データに基づき、製品の動きを検出し、製品の動きの検出を契機として、製品管理処理を実行する。
【0059】
図5は、第1の実施の形態における製品管理処理S100の処理フローチャートの例を示す図である。
【0060】
管理装置100は、動画の撮影データを解析し、製品の動き(製品が搬入あるいは搬出されようとしていること)を検出するのを待ち受ける(S100-1のNo)。管理装置100は、製品が動き始めたことを検出すると(S100-1のYes)、個数判定処理S12を実行する。
【0061】
管理装置100は、個数判定処理S12において、動画データにおけるある瞬間の静止画から、製品の画像個数を判定する。個数判定処理S12は、例えば、複数タイミングにおける複数の静止画に基づき、画像個数を判定する処理である。また、個数判定処理S12は、例えば、複数のカメラ300を用いて、複数方向から撮影した映像データを用いて、画像個数を判定する処理であってもよい。さらに、個数判定処理S12は、カメラ300が深度測定機能を有する場合、深度測定の結果を画像個数の判定に流用する処理を含んでもよい。深度測定機能は、物体までの距離を検出する機能であって、例えば、複数の段ボールに囲まれた領域が、空間であるのか段ボールであるのかを判定することを可能とする機能である。
【0062】
管理装置100は、搬送方向判定処理S15を実行する。管理装置100は、搬送方向判定処理S15において、カメラから取得した移動方向に関する情報に応じて、製品の搬送方向が入庫であるのか出庫であるのかを判定する。搬送方向判定処理S15は、カメラのモーション機能によって取得した移動方向から、製品が入庫されているのか、あるいは出庫されているのかを判定する処理である。
【0063】
管理装置100は、RFIDの読み出しが完了するのを待ち受ける(S100-2のNo)。RFIDの読み出しは、例えば、1つのRFIDを読み出してから、所定時間が経過するまでの間、RFIDの読み出しを継続する。所定時間だけRFIDの読み出しを継続するのは、例えば、製品自体の大きさや、ゲート200付近の電波状況によって、複数の製品のRIタグの読み出しが成功するまでに、相応の時間が必要である可能性があるためである。
【0064】
管理装置100は、RFIDの読み出しが完了すると(S100-2のYes)、過不足判定処理S30を実行する。過不足判定処理S30の詳細については、後述する。
【0065】
管理装置100は、過不足判定処理S30において、製品に過不足があった場合(S100-3のYes)、製品の確認や、過不足に対する対応を行う(S100-4)。処理S100-4は、例えば、画像個数と読出個数が不一致であること、及び入庫又は出庫などの画像搬送方向をディスプレイ160などに表示し、管理者に製品に過不足に対する確認又は対応を行うように促す処理を含む。
【0066】
管理装置100は、画像データと過不足判定結果から、教師データを作成し、画像解析用学習モデル学習処理S42を実行し、再度製品の動きの検出待ち(S100-1)を行う。なお、教師データは、例えば、学習用データ作成処理S40で作成される。
【0067】
<過不足判定処理>
図6は、過不足判定処理S30の処理フローチャートの例を示す図である。管理装置100は、画像個数と読出個数が一致しているか否かを判定する(S30-1)。
【0068】
管理装置100は、画像個数と読出個数が一致している場合(S30-1のYes)、画像搬送方向が出庫であれば(S30-2の「出庫」)、出庫において製品に過不足はないと判定し(S30-3)、画像搬送方向が入庫であれば(S30-2の「入庫」)、入庫において製品に過不足はないと判定し(S30-4)、処理を終了する。
【0069】
一方、管理装置100は、画像個数と読出個数が一致していない場合(S30-1のNo)、画像搬送方向が出庫であれば(S30-5の「出庫」)、出庫において製品に過不足があると判定し(S30-7)、画像搬送方向が入庫であれば(S30-5の「入庫」)、入庫において製品に過不足があると判定し(S30-6)、処理を終了する。
【0070】
第1の実施の形態において、管理装置100は、動画データから製品の動き(搬送)を検出すると、画像個数及び画像搬送方向を動画データから判定する。そして、管理装置100は、RFIDの読み出し結果を取得し、読出個数と画像個数を比較し、画像搬送方向ごとに製品の過不足があるか否かを判定する。これにより、1つのゲート200を設置することで、入庫及び出庫の両方向について、製品の過不足を判定でき、製品管理を行うことが可能となる。また、管理装置100が画像から入庫及び出庫を判定することで、例えば、管理者が入庫又は出庫を入力する手間や、誤って入力してしまうリスクを削減することができる。
【0071】
[第2の実施の形態]
第2の実施の形態について説明する。第2の実施の形態において、管理装置100は、第1の実施の形態における過不足判定処理S30に代替し、過不足判定処理S60を実行する。過不足判定処理S60は、入庫及び出庫する製品の一覧を含む入出庫リスト(製品リスト)を、過不足判定に使用する処理である。入出庫リストは、例えば、搬送方向、搬送する製品の識別子を含む識別情報、搬送する製品の個数(個数情報)などの情報を含む。
【0072】
図7は、第2の実施の形態における過不足判定処理S60の処理フローチャートの例を示す図である。管理装置100は、入出庫リストを取得する(S60-1)。管理装置100は、例えば、入出庫リストを作成及び管理する基幹システムから、入出庫リストを取得する。また、管理装置100は、例えば、管理者の入力によって、入出庫リストを取得してもよい。
【0073】
管理装置100は、入出庫リストの搬送方向は、画像搬送方向と一致しているか否かを判定する(S60-2)。管理装置100は、入出庫リストの搬送方向が画像搬送方向と一致していない場合(S60-2のNo)、製品に過不足があると判定し(S60-5)、処理を終了する。なお、製品に過不足があるという判定は、搬送方向の誤りや、余って製品を動かしてしまったことなど、製品の過不足以外のエラーが発生したという判定を含む。
【0074】
一方、管理装置100は、入出庫リストの搬送方向が画像搬送方向と一致している場合(S60-2のYes)、画像個数、読出個数、及び入出庫リストの搬送個数が、全て一致しているか否かを判定する(S60-3)。
【0075】
管理装置100は、画像個数、読出個数、及び入出庫リストの搬送個数が、全て一致している場合(S60-3のYes)、製品に過不足がないと判定し(S60-4)、処理を終了する。
【0076】
一方、管理装置100は、画像個数、読出個数、及び入出庫リストの搬送個数が、一部一致しない場合(S60-3のNo)、製品に過不足があると判定し(S60-5)、処理を終了する。
【0077】
図8は、入出庫リストと判定結果の例を示す図である。
図8(A)は、過不足なしと判定する場合の例を示す図である。管理装置100は、入出庫リストL1の搬送方向は入庫であり、画像搬送方向も入庫であるため、搬送方向は一致すると判定する(表1、
図7のS60-2のYes)。管理装置100は、入出庫リストL1の搬送個数は7個、画像個数も7個、読出個数も7個であり、全て同じ個数であるため(表2、
図7のS60-3のYes)、過不足はないと判定する(
図7のS60-4)。
【0078】
図8(B)は、過不足ありと判定される場合の例を示す図である。管理装置100は、入出庫リストL1の搬送方向は入庫であり、画像搬送方向も入庫であるため、搬送方向は一致すると判定する(表3、
図7のS60-2のYes)。管理装置100は、入出庫リストL1の搬送個数は7個、画像個数は6個、読出個数は6個であり、全てが一致しないためるため(表4、
図7のS60-3のNo)、過不足があると判定する(
図7のS60-5)。
【0079】
<変形例>
管理装置100は、過不足判定処理S60において、入出庫リストの搬送個数に代替し、入出庫リストの搬送製品の識別子(ID)を用いてもよい。この場合、管理装置100は、入出庫リストの搬送製品の識別子と、RFIDの読出結果における製品の識別子が全て一致(過不足なく一致)するか否かを確認する。そして、管理装置100は、識別子が全て一致する場合、さらに、画像個数と入出庫リストの搬送個数(読出個数と同じ)が一致するか否かを判定する。管理装置100は、識別子、搬送個数の全てが一致する場合、製品に過不足がないと判定し、一部でも一致しない場合、製品に過不足があると判定する。
【0080】
また、入出庫リストとの比較は、出庫時のみ実行されてもよい。入庫は、どのタイミングでどれだけの製品が運び込まれるのかが不明確である場合があるため、入庫については入出庫リストが作成されない場合がある。一方、出庫は、例えば、顧客に製品を配送するタイミングで行われるため、運び出すタイミングや対象製品が明確であり、厳密に管理されるため、リスト化されることが多い。
【0081】
さらに、出庫時のみ、過不足判定処理を行ってもよい。上述したように、出庫時の方が、厳密な製品管理が要求されるためである。例えば、管理装置100は、
図5の製品管理処理S100における搬送方向判定処理S15において、画像搬送方向が入庫である場合、過不足判定処理S30(S60)や個数判定処理S12などを実行しなくてもよい。
【0082】
[第3の実施の形態]
第3の実施の形態について説明する。第3の実施の形態において、撮影データは静止画データを使用する。管理装置100は、RFIDの読み出しを検出すると、少なくとも2つのタイミングで撮影した静止画データに基づき、製品の搬送方向を判定し、製品管理を実行する。
【0083】
図9は、第3の実施の形態における製品管理処理S200の処理フローチャートの例を示す図である。
【0084】
管理装置100は、RFIDの読み出しを検出するのを待ち受ける(S200-1のNo)。管理装置100は、RFIDの読み出しを検出すると(S200-1のYes)、複数タイミングで撮影した撮影データ(静止画データ)を取得する(S200-2)。
【0085】
管理装置100は、撮影データに基づき、個数判定処理S12を実行する。管理装置100は、個数判定処理S12において、複数の画像データのある1つの画像データから画像個数を判定してもよいし、複数の画像データから総合的に画像個数を判定してもよい。
【0086】
管理装置100は、搬送方向判定処理S15を実行する。管理装置100は、搬送方向判定処理S15において、静止画データに基づき、製品の搬送方向が入庫であるのか出庫であるのかを判定する。搬送方向判定処理S15は、撮影した製品の画像データ内の位置を、時系列で把握することで、製品の移動方向を判定する。
【0087】
管理装置100は、過不足判定処理S30を実行する。管理装置100は、過不足判定処理S30において、製品に過不足があった場合(S200-3のYes)、製品の確認や、過不足に対する対応を行う(S200-4)。
【0088】
管理装置100は、画像データと過不足判定結果から、教師データを作成し、画像解析用学習モデル学習処理S42を実行し、再度RFIDの読み出しの検出待ち(S200-1)を行う。
【0089】
第1の実施の形態において、管理装置100は、動画の画像解析による製品の動きの検出を契機として、製品管理処理を実行した。しかし、撮影する画像が静止画である場合、動画のように製品の動きをリアルタイムで検出することができない場合がある。そこで、第3の実施の形態において、管理装置100は、RFIDの読み出しを契機として、静止画の撮影(連続した撮影)を行うことで、静止画を常時撮影せずに、製品の動きを検出することができる。
【0090】
[第4の実施の形態]
第4の実施の形態について説明する。第4の実施の形態では、画像解析用学習モデルの学習方法について説明する。
【0091】
<画像解析用学習モデル学習処理>
画像解析用学習モデル学習処理S42について説明する。画像解析用学習モデル学習処理S42は、以下の2つのパターンにおいて実行される処理である。
【0092】
1つ目のパターンは、製品管理システム1の運用中に、撮影した画像データを用いて、学習を行うパターンである。例えば、画像個数と読出個数が異なる場合がある。この場合、RFIDの読み出し漏れ、あるいは対象以外の製品のRFIDを誤って読み出してしまった場合など、RFIDの読み出しにエラーが発生したことが考えられる。一方、この場合、画像解析用学習モデルが、誤って画像個数を判定したことも考えられる。ここで、例えば、RFIDが製品以外のRFIDを読み出してしまうエラーが発生する可能性は相当低いと想定した場合、読出個数が画像個数より多い場合、画像個数の判定が誤っている可能性が高い。そこで、管理装置100は、読出個数が画像個数より多い場合、読出個数を正しいと仮定し、学習用データ作成処理S40において、読出個数が正解数であることと画像解析に使用した画像データを、学習用データ(教師データ)として、画像解析用学習モデル学習処理を行う。
【0093】
また、管理装置100は、モーション機能を有さないカメラで撮影した画像を用いて、画像解析用学習モデルが画像搬送方向を判定する場合、画像搬送方向(製品の移動方向)に関して学習を行ってもよい。画像搬送方向は、製品の移動方向から判定される。そのため、移動方向の判定が誤ると、画像搬送方向も誤った判定となる。そこで、管理装置100は、画像搬送方向の学習として、製品の移動方向の学習を行う。なお、モーション機能付きカメラが使用されている場合、管理装置100は、移動方向の判定をカメラから取得するため、画像搬送方向の学習は行わない。
【0094】
2つめのパターンは、製品管理システム1の運用前に、事前学習を行うパターンである。
図10は、画像解析用学習モデル事前学習処理S300の処理フローチャートの例を示す図である。
【0095】
管理装置100は、複数角度から製品(複数、単数)の映像を撮影する(S300-1)。処理S300-1は、例えば、複数の製品を積み重ね、前後左右の4方向から撮影する。
【0096】
管理装置100は、個別物品の映像を撮影する(S300-2)。個別物品は、例えば、様々な形状、大きさの製品(梱包を含む)である。また、個別物品は、製品以外に、製品を運ぶための台車や、製品を運ぶ人物、倉庫内にある物体などを含む。すなわち、個別物品は、製品以外で、ゲート200の周辺に存在する(位置する)可能性があるものを対象とする。個別物品の映像データを事前学習に使用することで、製品か否かを判定する精度が向上する。
【0097】
管理装置100は、製品同士の境界線を加工した画像データ(加工画像データ)を生成する(S300-3)。
図11は、加工した画像データの例を示す図である。管理装置100は、処理S300-3において、
図11(A)の画像データを、
図11(B)、(C)、(D)のように加工する。
【0098】
図11(B)は、製品同士が接触する線を強調した加工データの例を示す図である。下の製品と上に積まれた製品とが接触する境界線を、太い線とする。
【0099】
図11(C)は、画像上の製品同士の境界線を強調した加工データの例を示す図である。下の製品と上に積まれた製品が実際に接触する境界線に加え、映像上で製品同士が重なる境界線についても、太い線とする。
【0100】
図11(D)は、製品の線の全てを強調した加工データの例を示す図である。例えば、製品が直方体である場合、両製品の映っている範囲の全ての辺を太い線とする。
【0101】
このように、製品同士、又は製品と空間、あるいは製品の形状がより明確となるようにした加工データを教師データとして用いることで、製品の個数認識の精度が向上する。
【0102】
管理装置100は、撮影したデータや加工データを教師データとし、画像解析用学習モデルの学習を行い(S300-4)、処理を終了する。
【0103】
このように、管理装置100は、事前学習において、製品の個数そのものを学習させない。これは、個数の学習を行うためには、膨大な数の教師データが必要となり、時間や工数が増大する。第4の実施の形態において、管理装置100は、個別の製品、物品を学習させ、一部線を強調した加工データを用いて境界線を学習させることで、製品の個数そのものを学習させなくても、製品の個数が判定できる(個別の製品を認識できる)画像解析用学習モデルを構築することができる。
【0104】
[その他の実施の形態]
上述した実施の形態は、それぞれ組み合わせて実行されてもよい。例えば、第1の実施の形態における動画に代替し、静止画を使用してもよい。この場合、定期的に静止画を撮影し、製品が動いたことを判定するようにしてもよい。また、事前学習、運用中の学習など、学習に要する時間や工数を考慮し、適宜実施するようにしてもよい。
【符号の説明】
【0105】
1 :製品管理システム
10 :画像処理部
11 :画像解析用学習モデル学習部
12 :個数判定部
13 :搬送方向判定部
14 :製品管理部
15 :入出庫リスト取得部
16 :過不足判定部
17 :学習用データ作成部
20 :RFID読出部
30 :撮影部
50 :画像解析用学習モデル
100 :管理装置
110 :CPU
120 :ストレージ
121 :RFID読出プログラム
122 :撮影プログラム
123 :画像処理プログラム
124 :製品管理プログラム
125 :画像解析用学習モデル学習プログラム
130 :メモリ
160 :ディスプレイ
200 :ゲート
300 :カメラ