IP Force 特許公報掲載プロジェクト 2022.1.31 β版

知財求人 - 知財ポータルサイト「IP Force」

▶ パナソニックIPマネジメント株式会社の特許一覧

<>
  • 特開-移動体および撮像画像の取得方法 図1
  • 特開-移動体および撮像画像の取得方法 図2
  • 特開-移動体および撮像画像の取得方法 図3
  • 特開-移動体および撮像画像の取得方法 図4
  • 特開-移動体および撮像画像の取得方法 図5
  • 特開-移動体および撮像画像の取得方法 図6
  • 特開-移動体および撮像画像の取得方法 図7
  • 特開-移動体および撮像画像の取得方法 図8
  • 特開-移動体および撮像画像の取得方法 図9
< >
(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公開特許公報(A)
(11)【公開番号】P2024172654
(43)【公開日】2024-12-12
(54)【発明の名称】移動体および撮像画像の取得方法
(51)【国際特許分類】
   H04N 23/61 20230101AFI20241205BHJP
   G06Q 30/06 20230101ALI20241205BHJP
   H04N 7/18 20060101ALI20241205BHJP
   H04N 23/60 20230101ALI20241205BHJP
   H04N 23/695 20230101ALI20241205BHJP
【FI】
H04N23/61
G06Q30/06
H04N7/18 E
H04N23/60 300
H04N23/695
【審査請求】未請求
【請求項の数】7
【出願形態】OL
(21)【出願番号】P 2023090508
(22)【出願日】2023-05-31
(71)【出願人】
【識別番号】314012076
【氏名又は名称】パナソニックIPマネジメント株式会社
(74)【代理人】
【識別番号】110002000
【氏名又は名称】弁理士法人栄光事務所
(72)【発明者】
【氏名】牧 直史
(72)【発明者】
【氏名】児玉 宣貴
(72)【発明者】
【氏名】松尾 正治郎
(72)【発明者】
【氏名】松本 宏之
【テーマコード(参考)】
5C054
5C122
5L030
5L049
【Fターム(参考)】
5C054CA04
5C054CC02
5C054CF06
5C054CF07
5C054CG03
5C054FC12
5C054FC15
5C054HA05
5C054HA19
5C122DA27
5C122FH11
5C122GA34
5C122GC52
5C122GD06
5C122GD11
5C122HB01
5L030BB72
5L049BB72
(57)【要約】
【課題】商品の陳列状態の監視を支援可能な撮像画像を取得する。
【解決手段】移動体は、レール上を移動する移動体であって、レール上で移動体を移動させる駆動部と、商品が陳列される商品陳列部を撮像するカメラと、カメラにより撮像された撮像画像から商品陳列部と、商品陳列部と対向する棚板とをそれぞれ検出する検出部と、商品陳列部と棚板とが検出された撮像画像を出力する出力部と、を備える。
【選択図】図4
【特許請求の範囲】
【請求項1】
レール上を移動する移動体であって、
前記レール上で前記移動体を移動させる駆動部と、
商品が陳列される商品陳列部を撮像するカメラと、
前記カメラにより撮像された撮像画像から前記商品陳列部と、前記商品陳列部に対向する棚板とをそれぞれ検出する検出部と、
前記商品陳列部と前記棚板とが検出された撮像画像を出力する出力部と、を備える、
移動体。
【請求項2】
前記検出部は、前記商品陳列部の前面をさらに検出し、前記商品陳列部の前面が前記カメラの画角の下端で撮像されているか否かをさらに判定し、
前記出力部は、前記商品陳列部の前面が前記画角の下端で撮像されていると判定された撮像画像を出力する、
請求項1に記載の移動体。
【請求項3】
前記商品陳列部および前記棚板が検出された第1撮像位置を、前記商品陳列部ごとに記録する記録部、をさらに備える、
請求項1に記載の移動体。
【請求項4】
前記カメラは、チルト回転可能であって、
前記検出部は、前記商品陳列部と前記棚板とが検出された第1撮像位置よりも高い第2撮像位置において、前記商品陳列部と前記棚板とを撮像可能な前記カメラのチルト角度を算出し、
前記駆動部は、前記第2撮像位置に前記移動体を移動させて、前記カメラを前記チルト角度に調整し、
前記カメラは、前記チルト角度で前記商品陳列部を撮像し、
前記出力部は、撮像された撮像画像を出力する、
請求項1に記載の移動体。
【請求項5】
前記検出部は、前記撮像画像に基づいて、前記商品陳列部の板厚と、前記商品陳列部と前記棚板との間の陳列高さとを算出し、前記板厚と前記陳列高さとに基づいて、前記第2撮像位置を決定する、
請求項4に記載の移動体。
【請求項6】
前記第2撮像位置と前記チルト角度とを対応づけて前記商品陳列部ごとに記録する記録部、をさらに備える、
請求項4に記載の移動体。
【請求項7】
レール上を移動する移動体が行う撮像画像の取得方法であって、
前記レール上で前記移動体を移動させて、商品が陳列される商品陳列部を撮像し、
撮像された撮像画像から前記商品陳列部と、前記商品陳列部と対向する棚板とをそれぞれ検出し、
前記商品陳列部と前記棚板とが検出された撮像画像を出力する、
撮像画像の取得方法。
【発明の詳細な説明】
【技術分野】
【0001】
本開示は、移動体および撮像画像の取得方法に関する。
【背景技術】
【0002】
特許文献1には、商品配置エリア内の商品が欠品状態にあるかを判断する商品管理サーバーが開示されている。商品管理サーバーは、撮像手段により撮像された商品配置エリアの画像および商品配置エリアに陳列される商品の種類に基づいて、商品パラメータおよび配置エリアが欠品状態か否かの基準となる欠品閾値を記憶し、画像に含まれる商品配置エリアの大きさと商品パラメータから商品の欠品率を算出し、欠品閾値と比較することで商品配置エリア内の商品が欠品状態であるかを判断する。
【先行技術文献】
【特許文献】
【0003】
【特許文献1】特開2022-139413号公報
【発明の概要】
【発明が解決しようとする課題】
【0004】
しかし、上述した商品管理サーバーの撮像部は、予め決まった商品配置エリアを撮像可能に設置されており、例えば撮像部が移動して複数の商品配置エリアのそれぞれの撮像を想定したものではなかった。
【0005】
本開示は、上述した従来の事情に鑑みて案出され、商品の陳列状態の監視を支援可能な撮像画像を取得する移動体および撮像画像の取得方法を提供することを目的とする。
【課題を解決するための手段】
【0006】
本開示は、レール上を移動する移動体であって、前記レール上で前記移動体を移動させる駆動部と、商品が陳列される商品陳列部を撮像するカメラと、前記カメラにより撮像された撮像画像から前記商品陳列部と、前記商品陳列部と対向する棚板とをそれぞれ検出する検出部と、前記商品陳列部と前記棚板とが検出された撮像画像を出力する出力部と、を備える、移動体を提供する。
【0007】
また、本開示は、レール上を移動する移動体が行う撮像画像の取得方法であって、前記レール上で前記移動体を移動させて、商品が陳列される商品陳列部を撮像し、撮像された撮像画像から前記商品陳列部と、前記商品陳列部と対向する棚板とをそれぞれ検出し、前記商品陳列部と前記棚板とが検出された撮像画像を出力する、撮像画像の取得方法を提供する。
【発明の効果】
【0008】
本開示によれば、商品の陳列状態の監視を支援可能な撮像画像を取得できる。
【図面の簡単な説明】
【0009】
図1】実施の形態に係る棚前移動ロボットシステムのユースケース例を示す図
図2】移動ロボットの一例を示す外観図
図3】実施の形態に係る移動ロボットの内部構成例を示すブロック図
図4】実施の形態に係る移動ロボットの動作手順例を示すフローチャート
図5】実施の形態に係る移動ロボットの動作手順例を示すフローチャート
図6】移動ロボットの撮像位置の一例を説明する図
図7】第1の撮像方法による撮像処理の一例を示す図
図8】第2の撮像方法による撮像処理の一例を示す図
図9】第2の撮像方法による撮像処理の一例を示す図
【発明を実施するための形態】
【0010】
以下、適宜図面を参照しながら、本開示に係る移動体および撮像画像の取得方法を具体的に開示した各実施の形態を詳細に説明する。但し、必要以上に詳細な説明は省略する場合がある。例えば、既によく知られた事項の詳細説明や実質的に同一の構成に対する重複説明を省略する場合がある。これは、以下の説明が不必要に冗長になるのを避け、当業者の理解を容易にするためである。なお、添付図面および以下の説明は、当業者が本開示を十分に理解するために提供されるのであって、これらにより特許請求の範囲に記載の主題を限定することは意図されていない。
【0011】
なお、以降の説明において、Z方向を上下方向あるいは垂直方向、Y方向を水平方向、X方向を前後方向と称することがある。
【0012】
まず、図1を参照して、実施の形態に係る棚前移動ロボットシステム100の全体構成と、移動ロボットRBの外観について説明する。図1は、実施の形態に係る棚前移動ロボットシステム100のユースケース例を示す図である。
【0013】
実施の形態に係る棚前移動ロボットシステム100は、レールRL(図6参照)と、移動ロボットRB(移動体の一例,図2参照)と、を含んで構成される。棚前移動ロボットシステム100は、撮像対象である商品棚SH2と対向配置された商品棚SH1に設置されたレールRL上を、カメラCMを有する移動ロボットRBが移動する。棚前移動ロボットシステム100は、レールRL上の複数の撮像位置P11,P12,P13,…,P1n,P21,P22,P23,…,P2n,P31,P32,P33,…,P3n,Pm1,Pm2,Pm3,…,Pmnのそれぞれで商品棚SH2が有する複数の商品陳列部のそれぞれを撮像し、撮像された撮像画像を外部端末(不図示)に送信する。棚前移動ロボットシステム100は、撮像された撮像画像を外部端末に送信することで、商品あるいは商品の在庫管理を行う管理者による商品管理を支援する。なお、変数「m」,「n」は、1以上の整数である。
【0014】
なお、ここでいう外部端末は、移動ロボットRBとの間で無線通信可能に接続され、カメラCMにより撮像された撮像画像を表示可能な端末である。外部端末は、例えば、各商品棚の商品を管理する人物により管理されるPersonal Computer(以降、「PC」と称する)、ノートPC、タブレット端末あるいはスマートフォン等により実現される。
【0015】
なお、図1に示す棚前移動ロボットシステム100は、一例として商品棚SH1に設けられる例を示すが、これに限定されず、例えば壁、天井等に設置されてもよい。
【0016】
図6に示すように、レールRLは、少なくとも1本の水平レールと、少なくとも1本の垂直レールと、少なくとも1つの交点レールと、少なくとも1つの第1電極PWと、を含む。
【0017】
なお、図6に示すレールRLは、(m-1)本の水平レールHRL1,HRL2,HRL3,…,HRL(m-1)のそれぞれと、m本の垂直レールVRL1,VRL2,VRL3,…,VRLmのそれぞれと、m個の交点レールPTL1,PTL2,PTL3,…,PTLmと、1つの第1電極PWとを含む例について説明する。
【0018】
各種レール(水平レールHRL1~HRL(m-1)のそれぞれ、垂直レールVRL1~VRLmのそれぞれ、および交点レールPTL1~PTLmのそれぞれ)は、所謂カーテンレール等の汎用的なレールを切断,加工することで製造されてもよいし、他の金属板を切断,加工することで製造されてもよい。
【0019】
水平レールHRL1~HRL(m-1)のそれぞれは、1枚の金属板の両端部がそれぞれ略L字状に折り加工されて形成される。水平レールHRL1~HRL(m-1)のそれぞれは、折り加工された両端部により形成される内部空間を有し、この内部空間に移動ロボットRBの摺動部(不図示)を摺動可能に収容することで、移動ロボットRBの移動を実現可能にする。
【0020】
垂直レールVRL1~VRLmのそれぞれは、1枚の金属板の両端部がそれぞれ略L字状に折り加工されて形成される。垂直レールVRL1~VRLmのそれぞれは、折り加工された両端部により形成される内部空間を有し、この内部空間に移動ロボットRBの摺動部(不図示)を摺動可能に収容することで、移動ロボットRBの移動を実現可能にする。
【0021】
交点レールPTL1~PTLmのそれぞれは、1枚の金属板の両端部がそれぞれ略L字状に折り加工されて形成される。交点レールPTL1~PTLmのそれぞれは、折り加工された両端部により形成される内部空間を有し、この内部空間に移動ロボットRBの摺動部(不図示)を摺動可能に収容することで、移動ロボットRBの移動を実現可能にする。
【0022】
また、交点レールPTL1~PTLmのそれぞれは、移動ロボットRBの摺動部(不図示)の回転により回動され、移動ロボットRBの移動先である水平レールまたは垂直レールのいずれか一方に接続される。これにより、交点レールPTL1~PTLmのそれぞれは、連続する2本の水平レール(例えば、水平レールHRL1,HRL2等)の間、または隣り合う垂直レール(例えば、垂直レールVRL2等)と水平レール(例えば、水平レールHRL1,HRL2等)との間で移動ロボットRBを移動可能にする。
【0023】
第1電極PWは、いずれかの水平レールに設けられ、移動ロボットRBの電池11Aに充電される電力を供給する。なお、第1電極PWは、水平レールに限定されず、いずれかの垂直レールに設けられてもよい。
【0024】
図2および図3のそれぞれを参照して、移動ロボットRBについて説明する。図2は、移動ロボットRBの一例を示す外観図である。図3は、実施の形態に係る移動ロボットRBの内部構成例を示すブロック図である。なお、図2に示す移動ロボットRBの外観および持3に示す内部構成は、一例であってこれに限定されないことは言うまでもない。
【0025】
移動ロボットRBは、事前に設定された移動経路に基づいて、第1モータMT1の駆動によって水平レールHRL1~HRL(m-1)のそれぞれ、垂直レールVRL1~VRLmのそれぞれ、および交点レールPTL1~PTLmのそれぞれに沿って移動する。
【0026】
移動ロボットRBは、交点レール上で第2モータMT2を駆動させて交点レールを回転させる。移動ロボットRBは、交点レールを回転させることで交点レールの接続先を水平レールと垂直レールとの間で切り替え、切り替えにより接続された水平レールまたは垂直レールへの移動を実現する。
【0027】
移動ロボットRBは、筐体の開口に配置されたカメラCMにより、商品棚SH2が有する複数の商品陳列部SH21,SH22,SH23,…,SH2nのそれぞれを第1の撮像方法または第2の撮像方法で撮像し、撮像された撮像画像を外部端末(不図示)に送信する。
【0028】
なお、ここでいう第1の撮像方法は、カメラCMをチルト回転させず、決まった角度から各商品陳列部SH21~SH2nを撮像する方法である。本開示では、カメラCMの光軸OAと、商品陳列部SH21~SH2nの表面とが略水平になる角度で各商品陳列部SH21~SH2nを撮像する例について説明する。このような場合、移動ロボットRBは、後述する第3モータMT3および第3モータエンコーダENC3のそれぞれが省略されてよい。また、ここでいう第2の撮像方法は、カメラCMをチルト回転させて各商品陳列部SH21~SH2nを撮像する方法である。
【0029】
移動ロボットRBは、無線通信部10と、アンテナAntと、電池11Aと,電源電圧変換部11Bと、メモリ12と、制御部20と、カメラCMと、レール交点検出用端子PGと、第1モータMT1と、第1モータエンコーダENC1と、第2モータMT2と、第2モータエンコーダENC2と、第3モータMT3と、第3モータエンコーダENC3とを含む。
【0030】
移動ロボットRBは、無線通信部10と、アンテナAntと、制御部20と、メモリ12と、カメラCMと、レール交点検出用端子PGと、エンコーダ15と、第1モータMT1と、第2モータMT2と、電源部16と、を含む。
【0031】
無線通信部10は、外部端末(不図示)との間で無線通信によるデータの送受信を実行する。なお、無線通信部10は、ルータ(不図示)等を介して、外部端末との間でデータの送受信を実行してもよい。無線通信部10は、外部端末から送信された電気信号(制御指令)を制御部20に出力する。また、無線通信部10は、制御部20から出力された撮像画像を外部端末に送信する。
【0032】
アンテナAntは、無線通信部10から出力された電気信号を電波に変換して送信可能なアンテナである。また、アンテナAntは、例えば外部端末(不図示)から送信された信号を受信可能である。
【0033】
メモリ12は、例えば制御部20の動作を規定したプログラムおよびデータを格納するRead Only Memory(以降、「ROM」と称する)12Aと、制御部20の各処理を実行する際に用いられるワークメモリとしてのRandom Access Memory(以降、「RAM」と称する)12Bとを有する。ROM12Aには、制御部20の動作を規定するプログラムが書き込まれている。RAM12Bには、制御部20により生成あるいは取得されたデータもしくは情報が一時的に保存される。
【0034】
メモリ12は、充電位置である初期位置A0の位置情報、各商品陳列部を撮像するための撮像位置P11~Pmnの位置情報、すべての撮像位置P11~Pmnをそれぞれ撮像するための移動経路(撮像順番)の情報等を記憶してもよい。また、メモリ12は、カメラCMと商品棚SH2との間の棚間距離F、および商品陳列部の奥行き方向の長さである棚奥行E等の情報が予め記録されていてもよい。
【0035】
制御部20(検出部および出力部の一例)は、例えばCentral Processing Unit(CPU)、Digital Signal Processor(DSP)またはField Programmable Gate Array(FPGA)を用いて構成され、制御部20の各部の動作を制御する。制御部20は、電池11Aに蓄電された電力を供給され、メモリ12と協働して、各種の処理および制御を統括的に行う。具体的には、制御部20は、メモリ12に保持されたプログラムおよびデータを参照し、そのプログラムを実行することにより、制御部20の各部の機能を実現する。
【0036】
ここでいう各部は、カメラ制御部21、レール交点検出部22、第1モータ制御部23A、第1パルス信号カウント部23B、第2モータ制御部24A、第2パルス信号カウント部24B、第3モータ制御部25A、第3パルス信号カウント部25B、移動距離算出部26、チルト角度算出部27等である。なお、第3モータ制御部25A、第3パルス信号カウント部25B、およびチルト角度算出部27のそれぞれは、必須でなく、例えば第1の撮像方法を実行する移動ロボットRBである場合には省略されてよい。
【0037】
制御部20は、カメラCMをチルト回転させずに撮像する第1の撮像方法、またはカメラCMをチルト回転させて撮像する第2の撮像方法により商品陳列部SH21~SH2nのそれぞれを撮像する。なお、第1の撮像方法または第2の撮像方法は、事前に管理者等により任意に設定可能であってよい。
【0038】
カメラ制御部21は、第2パルス信号カウント部24Bから出力された制御指令に基づいて、カメラCMに撮像処理を実行させる。カメラ制御部21は、カメラCMから出力された撮像画像を制御部20に出力したり、無線通信部10に出力して、外部端末に送信させたりする。
【0039】
レール交点検出部22は、レール交点検出用端子PGから出力された信号レベルを検出する。レール交点検出部22は、検出された信号レベルの情報を移動距離算出部26あるいは第2モータ制御部24Aに出力する。
【0040】
第1モータ制御部23A(駆動部の一例)は、ROM12Aに格納されたプログラムに基づき、第1モータMT1の回転駆動制御を実行し、移動ロボットRBをレールRL上で移動させる。
【0041】
第1パルス信号カウント部23Bは、第1モータMT1の回転角度(回転量)を検出可能な第1モータエンコーダENC1から出力されたパルス信号を取得する。第1パルス信号カウント部23Bは、取得されたパルス信号の信号数の情報を移動距離算出部26に出力する。
【0042】
第2モータ制御部24A(駆動部の一例)は、ROM12Aに格納されたプログラムに基づき、第2モータMT2の回転駆動制御を実行し、交点レールPTL1~PTLmのそれぞれの接続先を切り替える。
【0043】
第2パルス信号カウント部24Bは、第2モータMT2の回転角度(回転量)を検出可能な第2モータエンコーダENC2から出力されたパルス信号を取得する。第2パルス信号カウント部24Bは、取得されたパルス信号の信号数に基づいて、対応する交点レールの回転角度(回転量)を算出し、算出された回転角度に基づく交点レールの接続先の切り替え完了と、パルス信号の有無に基づく第2モータMT2の回転停止とを検出する。
【0044】
第3モータ制御部25A(駆動部の一例)は、ROM12Aに格納されたプログラムに基づき、第3モータMT3の回転駆動制御を実行し、カメラCMのチルト角度を調整する。
【0045】
第3パルス信号カウント部25Bは、第3モータMT3の回転角度(回転量)を検出可能な第3モータエンコーダENC3から出力されたパルス信号を取得する。第3パルス信号カウント部25Bは、取得されたパルス信号の信号数の情報をチルト角度算出部27に出力する。
【0046】
移動距離算出部26は、レール交点検出部22から出力された信号レベルの情報、あるいは第1パルス信号カウント部23Bから出力されたパルス信号の信号数の情報を取得する。
【0047】
移動距離算出部26は、取得された信号レベルの情報に基づいて、移動ロボットRBの現在位置が交点レール上であるか否かを判定する。また、移動距離算出部26は、取得されたパルス信号の信号数に基づいて、移動ロボットRBの移動距離を算出する。移動距離算出部26は、算出された移動距離に基づいて、移動ロボットRBの現在位置を算出する。移動距離算出部26は、算出された移動ロボットRBの移動距離または現在位置の情報を制御部20に出力する。
【0048】
チルト角度算出部27は、第3パルス信号カウント部25Bから出力されたパルス信号の信号数の情報に基づいて、商品陳列部を撮像するカメラCMのチルト角度を算出する。チルト角度算出部27は、算出されたチルト角度の情報を制御部20に出力する。
【0049】
カメラCMは、少なくともイメージセンサ(不図示)とレンズCMAとを有して構成される。イメージセンサは、例えばCharged-Coupled Device(CCD)またはComplementary Metal Oxide Semiconductor(CMOS)の固体撮像素子であり、撮像面に結像した光学像を電気信号に変換する。カメラCMは、カメラ制御部21から出力された制御指令に基づいて、撮像処理を実行し、撮像された撮像画像を制御部20に出力する。
【0050】
レール交点検出用端子PGは、交点レールPTL1~PTLmのそれぞれに設けられた少なくとも1つの電極(不図示)を検出するための接触式センサである。
【0051】
第1モータMT1は、第1モータ制御部23Aにより制御されて、移動ロボットRBの水平方向または垂直方向への移動を実現する。
【0052】
第1モータエンコーダENC1は、第1モータMT1の回転角度に対応する数のパルス信号を生成し、第1パルス信号カウント部23Bに出力する。
【0053】
第2モータMT2は、第2モータ制御部24Aにより制御されて、交点レールPTL1~PTLmの回転、つまり、交点レールPTL1~PTLmの接続先、つまり、移動ロボットRBの移動先であるレールを水平レールHRL1~HRL(m-1)と、垂直レールVRL1~VRLmとの間で切り替える。
【0054】
第2モータエンコーダENC2は、第2モータMT2の回転角度に対応する数のパルス信号を生成し、第2パルス信号カウント部24Bに出力する。
【0055】
第3モータMT3は、第3モータ制御部25Aにより制御されて、チルト軸TL0(図1図9参照)を回転中心としてカメラCMのチルト回転を実現する。
【0056】
第3モータエンコーダENC3は、第3モータMT3の回転角度に対応する数のパルス信号を生成し、第3パルス信号カウント部25Bに出力する。
【0057】
次に、図4図6のそれぞれを参照して、移動ロボットRBの撮像処理例について説明する。図4および図5は、実施の形態に係る移動ロボットRBの動作手順例を示すフローチャートである。図6は、移動ロボットRBの撮像位置の一例を説明する図である。
【0058】
ここでは、移動ロボットRBが初期位置A0から移動し、m本の垂直レールVRL1~VRLm上の各撮像位置(撮像位置P11~Pmnまたは撮像位置P11´~Pmn´)から各商品陳列部を撮像する例について説明する。なお、図6に示す各撮像位置P11~Pmn,P11´~Pmn´は一例であって、これに限定されないことは言うまでもない。また、図6の説明では、第1の撮像方法による撮像位置と、第2の撮像方法による撮像位置との違いを分かりやすくするために、第1の撮像方法による撮像位置を符号「P11」~「Pnm」、第2の撮像方法による撮像位置を符号「P11´」~「Pmn´」で便宜的に示す。
【0059】
例えば、移動ロボットRBは、垂直レールVRL1上においてn個の商品陳列部のそれぞれをn箇所の撮像位置P11~P1nまたは撮像位置P11´~P1n´から撮像し、垂直レールVRL2上においてn個の商品陳列部のそれぞれをn箇所の撮像位置P21~P2nまたは撮像位置P21´~P2n´から撮像し、垂直レールVRL3上においてn個の商品陳列部のそれぞれをn箇所の撮像位置P31~P3nまたは撮像位置P31´~P3n´を撮像し、垂直レールVRLm上においてn個の商品陳列部のそれぞれをn箇所の撮像位置Pm1~Pmnまたは撮像位置Pm1´~Pmn´から撮像する。なお、商品陳列部の数および位置と、撮像位置および撮像位置の数とは、垂直レールごとに異なってよいことは言うまでもない。
【0060】
制御部20は、外部端末から送信された制御指令に基づいて、後述するステップSt17またはステップSt18で制御部20により修正され、メモリ12に記録された各撮像位置P11~Pmn,P11´~Pmn´の情報をリセット(削除)する。制御部20は、撮像位置情報をリセット(削除)した後、移動ロボットRBの移動先を最初の商品陳列部を撮像するための撮像位置P11(x,y)=(1,1)および値W=0(ゼロ)に設定する(St11)。
【0061】
ここで、撮像位置Pxy(x,y)は、商品棚SH2が有する各商品陳列部のそれぞれを撮像するための位置情報を示す。値Wは、「W=0(ゼロ)」の場合、ステップSt17またはステップSt18で制御部20により修正された撮像位置がメモリ12に記録済みでないことを示し、「W=1」の場合にはステップSt17またはステップSt18で制御部20により修正された撮像位置がメモリ12に記録済みであることを示す。
【0062】
制御部20は、外部端末から送信された制御指令に基づいて、1番目の撮像位置P11(1,1)への移動開始のトリガの入力があるか否かを判定する(St12)。
【0063】
制御部20は、ステップSt12の処理において、1番目の撮像位置P11(x,y)=(1,1)への移動開始のトリガの入力があると判定した場合(St12,YES)、第1モータ制御部23Aにより第1モータMT1を駆動させて、交点レール位置A1への移動を開始する。制御部20は、レール交点検出部22により交点レール位置A1が検出された場合、第2モータ制御部24Aにより第2モータMT2を駆動させて、交点レール位置A1の接続先を水平レールHRL1から垂直レールVRL1に切り替える(St13)。
【0064】
一方、制御部20は、ステップSt12の処理において、1番目の撮像位置P11(1,1)への移動開始のトリガの入力がないと判定した場合(St12,NO)、ステップSt12の処理に戻る。
【0065】
<第1の撮像方法>
まず、第1の撮像方法により商品陳列部SH21を撮像する場合の撮像手順例(ステップSt14~ステップSt21A)について説明する。なお、図4図5に示す移動ロボットRBの動作手順において、第1の撮像方法で撮像する場合、移動ロボットRBは、ステップTLに示すチルト角度調整処理を省略する。
【0066】
制御部20は、現在の値Wが「W=0(ゼロ)」であるか否かを判定する(St14)。
【0067】
制御部20は、ステップSt14の処理において、現在の値Wが「W=0(ゼロ)」であると判定した場合(St14,YES)、撮像を開始させる制御指令を生成して、カメラCMに出力する。制御部20は、第1モータ制御部23Aにより第1モータMT1を駆動させて、撮像位置P11(1,1)への移動を開始し、撮像位置P11(1,1)に向かって移動しながら、カメラCMから出力された撮像画像のそれぞれを順次取得する(St16)。
【0068】
制御部20は、取得された撮像画像のそれぞれを順次画像処理して、商品陳列部SH21の上下方向に位置する棚板前面SH20A,SH21Aをそれぞれ検出する。具体的に、制御部20は、撮像画像から商品陳列部SH21の上端を示す棚板SH20の棚板前面SH20A(棚板の一例)を検出した状態で、かつ、商品陳列部SH21の下端を示す棚板前面SH21A(商品陳列部の前面の一例)を検出したか否かを判定する。制御部20は、移動距離算出部26から棚板前面SH20A,SH21Aのそれぞれが検出されたタイミングにおける移動ロボットRBの位置情報を取得する。制御部20は、取得された移動ロボットRBの位置情報と、商品陳列部SH21の識別情報とを対応付けて、撮像位置P11に対応する商品陳列部の撮像位置情報としてメモリ12に記録させる(St17)。これにより、制御部20は、再度撮像位置がリセットされるまでの間、商品陳列部SH21の撮像位置P11をステップSt17で取得された移動ロボットRBの位置情報に変更(修正)する。
【0069】
制御部20は、ステップSt17で記録した撮像位置P11の位置で撮像された撮像画像を取得する(St21A)。制御部20は、撮像された撮像画像と、商品陳列部SH21を識別可能な識別情報(例えば、各商品陳列部に割りてられた番号、ID等)とを対応付けて無線通信部10に出力し、外部端末に送信させる(St22)。
【0070】
なお、本開示では、移動ロボットRBは、上下方向(Z方向)において下方向に下降しながら各撮像位置P11~Pmnを撮像する。よって、制御部20は、撮像画像から商品陳列部SH21の上端を示す棚板前面SH20Aを検出した状態で、かつ、下端を示す棚板前面SH21Aを検出したか否かを判定するが、逆であってもよい。
【0071】
一方、制御部20は、ステップSt14の処理において、現在の値Wが「W=0(ゼロ)」でないと判定した場合(St14,NO)、メモリ12に記録された撮像位置P11の撮像位置情報を取得する。制御部20は、第1モータ制御部23Aにより第1モータMT1を駆動させて、取得された撮像位置P11の撮像位置情報が示す撮像位置まで移動した後(St15)、撮像を要求する制御指令を生成して、カメラCMに出力する。カメラCMは、商品陳列部SH21(図7または図9参照)を撮像する(St21A)。制御部20は、カメラCMから出力された撮像画像と、商品陳列部SH21の識別情報とを対応付けて無線通信部10に出力し、外部端末に送信させる(St22)。
【0072】
<第2の撮像方法>
次に、第2の撮像方法により商品陳列部SH21を撮像する場合の撮像手順例(ステップSt14~ステップSt21A)について説明する。なお、ステップSt14~ステップSt17の処理はそれぞれ同様であるため、説明を省略する。
【0073】
制御部20は、商品陳列部SH21の棚板前面SH20A,SH21Aのそれぞれが検出されたタイミングで撮像された撮像画像に基づいて、棚板前面SH20Aと棚板前面SH21Aとの間の陳列高さDと、棚板前面SH21Aの表面(つまり、商品陳列部SH21の表面)を基準とするカメラCMの光軸高さHと、棚板前面SH21Aの板厚Gとを推定する。制御部20は、推定された陳列高さDと、光軸高さHと、板厚Gと、棚奥行Eと、棚間距離Fと、に基づいて、商品陳列部SH21を撮像するための撮像位置の修正値J(図9参照)と、修正された撮像位置におけるカメラCMのチルト角度θ(図9参照)とを算出する(St18)。制御部20は、修正値Jに基づいて修正された撮像位置P11´(1,1)の位置情報と、チルト角度θの情報と、商品陳列部SH21の識別情報とを対応付けて、撮像位置P11の撮像位置情報としてメモリ12に記録する(St18)。これにより、制御部20は、再度撮像位置がリセットされるまでの間、商品陳列部SH21の撮像位置P11をステップSt18で取得された撮像位置P11´に変更(修正)する。
【0074】
制御部20は、第1モータ制御部23Aにより第1モータMT1を駆動させて、修正後の撮像位置P11´の位置に移動する(St19)。制御部20は、第3モータ制御部25Aにより第3モータMT3を駆動させて、カメラCMを算出されたチルト角度まで回転させる(St20)。制御部20は、カメラCMのチルト角度調整後に撮像を要求する制御指令を生成してカメラCMに出力し、カメラCMにより撮像された撮像画像を取得する(St21B)。制御部20は、撮像された撮像画像と、商品陳列部SH21の識別情報とを対応付けて無線通信部10に出力し、外部端末に送信させる(St22)。
【0075】
一方、制御部20は、ステップSt14の処理において、現在の値Wが「W=0(ゼロ)」でないと判定した場合(St14,NO)、メモリ12に記録された撮像位置P11の撮像位置情報として、撮像位置P11(1,1)の撮像位置情報およびチルト角度θの情報のそれぞれを取得する。制御部20は、第1モータ制御部23Aにより第1モータMT1を駆動させて、取得された撮像位置P11(つまり、撮像位置P11´)まで移動した後、第2モータ制御部24Aにより第2モータMT2を駆動させて、カメラCMをチルト角度θまで回転させる。制御部20は、撮像を要求する制御指令を生成して、チルト角度調整後にカメラCMに出力する。カメラCMは、商品陳列部SH21(図7または図9参照)を撮像する(St21B)。制御部20は、カメラCMから出力された撮像画像と、商品陳列部SH21の識別情報とを対応付けて無線通信部10に出力し、外部端末に送信させる(St22)。
【0076】
制御部20は、撮像画像の送信が完了したか否かを判定する(St23)。
【0077】
制御部20は、ステップSt23の処理において、撮像画像の送信が完了したと判定した場合(St23,YES)、現在の撮像位置Pxy(x,y)の値yが「y=n」であるか否か、つまり、現在撮像している1列(つまり、垂直レールVRL1~VRLm)で商品陳列部の撮像が完了したか否かを判定する(St24)。具体的に、現在の撮像位置Pxy(x,y)の値xが「x=1」である場合、制御部20は、「x=1」に対応する垂直レールVRL1に設定されたすべての撮像位置P11~P1nのそれぞれで撮像が完了したか否かを判定する。
【0078】
一方、制御部20は、ステップSt23の処理において、撮像画像の送信が完了していないと判定した場合(St23,NO)、ステップSt22の処理に戻る。
【0079】
制御部20は、ステップSt24の処理において、現在の撮像位置Pxyにおいて「y=n」であると判定した場合(St24,YES)、次の移動先である交点レールを特定する値yを「y=1」に設定する(St25)。
【0080】
一方、制御部20は、ステップSt24の処理において、現在の撮像位置Pxyにおいて「y=n」でないと判定した場合(St24,NO)、値yをインクリメント(y+1)して次の撮像位置Pxyの設定を実行し(St26)、ステップSt14の処理に戻って次の撮像位置Pxyの撮像を実行する。
【0081】
制御部20は、次の移動先である交点レールを特定する値yを「y=1」に設定した後(St25)、第1モータ制御部23Aにより第1モータMT1を駆動させて、現在の値xに対応する交点レール位置Ax(x,1)に移動を開始する(St27)。制御部20は、レール交点検出部22により交点レール位置Ax(x,1)が検出された場合、第2モータ制御部24Aにより第2モータMT2を駆動させて、交点レールの接続先を垂直レールから水平レールに切り替える(St28)。
【0082】
制御部20は、現在の撮像位置Pxyの値xが「x=m」であるか否か、つまり、レールRLが有するすべての垂直レールVRL1~VRLmで商品陳列部の撮像が完了したか否かを判定する(St29)。具体的に、制御部20は、すべての撮像位置P11~Pmnまたはすべての撮像位置P11´~Pmn´のそれぞれで撮像が完了したか否かを判定する。
【0083】
制御部20は、ステップSt29の処理において、現在の撮像位置Pxyの値xが「x=m」であると判定した場合(St29,YES)、値xを「x=1」、かつ、値Wを「W=1」にそれぞれ設定する(St30)。
【0084】
一方、制御部20は、ステップSt29の処理において、現在の撮像位置Pxyの値xが「x=m」でないと判定した場合(St29,NO)、値xをインクリメント(x+1)して次に撮像される垂直レールに移動するための交点レール位置Axの設定を実行し(St31)、ステップSt13の処理に戻って次の交点レール位置Axへの移動を開始する。
【0085】
制御部20は、第1モータ制御部23Aにより第1モータMT1を駆動させて、現在の値xに対応する交点レール位置A1(x,1)に移動を開始する(St32)。
【0086】
以上により、実施の形態における移動ロボットRBは、商品陳列部SH21~SH2nのそれぞれの撮像に適した撮像位置の算出と、算出された商品陳列部SH21~SH2nのそれぞれの撮像に適した位置で撮像された撮像画像の取得とを実現できる。これにより、移動ロボットRBは、管理者による複数の商品陳列部SH21~SH2nのそれぞれにおける商品の欠品管理を支援できる。
【0087】
また、実施の形態における移動ロボットRBは、管理者が要望するタイミング、あるいは定期的に値Wをリセット、つまり、メモリ12に記録された各商品陳列部SH21~SH2nを撮像するための撮像位置情報を調整できる。これにより、移動ロボットRBは、商品棚SH2が有する商品陳列部のレイアウト変更がある場合であっても、変更後の商品陳列部のそれぞれに適した位置で撮像された撮像画像を取得できる。
【0088】
なお、商品陳列部の数の変更がある場合、移動ロボットRBは、外部端末による各垂直レールVRL1~VRLmで撮像すべき商品陳列部の数(つまり、値n)の入力を受け付けてよい。移動ロボットRBは、入力された商品陳列部の数(つまり、値n)に基づいて、対応する垂直レールVRL1~VRLmにおける少なくとも1つの商品陳列部の撮像位置の再算出と、再算出された撮像位置での撮像とを実行する。
【0089】
次に、図7を参照して、第1の撮像方法について説明する。図7は、第1の撮像方法による撮像処理の一例を示す図である。ここでは、商品陳列部SH21を撮像する例について具体例を用いて説明し、他の商品陳列部については省略する。
【0090】
制御部20は、ステップSt16の処理で、予め設定された撮像位置P11(1,1)に向かって移動(降下)しながらカメラCMによる商品棚SH2の撮像を実行する。
【0091】
撮像画像IMG1は、撮像位置P11(1,1)の上方で撮像された撮像画像である。撮像画像IMG1は、商品陳列部SH21の上端である棚板SH20のみがカメラCMの画角AR1内に含まれて撮像された撮像画像である。制御部20は、撮像画像IMG1から商品陳列部SH21の下端である棚板前面SH21Aを検出しないと判定し、撮像位置P11(1,1)に向かって下降しながら商品陳列部SH21の撮像を継続する。
【0092】
撮像画像IMG2は、撮像位置P11(1,1)の近傍であって、撮像画像IMG1が撮像された撮像位置よりも撮像位置P11(1,1)に近い撮像位置で撮像された撮像画像である。また、撮像画像IMG2は、棚板SH20の棚板前面SH20Aと、棚板前面SH21AとがカメラCMの画角AR1内に含まれて撮像された撮像画像である。制御部20は、撮像画像IMG2から棚板SH20の棚板前面SH20Aと、棚板前面SH21Aとを検出したと判定し、現在の移動ロボットRBの位置を撮像位置P11(1,1)の撮像位置情報としてメモリ12に記録する。
【0093】
これにより、移動ロボットRBは、商品陳列部SH21の全域が撮像された撮像画像IMG2を取得できる。
【0094】
次に、図8および図9のそれぞれを参照して、第2の撮像方法について説明する。図8および図9は、第2の撮像方法による撮像処理の一例を示す図である。ここでは、商品陳列部SH21を撮像する例について具体例を用いて説明し、他の商品陳列部については省略する。
【0095】
撮像画像IMG3は、撮像位置P11(1,1)で撮像された撮像画像であり、棚板SH20の棚板前面SH20Aと、棚板前面SH21AとがカメラCMの画角AR1内に含まれている。しかし、このような場合、カメラCMの光軸OAと、商品陳列部SH21とは略平行となるため、撮像画像IMG3は、撮像画像IMG3に占める紙面上下方向、つまり、商品陳列部SH21の奥行方向(前後方向)における画素数E1がより少なく、商品陳列部SH21の奥行方向(前後方向)における解像度が低下した画像となる。よって、撮像画像IMG3を用いて商品の充填率または欠品率を推定する場合、推定可能な商品の充填率または欠品率の推定精度が低下しやすい。
【0096】
そこで、制御部20は、撮像画像IMG3から棚板前面SH20A,SH21Aのそれぞれを検出し、検出された棚板前面SH20Aと棚板前面SH21Aとの間の画素数に基づいて、商品陳列部SH21の陳列高さDと、棚板前面SH21Aの表面を基準とするカメラCMの光軸高さHと、棚板前面SH21Aの板厚Gとをそれぞれ推定する。
【0097】
具体的に、制御部20は、メモリ12に記録された棚間距離Fと、カメラCMの画角AR1と、検出された棚板前面SH20Aと棚板前面SH21Aとの間の画素数に基づいて、商品陳列部SH21の陳列高さDを推定する。制御部20は、撮像画像から検出された棚板前面SH21Aの画素数にもとづいて、板厚Gを推定する。
【0098】
ここで、棚板前面SH21Aの下面と、カメラCMの画角AR1の下端とが同じ高さである場合、光軸高さHと板厚Gとを足し合わせた距離(=H+G)は、上下方向におけるカメラCMの画角AR1の略半分の位置になる。制御部20は、撮像画像の上下方向に含まれる画素数の半分から板厚Gの画素数を差し引いた画素数に基づいて、光軸高さHを推定する。
【0099】
また、制御部20は、予めメモリ12に記録されたカメラCMのイメージセンサ(不図示)と商品棚SH2との間である棚間距離F、および商品陳列部SH21の奥行き方向の長さである棚奥行Eとを取得する。
【0100】
制御部20は、推定された陳列高さDと、棚間距離Fおよび棚奥行Eとを、関係式I/(F+E)=D/Eに適用して、距離Iを算出する。ここでいう距離Iは、商品陳列部SH21の表面と、チルト軸TL0と、チルト回転後のカメラCMのレンズ(不図示)との交点位置との間の距離である。
【0101】
制御部20は、算出された距離Iと推定された光軸高さHとの差分(I-H=J)に基づいて、撮像位置の修正値Jを算出する。また、制御部20は、陳列高さDと、棚奥行Eとに基づいて、商品陳列部SH21の表面を基準(=0(ゼロ)°)とするカメラCMのチルト角度θを算出する。
【0102】
制御部20は、撮像画像IMG3が撮像された撮像位置を、算出された修正値Jで位置情報を修正した修正後の撮像位置P11´と、カメラCMのチルト角度θと、商品陳列部SH21の識別情報とを対応付けてメモリ12に記録する。
【0103】
制御部20は、撮像画像IMG3を撮像した撮像位置から修正値Jだけ上方に移動した撮像位置に移動した後、カメラCMのチルト角度をチルト角度θに調整して、商品陳列部SH21を撮像する。
【0104】
撮像画像IMG4は、図9に示す修正後の撮像位置で撮像された撮像画像である。撮像画像IMG4に写る商品陳列部SH21の奥行方向(前後方向)の画素数E2は、撮像画像IMG3の商品陳列部SH21の奥行方向(前後方向)の画素数E1よりも大きい。つまり、撮像画像IMG4に写る商品陳列部SH21の商品欠品エリアAR211,AR212,AR213のそれぞれに含まれる画素数は、撮像画像IMG3に写る商品陳列部SH21の商品欠品エリアAR211,AR212,AR213のそれぞれに含まれる画素数よりも多い。
【0105】
これにより、実施の形態における移動ロボットRBは、商品陳列部SH21の奥行方向(前後方向)における解像度がより高く、商品の充填率または欠品率の推定により適した撮像画像IMG4を撮像(取得)できる。
【0106】
なお、移動ロボットRBは、各商品陳列部の棚間距離F、棚奥行Eのそれぞれがメモリ12に記録されず、未知である場合には、上下方向において異なる撮像位置で商品陳列部を撮像する。移動ロボットRBは、撮像された複数の撮像画像に基づいて、商品陳列部の棚間距離F、棚奥行Eのそれぞれを算出してもよい。
【0107】
以上により、実施の形態に係る移動ロボットRBは、レールRL上を移動する移動体であって、レールRL上で移動体を移動させる第1モータ制御部23A、第2モータ制御部24Aあるいは第3モータ制御部25A(駆動部の一例)と、商品が陳列される商品陳列部SH21~SH2nを撮像するカメラCMと、カメラCMにより撮像された撮像画像から商品陳列部SH21~SH2nと、商品陳列部SH21~SH2nと対向する棚板とをそれぞれ検出する制御部20(検出部の一例)と、商品陳列部SH21~SH2nと棚板とが検出された撮像画像を出力する制御部20(出力部の一例)と、を備える。
【0108】
これにより、実施の形態に係る移動ロボットRBは、各商品陳列部SH21~SH2nのそれぞれに陳列された商品の陳列状態の監視を支援可能な撮像画像を取得できる。
【0109】
また、実施の形態に係る移動ロボットRBの制御部20は、商品陳列部SH21~SH2nの棚板前面(前面の一例)をさらに検出し、商品陳列部SH21~SH2nの棚板前面がカメラCMの画角AR1の下端で撮像されているか否かをさらに判定する。制御部20は、商品陳列部SH21~SH2nの棚板前面が画角AR1の下端で撮像されていると判定された撮像画像を出力する。これにより、実施の形態に係る移動ロボットRBは、各商品陳列部SH21~SH2nのそれぞれに陳列された商品の陳列状態の監視を支援可能な撮像画像を取得できる。
【0110】
また、実施の形態に係る移動ロボットRBの商品陳列部SH21~SH2nおよび棚板が検出された第1撮像位置を、商品陳列部SH21~SH2nごとに記録するメモリ12(記録部の一例)、をさらに備える。これにより、実施の形態に係る移動ロボットRBは、次回の商品陳列部SH21~SH2nのそれぞれの撮像において、各商品陳列部SH21~SH2nのそれぞれを撮像するための撮像位置の算出処理を省略できる。
【0111】
また、実施の形態に係る移動ロボットRBのカメラCMは、チルト回転可能である。制御部20は、商品陳列部SH21~SH2nと棚板とが検出された第1撮像位置よりも高い第2撮像位置において、商品陳列部SH21~SH2nと棚板とを撮像可能なカメラCMのチルト角度θを算出し、第3モータ制御部25Aは、第2撮像位置に移動体を移動させ、カメラCMをチルト角度に調整する。カメラCMは、チルト角度で商品陳列部SH21~SH2nを撮像する。制御部20は、撮像された撮像画像を出力する。これにより、実施の形態に係る移動ロボットRBは、各商品陳列部SH21~SH2nのそれぞれを撮像可能な撮像位置およびチルト角度を算出できる。
【0112】
また、実施の形態に係る移動ロボットRBの制御部20は、撮像画像に基づいて、商品陳列部SH21~SH2nの板厚Gと、商品陳列部SH21~SH2nと棚板との間の陳列高さDとを算出し、板厚Gと陳列高さDとに基づいて、第2撮像位置を決定する。これにより、実施の形態に係る移動ロボットRBは、各商品陳列部SH21~SH2nのそれぞれを撮像可能な撮像位置を算出できる。
【0113】
また、実施の形態に係る移動ロボットRBの第2撮像位置とチルト角度θとを対応づけて商品陳列部SH21~SH2nごとに記録するメモリ12(記録部の一例)、をさらに備える。これにより、実施の形態に係る移動ロボットRBは、次回の商品陳列部SH21~SH2nのそれぞれの撮像において、各商品陳列部SH21~SH2nのそれぞれを撮像するための撮像位置の算出処理を省略できる。
【0114】
以上、添付図面を参照しながら各種の実施の形態について説明したが、本開示はかかる例に限定されない。当業者であれば、特許請求の範囲に記載された範疇内において、各種の変更例、修正例、置換例、付加例、削除例、均等例に想到し得ることは明らかであり、それらについても本開示の技術的範囲に属すると了解される。また、発明の趣旨を逸脱しない範囲において、上述した各種の実施の形態における各構成要素を任意に組み合わせてもよい。
【産業上の利用可能性】
【0115】
本開示は、商品の陳列状態の監視を支援可能な撮像画像を取得する移動体および撮像画像の取得方法として有用である。
【符号の説明】
【0116】
10 無線通信部
11 プロセッサ
11A 電池
12 メモリ
12A ROM
12B RAM
13 カメラ
20 制御部
Ant アンテナ
AR1 画角
HRL1,HRL2,HRL3,HRL(m-1) 水平レール
MT1 第1モータ
MT2 第2モータ
MT3 第3モータ
P11,P12,P1n,P21,P22,P2n,P31,P32,P3n,Pm1,Pm2,Pmn 撮像位置
PTL1,PTL2,PTL3,PTLm 交点レール
PW 第1電極
RB 移動ロボット
SH1,SH2 商品棚
VRL1,VRL2,VRL3,VRLm 垂直レール
図1
図2
図3
図4
図5
図6
図7
図8
図9