特表 2022-512604 支持構造の深さを決定するための方法、システムおよび装置

(19)【発行国】日本国特許庁(JP)

(12)【公報種別】公表特許公報(A)

(11)【公表番号】

(43)【公表日】2022-02-07

(54)【発明の名称】支持構造の深さを決定するための方法、システムおよび装置

(51)【国際特許分類】

   G06T 7/70 20170101AFI20220131BHJP

   G01C 3/06 20060101ALN20220131BHJP

【ＦＩ】

G06T7/70 Z

G01C3/06 140

G01C3/06 130

【審査請求】有

【予備審査請求】未請求

(21)【出願番号】P 2021518611

(86)(22)【出願日】2019-09-05

(85)【翻訳文提出日】2021-04-02

(86)【国際出願番号】 US2019049761

(87)【国際公開番号】W WO2020072170

(87)【国際公開日】2020-04-09

(31)【優先権主張番号】16/152,986

(32)【優先日】2018-10-05

(33)【優先権主張国・地域又は機関】US

(81)【指定国・地域】

(71)【出願人】

【識別番号】519047200

【氏名又は名称】ゼブラ テクノロジーズ コーポレイション

【氏名又は名称原語表記】Ｚｅｂｒａ Ｔｅｃｈｎｏｌｏｇｉｅｓ Ｃｏｒｐｏｒａｔｉｏｎ

【住所又は居所原語表記】３ Ｏｖｅｒｌｏｏｋ Ｐｏｉｎｔ， Ｌｉｎｃｏｌｎｓｈｉｒｅ， Ｉｌｌｉｎｏｉｓ ６００６９， Ｕｎｉｔｅｄ Ｓｔａｔｅｓ ｏｆ Ａｍｅｒｉｃａ

(74)【代理人】

【識別番号】100094569

【弁理士】

【氏名又は名称】田中 伸一郎

(74)【代理人】

【識別番号】100103610

【弁理士】

【氏名又は名称】▲吉▼田 和彦

(74)【代理人】

【識別番号】100109070

【弁理士】

【氏名又は名称】須田 洋之

(74)【代理人】

【識別番号】100098475

【弁理士】

【氏名又は名称】倉澤 伊知郎

(74)【代理人】

【識別番号】100130937

【弁理士】

【氏名又は名称】山本 泰史

(74)【代理人】

【識別番号】100144451

【弁理士】

【氏名又は名称】鈴木 博子

(74)【代理人】

【識別番号】100107537

【弁理士】

【氏名又は名称】磯貝 克臣

(72)【発明者】

【氏名】ファン レイモンド

(72)【発明者】

【氏名】ユ ユァンハオ

(72)【発明者】

【氏名】ルジェズテク リチャード ジェフリー

(72)【発明者】

【氏名】ラム ジョセフ

【テーマコード（参考）】

2F112

5L096

【Ｆターム（参考）】

2F112AD01

2F112AD06

2F112BA06

2F112CA04

2F112CA08

2F112FA35

2F112FA45

2F112GA01

5L096AA06

5L096AA09

5L096BA05

5L096CA05

5L096DA02

5L096EA39

5L096FA03

5L096FA32

5L096FA62

5L096FA67

5L096FA69

5L096FA74

5L096GA10

5L096GA51

(57)【要約】

支持構造深さによって分離された正面及び背面を有する支持構造の当該支持構造深さを決定する方法である。前記支持構造のポイントクラウド、及び、捕捉ポーズから捕捉される前記支持構造の画像の複数の部分について、当該複数の部分が当該支持構造の前記背面を描写していることについてのそれぞれの信頼性レベルを示すマスク、を取得する工程と、前記ポイントクラウドから、前記捕捉ポーズで生じる視野内に位置するポイントの初期セットを選択する工程と、前記ポイントの初期セットから、深さ測定値の閉塞されていないサブセットを選択する工程と、前記マスクから、前記閉塞されていないサブセットの前記深さ測定値の各々の信頼性レベルを取得する工程と、前記閉塞されていないサブセットの前記深さ測定値と前記取得された信頼性レベルとに基づいて、前記支持構造深さを決定する工程と、を備え、前記閉塞されていないサブセットの前記深さ測定値は、それぞれの画像座標に対応している。

【特許請求の範囲】

【請求項1】

支持構造深さによって分離された正面及び背面を有する支持構造の当該支持構造深さを決定する方法であって、
（ｉ）前記支持構造のポイントクラウド、及び、（ｉｉ）捕捉ポーズから捕捉される前記支持構造の画像の複数の部分について、当該複数の部分が当該支持構造の前記背面を描写していることについてのそれぞれの信頼性レベルを示すマスク、を取得する工程と、
前記ポイントクラウドから、前記捕捉ポーズで生じる視野内に位置するポイントの初期セットを選択する工程と、
前記ポイントの初期セットから、深さ測定値の閉塞されていないサブセットを選択する工程と、
前記マスクから、前記閉塞されていないサブセットの前記深さ測定値の各々の信頼性レベルを取得する工程と、
前記閉塞されていないサブセットの前記深さ測定値と前記取得された信頼性レベルとに基づいて、前記支持構造深さを決定する工程と、
を備え、
前記閉塞されていないサブセットの前記深さ測定値は、それぞれの画像座標に対応している
ことを特徴とする方法。

【請求項2】

更なる捕捉ポーズから捕捉される前記支持構造の更なる画像に対応する更なるマスクを取得する工程と、
更なるポイントの初期セットを選択する工程と、
更なる深さ測定値の閉塞されていないサブセットを選択する工程と、
前記更なる閉塞されていないサブセットの前記深さ測定値の各々の更なる信頼性レベルを取得する工程と、
を更に備えたことを特徴とする請求項１に記載の方法。

【請求項3】

前記閉塞されていないサブセットの前記深さ測定値、前記更なる閉塞されていないサブセットの前記深さ測定値、前記信頼性レベル、及び、前記更なる信頼性レベル、に基づいて、前記支持構造深さを決定する工程
を更に備えたことを特徴とする請求項２に記載の方法。

【請求項4】

捕捉ポーズが、共通の座標系内のカメラの位置及び向きを規定する
ことを特徴とする請求項１に記載の方法。

【請求項5】

前記ポイントの初期セットを選択する工程は、
前記ポイントクラウド内の各ポイントについて、前記支持構造深さに直交する第１及び第２次元を含むツリーデータ構造を生成する工程と、
前記第１及び第２次元内に視野中心を決定する工程と、
前記ツリーデータ構造から、前記視野中心から所定の半径内にある前記ポイントの初期セットを取得する工程と、
を有している
ことを特徴とする請求項１に記載の方法。

【請求項6】

前記深さ測定値の閉塞されていないサブセットを選択する工程は、
前記ポイントの初期セットの各々に対応する画像座標を決定する工程と、
前記画像座標の隣接群を特定する工程と、
各隣接群ごとに、最小深さ測定値に対応する画像座標を選択する工程と、
を有している
ことを特徴とする請求項１に記載の方法。

【請求項7】

前記支持構造深さを決定する工程は、
前記支持構造の前記正面に対応する平面定義を取得する工程と、
前記深さ測定値の閉塞されていないサブセットの各深さ測定値を、前記平面定義に対する深さに変換する工程と、
前記取得された信頼性レベルに従って各変換された深さ測定値を重み付けする工程と、
前記重み付けされた深さ測定値の平均を決定する工程と、
を有している
ことを特徴とする請求項１に記載の方法。

【請求項8】

前記支持構造深さを決定する前に、前記取得された信頼性レベルが最小の信頼性閾値を下回っているという深さ測定値を廃棄する工程
を更に備えたことを特徴とする請求項１に記載の方法。

【請求項9】

前記支持構造深さを決定する前に、最大の深さ閾値を越えているという深さ測定値を廃棄する工程
を更に備えたことを特徴とする請求項１に記載の方法。

【請求項10】

支持構造深さによって分離された正面及び背面を有する支持構造の当該支持構造深さを決定するためのコンピューティングデバイスであって、
（ｉ）前記支持構造のポイントクラウド、及び、（ｉｉ）捕捉ポーズから捕捉される前記支持構造の画像の複数の部分について、当該複数の部分が当該支持構造の前記背面を描写していることについてのそれぞれの信頼性レベルを示すマスク、を記憶するメモリと、
前記メモリに接続された撮像コントローラと、
を備え、
前記撮像コントローラは、
前記ポイントクラウドから、前記捕捉ポーズで生じる視野内に位置するポイントの初期セットを選択し、
前記ポイントの初期セットから、深さ測定値の閉塞されていないサブセットを選択し、
前記マスクから、前記閉塞されていないサブセットの前記深さ測定値の各々の信頼性レベルを取得し、
前記閉塞されていないサブセットの前記深さ測定値と前記取得された信頼性レベルとに基づいて、前記支持構造深さを決定する
ように構成されている
ことを特徴とするコンピューティングデバイス。

【請求項11】

前記撮像コントローラは、更に、
更なる捕捉ポーズから捕捉される前記支持構造の更なる画像に対応する更なるマスクを取得し、
更なるポイントの初期セットを選択し、
更なる深さ測定値の閉塞されていないサブセットを選択し、
前記更なる閉塞されていないサブセットの前記深さ測定値の各々の更なる信頼性レベルを取得する
ように構成されている
ことを特徴とする請求項１０に記載のコンピューティングデバイス。

【請求項12】

前記撮像コントローラは、更に、
前記閉塞されていないサブセットの前記深さ測定値、前記更なる閉塞されていないサブセットの前記深さ測定値、前記信頼性レベル、及び、前記更なる信頼性レベル、に基づいて、前記支持構造深さを決定する
ように構成されている
ことを特徴とする請求項１１に記載のコンピューティングデバイス。

【請求項13】

捕捉ポーズが、共通の座標系内のカメラの位置及び向きを規定する
ことを特徴とする請求項１０に記載のコンピューティングデバイス。

【請求項14】

前記撮像コントローラは、前記ポイントの初期セットを選択するために、更に、
前記ポイントクラウド内の各ポイントについて、前記支持構造深さに直交する第１及び第２次元を含むツリーデータ構造を生成し、
前記第１及び第２次元内に視野中心を決定し、
前記ツリーデータ構造から、前記視野中心から所定の半径内にある前記ポイントの初期セットを取得する
ように構成されている
ことを特徴とする請求項１０に記載のコンピューティングデバイス。

【請求項15】

前記撮像コントローラは、前記深さ測定値の閉塞されていないサブセットを選択するために、更に、
前記ポイントの初期セットの各々に対応する画像座標を決定し、
前記画像座標の隣接群を特定し、
各隣接群ごとに、最小深さ測定値に対応する画像座標を選択する
ように構成されている
ことを特徴とする請求項１０に記載のコンピューティングデバイス。

【請求項16】

前記撮像コントローラは、前記支持構造深さを決定するために、更に、
前記支持構造の前記正面に対応する平面定義を取得し、
前記深さ測定値の閉塞されていないサブセットの各深さ測定値を、前記平面定義に対する深さに変換し、
前記取得された信頼性レベルに従って各変換された深さ測定値を重み付けし、
前記重み付けされた深さ測定値の平均を決定する
ように構成されている
ことを特徴とする請求項１０に記載のコンピューティングデバイス。

【請求項17】

前記撮像コントローラは、更に、
前記支持構造深さを決定する前に、前記取得された信頼性レベルが最小の信頼性閾値を下回っているという深さ測定値を廃棄する
ように構成されている
ことを特徴とする請求項１０に記載のコンピューティングデバイス。

【請求項18】

前記撮像コントローラは、更に、
前記支持構造深さを決定する前に、最大の深さ閾値を越えているという深さ測定値を廃棄する
ように構成されている
ことを特徴とする請求項１０に記載のコンピューティングデバイス。

【請求項19】

コンピュータ実行可能命令を記憶したコンピュータ可読媒体であって、
前記命令は、
（ｉ）前記支持構造のポイントクラウド、及び、（ｉｉ）捕捉ポーズから捕捉される前記支持構造の画像の複数の部分について、当該複数の部分が当該支持構造の前記背面を描写していることについてのそれぞれの信頼性レベルを示すマスク、を取得する工程と、
前記ポイントクラウドから、前記捕捉ポーズで生じる視野内に位置するポイントの初期セットを選択する工程と、
前記ポイントの初期セットから、深さ測定値の閉塞されていないサブセットを選択する工程と、
前記マスクから、前記閉塞されていないサブセットの前記深さ測定値の各々の信頼性レベルを取得する工程と、
前記閉塞されていないサブセットの前記深さ測定値と前記取得された信頼性レベルとに基づいて、前記支持構造深さを決定する工程と、
を含み、
前記閉塞されていないサブセットの前記深さ測定値は、それぞれの画像座標に対応している
ことを特徴とするコンピュータ可読媒体。

【請求項20】

前記命令は、更に、
前記閉塞されていないサブセットの前記深さ測定値、前記更なる閉塞されていないサブセットの前記深さ測定値、前記信頼性レベル、及び、前記更なる信頼性レベル、に基づいて、前記支持構造深さを決定する工程
を更に含む
ことを特徴とする請求項１９に記載のコンピュータ可読媒体。

【発明の詳細な説明】

【背景技術】

【0001】

小売環境で購入される製品等、対象物の在庫が管理される環境は、複雑で流動的であり得る。例えば、所与の環境は、様々な属性（サイズ、形状、価格など）を有する様々な対象物を含み得る。更に、当該環境内の対象物の配置及び量は、頻繁に変化し得る。更に、照明等の撮像条件が、時間の経過によっても、当該環境内の異なる位置によっても、可変であり得る。これらの要因は、対象物に関する情報が当該環境内で収集される精度を、低下させ得る。

【発明の概要】

【0002】

添付の図面は、以下の詳細な説明と共に、本明細書に組み込まれて本明細書の一部を形成し、特許請求される発明を含む概念の実施形態を更に説明するのに役立ち、また、それら実施形態の様々な原理及び利点を説明するのに役立つ。添付図面において、同様の参照符号は、別個の図面を通して同一または機能的に類似の要素を指している。

【図面の簡単な説明】

【0003】

【図1】図１は、モバイル自動システムの概略図である。

【0004】

【図2A】図２Ａは、図１のシステムにおけるモバイル自動装置を示している。

【0005】

【図2B】図２Ｂは、図１のシステムにおけるモバイル自動装置の特定の内部ハードウェア構成要素のブロック図である。

【0006】

【図3】図３は、支持構造深さを決定するための方法のフローチャートである。

【0007】

【図4A】図４Ａは、図３の方法のブロック３０５において得られるポイントクラウト及び棚面の図である。

【0008】

【図4B】図４Ｂは、図１のシステムの装置によって捕捉され、図３の方法のブロック３１０において得られる、例示画像の図である。

【0009】

【図5A】図５Ａは、図４Ｂの画像の１つを、より詳細に示す図である。

【0010】

【図5B】図５Ｂは、図５Ａの画像に対応する棚マスクの例示的な背面を示す図である。

【0011】

【図6A】図６Ａは、図３の方法のブロック３１５を実施するための方法のフローチャートである。

【0012】

【図6B】図６Ｂは、図４Ａのポイントクラウドとの関連での図６Ａの方法の実施を説明する図である。

【0013】

【図7A】図７Ａは、図３の方法のブロック３２０を実施する方法のフローチャートである。

【0014】

【図7B】図７Ｂは、図５Ａの画像との関連での図７Ａの方法の実施を説明する図である。

【0015】

【図8A】図８Ａ及び図８Ｂは、図３の方法のブロック３２５の例示的な実施を示す図である。

【図8B】図８Ａ及び図８Ｂは、図３の方法のブロック３２５の例示的な実施を示す図である。

【0016】

【図8C】図８Ｃは、図３の方法のブロック３２５の更なる例示的な実施を示す図である。

【0017】

【図9】図９は、図３の方法の実施を介して決定される支持構造深さを示す図である。

【発明を実施するための形態】

【0018】

当業者は、図面内の要素は簡潔及び明瞭に示されていて、必ずしも一定縮尺で描かれていない、ということを理解するであろう。例えば、図面内の幾つかの要素の寸法は、本発明の実施形態の理解を改善することを助けるべく、他の要素と比較して誇張されている可能性がある。

【0019】

装置及び方法の構成要素は、適切な場合、図面内で従来の符号によって示されており、当該図面は、詳細に関する開示を不明瞭にしないように、本発明の実施形態を理解することに関連する特定の詳細のみを示しており、当該詳細に関する開示は、本明細書の記載の利益を受ける当業者にとって容易に明らかである。

【0020】

本明細書に開示される例は、支持構造であって当該支持構造の深さによって分離されている正面及び背面を有する支持構造、の支持構造深さを決定する方法に向けられている。当該方法は、（ｉ）支持構造のポイントクラウド（点群）、及び、（ｉｉ）捕捉ポーズから捕捉される支持構造の画像の複数の部分について、当該複数の部分が当該支持構造の背面を描写していることについてのそれぞれの信頼性レベルを示すマスク、を取得する工程と、前記ポイントクラウドから、前記捕捉ポーズで生じる視野内に位置するポイントの初期セットを選択する工程と、前記ポイントの初期セットから、深さ測定値の閉塞（遮蔽）されていないサブセットを選択する工程と、前記マスクから、前記閉塞されていないサブセットの前記深さ測定値の各々の信頼性レベルを取得する工程と、前記閉塞されていないサブセットの前記深さ測定値と前記取得された信頼性レベルとに基づいて、前記支持構造深さを決定する工程と、を備え、前記閉塞されていないサブセットの前記深さ測定値は、それぞれの画像座標に対応している。

【0021】

本明細書に開示される追加の例は、支持構造であって当該支持構造の深さによって分離されている正面及び背面を有する支持構造、の支持構造深さを決定するためのコンピューティングデバイスに向けられている。当該コンピューティングデバイスは、（ｉ）前記支持構造のポイントクラウド、及び、（ｉｉ）捕捉ポーズから捕捉される前記支持構造の画像の複数の部分について、当該複数の部分が当該支持構造の前記背面を描写していることについてのそれぞれの信頼性レベルを示すマスク、を記憶するメモリと、前記メモリに接続された撮像コントローラと、を備え、前記撮像コントローラは、前記ポイントクラウドから、前記捕捉ポーズで生じる視野内に位置するポイントの初期セットを選択し、前記ポイントの初期セットから、深さ測定値の閉塞されていないサブセットを選択し、前記マスクから、前記閉塞されていないサブセットの前記深さ測定値の各々の信頼性レベルを取得し、前記閉塞されていないサブセットの前記深さ測定値と前記取得された信頼性レベルとに基づいて、前記支持構造深さを決定するように構成されている。

【0022】

本明細書に開示される更なる例は、サーバのプロセッサによって実行可能なコンピュータ可読命令を記憶したコンピュータ可読媒体に向けられている。当該コンピュータ可読命令の実行は、サーバをして、（ｉ）前記支持構造のポイントクラウド、及び、（ｉｉ）捕捉ポーズから捕捉される前記支持構造の画像の複数の部分について、当該複数の部分が当該支持構造の前記背面を描写していることについてのそれぞれの信頼性レベルを示すマスク、を取得させ、前記ポイントクラウドから、前記捕捉ポーズで生じる視野内に位置するポイントの初期セットを選択させ、前記ポイントの初期セットから、深さ測定値の閉塞されていないサブセットを選択させ、前記マスクから、前記閉塞されていないサブセットの前記深さ測定値の各々の信頼性レベルを取得させ、前記閉塞されていないサブセットの前記深さ測定値と前記取得された信頼性レベルとに基づいて、前記支持構造深さを決定させ、前記閉塞されていないサブセットの前記深さ測定値は、それぞれの画像座標に対応している。

【0023】

図１は、本開示の教示によるモバイル自動システム１００を示している。当該システム１００は、小売環境内に配備されるように示されているが、他の実施形態では、倉庫や病院等を含む様々な他の環境内に配備され得る。当該システム１００は、少なくとも１つのモバイル自動装置１０３（本明細書では単に装置１０３とも呼ばれる）と通信するサーバ１０１と、本実施例では無線リンクを含むものとして示される通信リンク１０７を介して少なくとも１つのクライアントコンピューティングデバイス１０５と、を含む。 本実施例では、リンク１０７は、１または複数のアクセスポイント（図示せず）によって当該小売環境内に配備（展開）された無線ローカルエリアネットワーク（ＷＬＡＮ）によって提供されている。他の例では、サーバ１０１、クライアントデバイス１０５、またはそれらの両方が、当該小売環境の外側に配置され、リンク１０７は、従って、インターネットやモバイルネットワーク等のような広域ネットワークを含む。当該システム１００はまた、本実施例における装置１０３のためのドック１０８を含んでいる。当該ドック１０８は、本実施例では有線リンクであるリンク１０９を介して、サーバ１０１と通信している。もっとも、他の例では、リンク１０９は無線リンクである。

【0024】

クライアントコンピューティングデバイス１０５は、タブレットやスマートフォン等のモバイルコンピューティングデバイスとして、図１に示されている。他の例では、クライアントデバイス１０５は、デスクトップコンピュータ、ラップトップコンピュータ、別のサーバ、キオスク、モニタ等のような、別のタイプのコンピューティングデバイスとして実装される。当該システム１００は、それぞれのリンク１０７を介してサーバ１０１と通信する複数のクライアントデバイス１０５を含み得る。

【0025】

当該システム１００は、図示例では、棚モジュール１１０－１、１１０－２、１１０－３等（まとめて（複数の）棚１１０と呼ばれ、一般的に（単数の）棚１１０と呼ばれる－この命名法はまた、本明細書で説明される他の要素に採用される）の複数の支持構造を含む小売環境内に配備されている。他の例では、ペグボードなどの追加タイプの支持構造も存在し得る。各棚モジュール１１０は、複数の製品１１２を支持する。各棚モジュール１１０は、棚背面１１６－１、１１６－２、１１６－３と、当該棚背面１１６から棚縁部１１８－１、１１８－２、１１８－３まで延びる支持面（例えば、図１に示されるような支持面１１７－３）と、を含む。

【0026】

複数の棚モジュール１１０は、典型的には、複数の通路内に配置されている。各通路は、端から端まで整列された複数のモジュール１１０を含んでいる。そのような配置では、棚縁部１１８が通路内に面している。当該通路を通って、当該小売環境内の顧客及び装置１０３が移動可能である。図１から明らかなように、本明細書で使用される「棚縁部」１１８という用語は、支持面（例えば、支持面１１７）の縁部とも呼ばれ得て、異なる傾斜角を有する隣接表面によって境界付けられた表面を指す。図１に示される例では、棚縁部１１８－３は、支持面１１７－３及び支持面１１７－３の下側（図示せず）の各々に対して、約９０度の角度である。他の例では、棚縁部１１８－３と、支持面１１７－３等の隣接面と、の間の角度は、９０度より大きいまたは小さい。棚縁部１１８は、棚深さによって棚背面１１６から分離された棚１１０の正面を規定している。共通の座標系１０２が、図１に示されている。本実施例では、棚深さは、共通の座標系１０２におけるＹ次元で定義され、棚背面１１６及び棚縁部１１８は、XＺ平面に平行であるとして示されている。

【0027】

装置１０３は、当該小売環境内に配備され、（例えばリンク１０７を介して）サーバ１０１と通信して、棚１１０の少なくとも一部の長さ１１９（座標系１０２のX軸に平行であるとして図１に示されている）に沿って、自律的にまたは部分的に自律的にナビゲート（航行）する。装置１０３は、自律的にまたはサーバ１０１と連動して、例えば当該環境のマップに関して、当該環境内のその位置を連続的に決定するように、構成されている。装置１０３はまた、マップを更新するように構成され得る（例えば、同時マッピング及びローカリゼーションプロセス、すなわち、ＳＬＡＭプロセスを介して）。

【0028】

装置１０３は、画像センサ（例えば、１または複数のデジタルカメラ）及び深度センサ（例えば、１または複数の光検出及び測距（ＬＩＤＡＲ）センサ、赤外光等の構造化された光パターンを使用する１または複数の深度カメラ）等の、複数のナビゲーション及びデータ捕捉センサ１０４を備えている。装置１０３は、当該センサ１０４を使用して、棚１１０間をナビゲートし（例えば、前記の経路に従って）、及び、そのようなナビゲーション中にポイントクラウド及び画像データ等の棚データを捕捉する、というように構成され得る。

【0029】

サーバ１０１は、環境内でナビゲートしてデータを捕捉するようにモバイル自動装置１０３を制御する及び／または支援するように特別に設計された、プロセッサ１２０等の特別目的の撮像コントローラを含んでいる。プロセッサ１２０は、更に、リポジトリ１３２への格納及びその後の処理（例えば、捕捉データ内の棚保管製品等の対象物を検出し、当該対象物に対応する状態情報を検出する）のために通信インタフェース１２４を介して捕捉データを取得するように構成され得る。サーバ１０１はまた、製品状態データの決定に応答して、状態通知（例えば、製品が在庫切れ、在庫少、または、置き間違い、であることを示す通知）をクライアントデバイス１０５に送信するように構成され得る。クライアントデバイス１０５は、サーバ１０１から受信した通知を処理する（例えば、表示する）ように構成された１または複数のコントローラ（例えば、中央処理装置（ＣＰＵ）及び／またはフィールドプログラマブルゲートアレイ（ＦＰＧＡ）等）を含む。

【0030】

プロセッサ１２０は、前記のメモリ１２２等の、非一時的なコンピュータ可読記憶媒体と相互接続されており、棚データを捕捉するための装置１０３の制御、棚データの後処理、及び、棚データを捕捉するための目標位置等の所定のナビゲーションデータを生成して装置１０３に提供すること、を含む様々な機能を実行するためのコンピュータ可読命令をその上に記憶している。メモリ１２２は、揮発性メモリ（例えば、ランダムアクセスメモリ、すなわち、ＲＡＭ）及び非揮発性メモリ（例えば、読取専用メモリ、すなわち、ＲＯＭ、または、電気的に消去可能なプログラマブル読取専用メモリ、すなわち、ＥＥＰＲＯＭ、または、フラッシュメモリ）の組合せを含む。プロセッサ１２０及びメモリ１２２は、各々、１または複数の集積回路を有している。幾つかの実施形態では、プロセッサ１２０は、１または複数の中央処理装置（ＣＰＵ）及び／またはグラフィクス処理装置（ＧＰＵ）として実装される。

【0031】

サーバ１０１はまた、プロセッサ１２０と相互接続された前記の通信インタフェース１２４を含んでいる。通信インタフェース１２４は、サーバ１０１がリンク１０７、１０９を介して他のコンピューティングデバイス（特には、装置１０３、クライアントデバイス１０５及びドック１０８）と通信することを許容する、好適なハードウェア（例えば、送信器、受信器、ネットワークインターフェースコントローラ、等）を含んでいる。リンク１０７、１０９は、直接リンクであり得て、あるいは、ローカルネットワークと広域ネットワークとの両方を含む１または複数のネットワークを横断するリンクであり得る。通信インタフェース１２４の具体的な構成要素は、サーバ１０１が通信するために必要とされるネットワークまたは他のリンクのタイプに基づいて選択される。本実施例では、前述のように、無線ローカルエリアネットワークが、１または複数の無線アクセスポイントの配備（展開）を介して当該小売環境内に実装されている。従って、リンク１０７は、装置１０３とモバイルデバイス１０５と前記のアクセスポイントとの間の無線リンク、及び、サーバ１０１とアクセスポイントとの間の有線リンク（例えば、イーサネットベースのリンク）、のいずれかまたは両方を含む。

【0032】

メモリ１２２は、プロセッサ１２０によって実行可能な複数のコンピュータ可読命令を各々が含む複数のアプリケーションを記憶している。プロセッサ１２０による前記の命令の実行は、本明細書で説明される様々な動作を実行するようにサーバ１０１を構成する。メモリ１２２内に記憶されたアプリケーションは、制御アプリケーション１２８を含み、これはまた、論理的に別個のアプリケーションの組として実装され得る。 一般に、アプリケーション１２８またはそのサブコンポーネントの実行を介して、及び、サーバ１０１の他のコンポーネントと併せて、プロセッサ１２０は、装置１０３を制御して棚１１０間をナビゲートしてデータを捕捉し、当該捕捉データを用いて当該捕捉データに様々な後処理動作を実行する、ということに関連する様々な機能を実装するように構成される。本実施例では、以下でより詳細に説明されるように、アプリケーション１２８の実行が、棚１１０を表すポイントクラウド及び画像データを含む捕捉データ（例えば、装置１０３から取得される）に基づいて、１または複数の棚１１０の棚の深さを決定するようにサーバ１０１を構成する。

【0033】

制御アプリケーション１２８の実行を介して構成される時、プロセッサ１２０は、本明細書ではコントローラ１２０とも呼ばれる。ここで明らかになるように、以下に説明されるコントローラ１２０によって実装される機能の一部または全ては、プロセッサ１２０による制御アプリケーション１２８の実行によるのではなく、むしろ、事前構成された専用ハードウェアコントローラ（例えば、画像処理の速度を最適化するように特別に構成された１または複数の論理回路構成、例えば、当該目的用に構成されたＦＰＧＡ及び／または特定用途向け集積回路（ＡＳＩＣ））によっても実行され得る。

【0034】

次に、図２Ａ及び図２Ｂを参照すると、モバイル自動装置１０３がより詳細に示されている。当該装置１０３は、移動機構２０３（例えば、車輪や軌道等を駆動する１または複数の電気モータ）を含むシャーシ２０１を含んでいる。当該装置１０３は、更に、シャーシ２０１上に支持され、本実施例ではシャーシ２０１から上方に（例えば、実質的に鉛直に）延びる、センサマスト２０５を含んでいる。当該マスト２０５は、前述のセンサ１０４を支持している。特に、センサ１０４は、デジタルカメラ等の少なくとも１つの画像センサ２０７、及び、３Ｄデジタルカメラ等の少なくとも１つの深度センサ２０９、を含んでいる。当該装置１０３はまた、ＬＩＤＡＲセンサ２１１等の追加の深度センサをも含んでいる。他の例では、当該装置１０３は、１または複数のＲＦＩＤリーダや温度センサ等のような追加センサを含む。

【0035】

本実施例では、マスト２０５は、７台のデジタルカメラ２０７－１～２０７－７、及び、２台のＬＩＤＡＲセンサ２１１－１～２１１－２を支持している。マスト２０５はまた、それぞれのカメラ２０７の視野を照明するように構成された複数の照明アセンブリ２１３をも支持している。すなわち、照明アセンブリ２１３－１は、カメラ２０７－１の視野を照明し、以下同様である。センサ２０７及び２１１は、装置１０３が移動している長さ１１９に沿って各センサの視野が棚１１０に面するというように、マスト２０５上で方向付けられている。装置１０３は、当該小売施設内で以前に確立された共通の座標系１０２内の当該装置１０３の位置（例えば、シャーシ２０１の中心の位置）を追跡するように構成され、モバイル自動装置１０３によって捕捉されるデータが当該共通の座標系に登録されることを許容する。

【0036】

モバイル自動装置１０３は、図２Ｂに示されるように、例えばメモリ２２２等の非一時的なコンピュータ可読記憶媒体と相互接続された、プロセッサ２２０等の特別目的のコントローラを含んでいる。メモリ２２２は、揮発性メモリ（例えば、ランダムアクセスメモリ、すなわち、ＲＡＭ）及び非揮発性メモリ（例えば、読取専用メモリ、すなわち、ＲＯＭ、または、電気的に消去可能なプログラマブル読取専用メモリ、すなわち、ＥＥＰＲＯＭ、または、フラッシュメモリ）の組合せを含む。プロセッサ２２０及びメモリ２２２は、各々、１または複数の集積回路を有している。メモリ２２２は、プロセッサ２２０によって実行されるためのコンピュータ可読命令を記憶している。特に、メモリ１２２は、プロセッサ２２０によって実行される時、装置１０３のナビゲーション及び例えばサーバ１０１による後続の処理のためのデータの捕捉に関連する様々な機能を実行するようにプロセッサ２２０を構成する制御アプリケーション２２８を記憶している。幾つかの実施形態では、そのような後続の処理は、アプリケーション２２８の実行を介して装置１０３自身によって実行され得る。アプリケーション２２８はまた、他の例では、別個のアプリケーションの組として実装され得る。

【0037】

プロセッサ２２０は、アプリケーション２２８の実行によってそのように構成される時、撮像コントローラ２２０と呼ばれることもある。当業者は、アプリケーション２２８の実行を介してプロセッサ２２０によって実装される機能が、１または複数の特別に設計されたハードウェア及びファームウェアコンポーネントによっても実装され得ることを理解するであろう。後者は、他の実施形態では、画像及び／または深度センサデータの処理用に最適化された論理回路構成、例えば特別に構成されたＦＰＧＡやＡＳＩＣ等、を含む。

【0038】

メモリ２２２はまた、例えば、アプリケーション２２８の実行中に使用するための、装置１０３が動作する環境を表す１または複数のマップを含むリポジトリ２３２を格納し得る。装置１０３は、例えば、図１に示されるリンク１０７を介して通信インタフェース２２４を介して、指定された場所にナビゲートしてデータ捕捉動作を開始するための命令を受信するべく、サーバ１０１と通信し得る。通信インタフェース２２４はまた、装置１０３がドック１０８及びリンク１０９を介してサーバ１０１と通信することを可能にする。

【0039】

以下の説明で明らかなように、他の例では、サーバ１０１によって実行される処理の一部または全てが、装置１０３によって実行され得て、装置１０３によって実行される処理の一部または全てが、サーバ１０１によって実行され得る。すなわち、図示の例では、アプリケーション１２８はサーバ１０１内に存在するが、他の実施形態では、捕捉されたデータから棚１１０の棚深さを決定するための以下に説明される動作の一部または全てが、サーバ１０１のプロセッサ１２０と組み合わせて、または、サーバ１０３のプロセッサ１２０からは独立して、装置１０３のプロセッサ２２０によって実行され得る。当業者が理解するように、サーバ１０１とモバイル自動装置１０３との間のそのような計算の分配は、プロセッサ１２０、２２０のそれぞれの処理速度、リンク１０７の品質および帯域幅、並びに、基礎となる命令の重要度、に依存し得る。

【0040】

次に、アプリケーション１２８の機能がより詳細に説明される。特に、前記の支持構造深さの決定が、サーバ１０１によって実行されるものとして説明される。図３を参照すると、支持構造深さを決定する方法３００が示されている。当該方法３００は、図１に示された構成要素を参照して、サーバ１０１によるその性能と併せて説明される。

【0041】

ブロック３０５において、サーバ１０１は、支持構造のポイントクラウド（点群）、及び、支持構造の正面に対応する平面定義、を取得するように構成される。本実施例では、支持構造は、図１に示される棚１１０等の棚であり、従って、ブロック３０５で得られるポイントクラウドは、棚モジュール１１０の少なくとも一部を表し（複数の棚モジュール１１０を表すことができる）、平面定義は、棚モジュールの正面に対応する棚平面に対応している。換言すれば、平面定義は、棚縁部１１８を含む平面を規定している。

【0042】

ブロック３０５で得られるポイントクラウド及び平面定義は、リポジトリ１３２から取得（検索）され得る。例えば、サーバ１０１は、装置１０３から捕捉データ（棚モジュールの複数のライダースキャンを含む）を事前に受信していた可能性があり、当該ライダースキャンからポイントクラウドを事前に生成していた可能性がある。ポイントクラウド内の各ポイントは、棚１１０や製品１１２等の表面上の点（例えば、ライダーセンサ２１１の走査線が影響を与えた点）を表し、座標系１０２内の座標の組（Ｘ、Ｙ及びＺ）によって規定される。平面定義もまた、例えば前記のポイントクラウドから、サーバ１０１によって事前に生成され得てリポジトリ１３２に格納され得る。例えば、サーバ１０１は、棚縁部１１８の事前定義された特性に従って棚縁部１１８を識別するように、ポイントクラウド、生のライダーデータ、カメラ２０７によって捕捉された画像データ、または、それらの組合せ、を処理するように構成され得る。そのような特性の例は、棚縁部１１８が実質的に平面である可能性が高いこと、及び、装置１０３が棚モジュール１１０の長さ１１９を移動する時に他の対象物（例えば棚背面１１６及び製品１１２等）よりも棚縁部１１８が当該装置１０３により近い可能性が高いこと、を含む。平面定義は、平面を定義する適切なパラメータの組など、様々な好適な形式で取得され得る。そのようなパラメータの例は、法線ベクトル（すなわち、当該平面に垂直であるように座標系１０２に従って定義されるベクトル）、及び、深さ（座標系１０２の原点から当該平面までの法線ベクトルに沿った距離を示す）を含む。

【0043】

図４Ａを参照すると、棚モジュール１１０－３を示すポイントクラウド４００が示されている。従って、棚背面１１６－３、棚１１７－３及び棚縁部１１８－３が、ポイントクラウド４００内に示されている。棚モジュール１１０－３の正面（前面）に対応する平面定義４０４も、図４Ａに示されている（すなわち、平面定義４０４は、棚縁部１１８－３を含んでいる）。ポイントクラウド４００及び平面定義４０４は、図４に示されるグラフィカル形式で取得される必要はない。当業者には明らかであるように、ポイントクラウドは座標のリストとして取得され得て、平面定義４０４は、前記の複数のパラメータとして取得され得る。

【0044】

図３に戻って、ブロック３１０において、サーバ１０１は、捕捉ポーズから（例えば、装置１０３によって）捕捉される時、支持構造の少なくとも１つの画像を取得するように構成される。捕捉ポーズとは、座標系内でのカメラ２０７等の捕捉デバイスの位置及び向きである。前記のように、装置１０３は、１または複数の棚モジュール１１０をトラバース（横断）して、当該棚モジュール１１０の画像を捕捉するように構成される。ここで明らかになるように、各画像の捕捉は、装置１０３の特定の位置及び向きで行われる。更に、装置１０３は、図２Ａに示されるように、複数のカメラ２０７を含んでいる。当該複数のカメラ２０７は、各々、装置１０３上で、事前定義された物理的位置及び向きを有している。従って、装置１０３の各ポーズ（すなわち、位置及び向き）において、複数の画像が、各カメラ２０７において１つずつ、捕捉され得る。従って、各画像は、特定の捕捉ポーズに対応し、後者は、座標系１０２によるカメラ２０７の物理的位置を意味している。

【0045】

図４Ｂは、装置１０３が棚モジュール１１０－３を移動方向４０６でトラバース（横断）する時の、当該装置１０３による２つの例示的な画像４０８－１、４０８－２の捕捉を示す。特に、第１装置ポーズ４１２－１において、装置１０３がカメラ２０７－１を制御して第１画像４０８－１を捕捉する。従って、第１画像４０８－１の捕捉時のカメラ２０７－１の位置及び向きは、第１捕捉ャポーズに対応する。その後、棚モジュール１１０－３のトラバース中に、第２装置ポーズ４１２－２で、装置１０３がカメラ２０７－１を制御して第２画像４０８－２を捕捉する。ここで明らかになるように、第２画像４０８－２は、装置ポーズ４１２－２及び装置１０３に対するカメラ２０７－１の物理的向きによって定義される第２捕捉ポーズに対応する。他のカメラ２０７の各々はまた、各装置ポーズ４１２で画像を捕捉するように制御され得る。それらの他のカメラ２０７によって捕捉される画像は、更に多くの捕捉ポーズに対応する。

【0046】

図３に戻って、ブロック３１０において、サーバ１０１はまた、例えばリポジトリ１３２からの取得（検索）によって、棚の背面（ＢｏＳ）マスクまたはＢｏＳマップとも呼ばれるマスクを取得するように構成される。当該マスクは、前記の少なくとも１つの画像に対応する。すなわち、ブロック３１０で取得される各画像について、１つの対応するマスクが取得され得る。当該マスクは、対応する画像から導出され、当該画像の複数の部分の各々について、当該部分が棚背面１１６を描写しているという信頼性レベルを示す。当該マスクが画像と同じ解像度を有する場合、前記部分は個々のピクセルであり得る。他の例では、マスクは画像よりも低い解像度を有するため、マスク内の各信頼性レベルは、複数のピクセルを含む画像の一部に対応する。

【0047】

図５Ａは、図４Ｂの画像４０８－１を示している。図５Ａに示すように、画像４０８－１の部分５００は、棚背面１１６－３を描写している。一方、部分５０４－１、５０４－２、５０４－３は、製品１１２を描写し、部分５０８は、棚縁部１１８－３を描写している。図５Ｂは、画像４０８－１から導出されるマスク５１２を示している。当該マスクを生成するために、様々な機構が採用され得る。例えば、画像４０８－１は、事前定義されたサイズ（例えば、５×５ピクセル）のパッチに分解され得て、各パッチは信頼性レベルを生成するための適切な分類操作によって分類され得る。当該信頼性レベルは、前記パッチが棚背面１１６－３の参照画像と合致する程度を示す。その後、マスク５１２は、各パッチに割り当てられた信頼性レベルを組合せることによって構築され得る。

【0048】

図５Ｂでは、マスク５１２の信頼性レベルが、グレースケールで表されている。マスク５１２のより暗い領域は、画像４０８－１の対応部分が棚背面１１６－３を描写することについてのより低い信頼度を示し（換言すれば、画像４０８－１の対応部分が棚背面１１６－３を描写しないことについてのより高い信頼性を示し）、マスク５１２のより明るい領域は、画像４０８－１の対応部分が棚背面１１６－３を描写することについてのより高い信頼性を示す。例えば、領域５１６は、画像４０８－１の部分５０８が棚背面１１６－３を描写するということについてのゼロの信頼性レベルを示す。マスク５１２の別の領域５２０は、画像４０８－１の対応部分が棚背面１１６－３を描写するということについての最大の信頼性レベル（例えば、１００％）を示す。マスク５１２の他の領域は、中間の信頼性レベルを示す。例えば、領域５２４は、約５０％の信頼性レベルを示すが、これは、画像４０８－１の部分５０４－３に示される製品１１２上のパターンが、棚背面１１６－３に類似しているからである。一方、マスク５１２の領域５２８は、約３０％の信頼性レベルを示している。

【0049】

マスク５１２の信頼性レベルを記憶するための様々な他の機構が、図５Ｂに示されるグレースケール画像の他に、企図される。例えば、信頼性レベルは、画像４０８－１のどの部分が各信頼性レベルに対応するかを示す関連の画像座標の組とともに、リストに記憶され得る。

【0050】

ブロック３０５及び３１０でポイントクラウド、平面定義、画像、及び、マスク、を取得すると、サーバ１０１は、その後、対応する信頼性レベルがマスク５１２内に存在するポイントクラウド内のポイントのサブセットを識別するように構成される。すなわち、サーバ１０１は、画像が捕捉された時にカメラ２０７に見えていたポイントクラウド内の複数のポイントを識別する。次に、サーバ１０１は、棚面に対するそのような複数の点の深さをマスク５１２からの対応する信頼性レベルと併せて使用して、棚面に対する棚背面１１６の深さを決定するように構成される。前記の機能は、以下でより詳細に説明される。

【0051】

図３に戻って、ブロック３１５において、サーバ１０１は、ポイントクラウドから、前記の捕捉ポーズによって確立される視野内に位置するポイントの初期セットを選択するように構成される。図４Ｂを簡単に参照すると、カメラ２０７－２の視野が、各捕捉ポーズ４１２において破線で示されている。捕捉ポーズは、座標系１０２に従って規定され、カメラ２０７の事前定義された動作パラメータ（例えば、焦点距離）に従って、座標系１０２内の視野の位置及び範囲も定義され得る。

【0052】

サーバ１０１は、ブロック３１５において、ポイントクラウドの各ポイントを評価して、当該ポイントがブロック３１０で取得された画像に対応する視野内にあるか否かを決定する、というように構成され得る。例えば、サーバ１０１は、座標系１０２内のある体積として視野を定義して、ポイントクラウドの各ポイントが定義された体積内にあるか否かを決定する、というように構成され得る。定義された体積内にあるポイントが、初期セットとして選択される。もっとも、幾つかの例では、サーバ１０１は、図６に関連して後述されるように、ツリーベースの検索を実行してポイントの初期セットを生成するように構成される。

【0053】

図６Ａを参照して、ブロック３１５でポイントの初期セットを選択する方法６００が説明される。ブロック６０５において、サーバ１０１は、ｋ－ｄ（ｋ次元）ツリーやオクトツリー等のようなツリーデータ構造を生成するように構成される。本実施例では、ｋ－ｄツリーがブロック６０５で生成される。ツリーデータ構造は、ポイントクラウド内の各ポイントについて、当該ポイントの深さに直交する第１及び第２次元座標を含んでいる。すなわち、各ポイントは、座標系１０２に従ってそのＸ座標及びＺ座標によってツリー内で表され、初期セットの選択のためにＹ座標が省略される（Ｙ座標は、方法３００の後半で使用され、以下で説明される）。

【0054】

当業者によって理解されるように、ｋ－ｄツリーは、前記の２つの次元のうちの１つ（例えば、Ｘ次元）の中央値を決定することによって、構築され得る。当該中央値より小さいＸ座標を有するポイントは、ツリーの最初のブランチに割り当てられ、残りのポイントは、２番目のブランチに割り当てられる。各ブランチについて、他の座標（この例ではＺ）の中央値が決定され、当該ブランチに割り当てられたポイントは、それらのＺ座標がＺ中央値より上か下かによって、再び細分化される。このプロセスが繰り返され、ツリーの各ノードが単一のポイントを含むまで、交互の次元の中央値に基づいてブランチのペア間のポイントが更に細分化される（すなわち、Ｘ次元に基づく１つの分割に、Ｚ次元に基づく１つの分割が後続し、Ｘ次元に基づく更なる分割が後続し、等）。

【0055】

ブロック６１０において、サーバ１０１は、ツリーで表される２次元内で、視野の中心の座標を決定するように構成される。前述のように、視野によって規定される体積は、カメラ２０７の動作パラメータ及び捕捉ポーズから決定される。図６Ｂを参照すると、装置ポーズ４１２－１でのカメラ２０７－２の視野６０２が示されている。視野６０２中心は、３次元では、線６０４によって規定される。視野の中心の２次元座標を２次元（すなわち、Ｘ次元及びＺ次元）で決定するために、サーバ１０１は、事前定義された深さを選択して、中心線６０４が当該事前定義された深さと交差する座標を決定するように構成される。事前定義された深さは、ブロック３０５において得られる棚面の深さに追加されるべき深さとして、メモリ１２２内に記憶され得る。他の例では、本明細書で説明される計算を簡略化するために、ポイントクラウド、棚面、捕捉ポーズ等が、原点が棚面上にある（例えば、ＸＺ面が棚面上にある）座標系に変換され得る。図６Ｂに示されるように、中心線６０４は、ＦＯＶ中心６０８で事前定義された深さと交差する。事前定義された深さは、好ましくは、棚背面１１６の深さを超えるように選択される（但し、棚背面１１６の深さは、正確にはわかっていない場合がある）。

【0056】

ブロック６１５において、サーバ１０１は、中心６０８から事前定義された半径内にあるツリーからポイントを取得（検索）することによって、セットのポイントを選択するように構成される。図６Ｂは、中心６０８から延びる所定の半径６１２を示している。当業者には明らかであるように、ｋ－ｄツリー等のツリー内での半径ベースの検索を実行するために、様々な機構が利用可能である。本実施例では、図６Ｂに示されるように、ブロック６１５で取得（検索）されるポイントは、例示的なポイント６１６を含み、他のポイント６１８は、半径６１２よりも中心６０８から更に離れているので、取得（検索）されない。

【0057】

ブロック６２０において、サーバ１０１は、事前定義された半径６１２がＦＯＶ６０２の実際の境界を超えて延びる可能性がある時、ブロック６１５において取得（検索）される各ポイントの３次元位置がＦＯＶ６０２内にあることを検証するように構成され得る。他の例では、ブロック６２０は省略され得る。ブロック６２０での検証は、実施される場合、ポイントクラウドからの３次元座標をある座標系内の２次元座標（例えば、画像４０８－１内のピクセル座標）に変換するように構成された、カメラ較正行列とも呼ばれる変換行列を採用し得る。従って、ブロック６２０における検証は、ブロック６１５で取得（検索）された各ポイントについて、対応する画像座標を生成すること、及び、当該画像座標が画像４０８－１の境界内にあるか否かを決定すること、を含み得る。

【0058】

図３に戻って、ＦＯＶ６０２内のポイント６１６の初期セットを選択した後、ブロック３２０において、サーバ１０１は、当該初期セット内のポイントから深さ測定値の閉塞されていないセットを選択するように構成される。ブロック３１５で選択されたポイントの初期セットは、ＦＯＶ６０２内にあるが、それにもかかわらず、他の対象物によってカメラ２０７による視界から遮られているために、カメラ２０７によって画像化されなかったポイントを含み得る。例えば、再び図６Ｂを参照すると、ポイント６１６ａは、ＦＯＶ６０２内にあるが、カメラ２０７－２が図６Ｂに示される捕捉ポーズから撮像（画像化）できない棚１１７の部分に対応する。これは、製品１１２がカメラ２０７－２とポイント６１６ａとの間に存在するためである。ライダースキャナがカメラ２０７２－２とは異なる位置にあるために、あるいは、ライダースキャンが後続の装置ポーズ４１２からポイント６１６ａを捕捉したために、あるいは、そのような理由のために、ポイント６１６ａは、ポイントクラウド内に現れる場合がある。換言すれば、ポイント６１６ａは、画像４０８－１及びマスク５１２が対応するデータを有しない閉塞ポイントである。ブロック３２０において、サーバ１０１は、そのような閉塞されたポイントを更なる考慮から除外し、ポイント６１６ｂ等の閉塞されていないポイントのデータを保持するように構成される。

【0059】

一般に、ブロック３２０における選択は、ポイントクラウドからの任意の閉塞ポイントについて、閉塞の原因である対象物に対応するポイントクラウド内にも閉塞されていないポイントが存在する、という仮定に基づいて動作する。更に、ブロック３２０において、前記の閉塞されていないポイントがカメラ２０７に視認可能であって、従って、画像４０８－１内に表されている、と想定される。図７Ａを参照すると、深さ測定値の閉塞されていないサブセットを選択する例示的な方法７００が示されている。

【0060】

ブロック７０５で、サーバ１０１は、ブロック３１５において選択された初期セット内の各ポイントの画像座標を決定するように構成される。前述のように、画像座標は、前方投影とも呼ばれるプロセス（すなわち、ポイントクラウド内への画像内のポイントの「後方」投影と呼ばれる後方投影とは対照的に、捕捉画像内に３次元内のポイントを「前方」投影する）でカメラ較正行列を使用することによって取得され得る。 図７Ｂは、前述のポイント６ｌ６ａ、６１６ｂに対するブロック７０５の結果を示している。ポイント６ｌ６ａ、６１６ｂは、座標系７０２（本実施例では、座標系１０２のＸＺ平面と平行である）によって規定される画像座標に対応している。図７Ｂに見られるように、ポイント６１６に関連する座標系１０２内の深さ測定値も、画像座標（２次元である）内に直接的には表されていないが、方法７００の実行を通じて保持される。深さ測定値は、画像座標に関連して、リスト７０４または他の適切なフォーマットで維持され得る。追加の例示的なポイント７０６、７０８、７０９、７１２、７１４も示されている。深さ測定値のリスト７０４に示されているように、ポイント７０８は製品表面上に位置しており、ポイント７０９は製品の後方、例えば棚背面１１６上にある（ポイント７０８の深さ２３５ｍｍと比較して、深さ５２８ｍｍ）。ポイント７１２、７１４はまた、棚背面１１６上に位置しており、それぞれ、５３０ｍｍ、５２２ｍｍの関連する深さを有する。

【0061】

ブロック７１０において、サーバ１０１は、ブロック７０５において決定された画像座標を含む、更なるｋ－ｄツリー等のツリーデータ構造を生成するように構成される。ブロック７１５において、サーバ１０１は、ポイントの隣接群を選択するように構成される。具体的には、ツリー内の選択されたポイントについて、サーバ１０１は、当該ポイントの最も近い隣接群（例えば、事前定義された数の隣接群、事前定義された半径内の隣接群、または、前記の組合せ）を取得（検索）するように構成される。サーバ１０１は、更に、ブロック７１５において取得（検索）された最も近い隣接群から、最小深さを有する隣接ポイントを選択するように構成される。従って、図７Ｂを再び参照して、ポイント６１６ａから開始して、最も近い隣接ポイントは、ポイント６１６ｂであり、ポイント６１６ａ、６ｌ６ｂ間での最も低い深さは、ポイント６ｌ６ｂに関連する深さである。従って、ポイント６１６ｂの深さ測定値（及び対応する画像座標）は、深さ測定値の閉塞されていないサブセットに含めるために保持され、ポイント６１６ａは破棄される。ブロック７２０での決定が、処理されるべきポイントが残っていないことを示すまで、ブロック７１５の実行は、初期セットの残りのポイントの各々に繰り返される。図７Ｂに例示的なポイントが示されている。

【0062】

初期セットからの全てのポイントが処理され、閉塞されていない深さ測定値のサブセットが選択されると、サーバ１０１は、方法３００のブロック３２５に戻る。ブロック３２５において、サーバ１０１は、選択的に、深さ測定値の閉塞されていないサブセットから深さ測定値の最終サブセットを選択するように構成され得る。例えば、図７Ｂに示された複数のポイントを取って、そこから得られる深さ測定値の閉塞されていないサブセットが図８Ａに示されている。図８Ａでは、ポイント６１６ａ、７０９が閉塞されていないサブセット８００から廃棄されていることが分かる。ブロック３２５において、サーバ１０１は、１または複数の追加のフィルタリング操作を実行して、閉塞されていないサブセットから更なるポイントを除外するように構成され得る。

【0063】

ブロック３２５において適用されるフィルタリング操作の第１例は、所定の閾値を下回るマスク５１２からのＢｏＳ信頼性レベルを有する任意のポイントを破棄することである。本実施例では、所定の閾値は５５％である（もっとも、代わりに他の様々な閾値が適用され得ることが理解される）。図８Ｂは、ポイント６ｌ６ｂ、７０６、７０８、７１２、７１４の画像座標にそれぞれ対応する信頼性レベル８ｌ６ｂ、８０６、８０８、８１２、８１４を有するマスク５１２を示している。本実施例では、信頼性レベル８ｌ６ｂ、８０６、８０８、８１２、８１４が、それぞれ、３０％、０％、５０％、１００％、９０％であると想定されている。従って、５５％未満の信頼性レベルを有するポイント（すなわち、ポイント６ｌ６ｂ、７０６、７０８）は破棄され、深さ測定値の最終サブセットは、ポイント７１２、７１４の深さ測定値と、それらに関連する画像座標と、を含む。

【0064】

ブロック３２５において実行されるフィルタリングの他の例は、事前定義された最大深さ閾値を超える深さ測定値を有するポイントを破棄することを含む。図８Ｃは、画像４１８－１が捕捉されたポーズとは異なる装置ポーズ（従って、異なる捕捉ポーズ）から取られた別の例示的な画像８１８を示している。画像８１８では、棚モジュール１１０－３の縁部８１８が視認可能であり、従って、画像８１８とポイントクラウドとの両方の特定のポイントが、棚モジュール１１０－３を超えた施設の領域に対応している。例えば、ポイント８２０は、２５００ｍｍの関連する深さ測定値を有し得る。前記の最大閾値は、施設全体の既知の最大棚深さ（例えば、７００ｍｍ）として選択され得る。従って、ポイント８２０は、ブロック３２５で破棄され得る。

【0065】

図３に戻って、ブロック３３０において、最終サブセットの深さ測定値は、マスク５１２からの対応する信頼性レベルに従って重み付けされる。従って、本実施例では、ポイント７１２、７１４の深さ測定値は、それぞれの信頼性レベル（それぞれ、１００％、９０％）に従って、重み付けされる。例えば、当該深さは、それぞれの重みによって乗算され得る（例えば、５３０×１、５２２×０．９）。ブロック３３５において、棚深さは、重み付けされた深さから決定される。すなわち、ブロック３３５において決定される棚深さは、ブロック３２５からの最終サブセットにおける深さ測定値の加重平均である。本実施例では、ポイント７１２、７１４の深さ測定値の加重平均は、重み付けされた深さを合計し、その結果を重み付けの合計（すなわち、１．９または１９０％）で除算することによって得られ、５２６．２ｍｍの結果が得られる。図９は、決定された棚深さを、棚面４０４から延びる（棚面４０４に垂直な）破線９００として示している。

【0066】

ブロック３４０において、サーバ１０１は、捕捉ポーズが処理されるべく残っているか否か（すなわち、現在のカメラにとって追加の装置ポーズが残っているか否か、あるいは、追加のカメラが現在の装置ポーズにおいて残っているか否か）を決定するように構成される。ブロック３４０での決定が肯定的である場合、方法３００の実行は、後続の画像及び対応するマスクに対して繰り返される。ブロック３４０での決定が否定的である場合、方法３００の実行は、終了する。幾つかの例では、ブロック３３５は、ブロック３４０での否定的な決定の後にのみ実行され、ブロック３３０の各実施からの深さ測定値の複数の重み付けされた最終セットを使用して、棚モジュール１１０の単一の棚深さを決定する。方法３００の実行を介して決定される棚深さは、例えば、棚１１０または他の対象物状態データのギャップを特定するのに使用するべく、サーバ１０１の更なるアプリケーション（または別のコンピューティングデバイス）に戻され得る。

【0067】

前述の明細書において、特定の実施形態が説明された。しかしながら、当業者は、以下の特許請求の範囲で示す本発明の範囲から逸脱することなく、種々の改変及び変更を行うことができることを認識する。従って、明細書及び図面は、限定的な意味ではなく例示的なものであるとみなされるべきであり、このような改変の全てが、本教示の範囲内に含まれることが意図されている。

【0068】

利益、利点、課題の解決法、並びに、何らかの利益、利点または解決法を生じさせ得るかより顕著にし得るあらゆる要素は、特許請求の範囲の請求項のいずれかまたは全てにおける、決定的な、要求される、または必須の、特徴または要素として解釈されるべきではない。本発明は、添付の特許請求の範囲によってのみ規定され、本出願の係属中になされるあらゆる補正と、発行時の特許請求の範囲の全ての均等物と、を含む。

【0069】

更に、当該文書において、第１及び第２、上及び下、等のような関連語は、１つの実体または動作を他の実体または動作から区別するためにのみ用いられている可能性があり、必ずしもそのような実体または動作間の実際のそのような関係または順序を要求したり含意したりしていない可能性がある。用語「備える（ｃｏｍｐｒｉｓｅｓ）」、「備えている（ｃｏｍｐｒｉｓｉｎｇ）」、「有する（ｈａｓ）」、「有している（ｈａｖｉｎｇ）」、「含む（ｉｎｃｌｕｄｅ）」、「含んでいる（ｉｎｃｌｕｄｉｎｇ）」、「含有する（ｃｏｎｔａｉｎｓ）」、「含有している（ｃｏｎｔａｉｎｉｎｇ）」、あるいは、それらの他のあらゆる変形語は、非排他的な包含をカバーすることが意図されている。要素の列挙（リスト）を、備える、有する、含む、または、含有する、というプロセス、方法、物品、または、装置は、それらの要素のみを含むのではなく、明示的に列挙されていない他の要素や、そのようなプロセス、方法、物品、または、装置に固有の他の要素を含み得る。「を備える（ｃｏｍｐｒｉｓｅｓ ．．．ａ）」、「を有する（ｈａｓ ．．．）」、「を含む（ｉｎｃｌｕｄｅｓ ．．．ａ）」、「を含有する（ｃｏｎｔａｉｎｓ ．．．ａ）」の後に続く要素は、更なる制約条件が無ければ、当該要素を、備える、有する、含む、または、含有する、というプロセス、方法、物品、または、装置、における付加的な同一要素の存在を排除しない。用語「ａ」及び「ａｎ」は、明示的に他の言及が無い限り、１または複数として定義される。用語「実質的に」、「本質的に」、「およそ」、「約」、あるいは、それらの他のあらゆる変形語は、当業者に理解されるように、近い状態であるものとして定義され、１つの非限定的な実施形態において、当該用語は、１０％以内、別の実施形態においては５％以内、別の実施形態においては１％以内、及び、別の実施形態において０．５％以内、として定義される。本明細書で用いられる用語「結合された」は、接続されたものとして定義されるが、必ずしも直接的でなくてもよく、また、必ずしも機械的でなくてもよい。ある方式で「構成された」デバイスまたは構造は、少なくとも当該方式で構成されるが、挙げられていない方式で構成されてもよい。

【0070】

幾つかの実施形態は、マイクロプロセッサ、デジタル信号プロセッサ、カスタマイズドプロセッサ及びフィールドプログラマブルゲートアレイ（ＦＰＧＡ）のような、１または複数の専用プロセッサ（又は「処理デバイス」）と、当該１または複数のプロセッサを制御して、特定の非プロセッサ回路と共に、本明細書で説明される方法及び／または装置の機能の一部、大部分、または、全て、を実装する、特有の記憶されたプログラム命令（ソフトウェア及びファームウェアの両方を含む）と、で構成され得ることが認識されるであろう。あるいは、一部または全ての機能が、記憶されたプログラム命令を有しない状態機械によって実装され得るし、または、各機能もしくは特定の機能の幾つかの組合せがカスタム論理として実装された１または複数の特定用途向け集積回路（ＡＳＩＣ）において実装され得る。勿論、２つの手法の組合せが用いられてもよい。

【0071】

更に、実施形態は、本明細書で説明されて特許請求される方法を実行するようにコンピュータ（例えばプロセッサを含む）をプログラミングするための、記憶されたコンピュータ可読コードを有する、コンピュータ可読ストレージ媒体として実装され得る。このようなコンピュータ可読ストレージ媒体の例は、ハードディスク、ＣＤ－ＲＯＭ、光学ストレージデバイス、磁気ストレージデバイス、ＲＯＭ（読出し専用メモリ）、ＰＲＯＭ（プログラマブル読出し専用メモリ）、ＥＰＲＯＭ（消去可能プログラマブル読出し専用メモリ）、ＥＥＰＲＯＭ（電気的消去可能プログラマブル読出し専用メモリ）、及び、フラッシュメモリ、を含むがこれらに限定されない。更に、例えば、利用可能な時間、現在の技術水準、及び、経済的考慮事項、によって動機付けされる、可能性ある顕著な努力や多くの設計選択肢にもかかわらず、本明細書に開示される概念及び原理によって導かれる時、当業者は、このようなソフトウェア命令及びプログラム並びにＩＣを最小限の実験で容易に生成可能になる、ということが期待される。

【0072】

本開示の要約は、読者が当該技術的開示の性質を素早く確認することを許容するために提供される。それは、特許請求の範囲の請求項の範囲または意味を解釈または制限するために用いられないという理解と共に提示される。また、前述の詳細な説明において、当該開示を円滑にする目的で、様々な実施形態において様々な特徴がまとめてグループ化されていることが認められ得る。この開示方法は、特許請求される実施形態が、各請求項で明示的に記載されている特徴よりも多くの特徴を必要とする、という意図を反映するものとして解釈されるべきでない。むしろ、以下の特許請求の範囲が反映するように、本発明の主題は、単一の開示された実施形態の全ての特徴よりも少なく存在する。以下の特許請求の範囲は、ここで詳細な説明に組み入れられ、各請求項は、別個に特許請求される主題として、それ自身独立している。

【図1】

【図2A】

【図2B】

【図3】

【図4A】

【図4B】

【図5A】

【図5B】

【図6A】

【図6B】

【図7A】

【図7B】

【図8A】

【図8B】

【図8C】

【図9】

【国際調査報告】