IP Force 特許公報掲載プロジェクト 2022.1.31 β版

知財求人 - 知財ポータルサイト「IP Force」

▶ グーグル インコーポレイテッドの特許一覧

特表2024-532299屋内空間の3次元マップを生成するためのシステムおよび方法
<>
  • 特表-屋内空間の3次元マップを生成するためのシステムおよび方法 図1
  • 特表-屋内空間の3次元マップを生成するためのシステムおよび方法 図2
  • 特表-屋内空間の3次元マップを生成するためのシステムおよび方法 図3
  • 特表-屋内空間の3次元マップを生成するためのシステムおよび方法 図4
  • 特表-屋内空間の3次元マップを生成するためのシステムおよび方法 図5
  • 特表-屋内空間の3次元マップを生成するためのシステムおよび方法 図6
  • 特表-屋内空間の3次元マップを生成するためのシステムおよび方法 図7
  • 特表-屋内空間の3次元マップを生成するためのシステムおよび方法 図8
  • 特表-屋内空間の3次元マップを生成するためのシステムおよび方法 図9
  • 特表-屋内空間の3次元マップを生成するためのシステムおよび方法 図10
< >
(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公表特許公報(A)
(11)【公表番号】
(43)【公表日】2024-09-05
(54)【発明の名称】屋内空間の3次元マップを生成するためのシステムおよび方法
(51)【国際特許分類】
   G06T 19/00 20110101AFI20240829BHJP
   G06F 3/04815 20220101ALI20240829BHJP
   G06F 3/0484 20220101ALI20240829BHJP
   G01S 5/12 20060101ALI20240829BHJP
   G01S 17/89 20200101ALN20240829BHJP
【FI】
G06T19/00 600
G06F3/04815
G06F3/0484
G01S5/12
G01S17/89
【審査請求】有
【予備審査請求】未請求
(21)【出願番号】P 2024512113
(86)(22)【出願日】2022-08-22
(85)【翻訳文提出日】2024-03-13
(86)【国際出願番号】 US2022075263
(87)【国際公開番号】W WO2023028449
(87)【国際公開日】2023-03-02
(31)【優先権主張番号】17/445,751
(32)【優先日】2021-08-24
(33)【優先権主張国・地域又は機関】US
(81)【指定国・地域】
(71)【出願人】
【識別番号】502208397
【氏名又は名称】グーグル エルエルシー
【氏名又は名称原語表記】Google LLC
【住所又は居所原語表記】1600 Amphitheatre Parkway 94043 Mountain View, CA U.S.A.
(74)【代理人】
【識別番号】110001195
【氏名又は名称】弁理士法人深見特許事務所
(72)【発明者】
【氏名】ウー,ションジー
(72)【発明者】
【氏名】ファーボーグ,アレクサンダー・ジェイムズ
【テーマコード(参考)】
5B050
5E555
5J062
5J084
【Fターム(参考)】
5B050BA09
5B050BA13
5B050CA07
5B050DA01
5B050EA07
5B050EA18
5B050EA19
5B050EA28
5B050FA02
5B050GA08
5E555AA04
5E555AA27
5E555BA05
5E555BA06
5E555BB05
5E555BB06
5E555BC04
5E555BE16
5E555CA41
5E555CA42
5E555CA44
5E555CA45
5E555CB21
5E555DA11
5E555DB55
5E555DC13
5E555DC43
5E555DD06
5E555EA22
5E555FA00
5J062AA01
5J062BB08
5J062CC14
5J062FF01
5J062FF02
5J062FF03
5J062HH05
5J084AA05
5J084AB16
5J084AC08
5J084CA65
(57)【要約】
3次元(3D)マップは、モバイルコンピューティングデバイスのセンサを使用した領域の走査に基づいて、異なる領域に対して生成され得る。各走査中に、超広帯域通信(UWB)を使用して、固定位置のスマートデバイスを基準としたモバイルコンピューティングデバイスの位置を測定できる。領域の3Dマップは、走査中に取得される位置測定値に基づいてスマートデバイスの固定位置(すなわち、アンカー位置)に登録され得るため、3Dマップを組み合わされた3Dマップに結合することができる。次に、組み合わされた(すなわち、結合された)3Dマップを使用して、モバイルコンピューティングデバイスまたは他のスマートデバイスの位置固有の動作を容易にすることができる。
【特許請求の範囲】
【請求項1】
3次元(3D)マップを生成する方法であって、前記方法は、
モバイルコンピューティングデバイスの深度センサを使用して第1の領域の第1の走査を実行することと、
前記モバイルコンピューティングデバイスの超広帯域位置センサを使用して、前記第1の走査中にアンカー位置に対して前記モバイルコンピューティングデバイスの位置を特定することと、
前記第1の領域の前記アンカー位置に対する第1の3Dマップを生成することと、を含む、方法。
【請求項2】
前記モバイルコンピューティングデバイスの前記深度センサを使用して第2の領域の第2の走査を実行することと、
前記モバイルコンピューティングデバイスの前記超広帯域位置センサを使用して、前記第2の走査中に前記アンカー位置に対する前記モバイルコンピューティングデバイスの位置を特定することと、
前記第2の領域の前記アンカー位置に対する第2の3Dマップ、を生成することと、
前記アンカー位置に基づいて、前記第1の3Dマップと前記第2の3Dマップを結合することと、をさらに含む、請求項1に記載の方法。
【請求項3】
前記第1の領域は、建物または住宅内の第1の部屋であり、前記第2の領域は、前記建物または住宅内の第2の部屋である、請求項2に記載の方法。
【請求項4】
前記アンカー位置は、前記建物または住宅内に固定的に配置され、超広帯域通信用に構成されたスマートデバイスの位置である、請求項3に記載の方法。
【請求項5】
前記アンカー位置は、前記建物または住宅の外側に固定的に配置され、超広帯域通信用に構成されたスマートデバイスの位置である、請求項3に記載の方法。
【請求項6】
前記アンカー位置に基づいて前記第1の3Dマップと前記第2の3Dマップを結合することは、
前記第1の3Dマップと前記第2の3Dマップとを空間的に配置して、両方の領域をカバーする第3の3Dマップを形成することを含む、請求項2~請求項5のいずれかに記載の方法。
【請求項7】
前記深度センサは、ライダーセンサ、カメラ、または超音波センサである、先行する請求項のいずれかに記載の方法。
【請求項8】
前記モバイルコンピューティングデバイスは、携帯電話、タブレット、または拡張現実メガネである、先行する請求項のいずれかに記載の方法。
【請求項9】
前記超広帯域位置センサは超広帯域タグである、先行する請求項のいずれかに記載の方法。
【請求項10】
固定位置に対して前記モバイルコンピューティングデバイスの前記位置を特定することは、
前記超広帯域タグと、前記超広帯域タグとの超広帯域通信用に構成されたスマートデバイスとの間の範囲を決定することを含み、前記スマートデバイスは前記アンカー位置に位置する、請求項9に記載の方法。
【請求項11】
固定位置に対して前記モバイルコンピューティングデバイスの前記位置を特定することは、
前記超広帯域タグと、前記超広帯域タグとの超広帯域通信用に構成された複数のスマートデバイスの間の範囲を決定することを含み、前記複数のスマートデバイスのうちの1つが前記アンカー位置に位置する、請求項9に記載の方法。
【請求項12】
スマートデバイスの位置に基づいてスマートデバイスの動作を制御する方法であって、前記方法は、
モバイルコンピューティングデバイスによって走査された第1の領域と第2の領域を含む結合された3Dマップを生成することを含み、前記第1の領域と前記第2の領域は、アンカー位置に対するそれらの相対位置に従って前記結合された3Dマップ内に配置され、前記相対位置は超広帯域(UWB)通信によって決定され、
前記方法は、
前記結合された3Dマップ内の複数の位置にタグ付けすることと、
UWB通信と前記結合された3Dマップに基づいて前記スマートデバイスを追跡することと、
前記スマートデバイスが前記結合された3Dマップ内のタグ付けされた位置にあることを決定することと、
前記タグ付けされた位置に基づいて前記スマートデバイスの前記動作を調整することと、を含む、方法。
【請求項13】
前記結合された3Dマップ内の前記複数の位置に前記タグ付けすることは、
前記結合された3Dマップに基づいて建物または住宅の境界を識別することと、
前記建物または住宅の前記境界外の位置にタグ付けすることと、を含む、請求項12に記載の方法。
【請求項14】
前記タグ付けされた位置に基づいて前記スマートデバイスの前記動作を前記調整することは、
前記スマートデバイスが前記建物または住宅の前記境界外の前記位置にある場合、前記スマートデバイスのネットワークへのアクセスを制限することを含む、請求項13に記載の方法。
【請求項15】
前記結合された3Dマップ内の前記複数の位置に前記タグ付けすることは、
前記結合された3Dマップと関連付けられた画像に基づいて物体を識別することと、
前記物体の周囲の領域にタグ付けすることと、を含む、請求項12~請求項14のいずれかに記載の方法。
【請求項16】
前記タグ付けされた位置に基づいて前記スマートデバイスの前記動作を前記調整することは、
前記スマートデバイスが前記物体の周囲の前記領域に入ったときに、前記スマートデバイス上で前記物体に関する情報を提示することを含む、請求項15に記載の方法。
【請求項17】
前記結合された3Dマップ内の前記複数の位置に前記タグ付けすることは、
前記結合された3Dマップに基づいて部屋を識別することと、
前記部屋にタグ付けすることと、を含む、請求項12~請求項16のいずれかに記載の方法。
【請求項18】
前記タグ付けされた位置に基づいて前記スマートデバイスの前記動作を前記調整することは、
前記スマートデバイスが前記部屋に入ったときに基づいて、前記スマートデバイス上の媒体の再生を制御することを含む、請求項17に記載の方法。
【請求項19】
前記部屋に前記タグ付けすることは、
前記結合された3Dマップと関連付けられた画像に基づいて前記部屋内の物体を識別することと、
前記部屋内の前記物体に基づいて部屋のタイプを決定することと、
前記部屋のタイプに応じて前記部屋にタグ付けすることと、を含む、請求項17または請求項18に記載の方法。
【請求項20】
3次元(3D)マップを生成するシステムであって、前記システムは、
アンカー位置に固定的に配置され、超広帯域(UWB)通信用に構成されたスマートデバイスと、
モバイルコンピューティングデバイスと、を含み、
前記モバイルコンピューティングデバイスは、
第1の走査中に第1の領域上で深度センサが走査されるときに、前記第1の領域に対応する深度データの第1のセット、および、第2の走査中に前記深度センサが第2の領域上で走査されるときに、前記第2の領域に対応する深度データの第2のセットを収集するように構成された深度センサ、
前記スマートデバイスとUWBタグとの間のUWB通信に基づいて、前記第1の走査および前記第2の走査中に前記モバイルコンピューティングデバイスと前記アンカー位置との間の範囲を決定するように構成されたUWBタグ、ならびに、
ソフトウェア命令によって、
前記第1の走査中の前記モバイルコンピューティングデバイスと前記アンカー位置との間の前記範囲に基づいて、深度データの前記第1のセットを前記アンカー位置に登録し、
深度データの前記登録された第1のセットに基づいて、前記アンカー位置に対する第1の3Dマップを生成し、
前記第2の走査中の前記モバイルコンピューティングデバイスと前記アンカー位置との間の前記範囲に基づいて、深度データの前記第2のセットを前記アンカー位置に登録し、
深度データの前記登録された第2のセットに基づいて、前記アンカー位置に対する第2の3Dマップを生成し、
前記第1の3Dマップと前記第2の3Dマップを結合する
ように構成されたプロセッサ、
を含む、システム。
【発明の詳細な説明】
【技術分野】
【0001】
関連出願の相互参照
本出願は、2021年8月24日に出願された米国特許出願第17/445,751号の継続であり、優先権を主張し、その全体が参照により本明細書に組み込まれる。
【0002】
開示分野
本開示は、拡張現実システムに関し、より具体的には、複数の走査によって生成された3次元(3D)マップを組み合わせ(すなわち、結合し)、結合された3Dマップをモバイルアプリケーションに使用するためのシステムおよび方法に関する。
【背景技術】
【0003】
背景
モバイルデバイス上の深度感知により、ユーザは屋内空間(例えば、部屋)を走査して3Dモデル(すなわち、3Dマップ)を作成することができる。深度感知には、方向を決定するための慣性測定装置(IMU)と、さまざまな領域を感知するためにモバイルコンピューティングデバイスが物理的に移動されて(すなわち、走査されて)モバイルコンピューティングデバイスと部屋内の物体との間の深度(すなわち、範囲)を決定するための専用の深度センサまたはカメラとを含む複数のセンサを利用し得る。3Dマップを画像と組み合わせて現実的な仮想部屋を生成することができ、仮想部屋に対してユーザは没入型で現実的な体験(例えば、仮想ツアー)で対話することができる。3Dモデルを使用して、拡張現実(AR)環境でより現実的な仮想物体を生成することもできる。例えば、3Dモデルは、ARソフトウェアが屋内空間の現実の物体の背後に、建物や住宅などの仮想物体を配置するのに役立ち得る。屋内空間を正常に走査するには複数の要件があり、これらの要件がユーザの制御を超えている場合がある。すべての要件が満たされていない場合、走査が不十分になり、対応する3Dマップが不完全になったりかつ/または、歪んだりし得る。これは、複数の領域がある広い屋内空間を走査する場合に特に当てはまる。
【発明の概要】
【0004】
概要
少なくとも1つの態様において、本開示は、一般に、3Dマップを生成するための方法を説明する。この方法は、モバイルコンピューティングデバイスの深度センサを使用して第1の領域の第1の走査を実行することを含む。この方法は、モバイルコンピューティングデバイスの超広帯域(UWB)位置センサを使用して、第1の走査中にアンカー位置に対してモバイルコンピューティングデバイスの位置を特定することをさらに含む。この方法は、第1の領域の第1の3Dマップを生成することをさらに含み、第1の3Dマップはアンカー位置を基準とする。
【0005】
可能な実装では、この方法は、モバイルコンピューティングデバイスの深度センサを使用して第2の領域の第2の走査を実行することをさらに含む。モバイルコンピューティングデバイスは、第2の領域の第2の3Dマップを生成できるように、モバイルコンピューティングデバイスのUWB位置センサを使用する第2の走査中にアンカー位置に対して相対的に配置される。第1の3Dマップと同様に、第2の3Dマップはアンカー位置を基準としている。この方法は、(共通の)アンカー位置に基づいて第1の3Dマップと第2の3Dマップを結合することをさらに含む。
【0006】
第1の領域は、建物や住宅などの屋内空間の第1の部屋とすることができ、第2の領域は、屋内空間の第2の部屋とすることができる。アンカー位置は、スマートデバイス(例えば、スマートホームデバイス)が固定的に配置される屋内空間内の位置であり得る。
【0007】
スマートデバイスは、モバイルコンピューティングデバイスのUWB位置センサとのUWB通信用に構成することができる。UWB通信を通じて、スマートデバイスに対するモバイルコンピューティングデバイスの範囲および/または方向が決定され、走査中にモバイルコンピューティングデバイスの位置を特定する(すなわち、追跡する)ために使用され得る。3Dマップを空間的に配置して、両方の領域をカバーする第3の3Dマップを形成できる。両方の3Dマップが屋内空間内のスマートデバイスのアンカー位置を基準にして生成(すなわち、再構成)されるため、この空間配置が可能になる。
【0008】
別の態様では、本開示は、一般に、(可動)スマートデバイスの動作をその位置に基づいて制御するための方法を説明する。この方法は、結合された3Dマップを生成することを含む。3Dマップは、モバイルコンピューティングデバイスによって走査された第1の領域と第2の領域を含む。第1の領域と第2の領域は、UWB通信によって決定されるアンカー位置に対する相対位置に従って、結合された3Dマップ内に配置される。この方法は、結合された3Dマップ内の複数の位置にタグ付けすることをさらに含む。この方法は、UWB通信および結合された3Dマップに基づいてスマートデバイスを追跡することと、スマートデバイスが結合された3Dマップ内のタグ付けされた位置にあることを決定することと、タグ付けされた位置に基づいてスマートデバイスの動作を調整することとをさらに含む。
【0009】
可能な実装では、建物または住宅の境界は、結合された3Dマップに基づいて識別することができるので、建物または住宅の境界の外側の位置にタグ付けすることができる。スマートデバイスが建物または住宅の境界の外側の位置にある場合、そのアクセス(例えば、ネットワーク)が制限され得る。
【0010】
別の可能な実装では、結合された3Dマップと関連付けられる画像に基づいて物体を識別することができるため、その物体の周囲の領域にタグ付けすることができる。スマートデバイスが物体の周囲の領域に入ると、スマートデバイス上に情報が表示され得る。例えば、エアロバイク(登録商標)の周囲の領域は、スマートデバイスをトリガして、エアロバイクでのトレーニングに関連する情報を表示し得る。
【0011】
別の可能な実装では、部屋は、結合された3Dマップに基づいて識別され得る。さらに、部屋は、結合された3Dマップと関連付けられた画像内で識別された物体に基づいて決定される部屋タイプに従ってタグ付けすることができる。スマートデバイスが部屋に入ると、媒体の再生が制御され得る(部屋のタイプに基づいて)。例えば、画像内で識別されたベッドを使用して部屋を寝室としてタグ付けすることができ、スマートデバイス(例えば、スマートスピーカ)での再生を寝室に適したものにすることができる。
【0012】
別の態様では、本開示は、3Dマップを生成するためのシステムを概説する。このシステムは、アンカー位置に固定的に配置され、UWB通信用に構成されたスマートデバイス(例えば、スマートホームデバイス)を含む。このシステムは、モバイルコンピューティングデバイス(例えば、携帯電話、タブレット、ARメガネ)をさらに含む。モバイルコンピューティングデバイスには深度センサが含まれ、深度センサは、第1の走査中に深度センサが第1の領域上で走査されるときに、第1の領域に対応する深度データの第1のセットを収集し、第2の走査中に深度センサが第2の領域にわたって走査されるときに、第2の領域に対応する深度データの第2のセットを収集するように構成されている。モバイルコンピューティングデバイスは、スマートデバイスとUWBタグとの間のUWB通信に基づいて、第1の走査および第2の走査中にモバイルコンピューティングデバイスとアンカー位置との間の範囲を決定するように構成されたUWBタグをさらに含む。モバイルコンピューティングデバイスは、3Dマッピング方法を実行するためにソフトウェア命令によって構成され得るプロセッサをさらに含む。3Dマッピング方法は、第1の走査中のモバイルコンピューティングデバイスとアンカー位置との間の範囲に基づいて、深度データの第1のセットをアンカー位置に登録することと、深度データの登録された第1のセットに基づいて、アンカー位置に対する第1の3Dマップを生成することと、を含む。3Dマッピング方法は、第2の走査中に、モバイルコンピューティングデバイスとアンカー位置との間の範囲に基づいて、深度データの第2のセットをアンカー位置に登録することと、深度データの登録された第2のセットに基づいて、アンカー位置に対する第2の3Dマップを生成することをさらに含む。3Dマッピング方法は、第1の3Dマップと第2の3Dマップを結合することをさらに含む。
【0013】
前述の例示的な概要、ならびに本開示の他の例示的な目的および/または利点、ならびにそれを達成する方法は、以下の詳細な説明およびその添付図面の中でさらに説明される。
【図面の簡単な説明】
【0014】
図1】本開示の可能な実装による、屋内領域を走査して3Dマップの深度データを取得するモバイルコンピューティングデバイスを示す図である。
図2】屋内位置システム内に構成されたモバイルコンピューティングデバイスおよびスマートデバイスを含む屋内空間の平面図である。
図3】本開示の可能な実装による超広帯域タグのブロック図である。
図4】本開示の可能な実装による屋内空間の可能な3D走査シナリオを示す図である。
図5図4に示される3D走査シナリオから結合された3Dマップを生成するための第1の可能な方法を示すフローチャートである。
図6図4に示される3D走査シナリオから結合された3Dマップを生成するための第2の可能な方法を示すフローチャートである。
図7図4に示される3D走査シナリオから結合された3Dマップを生成するための第3の可能な方法を示すフローチャートである。
図8図4に示される3D走査シナリオからの結合された3Dマップを使用する可能な用途を示す図である。
図9】本開示の可能な実装による、結合された3Dマップを生成するための方法のフローチャートである。
図10】本明細書で説明される技術とともに使用され得る例示的なコンピューティング環境を示す図である。
【発明を実施するための形態】
【0015】
図面内の構成要素は、必ずしも相互の縮尺通りではない。いくつかの図を通して、同様の参照番号は対応する部分を示す。
【0016】
詳細な説明
モバイルコンピューティングデバイス(例えば、携帯電話、タブレット、拡張現実(AR)メガネ)は、屋内空間の3Dマップ(すなわち、3Dモデル、3D走査)を作成するために、屋内空間(例えば、住宅、建物、オフィスなど)の領域(例えば、部屋、ホールなど)を走査できる深度センサ(すなわち、深度カメラ)を備えて構成され得る。3Dマップは、屋内空間を正確に描写する空間関係で配置される物体(例えば、壁、家具、アイテム)の相対的な寸法を含む屋内空間のレンダリングである。3Dマップは、空間のインタラクティブなビュー(例えば、仮想ツアー)を得るために直接使用され得る。あるいは、情報を3Dマップから導き出して、何らかのアプリケーション(例えば、コンピュータ支援設計、拡張現実など)を強化または有効にすることもできる。
【0017】
図1に示すように、3Dマップの深度データの取得は、深度センサの限られる視野(FOV)に対応するために屋内領域100の3D走査中に経路120に沿ってモバイルコンピューティングデバイス110に含まれる深度センサを物理的に走査することによって達成され得る。モバイルコンピューティングデバイス110は、3D走査中にその位置/方向を監視することができ(例えば、慣性測定装置(IMU)および/またはカメラを使用して)、これにより、走査中に深度データをモバイルコンピューティングデバイスの相対位置/方向に登録できるようになる。深度データは、3D走査中のモバイルコンピューティングデバイスの位置/方向に対して相対的であり、物理座標系に対して相対的なものではないため、異なる3D走査からの深度データのセットの相対的な位置/方向を決定するのは困難な場合がある。したがって、屋内空間の複数の異なる領域の3Dマップを作成することは困難な場合があり、現在、ほとんどのソリューションには技術的な問題がある。
【0018】
1回の走査で複数の異なる領域を連続的に走査して、複数の異なる領域の3Dマップを作成するには、実際よりも多くの処理能力および/またはメモリが必要になる場合があり、走査が中断される場合、ユーザは時間のかかる走査プロセスを再開しなければならない場合がある。複数の領域を個別に走査して(すなわち、複数の走査セッションで)複数の領域の結合された3Dマップを作成し、その後3Dマップを結合するには、相対的な位置/方向を決定するために3Dマップに重複する領域が必要になり得る。これらの重複領域を取得して登録することは、いくつかの理由から難しい場合がある。第一に、重複領域に認識可能なランドマークがなく、常に利用できるとは限らない場合、使用可能な重複領域を取得することが困難になり得る。第二に、ユーザが重複領域を不適切に走査すると、使用可能な重複領域を取得することが困難になり得、ユーザに追加の要件が課せられる。利用可能な重複領域が取得できたとしても、処理が必要となるため自動的に登録することが困難な場合があり、重複領域に基づいて手動で3Dマップを結合するには時間がかかり得る。
【0019】
開示されるシステムおよび方法は、各3D走査中に位置データ[location data](つまり、位置データ[position data])を取得することによって、屋内空間の複数の領域の3Dマップを作成するための技術的ソリューションを提供するため、各3D走査が屋内空間の物理的な位置(すなわち、アンカー位置)に登録され(または登録できる)、その後、共通のアンカー位置(すなわち、アンカー点)に基づいて3Dマップが結合される。開示されるアンカー位置は、スマートホームデバイス(例えば、スマートスピーカ、ハブデバイス、スマートサーモスタットなど)などのスマートデバイスの位置であり得、通常は移動されないか、または恒久的に設置されている(すなわち、固定的に配置されている)。位置データは、走査を実行するモバイルコンピューティングデバイスとスマートデバイス間の超広帯域(UWB)通信に基づく位置追跡によって取得できる。本開示は、結合された3Dマップから情報を収集し、結合された3Dマップを拡張現実を含むモバイルアプリケーションに使用するための可能な技術的機会についてもさらに説明する。
【0020】
図2は、屋内測位システム(IPS)として構成されたモバイルコンピューティングデバイスおよびスマートデバイスを含む屋内空間の平面図である。モバイルコンピューティングデバイスおよびスマートデバイスのみが示されているが、IPSは、さまざまな可能なアプリケーションに対してさまざまな可能なデバイスのさまざまな構成を使用して実装され得ることに留意されたい。ここで、アンカー位置に固定的に配置されるスマートデバイス220による3D走査中のモバイルコンピューティングデバイス210の位置/追跡の1つの可能な実装について説明する。
【0021】
図2に示すように、モバイルコンピューティングデバイス210は、屋内空間200の領域(すなわち、寝室)内で移動することができるが、スマートデバイス220は、固定位置に位置したままである。図に示すように、スマートデバイスはアンカー位置にある。アンカー位置は、屋内空間200内であってもよいし、屋内空間200の外側であってもよい。例えば、隣接する屋内空間(図示せず)のスマートデバイスをアンカー点として使用することができる。
【0022】
モバイルコンピューティングデバイス210およびスマートデバイス220は、UWB通信リンク230を介して通信するように構成されている。これらのデバイス間のUWB通信は、スマートデバイス220に対するモバイルコンピューティングデバイス210の位置(position)(すなわち、位置(location))を特定および追跡するために使用され得る。例えば、モバイルコンピューティングデバイス210は、領域の3D走査中に、スマートデバイスに対するその位置を特定し、追跡することができる。
【0023】
モバイルコンピューティングデバイス210およびスマートデバイス220は各々、少なくとも1つのUWBタグ(すなわち、UWBモジュール)を含むことができる。UWBタグは、UWB通信を介して情報を送受信するように構成できる。この情報は、モバイルコンピューティングデバイス210および/またはスマートデバイス220の相対位置を決定するために使用することができ、UWBタグが相対位置を出力するように構成されている場合、それはUWB位置センサと呼ばれることがある。相対位置は、さまざまなアプローチを使用してUWB位置センサによって決定できる。
【0024】
UWB位置センサ(すなわち、UWBセンサ)は、UWB通信に基づいて、モバイルコンピューティングデバイス210とスマートデバイス220との間の範囲(r)を決定することができる。例えば、範囲(r)は、モバイルコンピューティングデバイス210とスマートデバイス220との間で交換される情報(例えば、ハンドシェイク)にかかるラウンドトリップタイム(RTT)に基づいてもよい。いくつかの実装では、UWB位置センサは範囲(r)だけでなく角度(θ)も決定できる。この角度は、アンカー位置(図2に示す)またはアンカー位置からオフセットされる既知の位置に位置することができる固定座標系225(x、y、z)に対して相対的であり得る。角度(θ)の決定は、到着時間差(TOA)に基づいて行うことができる。UWB位置センサは、複数のアンテナの各々が異なる時間にUWB信号を受信するように、アレイ状に配置される複数のアンテナで構成され得る。到達時間差を計算することにより、角度(θ)に対応するUWB信号の入射角を決定できる。これらの測定には、マルチパス信号を除去するステップがさらに含まれ得、他の次元(つまり、平面)に拡張することもできる。例えば、UWB通信は、2つのデバイス(図示せず)間の相対的な高度を決定するのに役立ち得る。
【0025】
いくつかの実装では、IPSは複数のスマートデバイス(すなわち、複数のアンカー位置)を含む。したがって、UWB通信は、モバイルコンピューティングデバイス210が各スマートデバイスに対する適切な相対位置を決定できるように、スマートデバイス識別情報(すなわち、デバイスID)を含むことができる。複数のスマートデバイスを使用すると、モバイルコンピューティングデバイスと各スマートデバイスの間の範囲に基づいて三角測量が可能になる場合もある。さらに、複数のスマートデバイスを使用すると、スマートデバイスの動きを検出でき得る。例えば、各スマートデバイスは、他のスマートデバイスの位置を監視することができ、スマートデバイスの移動により、スマートデバイスがその位置を更新/変更し、および/またはそのデバイスIDを更新/変更するようにトリガすることができる。
【0026】
図3は、本開示の可能な実装によるUWBタグのブロック図である。図示のUWBタグは、モバイルコンピューティングデバイスおよび/またはスマートデバイスの一部として(すなわち、非一体実装)または、モバイルコンピューティングデバイスおよび/またはスマートデバイスに結合されるスタンドアロンデバイスとして(すなわち、単一の実装)統合できる。単一実装では、UWBタグ300はプロセッサ310を含むことができる。プロセッサ310は、ソフトウェア命令に従って動作(例えば測距、測位)を実行するように構成され得る。ソフトウェア命令(すなわち、ソフトウェア、コードなど)は、メモリ320(例えば、非一時的なコンピュータ可読メモリ)に記憶され、そこから読み出すことができる。プロセッサ310は、メモリ320に通信可能に結合され、実行のためにソフトウェアを取得し、ソフトウェアの実行から得られる情報を読み書きするように構成され得る。例えば、往復時間、範囲、角度、位置などに関するデータは、メモリ320に記憶され得る(およびメモリ320から取得され得る)。UWBタグ300がモバイルコンピューティングデバイスまたはスマートデバイスの一部として統合される場合(すなわち、非一体実装)、プロセッサ310は、モバイルコンピューティングデバイスまたはスマートデバイスの中央処理装置(CPU)として実装され得る。例えば、ARメガネにおいてUWBタグ機能を提供するように構成された構成要素は、ARメガネの中央処理装置を利用することができる。
【0027】
UWBタグ300は、ハードウェア(例えば、論理回路)またはソフトウェア(例えば、サイクルカウンタ)で実装されるクロック315をさらに含むことができる。クロック315は、デジタル処理のタイミングを制御することができ、イベントのタイミング(例えば、期間、間隔)を計算するのに有用であり得るタイムスタンプとして機能することができる。イベントは、UWBタグ300の通信(例えば、往復時間)、またはUWB通信のハンドシェイクプロトコルに関連する他のイベントに対応し得る。
【0028】
UWBタグ300は、特定の機能のためにプロセッサを補助または置き換えるように構成されたデジタル信号プロセッサ(DSP330)をさらに含むことができる。例えば、DSPは、UWBタグ間の通信に関する態様(例えば、パケット形成、信号識別など)を実行するように構成され得る。プロセッサ310および/またはDSP330は、UWBアンテナ345を介してUWB通信リンク350上で信号を通信するようにUWB送信機/受信機(すなわち、UWBトランシーバ340)を構成し得る。信号は、ハンドシェイク動作(すなわち、ハンドシェイクプロトコル)を含むことができるUWBプロトコルに対応することができる。UWB通信リンク350は、複数のUWBタグを含むUWBネットワーク355の通信チャネルとして機能することができる。いくつかの実装では、処理が複数のUWBタグによって共有され得る。これらの実装では、UWB通信リンク350は、部分的に処理される情報をUWBタグ間で中継する役割を果たし得る。
【0029】
UWBタグ300は、データトランシーバ360(例えば、Bluetooth(登録商標)トランシーバ、WiFiトランシーバ、5Gトランシーバなど)をさらに含むことができ、データトランシーバは、データアンテナ365を介してデータ通信リンク370上で信号を通信するようにプロセッサ310および/またはDSP330によって構成され得る。データ通信リンク370は、UWBネットワーク以外のデータネットワークのための通信チャネルとして機能することができる。例えば、データ通信リンク370は、UWBネットワーク355内の1つまたは複数のUWBタグがBluetooth通信を介してモバイルコンピューティングデバイスと通信できるように構成されたBluetooth通信リンクであってもよい。言い換えれば、UWBタグのうちの1つまたは複数は、UWBネットワーク355の一部である(すなわち、UWBネットワーク355と通信する)ことに加えて、データネットワーク375(例えば、WiFiネットワーク、CDMAネットワーク、Bluetoothネットワーク)の一部(すなわち、データネットワーク375と通信する)であってもよい。この追加のデータ通信リンク370は、UWBタグ300と通信するための別のデバイス(例えば、ARデバイス、VRデバイス、携帯電話、タブレットなど)のためのポートとして考えることができる。このポートは、他のデバイスが測位に必要な処理の一部を実行するように構成されている実装、または他のデバイスが測位の結果を受信するように構成されている実装で役立つ場合がある(例えば、ARアプリケーション、VRアプリケーションなどで)。
【0030】
UWBタグ300は、慣性測定装置(IMU390)をさらに含んでもよい。IMU390は、UWBタグ300の動きおよび方向を測定するように構成された1つまたは複数の加速度計および磁力計を含み得る。非一体実装の場合、IMU390は、モバイルコンピューティングデバイスまたはスマートデバイスのIMUであってもよい。例えば、ARグラスにUWBタグ機能を提供する構成要素は、ARグラスのIMUを利用することができる。
【0031】
UWBタグ300は、構成要素に通電して機能させるためのバッテリ380(例えば、充電式バッテリ)などの電源をさらに含むことができる。非一体実装の場合、バッテリは、モバイルコンピューティングデバイスまたはスマートデバイス用のバッテリであってもよい。例えば、ARメガネにおいてUWBタグ機能を提供する構成要素は、UWBタグ専用のバッテリではなく、ARメガネのバッテリから電力を供給され得る。
【0032】
図2に戻ると、UWB位置データは、モバイルコンピューティングデバイス210によって収集される3D走査データ(例えば、深度データ)とともに記憶され、固定座標系225に登録された3Dマップを再構成するために使用され得る。モバイルコンピューティングデバイスは、さまざまな時点で複数の走査を実行するために使用され、さまざまなスマートデバイスをアンカー点として使用し得るため、屋内空間200内の複数の領域(例えば、部屋)の3Dマップを生成するためにデータを識別し、記憶し、結合するさまざまな方法があり得る。
【0033】
図4は、屋内空間に対する可能な3D走査シナリオを示す。示される走査シナリオは、本開示の態様を説明するために詳細に説明されるが、この走査シナリオに対する明らかな変形および他の可能な走査シナリオは、開示される技術の範囲内であると理解されたい。図4に示すように、屋内空間400は、第1のアンカー位置に配置される第1のスマートデバイス410(例えば、スマートホームハブ)と、第2のアンカー位置に配置される第2のスマートデバイス420(例えば、スマートホームサーモスタット)とを含む。モバイルコンピューティングデバイス430は、屋内空間400内の領域(例えば、部屋)の3D走査を行うように構成されている。3D走査は、ユーザが参加するマッピングプロセスの一部である場合もあれば、ユーザが参加する必要のない別のプロセス(例えば、ARゲーム)の一部である場合もある。モバイルコンピューティングデバイス430は、第1のスマートデバイス410および第2のスマートデバイス420に対するその位置を決定するようにさらに構成されている。したがって、3D走査は、第1のアンカー位置(すなわち、第1のスマートデバイス410)および/または第2のアンカー位置(すなわち、第2のスマートデバイス420)に登録された3Dマップを生成することができる。
【0034】
同じアンカー位置に登録された3Dマップを結合して、より多くの情報を含む結合された3Dマップを形成することができる。例えば、結合された3Dマップは、(i)第1の3D走査中に走査される屋内空間の第1の部屋、および(ii)第2の3D走査中に走査される屋内空間の第2の部屋を含み得る。登録された3Dマップを結合すると、部分的な3Dマップを異なる時点で生成し、次いで時間をかけて結合してより完全な3Dマップを形成することもできる。例えば、結合された3Dマップは、(i)第1の走査中に走査される第1の部屋の第1の部分3D走査、および(ii)第2の走査中に走査される第1の部屋の第2の部分3D走査を含み得る。言い換えれば、結合された3Dマップには、各構成マップよりも多くの領域および/または詳細を含めることができる。
【0035】
図4に示すように、モバイルコンピューティングデバイス430は、屋内空間400の第1の部屋(すなわち、寝室401)の第1の3D走査431を行う。第1の3D走査431中、モバイルコンピューティングデバイス430は、上述したように、第1のスマートデバイス410とのUWB通信に基づいて相対位置データを収集する。この位置データは、第1のスマートデバイス410に関連付けられる識別子(すなわち、ID)によって、第1のアンカー位置に対する相対的な位置として識別することができる。
【0036】
第1の3D走査中に、モバイルコンピューティングデバイス430は、上述したように、第2のスマートデバイス420とのUWB通信に基づいて相対位置データを収集することもできる。この位置データは、第2のスマートデバイス420に関連付けられるIDによって、第2のアンカー位置に対する相対的な位置として識別することができる。
【0037】
別の時間に、モバイルコンピューティングデバイス430は、屋内空間400の第2の部屋(すなわち、オフィス402)の第2の3D走査432を行う。第2の3D走査432中、モバイルコンピューティングデバイス430は、上述したように、第1のスマートデバイス410とのUWB通信に基づいて相対位置データを収集する。この位置データは、第1のスマートデバイス410に関連付けられるIDによって、第1のアンカー位置に対する相対的な位置として識別することができる。
【0038】
各3D走査の結果、IMUデータ、カメラデータ、および/または深度センサデータの何らかの組合せを含むことができる3D走査データが得られる。3D走査データは、アンカー位置に対する距離および/または方向を含むことができるUWB位置データ(すなわち、位置データ、UWBデータ)に関連付けることができる。位置データは、そのID(例えば、デバイスID)によって識別され、アンカー位置を示すことができる。走査/位置データを再構成および結合して、図4に示される例示的なシナリオから結合された3Dマップを生成するためのいくつかの可能な方法を図5~7に示し、次に説明する。
【0039】
図5は、図4に示される3D走査シナリオから結合された3Dマップを生成するための第1の可能な方法を示すフローチャートである。上述したように、第1の3D走査の結果、寝室401の3D走査データ(すなわち、3D-DATA)および第1のスマートデバイス410に対する位置データ(すなわち、POS-DATA(ID=1))を含む第1のデータセット501が得られる。第1の3D走査はまた、寝室401の3D走査データ(すなわち、3D-DATA)および第2のスマートデバイス420に対する位置データ(すなわち、POS-DATA(ID=2))を含む第2のデータセット502をもたらす。この例では、第1のデータセット501と第2のデータセット502の3D走査データは同じである(すなわち、同じ走査の結果である)が、実際には異なり得る。例えば、寝室401の2つの3D走査を取得することができ、1回目の寝室の第1の3D走査は、第1のアンカー位置に基づいて取得され、2回目の寝室の第2の3D走査は、第2のアンカー位置に基づいて取得され得る。
【0040】
上述のように、オフィス402の3D走査の結果、オフィス402の3D走査データ(すなわち、3D-DATA)および第1のスマートデバイス410に対する位置データ(すなわち、POS-DATA(ID=1))を含む第3のデータセット503が得られる。第1のデータセット501、第2のデータセット502、および第3のデータセット503は、後の再構成および結合のためにメモリ520に記憶され得る。メモリは、モバイルコンピューティングデバイスのローカルメモリであってもよい。あるいは、メモリは、モバイルコンピューティングデバイスがネットワークを介してアクセスできるリモートメモリ(例えば、クラウドメモリ)であってもよい。この実装では、各3D走査からのデータは3Dマップに再構成されずに記憶される。言い換えれば、各走査の生データは3Dマップに再構成されずに記憶される。このアプローチには、記憶されるデータが生の状態にあり、必要に応じて再構成および結合できるため、単純さの点で利点があり得る。
【0041】
図5に示すように、この方法は、生データが結合された3Dマップに変換される再構成(すなわち、RECON)および結合(すなわち、MERGE)プロセス530をさらに含む。再構成/結合プロセス530は、座標系を共有する(すなわち、共通のアンカー点からの位置データを有する)データセットを求めてデータセット(すなわち、データセットのメタデータ)を検索することを含むことができる。例えば、示されるように、再構成および結合プロセス530は、各々の位置データが同じ識別子(ID=1)を有するため、第1のデータセット501および第3のデータセット503に対して動作する。再構成および結合プロセス530の出力は、図4において空間的に配置され配向される寝室401およびオフィス402を表す結合された3Dマップ510である。結合された3Dマップ510は、3Dフォーマット(例えば、obj)であってもよい。結合された3Dマップには、結合に使用されるアンカー位置を識別するメタデータが含まれる場合と含まれない場合がある。
【0042】
図6は、図4に示される3D走査シナリオから結合された3Dマップを生成するための第2の可能な方法を示すフローチャートである。第1のデータセット501、第2のデータセット502、および第3のデータセット503は各々、3D再構成アルゴリズム610に適用される。第1のデータセット501の再構成(すなわち、RECON)により、第1のアンカー点に登録されたデータを有する寝室401の第1の登録された3Dマップ601が得られる。したがって、第1の登録された3Dマップ601は、その3Dマップがどの座標系(すなわち、アンカー位置)(すなわち、第1のスマートデバイス410)に登録されているかを示す関連付けられたID(すなわち、ID=1)を有する。第2のデータセット502の再構成により、第2のアンカー点に登録されたデータを有する寝室401の第2の登録された3Dマップ602が得られる。したがって、第2の登録された3Dマップ602は、3Dマップがどの座標系(すなわち、アンカー位置)(すなわち、第2のスマートデバイス420)に登録されているかを示す関連付けられたID(すなわち、ID=2)を有する。第3のデータセット502の再構成により、第1のアンカー点に登録されたデータを有するオフィス402の第3の登録された3Dマップ603が得られる。したがって、第3の登録された3Dマップ603は、その3Dマップがどの座標系(すなわち、アンカー位置)(すなわち、第1のスマートデバイス410)に登録されているかを示す関連付けられたID(すなわち、ID=1)を有する。
【0043】
第1の登録された3Dマップ601、第2の登録された3Dマップ602、および第3の登録された3Dマップ603は、後の使用および/または結合のためにメモリ620に記憶され得る。メモリは、モバイルコンピューティングデバイスのローカルメモリであってもよい。あるいは、メモリは、モバイルコンピューティングデバイスがネットワークを介してアクセスできるリモートメモリ(例えば、クラウドメモリ)であってもよい。この実装では、使用可能な3Dマップが記憶され、後で結合できるように識別される。このアプローチは、記憶され登録された3Dマップが個別のマップとして使用可能であり、必要に応じて結合できるため、使いやすさと汎用性の点で利点があり得る。各登録された3Dマップの再構成と記憶は、異なる時点で行われ得るため、領域の登録済みマップは時間の経過とともに記憶装置に蓄積され得る。
【0044】
この方法は、登録された3Dマップを組み合わせて結合されたDマップ640を生成する結合(すなわち、MERGE)プロセス630をさらに含む。結合プロセス630は、登録されたマップの識別子をチェックすること、同じ識別を有する登録された3Dマップを結合すること、および同じ識別を持たない登録された3Dマップを結合しないことを含むことができる。図6に示すように、第1の登録された3Dマップ601と第3の登録された3Dマップ603は、両方とも同じ識別子(すなわち、ID=1)を有するため、結合630される。
【0045】
登録された各3Dマップのデータは、3D点および/または3D点から作成される3Dメッシュ(例えば、ワイヤフレーム)を含むことができる。3D点は、アンカー位置によって定義される座標系にマッピングできる。いくつかの実装では、登録された3Dマップは、領域の画像を含む。例えば、その領域の画像を、その領域を表す3D表面上にレンダリングできる。
【0046】
図7は、図4に示される3D走査シナリオから結合された3Dマップを生成するための第3の可能な方法を示すフローチャートである。メモリ620に記憶された第1の登録された3Dマップ601、第2の登録された3Dマップ602、および第3の登録された3Dマップ603は、それぞれの領域の画像を含むことができる。したがって、この方法は、その領域に関する追加情報について3Dマップ画像を分析するための識別プロセス710を含むことができる。この追加情報には、領域の特性(例えば、サイズ、形状、色、構成など)および/または領域内の物体(例えば、電化製品、家具、設備など)が含まれ得る。識別プロセスでは、画像認識アルゴリズムを使用してこの情報を認識し得る。この方法は、認識された情報を領域を説明するタグに関連付けることをさらに含むことができる。例えば、第1の登録された3Dマップ601の画像分析により、寝室401のベッドを識別することができる。画像分析は自動的に実行することができ、これにより、3Dマッピング時に領域を正確にタグ付けするというユーザの責任を有利に排除することができる。したがって、第1の登録された3Dマップ601の登録されたマップは寝室としてタグ付けされ得る。タグ付け後、第1の登録/タグ付けされた3Dマップ701は寝室としてタグ付けされ(すなわち、TAG=BEDROOM)、第2の登録/タグ付けされた3Dマップ702は寝室としてタグ付けされ(すなわち、TAG=BEDROOM)、第3の登録/タグ付けされた3Dマップ703は、オフィスとしてタグ付けされる(すなわち、TAG=OFFICE)。登録されタグ付けされた3Dマップは、モバイルコンピューティングデバイスに対してローカルまたはリモート(例えばクラウド)にあるメモリ730に記憶され得る。この方法は、登録/タグ付けされた3Dマップを組み合わせて結合された3Dマップ750を生成する結合(すなわち、MERGE)プロセス740をさらに含む。図6に示すように、第1の登録/タグ付けされた3Dマップ701と第3の登録/タグ付けされた3Dマップ703は、両方とも同じ識別子(すなわち、ID=1)を有するため、結合740される。結合の結果は、タグ付けされた領域を含む結合された3Dマップ750である。結合では、登録された3Dマップが同じ識別子を持つ必要があり得るが、結合された3D内の登録された3Dマップの一部がタグ付けされていない可能性がある。
【0047】
結合された3Dマップは、さまざまなアプリケーションで使用することができる。結合された3Dマップは、屋内空間の視覚化に大きな変更を加えることなく使用できる。例えば、結合された3Dマップは、屋内空間の3Dツアーの一部として、またはARクラウドアンカーなどのARアプリケーションで現実的な仮想物体を生成するのに役立つように提示され得、これにより、複数のユーザが異なる時点において(または同時に)異なる観測点(または同じ観測点)から観測/対話できる永続的な仮想物体をARシーンに追加できる。結合された3Dマップは、測定および/または設計の基礎として使用することもできる。例えば、結合された3Dマップは、現場測量やコンピュータ支援設計(CAD)モデルの作成に使用できる。結合された3Dマップは、特に結合された3Dマップにタグ付けされた領域/位置が含まれる場合、屋内測位を利用する用途で追加機能を提供するのにも役立ち得る。
【0048】
前述した屋内測位システム(IPS)は、3Dマッピング以外の用途に使用することもできる。これらの用途は、収集された測位データを結合された3Dマップと関連付けることによってさらに強化できる。例えば、スマートデバイスの動作は、領域の結合された3Dマップ内でその追跡された位置に基づいて調整できる。
【0049】
図8は、図4に示される3D走査シナリオからの結合された3Dマップの可能な用途を示す。本開示の態様を説明するために示される用途を詳細に説明するが、この用途および他の可能な用途に対する明らかな変形は、開示される技術の範囲内であると理解されたい。
【0050】
図8に示すように、第1のアンカー位置にある第1のスマートデバイス(例えば、スマートホームハブ801)は、複数のスマートデバイスの位置を追跡する(または複数のスマートデバイスから位置を受信する)。図示される複数のスマートデバイスには、第1のスマートスピーカ810、第2のスマートスピーカ820、および(ユーザが着用する)ARメガネ830が含まれる。各スマートデバイスは、それ自体を追跡することも、スマートホームハブ801に対する相対的な位置を取得するために追跡されることもできる。例えば、UWBを使用した屋内測位は、第1のスマートスピーカ810が第1の位置(x1、y1、z1)にあり、第2のスマートスピーカ820が第2の位置(x2、y2、z2)にあり、ARメガネ830(ユーザが着用)は、第3の位置(x3、y3、z3)にあることを決定できる。決定された各位置は、スマートホームハブ801が配置されている第1のアンカー位置に基づく座標系840に対して相対的である。
【0051】
決定された位置は、結合された3Dマップ750と比較され得る。さらに、決定された位置は、タグ付けによって決定される付加情報と比較されてもよい。例えば、アプリケーションは、結合された3Dマップ750内のタグ付けされる領域(すなわち、寝室、オフィス)に対する第1の位置と第2の位置との比較に基づいて、第1のスマートスピーカ810が寝室にあり、第2のスマートスピーカ820は、オフィス内にあると結論付けることができる。結合された3Dマップ750は、屋内空間の境界を定義するのにも役立ち得る。例えば、第3の位置は、結合された3Dマップによって定義される領域内にあるため、アプリケーションは、ARメガネ830(ユーザが着用する)が屋内空間の境界内にあると結論付けることもできる。
【0052】
アプリケーションは、スマートデバイスの結論付けられた位置を使用して、それらがどのように動作するかに影響を与えることができる。例えば、ARメガネ830が屋内空間の境界内にあると結論付けられたため、アプリケーションは自動的にユーザに機能(すなわち、アクセス)を提供することができ、その結果ユーザが「コンピュータ、オフィスで音楽をかけて」と言ったときに、そのコマンドが実行されるようにする。言い換えれば、結合された3Dに対する追跡を使用して、アプリケーションにセキュリティの手段を提供することができる。コマンドを実行するために、アプリケーションは、オフィス内のその位置に基づいて音楽を再生するように第2のスマートスピーカ820を構成することができる。第1のスマートスピーカ810は、寝部屋内の位置に基づいて無音状態を保つように構成されている。
【0053】
領域に加えて、結合された3Dマップ内の特定の位置は、認識された物体に基づいてタグ付けされ得る。図示のように、第4の位置(x4、y4、z4)は、その位置で認識された物体(例えば、エクササイズマシン850)に基づいてタグ付けすることができる。結合された3Dマップ750に対してスマートデバイスを追跡するアプリケーションは、スマートデバイスが物体に近づく(例えば、≦1メートル)ときに機能を変更する(例えば、プロセスの開始/停止)ようにスマートデバイスを構成することができる。例えば、ARメガネ830(すなわち、ユーザ)がエクササイズマシン850に近づくと、以前のトレーニングからの統計がARメガネのARディスプレイ上に表示され得る。
【0054】
図9は、本開示の可能な実装による、結合された3Dマップを生成するための方法のフローチャートである。方法900は、走査する領域を選択すること910を含む。選択することは、走査のために屋内空間の領域内にモバイルコンピューティングデバイスを配置することを含むことができる。この方法は、モバイルコンピューティングデバイスを使用して領域(例えば、部屋)の3D走査を実行すること920をさらに含む。3D走査は、センサ(例えば、深度センサ、カメラ、IMU)が領域およびモバイルコンピューティングデバイスに関する情報を捕捉する際に、モバイルコンピューティングデバイスを移動させることを含むことができる。この方法は、(例えば、モバイルコンピューティングデバイスの)UWB位置センサを使用して、3D走査中にアンカー位置に対してモバイルコンピューティングデバイスの位置を特定すること930をさらに含む。位置特定は、モバイルコンピューティングデバイスと、UWB用に構成され、UWB信号を使用してアンカー位置に位置するスマートデバイスとの間の範囲および/または角度を計算することを含むことができる。この方法は、その領域の3Dマップを生成すること940をさらに含む。3Dマップは、アンカー位置に基づく座標系に対する相対的な3D点を含むことができる(例えば、アンカー位置は座標系の原点である)。このプロセスを繰り返して、3Dマップのコレクション950(すなわち、セット)を生成することができる。この方法は、同じアンカー位置960を有する3Dマップを結合970して、結合された3Dマップ980を形成することをさらに含む。
【0055】
図10は、ここで説明される技術とともに使用され得る(例えば、モバイルコンピューティングデバイス、スマートデバイス、ARデバイスなどを実装するために)コンピュータデバイス1000およびモバイルコンピュータデバイス1050の例を示す。コンピューティングデバイス1000は、プロセッサ1002、メモリ1004、記憶デバイス1006、メモリ1004および高速拡張ポート1010に接続する高速インターフェース1008、低速バス1014および記憶デバイス1006に接続する低速インターフェース1012を含む。構成要素1002、1004、1006、1008、1010、および1012の各々は、さまざまなバスを使用して相互接続され、共通のマザーボード上に、または必要に応じて他の方法で搭載され得る。プロセッサ1002は、メモリ1004または記憶デバイス1006に記憶された命令を含む、コンピューティングデバイス1000内で実行するための命令を処理することができ、高速インターフェース1008に結合されるディスプレイ1016などの外部入出力デバイス上のGUI用のグラフィック情報を表示する。他の実装では、複数のプロセッサおよび/または複数のバスが、複数のメモリおよびメモリのタイプとともに、必要に応じて使用され得る。また、複数のコンピューティングデバイス1000が接続されてもよく、各デバイスは必要な動作の一部を提供する(例えば、サーババンク、ブレードサーバのグループ、またはマルチプロセッサシステムとして)。
【0056】
メモリ1004は、コンピューティングデバイス1000内に情報を記憶する。一実施形態では、メモリ1004は、1つまたは複数の揮発性メモリ装置である。別の実装では、メモリ1004は1つまたは複数の不揮発性メモリ装置である。メモリ1004は、磁気ディスクまたは光ディスクなどの別の形態のコンピュータ可読媒体であってもよい。
【0057】
記憶デバイス1006は、コンピューティングデバイス1000に大容量記憶を提供することができる。一実施形態では、記憶デバイス1006は、コンピュータ可読媒体であってもよいし、コンピュータ可読媒体を含んでもよく、フロッピー(登録商標)ディスクデバイス、ハードディスクデバイス、光ディスクデバイス、またはテープデバイス、フラッシュメモリまたは他の同様のソリッドステートメモリデバイス、または記憶領域ネットワークもしくはその他の構成内のデバイスを含むデバイスのアレイなどである。コンピュータプログラム製品は、情報担体に具体的に組み込むことができる。コンピュータプログラム製品には、実行時に上記のような1つまたは複数の方法を実行する命令も含まれ得る。情報担体は、メモリ1004、記憶デバイス1006、またはプロセッサ1002上のメモリなどのコンピュータまたは機械可読媒体である。
【0058】
高速コントローラ1008は、コンピューティングデバイス1000の帯域幅を大量に消費する動作を管理し、一方、低速コントローラ1012は、帯域幅をあまり消費しない動作を管理する。このような機能の割り当ては一例にすぎない。一実装では、高速コントローラ1008は、メモリ1004、ディスプレイ1016(例えば、グラフィックプロセッサまたはアクセラレータを介して)、およびさまざまな拡張カード(図示せず)を受信することができる高速拡張ポート1010に結合される。この実装では、低速コントローラ1012は記憶デバイス1006および低速拡張ポート1014に結合される。低速拡張ポートには、さまざまな通信ポート(例えば、USB、Bluetooth、イーサネット(登録商標)、無線イーサネット)が含まれ得、例えば、ネットワークアダプタを介して、キーボード、ポインティングデバイス、スキャナなどの1つまたは複数の入出力デバイス、またはスイッチもしくはルータなどのネットワーキングデバイスに結合することができる。
【0059】
コンピューティングデバイス1000は、図に示すように、多くの異なる形式で実装することができる。例えば、それは、標準サーバ1020として実装されてもよいし、そのようなサーバのグループ内で複数回実装されてもよい。それはまた、ラックサーバシステム1024の一部として実装されてもよい。さらに、ラップトップコンピュータ1022などのパーソナルコンピュータに実装することもできる。あるいは、コンピューティングデバイス1000の構成要素は、デバイス1050などのモバイルデバイス(図示せず)内の他の構成要素と組み合わせることができる。このようなデバイスの各々は、1つまたは複数のコンピューティングデバイス1000、1050を含むことができ、システム全体は、相互に通信する複数のコンピューティングデバイス1000、1050で構成することができる。
【0060】
コンピューティングデバイス1050は、他の構成要素の中でもとりわけ、プロセッサ1052、メモリ1064、ディスプレイ1054などの入出力デバイス、通信インターフェース1066、およびトランシーバ1068を含む。デバイス1050には、追加の記憶を提供するために、マイクロドライブまたは他のデバイスなどの記憶デバイスも提供され得る。構成要素1050、1052、1064、1054、1066、および1068の各々は、さまざまなバスを使用して相互接続され、構成要素のいくつかは、共通のマザーボード上に、または適切な他の方法で搭載され得る。
【0061】
プロセッサ1052は、メモリ1064に記憶される命令を含む、コンピューティングデバイス1050内で命令を実行することができる。プロセッサは、別個の複数のアナログおよびデジタルプロセッサを含むチップのチップセットとして実装されてもよい。プロセッサは、例えば、ユーザインターフェース、デバイス1050によって実行されるアプリケーション、およびデバイス1050による無線通信の制御など、デバイス1050の他の構成要素の調整を提供することができる。
【0062】
プロセッサ1052は、制御インターフェース1058およびディスプレイ1054に結合されるディスプレイインターフェース1056を介してユーザと通信することができる。ディスプレイ1054は、例えば、TFTLCD(薄膜トランジスタ液晶ディスプレイ)、LED(発光ダイオード)もしくはOLED(有機発光ダイオード)ディスプレイ、または他の適切なディスプレイ技術であってもよい。ディスプレイインターフェース1056は、ディスプレイ1054を駆動してグラフィック情報および他の情報をユーザに提示するための適切な回路を含むことができる。制御インターフェース1058は、ユーザからコマンドを受信し、それらをプロセッサ1052に送信するために変換することができる。さらに、デバイス1050と他のデバイスとの近距離通信を可能にするために、プロセッサ1052と通信する外部インターフェース1062を設けることができる。外部インターフェース1062は、例えば、いくつかの実装では有線通信を提供することができ、または他の実装では無線通信を提供することができ、複数のインターフェースを使用することもできる。
【0063】
メモリ1064は、コンピューティングデバイス1050内に情報を記憶する。メモリ1064は、コンピュータ可読媒体、揮発性メモリ装置、または不揮発性メモリ装置のうちの1つまたは複数として実装することができる。拡張メモリ1074も提供され、拡張インターフェース1072を介してデバイス1050に接続され得、拡張インターフェース1072は、例えば、SIMM(単一インラインメモリモジュール)カードインターフェースを含み得る。このような拡張メモリ1074は、デバイス1050に追加の記憶空間を提供することができ、またはデバイス1050にアプリケーションもしくは他の情報を記憶することもできる。具体的には、拡張メモリ1074は、上述のプロセスを実行または補足するための命令を含むことができ、安全な情報も含むことができる。したがって、例えば、拡張メモリ1074は、デバイス1050のセキュリティモジュールとして提供されてもよく、デバイス1050の安全な使用を許可する命令でプログラムされてもよい。さらに、安全なアプリケーションは、SIMMカード上にハッキング不可能な方法で識別情報を配置するなどの追加情報とともに、SIMMカードを介して提供され得る。
【0064】
メモリには、例えば、以下に説明するように、フラッシュメモリおよび/またはNVRAMメモリが含まれてもよい。一実装では、コンピュータプログラム製品は情報担体に具体的に組み込まれる。コンピュータプログラム製品には、実行時に上記のような1つまたは複数の方法を実行する命令が含まれている。情報担体は、例えばトランシーバ1068または外部インターフェース1062を介して受信され得る、メモリ1064、拡張メモリ1074、またはプロセッサ1052上のメモリなどのコンピュータまたは機械可読媒体である。
【0065】
デバイス1050は、通信インターフェース1066を介して無線通信することができ、通信インターフェース1066は、必要に応じてデジタル信号処理回路を含み得る。通信インターフェース1066は、とりわけ、GSM(登録商標)音声通話、SMS、EMS、もしくはMMSメッセージング、CDMA、TDMA、PDC、WCDMA(登録商標)、CDMA2000、またはGPRSなどのさまざまなモードまたはプロトコルの下での通信を提供し得る。このような通信は、例えば無線周波数トランシーバ1068を通じて行われてもよい。さらに、Bluetooth、Wi-Fi、またはその他の同様のトランシーバ(図示せず)を使用するなど、短距離通信が発生し得る。さらに、GPS(全地球測位システム)受信機モジュール1070は、追加のナビゲーションおよび位置関連の無線データをデバイス1050に提供することができ、このデータは、デバイス1050上で実行されるアプリケーションによって適宜使用され得る。
【0066】
デバイス1050は、オーディオコーデック1060を使用して音声通信することもでき、オーディオコーデック1060は、ユーザから話される情報を受信し、それを使用可能なデジタル情報に変換することができる。オーディオコーデック1060は、同様に、例えばデバイス1050のハンドセット内のスピーカなどを介して、ユーザに対して可聴音を生成することができる。このような音は、音声通話からの音を含んでもよく、録音される音(例えば、音声メッセージ、音楽ファイルなど)を含んでもよく、また、デバイス1050上で動作するアプリケーションによって生成される音を含んでもよい。
【0067】
コンピューティングデバイス1050は、図に示すように、多くの異なる形式で実装することができる。例えば、携帯電話1080として実装されてもよい。それはまた、スマートフォン1082、携帯情報端末、または他の同様のモバイルデバイスの一部として実装されてもよい。
【0068】
本明細書で説明されるシステムおよび技術のさまざまな実装は、デジタル電子回路、集積回路、特別に設計されるASIC(特定用途向け集積回路)、コンピュータハードウェア、ファームウェア、ソフトウェア、および/またはそれらの組合せにおいて実現することができる。これらのさまざまな実装には、少なくとも1つのプログラム可能なプロセッサを含むプログラム可能なシステム上で実行可能および/または解釈可能な1つまたは複数のコンピュータプログラムでの実装が含まれ得、これは、特殊用途または汎用であり、記憶システム、少なくとも1つの入力デバイス、および少なくとも1つの出力デバイスからデータおよび命令を受信したり、記憶システム、少なくとも1つの入力デバイス、および少なくとも1つの出力デバイスにデータおよび命令を送信したりするために結合され得る。
【0069】
これらのコンピュータプログラム(プログラム、ソフトウェア、ソフトウェアアプリケーション、またはコードとも呼ばれる)には、プログラマブルプロセッサ用の機械命令が含まれ、高レベルの手続き型および/もしくは物体指向プログラミング言語、ならびに/またはアセンブリ/マシン言語で実装できる。本明細書で使用される場合、「機械可読媒体」「コンピュータ可読媒体」という用語は、プログラマブルプロセッサに機械命令および/またはデータを提供するために使用される任意のコンピュータプログラム製品、装置、および/またはデバイス(例えば、磁気ディスク、光ディスク、メモリ、プログラマブル論理デバイス(PLD))を指し、機械可読信号として機械命令を受信する機械可読媒体を含む。「機械可読信号」という用語は、機械命令および/またはデータをプログラマブルプロセッサに提供するために使用される任意の信号を指す。
【0070】
ユーザとの対話を提供するには、ここで説明されているシステムと技術は、ユーザに情報を表示するための表示デバイス(LED(発光ダイオード)、またはOLED(有機LED)、またはLCD(液晶ディスプレイ)モニター/スクリーン)、ユーザがコンピュータに入力を行えるためのキーボードおよびポインティングデバイス(例えば、マウスやトラックボール)を備えたコンピュータ上で実装できる。他の種類のデバイスを使用して、ユーザとの対話を提供することもできる。例えば、ユーザに提供されるフィードバックは、任意の形式の感覚フィードバック(例えば、視覚的フィードバック、聴覚的フィードバック、または触覚的フィードバック)であり得る。ユーザからの入力は、音響、音声、または触覚入力など、あらゆる形式で受信することができる。
【0071】
ここで説明するシステムと技術は、バックエンド構成要素(データサーバなど)を含み、またはミドルウェア構成要素(アプリケーションサーバなど)を含み、または、フロントエンド構成要素(例えば、ユーザがここで説明するシステムおよび技術の実装と対話できるグラフィカルユーザインターフェースまたはWebブラウザーを備えたクライアントコンピュータ)、またはそのようなバックエンド、ミドルウェア、またはフロントエンド構成要素の任意の組合せを含むコンピューティングシステムに実装できる。システムの構成要素は、デジタルデータ通信の任意の形式または媒体(例えば、通信ネットワーク)によって相互接続することができる。通信ネットワークの例には、ローカルエリアネットワーク(「LAN」)、ワイドエリアネットワーク(「WAN」)、およびインターネットが含まれる。
【0072】
コンピューティングシステムは、クライアントとサーバを含むことができる。クライアントとサーバは一般に、互いにリモートにあり、通常は通信ネットワークを通じて対話する。クライアントとサーバの関係は、それぞれのコンピュータ上で実行され、相互にクライアントとサーバの関係を持つコンピュータプログラムによって発生する。
【0073】
いくつかの実装では、図に示されるコンピューティングデバイスは、物理空間内に挿入されるコンテンツを閲覧するための拡張環境を生成するために、ARヘッドセット/HMDデバイス1090とインターフェースするセンサを含むことができる。例えば、コンピューティングデバイス1050または図に示される他のコンピューティングデバイスに含まれる1つまたは複数のセンサは、ARヘッドセット1090に入力を提供することができ、または一般に、AR空間に入力を提供することができる。センサには、タッチスクリーン、加速度計、ジャイロスコープ、圧力センサ、生体認証センサ、温度センサ、湿度センサ、周囲光センサなどが含まれ得るが、これらに限定されない。コンピューティングデバイス1050は、センサを使用して、AR空間におけるコンピューティングデバイスの絶対位置および/または検出される回転を決定することができ、それらはAR空間への入力として使用され得る。例えば、コンピューティングデバイス1050は、コントローラ、レーザーポインタ、キーボード、武器などの仮想物体としてAR空間に組み込まれてもよい。AR空間に組み込まれるときのユーザによるコンピューティングデバイス/仮想物体の配置により、ユーザは、AR空間内で特定の方法で仮想物体を見るようにコンピューティングデバイスを配置することができる。例えば、仮想物体がレーザーポインタを表す場合、ユーザはコンピューティングデバイスを実際のレーザーポインタであるかのように操作できる。ユーザはコンピューティングデバイスを左右、上下、円を描くように動かすなど、レーザーポインタを使用する場合と同様の方法でデバイスを使用できる。いくつかの実装では、ユーザは仮想レーザーポインタを使用してターゲット位置を狙うことができる。
【0074】
いくつかの実装では、コンピューティングデバイス1050上に含まれる、またはコンピューティングデバイス1050に接続される1つまたは複数の入力デバイスを、AR空間への入力として使用することができる。入力デバイスには、タッチスクリーン、キーボード、1つまたは複数のボタン、トラックパッド、タッチパッド、ポインティングデバイス、マウス、トラックボール、ジョイスティック、カメラ、マイク、入力機能を備えたイヤホンまたはバド、ゲームコントローラ、またはその他の接続可能な入力デバイスが含まれ得るが、これらに限定されない。コンピューティングデバイスがAR空間に組み込まれるときに、コンピューティングデバイス1050に含まれる入力デバイスと対話するユーザは、AR空間内で特定のアクションを発生させることができる。
【0075】
いくつかの実装では、コンピューティングデバイス1050のタッチスクリーンは、AR空間においてタッチパッドとしてレンダリングされ得る。ユーザは、コンピューティングデバイス1050のタッチスクリーンと対話することができる。対話は、例えばARヘッドセット1090において、AR空間内のレンダリングされるタッチパッド上の動きとしてレンダリングされる。レンダリングされる動きにより、AR空間内の仮想物体を制御できる。
【0076】
いくつかの実装では、コンピューティングデバイス1050に含まれる1つまたは複数の出力デバイスは、AR空間内のARヘッドセット1090のユーザに出力および/またはフィードバックを提供することができる。出力とフィードバックは、視覚的、戦術的、または音声のいずれかになる。出力および/またはフィードバックには、振動、1つまたは複数のライトやストロボのオン/オフ、または点滅および/もしくはフラッシュ、アラームの鳴動、チャイムの再生、曲の再生、およびオーディオファイルの再生が含まれ得るが、これらに限定されない。出力デバイスには、振動モーター、振動コイル、圧電デバイス、静電デバイス、発光ダイオード(LED)、ストロボ、スピーカなどが含まれ得るが、これらに限定されない。
【0077】
いくつかの実装では、コンピューティングデバイス1050は、コンピュータ生成の3D環境において別の物体として現れることができる。ユーザによるコンピューティングデバイス1050との対話(例えば、回転、振る、タッチスクリーンに触れる、タッチスクリーン上で指をスワイプする)は、AR空間内の物体との対話として解釈することができる。AR空間におけるレーザーポインタの例では、コンピューティングデバイス1050は、コンピュータ生成の3D環境において仮想レーザーポインタとして現れる。ユーザがコンピューティングデバイス1050を操作すると、AR空間内のユーザはレーザーポインタの動きを見る。ユーザは、コンピューティングデバイス1050上のAR環境におけるコンピューティングデバイス1050またはARヘッドセット1090上のコンピューティングデバイス1050との対話からフィードバックを受信する。コンピューティングデバイスとのユーザの対話は、制御可能なデバイスのAR環境で生成されるユーザインターフェースとの対話に変換することができる。
【0078】
いくつかの実装では、コンピューティングデバイス1050はタッチスクリーンを含み得る。例えば、ユーザはタッチスクリーンを動作して、制御可能なデバイスのユーザインターフェースと対話できる。例えば、タッチスクリーンは、制御可能なデバイスのプロパティを制御できるスライダーなどのユーザインターフェース要素を含むことができる。
【0079】
コンピューティングデバイス1000は、ラップトップ、デスクトップ、ワークステーション、携帯情報端末、サーバ、ブレードサーバ、メインフレーム、および他の適切なコンピュータを含むがこれらに限定されない、さまざまな形態のデジタルコンピュータおよびデバイスを表すことを意図している。コンピューティングデバイス1050は、携帯情報端末、携帯電話、スマートフォン、および他の同様のコンピューティングデバイスなど、さまざまな形態のモバイルデバイスを表すことを意図している。ここに示される構成要素、それらの接続と関係、およびそれらの機能は、単なる例であることを意図しており、本文書で説明および/または特許請求される発明の実装を限定することを意図するものではない。
【0080】
多くの実施形態について説明した。それでもなお、本明細書の趣旨および範囲から逸脱することなく、さまざまな修正を行うことができることが理解されるであろう。
【0081】
さらに、図に示されている論理フローは、望ましい結果を達成するために、示されている特定の順序または連続した順序を必要としない。さらに、説明したフローから他のステップを提供したり、ステップを削除したりすることができ、他の構成要素を説明したシステムに追加したり、説明したシステムから削除したりすることができる。したがって、他の実施形態も特許請求の範囲に含まれる。
【0082】
上記の説明にさらに加えて、ユーザには、本明細書で説明されるシステム、プログラム、または機能によってユーザ情報(例えば、ユーザのソーシャルネットワーク、ソーシャルアクション、または活動、職業、ユーザの好み、あるいはユーザの現在地に関する情報)の収集が可能になるかどうか、およびいつ可能になるかの両方について、またユーザがサーバからコンテンツまたは通信を送信されるかどうかについて、ユーザが選択できるようにする制御が提供されてもよい。さらに、特定のデータは、個人を特定できる情報が削除されるように、記憶または使用される前に1つまたは複数の方法で処理され得る。例えば、ユーザの身元情報は、ユーザの個人を特定できる情報が特定できないように処理され得るか、ユーザの特定の位置を特定することができないように、位置情報が取得される位置でユーザの地理的位置が一般化され得る(例えば、都市、郵便番号、州レベル)。したがって、ユーザは、ユーザに関してどのような情報が収集されるか、その情報がどのように使用されるか、およびどのような情報がユーザに提供されるかを制御できる。
【0083】
記載される実装の特定の特徴が本明細書に記載されるように示されているが、多くの修正、置換、変更および均等物が当業者には思い浮かぶであろう。したがって、添付の特許請求の範囲は、実装の範囲内に含まれるすべてのそのような修正および変更を網羅することを意図していることを理解されたい。これらは限定ではなく例としてのみ提示されており、形式および詳細においてさまざまな変更が可能であることを理解されたい。本明細書に記載される装置および/または方法の任意の部分は、相互に排他的な組合せを除いて、任意の組合せで組み合わせることができる。本明細書で説明される実装は、説明される異なる実装の機能、構成要素、および/または特徴のさまざまな組合せおよび/またはサブ組合せを含むことができる。
【0084】
他に定義されない限り、本明細書で使用されるすべての技術用語および科学用語は、当業者によって一般に理解されるのと同じ意味を有する。本明細書に記載のものと類似または同等の方法および材料を、本開示の実施または試験に使用することができる。本明細書および添付の特許請求の範囲で使用される場合、単数形「a」、「an」、「the」は、文脈上明らかに別段の指示がない限り、複数の指示対象を含む。本明細書で使用される「含む」(comprising)という用語およびその変形は、「含む」(including)という用語およびその変形と同義に使用され、オープンで非限定的な用語である。本明細書で使用される「任意の」または「任意に」という用語は、その後に説明される特徴、イベント、または状況が発生する場合も発生しない場合もあり、その説明には、前記特徴、イベント、または状況が発生する場合と発生しない場合とが含まれることを意味する。本明細書では、範囲は、「約」1つの特定の値から、および/または「約」別の特定の値までとして表現され得る。このような範囲が表現される場合、態様には、1つの特定の値からおよび/または他の特定の値までが含まれる。同様に、先行詞「約」を使用して値が近似値として表現される場合、特定の値が別の態様を形成することが理解されよう。各範囲の端点は、他の端点との関係においても、他の端点とは独立しても重要であることがさらに理解されるであろう。
図1
図2
図3
図4
図5
図6
図7
図8
図9
図10
【手続補正書】
【提出日】2024-04-11
【手続補正1】
【補正対象書類名】特許請求の範囲
【補正対象項目名】全文
【補正方法】変更
【補正の内容】
【特許請求の範囲】
【請求項1】
3次元(3D)マップを生成する方法であって、前記方法は、
モバイルコンピューティングデバイスの深度センサを使用して第1の領域の第1の走査を実行することと、
前記モバイルコンピューティングデバイスの超広帯域位置センサを使用して、前記第1の走査中にアンカー位置に対して前記モバイルコンピューティングデバイスの位置を特定することと、
前記第1の領域の前記アンカー位置に対する第1の3Dマップを生成することと、を含む、方法。
【請求項2】
前記モバイルコンピューティングデバイスの前記深度センサを使用して第2の領域の第2の走査を実行することと、
前記モバイルコンピューティングデバイスの前記超広帯域位置センサを使用して、前記第2の走査中に前記アンカー位置に対する前記モバイルコンピューティングデバイスの位置を特定することと、
前記第2の領域の前記アンカー位置に対する第2の3Dマップ、を生成することと、
前記アンカー位置に基づいて、前記第1の3Dマップと前記第2の3Dマップを結合することと、をさらに含む、請求項1に記載の方法。
【請求項3】
前記第1の領域は、建物または住宅内の第1の部屋であり、前記第2の領域は、前記建物または住宅内の第2の部屋である、請求項2に記載の方法。
【請求項4】
前記アンカー位置は、前記建物または住宅内に固定的に配置され、超広帯域通信用に構成されたスマートデバイスの位置である、請求項3に記載の方法。
【請求項5】
前記アンカー位置は、前記建物または住宅の外側に固定的に配置され、超広帯域通信用に構成されたスマートデバイスの位置である、請求項3に記載の方法。
【請求項6】
前記アンカー位置に基づいて前記第1の3Dマップと前記第2の3Dマップを結合することは、
前記第1の3Dマップと前記第2の3Dマップとを空間的に配置して、両方の領域をカバーする第3の3Dマップを形成することを含む、請求項2~請求項5のいずれかに記載の方法。
【請求項7】
前記深度センサは、ライダーセンサ、カメラ、または超音波センサである、請求項1~請求項5のいずれか1項に記載の方法。
【請求項8】
前記モバイルコンピューティングデバイスは、携帯電話、タブレット、または拡張現実メガネである、請求項1~請求項5のいずれか1項に記載の方法。
【請求項9】
前記超広帯域位置センサは超広帯域タグである、請求項1~請求項5のいずれか1項に記載の方法。
【請求項10】
固定位置に対して前記モバイルコンピューティングデバイスの前記位置を特定することは、
前記超広帯域タグと、前記超広帯域タグとの超広帯域通信用に構成されたスマートデバイスとの間の範囲を決定することを含み、前記スマートデバイスは前記アンカー位置に位置する、請求項9に記載の方法。
【請求項11】
固定位置に対して前記モバイルコンピューティングデバイスの前記位置を特定することは、
前記超広帯域タグと、前記超広帯域タグとの超広帯域通信用に構成された複数のスマートデバイスの間の範囲を決定することを含み、前記複数のスマートデバイスのうちの1つが前記アンカー位置に位置する、請求項9に記載の方法。
【請求項12】
スマートデバイスの位置に基づいてスマートデバイスの動作を制御する方法であって、前記方法は、
モバイルコンピューティングデバイスによって走査された第1の領域と第2の領域を含む結合された3Dマップを生成することを含み、前記第1の領域と前記第2の領域は、アンカー位置に対するそれらの相対位置に従って前記結合された3Dマップ内に配置され、前記相対位置は超広帯域(UWB)通信によって決定され、
前記方法は、
前記結合された3Dマップ内の複数の位置にタグ付けすることと、
UWB通信と前記結合された3Dマップに基づいて前記スマートデバイスを追跡することと、
前記スマートデバイスが前記結合された3Dマップ内のタグ付けされた位置にあることを決定することと、
前記タグ付けされた位置に基づいて前記スマートデバイスの前記動作を調整することと、を含む、方法。
【請求項13】
前記結合された3Dマップ内の前記複数の位置に前記タグ付けすることは、
前記結合された3Dマップに基づいて建物または住宅の境界を識別することと、
前記建物または住宅の前記境界外の位置にタグ付けすることと、を含む、請求項12に記載の方法。
【請求項14】
前記タグ付けされた位置に基づいて前記スマートデバイスの前記動作を前記調整することは、
前記スマートデバイスが前記建物または住宅の前記境界外の前記位置にある場合、前記スマートデバイスのネットワークへのアクセスを制限することを含む、請求項13に記載の方法。
【請求項15】
前記結合された3Dマップ内の前記複数の位置に前記タグ付けすることは、
前記結合された3Dマップと関連付けられた画像に基づいて物体を識別することと、
前記物体の周囲の領域にタグ付けすることと、を含む、請求項12~請求項14のいずれかに記載の方法。
【請求項16】
前記タグ付けされた位置に基づいて前記スマートデバイスの前記動作を前記調整することは、
前記スマートデバイスが前記物体の周囲の前記領域に入ったときに、前記スマートデバイス上で前記物体に関する情報を提示することを含む、請求項15に記載の方法。
【請求項17】
前記結合された3Dマップ内の前記複数の位置に前記タグ付けすることは、
前記結合された3Dマップに基づいて部屋を識別することと、
前記部屋にタグ付けすることと、を含む、請求項12~請求項14のいずれかに記載の方法。
【請求項18】
前記タグ付けされた位置に基づいて前記スマートデバイスの前記動作を前記調整することは、
前記スマートデバイスが前記部屋に入ったときに基づいて、前記スマートデバイス上の媒体の再生を制御することを含む、請求項17に記載の方法。
【請求項19】
前記部屋に前記タグ付けすることは、
前記結合された3Dマップと関連付けられた画像に基づいて前記部屋内の物体を識別することと、
前記部屋内の前記物体に基づいて部屋のタイプを決定することと、
前記部屋のタイプに応じて前記部屋にタグ付けすることと、を含む、請求項17に記載の方法。
【請求項20】
3次元(3D)マップを生成するシステムであって、前記システムは、
アンカー位置に固定的に配置され、超広帯域(UWB)通信用に構成されたスマートデバイスと、
モバイルコンピューティングデバイスと、を含み、
前記モバイルコンピューティングデバイスは、
第1の走査中に第1の領域上で深度センサが走査されるときに、前記第1の領域に対応する深度データの第1のセット、および、第2の走査中に前記深度センサが第2の領域上で走査されるときに、前記第2の領域に対応する深度データの第2のセットを収集するように構成された深度センサ、
前記スマートデバイスとUWBタグとの間のUWB通信に基づいて、前記第1の走査および前記第2の走査中に前記モバイルコンピューティングデバイスと前記アンカー位置との間の範囲を決定するように構成されたUWBタグ、ならびに、
ソフトウェア命令によって、
前記第1の走査中の前記モバイルコンピューティングデバイスと前記アンカー位置との間の前記範囲に基づいて、深度データの前記第1のセットを前記アンカー位置に登録し、
深度データの前記登録された第1のセットに基づいて、前記アンカー位置に対する第1の3Dマップを生成し、
前記第2の走査中の前記モバイルコンピューティングデバイスと前記アンカー位置との間の前記範囲に基づいて、深度データの前記第2のセットを前記アンカー位置に登録し、
深度データの前記登録された第2のセットに基づいて、前記アンカー位置に対する第2の3Dマップを生成し、
前記第1の3Dマップと前記第2の3Dマップを結合する
ように構成されたプロセッサ、
を含む、システム。
【国際調査報告】