【文献】
内田 拓馬,オープンデータ活用における課題とその利用モデルの提案,電子情報通信学会技術研究報告,日本,一般社団法人電子情報通信学会,2016年 2月22日,Vol.115 No.467,第183〜188頁
(58)【調査した分野】(Int.Cl.,DB名)
コンピューティング装置によって実行されると、前記コンピューティング装置に機能を実現させる命令が記憶された非一時的なコンピュータ読み取り可能な媒体であって、前記機能は、
コンピューティング装置のカメラから環境の画像を取得し、
前記画像を解析して、前記環境における特徴を識別し、
データベース内の記憶された、前記環境内の物体および/または前記環境を示すデータを含むデータセットと、前記画像から識別された前記特徴を示すデータとの第1比較に基づいて、記憶された前記データセットに前記環境における前記特徴を示す1つ以上の詳細が不足しているか否かを判定し、
前記データベースに記憶された前記データセットに前記環境における前記特徴を示す1つ以上の詳細が不足していると判定された場合、前記環境における前記特徴に関連する追加データを取得する要求を示すコマンドをユーザに前記コンピューティング装置によって提供し、
前記コマンドに従って1つ以上のセンサを用いるアクションを前記ユーザが実行したことに呼応して、前記コンピューティング装置の1つ以上のセンサから前記環境における前記特徴に関連する追加データを取得し、
前記追加データを解析して、前記環境における前記特徴を示す1つ以上の追加の詳細を識別し、
前記追加データと前記データベース内の記憶された前記データセットとの第2比較に基づいて、前記追加データから識別された前記追加の詳細は、記憶された前記データセットに不足している詳細を含んでいるか否かを判定し、
前記追加データから識別された前記追加の詳細が、記憶された前記データセットが不足している前記詳細を含んでいると判定された場合、前記コンピューティング装置のインターフェース上にゲームプレイに対する1つ以上のポイントを前記ユーザに提供する、ことを含む、非一時的なコンピュータ読み取り可能な媒体。
【発明を実施するための形態】
【0010】
開示された例は、添付の図面を参照して以下により十分に記載されており、添付の図面には、開示された例の全てではないが、いくつかの例を示す。実際に、いくつかの異なる例が取り上げられる場合があるが、ここに記載される例に限定されると解釈されてはならない。より正確に言えば、これらの例は、本開示が徹底的かつ完全であり、本開示の範囲が当業者に十分に伝達されるように提供される。
【0011】
データ収集のゲーミフィケーション用のシステムおよび方法がここに記載される。コンピュータにより実行される方法の一例には、コンピューティング装置のカメラから環境の画像を取得し、データベース内の記憶されたデータセットと画像との第1比較に基づいて、記憶されたデータセットに環境の1つ以上の詳細が不足していると判定する、ことが含まれる。続いて、コンピューティング装置は、環境の追加データを取得するコマンド(例えば、音声または映像)を提供し、コマンドに呼応して、環境の追加データをコンピューティング装置の1つ以上のセンサから取得できる。次に、この方法は、データベース内に記憶されたデータセットとの第2比較に基づいて、環境の追加データが記憶されたデータセット内の環境のデータとは異なると判定し、記憶されたデータセット内の環境のデータとは異なる環境の追加データに基づいて、コンピューティング装置のインターフェース上にゲームプレイに対する1つ以上のポイントを提供する、ことを含む。
【0012】
一例の装置は、カメラと、1つ以上のセンサと、少なくとも1つのプロセッサと、メモリと、メモリに記憶され、少なくとも1つのプロセッサによって実行されるとコンピューティング装置に動作を実行させるプログラム命令とを備える。これらの動作は、データ収集のゲーミフィケーション機能を含む。
【0013】
シナリオ例において、コンピューティング装置は、ユーザに質問をすることで環境全体(例えば、自宅)のマップに対するデータを収集するように促すかまたは動機を与え、コンピューティング装置のインターフェース上にゲームプレイに対するポイントの形態でフィードバックを提供するようにプログラムされている。ゲーミフィケーションは、ゲーム内の報奨、および励まし(例えば、「よくできました!」の表示)などの他のフィードバックを通じて、参加する動機を提供する。さらに、コンピューティング装置は、領域の詳細に関して質問し、収集されたデータのラベル付けを可能にするようにプログラムされてもよい(例えば、「ここは誰の部屋ですか?」)。記憶されたデータセットをさらに完成させるコンピューティングでデータが受信されると、ゲームプレイインターフェースを通じて追加のポイントおよび報奨が提供される。
【0014】
有利には、ここに開示されるシステムおよび方法は、データ収集を楽しく簡単にするゲームプレイインターフェースを提供することでデータ収集を容易にし、ユーザを関心のある領域(例えば、データセットに詳細が不足している領域)に導くこともできる。データ収集をゲーム化することは、ユーザが、環境の面積のデータを収集するように誘導される体験を生み出し、データが以前に収集されていない新しい面積を示す場合、ゲームプレイインターフェースを通じてポイントや報奨が提供される。
【0015】
さらなる例では、ユーザに価値のあるデータを収集させるように報奨/スコアが提供される仮想ゲームが作成される。ゴールは、ユーザに未知の領域からデータを収集するように促し、および/または、データをラベル付けすることであり、これは、様々な機械学習システムをトレーニングするのに最終的に使用できる。
【0016】
これらのシステムおよび方法の他の様々な特徴は、添付の図面を参照して以下に記載する。
【0017】
図1を参照して、例示的なシステム100を示す。特に、
図1は、物体および/または環境のデータを収集するための例示的なシステム100を示している。
図1に示されるように、システム100は、ロボット装置102a、102bと、少なくとも1つのサーバ装置104と、ホスト装置106と、コンピューティング装置108と、通信ネットワーク110とを含む。
【0018】
ロボット装置102a、102bは、任意の種類の装置であってもよく、少なくとも1つのセンサを有するとともに、ここに記載の実施形態に従って、センサデータを記録するように構成される。場合によって、ロボット装置102a、102bは、環境内での移動を容易にする移動能力(例えば、駆動システム)を含んでもよい。
【0019】
図1に示すように、ロボット装置102aは、通信ネットワーク110を介して、サーバ装置104および/またはホスト装置106にデータ112を送信、および/または、サーバ装置104および/またはホスト装置106からデータ114を受信してもよい。例えば、ロボット装置102aは、通信ネットワーク110を介してセンサデータのログをサーバ装置104に送信してもよい。さらに加えてまたは代替として、ロボット装置102aは、サーバ装置104から機械学習モデルデータを受信してもよい。同様に、ロボット装置102aは、通信ネットワーク110を介してホスト装置106にセンサデータのログを送信し、および/または、ホスト装置106から機械学習モデルデータを受信してもよい。さらに、場合によって、ロボット装置102aは、通信ネットワーク110を介するものとは対照的に、ホスト装置106にデータを直接送信および/またはホスト装置106からデータを直接受信してもよい。
【0020】
サーバ装置104は、ここに記載のコンピューティング装置の動作を実行するように構成された任意の種類のコンピューティング装置であってもよい。例えば、サーバ装置104は、リモートサーバ装置を含むことができ、「クラウドベース」装置と呼ばれる場合がある。いくつかの例において、サーバ装置104は、コンピューティングタスクを複数のサーバ装置の間に分散させるクラウドベースのサーバクラスタを含んでもよい。上記の議論に沿って、サーバ装置104は、通信ネットワーク110を介してロボット装置102aにデータ114を送信、および/または、ロボット装置102aからデータ112を受信するように構成されてもよい。サーバ装置104は、機械学習モデルをトレーニングするように構成された機械学習サーバ装置を含むことができる。
【0021】
サーバ装置104のように、ホスト装置106は、ここに記載のコンピューティング装置の動作を実行するように構成された任意の種類のコンピューティング装置であってもよい。しかしながら、サーバ装置104とは異なり、ホスト装置106は、ロボット装置102aと同じ環境(例えば、同じ建物内)に位置してもよい。一例において、ロボット装置102aは、ホスト装置106とドッキングして、再充電し、データをダウンロードおよび/またはアップロードしてもよい。
【0022】
ロボット装置102aは、通信ネットワーク110を介してサーバ装置104と通信し、ホスト装置106と通信することができるが、いくつかの例において、ロボット装置102aは、ここに記載のコンピューティング装置の動作を行ってもよい。例えば、ロボット装置102aは、ここに記載のコンピューティング装置の動作を実行するように構成された内部コンピューティングシステムおよびメモリを含んでもよい。
【0023】
いくつかの例において、ロボット装置102aは、無線インターフェースを介してロボット装置102bと無線で通信してもよい。例えば、ロボット装置102aおよびロボット装置102bは両方とも同じ環境で動作し、時には環境に関するデータを共有してもよい。
【0024】
コンピューティング装置108が、環境内で自律的に移動する移動能力(例えば、駆動システム)が欠如している場合を除き、コンピューティング装置108は、ロボット装置102a、102bに対して記載された全ての機能を実行してもよい。コンピューティング装置108は、デスクトップコンピュータ、ラップトップコンピュータ、携帯電話、PDA、タブレット装置、スマートウォッチ、ウェアラブルコンピューティング装置、携帯式カメラコンピューティング装置、またはあらゆる種類のモバイルコンピューティング装置の形態であってもよい。コンピューティング装置108は、通信ネットワーク110を介してサーバ装置104にデータ116を送信し、および/または、サーバ装置104からデータ118を受信してもよい。
【0025】
通信ネットワーク110は、LAN(Local Area Network)、WAN(Wide Area Network)、企業イントラネット、公衆インターネット、または装置間に通信経路を提供するように構成された任意の他の種類のネットワークに対応し得る。通信ネットワーク110は、また1つ以上のLAN、WAN、企業イントラネット、および/または公衆インターネットの組み合わせに対応し得る。通信ネットワーク110と、ロボット装置102a、ロボット装置102b、およびコンピューティング装置108との間、および各装置間の通信は、無線通信(例えば、WiFiやブルートゥース(登録商標)など)であってもよい。
【0026】
図2は、一実施形態に係るコンピューティング装置108の一例を示す。
図2は、ここに記載の実施形態に従って動作するように構成されたコンピューティング装置108が含み得るいくつかの構成要素を示す。コンピューティング装置108は、ここに記載の方法の機能を実行するように用いられてもよい。
【0027】
コンピューティング装置108は、プロセッサ120と、通信バス134に各々接続された通信インターフェース122と、データ記憶装置(メモリ)124と、出力インターフェース126と、ディスプレイ128と、カメラ130と、センサ132とを含む。コンピューティング装置108は、コンピューティング装置108内の通信、およびコンピューティング装置108と他の装置(図示せず)との間の通信を可能にするハードウェアを含んでもよい。ハードウェアには、例えば、送信機、受信機、アンテナが含まれてもよい。
【0028】
通信インターフェース122は、1つ以上のネットワークまたは1つ以上の遠隔装置との短距離通信および長距離通信の両方を可能にする無線インターフェースおよび/または1つ以上の有線インターフェースであってもよい。このような無線インターフェースは、ブルートゥース、WiFi(例えば、IEEE(Institute of Electrical and Electronic Engineers)802.11プロトコル)、LTE(Long-Term Evolution)、セルラー通信、近距離無線通信(NFC:Near-Field Communication)などの1つ以上の無線通信プロトコルおよび/または他の無線通信プロトコル下で通信を提供してもよい。このような有線インターフェースには、イーサネットインターフェース、USB(Universal Serial Bus)インターフェース、あるいは、ワイヤ、ツイストペアワイヤ、同軸ケーブル、光リンク、光ファイバーリンク、または他の物理的接続を介して有線ネットワークと通信する同様のインターフェースが含まれてもよい。従って、通信インターフェース122は、1つ以上の装置から入力データを受信するように構成されてもよく、他の装置に出力データを送信するように構成されてもよい。
【0029】
通信インターフェース122は、例えば、キーボード、マウス、またはタッチスクリーンなどのユーザ入力装置も含んでもよい。
【0030】
データ記憶装置124は、プロセッサ120によって読み取られるかまたはアクセスできる1つ以上のコンピュータ読み取り可能な記憶媒体を含んでもよく、あるいはその形態を取ってもよい。コンピュータ読み取り可能な記憶媒体は、プロセッサ120と一部または全部が統合可能な、光学メモリ、磁気メモリ、有機メモリ、または他のメモリ、あるいは、ディスク記憶装置などの揮発性および/または不揮発性ストレージコンポーネントを含むことができる。データ記憶装置124は、非一時的なコンピュータ読み取り可能な媒体と見なされる。いくつかの例において、データ記憶装置124は、単一物理装置(例えば、1つの光学メモリ、磁気メモリ、有機メモリ、または他のメモリ、あるいは、ディスクストレージユニット)を用いて実現できるが、他の例において、データ記憶装置124は、2つ以上の物理的装置を用いて実現可能である。
【0031】
データ記憶装置124は、物体および/または環境のデータセットを記憶できるデータベース135を含むことが示されている。データセットには、収集された物体および/または環境のデータが含まれ、任意の種類または任意の数のデータが含まれてもよい。
【0032】
従って、データ記憶装置124は、非一時的なコンピュータ読み取り可能な記憶媒体であり、実行可能な指示136がそれに記憶される。指示136は、コンピュータ実行可能コードを含む。プロセッサ120によって指示136が実行されると、プロセッサ120は機能を実行するようになる。このような機能には、例えば、カメラ130から環境の画像を取得することと、データベース135に記憶されたデータセットと画像との第1比較に基づいて、記憶されたデータセットに環境の1つ以上の詳細が不足していると判定することと、環境の追加データを取得する要求を示すコマンドを提供することと、コマンドに呼応して、1つ以上のセンサ132から環境の追加データを取得することと、データベース135に記憶されたデータセットとの第2比較に基づいて、環境の追加データが記憶されたデータセット内の環境のデータとは異なると判定することと、記憶されたデータセット内の環境のデータとは異なる環境の追加データに基づいて、コンピューティング装置108のインターフェース129上のゲームプレイに対する1つ以上のポイントを提供することとが含まれる。これらの機能は、以下に詳しく記載する。
【0033】
プロセッサ120は、汎用プロセッサまたは専用プロセッサ(例えば、デジタル信号プロセッサ、特定用途向け集積回路など)であってもよい。プロセッサ120は、1つ以上の汎用プロセッサおよび/または1つ以上の専用プロセッサ(例えば、ASIC(Application Specific Integrated Circuits)、DSP(Digital Signal Processors)、ネットワークプロセッサなど)の1つ以上のCPUを含むことができる。例えば、プロセッサ170は、機械学習モデルのトレーニングおよび/または推論のためのTPU(Tensor Processing Unit)を含むことができる。プロセッサ120は、通信インターフェース122からの入力を受信し、その入力を処理してデータ記憶装置124に記憶される出力を生成し、ディスプレイ128に出力してもよい。プロセッサ120は、データ記憶装置124に記憶され、ここに記載のコンピューティング装置108の機能を提供するように実行可能な実行可能指示136(例えば、コンピュータ読み取り可能なプログラム命令)を実行するように構成することができる。
【0034】
出力インターフェース126は、ディスプレイ128または他の構成要素にも情報を出力する。従って、出力インターフェース126は、通信インターフェース122と同様であってもよく、無線インターフェース(例えば、送信機)または有線インターフェースであってもよい。
【0035】
ディスプレイ128には、インターフェース129が含まれる。インターフェース129は、ディスプレイ128に表示するためのGUI(Graphical User Interface)であってもよく、またはそれを含んでもよい。インターフェース129は、ユーザが映像ディスプレイと相互に作用し合うことを可能にし、ユーザ入力/指示を受け入れ、望ましい方法でデータを示して収集する。インターフェース129は、ユーザが利用可能な情報およびアクションを表すテキストの他に、グラフィック画像を採用するコンピュータと相互に作用し合うことを可能にする標準タイプのユーザインターフェースのGUIであってもよい。アクションは、例えば、ウィンドウ、ボタン、メニュー、スクロールバーなどのグラフィカル要素を直接操作することで実行されてもよい。
【0036】
カメラ130は、物体および環境の2D画像を撮像する高解像度カメラを含んでもよい。
【0037】
センサ132は、深度カメラ137、IMU(Inertial Measurement Unit)138、1つ以上の運動追跡カメラ140、1つ以上のレーダー142、1つ以上のマイクロホンアレイ144、および1つ以上の近接センサ146などの多数のセンサを含む。より多くのまたはより少ないセンサが含まれてもよい。
【0038】
深度カメラ137は、物体の3次元(3D)特徴など、環境内の物体の深度に関する情報をリカバーするように構成されてもよい。例えば、深度カメラ137は、投影赤外線パターンの1つ以上の画像を撮像し、様々なアルゴリズムを用いて3Dデータを三角測量および抽出して1つ以上のRGBD画像を出力するプロセッサに画像を提供するように構成されたRGB−赤外線(RGB−IR)カメラであってもよく、またはそれを含んでもよい。赤外線パターンは、深度カメラ137と一体化されたプロジェクターによって投影されてもよい。あるいは、赤外線パターンは、深度カメラ137とは別のプロジェクター(図示せず)によって投影されてもよい。
【0039】
IMU138は、ロボット装置の速度および/または方位を判定するように構成されてもよい。一例において、IMUは、3軸ジャイロスコープ、3軸加速度計、3軸コンパス、および運動情報を処理する1つ以上のプロセッサを含んでもよい。
【0040】
運動追跡カメラ140は、画像(例えば、RGB−IR画像)を撮像および処理することにより、物体の移動を検出および追跡するように構成されてもよい。場合によって、運動追跡カメラ140は、低輝度照明条件での検出を可能にする1つ以上のIR発光ダイオード(LED:Light Emitting Diodes)を含んでもよい。運動追跡カメラ140は、180度広視野(FOV:Field Of View)などのFOVを含んでもよい。一例の構成において、コンピューティング装置108は、コンピューティング装置108の第1側の画像を撮像するように構成された第1運動追跡カメラと、コンピューティング装置108の反対側の画像を撮像するように構成された第2運動追跡カメラとを含んでもよい。
【0041】
レーダー142は、電磁波を用いて環境内の物体の範囲、角度、または速度を判定する物体検出システムを含んでもよい。レーダー142は、レーザーパルスを環境に発し、1つ以上のセンサで反射パルスを測定することにより動作してもよい。一例において、レーダー142は、150度FOVなどの広いFOVを有する固体ミリ波レーダーを含んでもよい。
【0042】
マイクロホン144は、音声データを記録するなど、1つ以上の機能を連携して実行するように動作する(マイクロホンアレイとして配置された)1つ以上のマイクロホンを含んでもよい。一例において、マイクロホン144は、音源探査を用いて音源の位置を特定するように構成されてもよい。
【0043】
近接センサ146は、コンピューティング装置108の範囲内の物体の存在を検出するように構成されてもよい。例えば、近接センサ146は、赤外線近接センサを含むことができる。一例において、コンピューティング装置108は、複数の近接センサを含み、各近接センサがコンピューティング装置108の異なる側面(例えば、正面、背面、左、右など)の物体を検出するように配置されていてもよい。
【0044】
図3は、実施形態に係るロボット装置200の一例を示す。
図2は、ここに記載の実施形態に従って動作するように構成されたロボット装置200が含み得るいくつかの構成要素を示す。ロボット装置200は、ここに記載の方法の機能を実行するように用いられてもよい。
【0045】
ロボット装置200は、通信バス134に各々接続されている、プロセッサ120と、通信インターフェース122と、データ記憶装置(メモリ)124と、出力インターフェース126と、ディスプレイ128と、カメラ130と、センサ132とを含むコンピューティング装置108と同一または類似の構成要素を含んでもよい(および/またはコンピューティング装置108を含んでもよい)。これらの構成要素の説明は、上記のコンピューティング装置108と同一である。ロボット装置200は、ロボット装置200の間の通信およびロボット装置200と他の装置(図示せず)との間の通信を可能にするハードウェアを含んでもよい。ハードウェアには、例えば、送信機、受信機、アンテナが含まれてもよい。
【0046】
いくつかの例において、ロボット装置200は、また、報奨されたポイントを示すゲームプレイ用インターフェース129を含む。他の例において、ロボット装置200は、データ収集のため、
図2のコンピューティング装置108(スマートフォンの形態を取る場合がある)に追加されるか、またはその代わりに用いられてもよく、また、ロボット装置200が、コンピューティング装置108と無線で通信してゲームプレイ中にポイントを獲得するためのデータ収集に成功したことを通知してもよい。
図2のコンピューティング装置のディスプレイ128上のインターフェース129は、例えば、ポイントを示してもよい。
【0047】
ロボット装置200は、また、接触センサ148およびペイロードセンサ150などの追加のセンサ132を含んでもよい。
【0048】
接触センサ148は、ロボット装置200が物体と接触したときに信号を提供するように構成されてもよい。例えば、接触センサ148は、接触センサ148が物体と接触したときに信号を提供するロボット装置200の外面の物理的衝突センサであってもよい。
【0049】
ペイロードセンサ150は、ロボット装置200によって運ばれるペイロードの重量を測定するように構成されてもよい。例えば、ペイロードセンサ150は、ロボット装置200のプラットフォームまたは他の表面に加えられる力に比例する電気信号を提供するように構成されたロードセルを含むことができる。
【0050】
図3にさらに示すように、ロボット装置200は、コンピューティング装置108に結合された機械システム152も含み、機械システム152は、駆動システム154および補助システム156を含む。駆動システム154は、ロボット装置200を環境内で移動させる(例えば、床を横切って移動させる)ように制御することができる1つ以上のモーター、輪、および他の構成要素を含んでもよい。一例において、駆動システム154は、ロボット装置200を任意の方向に駆動させるように制御することができる全方向性駆動システムを含んでもよい。
【0051】
補助システム156は、付随的タスクの実行を容易にするように構成された1つ以上の機械的構成要素を含んでもよい。一例として、補助システム156は、真空引きを容易にするように構成されたモーターおよびファンを含んでもよい。例えば、電気モーターは、吸引口を通じて、ほこり、ごみ、または他の破片の吸引および容易な収集のために、ファンを回転させてもよい。別の例として、補助システム156は、プラットフォームまたは構造の上部に置かれた任意の物体が地面から持ち上げられるように、ロボット装置200のプラットフォームまたは他の構造を垂直に持ち上げる構成を有する1つ以上のアクチュエータを含んでもよい。一例において、補助システム156は、約10キログラムのペイロードを持ち上げるように構成されてもよい。ロボット装置200の所望の活動に応じて、他の例も可能である。
【0052】
例では、コンピューティング装置108は、ユーザによって使用されてもよく、および/またはロボット装置102a、102bが、コンピューティング装置108および/またはロボット装置102a、102bのインターフェース上でゲームプレイの機能としてデータを収集するようにプログラムされることができる。シナリオ例では、物体認識装置を参照して(例えば、サーバ装置104および/またはオンボードコンピューティング装置108およびロボット装置102a、102bを介して)、(例えば、物体のさらなる姿勢)情報がさらに必要な物体を画像内で見つけることができる。次いで、コンピューティング装置108は、物体の追加的な姿勢を撮像するようにユーザに通知するコマンドを提供することができる。コンピューティング装置108のゲームにおいて、ゲームプレイ中の指示としてコマンドを提供することができる。新しい姿勢の撮像に成功すると、ゲーム内でユーザに報奨/スコアが提供され、データを収集するように動機を与える。特定の例として、ゲームプレイ中に、ユーザは自宅に歩いて入り、コンピューティング装置108は部屋の一部の画像フレームを取得する。クラウド物体認識装置は、画像フレームに暖炉が含まれていると判定し、コンピューティング装置108は、多くの異なる角度から画像が撮像されるようにユーザに暖炉に近づくことを求めるコマンドをゲームを通じて提供する。新しい画像フレームの撮像に成功すると、ゲームでのユーザのスコアにポイントを報奨できる。
【0053】
ここで用いられるゲームプレイという用語は、入力を要求し、ユーザに動機付けを提供してコンピューティング装置に要求された入力を収集または集めるタスクを完了させるようにプログラムされているコンピューティング装置のアプリケーションを実行することを言う。また、ゲームプレイは、実世界の物理的物体の特定のデータまたは画像を収集して報奨を受けるなど、ユーザに動機付けられた報奨を受けて満足させるための戦略的課題を含むことができる。報奨は、例えば、サービス事業者が提供する金銭上の観点からは現実のものになり得るし、あるいはユーザがスコアを上げるGUI上の観点からは想像のものになり得る。従って、ゲームプレイという用語には、ゲーム・アプリケーションを実行すること(例えば、ユーザ/プレーヤーがコンピューティング装置を用いてゲーム関連ルールを有するアプリケーションを実行することを含む)のほか、例えば、シミュレーション種別に同様の関連ルールを有する他のアプリケーションを実行することが含まれる。
【0054】
図4は、実施例に係る例示的な方法400のフローチャートを示す。
図4に示される方法400は、例えば、ここのいずれかの図に示されたいずれかのコンピューティング装置またはロボット装置のようなコンピューティング装置またはロボット装置によって実行できる方法の実施形態を表す。よって、方法400は、コンピュータにより実行される方法であってもよい。ここに開示されるプロセスおよび方法や他のプロセスおよび方法について、本実施形態のうちの1つの実施可能な機能および動作をフローチャートに示す。別の例は、本開示の例示的な実施形態の範囲内に含まれ、当業者には明らかなように、機能が、関連機能に応じて実質的に同時に行われるかまたは逆順に行われることを含み、図示または論議された順序とは異なる順序で実行されてもよい。
【0055】
方法400は、1つ以上のブロック402〜412で示されるように、1つ以上の動作、機能、またはアクションを含んでもよい。ここに開示される当該プロセスおよび方法や他のプロセスおよび方法について、本例のうちの1つの実施可能な機能および動作をフローチャートに示す。これに関して、各ブロックは、モジュール、セグメント、またはプログラムコードの一部を表してもよく、プロセスにおける特定の論理機能または工程を実施するプロセッサによって実行可能な1つ以上の指示を含む。プログラムコードは、例えば、ディスクまたはハードドライブを含む記憶装置など、任意の種類のコンピュータ読み取り可能な媒体またはデータ記憶装置に記憶されてもよい。さらに、プログラムコードは、機械可読形式のコンピュータ読み取り可能な記憶媒体、または他の非一時的な媒体または製造品に符号化することができる。コンピュータ読み取り可能な媒体は、例えば、レジスタメモリ、プロセッサキャッシュ、およびRAM(Random Access Memory)のような短期間データを記憶するコンピュータ読み取り可能な媒体などの非一時的なコンピュータ読み取り可能な媒体またはメモリを含んでもよい。コンピュータ読み取り可能な媒体は、例えば、ROM(Read Only Memory)、光学ディスクまたは磁気ディスク、CD−ROM(Compact-Disc Read Only Memory)のような二次または永続的長期記憶などの非一時的な媒体をまた含んでもよい。コンピュータ読み取り可能な媒体は、また、任意の他の揮発性または不揮発性記憶システムであってもよい。コンピュータ読み取り可能な媒体は、例えば、有形のコンピュータ読み取り可能な記憶媒体と見なされてもよい。
【0056】
また、
図4の各ブロック、およびここに開示される他のプロセスおよび方法内の各ブロックは、プロセス内の特定の論理機能を実行するために配線された回路を表してもよい。別の例は、本開示の例の範囲内に含まれ、当業者には明らかなように、機能が、関連機能に応じて実質的に同時または逆順を含み、図示または説明された順序とは異なる順序で実行されてもよい。
【0057】
図4の方法400は、コンピューティング装置108、ロボット装置102a、102b、および/またはコンピューティング装置108とロボット装置102a、102bとの組み合わせによって実行されてもよい。以下に、方法400は、コンピューティング装置108によって実行されるシナリオ例に記載され、これは、ロボット装置102a、102bの一部と見なすこともできる(
図3を参照して記載される)。
【0058】
いくつかの例において、方法400は、コンピューティング装置108上でプレイされるゲームとして実行されてもよく、または方法400の一部がゲームのゲームプレイの機能であってもよい。
【0059】
ブロック402において、方法400は、コンピューティング装置108のカメラ130から環境の画像を取得することを含む。例えば、ユーザは、コンピューティング装置108を用いて物体の画像を撮像してもよい。
【0060】
ブロック404において、方法400は、データベース135に記憶されたデータセットと画像との第1比較に基づいて、記憶されたデータセットに環境の1つ以上の詳細が不足していると判定することを含む。いくつかの例において、データセットを記憶するデータベース135は、サーバ装置104内に存在してもよく、従って、コンピューティング装置108は、第1比較が行われるようにサーバ装置104に画像を送信してもよい。
【0061】
第1比較には、画像内の物体の物体認識が含まれる。例えば、クラウド物体認識装置を参照して画像が物体の画像を含んでいると判定することができる。続いて、第1比較には、記憶されたデータセットに認識された物体の画像が含まれているかどうか、また、含まれている場合には画像の数および画像の種類が含まれているかを判定することが含まれる。一例として、第1比較には、物体の姿勢の閾値数値がデータセットに記憶されているかどうかを判定することが含まれ、閾値は任意の数(例えば、15から20など、または100の姿勢を超えることができる)とすることができる。第1比較においてはまた、例えば、環境および/または物体の画像の閾値数(例えば、20、30、または少なくとも50の画像)がデータセットに含まれるかを判定してもよい。
【0062】
第1比較は、画像の種類に、カラー、白黒、深度画像などの様々な種類が含まれているかどうかの判定も含むことができる。第1比較には、周辺領域のデータ、物体自体に固有のデータ(例えば、メーカー、モデル番号、製造年度)、物体の音声または物体の周辺領域の音声に関するデータ、物体の所有者または物体の場所を参照するデータ、または何らかの物体に関するデータの種類および/または量など、記憶されたデータセットに物体および/または環境の他の種類のデータが不足していると判定することがさらに含まれてもよい。
【0063】
一例において、記憶されたデータセットは環境のフロアプランを含んでもよく、第1比較を行って環境の任意の一部に関してフロアプランが完全なデータであるか、または欠測データであるかを判定することができる。
【0064】
従って、第1比較は多くの基準に基づいて判定でき、記憶されたデータセットと比較するときに閾値を必要に応じて設定し、データセットに詳細が不足しているかどうかを判定することができる。いくつかの例において、第1比較は常にデータセットに詳細が不足していると判定してもよく、これは、(下記に記載するように)ゲームプレイで、ユーザに環境および/または物体の「新しい」データのキャプチャを試みるように促す。
【0065】
データベース135に記憶されたデータセットの目的は、環境および物体を表す全体データセットを生成し、第1比較で、データセットに環境および/または物体の少なくとも1つの態様の詳細が不足していると判定できるように、利用可能な全ての種類のデータ(例えば、画像、音声、映像など)を用いて物体および/または環境を全体的に説明することである。
【0066】
または、いくつかの例において、データセットがロバストであると、結果として第1比較に詳細が不足しないようになり、ゲームプレイは、さらなる第1比較で用いられる追加画像の撮像を通じて続行できる。
【0067】
ブロック406において、方法400は、コンピューティング装置108によって環境の追加データを取得する要求を示すコマンドを提供することを含む。データセットに何らかの詳細が不足していると判定されると、コンピューティング装置108は、ゲームプレイ中にインターフェース129上のテキストグラフィックを介して、またはゲームプレイ中に音声コマンドとしてコマンドを提供する。このコマンドは、環境および/または物体の追加データを取得する試みをユーザに示す。一例において、コマンドは、環境の1つ以上の領域を示して環境の追加データを取得する。環境に住宅が含まれる別の例において、コマンドは、家の特定の部屋の追加データを取得する要求を示す情報を提供する。コマンドは、深度画像、音声データ、2D画像データなど、収集すべき特定種類のデータをさらに示してもよい。
【0068】
ブロック408において、方法400は、コマンドに呼応して、コンピューティング装置108の1つ以上のセンサ132から環境の追加データを取得することを含む。追加データは、環境の1つ以上の深度画像を取得すること、マイクロホン144を用いて環境からの音声を取得すること、レーダー142を用いてレーダーデータを取得することなどを含みうる。従って、ゲームプレイ中に、ユーザは、コンピューティング装置108を活用し、センサ132通じて取得可能なあらゆる種類のデータをキャプチャしてもよい。
【0069】
ブロック410において、方法400は、データベース135に記憶されたデータセットとの第2比較に基づいて、環境の追加データが記憶されたデータセット内の環境のデータとは異なると判定することを含む。第2比較は、新しくキャプチャされた追加データがデータセットに記憶されているデータと異なるか、または何らかの変化があるかを判定するために実行できる。データは、少しでも変化があれば、異なるとみなすことができ、例えば、以前にデータセットに記憶されていない新しい画像、以前にデータセットに記憶されていない新しい音声、以前にデータセットに記憶されていない物体/環境の新しい情報、以前に記憶されていない新しい種類のデータ(例えば、記憶されたデータセットは画像データのみが含まれ、そして追加データには音声が含まれる)などをキャプチャするというような場合である。
【0070】
他の例において、第2比較では、追加データがデータセットに記憶されているデータとは異なるかを判定するために識別閾値を用いてもよい。識別閾値は任意のレベルに設定でき、データの種類に基づいて異ってもよい。例えば、画像データの場合、識別閾値は、50%を超える画素の強度の差、少なくとも50%の画素の色の差、少なくとも10%の画像内の画素の含有率の差などに設定できる。
【0071】
識別閾値は、記憶された画像内の物体の数とは異なって画像内で判定された物体の数であってもよい。例えば、追加データに画像が含まれている場合、クラウド物体認識装置を用いて、画像内に物体がいくつあるかを判定できる。この環境のデータセットに記憶されている物体よりも多くの物体が画像で認識される場合、識別閾値が満たされると見なされる。
【0072】
ブロック412において、方法400は、記憶されたデータセット内の環境のデータとは異なる環境の追加データに基づいて、コンピューティング装置108のインターフェース129上にゲームプレイに対する1つ以上のポイントを提供することを含む。ゲームプレイ中に、報奨またはスコアに追加されるポイント、バッジの報奨などの実績、リーダーボードでのレベルアップまたはランキングの上昇など、あらゆる種類のポイントまたは他のゲーム要素が提供されてもよい。
【0073】
ゲームプレイは、特定の時間制限を設定してユーザが必ずアクションまたはタスクを完了して戻ることで報奨を受けるようにしてもよい。これは、ユーザが定期的にゲームをプレイして追加データをキャプチャし、報奨を受ける資格を得るように奨励する。同様に、ゲームプレイは、タスク完了に限定した時間を設定してもよい。
【0074】
図5は、実施例に係る、方法400と共に用いる例示的な方法のフローチャートを示す。ブロック414における機能は、環境の追加データに基づいて環境のフロアプランを生成することを含む。例えば、ユーザが環境の関心のある領域でデータを収集し、フロアプランを生成するのに十分なデータを収集できるようにコマンドで導いてもよい。この例において、コマンドは、住宅の全ての部屋のデータ収集を要求することができ、ゲームプレイは、住宅の典型的な部屋に関するチェックリスト(例えば、キッチン、居間、寝室)を含み、チェックリストが完成すると、一般的なフロアプランを作成できる。
【0075】
図6は、実施例に係る、方法400と共に用いる例示的な方法の別のフローチャートを示す。ブロック416において、機能は、物体の画像に基づいてサーバ104から物体の識別を受信することを含む。ブロック418において、機能は、データベース135内に記憶されたデータセットとの第1比較に基づいて、記憶されたデータセットに物体の1つ以上の詳細が不足していると判定することを含み、ブロック420において、機能は、物体の追加データを取得するさらなる要求をコマンドで提供することを含む。続いて、ブロック422、424、および426において、機能は、コンピューティング装置108の1つ以上のセンサ132から物体の追加データを取得することと、データベース135内に記憶されたデータセットとの第2比較に基づいて、物体の追加データが記憶されたデータセット内の物体のデータとは異なることを判定することと、記憶されたデータセット内の物体のデータとは異なる物体の追加データに基づいて、インターフェース129上のゲームプレイに対する1つ以上のポイントを提供することと、を含む。この例において、コマンドは、物体の姿勢を示す情報を提供して物体の追加データを取得してもよく、または時刻を提供して(これによって異なる照明での物体のデータをキャプチャする)物体の追加データを取得してもよい。
【0076】
図7は、実施例に係る、方法400と共に用いる例示的な方法の別のフローチャートを示す。ブロック428において、機能は、物体の追加データに物体の識別をラベル付けすることを含み、ブロック430において、機能は、物体の追加データをデータベース135に記憶することを含む。この例において、新しい追加データが受信されると、コンピューティング装置108は、可能な限り画像内のコンテンツの物体認識を実行してもよい。いずれかの物体を認識できない場合、コンピューティング装置108は、物体をラベル付けするようにユーザに促してもよい。
【0077】
同様に、コンピューティング装置108は、新しく受信した全てのデータを対象に、新しい追加データをラベル付けするようにユーザに促してもよい。シナリオ例において、新しいデータは、住宅の部屋を表し、この部屋に関連する人物を識別する要求を促してもよい。または、新しいデータが物体(例えば、靴)を表してもよく、その物体の所有者を識別する要求を促してもよい。
【0078】
図8は、実施例に係る、方法400と共に用いる例示的な方法の別のフローチャートを示す。ブロック432において、機能は、環境の画像に基づいて、サーバ104から環境内の部屋の識別を受信することを含む。ブロック434において、機能は、環境内の部屋に関連する物体のカテゴリを判定することを含む。ブロック436において、機能は、コンピューティング装置108の1つ以上のセンサ132を用いて、環境内の部屋に関連する物体のカテゴリ内の少なくとも1つの物体のデータを取得する要求を示す第2コマンドを提供することを含む。シナリオ例において、位置判定、フロアプランの参照、オフィス内の物体の物体認識のいずれかによって、ユーザが住宅のオフィスに入ったことをコンピューティング装置108が認識すると、コンピューティング装置108は、事務用品を物体のカテゴリとして決定し、データベース135内のデータセットに詳細が不足している可能性のある特定の事務用品のデータを取得する要求を示すコマンドをゲームプレイ中に提供してもよい。ユーザは要求された事務用品のデータをキャプチャし、ゲームプレイ中に追加のポイントおよび報奨を獲得できる。
【0079】
従って、ユーザが環境を歩き回ると、コンピューティング装置108はコンピューティング装置108の位置を判定し、データセットに詳細が不足している位置と関連する物体を判定する。これにより、コンピューティング装置108は、コンピューティング装置108の位置に非常に関連があり、かつデータセット内に詳細が不足している特定の物体の追加データを要求することができる。
【0080】
図9は、実施例に係る、方法400と共に用いる例示的な方法の別のフローチャートを示す。ブロック438において、機能は、環境のビューに重ね合わせた拡張現実(AR:Augmented Reality)グラフィカルキャラクタをコンピューティング装置108のディスプレイ128上に提供することを含み、ブロック440において、機能は、データベース135に記憶されたデータセットに環境の1つ以上の詳細が不足している環境の領域を巡回するための指標として、、ARグラフィカルキャラクタをコンピューティング装置108のディスプレイ128上で移動させることを含む。以下に、
図21を参照して例を記載する。
【0081】
図10は、実施例に係る、方法400と共に用いる例示的な方法の別のフローチャートを示す。ブロック442において、機能は、環境の画像がアクションを行う人物を含むと判定することを含み、ブロック444において、機能は、記憶されたデータセットに人物の画像に関連するアクションの識別が不足していると判定することを含む。ブロック446において、機能は、アクションの識別を取得する要求をコマンドで提供することを含む。この例において、ゲームプレイは、コンピューティング装置108をトレーニングするために実行されているラベル付け活動をユーザが支援するように指示し、そのような情報をデータセットに記憶する。このようにして、データセットを参照して、例えば、活動認識機能を実行することもできる。
【0082】
図11は、実施例に係る、方法400と共に用いる例示的な方法の別のフローチャートを示す。ブロック448において、機能は、環境の画像が人物の顔を含むと判定することを含み、ブロック450において、機能は、記憶されたデータセットに人物の顔の画像に関連する感情の識別が不足していると判定することを含む。ブロック452において、機能は、感情の識別の取得要求のコマンドで提供することを含む。この例において、ゲームプレイは感情データの収集を可能にする特徴を有する。特定の感情を特定の人物に関連付けるように、画像内の人物の名前のラベル、および画像内の人物の感情の識別を要求することにより、ゲームプレイをさらに強化してもよい。人々は異なる方法で感情を伝える場合があり、ゲームプレイを用いて、例えば、特定の人物の特定の感情を認識する方法をコンピューティング装置108にトレーニングすることができる。
【0083】
図12は、実施例に係る、方法400と共に用いる例示的な方法の別のフローチャートを示す。ブロック454において、機能は、環境の画像が人物を含むと判定することを含み、ブロック456において、機能は、人物に1つ以上のアクションを実行させる要求をコマンドで提供することを含む。ブロック458において、機能は、コンピューティング装置の1つ以上のセンサから、1つ以上のアクションを実行する人物の追加画像を含む環境の追加データを取得することを含む。シナリオ例には、特定のアクションを実行するように人物を促すことでコンピューティング装置108がそれらのアクションに関連するデータを収集できるゲームプレイを含む。アクションは、人物に「ダンス」を要求するなど、いずれであってもよく、また、人物のダンスのデータ収集が成功すると、ゲームプレイ中にインターフェース129上のポイントおよび/または報奨が提供される。次いで、コンピューティング装置108は、収集されたデータ(例えば、踊っている人物の画像および映像)をアクションまたは「ダンス」という単語と関連付けてもよい。
【0084】
別の同様の例において、ゲームプレイは、物体のデータを収集できるようにコンピューティング装置108に特定の物体を示すように人物を促してもよい。このようにして、ゲームプレイは、データセットに詳細が不足している物体のデータを収集するようにユーザに指示し、従って、ゲームプレイはデータ収集を関心のあるアイテムのデータ収集となるように制御する。ゲームプレイは、特定の種類の追加データ(物体の特定の姿勢など)が収集されるようにさらに指示する。
【0085】
さらに別の同様の例において、ゲームプレイは、ユーザに笑顔、しかめ顔、またはあらゆる種類の感情を伴う表情を表すように促してもよい。次に、正面向きカメラを用いて、コンピューティング装置108は人物の画像を撮像し、その画像を特定の感情に関連付けることができる。これにより、例えば、ラベルが付けられた特定の感情の画像を含むデータセットを生成できる。
【0086】
図13〜
図18は、例示的な一例に係る、環境で収集されたデータの概念図である。
図13は、カウチなどの物体500を含む周囲状況の二次元(2D)画像例を示す概念図である。続いて、コンピューティング装置108は、画像とデータベース内の記憶されたデータセットとの第1の比較に基づいて、記憶されたデータセットに環境および/または物体500の1つ以上の詳細が不足していることを判定し、その後、環境の追加データを取得する要求を示すコマンドを提供することができる。従って、ソファーおよびソファーの周囲状況についての追加データを取得できる。
【0087】
図14は、実施例に係る環境の追加データの例示を示す概念図である。
図14では、物体500についての異なる遠近感または姿勢が、コンピューティング装置108またはロボット装置200のカメラによって撮像される。遠近感は、例えば、異なるビューを提供する角度によって示される。
【0088】
図15は、実施例に係る、物体500の追加データの別の例を示す概念図である。
図15では、物体500についての別の異なる遠近感または姿勢が、コンピューティング装置108またはロボット装置200のカメラによって撮像される。遠近感は、例えば、異なるビューを提供する背面によって示される。
【0089】
図16は、実施例に係る、物体500の追加データの別の例を示す概念図である。
図16において、物体500の画像は、さらに別の遠近感のビューを提供するためにより遠くから撮像される。
【0090】
図17は、実施例に係る、物体500の追加データの別の例を示す概念図である。
図17において、物体500の画像は、物体500の一部についてのさらに別の遠近感のビューを提供するためにより近くから撮像される。
【0091】
図18は、実施例に係る、物体500の追加データの別の例を示す概念図である。
図18において、物体500の画像は、異なる照明が所定の位置にある状態で撮像される。例えば、
図18では、ランプ502が点灯され、物体500上およびそれに隣接して光を照らす。
【0092】
図14〜
図18に概念的に示されるいずれか1つ以上の追加データを撮像することに続き、コンピューティング装置108は、その後、データベース内の記憶されたデータセットとの第2比較に基づいて、環境の追加データが記憶されたデータセット内の環境のデータとは異なるか否かを判定する。データが異なる場合、コンピューティング装置108は、コンピューティング装置108のインターフェース129上のゲームプレイに対する1つ以上のポイントを提供する。
【0093】
図19は、実施例に係る、コンピューティング装置108のディスプレイ128のインターフェース129上のゲームプレイ例を示す図である。
図19に示すように、コンピューティング装置108は、データベース内の記憶されたデータセットに以前には含まれていない、新しいデータがデータ収集されたと判定し、ゲームプレイ中にポイントを報奨する(例えば、「スコア:60」)。新しいデータは、例えば、新しいデータとして撮像され、表された関心領域または物体を丸で囲むことにより、インターフェース129上で強調表示されることができる。
【0094】
図20は、実施例に係る、ここに記載の方法を実行するシナリオ例を示す概念図である。例示的なコンピューティング装置600は、コンピューティング装置108のカメラによって撮像された環境604のビューに重ね合わせたARグラフィカルキャラクタ602を用いて示されている。コンピューティング装置108は、データベース135内に記憶されたデータセットに環境の1つ以上の詳細が不足している環境の領域を巡回するための指標として、、ARグラフィカルキャラクタ602をコンピューティング装置108のディスプレイ128上へ移動させるようにプログラムされる。この例において、ユーザがコンピューティング装置108を左に移動させ、コンピューティング装置108が環境を表す方向の情報を撮像するように、ARグラフィカルキャラクタ602は左に移動する。記憶されたデータセット内のデータとは異なる情報の撮像に成功したことが確認されると、ゲームプレイ中にスコアとして大量のポイントを報奨する(
図20を参照)。
【0095】
いくつかの例において、相互に作用し合うARグラフィカルキャラクタ602のインターフェース129上にグラフィックを重ね合わせることにより、環境のジオメトリをゲーム自体の一部として示し、また、ユーザがコンピューティング装置108を動かしてARグラフィカルキャラクタ602を異なるジオメトリと相互に作用可能にしながら、コンピューティング装置108のセンサ132のいずれかを用いてデータ収集を実行することができる。このような方法をゲームプレイに用いて、環境のさらなる詳細を撮像するか、または以前にはスキャンされていない領域を撮像するようにユーザを奨励する。
【0096】
モバイルコンピューティング装置(例えば、スマートフォンまたはタブレット)、またはウェアラブルコンピューティング装置(例えば、ヘッドマウントディスプレイ)など、任意のコンピューティング装置で拡張現実(AR)グラフィックを生成できる。同様に、ゲームプレイは、シミュレーション中にレンダリングされるARグラフィカルキャラクタ602の形態の物理的物体と、ソフトウェアロボットとの間の仮想ゲームプレイを含んでもよい。例えば、コンピューティング装置は、センサデータのログを用いて、環境内を移動するソフトウェアロボットのシミュレーションを生成し得る。このシミュレーションにおいて、ソフトウェアロボットは、センサデータのログを撮像したロボット装置がたどる経路と同じ経路または異なる経路をたどってもよい。ソフトウェアロボットが異なる経路をたどる場合、異なる経路には、環境内のソフトウェアロボットと物理的物体との間の仮想ゲームプレイが含まれ、コンピューティング装置がそれに応じてゲームプレイをレンダリングできる。
【0097】
ここに記載の方法および装置の例は、ユーザがゲームプレイを通じて実行するように奨励する方法で、環境のロバストなデータセットを生成することに有用である。ゲームプレイには様々な種類のゲームを実施でき、各ゲームでデータを収集できる。これらのデータ収集技術により、物体、環境などを手動で符号化する必要がなく、ユーザがプレイできる面白いゲームが提供される。
【0098】
コンピューティング装置108が機械学習に用いられてもよいデータセットを生成可能にする一連のタスクを完了するようにユーザに求めるなど、課題を作り出す様々なゲームを実施することができる。
【0099】
さらに、ロックおよび警報システムが設置されている領域の住宅内をARグラフィカルキャラクタ602が調べて、住宅保険で受ける適切な割引を判定する住宅保険ゲームなど、様々なゲームを作成して有益な結果を得ることができる。また、家全体でARグラフィカルキャラクタ602を追跡することにより、家の完全なマッピングを生成し、家のサイズとそれに含まれる資産を検証することができ、そのような情報は全て、例えば、住宅保険の保険料を判定することに有用な場合がある。
【0100】
ここに開示されたシステム、装置、および方法の異なる例には、様々な構成要素、特徴、および機能が含まれる。ここに開示されたシステム、装置、方法の様々な例には、ここに開示されたシステム、装置、方法のいずれかの他の例におけるいずれかの構成要素、特徴、機能が任意の組み合わせで含まれてもよく、そのような可能性の全ては、本開示の範囲内であることが意図されていることを理解されたい。
【0101】
別の有利な構成の説明は、例示および説明の目的で提示され、開示された形態の例を網羅するか、または限定することを意図していない。前述の開示を検討および理解した上、あらゆる修正および変形が当業者にとって明らかであろう。さらに、あらゆる例は、他の例に照らしてあらゆる利点を提供してもよい。選択された1つ以上の例は、原理や実際の応用を最適に説明するためのものであり、考えられる特定の用途に適した様々な変更を伴う様々な例の開示を当業者が理解できるようにするために選ばれて記載されたものである。
【0102】
この出願は、2017年9月8日に出願された米国非仮出願第15/699459号に対する利益を主張し、そのすべてをここに参照として取り込む。